JP7422707B2 - 効果音のレンダリング用のマルチトラックコンテナ - Google Patents

効果音のレンダリング用のマルチトラックコンテナ Download PDF

Info

Publication number
JP7422707B2
JP7422707B2 JP2021114087A JP2021114087A JP7422707B2 JP 7422707 B2 JP7422707 B2 JP 7422707B2 JP 2021114087 A JP2021114087 A JP 2021114087A JP 2021114087 A JP2021114087 A JP 2021114087A JP 7422707 B2 JP7422707 B2 JP 7422707B2
Authority
JP
Japan
Prior art keywords
sfx
track
developer
computer
file
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021114087A
Other languages
English (en)
Other versions
JP2022017203A (ja
Inventor
アシュビー シモン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Interactive Entertainment LLC
Original Assignee
Sony Interactive Entertainment LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Interactive Entertainment LLC filed Critical Sony Interactive Entertainment LLC
Publication of JP2022017203A publication Critical patent/JP2022017203A/ja
Application granted granted Critical
Publication of JP7422707B2 publication Critical patent/JP7422707B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/165Management of the audio stream, e.g. setting of volume, audio stream path
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/50Controlling the output signals based on the game progress
    • A63F13/54Controlling the output signals based on the game progress involving acoustic signals, e.g. for simulating revolutions per minute [RPM] dependent engine sounds in a driving game or reverberation against a virtual wall
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H1/00Details of electrophonic musical instruments
    • G10H1/0008Associated control or indicating means
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/60Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00Arrangements for software engineering
    • G06F8/30Creation or generation of source code
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10KSOUND-PRODUCING DEVICES; METHODS OR DEVICES FOR PROTECTING AGAINST, OR FOR DAMPING, NOISE OR OTHER ACOUSTIC WAVES IN GENERAL; ACOUSTICS NOT OTHERWISE PROVIDED FOR
    • G10K15/00Acoustics not otherwise provided for
    • G10K15/02Synthesis of acoustic waves
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2210/00Aspects or methods of musical processing having intrinsic musical character, i.e. involving musical theory or musical parameters or relying on musical knowledge, as applied in electrophonic musical tools or instruments
    • G10H2210/021Background music, e.g. for video sequences, elevator music
    • G10H2210/026Background music, e.g. for video sequences, elevator music for games, e.g. videogames
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2220/00Input/output interfacing specifically adapted for electrophonic musical tools or instruments
    • G10H2220/135Musical aspects of games or videogames; Musical instrument-shaped game input interfaces

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Acoustics & Sound (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Reverberation, Karaoke And Other Acoustics (AREA)
  • Circuit For Audible Band Transducer (AREA)
  • Electrophonic Musical Instruments (AREA)
  • Processing Or Creating Images (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)
  • Stereophonic System (AREA)

Description

本願は、概して、コンピュータシミュレーションなどのアプリケーションでの効果音(「SX」)のレンダリングに関する。
効果音(SFX)は、リアルなオーディオを提供するために、コンピュータゲームなどのコンピュータシミュレーションで広く使用されている。SFXは対話ではなく、場合によっては音楽でもないが、ゲームのコンテンツを強調または強化するために使用される人工的に作成されたサウンドである。「人工的に作成された」には、シンセサイザーやその他の器械を使用して作成されたSFXと、「有機的な」方法で作成された録音素材が含まれる。例えば、自然由来のサウンド、フォーリーセッション由来のサウンドがある。特定の例では、SFXには人工的に作成されたサウンドのみが含まれる場合があり、音楽を除外することがある。
通常、ゲームデザイナーは、使用したい効果音を供給者から購入し、その後ゲームで適宜SFXを使用する。SFXは、コンピュータシミュレーションに加えて、ロケーションベースのエンターテインメント、インタラクティブフィルム、拡張現実(AR)/仮想現実(VR)、及びその他のエクステンデッド・リアリティ(XR)の体験、及び自動車のセクターを含む産業セクターでの応用などのインタラクティブな要素を含むあらゆる製品や体験で使用することもできる。
本明細書で理解されるように、ゲームデザイナー及びSFXを伴うアプリケーションの他のデザイナーは、完全に新しいSFXを購入するか、またはゲームデザイナーが望む様式でSFXを修正するように供給者に依頼することなしに、購入するSFXの内部動作を修正することはできない。したがって、現在の原則は、ゲームデザイナーなどの顧客に、そのサウンドを作成するために必要な様々なトラックとサウンドの基礎となるその他の情報を設定するデジタルオーディオワークステーション(DAW)のセッションとして「マルチトラックコンテナ」を提供する。つまり、マルチトラックコンテナには、各サウンドの「レシピ」が含まれている。
このようにすると、かなりのやりとりが必要になり得るような、顧客が新しいサウンドを購入したり、サウンド供給者のもとに戻って必要な変更を依頼したりすることなく、SFXを変更できる。代わりに、ゲームデザイナーは、サウンド自体の変更をより柔軟に管理できるようになる。このため、SFXのオーディオファイル(.wavファイルなど)だけでなく、DAWを介してすべての基礎となる情報を単一のプロダクトとして提供することにより、ゲームデザイナーはゲーム開発の柔軟性を高めることができる。
さらに、マルチトラックコンテナは、AudiokineticのWave Works Interactive Sound Engine(Wwise)などのSFXオーサリングツール/レンダリングエンジンにインポートでき、これは、完全な解決のためにゲームデザイナーに提供することもでき、ゲームデザイナーは「コンテキスト内で」SFXを修正できるということに留意されたい。
したがって、一態様では、デバイスは、少なくとも第1及び第2のトラックを有し、効果音(SFX)の供給者によって提供される少なくとも第1の効果音(SFX)WAVファイルにアクセスするための命令でプログラムされた少なくとも1つのプロセッサを含む。命令は、マルチトラックコンテナを確立するために、第1のSFXファイルを第1及び第2のトラックに関連するトラック修正情報とバンドルするために実行可能である。トラック修正情報は、SFXファイルを修正するのに有用である。命令は、マルチトラックコンテナを、コンピュータアプリケーションの少なくとも第1の開発者の少なくとも1つのコンピュータに送信して、第1の開発者が第1の開発者によって開発された第1のコンピュータアプリケーションでレンダリングするための第1の様式で、第1のSFXファイルを変更できるように実行可能である。
いくつかの実施形態では、命令はマルチトラックコンテナをコンピュータアプリケーションの少なくとも第2の開発者に送信して、第2の開発者が第1の様式とは異なる第2の様式で第1のSFXファイルを変更するように実行可能である。
非限定的な例では、プロセッサは、SFXの供給者のコンピュータに実装されている。
必要に応じて、第1の開発者のコンピュータを、第1のコンピュータアプリケーションで第1のSFXをレンダリングするための命令でプログラムすることができる。第1の開発者のコンピュータは、第1のコンピュータシミュレーションの実行時にトラック修正情報を使用して第1のSFXを修正する及び/または第1のコンピュータシミュレーションの実行時からオフラインでトラック修正情報を使用して、第1のSFXを変更するための命令でプログラムすることができる。オフラインでの修正(製造フェーズと見なされる場合がある)用に提供されるとき、すべてが可能な限り高い解像度で、通常はパルスコード変調形式(.wav)で配信及び作成されるが、実行時のフェーズの配信は、メモリが実行時に限られたリソースである可能性がある場合、ほとんどのSFXは、サウンドエンジンまたはプラットフォームのOSでサポートされているCODECの1つ、例えばVorbis、Opus、ADPCM、ATRAC9(PlayStation(登録商標)固有のCODEC)、XMA(Xbox(登録商標)固有のCODEC)、及びAAC(Apple(登録商標)固有)などを使用して圧縮できることに留意されたい。
命令は、第1の開発者のコンピュータにSFXレンダリングエンジンを送信するために実行可能にすることができる。SFXレンダリングエンジンには、SFXオーサリングツールが含まれている場合がある。
例示的な実施形態では、トラック修正情報は、第1及び第2のトラックについて、第1の開発者が第2のトラックとは別に第1のトラックを修正できるように、それぞれ第1及び第2のトラック修正情報を含むことができる。例えば、第1のトラック修正情報は、遅延、音量、減衰、圧縮、歪み、残響、パンニング、フィルタ、タイムストレッチ、ピッチシフトのうちの1つまたは複数を含むことができる。SFXファイルには3つ以上のトラックを含めることができる。
別の態様では、方法は、第1のマルチトラックSFXファイル内の複数のトラックの少なくとも一部について、第1のマルチトラック効果音(SFX)ファイル及び情報を含むマルチトラックコンテナを確立することであって、トラック修正情報がそれぞれのトラックを修正するのに有用である、確立することを含む。方法は、マルチトラックコンテナを第1のコンピュータアプリケーションの少なくとも第1の開発者に提供して、第1の開発者が第1のコンピュータアプリケーションでレンダリングするための第1の様式でトラック修正情報を使用して第1のマルチトラックSFXファイルを修正できるようにすることを含む。
別の態様では、ゲーム開発者コンピュータは、第1及び第2のトラックに関連するトラック修正情報と共に、SFXの供給者から少なくとも第1及び第2のトラックを有する少なくとも第1の効果音(SFX)ファイルを含む少なくとも第1のデータ構造を受信するように実行可能な命令で構成された少なくとも1つのプロセッサを含む。命令は、トラック修正情報を使用して第1のSFXファイルを変更し、第1の開発者によって開発された第1のコンピュータアプリケーションでSFXファイルをレンダリングするように実行可能である。
本願の詳細は、その構造と動作との両方について、添付の図面を参照すると最もよく理解でき、図面において、類似の参照符号は、類似の部分を指す。
本原理に従った例を含む例示的なシステムのブロック図である。 例示的なコンピュータ効果音提供システムのブロック図である。 フローチャート形式の例で本原理と一致するロジック全体の例を示している。 SFXユーザーインターフェイス(UI)を示すスクリーンショットである。 SFXユーザーインターフェイス(UI)を示すスクリーンショットである。 SFXユーザーインターフェイス(UI)を示すスクリーンショットである。 SFXユーザーインターフェイス(UI)を示すスクリーンショットである。 SFXユーザーインターフェイス(UI)を示すスクリーンショットである。 SFXの例の4つのトラックを単一のトラックにレンダリングすることを示している。 SFXの例の4つのトラックを複数のトラックにレンダリングすることを示している。 複数のゲームデザイナーによって作成され得る同じSFXの複数のバリエーションを示している。 フローチャート形式の例で本原理と一致する実行時レンダリングロジックの例を示している。
本開示は、概して、限定ではないが、コンピュータゲームネットワークなどの家電製品(CE)デバイスネットワークの態様を含むコンピュータエコシステムに関する。本明細書のシステムは、クライアントコンポーネントとサーバコンポーネントとの間でデータが交換され得るように、ネットワークを介して接続され得るサーバコンポーネント及びクライアントコンポーネントを備えてよい。クライアントコンポーネントは、Sony PlayStation(登録商標)などのゲームコンソールまたはMicrosoft(登録商標)もしくはNintendo(登録商標)もしくは他の製造者によって作成されたゲームコンソール、仮想現実(VR)ヘッドセット、拡張現実(AR)ヘッドセット、ポータブルテレビ(例えば、スマートテレビ、インターネット対応テレビ)、ラップトップ及びタブレットコンピュータなどのポータブルコンピュータ、ならびにスマートフォン及び下記に説明される追加の実施例を含む他のモバイルデバイスを含む、1つ以上のコンピューティングデバイスを含み得る。これらのクライアントデバイスは、様々な動作環境で動作してよい。例えば、クライアントコンピュータのいくつかは、例として、Linux(登録商標)オペレーティングシステム、Microsoft(登録商標)のオペレーティングシステムもしくはUnix(登録商標)オペレーティングシステム、またはApple,Inc.(登録商標)もしくはGoogle(登録商標)によって制作されたオペレーティングシステムを採用し得る。これらの動作環境は、Microsoft(登録商標)もしくはGoogle(登録商標)もしくはMozilla(登録商標)によって作成されたブラウザ、または下記に説明されるインターネットサーバによってホストされるウェブサイトにアクセスできる他のブラウザプログラムなど、1つまたは複数の閲覧プログラムを実行するために使用されてよい。また、本原理に従った動作環境は、1つまたは複数のコンピュータゲームプログラムを実行するために使用されてよい。
サーバ及び/またはゲートウェイは、インターネットなどのネットワークを介してデータを受信及び送信するサーバを構成する命令を実行する1つまたは複数のプロセッサを備えてよい。または、クライアント及びサーバは、ローカルイントラネットまたは仮想プライベートネットワークを通じて接続できる。サーバまたはコントローラは、Sony PlayStation(登録商標)などのゲームコンソール、パーソナルコンピュータなどによってインスタンス化され得る。
クライアントとサーバとの間でネットワークを通じて情報を交換し得る。この目的のために、及びセキュリティのために、サーバ及び/またはクライアントは、ファイアウォール、ロードバランサ、一時的ストレージ、及びプロキシ、並びに信頼性及びセキュリティのための他のネットワークインフラストラクチャを備えてよい。1つまたは複数のサーバは、ネットワークメンバーにオンラインソーシャルウェブサイトなどのセキュアコミュニティを提供する方法を実施する装置を形成してよい。
プロセッサは、アドレスライン、データライン及び制御ラインなどの様々なライン、並びにレジスタ及びシフトレジスタによって論理を実行することができる、シングルチッププロセッサまたはマルチチッププロセッサであってよい。
実施形態に含まれるコンポーネントは、他の実施形態では、任意の適切な組み合わせで使用することができる。例えば、本明細書で説明される、及び/または図で示される様々なコンポーネントの任意のコンポーネントが、組み合わされてよい、交換されてよい、または他の実施形態から排除されてよい。
「A、B及びCのうちの少なくとも1つを有するシステム」(同様に「A、BまたはCのうちの少なくとも1つを有するシステム」及び「A、B、Cのうちの少なくとも1つを有するシステム」)は、A単独、B単独、C単独、A及びBを一緒に、A及びCを一緒に、B及びCを一緒に、及び/またはA、B及びCを一緒に有するシステムなどを含む。
これより、具体的に図1を参照すると、本原理よる、上記で言及され、以下でさらに説明される例示的なデバイスのうちの1つまたは複数を含み得る例示的なシステム10が示されている。システム10に含まれる例示的なデバイスのうちの第1のデバイスは、限定ではないが、テレビチューナ(同等に、テレビを制御するセットトップボックス)を備えたインターネット対応テレビなどのオーディオビデオデバイス(AVD)12などの消費者電子(CE)デバイスである。代わりに、AVD12は、また、コンピュータ制御型インターネット対応(「スマート」)電話、タブレットコンピュータ、ノートブックコンピュータ、HMD、ウェアラブルコンピュータ制御デバイス、コンピュータ制御型インターネット対応ミュージックプレイヤ、コンピュータ制御型インターネット対応ヘッドフォン、コンピュータ制御型インターネット対応インプラント可能デバイス、例えばインプラント可能な皮膚用デバイスなどであってよい。それにも関わらず、AVD12は、本原理を実施する(例えば、本原理を実施するように他のCEデバイスと通信し、本明細書に説明される論理を実行し、本明細書に説明されるいずれかの他の機能及び/または動作を行う)ように構成されることを理解されたい。
したがって、このような原理を実施するために、AVD12は、図1に示されるコンポーネントの一部または全てによって確立できる。例えば、AVD12は、1つまたは複数のディスプレイ14を備えてよく、ディスプレイ14は、高解像度または超高解像度「4K」もしくはそれ以上の高解像度のフラットスクリーンによって実装されてよく、ディスプレイのタッチによりユーザ入力信号を受信するためにタッチ対応であってよい。AVD12は、本原理に従ってオーディオを出力するための1つ以上のスピーカ16、及び可聴コマンドをAVD12に入力してAVD12を制御するためのオーディオ受信機/マイクロホンなどの、少なくとも1つの追加入力デバイス18を含み得る。例示的なAVD12は、また、1つ以上のプロセッサ24の制御の下、インターネット、WAN、LANなどの少なくとも1つのネットワーク22を通じて通信するための1つ以上のネットワークインタフェース20を含み得る。また、グラフィックプロセッサ24Aを含み得る。したがって、インタフェース20は、限定されることはないが、Wi-Fi送受信機であり得、このWi-Fi送受信機は、限定されることはないが、メッシュネットワーク送受信機などの無線コンピュータネットワークインタフェースの例である。プロセッサ24は、例えば画像を提示するようにディスプレイ14を制御すること及びディスプレイ14から入力を受信することなどの本明細書に説明されるAVD12の他の要素を含むAVD12が本原理を実施するように制御することが理解されよう。さらに、ネットワークインタフェース20は、有線もしくは無線のモデムもしくはルータ、または、例えば、無線テレフォニ送受信機もしくは上述したWi-Fi送受信機などの他の適切なインタフェースであってよいことに留意されたい。
上記のものに加えて、AVD12はまた、例えば、別のCEデバイスに物理的に接続する高解像度マルチメディアインタフェース(HDMI(登録商標))ポートもしくはUSBポート、及び/またはヘッドフォンを通してAVD12からユーザに音声を提供するためにAVD12にヘッドフォンを接続するヘッドフォンポートなどの1つまたは複数の入力ポート26を備えてよい。例えば、入力ポート26は、オーディオビデオコンテンツのケーブルまたは衛星ソース26aに有線でまたは無線で接続されてよい。よって、ソース26aは、別個のもしくは統合されたセットトップボックス、または衛星受信機であってよい。または、ソース26aは、コンテンツを含むゲームコンソールまたはディスクプレイヤであり得る。ソース26aは、ゲームコンソールとして実装されるとき、CEデバイス44に関連して以下で説明されるコンポーネントの一部または全てを備えてよい。
AVD12は、さらに、一時的信号ではない、ディスクベースストレージまたはソリッドステートストレージなどの1つまたは複数のコンピュータメモリ28を備えてよく、これらのストレージは、場合によっては、スタンドアロンデバイスとしてAVDのシャーシ内で、またはAVプログラムを再生するためにAVDのシャーシの内部もしくは外部のいずれかでパーソナルビデオ録画デバイス(PVR)もしくはビデオディスクプレイヤとして、または取り外し可能メモリ媒体として具現化されてよい。また、ある実施形態では、AVD12は、限定ではないが、携帯電話受信機、GPS受信機、及び/または高度計30などの位置または場所の受信機を備えることができ、位置または場所の受信機は、衛星もしくは携帯電話の基地局から地理的位置情報を受信し、その情報をプロセッサ24に提供し、及び/またはAVD12がプロセッサ24と併せて配置されている高度を決定するように構成される。コンポーネント30はまた、通常、加速度計、ジャイロスコープ、及び磁力計の組み合わせを含み、AVD12の位置及び向きを3次元で決定する慣性測定ユニット(IMU)によって実装され得る。
AVD12の説明を続けると、一部の実施形態では、AVD12は、1つまたは複数のカメラ32を含んでよく、1つまたは複数のカメラ32は、サーマルイメージングカメラ、ウェブカメラなどのデジタルカメラ、及び/またはAVD12に統合され、本原理に従って写真/画像及び/またはビデオを収集するようプロセッサ24によって制御可能なカメラであってよい。また、AVD12に含まれるのは、Bluetooth及び/または近距離無線通信(NFC)技術を各々使用して、他のデバイスと通信するためのBluetooth送受信機34及び他のNFC要素36であってよい。例示的なNFC要素は、無線周波数識別(RFID)要素であってよい。
さらにまた、AVD12は、プロセッサ24に入力をもたらす1つ以上の補助センサ37(例えば、加速度計、ジャイロスコープ、サイクロメータなどの運動センサ、または磁気センサ、赤外線(IR)センサ、光学センサ、速度センサ及び/またはケイデンスセンサ、ジェスチャセンサ(例えば、ジェスチャコマンドを検知するためのセンサ)など)を含み得る。AVD12は、プロセッサ24への入力をもたらすOTA(無線経由)TV放送を受信するための無線経由テレビ放送ポート38を含み得る。上記に加えて、AVD12はまた、赤外線データアソシエーション(IRDA)デバイスなどの赤外線(IR)送信機及び/またはIR受信機及び/またはIR送受信機42を含み得ることに留意されたい。電池(図示せず)は、電池を充電する及び/または AVD12に電力を供給するために運動エネルギーを電力に変えることができる運動エネルギーハーベスタのように、AVD12に電力を供給するために提供され得る。
さらに図1を参照して、AVD12に加えて、システム10は、1つまたは複数の他のCEデバイスタイプを含んでもよい。一例では、第1のCEデバイス44は、AVD12に直接送信されるコマンドを介して及び/または後述のサーバを通じて、コンピュータゲームの音声及びビデオをAVD12に送信するために使用され得るコンピュータゲームコンソールであり得る一方、第2のCEデバイス46は第1のCEデバイス44と同様のコンポーネントを含み得る。示される例では、第2のCEデバイス46は、プレイヤによって操作されるコンピュータゲームのコントローラ、またはプレイヤ47によって装着されるヘッドマウントディスプレイ(HMD)として構成され得る。図示の例では、2つのCEデバイス44、46のみが示されるが、より少ないまたはより多くのデバイスが使用されてよいことは理解されよう。本明細書のデバイスは、AVD12について示されているコンポーネントのいくつかまたはすべてを実装することができる。次の図に示されているコンポーネントのいずれかには、AVD12の場合に示されているコンポーネントの一部またはすべてが組み込まれている場合がある。
ここで、上述の少なくとも1つのサーバ50を参照すると、サーバは、少なくとも1つのサーバプロセッサ52と、ディスクベースストレージまたはソリッドステートストレージなどの少なくとも1つの有形コンピュータ可読記憶媒体54と、サーバプロセッサ52の制御の下、ネットワーク22を介して図1の他のデバイスとの通信を可能にし、実際に、本原理に従ってサーバとクライアントデバイスとの間の通信を容易にし得る少なくとも1つのネットワークインタフェース56とを含む。ネットワークインタフェース56は、例えば、有線もしくは無線モデムもしくはルータ、Wi-Fi送受信機、または、例えば、無線テレフォニ送受信機などの他の適切なインタフェースであってよいことに留意されたい。
したがって、いくつかの実施形態では、サーバ50は、インターネットサーバまたはサーバ「ファーム」全体であってもよく、「クラウド」機能を含んでもよく、「クラウド」機能を実行してもよく、その結果、システム10のデバイスは、例えば、ネットワークゲーミングアプリケーションについての例示的な実施形態においてサーバ50を介して「クラウド」環境にアクセスすることができる。または、サーバ50は、1つまたは複数のゲームコンソール、または図1に示される他のデバイスと同じ部屋にある、もしくはその近くにある他のコンピュータによって実装されてよい。
図2は、効果音(SFX)供給者コンピュータ200が、SFXマルチトラックコンテナ202を、ゲーム開発者のコンピュータシステムなどの顧客コンピュータ204に、通常は、インターネットなどの広域コンピュータネットワークの有線及び/またはワイヤレスのパスで供給することができることを示している。
マルチトラックコンテナ202は、例えば、WAVフォーマットまたはMP3フォーマットのマルチトラック(2つ及び通常は3つ以上のトラック)SFXオーディオファイルと、トラックに関連するトラック修正情報との両方を含む。以下でさらに説明するように、トラック修正情報はSFXファイルを修正するのに有用である。すなわち、顧客コンピュータ204を操作するゲーム開発者は、トラック修正情報を使用して、第1の開発者によって開発されたコンピュータゲームなどのコンピュータシミュレーションなどのコンピュータアプリケーションでレンダリングするためにSFXファイルを変更することができる。同様に、異なる開発者は、同じマルチトラックコンテナ202を受信し、トラック修正情報を使用して、異なるコンピュータゲームのために異なる方法で同じSFXファイルを変更することができる。以下でさらに説明するように、トラック修正情報を使用して、コンピュータゲームの実行時、または実行時からオフラインでSFXファイルを変更できる。
図3は、上で要約した全体的なロジックの例を示している。ブロック300から開始して、SFXトラックは、図2に示される供給者コンピュータ200の一部であり得るデジタルオーディオワークステーション(DAW)にインポートすることができる。ブロック302に移動して、DAWを使用して、SFXファイルは、それぞれが複数のオーディオトラックを有するように作成される。本明細書で「メタデータ」と呼ばれ得るトラック修正情報は、マルチトラックコンテナを生成するためにそれぞれのSFXファイルに関連付けられる。
ブロック304に移動して、マルチトラックコンテナが顧客に提供され、顧客は、付随するトラック修正情報を使用して、コンテナ内のSFXファイルを修正することができる。必要に応じて、SFXレンダリングエンジンはまた、ブロック306で顧客のコンピュータに提供され得る。レンダリングエンジンには、オーサリングツールが含まれている場合がある。このようなエンジンの例は、AudiokineticのWave Works Interactive Sound Engine(Wwise)である。顧客のコンピュータ200で実行されるオーサリングツールを使用して、ブロック308で、顧客のゲーム開発者は、SFXファイルに付随するそれぞれのトラック修正情報を使用して、必要に応じて、SFXファイルに変更を加えて管理する。
次に、図4に移るが、これは、本明細書で説明する任意のディスプレイなどのディスプレイ400に提示され得るスクリーンショットを示している。スクリーンショットは、WAVまたはMP3ファイルなどのSFXファイルに関連付けられたトラック修正情報を示している。示されるように、トラック修正情報は、SFXファイルを構成する複数のトラックを示し、例では、ベーストラック402、AC GTRトラック404、EGトラック406、PAD01トラック408、リードVox Engトラック410、及びバックエンドトラック412が示されている。それぞれの音声画像414は、全体的なSFXファイルに対するそのトラックの特定の寄与を表しながら、各トラックに対して提示され得る。
また、スクリーンショットは、各トラックについて、トラックのパラメータ416を提示できることを示している。パラメータには、音量、遅延、減衰、圧縮、歪み、及び残響、パンニング、フィルタ、タイムストレッチ、ピッチシフトが含まれるが、これらに限定されない。まとめると、上記の情報はすべて、SFXマルチトラックファイルに付随するトラック修正情報と見なすことができ、ゲーム開発者などのアプリケーション開発者は、任意のそのような情報を修正できる。したがって、ゲーム開発者は、個々のトラックのパラメータを修正し、したがって、個々のトラックのSFXへのサウンドの寄与を修正し、必要に応じて個々のトラックを削除し、トラックによって確立されたSFXファイルに他の修正を加えることができる。
これは、図5にさらに示されており、これは例えば、図2に示される顧客アプリケーション開発者コンピュータ204、または本明細書に開示される他のディスプレイに示され得るスクリーンショット500を示しており、例においては、Wwishを使用して提示され得る。簡素にするために、図5は、編集用の4つのトラック502を示している。編集セレクタ504は、個々のトラックの修正または最終的なSFXファイルからの特定のトラックの除去を可能にするために、各トラックごとに提供され、その例示的なオーディオの図は、602に示されるように、図6のスクリーンショット600に示される。図6はまた、チャネル構成、メイクアップゲイン、トリム開始、トリム終了、WAVループポイント及びループ開始及び終了時間のオーバーライド、クロスフェード持続時間及びクロスフェード形状、マーカー入力モード、マーカー検出感度、フェードイン期間、フェードインカーブ、及びフェードアウト期間を含むがこれらに限定されない、SFX出力パラメータ604が提示され得ることを示す。非限定的な例であることに留意されたいのは、これらの出力パラメータ604はまた、マルチトラックコンテナ202の各トラックのトラック修正情報の一部であり得ることである。
本明細書で説明する情報のいずれかを使用して、ゲーム開発者はマルチトラックSFXを修正して、トラック間の遅延、任意の所与のトラックの振幅、任意の所与のトラックの減衰、及び任意のトラックのフィルタリングを、例えばトラックの高周波数成分または低周波数成分を追加するまたは除去することで、変更できる。1つのトラックがフェードインまたはフェードアウトするか、完全に削除される場合がある。圧縮、残響、パンニング、フィルタ、タイムストレッチ、ピッチシフト、及び歪みを1つ以上のトラックに追加できる。サラウンドサウンドは、フロントスピーカーで再生する何らかのトラック、リアスピーカーで再生する他のトラックなどを指定することで対応できる。
図7は、単一のSFXサウンド704にレンダリングされる4つのトラック702を備えた、簡素化させたSFX700を示している。例として、SFX700がフットフォール(靴のステップ)用であると仮定する。1つのトラック702は、靴が舗装をこする音に対するものであり得、別のトラックは、踵が舗装を打つ音に対するものであり得、別のトラックは、つま先が舗装を打つためのものであり、別のトラックは、キャラクターが歩くときの衣服のスウッシュ用であり得る。
図8は、いくつかのトラック800を組み合わせて効果音の第1の層802をレンダリングすることができる一方で、他のトラック804を組み合わせてSFXの第2の層806をレンダリングできることを示している。レンダリングはオフラインで行うことができ、この場合、ゲームデザイナーは、単一のオーディオファイルにレンダリングする前に、好みに合わせてコンテンツを修正/混合でき、それは、次いでサウンドエンジン(Wwiseなど)にインポートされる。
または、図8に示するように、レンダリングは、ゲームの呼び出しに応じて、ゲームの再生実行時に実行できる。本質的に、サウンドデザイナーは、マルチトラックセッションをレンダリングエンジン(Wwiseなど)にインポートし、次いでいくつかのトラックを再グループ化して、リアルタイムパラメーターコントロール(RTPC)をアタッチし、ゲームエンジンが実行時にトリガーされることを示すことができる。RTPCとStatesは、ゲームエンジンアプリケーションプログラミングインターフェイス(API)の呼び出しのサウンドデザイナー向けの抽象化である。
図9は、すべて共通のマルチトラックコンテナから派生したSFXの視覚的表現を示しており、様々なゲームデザイナーが同じSFXに実に様々な変更を加えることができることを示している。
図10は、上記の実行時のロジックを示している。ブロック1000から開始して、実行時にマルチトラックコンテナを受信することができる。ゲームの状況によって駆動されるゲームの呼び出しは、ブロック1002で再受信された。ブロック1004に移動すると、呼び出されたSFXがアクセスされる。ブロック1006に進むと、トラック修正情報を使用して、コンテナ内のSFXファイルが修正され、修正されたSFXがブロック1008でレンダリングされる。
いくつかの例示的な実施形態を参照して本原理を説明したが、これらは限定することを意図しておらず、各種の代替的な構成が本明細書で特許請求される主題を実施するために使用されてよいことは理解されよう。

Claims (20)

  1. デバイスであって、
    少なくとも1つのプロセッサであって、
    少なくとも第1及び第2のトラックを有し、効果音(SFX)の供給者によって提供される少なくとも第1の効果音(SFX)WAVファイルまたはMP3ファイルにアクセスすることと、
    マルチトラックコンテナを確立するために、前記第1のSFXファイルを前記少なくとも第1及び第2のトラックに関連するトラック修正情報とバンドルすることであって、前記トラック修正情報は前記SFXファイルのトラックのパラメータを修正するための情報である、前記バンドルすることと、
    前記供給者とは異なる第1の開発者が、前記第1の開発者によって開発された第1のコンピュータアプリケーションでレンダリングするための第1の様式で、前記トラック修正情報を使用して前記第1のSFXファイルの前記パラメータを修正できるようにするために、前記マルチトラックコンテナを、コンピュータアプリケーションの少なくとも前記第1の開発者の少なくとも1つのコンピュータに送信することと、
    を行う命令がプログラムされている、前記少なくとも1つのプロセッサを含む、
    前記デバイス。
  2. 前記命令は、
    前記供給者とは異なる第2の開発者が前記第1の様式とは異なる第2の様式で前記第1のSFXファイルの前記パラメータを修正するために、前記マルチトラックコンテナをコンピュータアプリケーションの少なくとも前記第2の開発者に送信するように実行可能である、請求項1に記載のデバイス。
  3. 前記プロセッサが、SFXの前記供給者のコンピュータに実装されている、請求項1に記載のデバイス。
  4. 前記第1の開発者の前記コンピュータであって、
    前記第1のコンピュータアプリケーションで前記第1のSFXファイルをレンダリングする命令でプログラムされた、前記第1の開発者の前記コンピュータを含む、請求項1に記載のデバイス。
  5. 前記第1の開発者の前記コンピュータは、
    前記第1のコンピュータアプリケーションの実行時に前記トラック修正情報を使用して、前記第1のSFXファイルの前記パラメータを修正する命令でプログラムされている、請求項4に記載のデバイス。
  6. 前記第1の開発者の前記コンピュータは、
    前記第1のコンピュータアプリケーションの実行時からオフラインの前記トラック修正情報を使用して、前記第1のSFXファイルの前記パラメータを修正する命令でプログラムされている、請求項4に記載のデバイス。
  7. 前記命令は、
    前記第1の開発者の前記コンピュータにSFXレンダリングエンジンを送信するように実行可能にする、請求項1に記載のデバイス。
  8. 前記SFXレンダリングエンジンは、SFXオーサリングツールを含む、請求項7に記載のデバイス。
  9. 前記トラック修正情報は、前記第1及び第2のトラックについて、前記第1の開発者が前記第2のトラックとは別に前記第1のトラックの前記パラメータを修正できるように、それぞれ第1及び第2のトラック修正情報を含む、請求項1に記載のデバイス。
  10. 前記第1のトラック修正情報により修正可能な前記パラメータは、遅延、音量、減衰、圧縮、歪み、残響、パンニング、フィルタ、タイムストレッチ、ピッチシフトのうちの少なくとも1つを含む、請求項9に記載のデバイス。
  11. 前記SFXファイルは、少なくとも第3のトラックを含む、請求項1に記載のデバイス。
  12. 方法であって、
    効果音(SFX)の供給者によって提供される第1のマルチトラックSFXファイル内の複数のトラックの少なくとも一部について、前記第1のマルチトラックSFXファイル及びトラック修正情報を含むマルチトラックコンテナを確立することであって、前記トラック修正情報はそれぞれの前記トラックのパラメータを修正するための情報である、前記確立すること、及び
    前記供給者とは異なる第1の開発者が第1のコンピュータゲームでレンダリングするための第1の様式で前記トラック修正情報を使用して前記第1のマルチトラックSFXファイルの前記パラメータを修正できるようにするために、前記マルチトラックコンテナを前記第1のコンピュータゲームの少なくとも前記第1の開発者に提供すること、を含む、
    前記方法
  13. 前記供給者とは異なる第2の開発者が、第2のコンピュータゲームでレンダリングするための第2の様式で、前記トラック修正情報を使用して前記第1のマルチトラックSFXファイルの前記パラメータを修正できるようにするために、前記第2のコンピュータゲームの少なくとも前記第2の開発者に前記マルチトラックコンテナを提供することを含む、請求項12に記載の方法。
  14. 前記第1の開発者にSFXレンダリングエンジンを送信することを含む、請求項12に記載の方法。
  15. 前記SFXレンダリングエンジンは、SFXオーサリングツールを含む、請求項14に記載の方法。
  16. 前記トラック修正情報は、前記マルチトラックSFXファイルの少なくとも第1及び第2のトラックについて、前記第1の開発者が前記第2のトラックとは別に前記第1のトラックの前記パラメータを修正できるように、それぞれ第1及び第2のトラック修正情報を含む、請求項12に記載の方法。
  17. 前記第1のトラック修正情報により修正可能な前記パラメータは、遅延、音量、減衰、圧縮、歪み、残響、パンニング、フィルタ、タイムストレッチ、ピッチシフトのうちの少なくとも1つを含む、請求項16に記載の方法。
  18. ゲーム開発者コンピュータであって、
    少なくとも1つのプロセッサであって、
    少なくとも第1及び第2のトラックに関連するトラック修正情報と共に、効果音(SFX)の供給者から前記少なくとも第1及び第2のトラックを有する少なくとも第1の効果音(SFX)ファイルを含む少なくとも第1のデータ構造を受信することであって、前記トラック修正情報は前記第1のSFXファイルのトラックのパラメータを修正するための情報である、受信すること、
    前記供給者とは異なる第1の開発者が、前記トラック修正情報を使用して前記第1のSFXファイルの前記パラメータを修正すること、及び
    前記第1の開発者によって開発された第1のコンピュータシミュレーションで前記SFXファイルをレンダリングすることが実行可能な命令で構成される、前記少なくとも1つのプロセッサを含む、
    前記ゲーム開発者コンピュータ。
  19. 前記命令は、前記第1のコンピュータシミュレーションの実行時に前記第1のSFXファイルを変更及びレンダリングするように実行可能である、請求項18に記載のゲーム開発者コンピュータ。
  20. 前記命令は、前記第1のSFXファイルをオフラインで変更し、次いで前記第1のコンピュータシミュレーションの実行時に、前記第1のSFXファイルをレンダリングするように実行可能である、請求項18に記載のゲーム開発者コンピュータ。
JP2021114087A 2020-07-09 2021-07-09 効果音のレンダリング用のマルチトラックコンテナ Active JP7422707B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US16/924,868 US20220012007A1 (en) 2020-07-09 2020-07-09 Multitrack container for sound effect rendering
US16/924,868 2020-07-09

Publications (2)

Publication Number Publication Date
JP2022017203A JP2022017203A (ja) 2022-01-25
JP7422707B2 true JP7422707B2 (ja) 2024-01-26

Family

ID=76845137

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021114087A Active JP7422707B2 (ja) 2020-07-09 2021-07-09 効果音のレンダリング用のマルチトラックコンテナ

Country Status (6)

Country Link
US (1) US20220012007A1 (ja)
EP (1) EP3936204A1 (ja)
JP (1) JP7422707B2 (ja)
CN (1) CN113920967A (ja)
CA (1) CA3187597A1 (ja)
WO (1) WO2022010895A1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000342846A (ja) 1999-06-03 2000-12-12 Taito Corp 移動体操縦シミュレーションゲーム装置
JP2015012592A (ja) 2013-07-02 2015-01-19 ヤマハ株式会社 ミキシング管理装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1134724B1 (en) * 2000-03-17 2008-07-23 Sony France S.A. Real time audio spatialisation system with high level control
CA2386446A1 (en) * 2001-05-15 2002-11-15 James Phillipsen Parameterized interactive control of multiple wave table sound generation for video games and other applications
US8013550B1 (en) * 2003-11-26 2011-09-06 Liontech Trains Llc Model train remote control system having realistic speed and special effects control
WO2007068091A1 (en) * 2005-12-12 2007-06-21 Audiokinetic Inc. Method and system for multi-version digital authoring
US20100197401A1 (en) * 2009-02-04 2010-08-05 Yaniv Altshuler Reliable, efficient and low cost method for games audio rendering
EP2485213A1 (en) * 2011-02-03 2012-08-08 Fraunhofer-Gesellschaft zur Förderung der Angewandten Forschung e.V. Semantic audio track mixer
AU2012279349B2 (en) * 2011-07-01 2016-02-18 Dolby Laboratories Licensing Corporation System and tools for enhanced 3D audio authoring and rendering
IES86526B2 (en) * 2013-04-09 2015-04-08 Score Music Interactive Ltd A system and method for generating an audio file

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000342846A (ja) 1999-06-03 2000-12-12 Taito Corp 移動体操縦シミュレーションゲーム装置
JP2015012592A (ja) 2013-07-02 2015-01-19 ヤマハ株式会社 ミキシング管理装置

Also Published As

Publication number Publication date
US20220012007A1 (en) 2022-01-13
CN113920967A (zh) 2022-01-11
CA3187597A1 (en) 2022-01-13
EP3936204A1 (en) 2022-01-12
JP2022017203A (ja) 2022-01-25
WO2022010895A1 (en) 2022-01-13

Similar Documents

Publication Publication Date Title
JP6434583B2 (ja) 第2のユーザによる第1のユーザのゲームプレーの遠隔制御
US11403124B2 (en) Remotely emulating computing devices
US8888592B1 (en) Voice overlay
JP6379107B2 (ja) 情報処理装置並びにその制御方法、及びプログラム
JP2024502407A (ja) 拡張現実に基づく表示方法、装置、機器及び記憶媒体
CN114073057B (zh) 使用客户端音频参数的服务器侧绘制音频的方法和系统
JP7422707B2 (ja) 効果音のレンダリング用のマルチトラックコンテナ
US20220254082A1 (en) Method of character animation based on extraction of triggers from an av stream
KR20210056414A (ko) 혼합 현실 환경들에서 오디오-가능 접속된 디바이스들을 제어하기 위한 시스템
US11684852B2 (en) Create and remaster computer simulation skyboxes
US11511190B2 (en) Merge computer simulation sky box with game world
US20220180854A1 (en) Sound effects based on footfall
US20220355211A1 (en) Controller action recognition from video frames using machine learning
US20240161759A1 (en) Utilizing inaudible ultrasonic frequencies to embed additional audio asset channels within existing audio channels
KR102533209B1 (ko) 다이나믹 확장현실(xr) 콘텐츠 생성 방법 및 시스템
JP7462069B2 (ja) 複数のカメラからの合成入力を使用してビデオを生成するための仮想カメラ位置のユーザ選択
KR20230157692A (ko) 영상 콘텐츠 내 사용자 감정표현 표시 방법 및 장치
CN116156208A (zh) 一种用于分享多媒体信息的方法、设备、介质及程序产品
AU2012323313A1 (en) Methods and systems of providing items to customers via a network

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210802

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211102

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220105

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221125

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230330

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230725

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230913

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231226

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240116

R150 Certificate of patent or registration of utility model

Ref document number: 7422707

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150