JP2011510409A - アバタ別にレンダリングされる環境を用いる仮想現実システムにおいてリアルタイムのアバタ別のストリーミングデータを提供するスケーラブルな技法 - Google Patents
アバタ別にレンダリングされる環境を用いる仮想現実システムにおいてリアルタイムのアバタ別のストリーミングデータを提供するスケーラブルな技法 Download PDFInfo
- Publication number
- JP2011510409A JP2011510409A JP2010543299A JP2010543299A JP2011510409A JP 2011510409 A JP2011510409 A JP 2011510409A JP 2010543299 A JP2010543299 A JP 2010543299A JP 2010543299 A JP2010543299 A JP 2010543299A JP 2011510409 A JP2011510409 A JP 2011510409A
- Authority
- JP
- Japan
- Prior art keywords
- radiation
- avatar
- segment
- filter
- virtual environment
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/50—Controlling the output signals based on the game progress
- A63F13/52—Controlling the output signals based on the game progress involving aspects of the displayed game scene
-
- A63F13/10—
-
- A63F13/12—
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/30—Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/45—Controlling the progress of the video game
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F2300/00—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
- A63F2300/50—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers
- A63F2300/53—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers details of basic data processing
- A63F2300/534—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers details of basic data processing for network load management, e.g. bandwidth optimization, latency reduction
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F2300/00—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
- A63F2300/50—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers
- A63F2300/55—Details of game data or player data management
- A63F2300/5526—Game data structure
- A63F2300/5533—Game data structure using program state or machine event data, e.g. server keeps track of the state of multiple players on in a multiple player game
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F2300/00—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
- A63F2300/50—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers
- A63F2300/55—Details of game data or player data management
- A63F2300/5546—Details of game data or player data management using player registration data, e.g. identification, account, preferences, game history
- A63F2300/5553—Details of game data or player data management using player registration data, e.g. identification, account, preferences, game history user representation in the game field, e.g. avatar
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F2300/00—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
- A63F2300/60—Methods for processing data by generating or executing the game program
- A63F2300/6009—Methods for processing data by generating or executing the game program for importing or creating game content, e.g. authoring tools during game development, adapting content to different platforms, use of a scripting language to create content
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F2300/00—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
- A63F2300/60—Methods for processing data by generating or executing the game program
- A63F2300/66—Methods for processing data by generating or executing the game program for rendering three dimensional images
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F2300/00—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
- A63F2300/80—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game specially adapted for executing a specific type of game
- A63F2300/8082—Virtual reality
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Information Transfer Between Computers (AREA)
- Processing Or Creating Images (AREA)
Abstract
Description
本特許出願の主題は、参照によりその全文が本明細書に組み入れられる以下の米国仮特許出願に関連し、その優先権を主張するものである。
2008年1月17日付けで出願された、米国仮特許出願第61/021729号,Rafal Boni, et al., Relevance routing system
該当せず
該当せず
本明細書において開示する技法は仮想現実システムに関し、より詳細には、マルチアバタ仮想環境におけるストリーミングデータのレンダリングに関する。
仮想環境
仮想環境という用語は、VEと略記され、本発明の状況においては、コンピュータシステムのユーザが現実世界の環境に期待するものに従うように振る舞うコンピュータシステムによって作成される環境をいう。仮想環境を生成するコンピュータシステムを、以下では、仮想現実システムといい、仮想現実システムによる仮想環境の作成を、仮想環境のレンダリングという。仮想環境はアバタを含んでいてもよく、アバタは、本発明の状況では、仮想環境において知覚点を有する仮想環境に属するエンティティである。仮想現実システムは、アバタのための仮想環境を、アバタの知覚点から知覚されるものとしてレンダリングし得る。仮想環境システムのユーザは、仮想環境内の特定のアバタと関連付けられていてもよい。仮想環境の歴史と発展の概要については、「Generation 3D:Living in Virtual Worlds」,IEEE Computer, October 2007(非特許文献1)に記載されている。
大規模なマルチアバタレンダリング環境を実施するに際していくつかの問題が生じる。それらの問題の中には以下のものが含まれる:
仮想環境が多くのアバタのために作成しなければならない異なる個別レンダリングのシート数が非常に多いこと。
遅延、および利用可能なデータ帯域幅の制限を伴って、多くの接続を有するネットワーク接続を実施する必要に迫られること。
次々と途絶えることなく発せられ、変化し、
それに対応して高データ転送速度を伴い、
多くの別々の発生源から一度にレンダリングされなければならず、
各聴取アバタごとに個別に、一度にレンダリングされなければならず、
レンダリングが複雑であり、または高くつき、
多くの発生源およびアバタがあるときに処理が難しい
という点で特殊な問題を提起するものである。
仮想環境においてストリーミングデータをレンダリングする現在の技法は、前述の問題に対処するのにある程度しか成功していない。その結果、マルチアバタ仮想環境の実施者らは、以下のような一つまたは複数の不本意な妥協を強いられている:
可聴放射や可視放射など、ストリーミングデータを使用して表されなければならない放射をサポートしない。
オーディオ対話を提供することが難しすぎ、または高くつきすぎるために、仮想環境は、ブロードキャストまたはポイントツーポイント方式による「テキストチャット」または「インスタントメッセージ」だけしかサポートできず、各ユーザのアバタを介したユーザ間のオーディオ対話が行われない。
レンダリング環境のサイズおよび複雑さを制限する:
仮想環境の実施形態が、仮想環境にごく少数の最大アバタ数までしか許容せず、または仮想環境内の所与の「場面」において常時ごく少数の最大数だけしか提示されないようにアバタを分割し、または一度にごく限られた数のユーザにしかストリーミングデータの放射を使用して対話することを許容しない。
ストリーミングデータのアバタ別のレンダリングを行わない:
アバタは、開放された「パーティライン」でしか話したり聞いたりすることができず、すべての音、すなわち仮想環境における「場面」からのすべての音が常時提示され、すべてのアバタに、すべての音の同じレンダリングが与えられる。
非現実的なレンダリング:
各アバタは、各アバタのユーザが任意選択の「チャットセッション」、例えば、仮想のインターコムなどに参加するときにしか可聴対話を行うことができず、各アバタのユーザの音声は、各アバタの環境内の仮想位置にかかわらず、元の音量で方向を伴わずにレンダリングされる。
環境メディアの実施が制限される:
ストリーミングデータをサポートすることが難しいため、滝の背景音など、環境メディアは、仮想環境内の放射としてではなく、ディジタル記録を反復ループとして再生するなど、各ユーザごとのクライアントコンポーネントにおいてローカルで生成される音としてしかサポートできない。
ストリーミングメディアの制御による望ましくない副作用:
ストリーミングデータのサポートを提供するいくつかの既存のシステムでは、ネットワークにおいて、ストリーミングデータの流れを管理するために別個の制御プロトコルが使用される。副作用の一つは、一部はネットワーク上の伝送遅延の公知の問題によるものであり、特定の発生源からのストリーミングデータを「ミュート」したり、ストリーミングデータの配信を第1のアバタへの配信から第2のアバタへの配信に変更したりなど、ストリーミングデータの流れを変更するための制御事象により、それと気付くほどの遅延が生じるまで変更が行われない結果を生じる場合がある。すなわち、制御および配信の動作が十分に同期されない。
本発明の一目的は、アバタ別のレンダリングを生成する仮想現実システムにおいて放射を処理するスケーラブルな技法を提供することである。本発明の別の目的は、心理音響学的原理を使用して放射をフィルタリングすることである。本発明のさらに別の目的は、ネットワーク接続されたシステムのエッジのところの機器において放射をレンダリングする技法を提供することである。
一局面において、本発明の目的は、ストリーミングデータのセグメントで表される放射をレンダリングするシステムにおけるフィルタによって達成される。放射はシステムによって、放射がそこから潜在的に知覚できる知覚点からある時点において知覚されるようにレンダリングされる。フィルタの特性には以下が含まれる:
フィルタは知覚点と関連付けられている。
フィルタは、
その時点におけるストリーミングデータのセグメントで表される放射の現在の放射情報、および
ストリーミングデータのセグメントで表される時点におけるフィルタの知覚点の現在の知覚点情報
にアクセスすることができる。
フィルタは、現在の知覚点情報と現在の放射情報とから、セグメントのストリーミングデータで表される放射がフィルタの知覚点において知覚できるかどうか判定する。判定が、セグメントのストリーミングデータで表される放射がフィルタの知覚点においてその時点に知覚できないことを示すとき、システムは、フィルタの知覚点における放射をレンダリングする際にセグメントを使用しない。
以下の本発明の詳細な説明では、仮想環境が可聴放射の発生源を含み、可聴放射がストリーミング・オーディオ・データで表される一態様を開示する。
この好ましい態様では、Second Lifeによって例示されるような種類などの仮想現実システムが、ネットワーク接続されたコンピュータシステムにおいて実施される。本発明の技法は仮想現実システムに統合される。仮想環境の発生源からの音放射を表すストリーミングデータが、データパケット内のストリーミング・オーディオ・データのセグメントとして伝達される。あるアバタが放射のあるセグメントを知覚できるかどうかを判定することに関連するそのセグメントの発生源に関する情報が、各セグメントと関連付けられる。仮想現実システムは、クライアントコンピュータなど、レンダリングコンポーネント上で、アバタ別のレンダリングを行う。アバタのためのレンダリングは、クライアントコンピュータ上で行われ、アバタに聞き取れるセグメントだけがネットワークを介してクライアントコンピュータに送られる。そこでセグメントは、アバタのユーザに対して、ヘッドフォンまたはスピーカによって可聴出力に変換される。
現在好ましいとされる一態様において、発生源の放射は可聴音であり、仮想現実システムは、アバタのための音のレンダリングが、アバタで表されるユーザが使用するクライアントコンピュータにおいて行われるネットワーク接続されたシステムである。
前述のように、ユーザのクライアントコンピュータはストリーミング音入力をディジタル化し、ストリーミングデータの各セグメントを、ネットワークを介し、パケットとして送る。ネットワークを介してデータを送信するためのパケットは当技術分野において公知である。次に、ペイロードとも呼ばれる、好ましい態様におけるストリーミング・オーディオ・パケットの内容について論じる。この考察では、本発明の技法の各局面を例示する。
セグメント内のストリーミングデータで表される音を発した発生源であるエンティティを識別するユーザID値301。発生源がアバタである場合、これはそのアバタを識別する。
セッションを識別するセッションID値302。本発明の状況において、セッションとは、発生源とアバタのセットである。フラグ303のセットは、ストリーミングデータのこのセグメントを表す放射の時点における発生源の状態に関する情報など、追加情報を指示する。あるフラグは、位置値305の性格、すなわち「スピーカ」か、または「聴取者」位置かを指示する。
位置305。仮想環境におけるセグメントで表される放射の発生源の現在の仮想位置を示し、またはアバタの場合には、アバタの「聴取」部分の現在の仮想位置を示す。
音エネルギーの強さ、または放射音の固有の音量の値307。
309では、もしあれば、追加のメタデータが表される。
図5は、段階1と段階2のフィルタリングの動作を示す、好ましい態様のシステム図である。次に図5の概要を説明する。
段階1フィルタリング:セグメントおよびアバタについて、フィルタリングプロセスは、セグメントの発生源とアバタとを隔てる仮想距離を求め、セグメントの発生源がアバタの閾値仮想距離内にあることになるかどうか判定する。閾値距離は、アバタにとって可聴圏域を定義する。すなわちこの圏域外の発生源からの放射はアバタには聞き取れない。閾値外にあるセグメントはフィルタリング2に渡されない。この判定は、前述のセッションIDなど、セグメントのメタデータ情報、発生源114の現在の発生源情報、およびアバタ113の現在のアバタ情報を考慮することにより効率よく行われる。このフィルタリングは一般に、以下でフィルタリング2について説明するように、フィルタリングされなければならないセグメントの数を低減する。
段階1フィルタリング:セグメントおよびアバタについて、フィルタリングプロセスは、フィルタのアバタが、セグメントのセッションIDによって識別されるセッションのメンバであるかどうか判定する。フィルタのアバタがセッションのメンバである場合、セグメントはフィルタリング2に渡される。このフィルタリングは一般に、以下でフィルタリング2について説明するように、フィルタリングされるべきセグメントの数を低減する。
段階2フィルタリング:フィルタリングプロセスは、段階1フィルタリングによって渡されるこのアバタのすべてのセグメントの聴感上の音量を判定する。次いでセグメントは、各セグメントの聴感上の音量によってソートされ、異なるセッションからの重複セグメントが除去され、最大の聴感上の音量を有する3セグメントからなるサブセットがレンダリングのためにアバタに送られる。サブセットのサイズは、設計上の選択の問題である。判定は、メタデータを考慮することによって効率よく行われる。重複セグメントとは、同じユーザIDと異なるセッションIDを有するセグメントである。
図4に、これらの技法のペイロード形式の関連局面のより詳細な説明を示す。好ましい態様では、ペイロード形式は、仮想現実システムによって使用される非ストリーミングデータも含み得る。好ましい態様の統合システムは、技法を仮想現実システムまたは他のアプリケーションと統合することのできる多くの方法のうちのいくつかを例示するものである。この統合に際して使用される形式を、SIREN14-3D形式と呼ぶ。形式は、カプセル化を利用して、複数のペイロードを一つのネットワークパケットで搬送する。パケットのカプセル化、ヘッダ、フラグおよびその他一般の局面、ならびにデータ形式の技法は、当技術分野において周知であり、そのため、ここでは詳述しない。明確にするために、仮想環境との統合または仮想環境の動作の詳細が、本発明の技法の説明とあまり密接な関係にない場合には、それらの詳細をこの考察から除外する。
好ましい態様では、アバタからのオーディオ放射はその同じアバタには決してレンダリングされず、そのアバタのためのストリーミング・オーディオ・データのどんなフィルタリングにも入力されない。これは設計上の選択の問題である。この選択は、ディジタル電話技術およびビデオ通信においては「側音」オーディオ信号またはビデオ信号を抑圧し、またはレンダリングしないという公知の手法に沿ったものである。代替の一態様は、アバタでもある発生源からの放射を、その同じアバタが何を知覚できるか判定するときに処理し、フィルタリングし得る。
次に、フィルタリングシステム517の動作を詳細に説明する。
処理は、634から工程636に進んだ後で、636からループして620の開始工程に戻る。636は、好ましい態様において、ループが20ミリ秒間隔で周期的に実行されることを示している。
この好ましい態様では、所与のアバタが知覚できるオーディオ放射を表すセグメントが、アバタの知覚点に従ってそのアバタにレンダリングされる。ある特定のユーザのアバタについて、レンダリングは、ユーザのクライアントコンピュータ上で行われ、オーディオデータのストリームが、発生源とユーザのアバタとの仮想距離および相対的方向に従って、適切な聴感上の音量と、立体音響または両耳方向でレンダリングされる。レンダリング装置に送られるセグメントは各セグメントのメタデータを含むため、フィルタリングに使用されたメタデータをレンダリング装置においても使用することができる。さらに、フィルタリング2の間に調整されている場合もあるセグメントのエネルギー値を、レンダリングプロセスで使用することもできる。よって、発生源によって最初に送られた符号化オーディオデータを変換し、または変更する必要がなく、よってレンダリングは、いかなる忠実度または了解度の損失も被らない。またレンダリングは、当然ながら、フィルタリングからもたらされる、レンダリングされるべきセグメントの数が低減されることによっても大幅に簡素化される。
容易に理解されるように、本発明の技法を実施し、または適用するのには多くの方法があり、本明細書で示す例は限定のためのものでは一切ない。例えば、フィルタリングは、分散された態様として、並列的に、またはコンピュータリソースの仮想化を用いて実施されてもよい。さらに、各技法によるフィルタリングは、様々な組み合わせとして、システム内の様々な箇所において行うことができ、仮想現実システムのネットワーク帯域幅および/または処理能力を最適に利用するための必要に応じて選択が行われる。
特定のアバタが知覚できる放射を表すセグメントを、特定のアバタが知覚できない放射を表すセグメントから分離する任意の種類のフィルタリングの技法が用いられ得る。先に好ましい態様で示したように、本発明の技法を使用して、多くの種類のフィルタリングを単独で、連続して、または組み合わせて用いることができる。さらに、本発明の各技法によるフィルタリングは、どんな種類の放射とでも、放射の発生源と放射の知覚者との関係がリアルタイムで変化し得るどんな種類の仮想環境でも使用することができる。実際、好ましい態様の、静的セグメントに属するセグメントを用いた相対的音量フィルタリングの使用は、フィルタリングが位置に依存しない状況における技法の使用の一例である。静的セグメントと共に使用される技法は、例えば、電話会議通話の用途において使用され得る。
本発明の技法は、当然ながら、非常に幅広い用途を網羅するものである。わかりやすい例には以下のものが含まれる。
仮想音楽堂など、仮想オーディオ空間環境における知覚点についての集約されたオーディオをレンダリングするなど、記録のための多数のオーディオ入力のオーディオ混合およびレンダリングに対する改善。
多数のアバタからのテキスト・メッセージング・データのストリームが仮想環境において同時に表示され、またはレンダリングされなければならないときなどのテキストメッセージング通信。これは、本発明の技法が適用され得るストリーミング視覚データの多くの可能な例のうちの一つである。
電話/オーディオ仮想会議環境など、リアルタイム会議システムのためのストリーミングデータのフィルタリングおよびレンダリング。
仮想感覚環境における感覚入力のためのストリーミングデータのフィルタリングおよびレンダリング。
仮想環境内のアバタと関連付けられている現実世界エンティティのリアルタイムの地理的近接性に基づくストリーミングデータの配布。
またフィルタリングは、効果的に他の処理と組み合わせられてもよい。例えば、メディアデータのいくつかのストリームは、仮想環境において、仮想環境内の仮想の噴水の流水音など、「背景音」として識別されることもある。仮想環境の設計者は、これらの技法の統合の一部として、背景音が他のストリーミング・オーディオ・データと同様にはフィルタリングされず、他のデータを除去させることもなく、通常は遮断され、フィルタリングされ得る他のストリーミングデータがあるときには、背景音のデータがフィルタリングされ、より低い聴感上の音量でレンダリングされるように処理されるよう選択してもよい。フィルタリングの技法のそのような適用は、背景音が、クライアントコンポーネントのレンダリングコンポーネントによってローカルで生み出されるのではなく、仮想現実システムのサーバコンポーネントによって生み出されることを可能にする。
以上に加えて、当然ながら、技法には他にも有用な局面がある。以下に、考察すれば明らかな多くの局面の中から、さらにいくつかの例を示す。
以上の詳細な説明は、関連技術の当業者に対して、アバタ別レンダリング環境を用いる仮想現実システムにおいてリアルタイムのアバタ別ストリーミングデータを提供する本発明者らのスケーラブルな技法をどのように使用すべきかを開示し、さらに、本発明者らが現在知るところの、それらの技法を実施する最良の形態を開示するものである。
Claims (18)
- 仮想現実システムにおけるフィルタであって、該仮想現実システムが、仮想環境におけるアバタよって知覚されるように該仮想環境をレンダリングし、該仮想環境が、該アバタによって仮想環境において知覚されるかどうかがリアルタイムで変化する放射の発生源を含み、および、該放射が仮想現実システムにおいてストリーミングデータを包含するセグメントによって表され、かつ、以下の特徴を含む、フィルタ:
フィルタが、該アバタと関連付けられており、
フィルタが、
該セグメントのストリーミングデータで表される該放射の現在の放射源情報と;
該フィルタのアバタの現在のアバタ情報と;
にアクセスすることができ、かつ
フィルタが、該現在のアバタ情報と該セグメントのストリーミングデータの該現在の放射源情報とから、該セグメントのストリーミングデータで表される該放射を該アバタが知覚できるかどうか判定し、該判定が、該セグメントのストリーミングデータで表される該放射を該アバタが知覚できないことを示すとき、該仮想現実システムが該仮想環境をレンダリングする際に該セグメントを使用しない。 - 放射を知覚できるかどうかの判定が、仮想環境における該放射の物理的特性に基づくものである
ことをさらに特徴とする、請求項1記載のフィルタ。 - アバタが、少なくともアバタのグループの構成メンバであることに基づいて、該アバタが仮想環境において知覚することのできない放射もさらに知覚する
ことをさらに特徴とする、請求項1記載のフィルタ。 - アバタが放射を知覚できないようにする物理的特性が、仮想環境における、該放射と該アバタの間の距離である
ことをさらに特徴とする、請求項#M2記載のフィルタ。 - 仮想現実にアバタが知覚できる複数の放射があり;
前記放射を知覚できるかどうかの判定が、該放射を前記アバタが、他の知覚可能な放射と比べて心理学的に知覚できるかどうかを判定する
ことをさらに特徴とする、請求項1記載のフィルタ。 - アバタによって知覚される際に、複数の放射は異なる強さを有し;
前記放射を前記アバタが心理学的に知覚できるかどうかは、該アバタが知覚できる他の放射の強さに対する該放射の相対的強さによって判定される
ことをさらに特徴とする、請求項5記載のフィルタ。 - 以下をさらに特徴とする、請求項1記載のフィルタ:
仮想現実にアバタが知覚できる複数の放射があり;かつ
前記放射を知覚できるかどうかを、前記仮想環境における前記放射の物理的特性に基づいて、判定する第1の判定と、
前記放射を前記アバタが、他の知覚可能な放射と比べて心理学的に知覚できるかどうかを判定する第2の判定と
を含む判定を該フィルタが行う。 - 第1の判定で放射を知覚できると判定した場合に限って第2の判定を行う
ことをさらに特徴とする、請求項7記載のフィルタ。 - 放射が、仮想環境において聞き取れる可聴放射である
ことをさらに特徴とする、請求項1〜8のいずれか一項記載のフィルタ。 - 放射が、仮想環境において目に見える可視放射である
ことをさらに特徴とする、請求項1〜8のいずれか一項記載のフィルタ。 - 放射が、仮想環境において触ることによって知覚される触覚放射である
ことをさらに特徴とする、請求項1〜8のいずれか一項記載のフィルタ。 - 以下をさらに特徴とする、請求項1〜8のいずれか一項記載のフィルタ:
前記仮想現実システムが、ネットワークによって相互にアクセス可能な複数のコンポーネントからなる分散システムであり、前記放射が、複数のうちの第1のコンポーネントにおいて生成され、かつ別のコンポーネントにおいて仮想環境をレンダリングするのに使用され、前記セグメントが、該ネットワークを介して該コンポーネントと該別のコンポーネントの間で搬送され、該フィルタが、該第1のコンポーネントと該第2のコンポーネントの間の該分散システムのどこかに位置する。 - 分散システムのコンポーネントは少なくとも1台のクライアントとサーバとを含み、放射は該クライアントにおいてアバタのために生成され、かつ/またはレンダリングされ、該サーバはフィルタを含み、該クライアントから該放射を表すセグメントを受け取り、該フィルタを用いて、該アバタのためにレンダリングする目的で該クライアントに提供されるべきセグメントを選択する
ことをさらに特徴とする、請求項12記載のフィルタ。 - セグメントには、該セグメントのストリーミングデータで表される放射の現在の放射源情報も包含される
ことをさらに特徴とする、請求項1〜8のいずれか一項記載のフィルタ。 - そこからフィルタのアバタの現在のアバタ情報をフィルタが獲得する、現在のアバタ情報セグメントを、セグメントがさらに含む
ことをさらに特徴とする、請求項1〜8のいずれか一項記載のフィルタ。 - ストリーミングデータのセグメントで表される放射をレンダリングするシステムにおけるフィルタであって、該放射が放射を潜在的に知覚することができる知覚点から、ある時点において知覚されるようにシステムによってレンダリングされ、かつ、
以下を特徴とする、フィルタ:
フィルタが、前記知覚点と関連付けられており;
フィルタが、
前記時点における前記セグメントのストリーミングデータで表される前記放射の現在の放射情報と;
前記時点における前記フィルタの知覚点の現在の知覚点情報と;
にアクセスすることができ;
フィルタが、前記現在の知覚点情報と前記現在の放射情報とから、前記セグメントのストリーミングデータで表される前記放射が前記フィルタの知覚点において知覚できるかどうかを判定し、該判定が、該セグメントのストリーミングデータで表される該放射が該フィルタの知覚点において知覚できないことを示すとき、前記システムが、該フィルタの知覚点における該放射をレンダリングする際に該セグメントを使用しない。 - 複数の発生源からの音をレンダリングするシステムにおけるフィルタであって、該発生源からの音がリアルタイムで変化する特性を有し、かつ、各発生源からの音がセグメントストリーム中のセグメントとして表され、
以下を特徴とする、フィルタ:
フィルタが、前記発生源からセグメントのタイムスライスストリームを受け取り;かつ
フィルタが、レンダリングのために、前記ストリームの中から、あるタイムスライスに属するセグメントを、該タイムスライスに属する該セグメントで表される該音の前記特性の相互作用から生じる心理音響学的効果に従って、選択する。 - 複数の発生源からの放射をレンダリングするレンダリング装置であって、該放射がリアルタイムで変化し、かつ、各発生源からの放射がストリーミングデータを包含するセグメントで表され、
以下を特徴とする、レンダリング装置:
発生源からのセグメントが、前記ストリーミングデータに加えて該発生源の放射に関する情報も含み、該セグメント内の該発生源の放射に関する該情報がさらに、前記複数の発生源からの該放射を表す該セグメントのサブセットがレンダリング装置から利用できるように、該セグメントをフィルタリングするのに使用され;かつ、
レンダリング装置が、前記サブセットに属する前記セグメント内の前記発生源の放射に関する前記情報を用いて、該サブセットに属する該セグメントをレンダリングする。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US2172908P | 2008-01-17 | 2008-01-17 | |
PCT/US2009/031361 WO2009092060A2 (en) | 2008-01-17 | 2009-01-17 | Scalable techniques for providing real-lime per-avatar streaming data in virtual reality systems thai employ per-avatar rendered environments |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013146535A Division JP2013254501A (ja) | 2008-01-17 | 2013-07-12 | アバタ別にレンダリングされる環境を用いる仮想現実システムにおいてリアルタイムのアバタ別のストリーミングデータを提供するスケーラブルな技法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2011510409A true JP2011510409A (ja) | 2011-03-31 |
Family
ID=40885910
Family Applications (3)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010543299A Pending JP2011510409A (ja) | 2008-01-17 | 2009-01-17 | アバタ別にレンダリングされる環境を用いる仮想現実システムにおいてリアルタイムのアバタ別のストリーミングデータを提供するスケーラブルな技法 |
JP2013146535A Pending JP2013254501A (ja) | 2008-01-17 | 2013-07-12 | アバタ別にレンダリングされる環境を用いる仮想現実システムにおいてリアルタイムのアバタ別のストリーミングデータを提供するスケーラブルな技法 |
JP2014211454A Pending JP2015053061A (ja) | 2008-01-17 | 2014-10-16 | アバタ別にレンダリングされる環境を用いる仮想現実システムにおいてリアルタイムのアバタ別のストリーミングデータを提供するスケーラブルな技法 |
Family Applications After (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013146535A Pending JP2013254501A (ja) | 2008-01-17 | 2013-07-12 | アバタ別にレンダリングされる環境を用いる仮想現実システムにおいてリアルタイムのアバタ別のストリーミングデータを提供するスケーラブルな技法 |
JP2014211454A Pending JP2015053061A (ja) | 2008-01-17 | 2014-10-16 | アバタ別にレンダリングされる環境を用いる仮想現実システムにおいてリアルタイムのアバタ別のストリーミングデータを提供するスケーラブルな技法 |
Country Status (7)
Country | Link |
---|---|
EP (1) | EP2244797A4 (ja) |
JP (3) | JP2011510409A (ja) |
KR (1) | KR20110002005A (ja) |
CN (1) | CN102186544B (ja) |
CA (1) | CA2712483A1 (ja) |
TW (1) | TW200941271A (ja) |
WO (1) | WO2009092060A2 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021033259A1 (ja) * | 2019-08-20 | 2021-02-25 | 日本たばこ産業株式会社 | コミュニケーション支援方法、プログラムおよびコミュニケーションサーバ |
WO2021033261A1 (ja) * | 2019-08-20 | 2021-02-25 | 日本たばこ産業株式会社 | コミュニケーション支援方法、プログラムおよびコミュニケーションサーバ |
JPWO2021033258A1 (ja) * | 2019-08-20 | 2021-02-25 |
Families Citing this family (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2012093954A1 (en) | 2011-01-04 | 2012-07-12 | Telefonaktiebolaget Lm Ericsson (Publ) | Local media rendering |
US8860720B1 (en) * | 2014-01-02 | 2014-10-14 | Ubitus Inc. | System and method for delivering graphics over network |
US20150371295A1 (en) * | 2014-04-29 | 2015-12-24 | Socialplay Inc. | System and method for cross-application virtual goods management |
JP6217682B2 (ja) * | 2015-03-27 | 2017-10-25 | ブラザー工業株式会社 | 情報処理装置及びプログラム |
CN105487657A (zh) * | 2015-11-24 | 2016-04-13 | 小米科技有限责任公司 | 声音响度的确定方法及装置 |
CN106899860B (zh) * | 2015-12-21 | 2019-10-11 | 优必达公司 | 通过网络传送媒体的系统及方法 |
US9980078B2 (en) | 2016-10-14 | 2018-05-22 | Nokia Technologies Oy | Audio object modification in free-viewpoint rendering |
JP7124715B2 (ja) * | 2017-01-18 | 2022-08-24 | ソニーグループ株式会社 | 情報処理装置、および情報処理方法、並びにプログラム |
US11096004B2 (en) * | 2017-01-23 | 2021-08-17 | Nokia Technologies Oy | Spatial audio rendering point extension |
US10531219B2 (en) | 2017-03-20 | 2020-01-07 | Nokia Technologies Oy | Smooth rendering of overlapping audio-object interactions |
US11074036B2 (en) | 2017-05-05 | 2021-07-27 | Nokia Technologies Oy | Metadata-free audio-object interactions |
US11395087B2 (en) | 2017-09-29 | 2022-07-19 | Nokia Technologies Oy | Level-based audio-object interactions |
KR102461024B1 (ko) | 2017-10-31 | 2022-10-31 | 에스케이텔레콤 주식회사 | 헤드 마운티드 디스플레이 및 이를 이용하여 가상 공간에서 동작이 수행되도록 하는 방법 |
KR102317134B1 (ko) | 2017-10-31 | 2021-10-25 | 에스케이텔레콤 주식회사 | 증강현실용 컨텐츠 저작 장치 및 방법 |
EP3499917A1 (en) * | 2017-12-18 | 2019-06-19 | Nokia Technologies Oy | Enabling rendering, for consumption by a user, of spatial audio content |
US10542368B2 (en) | 2018-03-27 | 2020-01-21 | Nokia Technologies Oy | Audio content modification for playback audio |
US11188902B1 (en) * | 2020-05-20 | 2021-11-30 | Louise Dorothy Saulog Sano | Live time connection application method and devices |
KR102523507B1 (ko) * | 2021-12-20 | 2023-04-19 | 전광표 | 사운드 맵 서비스 제공 장치 및 방법 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07255044A (ja) * | 1993-12-17 | 1995-10-03 | Mitsubishi Electric Corp | アニメーション式電子会議室及びビデオ会議システム及びビデオ会議方法 |
JP2004267433A (ja) * | 2003-03-07 | 2004-09-30 | Namco Ltd | 音声チャット機能を提供する情報処理装置、サーバおよびプログラム並びに記録媒体 |
JP2005322125A (ja) * | 2004-05-11 | 2005-11-17 | Sony Corp | 情報処理システム、情報処理方法、プログラム |
JP2006201912A (ja) * | 2005-01-19 | 2006-08-03 | Nippon Telegr & Teleph Corp <Ntt> | 3次元仮想オブジェクト情報提供サービス処理方法と3次元仮想オブジェクト提供システムおよびプログラム |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10207684A (ja) * | 1996-11-19 | 1998-08-07 | Sony Corp | 3次元仮想現実空間共有システムにおける情報処理装置、情報処理方法および媒体 |
US6106399A (en) * | 1997-06-16 | 2000-08-22 | Vr-1, Inc. | Internet audio multi-user roleplaying game |
US6241612B1 (en) * | 1998-11-09 | 2001-06-05 | Cirrus Logic, Inc. | Voice communication during a multi-player game |
US20040225716A1 (en) * | 2000-05-31 | 2004-11-11 | Ilan Shamir | Methods and systems for allowing a group of users to interactively tour a computer network |
US6935959B2 (en) * | 2002-05-16 | 2005-08-30 | Microsoft Corporation | Use of multiple player real-time voice communications on a gaming device |
JP3740518B2 (ja) * | 2003-07-31 | 2006-02-01 | コナミ株式会社 | ゲーム装置、コンピュータの制御方法及びプログラム |
GB2446529B (en) * | 2004-06-25 | 2008-11-05 | Sony Comp Entertainment Europe | Game processing |
JP3863165B2 (ja) * | 2005-03-04 | 2006-12-27 | 株式会社コナミデジタルエンタテインメント | 音声出力装置、音声出力方法、ならびに、プログラム |
US20060277466A1 (en) * | 2005-05-13 | 2006-12-07 | Anderson Thomas G | Bimodal user interaction with a simulated object |
US20080001951A1 (en) * | 2006-05-07 | 2008-01-03 | Sony Computer Entertainment Inc. | System and method for providing affective characteristics to computer generated avatar during gameplay |
-
2009
- 2009-01-17 EP EP09701763A patent/EP2244797A4/en not_active Withdrawn
- 2009-01-17 TW TW098101818A patent/TW200941271A/zh unknown
- 2009-01-17 JP JP2010543299A patent/JP2011510409A/ja active Pending
- 2009-01-17 CA CA2712483A patent/CA2712483A1/en not_active Abandoned
- 2009-01-17 KR KR1020107018261A patent/KR20110002005A/ko not_active Application Discontinuation
- 2009-01-17 WO PCT/US2009/031361 patent/WO2009092060A2/en active Search and Examination
- 2009-01-17 CN CN200980110115.3A patent/CN102186544B/zh active Active
-
2013
- 2013-07-12 JP JP2013146535A patent/JP2013254501A/ja active Pending
-
2014
- 2014-10-16 JP JP2014211454A patent/JP2015053061A/ja active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07255044A (ja) * | 1993-12-17 | 1995-10-03 | Mitsubishi Electric Corp | アニメーション式電子会議室及びビデオ会議システム及びビデオ会議方法 |
JP2004267433A (ja) * | 2003-03-07 | 2004-09-30 | Namco Ltd | 音声チャット機能を提供する情報処理装置、サーバおよびプログラム並びに記録媒体 |
JP2005322125A (ja) * | 2004-05-11 | 2005-11-17 | Sony Corp | 情報処理システム、情報処理方法、プログラム |
JP2006201912A (ja) * | 2005-01-19 | 2006-08-03 | Nippon Telegr & Teleph Corp <Ntt> | 3次元仮想オブジェクト情報提供サービス処理方法と3次元仮想オブジェクト提供システムおよびプログラム |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021033259A1 (ja) * | 2019-08-20 | 2021-02-25 | 日本たばこ産業株式会社 | コミュニケーション支援方法、プログラムおよびコミュニケーションサーバ |
WO2021033261A1 (ja) * | 2019-08-20 | 2021-02-25 | 日本たばこ産業株式会社 | コミュニケーション支援方法、プログラムおよびコミュニケーションサーバ |
JPWO2021033258A1 (ja) * | 2019-08-20 | 2021-02-25 | ||
WO2021033258A1 (ja) * | 2019-08-20 | 2021-02-25 | 日本たばこ産業株式会社 | コミュニケーション支援方法、プログラムおよびコミュニケーションサーバ |
JPWO2021033259A1 (ja) * | 2019-08-20 | 2021-02-25 | ||
JPWO2021033261A1 (ja) * | 2019-08-20 | 2021-02-25 | ||
JP7189360B2 (ja) | 2019-08-20 | 2022-12-13 | 日本たばこ産業株式会社 | コミュニケーション支援方法、プログラムおよびコミュニケーションサーバ |
JP7190052B2 (ja) | 2019-08-20 | 2022-12-14 | 日本たばこ産業株式会社 | コミュニケーション支援方法、プログラムおよびコミュニケーションサーバ |
JP7192136B2 (ja) | 2019-08-20 | 2022-12-19 | 日本たばこ産業株式会社 | コミュニケーション支援方法、プログラムおよびコミュニケーションサーバ |
TWI794556B (zh) * | 2019-08-20 | 2023-03-01 | 日商日本煙草產業股份有限公司 | 通訊支援方法、程式及通訊伺服器 |
Also Published As
Publication number | Publication date |
---|---|
KR20110002005A (ko) | 2011-01-06 |
EP2244797A4 (en) | 2011-06-15 |
CN102186544B (zh) | 2014-05-14 |
TW200941271A (en) | 2009-10-01 |
CN102186544A (zh) | 2011-09-14 |
WO2009092060A2 (en) | 2009-07-23 |
JP2013254501A (ja) | 2013-12-19 |
EP2244797A2 (en) | 2010-11-03 |
CA2712483A1 (en) | 2009-07-23 |
WO2009092060A3 (en) | 2010-01-14 |
JP2015053061A (ja) | 2015-03-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2015053061A (ja) | アバタ別にレンダリングされる環境を用いる仮想現実システムにおいてリアルタイムのアバタ別のストリーミングデータを提供するスケーラブルな技法 | |
US20120016926A1 (en) | Scalable techniques for providing real-time per-avatar streaming data in virtual reality systems that employ per-avatar rendered environments | |
JP4745375B2 (ja) | 対話型立体的オーディオビジュアル・システム | |
US9197755B2 (en) | Multidimensional virtual learning audio programming system and method | |
JP5723905B2 (ja) | 共用仮想領域通信環境における自動化されたリアルタイム・データ・ストリーム切換え | |
US20060008117A1 (en) | Information source selection system and method | |
CN1253807C (zh) | 根据用户指定的特征传输内容数据的改进网络 | |
CN1574870A (zh) | 人际通信系统 | |
CN1703065A (zh) | 语音通信系统 | |
US8504605B2 (en) | Proximity filtering of multiparty VoIP communications | |
KR102626555B1 (ko) | 원격 회의를 위한 방법 및 장치 | |
CN111492342B (zh) | 音频场景处理 | |
US8577060B2 (en) | Method and apparatus for dynamically determining mix sets in an audio processor | |
Leung et al. | Networked intelligent collaborative environment (NetICE) | |
JP5602688B2 (ja) | 音像定位制御システム、コミュニケーション用サーバ、多地点接続装置、及び音像定位制御方法 | |
JP7399549B2 (ja) | リモート端末向けの遠隔会議およびテレプレゼンスにおいてオーディオミキシングゲインをシグナリングする手法 | |
WO2023243059A1 (ja) | 情報提示装置、情報提示方法及び情報提示プログラム | |
JP7191146B2 (ja) | 配信サーバ、配信方法、及びプログラム | |
JP7143874B2 (ja) | 情報処理装置、情報処理方法およびプログラム | |
Wuolio et al. | On the potential of spatial audio in enhancing virtual user experiences | |
Divjak et al. | Visual and audio communication between visitors of virtual worlds | |
Kanada | Simulated virtual market place by using voiscape communication medium | |
CN117409804A (zh) | 音频信息的处理方法、介质、服务器、客户端及系统 | |
JP2004294519A (ja) | 通信装置、通信方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20110818 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120813 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120822 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20121120 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20121128 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130222 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20130313 |