JP2019527376A - ホログラフィックオブジェクトのリレーショナルレンダリング - Google Patents

ホログラフィックオブジェクトのリレーショナルレンダリング Download PDF

Info

Publication number
JP2019527376A
JP2019527376A JP2018566435A JP2018566435A JP2019527376A JP 2019527376 A JP2019527376 A JP 2019527376A JP 2018566435 A JP2018566435 A JP 2018566435A JP 2018566435 A JP2018566435 A JP 2018566435A JP 2019527376 A JP2019527376 A JP 2019527376A
Authority
JP
Japan
Prior art keywords
physical
hologram
computer system
holographic
relationship
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018566435A
Other languages
English (en)
Other versions
JP2019527376A5 (ja
Inventor
スコット レーマイヤー,エリック
スコット レーマイヤー,エリック
ジェームス ホーガン,アレクサンダー
ジェームス ホーガン,アレクサンダー
ダヴリュ カールソン,ピーター
ダヴリュ カールソン,ピーター
ザーン,ジェシカ
エスタリー,ジョナサン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Corp
Original Assignee
Microsoft Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Corp filed Critical Microsoft Corp
Publication of JP2019527376A publication Critical patent/JP2019527376A/ja
Publication of JP2019527376A5 publication Critical patent/JP2019527376A5/ja
Priority to JP2022030555A priority Critical patent/JP2022066297A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/04Processes or apparatus for producing holograms
    • G03H1/08Synthesising holograms, i.e. holograms synthesized from objects or objects from holograms
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/22Processes or apparatus for obtaining an optical image from holograms
    • G03H1/2249Holobject properties
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/0005Adaptation of holography to specific applications
    • G03H2001/0061Adaptation of holography to specific applications in haptic applications when the observer interacts with the holobject
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H2226/00Electro-optic or electronic components relating to digital holography
    • G03H2226/02Computing or processing means, e.g. digital signal processor [DSP]

Abstract

ホログラフィックオブジェクトと識別された物理的オブジェクトとの間の物理的関係に従ってホログラフィックオブジェクトをレンダリングするためのコンピュータシステム、方法及び記憶媒体。仮想特性が物理的オブジェクトに割り当てられ、ホログラフィックオブジェクトと物理的オブジェクトとの間の物理的関係に対する変化を検出したことに応答して、物理的関係に対する変化と物理的オブジェクトに割り当てられた特性により少なくとも部分的に定義される変更に従って、ホログラフィックオブジェクトがレンダリングされる。

Description

複合現実(「MR:Mixed Reality」)は、現実世界の物理的オブジェクトと仮想オブジェクトを併合して、デジタル仮想オブジェクトと現実世界の物理的オブジェクトが共存する新しい環境及び視覚化を作り出すことを含む。MRの適用は、例えば芸術や娯楽産業、教育、製造、エンジニアリング設計、建設及び建築等を含む。しかしながら、MRの利点は、時として、MR環境内の仮想オブジェクト又はホログラフィックオブジェクトの対話機能の限界によって、特にMR環境内の仮想オブジェクトと有形の現実世界のオブジェクトとの間の限られた対話能力に関して妨げられることがある。
本明細書における特許請求に係る主題は、上述のいずれかの欠点を解決し、あるいは上述の環境内でのみ動作する実施形態に限定されない。むしろ、この背景技術は、本明細書で説明されるいくつかの実施形態が実施され得る例示的な技術分野を示すためだけに提供されている。
本発明は、ホログラフィックオブジェクトと物理的オブジェクトとの間のそれぞれの物理的特性及び関係に従って、ホログラフィックオブジェクトと物理的オブジェクトとの間の物理的対話をシミュレートするか、他の方法でレンダリングするために構成されるコンピュータシステム、方法及びコンピュータ記憶媒体に関する。
一部の実施形態は、物理的オブジェクトを識別することと、ホログラフィックオブジェクトを識別することを含み、物理的オブジェクトとホログラフィックオブジェクトは互いに、物理的オブジェクトとホログラフィックオブジェクトとの間の物理的関係に従って関連付けられる。例えば物理的関係は、相対的な近接性、相対的な向き(orientation)、相対的な動きパターン、相対的な動きの速さ、論理的なコンテキスト、相対的な近接性、向き又は動きの持続時間(duration)、あるいは物理的関係の他の属性、のうちの1つ以上によって定義されてよい。一部の実施形形態において、物理的オブジェクトの物理的属性又は特性と、ホログラフィックオブジェクトの割り当てられた物理的特性/属性は、ホログラフィックオブジェクトと物理的オブジェクトとの間の物理的関係を定義することも助ける。
一部の実施形態は、物理的関係に対する変化を検出することと、検出された変化に従ってホログラフィックオブジェクトの1つ以上の特性を変更することを含む。例えば物理的関係に対する変化を検出したことに応答して、ホログラフィックオブジェクトを、1つ以上の異なる視聴覚特徴で再構成することができる。あるいはまた、ホログラフィックオブジェクトは、変更についての視聴覚指示が直ちに明らかになるか否かにかかわらず、変更された状態を示すか、あるいは再構成されたホログラフオブジェクトとのユーザ対話に影響を与える設定を示すように再構成される。
一部の実施形態は、1つ以上の特性を物理的オブジェクト及び/又はホログラフィックオブジェクトに割り当てることを含む。そのような実施形態では、1つ以上の割り当てられた特性は、ホログラフィックオブジェクトと物理的オブジェクトとの間の物理的関係に従って、ホログラフィックオブジェクトの1つ以上の反応を少なくとも部分的に定義する。一部の実施形態において、物理的オブジェクトに割り当てられる特性は、物理的オブジェクトの現実世界の特性に対応しない仮想特性として構成される。
特定の実施形態は、識別された物理的オブジェクトと識別されたホログラフィックオブジェクトとの間の物理的関係の1つ以上の態様に対する変化を検出することと、それに応答して、物理的オブジェクトに対する、識別されたホログラフィックオブジェクトの活動及び/又は影響をシミュレートする新たなホログラフィックオブジェクトを生成することを含む。一部の実施形態では、新たなホログラフィックオブジェクトがレンダリングされるとき、識別されたホログラフィックオブジェクトは変更されず(unmodified)に残る。
一部の実施形態は、物理的オブジェクト又は装置と、関連するホログラフィックオブジェクトとの間の物理的関係の1つ以上の態様に対する変化を検出したことに応答して、物理的オブジェクト又は装置を変更することを含む。
この要約は、以下の詳細な説明において更に説明される概念の選択を簡略化した形で紹介するために提供される。この要約は、特許請求に係る主題の重要な特徴又は本質的な特徴を特定するようには意図されておらず、特許請求に係る主題の範囲を決定する際の助けとして使用されるようにも意図されていない。
追加の特徴及び利点は、以下の記載で説明され、その一部は以下の記載から明らかになるか、本明細書の教示の実施によって習得され得る。本発明の特徴及び利点は、添付の特許請求の範囲で特に指摘された機器及び組合せによって実現及び取得され得る。
上記及び他の利点及び特徴を得ることができる方法を説明するために、簡潔に上述した主題のより詳細な説明を、添付の図面に図示される特定の実施形態を参照して行う。これらの図面は、典型的な実施形態を示すものにすぎず、その範囲を限定するものとみなされるべきではないという理解の下、添付の図面の使用を通して、実施形態を更なる特定性及び詳細とともに記載し、説明する。
ホログラフィックオブジェクトと物理的オブジェクトとの間の物理的関係に従ってホログラフィックオブジェクトをレンダリングするために構成されるコンピュータシステムを示す図である。
ホログラフィックオブジェクトと物理的オブジェクトとの間の物理的関係に従ってホログラフィックオブジェクトを変更するための例示的な方法のフローチャートを示す図である。
ホログラフィックオブジェクトと物理的オブジェクトとの間の物理的関係に従って新たなホログラフィックオブジェクトをレンダリングするか、ホログラフィックオブジェクトを変更するための例示的な方法のフローチャートを示す図である。
ホログラフィックオブジェクトのシミュレートされたアクティビティに応答して物理的装置を変更するための例示的な方法のフローチャートを示す図である。
ホログラフィックオブジェクトと物理的オブジェクトとの間の物理的関係によるホログラフィックオブジェクトのレンダリングを示す、ホログラフィックオブジェクト及び物理的オブジェクトを含む複合現実環境の例示的な実施形態を示す図である。 ホログラフィックオブジェクトと物理的オブジェクトとの間の物理的関係によるホログラフィックオブジェクトのレンダリングを示す、ホログラフィックオブジェクト及び物理的オブジェクトを含む複合現実環境の例示的な実施形態を示す図である。 ホログラフィックオブジェクトと物理的オブジェクトとの間の物理的関係によるホログラフィックオブジェクトのレンダリングを示す、ホログラフィックオブジェクト及び物理的オブジェクトを含む複合現実環境の例示的な実施形態を示す図である。 ホログラフィックオブジェクトと物理的オブジェクトとの間の物理的関係によるホログラフィックオブジェクトのレンダリングを示す、ホログラフィックオブジェクト及び物理的オブジェクトを含む複合現実環境の例示的な実施形態を示す図である。
ホログラフィックオブジェクトが、該ホログラフィックオブジェクトと物理的オブジェクトとの間の物理的関係に従って物理的オブジェクトを変更するよう動作可能な複合現実環境の例示的な実施形態を示す図である。
本開示は、複合現実環境内における1つ以上のホログラフィックオブジェクトと1つ以上の物理的オブジェクトとの間の決定された関係に従って、1つ以上のホログラフィックオブジェクトをレンダリングするために構成されるコンピュータシステム、方法及びコンピュータ記憶媒体に関する。開示される実施形態の態様を実装することにより、様々な技術的効果及び利点を達成することができる。例えば少なくとも一部の開示される実施形態は、ホログラフィックオブジェクトと、該ホログラフィックオブジェクトの同じMR環境内の1つ以上の物理的オブジェクトとの間の1つ以上の関係を定義することによって、ホログラフィックオブジェクトの機能性を高めるように動作可能である。これは特に、ホログラフィックオブジェクトとの対話中のユーザ体験を改善するため、ホログラフィオブジェクトによって描写される現実感の認識を高めるため、ホログラフィックオブジェクトの利用可能な対話機能の範囲を拡大するため、要するに、MRコンピューティングシステムがホログラフィックオブジェクトと現実世界のオブジェクトとの間の対話のより高い現実感を提供することを可能にすることにより、MRコンピューティングシステムの一般的な機能を改善するために有益であり得る。
本明細書で使用されるとき、「ホログラム」、「ホログラムオブジェクト」、「ホログラフィックオブジェクト」及び同様の用語は、深度キュー、視差効果及び/又は観察者の相対的視点に基づいて現実的に変化する透視視覚化(perspective visualization)のような1つ以上の3次元視覚的キューを含む、仮想のレンダリングされる画像及び/又はアニメーションを指す。
本明細書で使用されるとき、「物理的オブジェクト」、「有形オブジェクト」及び同様の用語は、現実世界に存在し、1つ以上のホログラフィックオブジェクトがその上に重畳され、かつ/又はその中にレンダリングされてMR環境を形成する環境内で観察される、実際の物理的な物体を指す。
本明細書で使用されるとき、「複合現実(MR)」、「拡張現実」及び同様の用語は、1つ以上の物理的オブジェクトを1つ以上のホログラフィックオブジェクトと組み合わせるディスプレイ、アプリケーション、シーン及び/又は環境を指す。一部の実施形態では、1つ以上のホログラフィックオブジェクトは、ユーザによって知覚される表示が物理的シーン内に1つ以上のホログラフィックオブジェクトを含むように、物理的シーンの上に重畳され、かつ/又はその中にレンダリングされる。
ホログラフィックオブジェクトと物理的オブジェクトとの間の「関係」、「物理的関係」又は「関連」は、例えばあるオブジェクトの別のオブジェクトに対する近接性、あるオブジェクトの別のオブジェクトに対する向き、あるオブジェクトの別のオブジェクトに対する動きパターン、あるオブジェクトの別のオブジェクトに対する動きの速さ、上記のうちの1つ以上の持続時間又はこれらの組合せによって定義され、かつ/又はこれらを指すことがある。一部の実施形態では、関係は、少なくとも部分的に、ホログラフィックオブジェクトと物理的オブジェクトによって共有される複合現実環境内のコンテキストに従って定義されてよい。例えばゲームアプリケーションでは、一対の関係するホログラフィックオブジェクトと物理的オブジェクトは、ゲームレベル、ユーザステータス、難易度設定、ゲームプレイモード等に応じて、異なるように対話することができる。別の例では、3Dモデリング/視覚化アプリケーションでは、一対の関係するホログラフィックオブジェクトと物理的オブジェクトは、視覚化モード対編集モードのようなアプリケーション状態に応じて、異なるように対話することができる。
物理的関係は、物理的オブジェクト及びホログラフィックオブジェクトの実際の特性又は割り当てられた特性を含む、オブジェクトの物理的特性に少なくとも部分的に基づいて定義されてもよい。例えばオブジェクトの物理的位置及び向きによって定義される関係に加えて、物理的関係は、化学的関係、磁気的関係、温度関係、動的応力若しくは圧縮関係、及び/又はそれらの割り当てられた物理的特性(特性が実際のものであるか単に仮想的に割り当てられたものであるかに関わらず)に基づき、オブジェクトの間に存在している対話状態に関連付けられる任意の他の対話関係によって定義されるか、これらを含んでもよい。
「物理的特性」という用語は、物理的オブジェクトに関連付けられる任意の物理的な属性又は特性を指してよく、(限定ではないが)温度、硬度、形状、材料組成、サイズ、重量、伝導性、色、反射性、強度、粘性、体積、不透明度、可鍛性、脆性、弾性、圧力、電荷、速度、放射輝度(radiance)、力(power)等を含む。これらの物理的特性は、物理的オブジェクトだけでなく、ホログラフィックオブジェクトにも割り当てられてよい。したがって、物理的オブジェクトには、MR環境内で実際の物理的特性又は仮想の物理的特性を割り当てることができる。これらの物理的特性は、本明細書で説明されるようにMR対話に基づいて、MR環境内においてマップ/格納され、変更されることもできる。
物理的特性は、本明細書では時として、これらが物理的オブジェクトに対応するか又はホログラフィックオブジェクトに対応するかに応じて、それぞれ、物理的オブジェクト特性又はホログラフィックオブジェクト特性と呼ばれることがある。
図1は、1つ以上のホログラフィックオブジェクトと1つ以上の物理的オブジェクトとの間の1つ以上の関係に従って1つ以上のホログラフィックオブジェクトをレンダリングするために構成される例示的なコンピュータシステム100を図示している。単純化のために、本明細書で説明される実施形態は、典型的に、「1つ(a)」の物理的オブジェクトとの「1つ(a)」の関係を有する「1つ(a)」のホログラフィックオブジェクトを指すが、当業者は、これらの説明される実施形態の範囲が、1つ以上の物理的オブジェクトとの1つ以上の関係に従う1つ以上のホログラフィックオブジェクトのレンダリングにも及ぶことを理解するであろう。
図示されるように、例示のコンピュータシステム100は、メモリ102と少なくとも1つのプロセッサ104を有するコンピュータデバイス110を含む。代替的な実施形態は、複数のプロセッサ及び/又はメモリストレージデバイスを含んでもよい。メモリ102は、物理的なシステムメモリであってよく、揮発性、不揮発性又はこれら2つの何らかの組合せであってよい。また、「メモリ」という用語を、物理的記憶媒体のような不揮発性大容量ストレージを指すために使用してもよい。
コンピュータデバイス110は、MR環境の生成及び表示を可能にするよう構成されるMRコンポーネント106も含む。MRコンポーネント106は、1つ以上のユーザヘッドセット、カメラ、画像プロジェクタ及び/又は複合現実環境の生成に使用することができる他のコンポーネントを含む。一部の実施形態において、MRコンポーネント106は、ユーザがコンピュータデバイス110と対話することを可能にする1つ以上の追加の入力/出力コンポーネントも含む。そのような追加の入力/出力コンポーネントには、1つ以上の触覚フィードバックコンポーネント(例えばウェアラブルコンポーネント)、ディスプレイ画面、キーボード、マウスコントロール、タッチスクリーン、マイクロフォン、スピーカ、ディスプレイ画面、トラックボール、スクロールホイール、バイオメトリックセンサ(例えば脳波センサ(EEG)、心拍モニタ、アイトラッキング又は身体運動トラッキングデバイス、体温センサ)等を含み、ユーザからの情報の受信と、ユーザへの情報の表示又は他の方法による通信を可能にする。
図示されるコンピュータデバイス110は、該コンピュータデバイス110が1つ以上の別個のコンピュータデバイス又はシステムと通信することを可能にする通信チャネル108を含む。例えばコンピュータデバイス110は、例えばローカルエリアネットワーク(「LAN」)、広域ネットワーク(「WAN」)又はインターネットとして構成され得るネットワーク140の一部であってよい。一部の実施形態において、コンピュータデバイス110は、複数の別個のコンピュータシステム150a〜150nによって示されるように、分散コンピュータ環境150と通信するか、かつ/又は分散コンピュータ環境150の一部である。複数の別個のコンピュータシステム150a〜150nの各々は、全体又は部分的に、システム100内に図示される開示されたコンポーネントのうちの1つ以上、例えばメモリコンポーネント、アプリケーションコンポーネント又は他のコンポーネントのいずれか、のうちの1つ以上を含んでよい。
コンピュータデバイス110は、以下でより詳細に説明される実行可能モジュール又は実行可能コンポーネント114〜122も含む。本明細書で使用されるとき、「実行可能モジュール」又は「実行可能コンポーネント」という用語は、コンピューティングシステム上で実行され得るソフトウェアオブジェクト、ルーティング又はメソッド(method)を指すことがある。本明細書で説明される様々なコンポーネント、モジュール、エンジン及びサービスは、コンピューティングシステム上で実行されるオブジェクト又はプロセスとして実装され得る。
図示されるコンピュータデバイス110は、コンピュータデバイス110上での動作が可能なアプリケーション130も含む。アプリケーション130は、ゲームアプリケーション、オーディオビジュアルアプリケーション、3Dモデリング/ビジュアライゼーションアプリケーション、グラフィックデザインアプリケーション、エンジニアリングモデリングアプリケーション、アーキテクチャ設計アプリケーション、あるいは物理的な現実のシーン内に又は重畳して少なくとも1つのホログラフィックオブジェクトをレンダリングするよう動作可能なMRディスプレイを利用する任意の他のアプリケーションとすることができる。
図示されるように、アプリケーション130は、1つ以上の割り当てられたホログラフィックオブジェクト特性134を有する1つ以上のホログラフィックオブジェクト132を含む。例えば特定のホログラフィックオブジェクトは、該ホログラフィックオブジェクトが表示される方法(例えばオーディオ及び/又はビジュアル効果)、ホログラフィックオブジェクトがユーザ入力に反応する方法及び/又はホログラフィックオブジェクトがレンダリングされる複合現実環境の他の要素とそのホログラフィックオブジェクトが対話する方法を定義する1つ以上の特性を有することができる。例えば大きな石としてレンダリングされるように構成されるホログラフィックオブジェクトは、「重い」「硬い」「高密度(dense)」及び同様のものを含む一組の割り当てられたホログラフィックオブジェクト特性を有してよく、一方、ガラスの花瓶としてレンダリングされるよう構成されるホログラフィックオブジェクトは、「割れやすい」、「壊れやすい」、「充填可能(fillable)」、「非柔軟」及び同様のものを含む一組の割り当てられたホログラフィックオブジェクト特性を有してよい。
図示される実施形態では、アプリケーション130は、該アプリケーション130によって検出可能な1つ以上の物理的オブジェクトに割り当て可能な特性を定義する、1つ以上の物理的オブジェクト特性136の組も含む。例えMRシーン内で検出される壁、床又は天井は、「貫通できない(impenetrable)」、「通行できない(impassable)」及び同様のものを含む1組の割り当てられたオブジェクト特性を有することができる。一部の実施形態において、1つ以上の物理的オブジェクト特性136は、これらが割り当てられる物理的オブジェクトの実際の物理的特性に必ずしも対応しない仮想特性である。例えばゲームアプリケーションにおいて、おもちゃの剣は、そのおもちゃの剣が実際には鈍くて比較的柔い場合であっても、「鋭い」及び「硬い」を含む一組の物理的オブジェクト特性を有するよう構成されてもよい。
特定のホログラフィックオブジェクト132の異なるホログラフィックオブジェクト特性134は、静的であってもよく、動的及び/又は変更可能であってもよい。例えば一部のホログラフィックオブジェクト特性134又は物理的オブジェクト特性136は、経時的に変化し、かつ/又はユーザ設定、アプリケーション状態、ゲームレベル等に従って変化するよう構成されてよい。
図示されるように、アプリケーション130は、1つ以上の検出可能な物理的オブジェクトと1つ以上のホログラフィックオブジェクト132との間の検出可能な関係を定義する1つ以上の関係定義138の組も含む。以下でより詳細に説明されるように、一部の実施形態において、ホログラフィックオブジェクトと物理的オブジェクトとの間の特定の関係の検出は、ホログラフィックオブジェクトに対する変更、1つ以上の新たなホログラフィックオブジェクトのレンダリング又は物理的オブジェクトに対する変更、のうちの1つ以上を引き起こすよう作用する。
図示されるコンピュータデバイス110は、複合現実シーン内の1つ以上の物理的オブジェクトを検出及び/又は識別するために構成されるオブジェクト認識エンジン114も含む。オブジェクト認識エンジン114は、エッジ、リッジ及び角検出、勾配マッチング、並びに当技術分野で公知の他のモデル及びアルゴリズムを使用してオブジェクトを検出して識別するように動作することができる。
図示されるコンピュータデバイス110は、物理的オブジェクトの検出があると、物理的オブジェクト特性136を、対応する物理的オブジェクトに割り当てるよう構成される特性割り当て器116も含む。例えば一部の例では、アプリケーション130は、窓を「粉々に砕けやすい(shatterable)」及び「反射する」(例えばそれらが実際に物理的に粉々に砕けやすいか反射するかにかかわらず)として定義する物理的オブジェクト特性136を含む。オブジェクト認識エンジン114によって複合現実シーン内で窓が検出されると、特性割り当て器116は、検出された窓に「粉々に砕けやすい」及び「反射する」特性を割り当てる。
一部の実施形態において、特性割り当て器116は、ホログラフィックオブジェクト特性134を、対応するホログラフィックオブジェクト132に割り当てるようにも構成される。他の実施形態では、ホログラフィックオブジェクト特性134は、アプリケーション130自体によってホログラフィック特性132に割り当てられる。
図示されるコンピュータデバイス110は、ホログラフィックオブジェクト132と検出される物理的オブジェクトとの間の関係を検出して識別する関係検出器118も含む。窓の例を続けると、関係検出器118は、窓に対するホログラフィック野球ボールの近接性及び軌道によって定義される、窓とホログラフィック野球ボールとの間の関係を検出することができ、あるいは窓に対するホログラフィックレーザビームの向き/照準によって定義される、窓とホログラフィックレーザビームとの間の関係を検出することができる。
図示されるコンピュータデバイス110は、ホログラフィックオブジェクト132と、所定の関係定義138を満たす検出された物理的オブジェクトとの間の検出された関係に従って、ホログラフィックオブジェクト132のレンダリングを制御するよう構成されるホログラム変更器120も含む。窓の例を続けると、ホログラフィック野球ボールの軌道が窓と整列するとき、関係検出器118によって検出されるように、「粉々に砕けやすい」特性を有する窓がそのような関係の下で粉々に砕けることを定義する関係定義138に従って、ホログラム変更器120は、ホログラフィック野球ボールが窓の中に入るときに粉砕効果をレンダリングするように動作可能である。粉砕効果は、例えば窓から落下するようにアニメーション化されるホログラフィック破片(shards)、窓に残っているホログラフィック亀裂(cracks)及び/又は粉砕音の効果の生成を含んでよい。別の例では、ホログラフィックレーザビームの向きが窓に面するとき、関係検出器118によって検出されるように、「反射」特性を有する窓がレーザビームを反射することを定義する関係定義138に従って、ホログラム変更器120は、(例えば窓に対するレーザビームの角度に基づいて)窓からの反射するようにホログラフィックレーザビームを変更するように動作可能である。
図示されるコンピュータデバイス110はオブジェクトコントローラ122も含む。一部の実施形態では、複合現実シーン内の1つ以上の変更可能な物理的オブジェクト160は、1つ以上の変更可能な物理的オブジェクト160と1つ以上のホログラフィックオブジェクト132との間の検出された関係に応答して作動可能又は変更可能であるように構成される。例えば変更可能な物理的オブジェクト160はファンであってよく、(例えば関係定義138によって定義され、関係検出器118によって検出されるように)、ファンに対するホログラフィック電源ケーブルの近接性に従って、ファンの電源をオン及びオフにすることができる。
図1に図示される様々なコンポーネントは、ホログラフィックオブジェクトと物理的オブジェクトとの間の検出された関係に従ってホログラフィックオブジェクトをレンダリングするために構成されるコンピュータシステムの数例の実装を表すものにすぎない。他の実施形態は、説明されたメモリ/ストレージ、モジュール、コンポーネント及び/又は機能を、アプリケーション130とコンピュータデバイス110(例えばコンピュータデバイス110のオペレーティングシステム)との間で、かつ/又は追加のコンピュータシステムの間で異なるように分けてもよい。例えば一部の実施形態において、特性割り当て器116、関係検出器118及び/又はホログラム変更器120は、アプリケーション130によって管理され、制御される。一部の実施形態では、ホログラフィックオブジェクト132、ホログラフィックオブジェクト特性134、物理的オブジェクト特性136及び/又は関係定義138に関連するデータ構造は、1つ以上の別個のコンピュータデバイス/システムから、例えば1つ以上のコンピュータデバイス150a〜150n等から受け取られる。
一部の実施形態において、メモリコンポーネント及び/又はプログラムモジュールは、分散環境内の複数の構成コンピュータシステム(例えば150a〜150n)にまたがって分散される。他の実施形態では、メモリコンポーネント及びプログラムモジュールは、単一の統合コンピュータシステムに含まれる。したがって、本明細書で説明されるシステム及び方法は、説明されるコンポーネントが配置される特定の場所及び/又はそれらの機能が実行される特定の場所に基づいて限定されるように意図されていない。
以下の説明では、実施形態は、1つ以上のコンピューティングシステムによって実行される動作に関連して説明される。そのような動作がソフトウェアで実施される場合、動作を実行する関連するコンピューティングシステムの1つ以上のプロセッサは、コンピューティングシステムのプロセッサが1つ以上のコンピュータ読取可能媒体(例えばハードウェアストレージデバイス)上に具現化されるコンピュータ実行可能命令を実行したことに応答して、コンピューティングシステムのオペレーションを指示する。そのようなオペレーションの一例は、データの操作を含む。
コンピュータ実行可能命令(及び操作されたデータ)は、コンピュータデバイス110のメモリ102内に、かつ/又は1つ以上の別個のコンピュータシステムコンポーネント内に格納されてよい。コンピュータ実行可能命令を使用して、図2〜図4のフロー図の1つ以上に関連して開示される機能性を含む、本明細書で開示されるすべての機能を実装し、かつ/又はインスタンス化(instantiate)することができる。図2〜図4によって図示されるコンピュータ実施方法の以下の説明は、例示のアプリケーション及びコンピュータシステムを含む。当業者は、特定の方法が、使用される特定の例に限定されないことを理解するであろう。同様に、当業者は、特定の例示のアプリケーション又はコンピュータシステムが、これが説明される特定の実施形態に制限される必要はないが、本明細書で説明される他の実施形態の1つ以上において全体又は部分的に利用されてもよいことを理解するであろう。
図2は、ホログラムと1つ以上の物理的オブジェクトとの間の物理的関係に従ってホログラムを再構成するためのコンピュータ実施方法に関連する動作のフローチャート200である。図示されるように、コンピュータシステムは物理的オブジェクトを識別するが、物理的オブジェクトは、物理的オブジェクトと1つ以上のホログラムオブジェクトとの間の物理的関係に従って1つ以上のホログラムオブジェクトに関連付けられている(動作210)。この関係は、前述したように、対応するオブジェクトに関連付けられる、格納されているホログラフィックオブジェクト特性及び物理的オブジェクト特性に基づくことができる。
コンピュータシステムはまた、物理的オブジェクトに関連付けられるホログラムオブジェクトを識別するが、ホログラムオブジェクトは、識別されたホログラムオブジェクトと物理的オブジェクトとの間の物理的関係の1つ以上の態様に従って、物理的オブジェクトに反応するように構成される(動作220)。一例として、識別された物理的オブジェクトは杖であり、識別されたホログラムオブジェクトは、杖への近接性、キャラクタに対する杖の向き、及び/又は近接若しくは向きの時間に従って、杖に対して反応するよう構成されるゲームキャラクタであり得る。
コンピュータシステムは、続いて、物理的オブジェクトとホログラムオブジェクトとの間の物理的関係の変化を検出し(動作230)、物理的関係に対する検出された変化に従ってホログラムオブジェクトの1つ以上の特性を変更する(動作240)。例えばコンピュータシステムは、杖がキャラクタのより近くに配置されたこと及び/又は十分な期間の間キャラクタに向けられたことを検出することがある。これに応答して、コンピュータシステムは、健康レベル、強さレベル又は他の属性をアップグレード又はダウングレードすること等により、キャラクタ属性を変更することができる。次いで、コンピュータシステムは、変更されたホログラムオブジェクトを格納し(動作250)、オブジェクト特性を更新する。
一部の実施形態では、ホログラムオブジェクトに対する変更は、ホログラムオブジェクトの音声又は視覚的レンダリングに対する変化を招く。例えばホログラフィックキャラクタは、手を叩いたり、痛みで前かがみになったりする(hunch over)ことがある。あるいはまた、ホログラフィックオブジェクトに対する変更は、視覚的に又は聴覚的に直ちに示されない可能性があるホログラフィックオブジェクトの設定又は属性に対する変化を招く。例えばホログラフィックキャラクタが「レベルアップ」して追加の機能を付与されることがあり、あるいはホログラフィックオブジェクト特性における別の変化が変わることがあるが、そのような追加的機能又は物理的特性の変化は、更なるゲームプレイが指示する場合又は更なるゲームプレイが指示するとき、後の時間まで視覚的に明らかではなく、あるいは現れないことがある。
図3は、ホログラムと1つ以上の物理的オブジェクトとの間の物理的関係に従って新たなホログラムを生成するか又はホログラムを変更するためのコンピュータ実施方法のフローチャート300を示す。コンピュータシステムは、ホログラムオブジェクトを識別し(動作310)、物理的オブジェクトを識別するが、物理的オブジェクトは、該物理的オブジェクトとホログラムオブジェクトとの間の物理的関係に従ってホログラムオブジェクトに関連付けられている(動作320)。例えば識別されたホログラムオブジェクトは、ホログラフィックトーチであってよく、識別された物理的オブジェクトは、焚き火のまき(fire log)(例えば実際の又は合成)であってよい。
コンピュータシステムはまた、ホログラムオブジェクトと物理的オブジェクトとの間の物理的関係の1つ以上の態様への変化を検出し(動作330)、物理的関係への検出された変化に応答して、新たなホログラムオブジェクトを生成するか又はホログラムオブジェクトを変更するが、新たな又は変更されたホログラムオブジェクトは、識別されたホログラムオブジェクトと識別された物理的オブジェクトとの間の反応をシミュレートする(動作340)。コンピュータシステムは次いで、新たな又は変更されたホログラムオブジェクトのマッピングを格納する(動作350)。例えばホログラフィックトーチが焚き火のまきに十分に近接して適切な向きに持って来られると(例えばトーチの点灯端部が焚き火のまきに「接触」するように)、コンピュータシステムは、焚き火のまきを囲むホログラフィックフレームをレンダリングすることによって新たなホログラムを生成する。その後、ユーザ又は別のエンティティがMR視覚システムを通して焚き火のまきを見ると、ホログラフィックフレームが焚き火のまきに関連付けられてマップされているので、焚き火のまきを囲んでいるホログラフィックフレームを見ることになる。
図4は、シミュレートされた活動又はホログラムの関連する物理的特性に応答して、物理的装置を変更するためのコンピュータ実施方法のフローチャート400を示す。図示されるように、コンピュータシステムは、ホログラムオブジェクトを識別し(動作410)、物理的オブジェクトを識別するが、物理的オブジェクトは、物理的オブジェクトとホログラムオブジェクトとの間の物理的関係に従って、ホログラムオブジェクトに関連付けられている(動作420)。例えば識別されたホログラムオブジェクトはホログラフィックバッテリであってよく、識別された物理的オブジェクトはディスプレイ画面であってよい。
コンピュータシステムはまた、ホログラムオブジェクトと物理的オブジェクトとの間の物理的関係の1つ以上の態様への変化を検出し(動作430)、物理的関係に対する検出された変化に応答して、物理的オブジェクトを変更する(動作440)。コンピュータシステムは次いで、変更に従って物理的オブジェクトの状態を格納することができる(動作450)。例えばコンピュータシステムは、バッテリがディスプレイ画面に隣接して配置されたことを検出し、それに応答してディスプレイ画面をオンにすることができる。
図5〜図9は、様々な例示的な実施形態のオペレーション及び機能を図示している。本明細書で説明され、特許請求の範囲に記載された概念及び特徴の範囲は、これらの特定の図示された例に限定されず、参照される種類の適用にも限定されない。
図5は、ホログラフィック氷ブロック502と、人形504の形の物理的オブジェクトを含むMR環境を図示している。この例では、人形504に「熱い」という特性が割り当てられ、ホログラフィック氷ブロック502には「溶ける(meltable)」という特性が割り当てられているので、人形504とび氷ブロック502が十分な時間にわたって十分に近接して配置されると、ホログラフィック氷ブロックはホログラフィックの溶けた氷ブロック506としてレンダリングされる。
一部の実施形態において、提示される変更効果の程度は、物理的オブジェクトとホログラフィックオブジェクトとの間の物理的関係の相対的な程度に従って進むことができる。例えば人形504が氷ブロック502のより近くに配置される場合、ホログラフィック氷ブロック502はより速く溶けてよい。加えて、物理的関係の持続時間が続くと、ホログラフィック氷ブロック502は、それが水たまりになるまで、あるいはそれが蒸発して完全に消えるまで、時間とともに進行してより一層溶けるようになってもよい。
図6は、ホログラフィック氷ブロック602と、ナイフ604(例えばおもちゃのナイフ)の形の物理的オブジェクトを含む複合現実環境を図示している。この例では、ナイフ604には「鋭い」という特性が割り当てられ、ホログラフィック氷ブロック602には「削ることができる(chippable)」という特性が割り当てられているので、ナイフ604と氷ブロック602が適切な向きで(例えばナイフの刃が氷ブロック602に面して)十分近くにされると、ホログラフィック氷ブロック602は、削られた氷ブロック606としてレンダリングされる。削る動作は、ナイフがMR環境内の氷ブロック602と接触(すなわち、視覚的な交差)するようにされるときにリアルタイムで動的に生じてよい。
図5及び図6で示される例は、特定のホログラフィックオブジェクトが複数の異なる特性を有することができ、かつ異なる物理的オブジェクトとの異なる対話に基づいて複数の対応する効果を提示することができることを示す。例えば一部の実施形態では、氷ブロック502と氷ブロック602は、異なる物理的オブジェクト(例えば人形504及びナイフ604)との物理的関係に従って異なる反応をするよう構成された同じホログラフィックオブジェクトを表してよい。あるいはまた、一部の実施形態では、特定のホログラフィックオブジェクトは、それぞれのオブジェクト間の物理的関係の特定のパラメータに応じて、同じ関連する物理的オブジェクトに対して異なる反応をしてもよい(図8を参照されたい)。
図7は、ホログラフィックブローランプ702と物理的な壁704を含む複合現実環境を図示している。この例では、ホログラフィックブローランプ702に「焦がす」という特性が割り当てられ、壁704に「可燃」という特性が割り当てられている。図示されるように、ホログラフィックブローランプ702が壁704に対する位置を変えると、壁704に対する焦がし効果をシミュレートする新たなホログラム706が生成される。この例では、機能的関係がホログラフィックブローランプ702と物理的な壁704との間にあり、その結果として得られる効果は、1つ以上の新たなホログラム(すなわち、壁のマップされた位置(mapped location)でMRファイル内に永続的に保存される壁の焦げた部分の新たなホログラム706、並びに一時的であってもよいが煙のホログラム(現在は図示せず))であり、一方、元のホログラムオブジェクト(すなわち、ブローランプ702)は、変更されずに残る。
図8は、ホログラフィック卵802と物理的な面804(例えばテーブルトップ)を含む複合現実環境を図示している。この例では、ホログラフィック卵802に「割れやすい」という特性が割り当てられ、面804に「硬い」という特性が割り当てられているので、MR環境内でホログラフィック卵802が十分な力/速さで面804に接触するようにされる場合、ホログラフィック卵802は壊れることになる。例えばホログラフィック卵802が比較的小さい力又は速さで面804と接触される場合、卵802は、ひび割れはあるがまだそのままのホログラフィック卵806としてレンダリングされる。対照的に、ホログラフィック卵802が比較的大きな力又は速さで面804と接触される場合、卵802は、完全に割れたホログラフィック卵808としてレンダリングされる。
図9は、ホログラフィック球902及び物理的な電球904を含む複合現実環境の実施形態を図示している。この例では、電球904の特性(例えばオン及びオフ状態、色等)は、ホログラフィック球902と電球904との間の物理的関係によって影響される。例えばホログラフィック球902が電球904に「投げられる」と、オブジェクト間の物理的近接性の変化が検出され、接続されたシステムを通して電球904のスイッチを作動させることにより、電球904が点灯することになる。同様の実施形態は、ホログラフィックオブジェクトとオーディオコントロール(例えば音量コントロール)との間の対話、表示コントロール、パワーコントロール、作動機構及び/又は作動可能な若しくは調節可能な物理的オブジェクトとホログラフィックオブジェクトとの間の他の対話を含み得る。
開示される実施形態は、例えば1つ以上のプロセッサ及びシステムメモリ等のようなコンピュータハードウェアを含む専用又は汎用のコンピュータシステムを備えるか、利用することができる。本発明の範囲内の実施形態は、コンピュータ実行可能命令及び/又はデータ構造を搬送又は格納するための物理的なコンピュータ読取可能媒体及び他のコンピュータ読取可能媒体も含む。そのようなコンピュータ読取可能媒体は、汎用又は専用コンピュータシステムによってアクセス可能な任意の利用可能な媒体とすることができる。コンピュータ実行可能命令及び/又はデータ構造を格納するコンピュータ読取可能媒体は、コンピュータ記憶媒体である。コンピュータ実行可能命令及び/又はデータ構造を搬送するコンピュータ読取可能媒体は、伝送媒体である。したがって、限定ではなく例として、本発明の実施形態は、コンピュータ記憶媒体と伝送媒体という少なくとも2つの明確に異なる種類のコンピュータ読取可能媒体を含む可能性がある。
コンピュータ記憶媒体は、コンピュータ実行可能命令及び/又はデータ構造を格納する物理的記憶媒体である。物理的記憶媒体には、RAM、ROM、EEPROM、半導体ドライブ(SSD)、フラッシュメモリ、相変化メモリ(PCM)、光ディスクストレージ、磁気ディスクストレージ又は他の磁気ストレージデバイス等のコンピュータハードウェア、あるいは汎用又は専用コンピュータシステムによってアクセス及び実行されて開示される機能を実施することができるコンピュータ実行可能命令又はデータ構造の形でプログラムコードを記憶するために使用することができ、任意の他のハードウェアストレージデバイスを含む。
伝送媒体は、コンピュータ実行可能命令又はデータ構造の形でプログラムコードを搬送するために使用することができ、汎用又は専用コンピュータシステムによってアクセスすることができるネットワーク及び/又はデータリンクを含むことができる。「ネットワーク」は、コンピュータシステム及び/又はモジュール及び/又は他の電子デバイスの間で電子データの転送を可能にする1つ以上のデータリンクとして定義される。情報が、ネットワーク又は他の通信接続(有線、無線、あるいは有線又は無線の組合せ)を介してコンピュータシステムに転送又は提供されるとき、コンピュータシステムはその接続を伝送媒体として見ることができる。上記の組合せも、コンピュータ読取可能媒体の範囲内に含まれるべきである。
さらに、様々なコンピュータシステムコンポーネントに到達すると、コンピュータ実行可能命令又はデータ構造の形のプログラムコードを、伝送媒体からコンピュータ記憶媒体へ(又はその逆も)自動的に転送することができる。例えばネットワーク又はデータリンクを介して受信されるコンピュータ実行可能命令又はデータ構造は、ネットワークインターフェースモジュール(例えば「NIC」)内のRAMにバッファされ、最終的にコンピュータシステムRAMに及び/又はコンピュータシステムの弱揮発性(less volatile)のコンピュータ記憶媒体に転送され得る。したがって、コンピュータ記憶媒体は、伝送媒体をも(又は主に)利用するコンピュータシステムコンポーネントに含まれ得ることを理解されたい。
コンピュータ実行可能命令は、例えば1つ以上のプロセッサで実行されると、汎用コンピュータシステム、専用コンピュータシステム又は専用処理デバイスに特定の機能又は一群の機能を実行させる命令及びデータを含む。コンピュータ実行可能命令は、例えばバイナリ、アセンブリ言語のような中間フォーマット命令、あるいはソースコードでもよい。
当業者であれば、本発明が、パーソナルコンピュータ、デスクトップコンピュータ、ラップトップコンピュータ、メッセージプロセッサ、ハンドヘルドデバイス、マルチプロセッサシステム、マルチプロセッサベース又はプログラム可能な家庭用電子機器、ネットワークPC、ミニコンピュータ、メインフレームコンピュータ、携帯電話、PDA、タブレット、ページャ、ルータ、スイッチ、仮想又は拡張現実ヘッドセット及び同様のものを含む、多くのタイプのコンピュータシステム構成を用いてネットワークコンピューティング環境内で実施されてよいことを認識するであろう。また、本発明は、ネットワークを介して(有線データリンク、無線データリンクのいずれかによって、あるいは有線及び無線データリンクの組合せによって)リンクされるローカルコンピュータシステムとリモートコンピュータシステムの双方がタスクを実行する分散システム環境において実施されてもよい。したがって、分散システム環境において、コンピュータシステムは、複数の構成要素たるコンピュータシステムを含むことができる。分散システム環境では、プログラムモジュールは、ローカルメモリストレージデバイスとリモートメモリストレージデバイスの双方に配置されてもよい。
当業者であれば、本発明がクラウドコンピューティング環境で実施されてもよいことも理解するであろう。クラウドコンピューティング環境は、必ずしも必要ではないが分散され得る。分散されるとき、クラウドコンピューティング環境は、組織内で国際的に分散されてよく、かつ/又は複数の組織にまたがって所有されるコンポーネントを有してもよい。本明細書及び特許請求の範囲において、「クラウドコンピューティング」は、構成可能なコンピューティングリソース(例えばネットワーク、サーバ、ストレージ、アプリケーション及びサービス)の共有プールへのオンデマンドネットワークアクセスを可能にするモデルとして定義される。「クラウドコンピューティング」の定義は、適切に展開されるときに、そのようなモデルから得られる可能性のある他の多くの利点のいずれかに限定されない。
クラウドコンピューティングモデルは、オンデマンドセルフサービス、ブロードネットワークアクセス、リソースプーリング、高速弾力性(rapid elasticity)、測定サービス(measured service)等のような様々な特性から構成され得る。クラウドコンピューティングモデルは、ソフトウェア・アズ・ア・サービス(「SaaS」)、プラットフォーム・アズ・ア・サービス(「PaaS」)及びインフラストラクチャ・アズ・ア・サービス(「IaaS」)のような様々なサービスモデルの形で現れてもよい。クラウドコンピューティングモデルは、プライベートクラウド、コミュニティクラウド、パブリッククラウド、ハイブリッドクラウド等のような異なる展開モデルを使用して展開されてもよい。
クラウドコンピューティング環境のような一部の実施形態は、各々が1つ以上の仮想マシンを実行することができる1つ以上のホストを含む、システムを備えることができる。動作中に、仮想マシンは、オペレーティングシステムと、おそらくは1つ以上の他のアプリケーションもサポートする、オペレーショナルコンピューティングシステムをエミュレートする。一部の実施形態では、各ホストはハイパーバイザを含む。ハイパーバイザは、仮想マシンのビューから抽象化される物理的リソースを使用して仮想マシンの仮想リソースをエミュレートする。ハイパーバイザはまた、仮想マシンの間を適切な分離を提供する。したがって、任意の所与の仮想マシンの観点から、ハイパーバイザは、仮想マシンが物理的リソースの外観(例えば仮想リソース)のみしかインタフェースをとらない場合であっても、仮想マシンが物理的リソースとインタフェースしているという錯覚を提供する。物理的リソースの例は、処理能力、メモリ、ディスク容量、ネットワーク帯域幅等を含む。
本発明は、その精神又は本質的な特徴から逸脱することなく、他の特定の形態で実施されてもよい。説明される実施形態は、すべての点において、例示にすぎず限定的なものではないとみなされるべきである。したがって、本発明の範囲は、上記の説明によってではなく、添付の特許請求の範囲によって示される。特許請求の範囲と均等の意味及び範囲内に入るすべての変更は、その範囲内に含まれるべきである。

Claims (15)

  1. ホログラムと1つ以上の物理的オブジェクトとの間の物理的関係に従ってホログラムを再構成するために構成されるコンピュータシステムであって、当該コンピュータシステムは:
    1つ以上のプロセッサと;
    前記1つ以上のプロセッサによって実行可能であり、当該コンピュータシステムに、少なくとも、
    物理的オブジェクトを識別するステップであって、前記物理的オブジェクトは、該物理的オブジェクトと1つ以上のホログラムオブジェクトとの間の物理的関係に従って前記1つ以上のホログラムオブジェクトに関連付けられている、ステップと、
    前記物理的オブジェクトに関連付けられるホログラムオブジェクトを識別するステップであって、該ホログラムオブジェクトは、前記識別された物理的オブジェクトと該ホログラムオブジェクトとの間の物理的関係の1つ以上の態様に従って前記物理的オブジェクトに反応するように構成されている、ステップと、
    前記物理的オブジェクトと前記ホログラムオブジェクトとの間の前記物理的関係への変化を検出するステップと、
    前記物理的関係への前記検出された変化に従って、前記ホログラムオブジェクトの1つ以上の特性を変更するステップと、
    前記変更されたホログラムオブジェクトを格納するステップと、
    を実行させる、コンピュータ実行可能命令を格納する1つ以上のハードウェアストレージデバイスと;
    を備える、コンピュータシステム。
  2. 前記コンピュータ実行可能命令はまた、当該コンピュータシステムに、前記識別された物理的オブジェクトに1つ以上の仮想特性を割り当てさせるように実行可能であり、前記1つ以上の仮想特性は、前記物理的オブジェクトと前記ホログラムオブジェクトとの間の前記物理的関係に従って、前記識別されたホログラムオブジェクトの1つ以上の反応を少なくとも部分的に定義する、
    請求項1に記載のコンピュータシステム。
  3. 前記の仮想特性のうちの1つ以上が、前記識別された物理的オブジェクトの実際の物理的特性に対応しない、
    請求項1に記載のコンピュータシステム。
  4. 前記コンピュータ実行可能命令はまた、当該コンピュータシステムに、前記識別されたホログラムオブジェクトに1つ以上の特性を割り当てさせるように実行可能であり、前記1つ以上の特性は、前記物理的オブジェクトと前記ホログラムオブジェクトとの間の前記物理的関係に従って、前記識別されたホログラムオブジェクトの1つ以上の反応を少なくとも部分的に定義する、
    請求項2に記載のコンピュータシステム。
  5. 前記コンピュータ実行可能命令はまた、当該コンピュータシステムに、前記識別されたホログラムオブジェクトに1つ以上の特性を割り当てさせるように実行可能であり、前記1つ以上の特性は、前記物理的オブジェクトと前記ホログラムオブジェクトとの間の前記物理的関係に従って、前記識別されたホログラムオブジェクトの1つ以上の反応を少なくとも部分的に定義する、
    請求項1に記載のコンピュータシステム。
  6. 前記物理的オブジェクトと前記ホログラムオブジェクトとの間の前記物理的関係への前記検出された変化は、前記ホログラムオブジェクトに対する前記物理的オブジェクトの間の近接性における変化を含む、
    請求項1に記載のコンピュータシステム。
  7. 前記ホログラムオブジェクトの1つ以上の特性の前記変更は、前記ホログラムオブジェクトのオーディオビジュアル表示に対する変更を含む、
    請求項1に記載のコンピュータシステム。
  8. 前記ホログラムオブジェクトの1つ以上の特性の前記変更は、少なくとも1つ以上の追加入力が受け取られるまで聴覚的にも視覚的にも現れない前記ホログラムオブジェクトの設定又は状態に対する変更を含む、
    請求項1に記載のコンピュータシステム。
  9. ホログラムと1つ以上の物理的オブジェクトとの間の物理的関係に従って新たなホログラムを生成するかホログラムを変更するために構成されるコンピュータシステムであって、当該コンピュータシステムは:
    1つ以上のプロセッサと;
    前記1つ以上のプロセッサによって実行可能であり、当該コンピュータシステムに、少なくとも、
    ホログラムオブジェクトを識別するステップと、
    物理的オブジェクトを識別するステップであって、前記物理的オブジェクトは、該物理的オブジェクトと前記ホログラムオブジェクトとの間の物理的関係に従って前記ホログラムオブジェクトに関連付けられている、ステップと、
    前記物理的オブジェクトと前記ホログラムオブジェクトとの間の前記物理的関係の1つ以上の態様への変化を検出するステップと、
    前記物理的関係への前記検出された変化に応答して、新たなホログラムオブジェクトを生成するか前記ホログラムオブジェクトを変更するステップであって、該新たな又は変更されたホログラムオブジェクトは、前記識別されたホログラムオブジェクトと前記識別された物理的オブジェクトとの間の反応をシミュレートする、ステップと、
    前記新たな又は変更されたホログラムオブジェクトのマッピングを格納するステップと、
    を実行させるコンピュータ実行可能命令を格納する1つ以上のハードウェアストレージデバイスと;
    を備える、コンピュータシステム。
  10. 前記コンピュータ実行可能命令はまた、当該コンピュータシステムに、前記識別された物理的オブジェクトに1つ以上の仮想特性を割り当てさせるように実行可能であり、前記1つ以上の仮想特性は、前記物理的オブジェクトと前記ホログラムオブジェクトとの間の前記物理的関係に従って、前記識別されたホログラムオブジェクトの1つ以上の反応を少なくとも部分的に定義する、
    請求項9に記載のコンピュータシステム。
  11. 前記コンピュータ実行可能命令はまた、当該コンピュータシステムに、前記識別されたホログラムオブジェクトに1つ以上の特性を割り当てさせるように実行可能であり、前記1つ以上の特性は、前記物理的オブジェクトと前記ホログラムオブジェクトとの間の前記物理的関係に従って、前記識別されたホログラムオブジェクトの1つ以上の反応を少なくとも部分的に定義する、
    請求項9に記載のコンピュータシステム。
  12. 前記物理的関係への前記検出された変化に応答して新たなホログラムオブジェクトが生成される、
    請求項9に記載のコンピュータシステム。
  13. 前記識別されたホログラムオブジェクトは、変更されずに残る、
    請求項12に記載のコンピュータシステム。
  14. ホログラムのシミュレートされた活動に応答して物理的装置を変更するために構成されるコンピュータシステムであって、当該コンピュータシステムは:
    1つ以上のプロセッサと;
    前記1つ以上のプロセッサによって実行可能であり、当該コンピュータシステムに、少なくとも、
    ホログラムオブジェクトを識別するステップと、
    物理的オブジェクトを識別するステップであって、前記物理的オブジェクトは、該物理的オブジェクトと前記ホログラムオブジェクトとの間の物理的関係に従って前記ホログラムオブジェクトに関連付けられている、ステップと、
    前記物理的オブジェクトと前記ホログラムオブジェクトとの間の前記物理的関係の1つ以上の態様への変化を検出するステップと、
    前記物理的関係への前記検出された変化に応答して、前記物理的オブジェクトを変更するステップと、
    を実行させるコンピュータ実行可能命令を格納する1つ以上のハードウェアストレージデバイスと;
    を備える、コンピュータシステム。
  15. 前記物理的関係への前記検出された変化は、前記ホログラムオブジェクトに対する前記物理的オブジェクトの近接性又は向きのうちの1つ以上への変化を含む、
    請求項14に記載のコンピュータシステム。

JP2018566435A 2016-06-24 2017-06-13 ホログラフィックオブジェクトのリレーショナルレンダリング Pending JP2019527376A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022030555A JP2022066297A (ja) 2016-06-24 2022-03-01 ホログラフィックオブジェクトのリレーショナルレンダリング

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US15/192,543 2016-06-24
US15/192,543 US10169918B2 (en) 2016-06-24 2016-06-24 Relational rendering of holographic objects
PCT/US2017/037088 WO2017222859A1 (en) 2016-06-24 2017-06-13 Relational rendering of holographic objects

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2022030555A Division JP2022066297A (ja) 2016-06-24 2022-03-01 ホログラフィックオブジェクトのリレーショナルレンダリング

Publications (2)

Publication Number Publication Date
JP2019527376A true JP2019527376A (ja) 2019-09-26
JP2019527376A5 JP2019527376A5 (ja) 2020-06-25

Family

ID=59093631

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2018566435A Pending JP2019527376A (ja) 2016-06-24 2017-06-13 ホログラフィックオブジェクトのリレーショナルレンダリング
JP2022030555A Pending JP2022066297A (ja) 2016-06-24 2022-03-01 ホログラフィックオブジェクトのリレーショナルレンダリング

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2022030555A Pending JP2022066297A (ja) 2016-06-24 2022-03-01 ホログラフィックオブジェクトのリレーショナルレンダリング

Country Status (18)

Country Link
US (1) US10169918B2 (ja)
EP (1) EP3475841B1 (ja)
JP (2) JP2019527376A (ja)
KR (1) KR102338284B1 (ja)
CN (1) CN109313652B (ja)
AU (1) AU2017280917B2 (ja)
BR (1) BR112018074601B1 (ja)
CA (1) CA3023502C (ja)
CL (1) CL2018003614A1 (ja)
CO (1) CO2018013672A2 (ja)
IL (1) IL263753B (ja)
MX (1) MX2018015622A (ja)
NZ (1) NZ747871A (ja)
PH (1) PH12018550192A1 (ja)
RU (1) RU2751444C2 (ja)
SG (1) SG11201810175YA (ja)
WO (1) WO2017222859A1 (ja)
ZA (1) ZA201807406B (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10895950B2 (en) * 2016-12-09 2021-01-19 International Business Machines Corporation Method and system for generating a holographic image having simulated physical properties
US10303118B2 (en) * 2017-01-16 2019-05-28 International Business Machines Corporation Holographic representations of digital object transfers
US10937240B2 (en) * 2018-01-04 2021-03-02 Intel Corporation Augmented reality bindings of physical objects and virtual objects
US20200082630A1 (en) * 2018-09-07 2020-03-12 Anuj Sharma Augmented reality platform and method for nautical applications
WO2020081967A1 (en) * 2018-10-19 2020-04-23 Infinite Kingdoms Llc System for providing an immersive experience using multi-platform smart technology, content streaming, and special effects systems
US20200126302A1 (en) * 2018-10-20 2020-04-23 Anuj Sharma Augmented Reality Platform and Method
GB2578181A (en) * 2018-10-20 2020-04-22 Sharma Anuj Rudra smart city
GB2578337A (en) * 2018-10-22 2020-05-06 Sharma Anuj The infinity project
GB2579256A (en) * 2018-11-27 2020-06-17 Sharma Anuj The Krishi project
CN110060352A (zh) * 2019-04-17 2019-07-26 深圳天际云数字技术有限公司 三维模型全息交互方法和系统
DE112020002062T5 (de) * 2019-04-23 2022-05-19 Apple Inc. Wahrnehmungseigenschaftsvektor für ein objekt
US20220146822A1 (en) * 2019-08-15 2022-05-12 Ostendo Technologies, Inc. Wearable Display Systems and Design Methods Thereof
WO2021075055A1 (ja) * 2019-10-18 2021-04-22 富士通株式会社 情報処理方法、情報処理プログラム、情報処理装置および情報処理システム
CN113075999B (zh) * 2021-02-22 2024-03-29 余军涛 一种线上火炬传递用移动终端、系统及方法
CN115167087B (zh) * 2022-05-27 2023-12-26 四川大学 基于随机梯度下降优化算法的球面全息再现质量提升方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070257906A1 (en) * 2006-05-04 2007-11-08 Shimura Yukimi Virtual suction tool
JP2011521318A (ja) * 2008-04-16 2011-07-21 バーチュアル プロテインズ ベー.フェー. インタラクティブな仮想現実画像生成システム
JP2014010664A (ja) * 2012-06-29 2014-01-20 Sony Computer Entertainment Inc 映像処理装置、映像処理方法、および映像処理システム
US20140049559A1 (en) * 2012-08-17 2014-02-20 Rod G. Fleck Mixed reality holographic object development
JP2014071520A (ja) * 2012-09-27 2014-04-21 Kyocera Corp 表示装置、制御方法および制御プログラム

Family Cites Families (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0677187B1 (en) 1990-11-30 2002-09-18 Sun Microsystems, Inc. Improved method and apparatus for creating virtual worlds
US6175954B1 (en) 1997-10-30 2001-01-16 Fuji Xerox Co., Ltd. Computer programming using tangible user interface where physical icons (phicons) indicate: beginning and end of statements and program constructs; statements generated with re-programmable phicons and stored
US6771402B2 (en) * 2001-09-28 2004-08-03 Hewlett-Packard Development Company, L.P. Method and apparatus for generating a hologram
EP1712981A1 (en) * 2005-04-15 2006-10-18 Herman Bailey Interactive augmented reality system
US8730156B2 (en) * 2010-03-05 2014-05-20 Sony Computer Entertainment America Llc Maintaining multiple views on a shared stable virtual space
US8902227B2 (en) * 2007-09-10 2014-12-02 Sony Computer Entertainment America Llc Selective interactive mapping of real-world objects to create interactive virtual-world objects
WO2009035100A1 (ja) * 2007-09-14 2009-03-19 National Institute Of Advanced Industrial Science And Technology バーチャルリアリティ環境生成装置及びコントローラ装置
EP2067837B1 (en) * 2007-12-04 2011-11-23 Sony Corporation A display system
US8427424B2 (en) * 2008-09-30 2013-04-23 Microsoft Corporation Using physical objects in conjunction with an interactive surface
US20100245361A1 (en) * 2009-03-31 2010-09-30 Microsoft Corporation Context-based management of markers
US8292733B2 (en) 2009-08-31 2012-10-23 Disney Enterprises, Inc. Entertainment system providing dynamically augmented game surfaces for interactive fun and learning
CN105843396B (zh) * 2010-03-05 2019-01-01 索尼电脑娱乐美国公司 在共享的稳定虚拟空间上维持多视图的方法
US8913085B2 (en) * 2010-12-22 2014-12-16 Intel Corporation Object mapping techniques for mobile augmented reality applications
KR20140045574A (ko) 2011-09-08 2014-04-16 인텔 코오퍼레이션 이미지화된 오브젝트 특성들에 기초한 증강 현실
US20130137076A1 (en) * 2011-11-30 2013-05-30 Kathryn Stone Perez Head-mounted display based education and instruction
US9734633B2 (en) * 2012-01-27 2017-08-15 Microsoft Technology Licensing, Llc Virtual environment generating system
US20130307855A1 (en) 2012-05-16 2013-11-21 Mathew J. Lamb Holographic story telling
US9645394B2 (en) * 2012-06-25 2017-05-09 Microsoft Technology Licensing, Llc Configured virtual environments
US9767720B2 (en) * 2012-06-25 2017-09-19 Microsoft Technology Licensing, Llc Object-centric mixed reality space
RU2502950C1 (ru) * 2012-07-31 2013-12-27 Федеральное государственное бюджетное образовательное учреждение высшего профессионального образования "Казанский государственный энергетический университет" (ФГБОУ ВПО "КГЭУ") Способ голографической визуализации обтекания движущегося тела
US20140071163A1 (en) * 2012-09-11 2014-03-13 Peter Tobias Kinnebrew Augmented reality information detail
KR101950939B1 (ko) * 2012-09-13 2019-02-22 삼성전자주식회사 홀로그래픽 객체 처리 장치 및 그 동작 방법
US9378592B2 (en) * 2012-09-14 2016-06-28 Lg Electronics Inc. Apparatus and method of providing user interface on head mounted display and head mounted display thereof
US20140160162A1 (en) 2012-12-12 2014-06-12 Dhanushan Balachandreswaran Surface projection device for augmented reality
US9208583B2 (en) * 2013-02-13 2015-12-08 Blackberry Limited Device with enhanced augmented reality functionality
CN105190725A (zh) * 2013-03-11 2015-12-23 林肯环球股份有限公司 提供组合的虚拟现实弧焊和三维(3d)观看的系统和方法
US9846965B2 (en) 2013-03-15 2017-12-19 Disney Enterprises, Inc. Augmented reality device with predefined object data
US9367136B2 (en) * 2013-04-12 2016-06-14 Microsoft Technology Licensing, Llc Holographic object feedback
US20140368537A1 (en) * 2013-06-18 2014-12-18 Tom G. Salter Shared and private holographic objects
US9607437B2 (en) * 2013-10-04 2017-03-28 Qualcomm Incorporated Generating augmented reality content for unknown objects
US9911231B2 (en) * 2013-10-08 2018-03-06 Samsung Electronics Co., Ltd. Method and computing device for providing augmented reality
CN103761085B (zh) * 2013-12-18 2018-01-19 微软技术许可有限责任公司 混合现实全息对象开发
US10007413B2 (en) * 2015-04-27 2018-06-26 Microsoft Technology Licensing, Llc Mixed environment display of attached control elements
US9665170B1 (en) * 2015-06-10 2017-05-30 Visionary Vr, Inc. System and method for presenting virtual reality content to a user based on body posture
US9990078B2 (en) * 2015-12-11 2018-06-05 Immersion Corporation Systems and methods for position-based haptic effects
CN105549371B (zh) * 2016-03-04 2018-01-12 北京工业大学 一种多角度连续太赫兹波照明数字全息成像方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070257906A1 (en) * 2006-05-04 2007-11-08 Shimura Yukimi Virtual suction tool
JP2011521318A (ja) * 2008-04-16 2011-07-21 バーチュアル プロテインズ ベー.フェー. インタラクティブな仮想現実画像生成システム
JP2014010664A (ja) * 2012-06-29 2014-01-20 Sony Computer Entertainment Inc 映像処理装置、映像処理方法、および映像処理システム
US20140049559A1 (en) * 2012-08-17 2014-02-20 Rod G. Fleck Mixed reality holographic object development
JP2014071520A (ja) * 2012-09-27 2014-04-21 Kyocera Corp 表示装置、制御方法および制御プログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
"フュージョンフレンジー2 NBA ライブ 07", ファミ通XBOX 360 第5巻 第12号, vol. 第5巻, JPN6021014246, 2 November 2006 (2006-11-02), JP, pages 143頁, ISSN: 0004734460 *

Also Published As

Publication number Publication date
AU2017280917A1 (en) 2018-11-22
US20170372518A1 (en) 2017-12-28
CA3023502A1 (en) 2017-12-28
CN109313652B (zh) 2021-09-17
MX2018015622A (es) 2019-03-06
CA3023502C (en) 2024-01-02
BR112018074601A2 (pt) 2019-03-19
CL2018003614A1 (es) 2019-03-22
WO2017222859A1 (en) 2017-12-28
EP3475841B1 (en) 2021-05-26
CO2018013672A2 (es) 2018-12-28
PH12018550192A1 (en) 2019-09-30
US10169918B2 (en) 2019-01-01
IL263753A (en) 2019-01-31
IL263753B (en) 2021-07-29
BR112018074601A8 (pt) 2023-01-31
NZ747871A (en) 2022-04-29
RU2018145295A (ru) 2020-06-22
JP2022066297A (ja) 2022-04-28
RU2751444C2 (ru) 2021-07-13
KR20190022693A (ko) 2019-03-06
CN109313652A (zh) 2019-02-05
ZA201807406B (en) 2020-01-29
KR102338284B1 (ko) 2021-12-09
AU2017280917B2 (en) 2021-09-09
EP3475841A1 (en) 2019-05-01
RU2018145295A3 (ja) 2020-09-11
BR112018074601B1 (pt) 2023-12-26
SG11201810175YA (en) 2019-01-30

Similar Documents

Publication Publication Date Title
KR102338284B1 (ko) 홀로그래픽 객체의 상관적 렌더링
US10217289B2 (en) Augmented reality device with predefined object data
US10380803B1 (en) Methods and systems for virtualizing a target object within a mixed reality presentation
US10953336B2 (en) Role simulation method and terminal apparatus in VR scene
US10948997B1 (en) Artificial reality notification triggers
US9405432B2 (en) User-controlled 3D simulation for providing realistic and enhanced digital object viewing and interaction experience
JP7050883B2 (ja) 中心窩レンダリングシステムにおける、遅延ライティングの最適化、パーティクルの中心窩適応、及びシミュレーションモデル
CN112154405A (zh) 三维推送通知
KR20210111821A (ko) 3 차원 콘텐츠 내에서의 객체 위치설정 및 이동
US20190302255A1 (en) Accessibility of Virtual Environments Via Echolocation
CN117590935A (zh) 二维界面与人工现实界面之间的人工现实环境中视角共享
US20200226834A1 (en) Method and system for tracking data of a vr, ar or mr device wearer in real time
US11409405B1 (en) Augment orchestration in an artificial reality environment
FR2994298A1 (fr) Architecture logicielle pour un systeme de navigation virtuelle en temps reel
US20230260239A1 (en) Turning a Two-Dimensional Image into a Skybox
Wesson et al. Evaluating organic 3D sculpting using natural user interfaces with the Kinect
US20230367611A1 (en) World-Controlled and Application-Controlled Augments in an Artificial-Reality Environment
Persa et al. A framework for the design and evaluation of aggregated avatars in vr workspaces
Lopez AUGMENTED ENVIRONMENTS The Architecture for the Augmented Era
Tipparach The Design of Virtual Reality Based Data Visualization and User Interface Design in a Semi-Automated Cyber-Security Research Application
WO2023154560A1 (en) Turning a two-dimensional image into a skybox
Janis Interactive natural user interfaces
West Advanced 3-D Graphics: GNU Maverik--a VR Micro-Kernel
Gatzidis et al. A review of first-person shooter game engines and their use in researching scientific disciplines
PANTIC AUGMENTED ENVIRONMENTS

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200512

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200512

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210511

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20211102

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220301

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20220301

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20220308

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20220315

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20220325

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20220405

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20220607

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20221011

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20221108

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20221206

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20221206