本明細書における実施形態の1つの態様は、仮想現実(VR)又は拡張現実(AR)環境のための触覚アクセサリー装置に関する。触覚アクセサリー装置は、物理的物体に取り付けられるように構成された形状適合性を有する(conformable)本体と、形状適合性を有する本体の上又は中に配置された触覚出力デバイスと、形状適合性を有する本体の上又は中に配置され、触覚アクセサリー装置の動きを追跡するように構成されたモーションセンサーと、無線通信インターフェースユニット(及び/又は有線通信インターフェースユニット)とを備える。無線通信ユニットは、VR環境又はAR環境を提供するアプリケーションを実行するように構成されたコンピューターシステムに、モーションセンサーからのセンサー情報を無線通信し、コンピューターシステムから、触覚アクセサリー装置が触覚効果を出力すべきであることを示す信号を受信するように構成され、触覚アクセサリー装置の触覚出力デバイスは、上記信号に基づいて触覚効果を出力するように構成されている。触覚アクセサリー装置は、プロセッサ及び電源を更に備える。プロセッサは、形状適合性を有する本体の上又は中に配置され、少なくとも触覚出力デバイス、モーションセンサー及び無線通信インターフェースユニットと通信する。電源は形状適合性を有する本体の上又は中に配置され、少なくとも触覚出力デバイス、プロセッサ及び無線通信インターフェースユニットに電力を提供するように構成される。
一実施形態において、形状適合性を有する本体は、可撓性層から形成され、異なる物理的物体の異なる形状に適合するように再構成可能である。
一実施形態において、触覚アクセサリー装置は、形状適合性を有する本体の上に配置されたユーザー入力要素を更に備え、ユーザー入力要素はトリガー及びジョイスティックのうちの少なくとも一方であり、ユーザー入力要素はプロセッサと通信する。
一実施形態において、触覚アクセサリー装置は、物理的物体に取り付けられると、物理的物体にハンドヘルドコントローラー機能及び触覚機能を提供するように構成されている。
一実施形態において、形状適合性を有する本体は、物理的物体の少なくとも一部に巻き付けられるように構成されている。
一実施形態において、形状適合性を有する本体は、物理的物体の少なくとも一部の周囲に適合するように弾性的に伸張するように構成されているエラストマー材料を含む。
一実施形態において、形状適合性を有する本体は、ループ形状を有する弾性バンドを形成する。
一実施形態において、触覚アクセサリー装置は、形状適合性を有する本体の伸張及び曲げのうちの少なくとも一方を検知するように構成された1つ以上の追加のセンサーを更に備え、プロセッサは、1つ以上の追加のセンサーからの信号に基づいて物理的物体の推定サイズ及び推定形状のうちの少なくとも一方を求めるように構成されている。
一実施形態において、触覚出力デバイスは、コンピューターシステムからの信号に基づいて質感をシミュレートするように構成された静電摩擦(ESF)アクチュエーターである。
一実施形態において、触覚出力デバイスは、コンピューターシステムからの信号に基づいて振動触知(vibrotactile)触覚効果を出力するように構成された圧電アクチュエーターである。
一実施形態において、触覚出力デバイスは、超音波触覚アクチュエーター及び発熱体のうちの少なくとも一方である。
一実施形態において、モーションセンサーによって出力されるセンサー情報は、触覚アクセサリー装置の位置及び向きのうちの少なくとも一方を示す。
一実施形態において、形状適合性を有する本体は、可撓性があり且つポリマー材料から形成され、プロセッサ、触覚出力デバイス、電源、モーションセンサー及び無線通信インターフェースユニットは、ポリマー材料内に埋め込まれている。
一実施形態において、触覚アクセサリー装置のモーションセンサーは、加速度計、慣性測定ユニット(IMU)及びジャイロスコープのうちの少なくとも1つを含む。
本明細書における実施形態の1つの態様は、仮想現実(VR)環境又は拡張現実(AR)環境を提供する触覚対応システムに関する。本システムは、コンピューターシステム及び触覚アクセサリー装置を備える。コンピューターシステムは、第1のプロセッサ及び表示デバイスを備え、第1のプロセッサは、VR環境又はAR環境を提供するアプリケーションを実行するように構成され、表示デバイスは、VR環境又はAR環境を表示するように構成されている。触覚アクセサリー装置は、触覚アクセサリー装置から取り外されているときはハンドヘルドコントローラー機能を有していない物理的物体に、取り付けられるように構成された形状適合性を有する本体を備え、触覚アクセサリー装置は、物理的物体に取り付けられると、ハンドヘルドコントローラー機能を物理的物体に提供するように構成されている。触覚アクセサリー装置は、触覚出力デバイス、モーションセンサー、無線通信インターフェースユニット、第2のプロセッサ及び電源を更に備える。触覚出力デバイスは、形状適合性を有する本体の上又は中に配置されている。モーションセンサーは、形状適合性を有する本体の上又は中に配置され、触覚アクセサリー装置の動きを追跡するように構成されている。無線通信インターフェースユニットは、コンピューターシステムと無線通信するように構成されている。第2のプロセッサは、形状適合性を有する本体の上又は中に配置され、触覚出力デバイス、モーションセンサー及び無線通信インターフェースユニットと通信する。電源は、形状適合性を有する本体の上又は中に配置され、少なくとも触覚出力デバイス、第2のプロセッサ及び無線通信インターフェースユニットに電力を提供するように構成されている。コンピューターシステムの第1のプロセッサは、触覚アクセサリー装置のモーションセンサーから触覚アクセサリー装置の無線通信インターフェースユニットを介してセンサー情報を受け取り、センサー情報に基づいてVR環境又はAR環境の仮想物体を制御し、仮想物体に関連する触覚効果が生成されるべきであると判断し、無線通信インターフェースユニットを介して第2のプロセッサに信号を通信するように構成され、当該信号は、触覚アクセサリー装置が触覚効果を生成すべきであることを示し、触覚アクセサリー装置の触覚出力デバイスは、上記信号に基づいて触覚効果を出力するように構成されている。
一実施形態において、形状適合性を有する本体は、可撓性があり且つポリマー材料から形成され、異なる物理的物体の異なる形状に適合するように再構成可能であり、プロセッサ、触覚出力デバイス、電源、モーションセンサー及び無線通信インターフェースユニットは、ポリマー材料内に埋め込まれている。
一実施形態において、センサー情報は、触覚アクセサリー装置の位置及び向きのうちの少なくとも一方を示し、第1のプロセッサは、センサー情報に基づいて、表示デバイスにおいて仮想物体の表示された位置及び向きのうちの少なくとも一方を変更するように構成されている。
一実施形態において、第1のプロセッサは、コンピューターシステムのメモリにおいて複数の物理的物体のうちの物理的物体を仮想物体に関連付けるように構成されている。
一実施形態において、仮想物体は、表示デバイスに表示される形状を有し、第1のプロセッサは、複数の物理的物体のうちの上記物理的物体の形状が仮想物体の形状と実質的に同じであると判断することにより、上記物理的物体が仮想物体に関連付けられるべきであると判断するように構成されている。
一実施形態において、触覚対応システムは、第1のプロセッサと通信するカメラを更に備え、第1のプロセッサは、カメラによって取り込まれる画像に基づいて、複数の物理的物体のうちの上記物理的物体の形状が、仮想物体の形状と実質的に同じであると判断するように構成されている。
一実施形態において、第1のプロセッサは、表示デバイスに対し、触覚アクセサリー装置が複数の物理的物体のうちの上記物理的物体に手動で取り付けられるべきであるという指示を表示させるように更に構成されている。
一実施形態において、複数の物理的物体のうちの上記物理的物体は、複数の物理的物体のうちの第1の物理的物体及び第2の物理的物体であり、触覚アクセサリー装置は、第1の物理的物体及び第2の物理的物体の各々に取り付けられるように構成されている。第1のプロセッサは、触覚アクセサリー装置が第1の物理的物体に取り付けられている状態から触覚アクセサリー装置が第2の物理的物体に取り付けられている状態への変化を検出するように構成され、コンピューターシステムのメモリにおいて仮想物体の関連付けを、第1の物理的物体に関連付けられていることから第2の物理的物体に関連付けられていることへ変更するように構成されている。
一実施形態において、触覚アクセサリー装置は、触覚アクセサリー装置の形状適合性を有する本体の伸張及び曲げのうちの少なくとも一方を検知するように構成された1つ以上の追加のセンサーを更に備え、第2のプロセッサは、1つ以上の追加のセンサーからの追加のセンサー情報に基づいて、複数の物理的物体のうちの上記物理的物体の推定サイズ及び推定形状のうちの少なくとも一方を求め、上記物理的物体の推定サイズ及び推定形状のうちの少なくとも一方を第1のプロセッサに通信するように構成されている。
一実施形態において、触覚アクセサリー装置が触覚効果を生成すべきであることを示す信号は、触覚効果の強度、周波数及びタイプのうちの少なくとも1つを示し、第1のプロセッサは、上記物理的物体の推定サイズ及び推定形状のうちの少なくとも一方に基づいて、信号に示された強度、周波数及びタイプのうちの少なくとも1つを決定するように構成されている。
一実施形態において、触覚アクセサリー装置が触覚効果を生成すべきであることを示す信号は、触覚効果の強度、周波数及びタイプのうちの少なくとも1つを示し、第1のプロセッサは、仮想物体の仮想質量、仮想形状、仮想サイズ及び仮想温度のうちの少なくとも1つに基づいて、上記信号に示される強度、周波数及びタイプのうちの少なくとも1つを決定するように構成されている。
一実施形態において、触覚アクセサリー装置の触覚出力デバイスは、触覚アクセサリー装置の複数の触覚出力デバイスのうちの1つであり、第1のプロセッサによって生成される信号は、複数の触覚出力デバイスのうちのいずれの1つ以上の触覚出力デバイスが触覚効果を出力すべきであるかを示す。
一実施形態において、上記信号は、1つ以上の触覚出力デバイスによって生成されるべき触覚効果のタイミングを更に示す。
一実施形態において、プロセッサによって実行されるアプリケーションはAR環境を提供し、表示デバイスは、AR環境において物理的物体の上に画像を重ね合わせるように構成され、画像は、物理的物体と実質的に同じ形状を有する。
本明細書における実施形態の1つの態様は、仮想現実(VR)環境又は拡張現実(AR)環境を提供する方法に関し、本方法は、第1のプロセッサ及び表示デバイスを有するコンピューターシステムによって実行され、コンピューターシステムの第1のプロセッサにより、VR環境又はAR環境を提供するアプリケーションを実行することを含む。本方法は、第1のプロセッサにより、VR環境又はAR環境の仮想物体がコンピューターシステムの表示デバイスに表示されるようにすることを更に含む。本方法は、触覚アクセサリー装置から、触覚アクセサリー装置のモーションセンサーからのセンサー情報を受け取ることを更に含み、触覚アクセサリー装置は、形状適合性を有する本体、触覚出力デバイス、モーションセンサー、無線通信インターフェースユニット、第2のプロセッサ及び電源を備え、形状適合性を有する本体は、触覚アクセサリー装置から取り外されているときハンドヘルドコントローラー機能を有していない物理的物体に、取り付けられるように構成され、触覚出力デバイス、モーションセンサー、無線通信インターフェースユニット、第2のプロセッサ及び電源の各々は、形状適合性を有する本体の上又は中に配置される。本方法は、第1のプロセッサにより、センサー情報に基づいて仮想物体を制御することを更に含む。本方法は、第1のプロセッサにより、仮想物体に関連する触覚効果が生成されるべきであると判断することと、第1のプロセッサにより、触覚アクセサリー装置が触覚効果を生成すべきであることを示す信号を触覚アクセサリー装置に通信することによって、触覚アクセサリー装置に取り付けられた物理的物体において触覚効果が生成されるようにすることとを更に含む。
一実施形態において、本方法は、第1のプロセッサと通信するカメラによって取り込まれた画像を受け取り、カメラによって取り込まれた画像から、物理的物体の形状が仮想物体の形状と実質的に同じであると判断し、物理的物体の形状が仮想物体の形状と実質的に同じであるという判断に応じて、表示デバイスに、触覚アクセサリー装置が物理的物体に手動で取り付けられるべきであるという指示を出力し、コンピューターのメモリにおいて触覚アクセサリー装置を物理的物体に関連付けることにより、触覚アクセサリー装置は第1の物理的物体に取り付けられるべきであると判断することを更に含む。
一実施形態において、形状適合性を有する本体は、可撓性材料から形成され、物理的物体の表面に形状適合するように構成される。
一実施形態において、形状適合性を有する本体は、異なる物理的物体の異なる形状に適合するように再構成可能である。
一実施形態において、仮想物体は第1の仮想物体及び第2の仮想物体であり、物理的物体は、複数の物理的物体のうちの第1の物理的物体及び第2の仮想物体である。一実施形態において、本方法は、第1のプロセッサにより、第2の仮想物体がコンピューターシステムの表示デバイスに表示されるようにすることと、第1のプロセッサにより、触覚アクセサリー装置が第1の物理的物体に取り付けられている状態から、触覚アクセサリー装置が第2の物理的物体に取り付けられている状態への変化を検出することと、第1のプロセッサにより、コンピューターシステムのメモリにおいて、第2の物理的物体を第2の仮想物体に関連付けることを更に含み、第2の仮想物体はVR環境若しくはAR環境の一部であり、又は異なるVR環境若しくはAR環境の一部である。
一実施形態において、第1の物理的物体及び第2の物理的物体は異なるそれぞれの形状を有する。
一実施形態において、本方法は、触覚アクセサリー装置が第1の物理的物体に取り付けられると、触覚アクセサリー装置から、第1の物理的物体の第1の推定形状及び第1の推定サイズのうちの少なくとも一方を受け取ることと、触覚アクセサリー装置が第2の物理的物体に取り付けられると、触覚アクセサリー装置から、第2の物理的物体の第2の推定形状及び第2の推定サイズのうちの少なくとも一方を受け取ることとを更に含む。
一実施形態において、触覚効果は、第1の触覚効果であり、触覚アクセサリー装置が第1の物理的物体に取り付けられたときに、第1の物理的物体の第1の推定形状及び第1の推定サイズのうちの少なくとも一方に基づいて決定され、本方法は、触覚アクセサリー装置が第2の物理的物体に取り付けられたときに、第2の物理的物体の第2の推定形状又は第2の推定サイズのうちの少なくとも一方に基づいて、第2の触覚効果を決定することを更に含む。
一実施形態において、本方法は、表示デバイスに、触覚アクセサリー装置から受け取られるセンサー情報に基づいて仮想物体の移動を表示させることを更に含む。
本発明の実施形態の特徴、目的、及び利点は、添付図面が参照される以下の詳細な説明を読むことによって当業者に明らかになる。
本発明の上述の特徴、目的及び利点並びに他の特徴、目的及び利点は、添付の図面に示されるような本発明の実施形態の以下の説明から明らかであろう。本明細書に組み込まれるとともに本明細書の一部をなす添付の図面は更に、本発明の原理を説明するとともに、当業者が本発明を実施及び使用することを可能にする役割を果たす。図面は一定縮尺ではない。
以下の詳細な説明は本来例示的なものでしかなく、本発明又は本発明の用途及び使用を限定するように意図されていない。さらに、前述の技術分野、背景技術、発明の概要又は以下の詳細な説明に提示されている、明示又は暗示されるいかなる理論にも制限されることは意図されていない。
本明細書における実施形態は、物理的物体に対して触覚機能及びハンドヘルドコントローラー機能を追加することができる装置に関し、物理的物体は、日用品であって、それ自体は触覚機能もハンドヘルドコントローラー機能も有していない日用品とすることができる。したがって、本装置は、異なる日用品が、例えば仮想現実(VR)環境又は拡張現実(AR)環境のための触覚対応ハンドヘルドコントローラーとして各々構成されることを可能にする、触覚アクセサリー装置として作用することができる。一実施形態では、触覚アクセサリー装置は、種々の異なる物理的物体を触覚対応ハンドヘルドコントローラーに構成することができる汎用装置として作用することができる。したがって、触覚アクセサリー装置は、それぞれの形状又はサイズの異なる、異なる物理的物体が、各々ハンドヘルドコントローラーとして構成されることを可能にすることにより、ハンドヘルドコントローラーの形状又はサイズに関してカスタマイズ化を可能にすることができる。場合により、触覚アクセサリー装置は、触覚アクセサリー装置及びそれに取り付けられた任意の物理的物体の動きを追跡することができる、1つ以上のモーションセンサーにより更に、ハンドヘルドコントローラー機能を提供することができる。種々の異なる物理的物体を触覚対応ハンドヘルドコントローラーに構成することができることにより、触覚アクセサリー装置によって、ユーザー又はプログラム(例えば、VR/AR環境を提供するプログラム)が、例えばVR/AR環境の仮想物体に最も一致するか又は他の方法でそれを最もよく表現する(例えば、形状、サイズ又は他の何らかの要素に関して仮想物体に最も一致する)物理的物体を選択することを可能にすることができる。この状況では、物理的物体は、仮想物体に類似していることにより、VR環境又はAR環境において仮想物体に対する代用物として作用することができる。一実施形態では、物理的物体は、平均的なユーザーの手が保持し且つ直接移動させることができるようにする形状及びサイズを有する(例えば、ユーザーの手により把持可能であるように十分小さい)という点で、ハンドヘルドコントローラーとして構成可能である。
さらに、一実施形態では、触覚アクセサリー装置により、専用のハンドヘルドコントローラー(例えば、Wii(登録商標)リモコン)を、ユーザーの物理的な場所又は周囲環境(例えば、家庭又は職場)において物理的物体に置き換えることができ、物理的物体自体はコントローラー機能を有していない。触覚アクセサリー装置は、物理的物体に取り付けられると、物理的物体にコントローラー機能を提供する。触覚アクセサリー装置は、物理的物体に取り付けられると、その物理的物体が、VR環境又はAR環境のためのユーザー入力を提供することができるハンドヘルドコントローラー(例えば、ゲーム周辺機器)として使用されるのを可能にする。別の実施形態では、物理的物体自体が、触覚アクセサリー装置によって提供される任意の動き検知機能とは別に、動き検知機能を有することができる。例えば、物理的物体は、モーションセンサーを備えるゲーム用ジョイスティックとすることができる。
一実施形態において、触覚アクセサリー装置とともに異なる物理的物体を用いて、異なるそれぞれの仮想物体を制御するか又はより一般的にはそうした仮想物体とインタラクトすることができる。特定の仮想物体とインタラクトするために使用される特定の物理的物体は、VR環境又はAR環境を実行しているコンピューターシステムにより、又はユーザーにより選択することができる。両方の場合において、コンピューターシステムは、例えば、仮想物体を物理的物体と(例えば、メモリ内のテーブルにおいて)関連付けることにより、仮想物体を物理的物体に割り当てる(map)ことができる。例えば、コンピューターシステムは、ユーザーが、仮想剣又は仮想ライトセーバー(light saber)を使用して模擬剣戟を行うことができる、VR環境又はAR環境を実行することができる。こうした例では、コンピューターシステム又はユーザーは、例えば、仮想剣又は仮想ライトセーバーのための物理的代用物として円筒状チップ容器(例えば、Pringles(登録商標)ポテトチップ缶)を選択することができ、その理由は、円筒状チップ容器は、仮想剣又は仮想ライトセーバーの細長い形態に類似する細長い形状を有することができるためであり、且つ、円筒状チップ容器は、剣の柄の形状に類似する円筒形状も有するためである。別の例では、コンピューターシステム又はユーザーは、例えば、仮想剣又は仮想ライトセーバーのための物理的代用物としてテニスラケットを選択することができる。ユーザーは、例えば、円筒状チップ容器又はテニスラケットを物理的な場所で振ることにより、VR環境又はAR環境において仮想剣又は仮想ライトセーバーを制御することができる。ゲームプレー中、ユーザーが物理的物体を移動させた場合、VR環境又はAR環境は、仮想剣又は仮想ライトセーバーの移動を対応するように表示することができる。一実施形態では、仮想剣又は仮想ライトセーバーが別の仮想剣又は仮想壁等の別の仮想物体にぶつかった場合、触覚アクセサリー装置は、円筒状チップ容器における振動触知触覚効果等、物理的物体における触覚効果を出力するように構成することができる。触覚効果は、VR環境又はAR環境においてユーザーの仮想剣又は仮想ライトセーバーと別の仮想物体(複数の場合もある)との間の接触をシミュレートする機能を提供することができる。
一実施形態において、ユーザーは、VR環境又はAR環境が最初に表示されるか又は他の方法でレンダリングされる前又はそのとき、物理的物体に触覚アクセサリー装置を取り付けることができる。一実施形態では、VR環境又はAR環境を実行するコンピューターシステムは、コンピューターシステムの物理的な場所又は周囲環境の画像(複数の場合もある)を取り込み、画像処理アルゴリズムを使用して、物理的な場所又は周囲環境における1つ以上の物理的物体(例えば、ハンドヘルドコントローラーとして構成可能な1つ以上の物理的物体)を特定するように構成することができる。コンピューターシステムは、レンダリングされたか又はレンダリングされようとしている仮想物体に対する代用物として、1つ以上の物理的物体から一物理的物体を選択することができる。選択は、例えば、形状及び/又はサイズに関して1つ以上の物理的物体のいずれが仮想物体に最も厳密に一致するかに基づくことができる。一実施形態では、コンピューターシステムは、仮想物体に対する代用物として特定の物理的物体が選択されたという指示を出力することができる。例えば、コンピューターシステムは、物理的な場所又は周囲環境の画像において、選択された代用物として物理的物体を特定するように、物理的物体に隣接してマーカーを表示することができる。ユーザーは、上記指示を見るか又は他の方法で知覚すると、コンピューターシステムによって特定された物理的物体に触覚アクセサリー装置を取り付けることができる。
別の実施形態では、ユーザーが、コンピューターシステムからの関与なしに、仮想物体に対する代用物として特定の物理的物体を選択することができる。例えば、ユーザーは、VR環境又はAR環境によってレンダリングされたか又はレンダリングされる仮想剣に対する代用物として、円筒状チップ容器が使用されるべきであると判断することができる。そのシナリオでは、ユーザーは、最初に、コンピューターシステムの一部であるか又はコンピューターシステムと通信するカメラに対して、物理的物体を提示することができる。カメラは、物理的物体の画像を取り込むことができ、その画像により、コンピューターシステムは、物理的物体をVR環境又はAR環境の仮想物体と関連付けることができる。この関連付けは、例えば、メモリに、仮想物体の識別子(例えば、仮想物体ID)を物理的物体の画像と(又は、コンピューターシステムによって物理的物体に割り当てられた物理的物体IDと)関連付けるテーブルを含むことができる。一実施形態では、ユーザーは、仮想物体に対する代用物として特定の物理的物体を選択した場合、コンピューターシステムによって指示されることなく、物理的物体に触覚アクセサリー装置を取り付けることができる。コンピューターシステムは、例えば、コンピューターシステムの物理的な場所又は周囲環境の画像を取り込むように構成することができ、その画像から、触覚アクセサリー装置と、触覚アクセサリー装置に取り付けられているか又は他の方法で触覚アクセサリー装置と接触している任意の物理的物体とを特定するように構成することができる。コンピューターシステムは、触覚アクセサリー装置に取り付けられた物理的物体が、VR環境又はAR環境の仮想物体の代用物としてユーザーによって選択されたと判断し、その物理的物体を仮想物体と関連付けるように構成することができる。
別の例では、VR環境又はAR環境は、仮想ブロックを含む3次元(3D)Tetris(登録商標)ゲームとすることができる。この例では、コンピューターシステム又はユーザーは、仮想ブロックのうちの1つに対する代用物として物理的なティッシュの箱を選択することができる。ユーザーにより、物理的なティッシュの箱に触覚アクセサリー装置を取り付けることができる。一実施形態では、コンピューターシステムは、物理的なティッシュの箱をその仮想ブロックと関連付けることができる。一実施形態では、ユーザーは、物理的なティッシュの箱を移動させることにより、VR環境又はAR環境において仮想ブロックの移動を制御することができる。例えば、仮想ブロックをTetris(登録商標)ゲームの仮想地表面まで下降させるために、ユーザーは、物理的なティッシュの箱をユーザーの家庭のキッチンテーブルまで又は床まで下降させることができる。さらに、触覚アクセサリー装置は、物理的なティッシュの箱に触覚機能を追加することができる。例えば、仮想ブロックが別の仮想ブロックと又は仮想地表面と接触したとき、こうしたイベントが、物理的なティッシュの箱において、ユーザーが感知する振動触知触覚効果を出力するように、触覚アクセサリー装置を作動させることができる。こうした触覚効果は、仮想ブロックが別の仮想ブロックと又は仮想地表面と接触していることをシミュレートすることができる。
別の例では、VR環境又はAR環境は、仮想ハンマーを用いて仮想モグラを叩くことを含むモグラ叩きゲームの一部とすることができる。この例では、コンピューターシステム又はユーザーは、仮想ハンマーに対する代用物として物理的なTVリモコンを選択することができる。ユーザーにより、物理的なTVリモコンに触覚アクセサリー装置を取り付けることができる。一実施形態では、コンピューターシステムは、物理的なTVリモコンを仮想ハンマーに関連付けることができる。一実施形態では、ユーザーは、物理的なTVリモコンを移動させることにより、VR環境又はAR環境において仮想ハンマーの移動を制御することができる。VR環境又はAR環境において、仮想ハンマーが仮想モグラを叩くと、触覚アクセサリー装置は、物理的なTVリモコンにおいて、例えば、ユーザーによって知覚される振動触知触覚効果を出力するように作動させることができる。こうした触覚効果は、仮想ハンマーと仮想モグラとの間の衝突をシミュレートすることができる。一実施形態では、VR環境又はAR環境は、コンピューターシステムによりいかなる物理的物体にも関連付けられない1つ以上の仮想モグラを有することができる。別の実施形態では、1つ以上のそれぞれの物理的物体に1つ以上の仮想モグラを関連付けることができる。例えば、物理的なホチキスに、仮想モグラのうちの1つを関連付けることができる。VR環境又はAR環境が、モグラ叩きゲームにおいて仮想穴から飛び出す仮想モグラを表示すると判断した場合、仮想モグラが表示デバイス上で飛び出すように表示される位置は、物理的なホチキスの物理的な位置に対応することができる。場合により、第2の触覚アクセサリー装置に物理的なホチキスを取り付けることができる。一実施形態では、触覚アクセサリー装置は、例えば、仮想モグラの毛の質感等の質感をシミュレートするように、静電摩擦(ESF)効果を出力するように構成することができる。この実施形態では、ユーザーは、VR環境又はAR環境において仮想モグラに向かって手を伸ばすことができる可能性があり、物理的なホチキスとそれに取り付けられている第2の触覚アクセサリー装置とに触れることができる。第2の触覚アクセサリー装置は、モグラの毛の質感をシミュレートし、したがって、仮想モグラ又は他の仮想物体との接触をシミュレートすることができる。
一実施形態において、VR環境又はAR環境を実行しているコンピューターシステムは、触覚アクセサリー装置の一部であるモーションセンサーからモーションセンサー情報を受け取ることにより、物理的物体の移動を追跡することができる。触覚アクセサリー装置及びそのモーションセンサーは、触覚アクセサリー装置が物理的物体に取り付けられた後に、物理的物体とともに合わせて移動することができる。一実施形態では、VR環境又はAR環境を実行しているコンピューターシステムは、画像認識の実行に基づいて物理的物体の移動を追跡することができる。より詳細には、コンピューターシステムは、物理的物体の画像又は一連の画像(例えば、映像)を取り込むことができるカメラを含むか、又はそうしたカメラと通信することができる。コンピューターシステムは、取り込んだ画像又は一連の画像に基づいて物理的物体の移動を追跡することができる。
一実施形態において、AR環境又はVR環境のコンピューターシステムは、物理的物体がハンドヘルドコントローラーとして構成可能であるという判断(例えば、コンピューターシステムは、平均サイズの手が保持するのに十分小さいと判断する)と、物理的物体の形状が仮想物体の形状と実質的に同じであるという判断とに基づいて、物理的物体を選択することができる。仮想物体の形状は、仮想物体が、VRヘッドマウントデバイス又はデスクトップコンピューターの画面等において、VR環境又はAR環境で表示されるときに参照することができる。AR環境の場合、コンピューターシステムは、表示デバイスにおいて物理的物体の画像の上に仮想物体の画像を重ね合わせることができ、それにより、ユーザーは、物理的物体の代わりに仮想物体を見ることができる(例えば、円筒状チップ容器の画像の上に仮想剣の画像が重ね合わされる)。ユーザーが物理的物体を移動させるか又は他の方法で操作すると、VR環境又はAR環境は、仮想物体の画像を更新することができる。本発明の実施形態によれば、AR環境において物理的物体の取込み画像の上に仮想物体の画像を重ね合わせることは、物理的物体が仮想物体の形状に実質的に一致する形状を有する場合に最も有効である可能性がある。
一実施形態において、触覚アクセサリー装置は、ユーザーの家庭又は職場で見出される日用品等、異なるそれぞれの物理的物体の異なる形状に適合することができる形状適合性を有する本体を有することができる。一実施形態では、触覚アクセサリー装置は、ハンドヘルドコントローラー機能及び/又は触覚機能をこうした日用品(それら自体はこうした機能を有することができない)に提供するために使用される、自立型デバイスとすることができる。こうした機能を提供するために、触覚アクセサリー装置は、例えば、モーションセンサー、触覚出力デバイス、通信インターフェース、プロセッサ及び電源を備えることができる。場合により、形状適合性を有する本体は、上に列挙した構成要素を含む可撓性層(可撓性シートとも呼ぶ)の形態を有することができる。可撓性層は、例えば、物理的物体の表面に巻き付けることができる可能性がある。場合により、可撓性層は、物理的物体の表面の上/周囲で伸張させることができるエラストマー材料から作製することができる。
一実施形態において、触覚アクセサリー装置に、単一の触覚出力デバイス(例えば、単一の触覚アクチュエーター)又は複数の触覚出力デバイス(例えば、複数の触覚アクチュエーター)を備えることができる。複数の触覚出力デバイスは、同じタイプの触覚効果(例えば、振動触知効果)又は異なるタイプの触覚効果(例えば、熱、ESF、振動触知等)を提供することができる。一実施形態では、触覚アクセサリー装置の本体は、少なくとも部分的に物理的物体に巻き付けることができるのに十分可撓性があるものとすることができ、又は、剛性があるものとすることができる。この実施形態では、VR/AR環境のVR/ARエンジンは、触覚アクセサリー装置が物理的物体にいかに取り付けられるべきかに関する推奨をユーザーに出力することができる。この推奨は、触覚効果設計者が予め設計することができ、又は、VR/ARエンジン自体が自動的に推定することができる。推定は、触覚出力デバイスの数と、触覚アクセサリー装置の形状(又は、より一般的には幾何学的形状)と、物理的物体の形状(又は、より一般的には幾何学的形状)とに基づくことができる。触覚アクセサリー装置及び物理的物体の形状は、カメラを用いて判断することができ、又は、触覚アクセサリー装置は、触覚アクセサリー装置の特徴(例えば、形状、触覚出力デバイスの配置、触覚出力デバイスの数、触覚出力デバイスのタイプ、触覚出力デバイスの他の特性等)に関する情報をVR/ARエンジンに提供することができる。
一実施形態において、触覚アクセサリー装置及びコンピューターシステムを(例えば、Bluetooth(登録商標)ペアリングを介して)ペアリングすることができ、そこでは、触覚アクセサリー装置に対してコンピューターシステムの存在が通知され、コンピューターシステムに対して触覚アクセサリー装置の存在が通知される。一実施形態では、ペアリングは、触覚アクセサリー装置がコンピューターシステムに対して触覚アクセサリー装置自体に関する情報(例えば、触覚出力デバイスの数及びタイプ)を提供すること、又はその逆を含むことができる。ペアリング時、VRエンジン又はARエンジンは、いずれの触覚効果を生成すべきか、触覚効果を生成するためにいずれの触覚出力デバイスを使用すべきか、又はそれらの組合せを選択することができる。VRエンジン又はARエンジンは、さらに、触覚アクセサリー装置がいかに取り付けられるべきかに関する推奨を提供し、その推奨をユーザーに出力することができる。VRエンジン又はARエンジンは、さらに、単一の物理的物体に対して、特定の触覚出力デバイスにおいて、又は特定の触覚アクセサリー装置において、又はそれらの組合せにおいて、幾つかの効果を融合し且つ混合し、それらを再生するように判断することができる。
図1は、本明細書における一実施形態による、拡張現実(AR)環境又は仮想現実(VR)環境を提供する触覚対応システム100を示す。図1の触覚対応システム100は、AR環境又はVR環境を提供するように構成されたコンピューターシステム120と、触覚アクセサリー装置110とを備えることができる。触覚アクセサリー装置110は、物理的物体131、物理的物体132及び物理的物体133を含む、ユーザーの周囲環境又は物理的な場所における様々な物理的物体に取付け可能とすることができる。
一実施形態において、コンピューターシステム120は、デスクトップコンピューター、ゲーム機(例えば、Playstation(登録商標)又はWii(登録商標)ゲーム機)、サーバー、ラップトップ、タブレットコンピューター又は更には携帯電話とすることができる。一実施形態では、コンピューターシステム120は、プロセッサ121、メモリ123及び表示デバイス125を備えることができる。一実施形態では、プロセッサ121、メモリ123及び表示デバイス125は、ARゲーム環境を提供するように構成されたタブレットコンピューター、又は、VRヘッドセット(例えば、Samsung Gear(登録商標)VRヘッドセット又は他のヘッドマウントデバイス(HMD))のためのVR環境を提供することができる携帯電話等、単一のデバイスに組み込むことができる。一実施形態では、コンピューターシステム120は、VR環境又はAR環境を提供するように構成されたHMDのみを含むことができる。こうした実施形態では、HMDは、別個のデスクトップコンピューター又はサーバーを必要とすることなくVRエンジン又はARエンジンを実行するために十分な処理能力を有することができる。一実施形態では、コンピューターシステム120のプロセッサ121、メモリ123及び表示デバイス125は、異なる別個のデバイスの一部とすることができる。例えば、プロセッサ121及びメモリ123は、VR環境又はAR環境を生成するように構成されるデスクトップコンピューターの一部とすることができ、一方で、表示デバイス125は、デスクトップコンピューターと(例えば、データケーブルを介して)通信する別個のデバイス(例えば、独立型LEDモニター又はHoloLens(登録商標))である。一実施形態では、メモリ123は、VRアプリケーション又はARアプリケーションのためのコンピューター可読命令が記憶されている非一時的コンピューター可読媒体とすることができる。一実施形態では、プロセッサ121は、コンピューター可読命令を実行することによりVRアプリケーション又はARアプリケーションを実行するように構成することができる。
一実施形態において、触覚アクセサリー装置110は、形状適合性を有する本体112、触覚出力デバイス111、モーションセンサー113、通信インターフェースユニット115、プロセッサ117及び電源119を備えることができる。列挙した構成要素の各々を、形状適合性を有する本体112の表面に配置する(例えば、取り付ける)か、又は形状適合性を有する本体112内に配置する(例えば、埋め込む)ことができる。形状適合性を有する本体112は、物理的物体131、132、133等の異なるそれぞれの物理的物体の異なる形状に適合するように再構成可能であるように構成させることができる。例えば、形状適合性を有する本体112は、様々な形状に適合することができる可撓性材料(例えば、可撓性ポリマー材料)を含むことができる。場合により、可撓性材料が特定の形状に操作される場合、ユーザーが可撓性材料を別の形状に操作するまで、その形状を保持することができる可能性がある。一実施形態では、形状適合性を有する本体112は、触覚出力デバイス111、モーションセンサー113、通信インターフェースユニット115、プロセッサ117及び電源119を封入することができる。例えば、形状適合性を有する本体112が可撓性材料から形成されている場合、上に列挙した構成要素を可撓性材料に埋め込むことができる。一実施形態では、形状適合性を有する本体は、形状の異なる表面に形状適合するように伸張させることができるエラストマー材料(例えば、ゴム)から作製することができる。一実施形態では、エラストマー材料により、形状適合性を有する本体112を、異なるそれぞれの物理的物体の異なる形状に適合するように再構成可能とすることができる。例えば、形状適合性を有する本体112は、第1の物理的物体131に巻き付けられる場合に、弾性を有する場合には、異なる形状を有する第2の物理的物体132又は第3の物理的物体133に後に巻き付けられるように再構成可能とすることもできる。別の実施形態では、ユーザーの身体に触覚アクセサリー装置110を取り付ける(例えば、巻き付ける)ことができる。例えば、ユーザーの手首に形状適合性を有する本体112を巻き付けることができる。
一実施形態において、触覚出力デバイス111は、例えば、振動触知触覚効果を出力するように構成された振動触知アクチュエーター(例えば、圧電アクチュエーター)、静電摩擦(ESF)触覚効果を出力するように(例えば、質感をシミュレートするように)構成されたESF触覚出力デバイス、熱触覚出力デバイス、超音波触覚出力デバイス、他の任意の触覚出力デバイス、又はそれらの組合せとすることができる。一実施形態では、装置110の任意の振動触知アクチュエーターは、圧電アクチュエーター、電磁石アクチュエーター、リニア共振アクチュエーター(LRA)又は他の任意の振動触知アクチュエーターを含むことができる。さらに、形状適合性を有する本体112内に、触覚アクセサリー装置110の任意の振動触知アクチュエーターを配置する(例えば、埋め込む)ことができる。一実施形態では、形状適合性を有する本体112の表面に、任意のESF触覚出力デバイスを配置することができる。こうしたESF触覚出力デバイスは、例えば、形状適合性を有する本体112の表面に配置された1つ以上の電極を含むことができる。一実施形態では、触覚出力デバイス111は、運動感覚触覚効果を提供するように構成されたモーター又は他のアクチュエーターを含むことができる。一実施形態では、触覚出力デバイス111は、静的触覚効果又は低周波数触覚効果を出力するように構成されたスマート材料アクチュエーター(例えば、電気活性ポリマー(EAP)アクチュエーター)を含むことができる。一実施形態では、触覚出力デバイス111は、超音波触覚アクチュエーター、発熱体又はそれらの組合せとすることができる。図1は、単一の触覚出力デバイス111を有する触覚アクセサリー装置110を示すが、他の実施形態は、触覚アクセサリー装置の形状適合性を有する本体上又は中の異なる位置に配置された複数の触覚出力デバイスを含む、触覚アクセサリー装置を含むことができる。
一実施形態において、モーションセンサー113は、触覚アクセサリー装置110の動きを追跡するように構成することができる。一実施形態では、センサー113は、加速度計、ジャイロスコープ、圧力センサー、慣性測定ユニット(IMU)又はそれらの任意の組合せを含むことができる。一実施形態では、モーションセンサー113は、触覚アクセサリー装置110の速さ(speed)、速度(velocity)(移動の速さ及び方向を示す)、加速度又は向きのうちの少なくとも1つを測定するように構成することができる。一実施形態では、速度の測定値は、回転速度(例えば、回転の率及び方向)、横速度又はそれらの組合せを含むことができる。触覚アクセサリー装置110が物理的物体(例えば、物理的物体131)に取り付けられると、モーションセンサー113もまた、物理的物体の速さ、移動の方向、加速度又は向きのうちの少なくとも1つを測定している可能性がある。一実施形態では、モーションセンサー113は、モーションセンサー情報としての生(raw)センサー情報を、触覚対応システム100の別のデバイスにセンサー情報を通信することができる通信インターフェースユニット115に直接提供することができる。一実施形態では、モーションセンサー113は、プロセッサ117に生センサー情報を提供することができ、プロセッサ117は、生センサー情報を処理して、処理済みセンサー情報を生成することができる。そして、プロセッサ117は、処理済みセンサー情報を通信インターフェースユニット115に提供することができ、通信インターフェースユニット115は、その後、処理済みセンサー情報をモーションセンサー情報として別のデバイスに通信することができる。一実施形態では、触覚アクセサリー装置110のプロセッサ117又はコンピューターシステム120のプロセッサ121は、モーションセンサー情報に基づいて触覚アクセサリー装置110の位置を求めるように構成することができる。例えば、触覚アクセサリー装置110のプロセッサ117又はコンピューターシステム120のプロセッサ117は、モーションセンサー情報から速度データを取得し、速度データの積分を計算するように構成することができる(データ及び情報という用語は、モーションセンサー113の出力に関して同義に使用している)。計算された積分は、触覚アクセサリー装置の累積的な動きを表すことができる。触覚アクセサリー装置110のプロセッサ117又はコンピューターシステム120のプロセッサ121は、累積的な動きに触覚アクセサリー装置110の初期位置を加算して、触覚アクセサリー装置110の現在位置を求めることができる。プロセッサ121は、表示デバイス125に、センサー情報に基づいて仮想物体の表示された位置(又は表示された向き)を変更させることができる。
一実施形態において、通信インターフェースユニット115は、コンピューターシステム120と通信するように構成することができる。通信されている情報は、例えば、触覚アクセサリー装置110のモーションセンサー113からコンピューターシステム120へのセンサー情報を含むか、又は、コンピューターシステム120から触覚アクセサリー装置110への1つ以上の信号(例えば、コマンド信号)又は他の任意の情報を含むことができる。モーションセンサーからのセンサー情報は、モーションセンサー113から直接の生センサー情報を含むことができ、又は、触覚アクセサリー装置110がプロセッサ117を使用して生センサー情報を処理する(例えば、フィルタリングする)場合、プロセッサ117によって生成される処理済みセンサー情報を含むことができる。コンピューターシステム120から通信される信号は、例えば、触覚アクセサリー装置110が触覚効果を出力すべきであることを示す触覚コマンドを含むことができる。そして、触覚アクセサリー装置110は、その触覚出力デバイス111に、上記信号に基づいて触覚効果を出力させることができる。例えば、触覚出力デバイス111は、ESFアクチュエーターである場合、コンピューターシステム120からの信号に基づいて質感をシミュレートするように構成することができる。触覚アクチュエーター111は、圧電アクチュエーターである場合、コンピューターシステム120からの信号に基づいて振動触知触覚効果を出力するように構成することができる。
一実施形態において、触覚アクセサリー装置110とコンピューターシステム120との間の通信は、有線インターフェースによることができる。例えば、通信インターフェースユニット115及びコンピューターシステム120は、ユニバーサルシリアルバス(USB)インターフェースにより通信することができる。一実施形態では、通信は、無線インターフェースによることができる。例えば、通信インターフェースユニット115は、IEEE802.11、Bluetooth(登録商標)又は他の任意の無線通信プロトコル等の無線通信プロトコルを使用してコンピューターシステム120と通信するように構成された無線通信インターフェースユニットとすることができる。
一実施形態において、通信インターフェースユニット115を使用して、コンピューターシステム120とペアリングするためのペアリングプロセス(例えば、Bluetooth(登録商標))を実行することができる。ペアリングにより、触覚アクセサリー装置110及びコンピューターシステム120は、他方のデバイスの存在に気付くことができる。場合により、ペアリングは、情報の交換又は報告を含むことができる。例えば、通信インターフェースユニット115は、装置110に含まれる触覚出力デバイスの数、装置110に含まれる触覚出力デバイスのタイプ、装置110における触覚出力デバイスの単数又は複数の位置、触覚アクセサリー装置110に関する他の情報、又はそれらの任意の組合せを、コンピューターシステム120に報告することができる。
一実施形態において、プロセッサ117は、上述したように、モーションセンサー113からの生センサー情報を処理するように構成することができる。一実施形態では、プロセッサ117は、触覚出力デバイス111を制御するように構成することができる。例えば、プロセッサ117は、触覚効果を出力するようにコンピューターシステム120からコマンドを受け取るように構成することができ、コマンドは、開始時刻、持続時間、振幅又は周波数等、触覚効果のパラメーター値を指定することができる。プロセッサ117は、コンピューターシステム120からのコマンドに基づいて、触覚出力デバイス111に対する駆動信号を生成するように構成することができる。一実施形態では、プロセッサ117は、マイクロプロセッサ、フィールドプログラマブルゲートアレイ(FPGA)、プログラマブルロジックアレイ(PLA)又は他の任意の処理回路とすることができる。
一実施形態において、電源119は、少なくとも触覚出力デバイス111、プロセッサ117及び通信インターフェースユニット115に電力を提供するように構成することができる。一実施形態では、電源119は、さらに、モーションセンサー113に電力を提供することができる。一実施形態では、モーションセンサー113は、電力の入力なしに動作する機械式センサーとすることができる。一実施形態では、電源119は、バッテリー、充電ユニット、発電機又はそれらの任意の組合せとすることができる。充電ユニットは、例えば、誘導充電ユニット又は他の無線充電ユニットを含むことができる。電源119が発電機を利用する一実施形態では、発電機は、例えば、触覚アクセサリー装置の動きから、ユーザーの体熱から、又は他の何らかの発生源から電力を生成するように構成することができる。
上述したように、形状適合性を有する本体112は、異なるそれぞれの物理的物体131、132、133の異なる形状に適合するように再構成可能であるように構成されることができる。一実施形態では、物理的物体131、132、133は、ユーザーの家庭又は職場における日用品とすることができ、異なるそれぞれの形状(例えば、球形状、多角形状、円筒形状)、異なるそれぞれのサイズ又はそれらの組合せを有することができる。一実施形態では、物理的物体131、132、133は、球形状、立方体形状又は円筒形状等、基本的な幾何学的形状を有する特別用途の物理的物体とすることができる。形状適合性を有する本体112は、物理的物体131の形状、物理的物体132の形状及び物理的物体133の形状の各々に適合することができる構造を有するという意味で、再使用可能且つ再構成可能とすることができる。図2は、形状適合性を有する本体212を備えた触覚アクセサリー装置210と、形状適合性を有する本体212が適合することができる物理的物体231、232、233、234とのより特定の例を提供する。
より詳細には、図2は、触覚アクセサリー装置210及びコンピューターシステム220を有する触覚対応システム200を示す。一実施形態では、触覚アクセサリー装置210は、2つの触覚出力デバイス211a、211b、モーションセンサー213、無線通信インターフェースユニット215、プロセッサ217及び電源219を有する。一実施形態では、2つの触覚出力デバイス211a、211bは、異なるタイプの触覚出力デバイスとすることができる。例えば、触覚出力デバイス211aは振動触知圧電アクチュエーターとすることができ、触覚出力デバイス211bはESFデバイスとすることができる。一実施形態では、触覚出力デバイス211a、211bは、同じタイプの触覚出力デバイスとすることができる。一実施形態では、上に列挙した構成要素は、物理的物体に形状適合するように構成された形状適合性を有する本体212に埋め込まれ、それにより、物理的物体をハンドヘルドコントローラーに変換し/ハンドヘルドコントローラーとして使用可能とすることができる。物理的物体は、細長い円筒状容器(例えば、Pringles(登録商標)缶)である第1の物理的物体231と、矩形の箱(例えば、ティッシュの箱)である第2の物理的物体232と、TVリモートコントローラーである第3の物理的物体233と、ワインボトルである第4の物理的物体234とを含むことができる。一実施形態では、形状適合性を有する本体212は、プラスチック又は他のポリマー材料等の可撓性材料から形成される。一実施形態では、可撓性材料は、可撓性層(可撓性シートとも呼ぶ)として形成することができる。一実施形態では、触覚アクセサリー装置210の形状適合性を有する本体212が取り付けられる物理的物体231、232、233、234は、ハンドヘルド物体であるように適合可能であるか又はハンドヘルド物体である。
一実施形態において、形状適合性を有する本体212は、物理的物体に巻き付けることにより、物理的物体231、232、233、234のうちの1つに取り付けることができる。言い換えれば、形状適合性を有する本体212は、物理的物体231、232、233、234の各々の表面の少なくとも一部に巻付け可能とすることができる。例えば、形状適合性を有する本体212を形成する可撓性材料は、物理的物体231、232、233、234のうちの任意のものの少なくとも一部の周囲に適合するように弾性的に伸張することができるエラストマー材料を含むことができ、それにより、エラストマー材料は、物理的物体のうちの任意のものの少なくとも一部に巻き付けられる。後述するように、形状適合性を有する本体212は、一例では、物理的物体231、232、233、234のうちの任意のものの少なくとも一部の周囲で伸張させることができる弾性バンドを形成することができる。一実施形態では、触覚アクセサリー装置210は、締結具を含むことができ、締結具は、物理的物体231、232、233、234のうちの任意のものの周囲に触覚アクセサリー装置210の巻き付けられた形状適合性を有する本体212を固定するように構成され、したがって、物理的物体231、232、233、234に取り付けられる。本発明の実施形態によれば、締結具の対応する部分は、触覚アクセサリー装置に単独で取り付けることができ、又は、触覚アクセサリー装置の各々に且つそれが固定される物理的物体231、232、233、234のうちの1つに取り付けることができる。一実施形態では、締結具は、面ファスナー(例えば、Velcro(登録商標)ファスナー)を含むことができ、それは、形状適合性を有する本体212の両端部に配置され、形状適合性を有する本体212が物理的物体231、232、233、234のうちの1つの少なくとも一部に巻き付けられたときに形状適合性を有する本体212をループ形態で維持するように使用される。
一実施形態において、物理的物体231、232、233、234のうちのいずれも、触覚アクセサリー装置210がそれらの物理的物体231、232、233、234から取り外されているとき、いかなるハンドヘルドコントローラー機能も触覚機能も有していない。一実施形態では、ハンドヘルドコントローラー機能は、ユーザー入力(例えば、動きベースのジェスチャー)を検知すること、VR環境若しくはAR環境を実行しているコンピューターシステムと通信すること、又は他の任意のハンドヘルドコントローラー機能を含むことができる。一実施形態では、触覚機能は、触覚効果の出力を含むことができる。別の実施形態では、物理的物体231、232、233、234のうちの1つ以上は、触覚アクセサリー装置210がそれらの物理的物体231、232、233、234から取り外されているときであっても、コントローラー機能及び/又は触覚機能を有することができる。例えば、物理的物体231、232、233又は234のうちの1つ以上は、第1のタイプの触覚出力デバイス(例えば、偏心回転質量アクチュエーター又はリニア共振アクチュエーター)を有するゲームコントローラーとすることができ、一方で、触覚アクセサリー装置210は、第2のタイプの触覚アクチュエーター(例えば、静電触覚出力デバイス又は熱触覚出力デバイス)を有することができる。こうした実施形態では、したがって、触覚アクセサリー装置は、ゲームコントローラーがそれだけでは不可能である或るタイプの触覚効果を生成することができることにより、ゲームコントローラーの機能を向上させることができる。
一実施形態において、触覚アクセサリー装置210は、こうしたハンドヘルドコントローラー機能及び触覚機能を実行する構成要素を含む物理的パッケージとすることができる。例えば、上述したように、触覚アクセサリー装置210は、触覚効果を出力するように構成された触覚出力デバイス211a、211bと、動きベースのジェスチャー又は他の任意の形態のユーザー入力を検知するように構成されたモーションセンサー213と、コンピューターシステム220と通信するように構成された無線通信インターフェースユニット215と、触覚アクセサリー装置210の他の構成要素を制御する(例えば、触覚出力デバイス211a、211bを制御する)ように構成されたプロセッサ217と、装置210の他の構成要素に電力を提供するように構成された電源219とを有することができる。構成要素は、全て、触覚アクセサリー装置210の形状適合性を有する本体212(例えば、ゴム等のエラストマー材料のシート)に埋め込むことができる。したがって、触覚アクセサリー装置210を使用して、触覚アクセサリー装置210がそれぞれの物理的物体に取り付けられたとき、物理的物体231、232、233の各々を触覚対応ハンドヘルドコントローラーに変換、すなわち転用することができる。
一実施形態において、VR環境又はAR環境を提供するように構成されたコンピューターシステム220は、プロセッサ221、メモリ223及びヘッドマウントディスプレイ(HMD)デバイス225を有することができる。一実施形態では、プロセッサ221及びメモリ223はデスクトップコンピューター226の一部とすることができ、HMDデバイス225は、有線インターフェースを介して(又は、別の実施形態では、無線インターフェースを介して)プロセッサ221と通信する別個のデバイスとすることができる。HMDデバイス225は、VR環境又はAR環境を表示するディスプレイコンポーネント228を備えることができる。一実施形態では、コンピューターシステム220はカメラ227を備えることができ、カメラ227は、プロセッサ221と通信し、カメラ227の物理的な場所又は周囲環境の画像を取り込むように構成される。一実施形態では、カメラ227は、HMDデバイス225の一部等、表示デバイスの一部とすることができる。こうした実施形態では、ユーザーがHMDデバイス225を装着しているとき、カメラ227は、ユーザーの正面の物理的な場所又は周囲環境の画像を取り込むように構成することができる。別の実施形態では、カメラ227は、HMDデバイス225及びデスクトップコンピューターとは別個のデバイスとすることができる。一実施形態では、カメラ227はウェブカメラとすることができる。
上述したように、触覚アクセサリー装置210は、一実施形態では、図3Aに示すように弾性バンドの形態の形状適合性を有する本体を有することができる。例えば、図3Aは、ループを形成する弾性バンド312Aを利用する触覚アクセサリー装置310Aを示す。ループ状の弾性バンド312Aは、特定の物理的物体に取り付けられるように、その物理的物体の周囲に適合するように伸張させることができる。さらに、ループ状の弾性バンド312Aを形成するエラストマー材料により、ループ状の弾性バンド312Aは、図2における物理的物体231、232、233、234等、形状又はサイズの異なる、異なる物体の周囲に適合することができる。図3Aに更に図示するように、触覚アクセサリー装置310Aは、ループ状の弾性バンド312A内に又はその上に配置された、触覚出力デバイス311a、311b、モーションセンサー313A、無線通信インターフェースユニット315A、プロセッサ317A及び電源319Aを備えることができる。これらの構成要素は、上述した触覚出力デバイス211a、211b、モーションセンサー213、無線通信インターフェースユニット215、プロセッサ217及び電源219と同様とすることができる。
別の実施形態において、図3Bは、可撓性シートの形態の形状適合性を有する本体312Bを有する触覚アクセサリー装置310Bを示す。形状適合性を有する本体312Bは、可撓性ポリマー等の可撓性材料から形成することができる。形状適合性を有する本体312Bは、物理的物体に巻付け可能とすることができる。例えば、図3Dは、ワインボトル234に巻き付けられている形状適合性を有する本体312Bを示す。
一実施形態において、触覚アクセサリー装置310Bは、電極321と電極321の上に配置された絶縁層とを備える触覚出力デバイス311cを有することができ、触覚出力デバイス311cは、静電摩擦(ESF)効果を生成するように構成されている。図3Bにおける線A−Aに沿った断面図を示す図3Cに図示するように、電極321は、形状適合性を有する本体312B内に埋め込むことができる。場合により、形状適合性を有する本体312Bの一部は、電極321の上に配置された絶縁層を形成することができる。一実施形態では、装置310Bは、電源319に対し触覚出力デバイス311cに正弦波駆動信号を出力させることができるプロセッサ317を備える。正弦波駆動信号は、触覚出力デバイス311cに適用されると、模擬質感として知覚されることができる。一実施形態では、触覚アクセサリー装置310Bは、モーションセンサー313及び通信インターフェースユニット315を更に備えることができる。一実施形態では、構成要素311c、313、315、317及び319は、形状適合性を有する本体312B内に埋め込むことができる。
図4は、図1に示す触覚アクセサリー装置110の構成要素(触覚出力デバイス111、モーションセンサー113、通信インターフェースユニット115、プロセッサ117及び電源119)を有し、ユーザー入力要素413及び歪みセンサー414を更に有する、触覚アクセサリー装置410の別の実施形態を示す。一実施形態では、ユーザー入力要素413は、ボタン、トリガー、マニピュランダム(例えば、ジョイスティック若しくはサムスティック)又はそれらの組合せのうちの1つ以上を含むことができる。一実施形態では、触覚出力デバイス111は、ユーザー入力要素413に運動感覚触覚効果を提供するために、ユーザー入力要素413に作動力をかけることができるアクチュエーターとすることができる。一実施形態では、触覚出力デバイスは、ユーザー入力要素413において振動触知触覚効果を提供するように構成された振動触知アクチュエーターとすることができる。一実施形態では、触覚アクセサリー装置410は、形状適合性を有する本体412を有することができる。ユーザー入力要素416は、例えば、形状適合性を有する本体412の表面に付着させることにより、形状適合性を有する本体412の表面に取り付けることができる。
一実施形態において、触覚アクセサリー装置410は、触覚アクセサリー装置410の形状適合性を有する本体412の伸張及び曲げのうちの少なくとも一方を検知するように構成された歪みセンサー414を備えることができる。歪みセンサー414は、例えば、形状適合性を有する本体412の表面に付着した(又は、より一般的には、本体412の表面に配置された)、又は形状適合性を有する本体412内に埋め込まれた(又は、より一般的には配置された)歪みゲージとすることができる。一実施形態では、触覚アクセサリー装置410のプロセッサ117は、歪みセンサー414から歪みデータを受け取り、歪みデータに基づいて、触覚アクセサリー装置410が取り付けられる物理的物体の推定サイズ及び推定形状のうちの少なくとも一方を求めるように構成することができる。例えば、プロセッサ117は、歪みセンサー414によって測定される伸張の量に基づいて、物理的物体の推定サイズを求めることができ、形状適合性を有する本体412の相対的に大きい量の伸張(したがって、相対的に大きい量の歪み)は、触覚アクセサリー装置410が取り付けられる物理的物体の相対的に大きいサイズと相関させることができる。一実施形態では、プロセッサ117は、物理的物体の推定サイズ又は推定形状が、VR環境又はAR環境を提供しているコンピューターシステム(例えば、120)に通信されるようにすることができる。コンピューターシステムは、仮想物体の推定サイズ又は推定形状に基づいて仮想物体を制御することができ、物理的物体の推定サイズ又は推定形状に基づいて、触覚効果に対するパラメーター値(例えば、持続時間、振幅、周波数、開始時刻、タイプ等)を求めることができる。一実施形態では、触覚アクセサリー装置410は、温度センサーを備えることができ、コンピューターシステム120はまた、又はさらに、触覚効果のパラメーター値を温度センサーによって測定される物理的物体の温度に基づかせることができる。一実施形態では、コンピューターシステム120又は220は、さらに又は代替的に、触覚効果のパラメーター値を、触覚アクセサリー装置410のユーザー入力要素413において受け取られる入力に、モーションセンサー113によって追跡されている動きジェスチャーに、又はより一般的には、ユーザーによって行われている行動に基づかせることができる。
一実施形態において、触覚アクセサリー装置410は、形状適合性を有する本体412の異なる部分に配置される追加のセンサー(例えば、追加の歪みセンサー)を備えることができる。プロセッサ117は、複数の追加のセンサーの各々から歪みデータを受け取り、例えば、複数の追加のセンサーからの歪みデータに基づいて、形状適合性を有する本体412が巻き付けられる物理的物体の推定形状を求めるように構成することができる。
図5は、VR環境又はAR環境を提供する例としての方法500のフロー図を図示し、例えば、コンピューターシステム120/220のプロセッサ121/221によって、実行することができる。一実施形態では、方法500はステップ501で開始し、そこでは、プロセッサ121/221は、VR環境又はAR環境を提供するアプリケーションを実行する。例えば、アプリケーションは、上述した、仮想剣戟ゲーム、3D Tetris(登録商標)ゲーム若しくはモグラ叩きゲーム、又は他の何らかのゲーム(例えば、Pokemon Go(登録商標))等、ゲームアプリケーションとすることができる。一実施形態では、アプリケーションは、ビジュアルデザインアプリケーション又はグラフィックデザインアプリケーションとすることができる。一実施形態では、ステップ501は、プロセッサ121/221が、メモリ123/223等の非一時的コンピューター可読媒体に記憶された命令を実行することを含むことができる。一実施形態では、命令は、ARエンジン又はVRエンジンに対する命令とすることができる。
ステップ503において、プロセッサ121/221は、VR環境又はAR環境の仮想物体がコンピューターシステムの表示デバイスに表示されるようにする。例えば、プロセッサ121/221は、仮想物体がコンピューターシステム100/200の表示デバイス125/225に表示されるようにすることができる。図6及び図7に別の表示デバイス625を図示し、そこでは、仮想物体651(仮想ライトセーバー)及び仮想物体652(仮想Tetris(登録商標)タイル)が表示デバイス625に表示されている。表示デバイス625は、例えば、HMDデバイス、又はデスクトップ若しくはラップトップ表示デバイス(例えば、LED画面)とすることができ、さらに、ゲームシステム等、コンピューターシステムの一部とすることができる。ステップ503は、より詳細に後述する物理的物体への触覚アクセサリー装置(例えば、110/210/310A/310B/410)への取付の前、取付中又は取付の後に行うことができる。
図5に戻ると、ステップ505において、プロセッサ121/221は、触覚アクセサリー装置110/210/310A/310B/410のモーションセンサー113/213/313/313Aからセンサー情報を受け取る。触覚アクセサリー装置110/210/310A/310B/410は物理的物体(例えば、131/132/133/231/232/233/234)に取り付けられることができる。触覚アクセサリー装置110/210/310A/310B/410は、形状適合性を有する本体112/212/312A/312B、触覚出力デバイス111a及び111b/211a及び211b/311a〜311c、モーションセンサー113/213/313/313A、無線通信インターフェースユニット115/215/315/315A、プロセッサ117/217/317/317A及び電源119/219/319/319Aを備えることができる。上述したように、形状適合性を有する本体は、異なるそれぞれの物理的物体の異なる形状に適合するように再構成可能であるように構成される。一実施形態では、触覚出力デバイス111a及び111b/211a及び211b/311a〜311c、モーションセンサー113/213/313/313A、無線通信インターフェースユニット115/215/315/315A、プロセッサ117/217/317/317A及び電源119/219/319/319Aの各々は、形状適合性を有する本体112/212/312A/312Bの上又は中に配置する(例えば、中に埋め込む)ことができる。さらに、形状適合性を有する本体は、物理的物体の各々から取外し可能とすることができる。例えば、図6及び図7は、触覚アクセサリー装置310A及び310Bを示し、それらの各々が、図6の物理的物体231及び/又は図7の物理的物体232に形状適合することができる形状適合性を有する本体(例えば、312A、312B)を有する。さらに、触覚アクセサリー装置310A/310Bは、1つの物理的物体(例えば、231)に取り付け、その後、そこから取り外して、別の物理的物体(例えば、物理的物体232)に取り付けることができ、その逆もあり得る。一実施形態では、物理的物体は、ユーザーの家庭又は職場における日用品とすることができる。一実施形態では、物理的物体は、特定の形状を有するように特注することができる。例えば、物理的物体は、触覚アクセサリー装置とともに販売されるプラスチックボール、プラスチック立方体及びプラスチック円筒体を含む、一組の物理的物体の一部とすることができる。ユーザーは、この組から、VR環境又はAR環境において仮想物体に対する最適な代用物である物理的物体を選択することができる。
図5に戻ると、ステップ505におけるモーションセンサーからのセンサー情報は、物理的物体が移動している速さ、物理的物体が移動している方向、物理的物体が移動している速度(速さ及び方向)、物理的物体における加速度及び加速方向のうちの少なくとも1つを示すことができる。一実施形態では、センサー情報は、さらに又は代替的に、物理的物体の位置又は向きを示すことができる。上述したように、モーションセンサーからのセンサー情報は、モーションセンサーが触覚アクセサリー装置110/210/310A/310B/410の通信インターフェースユニット115/215/315/315Aに直接提供した生センサー情報を含むことができ、又は、生センサー情報に基づいてプロセッサ117/217/317/317Aによって生成された処理済みセンサー情報を含むことができる。さらに、図6及び図7は、物理的物体231/232に取り付けられる触覚アクセサリー装置310A/310Bの動きを示す。図6では、物理的物体231は、Pringles(登録商標)缶又は他の細長い円筒状容器とすることができ、仮想物体651(仮想ライトセーバー)に対する代用物として使用されている。図6は、剣を振る動きの一部とすることができる速度ベクトルV1に沿って(ユーザーにより)移動している物理的物体231を示す。触覚アクセサリー装置310Aのモーションセンサー313Aは、物理的物体231の速度と同じである触覚アクセサリー装置310Aの速度を測定することができる。モーションセンサーは、表示デバイス625のコンピューターシステムに通信される生センサー情報を出力することができ、コンピューターシステムは、生センサー情報に基づいて、物理的物体231が速度V1で移動していると判断することができる。図7では、物理的物体232は、仮想3Dタイルに対する代用物として使用されているティッシュの箱である。物理的物体232は、速度ベクトルV2に沿って移動しており、又はより具体的には下降している。モーションセンサー313Aは、物理的物体232の速度ベクトルV2を示す生センサー情報を同様に生成することができる。
図5に戻ると、ステップ507において、プロセッサ121/221は、センサー情報に基づいて仮想物体を制御する。例えば、センサー情報は、物理的物体の移動を記述することができ、プロセッサは、物理的物体の移動に一致するように仮想物体の移動を制御することができる。図6は、例えば、移動の方向、速さ又は両方に関して、物理的物体231の速度ベクトルV1と実質的に同じである速度Vで、表示デバイス625において移動するように制御されている仮想物体651を図示する。図6は、ゲームプレー中にユーザーが振っている物理的物体231を示すことができる。その結果、表示デバイス625が属するコンピューターシステムは、振る動きの速度を求め、仮想物体651を、同じか又は同様の速度で振られているように表示されるように制御することができる。別の実施形態では、触覚アクセサリー装置310Aのモーションセンサーからの速度データは、回転の方向及び回転の速さを示すことができる物理的物体231の回転速度を表すことができる。その結果、表示デバイス625が属するコンピューターシステムは、仮想物体651を、同じか又は同様の回転速度で回転しているように表示されるように制御することができる。さらに、図7はまた、物理的物体232の速度ベクトルV2と同じ速度ベクトルVで移動しているように表示されるように仮想物体652を制御する、表示デバイス625が属するコンピューターシステムを示す。別の実施形態では、触覚アクセサリー装置310A/310Bに、物理的物体231/232の位置又は移動を検知する機能がなくてもよい。こうした状況では、触覚アクセサリー装置310A/310Bは、依然として、それぞれの仮想物体651/652の表面特性等、物理的環境又は仮想環境の環境状態に基づいて触覚効果を出力する(例えば、仮想物体651/652の表面質感を表すようにESF効果を出力する)ことができる。
図5に戻ると、ステップ509において、プロセッサ121/221は、仮想物体に関連する触覚効果が生成されるべきであると判断することができる。一実施形態では、触覚効果は、上述した剣戟ゲーム又は3D Tetris(登録商標)ゲームにおけるイベント等、VR環境又はAR環境におけるイベントによって引き起こすことができる。例えば、こうしたイベントは、仮想物体(例えば、仮想ライトセーバー)が別の仮想物体(例えば、模擬剣戟の一部としての別の仮想ライトセーバー、又は仮想壁若しくは仮想床)と接触する間の接触イベントとすることができる。一実施形態では、プロセッサ121/221は、触覚効果のタイプ(例えば、接触をシミュレートする振動触知効果、又は質感をシミュレートするESF効果)、いずれの触覚アクチュエーター又はいずれのタイプの触覚アクチュエーターが触覚効果を生成すべきか、触覚効果の振幅、触覚効果の周波数、触覚効果のタイミング(例えば、持続時間、開始時刻)、及び触覚効果の他の任意のパラメーター値等、触覚効果のパラメーター値を決定することができる。一実施形態では、プロセッサ121/221は、既存の記憶された駆動信号波形に対する波形識別子を選択することにより、又は信号波形自体を生成することにより、触覚効果に対する駆動信号波形を決定することができる。一実施形態では、プロセッサ121/221は、触覚効果を用いて、仮想物体のVR環境又はAR環境とのインタラクションに基づいてパラメーター値又は駆動信号波形を決定することにより、仮想物体に対して起こっていることを伝達することができる。一実施形態では、パラメーター値又は駆動信号波形は、仮想物体の仮想形状、仮想サイズ、仮想温度又は他の仮想特性のうちの少なくとも1つに基づいて決定することができる。一実施形態では、パラメーター値又は駆動信号波形は、物理的物体の推定形状、推定サイズ、推定質量、剛性のレベル、温度又は速度等、触覚アクセサリー装置が取り付けられている物理的物体の物理的特性に基づいて決定することができる。
一実施形態において、コンピューターシステム120/220及び触覚アクセサリー装置110/210/310A/310B/410がペアリングプロセスを実行し、プロセス中に情報を交換又は報告した場合、プロセッサ121/221は、交換又は報告された情報に基づいて、触覚効果に対するパラメーター値又は駆動信号波形を決定することができる。例えば、ペアリングプロセス中、触覚アクセサリー装置は、それがいくつの触覚出力デバイスを有するか、いかなるタイプの触覚出力デバイスを有するか、触覚アクセサリー装置の形状適合性を有する本体内のどこに触覚出力デバイスが位置するか、又はそれらの組合せを報告することができる。プロセッサ121/221は、報告された情報に基づいて、触覚効果のパラメーター値又は駆動信号波形を決定するように構成することができる。
ステップ511において、プロセッサ121/221は、触覚アクセサリー装置110/210/310A/310B/410が触覚効果を生成すべきであることを示す信号を触覚アクセサリー装置110/210/310A/310B/410に通信することができ、それにより、触覚アクセサリー装置に取り付けられた物理的物体(例えば、231/232/233/234)においても触覚効果が生成される。一実施形態では、信号は、触覚アクセサリー装置110/210/310A/310B/410が触覚効果を出力すべきであることを示す触覚コマンドを含むことができる。一実施形態では、信号は、触覚効果の1つ以上のパラメーター値を含むことができる。一実施形態では、信号は、触覚効果の駆動信号波形又は波形識別子を含むことができる。一実施形態では、信号は、触覚アクセサリー装置110/210/310A/310B/410が触覚効果を生成する際にいずれの触覚出力デバイスを使用すべきかを特定することができる。信号は、コンピューターシステム120/220の通信インターフェースを介して、触覚アクセサリー装置110/210/310A/310B/410の通信インターフェースユニット115/215に送信することができる。
上述したように、一実施形態では、ユーザーは、VR環境又はAR環境の仮想物体(例えば、651)に対する代用物として物理的物体(例えば、231)を選択し、その物理的物体に触覚アクセサリー装置(例えば、310A)を取り付けることができる。これは、コンピューターシステム120/220によりVR環境若しくはAR環境のためのアプリケーションの実行が開始される前若しくは開始された後、又は、VR環境若しくはAR環境が表示される若しくは他の方法でレンダリングされる前、若しくは表示されたか若しくはレンダリングされた後に行うことができる。場合により、仮想物体に対する代用物としてユーザーがいずれの物理的物体を選択したかを示すために、ユーザーは、コンピューターシステム120/220のカメラ227(システム120/220がカメラ227を有する場合)の正面に物理的物体を配置することができる。カメラ227は、物理的物体の画像を取り込むことができ、コンピューターシステム120/220のプロセッサ121/221は、物理的物体の取込み画像を受け取ることができる。そして、プロセッサ121/221は、コンピューターシステム120/220のメモリ123/223において、物理的物体を仮想物体に関連付ける(例えば、物理的物体231を仮想物体651に関連付ける)ことができる。コンピューターシステム(例えば、120)がカメラを有していない実施形態では、コンピューターシステム120を(例えば、Bluetooth(登録商標)を介して)触覚アクセサリー装置110/210/310A/310B/410とペアリングすることができ、それにより、触覚アクセサリー装置110/210/310A/310B/410は、モーションセンサー追跡(慣性センサー追跡とも呼ぶ)を実行することができる。ペアリングは、コンピューターシステム120/220と装置110/210/310A/310B/410との間の通信を確立することを含むことができる。ペアリングは、無線で、データケーブルを通して、又はそれらの組合せで実行することができる。一実施形態では、コンピューターシステム120/220を、異なるそれぞれの物理的物体に取り付けることができる複数の触覚アクセサリー装置と同時にペアリングすることができる。場合により、コンピューターシステム120/220は、さらに、VR環境又はAR環境における全ての物理的物体を異なるそれぞれの物理的物体に関連付けることができる。
一実施形態において、コンピューターシステム120/220と触覚アクセサリー装置110/210/310A/310B/410とがペアリングされると、触覚アクセサリー装置の移動が、(上述したような)モーションセンサー追跡、カメラ227による視覚的追跡、又はそれらの任意の組合せにより、仮想物体の移動に変換される。さらに、一実施形態では、VR環境のVRエンジン又はAR環境のARエンジンは、プロセッサ121/221に対し、(無線インターフェース又は有線インターフェースを介して)触覚アクセサリー装置110/210/310A/310B/410にコマンドを送信させることができる。エンジンは、駆動信号を特定の触覚出力デバイス111a及び111b/211a及び211b/311a〜311cに直接送信することができ、又は触覚アクセサリー装置に保存された触覚効果波形に関連する特定の触覚効果IDを有するコマンドを送信することができる。触覚効果IDは、周波数、波形、振幅等、パラメーター値を指定することができる。そして、触覚アクセサリー装置は、駆動信号波形を生成するか、又は、装置に記憶されたか若しくはクラウドに記憶された駆動信号波形を検索することができる。
一実施形態において、同様に上述したように、コンピューターシステム120/220は、VR環境又はAR環境の仮想物体に対する代用物として使用するために、物理的物体を選択することができる。場合により、この選択は、ハンドヘルドコントローラーとして保持されるのに好適な複数の物理的物体から、仮想物体の形状に最も一致する形状を有する物理的物体を特定するように画像処理を実行することに基づくことができる。図8に示す実施形態では、コンピューターシステム120/220のプロセッサ121/221がプロセッサ121/221と通信するカメラ(例えば、227)によって取り込まれた画像を受け取るステップ601が含まれる。画像は、カメラ227の正面の物理的な場所又は周囲環境の画像とすることができる。一実施形態では、カメラがユーザーに近接している場合には、画像は、ユーザーの物理的な場所又は周囲環境の画像とすることもできる。カメラによって取り込まれる画像は、画像処理アルゴリズムを介して特定することができる複数の物理的物体を含むことができる。ステップ603において、プロセッサ121/221は、カメラ227によって取り込まれる画像から、画像の(複数の物理的物体のうちからの)物理的物体が仮想物体の形状と実質的に同じ形状を有すると判断する。例えば、カメラ227によって取り込まれる画像は、物理的物体231、232、233、234を取り込むことができる。VR環境又はAR環境が仮想物体651(仮想ライトセーバー)を含む場合、プロセッサ121/221は、仮想ライトセーバーが、表示デバイス625に表示されたときに細長くかつ円筒状の形状を有すると判断することができ、物理的物体231が、仮想ライトセーバーの形状に実質的に類似する形状を有すると判断することができる。一実施形態では、カメラ227は、その物理的な場所又は周囲環境をスキャンして、複数のそれぞれの物理的物体の画像を取り込むことができる。人工知能(AI)エンジンは、取込み画像を処理して、画像における様々な物理的物体を特定し且つ分類することができる。
ステップ605において、物理的物体が仮想物体の形状と実質的に同じ形状を有するという判断に応じて、プロセッサ121/221は、コンピューターシステム120/220の表示デバイス125/225/625に、触覚アクセサリー装置が物理的物体に手動で取り付けられるべきであるという指示を出力することができる。例えば、物理的物体231、232、233、234の画像が取り込まれる上記例に関して、プロセッサは、表示デバイス125/225/625上で画像において物理的物体231を強調表示させることができる。物理的物体231の強調表示は、ユーザーに対し、触覚アクセサリー装置110/210/310A/310B/410を物理的物体231に(他の物理的物体232、233、234とは異なり)取り付けるべきであることを示すことができる。
ステップ607において、プロセッサ121/221は、プロセッサ121/221が属するコンピューターシステム120/220のメモリ123/223において、仮想物体(例えば、651)を物理的物体(例えば、231)に関連付けることができる。一実施形態では、関連付けは、メモリ123/223に記憶されたテーブルにおけるものとすることができ、そこでは、テーブルの1つの列が仮想物体のリストを有し、テーブルの別の列が、仮想物体に関連するそれぞれの物理的物体のリストを有する。
場合により、第1の仮想物体に対する代用物として使用することができる第1の物理的物体に、触覚アクセサリー装置を取り付けることができる。後に、第2の仮想物体に対する代用物として使用することができる第2の物理的物体に、同じ触覚アクセサリー装置を取り付けることができる。一実施形態では、同じ物理的物体に異なる触覚アクセサリー装置を取り付けることができる。例えば、物理的物体に、第1のタイプの触覚出力デバイス(例えば、振動触知アクチュエーター)を備えた第1の触覚アクセサリー装置を取り付けることができる。第1の触覚アクセサリー装置が取り付けられるのと同時に、又は、第1の触覚アクセサリー装置が取り除かれた後に、物理的物体に第2のタイプの触覚出力デバイス(例えば、ESFアクチュエーター)を備えた第2の触覚アクセサリー装置を取り付けることができる。場合により、仮想物体は、第1の物理的物体に取り付けられた第1の触覚アクセサリー装置によって表すことができ、後に、第2の物理的物体に取り付けられた第2の触覚アクセサリー装置によって表すことができる。
一実施形態において、プロセッサ121/221は、VR環境又はAR環境に第1の仮想物体(例えば、651)を生成させ、第1の物理的物体(例えば、231)に基づいて第1の仮想物体を制御させた後、第1の仮想物体(例えば、651)に置き換わる第2の仮想物体(例えば、652)を生成し、異なる物理的物体(例えば、232)を第2の仮想物体652に関連付けるように構成することができる。例えば、プロセッサは、第2の仮想物体652が、コンピューターシステムの表示デバイス625に表示されるようにすることができる。仮想物体652は、仮想物体651を生成したものと同じVR環境若しくはAR環境の一部とすることができ、又は異なるVR環境若しくはAR環境の一部とすることができる。プロセッサは、さらに、触覚アクセサリー装置(例えば、310A)が複数の物理的物体のうちの第1の物理的物体231に取り付けられている状態から、触覚アクセサリー装置310Bが第2物理的物体232に取り付けられている状態への変化を、検出することができる。そして、プロセッサは、コンピューターのメモリにおいて第2の物理的物体232を第2の仮想物体652に関連付けることができる。一実施形態では、第1の物理的物体231及び第2の物理的物体232は、異なるそれぞれの形状を有することができる。
一実施形態において、触覚アクセサリー装置(例えば、110/210/310A/310B/410)は、物理的物体231/232/233、234の物理的特徴を測定し、測定値をコンピューターシステム120/220に提供するように構成することができる。したがって、一実施形態では、コンピューターシステム120/220のプロセッサ121/221は、触覚アクセサリー装置が第1の物理的物体231に取り付けられると、触覚アクセサリー装置から、第1の物理的物体(例えば、231)の第1の推定形状及び第1の推定サイズのうちの少なくとも一方を受け取ることができ、触覚アクセサリー装置が第2の物理的物体232に取り付けられると、第2の物理的物体232の第2の推定形状及び第2の推定サイズのうちの少なくとも一方を更に受け取ることができる。
一実施形態において、コンピューター120/220のプロセッサ121/221は、物理的物体231/232/233/234の特性に基づいて、触覚アクセサリー装置110/210/310A/310B/410が、物理的物体231/232/233/234においていずれの触覚効果を生成すべきであるかを決定することができる。例えば、触覚効果は、触覚アクセサリー装置が第1の物理的物体231に取り付けられたときに、第1の物理的物体231の第1の推定形状及び第1の推定サイズのうちの少なくとも一方に基づいて決定することができる。一実施形態では、プロセッサは、触覚アクセサリー装置が第2の物理的物体232に取り付けられたときに、第2の物理的物体232の第2の推定形状及び第2の推定サイズのうちの少なくとも一方に基づいて第2の触覚効果を決定することができる。
種々の実施形態を上述してきたが、これらの実施形態は、限定としてではなく本発明の単なる説明及び例として提示されていることを理解すべきである。形式及び細部における種々の変更は本発明の趣旨及び範囲から逸脱することなく本発明内で行うことができることは当業者には明らかであろう。したがって、本発明の範囲(breadth and scope)は、上述の例示的な実施形態のいずれかによって限定されるべきではなく、添付の特許請求の範囲及びそれらの均等物によってのみ規定されるべきである。本明細書において論考された各実施形態、及び本明細書において引用された各引用文献の各特徴は、他の任意の実施形態の特徴と組み合わせて用いることができることも理解されるであろう。本明細書において論考された全ての特許及び刊行物は、引用することによりその全体が本明細書の一部をなす。
本願は、2017年11月22日に出願された米国特許出願第15/820,990号の利益を主張し、この出願の開示は引用することによりその全体が本明細書の一部をなす。