以下、この発明の実施形態について図面を参照しながら詳細に説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。
[HMDシステムの構成]
図1を参照して、HMDシステム100の構成について説明する。図1は、HMDシステム100の構成の概略を表す図である。ある局面において、HMDシステム100は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。HMD110は、モニタを備える所謂ヘッドマウントディスプレイと、スマートフォンその他のモニタを有する端末を装着可能なヘッドマウント機器のいずれをも含み得る。
HMDシステム100は、HMD110と、HMDセンサ120と、コントローラ160と、コンピュータ200とを備える。HMD110は、モニタ112と、注視センサ140とを含む。コントローラ160は、モーションセンサ130を含み。
ある局面において、コンピュータ200は、インターネットその他のネットワーク19に接続可能であり、ネットワーク19に接続されているサーバ150その他のコンピュータと通信可能である。別の局面において、HMD110は、HMDセンサ120の代わりに、センサ114を含み得る。
HMD110は、ユーザ190の頭部に装着され、動作中に仮想空間をユーザ190に提供し得る。より具体的には、HMD110は、右目用の画像および左目用の画像をモニタ112にそれぞれ表示する。ユーザ190の各目がそれぞれの画像を視認すると、ユーザ190は、両目の視差に基づき当該画像を3次元の画像として認識し得る。
モニタ112は、例えば、非透過型の表示装置として実現される。ある局面において、モニタ112は、ユーザ190の両目の前方に位置するようにHMD110の本体に配置されている。したがって、ユーザ190は、モニタ112に表示される3次元画像を視認すると、仮想空間に没入することができる。ある実施形態において、仮想空間は、例えば、背景、ユーザ190が操作可能なオブジェクト、ユーザ190が選択可能なメニューの画像を含む。ある実施形態において、モニタ112は、所謂スマートフォンその他の情報表示端末が備える液晶モニタまたは有機EL(Electro Luminescence)モニタとして実現され得る。
他の局面において、モニタ112は、透過型の表示装置として実現され得る。この場合、HMD110は、図1に示されるようにユーザ190の目を覆う密閉型ではなく、メガネ型のような開放型であり得る。透過型のモニタ112は、その透過率を調整することにより、一時的に非透過型の表示装置として機能してもよい。また、モニタ112は、仮想空間を構成する画像の一部と、現実空間とを同時に表示する構成を含んでいてもよい。例えば、モニタ112は、HMD110に搭載されたカメラで撮影した現実空間の画像を表示してもよいし、一部の透過率を高く設定することにより現実空間を視認可能にしてもよい。
モニタ112は、右目用の画像を表示するためのサブモニタと、左目用の画像を表示するためのサブモニタとを含む。別の局面において、モニタ112は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、モニタ112は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。
HMDセンサ120は、HMD110の位置および姿勢(傾き)を検出する。この場合、HMD110は、複数の光源(図示しない)を含む。各光源は例えば、赤外線を発するLED(Light Emitting Diode)により実現される。HMDセンサ120は、各光源が発する光を検出して、HMD110の位置および姿勢を検出するためのポジショントラッキング機能を有する。
なお、別の局面において、HMDセンサ120は、カメラにより実現されてもよい。この場合、HMDセンサ120は、カメラから出力されるHMD110の画像情報を用いて、画像解析処理を実行することにより、HMD110の位置および傾きを検出することができる。
さらに他の局面において、コンピュータ200は、HMDセンサ120の出力に替えてセンサ114の出力に基づいてHMD110の傾きを検出するように構成されてもよい。センサ114は、例えば、角速度センサ、加速度センサ、ジャイロセンサ、地磁気センサにより、またはこれらのセンサの組み合わせにより実現される。コンピュータ200は、センサ114の出力に基づいて、HMD110の傾きを検出する。一例として、センサ114が角速度センサである場合、角速度センサは、現実空間におけるHMD110の3軸周りの角速度を経時的に検出する。コンピュータ200は、各角速度に基づいて、HMD110の3軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、HMD110の傾きを算出する。
注視センサ140は、ユーザ190の右目および左目の視線が向けられる方向(視線)を検出する。当該方向の検出は、例えば、公知のアイトラッキング機能によって実現される。注視センサ140は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ140は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ140は、例えば、ユーザ190の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ140は、検出した各回転角に基づいて、ユーザ190の視線を検知できる。
サーバ150は、コンピュータ200にプログラムを送信し得る。別の局面において、サーバ150は、他のユーザによって使用されるHMDに仮想現実を提供するための他のコンピュータ200と通信し得る。例えば、アミューズメント施設において、複数のユーザが参加型のゲームを行なう場合、各コンピュータ200は、各ユーザの動作に基づく信号を他のコンピュータ200と通信して、同じ仮想空間において複数のユーザが共通のゲームを楽しむことを可能にする。
コントローラ160は、無線によりコンピュータ200に接続されている。コントローラ160は、ユーザ190からコンピュータ200への命令の入力を受け付ける。ある局面において、コントローラ160は、ユーザ190によって把持可能に構成される。別の局面において、コントローラ160は、ユーザ190の身体あるいは衣類の一部に装着可能に構成される。別の局面において、コントローラ160は、コンピュータ200から送信される信号に基づいて、振動、音、光のうちの少なくともいずれかを出力するように構成されてもよい。別の局面において、コントローラ160は、ユーザ190から、仮想空間に配置されるオブジェクトの位置や動きを制御するための操作を受け付ける。
モーションセンサ130は、ある局面において、ユーザ190の手に取り付けられて、ユーザ190の手の動きを検出する。例えば、モーションセンサ130は、3軸のジャイロセンサと3軸の加速度センサとの組み合わせにより構成され、重力方向(鉛直方向)を基準として3軸まわりの加速度を検出する。検出された信号は、コントローラ160からコンピュータ200に送られる。モーションセンサ130は、例えば、手袋型のコントローラ160に設けられている。ある実施形態において、現実空間における安全のため、コントローラ160は、手袋型のようにユーザ190の手に装着されることにより容易に飛んで行かないものに装着されるのが望ましい。別の局面において、ユーザ190に装着されないセンサがユーザ190の手の動きを検出してもよい。例えば、ユーザ190を撮影するカメラ(例えば、ステレオ赤外線カメラ)の信号が、ユーザ190の動作を表わす信号として、コンピュータ200に入力されてもよい。モーションセンサ130とコンピュータ200とは、一例として、無線により互いに接続される。無線の場合、通信形態は特に限られず、例えば、Bluetooth(登録商標)その他の公知の通信手法が用いられる。
[ハードウェア構成]
図2を参照して、本実施形態に係るコンピュータ200について説明する。図2は、ある局面に従うコンピュータ200のハードウェア構成の一例を表すブロック図である。コンピュータ200は、主たる構成要素として、プロセッサ10と、メモリ11と、ストレージ12と、入出力インターフェイス13と、通信インターフェイス14とを備える。各構成要素は、それぞれ、バス15に接続されている。
プロセッサ10は、コンピュータ200に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ11またはストレージ12に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ10は、CPU(Central Processing Unit)、MPU(Micro Processor Unit)、FPGA(Field-Programmable Gate Array)その他のデバイスとして実現される。
メモリ11は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ12からロードされる。データは、コンピュータ200に入力されたデータと、プロセッサ10によって生成されたデータとを含む。ある局面において、メモリ11は、RAM(Random Access Memory)その他の揮発メモリとして実現される。
ストレージ12は、プログラムおよびデータを永続的に保持する。ストレージ12は、例えば、ROM(Read-Only Memory)、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ12に格納されているプログラムは、HMDシステム100において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、他のコンピュータ200との通信を実現するためのプログラムを含む。ストレージ12に格納されているデータは、仮想空間を規定するためのデータおよびオブジェクト等を含む。
なお、別の局面において、ストレージ12は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、コンピュータ200に内蔵されたストレージ12の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のHMDシステム100が使用される場面において、プログラムやデータの更新を一括して行なうことが可能になる。
ある実施形態において、入出力インターフェイス13は、HMD110、HMDセンサ120およびモーションセンサ130との間で信号を通信する。ある局面において、HMD110に含まれるセンサ114および注視センサ140は、HMD110のインターフェイスを介してコンピュータ200との通信を行ない得る。入出力インターフェイス13は、一例として、USB(Universal Serial Bus)、DVI(Digital Visual Interface)、HDMI(登録商標)(High-Definition Multimedia Interface)その他の端子を用いて実現される。なお、入出力インターフェイス13は上述のものに限られない。
ある実施形態において、入出力インターフェイス13は、さらに、コントローラ160と通信し得る。例えば、入出力インターフェイス13は、コントローラ160およびモーションセンサ130から出力された信号の入力を受ける。別の局面において、入出力インターフェイス13は、プロセッサ10から出力された命令を、コントローラ160に送る。当該命令は、振動、音声出力、発光等をコントローラ160に指示する。コントローラ160は、当該命令を受信すると、その命令に応じて、振動、音声出力または発光のいずれかを実行する。
通信インターフェイス14は、ネットワーク19に接続されて、ネットワーク19に接続されている他のコンピュータ(例えば、サーバ150)と通信する。ある局面において、通信インターフェイス14は、例えば、LAN(Local Area Network)その他の有線通信インターフェイス、あるいは、WiFi(Wireless Fidelity)、Bluetooth(登録商標)、NFC(Near Field Communication)その他の無線通信インターフェイスとして実現される。なお、通信インターフェイス14は上述のものに限られない。
ある局面において、プロセッサ10は、ストレージ12にアクセスし、ストレージ12に格納されている1つ以上のプログラムをメモリ11にロードし、当該プログラムに含まれる一連の命令を実行する。当該1つ以上のプログラムは、コンピュータ200のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ10は、入出力インターフェイス13を介して、仮想空間を提供するための信号をHMD110に送る。HMD110は、その信号に基づいてモニタ112に映像を表示する。
なお、図2に示される例では、コンピュータ200は、HMD110の外部に設けられる構成が示されているが、別の局面において、コンピュータ200は、HMD110に内蔵されてもよい。一例として、モニタ112を含む携帯型の情報通信端末(例えば、スマートフォン)がコンピュータ200として機能してもよい。
また、コンピュータ200は、複数のHMD110に共通して用いられる構成であってもよい。このような構成によれば、例えば、複数のユーザに同一の仮想空間を提供することもできるので、各ユーザは同一の仮想空間で他のユーザと同一のアプリケーションを楽しむことができる。
ある実施形態において、HMDシステム100では、グローバル座標系が予め設定されている。グローバル座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、ならびに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、3つの基準方向(軸)を有する。本実施形態では、グローバル座標系は視点座標系の一つである。そこで、グローバル座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれ、x軸、y軸、z軸と規定される。より具体的には、グローバル座標系において、x軸は現実空間の水平方向に平行である。y軸は、現実空間の鉛直方向に平行である。z軸は現実空間の前後方向に平行である。
ある局面において、HMDセンサ120は、赤外線センサを含む。赤外線センサが、HMD110の各光源から発せられた赤外線をそれぞれ検出すると、HMD110の存在を検出する。HMDセンサ120は、さらに、各点の値(グローバル座標系における各座標値)に基づいて、HMD110を装着したユーザ190の動きに応じた、現実空間内におけるHMD110の位置および傾きを検出する。より詳しくは、HMDセンサ120は、経時的に検出された各値を用いて、HMD110の位置および傾きの時間的変化を検出できる。HMD110の位置とは、HMDセンサ120の位置に対する相対的な位置である。
グローバル座標系は現実空間の座標系と平行である。したがって、HMDセンサ120によって検出されたHMD110の各傾きは、グローバル座標系におけるHMD110の3軸周りの各傾きに相当する。コンピュータ200は、グローバル座標系におけるHMD110の傾きに基づき、uvw視野座標系をHMD110に設定する。HMD110に設定されるuvw視野座標系は、HMD110を装着したユーザ190が仮想空間において物体を見る際の視点座標系に対応する。
[uvw視野座標系]
図3を参照して、uvw視野座標系について説明する。図3は、ある実施形態に従うHMD110に設定されるuvw視野座標系を概念的に表す模式図である。HMDセンサ120は、HMD110の起動時に、グローバル座標系におけるHMD110の位置および傾きを検出する。プロセッサ10は、検出された値に基づいて、uvw視野座標系をHMD110に設定する。
図3に示されるように、HMD110は、HMD110を装着したユーザ190の頭部を中心(原点)とした3次元のuvw視野座標系を設定する。より具体的には、HMD110は、グローバル座標系を規定する水平方向、鉛直方向、および前後方向(x軸、y軸、z軸)を、グローバル座標系内においてHMD110の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる3つの方向を、HMD110におけるuvw視野座標系のピッチ方向(u軸)、ヨー方向(v軸)、およびロール方向(w軸)として設定する。
ある局面において、HMD110を装着したユーザ190が直立し、かつ、正面を視認している場合、プロセッサ10は、グローバル座標系に平行なuvw視野座標系をHMD110に設定する。この場合、グローバル座標系における水平方向(x軸)、鉛直方向(y軸)、および前後方向(z軸)は、HMD110におけるuvw視野座標系のピッチ方向(u軸)、ヨー方向(v軸)、およびロール方向(w軸)に一致する。
uvw視野座標系がHMD110に設定された後、HMDセンサ120は、HMD110の動きに基づいて、設定されたuvw視野座標系におけるHMD110の傾き(傾きの変化量)を検出できる。この場合、HMDセンサ120は、HMD110の傾きとして、uvw視野座標系におけるHMD110のピッチ角(θu)、ヨー角(θv)、およびロール角(θw)をそれぞれ検出する。ピッチ角(θu)は、uvw視野座標系におけるピッチ方向周りのHMD110の傾き角度を表す。ヨー角(θv)は、uvw視野座標系におけるヨー方向周りのHMD110の傾き角度を表す。ロール角(θw)は、uvw視野座標系におけるロール方向周りのHMD110の傾き角度を表す。
コンピュータ200は、HMDセンサ120の出力に基づいて検出したHMD110の傾き角度に基づいて、HMD110が動いた後のHMD110におけるuvw視野座標系を、HMD110に設定する。HMD110と、HMD110のuvw視野座標系との関係は、HMD110の位置および傾きに関わらず、常に一定である。HMD110の位置および傾きが変わると、当該位置および傾きの変化に連動して、グローバル座標系におけるHMD110のuvw視野座標系の位置および傾きが変化する。
ある局面において、HMDセンサ120は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係(例えば、各点間の距離など)に基づいて、HMD110の現実空間内における位置を、HMDセンサ120に対する相対位置として特定する。また、プロセッサ10は、特定された相対位置に基づいて、現実空間内(グローバル座標系)におけるHMD110のuvw視野座標系の原点を決定してもよい。
[仮想空間]
図4を参照して、仮想空間についてさらに説明する。図4は、ある実施形態に従う仮想空間2を表現する一態様を概念的に表す模式図である。仮想空間2は、中心21の360度方向の全体を覆う全天球状の構造を有する。図4では、説明を複雑にしないために、仮想空間2のうちの上半分の天球が例示されている。仮想空間2では各メッシュが規定される。各メッシュの位置は、仮想空間2に規定されるXYZ座標系における座標値として予め規定されている。コンピュータ200は、仮想空間2に展開可能なコンテンツ(静止画、動画等)を構成する各部分画像を、仮想空間2において対応する各メッシュにそれぞれ対応付けて、ユーザ190によって視認可能な仮想空間画像22が展開される仮想空間2をユーザ190に提供する。
ある局面において、仮想空間2では、中心21を原点とするXYZ座標系が規定される。XYZ座標系は、例えば、グローバル座標系に平行である。XYZ座標系は視点座標系の一種であるため、XYZ座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれX軸、Y軸、Z軸として規定される。したがって、XYZ座標系のX軸(水平方向)がグローバル座標系のx軸と平行であり、XYZ座標系のY軸(鉛直方向)がグローバル座標系のy軸と平行であり、XYZ座標系のZ軸(前後方向)がグローバル座標系のz軸と平行である。
HMD110の起動時、すなわちHMD110の初期状態において、仮想カメラ1が、仮想空間2の中心21に配置される。ある局面において、プロセッサ10は、仮想カメラ1が撮影する画像をHMD110のモニタ112に表示する。仮想カメラ1は、現実空間におけるHMD110の動きに連動して、仮想空間2を同様に移動する。これにより、現実空間におけるHMD110の位置および向きの変化が、仮想空間2において同様に再現される。
仮想カメラ1には、HMD110の場合と同様に、uvw視野座標系が規定される。仮想空間2における仮想カメラ1のuvw視野座標系は、現実空間(グローバル座標系)におけるHMD110のuvw視野座標系に連動するように規定されている。したがって、HMD110の傾きが変化すると、それに応じて、仮想カメラ1の傾きも変化する。また、仮想カメラ1は、HMD110を装着したユーザ190の現実空間における移動に連動して、仮想空間2において移動することもできる。
コンピュータ200のプロセッサ10は、仮想カメラ1の位置と、仮想カメラ1の撮影方向を示す基準視線5(仮想カメラ1の傾き方向)とに基づいて、仮想空間2における視認領域23を規定する。視認領域23は、仮想空間2のうち、HMD110を装着したユーザ190が視認する領域に対応する。上記のように、仮想カメラ1のuvw視野座標系はHMD110のuvw視野座標系に連動している。そのため、基準視線5は、センサ114またはHMD120の出力に基づいて算出されるHMD110の傾きによって定まる。
注視センサ140によって検出されるユーザ190の視線は、ユーザ190が物体を視認する際の視点座標系における方向である。HMD110のuvw視野座標系は、ユーザ190がモニタ112を視認する際の視点座標系に等しい。また、仮想カメラ1のuvw視野座標系は、HMD110のuvw視野座標系に連動している。したがって、ある局面に従うHMDシステム100は、注視センサ140によって検出されたユーザ190の視線を、仮想カメラ1のuvw視野座標系におけるユーザ190の視線とみなすことができる。
[ユーザの視線]
図5を参照して、ユーザ190の視線の決定について説明する。図5は、ある実施形態に従うHMD110を装着するユーザ190の頭部を上から表した模式図である。
ある局面において、注視センサ140は、ユーザ190の右目および左目の各視線を検出する。ある局面において、ユーザ190が近くを見ている場合、注視センサ140は、視線R1およびL1を検出する。別の局面において、ユーザ190が遠くを見ている場合、注視センサ140は、視線R2およびL2を検出する。この場合、ロール方向wに対して視線R2およびL2が成す角度は、ロール方向wに対して視線R1およびL1が成す角度よりも小さい。注視センサ140は、検出結果をコンピュータ200に送信する。
コンピュータ200が、視線の検出結果として、視線R1およびL1の検出値を注視センサ140から受信した場合には、その検出値に基づいて、視線R1およびL1の交点である注視点N1を特定する。一方、コンピュータ200は、視線R2およびL2の検出値を注視センサ140から受信した場合には、視線R2およびL2の交点を注視点として特定する。コンピュータ200は、特定した注視点N1の位置に基づき、ユーザ190の視線N0を特定する。コンピュータ200は、例えば、ユーザ190の右目Rと左目Lとを結ぶ直線の中点と、注視点N1とを通る直線の延びる方向を、視線N0として検出する。視線N0は、ユーザ190が両目により実際に視線を向けている方向である。また、視線N0は、視認領域23に対してユーザ190が実際に視線を向けている方向に相当する。
別の局面において、HMDシステム100は、HMDシステム100を構成するいずれかのパーツに、マイクおよびスピーカを備えてもよい。ユーザ190は、マイクに発話することにより、仮想空間2に対して、音声による指示を与えることができる。
また、別の局面において、HMDシステム100は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、HMDシステム100は、仮想空間2においてテレビ番組を表示することができる。
さらに別の局面において、HMDシステム100は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。
[視界領域]
図6および図7を参照して、視認領域23について説明する。図6は、仮想空間2において視認領域23をX方向から見たYZ断面を表す図である。図7は、仮想空間2において視認領域23をY方向から見たXZ断面を表す図である。
図6に示されるように、YZ断面における視認領域23は、領域24を含む。領域24は、仮想カメラ1の位置と基準視線5と仮想空間2のYZ断面とによって定義される。プロセッサ10は、仮想空間2における基準視線5を中心として極角αを含む範囲を、領域24として規定する。
図7に示されるように、XZ断面における視認領域23は、領域25を含む。領域25は、仮想カメラ1の位置と基準視線5と仮想空間2のXZ断面とによって定義される。プロセッサ10は、仮想空間2における基準視線5を中心とした方位角βを含む範囲を、領域25として規定する。
ある局面において、HMDシステム100は、コンピュータ200からの信号に基づいて、視界画像26をモニタ112に表示させることにより、ユーザ190に仮想空間を提供する。視界画像26は、仮想空間画像22のうち視認領域23に重畳する部分に相当する。ユーザ190が、頭に装着したHMD110を動かすと、その動きに連動して仮想カメラ1も動く。その結果、仮想空間2における視認領域23の位置が変化する。これにより、モニタ112に表示される視界画像26は、仮想空間画像22のうち、仮想空間2においてユーザ190が向いた方向の視認領域23に重畳する画像に更新される。ユーザ190は、仮想空間2における所望の方向を視認することができる。このように、仮想カメラ1の向き(傾き)は仮想空間2におけるユーザ190の視線(基準視線5)に相当し、仮想カメラ1が配置される位置は、仮想空間2におけるユーザ190の視点に相当する。したがって、仮想カメラ1を移動(位置を変える動作、向きを変える動作を含む)させることにより、モニタ112に表示される画像が更新される。
ユーザ190は、HMD110を装着している間、現実世界を視認することなく、仮想空間2に展開される仮想空間画像22のみを視認できる。そのため、HMDシステム100は、仮想空間2への高い没入感覚をユーザ190に与えることができる。
ある局面において、プロセッサ10は、HMD110を装着したユーザ190の現実空間における移動に連動して、仮想空間2において仮想カメラ1を移動させ得る。この場合、プロセッサ10は、仮想空間2における仮想カメラ1の位置および向きに基づいて、HMD110のモニタ112に投影される画像領域(すなわち、仮想空間2における視認領域23)を特定する。
ある実施形態に従うと、仮想カメラ1は、2つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含み得る。また、ユーザ190が3次元の仮想空間2を認識できるように、適切な視差が、2つの仮想カメラに設定される。本実施形態においては、仮想カメラ1が2つの仮想カメラを含み、2つの仮想カメラのロール方向が合成されることによって生成されるロール方向(w)がHMD110のロール方向(w)に適合されるように構成されているものとして、本開示に係る技術思想を例示する。
[コントローラ]
図8を参照して、コントローラ160の一例について説明する。図8は、ある実施の形態に従うコントローラ160の概略構成を表す図である。
図8に示されるように、ある局面において、コントローラ160は、右コントローラ800と左コントローラとを含み得る。右コントローラ800は、ユーザ190の右手で操作される。左コントローラは、ユーザ190の左手で操作される。ある局面において、右コントローラ800と左コントローラとは、別個の装置として対称に構成される。したがって、ユーザ190は、右コントローラ800を把持した右手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。別の局面において、コントローラ160は両手の操作を受け付ける一体型のコントローラであってもよい。以下、右コントローラ800について説明する。
右コントローラ800は、グリップ30と、フレーム31と、天面32とを備える。グリップ30は、ユーザ190の右手によって把持されるように構成されている。例えば、グリップ30は、ユーザ190の右手の掌と3本の指(中指、薬指、小指)とによって保持され得る。
グリップ30は、ボタン33,34と、モーションセンサ130とを含む。ボタン33は、グリップ30の側面に配置され、右手の中指による操作を受け付ける。ボタン34は、グリップ30の前面に配置され、右手の人差し指による操作を受け付ける。ある局面において、ボタン33,34は、トリガ式のボタンとして構成される。モーションセンサ130は、グリップ30の筐体に内蔵されている。なお、ユーザ190の動作がカメラその他の装置によってユーザ190の周りから検出可能である場合には、グリップ30は、モーションセンサ130を備えなくてもよい。
フレーム31は、その円周方向に沿って配置された複数の赤外線LED35を含む。赤外線LED35は、コントローラ160を使用するプログラムの実行中に、当該プログラムの進行に合わせて赤外線を発光する。赤外線LED35から発せられた赤外線は、右コントローラ800と左コントローラ(図示しない)との各位置や姿勢(傾き、向き)を検出するために使用され得る。図8に示される例では、二列に配置された赤外線LED35が示されているが、配列の数は図8に示されるものに限られない。一列あるいは3列以上の配列が使用されてもよい。
天面32は、ボタン36,37と、アナログスティック38とを備える。ボタン36,37は、プッシュ式ボタンとして構成される。ボタン36,37は、ユーザ190の右手の親指による操作を受け付ける。アナログスティック38は、ある局面において、初期位置(ニュートラルの位置)から360度任意の方向への操作を受け付ける。当該操作は、例えば、仮想空間2に配置されるオブジェクトを移動するための操作を含む。
ある局面において、右コントローラ800および左コントローラは、赤外線LED35その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型等を含むが、これらに限定されない。別の局面において、右コントローラ800と左コントローラは、例えば、コンピュータ200のUSBインターフェイスに接続され得る。この場合、右コントローラ800および左コントローラは、電池を必要としない。
図9は、右コントローラ800を把持するユーザ190の右手に対応して仮想空間に配置されるハンドオブジェクト910の一例を示す。例えば、ユーザ190の右手に対応するハンドオブジェクト910に対して、ヨー、ロール、ピッチの各方向が規定される。例えば、入力操作が、右コントローラ800のボタン34に対して行なわれると、ハンドオブジェクト910の人差し指を握りこんだ状態とし、入力操作がボタン34に対して行なわれていない場合には、図9に示すように、ハンドオブジェクト910の人差し指を伸ばした状態とすることもできる。例えば、ハンドオブジェクト910において親指と人差し指とが伸びている場合に、親指の伸びる方向がヨー方向、人差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定される平面に垂直な方向がピッチ方向としてハンドオブジェクト910に規定される。
[HMDの制御装置]
図10を参照して、HMD110の制御装置について説明する。ある実施形態において、制御装置は周知の構成を有するコンピュータ200によって実現される。図10は、ある実施形態に従うコンピュータ200をモジュール構成として表わすブロック図である。
図10に示されるように、コンピュータ200は、表示制御モジュール220と、仮想空間制御モジュール230と、メモリモジュール240と、通信制御モジュール250とを備える。表示制御モジュール220は、サブモジュールとして、仮想カメラ制御モジュール221と、視界領域決定モジュール222と、視界画像生成モジュール223と、基準視線特定モジュール224とを含む。仮想空間制御モジュール230は、サブモジュールとして、仮想空間定義モジュール231と、仮想オブジェクト生成モジュール232と、操作オブジェクト制御モジュール233と、メニュー制御モジュール234とを含む。
ある実施形態において、表示制御モジュール220と仮想空間制御モジュール230とは、プロセッサ10によって実現される。別の実施形態において、複数のプロセッサ10が表示制御モジュール220と仮想空間制御モジュール230として作動してもよい。メモリモジュール240は、メモリ11またはストレージ12によって実現される。通信制御モジュール250は、通信インターフェイス14によって実現される。
仮想カメラ制御モジュール221は、仮想空間2に仮想カメラ1を配置する。また、仮想カメラ制御モジュール221は、仮想空間2における仮想カメラ1の配置位置と、仮想カメラ1の向き(傾き)を制御する。視界領域決定モジュール222は、HMD110を装着したユーザ190の頭の向きと、仮想カメラ1の配置位置に応じて、視認領域23を規定する。視界画像生成モジュール223は、決定された視認領域23に基づいて、モニタ112に表示される視界画像26を生成する。
基準視線特定モジュール224は、センサ114またはHMDセンサ120の出力に基づいて、HMD110の傾き(ユーザ190の頭が向いている方向)を特定する。他の局面において、基準視線特定モジュール224は、注視センサ140からの信号に基づいて、ユーザ190の視線を特定し得る。
仮想空間制御モジュール230は、ユーザ190に提供される仮想空間2を制御する。仮想空間定義モジュール231は、仮想空間2を表わす仮想空間データを生成することにより、HMDシステム100における仮想空間2を規定する。
仮想オブジェクト生成モジュール232は、後述するオブジェクト情報242を参照して仮想空間2に配置されるオブジェクトを生成する。オブジェクトは、例えば、木、岩などの風景を構成するオブジェクト、人間を含む動物のオブジェクト、仮想空間2の地図のオブジェクト、ユーザ190から選択を受け付けるメニューのオブジェクトなどである。
操作オブジェクト制御モジュール233は、仮想空間2においてユーザ190の操作を受け付けるための操作オブジェクトを仮想空間2に配置する。ユーザ190は、操作オブジェクトを操作することにより、例えば、仮想空間2に配置されるオブジェクトを操作する。ある局面において、操作オブジェクトは、HMD110を装着したユーザ190の手に相当するハンドオブジェクト910である。他の局面において、操作オブジェクトは、ユーザ190の足に相当する足オブジェクト、ユーザ190の指に相当する指オブジェクト、ユーザ190が使用するスティックに相当するスティックオブジェクト等を含み得る。
メニュー制御モジュール234は、ユーザ190の選択を受け付けるメニューオブジェクトの動作を制御する。メニュー制御モジュール234の詳細は後述される。
仮想空間制御モジュール230は、仮想空間2に配置されるオブジェクトのそれぞれが、他のオブジェクトと衝突した場合に、当該衝突を検出する。仮想空間制御モジュール230は、例えば、あるオブジェクトと、別のオブジェクトとが触れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行なう。仮想空間制御モジュール230は、オブジェクトとオブジェクトとが触れている状態から離れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行なう。仮想空間制御モジュール230は、オブジェクトとオブジェクトとが触れている状態であることを検出することができる。具体的には、操作オブジェクト制御モジュール233は、操作オブジェクトと、他のオブジェクトとが触れたときに、これら操作オブジェクトと他のオブジェクトとが触れたことを検出して、予め定められた処理を行なう。仮想空間制御モジュール230が、あるオブジェクトと別のオブジェクトとが衝突したこと、および離れたことを検出する制御の詳細は、図13を用いて後述される。
メモリモジュール240は、コンピュータ200が仮想空間2をユーザ190に提供するために使用されるデータを保持している。ある局面において、メモリモジュール240は、空間情報241と、オブジェクト情報242と、ユーザ情報243とを保持している。
空間情報241は、仮想空間2を提供するために規定された1つ以上のテンプレートを保持している。このテンプレートは、仮想空間2の形状、大きさを定義する情報および仮想空間2を構成する各メッシュに展開されるコンテンツの情報などを含む。
オブジェクト情報242は、仮想空間2において再生されるコンテンツ、当該コンテンツで使用されるオブジェクト、およびオブジェクトを仮想空間2に配置するための情報(たとえば、位置情報)を保持している。当該コンテンツは、例えば、ゲーム、現実社会と同様の風景を表したコンテンツ等を含み得る。オブジェクト情報242は、位置情報244をさらに含む。位置情報244は、仮想空間2に配置されているオブジェクトの位置を示す情報を含む。位置情報244の詳細は、図13を用いて後述される。
ユーザ情報243は、HMDシステム100の制御装置としてコンピュータ200を機能させるためのプログラム、オブジェクト情報242に保持される各コンテンツを使用するアプリケーションプログラム等を保持している。
メモリモジュール240に格納されているデータおよびプログラムは、HMD110のユーザによって入力される。あるいは、プロセッサ10が、当該コンテンツを提供する事業者が運営するコンピュータ(例えば、サーバ150)からプログラムあるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール240に格納する。
通信制御モジュール250は、ネットワーク19を介して、サーバ150その他の情報通信装置と通信し得る。
ある局面において、表示制御モジュール220および仮想空間制御モジュール230は、例えば、ユニティテクノロジーズ社によって提供されるUnity(登録商標)を用いて実現され得る。別の局面において、表示制御モジュール220および仮想空間制御モジュール230は、各処理を実現する回路素子の組み合わせとしても実現され得る。
コンピュータ200における処理は、ハードウェアと、プロセッサ10により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール240に予め格納されている場合がある。また、ソフトウェアは、CD−ROMその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール250を介してサーバ150その他のコンピュータからダウンロードされた後、記憶モジュールに一旦格納される。そのソフトウェアは、プロセッサ10によって記憶モジュールから読み出され、実行可能なプログラムの形式でRAMに格納される。プロセッサ10は、そのプログラムを実行する。
図11に示されるコンピュータ200を構成するハードウェアは、一般的なものである。したがって、本実施形態に係る最も本質的な部分は、コンピュータ200に格納されたプログラムであるともいえる。なお、コンピュータ200のハードウェアの動作は周知であるので、詳細な説明は繰り返さない。
なお、データ記録媒体としては、CD−ROM、FD(Flexible Disk)、ハードディスクに限られず、磁気テープ、カセットテープ、光ディスク(MO(Magnetic Optical Disc)/MD(Mini Disc)/DVD(Digital Versatile Disc))、IC(Integrated Circuit)カード(メモリカードを含む)、光カード、マスクROM、EPROM(Electronically Programmable Read-Only Memory)、EEPROM(Electronically Erasable Programmable Read-Only Memory)、フラッシュROMなどの半導体メモリ等の固定的にプログラムを担持する不揮発性のデータ記録媒体でもよい。
なお、ここでいうプログラムとは、プロセッサ10により直接実行可能なプログラムだけでなく、ソースプログラム形式のプログラム、圧縮処理されたプログラム、暗号化されたプログラム等を含み得る。
[制御構造]
図11を参照して、コンピュータ200の制御構造について説明する。図11は、HMDシステム100が実行する処理を表わすフローチャートである。
図11を参照して、ステップS1110において、コンピュータ200のプロセッサ10は、仮想空間定義モジュール231として、仮想空間画像データを特定し、仮想空間2を定義する。
ステップS1120において、プロセッサ10は、仮想カメラ1を初期化する。例えば、プロセッサ10は、メモリのワーク領域において、仮想カメラ1を仮想空間2において予め規定された中心21に配置し、仮想カメラ1の傾きをHMD110の傾きに連動させる。
ステップS1130において、プロセッサ10は、視界画像生成モジュール223として、初期の視界画像を表示するための視界画像データを生成する。生成された視界画像データは、視界画像生成モジュール223を介して通信制御モジュール250によってHMD110に送信される。
ステップS1132において、HMD110のモニタ112は、コンピュータ200から受信した信号に基づいて、視界画像を表示する。HMD110を装着したユーザ190は、視界画像を視認すると仮想空間2を認識し得る。
ステップS1134において、HMDセンサ120は、HMD110から発信される複数の赤外線光に基づいて、HMD110の位置と傾きを検知する。検知結果は、動き検知データとして、コンピュータ200に送信される。
ステップS1140において、プロセッサ10は、HMDセンサ120から入力された動き検知データに基づいて、HMD110の位置および傾きを取得する。プロセッサ10はさらに、仮想カメラ制御モジュール221として、検知した位置および傾きに連動するように仮想空間2における仮想カメラ1の位置および傾き(すなわち、仮想カメラ1の基準視線5)を変更する。これにより、仮想カメラ1が撮影する視界画像26が更新される。
ステップS1160において、プロセッサ10は、操作オブジェクト制御モジュール233として、仮想空間2にハンドオブジェクト910を配置するためのデータを生成する。ハンドオブジェクト910は、現実空間におけるユーザ190の右手に対応する。なお、他の局面において、プロセッサ10は、仮想空間2にユーザ190の左手に対応するハンドオブジェクトを配置してもよい。
ステップS1170において、モーションセンサ130は、現実空間におけるユーザ190が操作するコントローラ160(800)の動作を検出する。検出内容を示す検出信号は、コンピュータ200に送られる。
ステップS1180において、プロセッサ10は、操作オブジェクト制御モジュール233として、モーションセンサ130から入力された検出信号に基づいて、仮想空間2におけるハンドオブジェクト910を動かすためのデータを生成する。より具体的には、プロセッサ10は、現実空間におけるユーザ190の手の動きに連動するように、ハンドオブジェクト910を動かす。また、プロセッサ10は、仮想空間制御モジュール230として、ハンドオブジェクト910と他のオブジェクトとが衝突したことまたは離れたことを検出した場合、予め定められた処理を実行する。
ステップS1190において、プロセッサ10は、視界画像生成モジュール223として、処理の結果に基づく視界画像を表示するための視界画像データを生成し、生成した視界画像データをHMD110に出力する。
ステップS1192において、HMD110のモニタ112は、受信した視界画像データに基づいて視界画像を更新し、更新後の視界画像を表示する。
[メニューの表示方法]
次に、図12〜図16を用いて仮想空間2におけるメニューの表示方法について説明する。図12は、メインメニューオブジェクト1200を説明するための図である。図12の局面において、仮想空間2は、メインメニューオブジェクト1200と、ハンドオブジェクト910とを含む。
プロセッサ10は、コントローラ160に設けられたモーションセンサ130の出力に基づいて、仮想空間2におけるハンドオブジェクト910の動きを、現実空間におけるユーザ190の手の動きに連動させる。
メインメニューオブジェクト1200は、ユーザ190が選択可能な1つ以上の項目を含む。図12の例において、メインメニューオブジェクト1200は、日本を示す大項目1210と、日本の地方を示す中項目1220〜1270とを含む。メインメニューオブジェクト1200の中心に配置される大項目1210は、中項目1220〜1270の上位概念であり得る。大項目1210は、ユーザ190の選択を受け付けないように構成され得る。一方、中項目1220〜1270は、ユーザ190の選択を受け付け可能に構成される。これらの大項目1210および中項目1220〜1270は、六角形のオブジェクトであって、大項目1210を中心として、中項目1220〜1270が大項目1210の各辺に接している。なお、これら項目の形状は六角形に限られない。他の局面において、これら項目の形状は、円形または球形であり得る。さらに他の局面において、項目の輪郭は示されなくてもよい。
メインメニューオブジェクト1200は、例えば、ユーザがコントローラ160の所定ボタン(例えば、ボタン34)を押したことに応じて、仮想空間2に配置される。
プロセッサ10は、仮想空間制御モジュール230として、ハンドオブジェクト910と、中項目1220〜1270のいずれかとの接触を判断する。プロセッサ10は、位置情報244を参照してこの判断を行なう。
図13は、位置情報244のデータ構造の一例を表す。位置情報244は、仮想空間2に配置されている各オブジェクトの位置情報と、形状情報とを互いに関連付けて保持する。一例として、ハンドオブジェクト910の位置情報(仮想空間2における座標位置)(X1,Y1,Z1)は、ハンドオブジェクト910の人差し指の先端の位置であり得る。プロセッサ10は、モーションセンサ130の出力に基づいて、ハンドオブジェクト910の位置情報を随時更新する。
形状情報は、対応するオブジェクトの形状を表す情報である。例えば、大項目1210および中項目1220〜1270の形状情報は、これらのオブジェクトが予め定められた大きさの六角形であることを表す。プロセッサ10は、仮想空間制御モジュール230として、オブジェクトの位置情報と形状情報とに基づいて、当該オブジェクトが仮想空間2において占める領域を算出する。プロセッサ10は、他のオブジェクトが占める領域にハンドオブジェクト910の位置が含まれた(接触を含む)場合に、ハンドオブジェクト910と他のオブジェクトとが接触したと判断する。プロセッサ10は、他のオブジェクトが占める領域にハンドオブジェクト910の位置が含まれなくなった場合に、ハンドオブジェクト910と他のオブジェクトとが離れたと判断する。
図12を再び参照して、プロセッサ10は、ハンドオブジェクト910と中項目1240とが接触したと判断する。このとき、中項目1240の位置は座標値(X5a,Y5a,Z5a)で特定される。プロセッサ10は、これらが接触したと判断すると、メインメニューオブジェクト1200を図14に示される状態に移行する。
図14は、図12において中項目1240が選択された後の仮想空間2を表す。プロセッサ10は、ハンドオブジェクト910と中項目1240とが接触したと判断すると、メインメニューオブジェクト1200から中項目1240を分離させ、中項目1240以外のメインメニューオブジェクト1200を矢印1400の方向に移動させる。したがって、図14において、中項目1240の位置は、座標値(X5a,Y5a,Z5a)のままである。矢印1400の方向は、ユーザ190の仮想空間2における視点(仮想カメラ1の位置)を基準として奥側(X軸)の方向である。他の局面において、矢印1400の方向は、上記視点を基準として、右斜め奥側または左斜め奥側の方向であり得る。これにより、ユーザ190は、後述するサブメニューオブジェクト1600が表示されている状態(例えば図16の状態)においてもメインメニューオブジェクト1200を容易に視認できる。
ある実施形態において、プロセッサ10は、移動後のメインメニューオブジェクト1200の透明度を、移動前のメインメニューオブジェクト1200の透明度よりも高く設定する。一例として、プロセッサ10は、移動前のメインメニューオブジェクト1200の透明度を0%に、移動後のメインメニューオブジェクト1200の透明度を50%に設定する。当該構成によれば、メインメニューオブジェクト1200の表示態様が移動前後で変更されるため、ユーザ190は、メインメニューオブジェクト1200が選択済みであることを直感的に理解できる。
プロセッサ10は、メインメニューオブジェクト1200を移動させた後、中項目1240を図15に示される状態に移行する。
図15は、図14においてメインメニューオブジェクト1200が移動した後の仮想空間2を表す。プロセッサ10は、メインメニューオブジェクト1200を移動させた後に、中項目1240を矢印1500の方向に移動する。その結果、中項目1240の位置は、座標値(X5a,Y5a,Z5a)から座標値(X5b,Y5b,Z5b)に変更される。矢印1500の方向と、矢印1400の方向とは、同じ方向であり得る。また、図14で説明したメインメニューオブジェクト1200の移動量よりも、この中項目1240の移動量の方が少ない。
中項目1240が移動したことにより、ハンドオブジェクト910と中項目1240とが離れる(接触していない状態になる)。なお、上記の例では、プロセッサ10は、メインメニューオブジェクト1200の移動の後に、中項目1240を移動するように構成されているが、これらの処理は逆の順番で行なわれてもよいし、同時に行なわれてもよい。
図16は、図14において中項目1240が移動した後の仮想空間2を表す。プロセッサ10は、移動後の中項目1240の各辺を取り囲むように小項目1610〜1660を配置して、中項目1240と小項目1610〜1660とによって構成されるサブメニューオブジェクト1600を形成する。中項目1240は、近畿地方を表す。小項目1610〜1660は、近畿地方に含まれる県を表す。このように、中項目1240は、小項目1610〜1660の上位概念であり得る。つまり、サブメニューオブジェクト1600に示される内容は、メインメニューオブジェクト1200に示される内容の下位概念であり得る。
図16に示される例において、仮想空間2におけるユーザ190の視点(仮想カメラ1の位置)を基準とした奥行き方向、すなわちX軸方向におけるサブメニューオブジェクト1600の座標値はX5bである。座標値X5bは、ハンドオブジェクト910に接触したときのメインメニューオブジェクト1200の座標値X5aよりも奥側である。そのため、プロセッサ10は、サブメニューオブジェクト1600が仮想空間2に配置されたときに、ハンドオブジェクト910とサブメニューオブジェクト1600とが接触することを避け得る。つまり、プロセッサ10は、ユーザ190の意図しないサブメニューオブジェクト1600の選択を避け得る。
仮に、サブメニューオブジェクト1600が、移動前のメインメニューオブジェクト1200の位置に配置された場合、サブメニューオブジェクト1600が仮想空間2に配置されたときに、このオブジェクトとハンドオブジェクト910とが接触してしまう。その結果、プロセッサ10は、サブメニューオブジェクト1600のいずれかの項目がユーザ190によって選択されたと誤認識してしまう。実施形態に従うプロセッサ10は、このような誤認識を抑制し得る。
ある実施形態において、プロセッサ10は、サブメニューオブジェクト1600のうち、ユーザ190の視点を基準として奥行き方向(図16ではX軸方向)にメインメニューオブジェクト1200と重なっている部分の透明度を所定値(例えば、50%)に設定する。これにより、ユーザ190は、メインメニューオブジェクト1200をより視認しやすくなる。
ある実施形態において、プロセッサ10は、サブメニューオブジェクト1600を構成する中項目1240とハンドオブジェクト910とが接触した場合、サブメニューオブジェクト1600を仮想空間2から削除し、図12に示される状態に戻す。
上記ではプロセッサ10は、サブメニューオブジェクト1600を、移動前のメインメニューオブジェクト1200より奥側に配置するように構成されている。しかしながら、メニューがメインメニューオブジェクト1200およびサブメニューオブジェクト1600の2階層ではなく、もっと多くの階層を有する場合もある。この場合、下の階層のメニューほど奥側に配置されるため、ユーザ190が下の階層のメニューを選択しにくくなる可能性がある。ある実施形態に従うプロセッサ10は、図17に示されるような制御を行なうことでこの課題を解決し得る。
図17は、図16においてサブメニューオブジェクト1600が配置された後の仮想空間2を説明するための図である。図17を参照して、プロセッサ10は、サブメニューオブジェクト1600が仮想空間2に配置された後、サブメニューオブジェクト1600を矢印1700の方向に徐々に動かす。具体的には、プロセッサ10は、ユーザ190の視点(仮想カメラ1の位置)を基準としてサブメニューオブジェクト1600を手前に動かす。一例として、プロセッサ10は、奥行き方向(X軸方向)におけるサブメニューオブジェクト1600の位置(X5b)を、移動前のメインメニューオブジェクト1200の位置(X5a)に動かす。
当該構成によれば、サブメニューオブジェクト1600(下の階層のメニュー)は、ハンドオブジェクト910に接触しない位置に配置され、徐々にユーザ190の視点(仮想カメラ1の位置)側に移動する。そのため、ユーザ190は、サブメニューオブジェクト1600を容易に選択できる。
[メニューを表示する処理]
図18は、仮想空間2においてメニューを表示する処理を表すフローチャートである。図18に示される処理は、コンピュータ200のプロセッサ10がメモリ11またはストレージ12に格納されている制御プログラムを実行することにより実現される。
ステップS1810において、プロセッサ10は、仮想空間定義モジュール231として、空間情報241に格納されているテンプレートに基づいて、仮想空間2を定義する。また、プロセッサ10は、仮想空間2を構成するメッシュにコンテンツを展開する。
ステップS1820において、プロセッサ10は、仮想オブジェクト生成モジュール232として、ユーザ190が選択可能な1つ以上の項目を含むメインメニューオブジェクト1200を仮想空間2に配置する。例えば、プロセッサ10は、コントローラ160の予め定められたボタンが押下されたことを検知すると、ステップS1820の処理を実行する。
ステップS1830において、プロセッサ10は、仮想オブジェクト生成モジュール232として、ハンドオブジェクト910を仮想空間2に配置する。ハンドオブジェクト910は、仮想空間2においてユーザ190の操作を受け付けるための操作オブジェクトとして機能する。また、プロセッサ10は、仮想カメラ1を仮想空間2に配置する。
ステップS1840において、プロセッサ10は、HMD110のモニタ112に初期画像(例えば、中心21に配置された仮想カメラ1が撮影する画像)を表示してユーザ190に仮想空間2における視界を提供する。
ステップS1850において、プロセッサ10は、メインメニューオブジェクト1200に含まれる項目1220〜1270のいずれかの選択を受け付けたか否かを判断する。より具体的には、プロセッサ10は、ハンドオブジェクト910と項目1220〜1270のいずれかとが接触したことを検知した場合に、これらのいずれかが選択されたと判断する。
なお、他の局面において、プロセッサ10は、ハンドオブジェクト910と項目1220〜1270のいずれかとが接触し、その後に離れた場合に、これらのいずれかが選択されたと判断する。さらに他の局面において、プロセッサ10は、コントローラ160の予め定められたボタンが押下された状態でハンドオブジェクト910とこれらの項目のいずれかとが接触した場合に、これらのいずれかが選択されたと判断する。
プロセッサ10は、ユーザ190がいずれかの項目を選択したと判断した場合(ステップS1850においてYES)、処理をステップS1860に進める。一方、プロセッサ10は、ユーザ190がいずれかの項目を選択していないと判断した場合(ステップS1850においてNO)、処理をステップS1850に戻す。
ステップS1860において、プロセッサ10は、仮想空間2におけるユーザ190の視点(仮想カメラ1の位置)を基準として、メインメニューオブジェクト1200を奥側に動かす。
ステップS1870において、プロセッサ10は、ステップS1850で選択された項目の下位概念の項目を含むサブメニューオブジェクト1600を、ユーザ190の選択を受け付けたときにメインメニューオブジェクト1200が配置されていた場所とは異なる場所に配置する。一例として、プロセッサ10は、選択を受け付けたときにメインメニューオブジェクト1200が配置されていた場所よりもユーザ190の視点を基準として奥側にサブメニューオブジェクト1600を配置する。
ステップS1880において、プロセッサ10は、ユーザ190の視点を基準としてサブメニューオブジェクト1600を手前側に動かす。一例として、プロセッサ10は、選択を受け付けたときにメインメニューオブジェクト1200が配置されていた場所までサブメニューオブジェクト1600を移動させる。
上記によれば、コンピュータ200は、ハンドオブジェクト910と接触しないようにサブメニューオブジェクト1600を仮想空間2に配置するため、ユーザ190の意図しないサブメニューオブジェクト1600の選択を避け得る。
また、プロセッサ10は、はじめからサブメニューオブジェクト1600を配置するのではなく、メインメニューオブジェクト1200に対するユーザ190の選択を受け付けたことに応じてサブメニューオブジェクト1600を表示する。これにより、プロセッサ10は、ユーザ190の視界内に多くのメニューが表示されることによりユーザ190が混乱することを抑制し得る。
また、プロセッサ10は、ユーザ190の視界内に常にメニューオブジェクトを配置するのではなく、ユーザ190の操作に応じて、メニューオブジェクトを仮想空間2に配置する。そのため、プロセッサ10は、通常、ユーザ190の仮想空間2における視界を狭めない。
また、プロセッサ10は、選択されたメインメニューオブジェクト1200を仮想空間2から削除するのではなく、サブメニューオブジェクト1600の奥側に配置する。これにより、ユーザ190は、自分が選択した内容の履歴を直感的に理解できる。
また、プロセッサ10は、サブメニューオブジェクト1600を仮想空間2に配置した後に、このオブジェクトを仮想空間2におけるユーザ190の視点に近づける。これにより、ユーザ190は、容易にサブメニューオブジェクト1600を選択し得る。
[ユーザの視野内にメニューが表示される態様]
コンピュータ200は、何らかのトリガに基づいてメインメニューオブジェクト1200を仮想空間2に配置する。その後、ユーザ190が頭を動かすと、メインメニューオブジェクト1200が視認領域23に含まれなくなることもある。この場合、ユーザ190は、メインメニューオブジェクト1200を視認するために、再度頭を動かさなければならない。そこで、ある実施形態に従うコンピュータ200は、ユーザ190の視界内にメインメニューオブジェクト1200が表示されるように当該オブジェクトの動作を制御する。
(操作オブジェクトに追随)
図19および図20を用いて、メインメニューオブジェクト1200を操作オブジェクト(ハンドオブジェクト910)に追随させる処理について説明する。図19は、ハンドオブジェクト910とメインメニューオブジェクト1200とが離れていることを表す。図20は、メインメニューオブジェクト1200がハンドオブジェクト910に追随する様子を表す。
図19において、プロセッサ10は、モーションセンサ130の出力結果に基づいて、ハンドオブジェクト910を破線位置から実線位置に動かす。プロセッサ10は、位置情報244を参照して、ハンドオブジェクト910の位置と、メインメニューオブジェクト1200の位置とに基づいて、これらの間隔Dを算出する。メインメニューオブジェクト1200の位置は、大項目1210の位置とする。プロセッサ10は、間隔Dが予め定められた間隔Dthを上回ったか否かを判断する。プロセッサ10は、間隔Dが予め定められた間隔Dthを上回ったと判断した場合に、メインメニューオブジェクト1200をハンドオブジェクト910に追随するように動かす(図20)。
一例として、プロセッサ10は、基準視線5(仮想カメラ1が向いている方向)に直交する平面における、これらのオブジェクトの位置が等しくなるように制御する。図20の例において、基準視線5はX軸に平行である。そのため、プロセッサ10は、メインメニューオブジェクト1200(大項目1210)のY,Z座標がハンドオブジェクト910のY,Z座標に等しくなるように、メインメニューオブジェクト1200を動かす。このとき、プロセッサ10は、X軸方向におけるこれらのオブジェクト同士の間隔が予め定められた間隔となるように、換言すれば、これらのオブジェクト同士が接触しないように、メインメニューオブジェクト1200を動かし得る。その理由は、誤検出を抑制するためである。
上記によれば、メニューは操作オブジェクトに追随する。また、操作オブジェクトは、ユーザ190の視界内に表示されている。そのため、ユーザ190は、頭を動かして視界画像が切り替わった場合においても、メニューを常に視認できる。
なお、コンピュータ200は、コントローラ160の所定ボタンが押下されたことに応じて、仮想空間2からメインメニューオブジェクト1200およびサブメニューオブジェクト1600を削除し得る。
(ユーザの視界に追随)
上記では、プロセッサ10は、メニューが操作オブジェクトに追随する処理を行なうように構成されている。他の局面において、プロセッサ10は、メニューがユーザ190の視界に追随する処理を行なうように構成される。
図21は、メインメニューオブジェクト1200が視界画像26から外れている様子を表す。図22は、メインメニューオブジェクト1200がユーザ190の視界に追随する様子を表す。
プロセッサ10は、メインメニューオブジェクト1200がユーザ190の視界から外れたか否かを判断する。一例として、プロセッサ10は、大項目1210の位置が、仮想カメラ1の撮影範囲である視認領域23から外れた場合に、メインメニューオブジェクト1200が視界から外れたと判断する(図21)。プロセッサ10は、メニューが操作オブジェクトに追随する処理を行なうため、(i)メニューを視界内のどの位置に戻すのか、(ii)メニューの一部または全部が視界から外れた後、どのタイミングで視界に戻し始めるか、(iii)メニューの位置を移動させる態様をどのようにするかの設定に従って、または、これら(i)〜(iii)を決定して上記の処理を行なう。
(i)プロセッサ10がユーザの視界に追随させてメニューを移動させる際に、メニューを視界内のどの位置に戻すかについて説明する。具体的には、(i‐1)仮想カメラ2の撮影範囲に基づく位置(基準視線5に基づく位置)にメニューを配置する例、(i‐2)ハンドオブジェクト910の位置に基づく位置にメニューを配置する例、(i‐3)ハンドオブジェクト910がユーザ190の視界内(すなわち、視認領域23)にある場合と、視界内にない場合とに応じてメニューの配置場所を決定する例、(i‐4)仮想カメラ2の撮影範囲とハンドオブジェクト910との位置に応じてメニューの配置場所を決定する例などがある。
(i‐1)仮想カメラの撮影範囲に基づく位置(基準視線に基づく位置)
プロセッサ10は、メインメニューオブジェクト1200がユーザ190の視界から外れていると判断した場合、メインメニューオブジェクト1200を基準視線5の位置に動かす(図22)。このとき、プロセッサ10は、ユーザ190の視点(仮想カメラ1の位置)とメインメニューオブジェクト1200との間隔が予め定められた間隔となるようにメインメニューオブジェクト1200を動かし得る。また、プロセッサ10は、これらのオブジェクト同士が接触しないように、メインメニューオブジェクト1200を動かし得る。上記によれば、メニューはユーザ190の視界に追随する。そのため、ユーザ190は、頭を動かして視界画像が切り替わった場合においても、メニューを常に視認できる。
(i‐2)ハンドオブジェクトの位置に基づく位置
プロセッサ10は、メインメニューオブジェクト1200に対し、ハンドオブジェクト910を接触(衝突)させることで、メニューに対するユーザの操作を受け付ける。そのため、メインメニューオブジェクト1200がユーザ190の視界から外れた場合、ハンドオブジェクト910の位置の近くにメインメニューオブジェクト1200が配置されると、メニューに対するユーザの入力操作が容易になる。プロセッサ10は、メインメニューオブジェクト1200が視界から外れたと判断した場合に、メインメニューオブジェクト1200を、ハンドオブジェクト910の位置から予め定められた間隔の位置に動かす。例えば、プロセッサ10は、ハンドオブジェクト910のロール方向に一定距離を空けた位置にメインメニューオブジェクト1200を動かす。
(i‐3)ハンドオブジェクトが視界内にある場合と、視界内にない場合とに応じてメニューの配置個所を決定
プロセッサ10は、ユーザの視界に追随させてメニューを動かす際に、ユーザの視界内にハンドオブジェクト910がある場合と、ない場合とでメニューの配置場所を異なるものとしてもよい。プロセッサ10は、ユーザの視界内にハンドオブジェクト910がある場合は、上記(i‐2)で説明したように、ハンドオブジェクト910の位置に基づく位置にメインメニューオブジェクト1200を配置し、ユーザの視界内にハンドオブジェクト910がない場合は、上記(i‐1)で説明したように、基準視線に基づく位置にメインメニュー910を配置することとしてもよい。
(i‐4)仮想カメラの撮影範囲とハンドオブジェクトとの位置に応じてメニューの配置個所を決定
プロセッサ10は、ユーザ190の視界に追随させてメニューを動かす際に、仮想カメラ2の撮影範囲と、ハンドオブジェクト910の位置とに基づいてメインメニューオブジェクト1200を動かすこととしてもよい。例えば、プロセッサ10は、メインメニューオブジェクト1200がユーザ190の視界から外れていると判断した場合、メインメニューオブジェクト1200を、ユーザ190の視点(仮想カメラ1の位置)から予め定められた間隔をあけた位置と、ハンドオブジェクト910の位置との中間の位置に動かす。他の局面において、プロセッサ10は、ユーザ190の視点位置(仮想カメラ2の位置)と、ハンドオブジェクト910の位置とを結ぶ直線上であって、ハンドオブジェクト910の位置を基準としてユーザ190の視点位置とは反対側に予め定められた間隔の位置にメインメニューオブジェクト1200を配置してもよい。これにより、メニューがなるべくユーザの視界内に位置しつつ、ハンドオブジェクト910による操作も容易な位置に配置されるので、ユーザの操作性が向上し得る。
また、上記(i‐2)、および(i‐4)において、ハンドオブジェクト910がユーザの右手に対応するものと左手に対応するものとの両方がある場合、ハンドオブジェクト910の位置に基づいてメニューを動かす場合に、右手か左手に対応するいずれかのハンドオブジェクト910を優先してメニューの配置をしてもよい。
(ii)メニューの一部または全部が視界から外れた後、どのタイミングで視界に戻し始めるかについて説明する。プロセッサ10は、例えば、メインメニューオブジェクト1200がユーザ190の視界から外れた期間をカウントし、一定期間を経過するまではメインメニューオブジェクト1200を動かさず、一定期間を経過した際にメインメニューオブジェクト1200を動かすこととしてもよい。ユーザ190の視界からメニューが外れたとしても、メニューが追随して移動するまで時間的な間隔を空けることにより、ユーザ190の視界を過度に妨げることを抑止し得る。
(iii)メニューの位置を移動させる態様をどのようにするかについて説明する。プロセッサ10は、ユーザ190の視界に追随させてメニューを動かす場合に、メニューがスライドするように移動させてもよいし、ワープするように移動させてもよい。
[メニューの表示態様]
図23は、ユーザ190の選択を受け付けた後のメインメニューオブジェクト1200の表示態様を説明するための図である。図12〜図16の例において、プロセッサ10は、ユーザ190の選択を受け付けた中項目1240をメインメニューオブジェクト1200から分離するように構成されている。一方、図23の例では、中項目1240に対応する中項目2300が、メインメニューオブジェクト1200を構成している。
プロセッサ10は、ユーザ190の選択を受け付けた中項目1240に対応する中項目2300の表示態様を変更する。一例として、プロセッサ10は、中項目2300の透過率を所定値(例えば、50%)に設定する。当該構成によれば、ユーザ190は、自分が選択した内容の履歴を直感的に理解できる。
[アイコン]
図24は、メニューオブジェクト2400を表す。上記の例において、メニューを構成する各項目は、文字によってその項目が示す内容をユーザ190に提示する。他の局面において、メニューを構成する各項目は、メニューオブジェクト2400のように、項目が示す内容を絵、図、記号としてユーザ190に提示する。当該構成によれば、ユーザ190は、メニューを構成する各項目が示す内容を直感的に理解できる。
[構成]
以上に開示された技術的特徴は、以下のように要約され得る。
(構成1) ある実施形態に従うと、HMD110が仮想空間2を提供するためにコンピュータ200で実行される方法が提供される。この方法は、仮想空間2を定義するステップ(S1810)と、HMD110のユーザ190が選択可能な一つ以上の項目1220〜1270を含むメインメニューオブジェクト1200を仮想空間2に配置するステップ(S1820)と、一つ以上の項目のうちのいずれかがユーザ190に選択されたこと(S1850においてYES)に基づいて、選択された項目の下位概念の項目1610〜1660を含むサブメニューオブジェクト1600を、選択されたときにメインメニューオブジェクト1200が配置されていた場所とは異なる場所に配置するステップ(S1870)とを含む。
(構成2) 上記の方法は、(構成1)に加えて、HMD110に画像を表示してユーザ190に仮想空間における視界を提供するステップ(S1840)をさらに備える。サブメニューオブジェクト1600を配置するステップは、仮想空間2におけるユーザ190の視点(仮想カメラ1の位置)を基準として、サブメニューオブジェクト1600を、選択されたときにメインメニューオブジェクト1200が配置されていた場所よりも奥に配置することを含む。
(構成3) 上記の方法は、(構成2)に加えて、一つ以上の項目1220〜1270のうちのいずれかがユーザ190に選択されたことに基づいて、仮想空間2におけるユーザ190の視点を基準として、メインメニューオブジェクト1200をサブメニューオブジェクト1600が配置された場所よりも奥に移動するステップ(S1860)をさらに含む。
(構成4) (構成3)に加えて、メインメニューオブジェクト1200を移動させるステップは、移動後のメインメニューオブジェクト1200の透明度を、移動前のメインメニューオブジェクト1200よりも高くするステップを含む。
(構成5) (構成2)〜(構成4)のいずれかに加えて、サブメニューオブジェクト1600を配置するステップは、サブメニューオブジェクト1600が仮想空間2に配置された後に、仮想空間2におけるユーザ190の視点を基準としてサブメニューオブジェクト1600を手前に移動するステップ(S1880)を含む。
(構成6) (構成1)〜(構成5)のいずれかに加えて、サブメニューオブジェクト1600は、ユーザ190に選択された項目を含む。サブメニューオブジェクト1600を配置するステップは、ユーザ190に選択された項目を取り囲むように、当該ユーザ190に選択された項目の下位概念の1つ以上の項目1610〜1660を配置することを含む(図16)。
(構成7) 上記方法は、(構成1)〜(構成6)のいずれかに加えて、仮想空間2においてユーザ190の操作を受け付けるためのハンドオブジェクト910を仮想空間2に表示するステップ(S1160)と、モーションセンサ130の出力に基づいてユーザ190の右手の動作を検出するステップ(S1170)と、検出された動作に連動するようにハンドオブジェクト910を動かすステップ(S1180)とをさらに備える。サブメニューオブジェクト1600を配置するステップは、ハンドオブジェクト910とメインメニューオブジェクト1200の項目1220〜1270のいずれかとが接触したことに基づいて、接触した項目がユーザ190によって選択されたと判断することを含む。
(構成8) 上記方法は、(構成1)〜(構成7)のいずれかに加えて、仮想空間2においてユーザ190の操作を受け付けるためのハンドオブジェクト910を仮想空間2に、表示するステップと、モーションセンサ130の出力に基づいてユーザ190の右手の動作を検出するステップと、検出された動作に連動するようにハンドオブジェクト910を動かすステップと、メインメニューオブジェクト1200をハンドオブジェクト910に追随させるステップ(図19、図20)とをさらに備える。
(構成9) 上記の方法は、(構成1)〜(構成7)のいずれかに加えて、HMD110のモニタ112に画像を表示してユーザ190に仮想空間2における視界を提供するステップ(S1840)と、メインメニューオブジェクト1200を視界に追随させるステップ(図21、図22)とをさらに備える。
今回開示された実施形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。