以下、図面を参照しつつ、本開示の実施の形態について説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。
[HMDシステムの構成]
図1を参照して、HMD(Head Mount Device)システム100の構成について説明する。図1は、ある実施の形態に従うHMDシステム100の構成の概略を表す図である。ある局面において、HMDシステム100は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。
HMDシステム100は、HMD装置110(ヘッドマウントデバイス)と、HMDセンサ120と、コントローラ160と、コンピュータ200とを備える。HMD装置110は、ディスプレイ112(表示部)と、注視センサ140とを含む。コントローラ160は、モーションセンサ130を含み得る。
ある局面において、コンピュータ200は、インターネットその他のネットワーク19に接続可能であり、ネットワーク19に接続されているサーバ150その他のコンピュータと通信可能である。別の局面において、HMD装置110は、HMDセンサ120の代わりに、センサ114を含み得る。
HMD装置110は、ユーザの頭部に装着され、動作中に仮想空間をユーザに提供し得る。より具体的には、HMD装置110は、右目用の画像および左目用の画像をディスプレイ112にそれぞれ表示する。ユーザの各目がそれぞれの画像を視認すると、ユーザは、両目の視差に基づき当該画像を3次元の画像として認識し得る。
ディスプレイ112は、例えば、非透過型の表示装置として実現される。ある局面において、ディスプレイ112は、ユーザの両目の前方に位置するようにHMD装置110の本体に配置されている。したがって、ユーザは、ディスプレイ112に表示される3次元画像を視認すると、仮想空間に没入することができる。ある実施の形態において、仮想空間は、例えば、背景、ユーザが操作可能なオブジェクト、およびユーザが選択可能なメニューの画像等を含む。ある実施の形態において、ディスプレイ112は、所謂スマートフォンその他の情報表示端末が備える液晶ディスプレイまたは有機EL(Electro Luminescence)ディスプレイとして実現され得る。ディスプレイ112は、HMD装置110の本体と一体に構成されてもよいし、別体として構成されてもよい。
ある局面において、ディスプレイ112は、右目用の画像を表示するためのサブディスプレイと、左目用の画像を表示するためのサブディスプレイとを含み得る。別の局面において、ディスプレイ112は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、ディスプレイ112は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。
HMDセンサ120は、複数の光源(図示しない)を含む。各光源は例えば、赤外線を発するLED(Light Emitting Diode)により実現される。HMDセンサ120は、HMD装置110の動きを検出するためのポジショントラッキング機能を有する。HMDセンサ120は、この機能を用いて、現実空間内におけるHMD装置110の位置および傾きを検出する。
なお、別の局面において、HMDセンサ120は、カメラにより実現されてもよい。この場合、HMDセンサ120は、カメラから出力されるHMD装置110の画像情報を用いて、画像解析処理を実行することにより、HMD装置110の位置および傾きを検出することができる。
別の局面において、HMD装置110は、位置検出器として、HMDセンサ120の代わりに、センサ114を備えてもよい。HMD装置110は、センサ114を用いて、HMD装置110自身の位置および傾きを検出し得る。例えば、センサ114が角速度センサ、地磁気センサ、加速度センサ、あるいはジャイロセンサ等である場合、HMD装置110は、HMDセンサ120の代わりに、これらの各センサのいずれかを用いて、自身の位置および傾きを検出し得る。一例として、センサ114が角速度センサである場合、角速度センサは、現実空間におけるHMD装置110の3軸周りの角速度を経時的に検出する。HMD装置110は、各角速度に基づいて、HMD装置110の3軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、HMD装置110の傾きを算出する。また、HMD装置110は、透過型表示装置を備えていてもよい。この場合、当該透過型表示装置は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可能であってもよい。また、視界画像は仮想空間を構成する画像の一部に、現実空間を提示する構成を含んでいてもよい。例えば、HMD装置110に搭載されたカメラで撮影した画像を視界画像の一部に重畳して表示させてもよいし、当該透過型表示装置の一部の透過率を高く設定することにより、視界画像の一部から現実空間を視認可能にしてもよい。
注視センサ140は、ユーザ190の右目および左目の視線が向けられる方向(視線方向)を検出する。当該方向の検出は、例えば、公知のアイトラッキング機能によって実現される。注視センサ140は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ140は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ140は、例えば、ユーザ190の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ140は、検出した各回転角に基づいて、ユーザ190の視線方向を検知することができる。
サーバ150は、コンピュータ200にプログラムを送信し得る。別の局面において、サーバ150は、他のユーザによって使用されるHMD装置に仮想現実を提供するための他のコンピュータ200と通信し得る。例えば、アミューズメント施設において、複数のユーザが参加型のゲームを行う場合、各コンピュータ200は、各ユーザの動作に基づく信号を他のコンピュータ200と通信して、同じ仮想空間において複数のユーザが共通のゲームを楽しむことを可能にする。サーバ150は、一または複数のコンピュータ装置により構成され得る。サーバ150は、後述するコンピュータ200のハードウェア構成と同様のハードウェア構成(プロセッサ、メモリ、ストレージ等)を備え得る。
コントローラ160は、ユーザ190からコンピュータ200への命令の入力を受け付ける。ある局面において、コントローラ160は、ユーザ190によって把持可能に構成される。別の局面において、コントローラ160は、ユーザ190の身体あるいは衣類の一部に装着可能に構成される。別の局面において、コントローラ160は、コンピュータ200から送られる信号に基づいて、振動、音、光のうちの少なくともいずれかを出力するように構成されてもよい。別の局面において、コントローラ160は、仮想現実を提供する仮想空間に配置されるオブジェクトの位置および動き等を制御するためにユーザ190によって与えられる操作を受け付ける。
モーションセンサ130は、ある局面において、ユーザの手に取り付けられて、ユーザの手の動きを検出する。例えば、モーションセンサ130は、手の回転速度、回転数等を検出する。検出された信号は、コンピュータ200に送られる。モーションセンサ130は、例えば、手袋型のコントローラ160に設けられている。ある実施の形態において、現実空間における安全のため、コントローラ160は、手袋型のようにユーザ190の手に装着されることにより容易に飛んで行かないものに装着されるのが望ましい。別の局面において、ユーザ190に装着されないセンサがユーザ190の手の動きを検出してもよい。例えば、ユーザ190を撮影するカメラの信号が、ユーザ190の動作を表す信号として、コンピュータ200に入力されてもよい。モーションセンサ130とコンピュータ200とは、有線により、または無線により互いに接続される。無線の場合、通信形態は特に限られず、例えば、Bluetooth(登録商標)その他の公知の通信手法が用いられる。
[ハードウェア構成]
図2を参照して、本実施の形態に係るコンピュータ200について説明する。図2は、一局面に従うコンピュータ200のハードウェア構成の一例を表すブロック図である。コンピュータ200は、主たる構成要素として、プロセッサ10と、メモリ11と、ストレージ12と、入出力インターフェース13と、通信インターフェース14とを備える。各構成要素は、それぞれ、バス15に接続されている。
プロセッサ10は、コンピュータ200に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ11またはストレージ12に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ10は、CPU(Central Processing Unit)、MPU(Micro Processor Unit)、FPGA(Field-Programmable Gate Array)その他のデバイスとして実現される。
メモリ11は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ12からロードされる。メモリ11に保存されるデータは、コンピュータ200に入力されたデータと、プロセッサ10によって生成されたデータとを含む。ある局面において、メモリ11は、RAM(Random Access Memory)その他の揮発性メモリとして実現される。
ストレージ12は、プログラムおよびデータを永続的に保持する。ストレージ12は、例えば、ROM(Read-Only Memory)、ハードディスク装置、フラッシュメモリ、その他の不揮発性記憶装置として実現される。ストレージ12に格納されるプログラムは、HMDシステム100において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、および他のコンピュータ200との通信を実現するためのプログラム等を含む。ストレージ12に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含む。
なお、別の局面において、ストレージ12は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、コンピュータ200に内蔵されたストレージ12の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のHMDシステム100が使用される場面において、プログラムおよびデータ等の更新を一括して行うことが可能になる。
ある実施の形態において、入出力インターフェース13は、HMD装置110、HMDセンサ120またはモーションセンサ130との間で信号を通信する。ある局面において、入出力インターフェース13は、USB(Universal Serial Bus)インターフェース、DVI(Digital Visual Interface)、HDMI(登録商標)(High-Definition Multimedia Interface)その他の端子を用いて実現される。なお、入出力インターフェース13は上述のものに限られない。
ある実施の形態において、入出力インターフェース13は、さらに、コントローラ160と通信し得る。例えば、入出力インターフェース13は、モーションセンサ130から出力された信号の入力を受ける。別の局面において、入出力インターフェース13は、プロセッサ10から出力された命令を、コントローラ160に送る。当該命令は、振動、音声出力、発光等をコントローラ160に指示する。コントローラ160は、当該命令を受信すると、その命令に応じて、振動、音声出力または発光のいずれかを実行する。
通信インターフェース14は、ネットワーク19に接続されて、ネットワーク19に接続されている他のコンピュータ(例えば、サーバ150)と通信する。ある局面において、通信インターフェース14は、例えば、LAN(Local Area Network)その他の有線通信インターフェース、あるいは、WiFi(Wireless Fidelity)、Bluetooth(登録商標)、NFC(Near Field Communication)その他の無線通信インターフェースとして実現される。なお、通信インターフェース14は上述のものに限られない。例えば、入出力インターフェース13は、Bluetooth(登録商標)等の無線通信インターフェースを含み得る。
ある局面において、プロセッサ10は、ストレージ12にアクセスし、ストレージ12に格納されている1つ以上のプログラムをメモリ11にロードし、当該プログラムに含まれる一連の命令を実行する。当該1つ以上のプログラムは、コンピュータ200のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、コントローラ160を用いて仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ10は、入出力インターフェース13を介して、仮想空間を提供するための信号をHMD装置110に送る。HMD装置110は、その信号に基づいてディスプレイ112に映像を表示する。
なお、図2に示される例では、コンピュータ200がHMD装置110の外部に設けられる構成が示されているが、別の局面において、コンピュータ200は、HMD装置110に内蔵されてもよい。一例として、ディスプレイ112を含む携帯型の情報通信端末(例えば、スマートフォン)がコンピュータ200として機能してもよい。
また、コンピュータ200は、複数のHMD装置110に共通して用いられる構成であってもよい。このような構成によれば、例えば、複数のユーザに同一の仮想空間を提供することもできるので、各ユーザは同一の仮想空間で他のユーザと同一のアプリケーションを楽しむことができる。
ある実施の形態において、HMDシステム100では、グローバル座標系が予め設定されている。グローバル座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、ならびに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、3つの基準方向(軸)を有する。本実施の形態では、グローバル座標系は視点座標系の一つである。そこで、グローバル座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれ、x軸、y軸、z軸と規定される。より具体的には、グローバル座標系において、x軸は現実空間の水平方向に平行である。y軸は、現実空間の鉛直方向に平行である。z軸は現実空間の前後方向に平行である。
ある局面において、HMDセンサ120は、赤外線センサを含む。赤外線センサが、HMD装置110の各光源から発せられた赤外線をそれぞれ検出すると、HMD装置110の存在を検出する。HMDセンサ120は、さらに、各点の値(グローバル座標系における各座標値)に基づいて、HMD装置110を装着したユーザ190の動きに応じた、現実空間内におけるHMD装置110の位置および傾きを検出する。より詳しくは、HMDセンサ120は、経時的に検出された各値を用いて、HMD装置110の位置および傾きの時間的変化を検出できる。
グローバル座標系は現実空間の座標系と平行である。したがって、HMDセンサ120によって検出されたHMD装置110の各傾きは、グローバル座標系におけるHMD装置110の3軸周りの各傾きに相当する。HMDセンサ120は、グローバル座標系におけるHMD装置110の傾きに基づき、uvw視野座標系をHMD装置110に設定する。HMD装置110に設定されるuvw視野座標系は、HMD装置110を装着したユーザ190が仮想空間において物体を見る際の視点座標系に対応する。
[uvw視野座標系]
図3を参照して、uvw視野座標系について説明する。図3は、ある実施の形態に従うHMD装置110に設定されるuvw視野座標系を概念的に表す図である。HMDセンサ120は、HMD装置110の起動時に、グローバル座標系におけるHMD装置110の位置および傾きを検出する。プロセッサ10は、検出された値に基づいて、uvw視野座標系をHMD装置110に設定する。
図3に示されるように、HMD装置110は、HMD装置110を装着したユーザの頭部を中心(原点)とした3次元のuvw視野座標系を設定する。より具体的には、HMD装置110は、グローバル座標系を規定する水平方向、鉛直方向、および前後方向(x軸、y軸、z軸)を、グローバル座標系内においてHMD装置110の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる3つの方向を、HMD装置110におけるuvw視野座標系のピッチ方向(u軸)、ヨー方向(v軸)、およびロール方向(w軸)として設定する。
ある局面において、HMD装置110を装着したユーザ190が直立し、かつ、正面を視認している場合、プロセッサ10は、グローバル座標系に平行なuvw視野座標系をHMD装置110に設定する。この場合、グローバル座標系における水平方向(x軸)、鉛直方向(y軸)、および前後方向(z軸)は、HMD装置110におけるuvw視野座標系のピッチ方向(u軸)、ヨー方向(v軸)、およびロール方向(w軸)に一致する。
uvw視野座標系がHMD装置110に設定された後、HMDセンサ120は、HMD装置110の動きに基づいて、設定されたuvw視野座標系におけるHMD装置110の傾き(傾きの変化量)を検出できる。この場合、HMDセンサ120は、HMD装置110の傾きとして、uvw視野座標系におけるHMD装置110のピッチ角(θu)、ヨー角(θv)、およびロール角(θw)をそれぞれ検出する。ピッチ角(θu)は、uvw視野座標系におけるピッチ方向周り(ピッチ軸周り)のHMD装置110の傾き角度を表す。ヨー角(θv)は、uvw視野座標系におけるヨー方向周り(ヨー軸周り)のHMD装置110の傾き角度を表す。ロール角(θw)は、uvw視野座標系におけるロール方向周り(ロール軸周り)のHMD装置110の傾き角度を表す。
HMDセンサ120は、検出されたHMD装置110の傾き角度に基づいて、HMD装置110が動いた後のHMD装置110におけるuvw視野座標系を、HMD装置110に設定する。HMD装置110と、HMD装置110のuvw視野座標系との関係は、HMD装置110の位置および傾きに関わらず、常に一定である。HMD装置110の位置および傾きが変わると、当該位置および傾きの変化に連動して、グローバル座標系におけるHMD装置110のuvw視野座標系の位置および傾きが変化する。
ある局面において、HMDセンサ120は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係(例えば、各点間の距離など)に基づいて、HMD装置110の現実空間内における位置を、HMDセンサ120に対する相対位置として特定してもよい。また、プロセッサ10は、特定された相対位置に基づいて、現実空間内(グローバル座標系)におけるHMD装置110のuvw視野座標系の原点を決定してもよい。
[仮想空間]
図4を参照して、仮想空間についてさらに説明する。図4は、ある実施の形態に従う仮想空間2を表現する一態様を概念的に表す図である。仮想空間2は、中心21の360度方向の全体を覆う全天球状の構造を有する。図4では、説明を複雑にしないために、仮想空間2のうちの上半分の天球が例示されている。仮想空間2では各メッシュが規定される。各メッシュの位置は、仮想空間2に規定されるXYZ座標系における座標値として予め規定されている。コンピュータ200は、仮想空間2に展開可能なコンテンツ(静止画、動画等)を構成する各部分画像を、仮想空間2において対応する各メッシュにそれぞれ対応付けて、ユーザによって視認可能な仮想空間画像22が展開される仮想空間2をユーザに提供する。
ある局面において、仮想空間2では、中心21を原点とするXYZ座標系が規定される。XYZ座標系は、例えば、グローバル座標系に平行である。XYZ座標系は視点座標系の一種であるため、XYZ座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれX軸、Y軸、Z軸として規定される。したがって、XYZ座標系のX軸(水平方向)がグローバル座標系のx軸と平行であり、XYZ座標系のY軸(鉛直方向)がグローバル座標系のy軸と平行であり、XYZ座標系のZ軸(前後方向)がグローバル座標系のz軸と平行である。仮想空間2内の各位置は、XYZ座標系における座標値によって一意に特定される。
HMD装置110の起動時、すなわちHMD装置110の初期状態において、仮想カメラ1は、例えば仮想空間2の中心21に配置される。仮想カメラ1は、現実空間におけるHMD装置110の動きに連動して、仮想空間2を同様に移動する。これにより、現実空間におけるHMD装置110の位置および傾きの変化が、仮想空間2において同様に再現される。
仮想カメラ1には、HMD装置110の場合と同様に、uvw視野座標系が規定される。仮想空間2における仮想カメラ1のuvw視野座標系は、現実空間(グローバル座標系)におけるHMD装置110のuvw視野座標系に連動するように規定されている。したがって、HMD装置110の傾きが変化すると、それに応じて、仮想カメラ1の傾きも変化する。また、仮想カメラ1は、HMD装置110を装着したユーザの現実空間における移動に連動して、仮想空間2において移動することもできる。
仮想カメラ1の向きは、仮想カメラ1の位置および傾きに応じて決まるので、ユーザが仮想空間画像22を視認する際に基準となる視線(基準視線5)は、仮想カメラ1の向きに応じて決まる。コンピュータ200のプロセッサ10は、基準視線5に基づいて、仮想空間2における視界領域23を規定する。視界領域23は、仮想空間2のうち、HMD装置110を装着したユーザの視界に対応する。
注視センサ140によって検出されるユーザ190の視線方向は、ユーザ190が物体を視認する際の視点座標系における方向である。HMD装置110のuvw視野座標系は、ユーザ190がディスプレイ112を視認する際の視点座標系に等しい。また、仮想カメラ1のuvw視野座標系は、HMD装置110のuvw視野座標系に連動している。したがって、ある局面に従うHMDシステム100は、注視センサ140によって検出されたユーザ190の視線方向を、仮想カメラ1のuvw視野座標系におけるユーザの視線方向とみなすことができる。
[ユーザの視線]
図5を参照して、ユーザの視線方向の決定について説明する。図5は、ある実施の形態に従うHMD装置110を装着するユーザ190の頭部を上から表した図である。
ある局面において、注視センサ140は、ユーザ190の右目および左目の各視線を検出する。ある局面において、ユーザ190が近くを見ている場合、注視センサ140は、視線R1およびL1を検出する。別の局面において、ユーザ190が遠くを見ている場合、注視センサ140は、視線R2およびL2を検出する。この場合、ロール方向wに対して視線R2およびL2がなす角度は、ロール方向wに対して視線R1およびL1がなす角度よりも小さい。注視センサ140は、検出結果をコンピュータ200に送信する。
コンピュータ200が、視線の検出結果として、視線R1およびL1の検出値を注視センサ140から受信した場合には、その検出値に基づいて、視線R1およびL1の交点である注視点N1を特定する。一方、コンピュータ200は、視線R2およびL2の検出値を注視センサ140から受信した場合には、視線R2およびL2の交点を注視点として特定する。コンピュータ200は、特定した注視点N1の位置に基づき、ユーザ190の視線方向N0を特定する。コンピュータ200は、例えば、ユーザ190の右目Rと左目Lとを結ぶ直線の中点と、注視点N1とを通る直線の延びる方向を、視線方向N0として検出する。視線方向N0は、ユーザ190が両目により実際に視線を向けている方向である。また、視線方向N0は、視界領域23に対してユーザ190が実際に視線を向けている方向に相当する。
別の局面において、HMDシステム100は、HMDシステム100を構成するいずれかのパーツに、マイクおよびスピーカを備えてもよい。ユーザは、マイクに発話することにより、仮想空間2に対して、音声による指示を与えることができる。
また、別の局面において、HMDシステム100は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、HMDシステム100は、仮想空間2においてテレビ番組を表示することができる。
さらに別の局面において、HMDシステム100は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。
[視界領域]
図6および図7を参照して、視界領域23について説明する。図6は、仮想空間2において視界領域23をX方向から見たYZ断面を表す図である。図7は、仮想空間2において視界領域23をY方向から見たXZ断面を表す図である。
図6に示されるように、YZ断面における視界領域23は、領域24を含む。領域24は、仮想カメラ1の基準視線5と仮想空間2のYZ断面とによって定義される。プロセッサ10は、仮想空間2における基準視線5を中心として極角αを含む範囲を、領域24として規定する。
図7に示されるように、XZ断面における視界領域23は、領域25を含む。領域25は、基準視線5と仮想空間2のXZ断面とによって定義される。プロセッサ10は、仮想空間2における基準視線5を中心とした方位角βを含む範囲を、領域25として規定する。
ある局面において、HMDシステム100は、コンピュータ200からの信号に基づいて、視界画像をディスプレイ112に表示させることにより、ユーザ190に仮想空間を提供する。視界画像は、仮想空間画像22のうち視界領域23に重畳する部分に相当する。視界領域23内において仮想カメラ1と仮想空間画像22との間に後述する仮想オブジェクトが配置されている場合、視界画像には当該仮想オブジェクトが含まれる。すなわち、視界画像において、仮想空間画像22よりも手前側にある仮想オブジェクトが仮想空間画像22に重畳して表示される。ユーザ190が、頭に装着したHMD装置110を動かすと、その動きに連動して仮想カメラ1も動く。その結果、仮想空間2における視界領域23の位置が変化する。これにより、ディスプレイ112に表示される視界画像は、仮想空間画像22のうち、仮想空間2においてユーザが向いた方向の視界領域23に重畳する画像に更新される。ユーザは、仮想空間2における所望の方向を視認することができる。
ユーザ190は、HMD装置110を装着している間、現実世界を視認することなく、仮想空間2に展開される仮想空間画像22のみを視認できる。そのため、HMDシステム100は、仮想空間2への高い没入感覚をユーザに与えることができる。
ある局面において、プロセッサ10は、HMD装置110を装着したユーザ190の現実空間における移動に連動して、仮想空間2において仮想カメラ1を移動し得る。この場合、プロセッサ10は、仮想空間2における仮想カメラ1の位置および傾きに基づいて、HMD装置110のディスプレイ112に投影される画像領域(すなわち、仮想空間2における視界領域23)を特定する。すなわち、仮想カメラ1によって、仮想空間2におけるユーザ190の視野(視界)が定義される。
ある実施の形態に従うと、仮想カメラ1は、二つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含むことが望ましい。また、ユーザ190が3次元の仮想空間2を認識できるように、適切な視差が、二つの仮想カメラに設定されていることが好ましい。本実施の形態においては、仮想カメラ1が二つの仮想カメラを含み、二つの仮想カメラのロール方向が合成されることによって生成されるロール方向(w)がHMD装置110のロール方向(w)に適合されるように構成されているものとして、本開示に係る技術思想を例示する。
[コントローラ]
図8を参照して、コントローラ160の一例について説明する。図8は、ある実施の形態に従うコントローラ160の概略構成を表す図である。
図8の状態(A)に示されるように、ある局面において、コントローラ160は、右コントローラ160Rと左コントローラ(図示しない)とを含み得る。右コントローラ160Rは、ユーザ190の右手で操作される。左コントローラは、ユーザ190の左手で操作される。ある局面において、右コントローラ160Rと左コントローラとは、別個の装置として対称に構成される。したがって、ユーザ190は、右コントローラ160Rを把持した右手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。別の局面において、コントローラ160は両手の操作を受け付ける一体型のコントローラであってもよい。以下、右コントローラ160Rについて説明する。
右コントローラ160Rは、グリップ30と、フレーム31と、天面32とを備える。グリップ30は、ユーザ190の右手によって把持されるように構成されている。例えば、グリップ30は、ユーザ190の右手の掌と3本の指(中指、薬指、小指)とによって保持され得る。
グリップ30は、ボタン33,34と、モーションセンサ130とを含む。ボタン33は、グリップ30の側面に配置され、右手の中指による操作を受け付ける。ボタン34は、グリップ30の前面に配置され、右手の人差し指による操作を受け付ける。ある局面において、ボタン33,34は、トリガー式のボタンとして構成される。モーションセンサ130は、グリップ30の筐体に内蔵されている。なお、ユーザ190の動作がカメラその他の装置によってユーザ190の周りから検出可能である場合には、グリップ30は、モーションセンサ130を備えなくてもよい。
フレーム31は、その円周方向に沿って配置された複数の赤外線LED35を含む。赤外線LED35は、コントローラ160を使用するプログラムの実行中に、当該プログラムの進行に合わせて赤外線を発光する。赤外線LED35から発せられた赤外線は、右コントローラ160Rと左コントローラとの各位置および姿勢(傾き、向き)等を検出するために使用され得る。図8に示される例では、二列に配置された赤外線LED35が示されているが、配列の数は図8に示されるものに限られない。一列あるいは3列以上の配列が使用されてもよい。
天面32は、ボタン36,37と、アナログスティック38とを備える。ボタン36,37は、プッシュ式ボタンとして構成される。ボタン36,37は、ユーザ190の右手の親指による操作を受け付ける。アナログスティック38は、ある局面において、初期位置(ニュートラルの位置)から360度任意の方向への操作を受け付ける。当該操作は、例えば、仮想空間2に配置されるオブジェクトを移動させるための操作を含む。
ある局面において、右コントローラ160Rおよび左コントローラは、赤外線LED35その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型等を含むが、これらに限定されない。別の局面において、右コントローラ160Rおよび左コントローラは、例えば、コンピュータ200のUSBインターフェースに接続され得る。この場合、右コントローラ160Rおよび左コントローラは、電池を必要としない。
図8の状態(A)および状態(B)に示されるように、例えば、ユーザ190の右手810に対して、ヨー、ロール、ピッチの各方向が規定される。ユーザ190が親指と人差し指とを伸ばした場合に、親指の伸びる方向がヨー方向、人差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定される平面に垂直な方向がピッチ方向として規定される。
[HMD装置の制御装置]
図9を参照して、HMD装置110の制御装置について説明する。ある実施の形態において、制御装置は周知の構成を有するコンピュータ200によって実現される。図9は、ある実施の形態に従うコンピュータ200をモジュール構成として表すブロック図である。
図9に示されるように、コンピュータ200は、表示制御モジュール220と、仮想空間制御モジュール230と、メモリモジュール240と、通信制御モジュール250とを備える。表示制御モジュール220は、サブモジュールとして、仮想カメラ制御モジュール221と、視界領域決定モジュール222と、視界画像生成モジュール223と、基準視線特定モジュール224とを含む。仮想空間制御モジュール230は、サブモジュールとして、仮想空間定義モジュール231と、仮想オブジェクト制御モジュール232と、操作オブジェクト制御モジュール233と、動き調整モジュール234とを含む。
ある実施の形態において、表示制御モジュール220と仮想空間制御モジュール230とは、プロセッサ10によって実現される。別の実施の形態において、複数のプロセッサ10が表示制御モジュール220と仮想空間制御モジュール230として作動してもよい。メモリモジュール240は、メモリ11またはストレージ12によって実現される。通信制御モジュール250は、通信インターフェース14によって実現される。
ある局面において、表示制御モジュール220は、HMD装置110のディスプレイ112における画像表示を制御する。仮想カメラ制御モジュール221は、仮想空間2に仮想カメラ1を配置し、仮想カメラ1の挙動、向き等を制御する。視界領域決定モジュール222は、HMD装置110を装着したユーザの頭の向きに応じて、視界領域23を規定する。視界画像生成モジュール223は、決定された視界領域23に基づいて、ディスプレイ112に表示される視界画像を生成する。基準視線特定モジュール224は、注視センサ140からの信号に基づいて、ユーザ190の視線を特定する。
仮想空間制御モジュール230は、ユーザ190に提供される仮想空間2を制御する。仮想空間定義モジュール231は、仮想空間2を表す仮想空間データを生成することにより、HMDシステム100における仮想空間2を規定する。
仮想オブジェクト制御モジュール232は、後述するコンテンツ情報241およびオブジェクト情報242に基づいて、仮想空間2に配置される仮想オブジェクトを生成する。また、仮想オブジェクト制御モジュール232は、仮想空間2における仮想オブジェクトの動作(移動および状態変化等)も制御する。
仮想オブジェクトは、仮想空間2に配置されるオブジェクト全般である。仮想オブジェクトは、例えば、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、動物等を含み得る。仮想オブジェクトは、ユーザに関連付けられたキャラクタオブジェクト(第1オブジェクト)を含む。キャラクタオブジェクトは、仮想空間におけるユーザの分身であるアバター、およびユーザにより操作されるゲームのキャラクタ(プレイヤキャラクタ)等である。本実施形態では、仮想空間2は、キャラクタオブジェクトとしてアバターを含む。また、仮想オブジェクトは、アバターとともに移動する乗り物オブジェクト(第2オブジェクト)を含む。乗り物オブジェクトは、例えば飛行機、列車、車等の任意の乗り物を模したオブジェクトであり、アバターを乗せてアバターとともに移動可能なオブジェクトである。ただし、本実施形態における乗り物オブジェクトは、アバターを支持して移動可能なものであればよく、上述したような一般的な乗り物に限られない。例えば、アバターを吊り下げて移動するクレーン等も、上記乗り物オブジェクトの範囲に含まれる。また、仮想空間2内で展開されるゲームにおいて、例えば巨人の手の上にアバターを乗せて移動可能な場合には、当該巨人の手も、上記乗り物オブジェクトの範囲に含まれる。以下の説明において、誤解が生じない場合には、仮想オブジェクトのことを単に「オブジェクト」と表記する。
操作オブジェクト制御モジュール233は、ユーザ190の手の動きに応じて動くオブジェクトである操作オブジェクトの仮想空間2内における動作を制御する。ある局面において、操作オブジェクトは、例えば、HMD装置110を装着したユーザ190の手に相当する手オブジェクト、ユーザ190の指に相当する指オブジェクト等を含み得る。また、手オブジェクトにより操作されるオブジェクトも、ユーザ190の手の動きに応じて動く操作オブジェクトとして機能し得る。
動き調整モジュール234は、乗り物オブジェクトとともに移動するアバターに関連付けられた仮想カメラ1の動きを調整するための処理を実行する。
仮想空間制御モジュール230は、仮想空間2に配置されるオブジェクトのそれぞれが、他のオブジェクトと衝突した場合に、当該衝突を検出する。仮想空間制御モジュール230は、例えば、あるオブジェクトと、別のオブジェクトとが触れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。仮想空間制御モジュール230は、オブジェクトとオブジェクトとが触れている状態から離れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。仮想空間制御モジュール230は、例えばオブジェクト毎に設定されたコリジョンエリアに基づく公知の当たり判定を実行することにより、オブジェクトとオブジェクトとが触れている状態であることを検出することができる。
メモリモジュール240は、コンピュータ200が仮想空間2をユーザ190に提供するために使用されるデータを保持している。ある局面において、メモリモジュール240は、コンテンツ情報241と、オブジェクト情報242と、ユーザ情報243とを保持している。
コンテンツ情報241には、例えば、仮想空間2において再生されるコンテンツ、当該コンテンツで使用されるオブジェクトを配置するための情報等が含まれている。当該コンテンツは、例えば、ゲーム、現実社会と同様の風景を表したコンテンツ等を含み得る。具体的には、コンテンツ情報241は、仮想空間2の背景を規定する仮想空間画像データ(仮想空間画像22)と、仮想空間2に配置されるオブジェクトの定義情報とを含み得る。オブジェクトの定義情報は、オブジェクトを描画するための描画情報(例えば、オブジェクトの形状および色等のデザインを表す情報)、およびオブジェクトの初期配置を示す情報等を含み得る。また、予め設定された動作パターンに基づいて自律的に動作するオブジェクトの定義情報は、当該動作パターンを示す情報(プログラム等)を含み得る。予め定められた動作パターンに基づく動作の例としては、草を模したオブジェクトが一定のパターンで揺れる動作のような単純な繰り返し動作が挙げられる。
オブジェクト情報242には、仮想空間2に配置される各オブジェクトの状態(ゲームの進行およびユーザ190の操作等に応じて変化し得る状態)を示す情報が含まれている。具体的には、オブジェクト情報242は、各オブジェクトの位置を示す位置情報を含み得る。また、オブジェクト情報242は、変形可能なオブジェクトの動作を示す動き情報(すなわち、オブジェクトの形状を特定するための情報)をさらに含み得る。変形可能なオブジェクトの例としては、上述したアバターのように、頭部、胴体、および手等のパーツを有し、ユーザ190の動きに応じて各パーツを独立して動かすことが可能なオブジェクト等が挙げられる。
ユーザ情報243には、例えば、HMDシステム100の制御装置としてコンピュータ200を機能させるためのプログラム、コンテンツ情報241に保持される各コンテンツを使用するアプリケーションプログラム等が含まれている。
メモリモジュール240に格納されているデータおよびプログラムは、HMD装置110のユーザによって入力される。あるいは、プロセッサ10が、当該コンテンツを提供する事業者が運営するコンピュータ(例えば、サーバ150)からプログラム(ゲームプログラム等)あるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール240に格納する。
通信制御モジュール250は、ネットワーク19を介して、サーバ150その他の情報通信装置と通信し得る。
ある局面において、表示制御モジュール220および仮想空間制御モジュール230は、例えば、ユニティテクノロジーズ社によって提供されるUnity(登録商標)を用いて実現され得る。別の局面において、表示制御モジュール220および仮想空間制御モジュール230は、各処理を実現する回路素子の組み合わせとしても実現され得る。
コンピュータ200における処理は、ハードウェアと、プロセッサ10により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール240に予め格納されている場合がある。また、ソフトウェアは、CD−ROMその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール250を介してサーバ150その他のコンピュータからダウンロードされた後、メモリモジュール240に一旦格納される。そのソフトウェアは、プロセッサ10によってメモリモジュール240から読み出され、実行可能なプログラムの形式でRAMに格納される。プロセッサ10は、そのプログラムを実行する。
図9に示されるコンピュータ200を構成するハードウェアは、一般的なものである。したがって、本実施の形態に係る最も本質的な部分は、コンピュータ200に格納されたプログラムであるともいえる。なお、コンピュータ200のハードウェアの動作は周知であるので、詳細な説明は繰り返さない。
なお、データ記録媒体としては、CD−ROM、FD(Flexible Disk)、ハードディスクに限られず、磁気テープ、カセットテープ、光ディスク(MO(Magnetic Optical Disc)/MD(Mini Disc)/DVD(Digital Versatile Disc))、IC(Integrated Circuit)カード(メモリカードを含む)、光カード、マスクROM、EPROM(Erasable Programmable Read-Only Memory)、EEPROM(Electrically Erasable Programmable Read-Only Memory)、フラッシュROMなどの半導体メモリ等の固定的にプログラムを担持する不揮発性のデータ記録媒体でもよい。
ここでいうプログラムとは、プロセッサ10により直接実行可能なプログラムだけでなく、ソースプログラム形式のプログラム、圧縮処理されたプログラム、暗号化されたプログラム等を含み得る。
[制御構造]
図10を参照して、本実施の形態に係るコンピュータ200の制御構造について説明する。図10は、HMDシステム100が実行する処理を表すフローチャートである。
ステップS1において、コンピュータ200のプロセッサ10は、仮想空間定義モジュール231として、仮想空間画像データを特定し、仮想空間を定義する。すなわち、プロセッサ10は、仮想空間2を規定する仮想空間データを生成する。
ステップS2において、プロセッサ10は、仮想カメラ制御モジュール221として、仮想カメラ1を初期化する。例えば、プロセッサ10は、メモリのワーク領域において、仮想カメラ1を仮想空間2において予め規定された中心点に配置し、仮想カメラ1の視線をユーザ190が向いている方向に向ける。
ステップS3において、プロセッサ10は、視界画像生成モジュール223として、初期の視界画像を表示するための視界画像データを生成する。生成された視界画像データは、視界画像生成モジュール223を介して通信制御モジュール250によってHMD装置110に送られる。
ステップS4において、HMD装置110のディスプレイ112は、コンピュータ200から受信した信号に基づいて、視界画像を表示する。HMD装置110を装着したユーザ190は、視界画像を視認すると仮想空間2を認識し得る。
ステップS5において、HMDセンサ120は、HMD装置110から発信される複数の赤外線光に基づいて、HMD装置110の位置と傾きを検知する。検知結果は、動き検知データとして、コンピュータ200に送られる。
ステップS6において、プロセッサ10は、視界領域決定モジュール222として、HMD装置110の位置と傾きとに基づいて、HMD装置110を装着したユーザ190の視界方向を特定する。プロセッサ10は、アプリケーションプログラムを実行し、アプリケーションプログラムに含まれる命令に基づいて、仮想空間2にオブジェクトを配置する。
ステップS7において、コントローラ160は、現実空間におけるユーザ190の操作を検出する。例えば、ある局面において、コントローラ160は、ユーザ190によってボタンが押下されたことを検出する。別の局面において、コントローラ160は、ユーザ190の手の動き(たとえば、手を振る動き等)を検出する。具体的には、コントローラ160は、ユーザ190の手が動いた方向および速さ等を検出する。検出内容を示す信号は、コンピュータ200に送られる。
ステップS8において、プロセッサ10は、動き調整モジュール234として、乗り物オブジェクトとともに移動するアバターに関連付けられた仮想カメラ1の動きを調整する。ステップS8の処理の詳細については後述する。
ステップS9において、プロセッサ10は、視界領域決定モジュール222および視界画像生成モジュール223として、処理の結果に基づく視界画像を表示するための視界画像データを生成し、生成した視界画像データをHMD装置110に出力する。より具体的には、プロセッサ10は、ステップS8における仮想カメラ1の動き調整の結果が反映された仮想カメラ1の位置と、仮想空間データと、に基づいて視界画像を生成し、HMD装置110のディスプレイ112に視界画像を表示させる。
ステップS10において、HMD装置110のディスプレイ112は、受信した視界画像データに基づいて視界画像を更新し、更新後の視界画像を表示する。
ステップS5〜S10の処理は、定期的に繰り返し実行される。
[仮想カメラの動き調整]
図11〜図15を参照して、動き調整モジュール234による処理(図10のステップS8)の処理手順の一例について説明する。具体的には、乗り物オブジェクトVとともに移動するアバターに関連付けられた仮想カメラの動きを調整するための処理手順について説明する。本実施形態では、図12および図14に示されるように、乗り物オブジェクトVが運転席と助手席とを有する自動車である例について説明する。この例では、アバターA1は、乗り物オブジェクトVの運転席に乗車しており、アバターA2は、乗り物オブジェクトVの助手席に乗車している。乗り物オブジェクトVの運転席には、当該乗り物オブジェクトVの移動を制御するためのハンドルを模したハンドルオブジェクトHが設けられている。アバターA1を操作するユーザは、アバターA1の手の部分に相当する手オブジェクトC(操作オブジェクト)を動かし、ハンドルオブジェクトHを操作することにより、乗り物オブジェクトVの移動(例えば、直進および右左折等の進行方向、移動速度等)を制御することができる。
ここで、アバターが乗り物オブジェクトVとともに移動する場合には、仮想空間2内における乗り物オブジェクトVの移動に応じて、当該乗り物オブジェクトVに関連付けられたアバターも同様に移動することになる。そして、アバターに関連付けられた仮想カメラも、アバターと同様に、乗り物オブジェクトVの動きに連動して動くことになる。しかし、仮想カメラを乗り物オブジェクトVと完全に連動させた場合、当該仮想カメラの動きに応じた視界画像の変化によってユーザのVR酔いを生じるおそれが高くなる。そこで、プロセッサ10は、以下のような仮想カメラの動き調整処理を実行する。
ステップS801において、HMD装置110のプロセッサ10は、対象ユーザ(すなわち、当該HMD装置110を利用しているユーザ190)に関連付けられたアバターが乗り物オブジェクトVで移動中であるか否かを判定する。アバターが乗り物オブジェクトVで移動中でない場合には、アバターに関連付けられた仮想カメラ1について、乗り物オブジェクトVの移動に伴う動き調整は不要であるため、当該動き調整は実行されない。一方、アバターが乗り物オブジェクトVで移動中である場合には、プロセッサ10は、仮想カメラ1の動き調整を実行するために、ステップS802の処理に進む。図12および図14に示される例では、アバターA1,A2の両方とも乗り物オブジェクトVで移動中であるため、対象ユーザに関連付けられたアバターがアバターA1,A2のいずれである場合にも、プロセッサ10はステップS802の処理に進む。
ステップS802において、プロセッサ10は、乗り物オブジェクトVの動きを特定する。乗り物オブジェクトVの動きは、例えば、予め定められた移動パターンまたはハンドルオブジェクトHを介して入力された移動制御の内容に基づいて特定され得る。ここで、予め定められた移動パターンは、予め定められたルートおよび速度等に基づいて移動するパターンであり、例えば列車が仮想空間2内に敷設されたレールに沿って移動するパターン等である。また、乗り物オブジェクトVの動きは、当該乗り物オブジェクトVが移動中の場所に関連付けられた地形、風の強さおよび向き等の環境パラメータに基づいて特定されてもよい。環境パラメータは、乗り物オブジェクトVの移動中の動き(例えば揺れ等)に影響し得るパラメータである。
ステップS803において、プロセッサ10は、乗り物オブジェクトVの物理的属性を取得する。プロセッサ10は、例えばメモリモジュール240にアクセスすることにより、当該メモリモジュール240に格納された乗り物オブジェクトVの物理的属性を取得する。乗り物オブジェクトVの物理的属性は、乗り物オブジェクトVの物理的な性質または状態を表す情報である。例えば、乗り物オブジェクトVの物理的属性は、乗り物オブジェクトVの移動態様と関連付けられた乗り物オブジェクトVの種類と、乗り物オブジェクトVの状況に応じて決定されるモード情報と、を含み得る。
乗り物オブジェクトVの移動態様は、例えば、車輪等で地上を移動する態様、レールに沿って移動する態様、飛行により移動する態様等の、乗り物オブジェクトVの特性に応じた移動の態様である。乗り物オブジェクトVの種類の例としては、地上を移動する移動態様と関連付けられる車、レールに沿って移動する移動態様と関連付けられる列車、飛行により移動する移動態様と関連付けられた飛行機等が挙げられる。
モード情報の例としては、乗り物オブジェクトVの移動が対象ユーザにより制御される状態であるか否かを示す第1モード情報が挙げられる。モード情報の他の例としては、乗り物オブジェクトVの移動シーンを示す第2モード情報が挙げられる。移動シーンは、乗り物オブジェクトVの特定の移動状態を表す。特定の移動状態の例としては、例えば、飛行機の離陸時または着陸時の状態、車または列車が道またはレールの形状に応じてカーブする状態等が挙げられる。なお、このような特定の移動状態は、乗り物オブジェクトVの特定の姿勢変化を伴うものである。したがって、移動シーンは、乗り物オブジェクトVの移動状態に関連付けられた乗り物オブジェクトVの姿勢変化のパターンを表す情報であるともいえる。第2モード情報は、上述したような乗り物オブジェクトVの移動状態に応じて適宜更新される。
ステップS804において、プロセッサ10は、乗り物オブジェクトVの移動が対象ユーザにより制御される状態(以下「制御可能状態」)であるか否かを判定する。すなわち、プロセッサ10は、第1モード情報が制御可能状態であることを示すか否かを判定する。
第1モード情報が制御可能状態であることを示す場合(すなわち、対象ユーザに関連付けられたアバターがアバターA1である場合)、対象ユーザは乗り物オブジェクトVを自らの意思によって移動させることができる。すなわち、対象ユーザは乗り物オブジェクトVの移動を予測可能である。このため、仮想空間2内における実際のアバター動作(すなわち、乗り物オブジェクトVの動きによって生じる動作)に応じて仮想カメラを動かしたとしても、当該仮想カメラの動きに基づく視界画像の変化によって対象ユーザがVR酔いする可能性は、比較的低い。そこで、第1モード情報が制御可能状態であることを示す場合(ステップS804:YES)には、プロセッサ10は、ステップS805〜S807の処理を実行しない。
一方、第1モード情報が制御可能状態でないことを示す場合(すなわち、対象ユーザに関連付けられたアバターがアバターA2である場合)、対象ユーザは乗り物オブジェクトVを自らの意思によって移動させることができない。このため、仮想空間2内における実際のアバター動作に応じて仮想カメラを動かした場合、当該仮想カメラの動きに基づく視界画像の変化によって対象ユーザがVR酔いする可能性は、比較的高い。そこで、第1モード情報が制御可能状態でないことを示す場合(ステップS804:NO)には、プロセッサ10は、仮想カメラの動きを調整するために、引き続きステップS805〜S807の処理を実行する。
ステップS805において、プロセッサ10は、仮想カメラ(ここではアバターA2の視点位置に対応する仮想カメラ1B)の動きを調整する対象となる調整軸を特定する。より具体的には、プロセッサ10は、乗り物オブジェクトVの物理的属性(この例では、ステップS804における判定に用いられた第1モード情報)に基づいて、調整軸を特定する。調整軸とは、仮想空間2内における実際の乗り物オブジェクトVの動きと連動させない対象となる仮想カメラ1Bの動き方向を規定する軸である。プロセッサ10は、例えばユーザのVR酔いを誘発する可能性の高い回転方向に対応する回転軸を、調整軸として特定する。このような調整軸は、例えば乗り物オブジェクトVの種類等に応じて予め設定されてもよい。本実施形態では、乗り物オブジェクトの種類「自動車」に対して、ヨー軸およびロール軸が予め設定されているものとする。この場合、プロセッサ10は、上述した第1モード情報とともに乗り物オブジェクトVの種類にも基づいて、仮想カメラ1Bのヨー軸およびロール軸を調整軸として特定する。
ステップS806において、プロセッサ10は、ステップS802において特定された乗り物オブジェクトVの動きと、ステップS805において特定された調整軸(ここではヨー軸およびロール軸)とに基づいて、仮想カメラ1Bの調整軸周りの動き量を決定する。例えば、プロセッサ10は、上述したユーザのVR酔いを抑制するために、以下のように仮想カメラ1Bのヨー軸周りおよびロール軸周りの動き量を決定する。
プロセッサ10は、乗り物オブジェクトVの実際の動きに応じた大きさよりも小さくなるように、仮想カメラ1Bのヨー軸周りの動き量を決定する。具体的には、プロセッサ10は、仮想カメラ1Bの動き調整を行わない場合に生じる動き(すなわち、乗り物オブジェクトVの実際の動きに応じて生じる仮想カメラ1Bのヨー軸周りの動き)の大きさよりも小さくなるように、仮想カメラ1Bのヨー軸周りの動き量を決定する。例えば、プロセッサ10は、乗り物オブジェクトVの動きに基づくヨー軸周りの動き量が0となるように、仮想カメラ1Bのヨー軸周りの動き量を決定する。乗り物オブジェクトVを用いた移動において、乗り物オブジェクトVが仮想空間2内に設けられた道路形状に沿ってカーブする状況等が考えられる。プロセッサ10は、例えばこのような乗り物オブジェクトVのカーブ動作が発生した場合において、当該カーブ動作に連動して仮想カメラ1Bがヨー軸周りに回転しないように、仮想カメラ1Bのヨー軸周りの動き量を0とする。
プロセッサ10は、乗り物オブジェクトVの実際の動きに応じた大きさよりも小さくなるように、仮想カメラ1Bのロール軸周りの動き量を決定する。具体的には、プロセッサ10は、仮想カメラ1Bの動き調整を行わない場合に生じる動き(すなわち、乗り物オブジェクトVの実際の動きに応じて生じる仮想カメラ1Bのロール軸周りの動き)の大きさよりも小さくなるように、仮想カメラ1Bのロール軸周りの動き量を決定する。例えば、プロセッサ10は、乗り物オブジェクトVの動きに基づくロール軸周りの動き量が0となるように、仮想カメラ1Bのロール軸周りの動き量を決定する。乗り物オブジェクトVを用いた移動において、乗り物オブジェクトVが凸凹形状の地面の上を走行し、進行方向に沿った軸周り(すなわち、仮想カメラ1Bのロール軸周り)に傾斜する状況等が考えられる。プロセッサ10は、例えばこのような乗り物オブジェクトVの傾き動作が発生した場合において、当該傾き動作に連動して仮想カメラ1Bがロール軸周りに回転しないように、仮想カメラ1Bのロール軸周りの動き量を0とする。
ステップS807において、プロセッサ10は、ステップS806において決定された動き量に基づいて、仮想カメラ1Bを動かす。
図12および図13を参照して、仮想カメラ1Bのヨー軸(v軸)周りの動き調整の例について説明する。図12の例は、乗り物オブジェクトVが仮想空間2内に設けられた道路形状に沿ってカーブする状況を表している。
プロセッサ10は、乗り物オブジェクトVの移動を予測可能なユーザ(すなわちアバターA1に関連付けられたユーザ)に関連付けられた仮想カメラ1Aについては、上述した動き調整(ステップS805〜S807)を実行しない。このため、プロセッサ10は、乗り物オブジェクトVの動き(左方向へのカーブ)に連動するように、仮想カメラ1Aをヨー軸周りに回転させる。これにより、図13の状態(A)に示されるように、乗り物オブジェクトVのカーブ動作中に仮想カメラ1Aにより定義される視界画像M1は、乗り物オブジェクトVの左方向へのカーブに応じて変化する。
一方、プロセッサ10は、乗り物オブジェクトVの移動を予測不可能なユーザ(すなわちアバターA2に関連付けられたユーザ)に関連付けられた仮想カメラ1Bについては、上述した動き調整(ステップS805〜S807)を実行する。すなわち、プロセッサ10は、乗り物オブジェクトVの動きに基づく仮想カメラ1Bのヨー軸周りの動き量を0とすることにより、仮想カメラ1Bがヨー軸周りに回転しないように仮想カメラ1Bの動きを調整する。これにより、図13の状態(B)に示されるように、乗り物オブジェクトVのカーブ動作中に仮想カメラ1Bにより定義される視界画像M2は、乗り物オブジェクトVの左方向へのカーブの影響を受けない。
図14および図15を参照して、仮想カメラ1Bのロール軸(w軸)周りの動き調整の例について説明する。図14の例は、乗り物オブジェクトVが凸凹形状の地面Gの上を走行し、進行方向(Y方向)周り(すなわち、仮想カメラ1Bのロール軸周り)に傾斜している状態を表している。
プロセッサ10は、乗り物オブジェクトVの移動を予測可能なユーザ(すなわちアバターA1に関連付けられたユーザ)に関連付けられた仮想カメラ1Aについては、上述した動き調整(ステップS805〜S807)を実行しない。このため、プロセッサ10は、乗り物オブジェクトVの動き(地面Gに沿った傾き動作)に連動するように、仮想カメラ1Aをロール軸周りに回転させる。図14の例では、仮想カメラ1Aは、乗り物オブジェクトVの傾き動作に応じて、ロール軸周りに反時計回りに回転している。これにより、図15の状態(A)に示されるように、乗り物オブジェクトVの傾き動作時に仮想カメラ1Aにより定義される視界画像M1は、乗り物オブジェクトVの傾き具合を反映したものとなる。
一方、プロセッサ10は、乗り物オブジェクトVの移動を予測不可能なユーザ(すなわちアバターA2に関連付けられたユーザ)に関連付けられた仮想カメラ1Bについては、上述した動き調整(ステップS805〜S807)を実行する。すなわち、プロセッサ10は、乗り物オブジェクトVの動きに基づく仮想カメラ1Bのロール軸周りの動き量を0とすることにより、仮想カメラ1Bがロール軸周りに回転しないように仮想カメラ1Bの動きを調整する。これにより、図15の状態(B)に示されるように、乗り物オブジェクトVの傾き動作時に仮想カメラ1Bにより定義される視界画像M2は、乗り物オブジェクトVの傾き具合の影響を受けない。
上述したような仮想カメラの動き調整によれば、乗り物オブジェクトVの物理的属性に基づいて、ユーザ190のVR酔いに影響する回転軸(ここではヨー軸およびロール軸)を調整軸として特定できる。そして、このようにして特定された調整軸周りの仮想カメラ1の動き量を決定することにより、ユーザのVR酔いを効果的に抑制し得る。
具体的には、自らの意思で乗り物オブジェクトVを移動させておらず、VR酔いを起こす可能性の高いユーザ(すなわち、アバターA2に関連付けられたユーザ)に対して、ヨー軸周りまたはロール軸周りの動き量(回転移動量)が0とされた仮想カメラ1Bによる視界画像M2を提供することができる。その結果、乗り物オブジェクトの動きに起因して生じ得るVR酔いを効果的に抑制し得る。
一方、自らの意思で乗り物オブジェクトVを移動させており、VR酔いを起こす可能性の低いユーザ(すなわち、アバターA1に関連付けられたユーザ)に対しては、乗り物オブジェクトVの動き(例えば上述したカーブ動作、傾き動作等)が反映された視界画像M1を提供することができる。その結果、このようなユーザに対しては、仮想空間2内を乗り物で移動していることをよりリアルに体感させることができる。
なお、調整後のヨー軸周りまたはロール軸周りの動き量は必ずしも0でなくてもよい。例えば、プロセッサ10は、乗り物オブジェクトVの動きに応じて実際に生じる仮想カメラの調整軸周りの動き量(すなわち、上述した仮想カメラの動き調整を行わない場合に生じる動き量)に予め定められた割合(例えば50%等)を乗じることにより得られる動き量を、当該調整軸周りの動き量として決定してもよい。このようにした場合でも、乗り物オブジェクトVの動きに応じた視界画像の変化量を低減することによってユーザのVR酔いを抑制し得る。さらに、この場合には、乗り物オブジェクトVの動きが視界画像に反映されるので、仮想空間2内を乗り物で移動している感覚をユーザに与えることができるという副次的効果も奏される。
[仮想カメラの動き調整の第1の変形例]
図16に示されるフローチャートを参照して、仮想カメラの動き調整の第1の変形例について説明する。第1の変形例では、プロセッサ10は、調整軸を特定するために、当該乗り物オブジェクトの移動シーンを示す第2モード情報を利用する。ここでは、乗り物オブジェクトの種類が飛行機である場合の仮想カメラの動き調整の例について説明する。
例えば、種類が飛行機である乗り物オブジェクト(以下「飛行機オブジェクト」)は、離陸時または着陸時(例えば、離陸動作または着陸動作のために飛行機オブジェクトの車輪が外に出ている状態)において、現実の飛行機と同様に姿勢を変化させるように設定され得る。具体的には、飛行機オブジェクトは、離陸時において、機体が水平である状態から、機体の前方部分が機体の後方部分よりも高くなるように、姿勢を変化させ得る。また、飛行機オブジェクトは、着陸時において、機体が水平である状態から、機体の前方部分が機体の後方部分よりも低くなるように、姿勢を変化させ得る。上述したような飛行機オブジェクトの姿勢変化(すなわち、飛行機オブジェクトに搭乗し、かつ飛行機オブジェクトの進行方向前方を向いているアバターに関連付けられた仮想カメラのピッチ軸(u軸)周りの動き)をユーザに体感させることにより、飛行機オブジェクトによる移動体験をよりリアルにユーザに体感させることが可能となる。一方、飛行状態(すなわち、上述した離着陸時以外の状態)において、上述したような姿勢変化をユーザに体感させることは、ユーザのVR酔いの原因となり得る。そこで、プロセッサ10は、以下のような仮想カメラの動き調整処理を実行する。
ステップS811〜S814の処理は、上述した図11におけるステップS801〜S804の処理と同様であるため、詳細な説明を繰り返さない。
ステップS815において、プロセッサ10は、ステップS813において取得された乗り物オブジェクトの物理的属性(乗り物オブジェクトの種類)に基づいて、乗り物オブジェクトの種類が飛行機であるか否かを判定する。乗り物オブジェクトの種類が飛行機でない場合(ステップS815:NO)には、当該変形例における仮想カメラの動き調整の対象とはならないため、プロセッサ10は、ステップS816以降の処理を実行しない。一方、乗り物オブジェクトの種類が飛行機である場合(ステップS815:YES)には、プロセッサ10は、引き続きステップS816の処理を実行する。
ステップS816において、プロセッサ10は、ステップS813において取得された乗り物オブジェクトの物理的属性(第2モード情報)に基づいて、第2モード情報が示す移動シーンが離着陸時であるか否かを判定する。上述した通り、離着陸時においては、よりリアルな仮想体験をユーザに提供するために、飛行機オブジェクトの姿勢変化(仮想カメラのピッチ軸周りの動き)をユーザに体感させることが効果的である。一方、飛行状態においては、VR酔いを抑制する観点から、乗り物オブジェクトの動きに応じた仮想カメラのピッチ軸周りの動き量を制限することが効果的である。
そこで、第2モード情報が示す移動シーンが離着陸時である場合(ステップS816:YES)には、プロセッサ10は、ステップS817以降の調整処理(ピッチ軸周りの動き量の制限)を実行しない。一方、第2モード情報が示す移動シーンが離着陸時でない場合(ステップS816:NO)には、プロセッサ10は、引き続きステップS817の処理を実行する。
ステップS817において、プロセッサ10は、仮想カメラの動きを調整する対象となる調整軸を特定する。より具体的には、プロセッサ10は、乗り物オブジェクトVの物理的属性(この例では、ステップS815における判定に用いられた乗り物オブジェクトの種類、およびステップS816における判定に用いられた第2モード情報)に基づいて、調整軸を特定する。ここでは、プロセッサ10は、仮想カメラのピッチ軸を調整軸として特定する。
ステップS818において、プロセッサ10は、ステップS812において特定された乗り物オブジェクトの動きと、ステップS817において特定された調整軸(ここではピッチ軸)とに基づいて、仮想カメラの調整軸周りの動き量を決定する。例えば、プロセッサ10は、上述したユーザのVR酔いを抑制するために、乗り物オブジェクトの実際の動きに応じた大きさよりも小さくなるように、仮想カメラのピッチ軸周りの動き量を決定する。当該動き量は、0であってもよいし、乗り物オブジェクトの動きに応じて実際に生じる仮想カメラのピッチ軸周りの動き量に予め定められた割合(例えば50%等)を乗じることにより得られる動き量であってもよい。
ステップS819において、プロセッサ10は、ステップS818において決定された動き量に基づいて、仮想カメラを動かす。
第1の変形例によれば、よりリッチな仮想体験をユーザに提供しつつVR酔いを抑制するという観点において、乗り物オブジェクトの移動シーンに基づいて、仮想カメラの調整軸周りの動き量を適切に決定することができる。なお、第1の変形例では、飛行機オブジェクトの離着陸時を具体例として説明したが、乗り物オブジェクトの移動シーンに基づく仮想カメラの動き調整は、この例に限定されない。例えば、飛行機オブジェクトが、飛行状態において左旋回または右旋回する際に、旋回する方向に横転(傾斜)する場合について考える。この場合、当該飛行機オブジェクトに搭乗し、かつ飛行機オブジェクトの進行方向前方を向くアバターに関連付けられた仮想カメラのロール軸(w軸)周りの動きをユーザにリアルに体感させることにより、飛行機オブジェクトの左旋回または右旋回をよりリアルに感じさせることができる。一方、このような旋回動作が実行されていない場合には、VR酔いを抑制する観点から、飛行機オブジェクトの動きに応じた仮想カメラのピッチ軸周りの動き量を制限することが効果的である。そこで、プロセッサ10は、例えば、移動シーンが飛行機オブジェクトの旋回時であるか否かに基づいて、仮想カメラのロール軸を調整軸として特定し、仮想カメラの当該調整軸周りの動き量を決定してもよい。
[仮想カメラの動き調整の第2の変形例]
図17に示されるフローチャートを参照して、仮想カメラの動き調整の第2の変形例について説明する。第2の変形例では、プロセッサ10は、上述したような仮想カメラの調整軸周りの動き量の調整に加えて、乗り物オブジェクトの動きに応じた仮想カメラの予め定められた方向における移動量を、乗り物オブジェクトの物理的属性に基づいて決定する。図17に示されるフローチャートは、仮想カメラの予め定められた方向における移動量を決定する処理を表している。「仮想カメラの予め定められた方向における移動量」は、例えば、仮想カメラを予め定められた方向(例えば乗り物オブジェクトの進行方向に直交する上下方向等)に沿って平行移動させる場合における仮想カメラの移動量である。
ここでは一例として、上記の「予め定められた方向」が乗り物オブジェクトの進行方向を基準とした上下方向(すなわち、乗り物オブジェクトが上下に振動する際の振動方向)である場合を具体例として説明する。また、同種の乗り物オブジェクトの間に、個体差に応じたパラメータが設定されている状況について考える。例えば、仮想空間2内で展開されるレーシングゲーム等において、ユーザが選択可能な複数の同種(例えば自動車)の乗り物オブジェクトの間に、乗車性能に関するパラメータ(例えば上下振動の吸収性能を表すパラメータ)等が設定され得る。このようなパラメータは、例えば、乗り物オブジェクトの物理的属性の一つとして、乗り物オブジェクトに関連付けてメモリモジュール240等に記憶される。
ステップS821およびS822の処理は、上述した図11におけるステップS801およびS802の処理と同様であるため、詳細な説明を繰り返さない。
ステップS823において、プロセッサ10は、乗り物オブジェクトの物理的属性の一つとして、乗り物オブジェクトのパラメータを取得する。例えば、当該パラメータは、上述した乗車性能に関するパラメータ(上下振動の吸収性能を表すパラメータ)である。
ステップS824において、プロセッサ10は、ステップS822において特定された乗り物オブジェクトの動きと、ステップS823において取得されたパラメータとに基づいて、仮想カメラの特定方向(ここでは上下方向)における移動量を決定する。例えば、プロセッサ10は、パラメータに示される上下振動の吸収性能が高いほど、仮想カメラの上下方向における振動の大きさが小さくなるように、仮想カメラの上下方向における移動量を決定する。
ステップS825において、プロセッサ10は、ステップS824において決定された移動量に基づいて、仮想カメラを動かす。
第2の変形例によれば、乗り物オブジェクトの物理的属性に基づいて、仮想カメラの調整軸周りの動き量を調整するとともに、仮想カメラの特定方向における平行移動量を調整することもできる。また、同種の乗り物オブジェクト間の個体差に応じたパラメータに基づいて上記平行移動量を決定することにより、複数の乗り物オブジェクト間の性能差等をユーザに実感させることができる。これにより、仮想空間2内での乗り物オブジェクトを用いた仮想体験のエンタテイメント性を向上させ得る。
以上、本開示の実施形態について説明したが、本発明の技術的範囲は、本実施形態の説明によって限定的に解釈されるべきではない。本実施形態は一例であって、特許請求の範囲に記載された発明の範囲内において、様々な実施形態の変更が可能であることが当業者によって理解されるところである。本発明の技術的範囲は、特許請求の範囲に記載された発明の範囲およびその均等の範囲に基づいて定められるべきである。
例えば、本実施形態で説明した仮想カメラの動き調整の実施形態(図11)、第1の変形例(図16)、および第2の変形例(図17)の処理は、適宜組み合わせられてもよい。また、本実施形態で説明したフローチャートに示される処理手順は一例であり、処理の一部が省略または変更されてもよいし、他の処理が付け加えられてもよいし、処理の順序が変更されてもよい。
また、本実施形態(図12〜図15の例)では、仮想カメラ1A,1Bによって定義されるユーザの視野を仮想空間2におけるアバターA1,A2の視野と一致させることで、1人称視点における仮想体験がユーザに提供されたが、本実施形態はこれに限定されない。例えば、仮想カメラ1A,1BがアバターA1,A2の後方に配置されることで、アバターA1,A2が視界画像に含まれる3人称視点における仮想体験が、ユーザに提供されてもよい。
また、本実施形態においては、HMD装置110によってユーザ190が没入する仮想空間(VR空間)を例示して説明したが、HMD装置110として、透過型のHMD装置を採用してもよい。この場合、透過型のHMD装置を介してユーザ190が視認する現実空間に仮想空間を構成する画像の一部が視界画像として重畳されるように視界画像を出力することにより、拡張現実(AR:Augumented Reality)空間または複合現実(MR:Mixed Reality)空間における仮想体験をユーザ190に提供してもよい。この場合、手オブジェクトCに代えて、ユーザ190の手の動きに基づいて、仮想空間2内における対象オブジェクト(例えばハンドルオブジェクトH)への作用を生じさせてもよい。具体的には、プロセッサ10は、現実空間におけるユーザ190の手の位置の座標情報を特定するとともに、仮想空間2内における対象オブジェクトの位置を現実空間における座標情報との関係で定義してもよい。これにより、プロセッサ10は、現実空間におけるユーザ190の手と仮想空間2における対象オブジェクトとの位置関係を把握し、ユーザ190の手と対象オブジェクトとの間に作用を生じさせることが可能となる。
本明細書に開示された主題は、例えば、以下のような項目として示される。
(項目1)
表示部(ディスプレイ112)を備えるヘッドマウントデバイス(HMD装置110)を介してユーザ190に仮想空間2を提供するためにコンピュータ200によって実行される情報処理方法であって、
前記ユーザ190の視界を定義する仮想カメラ1と、前記ユーザ190に関連付けられた第1オブジェクト(本実施形態ではアバター)と、前記第1オブジェクトとともに移動する第2オブジェクト(本実施形態では乗り物オブジェクト)と、を含む前記仮想空間2を規定する仮想空間データを生成するステップ(図10のS1)と、
前記第2オブジェクトの動きを特定するステップ(例えば図11の802)と、
前記第2オブジェクトの物理的属性に基づいて、前記仮想カメラ1の動きを調整する対象となる調整軸を特定するステップ(例えば図11のS805)と、
前記第2オブジェクトの動きと前記調整軸とに基づいて、前記仮想カメラ1の前記調整軸周りの動き量を決定するステップ(例えば図11のS806)と、
前記動き量に基づいて、前記仮想カメラ1を動かすステップ(例えば図11のS807)と、
前記仮想カメラ1の位置と前記仮想空間データとに基づいて視界画像を生成し、前記表示部に前記視界画像を表示させるステップ(図10のS9)と、
を含む、情報処理方法。
この情報処理方法によれば、第2オブジェクトの物理的属性に基づいて、例えばユーザのVR酔いに対する影響度の大きい回転軸(調整軸)を特定することが可能となり、特定された調整軸周りの仮想カメラ1の動き量を決定することにより、ユーザのVR酔いを効果的に抑制し得る。
(項目2)
前記第2オブジェクトの前記物理的属性は、前記第2オブジェクトの移動態様と関連付けられた前記第2オブジェクトの種類を含む、
項目1の情報処理方法。
この情報処理方法によれば、第2オブジェクトの種類に基づいて、調整軸を適切に特定し得る。
(項目3)
前記第2オブジェクトの前記物理的属性は、前記第2オブジェクトの移動が前記ユーザ190により制御される状態であるか否かを示す第1モード情報を含む、
項目1または2の情報処理方法。
この情報処理方法によれば、第2オブジェクトの移動が前記ユーザ190により制御される状態であるかに基づいて、調整軸を適切に特定し得る。
(項目4)
前記第1モード情報が、前記第2オブジェクトの移動が前記ユーザ190により制御される状態ではないことを示す場合、前記仮想カメラ1のヨー軸を前記調整軸として特定し、前記第2オブジェクトの実際の動きに応じた大きさよりも小さくなるように、前記ヨー軸周りの前記動き量を決定する、
項目3の情報処理方法。
(項目5)
前記第1モード情報が、前記第2オブジェクトの移動が前記ユーザ190により制御される状態ではないことを示す場合、前記仮想カメラのロール軸を前記調整軸として特定し、前記第2オブジェクトの実際の動きに応じた大きさよりも小さくなるように、前記ロール軸周りの前記動き量を決定する、
項目3または4の情報処理方法。
項目4または項目5の情報処理方法では、自らの意思で乗り物オブジェクトを移動させていないユーザの視界画像を定義する仮想カメラ1について、ヨー軸周りまたはロール軸周りの動き量を低減することができる。これにより、乗り物オブジェクトの移動によってVR酔いを起こし易いユーザのVR酔いを効果的に抑制し得る。
(項目6)
前記第2オブジェクトの前記物理的属性は、前記第2オブジェクトの移動シーンを示す第2モード情報を含む、
項目1〜5のいずれかの情報処理方法。
この情報処理方法によれば、特定の移動シーン(例えば、飛行機の離着陸時等)に基づいて、調整軸を適切に特定し得る。
(項目7)
前記第2オブジェクトの動きに応じた前記仮想カメラ1の予め定められた方向における移動量を、前記第2オブジェクトの前記物理的属性に基づいて決定するステップをさらに含む、
項目1〜6のいずれかの情報処理方法。
この情報処理方法によれば、仮想カメラ1の調整軸周りの回転移動だけでなく、予め定められた方向に沿った移動量についても適切に調整することが可能となる。
(項目8)
前記第2オブジェクトの前記物理的属性は、同種の前記第2オブジェクト間の個体差に応じたパラメータを含み、
前記移動量は、前記パラメータに基づいて決定される、
項目7の情報処理方法。
この情報処理方法によれば、同種の第2オブジェクト間の個体差に応じたパラメータに基づいて予め定められた方向に沿った移動量を決定することにより、複数の第2オブジェクト間の性能差等をユーザに実感させることができる。これにより、第2オブジェクトを用いた仮想体験のエンタテイメント性を向上させ得る。
(項目9)
項目1〜8のいずれかの情報処理方法をコンピュータに実行させる、プログラム。
(項目10)
少なくともメモリと、前記メモリに結合されたプロセッサとを備え、前記プロセッサの制御により項目1〜8のいずれかの情報処理方法を実行する、装置。