JP6978240B2 - 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム - Google Patents

情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム Download PDF

Info

Publication number
JP6978240B2
JP6978240B2 JP2017136323A JP2017136323A JP6978240B2 JP 6978240 B2 JP6978240 B2 JP 6978240B2 JP 2017136323 A JP2017136323 A JP 2017136323A JP 2017136323 A JP2017136323 A JP 2017136323A JP 6978240 B2 JP6978240 B2 JP 6978240B2
Authority
JP
Japan
Prior art keywords
virtual space
user
field
view image
processor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017136323A
Other languages
English (en)
Other versions
JP2019020832A (ja
Inventor
集平 寺畑
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Colopl Inc
Original Assignee
Colopl Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Colopl Inc filed Critical Colopl Inc
Priority to JP2017136323A priority Critical patent/JP6978240B2/ja
Publication of JP2019020832A publication Critical patent/JP2019020832A/ja
Application granted granted Critical
Publication of JP6978240B2 publication Critical patent/JP6978240B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本開示は、情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラムに関する。
特許文献1は、ユーザの身体の一部の動きに応じて操作オブジェクトを移動させるステップを含む情報処理方法を開示している。
特許第6118444号明細書
操作オブジェクトだけでなく他のオブジェクトも登場し得る仮想空間では、ユーザ操作により制御されるこれらのオブジェクトの演出が当該仮想空間のエンタテイメント性に影響し得る。
そこで、本開示は、仮想空間における仮想体験のエンタテイメント性を向上させ得る情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラムを提供することを目的とする。
本開示が示す一態様によれば、表示部を備えるヘッドマウントデバイスを介してユーザに仮想空間を提供するためにコンピュータによって実行される情報処理方法が提供される。この情報処理方法は、ユーザに関連付けられた第1オブジェクトと、該第1オブジェクトは異なる第2オブジェクトとを含む仮想空間を規定する仮想空間データを生成するステップと、ユーザにより入力された操作情報に基づいて、第1オブジェクトの第1動作を示す第1動作情報と、第2オブジェクトの動作でありかつ該第1動作の複製である第2動作を示す第2動作情報とを生成するステップと、第1動作情報を用いて第1オブジェクトの動作を更新すると共に、第2動作情報を用いて第2オブジェクトの動作を更新するステップと、仮想空間データと、更新された第1オブジェクトの動作と、更新された第2オブジェクトの動作とに基づいて視界画像を生成し、表示部に該視界画像を表示させるステップとを含む。
本開示によれば、仮想空間における仮想体験のエンタテイメント性を向上させ得る情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラムを提供することができる。
ある実施の形態に従うHMDシステム100の構成の概略を表す図である。 一局面に従うコンピュータ200のハードウェア構成の一例を表すブロック図である。 ある実施の形態に従うHMD装置110に設定されるuvw視野座標系を概念的に表す図である。 ある実施の形態に従う仮想空間2を表現する一態様を概念的に表す図である。 ある実施の形態に従うHMD装置110を装着するユーザ190の頭部を上から表した図である。 仮想空間2において視界領域23をX方向から見たYZ断面を表す図である。 仮想空間2において視界領域23をY方向から見たXZ断面を表す図である。 ある実施の形態に従うコントローラ160の概略構成を表す図である。 ある実施の形態に従うコンピュータ200をモジュール構成として表すブロック図である。 ある実施の形態に従うHMDシステム100Aが実行する処理を表すシーケンス図である。 ある実施の形態に従う仮想空間2の一例を模式的に表す図である。 ある実施の形態に従う動作のミラーリングを表すフローチャートである。 ある実施の形態に従う仮想空間2および視界画像300の経時的変化の一例を表す図である。 ある実施の形態に従う仮想空間2および視界画像300の経時的変化の一例を表す図である。 図13および図14に対応する仮想オブジェクトの制御の一例を表すフローチャートである。 ある実施の形態に従う仮想空間2および視界画像300の経時的変化の別の例を表す図である。 ある実施の形態に従う仮想空間2および視界画像300の経時的変化の別の例を表す図である。 図16および図17に対応する仮想オブジェクトの制御の一例を表すフローチャートである。 動作の複製に関する様々な例を表す図である。
以下、図面を参照しつつ、本開示の実施の形態について説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。
[HMDシステムの構成]
図1を参照して、HMD(Head Mount Device)システム100の構成について説明する。図1は、ある実施の形態に従うHMDシステム100の構成の概略を表す図である。ある局面において、HMDシステム100は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。
HMDシステム100は、HMD装置110(ユーザ端末)と、HMDセンサ120と、コントローラ160と、コンピュータ200とを備える。HMD装置110は、ディスプレイ112と、カメラ116と、マイク118と、注視センサ140とを含む。コントローラ160は、モーションセンサ130を含み得る。
ある局面において、コンピュータ200は、インターネットその他のネットワーク19に接続可能であり、ネットワーク19に接続されているサーバ150その他のコンピュータと通信可能である。別の局面において、HMD装置110は、HMDセンサ120の代わりに、センサ114を含み得る。
HMD装置110は、ユーザの頭部に装着され、動作中に仮想空間をユーザに提供し得る。より具体的には、HMD装置110は、右目用の画像および左目用の画像をディスプレイ112にそれぞれ表示する。ユーザの各目がそれぞれの画像を視認した場合には、ユーザは、両目の視差に基づき当該画像を3次元の画像として認識し得る。
ディスプレイ112は、例えば、非透過型の表示装置として実現される。ある局面において、ディスプレイ112は、ユーザの両目の前方に位置するようにHMD装置110の本体に配置されている。したがって、ユーザは、ディスプレイ112に表示される3次元画像を視認することで仮想空間に没入することができる。ある実施の形態において、仮想空間は、例えば、背景、ユーザが操作可能なオブジェクト、およびユーザが選択可能なメニューの画像等を含む。ある実施の形態において、ディスプレイ112は、所謂スマートフォンその他の情報表示端末が備える液晶ディスプレイまたは有機EL(Electro-Luminescence)ディスプレイとして実現され得る。ディスプレイ112は、HMD装置110の本体と一体に構成されてもよいし、別体として構成されてもよい。
ある局面において、ディスプレイ112は、右目用の画像を表示するためのサブディスプレイと、左目用の画像を表示するためのサブディスプレイとを含み得る。別の局面において、ディスプレイ112は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、ディスプレイ112は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。
カメラ116は、HMD装置110を装着するユーザの顔画像を取得する。カメラ116によって取得された顔画像は、画像解析処理によってユーザの表情を検知するために使用され得る。カメラ116は、例えば、瞳の動き、まぶたの開閉、および眉毛の動き等を検知するために、HMD装置110本体に内蔵された赤外線カメラであってもよい。あるいは、カメラ116は、ユーザの口、頬、および顎等の動きを検知するために、図1に示されるようにHMD装置110の外側に配置された外付けカメラであってもよい。また、カメラ116は、上述した赤外線カメラおよび外付けカメラの両方によって構成されてもよい。
マイク118は、ユーザが発した音声を取得する。マイク118によって取得された音声は、音声解析処理によってユーザの感情を検知するために使用され得る。当該音声は、仮想空間2に対して、音声による指示を与えるためにも使用され得る。また、当該音声は、ネットワーク19およびサーバ150等を介して、他のユーザが使用するHMDシステムに送られ、当該HMDシステムに接続されたスピーカ等から出力されてもよい。これにより、仮想空間を共有するユーザ間での会話(チャット)が実現される。
HMDセンサ120は、複数の光源(図示しない)を含む。各光源は例えば、赤外線を発するLED(Light Emitting Diode)により実現される。HMDセンサ120は、HMD装置110の動きを検出するためのポジショントラッキング機能を有する。HMDセンサ120は、この機能を用いて、現実空間内におけるHMD装置110の位置および傾きを検出する。
なお、別の局面において、HMDセンサ120は、カメラにより実現されてもよい。この場合、HMDセンサ120は、カメラから出力されるHMD装置110の画像情報を用いて、画像解析処理を実行することにより、HMD装置110の位置および傾きを検出することができる。
別の局面において、HMD装置110は、位置検出器として、HMDセンサ120の代わりに、センサ114を備えてもよい。HMD装置110は、センサ114を用いて、HMD装置110自身の位置および傾きを検出し得る。例えば、センサ114が角速度センサ、地磁気センサ、加速度センサ、あるいはジャイロセンサ等である場合、HMD装置110は、HMDセンサ120の代わりに、これらの各センサのいずれかを用いて、自身の位置および傾きを検出し得る。一例として、センサ114が角速度センサである場合、角速度センサは、現実空間におけるHMD装置110の3軸周りの角速度を経時的に検出する。HMD装置110は、各角速度に基づいて、HMD装置110の3軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、HMD装置110の傾きを算出する。また、HMD装置110は、透過型表示装置を備えていてもよい。この場合、当該透過型表示装置は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可能であってもよい。また、視界画像は仮想空間を構成する画像の一部に、現実空間を提示する構成を含んでいてもよい。例えば、HMD装置110に搭載されたカメラで撮影した画像を視界画像の一部に重畳して表示させてもよいし、当該透過型表示装置の一部の透過率を高く設定することにより、視界画像の一部から現実空間を視認可能にしてもよい。
注視センサ140は、ユーザ190の右目および左目の視線が向けられる方向(視線方向)を検出する。当該方向の検出は、例えば、公知のアイトラッキング機能によって実現される。注視センサ140は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ140は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ140は、例えば、ユーザ190の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ140は、検出した各回転角に基づいて、ユーザ190の視線方向を検知することができる。
サーバ150は、コンピュータ200にプログラムを送信し得る。別の局面において、サーバ150は、他のユーザによって使用されるHMD装置に仮想現実を提供するための他のコンピュータ200と通信し得る。例えば、アミューズメント施設において、複数のユーザが参加型のゲームを行う場合、各コンピュータ200は、各ユーザの動作に基づく信号を他のコンピュータ200と通信して、同じ仮想空間において複数のユーザが共通のゲームを楽しむことを可能にする。サーバ150は、一または複数のコンピュータ装置により構成され得る。サーバ150は、後述するコンピュータ200のハードウェア構成と同様のハードウェア構成(プロセッサ、メモリ、ストレージ等)を備え得る。
コントローラ160は、ユーザ190からコンピュータ200への命令の入力を受け付ける。ある局面において、コントローラ160は、ユーザ190によって把持可能に構成される。別の局面において、コントローラ160は、ユーザ190の身体あるいは衣類の一部に装着可能に構成される。別の局面において、コントローラ160は、コンピュータ200から送られる信号に基づいて、振動、音、光のうちの少なくともいずれかを出力するように構成されてもよい。別の局面において、コントローラ160は、仮想空間に配置されるオブジェクトの位置および動き等を制御するためにユーザ190によって与えられる操作を受け付ける。
モーションセンサ130は、ある局面において、ユーザの手に取り付けられて、ユーザの手の動きを検出する。例えば、モーションセンサ130は、手の回転速度、回転数等を検出する。検出された信号は、コンピュータ200に送られる。モーションセンサ130は、例えば、手袋型のコントローラ160に設けられている。ある実施の形態において、現実空間における安全のため、コントローラ160は、手袋型のようにユーザ190の手に装着されることにより容易に飛んで行かないものに装着されるのが望ましい。別の局面において、ユーザ190に装着されないセンサがユーザ190の手の動きを検出してもよい。例えば、ユーザ190を撮影するカメラの信号が、ユーザ190の動作を表す信号として、コンピュータ200に入力されてもよい。モーションセンサ130とコンピュータ200とは、有線により、または無線により互いに接続される。無線の場合、通信形態は特に限られず、例えば、Bluetooth(登録商標)その他の公知の通信手法が用いられる。
[ハードウェア構成]
図2を参照して、本実施の形態に係るコンピュータ200について説明する。図2は、一局面に従うコンピュータ200のハードウェア構成の一例を表すブロック図である。コンピュータ200は、主たる構成要素として、プロセッサ10と、メモリ11と、ストレージ12と、入出力インターフェース13と、通信インターフェース14とを備える。各構成要素は、それぞれ、バス15に接続されている。
プロセッサ10は、コンピュータ200に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ11またはストレージ12に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ10は、CPU(Central Processing Unit)、MPU(Micro Processor Unit)、FPGA(Field-Programmable Gate Array)その他のデバイスとして実現される。
メモリ11は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ12からロードされる。メモリ11に保存されるデータは、コンピュータ200に入力されたデータと、プロセッサ10によって生成されたデータとを含む。ある局面において、メモリ11は、RAM(Random Access Memory)その他の揮発性メモリとして実現される。
ストレージ12は、プログラムおよびデータを永続的に保持する。ストレージ12は、例えば、ROM(Read-Only Memory)、ハードディスク装置、フラッシュメモリ、その他の不揮発性記憶装置として実現される。ストレージ12に格納されるプログラムは、HMDシステム100において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、および他のコンピュータ200との通信を実現するためのプログラム等を含む。ストレージ12に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含む。
なお、別の局面において、ストレージ12は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、コンピュータ200に内蔵されたストレージ12の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のHMDシステム100が使用される場面において、プログラムおよびデータ等の更新を一括して行うことが可能になる。
ある実施の形態において、入出力インターフェース13は、HMD装置110、HMDセンサ120またはモーションセンサ130との間で信号を通信する。ある局面において、入出力インターフェース13は、USB(Universal Serial Bus)インターフェース、DVI(Digital Visual Interface)、HDMI(登録商標)(High-Definition Multimedia Interface)その他の端子を用いて実現される。なお、入出力インターフェース13は上述のものに限られない。例えば、入出力インターフェース13は、Bluetooth(登録商標)等の無線通信インターフェースを含み得る。
ある実施の形態において、入出力インターフェース13は、さらに、コントローラ160と通信し得る。例えば、入出力インターフェース13は、モーションセンサ130から出力された信号の入力を受ける。別の局面において、入出力インターフェース13は、プロセッサ10から出力された命令を、コントローラ160に送る。当該命令は、振動、音声出力、発光等をコントローラ160に指示する。コントローラ160は、当該命令を受信した場合に、その命令に応じて、振動、音声出力または発光のいずれかを実行する。
通信インターフェース14は、ネットワーク19に接続されて、ネットワーク19に接続されている他のコンピュータ(例えば、サーバ150)と通信する。ある局面において、通信インターフェース14は、例えば、LAN(Local Area Network)その他の有線通信インターフェース、あるいは、WiFi(Wireless Fidelity)、Bluetooth(登録商標)、NFC(Near Field Communication)その他の無線通信インターフェースとして実現される。なお、通信インターフェース14は上述のものに限られない。
ある局面において、プロセッサ10は、ストレージ12にアクセスし、ストレージ12に格納されている1つ以上のプログラムをメモリ11にロードし、当該プログラムに含まれる一連の命令を実行する。当該1つ以上のプログラムは、コンピュータ200のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、コントローラ160を用いて仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ10は、入出力インターフェース13を介して、仮想空間を提供するための信号をHMD装置110に送る。HMD装置110は、その信号に基づいてディスプレイ112に映像を表示する。
サーバ150は、ネットワーク19を介して少なくとも一つのHMDシステム100の各々の制御装置と接続される。図2に示される例では、サーバ150は、HMD装置110Aを有するHMDシステム100Aと、HMD装置110Bを有するHMDシステム100Bと、HMD装置110Cを有するHMDシステム100Cとを含む複数のHMDシステム100を互いに通信可能に接続する。これにより、共通の仮想空間を用いた仮想体験が各HMDシステムを使用するユーザに提供される。なお、HMDシステム100A、HMDシステム100B、HMDシステム100C、およびその他のHMDシステム100は、いずれも同様の構成を備える。ただし、各HMDシステム100は、互いに異なる機種であってもよいし、互いに異なる性能(処理性能、およびユーザ動作の検知に関する検知性能等)を有してもよい。
なお、図2に示される例では、コンピュータ200がHMD装置110の外部に設けられる構成が示されているが、別の局面において、コンピュータ200は、HMD装置110に内蔵されてもよい。一例として、ディスプレイ112を含む携帯型の情報通信端末(例えば、スマートフォン)がコンピュータ200として機能してもよい。
また、コンピュータ200は、複数のHMD装置110に共通して用いられる構成であってもよい。このような構成によれば、例えば、複数のユーザに同一の仮想空間を提供することもできるので、各ユーザは同一の仮想空間で他のユーザと同一のアプリケーションを楽しむことができる。なお、このような場合、本実施形態における複数のHMDシステム100は、入出力インターフェース13により、コンピュータ200に直接接続されてもよい。また、本実施形態におけるサーバ150の各機能(例えば後述する同期処理等)は、コンピュータ200に実装されてもよい。
ある実施の形態において、HMDシステム100では、グローバル座標系が予め設定されている。グローバル座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、ならびに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、3つの基準方向(軸)を有する。本実施の形態では、グローバル座標系は視点座標系の一つである。そこで、グローバル座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれ、x軸、y軸、z軸と規定される。より具体的には、グローバル座標系において、x軸は現実空間の水平方向に平行である。y軸は、現実空間の鉛直方向に平行である。z軸は現実空間の前後方向に平行である。
ある局面において、HMDセンサ120は、赤外線センサを含む。赤外線センサが、HMD装置110の各光源から発せられた赤外線をそれぞれ検出することで、HMD装置110の存在を検出する。HMDセンサ120は、さらに、各点の値(グローバル座標系における各座標値)に基づいて、HMD装置110を装着したユーザ190の動きに応じた、現実空間内におけるHMD装置110の位置および傾きを検出する。より詳しくは、HMDセンサ120は、経時的に検出された各値を用いて、HMD装置110の位置および傾きの時間的変化を検出できる。
グローバル座標系は現実空間の座標系と平行である。したがって、HMDセンサ120によって検出されたHMD装置110の各傾きは、グローバル座標系におけるHMD装置110の3軸周りの各傾きに相当する。HMDセンサ120は、グローバル座標系におけるHMD装置110の傾きに基づき、uvw視野座標系をHMD装置110に設定する。HMD装置110に設定されるuvw視野座標系は、HMD装置110を装着したユーザ190が仮想空間において物体を見る際の視点座標系に対応する。
[uvw視野座標系]
図3を参照して、uvw視野座標系について説明する。図3は、ある実施の形態に従うHMD装置110に設定されるuvw視野座標系を概念的に表す図である。HMDセンサ120は、HMD装置110の起動時に、グローバル座標系におけるHMD装置110の位置および傾きを検出する。プロセッサ10は、検出された値に基づいて、uvw視野座標系をHMD装置110に設定する。
図3に示されるように、HMD装置110は、HMD装置110を装着したユーザの頭部を中心(原点)とした3次元のuvw視野座標系を設定する。より具体的には、HMD装置110は、グローバル座標系を規定する水平方向、鉛直方向、および前後方向(x軸、y軸、z軸)を、グローバル座標系内においてHMD装置110の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる3つの方向を、HMD装置110におけるuvw視野座標系のピッチ方向(u軸)、ヨー方向(v軸)、およびロール方向(w軸)として設定する。
ある局面において、HMD装置110を装着したユーザ190が直立し、かつ、正面を視認している場合、プロセッサ10は、グローバル座標系に平行なuvw視野座標系をHMD装置110に設定する。この場合、グローバル座標系における水平方向(x軸)、鉛直方向(y軸)、および前後方向(z軸)は、HMD装置110におけるuvw視野座標系のピッチ方向(u軸)、ヨー方向(v軸)、およびロール方向(w軸)に一致する。
uvw視野座標系がHMD装置110に設定された後、HMDセンサ120は、HMD装置110の動きに基づいて、設定されたuvw視野座標系におけるHMD装置110の傾き(傾きの変化量)を検出できる。この場合、HMDセンサ120は、HMD装置110の傾きとして、uvw視野座標系におけるHMD装置110のピッチ角(θu)、ヨー角(θv)、およびロール角(θw)をそれぞれ検出する。ピッチ角(θu)は、uvw視野座標系におけるピッチ方向周りのHMD装置110の傾き角度を表す。ヨー角(θv)は、uvw視野座標系におけるヨー方向周りのHMD装置110の傾き角度を表す。ロール角(θw)は、uvw視野座標系におけるロール方向周りのHMD装置110の傾き角度を表す。
HMDセンサ120は、検出されたHMD装置110の傾き角度に基づいて、HMD装置110が動いた後のHMD装置110におけるuvw視野座標系を、HMD装置110に設定する。HMD装置110と、HMD装置110のuvw視野座標系との関係は、HMD装置110の位置および傾きに関わらず、常に一定である。HMD装置110の位置および傾きが変わった場合には、当該位置および傾きの変化に連動して、グローバル座標系におけるHMD装置110のuvw視野座標系の位置および傾きが変化する。
ある局面において、HMDセンサ120は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係(例えば、各点間の距離など)に基づいて、HMD装置110の現実空間内における位置を、HMDセンサ120に対する相対位置として特定してもよい。また、プロセッサ10は、特定された相対位置に基づいて、現実空間内(グローバル座標系)におけるHMD装置110のuvw視野座標系の原点を決定してもよい。
[仮想空間]
図4を参照して、仮想空間についてさらに説明する。図4は、ある実施の形態に従う仮想空間2を表現する一態様を概念的に表す図である。仮想空間2は、中心21の360度方向の全体を覆う全天球状の構造を有する。図4では、説明を複雑にしないために、仮想空間2のうちの上半分の天球が例示されている。仮想空間2では各メッシュが規定される。各メッシュの位置は、仮想空間2に規定されるXYZ座標系における座標値として予め規定されている。コンピュータ200は、仮想空間2に展開可能なコンテンツ(静止画、動画等)を構成する各部分画像を、仮想空間2において対応する各メッシュにそれぞれ対応付けて、ユーザによって視認可能な仮想空間画像22が展開される仮想空間2をユーザに提供する。
ある局面において、仮想空間2では、中心21を原点とするXYZ座標系が規定される。XYZ座標系は、例えば、グローバル座標系に平行である。XYZ座標系は視点座標系の一種であるため、XYZ座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれX軸、Y軸、Z軸として規定される。したがって、XYZ座標系のX軸(水平方向)がグローバル座標系のx軸と平行であり、XYZ座標系のY軸(鉛直方向)がグローバル座標系のy軸と平行であり、XYZ座標系のZ軸(前後方向)がグローバル座標系のz軸と平行である。仮想空間2内の各位置は、XYZ座標系における座標値によって一意に特定される。
HMD装置110の起動時、すなわちHMD装置110の初期状態において、仮想カメラ1は、例えば仮想空間2の中心21に配置される。仮想カメラ1は、現実空間におけるHMD装置110の動きに連動して、仮想空間2を同様に移動する。これにより、現実空間におけるHMD装置110の位置および傾きの変化が、仮想空間2において同様に再現される。
仮想カメラ1には、HMD装置110の場合と同様に、uvw視野座標系が規定される。仮想空間2における仮想カメラ1のuvw視野座標系は、現実空間(グローバル座標系)におけるHMD装置110のuvw視野座標系に連動するように規定されている。したがって、HMD装置110の傾きが変化した場合には、その変化に応じて、仮想カメラ1の傾きも変化する。また、仮想カメラ1は、HMD装置110を装着したユーザの現実空間における移動に連動して、仮想空間2において移動することもできる。
仮想カメラ1の向きは、仮想カメラ1の位置および傾きに応じて決まるので、ユーザが仮想空間画像22を視認する際に基準となる視線(基準視線5)は、仮想カメラ1の向きに応じて決まる。コンピュータ200のプロセッサ10は、基準視線5に基づいて、仮想空間2における視界領域23を規定する。視界領域23は、仮想空間2のうち、HMD装置110を装着したユーザの視界に対応する。
注視センサ140によって検出されるユーザ190の視線方向は、ユーザ190が物体を視認する際の視点座標系における方向である。HMD装置110のuvw視野座標系は、ユーザ190がディスプレイ112を視認する際の視点座標系に等しい。また、仮想カメラ1のuvw視野座標系は、HMD装置110のuvw視野座標系に連動している。したがって、ある局面に従うHMDシステム100は、注視センサ140によって検出されたユーザ190の視線方向を、仮想カメラ1のuvw視野座標系におけるユーザの視線方向とみなすことができる。
[ユーザの視線]
図5を参照して、ユーザの視線方向の決定について説明する。図5は、ある実施の形態に従うHMD装置110を装着するユーザ190の頭部を上から表した図である。
ある局面において、注視センサ140は、ユーザ190の右目および左目の各視線を検出する。ある局面において、ユーザ190が近くを見ている場合、注視センサ140は、視線R1およびL1を検出する。別の局面において、ユーザ190が遠くを見ている場合、注視センサ140は、視線R2およびL2を検出する。この場合、ロール方向wに対して視線R2およびL2がなす角度は、ロール方向wに対して視線R1およびL1がなす角度よりも小さい。注視センサ140は、検出結果をコンピュータ200に送信する。
コンピュータ200が、視線の検出結果として、視線R1およびL1の検出値を注視センサ140から受信した場合には、その検出値に基づいて、視線R1およびL1の交点である注視点N1を特定する。一方、コンピュータ200は、視線R2およびL2の検出値を注視センサ140から受信した場合には、視線R2およびL2の交点を注視点として特定する。コンピュータ200は、特定した注視点N1の位置に基づき、ユーザ190の視線方向N0を特定する。コンピュータ200は、例えば、ユーザ190の右目Rと左目Lとを結ぶ直線の中点と、注視点N1とを通る直線の延びる方向を、視線方向N0として検出する。視線方向N0は、ユーザ190が両目により実際に視線を向けている方向である。また、視線方向N0は、視界領域23に対してユーザ190が実際に視線を向けている方向に相当する。
また、別の局面において、HMDシステム100は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、HMDシステム100は、仮想空間2においてテレビ番組を表示することができる。
さらに別の局面において、HMDシステム100は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。
[視界領域]
図6および図7を参照して、視界領域23について説明する。図6は、仮想空間2において視界領域23をX方向から見たYZ断面を表す図である。図7は、仮想空間2において視界領域23をY方向から見たXZ断面を表す図である。
図6に示されるように、YZ断面における視界領域23は、領域24を含む。領域24は、仮想カメラ1の基準視線5と仮想空間2のYZ断面とによって定義される。プロセッサ10は、仮想空間2における基準視線5を中心として極角αを含む範囲を、領域24として規定する。
図7に示されるように、XZ断面における視界領域23は、領域25を含む。領域25は、基準視線5と仮想空間2のXZ断面とによって定義される。プロセッサ10は、仮想空間2における基準視線5を中心とした方位角βを含む範囲を、領域25として規定する。
ある局面において、HMDシステム100は、コンピュータ200からの信号に基づいて、視界画像をディスプレイ112に表示させることにより、ユーザ190に仮想空間を提供する。視界画像は、仮想空間画像22のうち視界領域23に重畳する部分に相当する。視界領域23内において仮想カメラ1と仮想空間画像22との間に後述する仮想オブジェクトが配置されている場合、視界画像には当該仮想オブジェクトが含まれる。すなわち、視界画像において、仮想空間画像22よりも手前側にある仮想オブジェクトが仮想空間画像22に重畳して表示される。ユーザ190が、頭に装着したHMD装置110を動かした場合には、その動きに連動して仮想カメラ1も動く。その結果、仮想空間2における視界領域23の位置が変化する。これにより、ディスプレイ112に表示される視界画像は、仮想空間画像22のうち、仮想空間2においてユーザが向いた方向の視界領域23に重畳する画像に更新される。ユーザは、仮想空間2における所望の方向を視認することができる。
ユーザ190は、HMD装置110を装着している間、現実世界を視認することなく、仮想空間2に展開される仮想空間画像22のみを視認できる。そのため、HMDシステム100は、仮想空間2への高い没入感覚をユーザに与えることができる。
ある局面において、プロセッサ10は、HMD装置110を装着したユーザ190の現実空間における移動に連動して、仮想空間2において仮想カメラ1を移動し得る。この場合、プロセッサ10は、仮想空間2における仮想カメラ1の位置および傾きに基づいて、HMD装置110のディスプレイ112に投影される画像領域(すなわち、仮想空間2における視界領域23)を特定する。すなわち、仮想カメラ1によって、仮想空間2におけるユーザ190の視野(視界)が定義される。
ある実施の形態において、仮想カメラ1は、二つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含むことが望ましい。また、ユーザ190が3次元の仮想空間2を認識できるように、適切な視差が、二つの仮想カメラに設定されていることが好ましい。本実施の形態においては、仮想カメラ1が二つの仮想カメラを含み、二つの仮想カメラのロール方向が合成されることによって生成されるロール方向(w)がHMD装置110のロール方向(w)に適合されるように構成されているものとして、本開示に係る技術思想を例示する。
[コントローラ]
図8を参照して、コントローラ160の一例について説明する。図8は、ある実施の形態に従うコントローラ160の概略構成を表す図である。
図8の状態(A)に示されるように、ある局面において、コントローラ160は、右コントローラ160Rと左コントローラ(図示しない)とを含み得る。右コントローラ160Rは、ユーザ190の右手で操作される。左コントローラは、ユーザ190の左手で操作される。ある局面において、右コントローラ160Rと左コントローラとは、別個の装置として対称に構成される。したがって、ユーザ190は、右コントローラ160Rを把持した右手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。別の局面において、コントローラ160は両手の操作を受け付ける一体型のコントローラであってもよい。以下、右コントローラ160Rについて説明する。
右コントローラ160Rは、グリップ30と、フレーム31と、天面32とを備える。グリップ30は、ユーザ190の右手によって把持されるように構成されている。例えば、グリップ30は、ユーザ190の右手の掌と3本の指(中指、薬指、小指)とによって保持され得る。
グリップ30は、ボタン33,34と、モーションセンサ130とを含む。ボタン33は、グリップ30の側面に配置され、右手の中指による操作を受け付ける。ボタン34は、グリップ30の前面に配置され、右手の人差し指による操作を受け付ける。ある局面において、ボタン33,34は、トリガー式のボタンとして構成される。モーションセンサ130は、グリップ30の筐体に内蔵されている。なお、ユーザ190の動作がカメラその他の装置によってユーザ190の周りから検出可能である場合には、グリップ30は、モーションセンサ130を備えなくてもよい。
フレーム31は、その円周方向に沿って配置された複数の赤外線LED35を含む。赤外線LED35は、コントローラ160を使用するプログラムの実行中に、当該プログラムの進行に合わせて赤外線を発光する。赤外線LED35から発せられた赤外線は、右コントローラ160Rと左コントローラとの各位置および姿勢(傾き、向き)等を検出するために使用され得る。図8に示される例では、二列に配置された赤外線LED35が示されているが、配列の数は図8に示されるものに限られない。一列あるいは3列以上の配列が使用されてもよい。
天面32は、ボタン36,37と、アナログスティック38とを備える。ボタン36,37は、プッシュ式ボタンとして構成される。ボタン36,37は、ユーザ190の右手の親指による操作を受け付ける。アナログスティック38は、ある局面において、初期位置(ニュートラルの位置)から360度任意の方向への操作を受け付ける。当該操作は、例えば、仮想空間2に配置されるオブジェクトを移動させるための操作を含む。
ある局面において、右コントローラ160Rおよび左コントローラは、赤外線LED35その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型等を含むが、これらに限定されない。別の局面において、右コントローラ160Rおよび左コントローラは、例えば、コンピュータ200のUSBインターフェースに接続され得る。この場合、右コントローラ160Rおよび左コントローラは、電池を必要としない。
図8の状態(A)および状態(B)に示されるように、例えば、ユーザ190の右手810に対して、ヨー、ロール、ピッチの各方向が規定される。ユーザ190が親指と人差し指とを伸ばした場合に、親指の伸びる方向がヨー方向、人差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定される平面に垂直な方向がピッチ方向として規定される。
[HMD装置の制御装置]
図9を参照して、HMD装置110の制御装置について説明する。ある実施の形態において、制御装置は周知の構成を有するコンピュータ200によって実現される。図9は、ある実施の形態に従うコンピュータ200をモジュール構成として表すブロック図である。
図9に示されるように、コンピュータ200は、表示制御モジュール220と、仮想空間制御モジュール230と、メモリモジュール240と、通信制御モジュール250とを備える。表示制御モジュール220は、サブモジュールとして、仮想カメラ制御モジュール221と、視界領域決定モジュール222と、視界画像生成モジュール223と、基準視線特定モジュール224とを含む。仮想空間制御モジュール230は、サブモジュールとして、仮想空間定義モジュール231と、仮想オブジェクト制御モジュール232とを含む。
ある実施の形態において、表示制御モジュール220と仮想空間制御モジュール230とは、プロセッサ10によって実現される。別の実施の形態において、複数のプロセッサ10が表示制御モジュール220と仮想空間制御モジュール230として作動してもよい。メモリモジュール240は、メモリ11またはストレージ12によって実現される。通信制御モジュール250は、通信インターフェース14によって実現される。
ある局面において、表示制御モジュール220は、HMD装置110のディスプレイ112における画像表示を制御する。仮想カメラ制御モジュール221は、仮想空間2に仮想カメラ1を配置し、仮想カメラ1の挙動、向き等を制御する。視界領域決定モジュール222は、HMD装置110を装着したユーザの頭の向きに応じて、視界領域23を規定する。視界画像生成モジュール223は、決定された視界領域23に基づいて、ディスプレイ112に表示される視界画像を生成する。基準視線特定モジュール224は、注視センサ140からの信号に基づいて、ユーザ190の視線を特定する。
仮想空間制御モジュール230は、ユーザ190に提供される仮想空間2を制御する。仮想空間定義モジュール231は、仮想空間2を表す仮想空間データを生成することにより、HMDシステム100における仮想空間2を規定する。
仮想オブジェクト制御モジュール232は、後述するオブジェクト情報242に基づいて、仮想空間2に配置される仮想的なオブジェクトである仮想オブジェクトを生成する。また、仮想オブジェクト制御モジュール232は、仮想空間2における仮想オブジェクトの動作(移動および状態変化等)も制御する。
仮想オブジェクトは、仮想空間2に配置されるオブジェクト全般である。仮想オブジェクトは、例えば、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、動物等を含み得る。また、仮想オブジェクトは、仮想空間2におけるユーザ190の分身としてのアバターおよびユーザ190により操作されるゲームのキャラクタ(プレイヤキャラクタ)等のキャラクタオブジェクトを含み得る。さらに、仮想オブジェクトは、ユーザが操作可能な対象として予め設定されたオブジェクトである操作オブジェクトも含み得る。操作オブジェクトは、キャラクタオブジェクトの全体(全身)であってもよいし、キャラクタオブジェクトの一部(例えばアバターの手の部分)に相当するオブジェクトであってもよい。あるいは、操作オブジェクトは、アバターまたはキャラクタが持つ道具(例えば武器)に相当するオブジェクトであってもよい。あるいは、操作オブジェクトは、アバターまたはキャラクタから放たれる物体(例えば、ボール等の固形物)に相当するオブジェクトであってもよい。あるいは、操作オブジェクトは、アバターまたはキャラクタが持つ道具から放たれる物体(例えば、銃弾や矢などの固形物)に相当するオブジェクトであってもよい。なお、以下の説明において、誤解が生じない場合には、仮想オブジェクトのことを単に「オブジェクト」と表記する。
仮想空間制御モジュール230は、仮想空間2に配置されるオブジェクトのそれぞれが、他のオブジェクトと衝突した場合に、当該衝突を検出する。仮想空間制御モジュール230は、例えば、あるオブジェクトと別のオブジェクトとが触れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。仮想空間制御モジュール230は、オブジェクトとオブジェクトとが触れている状態から離れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。仮想空間制御モジュール230は、例えばオブジェクト毎に設定されたコリジョンエリアに基づく公知の当たり判定を実行することにより、オブジェクトとオブジェクトとが触れている状態であることを検出することができる。
メモリモジュール240は、コンピュータ200が仮想空間2をユーザ190に提供するために使用されるデータを保持している。ある局面において、メモリモジュール240は、空間情報241と、オブジェクト情報242と、ユーザ情報243とを保持している。空間情報241には、例えば、仮想空間2を提供するために規定された1つ以上のテンプレートが含まれている。オブジェクト情報242には、例えば、仮想空間2において再生されるコンテンツ、当該コンテンツで使用されるオブジェクトを配置するための情報等が含まれている。当該コンテンツは、例えば、ゲーム、現実社会と同様の風景を表したコンテンツ等を含み得る。オブジェクト情報242には、各オブジェクトを描画するための描画情報も含まれている。また、オブジェクト情報242は、各オブジェクトに関連付けられた属性を示す属性情報も含み得る。オブジェクトの属性情報としては、例えば当該オブジェクトの種類(例えばアバター等)を示す情報、およびオブジェクトが可動物(可動オブジェクト)であるか固定物(固定オブジェクト)であるかを示す情報等が挙げられる。ユーザ情報243には、例えば、HMDシステム100の制御装置としてコンピュータ200を機能させるためのプログラム、オブジェクト情報242に保持される各コンテンツを使用するアプリケーションプログラム等が含まれている。
メモリモジュール240に格納されているデータおよびプログラムは、HMD装置110のユーザによって入力される。あるいは、プロセッサ10が、当該コンテンツを提供する事業者が運営するコンピュータ(例えば、サーバ150)からプログラムあるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール240に格納する。
通信制御モジュール250は、ネットワーク19を介して、サーバ150その他の情報通信装置と通信し得る。
ある局面において、表示制御モジュール220および仮想空間制御モジュール230は、例えば、ユニティテクノロジーズ社によって提供されるUnity(登録商標)を用いて実現され得る。別の局面において、表示制御モジュール220および仮想空間制御モジュール230は、各処理を実現する回路素子の組み合わせとしても実現され得る。
コンピュータ200における処理は、ハードウェアと、プロセッサ10により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール240に予め格納されている場合がある。また、ソフトウェアは、CD−ROMその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール250を介してサーバ150その他のコンピュータからダウンロードされた後、メモリモジュール240に一旦格納される。そのソフトウェアは、プロセッサ10によってメモリモジュール240から読み出され、実行可能なプログラムの形式でRAMに格納される。プロセッサ10は、そのプログラムを実行する。
図9に示されるコンピュータ200を構成するハードウェアは、一般的なものである。したがって、本実施の形態に係る最も本質的な部分は、コンピュータ200に格納されたプログラムであるともいえる。なお、コンピュータ200のハードウェアの動作は周知であるので、詳細な説明は繰り返さない。
なお、データ記録媒体としては、CD−ROM、FD(Flexible Disk)、ハードディスクに限られず、磁気テープ、カセットテープ、光ディスク(MO(Magnetic Optical Disc)/MD(Mini Disc)/DVD(Digital Versatile Disc))、IC(Integrated Circuit)カード(メモリカードを含む)、光カード、マスクROM、EPROM(Erasable Programmable Read-Only Memory)、EEPROM(Electrically Erasable Programmable Read-Only Memory)、フラッシュROMなどの半導体メモリ等の固定的にプログラムを担持する不揮発性のデータ記録媒体でもよい。
ここでいうプログラムとは、プロセッサ10により直接実行可能なプログラムだけでなく、ソースプログラム形式のプログラム、圧縮処理されたプログラム、暗号化されたプログラム等を含み得る。
[制御構造]
図10を参照して、本実施の形態に係るコンピュータ200の制御構造について説明する。図10は、ユーザ190Aによって使用されるHMDシステム100Aがユーザ190Aに仮想空間2を提供するために実行する処理を表すシーケンス図である。複数のHMDシステム100が存在する場合には、他のHMDシステム100B,100Cにおいても、同様の処理が実行される。
ステップS1において、コンピュータ200のプロセッサ10は、仮想空間定義モジュール231として、仮想空間2の背景を構成する仮想空間画像データ(仮想空間画像22)を特定し、仮想空間2を定義する。プロセッサ10は、その仮想空間2を規定する仮想空間データを生成する。
ステップS2において、プロセッサ10は、仮想カメラ制御モジュール221として、仮想カメラ1を初期化する。例えば、プロセッサ10は、メモリのワーク領域において、仮想カメラ1を仮想空間2において予め規定された中心点に配置し、仮想カメラ1の視線をユーザ190が向いている方向に向ける。
ステップS3において、プロセッサ10は、視界画像生成モジュール223として、初期の視界画像を表示するための視界画像データを生成する。プロセッサ10は、少なくとも仮想空間データに基づいて視界画像データを生成する。生成された視界画像データは、視界画像生成モジュール223を介して通信制御モジュール250によってHMD装置110に送られる。
ステップS4において、HMD装置110のディスプレイ112は、コンピュータ200から受信した信号に基づいて、視界画像を表示する。HMD装置110Aを装着したユーザ190Aは、視界画像を視認すると仮想空間2を認識し得る。
ステップS5において、HMDセンサ120は、HMD装置110から発信される複数の赤外線光に基づいて、HMD装置110の位置および傾きを検知する。検知結果は、動き検知データとして、コンピュータ200に送られる。
ステップS6において、プロセッサ10は、視界領域決定モジュール222として、HMD装置110Aの位置と傾きとに基づいて、HMD装置110Aを装着したユーザ190Aの視界方向(すなわち、仮想カメラ1の位置および傾き)を特定する。プロセッサ10は、アプリケーションプログラムを実行し、アプリケーションプログラムに含まれる命令に基づいて、仮想空間2にオブジェクトを配置する。
ステップS7において、コントローラ160は、現実空間におけるユーザ190Aの操作を検出する。例えば、ある局面において、コントローラ160は、ユーザ190Aによってボタンが押下されたことを検出する。別の局面において、コントローラ160は、ユーザ190Aの両手の動作(たとえば、両手を振る等)を検出する。検出内容を示す信号は、コンピュータ200に送られる。
ステップS8において、プロセッサ10は、仮想オブジェクト制御モジュール232として、各仮想オブジェクトの動作を制御する。
ステップS9において、プロセッサ10は、視界画像生成モジュール223として、ステップS8の処理結果と仮想空間データとに基づく視界画像を表示するための視界画像データを生成し、生成した視界画像データをHMD装置110に出力する。
ステップS10において、HMD装置110のディスプレイ112は、受信した視界画像データに基づいて視界画像を更新し、更新後の視界画像を表示する。
[動作の複製]
仮想空間2は、ユーザに関連付けられた一つの第1オブジェクトと、該第1オブジェクトとは異なる少なくとも一つの第2オブジェクトとを含む。第1オブジェクトとは、ユーザにより入力された操作情報に基づいて第1動作を行う仮想オブジェクトである。第2オブジェクトとは、その第1動作の複製である第2動作を行う仮想オブジェクトである。仮想空間2では、第1オブジェクトが操作情報(ユーザ操作)に従って動作した場合に、その動作と同じタイミングで、第2オブジェクトがその第1オブジェクトの動きを真似するように動作する。したがって、第1オブジェクトはユーザ操作を直接受けて動作するオブジェクトであるのに対して、第2オブジェクトはユーザ操作に対して第1オブジェクトを介して間接的に動作するオブジェクトである。
動作の複製とは、あるオブジェクトの姿勢と完全にまたは実質的に同じ姿勢を別のオブジェクトに取らせる処理であり、すなわち、動作のミラーリングである。以下では、「完全にまたは実質的に同じ」ことを単に「同じ」という。骨格を構成する個々のボーン(骨)401に外観デザインを適用することでオブジェクトが形成される場合には、該オブジェクトは、隣接する二つのボーンの接続点であるジョイント(関節)を含む。第1オブジェクトおよび第2オブジェクトがボーンおよびジョイントを含む場合には、動作の複製とは、個々のジョイントにおける二つのボーンの成す角度を第1オブジェクトと第2オブジェクトとの間で同じにすることをいう。動作の複製は、第1オブジェクトおよび第2オブジェクトの間で少なくとも姿勢を同じにすれば足り、双方のオブジェクトの間で移動量、位置、または向きを合わせることまで求めるのではない。もちろん、動作の複製は、移動量、位置、および向きの少なくとも一つを第1オブジェクトおよび第2オブジェクトの間で合わせる処理を含んでもよい。
動作のミラーリングにより、仮想空間2におけるユーザ190の仮想体験のエンタテイメント性を向上させることができる。例えば、ユーザ190が直接に操作する第1オブジェクトが人間であり、第2オブジェクトが巨人であれば、ユーザは、第1オブジェクトが自力では越えられない場所を、第2オブジェクトの助けを借りて第1オブジェクトに越えさせることができる。あるいは、ユーザ190は、第1オブジェクトが持ち上げられない物体を第2オブジェクトに持ち上げさせることができる。あるいは、ユーザ190は、第1オブジェクトの動作を、第2オブジェクトを見ることで間接的に知ることができる。第2オブジェクトが小人であれば、ユーザ190は、第1オブジェクトが入れない狭い場所に第2オブジェクトを行かせることができる。例えば、ユーザ190は第2オブジェクトに隠密行動を取らせることができる。
図11は、ある実施の形態に従う仮想空間2を模式的に表す図である。この例では、仮想空間2は、HMD装置110を装着するユーザ190に関連付けられた第1オブジェクト(主人公)311と、第1オブジェクト311の動きを真似するように動作する第2オブジェクト(巨人)312とを含む。状態(A)では、第1オブジェクト311は第2オブジェクト312から離れており、これら二つのオブジェクトは同じ動作を行っている。状態(B)では、第2オブジェクト312が第1オブジェクト311を掌に乗せながら歩いている。この状態(B)でも、第1オブジェクト311および第2オブジェクト312は同じ動作を行っている。より具体的にいうと、操作情報に基づいて第1オブジェクト311が掌に何かを乗せたような姿勢で第2オブジェクト312の掌の上を歩き、第2オブジェクト312がその動きを真似るように動作することで、状態(B)が生じる。このように第1オブジェクトおよび第2オブジェクトの間で移動量を合わせる複製は、例えば、座標系の原点から延びる一つの直線状に第1オブジェクト311および第2オブジェクト312を配置させることで実現することができる。もちろん、他の手法を用いて移動量を合わせる複製を実現してもよい。
図12は、ある実施の形態に従う動作のミラーリングを表すフローチャートである。ステップS21において、HMDシステム100のプロセッサ10(以下単に「プロセッサ10」という)は仮想空間定義モジュール231として機能し、第1オブジェクト(主人公)311と第2オブジェクト(巨人)312とを含む仮想空間2を定義する。この処理は、図10に示すステップS1の処理に対応し得る。具体的には、プロセッサ10は空間情報241、オブジェクト情報242、およびユーザ情報243のうち少なくとも一種類の情報をメモリモジュール240から読み出す。そして、プロセッサ10は読み出した情報に基づいて、仮想空間2を定義する仮想空間データを生成することにより、仮想空間2を規定する。あるいは、プロセッサ10は、コンテンツを提供する事業者が運営するコンピュータ(例えば、サーバ150)から予めダウンロードされたプログラムおよびデータ(仮想空間画像データ、オブジェクトの描画および初期配置等に関する情報)にも基づいて仮想空間データを生成してもよい。
ステップS22において、プロセッサ10は視界画像生成モジュール223として機能し、仮想空間データに基づいて、初期の視界画像を表示するための視界画像データを生成し、この視界画像データをHMD装置110に出力(送信)する。HMD装置110はその視界画像データを処理して視界画像を表示する。この処理は図10でのステップS3,S4に対応し得る。この結果、ユーザ190は、第1オブジェクト311および第2オブジェクト312が描画された視界画像を視認することができる。
ステップS23において、プロセッサ10は仮想オブジェクト制御モジュール232として機能し、操作情報に基づいて、第1オブジェクト311の動作(第1動作)を示す第1動作情報を生成する。プロセッサ10は、HMD装置110およびコントローラ160の少なくとも一方から送られてきた信号を操作情報として取得し、その操作情報を処理することで第1動作情報を生成する。すなわち、プロセッサ10はヘッドトラッキングおよびハンドトラッキングの少なくとも一方に基づいて第1動作情報を生成する。この処理は図10でのステップS5〜S8に対応し得る。
ステップS24において、プロセッサ10は仮想オブジェクト制御モジュール232として機能し、第1動作を複製することで、第2オブジェクト312の動作(第2動作)を示す第2動作情報を生成する。この処理は図10でのステップS8に対応し得る。プロセッサ10は、第1動作情報のコピーをそのまま第2動作情報として用いてもよいし、第1動作情報のコピーで示される移動量または向きを編集することで第2動作情報を生成してもよい。
ステップS25において、プロセッサ10は仮想オブジェクト制御モジュール232として機能し、第1動作情報を用いて第1オブジェクト311の動作を更新すると共に、第2動作情報を用いて第2オブジェクト312の動作を更新する。この処理は図10でのステップS8に対応し得る。仮想オブジェクトの動作の更新とは、仮想空間2における該仮想オブジェクトの動作を示す値を新たな値に変更することであり、より具体的には、仮想オブジェクトの位置および姿勢に関する値を変更することである。プロセッサ10は第1オブジェクト311および第2オブジェクト312の新たな動きを示す動き情報を生成する。
ステップS26において、プロセッサ10は視界画像生成モジュール223として機能し、第1オブジェクト311および第2オブジェクト312についての新たな動作を示す視界画像を出力する。具体的には、プロセッサ10は仮想空間データと、第1オブジェクト311および第2オブジェクト312の新たな動きを示す動き情報とに基づいて視界画像データを生成し、その視界画像データをHMD装置110に出力(送信)する。HMD装置110はその視界画像データを処理して視界画像を更新する。これらの処理は図10でのステップS9,S10に対応し得る。この結果、視界画像内では、第1オブジェクト311がユーザの操作に応じて動き、第2オブジェクト312が第1オブジェクト311の動きを真似するように動作する。
プロセッサ10はHMD装置110およびコントローラ160の少なくとも一方から送られてきた信号(操作情報)の入力に応じてステップS23〜S26の処理を繰り返し実行し得る。
図13および図14は、ある実施の形態に従う仮想空間2および視界画像300の経時的変化の一例を表す図である。これらの2図は、第2オブジェクト312を用いて、第1オブジェクト311が単独では越えられない壁320の向こう側に該第1オブジェクト311を移す場面を示す。この例で示される動作の複製は、第1オブジェクト311および第2オブジェクト312の間で、姿勢だけでなく移動量および向きも合わせる処理である。
視界画像300はHMD装置110上に表示され、ユーザ190は、HMD装置110を装着することで視界画像300を視認できる。この視界画像300は1人称視点における画像であり、仮想空間2内のいずれか一つのキャラクタオブジェクトの視野に対応する。
図13は、第1オブジェクト311が第2オブジェクト312の掌312aに乗るまでの場面の一例を表す。時点t1では、第1オブジェクト311は第2オブジェクト312から離れており、かつ第2オブジェクト312の方を向いている。時点t1での視界画像300は第1オブジェクト311の視野を示す。
時点t2では、ユーザ190は第1オブジェクト311を掌312aに乗せるための操作を行う。プロセッサ10はそのユーザ操作に応じてポインタ321を視界画像300内に描画する。
ポインタとは、第2オブジェクト312に関連付けられる際の第1オブジェクト311の移動先と、その関連付けが解除される際の第1オブジェクト311の移動先とのうちの少なくとも一方を表す印である。「第1オブジェクトを第2オブジェクトに関連付ける」とは、第1オブジェクトと第2オブジェクトとを衝突(接触)させる処理である。「(第1オブジェクトと第2オブジェクトとの)関連付けを解除する」とは、第1オブジェクトが第2オブジェクトに衝突(接触)しないように双方のオブジェクトを離す処理である。
第1オブジェクト311を掌312aに乗せる処理は関連付けの一例である。ポインタ321は、第2オブジェクト312に関連付けられる際の第1オブジェクト311の移動先を表す。
ポインタ321は放物線を描くレーザビームのように表現されてもよい。例えば、プロセッサ10は、ポインタ321の出力元(例えば、第1オブジェクト311の手(仮想手)の位置)と、コントローラ160の指す位置とを結ぶ放物線を算出してもよい。あるいは、プロセッサ10は、コントローラ160の指す方向を初期のベクトルとする放物線を算出してもよい。あるいは、プロセッサ10は他の手法によりポインタ321の放物線を算出してもよい。ポインタの表現方法はレーザビームに限定されず、例えば、ポインタは、移動先の場所に表される円などの印であってもよい。
ユーザ操作により第1オブジェクト311の移動先が確定した場合には、時点t3において、第1オブジェクト311が掌312aに乗る。このように第1オブジェクト311と第2オブジェクト312とが関連付けられることに対応して、プロセッサ10は、視界画像300で示される場面を転換してもよい。場面の転換とは、仮想カメラ1の位置または向きを瞬間的に変えることで、視界画像で表される場面の現在の流れを止めて、変更された仮想カメラ1に映る場面を視界画像で表す処理である。図13の例では、第1オブジェクト311が掌312aに乗ることに対応して、視界画像300で表される場面が、掌312aの位置からの第1オブジェクト311の視野に瞬時に切り替わる。時点t2から時点t3の間において瞬時にまたは高速に移動する第1オブジェクト311の視野をそのまま視界画像300上で連続的に表現するとユーザ190がVR酔いを感じる可能性がある。場面転換により、その瞬間移動または高速移動の間の映像を表示させないことで、VR酔いを防止することができる。
図13の例では、プロセッサ10は時点t2の直後に視界画像300をフェードアウトさせ、次いで視界画像300をフェードインさせることで場面転換を表現してもよい。あるいは、プロセッサ10はそのフェードアウトおよびフェードインを用いることなく、視界画像300を瞬時に切り替えることで場面転換を表現してもよい。いずれにせよ、時点t2,t3での視界画像300は第1オブジェクト311の視野を示す。
時点t4では、ユーザ操作により、第2オブジェクト312が第1オブジェクト311を掌の上に乗せたまま壁320へと移動する。ただし、ユーザ190が直接に操作するのは第1オブジェクト311である。ユーザ操作により第1オブジェクト311が掌312aの上を移動するように動作することで、第2オブジェクト312がその第1オブジェクト311の動作に合わせて壁320に向かって移動する。この移動において、プロセッサ10は視界画像生成モジュール223として機能し、仮想カメラ1のロール角(θw)およびピッチ角(θu)の少なくとも一方の変化が制限された視界画像300を出力してもよい。この処理は、掌312aの動きに合わせて第1オブジェクト311の姿勢が変化する際の視界画像300内の揺れ(第1オブジェクト311の視野の揺れ)を抑制することでユーザ190のVR酔いを防止することを意図する。
時点t5では、ユーザ190は第1オブジェクト311を掌312aから地面に移すための操作を行う。プロセッサ10はその操作に応じてポインタ322を視界画像300内に描画する。ポインタ322は、第2オブジェクト312との関連付けが解除される際の第1オブジェクト311の移動先を表す。ポインタ322の放物線の計算方法とポインタ322の表現方法とはいずれも、ポインタ321と同様に任意に決めてよい。
ユーザ操作により第1オブジェクト311の移動先が確定した場合には、時点t6において、第1オブジェクト311が掌312aから地面に降りる。この動作は、第1オブジェクトと第2オブジェクトとの関連付けの解除の一例である。このように第1オブジェクト311と第2オブジェクト312との関連付けが解除されることに対応して、プロセッサ10は視界画像生成モジュール223として機能し、視界画像300で示される場面を転換してもよい。図14の例では、視界画像300で表される場面が、地面に降りた第1オブジェクト311の視野に瞬時に切り替わる。時点t6では、地面に降りた第1オブジェクト311が壁320の上の方を向いている。図14の例では、プロセッサ10は時点t5の直後に視界画像300をフェードアウトさせ、次いで視界画像300をフェードインさせることで場面転換を表現してもよい。あるいは、プロセッサ10はそのフェードアウトおよびフェードインを用いることなく、視界画像300を瞬時に切り替えることで場面転換を表現してもよい。いずれにせよ、時点t5,t6での視界画像300は第1オブジェクト311の視野を示す。
図15は、図13および図14に対応する仮想オブジェクトの制御の一例を表すフローチャートである。ステップS31において、プロセッサ10は仮想オブジェクト制御モジュール232として機能し、第1オブジェクト311と第2オブジェクト312とを関連付けるための操作情報を取得する。ここでの操作情報は、第1オブジェクト311を掌312aに乗せるための指示を示す。
ステップS32において、プロセッサ10はポインタ321を表示する。プロセッサ10は仮想オブジェクト制御モジュール232として機能し、ポインタ321の軌道を計算する。続いて、プロセッサ10は視界画像生成モジュール223として機能し、仮想空間とポインタ321の動き情報とに基づいて視界画像データを生成し、その視界画像データをHMD装置110に出力(送信)する。HMD装置110はその視界画像データを処理して視界画像を更新する。
ステップS33において、プロセッサ10は視界画像生成モジュール223として機能し、視界画像300をフェードアウトする。ステップS34において、プロセッサ10は仮想オブジェクト制御モジュール232として機能し、第1オブジェクト311と第2オブジェクト312とを関連付ける。ステップS35において、プロセッサ10は視界画像生成モジュール223として機能し、視界画像300をフェードインする。この一連の処理により、第1オブジェクト311が掌312aに乗ると共に、視界画像300が掌312aの上からの第1オブジェクト311の視野に切り替わる。
ステップS36において、プロセッサ10は移動に関する制御を実行する。この処理は図12でのステップS23〜S26に対応する。プロセッサ10が、操作情報に基づいて第1オブジェクト311および第2オブジェクト312の動作を更新する処理を繰り返すことで、第1オブジェクト311を乗せた第2オブジェクト312が壁320へと移動する。
ステップS37において、プロセッサ10は仮想オブジェクト制御モジュール232として機能し、第1オブジェクト311と第2オブジェクト312との関連付けを解除するための操作情報を取得する。この操作情報は、第1オブジェクト311を掌312aから降ろすための指示を示す。
ステップS38において、プロセッサ10はポインタ322を表示する。プロセッサ10は仮想オブジェクト制御モジュール232として機能し、ポインタ322の軌道を計算する。続いて、プロセッサ10は視界画像生成モジュール223として機能し、仮想空間とポインタ322の動き情報とに基づいて視界画像データを生成し、その視界画像データをHMD装置110に出力(送信)する。HMD装置110はその視界画像データを処理して視界画像を更新する。
ステップS39において、プロセッサ10は視界画像生成モジュール223として機能し、視界画像300をフェードアウトする。ステップS40において、プロセッサ10は仮想オブジェクト制御モジュール232として機能し、第1オブジェクト311と第2オブジェクト312との関連付けを解除する。ステップS41において、プロセッサ10は視界画像生成モジュール223として機能し、視界画像300をフェードインする。この一連の処理により、第1オブジェクト311が掌312aから地面に降りると共に、視界画像300が地面からの第1オブジェクト311の視野に切り替わる。
図16および図17は、ある実施の形態に従う仮想空間2および視界画像300の経時的変化の別の例を表す図である。これらの2図も、第2オブジェクト312を用いて、第1オブジェクト311が単独では越えられない壁320の向こう側に該第1オブジェクト311を移す場面を示す。図13および図14の例と異なる点は、第1オブジェクト311を掌312aに乗せる際の処理と、第1オブジェクト311を掌312aから降ろす際の処理とである。
時点t1における仮想空間2の状態および視界画像300は図13の例と同じである。時点t2においてユーザ190が、第1オブジェクト311を掌312aの上に乗せるための操作を行った場合には、プロセッサ10は視界画像300を、第2オブジェクト312の視野を示す1人称視点の画像に切り替える。第2オブジェクト312の動作は第1オブジェクト311の動作の複製であり、視界画像300は第2オブジェクト312の視野を示す。したがって、ユーザ190は実際には第1オブジェクト311を直接に操作しているが、結果的には、第2オブジェクト312を操作して掌312aの上に第1オブジェクト311を乗せることができる。このとき、第1オブジェクト311も掌で何かをすくい上げようとする動作を行う。時点t3における仮想空間2の状態は図13の例と同じである。時点t3では、プロセッサ10は第1オブジェクト311の視野を示す視界画像300に切り替えるので、この時点での視界画像300は図13の例と同じである。
時点t4における仮想空間2の状態および視界画像300は図14の例と同じである。時点t5においてユーザ190が、第1オブジェクト311を第2オブジェクト312から降ろすための操作を行った場合には、プロセッサ10は視界画像300を、第2オブジェクト312の視野を示す1人称視点の画像に切り替える。第2オブジェクト312の動作は第1オブジェクト311の動作の複製であり、視界画像300が第2オブジェクト312の視野を示す。したがって、ユーザ190は実際には第1オブジェクト311を直接に操作しているが、結果的には、第2オブジェクト312を操作して掌312aから第1オブジェクト311を降ろすことができる。このとき、第1オブジェクト311も掌で何かを放り投げようとする動作を行う。時点t6における仮想空間2の状態は図14の例と同じである。時点t6では、プロセッサ10は第1オブジェクト311の視野を示す視界画像300に切り替えるので、この時点での視界画像300は図14の例と同じである。
このように、プロセッサ10は、第1オブジェクト311と第2オブジェクト312との関連付け、および該関連付けの解除に対応して、視界画像300で表される視点を第1オブジェクト311の視点と第2オブジェクト312の視点との間で切り替えてもよい。この処理は、視界画像300で表される場面の転換の一例である。この場面転換により瞬間移動または高速移動の間の映像を表示させないことで、ユーザ190のVR酔いを防止することができる。
図18は、図16および図17に対応する仮想オブジェクトの制御の一例を表すフローチャートである。ステップS51において、プロセッサ10は仮想オブジェクト制御モジュール232として機能し、第1オブジェクト311と第2オブジェクト312とを関連付けるための操作情報を取得する。この操作情報は、第1オブジェクト311を掌312aに乗せるための指示を示す。
ステップS52において、プロセッサ10は視界画像生成モジュール223として機能し、視界画像300で示される視点を第1オブジェクト311の視点から第2オブジェクト312の視点に切り替える。ステップS53において、プロセッサ10は仮想オブジェクト制御モジュール232として機能し、第1オブジェクト311と第2オブジェクト312とを関連付ける。ステップS54において、プロセッサ10は視界画像生成モジュール223として機能し、視界画像300で示される視点を第2オブジェクト312の視点から第1オブジェクト311の視点に切り替える。この一連の処理により、第1オブジェクト311が掌312aに乗ると共に、視界画像300が最終的には掌312aの上からの第1オブジェクト311の視野を表す。
ステップS55において、プロセッサ10は移動に関する制御を実行する。この処理は図12でのステップS23〜S26に対応する。プロセッサ10が、操作情報に基づいて第1オブジェクト311および第2オブジェクト312の動作を更新する処理を繰り返すことで、第1オブジェクト311を乗せた第2オブジェクト312が壁320へと移動する。
ステップS56において、プロセッサ10は仮想オブジェクト制御モジュール232として機能し、第1オブジェクト311と第2オブジェクト312との関連付けを解除するための操作情報を取得する。この操作情報は、第1オブジェクト311を掌312aから降ろすための指示を示す。
ステップS57において、プロセッサ10は視界画像生成モジュール223として機能し、視界画像300で示される視点を第1オブジェクト311の視点から第2オブジェクト312の視点に切り替える。ステップS58において、プロセッサ10は仮想オブジェクト制御モジュール232として機能し、第1オブジェクト311と第2オブジェクト312との関連付けを解除する。ステップS59において、プロセッサ10は視界画像生成モジュール223として機能し、視界画像300で示される視点を第2オブジェクト312の視点から第1オブジェクト311の視点に切り替える。この一連の処理により、第1オブジェクト311が掌312aから地面に降りると共に、視界画像300が最終的には地面からの第1オブジェクト311の視野に切り替わる。
上述したように、動作の複製は、第1オブジェクトと第2オブジェクトとの間で移動量、位置、または向きを同じにすることを必ずしも要求しない。プロセッサ10は第2オブジェクトに対して第1オブジェクトからの座標オフセットが設定された仮想空間を規定してもよい。座標オフセットとは、座標系にオブジェクトを配置するために用いるパラメータ(例えば移動量、位置、回転(向き))に対するオフセットである。言い換えると、座標オフセットは、第2オブジェクトの当該パラメータを第1オブジェクトとは異ならせるための値である。座標オフセットを設定するタイミングは限定されない。例えば、プロセッサ10は第1オブジェクトおよび第2オブジェクトを初期表示する際に座標オフセットを設定してもよいし、初期表示した後に座標オフセットを設定してもよい。図19は、座標オフセットが考慮された動作の複製に関する様々な例を表す図である。
図19の状態(A)では、移動量のオフセットを設定することで、第1オブジェクト(主人公)311と第2オブジェクト(小人)313との間で移動量を異ならせている。プロセッサ10は予め第2オブジェクトに対して移動量のオフセットを設定し、これにより第2オブジェクト313の移動量(移動のスケール)を第1オブジェクト311と異ならせる。この処理を前提として、プロセッサ10は入力された操作情報に基づいて、第1オブジェクト311の動作(第1動作)を示す第1動作情報を生成する。さらに、プロセッサ10はその第1動作を複製することで、第2オブジェクト312の動作(第2動作)を示す第2動作情報を生成する。移動量にオフセットが設定されているので、第2動作と第1動作とではオブジェクトの移動量が異なる。第1オブジェクトおよび第2オブジェクトのどちらか一方の移動量が0であってもよい。
状態(A)では、プロセッサ10は第2オブジェクト312の移動量が第1オブジェクト311の移動量よりも大きくなるように第1動作情報および第2動作情報を生成する。この結果、第1オブジェクト311の位置をほとんど変えることなく、壁320の小さな穴320aに第2オブジェクト312を通すような仮想体験をユーザ190に提供することができる。この例において、第1オブジェクト311の位置を動かさない場合には、第1オブジェクト311はその場で足踏みするように動作する。
図19の状態(B)では、回転のオフセットを設定することで、第1オブジェクト(主人公)311と第2オブジェクト(主人公の分身)314との間で向きを異ならせている。プロセッサ10は予め第2オブジェクト314に対して回転のオフセットを設定し、これにより、第1オブジェクト311と第2オブジェクト314との間で、オブジェクトが向く方向を異ならせる。図19の状態(B)では、動作のミラーリングにより第1オブジェクト311および第2オブジェクト314が共に反時計回りに角度θだけ回転する。予め回転のオフセットが設定されているので、回転後の第1オブジェクト311および第2オブジェクト314の向きも互いに異なる。
図19の状態(C)では、位置のオフセットを設定することで、第1オブジェクト(主人公)311と第2オブジェクト(主人公の分身)314との間で、グローバル座標系の原点からオブジェクトへと延びるベクトルの方向を第1オブジェクトと第2オブジェクトとで異ならせている。プロセッサ10は予め第2オブジェクトに対して位置のオフセットを設定し、これにより、第1オブジェクトと第2オブジェクトとの間で当該ベクトルの方向を異ならせる。図19の状態(C)では、座標原点と第2オブジェクト314とを結ぶベクトルv2の向きは、座標原点と第1オブジェクト311とを結ぶベクトルv1の向きと異なる。
プロセッサ10は、移動量、回転、および位置のうちの少なくとも二つの組合せを実行してもよい。座標オフセットの実現方法は上記に限定されない。
動作のミラーリングの更なる例として幽体離脱を挙げることができる。第1オブジェクトが実体のあるキャラクタ(視界画像を通じて視認可能なキャラクタ)であり、第2オブジェクトが実体のないキャラクタ(視界画像には表れないキャラクタ)であるとする。そして、プロセッサ10が視界画像を、第1オブジェクトの1人称視点の画像から第2オブジェクトの1人称視点の画像に切り替えることで、あたかも幽体離脱したような体験をユーザ190に提供することができる。視界画像が第2オブジェクトの1人称視点の画像に切り替わった場合でも、ユーザに関連付けられるオブジェクトは第1オブジェクトのままで変わらない。すなわち、ユーザに関連付けられるオブジェクトは変わらないが、視界画像の視点に対応するオブジェクトが変わる。なお、この幽体離脱のような制御は、動作のミラーリングを用いずに他の手法により実現することも可能である。
[変形例]
以上、本開示の実施形態について説明したが、本発明の技術的範囲は、本実施形態の説明によって限定的に解釈されるべきではない。本実施形態は一例であって、特許請求の範囲に記載された発明の範囲内において、様々な実施形態の変更が可能であることが当業者によって理解されるところである。本発明の技術的範囲は、特許請求の範囲に記載された発明の範囲およびその均等の範囲に基づいて定められるべきである。
仮想空間2は複数の第2オブジェクトを含んでもよい。例えば、仮想空間2が第1オブジェクト(主人公)311、第2オブジェクト(巨人)312、および第2オブジェクト(小人)313を含んでもよい。プロセッサ10はそれぞれの第2オブジェクトについて、第1オブジェクトの動作を複製することで該第2オブジェクトの動作情報を生成する。したがって、第2オブジェクトの個数にかかわらず、それぞれの第2オブジェクトは第1オブジェクトの動きを真似するように動作する。
プロセッサ10は、第1オブジェクトの視点を示す画像と第2オブジェクトの視点を示す画像との双方を含む視界画像を出力してもよい。例えば、プロセッサ10は第1オブジェクトの視点に第2オブジェクトの視点を重畳させた画像を視界画像として出力してもよい。あるいは、プロセッサ10は第1オブジェクトの視点を示す視界画像内に別画面(例えば小窓)を設定し、第2オブジェクトの視点をその別画面内に表示させてもよい。
ポインタの表示と、視界画像で表される場面の転換とはいずれも、必須の処理ではない。プロセッサ10はこれらの処理の少なくとも一方を実行することなく第1オブジェクトおよび第2オブジェクトを制御してもよい。
上記実施形態においては、HMD装置110によってユーザ190が没入する仮想空間(VR空間)を例示して説明したが、HMD装置110として、透過型のHMD装置を採用してもよい。この場合、透過型のHMD装置を介してユーザ190が視認する現実空間に仮想空間を構成する画像の一部を合成した視界画像を出力することにより、拡張現実(AR:Augumented Reality)空間または複合現実(MR:Mixed Reality)空間における仮想体験をユーザ190に提供してもよい。プロセッサ10は、現実空間におけるユーザ190の身体(例えば、手および頭)の位置の座標情報を特定するとともに、仮想空間2内における第1オブジェクトおよび第2オブジェクトの位置を現実空間における座標情報との関係で定義してもよい。これにより、プロセッサ10は、現実空間におけるユーザ190の身体と仮想空間2における第1オブジェクトおよび第2オブジェクトとの位置関係を把握する。その結果、ユーザ190の身体の動きに基づいて第1オブジェクトおよび第2オブジェクトに作用を与えることが可能となる。
本明細書に開示された主題は、例えば、以下のような項目として示される。
(項目1)
表示部(ディスプレイ112)を備えるヘッドマウントデバイス(HMD装置110)を介してユーザ(ユーザ190)に仮想空間(仮想空間2)を提供するためにコンピュータ(コンピュータ200またはサーバ150)によって実行される情報処理方法であって、
前記ユーザに関連付けられた第1オブジェクト(第1オブジェクト311)と、該第1オブジェクトは異なる第2オブジェクト(第2オブジェクト312)とを含む前記仮想空間を規定する仮想空間データを生成するステップ(ステップS1またはステップS21)と、
前記ユーザにより入力された操作情報に基づいて、前記第1オブジェクトの第1動作を示す第1動作情報と、前記第2オブジェクトの動作でありかつ該第1動作の複製である第2動作を示す第2動作情報とを生成するステップ(ステップS23およびS24)と、
前記第1動作情報を用いて前記第1オブジェクトの動作を更新すると共に、前記第2動作情報を用いて前記第2オブジェクトの動作を更新するステップ(ステップS25)と、
前記仮想空間データと、更新された前記第1オブジェクトの動作と、更新された前記第2オブジェクトの動作とに基づいて視界画像(視界画像300)を生成し、前記表示部に該視界画像を表示させるステップ(ステップS26)と
を含む情報処理方法。
本項目の情報処理方法によれば、ユーザに関連付けられた第1オブジェクトが操作情報に応じて動作する際に、第2オブジェクトが第1オブジェクトと同様の動作を行う。このような動作のミラーリングを提供することで、仮想空間におけるユーザの仮想体験のエンタテイメント性を向上させることができる。
また、本項目の情報処理方法によれば、第2オブジェクトの動作を示す第2動作情報は、第1オブジェクトの動作を複製することで得られる。したがって、第2オブジェクトの動作を第1オブジェクトの動作とは独立に生成する場合よりも簡単に且つ高速に第2動作情報が生成され、第2オブジェクトの動作がより高速に更新される。この高速処理により、視界画像の更新頻度(フレームレート)が高いレベルで維持されて仮想空間が円滑に表示され続けるので、ユーザのVR酔いを防止することができる。
(項目2)
前記第2オブジェクトに対して前記第1オブジェクトからの座標オフセットが設定された前記仮想空間を規定するステップを含む項目1の情報処理方法。
本項目の情報処理方法によれば、第1オブジェクトと第2オブジェクトとで見え方を異ならせつつ動作の複製が実行されるので、仮想空間におけるユーザの仮想体験のエンタテイメント性を向上させることができる。
(項目3)
前記座標オフセットが前記第2オブジェクトの移動量、回転、および位置のうちの少なくとも一つについてのオフセットを含む、
項目1または2の情報処理方法。
本項目の情報処理方法によれば、第1オブジェクトと第2オブジェクトとで移動量、位置、または向きを異ならせつつ、動作の複製が実行される。したがって、仮想空間におけるユーザの仮想体験のエンタテイメント性を向上させることができる。
(項目4)
前記第1オブジェクトと前記第2オブジェクトとの関連付け(ステップS34またはS53)と、前記第1オブジェクトと前記第2オブジェクトとの関連付けの解除(ステップS40またはS58)のとうちの少なくとも一つに対応して、前記視界画像で表される場面を転換するステップ(ステップS33およびS35;ステップS39およびS41;ステップS52およびS54;またはステップS57およびS59)を含む項目1〜3のいずれかの情報処理方法。
本項目の情報処理方法によれば、第1オブジェクトと第2オブジェクトとが作用し合う際に視覚的な場面転換が行われるので、仮想空間におけるユーザの仮想体験のエンタテイメント性を向上させることができる。第1オブジェクトと第2オブジェクトとが作用し合う際には視界画像の急激な変化でユーザがVR酔いしてしまう可能性があるが、視界画像上で場面転換を表現してその急激な変化を表示させないことで、VR酔いを防止することができる。
(項目5)
前記第2オブジェクトに関連付けられる際の前記第1オブジェクトの移動先と、前記関連付けが解除される際の前記第1オブジェクトの移動先とのうちの少なくとも一方を表すポインタ(ポインタ321または322)を含む前記視界画像を生成するステップを含む項目4の情報処理方法。
本項目の情報処理方法によれば、第1オブジェクトの移動先が表示されるので、仮想空間におけるユーザの仮想体験のエンタテイメント性を向上させることができる。
(項目6)
前記視界画像に対するフェードアウトおよびフェードインを実行することで前記場面を転換するステップ(ステップS33およびS35;またはステップS39およびS41))を含む項目4または5の情報処理方法。
本項目の情報処理方法によれば、フェードインおよびフェードアウトにより場面転換を表現することで、エンタテイメント性のある視覚効果をユーザに提供しつつユーザのVR酔いを防止することができる。
(項目7)
前記視界画像で表される視点を前記第1オブジェクトの視点と前記第2オブジェクトの視点との間で切り替えることで前記場面を転換するステップ(ステップS52およびS54;またはステップS57およびS59)を含む項目4または5の情報処理方法。
本項目の情報処理方法によれば、視点の切り替えにより場面転換を表現することで、エンタテイメント性のある視覚効果をユーザに提供しつつユーザのVR酔いを防止することができる。
(項目8)
前記第1動作情報および前記第2動作情報の少なくとも一つに基づいて前記第1オブジェクトと前記第2オブジェクトとを関連付けるステップ(ステップS34またはS53)と、
前記第2動作情報に基づく前記第2オブジェクトの動作を更新することで前記第1オブジェクトを移動させるステップ(ステップS36またはS55)と、
前記第1動作情報および前記第2動作情報の少なくとも一つに基づいて前記第1オブジェクトと前記第2オブジェクトとの関連付けを解除するステップ(ステップS40またはS58)と、
前記関連付けが解除された前記第1オブジェクトの視点を示す前記視界画像を生成するステップ(ステップS41またはS59)と
を含む項目1〜7のいずれかの情報処理方法。
本項目の情報処理方法によれば、動作のミラーリングを利用して、第2オブジェクトが第1オブジェクトを運ぶような仮想体験がユーザに提供されるので、仮想空間におけるユーザの仮想体験のエンタテイメント性を向上させることができる。
(項目9)
項目1〜8のいずれかの情報処理方法をコンピュータに実行させるプログラム。
(項目10)
少なくともメモリ(メモリモジュール240)と、前記メモリに結合されたプロセッサ(プロセッサ10)とを備え、前記プロセッサの制御により項目1〜8のいずれかの情報処理方法を実行する、装置。
1…仮想カメラ、2…仮想空間、5…基準視線、10…プロセッサ、11…メモリ、12…ストレージ、13…入出力インターフェース、14…通信インターフェース、15…バス、19…ネットワーク、21…中心、22…仮想空間画像、23…視界領域、24,25…領域、30…グリップ、31…フレーム、32…天面、33,34,36,37…ボタン、35…赤外線LED、38…アナログスティック、100,100A,100B,100C…HMDシステム、110,110A,110B,110C…HMD装置、112…ディスプレイ、114…センサ、116…カメラ、118…マイク、120…HMDセンサ、130…モーションセンサ、140…注視センサ、150…サーバ、160…コントローラ、160R…右コントローラ、190,190A…ユーザ、200…コンピュータ、220…表示制御モジュール、221…仮想カメラ制御モジュール、222…視界領域決定モジュール、223…視界画像生成モジュール、224…基準視線特定モジュール、230…仮想空間制御モジュール、231…仮想空間定義モジュール、232…仮想オブジェクト制御モジュール、240…メモリモジュール、241…空間情報、242…オブジェクト情報、243…ユーザ情報、250…通信制御モジュール、300…視界画像、311…第1オブジェクト、312〜314…第2オブジェクト、322…ポインタ。

Claims (9)

  1. 表示部を備えるヘッドマウントデバイスを介してユーザに仮想空間を提供するためにコンピュータによって実行される情報処理方法であって、
    前記ユーザに関連付けられた第1オブジェクトと、該第1オブジェクトは異なる第2オブジェクトとを含む前記仮想空間を規定する仮想空間データを生成するステップと、
    前記ユーザにより入力された操作情報に基づいて、前記第1オブジェクトの第1動作を示す第1動作情報と、前記第2オブジェクトの動作でありかつ該第1動作の複製である第2動作を示す第2動作情報とを生成するステップと、
    前記第1動作情報を用いて前記第1オブジェクトの動作を更新すると共に、前記第2動作情報を用いて前記第2オブジェクトの動作を更新するステップと、
    前記仮想空間データと、更新された前記第1オブジェクトの動作と、更新された前記第2オブジェクトの動作とに基づいて視界画像を生成し、前記表示部に該視界画像を表示させるステップと
    前記第1オブジェクトと前記第2オブジェクトとの関連付けと、前記関連付けの解除とのうちの少なくとも一つに対応して、前記視界画像で表される場面を転換するステップと
    を含む情報処理方法。
  2. 前記第2オブジェクトに対して前記第1オブジェクトからの座標オフセットが設定された前記仮想空間を規定するステップを含む請求項1に記載の情報処理方法。
  3. 前記座標オフセットが前記第2オブジェクトの移動量、回転、および位置のうちの少なくとも一つについてのオフセットを含む、
    請求項2に記載の情報処理方法。
  4. 前記第2オブジェクトに関連付けられる際の前記第1オブジェクトの移動先と、前記関連付けが解除される際の前記第1オブジェクトの移動先とのうちの少なくとも一方を表すポインタを含む前記視界画像を生成するステップを含む請求項に記載の情報処理方法。
  5. 前記視界画像に対するフェードアウトおよびフェードインを実行することで前記場面を転換するステップを含む請求項またはに記載の情報処理方法。
  6. 前記視界画像で表される視点を前記第1オブジェクトの視点と前記第2オブジェクトの視点との間で切り替えることで前記場面を転換するステップを含む請求項またはに記載の情報処理方法。
  7. 前記第1動作情報および前記第2動作情報の少なくとも一つに基づいて前記第1オブジェクトと前記第2オブジェクトとを関連付けるステップと、
    前記第2動作情報に基づく前記第2オブジェクトの動作を更新することで前記第1オブジェクトを移動させるステップと、
    前記第1動作情報および前記第2動作情報の少なくとも一つに基づいて前記第1オブジェクトと前記第2オブジェクトとの関連付けを解除するステップと、
    前記関連付けが解除された前記第1オブジェクトの視点を示す前記視界画像を生成するステップと
    を含む請求項1〜のいずれか一項に記載の情報処理方法。
  8. 請求項1〜のいずれか一項に記載の情報処理方法をコンピュータに実行させるプログラム。
  9. 少なくともメモリと、前記メモリに結合されたプロセッサとを備え、前記プロセッサの制御により請求項1〜のいずれか一項に記載の情報処理方法を実行する、装置。
JP2017136323A 2017-07-12 2017-07-12 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム Active JP6978240B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017136323A JP6978240B2 (ja) 2017-07-12 2017-07-12 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017136323A JP6978240B2 (ja) 2017-07-12 2017-07-12 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム

Publications (2)

Publication Number Publication Date
JP2019020832A JP2019020832A (ja) 2019-02-07
JP6978240B2 true JP6978240B2 (ja) 2021-12-08

Family

ID=65355683

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017136323A Active JP6978240B2 (ja) 2017-07-12 2017-07-12 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム

Country Status (1)

Country Link
JP (1) JP6978240B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7261121B2 (ja) * 2019-08-15 2023-04-19 Kddi株式会社 情報端末装置及びプログラム
CN115098005B (zh) * 2022-06-24 2023-01-24 北京华建云鼎科技股份公司 一种控制目标对象移动的数据处理系统

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005095403A (ja) * 2003-09-25 2005-04-14 Sega Corp ゲーム処理方法、ゲーム装置、ゲームプログラム及びその記憶媒体
JP4662271B2 (ja) * 2006-01-20 2011-03-30 株式会社バンダイナムコゲームス プログラム、情報記憶媒体、及び画像生成システム

Also Published As

Publication number Publication date
JP2019020832A (ja) 2019-02-07

Similar Documents

Publication Publication Date Title
JP6276882B1 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP6263252B1 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP2018124666A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP6392911B2 (ja) 情報処理方法、コンピュータ、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP6290467B1 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるプログラム
JP6321263B1 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP6201028B1 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP6248219B1 (ja) 情報処理方法、コンピュータ、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP2018147465A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP6479933B1 (ja) プログラム、情報処理装置、および方法
JP2019032844A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP6978240B2 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP2018125003A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるプログラム
JP7030669B2 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP7005406B2 (ja) プログラム、情報処理装置、及び情報処理方法
JP6554139B2 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP6263292B1 (ja) 情報処理方法、コンピュータ、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP2019087262A (ja) プログラム、情報処理装置、および方法
JP2019030638A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP2018192238A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP6856572B2 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP2019020836A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP2018092592A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP2019021250A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP6839046B2 (ja) 情報処理方法、装置、情報処理システム、および当該情報処理方法をコンピュータに実行させるプログラム

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20171013

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200701

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200701

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210528

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210616

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210803

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211015

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211111

R150 Certificate of patent or registration of utility model

Ref document number: 6978240

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150