JP6392911B2 - 情報処理方法、コンピュータ、および当該情報処理方法をコンピュータに実行させるためのプログラム - Google Patents

Description

本開示は、情報処理方法、コンピュータ、および当該情報処理方法をコンピュータに実行させるためのプログラムに関する。

非特許文献１は、複数ユーザによって共有される仮想空間において、各ユーザに関連付けられたアバター等のキャラクタオブジェクトを各ユーザの操作に基づいて動作させる技術を開示している。また、特許文献１は、各種センサによって検知された現実の出席者の身体の動きに基づいて、仮想空間におけるアバターを動かす技術が開示されている。

特開２０００−２４４８８６号公報

"Facebook Mark Zuckerberg Social VR Demo OC3 Oculus Connect 3 Keynote"、［online］、平成２８年１０月６日、VRvibe、［平成２８年１２月５日検索］、インターネット＜https://www.youtube.com/watch?v=NCpNKLXovtE＞

仮想空間におけるアバターを介したユーザ間の対話の体験をよりリッチにするためには、例えば特許文献１に開示されたシステムのように、複数のカメラおよびセンサ等によってユーザの身体の動きを細かく検知し、ユーザの現実の動きをなるべく忠実にアバターに反映させることが考えられる。

しかしながら、各ユーザが仮想空間を体感するために利用する端末（例えばヘッドマウントディスプレイ等）のスペック（例えば、ユーザの身体の動きの検知性能等）は、同一の仮想空間を共有するユーザ間において、異なり得る。例えば、ユーザの実際の視線方向を示す情報（アイトラッキングデータ）、ユーザの顔の表情を示す情報（フェイストラッキングデータ）、およびユーザの手の動きを示す情報（ハンドトラッキングデータ）等の情報を全て取得可能な高スペックの端末もあれば、これらの情報を取得できない（あるいは一部の情報しか取得できない）低スペックの端末もある。

このため、高スペックの端末を利用するユーザのアバターには、当該ユーザの現実の動きがリアルに反映される一方で、低スペックの端末を利用するユーザのアバターには、当該ユーザの現実の動きがほとんど反映されないといった不均衡な状況が生じ得る。このように、端末間のスペック差に起因して、アバター間で表現可能な動きの種類等に差が生じると、ユーザ間の円滑な対話が困難となり得る。

本開示は、上述のような問題点を解決するためになされたものであり、仮想空間におけるキャラクタオブジェクトを介したユーザ間の対話の体験をよりリッチにし得る情報処理方法、コンピュータ、および当該情報処理方法をコンピュータに実行させるためのプログラムを提供することを目的とする。

本開示が示す一態様によれば、ヘッドマウントディスプレイを介して第１ユーザに仮想空間を提供するためにコンピュータによって実行される情報処理方法が提供される。この情報処理方法は、第１ユーザに関連付けられた第１キャラクタオブジェクトと、第２ユーザに関連付けられた第２キャラクタオブジェクトと、第１ユーザに提供される視界画像を定義する仮想カメラとを含む仮想空間を定義する仮想空間データを生成するステップと、第２ユーザの身体の一以上の部分の動きを示す動き情報を取得するステップと、第２キャラクタオブジェクトの複数の部分のうち、対応する第２ユーザの身体の部分の動きを示す情報が取得されている第１部分と、対応する第２ユーザの身体の部分の動きを示す情報が取得されていない第２部分とを特定するステップと、第２部分の少なくとも一部の動作を規定するための補助情報を取得するステップと、視界画像に第２キャラクタオブジェクトが含まれる場合に、視界画像において、動き情報に基づいて第１部分を動作させ、補助情報に基づいて第２部分の少なくとも一部を動作させるステップと、を含む。

本開示によれば、仮想空間におけるキャラクタオブジェクトを介したユーザ間の対話の体験をよりリッチにし得る情報処理方法、コンピュータ、および当該情報処理方法をコンピュータに実行させるためのプログラムを提供することが可能となる。

ある実施の形態に従うＨＭＤシステム１００の構成の概略を表す図である。 一局面に従うコンピュータ２００のハードウェア構成の一例を表すブロック図である。 ある実施の形態に従うＨＭＤ装置１１０に設定されるｕｖｗ視野座標系を概念的に表す図である。 ある実施の形態に従う仮想空間２を表現する一態様を概念的に表す図である。 ある実施の形態に従うＨＭＤ装置１１０を装着するユーザ１９０の頭部を上から表した図である。 仮想空間２において視界領域２３をＸ方向から見たＹＺ断面を表す図である。 仮想空間２において視界領域２３をＹ方向から見たＸＺ断面を表す図である。 ある実施の形態に従うコントローラ１６０の概略構成を表す図である。 ある実施の形態に従うコンピュータ２００をモジュール構成として表すブロック図である。 ＨＭＤシステム１００Ａが実行する処理を表すフローチャートである。 複数ユーザに共有される仮想空間２を模式的に表す図である。 ユーザ１９０Ａに提供される視界画像Ｍの一例を表す図である。 ＨＭＤシステム１００Ａ、ＨＭＤシステム１００Ｂ、ＨＭＤシステム１００Ｃ、およびサーバ１５０が実行する処理を示すシーケンス図である。 アバターＡ２の動作制御のための処理の一例を表すフローチャートである。 アバターＡ２の動作制御の結果を表す図である。 図１５に示される仮想空間２においてユーザ１９０Ａに提供される視界画像Ｍの一例を表す図である。

以下、図面を参照しつつ、本開示の実施の形態について説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。

［ＨＭＤシステムの構成］
図１を参照して、ＨＭＤ（Head Mount Display）システム１００の構成について説明する。図１は、ある実施の形態に従うＨＭＤシステム１００の構成の概略を表す図である。ある局面において、ＨＭＤシステム１００は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。

ＨＭＤシステム１００は、ＨＭＤ装置１１０と、ＨＭＤセンサ１２０と、コントローラ１６０と、コンピュータ２００とを備える。ＨＭＤ装置１１０は、モニタ１１２と、カメラ１１６と、マイク１１８と、注視センサ１４０とを含む。コントローラ１６０は、モーションセンサ１３０を含み得る。

ある局面において、コンピュータ２００は、インターネットその他のネットワーク１９に接続可能であり、ネットワーク１９に接続されているサーバ１５０その他のコンピュータと通信可能である。別の局面において、ＨＭＤ装置１１０は、ＨＭＤセンサ１２０の代わりに、センサ１１４を含み得る。

ＨＭＤ装置１１０は、ユーザの頭部に装着され、動作中に仮想空間をユーザに提供し得る。より具体的には、ＨＭＤ装置１１０は、右目用の画像および左目用の画像をモニタ１１２にそれぞれ表示する。ユーザの各目がそれぞれの画像を視認すると、ユーザは、両目の視差に基づき当該画像を３次元の画像として認識し得る。

モニタ１１２は、例えば、非透過型の表示装置として実現される。ある局面において、モニタ１１２は、ユーザの両目の前方に位置するようにＨＭＤ装置１１０の本体に配置されている。したがって、ユーザは、モニタ１１２に表示される３次元画像を視認すると、仮想空間に没入することができる。ある実施の形態において、仮想空間は、例えば、背景、ユーザが操作可能なオブジェクト、およびユーザが選択可能なメニューの画像等を含む。ある実施の形態において、モニタ１１２は、所謂スマートフォンその他の情報表示端末が備える液晶モニタまたは有機ＥＬ（Electro Luminescence）モニタとして実現され得る。

ある局面において、モニタ１１２は、右目用の画像を表示するためのサブモニタと、左目用の画像を表示するためのサブモニタとを含み得る。別の局面において、モニタ１１２は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、モニタ１１２は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。

カメラ１１６は、ＨＭＤ装置１１０を装着するユーザの顔画像を取得する。カメラ１１６によって取得された顔画像は、画像解析処理によってユーザの表情を検知するために使用され得る。カメラ１１６は、例えば、瞳の動き、まぶたの開閉、および眉毛の動き等を検知するために、ＨＭＤ装置１１０本体に内蔵された赤外線カメラであってもよい。あるいは、カメラ１１６は、ユーザの口、頬、および顎等の動きを検知するために、図１に示されるようにＨＭＤ装置１１０の外側に配置された外付けカメラであってもよい。また、カメラ１１６は、上述した赤外線カメラおよび外付けカメラの両方によって構成されてもよい。

マイク１１８は、ユーザが発した音声を取得する。マイク１１８によって取得された音声は、音声解析処理によってユーザの感情を検知するために使用され得る。当該音声は、仮想空間２に対して、音声による指示を与えるためにも使用され得る。また、当該音声は、ネットワーク１９およびサーバ１５０等を介して、他のユーザが使用するＨＭＤシステムに送られ、当該ＨＭＤシステムに接続されたスピーカ等から出力されてもよい。これにより、仮想空間を共有するユーザ間での会話（チャット）が実現される。

ＨＭＤセンサ１２０は、複数の光源（図示しない）を含む。各光源は例えば、赤外線を発するＬＥＤ（Light Emitting Diode）により実現される。ＨＭＤセンサ１２０は、ＨＭＤ装置１１０の動きを検出するためのポジショントラッキング機能を有する。ＨＭＤセンサ１２０は、この機能を用いて、現実空間内におけるＨＭＤ装置１１０の位置および傾きを検出する。

なお、別の局面において、ＨＭＤセンサ１２０は、カメラにより実現されてもよい。この場合、ＨＭＤセンサ１２０は、カメラから出力されるＨＭＤ装置１１０の画像情報を用いて、画像解析処理を実行することにより、ＨＭＤ装置１１０の位置および傾きを検出することができる。

別の局面において、ＨＭＤ装置１１０は、位置検出器として、ＨＭＤセンサ１２０の代わりに、センサ１１４を備えてもよい。ＨＭＤ装置１１０は、センサ１１４を用いて、ＨＭＤ装置１１０自身の位置および傾きを検出し得る。例えば、センサ１１４が角速度センサ、地磁気センサ、加速度センサ、あるいはジャイロセンサ等である場合、ＨＭＤ装置１１０は、ＨＭＤセンサ１２０の代わりに、これらの各センサのいずれかを用いて、自身の位置および傾きを検出し得る。一例として、センサ１１４が角速度センサである場合、角速度センサは、現実空間におけるＨＭＤ装置１１０の３軸周りの角速度を経時的に検出する。ＨＭＤ装置１１０は、各角速度に基づいて、ＨＭＤ装置１１０の３軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、ＨＭＤ装置１１０の傾きを算出する。また、ＨＭＤ装置１１０は、透過型表示装置を備えていてもよい。この場合、当該透過型表示装置は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可能であってもよい。また、視界画像は仮想空間を構成する画像の一部に、現実空間を提示する構成を含んでいてもよい。例えば、ＨＭＤ装置１１０に搭載されたカメラで撮影した画像を視界画像の一部に重畳して表示させてもよいし、当該透過型表示装置の一部の透過率を高く設定することにより、視界画像の一部から現実空間を視認可能にしてもよい。

注視センサ１４０は、ユーザ１９０の右目および左目の視線が向けられる方向（視線方向）を検出する。当該方向の検出は、例えば、公知のアイトラッキング機能によって実現される。注視センサ１４０は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ１４０は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ１４０は、例えば、ユーザ１９０の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ１４０は、検出した各回転角に基づいて、ユーザ１９０の視線方向を検知することができる。

サーバ１５０は、コンピュータ２００にプログラムを送信し得る。別の局面において、サーバ１５０は、他のユーザによって使用されるＨＭＤ装置に仮想現実を提供するための他のコンピュータ２００と通信し得る。例えば、アミューズメント施設において、複数のユーザが参加型のゲームを行う場合、各コンピュータ２００は、各ユーザの動作に基づく信号を他のコンピュータ２００と通信して、同じ仮想空間において複数のユーザが共通のゲームを楽しむことを可能にする。

コントローラ１６０は、ユーザ１９０からコンピュータ２００への命令の入力を受け付ける。ある局面において、コントローラ１６０は、ユーザ１９０によって把持可能に構成される。別の局面において、コントローラ１６０は、ユーザ１９０の身体あるいは衣類の一部に装着可能に構成される。別の局面において、コントローラ１６０は、コンピュータ２００から送られる信号に基づいて、振動、音、光のうちの少なくともいずれかを出力するように構成されてもよい。別の局面において、コントローラ１６０は、仮想現実を提供する空間に配置されるオブジェクトの位置および動き等を制御するためにユーザ１９０によって与えられる操作を受け付ける。

モーションセンサ１３０は、ある局面において、ユーザの手に取り付けられて、ユーザの手の動きを検出する。例えば、モーションセンサ１３０は、手の回転速度、回転数等を検出する。検出された信号は、コンピュータ２００に送られる。モーションセンサ１３０は、例えば、手袋型のコントローラ１６０に設けられている。ある実施の形態において、現実空間における安全のため、コントローラ１６０は、手袋型のようにユーザ１９０の手に装着されることにより容易に飛んで行かないものに装着されるのが望ましい。別の局面において、ユーザ１９０に装着されないセンサがユーザ１９０の手の動きを検出してもよい。例えば、ユーザ１９０を撮影するカメラの信号が、ユーザ１９０の動作を表す信号として、コンピュータ２００に入力されてもよい。モーションセンサ１３０とコンピュータ２００とは、有線により、または無線により互いに接続される。無線の場合、通信形態は特に限られず、例えば、Ｂｌｕｅｔｏｏｔｈ（登録商標）その他の公知の通信手法が用いられる。

［ハードウェア構成］
図２を参照して、本実施の形態に係るコンピュータ２００について説明する。図２は、一局面に従うコンピュータ２００のハードウェア構成の一例を表すブロック図である。コンピュータ２００は、主たる構成要素として、プロセッサ１０と、メモリ１１と、ストレージ１２と、入出力インターフェース１３と、通信インターフェース１４とを備える。各構成要素は、それぞれ、バス１５に接続されている。

プロセッサ１０は、コンピュータ２００に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ１１またはストレージ１２に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ１０は、ＣＰＵ（Central Processing Unit）、ＭＰＵ（Micro Processor Unit）、ＦＰＧＡ（Field-Programmable Gate Array）その他のデバイスとして実現される。

メモリ１１は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ１２からロードされる。メモリ１１に保存されるデータは、コンピュータ２００に入力されたデータと、プロセッサ１０によって生成されたデータとを含む。ある局面において、メモリ１１は、ＲＡＭ（Random Access Memory）その他の揮発性メモリとして実現される。

ストレージ１２は、プログラムおよびデータを永続的に保持する。ストレージ１２は、例えば、ＲＯＭ（Read-Only Memory）、ハードディスク装置、フラッシュメモリ、その他の不揮発性記憶装置として実現される。ストレージ１２に格納されるプログラムは、ＨＭＤシステム１００において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、および他のコンピュータ２００との通信を実現するためのプログラム等を含む。ストレージ１２に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含む。

なお、別の局面において、ストレージ１２は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、コンピュータ２００に内蔵されたストレージ１２の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のＨＭＤシステム１００が使用される場面において、プログラムおよびデータ等の更新を一括して行うことが可能になる。

ある実施の形態において、入出力インターフェース１３は、ＨＭＤ装置１１０、ＨＭＤセンサ１２０またはモーションセンサ１３０との間で信号を通信する。ある局面において、入出力インターフェース１３は、ＵＳＢ（Universal Serial Bus）インターフェース、ＤＶＩ（Digital Visual Interface）、ＨＤＭＩ（登録商標）（High-Definition Multimedia Interface）その他の端子を用いて実現される。なお、入出力インターフェース１３は上述のものに限られない。

ある実施の形態において、入出力インターフェース１３は、さらに、コントローラ１６０と通信し得る。例えば、入出力インターフェース１３は、モーションセンサ１３０から出力された信号の入力を受ける。別の局面において、入出力インターフェース１３は、プロセッサ１０から出力された命令を、コントローラ１６０に送る。当該命令は、振動、音声出力、発光等をコントローラ１６０に指示する。コントローラ１６０は、当該命令を受信すると、その命令に応じて、振動、音声出力または発光のいずれかを実行する。

通信インターフェース１４は、ネットワーク１９に接続されて、ネットワーク１９に接続されている他のコンピュータ（例えば、サーバ１５０）と通信する。ある局面において、通信インターフェース１４は、例えば、ＬＡＮ（Local Area Network）その他の有線通信インターフェース、あるいは、ＷｉＦｉ（Wireless Fidelity）、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＮＦＣ（Near Field Communication）その他の無線通信インターフェースとして実現される。なお、通信インターフェース１４は上述のものに限られない。

ある局面において、プロセッサ１０は、ストレージ１２にアクセスし、ストレージ１２に格納されている１つ以上のプログラムをメモリ１１にロードし、当該プログラムに含まれる一連の命令を実行する。当該１つ以上のプログラムは、コンピュータ２００のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、コントローラ１６０を用いて仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ１０は、入出力インターフェース１３を介して、仮想空間を提供するための信号をＨＭＤ装置１１０に送る。ＨＭＤ装置１１０は、その信号に基づいてモニタ１１２に映像を表示する。

サーバ１５０は、ネットワーク１９を介して複数のＨＭＤシステム１００の各々の制御装置と接続される。図２に示される例では、サーバ１５０は、ＨＭＤ装置１１０Ａを有するＨＭＤシステム１００Ａと、ＨＭＤ装置１１０Ｂを有するＨＭＤシステム１００Ｂと、ＨＭＤ装置１１０Ｃを有するＨＭＤシステム１００Ｃとを含む複数のＨＭＤシステム１００を互いに通信可能に接続する。これにより、共通の仮想空間を用いた仮想体験が各ＨＭＤシステムを使用するユーザに提供される。なお、ＨＭＤシステム１００Ａ、ＨＭＤシステム１００Ｂ、ＨＭＤシステム１００Ｃ、およびその他のＨＭＤシステム１００は、いずれも同様の構成を備える。ただし、本実施形態では一例として、ＨＭＤシステム１００Ｂは、ＨＭＤシステム１００Ａ，１００Ｃと比較して低スペックなシステムであり、ユーザの視線方向およびユーザの顔の表情を検知することができないものとする。

なお、図２に示される例では、コンピュータ２００がＨＭＤ装置１１０の外部に設けられる構成が示されているが、別の局面において、コンピュータ２００は、ＨＭＤ装置１１０に内蔵されてもよい。一例として、モニタ１１２を含む携帯型の情報通信端末（例えば、スマートフォン）がコンピュータ２００として機能してもよい。

また、コンピュータ２００は、複数のＨＭＤ装置１１０に共通して用いられる構成であってもよい。このような構成によれば、例えば、複数のユーザに同一の仮想空間を提供することもできるので、各ユーザは同一の仮想空間で他のユーザと同一のアプリケーションを楽しむことができる。なお、このような場合、本実施形態における複数のＨＭＤシステム１００は、入出力インターフェース１３により、コンピュータ２００に直接接続されてもよい。また、本実施形態におけるサーバ１５０の各機能（例えば後述する同期処理等）は、コンピュータ２００に実装されてもよい。

ある実施の形態において、ＨＭＤシステム１００では、グローバル座標系が予め設定されている。グローバル座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、ならびに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、３つの基準方向（軸）を有する。本実施の形態では、グローバル座標系は視点座標系の一つである。そこで、グローバル座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれ、ｘ軸、ｙ軸、ｚ軸と規定される。より具体的には、グローバル座標系において、ｘ軸は現実空間の水平方向に平行である。ｙ軸は、現実空間の鉛直方向に平行である。ｚ軸は現実空間の前後方向に平行である。

ある局面において、ＨＭＤセンサ１２０は、赤外線センサを含む。赤外線センサが、ＨＭＤ装置１１０の各光源から発せられた赤外線をそれぞれ検出すると、ＨＭＤ装置１１０の存在を検出する。ＨＭＤセンサ１２０は、さらに、各点の値（グローバル座標系における各座標値）に基づいて、ＨＭＤ装置１１０を装着したユーザ１９０の動きに応じた、現実空間内におけるＨＭＤ装置１１０の位置および傾きを検出する。より詳しくは、ＨＭＤセンサ１２０は、経時的に検出された各値を用いて、ＨＭＤ装置１１０の位置および傾きの時間的変化を検出できる。

グローバル座標系は現実空間の座標系と平行である。したがって、ＨＭＤセンサ１２０によって検出されたＨＭＤ装置１１０の各傾きは、グローバル座標系におけるＨＭＤ装置１１０の３軸周りの各傾きに相当する。ＨＭＤセンサ１２０は、グローバル座標系におけるＨＭＤ装置１１０の傾きに基づき、ｕｖｗ視野座標系をＨＭＤ装置１１０に設定する。ＨＭＤ装置１１０に設定されるｕｖｗ視野座標系は、ＨＭＤ装置１１０を装着したユーザ１９０が仮想空間において物体を見る際の視点座標系に対応する。

［ｕｖｗ視野座標系］
図３を参照して、ｕｖｗ視野座標系について説明する。図３は、ある実施の形態に従うＨＭＤ装置１１０に設定されるｕｖｗ視野座標系を概念的に表す図である。ＨＭＤセンサ１２０は、ＨＭＤ装置１１０の起動時に、グローバル座標系におけるＨＭＤ装置１１０の位置および傾きを検出する。プロセッサ１０は、検出された値に基づいて、ｕｖｗ視野座標系をＨＭＤ装置１１０に設定する。

図３に示されるように、ＨＭＤ装置１１０は、ＨＭＤ装置１１０を装着したユーザの頭部を中心（原点）とした３次元のｕｖｗ視野座標系を設定する。より具体的には、ＨＭＤ装置１１０は、グローバル座標系を規定する水平方向、鉛直方向、および前後方向（ｘ軸、ｙ軸、ｚ軸）を、グローバル座標系内においてＨＭＤ装置１１０の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる３つの方向を、ＨＭＤ装置１１０におけるｕｖｗ視野座標系のピッチ方向（ｕ軸）、ヨー方向（ｖ軸）、およびロール方向（ｗ軸）として設定する。

ある局面において、ＨＭＤ装置１１０を装着したユーザ１９０が直立し、かつ、正面を視認している場合、プロセッサ１０は、グローバル座標系に平行なｕｖｗ視野座標系をＨＭＤ装置１１０に設定する。この場合、グローバル座標系における水平方向（ｘ軸）、鉛直方向（ｙ軸）、および前後方向（ｚ軸）は、ＨＭＤ装置１１０におけるｕｖｗ視野座標系のピッチ方向（ｕ軸）、ヨー方向（ｖ軸）、およびロール方向（ｗ軸）に一致する。

ｕｖｗ視野座標系がＨＭＤ装置１１０に設定された後、ＨＭＤセンサ１２０は、ＨＭＤ装置１１０の動きに基づいて、設定されたｕｖｗ視野座標系におけるＨＭＤ装置１１０の傾き（傾きの変化量）を検出できる。この場合、ＨＭＤセンサ１２０は、ＨＭＤ装置１１０の傾きとして、ｕｖｗ視野座標系におけるＨＭＤ装置１１０のピッチ角（θｕ）、ヨー角（θｖ）、およびロール角（θｗ）をそれぞれ検出する。ピッチ角（θｕ）は、ｕｖｗ視野座標系におけるピッチ方向周りのＨＭＤ装置１１０の傾き角度を表す。ヨー角（θｖ）は、ｕｖｗ視野座標系におけるヨー方向周りのＨＭＤ装置１１０の傾き角度を表す。ロール角（θｗ）は、ｕｖｗ視野座標系におけるロール方向周りのＨＭＤ装置１１０の傾き角度を表す。

ＨＭＤセンサ１２０は、検出されたＨＭＤ装置１１０の傾き角度に基づいて、ＨＭＤ装置１１０が動いた後のＨＭＤ装置１１０におけるｕｖｗ視野座標系を、ＨＭＤ装置１１０に設定する。ＨＭＤ装置１１０と、ＨＭＤ装置１１０のｕｖｗ視野座標系との関係は、ＨＭＤ装置１１０の位置および傾きに関わらず、常に一定である。ＨＭＤ装置１１０の位置および傾きが変わると、当該位置および傾きの変化に連動して、グローバル座標系におけるＨＭＤ装置１１０のｕｖｗ視野座標系の位置および傾きが変化する。

ある局面において、ＨＭＤセンサ１２０は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係（例えば、各点間の距離など）に基づいて、ＨＭＤ装置１１０の現実空間内における位置を、ＨＭＤセンサ１２０に対する相対位置として特定してもよい。また、プロセッサ１０は、特定された相対位置に基づいて、現実空間内（グローバル座標系）におけるＨＭＤ装置１１０のｕｖｗ視野座標系の原点を決定してもよい。

［仮想空間］
図４を参照して、仮想空間についてさらに説明する。図４は、ある実施の形態に従う仮想空間２を表現する一態様を概念的に表す図である。仮想空間２は、中心２１の３６０度方向の全体を覆う全天球状の構造を有する。図４では、説明を複雑にしないために、仮想空間２のうちの上半分の天球が例示されている。仮想空間２では各メッシュが規定される。各メッシュの位置は、仮想空間２に規定されるＸＹＺ座標系における座標値として予め規定されている。コンピュータ２００は、仮想空間２に展開可能なコンテンツ（静止画、動画等）を構成する各部分画像を、仮想空間２において対応する各メッシュにそれぞれ対応付けて、ユーザによって視認可能な仮想空間画像２２が展開される仮想空間２をユーザに提供する。

ある局面において、仮想空間２では、中心２１を原点とするＸＹＺ座標系が規定される。ＸＹＺ座標系は、例えば、グローバル座標系に平行である。ＸＹＺ座標系は視点座標系の一種であるため、ＸＹＺ座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれＸ軸、Ｙ軸、Ｚ軸として規定される。したがって、ＸＹＺ座標系のＸ軸（水平方向）がグローバル座標系のｘ軸と平行であり、ＸＹＺ座標系のＹ軸（鉛直方向）がグローバル座標系のｙ軸と平行であり、ＸＹＺ座標系のＺ軸（前後方向）がグローバル座標系のｚ軸と平行である。

ＨＭＤ装置１１０の起動時、すなわちＨＭＤ装置１１０の初期状態において、仮想カメラ１が、仮想空間２の中心２１に配置される。仮想カメラ１は、現実空間におけるＨＭＤ装置１１０の動きに連動して、仮想空間２を同様に移動する。これにより、現実空間におけるＨＭＤ装置１１０の位置および向きの変化が、仮想空間２において同様に再現される。

仮想カメラ１には、ＨＭＤ装置１１０の場合と同様に、ｕｖｗ視野座標系が規定される。仮想空間２における仮想カメラ１のｕｖｗ視野座標系は、現実空間（グローバル座標系）におけるＨＭＤ装置１１０のｕｖｗ視野座標系に連動するように規定されている。したがって、ＨＭＤ装置１１０の傾きが変化すると、それに応じて、仮想カメラ１の傾きも変化する。また、仮想カメラ１は、ＨＭＤ装置１１０を装着したユーザの現実空間における移動に連動して、仮想空間２において移動することもできる。

仮想カメラ１の向きは、仮想カメラ１の位置および傾きに応じて決まるので、ユーザが仮想空間画像２２を視認する際に基準となる視線（基準視線５）は、仮想カメラ１の向きに応じて決まる。コンピュータ２００のプロセッサ１０は、基準視線５に基づいて、仮想空間２における視界領域２３を規定する。視界領域２３は、仮想空間２のうち、ＨＭＤ装置１１０を装着したユーザの視界に対応する。

注視センサ１４０によって検出されるユーザ１９０の視線方向は、ユーザ１９０が物体を視認する際の視点座標系における方向である。ＨＭＤ装置１１０のｕｖｗ視野座標系は、ユーザ１９０がモニタ１１２を視認する際の視点座標系に等しい。また、仮想カメラ１のｕｖｗ視野座標系は、ＨＭＤ装置１１０のｕｖｗ視野座標系に連動している。したがって、ある局面に従うＨＭＤシステム１００は、注視センサ１４０によって検出されたユーザ１９０の視線方向を、仮想カメラ１のｕｖｗ視野座標系におけるユーザの視線方向とみなすことができる。

［ユーザの視線］
図５を参照して、ユーザの視線方向の決定について説明する。図５は、ある実施の形態に従うＨＭＤ装置１１０を装着するユーザ１９０の頭部を上から表した図である。

ある局面において、注視センサ１４０は、ユーザ１９０の右目および左目の各視線を検出する。ある局面において、ユーザ１９０が近くを見ている場合、注視センサ１４０は、視線Ｒ１およびＬ１を検出する。別の局面において、ユーザ１９０が遠くを見ている場合、注視センサ１４０は、視線Ｒ２およびＬ２を検出する。この場合、ロール方向ｗに対して視線Ｒ２およびＬ２がなす角度は、ロール方向ｗに対して視線Ｒ１およびＬ１がなす角度よりも小さい。注視センサ１４０は、検出結果をコンピュータ２００に送信する。

コンピュータ２００が、視線の検出結果として、視線Ｒ１およびＬ１の検出値を注視センサ１４０から受信した場合には、その検出値に基づいて、視線Ｒ１およびＬ１の交点である注視点Ｎ１を特定する。一方、コンピュータ２００は、視線Ｒ２およびＬ２の検出値を注視センサ１４０から受信した場合には、視線Ｒ２およびＬ２の交点を注視点として特定する。コンピュータ２００は、特定した注視点Ｎ１の位置に基づき、ユーザ１９０の視線方向Ｎ０を特定する。コンピュータ２００は、例えば、ユーザ１９０の右目Ｒと左目Ｌとを結ぶ直線の中点と、注視点Ｎ１とを通る直線の延びる方向を、視線方向Ｎ０として検出する。視線方向Ｎ０は、ユーザ１９０が両目により実際に視線を向けている方向である。また、視線方向Ｎ０は、視界領域２３に対してユーザ１９０が実際に視線を向けている方向に相当する。

また、別の局面において、ＨＭＤシステム１００は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、ＨＭＤシステム１００は、仮想空間２においてテレビ番組を表示することができる。

さらに別の局面において、ＨＭＤシステム１００は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。

［視界領域］
図６および図７を参照して、視界領域２３について説明する。図６は、仮想空間２において視界領域２３をＸ方向から見たＹＺ断面を表す図である。図７は、仮想空間２において視界領域２３をＹ方向から見たＸＺ断面を表す図である。

図６に示されるように、ＹＺ断面における視界領域２３は、領域２４を含む。領域２４は、仮想カメラ１の基準視線５と仮想空間２のＹＺ断面とによって定義される。プロセッサ１０は、仮想空間２における基準視線５を中心として極角αを含む範囲を、領域２４として規定する。

図７に示されるように、ＸＺ断面における視界領域２３は、領域２５を含む。領域２５は、基準視線５と仮想空間２のＸＺ断面とによって定義される。プロセッサ１０は、仮想空間２における基準視線５を中心とした方位角βを含む範囲を、領域２５として規定する。

ある局面において、ＨＭＤシステム１００は、コンピュータ２００からの信号に基づいて、視界画像をモニタ１１２に表示させることにより、ユーザ１９０に仮想空間を提供する。視界画像は、仮想空間画像２２のうち視界領域２３に重畳する部分に相当する。ユーザ１９０が、頭に装着したＨＭＤ装置１１０を動かすと、その動きに連動して仮想カメラ１も動く。その結果、仮想空間２における視界領域２３の位置が変化する。これにより、モニタ１１２に表示される視界画像は、仮想空間画像２２のうち、仮想空間２においてユーザが向いた方向の視界領域２３に重畳する画像に更新される。ユーザは、仮想空間２における所望の方向を視認することができる。

ユーザ１９０は、ＨＭＤ装置１１０を装着している間、現実世界を視認することなく、仮想空間２に展開される仮想空間画像２２のみを視認できる。そのため、ＨＭＤシステム１００は、仮想空間２への高い没入感覚をユーザに与えることができる。

ある局面において、プロセッサ１０は、ＨＭＤ装置１１０を装着したユーザ１９０の現実空間における移動に連動して、仮想空間２において仮想カメラ１を移動し得る。この場合、プロセッサ１０は、仮想空間２における仮想カメラ１の位置および向きに基づいて、ＨＭＤ装置１１０のモニタ１１２に投影される画像領域（すなわち、仮想空間２における視界領域２３）を特定する。すなわち、仮想カメラ１によって、仮想空間２におけるユーザ１９０の視野が定義される。

ある実施の形態に従うと、仮想カメラ１は、二つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含むことが望ましい。また、ユーザ１９０が３次元の仮想空間２を認識できるように、適切な視差が、二つの仮想カメラに設定されていることが好ましい。本実施の形態においては、仮想カメラ１が二つの仮想カメラを含み、二つの仮想カメラのロール方向が合成されることによって生成されるロール方向（ｗ）がＨＭＤ装置１１０のロール方向（ｗ）に適合されるように構成されているものとして、本開示に係る技術思想を例示する。

［コントローラ］
図８を参照して、コントローラ１６０の一例について説明する。図８は、ある実施の形態に従うコントローラ１６０の概略構成を表す図である。

図８の状態（Ａ）に示されるように、ある局面において、コントローラ１６０は、右コントローラ１６０Ｒと左コントローラとを含み得る。右コントローラ１６０Ｒは、ユーザ１９０の右手で操作される。左コントローラは、ユーザ１９０の左手で操作される。ある局面において、右コントローラ１６０Ｒと左コントローラとは、別個の装置として対称に構成される。したがって、ユーザ１９０は、右コントローラ１６０Ｒを把持した右手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。別の局面において、コントローラ１６０は両手の操作を受け付ける一体型のコントローラであってもよい。以下、右コントローラ１６０Ｒについて説明する。

右コントローラ１６０Ｒは、グリップ３０と、フレーム３１と、天面３２とを備える。グリップ３０は、ユーザ１９０の右手によって把持されるように構成されている。例えば、グリップ３０は、ユーザ１９０の右手の掌と３本の指（中指、薬指、小指）とによって保持され得る。

グリップ３０は、ボタン３３，３４と、モーションセンサ１３０とを含む。ボタン３３は、グリップ３０の側面に配置され、右手の中指による操作を受け付ける。ボタン３４は、グリップ３０の前面に配置され、右手の人差し指による操作を受け付ける。ある局面において、ボタン３３，３４は、トリガー式のボタンとして構成される。モーションセンサ１３０は、グリップ３０の筐体に内蔵されている。なお、ユーザ１９０の動作がカメラその他の装置によってユーザ１９０の周りから検出可能である場合には、グリップ３０は、モーションセンサ１３０を備えなくてもよい。

フレーム３１は、その円周方向に沿って配置された複数の赤外線ＬＥＤ３５を含む。赤外線ＬＥＤ３５は、コントローラ１６０を使用するプログラムの実行中に、当該プログラムの進行に合わせて赤外線を発光する。赤外線ＬＥＤ３５から発せられた赤外線は、右コントローラ１６０Ｒと左コントローラとの各位置および姿勢（傾き、向き）等を検出するために使用され得る。図８に示される例では、二列に配置された赤外線ＬＥＤ３５が示されているが、配列の数は図８に示されるものに限られない。一列あるいは３列以上の配列が使用されてもよい。

天面３２は、ボタン３６，３７と、アナログスティック３８とを備える。ボタン３６，３７は、プッシュ式ボタンとして構成される。ボタン３６，３７は、ユーザ１９０の右手の親指による操作を受け付ける。アナログスティック３８は、ある局面において、初期位置（ニュートラルの位置）から３６０度任意の方向への操作を受け付ける。当該操作は、例えば、仮想空間２に配置されるオブジェクトを移動させるための操作を含む。

ある局面において、右コントローラ１６０Ｒおよび左コントローラは、赤外線ＬＥＤ３５その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型等を含むが、これらに限定されない。別の局面において、右コントローラ１６０Ｒおよび左コントローラは、例えば、コンピュータ２００のＵＳＢインターフェースに接続され得る。この場合、右コントローラ１６０Ｒおよび左コントローラは、電池を必要としない。

図８の状態（Ａ）および状態（Ｂ）に示されるように、例えば、ユーザ１９０の右手８１０に対して、ヨー、ロール、ピッチの各方向が規定される。ユーザ１９０が親指と人差し指とを伸ばした場合に、親指の伸びる方向がヨー方向、人差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定される平面に垂直な方向がピッチ方向として規定される。

［ＨＭＤ装置の制御装置］
図９を参照して、ＨＭＤ装置１１０の制御装置について説明する。ある実施の形態において、制御装置は周知の構成を有するコンピュータ２００によって実現される。図９は、ある実施の形態に従うコンピュータ２００をモジュール構成として表すブロック図である。

図９に示されるように、コンピュータ２００は、表示制御モジュール２２０と、仮想空間制御モジュール２３０と、メモリモジュール２４０と、通信制御モジュール２５０とを備える。表示制御モジュール２２０は、サブモジュールとして、仮想カメラ制御モジュール２２１と、視界領域決定モジュール２２２と、視界画像生成モジュール２２３と、基準視線特定モジュール２２４とを含む。仮想空間制御モジュール２３０は、サブモジュールとして、仮想空間定義モジュール２３１と、仮想オブジェクト制御モジュール２３２と、操作オブジェクト制御モジュール２３３とを含む。

ある実施の形態において、表示制御モジュール２２０と仮想空間制御モジュール２３０とは、プロセッサ１０によって実現される。別の実施の形態において、複数のプロセッサ１０が表示制御モジュール２２０と仮想空間制御モジュール２３０として作動してもよい。メモリモジュール２４０は、メモリ１１またはストレージ１２によって実現される。通信制御モジュール２５０は、通信インターフェース１４によって実現される。

ある局面において、表示制御モジュール２２０は、ＨＭＤ装置１１０のモニタ１１２における画像表示を制御する。仮想カメラ制御モジュール２２１は、仮想空間２に仮想カメラ１を配置し、仮想カメラ１の挙動、向き等を制御する。視界領域決定モジュール２２２は、ＨＭＤ装置１１０を装着したユーザの頭の向きに応じて、視界領域２３を規定する。視界画像生成モジュール２２３は、決定された視界領域２３に基づいて、モニタ１１２に表示される視界画像を生成する。また、視界画像生成モジュール２２３は、視界画像に含まれるアバター（あるいはプレイヤキャラクタ）等のキャラクタオブジェクト（詳しくは後述）の表示態様を決定する。基準視線特定モジュール２２４は、注視センサ１４０からの信号に基づいて、ユーザ１９０の視線を特定する。

仮想空間制御モジュール２３０は、ユーザ１９０に提供される仮想空間２を制御する。仮想空間定義モジュール２３１は、仮想空間２を表す仮想空間データを生成することにより、ＨＭＤシステム１００における仮想空間２を規定する。

仮想オブジェクト制御モジュール２３２は、後述するオブジェクト情報２４２に基づいて、仮想空間２に配置される対象オブジェクトを生成する。また、仮想オブジェクト制御モジュール２３２は、仮想空間２における対象オブジェクトおよびアバターの動作（移動および状態変化等）を制御する。対象オブジェクトは、例えば、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、動物等を含み得る。アバターは、ＨＭＤ装置１１０を装着したユーザに関連付けられたオブジェクト（キャラクタオブジェクト）である。

操作オブジェクト制御モジュール２３３は、仮想空間２に配置されるオブジェクトを操作するための操作オブジェクトを仮想空間２に配置する。ある局面において、操作オブジェクトは、例えば、ＨＭＤ装置１１０を装着したユーザの手に相当する手オブジェクト、ユーザの指に相当する指オブジェクト、ユーザが使用するスティックに相当するスティックオブジェクト等を含み得る。操作オブジェクトが指オブジェクトの場合、特に、操作オブジェクトは、当該指が指し示す方向（軸方向）の軸の部分に対応している。

チャット制御モジュール２３４は、同じ仮想空間２に滞在する他のユーザのアバターとチャットをするための制御を行う。例えば、チャット制御モジュール２３４は、ユーザのアバターの位置および向き等の情報、ならびにマイク１１８に入力された音声データをサーバ１５０に送信する。また、チャット制御モジュール２３４は、サーバ１５０から受信した他のユーザの音声データを図示しないスピーカに出力する。これにより、音声によるチャットが実現される。

仮想空間制御モジュール２３０は、仮想空間２に配置されるオブジェクトのそれぞれが、他のオブジェクトと衝突した場合に、当該衝突を検出する。仮想空間制御モジュール２３０は、例えば、あるオブジェクトと、別のオブジェクトとが触れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。仮想空間制御モジュール２３０は、オブジェクトとオブジェクトとが触れている状態から離れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。仮想空間制御モジュール２３０は、オブジェクトとオブジェクトとが触れている状態であることを検出することができる。具体的には、操作オブジェクト制御モジュール２３３は、操作オブジェクトと、他のオブジェクト（例えば、仮想オブジェクト制御モジュール２３２によって配置される対象オブジェクト）とが触れた時に、これら操作オブジェクトと他のオブジェクトとが触れたことを検出して、予め定められた処理を行う。

メモリモジュール２４０は、コンピュータ２００が仮想空間２をユーザ１９０に提供するために使用されるデータを保持している。ある局面において、メモリモジュール２４０は、空間情報２４１と、オブジェクト情報２４２と、ユーザ情報２４３とを保持している。空間情報２４１には、例えば、仮想空間２を提供するために規定された１つ以上のテンプレートが含まれている。オブジェクト情報２４２には、例えば、仮想空間２において再生されるコンテンツ、当該コンテンツで使用されるオブジェクトを配置するための情報等が含まれている。当該コンテンツは、例えば、ゲーム、現実社会と同様の風景を表したコンテンツ等を含み得る。オブジェクト情報２４２には、各オブジェクト（例えば、対象オブジェクトおよびアバター等）を描画するための描画情報も含まれている。また、オブジェクト情報２４２は、各オブジェクトに関連付けられた属性を示す属性情報も含み得る。対象オブジェクトの属性情報としては、例えば当該対象オブジェクトが可動物であるか固定物であるかを示す情報等が挙げられる。アバターの属性情報としては、アバターの役割およびレベル等を示す情報等が挙げられる。ユーザ情報２４３には、例えば、ＨＭＤシステム１００の制御装置としてコンピュータ２００を機能させるためのプログラム、オブジェクト情報２４２に保持される各コンテンツを使用するアプリケーションプログラム等が含まれている。また、ユーザ情報２４３は、ユーザに関連付けられた属性を示す属性情報も含み得る。ユーザの属性情報としては、ユーザの役職および役割等を示す情報等が挙げられる。

メモリモジュール２４０に格納されているデータおよびプログラムは、ＨＭＤ装置１１０のユーザによって入力される。あるいは、プロセッサ１０が、当該コンテンツを提供する事業者が運営するコンピュータ（例えば、サーバ１５０）からプログラムあるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール２４０に格納する。

通信制御モジュール２５０は、ネットワーク１９を介して、サーバ１５０その他の情報通信装置と通信し得る。

ある局面において、表示制御モジュール２２０および仮想空間制御モジュール２３０は、例えば、ユニティテクノロジーズ社によって提供されるＵｎｉｔｙ（登録商標）を用いて実現され得る。別の局面において、表示制御モジュール２２０および仮想空間制御モジュール２３０は、各処理を実現する回路素子の組み合わせとしても実現され得る。

コンピュータ２００における処理は、ハードウェアと、プロセッサ１０により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール２４０に予め格納されている場合がある。また、ソフトウェアは、ＣＤ−ＲＯＭその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール２５０を介してサーバ１５０その他のコンピュータからダウンロードされた後、メモリモジュール２４０に一旦格納される。そのソフトウェアは、プロセッサ１０によってメモリモジュール２４０から読み出され、実行可能なプログラムの形式でＲＡＭに格納される。プロセッサ１０は、そのプログラムを実行する。

図９に示されるコンピュータ２００を構成するハードウェアは、一般的なものである。したがって、本実施の形態に係る最も本質的な部分は、コンピュータ２００に格納されたプログラムであるともいえる。なお、コンピュータ２００のハードウェアの動作は周知であるので、詳細な説明は繰り返さない。

なお、データ記録媒体としては、ＣＤ−ＲＯＭ、ＦＤ（Flexible Disk）、ハードディスクに限られず、磁気テープ、カセットテープ、光ディスク（ＭＯ（Magnetic Optical Disc）／ＭＤ（Mini Disc）／ＤＶＤ（Digital Versatile Disc））、ＩＣ（Integrated Circuit）カード（メモリカードを含む）、光カード、マスクＲＯＭ、ＥＰＲＯＭ（Erasable Programmable Read-Only Memory）、ＥＥＰＲＯＭ（Electrically Erasable Programmable Read-Only Memory）、フラッシュＲＯＭなどの半導体メモリ等の固定的にプログラムを担持する不揮発性のデータ記録媒体でもよい。

ここでいうプログラムとは、プロセッサ１０により直接実行可能なプログラムだけでなく、ソースプログラム形式のプログラム、圧縮処理されたプログラム、暗号化されたプログラム等を含み得る。

［制御構造］
図１０を参照して、本実施の形態に係るコンピュータ２００の制御構造について説明する。図１０は、ユーザ１９０Ａ（第１ユーザ）によって使用されるＨＭＤシステム１００Ａがユーザ１９０Ａに仮想空間２を提供するために実行する処理を表すフローチャートである。

ステップＳ１において、コンピュータ２００のプロセッサ１０は、仮想空間定義モジュール２３１として、仮想空間画像データを特定し、仮想空間２を定義する。

ステップＳ２において、プロセッサ１０は、仮想カメラ制御モジュール２２１として、仮想カメラ１を初期化する。例えば、プロセッサ１０は、メモリのワーク領域において、仮想カメラ１を仮想空間２において予め規定された中心点に配置し、仮想カメラ１の視線をユーザ１９０が向いている方向に向ける。

ステップＳ３において、プロセッサ１０は、視界画像生成モジュール２２３として、初期の視界画像を表示するための視界画像データを生成する。生成された視界画像データは、視界画像生成モジュール２２３を介して通信制御モジュール２５０によってＨＭＤ装置１１０に送られる。

ステップＳ４において、ＨＭＤ装置１１０のモニタ１１２は、コンピュータ２００から受信した信号に基づいて、視界画像を表示する。ＨＭＤ装置１１０を装着したユーザ１９０は、視界画像を視認すると仮想空間２を認識し得る。

ステップＳ５において、ＨＭＤセンサ１２０は、ＨＭＤ装置１１０から発信される複数の赤外線光に基づいて、ＨＭＤ装置１１０の位置と傾きを検知する。検知結果は、動き検知データとして、コンピュータ２００に送られる。

ステップＳ６において、プロセッサ１０は、視界領域決定モジュール２２２として、ＨＭＤ装置１１０の位置と傾きとに基づいて、ＨＭＤ装置１１０を装着したユーザ１９０の視界方向を特定する。プロセッサ１０は、アプリケーションプログラムを実行し、アプリケーションプログラムに含まれる命令に基づいて、仮想空間２にオブジェクトを配置する。

ステップＳ７において、コントローラ１６０は、現実空間におけるユーザ１９０の操作を検出する。例えば、ある局面において、コントローラ１６０は、ユーザ１９０によってボタンが押下されたことを検出する。別の局面において、コントローラ１６０は、ユーザ１９０の両手の動作（たとえば、両手を振る等）を検出する。検出内容を示す信号は、コンピュータ２００に送られる。

ステップＳ８において、プロセッサ１０は、操作オブジェクト制御モジュール２３３として、コントローラ１６０から送られた検出内容を仮想空間２に反映する。具体的には、プロセッサ１０は、検出内容を示す信号に基づいて、仮想空間２における操作オブジェクト（例えば、アバターの手を表す手オブジェクト等）を動かす。また、プロセッサ１０は、操作オブジェクト制御モジュール２３３として、操作オブジェクトによる対象オブジェクトに対する予め定められた操作（例えば掴み操作等）を検知する。

ステップＳ９において、プロセッサ１０は、仮想オブジェクト制御モジュール２３２として、ユーザ１９０Ａ〜１９０Ｃに関連付けられた各アバターの動作を制御する。具体的には、プロセッサ１０は、仮想空間２を共有するユーザ１９０Ａ〜１９０Ｃの動き情報を取得する。ここで、他のユーザ１９０Ｂ，１９０Ｃの動き情報は、当該他のユーザ１９０Ｂ，１９０Ｃによって使用されるＨＭＤシステム１００Ｂ，１００Ｃから送られる情報（後述するプレイヤ情報）に含まれている。プロセッサ１０は、当該動き情報等に基づいて、各アバターの動作（すなわち、各ユーザに提供される視界画像におけるアニメーション等の表示態様）を決定する。

ステップＳ１０において、プロセッサ１０は、視界画像生成モジュール２２３として、ステップＳ８およびステップＳ９における処理の結果に基づく視界画像を表示するための視界画像データを生成し、生成した視界画像データをＨＭＤ装置１１０に出力する。

ステップＳ１１において、ＨＭＤ装置１１０のモニタ１１２は、受信した視界画像データに基づいて視界画像を更新し、更新後の視界画像を表示する。

図１１は、複数ユーザに共有される仮想空間２を模式的に表す図である。図１１に示される例では、ＨＭＤ装置１１０Ａを装着するユーザ１９０Ａ（第１ユーザ）に関連付けられたアバターＡ１（第１キャラクタオブジェクト）と、ＨＭＤ装置１１０Ｂを装着するユーザ１９０Ｂ（第２ユーザ）に関連付けられたアバターＡ２（第２キャラクタオブジェクト）と、ＨＭＤ装置１１０Ｃを装着するユーザ１９０Ｃに関連付けられたアバターＡ３とが、同一の仮想空間２に配置されている。このような複数ユーザに共通の仮想空間２によれば、各ユーザに対して、アバターＡ１〜Ａ３を介した他のユーザとのチャット等のコミュニケーション体験を提供することができる。

この例では、各アバターＡ１〜Ａ３は、動物（猫、熊、うさぎ）を模したキャラクタオブジェクトとして定義されている。アバターＡ１〜Ａ３は、ユーザの動きに連動して動作可能な部分として、頭部（顔の向き）、目（視線および瞬き等）、顔（表情）、および手を含んでいる。頭部は、ＨＭＤセンサ１２０等によって検出されたＨＭＤ装置１１０の動きに連動して動く部分である。目は、カメラ１１６および注視センサ１４０等によって検出されたユーザの目の動きおよび視線の変化に連動して動く部分である。顔は、後述するフェイストラッキングデータに基づいて決定される表情が反映される部分である。手は、モーションセンサ１３０等により検出されたユーザの手の動きに連動して動く部分である。また、アバターＡ１〜Ａ３は、頭部および手に付随して表示される胴体部および腕部とを含んでいる。なお、腰から下の脚部については動作制御が複雑となるため、アバターＡ１〜Ａ３は脚部を含んでいない。

アバターＡ１の視野は、ＨＭＤシステム１００Ａにおける仮想カメラ１の視野と一致している。これにより、ユーザ１９０Ａに対して、アバターＡ１の１人称視点における視界画像Ｍが提供される。すなわち、ユーザ１９０Ａに対して、あたかも自分がアバターＡ１として仮想空間２に存在しているかのような仮想体験が提供される。図１２は、ＨＭＤ装置１１０Ａを介してユーザ１９０Ａに提供される視界画像Ｍの一例を表す図である。ユーザ１９０Ｂ，１９０Ｃに対しても同様に、アバターＡ２，Ａ３の１人称視点における視界画像が提供される。

図１３は、上述した仮想空間におけるチャットを実現するためにＨＭＤシステム１００Ａ、ＨＭＤシステム１００Ｂ、ＨＭＤシステム１００Ｃ、およびサーバ１５０が実行する処理を表すシーケンス図である。

ステップＳ２１Ａにおいて、ＨＭＤシステム１００Ａにおけるプロセッサ１０は、チャット制御モジュール２３４として、仮想空間２におけるアバターＡ１の動作を決定するためのプレイヤ情報を取得する。このプレイヤ情報は、例えば、動き情報および音声データ等を含む。

動き情報（ここでは、ユーザ１９０Ａの動き情報）は、上述したアバターＡ１の複数の部分（本実施形態では一例として、頭部、目、顔、および手）の各々に対応するユーザ１９０Ａの身体の一以上の部分の動きを示す情報である。すなわち、動き情報は、例えば、ユーザ１９０Ａの頭部の動き（頭部の向き等）を示す情報、ユーザ１９０Ａの目の動き（視線の変化、瞬き等）を示す情報、ユーザ１９０Ａの顔の動き（表情の変化等）を示す情報、およびユーザ１９０Ａの手の動きを示す情報を含み得る。動き情報は、上記部分の位置および傾きを示す情報を含んで定義され得る。

頭部の動きを示す情報は、例えば、ＨＭＤセンサ１２０等により検出されたＨＭＤ装置１１０Ａの位置および傾きの時間的変化を示す情報（以下「向きデータ」）である。目の動きを示す情報は、例えばカメラ１１６および注視センサ１４０等によって検出された情報（以下「アイトラッキングデータ」）である。顔の動きを示す情報は、例えばＨＭＤ装置１１０Ａのカメラ１１６により取得された画像情報に対する画像解析処理によって生成されるフェイストラッキングデータである。ここで、フェイストラッキングデータは、ユーザ１９０Ａの顔の各パーツの位置および大きさの経時変化を表すデータである。手の動きを示す情報は、例えばモーションセンサ１３０等により検出されたユーザ１９０Ａの手の動きを示す情報（以下「ハンドトラッキングデータ」）である。動きを示す情報は、上記部分の位置および傾きを示す情報を含んで定義され得る。

音声データは、ＨＭＤ装置１１０Ａのマイク１１８によって取得されたユーザ１９０Ａの音声を示すデータである。また、プレイヤ情報には、アバターＡ１（あるいはアバターＡ１に関連付けられるユーザ１９０Ａ）を特定する情報（ユーザＩＤ等）、およびアバターＡ１が存在する仮想空間２を特定する情報（ルームＩＤ等）等が含まれてもよい。プロセッサ１０は、チャット制御モジュール２３４として、上述のように取得されたプレイヤ情報を、ネットワーク１９を介してサーバ１５０に送信する。

ステップＳ２１Ｂにおいて、ＨＭＤシステム１００Ｂにおけるプロセッサ１０は、ステップＳ２１Ａにおける処理と同様に、仮想空間２におけるアバターＡ２の動作を決定するためのプレイヤ情報を取得し、サーバ１５０に送信する。同様に、ステップＳ２１Ｃにおいて、ＨＭＤシステム１００Ｃにおけるプロセッサ１０は、仮想空間２におけるアバターＡ３の動作を決定するためのプレイヤ情報を取得し、サーバ１５０に送信する。

ステップＳ２２において、サーバ１５０は、ＨＭＤシステム１００Ａ、ＨＭＤシステム１００Ｂ、およびＨＭＤシステム１００Ｃのそれぞれから受信したプレイヤ情報を一旦記憶する。サーバ１５０は、各プレイヤ情報に含まれるユーザＩＤおよびルームＩＤ等に基づいて、共通の仮想空間２に関連付けられた全ユーザ（この例では、ユーザ１９０Ａ〜１９０Ｃ）のプレイヤ情報を統合する。そして、サーバ１５０は、予め定められたタイミングで、統合したプレイヤ情報を当該仮想空間２に関連付けられた全ユーザに送信する。これにより、同期処理が実行される。このような同期処理により、ＨＭＤシステム１００Ａ、ＨＭＤシステム１００Ｂ、およびＨＭＤシステム１００Ｃは、互いのプレイヤ情報をほぼ同じタイミングで共有することができる。

続いて、サーバ１５０から各ＨＭＤシステム１００Ａ〜１００Ｃに送信されたプレイヤ情報に基づいて、各ＨＭＤシステム１００Ａ〜１００Ｃは、ステップＳ２３Ａ〜Ｓ２３Ｃの処理を実行する。なお、ステップＳ２３Ａの処理は、図１０におけるステップＳ９の処理に相当する。

ステップＳ２３Ａにおいて、ＨＭＤシステム１００Ａにおけるプロセッサ１０は、仮想オブジェクト制御モジュール２３２として、仮想空間２におけるユーザ１９０Ａ〜１９０ＣのアバターＡ１〜Ａ３の動作を制御する。具体的には、プロセッサ１０は、ＨＭＤシステム１００Ｂから送信されたプレイヤ情報に含まれるユーザ１９０Ａ〜１９０Ｃの動き情報に基づいて、仮想空間２におけるアバターＡ１〜Ａ３の動作を制御する。ステップＳ２３ＢおよびＳ２３Ｃの処理は、ステップＳ２３Ａの処理と同様である。

［アバターの動作制御］
続いて、アバターの動作制御について詳しく説明する。上述の通り、ＨＭＤシステム１００Ａ，１００ＣとＨＭＤシステム１００Ｂとの間で、上述した動き情報の検知性能が異なる。具体的には、ＨＭＤシステム１００Ａ，１００Ｃは、上述した向きデータ、アイトラッキングデータ、フェイストラッキングデータ、およびハンドトラッキングデータを全て検知可能なスペックを有する。一方、ＨＭＤシステム１００Ｂは、向きデータおよびハンドトラッキングデータを検知可能であるが、アイトラッキングデータおよびフェイストラッキングデータを検知することができない。この場合、ＨＭＤシステム１００Ａ，１００Ｃから送られるプレイヤ情報には、上述した全ての種類の動き情報が含まれるのに対し、ＨＭＤシステム１００Ｂから送られるプレイヤ情報には、アイトラッキングデータおよびフェイストラッキングデータが含まれない。

このような場合、ユーザ１９０Ａ，１９０ＣのアバターＡ１，Ａ３については、当該ユーザ１９０Ａ，１９０Ｃについて取得された全ての種類の動き情報に基づいて、当該ユーザ１９０Ａ，１９０Ｃの動きを反映させることができる。具体的には、プロセッサ１０は、ユーザ１９０Ａ，１９０Ｃの向きデータに基づいてアバターＡ１，Ａ３の頭部の向きを変化させることができる。プロセッサ１０は、ユーザ１９０Ａ，１９０Ｃのアイトラッキングデータに基づいてアバターＡ１，Ａ３の視線を変化させたり、アバターＡ１，Ａ３に瞬きさせたりすることができる。プロセッサ１０は、ユーザ１９０Ａ，１９０Ｃのフェイストラッキングデータに基づいてアバターＡ１，Ａ３の顔の表情を変化させることができる。プロセッサ１０は、ユーザ１９０Ａ，１９０Ｃのハンドトラッキングデータに基づいてアバターＡ１，Ａ３の手を動かすことができる。

一方、ユーザ１９０ＢのアバターＡ２については、ユーザ１９０Ｂのプレイヤ情報においてアイトラッキングデータおよびフェイストラッキングデータが欠落していることにより、ユーザ１９０Ｂの顔の動き（表情）および目の動き（視線および瞬き等）を反映させることができない。このように、端末間のスペック差に起因して、アバター間で表現可能な動きの種類等に差が生じると、ユーザ間の円滑な対話が困難となり得る。そこで、ＨＭＤシステム１００（ここではユーザ１９０Ａに利用されるＨＭＤシステム１００Ａ）におけるプロセッサ１０は、以下のようなアバターＡ２の動作制御を実行する。

図１４を参照して、アバターＡ２の動作制御のための処理の一例について説明する。図１４に示される処理は、図１０におけるステップＳ９および図１３におけるステップＳ２３Ａの処理の一部に相当する。

ステップＳ９１において、プロセッサ１０は、ユーザ１９０Ａ〜１９０Ｃの動き情報を取得する。例えば、プロセッサ１０は、同期処理（図１３におけるステップＳ２２）の後にサーバ１５０から送信されたプレイヤ情報から各ユーザ１９０Ａ〜１９０Ｃの動き情報を抽出する。なお、ユーザ１９０Ａの動き情報は、ＨＭＤシステム１００Ａからサーバ１５０に送るためのプレイヤ情報を生成する際（図１３におけるステップＳ２１Ａ）に取得されてもよい。ここでは、プロセッサ１０は、ユーザ１９０Ａ，１９０Ｃの各々の向きデータ、アイトラッキングデータ、フェイストラッキングデータ、およびハンドトラッキングデータとユーザ１９０Ｂの向きデータおよびハンドトラッキングデータを取得する。

ステップＳ９２において、プロセッサ１０は、アバターＡ２の複数の部分（頭部、目、顔、および手）のうち、対応するユーザ１９０Ｂの身体の部分の動きを示す情報が取得されている第１部分と、対応するユーザ１９０Ｂの身体の部分の動きを示す情報が取得されていない第２部分とを特定する。ここでは、ユーザ１９０Ｂの頭部および手の動きを示す情報（向きデータおよびハンドトラッキングデータ）が取得されているため、プロセッサ１０は、アバターＡ２の頭部および手を第１部分として特定する。一方、ユーザ１９０Ｂのアイトラッキングデータおよびフェイストラッキングデータが取得されていないため、プロセッサ１０は、アバターＡ２の目および顔を第２部分として特定する。

ステップＳ９３において、プロセッサ１０は、アバターＡ２の第２部分が目を含むか否かを判定する。ここでは、判定結果は“ＹＥＳ”となるため、プロセッサ１０は、アバターＡ２の目を動作させるために、後述するステップＳ９４〜Ｓ９７の処理を実行する。一方、仮にアバターＡ２の第２部分が目を含まない場合（すなわち、ユーザ１９０Ｂのアイトラッキングデータが取得されている場合）には、プロセッサ１０は、ステップＳ９４〜Ｓ９７の処理を省略する。

ステップＳ９４において、プロセッサ１０は、ユーザ１９０Ａ〜１９０Ｃの各々に関連付けられたアバターＡ１〜Ａ３の優先順位を決定する。アバターの優先順位は、例えばアバターに予め関連付けられている属性に基づいて決定される。アバターの属性は、例えばオブジェクト情報２４２の一部としてメモリモジュール２４０に格納されている。アバターの属性は、例えば、アバターの影響力の大きさを示すレベル、およびアバターの役割（例えば、仮想空間２内で発表等を行うプレゼンター等）等である。例えば、プロセッサ１０は、レベルが高い程優先順位が高くなるように、アバターの優先順位を決定してもよい。また、プロセッサ１０は、役割（属性）毎に予め定められた優先度に基づいて、アバターの優先順位を決定してもよい。あるいは、プロセッサ１０は、仮想空間２におけるアバターＡ２との距離が小さい程優先順位が高くなるように、アバターの優先順位を決定してもよい。ここでは一例として、アバターＡ２との距離が最も小さいアバターＡ３の優先順位が最も高く決定されるものとする。

ステップＳ９５において、プロセッサ１０は、アバターＡ２の第２部分である目の動き（視線方向）を決定するための補助情報を生成する。ここでは一例として、プロセッサ１０は、ステップＳ９４において決定された優先順位が最も高いアバター（ここではアバターＡ３）の目または手の動き（すなわち、ユーザ１９０Ｃのアイトラッキングデータまたはハンドトラッキングデータに基づいて決定される目または手の動き）に基づいて、補助情報を生成する。例えば、プロセッサ１０は、ユーザ１９０Ｃのアイトラッキングデータに基づいて決定されるアバターＡ３の視線方向に基づいて、仮想空間２においてアバターＡ３の視線の先にある注目点を特定し、当該注目点の情報（位置情報）を補助情報として生成する。例えば、アバターＡ３の視線の先にオブジェクト（例えば、鳥等の対象オブジェクト）が存在する場合、プロセッサ１０は、当該オブジェクトの座標を注目点として決定してもよい。一方、アバターＡ３の視線の先にオブジェクトが存在しない場合、プロセッサ１０は、アバターＡ３の視線と天球状の仮想空間画像２２（図４参照）との交差位置を注目点として決定してもよい。あるいは、プロセッサ１０は、アバターＡ３の視線と予め定められた基準平面（例えば仮想空間２における地面）とが交差する場合には、その交差位置を注目点として決定してもよい。

ステップＳ９６において、プロセッサ１０は、補助情報に基づいて決定される視線方向が、アバターＡ２の視界に含まれるか否かを判定する。ここで、「補助情報に基づいて決定される視線方向」とは、アバターＡ２の視線を注目点に向けた場合のアバターＡ２の視線方向である。このような視線方向は、例えば、アバターＡ２の目の位置と注目点の位置とに基づいて決定される。また、「アバターＡ２の視界」とは、アバターＡ２の顔の向き（仮想カメラ１の向き）と基準視線５とに基づいて定義される範囲を意味する。例えば、プロセッサ１０は、ユーザ１９０Ｂの向きデータに基づいて決定されるアバターＡ２の顔の向きに基づいて、アバターＡ２の視界（視野）を特定する。

ここで、仮に補助情報に基づいて決定される視線方向がアバターＡ２の視界に含まれない場合（例えば当該視線方向がアバターＡ２の顔の向きとは反対方向である場合）に、当該視線方向をアバターＡ２の視線方向にしてしまうと、アバターＡ２の目の部分が白目状態になるという事態が生じ得る。そこで、補助情報に基づいて決定される視線方向がアバターＡ２の視界に含まれない場合（ステップＳ９６：ＮＯ）、プロセッサ１０は、ステップＳ９７の処理をスキップする。一方、補助情報に基づいて決定される視線方向がアバターＡ２の視界に含まれる場合（ステップＳ９６：ＹＥＳ）、プロセッサ１０は、ステップＳ９７の処理を実行する。

ステップＳ９７において、プロセッサ１０は、補助情報に基づいて決定される視線方向を向くように（すなわち、アバターＡ２の視線方向が補助情報に基づいて決定される視線方向と一致するように）、アバターＡ２の目を動作させる。これにより、仮想空間２において、アバターＡ２は、アバターＡ３と同様に注目点を見ているように表現される。

ステップＳ９８において、プロセッサ１０は、ユーザ１９０Ｂの動き情報（向きデータおよびハンドトラッキングデータ）に基づいて、アバターＡ２の第１部分（頭部および手）を動作させる。

なお、上述の処理フローは一例であり、アバターＡ２の動作制御の処理手順はこの例に限定されない。例えば、プロセッサ１０は、上述のステップの一部を省略してもよいし、別の順序で各ステップの処理を実行してもよい。また、任意の２以上のステップが組み合わされてもよいし、ステップの一部が修正または削除されてもよい。あるいは、プロセッサ１０は、上述のステップに加えて他のステップを実行してもよい。

図１５は、上述のアバターＡ２の動作制御の結果を表す図である。図１６は、図１５に示される仮想空間２においてユーザ１９０Ａに提供される視界画像Ｍの一例を表す図である。上述の制御によれば、ステップＳ９５において、アバターＡ３の視線方向Ｅ１（またはアバターＡ３が指差す方向Ｈ）に基づいて、アバターＡ３の視線（または指）の先に位置するオブジェクトＰ（ここでは、星）の座標が注目点として特定される。そして、当該注目点の位置情報が、補助情報として生成される。その結果、図１５に示されるように、ステップＳ９７において、アバターＡ２の視線方向Ｅ２がオブジェクトＰを向くように、アバターＡ２の目の動作が制御される。これにより、図１６に示されるように、ユーザ１９０Ａに提供される視界画像Ｍにおいて、アバターＡ２の目は、アバターＡ３と同様に上方のオブジェクトＰを見上げているように表現される。

次に、アバターの動作制御の他の例について説明する。上記例では、アバターＡ２の視線方向が制御されたが、アバターＡ２の瞬き動作が制御されてもよい。この場合、図１４におけるステップＳ９５およびＳ９６の代わりに、プロセッサ１０は、優先順位の最も高いアバターＡ３の目の動きに基づいて、アバターＡ２に瞬きをさせるタイミングを決定するための補助情報を生成してもよい。そして、図１４におけるステップＳ９７の代わりに、プロセッサ１０は、当該補助情報に基づいて決定されるタイミングでアバターＡ２に瞬きをさせてもよい。例えば、プロセッサ１０は、所定期間におけるユーザ１９０Ｃのアイトラッキングデータに基づいて、ユーザ１９０Ｃ（すなわちアバターＡ３）の瞬きの頻度（あるいは平均間隔）等を算出する。そして、プロセッサ１０は、算出された瞬きの頻度等に基づいて、アバターＡ２に瞬きをさせるタイミングを決定してもよい。あるいは、プロセッサ１０は、アバターＡ３が瞬きをした後、予め定められた時間の経過後にアバターＡ２に瞬きをさせるようにタイミングを決定してもよい。これによれば、アバターＡ２とアバターＡ３とが完全に同時に瞬きをするという不自然な動作を排除しつつ、簡易な制御によってアバターＡ２の自然な瞬き動作を実現することができる。

以上、本開示の実施形態について説明したが、本発明の技術的範囲は、本実施形態の説明によって限定的に解釈されるべきではない。本実施形態は一例であって、特許請求の範囲に記載された発明の範囲内において、様々な実施形態の変更が可能であることが当業者によって理解されるところである。本発明の技術的範囲は、特許請求の範囲に記載された発明の範囲およびその均等の範囲に基づいて定められるべきである。

例えば、本実施形態ではアバターＡ２の目の動作を、取得できなかったユーザ１９０Ｂのアイトラッキングデータの代わりとなる補助情報に基づいて制御する例について説明したが、制御対象となる部分は目に限られない。例えば、プロセッサ１０は、ユーザ１９０Ｃのフェイストラッキングデータに基づいて、アバターＡ２の第２部分である顔の動き（表情）を制御してもよい。また、アバターＡ２の第２部分に手が含まれる場合、プロセッサ１０は、例えばユーザ１９０Ｃのハンドトラッキングデータに基づいて決定される手の動き（例えば拍手等）をアバターＡ３に実行させてもよい。このような制御によれば、ユーザの動き情報の検知性能が低い端末（ＨＭＤシステム）を利用するユーザに関連付けられたアバターの仮想空間２における動作を、より自然なものにすることが可能となる。

また、本実施形態では、最も優先順位が高いアバターＡ３の動き（すなわち、ユーザ１９０Ｃの動き情報）に基づいてアバターＡ２の第２部分の目の動作（ここでは視線方向）を規定するための補助情報を生成する例について説明したが、補助情報は、複数のユーザの動き情報に基づいて生成されてもよい。例えば、同じ仮想空間２を共有する予め定められた数以上のアバターが同一の対象を見ている（あるいは指差している）場合に、プロセッサ１０は、当該対象の位置情報を補助情報として生成してもよい。この場合、アイトラッキングデータが取得できなかったユーザ１９０Ｂも、複数の他ユーザがアバターを介して見ている対象と同じ対象を見ている可能性が高いという考えに基づいて、アバターＡ２の目の動きを制御することが可能となる。

また、例えば、仮想空間２内における役割（例えば発表者等）等がアバターではなくユーザに関連付けられており、アバターは単なるコスチュームとして機能する場合等があり得る。このような場合には、プロセッサ１０は、アバター間の優先順位を決定する代わりに、ユーザに関連付けられた属性情報に基づいてユーザ間の優先順位を決定し、優先順位が高いユーザの動き情報に基づいて補助情報を生成してもよい。ここで、ユーザに関連付けられた属性情報は、例えばユーザ情報２４３の一部としてメモリモジュール２４０に格納されている。

また、プロセッサ１０は、アバターＡ２の第２部分（ここでは目）の動作を規定するための補助情報を、アバターＡ２の第１部分の動き情報（すなわち、ユーザ１９０Ｂについて取得された動き情報）に基づいて生成してもよい。例えば、ユーザ１９０Ｂが特定の場所を指差す動きをしている場合、プロセッサ１０は、ユーザ１９０Ｂのハンドトラッキングデータに基づいて、仮想空間２においてユーザ１９０ＢのアバターＡ２が指差す対象を特定し、当該対象を向くようにアバターＡ２の視線方向を決定してもよい。

また、プロセッサ１０は、予め定められた動作データを補助情報として取得してもよい。例えば、プロセッサ１０は、仮想空間２に関連付けられた環境パラメータ（例えば、湿度等）に応じて定められる瞬き動作のタイミング（間隔等）の情報を、アバターＡ２の瞬き動作を規定するための補助情報として取得してもよい。

また、上述のアバターの動作制御に関する処理（図１４参照）は、視界画像Ｍに含まれるアバターについてのみ実行されてもよい。これにより、視界画像Ｍに含まれないアバターに関する制御のための処理を削減することができる。なお、視界画像Ｍにアバターが含まれるか否かは、例えば、ステップＳ６（図１０参照）において特定される視界方向に基づいて定められる視界領域２３にアバターが含まれるか否かによって判定される。

また、アバターの動作制御に関する処理（図１４参照）は、サーバ１５０によって実行されてもよいし、コンピュータ２００（プロセッサ１０）とサーバ１５０とによって分散して実行されてもよい。例えば、サーバ１５０は、同期処理（図１３におけるステップＳ２２）において、図１４におけるステップＳ９１〜Ｓ９５に相当する処理を実行してもよい。この場合、アバターＡ２の第２部分の動作を規定するための補助情報は、サーバ１５０によって生成され、各ユーザ１９０Ａ〜１９０ＣのＨＭＤシステム１００に送信される。このように、サーバ１５０で補助情報を生成する構成によれば、各ＨＭＤシステム１００において補助情報を生成する処理を省略することができ、各ＨＭＤシステム１００の処理量を削減することができる。

本明細書に開示された主題は、例えば、以下のような項目として示される。
（項目１）
ヘッドマウントディスプレイ（ＨＭＤ装置１１０Ａ）を介して第１ユーザ（ユーザ１９０Ａ）に仮想空間２を提供するためにコンピュータ（コンピュータ２００またはサーバ１５０）によって実行される情報処理方法であって、
前記第１ユーザに関連付けられた第１キャラクタオブジェクト（アバターＡ１）と、第２ユーザ（ユーザ１９０Ｂ）に関連付けられた第２キャラクタオブジェクト（アバターＡ２）と、前記第１ユーザに提供される視界画像Ｍを定義する仮想カメラ１とを含む仮想空間２を定義する仮想空間データを生成するステップ（例えば図１０のＳ１）と、
前記第２ユーザの身体の一以上の部分の動きを示す動き情報を取得するステップ（例えば図１４のＳ９１）と、
前記第２キャラクタオブジェクトの複数の部分のうち、対応する前記第２ユーザの身体の部分の動きを示す情報が取得されている第１部分（本実施形態では頭部および手）と、対応する前記第２ユーザの身体の部分の動きを示す情報が取得されていない第２部分（本実施形態では目および顔）とを特定するステップ（例えば図１４のＳ９２）と、
前記第２部分の少なくとも一部の動作を規定するための補助情報を取得するステップ（例えば図１４のＳ９５）と、
前記視界画像Ｍに前記第２キャラクタオブジェクトが含まれる場合に、前記視界画像Ｍにおいて、前記動き情報に基づいて前記第１部分を動作させ、前記補助情報に基づいて前記第２部分の少なくとも一部を動作させるステップ（例えば図１４のＳ９８）と、
を含む、情報処理方法。
本項目の情報処理方法によれば、第２ユーザの動き情報が取得されなかった部分に対応するアバターの部分（第２部分の少なくとも一部）を、補助情報に基づいて動作させることができる。これにより、仮想空間２におけるアバター（キャラクタオブジェクト）のより自然な動作を実現することにより、ユーザ間の対話をより円滑にし得る。
（項目２）
前記第１ユーザを含む前記仮想空間を共有する複数のユーザのうち前記第２ユーザ以外の他ユーザ（本実施形態では、ユーザ１９０Ａ，１９０Ｃ）の身体の動きを示す他ユーザ動き情報を取得するステップ（例えば図１４のＳ９１）を更に含み、
前記補助情報を取得するステップにおいて、前記動き情報および前記他ユーザ動き情報の少なくとも一方に基づいて、前記補助情報を生成する、
項目１の情報処理方法。
本項目の情報処理方法によれば、取得できた動き情報（第２ユーザ自身の動き情報または第２ユーザ以外のユーザの動き情報）に基づいて、補助情報を適切に生成し得る。
（項目３）
前記複数のユーザ、または前記複数のユーザの各々に関連付けられたキャラクタオブジェクトの優先順位を決定するステップ（例えば図１４のＳ９４）を更に含み、
前記補助情報を取得するステップにおいて、前記動き情報および前記他ユーザ動き情報のうちから、前記補助情報を生成するために用いる情報を前記優先順位に基づいて選択し、選択された情報に基づいて前記補助情報を生成する、
項目２の情報処理方法。
本項目の情報処理方法によれば、アバター間あるいはユーザ間の優先順位に基づいて、補助情報を適切に生成し得る。
（項目４）
前記第２部分が前記第２キャラクタオブジェクトの目を含む場合に、
前記他ユーザ動き情報を取得するステップにおいて、前記他ユーザの目または手の動きを示す前記他ユーザ動き情報を取得し、
前記補助情報を取得するステップにおいて、前記他ユーザの目または手の動きに基づいて、前記第２キャラクタオブジェクトの視線方向を決定するための前記補助情報を生成し、
前記動作させるステップにおいて、前記補助情報に基づいて決定される視線方向を向くように前記第２キャラクタオブジェクトの目を動作させる、
項目２または３の情報処理方法。
本項目の情報処理方法によれば、第２ユーザの目の動きを示す情報（アイトラッキングデータ）を取得できなかった場合に、第２ユーザの目の動き（視線方向）を他ユーザの目または手の動きに基づいて適切に制御し得る。
（項目５）
前記動作させるステップにおいて、前記第２キャラクタオブジェクトの顔の向きに基づいて前記第２キャラクタオブジェクトの視界を特定し、前記補助情報に基づいて決定される視線方向が前記視界に含まれる場合に、前記視線方向を向くように前記第２キャラクタオブジェクトの目を動作させ、前記視線方向が前記視界に含まれない場合に、前記視線方向を向くように前記第２キャラクタオブジェクトの目を動作させない、
項目５の情報処理方法。
本項目の情報処理方法によれば、補助情報に基づいて決定される視界方向と第２キャラクタオブジェクトの視界との関係に基づいて、第２キャラクタオブジェクトの目の動作を適切に制御し得る。
（項目６）
前記第２部分が前記第２キャラクタオブジェクトの目を含む場合に、
前記他ユーザ動き情報を取得するステップにおいて、前記他ユーザの目の動きを示す前記ユーザ動き情報を取得し、
前記補助情報を取得するステップにおいて、前記他ユーザの目の動きに基づいて、前記第２キャラクタオブジェクトに瞬きをさせるタイミングを決定するための前記補助情報を生成し、
前記動作させるステップにおいて、前記補助情報に基づいて決定されるタイミングで前記第２キャラクタオブジェクトに瞬きをさせる、
項目２〜５のいずれかの情報処理方法。
本項目の情報処理方法によれば、第２ユーザの目の動きを示す情報（アイトラッキングデータ）を取得できなかった場合に、第２ユーザの目の動き（瞬き動作）を他ユーザの目の動きに基づいて適切に制御し得る。
（項目７）
項目１〜６のいずれかの情報処理方法をコンピュータに実行させる、プログラム。
（項目８）
項目７のプログラムを格納したメモリと、
前記メモリに結合され、前記プログラムを実行するためのプロセッサとを備える、装置。

１…仮想カメラ、２…仮想空間、５…基準視線、１０…プロセッサ、１１…メモリ、１２…ストレージ、１３…入出力インターフェース、１４…通信インターフェース、１５…バス、１９…ネットワーク、２１…中心、２２…仮想空間画像、２３…視界領域、２４，２５…領域、３１…フレーム、３２…天面、３３，３４，３６，３７…ボタン、３５…赤外線ＬＥＤ、３８…アナログスティック、１００，１００Ａ，１００Ｂ，１００Ｃ…ＨＭＤシステム、１１０，１１０Ａ，１１０Ｂ，１１０Ｃ…ＨＭＤ装置、１１２…モニタ、１１４…センサ、１１６…カメラ、１１８…マイク、１２０…ＨＭＤセンサ、１３０…モーションセンサ、１４０…注視センサ、１５０…サーバ、１６０…コントローラ、１６０Ｒ…右コントローラ、１９０，１９０Ａ，１９０Ｂ，１９０Ｃ…ユーザ、２００…コンピュータ、２２０…表示制御モジュール、２２１…仮想カメラ制御モジュール、２２２…視界領域決定モジュール、２２３…視界画像生成モジュール、２２４…基準視線特定モジュール、２３０…仮想空間制御モジュール、２３１…仮想空間定義モジュール、２３２…仮想オブジェクト制御モジュール、２３３…操作オブジェクト制御モジュール、２３４…チャット制御モジュール、２４０…メモリモジュール、２４１…空間情報、２４２…オブジェクト情報、２４３…ユーザ情報、２５０…通信制御モジュール、８１０…右手、Ａ１，Ａ２，Ａ３…アバター、Ｍ…視界画像。

Claims (9)

1. ヘッドマウントディスプレイを介して第１ユーザに仮想空間を提供するためにコンピュータによって実行される情報処理方法であって、
   前記第１ユーザに関連付けられた第１キャラクタオブジェクトと、第２ユーザに関連付けられた第２キャラクタオブジェクトと、前記第１ユーザに提供される視界画像を定義する仮想カメラとを含む仮想空間を定義する仮想空間データを生成するステップと、
   前記第２ユーザの身体の一以上の部分の動きを示す動き情報を取得するステップと、
   前記動き情報が取得され得る前記第２ユーザの身体の複数の部分に対応する前記第２キャラクタオブジェクトの複数の部分のうち、前記動き情報が取得されている前記第２ユーザの身体の一以上の部分に対応する前記第２キャラクタオブジェクトの一以上の部分である第１部分と、前記動き情報が取得され得る前記第２ユーザの身体の複数の部分に対応する前記第２キャラクタオブジェクトの複数の部分のうち、前記動き情報が取得されていない前記第２ユーザの身体の部分に対応する前記第２キャラクタオブジェクトの部分である第２部分と、を特定するステップと、
   前記第２部分の少なくとも一部の動作を規定するための補助情報を取得するステップと、
   前記動き情報に基づいて前記第１部分を動作させると同時に、前記補助情報に基づいて前記第２部分の少なくとも一部を動作させるステップと、
   を含む、情報処理方法。
2. 前記第１ユーザを含む前記仮想空間を共有する複数のユーザのうち前記第２ユーザ以外の他ユーザの身体の動きを示す他ユーザ動き情報を取得するステップを更に含み、
   前記補助情報を取得するステップにおいて、前記動き情報および前記他ユーザ動き情報の少なくとも一方に基づいて、前記補助情報を生成する、
   請求項１に記載の情報処理方法。
3. ヘッドマウントディスプレイを介して第１ユーザに仮想空間を提供するためにコンピュータによって実行される情報処理方法であって、
   前記第１ユーザに関連付けられた第１キャラクタオブジェクトと、第２ユーザに関連付けられた第２キャラクタオブジェクトと、前記第１ユーザに提供される視界画像を定義する仮想カメラとを含む仮想空間を定義する仮想空間データを生成するステップと、
   前記第２ユーザの身体の一以上の部分の動きを示す動き情報を取得するステップと、
   前記第２キャラクタオブジェクトの複数の部分のうち、対応する前記第２ユーザの身体の部分の動きを示す情報が取得されている第１部分と、対応する前記第２ユーザの身体の部分の動きを示す情報が取得されていない第２部分とを特定するステップと、
   前記第２部分の少なくとも一部の動作を規定するための補助情報を取得するステップと、
   前記視界画像に前記第２キャラクタオブジェクトが含まれる場合に、前記視界画像において、前記動き情報に基づいて前記第１部分を動作させ、前記補助情報に基づいて前記第２部分の少なくとも一部を動作させるステップと、
   を含み、
   前記第１ユーザを含む前記仮想空間を共有する複数のユーザのうち前記第２ユーザ以外の他ユーザの身体の動きを示す他ユーザ動き情報を取得するステップを更に含み、
   前記補助情報を取得するステップにおいて、前記動き情報および前記他ユーザ動き情報の少なくとも一方に基づいて、前記補助情報を生成する、情報処理方法。
4. 前記複数のユーザ、または前記複数のユーザの各々に関連付けられたキャラクタオブジェクトの優先順位を決定するステップを更に含み、
   前記補助情報を取得するステップにおいて、前記動き情報および前記他ユーザ動き情報のうちから、前記補助情報を生成するために用いる情報を前記優先順位に基づいて選択し、選択された情報に基づいて前記補助情報を生成する、
   請求項２又は３に記載の情報処理方法。
5. 前記第２部分が前記第２キャラクタオブジェクトの目を含む場合に、
   前記他ユーザ動き情報を取得するステップにおいて、前記他ユーザの目または手の動きを示す前記他ユーザ動き情報を取得し、
   前記補助情報を取得するステップにおいて、前記他ユーザの目または手の動きに基づいて、前記第２キャラクタオブジェクトの視線方向を決定するための前記補助情報を生成し、
   前記動作させるステップにおいて、前記補助情報に基づいて決定される視線方向を向くように前記第２キャラクタオブジェクトの目を動作させる、
   請求項２〜４のいずれか一項に記載の情報処理方法。
6. 前記動作させるステップにおいて、前記第２キャラクタオブジェクトの顔の向きに基づいて前記第２キャラクタオブジェクトの視界を特定し、前記補助情報に基づいて決定される視線方向が前記視界に含まれる場合に、前記視線方向を向くように前記第２キャラクタオブジェクトの目を動作させ、前記視線方向が前記視界に含まれない場合に、前記視線方向を向くように前記第２キャラクタオブジェクトの目を動作させない、
   請求項５に記載の情報処理方法。
7. 前記第２部分が前記第２キャラクタオブジェクトの目を含む場合に、
   前記他ユーザ動き情報を取得するステップにおいて、前記他ユーザの目の動きを示す前記他ユーザ動き情報を取得し、
   前記補助情報を取得するステップにおいて、前記他ユーザの目の動きに基づいて、前記第２キャラクタオブジェクトに瞬きをさせるタイミングを決定するための前記補助情報を生成し、
   前記動作させるステップにおいて、前記補助情報に基づいて決定されるタイミングで前記第２キャラクタオブジェクトに瞬きをさせる、
   請求項２〜６のいずれか一項に記載の情報処理方法。
8. 請求項１〜７のいずれか一項に記載の情報処理方法をコンピュータに実行させるための、プログラム。
9. 請求項８に記載のプログラムを格納したメモリと、
   前記メモリに結合され、前記プログラムを実行するためのプロセッサとを備える、コンピュータ。