JP2019020836A - 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム - Google Patents

Abstract

【課題】ユーザに多様な体験を提供し得る情報処理方法を提供する。【解決手段】表示部を備えるヘッドマウントデバイスを介してユーザに仮想空間を提供する情報処理方法は、対象オブジェクトを含む仮想空間を規定する仮想空間データを生成するステップと、ユーザの身体の一部である第１部分及び第２部分の動きを検出するステップと、第１部分及び第２部分の動きに応じて仮想空間において第１操作オブジェクト及び第２操作オブジェクトを動かすステップと、対象オブジェクトに対する操作モードが、第１及び第２操作オブジェクトのいずれか一方によって操作される第１モードか、双方によって操作される第２モードかを各オブジェクトの位置関係に基づいて判断するステップと、操作モードに応じて異なる操作により対象オブジェクトの挙動を制御するステップと、視界画像を表示部に表示させるステップとを含む。【選択図】図１２

Description

本発明は、情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラムに関する。

非特許文献１は、ユーザの手の状態に応じて仮想空間における手オブジェクトを制御し、仮想空間に配置されたオブジェクトを手オブジェクトにより把持させることを開示している。

"Ｔｏｙｂｏｘ Ｄｅｍｏ ｆｏｒ Ｏｃｕｌｕｓ Ｔｏｕｃｈ"、［ｏｎｌｉｎｅ］、平成２７年１０月１３日、Ｏｃｕｌｕｓ、［平成２９年５月１７日検索］、インターネット＜ｈｔｔｐｓ：／／ｗｗｗ．ｙｏｕｔｕｂｅ．ｃｏｍ／ｗａｔｃｈ？ｖ＝ｉＦＥＭｉｙＧＭａ５８＞

仮想空間におけるユーザの操作によるオブジェクトの制御においては、その制御の多様化により、より多様な体験をユーザに提供することが求められている。

そこで、本開示は、ユーザに多様な体験を提供し得る情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラムを提供することを目的とする。

本開示が示す一態様によれば、表示部を備えるヘッドマウントデバイスを介してユーザに仮想空間を提供するためにコンピュータによって実行される情報処理方法が提供される。この情報処理方法は、ユーザによる操作の対象の対象オブジェクトを含む仮想空間を規定する仮想空間データを生成するステップと、ユーザの身体の一部である第１部分と第２部分の動きを検出するステップと、第１部分の動きに応じて仮想空間において第１操作オブジェクトを動かすステップと、第２部分の動きに応じて仮想空間において第２操作オブジェクトを動かすステップと、第１操作オブジェクトと、第２操作オブジェクトと、対象オブジェクトとの位置関係に基づいて、対象オブジェクトに対する操作モードが、第１操作オブジェクト及び第２操作オブジェクトのいずれか一方によって操作される第１モードか、第１操作オブジェクト及び第２操作オブジェクトの双方によって操作される第２モードか、を判断するステップと、操作モードが第１モードであるか第２モードであるかに応じて、第１操作オブジェクト及び第２操作オブジェクトの少なくとも一方の動きによる対象オブジェクトに対する操作を異ならせるように、対象オブジェクトの挙動を制御する、ステップと、ヘッドマウントデバイスの姿勢に応じた視界画像を表示部に表示させるステップと、を含む。

本開示によれば、ユーザに多様な体験を提供し得る情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラムを提供することが可能となる。

ある実施の形態に従うＨＭＤシステム１００の構成の概略を表す図である。 一局面に従うコンピュータ２００のハードウェア構成の一例を表すブロック図である。 ある実施の形態に従うＨＭＤ装置１１０に設定されるｕｖｗ視野座標系を概念的に表す図である。 ある実施の形態に従う仮想空間２を表現する一態様を概念的に表す図である。 ある実施の形態に従うＨＭＤ装置１１０を装着するユーザ１９０の頭部を上から表した図である。 仮想空間２において視界領域２３をＸ方向から見たＹＺ断面を表す図である。 仮想空間２において視界領域２３をＹ方向から見たＸＺ断面を表す図である。 ある実施の形態に従うコントローラ１６０の概略構成を表す図である。 ある実施の形態に従うコンピュータ２００をモジュール構成として表すブロック図である。 ある実施の形態に従うＨＭＤシステム１００Ａが実行する処理を表すフローチャートである。 ある実施の形態に従うＨＭＤ装置１１０上に表される視界画像３００の一例を表す図である。 ある実施の形態に従うオブジェクトの制御を表すフローチャートである。 ある実施の形態に従う対象オブジェクト４００の定義及び構成の例を表す図である。 図１３に示される対象オブジェクト４００の各部位ｂの間に定義されている階層を表す階層情報を模式的に示す図である。 ある実施の形態に従うＨＭＤ装置１１０上に表される視界画像３００の一例を表す図である。 ある実施の形態に従うＨＭＤ装置１１０上に表される視界画像３００の一例を表す図である。 第２モードにおける対象オブジェクト４００の変形の一例を表す図である。 第２モードにおける対象オブジェクト４００の変形の他の例を表す図である。 第２モードにおける対象オブジェクト４００の変形の他の例を表す図である。 ある実施の形態に従う対象オブジェクト４００の他の例を表す図である。

以下、図面を参照しつつ、本開示の実施の形態について説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。

［ＨＭＤシステムの構成］
図１を参照して、ＨＭＤ（Head Mount Device）システム１００の構成について説明する。図１は、ある実施の形態に従うＨＭＤシステム１００の構成の概略を表す図である。ある局面において、ＨＭＤシステム１００は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。

ＨＭＤシステム１００は、ＨＭＤ装置１１０（ヘッドマウントデバイス）と、ＨＭＤセンサ１２０と、コントローラ１６０と、コンピュータ２００とを備える。ＨＭＤ装置１１０は、ディスプレイ１１２（表示部）と、カメラ１１６と、マイク１１８と、注視センサ１４０とを含む。コントローラ１６０は、モーションセンサ１３０を含み得る。

ある局面において、コンピュータ２００は、インターネットその他のネットワーク１９に接続可能であり、ネットワーク１９に接続されているサーバ１５０その他のコンピュータと通信可能である。別の局面において、ＨＭＤ装置１１０は、ＨＭＤセンサ１２０の代わりに、センサ１１４を含み得る。

ＨＭＤ装置１１０は、ユーザ１９０の頭部に装着され、動作中に仮想空間をユーザに提供し得る。より具体的には、ＨＭＤ装置１１０は、右目用の画像および左目用の画像をディスプレイ１１２にそれぞれ表示する。ユーザの各目がそれぞれの画像を視認すると、ユーザは、両目の視差に基づき当該画像を３次元の画像として認識し得る。

ディスプレイ１１２は、例えば、非透過型の表示装置として実現される。ある局面において、ディスプレイ１１２は、ユーザの両目の前方に位置するようにＨＭＤ装置１１０の本体に配置されている。したがって、ユーザは、ディスプレイ１１２に表示される３次元画像を視認すると、仮想空間に没入することができる。ある実施の形態において、仮想空間は、例えば、背景、ユーザが操作可能なオブジェクト、およびユーザが選択可能なメニューの画像等を含む。ある実施の形態において、ディスプレイ１１２は、所謂スマートフォンその他の情報表示端末が備える液晶ディスプレイまたは有機ＥＬ（Electro-Luminescence）ディスプレイとして実現され得る。ディスプレイ１１２は、ＨＭＤ装置１１０の本体と一体に構成されてもよいし、別体として構成されてもよい。

ある局面において、ディスプレイ１１２は、右目用の画像を表示するためのサブディスプレイと、左目用の画像を表示するためのサブディスプレイとを含み得る。別の局面において、ディスプレイ１１２は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、ディスプレイ１１２は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。

カメラ１１６は、ＨＭＤ装置１１０を装着するユーザの顔画像を取得する。カメラ１１６によって取得された顔画像は、画像解析処理によってユーザの表情を検知するために使用され得る。カメラ１１６は、例えば、瞳の動き、まぶたの開閉、および眉毛の動き等を検知するために、ＨＭＤ装置１１０本体に内蔵された赤外線カメラであってもよい。あるいは、カメラ１１６は、ユーザの口、頬、および顎等の動きを検知するために、図１に示されるようにＨＭＤ装置１１０の外側に配置された外付けカメラであってもよい。また、カメラ１１６は、上述した赤外線カメラおよび外付けカメラの両方によって構成されてもよい。

マイク１１８は、ユーザが発した音声を取得する。マイク１１８によって取得された音声は、音声解析処理によってユーザの感情を検知するために使用され得る。当該音声は、仮想空間２に対して、音声による指示を与えるためにも使用され得る。また、当該音声は、ネットワーク１９およびサーバ１５０等を介して、他のユーザが使用するＨＭＤシステムに送られ、当該ＨＭＤシステムに接続されたスピーカ等から出力されてもよい。これにより、仮想空間を共有するユーザ間での会話（チャット）が実現される。

ＨＭＤセンサ１２０は、複数の光源（図示しない）を含む。各光源は例えば、赤外線を発するＬＥＤ（Light Emitting Diode）により実現される。ＨＭＤセンサ１２０は、ＨＭＤ装置１１０の動きを検出するためのポジショントラッキング機能を有する。ＨＭＤセンサ１２０は、この機能を用いて、現実空間内におけるＨＭＤ装置１１０の位置および傾きを検出する。

なお、別の局面において、ＨＭＤセンサ１２０は、カメラにより実現されてもよい。この場合、ＨＭＤセンサ１２０は、カメラから出力されるＨＭＤ装置１１０の画像情報を用いて、画像解析処理を実行することにより、ＨＭＤ装置１１０の位置および傾きを検出することができる。

別の局面において、ＨＭＤ装置１１０は、位置検出器として、ＨＭＤセンサ１２０の代わりに、センサ１１４を備えてもよい。ＨＭＤ装置１１０は、センサ１１４を用いて、ＨＭＤ装置１１０自身の位置および傾きを検出し得る。例えば、センサ１１４が角速度センサ、地磁気センサ、加速度センサ、あるいはジャイロセンサ等である場合、ＨＭＤ装置１１０は、ＨＭＤセンサ１２０の代わりに、これらの各センサのいずれかを用いて、自身の位置および傾きを検出し得る。一例として、センサ１１４が角速度センサである場合、角速度センサは、現実空間におけるＨＭＤ装置１１０の３軸周りの角速度を経時的に検出する。ＨＭＤ装置１１０は、各角速度に基づいて、ＨＭＤ装置１１０の３軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、ＨＭＤ装置１１０の傾きを算出する。また、ＨＭＤ装置１１０は、透過型表示装置を備えていてもよい。この場合、当該透過型表示装置は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可能であってもよい。また、視界画像は仮想空間を構成する画像の一部に、現実空間を提示する構成を含んでいてもよい。例えば、ＨＭＤ装置１１０に搭載されたカメラで撮影した画像を視界画像の一部に重畳して表示させてもよいし、当該透過型表示装置の一部の透過率を高く設定することにより、視界画像の一部から現実空間を視認可能にしてもよい。

注視センサ１４０は、ユーザ１９０の右目および左目の視線が向けられる方向（視線方向）を検出する。当該方向の検出は、例えば、公知のアイトラッキング機能によって実現される。注視センサ１４０は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ１４０は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ１４０は、例えば、ユーザ１９０の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ１４０は、検出した各回転角に基づいて、ユーザ１９０の視線方向を検知することができる。

サーバ１５０は、コンピュータ２００にプログラムを送信し得る。別の局面において、サーバ１５０は、他のユーザによって使用されるＨＭＤ装置に仮想現実を提供するための他のコンピュータ２００と通信し得る。例えば、アミューズメント施設において、複数のユーザが参加型のゲームを行う場合、各コンピュータ２００は、各ユーザの動作に基づく信号を他のコンピュータ２００と通信して、同じ仮想空間において複数のユーザが共通のゲームを楽しむことを可能にする。サーバ１５０は、一または複数のコンピュータ装置により構成され得る。サーバ１５０は、後述するコンピュータ２００のハードウェア構成と同様のハードウェア構成（プロセッサ、メモリ、ストレージ等）を備え得る。

コントローラ１６０は、ユーザ１９０からコンピュータ２００への命令の入力を受け付ける。ある局面において、コントローラ１６０は、ユーザ１９０によって把持可能に構成される。別の局面において、コントローラ１６０は、ユーザ１９０の身体あるいは衣類の一部に装着可能に構成される。別の局面において、コントローラ１６０は、コンピュータ２００から送られる信号に基づいて、振動、音、光のうちの少なくともいずれかを出力するように構成されてもよい。別の局面において、コントローラ１６０は、仮想空間に配置されるオブジェクトの位置および動き等を制御するためにユーザ１９０によって与えられる操作を受け付ける。

モーションセンサ１３０は、ある局面において、ユーザの手に取り付けられて、ユーザの手の動きを検出する。例えば、モーションセンサ１３０は、手の回転速度、回転数等を検出する。検出された信号は、コンピュータ２００に送られる。モーションセンサ１３０は、例えば、手袋型のコントローラ１６０に設けられている。ある実施の形態において、現実空間における安全のため、コントローラ１６０は、手袋型のようにユーザ１９０の手に装着されることにより容易に飛んで行かないものに装着されるのが望ましい。別の局面において、ユーザ１９０に装着されないセンサがユーザ１９０の手の動きを検出してもよい。例えば、ユーザ１９０を撮影するカメラの信号が、ユーザ１９０の動作を表す信号として、コンピュータ２００に入力されてもよい。モーションセンサ１３０とコンピュータ２００とは、有線により、または無線により互いに接続される。無線の場合、通信形態は特に限られず、例えば、Ｂｌｕｅｔｏｏｔｈ（登録商標）その他の公知の通信手法が用いられる。

［ハードウェア構成］
図２を参照して、本実施の形態に係るコンピュータ２００について説明する。図２は、一局面に従うコンピュータ２００のハードウェア構成の一例を表すブロック図である。コンピュータ２００は、主たる構成要素として、プロセッサ１０と、メモリ１１と、ストレージ１２と、入出力インターフェース１３と、通信インターフェース１４とを備える。各構成要素は、それぞれ、バス１５に接続されている。

プロセッサ１０は、コンピュータ２００に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ１１またはストレージ１２に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ１０は、ＣＰＵ（Central Processing Unit）、ＭＰＵ（Micro Processor Unit）、ＦＰＧＡ（Field-Programmable Gate Array）その他のデバイスとして実現される。

メモリ１１は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ１２からロードされる。メモリ１１に保存されるデータは、コンピュータ２００に入力されたデータと、プロセッサ１０によって生成されたデータとを含む。ある局面において、メモリ１１は、ＲＡＭ（Random Access Memory）その他の揮発性メモリとして実現される。

ストレージ１２は、プログラムおよびデータを永続的に保持する。ストレージ１２は、例えば、ＲＯＭ（Read-Only Memory）、ハードディスク装置、フラッシュメモリ、その他の不揮発性記憶装置として実現される。ストレージ１２に格納されるプログラムは、ＨＭＤシステム１００において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、および他のコンピュータ２００との通信を実現するためのプログラム等を含む。ストレージ１２に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含む。

なお、別の局面において、ストレージ１２は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、コンピュータ２００に内蔵されたストレージ１２の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のＨＭＤシステム１００が使用される場面において、プログラムおよびデータ等の更新を一括して行うことが可能になる。

ある実施の形態において、入出力インターフェース１３は、ＨＭＤ装置１１０、ＨＭＤセンサ１２０またはモーションセンサ１３０との間で信号を通信する。ある局面において、入出力インターフェース１３は、ＵＳＢ（Universal Serial Bus）インターフェース、ＤＶＩ（Digital Visual Interface）、ＨＤＭＩ（登録商標）（High-Definition Multimedia Interface）その他の端子を用いて実現される。なお、入出力インターフェース１３は上述のものに限られない。例えば、入出力インターフェース１３は、Ｂｌｕｅｔｏｏｔｈ（登録商標）等の無線通信インターフェースを含み得る。

ある実施の形態において、入出力インターフェース１３は、さらに、コントローラ１６０と通信し得る。例えば、入出力インターフェース１３は、モーションセンサ１３０から出力された信号の入力を受ける。別の局面において、入出力インターフェース１３は、プロセッサ１０から出力された命令を、コントローラ１６０に送る。当該命令は、振動、音声出力、発光等をコントローラ１６０に指示する。コントローラ１６０は、当該命令を受信すると、その命令に応じて、振動、音声出力または発光のいずれかを実行する。

通信インターフェース１４は、ネットワーク１９に接続されて、ネットワーク１９に接続されている他のコンピュータ（例えば、サーバ１５０）と通信する。ある局面において、通信インターフェース１４は、例えば、ＬＡＮ（Local Area Network）その他の有線通信インターフェース、あるいは、ＷｉＦｉ（Wireless Fidelity）、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＮＦＣ（Near Field Communication）その他の無線通信インターフェースとして実現される。なお、通信インターフェース１４は上述のものに限られない。

ある局面において、プロセッサ１０は、ストレージ１２にアクセスし、ストレージ１２に格納されている１つ以上のプログラムをメモリ１１にロードし、当該プログラムに含まれる一連の命令を実行する。当該１つ以上のプログラムは、コンピュータ２００のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、コントローラ１６０を用いて仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ１０は、入出力インターフェース１３を介して、仮想空間を提供するための信号をＨＭＤ装置１１０に送る。ＨＭＤ装置１１０は、その信号に基づいてディスプレイ１１２に映像を表示する。

サーバ１５０は、ネットワーク１９を介して複数のＨＭＤシステム１００の各々の制御装置と接続され得る。

なお、図２に示される例では、コンピュータ２００がＨＭＤ装置１１０の外部に設けられる構成が示されているが、別の局面において、コンピュータ２００は、ＨＭＤ装置１１０に内蔵されてもよい。一例として、ディスプレイ１１２を含む携帯型の情報通信端末（例えば、スマートフォン）がコンピュータ２００として機能してもよい。

また、コンピュータ２００は、複数のＨＭＤ装置１１０に共通して用いられる構成であってもよい。このような構成によれば、例えば、複数のユーザに同一の仮想空間を提供することもできるので、各ユーザは同一の仮想空間で他のユーザと同一のアプリケーションを楽しむことができる。なお、このような場合、複数のＨＭＤシステム１００は、入出力インターフェース１３により、コンピュータ２００に直接接続されてもよい。また、本実施形態におけるサーバ１５０の各機能（例えば後述する同期処理等）は、コンピュータ２００に実装されてもよい。

ある実施の形態において、ＨＭＤシステム１００では、グローバル座標系が予め設定されている。グローバル座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、ならびに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、３つの基準方向（軸）を有する。本実施の形態では、グローバル座標系は視点座標系の一つである。そこで、グローバル座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれ、ｘ軸、ｙ軸、ｚ軸と規定される。より具体的には、グローバル座標系において、ｘ軸は現実空間の水平方向に平行である。ｙ軸は、現実空間の鉛直方向に平行である。ｚ軸は現実空間の前後方向に平行である。

ある局面において、ＨＭＤセンサ１２０は、赤外線センサを含む。赤外線センサが、ＨＭＤ装置１１０の各光源から発せられた赤外線をそれぞれ検出すると、ＨＭＤ装置１１０の存在を検出する。ＨＭＤセンサ１２０は、さらに、各点の値（グローバル座標系における各座標値）に基づいて、ＨＭＤ装置１１０を装着したユーザ１９０の動きに応じた、現実空間内におけるＨＭＤ装置１１０の位置および傾きを検出する。より詳しくは、ＨＭＤセンサ１２０は、経時的に検出された各値を用いて、ＨＭＤ装置１１０の位置および傾きの時間的変化を検出できる。

グローバル座標系は現実空間の座標系と平行である。したがって、ＨＭＤセンサ１２０によって検出されたＨＭＤ装置１１０の各傾きは、グローバル座標系におけるＨＭＤ装置１１０の３軸周りの各傾きに相当する。ＨＭＤセンサ１２０は、グローバル座標系におけるＨＭＤ装置１１０の傾きに基づき、ｕｖｗ視野座標系をＨＭＤ装置１１０に設定する。ＨＭＤ装置１１０に設定されるｕｖｗ視野座標系は、ＨＭＤ装置１１０を装着したユーザ１９０が仮想空間において物体を見る際の視点座標系に対応する。

［ｕｖｗ視野座標系］
図３を参照して、ｕｖｗ視野座標系について説明する。図３は、ある実施の形態に従うＨＭＤ装置１１０に設定されるｕｖｗ視野座標系を概念的に表す図である。ＨＭＤセンサ１２０は、ＨＭＤ装置１１０の起動時に、グローバル座標系におけるＨＭＤ装置１１０の位置および傾きを検出する。プロセッサ１０は、検出された値に基づいて、ｕｖｗ視野座標系をＨＭＤ装置１１０に設定する。

図３に示されるように、ＨＭＤ装置１１０は、ＨＭＤ装置１１０を装着したユーザの頭部を中心（原点）とした３次元のｕｖｗ視野座標系を設定する。より具体的には、ＨＭＤ装置１１０は、グローバル座標系を規定する水平方向、鉛直方向、および前後方向（ｘ軸、ｙ軸、ｚ軸）を、グローバル座標系内においてＨＭＤ装置１１０の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる３つの方向を、ＨＭＤ装置１１０におけるｕｖｗ視野座標系のピッチ方向（ｕ軸）、ヨー方向（ｖ軸）、およびロール方向（ｗ軸）として設定する。

ある局面において、ＨＭＤ装置１１０を装着したユーザ１９０が直立し、かつ、正面を視認している場合、プロセッサ１０は、グローバル座標系に平行なｕｖｗ視野座標系をＨＭＤ装置１１０に設定する。この場合、グローバル座標系における水平方向（ｘ軸）、鉛直方向（ｙ軸）、および前後方向（ｚ軸）は、ＨＭＤ装置１１０におけるｕｖｗ視野座標系のピッチ方向（ｕ軸）、ヨー方向（ｖ軸）、およびロール方向（ｗ軸）に一致する。

ｕｖｗ視野座標系がＨＭＤ装置１１０に設定された後、ＨＭＤセンサ１２０は、ＨＭＤ装置１１０の動きに基づいて、設定されたｕｖｗ視野座標系におけるＨＭＤ装置１１０の傾き（傾きの変化量）を検出できる。この場合、ＨＭＤセンサ１２０は、ＨＭＤ装置１１０の傾きとして、ｕｖｗ視野座標系におけるＨＭＤ装置１１０のピッチ角（θｕ）、ヨー角（θｖ）、およびロール角（θｗ）をそれぞれ検出する。ピッチ角（θｕ）は、ｕｖｗ視野座標系におけるピッチ方向周りのＨＭＤ装置１１０の傾き角度を表す。ヨー角（θｖ）は、ｕｖｗ視野座標系におけるヨー方向周りのＨＭＤ装置１１０の傾き角度を表す。ロール角（θｗ）は、ｕｖｗ視野座標系におけるロール方向周りのＨＭＤ装置１１０の傾き角度を表す。

ＨＭＤセンサ１２０は、検出されたＨＭＤ装置１１０の傾き角度に基づいて、ＨＭＤ装置１１０が動いた後のＨＭＤ装置１１０におけるｕｖｗ視野座標系を、ＨＭＤ装置１１０に設定する。ＨＭＤ装置１１０と、ＨＭＤ装置１１０のｕｖｗ視野座標系との関係は、ＨＭＤ装置１１０の位置および傾きに関わらず、常に一定である。ＨＭＤ装置１１０の位置および傾きが変わると、当該位置および傾きの変化に連動して、グローバル座標系におけるＨＭＤ装置１１０のｕｖｗ視野座標系の位置および傾きが変化する。

ある局面において、ＨＭＤセンサ１２０は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係（例えば、各点間の距離など）に基づいて、ＨＭＤ装置１１０の現実空間内における位置を、ＨＭＤセンサ１２０に対する相対位置として特定してもよい。また、プロセッサ１０は、特定された相対位置に基づいて、現実空間内（グローバル座標系）におけるＨＭＤ装置１１０のｕｖｗ視野座標系の原点を決定してもよい。

［仮想空間］
図４を参照して、仮想空間についてさらに説明する。図４は、ある実施の形態に従う仮想空間２を表現する一態様を概念的に表す図である。仮想空間２は、中心２１の３６０度方向の全体を覆う全天球状の構造を有する。図４では、説明を複雑にしないために、仮想空間２のうちの上半分の天球が例示されている。仮想空間２では各メッシュが規定される。各メッシュの位置は、仮想空間２に規定されるＸＹＺ座標系における座標値として予め規定されている。コンピュータ２００は、仮想空間２に展開可能なコンテンツ（静止画、動画等）を構成する各部分画像を、仮想空間２において対応する各メッシュにそれぞれ対応付けて、ユーザによって視認可能な仮想空間画像２２が展開される仮想空間２をユーザに提供する。

ある局面において、仮想空間２では、中心２１を原点とするＸＹＺ座標系が規定される。ＸＹＺ座標系は、例えば、グローバル座標系に平行である。ＸＹＺ座標系は視点座標系の一種であるため、ＸＹＺ座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれＸ軸、Ｙ軸、Ｚ軸として規定される。したがって、ＸＹＺ座標系のＸ軸（水平方向）がグローバル座標系のｘ軸と平行であり、ＸＹＺ座標系のＹ軸（鉛直方向）がグローバル座標系のｙ軸と平行であり、ＸＹＺ座標系のＺ軸（前後方向）がグローバル座標系のｚ軸と平行である。仮想空間２内の各位置は、ＸＹＺ座標系における座標値によって一意に特定される。

ＨＭＤ装置１１０の起動時、すなわちＨＭＤ装置１１０の初期状態において、仮想カメラ１は、例えば仮想空間２の中心２１に配置される。仮想カメラ１は、現実空間におけるＨＭＤ装置１１０の動きに連動して、仮想空間２を同様に移動する。これにより、現実空間におけるＨＭＤ装置１１０の位置および傾きの変化が、仮想空間２において同様に再現される。

仮想カメラ１には、ＨＭＤ装置１１０の場合と同様に、ｕｖｗ視野座標系が規定される。仮想空間２における仮想カメラ１のｕｖｗ視野座標系は、現実空間（グローバル座標系）におけるＨＭＤ装置１１０のｕｖｗ視野座標系に連動するように規定されている。したがって、ＨＭＤ装置１１０の傾きが変化すると、それに応じて、仮想カメラ１の傾きも変化する。また、仮想カメラ１は、ＨＭＤ装置１１０を装着したユーザの現実空間における移動に連動して、仮想空間２において移動することもできる。

仮想カメラ１の向きは、仮想カメラ１の位置および傾きに応じて決まるので、ユーザが仮想空間画像２２を視認する際に基準となる視線（基準視線５）は、仮想カメラ１の向きに応じて決まる。コンピュータ２００のプロセッサ１０は、基準視線５に基づいて、仮想空間２における視界領域２３を規定する。視界領域２３は、仮想空間２のうち、ＨＭＤ装置１１０を装着したユーザの視界に対応する。

注視センサ１４０によって検出されるユーザ１９０の視線方向は、ユーザ１９０が物体を視認する際の視点座標系における方向である。ＨＭＤ装置１１０のｕｖｗ視野座標系は、ユーザ１９０がディスプレイ１１２を視認する際の視点座標系に等しい。また、仮想カメラ１のｕｖｗ視野座標系は、ＨＭＤ装置１１０のｕｖｗ視野座標系に連動している。したがって、ある局面に従うＨＭＤシステム１００は、注視センサ１４０によって検出されたユーザ１９０の視線方向を、仮想カメラ１のｕｖｗ視野座標系におけるユーザの視線方向とみなすことができる。

［ユーザの視線］
図５を参照して、ユーザの視線方向の決定について説明する。図５は、ある実施の形態に従うＨＭＤ装置１１０を装着するユーザ１９０の頭部を上から表した図である。

ある局面において、注視センサ１４０は、ユーザ１９０の右目および左目の各視線を検出する。ある局面において、ユーザ１９０が近くを見ている場合、注視センサ１４０は、視線Ｒ１およびＬ１を検出する。別の局面において、ユーザ１９０が遠くを見ている場合、注視センサ１４０は、視線Ｒ２およびＬ２を検出する。この場合、ロール方向ｗに対して視線Ｒ２およびＬ２がなす角度は、ロール方向ｗに対して視線Ｒ１およびＬ１がなす角度よりも小さい。注視センサ１４０は、検出結果をコンピュータ２００に送信する。

コンピュータ２００が、視線の検出結果として、視線Ｒ１およびＬ１の検出値を注視センサ１４０から受信した場合には、その検出値に基づいて、視線Ｒ１およびＬ１の交点である注視点Ｎ１を特定する。一方、コンピュータ２００は、視線Ｒ２およびＬ２の検出値を注視センサ１４０から受信した場合には、視線Ｒ２およびＬ２の交点を注視点として特定する。コンピュータ２００は、特定した注視点Ｎ１の位置に基づき、ユーザ１９０の視線方向Ｎ０を特定する。コンピュータ２００は、例えば、ユーザ１９０の右目Ｒと左目Ｌとを結ぶ直線の中点と、注視点Ｎ１とを通る直線の延びる方向を、視線方向Ｎ０として検出する。視線方向Ｎ０は、ユーザ１９０が両目により実際に視線を向けている方向である。また、視線方向Ｎ０は、視界領域２３に対してユーザ１９０が実際に視線を向けている方向に相当する。

また、別の局面において、ＨＭＤシステム１００は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、ＨＭＤシステム１００は、仮想空間２においてテレビ番組を表示することができる。

さらに別の局面において、ＨＭＤシステム１００は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。

［視界領域］
図６および図７を参照して、視界領域２３について説明する。図６は、仮想空間２において視界領域２３をＸ方向から見たＹＺ断面を表す図である。図７は、仮想空間２において視界領域２３をＹ方向から見たＸＺ断面を表す図である。

図６に示されるように、ＹＺ断面における視界領域２３は、領域２４を含む。領域２４は、仮想カメラ１の基準視線５と仮想空間２のＹＺ断面とによって定義される。プロセッサ１０は、仮想空間２における基準視線５を中心として極角αを含む範囲を、領域２４として規定する。

図７に示されるように、ＸＺ断面における視界領域２３は、領域２５を含む。領域２５は、基準視線５と仮想空間２のＸＺ断面とによって定義される。プロセッサ１０は、仮想空間２における基準視線５を中心とした方位角βを含む範囲を、領域２５として規定する。

ある局面において、ＨＭＤシステム１００は、コンピュータ２００からの信号に基づいて、視界画像をディスプレイ１１２に表示させることにより、ユーザ１９０に仮想空間を提供する。視界画像は、仮想空間画像２２のうち視界領域２３に重畳する部分に相当する。視界領域２３内において仮想カメラ１と仮想空間画像２２との間に後述する仮想オブジェクトが配置されている場合、視界画像には当該仮想オブジェクトが含まれる。すなわち、視界画像において、仮想空間画像２２よりも手前側にある仮想オブジェクトが仮想空間画像２２に重畳して表示される。ユーザ１９０が、頭に装着したＨＭＤ装置１１０を動かすと、その動きに連動して仮想カメラ１も動く。その結果、仮想空間２における視界領域２３の位置が変化する。これにより、ディスプレイ１１２に表示される視界画像は、仮想空間画像２２のうち、仮想空間２においてユーザが向いた方向の視界領域２３に重畳する画像に更新される。ユーザは、仮想空間２における所望の方向を視認することができる。

ユーザ１９０は、ＨＭＤ装置１１０を装着している間、現実世界を視認することなく、仮想空間２に展開される仮想空間画像２２のみを視認できる。そのため、ＨＭＤシステム１００は、仮想空間２への高い没入感覚をユーザに与えることができる。

ある局面において、プロセッサ１０は、ＨＭＤ装置１１０を装着したユーザ１９０の現実空間における移動に連動して、仮想空間２において仮想カメラ１を移動し得る。この場合、プロセッサ１０は、仮想空間２における仮想カメラ１の位置および傾きに基づいて、ＨＭＤ装置１１０のディスプレイ１１２に投影される画像領域（すなわち、仮想空間２における視界領域２３）を特定する。すなわち、仮想カメラ１によって、仮想空間２におけるユーザ１９０の視野（視界）が定義される。

ある実施の形態に従うと、仮想カメラ１は、二つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含むことが望ましい。また、ユーザ１９０が３次元の仮想空間２を認識できるように、適切な視差が、二つの仮想カメラに設定されていることが好ましい。本実施の形態においては、仮想カメラ１が二つの仮想カメラを含み、二つの仮想カメラのロール方向が合成されることによって生成されるロール方向（ｗ）がＨＭＤ装置１１０のロール方向（ｗ）に適合されるように構成されているものとして、本開示に係る技術思想を例示する。

［コントローラ］
図８を参照して、コントローラ１６０の一例について説明する。図８は、ある実施の形態に従うコントローラ１６０の概略構成を表す図である。

図８の状態（Ａ）に示されるように、ある局面において、コントローラ１６０は、右コントローラ１６０Ｒと左コントローラ（図示しない）とを含み得る。右コントローラ１６０Ｒは、ユーザ１９０の右手で操作される。左コントローラは、ユーザ１９０の左手で操作される。ある局面において、右コントローラ１６０Ｒと左コントローラとは、別個の装置として対称に構成される。したがって、ユーザ１９０は、右コントローラ１６０Ｒを把持した右手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。別の局面において、コントローラ１６０は両手の操作を受け付ける一体型のコントローラであってもよい。以下、右コントローラ１６０Ｒについて説明する。

右コントローラ１６０Ｒは、グリップ３０と、フレーム３１と、天面３２とを備える。グリップ３０は、ユーザ１９０の右手によって把持されるように構成されている。例えば、グリップ３０は、ユーザ１９０の右手の掌と３本の指（中指、薬指、小指）とによって保持され得る。

グリップ３０は、ボタン３３，３４と、モーションセンサ１３０とを含む。ボタン３３は、グリップ３０の側面に配置され、右手の中指による操作を受け付ける。ボタン３４は、グリップ３０の前面に配置され、右手の人差し指による操作を受け付ける。ある局面において、ボタン３３，３４は、トリガー式のボタンとして構成される。モーションセンサ１３０は、グリップ３０の筐体に内蔵されている。なお、ユーザ１９０の動作がカメラその他の装置によってユーザ１９０の周りから検出可能である場合には、グリップ３０は、モーションセンサ１３０を備えなくてもよい。

フレーム３１は、その円周方向に沿って配置された複数の赤外線ＬＥＤ３５を含む。赤外線ＬＥＤ３５は、コントローラ１６０を使用するプログラムの実行中に、当該プログラムの進行に合わせて赤外線を発光する。赤外線ＬＥＤ３５から発せられた赤外線は、右コントローラ１６０Ｒと左コントローラとの各位置および姿勢（傾き、向き）等を検出するために使用され得る。図８に示される例では、二列に配置された赤外線ＬＥＤ３５が示されているが、配列の数は図８に示されるものに限られない。一列あるいは３列以上の配列が使用されてもよい。

天面３２は、ボタン３６，３７と、アナログスティック３８とを備える。ボタン３６，３７は、プッシュ式ボタンとして構成される。ボタン３６，３７は、ユーザ１９０の右手の親指による操作を受け付ける。アナログスティック３８は、ある局面において、初期位置（ニュートラルの位置）から３６０度任意の方向への操作を受け付ける。当該操作は、例えば、仮想空間２に配置されるオブジェクトを移動させるための操作を含む。

ある局面において、右コントローラ１６０Ｒおよび左コントローラは、赤外線ＬＥＤ３５その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型等を含むが、これらに限定されない。別の局面において、右コントローラ１６０Ｒおよび左コントローラは、例えば、コンピュータ２００のＵＳＢインターフェースに接続され得る。この場合、右コントローラ１６０Ｒおよび左コントローラは、電池を必要としない。

図８の状態（Ａ）および状態（Ｂ）に示されるように、例えば、ユーザ１９０の右手８１０に対して、ヨー、ロール、ピッチの各方向が規定される。ユーザ１９０が親指と人差し指とを伸ばした場合に、親指の伸びる方向がヨー方向、人差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定される平面に垂直な方向がピッチ方向として規定される。

［ＨＭＤ装置の制御装置］
図９を参照して、ＨＭＤ装置１１０の制御装置について説明する。ある実施の形態において、制御装置は周知の構成を有するコンピュータ２００によって実現される。図９は、ある実施の形態に従うコンピュータ２００をモジュール構成として表すブロック図である。

図９に示されるように、コンピュータ２００は、表示制御モジュール２２０と、仮想空間制御モジュール２３０と、メモリモジュール２４０と、通信制御モジュール２５０とを備える。表示制御モジュール２２０は、サブモジュールとして、仮想カメラ制御モジュール２２１と、視界領域決定モジュール２２２と、視界画像生成モジュール２２３と、基準視線特定モジュール２２４とを含む。仮想空間制御モジュール２３０は、サブモジュールとして、仮想空間定義モジュール２３１と、仮想オブジェクト制御モジュール２３２と、操作オブジェクト制御モジュール２３３とを含む。

ある実施の形態において、表示制御モジュール２２０と仮想空間制御モジュール２３０とは、プロセッサ１０によって実現される。別の実施の形態において、複数のプロセッサ１０が表示制御モジュール２２０と仮想空間制御モジュール２３０として作動してもよい。メモリモジュール２４０は、メモリ１１またはストレージ１２によって実現される。通信制御モジュール２５０は、通信インターフェース１４によって実現される。

ある局面において、表示制御モジュール２２０は、ＨＭＤ装置１１０のディスプレイ１１２における画像表示を制御する。仮想カメラ制御モジュール２２１は、仮想空間２に仮想カメラ１を配置し、仮想カメラ１の挙動、向き等を制御する。視界領域決定モジュール２２２は、ＨＭＤ装置１１０を装着したユーザの頭の向きに応じて、視界領域２３を規定する。視界画像生成モジュール２２３は、決定された視界領域２３に基づいて、ディスプレイ１１２に表示される視界画像を生成する。基準視線特定モジュール２２４は、注視センサ１４０からの信号に基づいて、ユーザ１９０の視線を特定する。

仮想空間制御モジュール２３０は、ユーザ１９０に提供される仮想空間２を制御する。仮想空間定義モジュール２３１は、仮想空間２を表す仮想空間データを生成することにより、ＨＭＤシステム１００における仮想空間２を規定する。

仮想オブジェクト制御モジュール２３２は、後述するオブジェクト情報２４２に基づいて、仮想空間２に配置される仮想的なオブジェクトである仮想オブジェクトを生成する。また、仮想オブジェクト制御モジュール２３２は、仮想空間２における仮想オブジェクトおよびプレイヤキャラクタの動作（移動および状態変化等）を制御する。

仮想オブジェクトは、例えば、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、動物等を含み得る。プレイヤキャラクタは、仮想空間２においてＨＭＤ装置１１０を装着したユーザに関連付けられたオブジェクトであり、アバターと称する場合もある。本開示においては、アバターを含んだオブジェクトをプレイヤキャラクタと称することにする。また、以下の説明において、誤解が生じない場合には、仮想オブジェクトのことを単に「オブジェクト」と表記する。

仮想オブジェクトは、仮想空間２に配置される対象オブジェクトを含み得る。対象オブジェクトは、ユーザによる操作の対象となる仮想オブジェクトである。対象オブジェクトは、例えば、キャラクタをかたどったフィギュア等を含み得る。

操作オブジェクト制御モジュール２３３は、ユーザ１９０の手の動きに応じて動くオブジェクトである操作オブジェクトの仮想空間２内における動作を制御する。ある局面において、操作オブジェクトは、例えば、ＨＭＤ装置１１０を装着したユーザ１９０の手に相当する手オブジェクト、ユーザ１９０の指に相当する指オブジェクト等を含み得る。

コリジョン制御モジュール２３４は、仮想空間２に配置されるオブジェクトのそれぞれが、他のオブジェクトと衝突した場合に、当該衝突を検出する。具体的には、コリジョン制御モジュール２３４は、仮想空間２に配置されるオブジェクトのそれぞれと他のオブジェクトとの位置関係に基づいて、当該オブジェクトが当該他のオブジェクトに触れたことを検出する。コリジョン制御モジュール２３４は、例えば、あるオブジェクトと、別のオブジェクトとが触れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。コリジョン制御モジュール２３４は、オブジェクトとオブジェクトとが触れている状態から離れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。コリジョン制御モジュール２３４は、オブジェクトとオブジェクトとが触れている状態であることを検出することができる。具体的には、コリジョン制御モジュール２３４は、操作オブジェクトと、他のオブジェクト（例えば、仮想オブジェクト制御モジュール２３２によって配置される対象オブジェクト）とが触れた時に、これら操作オブジェクトと他のオブジェクトとが触れたことを検出して、予め定められた処理を行う。

メモリモジュール２４０は、コンピュータ２００が仮想空間２をユーザ１９０に提供するために使用されるデータを保持している。ある局面において、メモリモジュール２４０は、空間情報２４１と、オブジェクト情報２４２と、ユーザ情報２４３とを保持している。空間情報２４１には、例えば、仮想空間２を提供するために規定された１つ以上のテンプレートが含まれている。オブジェクト情報２４２には、例えば、仮想空間２において再生されるコンテンツ、当該コンテンツで使用されるオブジェクトを配置するための情報等が含まれている。当該コンテンツは、例えば、ゲーム、現実社会と同様の風景を表したコンテンツ等を含み得る。オブジェクト情報２４２には、各オブジェクトを描画するための描画情報も含まれている。また、オブジェクト情報２４２は、各オブジェクトに関連付けられた属性を示す属性情報も含み得る。オブジェクトの属性情報としては、例えば当該オブジェクトの種類（例えばアバター等）を示す情報、およびオブジェクトが可動物（可動オブジェクト）であるか固定物（固定オブジェクト）であるかを示す情報等が挙げられる。ユーザ情報２４３には、例えば、ＨＭＤシステム１００の制御装置としてコンピュータ２００を機能させるためのプログラム、オブジェクト情報２４２に保持される各コンテンツを使用するアプリケーションプログラム等が含まれている。

メモリモジュール２４０に格納されているデータおよびプログラムは、ＨＭＤ装置１１０のユーザによって入力される。あるいは、プロセッサ１０が、当該コンテンツを提供する事業者が運営するコンピュータ（例えば、サーバ１５０）からプログラムあるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール２４０に格納する。

通信制御モジュール２５０は、ネットワーク１９を介して、サーバ１５０その他の情報通信装置と通信し得る。

ある局面において、表示制御モジュール２２０および仮想空間制御モジュール２３０は、例えば、ユニティテクノロジーズ社によって提供されるＵｎｉｔｙ（登録商標）を用いて実現され得る。別の局面において、表示制御モジュール２２０および仮想空間制御モジュール２３０は、各処理を実現する回路素子の組み合わせとしても実現され得る。

コンピュータ２００における処理は、ハードウェアと、プロセッサ１０により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール２４０に予め格納されている場合がある。また、ソフトウェアは、ＣＤ−ＲＯＭその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール２５０を介してサーバ１５０その他のコンピュータからダウンロードされた後、メモリモジュール２４０に一旦格納される。そのソフトウェアは、プロセッサ１０によってメモリモジュール２４０から読み出され、実行可能なプログラムの形式でＲＡＭに格納される。プロセッサ１０は、そのプログラムを実行する。

図９に示されるコンピュータ２００を構成するハードウェアは、一般的なものである。したがって、本実施の形態に係る最も本質的な部分は、コンピュータ２００に格納されたプログラムであるともいえる。なお、コンピュータ２００のハードウェアの動作は周知であるので、詳細な説明は繰り返さない。

なお、データ記録媒体としては、ＣＤ−ＲＯＭ、ＦＤ（Flexible Disk）、ハードディスクに限られず、磁気テープ、カセットテープ、光ディスク（ＭＯ（Magnetic Optical

Disc）／ＭＤ（Mini Disc）／ＤＶＤ（Digital Versatile Disc））、ＩＣ（Integrated Circuit）カード（メモリカードを含む）、光カード、マスクＲＯＭ、ＥＰＲＯＭ（Erasable Programmable Read-Only Memory）、ＥＥＰＲＯＭ（Electrically Erasable Programmable Read-Only Memory）、フラッシュＲＯＭなどの半導体メモリ等の固定的にプログラムを担持する不揮発性のデータ記録媒体でもよい。

ここでいうプログラムとは、プロセッサ１０により直接実行可能なプログラムだけでなく、ソースプログラム形式のプログラム、圧縮処理されたプログラム、暗号化されたプログラム等を含み得る。

［制御構造］
図１０を参照して、本実施の形態に係るコンピュータ２００の制御構造について説明する。図１０は、ユーザ１９０Ａによって使用されるＨＭＤシステム１００Ａがユーザ１９０Ａに仮想空間２を提供するために実行する処理を表すシーケンス図である。複数のＨＭＤシステム１００が存在する場合には、他のＨＭＤシステムにおいても、同様の処理が実行される。

ステップＳ１において、コンピュータ２００のプロセッサ１０は、仮想空間定義モジュール２３１として、仮想空間２の背景を構成する仮想空間画像データ（仮想空間画像２２）を特定し、仮想空間２を定義する。プロセッサ１０は、その仮想空間２を規定する仮想空間データを生成する。

ステップＳ２において、プロセッサ１０は、仮想カメラ制御モジュール２２１として、仮想カメラ１を初期化する。例えば、プロセッサ１０は、メモリのワーク領域において、仮想カメラ１を仮想空間２において予め規定された中心点に配置し、仮想カメラ１の視線をユーザ１９０が向いている方向に向ける。

ステップＳ３において、プロセッサ１０は、視界画像生成モジュール２２３として、初期の視界画像を表示するための視界画像データを生成する。プロセッサ１０は、少なくとも仮想空間データに基づいて視界画像データを生成する。生成された視界画像データは、視界画像生成モジュール２２３を介して通信制御モジュール２５０によってＨＭＤ装置１１０に送られる。

ステップＳ４において、ＨＭＤ装置１１０のディスプレイ１１２は、コンピュータ２００から受信した信号に基づいて、視界画像を表示する。ＨＭＤ装置１１０Ａを装着したユーザ１９０Ａは、視界画像を視認すると仮想空間２を認識し得る。

ステップＳ５において、ＨＭＤセンサ１２０は、ＨＭＤ装置１１０から発信される複数の赤外線光に基づいて、ＨＭＤ装置１１０の位置および傾きを検知する。検知結果は、動き検知データとして、コンピュータ２００に送られる。

ステップＳ６において、プロセッサ１０は、視界領域決定モジュール２２２として、ＨＭＤ装置１１０Ａの位置と傾きとに基づいて、ＨＭＤ装置１１０Ａを装着したユーザ１９０Ａの視界方向（すなわち、仮想カメラ１の位置および傾き）を特定する。プロセッサ１０は、アプリケーションプログラムを実行し、アプリケーションプログラムに含まれる命令に基づいて、仮想空間２にオブジェクトを配置する。

ステップＳ７において、コントローラ１６０は、現実空間におけるユーザ１９０Ａの操作を検出する。例えば、ある局面において、コントローラ１６０は、ユーザ１９０Ａによってボタンが押下されたことを検出する。別の局面において、コントローラ１６０は、ユーザ１９０Ａの両手の動作（たとえば、両手を振る等）を検出する。検出内容を示す信号は、コンピュータ２００に送られる。

ステップＳ８において、プロセッサ１０は、仮想オブジェクト制御モジュール２３２、操作オブジェクト制御モジュール２３３およびコリジョン制御モジュール２３４として、コントローラ１６０から送られた検出内容および仮想オブジェクトの制御内容を仮想空間２に反映する。具体的には、プロセッサ１０は、検出内容を示す信号に基づいて、仮想空間２における操作オブジェクト（例えば、プレイヤキャラクタの手を表す手オブジェクト等）を動かす。また、プロセッサ１０は、操作オブジェクト制御モジュール２３３およびコリジョン制御モジュール２３４として、操作オブジェクトによる対象オブジェクトに対する予め定められた操作（例えば、把持、変形等の操作）を検知する。また、プロセッサ１０は、仮想空間２内の仮想オブジェクトの動作を制御する。

ステップＳ９において、プロセッサ１０は、視界画像生成モジュール２２３として、ステップＳ８の処理結果と仮想空間データとに基づく視界画像を表示するための視界画像データを生成し、生成した視界画像データをＨＭＤ装置１１０に出力する。

ステップＳ１０において、ＨＭＤ装置１１０のディスプレイ１１２は、受信した視界画像データに基づいて視界画像を更新し、更新後の視界画像を表示する。

図１１は、ある実施の形態に従うＨＭＤ装置１１０上に表される視界画像３００の一例を表す図である。ユーザ１９０はＨＭＤ装置１１０を介してこの視界画像３００を視認することができる。図１１の例では、視界画像３００は、ユーザ１９０により操作される仮想の左手及び右手をそれぞれ表す第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒと、キャラクタをかたどった人形であるフィギュアを表す対象オブジェクト４００とを含む。ユーザ１９０はコントローラ１６０を介して左手及び右手（第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒ）を操作することでフィギュア（対象オブジェクト４００）を操作する。コンピュータ２００は、第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒが、対象オブジェクト４００のいずれかの部位を掴んだことを判定し、第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒの少なくとも一方による対象オブジェクト４００に対する操作、その操作に応じた対象オブジェクト４００の動作を制御する。

図１２を参照しながら、第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒによる対象オブジェクト４００の操作に関する制御を更に詳しく説明する。図１２は、ある実施の形態に従うオブジェクトの制御を表すフローチャートである。

ステップＳ２１において、ＨＭＤシステム１００のプロセッサ１０（以下単に「プロセッサ１０」という）は仮想空間定義モジュール２３１として機能し、第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒと、対象オブジェクト４００とを含む仮想空間２を定義する。この処理は、図１０に示すステップＳ１の処理に対応し得る。具体的には、プロセッサ１０は空間情報２４１、オブジェクト情報２４２、およびユーザ情報２４３のうち少なくとも一種類の情報をメモリモジュール２４０から読み出す。そして、プロセッサ１０は読み出した情報に基づいて、仮想空間２を定義する仮想空間データを生成することにより、仮想空間２を規定する。あるいは、プロセッサ１０は、コンテンツを提供する事業者が運営するコンピュータ（例えば、サーバ１５０）から予めダウンロードされたプログラムおよびデータ（仮想空間画像データ、オブジェクトの描画および初期配置等に関する情報）にも基づいて仮想空間データを生成してもよい。

対象オブジェクト４００の定義及び構成についてさらに詳しく説明する。図１３は、ある実施の形態に従う対象オブジェクト４００の定義及び構成の例を表す図である。図１３に示される例では、対象オブジェクト４００は、あるキャラクタをかたどった人形であるフィギュアを表す。

対象オブジェクト４００は、複数の部位ｂ００〜ｂ４４及びジョイントｊ１０〜ｊ４４を含む。なお、以下の説明において、複数の部位ｂ００〜ｂ４４を区別しないで指し示す場合には、単に「部位ｂ」と表記する。また、複数のジョイントｊ１０〜ｊ４４を区別しないで指し示す場合には、単に「ジョイントｊ」と表記する。隣接する部位ｂは、相互にジョイントｊを介して連結されている。各部位ｂは、連結されたジョイントｊを支点として、設定された制限範囲に従って動作することができるように構成されている。図１３に示す例では、例えば、部位ｂ３４は、ジョイントｊ３４を支点として、部位ｂ２４に対して動作することができる。

本実施形態の対象オブジェクト４００では、部位ｂ００〜ｂ４４のそれぞれに、コリジョンエリアｃ００〜ｃ４４が設定されている。なお、複数のコリジョンエリアｃ００〜ｃ４４を区別しないで指し示す場合には、単に「コリジョンエリアｃ」と表記する。コリジョンエリアｃは、対象オブジェクト４００の各部位ｂに対して操作オブジェクトが触れたことを判定するための領域である。操作オブジェクトの少なくとも一部が、ある部位ｂのコリジョンエリアｃの範囲内に含まれる場合に、コリジョン制御モジュール２３４は、当該操作オブジェクトが当該部位ｂに触れていることを判定し、当該操作オブジェクトと当該部位ｂとを関連付ける。操作オブジェクトと当該部位ｂとが関連付けられた場合に、仮想オブジェクト制御モジュール２３２は、当該操作オブジェクト及び部位ｂに対する所定の制御を実施する。本実施形態では、所定の制御は、例えば、操作オブジェクトによる部位ｂの把持等である。

対象オブジェクト４００のオブジェクト情報２４２は、部位ｂ及びジョイントｊを定義する構成情報と、各部位ｂに設定されたコリジョンエリアｃ及び各ジョイントｊに設定された動作の制限範囲等に関する属性情報とを含み得る。ステップＳ２１において、プロセッサ１０は、表示しようとする対象オブジェクト４００の構成情報をメモリモジュール２４０から読み出し、構成情報に基づいて対象オブジェクト４００を定義する。

本実施形態の対象オブジェクト４００を構成する各部位ｂの間には、階層が定義されている。図１４は、図１３に示される対象オブジェクト４００の各部位ｂの間に定義されている階層を表す階層情報を模式的に示す図である。図１４に示す例では、図示左方の列に含まれる部位ｂほど、上位の階層を有していることを示す。また、同じ列に含まれる部位ｂにおいては、図示上方の部位ｂほど、上位の階層を有している。例えば、胴部（部位ｂ００）は、右大腿部（部位ｂ２１）より高い階層を有している。また、右大腿部（部位ｂ２１）は、右上腕部（部位ｂ２３）より高い階層を有している。オブジェクト情報２４２は、図１４に示される階層情報を対象オブジェクト４００の属性情報として含み得る。各部位ｂに定義された階層に基づく制御の詳細については後述する。

図１２に戻り、ステップＳ２２において、プロセッサ１０は視界画像生成モジュール２２３として機能し、仮想空間データに基づいて、初期の視界画像を表示するための視界画像データを生成し、この視界画像データをＨＭＤ装置１１０に出力（送信）する。ＨＭＤ装置１１０はその視界画像データを処理して視界画像３００を表示する。この処理は図１０でのステップＳ３，Ｓ４に対応し得る。この結果、ユーザ１９０は、対象オブジェクト４００、第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒが描画された視界画像３００を視認することができる。

ステップＳ２３において、プロセッサ１０は操作オブジェクト制御モジュール２３３として機能し、１６０から送られてきた信号を処理することで、ユーザの左手及び右手の動きを検出する。この処理は、図１０におけるステップＳ７に対応し得る。

ステップＳ２４において、プロセッサ１０は操作オブジェクト制御モジュール２３３として機能し、第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒの動作を更新する。この処理は、図１０でのステップＳ８に対応し得る。第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒの動作の更新とは、仮想空間２における第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒの動作を示す値を新たな値に変更することであり、より具体的には、第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒの位置および姿勢に関する値を変更することである。プロセッサ１０は、コントローラ１６０から送られた検出内容に基づいて、第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒの新たな動作を示す動き情報を生成する。

ステップＳ２５において、プロセッサ１０は視界画像生成モジュール２２３として機能し、仮想オブジェクト（対象オブジェクト４００、第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒの少なくともいずれか）についての新たな動きを表示するための視界画像データを動き情報に基づいて更新し、その視界画像データをＨＭＤ装置１１０に出力（送信）する。ＨＭＤ装置１１０はその視界画像データを処理して視界画像３００を更新する。これらの処理は図１０でのステップＳ９，Ｓ１０に対応し得る。この結果、視界画像３００内では、第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒがユーザの操作に応じて動く。

ステップＳ２６において、プロセッサ１０はコリジョン制御モジュール２３４として機能し、第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒが対象オブジェクト４００のいずれかの部位ｂを掴んだか否かを判定する。具体的には、プロセッサ１０は、第１操作オブジェクト３０１Ｌと対象オブジェクト４００との位置関係に基づいて、第１操作オブジェクト３０１Ｌと対象オブジェクト４００とを関連付ける。また、プロセッサ１０は、第２操作オブジェクト３０１Ｒと対象オブジェクト４００との位置関係に基づいて、第２操作オブジェクト３０１Ｒと対象オブジェクト４００とを関連付ける。

より具体的には、プロセッサ１０は、第１操作オブジェクト３０１Ｌの少なくとも一部が、対象オブジェクト４００のいずれかの部位ｂのコリジョンエリアｃの範囲内に含まれる場合に、第１操作オブジェクト３０１Ｌと対象オブジェクト４００の当該部位ｂとを関連付け、関連付けがされた場合に、第１操作オブジェクト３０１Ｌが当該部位ｂを掴んだと判定する。同様に、プロセッサ１０は、第２操作オブジェクト３０１Ｒの少なくとも一部が、対象オブジェクト４００のいずれかの部位ｂのコリジョンエリアｃの範囲内に含まれる場合に、第２操作オブジェクト３０１Ｒと対象オブジェクト４００の当該部位ｂとを関連付け、関連付けがされた場合に、第２操作オブジェクト３０１Ｒが当該部位ｂを掴んだと判定する。

第１操作オブジェクト３０１Ｌまたは第２操作オブジェクト３０１Ｒが対象オブジェクト４００のいずれかの部位ｂを掴んだと判定された場合には、処理はステップＳ２７に進む。第１操作オブジェクト３０１Ｌまたは第２操作オブジェクト３０１Ｒが対象オブジェクト４００のいずれかの部位ｂを掴んだと判定されなかった場合には、プロセッサ１０はステップＳ２３〜Ｓ２６の処理を繰り返す。

ステップＳ２７において、プロセッサ１０はコリジョン制御モジュール２３４として機能し、ステップＳ２６における判定の結果に基づいて、操作モードが第１モードであるか第２モードであるかを判定する。

具体的には、プロセッサ１０は、第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒのいずれか一方が対象オブジェクト４００と関連付けられている場合、即ち、第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒのいずれか一方が対象オブジェクト４００のいずれかの部位ｂを掴んでいると判定された場合には、操作モードを第１モードとする。

図１５を参照しながら、第１モードについて詳しく説明する。図１５は、ある実施の形態に従うＨＭＤ装置１１０上に表される視界画像３００の一例を表す図である。図１５に示される例では、第１操作オブジェクト３０１Ｌが対象オブジェクト４００の部位ｂ００を掴んでおり、第２操作オブジェクト３０１Ｒは対象オブジェクト４００のいずれの部位ｂにも関連付けられていない。このような場合に、プロセッサ１０は、対象オブジェクト４００に対する操作モードを第１モードとする。本実施形態では、第１モードは、対象オブジェクト４００に関連付けられた第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒの一方の動きに応じて対象オブジェクト４００を移動させることが可能な操作モードである。

一方、プロセッサ１０は、第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒの双方が対象オブジェクト４００と関連付けられている場合、即ち、第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒの双方が対象オブジェクト４００のいずれかの部位ｂを掴んでいると判定された場合には、操作モードを第２モードとする。

図１６を参照しながら、第２モードについて詳しく説明する。図１６は、ある実施の形態に従うＨＭＤ装置１１０上に表される視界画像３００の一例を表す図である。図１６に示される例では、第１操作オブジェクト３０１Ｌが対象オブジェクト４００の部位ｂ００を掴んでおり、第２操作オブジェクト３０１Ｒが対象オブジェクト４００の部位ｂ３４を掴んでいる。このような場合に、プロセッサ１０は、対象オブジェクト４００に対する操作モードを第２モードとする。本実施形態では、第２モードは、対象オブジェクト４００に関連付けられた第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒの双方の動きに応じて対象オブジェクト４００を変形させることが可能な操作モードである。

図１２に戻り、ステップＳ２７において、操作モードが第１モードであると判定された場合には、処理はステップＳ２８に進む。一方、操作モードが第２モードであると判定された場合には、処理はステップＳ３０に進む。

ステップＳ２８において、プロセッサ１０は、仮想オブジェクト制御モジュール２３２及び操作オブジェクト制御モジュール２３３として機能し、第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒの一方の動きを検出する。この処理は、図１０におけるステップＳ７，Ｓ８に対応し得る。具体的には、プロセッサ１０は、第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒのうち、対象オブジェクト４００のいずれかの部位ｂに関連付けられた操作オブジェクトの動きを検出する。図１５に示される例では、第１操作オブジェクト３０１Ｌが対象オブジェクト４００の部位ｂ００に関連付けられているので、プロセッサ１０は、第１操作オブジェクト３０１Ｌの動きを検出する。

ステップＳ２９において、プロセッサ１０は、仮想オブジェクト制御モジュール２３２及び操作オブジェクト制御モジュール２３３として機能し、対象オブジェクト４００を移動させる。この処理は、図１０におけるステップＳ８に対応し得る。具体的には、プロセッサ１０は、対象オブジェクト４００を掴んでいる操作オブジェクト（第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒのいずれか）の動きに応じて、対象オブジェクト４００の位置を移動後の位置に更新させることにより、対象オブジェクト４００を移動させる。図１５に示される例においては、第１操作オブジェクト３０１Ｌを移動させる操作がコントローラ１６０を介して入力されると、プロセッサ１０は、操作内容に基づいて、第１操作オブジェクト３０１Ｌを移動させると共に、第１操作オブジェクト３０１Ｌに関連付けられている（掴まれている）対象オブジェクト４００を、第１操作オブジェクト３０１Ｌの移動に伴い移動させる。

ステップＳ３０において、プロセッサ１０は、仮想オブジェクト制御モジュール２３２及び操作オブジェクト制御モジュール２３３として機能し、第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒの双方の動きを検出する。この処理は、図１０におけるステップＳ７，Ｓ８に対応し得る。具体的には、プロセッサ１０は、第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒのうち、対象オブジェクト４００のいずれかの部位ｂに関連付けられた操作オブジェクトの動きを検出する。図１６に示される例では、プロセッサ１０は、部位ｂ００に関連付けられた第１操作オブジェクト３０１Ｌ、及び、部位ｂ３４に関連付けられた第２操作オブジェクト３０１Ｒのそれぞれの動きを検出する。

ステップＳ３１において、プロセッサ１０は、仮想オブジェクト制御モジュール２３２及び操作オブジェクト制御モジュール２３３として機能し、対象オブジェクト４００を変形させる。この処理は、図１０におけるステップＳ８に対応し得る。具体的には、プロセッサ１０は、部位ｂ００を掴んでいる第１操作オブジェクト３０１Ｌ及び部位ｂ３４を掴んでいる第２操作オブジェクト３０１Ｒの双方の動きに応じて、対象オブジェクト４００の形状を更新させることにより、対象オブジェクト４００を変形させる。図１６に示される例では、プロセッサ１０は、第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒの双方の動きに応じて対象オブジェクト４００を変形させる。

より具体的には、第２モードにおいては、第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒのそれぞれに関連付けられた部位ｂのうち、より低い階層として定義された部位ｂを、その部位ｂに連結されたジョイントｊを支点として動作させることにより、対象オブジェクト４００を変形させることができる。図１６に示される例では、部位ｂ３４が部位ｂ００よりも低い階層として定義されているので、第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒを動かす操作がコントローラ１６０を介して入力されると、プロセッサ１０は、操作内容に基づいて、第１操作オブジェクト３０１Ｌの動作に応じて部位ｂ００を含む対象オブジェクト４００の全体を移動させると共に、第２操作オブジェクト３０１Ｒの第１操作オブジェクト３０１Ｌに対する相対的な動作に応じて、部位ｂ３４を、部位ｂ３４に連結されているジョイントｊ３４を支点として動作させる。この動作により対象オブジェクト４００が変形される。

ステップＳ３２において、プロセッサ１０は、視界画像生成モジュール２２３として機能し、形状または位置が更新された対象オブジェクト４００を表示するための視界画像データを生成し、その視界画像データをＨＭＤ装置１１０に出力（送信）する。ＨＭＤ装置１１０はその視界画像データを処理して視界画像３００を更新する。これらの処理は図１０でのステップＳ９，Ｓ１０に対応し得る。この結果、ユーザによって操作された対象オブジェクト４００を含む視界画像をユーザに提供し得る。

ステップＳ３３において、プロセッサ１０が仮想空間２の提供を終了すると判定するまで、プロセッサ１０はステップＳ２３〜Ｓ３２を繰り返す。

図１７は、第２モードにおける対象オブジェクト４００の変形の一例を表す図である。図１７に示される例においては、対象オブジェクト４００における部位ｂのジョイントｊを支点とする動作には、第１制限範囲ｒ１が定義され得る。第１制限範囲ｒ１は、部位ｂが、当該部位ｂが連結されたジョイントｊにおいて動作可能な角度範囲として定義され得る。第１制限範囲ｒ１を逸脱しない動作が第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒにより入力されると、プロセッサ１０は、その動作に応じて、ジョイントｊ３４を支点として部位ｂ３４を動作させることにより、対象オブジェクト４００を変形させる。一方、第１制限範囲ｒ１を逸脱する動作が第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒにより入力された場合には、プロセッサ１０は、部位ｂ３４に第１制限範囲ｒ１の外縁における第１動作をさせることにより、対象オブジェクト４００を変形させる。具体的には、プロセッサ１０は、ジョイントｊ３４を支点として、部位ｂ３４を、第１制限範囲ｒ１に定義された限界の角度まで回動させる。

図１８は、第２モードにおける対象オブジェクト４００の変形の他の例を表す図である。図１８に示される例においては、対象オブジェクト４００における部位ｂのジョイントｊを支点とする動作には、第１制限範囲ｒ１と共に、第２制限範囲ｒ２が定義され得る。第２制限範囲ｒ２には、第１制限範囲ｒ１より広い角度範囲が定義され得る。第２制限範囲ｒ２を逸脱する動作が第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒにより入力された場合には、プロセッサ１０は、部位ｂ３４に第１動作とは異なる第２動作をさせることにより、対象オブジェクト４００を変形させる。具体的には、プロセッサ１０は、部位ｂ３４が連結されているジョイントｊ３４の部分において、第２操作オブジェクト３０１Ｒに関連付けられた部位ｂ３４（第２部分オブジェクト）と、第１操作オブジェクト３０１Ｌに関連付けられた部位ｂ００を含む部分（第１部分オブジェクト、対象オブジェクト４００の部位ｂ３４以外の部分）とを分離させる。第２動作により対象オブジェクト４００が分離されたときには、プロセッサ１０は、部位ｂ００を第１操作オブジェクト３０１Ｌに関連付け、部位ｂ３４を第２操作オブジェクト３０１Ｒに関連付ける。これにより、対象オブジェクト４００であるフィギュアが、ジョイントｊ３４において破断された視界画像がユーザに提供される。

図１９は、第２モードにおける対象オブジェクト４００の変形の他の例を表す図である。図１９に示される例においては、対象オブジェクト４００における部位ｂのジョイントｊを支点とする動作には、図１８の例と同様に、第１制限範囲ｒ１及び第２制限範囲ｒ２が定義され得る。第２制限範囲ｒ２を逸脱せず、第１制限範囲ｒ１を逸脱する動作が第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒにより入力された場合には、プロセッサ１０は、第１動作及び第２動作とは異なる第３動作を部位ｂ３４にさせることにより対象オブジェクト４００を変形させる。第３動作は、例えば、入力された動作の第１制限範囲に対する逸脱の程度に応じた動作である。図１９に示される例では、プロセッサ１０は、第３動作として、部位ｂ３４を振動させることにより対象オブジェクト４００を変形させる。部位ｂ３４の振動の大きさは、入力された動作の第１制限範囲に対する逸脱の程度に応じて変更されることとしてもよい。これにより、部位ｂ３４が震えている視界画像がユーザに提供されるので、部位ｂ３４に対する操作が、部位ｂ３４に関してのある制限を超えていることをユーザに認識させ得る。

図２０は、ある実施の形態に従う対象オブジェクト４００の他の例を表す図である。図２０の状態（Ａ）は、対象オブジェクト４００Ｂの定義及び構成を表す。図２０の状態（Ａ）に示される例では、対象オブジェクト４００Ｂは、筆記具を表す。図２０の状態（Ａ）に示されるように、対象オブジェクト４００Ｂは、仮想的な複数の部位ｂ９１〜ｂ９７及びジョイントｊ９１〜ｊ９６を含み、直線に沿うように配列された部位ｂ９１〜ｂ９７に筆記具の外観デザインを適用することで（部位ｂ９１〜ｂ９７を外観部ＴＰにより肉付けすることで）形成される。

図２０の状態（Ａ）に示される対象オブジェクト４００Ｂの例では、部位ｂ９１〜ｂ９７が同じ階層を有し得る。かかる場合には、プロセッサ１０は、第２モードの第２操作において、対象オブジェクト４００Ｂを２つの部分に分離させる位置に相当するジョイントｊを、第１操作オブジェクト３０１Ｌ関連付けられた部位ｂ及び第２操作オブジェクト３０１Ｒに関連付けられた部位ｂに応じて設定する。

図２０の状態（Ｂ）は、分離された対象オブジェクト４００Ｂの例を示す。図２０の状態（Ｂ）に示される例では、第１操作オブジェクト３０１Ｌは部位ｂ９２を掴み、第２操作オブジェクト３０１Ｒは部位ｂ９５を掴んでいる。即ち、第１操作オブジェクト３０１Ｌに部位ｂ９２が関連付けられ、第２操作オブジェクト３０１Ｒに部位ｂ９５が関連付けられているので、プロセッサ１０は、対象オブジェクト４００Ｂを２つの部分に分離させる位置に相当するジョイントｊを、部位ｂ９２と部位ｂ９５との中央に位置するジョイントｊ９３に設定し得る。ジョイントｊ９３に対して予め設定された第２制限範囲ｒ２を逸脱する動作が第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒにより入力された場合には、プロセッサ１０は、部位ｂ９２を含む第１部分オブジェクトと部位ｂ９５を含む第２部分オブジェクトとにジョイントｊ９３の位置において分離された対象オブジェクト４００Ｂの視界画像を生成する。

上記実施形態においては、ＨＭＤ装置１１０によってユーザ１９０が没入する仮想空間（ＶＲ空間）を例示して説明したが、ＨＭＤ装置１１０として、透過型のＨＭＤ装置を採用してもよい。この場合、透過型のＨＭＤ装置を介してユーザ１９０が視認する現実空間に仮想空間を構成する画像の一部を合成した視界画像を出力することにより、拡張現実（ＡＲ：Augumented Reality）空間または複合現実（ＭＲ：Mixed Reality）空間における仮想体験をユーザ１９０に提供してもよい。この場合、第１操作オブジェクト３０１Ｌ及び第２操作オブジェクト３０１Ｒに代えて、ユーザ１９０の手の動きに基づいて、仮想空間２内における対象オブジェクト４００への作用を生じさせてもよい。具体的には、プロセッサ１０は、現実空間におけるユーザ１９０の手の位置の座標情報を特定するとともに、仮想空間２内における対象オブジェクトの位置を現実空間における座標情報との関係で定義してもよい。これにより、プロセッサ１０は、現実空間におけるユーザ１９０の手と仮想空間２における対象オブジェクト４００との位置関係を把握し、ユーザ１９０の手と対象オブジェクト４００との関連付け等に対応する処理を実行可能となる。その結果、ユーザ１９０の手の動きに基づいて対象オブジェクト４００に作用を与えることが可能となる。

本明細書に開示された主題は、例えば、以下のような項目として示される。
（項目１）
表示部（ディスプレイ１１２）を備えるヘッドマウントデバイス（ＨＭＤ装置１１０）を介してユーザ（ユーザ１９０）に仮想空間（仮想空間２）を提供するためにコンピュータ（コンピュータ２００またはサーバ１５０）によって実行される情報処理方法であって、
ユーザによる操作の対象の対象オブジェクト（対象オブジェクト４００）を含む仮想空間を規定する仮想空間データを生成するステップ（図１０のステップＳ１または図１２のステップＳ２１）と、
前記ユーザの身体の一部である第１部分と第２部分の動きを検出するステップ（図１０のステップＳ７または図１２のステップＳ２３）と、
前記第１部分の動きに応じて前記仮想空間において第１操作オブジェクト（第１操作オブジェクト３０１Ｌ）を動かすステップ（図１０のステップＳ８または図１２のステップＳ２４）と、
前記第２部分の動きに応じて前記仮想空間において第２操作オブジェクト（第２操作オブジェクト３０１Ｒ）を動かすステップ（図１０のステップＳ８または図１２のステップＳ２４）と、
前記第１操作オブジェクトと、前記第２操作オブジェクトと、前記対象オブジェクトとの位置関係に基づいて、前記対象オブジェクトに対する操作モードが、前記第１操作オブジェクト及び前記第２操作オブジェクトのいずれか一方によって操作される第１モードか、前記第１操作オブジェクト及び前記第２操作オブジェクトの双方によって操作される第２モードか、を判断するステップ（図１２のステップＳ２６、Ｓ２７）と、
前記操作モードが前記第１モードであるか前記第２モードであるかに応じて、前記第１操作オブジェクト及び前記第２操作オブジェクトの少なくとも一方の動きによる前記対象オブジェクトに対する操作を異ならせるように、前記対象オブジェクトの挙動を制御する、ステップ（図１０のステップＳ８または図１２のステップＳ２９，Ｓ３１）と、
前記ヘッドマウントデバイスの姿勢に応じた視界画像を前記表示部に表示させるステップ（図１０のステップＳ９、Ｓ１０または図１２のステップＳ３２）と、
を含む情報処理方法。
本項目の情報処理方法によれば、第１モードと第２モードとにおいて異なる操作により、対象オブジェクトの挙動を制御することにより、対象オブジェクトに異なる動作をさせることができる。この結果、仮想空間においてユーザに多様な体験を提供することができる。
（項目２）
前記第１操作オブジェクトと前記対象オブジェクトとの位置関係に基づいて、前記第１操作オブジェクトと前記対象オブジェクトとを関連付け、
前記第２操作オブジェクトと前記対象オブジェクトとの位置関係に基づいて、前記第２操作オブジェクトと前記対象オブジェクトとを関連付け、
前記第１操作オブジェクト及び前記第２操作オブジェクトのいずれか一方が前記対象オブジェクトと関連付けられている場合には、前記操作モードを前記第１モードとし、
前記第１操作オブジェクト及び前記第２操作オブジェクトの双方が前記対象オブジェクトと関連付けられている場合には、前記操作モードを前記第２モードとする、
項目１に記載の情報処理方法。
本項目の情報処理方法によれば、第１操作オブジェクト及び第２操作オブジェクトのそれぞれと対象オブジェクトとの位置関係に基づく関連付けにより操作モードが判断されるので、操作モードの設定のための特段の入力操作を要することなく、操作モードに応じた体験をユーザに提供できる。
（項目３）
前記第１モードにおいては、前記対象オブジェクトに関連付けられた前記第１操作オブジェクト及び前記第２操作オブジェクトの一方の動きに応じて前記対象オブジェクトを移動させ、
前記第２モードにおいては、前記第１操作オブジェクト及び前記第２操作オブジェクトの双方の動きに応じて前記対象オブジェクトを変形させる、
項目２に記載の情報処理方法。
本項目の情報処理方法によれば、操作モードに応じて、対象オブジェクトを移動させたり、変形させたりすることができるので、対象オブジェクトに対する操作を通じて、多様な体験をユーザに提供できる。
（項目４）
前記対象オブジェクトは、複数の部位を含み、隣接する複数の部位は相互にジョイントを介して連結されており、複数の前記部位間に階層が定義されており、
前記第２モードにおいては、前記第１操作オブジェクト及び前記第２操作オブジェクトのそれぞれに関連付けられた部位のうち、より低い階層として定義された部位を、該部位に連結されたジョイントを支点として動作させることにより、前記対象オブジェクトを変形させる、
項目３に記載の情報処理方法。
本項目の情報処理方法によれば、第１操作オブジェクト及び第２操作オブジェクトのそれぞれに関連付けられた各部位に定義された階層により、部位を動作させる際の支点となるジョイントが一意に定められ、処理負荷の高い計算を要することなく、対象オブジェクトの変形の制御が実現されると共に、ユーザの操作に対して直感的な態様の変形動作をさせることができる。
（項目５）
前記部位の前記ジョイントを支点とする前記動作には第１制限範囲が定義されており、
前記第２モードにおいて前記第１制限範囲を逸脱する動作が前記第１操作オブジェクト及び前記第２操作オブジェクトによって入力された場合には、前記第１制限範囲の外縁における第１動作により前記対象オブジェクトを変形させる、
項目４に記載の情報処理方法。
本項目の情報処理方法によれば、第１制限範囲を逸脱する動作が入力された場合であっても、第１動作により対象オブジェクトの変形が制御されるので、操作の過剰な調整をユーザに対して強いることなく、対象オブジェクトの変形の操作といった体験をユーザに提供できる。
（項目６）
前記部位の前記ジョイントを支点とする前記動作には、前記第１制限範囲より広い第２制限範囲がさらに定義されており、
前記第２モードにおいて前記第２制限範囲を逸脱する動作が前記第１操作オブジェクト及び前記第２操作オブジェクトによって入力された場合には、前記第１動作とは異なる第２動作により前記対象オブジェクトを変形させる、
項目５に記載の情報処理方法。
本項目の情報処理方法によれば、第２制限範囲を逸脱する動作が入力された場合に、第１動作とは異なる第２動作により対象オブジェクトが変形されるので、対象オブジェクトの変形の操作において、より多様な体験がユーザに提供される。
（項目７）
前記第２モードにおいて、前記第２制限範囲内であって前記第１制限範囲を逸脱する動作が前記第１操作オブジェクト及び前記第２操作オブジェクトによって入力された場合には、前記第１動作及び前記第２動作とは異なり前記第１制限範囲に対する逸脱の程度に応じた第３動作により前記対象オブジェクトを変形させる、
項目６に記載の情報処理方法。
本項目の情報処理方法によれば、第２制限範囲内であって第１制限範囲を逸脱する動作が入力された場合に、第１動作及び第２動作とは異なる第３動作により対象オブジェクトが変形されるので、対象オブジェクトの変形の操作において、更なる多様な体験がユーザに提供される。
（項目８）
前記第２動作は、前記第１操作オブジェクトに関連付けられた部位を含む第１部分オブジェクトと、前記第２操作オブジェクトに関連付けられた部位を含む第２部分オブジェクトとに、前記対象オブジェクトを分離することであり、
前記第２動作においては、前記第１部分オブジェクトは、前記第１操作オブジェクトに関連付けられ、前記第２部分オブジェクトは、前記第２操作オブジェクトに関連付けられる、
項目６または７に記載の情報処理方法。
本項目の情報処理方法によれば、第２制限範囲を逸脱する動作が入力された場合に対象オブジェクトが２つの部分に分離されるので、対象オブジェクトにより表される物体に対する操作が限界を超えた場合に発生する現象に相当する、現実感のある体験をユーザに提供できる。
（項目９）
前記第２動作において、前記第１操作オブジェクトに関連付けられた部位及び前記第２操作オブジェクトに関連付けられた部位に応じて定められる前記ジョイントにおいて、前記第１部分オブジェクトと前記第２部分オブジェクトとに前記対象オブジェクトを分離する、
項目８に記載の情報処理方法。
本項目の情報処理方法によれば、第１操作オブジェクト及び第２操作オブジェクトのそれぞれに関連付けられた部位に応じて、対象オブジェクトが２つの部分に分離される際の分離位置が設定されるので、対象オブジェクトにより表される物体を２つの部分に分離させるという現象において、より現実感のある体験をユーザに提供することができる
（項目１０）
項目１〜９のいずれか一項に記載の情報処理方法をコンピュータに実行させるプログラム。
（項目１１）
少なくともメモリと、前記メモリ（メモリモジュール２４０）に結合されたプロセッサ（プロセッサ１０）とを備え、前記プロセッサの制御により項目１〜９のいずれか一項に記載の情報処理方法を実行する、装置。

１…仮想カメラ、２…仮想空間、５…基準視線、１０…プロセッサ、１１…メモリ、１２…ストレージ、１３…入出力インターフェース、１４…通信インターフェース、１５…バス、１９…ネットワーク、２１…中心、２２…仮想空間画像、２３…視界領域、２４，２５…領域、３０…グリップ、３１…フレーム、３２…天面、３３，３４，３６，３７…ボタン、３８…アナログスティック、１００，１００Ａ…ＨＭＤシステム、１１０，１１０Ａ…ＨＭＤ装置、１１２…ディスプレイ、１１４…センサ、１１６…カメラ、１１８…マイク、１２０…ＨＭＤセンサ、１３０…モーションセンサ、１４０…注視センサ、１５０…サーバ、１６０…コントローラ、１６０Ｒ…右コントローラ、１９０，１９０Ａ…ユーザ、２００…コンピュータ、２２０…表示制御モジュール、２２１…仮想カメラ制御モジュール、２２２…視界領域決定モジュール、２２３…視界画像生成モジュール、２２４…基準視線特定モジュール、２３０…仮想空間制御モジュール、２３１…仮想空間定義モジュール、２３２…仮想オブジェクト制御モジュール、２３３…操作オブジェクト制御モジュール、２３４…コリジョン制御モジュール、２４０…メモリモジュール、２４１…空間情報、２４２…オブジェクト情報、２４３…ユーザ情報、２５０…通信制御モジュール、３００…視界画像、３０１Ｌ…第１操作オブジェクト、３０１Ｒ…第２操作オブジェクト、４００，４００Ｂ…対象オブジェクト、ｒ１…第１制限範囲、ｒ２…第２制限範囲。

Claims (11)

1. 表示部を備えるヘッドマウントデバイスを介してユーザに仮想空間を提供するためにコンピュータによって実行される情報処理方法であって、
   ユーザによる操作の対象の対象オブジェクトを含む仮想空間を規定する仮想空間データを生成するステップと、
   前記ユーザの身体の一部である第１部分及び第２部分の動きを検出するステップと、
   前記第１部分の動きに応じて前記仮想空間において第１操作オブジェクトを動かすステップと、
   前記第２部分の動きに応じて前記仮想空間において第２操作オブジェクトを動かすステップと、
   前記第１操作オブジェクトと、前記第２操作オブジェクトと、前記対象オブジェクトとの位置関係に基づいて、前記対象オブジェクトに対する操作モードが、前記第１操作オブジェクト及び前記第２操作オブジェクトのいずれか一方によって操作される第１モードか、前記第１操作オブジェクト及び前記第２操作オブジェクトの双方によって操作される第２モードか、を判断するステップと、
   前記操作モードが前記第１モードであるか前記第２モードであるかに応じて、前記第１操作オブジェクト及び前記第２操作オブジェクトの少なくとも一方の動きによる前記対象オブジェクトに対する操作を異ならせるように、前記対象オブジェクトの挙動を制御する、ステップと、
   前記ヘッドマウントデバイスの姿勢に応じた視界画像を前記表示部に表示させるステップと、
   を含む情報処理方法。
2. 前記第１操作オブジェクトと前記対象オブジェクトとの位置関係に基づいて、前記第１操作オブジェクトと前記対象オブジェクトとを関連付け、
   前記第２操作オブジェクトと前記対象オブジェクトとの位置関係に基づいて、前記第２操作オブジェクトと前記対象オブジェクトとを関連付け、
   前記第１操作オブジェクト及び前記第２操作オブジェクトのいずれか一方が前記対象オブジェクトと関連付けられている場合には、前記操作モードを前記第１モードとし、
   前記第１操作オブジェクト及び前記第２操作オブジェクトの双方が前記対象オブジェクトと関連付けられている場合には、前記操作モードを前記第２モードとする、
   請求項１に記載の情報処理方法。
3. 前記第１モードにおいては、前記対象オブジェクトに関連付けられた前記第１操作オブジェクト及び前記第２操作オブジェクトの一方の動きに応じて前記対象オブジェクトを移動させ、
   前記第２モードにおいては、前記第１操作オブジェクト及び前記第２操作オブジェクトの双方の動きに応じて前記対象オブジェクトを変形させる、
   請求項２に記載の情報処理方法。
4. 前記対象オブジェクトは、複数の部位を含み、隣接する複数の部位は相互にジョイントを介して連結されており、複数の前記部位間に階層が定義されており、
   前記第２モードにおいては、前記第１操作オブジェクト及び前記第２操作オブジェクトのそれぞれに関連付けられた部位のうち、より低い階層として定義された部位を、該部位に連結されたジョイントを支点として動作させることにより、前記対象オブジェクトを変形させる、
   請求項３に記載の情報処理方法。
5. 前記部位の前記ジョイントを支点とする前記動作には第１制限範囲が定義されており、
   前記第２モードにおいて前記第１制限範囲を逸脱する動作が前記第１操作オブジェクト及び前記第２操作オブジェクトによって入力された場合には、前記第１制限範囲の外縁における第１動作により前記対象オブジェクトを変形させる、
   請求項４に記載の情報処理方法。
6. 前記部位の前記ジョイントを支点とする前記動作には、前記第１制限範囲より広い第２制限範囲がさらに定義されており、
   前記第２モードにおいて前記第２制限範囲を逸脱する動作が前記第１操作オブジェクト及び前記第２操作オブジェクトによって入力された場合には、前記第１動作とは異なる第２動作により前記対象オブジェクトを変形させる、
   請求項５に記載の情報処理方法。
7. 前記第２モードにおいて、前記第２制限範囲内であって前記第１制限範囲を逸脱する動作が前記第１操作オブジェクト及び前記第２操作オブジェクトによって入力された場合には、前記第１動作及び前記第２動作とは異なり前記第１制限範囲に対する逸脱の程度に応じた第３動作により前記対象オブジェクトを変形させる、
   請求項６に記載の情報処理方法。
8. 前記第２動作は、前記第１操作オブジェクトに関連付けられた部位を含む第１部分オブジェクトと、前記第２操作オブジェクトに関連付けられた部位を含む第２部分オブジェクトとに、前記対象オブジェクトを分離することであり、
   前記第２動作においては、前記第１部分オブジェクトは、前記第１操作オブジェクトに関連付けられ、前記第２部分オブジェクトは、前記第２操作オブジェクトに関連付けられる、
   請求項６または７に記載の情報処理方法。
9. 前記第２動作において、前記第１操作オブジェクトに関連付けられた部位及び前記第２操作オブジェクトに関連付けられた部位に応じて定められる前記ジョイントにおいて、前記第１部分オブジェクトと前記第２部分オブジェクトとに前記対象オブジェクトを分離する、
   請求項８に記載の情報処理方法。
10. 請求項１〜９のいずれか一項に記載の情報処理方法をコンピュータに実行させるプログラム。
11. 少なくともメモリと、前記メモリに結合されたプロセッサとを備え、前記プロセッサの制御により請求項１〜９のいずれか一項に記載の情報処理方法を実行する、装置。