JP2022171742A - Program, information processing method, and information processing device - Google Patents
Program, information processing method, and information processing device Download PDFInfo
- Publication number
- JP2022171742A JP2022171742A JP2022140613A JP2022140613A JP2022171742A JP 2022171742 A JP2022171742 A JP 2022171742A JP 2022140613 A JP2022140613 A JP 2022140613A JP 2022140613 A JP2022140613 A JP 2022140613A JP 2022171742 A JP2022171742 A JP 2022171742A
- Authority
- JP
- Japan
- Prior art keywords
- hmd
- user
- virtual
- virtual space
- control module
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000010365 information processing Effects 0.000 title abstract description 10
- 238000003672 processing method Methods 0.000 title abstract description 5
- 230000008859 change Effects 0.000 claims description 7
- 230000000007 visual effect Effects 0.000 abstract description 44
- 238000010586 diagram Methods 0.000 description 36
- 238000004891 communication Methods 0.000 description 33
- 210000001508 eye Anatomy 0.000 description 30
- 238000001514 detection method Methods 0.000 description 19
- 210000003811 finger Anatomy 0.000 description 10
- 230000006870 function Effects 0.000 description 10
- 238000000034 method Methods 0.000 description 10
- 238000009877 rendering Methods 0.000 description 10
- 230000009471 action Effects 0.000 description 8
- 210000003128 head Anatomy 0.000 description 8
- 230000001815 facial effect Effects 0.000 description 6
- 210000000056 organ Anatomy 0.000 description 6
- 241001465754 Metazoa Species 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 208000013057 hereditary mucoepithelial dysplasia Diseases 0.000 description 4
- 230000002123 temporal effect Effects 0.000 description 4
- 230000001133 acceleration Effects 0.000 description 3
- 238000005401 electroluminescence Methods 0.000 description 3
- 210000004709 eyebrow Anatomy 0.000 description 3
- 210000000214 mouth Anatomy 0.000 description 3
- 238000002834 transmittance Methods 0.000 description 3
- 238000003491 array Methods 0.000 description 2
- 238000005452 bending Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000005338 frosted glass Substances 0.000 description 2
- 238000010191 image analysis Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000005236 sound signal Effects 0.000 description 2
- 230000002194 synthesizing effect Effects 0.000 description 2
- 210000003813 thumb Anatomy 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 1
- 210000005252 bulbus oculi Anatomy 0.000 description 1
- 210000004087 cornea Anatomy 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000007654 immersion Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 210000004932 little finger Anatomy 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 230000000873 masking effect Effects 0.000 description 1
- 230000007935 neutral effect Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 210000004935 right thumb Anatomy 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
Images
Abstract
Description
本開示は、プログラム、情報処理方法及び情報処理装置に関する。 The present disclosure relates to a program, an information processing method, and an information processing apparatus.
特許文献１は、ヘッドマウントディスプレイを装着したプレイヤの身体的な動きが一定の速さを超えないようプレイヤに働きかけることができ、プレイヤの安全性をいっそう向上させることができるゲームプログラム等を開示している。
ＶＲ空間において表示される仮想オブジェクトによっては、当該仮想オブジェクトの特定部位を秘匿することが必要になる場合もある。しかしながら、特許文献１に記載されたような従来技術では、このような要請に対して十分に応えることができず、ユーザの仮想体験を向上させる上で改善の余地があった。
Depending on the virtual object displayed in the VR space, it may be necessary to conceal a specific portion of the virtual object. However, the conventional technology as described in
本開示は、ユーザの仮想体験を向上させるプログラム、情報処理方法及び情報処理装置を提供することを目的とする。 An object of the present disclosure is to provide a program, an information processing method, and an information processing apparatus that improve a user's virtual experience.
本開示が示す一態様によれば、コンピュータに、仮想視点と、遮蔽対象と、第１オブジェクトとを含む仮想空間を定義するステップと、仮想視点からの視界を定義するステップと、視界に遮蔽対象が含まれる場合、遮蔽対象が第１オブジェクトにより遮蔽されるように、第１オブジェクトの配置を制御するステップと、視界に対応する視界画像を生成するステップと、を実行させるためのプログラムが提供される。 According to one aspect of the present disclosure, in a computer, defining a virtual space including a virtual viewpoint, a hidden target, and a first object; defining a field of view from the virtual viewpoint; is included, a program is provided for executing the steps of: be.
本開示によれば、ユーザの仮想体験を向上させるプログラム、情報処理方法及び情報処理装置を提供することができる。 According to the present disclosure, it is possible to provide a program, an information processing method, and an information processing apparatus that improve a user's virtual experience.
以下、この技術的思想の実施の形態について図面を参照しながら詳細に説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。本開示において示される１以上の実施形態において、各実施形態が含む要素を互いに組み合わせることができ、かつ、当該組み合わせられた結果物も本開示が示す実施形態の一部をなすものとする。 Hereinafter, embodiments of this technical idea will be described in detail with reference to the drawings. In the following description, the same parts are given the same reference numerals. Their names and functions are also the same. Therefore, detailed description thereof will not be repeated. In one or more of the embodiments presented in this disclosure, elements of each embodiment may be combined with each other and the combined result shall also form part of the embodiments presented in this disclosure.
［ＨＭＤシステムの構成］
図１を参照して、ＨＭＤ（Head-Mounted Device）システム１００の構成について説明する。図１は、本実施の形態に従うＨＭＤシステム１００の構成の概略を表す図である。ＨＭＤシステム１００は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。
[Configuration of HMD system]
The configuration of an HMD (Head-Mounted Device)
ＨＭＤシステム１００は、サーバ６００と、ＨＭＤセット１１０Ａ，１１０Ｂ，１１０Ｃ，１１０Ｄと、外部機器７００と、ネットワーク２とを含む。ＨＭＤセット１１０Ａ，１１０Ｂ，１１０Ｃ，１１０Ｄの各々は、ネットワーク２を介してサーバ６００や外部機器７００と通信可能に構成される。以下、ＨＭＤセット１１０Ａ，１１０Ｂ，１１０Ｃ，１１０Ｄを総称して、ＨＭＤセット１１０とも言う。ＨＭＤシステム１００を構成するＨＭＤセット１１０の数は、４つに限られず、３つ以下でも、５つ以上でもよい。ＨＭＤセット１１０は、ＨＭＤ１２０と、コンピュータ２００と、ＨＭＤセンサ４１０と、ディスプレイ４３０と、コントローラ３００とを備える。ＨＭＤ１２０は、モニタ１３０と、注視センサ１４０と、第１カメラ１５０と、第２カメラ１６０と、マイク１７０と、スピーカ１８０とを含む。コントローラ３００は、モーションセンサ４２０を含み得る。
ある局面において、コンピュータ２００は、インターネットその他のネットワーク２に接続可能であり、ネットワーク２に接続されているサーバ６００その他のコンピュータと通信可能である。その他のコンピュータとしては、例えば、他のＨＭＤセット１１０のコンピュータや外部機器７００が挙げられる。別の局面において、ＨＭＤ１２０は、ＨＭＤセンサ４１０の代わりに、センサ１９０を含み得る。
In one aspect,
ＨＭＤ１２０は、ユーザ５の頭部に装着され、動作中に仮想空間をユーザ５に提供し得る。より具体的には、ＨＭＤ１２０は、右目用の画像および左目用の画像をモニタ１３０にそれぞれ表示する。ユーザ５の各目がそれぞれの画像を視認すると、ユーザ５は、両目の視差に基づき当該画像を３次元画像として認識し得る。ＨＭＤ１２０は、モニタを備える所謂ヘッドマウントディスプレイと、スマートフォンその他のモニタを有する端末を装着可能なヘッドマウント機器のいずれをも含み得る。
The HMD 120 can be worn on the head of the
モニタ１３０は、例えば、非透過型の表示装置として実現される。ある局面において、モニタ１３０は、ユーザ５の両目の前方に位置するようにＨＭＤ１２０の本体に配置されている。したがって、ユーザ５は、モニタ１３０に表示される３次元画像を視認すると、仮想空間に没入することができる。ある局面において、仮想空間は、例えば、背景、ユーザ５が操作可能なオブジェクト、ユーザ５が選択可能なメニューの画像を含む。ある局面において、モニタ１３０は、所謂スマートフォンその他の情報表示端末が備える液晶モニタまたは有機ＥＬ（Electro Luminescence）モニタとして実現され得る。
The
別の局面において、モニタ１３０は、透過型の表示装置として実現され得る。この場合、ＨＭＤ１２０は、図１に示されるようにユーザ５の目を覆う密閉型ではなく、メガネ型のような開放型であり得る。透過型のモニタ１３０は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可能であってもよい。モニタ１３０は、仮想空間を構成する画像の一部と、現実空間とを同時に表示する構成を含んでいてもよい。例えば、モニタ１３０は、ＨＭＤ１２０に搭載されたカメラで撮影した現実空間の画像を表示してもよいし、一部の透過率を高く設定することにより現実空間を視認可能にしてもよい。
In another aspect,
ある局面において、モニタ１３０は、右目用の画像を表示するためのサブモニタと、左目用の画像を表示するためのサブモニタとを含み得る。別の局面において、モニタ１３０は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、モニタ１３０は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。
In one aspect,
ある局面において、ＨＭＤ１２０は、図示せぬ複数の光源を含む。各光源は例えば、赤外線を発するＬＥＤ（Light Emitting Diode）により実現される。ＨＭＤセンサ４１０は、ＨＭＤ１２０の動きを検出するためのポジショントラッキング機能を有する。より具体的には、ＨＭＤセンサ４１０は、ＨＭＤ１２０が発する複数の赤外線を読み取り、現実空間内におけるＨＭＤ１２０の位置および傾きを検出する。
In one aspect, the HMD 120 includes multiple light sources (not shown). Each light source is implemented by, for example, an LED (Light Emitting Diode) that emits infrared rays.
別の局面において、ＨＭＤセンサ４１０は、カメラにより実現されてもよい。この場合、ＨＭＤセンサ４１０は、カメラから出力されるＨＭＤ１２０の画像情報を用いて、画像解析処理を実行することにより、ＨＭＤ１２０の位置および傾きを検出することができる。
In another aspect,
別の局面において、ＨＭＤ１２０は、位置検出器として、ＨＭＤセンサ４１０の代わりに、あるいはＨＭＤセンサ４１０に加えてセンサ１９０を備えてもよい。ＨＭＤ１２０は、センサ１９０を用いて、ＨＭＤ１２０自身の位置および傾きを検出し得る。例えば、センサ１９０が角速度センサ、地磁気センサ、あるいは加速度センサである場合、ＨＭＤ１２０は、ＨＭＤセンサ４１０の代わりに、これらの各センサのいずれかを用いて、自身の位置および傾きを検出し得る。一例として、センサ１９０が角速度センサである場合、角速度センサは、現実空間におけるＨＭＤ１２０の３軸周りの角速度を経時的に検出する。ＨＭＤ１２０は、各角速度に基づいて、ＨＭＤ１２０の３軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、ＨＭＤ１２０の傾きを算出する。
In another aspect,
注視センサ１４０は、ユーザ５の右目および左目の視線が向けられる方向を検出する。つまり、注視センサ１４０は、ユーザ５の視線を検出する。視線の方向の検出は、例えば、公知のアイトラッキング機能によって実現される。注視センサ１４０は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ１４０は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ１４０は、例えば、ユーザ５の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ１４０は、検出した各回転角に基づいて、ユーザ５の視線を検知することができる。
第１カメラ１５０は、ユーザ５の顔の下部を撮影する。より具体的には、第１カメラ１５０は、ユーザ５の鼻および口などを撮影する。第２カメラ１６０は、ユーザ５の目および眉などを撮影する。ＨＭＤ１２０のユーザ５側の筐体をＨＭＤ１２０の内側、ＨＭＤ１２０のユーザ５とは逆側の筐体をＨＭＤ１２０の外側と定義する。ある局面において、第１カメラ１５０は、ＨＭＤ１２０の外側に配置され、第２カメラ１６０は、ＨＭＤ１２０の内側に配置され得る。第１カメラ１５０および第２カメラ１６０が生成した画像は、コンピュータ２００に入力される。別の局面において、第１カメラ１５０と第２カメラ１６０とを１台のカメラとして実現し、この１台のカメラでユーザ５の顔を撮影するようにしてもよい。
The
マイク１７０は、ユーザ５の発話を音声信号（電気信号）に変換してコンピュータ２００に出力する。スピーカ１８０は、音声信号を音声に変換してユーザ５に出力する。別の局面において、ＨＭＤ１２０は、スピーカ１８０に替えてイヤホンを含み得る。
The
コントローラ３００は、有線または無線によりコンピュータ２００に接続されている。コントローラ３００は、ユーザ５からコンピュータ２００への命令の入力を受け付ける。ある局面において、コントローラ３００は、ユーザ５によって把持可能に構成される。別の局面において、コントローラ３００は、ユーザ５の身体あるいは衣類の一部に装着可能に構成される。さらに別の局面において、コントローラ３００は、コンピュータ２００から送信される信号に基づいて、振動、音、光のうちの少なくともいずれかを出力するように構成されてもよい。さらに別の局面において、コントローラ３００は、ユーザ５から、仮想空間に配置されるオブジェクトの位置や動きを制御するための操作を受け付ける。
The
ある局面において、コントローラ３００は、複数の光源を含む。各光源は例えば、赤外線を発するＬＥＤにより実現される。ＨＭＤセンサ４１０は、ポジショントラッキング機能を有する。この場合、ＨＭＤセンサ４１０は、コントローラ３００が発する複数の赤外線を読み取り、現実空間内におけるコントローラ３００の位置および傾きを検出する。別の局面において、ＨＭＤセンサ４１０は、カメラにより実現されてもよい。この場合、ＨＭＤセンサ４１０は、カメラから出力されるコントローラ３００の画像情報を用いて、画像解析処理を実行することにより、コントローラ３００の位置および傾きを検出することができる。
In one aspect,
モーションセンサ４２０は、ある局面において、ユーザ５の手に取り付けられて、ユーザ５の手の動きを検出する。例えば、モーションセンサ４２０は、手の回転速度、回転数等を検出する。検出された信号は、コンピュータ２００に送られる。モーションセンサ４２０は、例えば、コントローラ３００に設けられている。ある局面において、モーションセンサ４２０は、例えば、ユーザ５に把持可能に構成されたコントローラ３００に設けられている。別の局面において、現実空間における安全のため、コントローラ３００は、手袋型のようにユーザ５の手に装着されることにより容易に飛んで行かないものに装着される。さらに別の局面において、ユーザ５に装着されないセンサがユーザ５の手の動きを検出してもよい。例えば、ユーザ５を撮影するカメラの信号が、ユーザ５の動作を表わす信号として、コンピュータ２００に入力されてもよい。モーションセンサ４２０とコンピュータ２００とは、一例として、無線により互いに接続される。無線の場合、通信形態は特に限られず、例えば、Ｂｌｕｅｔｏｏｔｈ（登録商標）その他の公知の通信手法が用いられる。
ディスプレイ４３０は、モニタ１３０に表示されている画像と同様の画像を表示する。これにより、ＨＭＤ１２０を装着しているユーザ５以外のユーザにも当該ユーザ５と同様の画像を視聴させることができる。ディスプレイ４３０に表示される画像は、３次元画像である必要はなく、右目用の画像や左目用の画像であってもよい。ディスプレイ４３０としては、例えば、液晶ディスプレイや有機ＥＬモニタなどが挙げられる。
サーバ６００は、コンピュータ２００にプログラムを送信し得る。別の局面において、サーバ６００は、他のユーザによって使用されるＨＭＤ１２０に仮想現実を提供するための他のコンピュータ２００と通信し得る。例えば、アミューズメント施設において、複数のユーザが参加型のゲームを行なう場合、各コンピュータ２００は、各ユーザの動作に基づく信号をサーバ６００を介して他のコンピュータ２００と通信して、同じ仮想空間において複数のユーザが共通のゲームを楽しむことを可能にする。各コンピュータ２００は、各ユーザの動作に基づく信号をサーバ６００を介さずに他のコンピュータ２００と通信するようにしてもよい。
外部機器７００は、コンピュータ２００と通信可能な機器であればどのような機器であってもよい。外部機器７００は、例えば、ネットワーク２を介してコンピュータ２００と通信可能な機器であってもよいし、近距離無線通信や有線接続によりコンピュータ２００と直接通信可能な機器であってもよい。外部機器７００としては、例えば、スマートデバイス、ＰＣ（Personal Computer）、及びコンピュータ２００の周辺機器などが挙げられるが、これらに限定されるものではない。
The
［コンピュータのハードウェア構成］
図２を参照して、本実施の形態に係るコンピュータ２００について説明する。図２は、本実施の形態に従うコンピュータ２００のハードウェア構成の一例を表すブロック図である。コンピュータ２００は、主たる構成要素として、プロセッサ２１０と、メモリ２２０と、ストレージ２３０と、入出力インターフェイス２４０と、通信インターフェイス２５０とを備える。各構成要素は、それぞれ、バス２６０に接続されている。
[Computer hardware configuration]
A
プロセッサ２１０は、コンピュータ２００に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ２２０またはストレージ２３０に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ２１０は、ＣＰＵ（Central Processing Unit）、ＧＰＵ（Graphics Processing Unit）、ＭＰＵ（Micro Processor Unit）、ＦＰＧＡ（Field-Programmable Gate Array）その他のデバイスとして実現される。
メモリ２２０は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ２３０からロードされる。データは、コンピュータ２００に入力されたデータと、プロセッサ２１０によって生成されたデータとを含む。ある局面において、メモリ２２０は、ＲＡＭ（Random Access Memory）その他の揮発メモリとして実現される。
ストレージ２３０は、プログラムおよびデータを永続的に保持する。ストレージ２３０は、例えば、ＲＯＭ（Read-Only Memory）、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ２３０に格納されるプログラムは、ＨＭＤシステム１００において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、他のコンピュータ２００との通信を実現するためのプログラムを含む。ストレージ２３０に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含む。
別の局面において、ストレージ２３０は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、コンピュータ２００に内蔵されたストレージ２３０の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のＨＭＤシステム１００が使用される場面において、プログラムやデータの更新を一括して行なうことが可能になる。
In another aspect,
入出力インターフェイス２４０は、ＨＭＤ１２０、ＨＭＤセンサ４１０、モーションセンサ４２０およびディスプレイ４３０との間で信号を通信する。ＨＭＤ１２０に含まれるモニタ１３０，注視センサ１４０，第１カメラ１５０，第２カメラ１６０，マイク１７０およびスピーカ１８０は、ＨＭＤ１２０の入出力インターフェイス２４０を介してコンピュータ２００との通信を行ない得る。ある局面において、入出力インターフェイス２４０は、ＵＳＢ（Universal Serial Bus）、ＤＶＩ（Digital Visual Interface）、ＨＤＭＩ（登録商標）（High-Definition Multimedia Interface）その他の端子を用いて実現される。入出力インターフェイス２４０は上述のものに限られない。
Input/
ある局面において、入出力インターフェイス２４０は、さらに、コントローラ３００と通信し得る。例えば、入出力インターフェイス２４０は、コントローラ３００およびモーションセンサ４２０から出力された信号の入力を受ける。別の局面において、入出力インターフェイス２４０は、プロセッサ２１０から出力された命令を、コントローラ３００に送る。当該命令は、振動、音声出力、発光等をコントローラ３００に指示する。コントローラ３００は、当該命令を受信すると、その命令に応じて、振動、音声出力または発光のいずれかを実行する。
In some aspects, input/
通信インターフェイス２５０は、ネットワーク２に接続されて、ネットワーク２に接続されている他のコンピュータ（例えば、サーバ６００）と通信する。ある局面において、通信インターフェイス２５０は、例えば、ＬＡＮ（Local Area Network）その他の有線通信インターフェイス、あるいは、ＷｉＦｉ（Wireless Fidelity）、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＮＦＣ（Near Field Communication）その他の無線通信インターフェイスとして実現される。通信インターフェイス２５０は上述のものに限られない。
The
ある局面において、プロセッサ２１０は、ストレージ２３０にアクセスし、ストレージ２３０に格納されている１つ以上のプログラムをメモリ２２０にロードし、当該プログラムに含まれる一連の命令を実行する。当該１つ以上のプログラムは、コンピュータ２００のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ２１０は、入出力インターフェイス２４０を介して、仮想空間を提供するための信号をＨＭＤ１２０に送る。ＨＭＤ１２０は、その信号に基づいてモニタ１３０に映像を表示する。
In one aspect,
図２に示される例では、コンピュータ２００は、ＨＭＤ１２０の外部に設けられる構成が示されているが、別の局面において、コンピュータ２００は、ＨＭＤ１２０に内蔵されてもよい。一例として、モニタ１３０を含む携帯型の情報通信端末（例えば、スマートフォン）がコンピュータ２００として機能してもよい。
In the example shown in FIG. 2,
コンピュータ２００は、複数のＨＭＤ１２０に共通して用いられる構成であってもよい。このような構成によれば、例えば、複数のユーザに同一の仮想空間を提供することもできるので、各ユーザは同一の仮想空間で他のユーザと同一のアプリケーションを楽しむことができる。
The
ある実施の形態において、ＨＭＤシステム１００では、現実空間における座標系である実座標系が予め設定されている。実座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、並びに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、３つの基準方向（軸）を有する。実座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれ、ｘ軸、ｙ軸、ｚ軸と規定される。より具体的には、実座標系において、ｘ軸は現実空間の水平方向に平行である。ｙ軸は、現実空間の鉛直方向に平行である。ｚ軸は現実空間の前後方向に平行である。
In one embodiment, in the
ある局面において、ＨＭＤセンサ４１０は、赤外線センサを含む。赤外線センサが、ＨＭＤ１２０の各光源から発せられた赤外線をそれぞれ検出すると、ＨＭＤ１２０の存在を検出する。ＨＭＤセンサ４１０は、さらに、各点の値（実座標系における各座標値）に基づいて、ＨＭＤ１２０を装着したユーザ５の動きに応じた、現実空間内におけるＨＭＤ１２０の位置および傾き（向き）を検出する。より詳しくは、ＨＭＤセンサ４１０は、経時的に検出された各値を用いて、ＨＭＤ１２０の位置および傾きの時間的変化を検出できる。
In one aspect,
ＨＭＤセンサ４１０によって検出されたＨＭＤ１２０の各傾きは、実座標系におけるＨＭＤ１２０の３軸周りの各傾きに相当する。ＨＭＤセンサ４１０は、実座標系におけるＨ ＭＤ１２０の傾きに基づき、ｕｖｗ視野座標系をＨＭＤ１２０に設定する。ＨＭＤ１２０に設定されるｕｖｗ視野座標系は、ＨＭＤ１２０を装着したユーザ５が仮想空間において物体を見る際の視点座標系に対応する。
Each tilt of
［ｕｖｗ視野座標系］
図３を参照して、ｕｖｗ視野座標系について説明する。図３は、ある実施の形態に従うＨＭＤ１２０に設定されるｕｖｗ視野座標系を概念的に表す図である。ＨＭＤセンサ４１０は、ＨＭＤ１２０の起動時に、実座標系におけるＨＭＤ１２０の位置および傾きを検出する。プロセッサ２１０は、検出された値に基づいて、ｕｖｗ視野座標系をＨＭＤ１２０に設定する。
[uvw visual field coordinate system]
The uvw visual field coordinate system will be described with reference to FIG. FIG. 3 is a diagram conceptually representing the uvw viewing coordinate system set in the
図３に示されるように、ＨＭＤ１２０は、ＨＭＤ１２０を装着したユーザ５の頭部を中心（原点）とした３次元のｕｖｗ視野座標系を設定する。より具体的には、ＨＭＤ１２０は、実座標系を規定する水平方向、鉛直方向、および前後方向（ｘ軸、ｙ軸、ｚ軸）を、実座標系内においてＨＭＤ１２０の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる３つの方向を、ＨＭＤ１２０におけるｕｖｗ視野座標系のピッチ軸（ｕ軸）、ヨー軸（ｖ軸）、およびロール軸（ｗ軸）として設定する。
As shown in FIG. 3 , the
ある局面において、ＨＭＤ１２０を装着したユーザ５が直立し、かつ、正面を視認している場合、プロセッサ２１０は、実座標系に平行なｕｖｗ視野座標系をＨＭＤ１２０に設定する。この場合、実座標系における水平方向（ｘ軸）、鉛直方向（ｙ軸）、および前後方向（ｚ軸）は、ＨＭＤ１２０におけるｕｖｗ視野座標系のピッチ軸（ｕ軸）、ヨー軸（ｖ軸）、およびロール軸（ｗ軸）に一致する。
In one aspect, when
ｕｖｗ視野座標系がＨＭＤ１２０に設定された後、ＨＭＤセンサ４１０は、ＨＭＤ１２０の動きに基づいて、設定されたｕｖｗ視野座標系におけるＨＭＤ１２０の傾きを検出できる。この場合、ＨＭＤセンサ４１０は、ＨＭＤ１２０の傾きとして、ｕｖｗ視野座標系におけるＨＭＤ１２０のピッチ角（θｕ）、ヨー角（θｖ）、およびロール角（θｗ）をそれぞれ検出する。ピッチ角（θｕ）は、ｕｖｗ視野座標系におけるピッチ軸周りのＨＭＤ１２０の傾き角度を表す。ヨー角（θｖ）は、ｕｖｗ視野座標系におけるヨー軸周りのＨＭＤ１２０の傾き角度を表す。ロール角（θｗ）は、ｕｖｗ視野座標系におけるロール軸周りのＨＭＤ１２０の傾き角度を表す。
After the uvw visual field coordinate system is set on the
ＨＭＤセンサ４１０は、検出されたＨＭＤ１２０の傾きに基づいて、ＨＭＤ１２０が動いた後のＨＭＤ１２０におけるｕｖｗ視野座標系を、ＨＭＤ１２０に設定する。ＨＭＤ１２０と、ＨＭＤ１２０のｕｖｗ視野座標系との関係は、ＨＭＤ１２０の位置および傾きに関わらず、常に一定である。ＨＭＤ１２０の位置および傾きが変わると、当該位置および傾きの変化に連動して、実座標系におけるＨＭＤ１２０のｕｖｗ視野座標系の位置および傾きが変化する。
The
ある局面において、ＨＭＤセンサ４１０は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係（例えば、各点間の距離など）に基づいて、ＨＭＤ１２０の現実空間内における位置を、ＨＭＤセンサ４１０に対する相対位置として特定してもよい。プロセッサ２１０は、特定された相対位置に基づいて、現実空間内（実座標系）におけるＨＭＤ１２０のｕｖｗ視野座標系の原点を決定してもよい。
In one aspect,
［仮想空間］
図４を参照して、仮想空間についてさらに説明する。図４は、ある実施の形態に従う仮想空間１１を表現する一態様を概念的に表す図である。仮想空間１１は、中心１２の３６０度方向の全体を覆う全天球状の構造を有する。図４では、説明を複雑にしないために、仮想空間１１のうちの上半分の天球が例示されている。仮想空間１１では各メッシュが規定される。各メッシュの位置は、仮想空間１１に規定されるグローバル座標系であるＸＹＺ座標系における座標値として予め規定されている。コンピュータ２００は、仮想空間１１に展開可能なパノラマ画像１３（静止画、動画等）を構成する各部分画像を、仮想空間１１において対応する各メッシュにそれぞれ対応付ける。
[Virtual space]
The virtual space will be further described with reference to FIG. FIG. 4 is a diagram conceptually showing one aspect of expressing
ある局面において、仮想空間１１では、中心１２を原点とするＸＹＺ座標系が規定される。ＸＹＺ座標系は、例えば、実座標系に平行である。ＸＹＺ座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれＸ軸、Ｙ軸、Ｚ軸として規定される。したがって、ＸＹＺ座標系のＸ軸（水平方向）が実座標系のｘ軸と平行であり、ＸＹＺ座標系のＹ軸（鉛直方向）が実座標系のｙ軸と平行であり、ＸＹＺ座標系のＺ軸（前後方向）が実座標系のｚ軸と平行である。
In one aspect, the
ＨＭＤ１２０の起動時、すなわちＨＭＤ１２０の初期状態において、仮想カメラ１４が、仮想空間１１の中心１２に配置される。ある局面において、プロセッサ２１０は、仮想カメラ１４が撮影する画像をＨＭＤ１２０のモニタ１３０に表示する。仮想カメラ１４は、現実空間におけるＨＭＤ１２０の動きに連動して、仮想空間１１を同様に移動する。これにより、現実空間におけるＨＭＤ１２０の位置および傾きの変化が、仮想空間１１において同様に再現され得る。
When the
仮想カメラ１４には、ＨＭＤ１２０の場合と同様に、ｕｖｗ視野座標系が規定される。仮想空間１１における仮想カメラ１４のｕｖｗ視野座標系は、現実空間（実座標系）におけるＨＭＤ１２０のｕｖｗ視野座標系に連動するように規定されている。したがって、ＨＭＤ１２０の傾きが変化すると、それに応じて、仮想カメラ１４の傾きも変化する。仮想カメラ１４は、ＨＭＤ１２０を装着したユーザ５の現実空間における移動に連動して、仮想空間１１において移動することもできる。
A uvw field-of-view coordinate system is defined in the
コンピュータ２００のプロセッサ２１０は、仮想カメラ１４の位置と傾き（基準視線１６）とに基づいて、仮想空間１１における視界領域１５を規定する。視界領域１５は、仮想空間１１のうち、ＨＭＤ１２０を装着したユーザ５が視認する領域に対応する。つまり、仮想カメラ１４の位置は、仮想空間１１におけるユーザ５の視点と言える。
The
注視センサ１４０によって検出されるユーザ５の視線は、ユーザ５が物体を視認する際の視点座標系における方向である。ＨＭＤ１２０のｕｖｗ視野座標系は、ユーザ５がモニタ１３０を視認する際の視点座標系に等しい。仮想カメラ１４のｕｖｗ視野座標系は、ＨＭＤ１２０のｕｖｗ視野座標系に連動している。したがって、ある局面に従うＨＭＤシステム１００は、注視センサ１４０によって検出されたユーザ５の視線を、仮想カメラ１４のｕｖｗ視野座標系におけるユーザ５の視線とみなすことができる。
The line of sight of the
［ユーザの視線］
図５を参照して、ユーザ５の視線の決定について説明する。図５は、ある実施の形態に従うＨＭＤ１２０を装着するユーザ５の頭部を上から表した図である。
[User's line of sight]
Determination of the line of sight of the
ある局面において、注視センサ１４０は、ユーザ５の右目および左目の各視線を検出する。ある局面において、ユーザ５が近くを見ている場合、注視センサ１４０は、視線Ｒ１およびＬ１を検出する。別の局面において、ユーザ５が遠くを見ている場合、注視センサ１４０は、視線Ｒ２およびＬ２を検出する。この場合、ロール軸ｗに対して視線Ｒ２およびＬ２が成す角度は、ロール軸ｗに対して視線Ｒ１およびＬ１が成す角度よりも小さい。注視センサ１４０は、検出結果をコンピュータ２００に送信する。
In one aspect, gaze
コンピュータ２００が、視線の検出結果として、視線Ｒ１およびＬ１の検出値を注視センサ１４０から受信した場合には、その検出値に基づいて、視線Ｒ１およびＬ１の交点である注視点Ｎ１を特定する。一方、コンピュータ２００は、視線Ｒ２およびＬ２の検出値を注視センサ１４０から受信した場合には、視線Ｒ２およびＬ２の交点を注視点として特定する。コンピュータ２００は、特定した注視点Ｎ１の位置に基づき、ユーザ５の視線Ｎ０を特定する。コンピュータ２００は、例えば、ユーザ５の右目Ｒと左目Ｌとを結ぶ直線の中点と、注視点Ｎ１とを通る直線の延びる方向を、視線Ｎ０として検出する。視線Ｎ０は、ユーザ５が両目により実際に視線を向けている方向である。視線Ｎ０は、視界領域１５に対してユーザ５が実際に視線を向けている方向に相当する。
When
別の局面において、ＨＭＤシステム１００は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、ＨＭＤシステム１００は、仮想空間１１においてテレビ番組を表示することができる。
In another aspect,
さらに別の局面において、ＨＭＤシステム１００は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。
In still another aspect, the
［視界領域］
図６および図７を参照して、視界領域１５について説明する。図６は、仮想空間１１において視界領域１５をＸ方向から見たＹＺ断面を表す図である。図７は、仮想空間１１において視界領域１５をＹ方向から見たＸＺ断面を表す図である。
[Vision area]
The field of
図６に示されるように、ＹＺ断面における視界領域１５は、領域１８を含む。領域１８は、仮想カメラ１４の位置と基準視線１６と仮想空間１１のＹＺ断面とによって定義される。プロセッサ２１０は、仮想空間における基準視線１６を中心として極角αを含む範囲を、領域１８として規定する。
As shown in FIG. 6 , the field of
図７に示されるように、ＸＺ断面における視界領域１５は、領域１９を含む。領域１９は、仮想カメラ１４の位置と基準視線１６と仮想空間１１のＸＺ断面とによって定義される。プロセッサ２１０は、仮想空間１１における基準視線１６を中心とした方位角βを含む範囲を、領域１９として規定する。極角αおよびβは、仮想カメラ１４の位置と仮想カメラ１４の傾き（向き）とに応じて定まる。
As shown in FIG. 7 , the
ある局面において、ＨＭＤシステム１００は、コンピュータ２００からの信号に基づいて、視界画像１７をモニタ１３０に表示させることにより、ユーザ５に仮想空間１１における視界を提供する。視界画像１７は、パノラマ画像１３のうち視界領域１５に対応する部分に相当する画像である。ユーザ５が、頭に装着したＨＭＤ１２０を動かすと、その動きに連動して仮想カメラ１４も動く。その結果、仮想空間１１における視界領域１５の位置が変化する。これにより、モニタ１３０に表示される視界画像１７は、パノラマ画像１３のうち、仮想空間１１においてユーザ５が向いた方向の視界領域１５に重畳する画像に更新される。ユーザ５は、仮想空間１１における所望の方向を視認することができる。
In one aspect,
このように、仮想カメラ１４の傾きは仮想空間１１におけるユーザ５の視線（基準視線１６）に相当し、仮想カメラ１４が配置される位置は、仮想空間１１におけるユーザ５の視点に相当する。したがって、仮想カメラ１４の位置または傾きを変更することにより、モニタ１３０に表示される画像が更新され、ユーザ５の視界が移動される。
Thus, the tilt of the
ユーザ５は、ＨＭＤ１２０を装着している間、現実世界を視認することなく、仮想空間１１に展開されるパノラマ画像１３のみを視認できる。そのため、ＨＭＤシステム１００は、仮想空間１１への高い没入感覚をユーザ５に与えることができる。
While wearing the
ある局面において、プロセッサ２１０は、ＨＭＤ１２０を装着したユーザ５の現実空間における移動に連動して、仮想空間１１において仮想カメラ１４を移動し得る。この場合、プロセッサ２１０は、仮想空間１１における仮想カメラ１４の位置および傾きに基づいて、ＨＭＤ１２０のモニタ１３０に投影される画像領域（視界領域１５）を特定する。
In one aspect,
ある局面において、仮想カメラ１４は、２つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含み得る。ユーザ５が３次元の仮想空間１１を認識できるように、適切な視差が、２つの仮想カメラに設定される。別の局面において、仮想カメラ１４を１つの仮想カメラにより実現してもよい。この場合、１つの仮想カメラにより得られた画像から、右目用の画像と左目用の画像とを生成するようにしてもよい。本実施の形態においては、仮想カメラ１４が２つの仮想カメラを含み、２つの仮想カメラのロール軸が合成されることによって生成されるロール軸（ｗ）がＨＭＤ１２０のロール軸（ｗ）に適合されるように構成されているものとして、本開示に係る技術思想を例示する。
In one aspect,
［コントローラ］
図８を参照して、コントローラ３００の一例について説明する。図８は、ある実施の形態に従うコントローラ３００の概略構成を表す図である。
[controller]
An example of the
図８に示されるように、ある局面において、コントローラ３００は、右コントローラ３００Ｒと図示せぬ左コントローラとを含み得る。右コントローラ３００Ｒは、ユーザ５の右手で操作される。左コントローラは、ユーザ５の左手で操作される。ある局面において、右コントローラ３００Ｒと左コントローラとは、別個の装置として対称に構成される。したがって、ユーザ５は、右コントローラ３００Ｒを把持した右手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。別の局面において、コントローラ３００は両手の操作を受け付ける一体型のコントローラであってもよい。以下、右コントローラ３００Ｒについて説明する。
As shown in FIG. 8, in one aspect,
右コントローラ３００Ｒは、グリップ３１０と、フレーム３２０と、天面３３０とを備える。グリップ３１０は、ユーザ５の右手によって把持されるように構成されている。たとえば、グリップ３１０は、ユーザ５の右手の掌と３本の指（中指、薬指、小指）とによって保持され得る。
グリップ３１０は、ボタン３４０，３５０と、モーションセンサ４２０とを含む。ボタン３４０は、グリップ３１０の側面に配置され、右手の中指による操作を受け付ける。ボタン３５０は、グリップ３１０の前面に配置され、右手の人差し指による操作を受け付ける。ある局面において、ボタン３４０，３５０は、トリガー式のボタンとして構成される。モーションセンサ４２０は、グリップ３１０の筐体に内蔵されている。ユーザ５の動作がカメラその他の装置によってユーザ５の周りから検出可能である場合には、グリップ３１０は、モーションセンサ４２０を備えなくてもよい。
フレーム３２０は、その円周方向に沿って配置された複数の赤外線ＬＥＤ３６０を含む。赤外線ＬＥＤ３６０は、コントローラ３００を使用するプログラムの実行中に、当該プログラムの進行に合わせて赤外線を発光する。赤外線ＬＥＤ３６０から発せられた赤外線は、右コントローラ３００Ｒと左コントローラとの各位置や姿勢（傾き、向き）を検出するために使用され得る。図８に示される例では、二列に配置された赤外線ＬＥＤ３６０が示されているが、配列の数は図８に示されるものに限られない。一列あるいは３列以上の配列が使用されてもよい。
天面３３０は、ボタン３７０，３８０と、アナログスティック３９０とを備える。ボタン３７０，３８０は、プッシュ式ボタンとして構成される。ボタン３７０，３８０は、ユーザ５の右手の親指による操作を受け付ける。アナログスティック３９０は、ある局面において、初期位置（ニュートラルの位置）から３６０度任意の方向への操作を受け付ける。当該操作は、たとえば、仮想空間１１に配置されるオブジェクトを移動するための操作を含む。
ある局面において、右コントローラ３００Ｒおよび左コントローラは、赤外線ＬＥＤ３６０その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型などを含むが、これらに限定されない。別の局面において、右コントローラ３００Ｒと左コントローラは、たとえば、コンピュータ２００のＵＳＢインターフェイスに接続され得る。この場合、右コントローラ３００Ｒおよび左コントローラは、電池を必要としない。
In one aspect,
図８の状態（Ａ）および状態（Ｂ）に示されるように、例えば、ユーザ５の右手に対して、ヨー、ロール、ピッチの各方向が規定される。ユーザ５が親指と人差し指とを伸ばした場合に、親指の伸びる方向がヨー方向、人差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定される平面に垂直な方向がピッチ方向として規定される。
As shown in states (A) and (B) of FIG. 8, for example, the yaw, roll, and pitch directions are defined for the user's 5 right hand. When the
［サーバのハードウェア構成］
図９を参照して、本実施の形態に係るサーバ６００について説明する。図９は、ある実施の形態に従うサーバ６００のハードウェア構成の一例を表すブロック図である。サーバ６００は、主たる構成要素として、プロセッサ６１０と、メモリ６２０と、ストレージ６３０と、入出力インターフェイス６４０と、通信インターフェイス６５０とを備える。各構成要素は、それぞれ、バス６６０に接続されている。
[Server hardware configuration]
プロセッサ６１０は、サーバ６００に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ６２０またはストレージ６３０に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ６１０は、ＣＰＵ、ＧＰＵ、ＭＰＵ、ＦＰＧＡその他のデバイスとして実現される。
メモリ６２０は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ６３０からロードされる。データは、サーバ６００に入力されたデータと、プロセッサ６１０によって生成されたデータとを含む。ある局面において、メモリ６２０は、ＲＡＭその他の揮発メモリとして実現される。
ストレージ６３０は、プログラムおよびデータを永続的に保持する。ストレージ６３０は、例えば、ＲＯＭ、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ６３０に格納されるプログラムは、ＨＭＤシステム１００において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、コンピュータ２００との通信を実現するためのプログラムを含んでもよい。ストレージ６３０に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含んでもよい。
別の局面において、ストレージ６３０は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、サーバ６００に内蔵されたストレージ６３０の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のＨＭＤシステム１００が使用される場面において、プログラムやデータの更新を一括して行なうことが可能になる。
In another aspect,
入出力インターフェイス６４０は、入出力機器との間で信号を通信する。ある局面において、入出力インターフェイス６４０は、ＵＳＢ、ＤＶＩ、ＨＤＭＩ（登録商標）その他の端子を用いて実現される。入出力インターフェイス６４０は上述のものに限られない。
Input/
通信インターフェイス６５０は、ネットワーク２に接続されて、ネットワーク２に接続されているコンピュータ２００と通信する。ある局面において、通信インターフェイス６５０は、例えば、ＬＡＮその他の有線通信インターフェイス、あるいは、ＷｉＦｉ、Ｂｌｕｅｔｏｏｔｈ、ＮＦＣその他の無線通信インターフェイスとして実現される。通信インターフェイス６５０は上述のものに限られない。
ある局面において、プロセッサ６１０は、ストレージ６３０にアクセスし、ストレージ６３０に格納されている１つ以上のプログラムをメモリ６２０にロードし、当該プログラムに含まれる一連の命令を実行する。当該１つ以上のプログラムは、サーバ６００のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ６１０は、入出力インターフェイス６４０を介して、仮想空間を提供するための信号をコンピュータ２００に送ってもよい。
In one aspect,
［ＨＭＤの制御装置］
図１０を参照して、ＨＭＤ１２０の制御装置について説明する。ある実施の形態において、制御装置は周知の構成を有するコンピュータ２００によって実現される。図１０は、ある実施の形態に従うコンピュータ２００をモジュール構成として表わすブロック図である。
[HMD control device]
A control device for the
図１０に示されるように、コンピュータ２００は、コントロールモジュール５１０と、レンダリングモジュール５２０と、メモリモジュール５３０と、通信制御モジュール５４０とを備える。ある局面において、コントロールモジュール５１０とレンダリングモジュール５２０とは、プロセッサ２１０によって実現される。別の局面において、複数のプロセッサ２１０がコントロールモジュール５１０とレンダリングモジュール５２０として作動してもよい。メモリモジュール５３０は、メモリ２２０またはストレージ２３０によって実現される。通信制御モジュール５４０は、通信インターフェイス２５０によって実現される。
As shown in FIG. 10,
コントロールモジュール５１０は、ユーザ５に提供される仮想空間１１を制御する。コントロールモジュール５１０は、仮想空間１１を表す仮想空間データを用いて、ＨＭＤシステム１００における仮想空間１１を規定する。仮想空間データは、例えば、メモリモジュール５３０に記憶されている。コントロールモジュール５１０が、仮想空間データを生成したり、サーバ６００などから仮想空間データを取得するようにしたりしてもよい。
A
コントロールモジュール５１０は、オブジェクトを表すオブジェクトデータを用いて、仮想空間１１にオブジェクトを配置する。オブジェクトデータは、例えば、メモリモジュール５３０に記憶されている。コントロールモジュール５１０が、オブジェクトデータを生成したり、サーバ６００などからオブジェクトデータを取得するようにしたりしてもよい。オブジェクトは、例えば、ユーザ５の分身であるアバターオブジェクト、キャラクタオブジェクト、コントローラ３００によって操作される仮想手などの操作オブジェクト、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、街並み、動物等を含み得る。
The
コントロールモジュール５１０は、ネットワーク２を介して接続される他のコンピュータ２００のユーザ５のアバターオブジェクトを仮想空間１１に配置する。ある局面において、コントロールモジュール５１０は、ユーザ５のアバターオブジェクトを仮想空間１１に配置する。ある局面において、コントロールモジュール５１０は、ユーザ５を含む画像に基づいて、ユーザ５を模したアバターオブジェクトを仮想空間１１に配置する。別の局面において、コントロールモジュール５１０は、複数種類のアバターオブジェクト（例えば、動物を模したオブジェクトや、デフォルメされた人のオブジェクト）の中からユーザ５による選択を受け付けたアバターオブジェクトを仮想空間１１に配置する。
The
コントロールモジュール５１０は、ＨＭＤセンサ４１０の出力に基づいてＨＭＤ１２０の傾きを特定する。別の局面において、コントロールモジュール５１０は、モーションセンサとして機能するセンサ１９０の出力に基づいてＨＭＤ１２０の傾きを特定する。コントロールモジュール５１０は、第１カメラ１５０および第２カメラ１６０が生成するユーザ５の顔の画像から、ユーザ５の顔を構成する器官（例えば、口，目，眉）を検出する。コントロールモジュール５１０は、検出した各器官の動き（形状）を検出する。
コントロールモジュール５１０は、注視センサ１４０からの信号に基づいて、ユーザ５の仮想空間１１における視線を検出する。コントロールモジュール５１０は、検出したユーザ５の視線と仮想空間１１の天球とが交わる視点位置（ＸＹＺ座標系における座標値）を検出する。より具体的には、コントロールモジュール５１０は、ｕｖｗ座標系で規定されるユーザ５の視線と、仮想カメラ１４の位置および傾きとに基づいて、視点位置を検出する。コントロールモジュール５１０は、検出した視点位置をサーバ６００に送信する。別の局面において、コントロールモジュール５１０は、ユーザ５の視線を表す視線情報をサーバ６００に送信するように構成されてもよい。係る場合、サーバ６００が受信した視線情報に基づいて視点位置を算出し得る。
The
コントロールモジュール５１０は、ＨＭＤセンサ４１０が検出するＨＭＤ１２０の動きをアバターオブジェクトに反映する。例えば、コントロールモジュール５１０は、ＨＭＤ１２０が傾いたことを検知して、アバターオブジェクトを傾けて配置する。コントロールモジュール５１０は、検出した顔器官の動作を、仮想空間１１に配置されるアバターオブジェクトの顔に反映させる。コントロールモジュール５１０は、サーバ６００から他のユーザ５の視線情報を受信し、当該他のユーザ５のアバターオブジェクトの視線に反映させる。ある局面において、コントロールモジュール５１０は、コントローラ３００の動きをアバターオブジェクトや操作オブジェクトに反映する。この場合、コントローラ３００は、コントローラ３００の動きを検知するためのモーションセンサ、加速度センサ、または複数の発光素子（例えば、赤外線ＬＥＤ）などを備える。
The
コントロールモジュール５１０は、仮想空間１１においてユーザ５の操作を受け付けるための操作オブジェクトを仮想空間１１に配置する。ユーザ５は、操作オブジェクトを操作することにより、例えば、仮想空間１１に配置されるオブジェクトを操作する。ある局面において、操作オブジェクトは、例えば、ユーザ５の手に相当する仮想手である手オブジェクト等を含み得る。ある局面において、コントロールモジュール５１０は、モーションセンサ４２０の出力に基づいて現実空間におけるユーザ５の手の動きに連動するように仮想空間１１において手オブジェクトを動かす。ある局面において、操作オブジェクトは、アバターオブジェクトの手の部分に相当し得る。
The
コントロールモジュール５１０は、仮想空間１１に配置されるオブジェクトのそれぞれが、他のオブジェクトと衝突した場合に、当該衝突を検出する。コントロールモジュール５１０は、例えば、あるオブジェクトのコリジョンエリアと、別のオブジェクトのコリジョンエリアとが触れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行なう。コントロールモジュール５１０は、オブジェクトとオブジェクトとが触れている状態から離れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行なう。コントロールモジュール５１０は、オブジェクトとオブジェクトとが触れている状態であることを検出することができる。例えば、コントロールモジュール５１０は、操作オブジェクトと、他のオブジェクトとが触れたときに、これら操作オブジェクトと他のオブジェクトとが触れたことを検出して、予め定められた処理を行なう。
The
ある局面において、コントロールモジュール５１０は、ＨＭＤ１２０のモニタ１３０における画像表示を制御する。例えば、コントロールモジュール５１０は、仮想空間１１に仮想カメラ１４を配置する。コントロールモジュール５１０は、仮想空間１１における仮想カメラ１４の位置と、仮想カメラ１４の傾き（向き）を制御する。コントロールモジュール５１０は、ＨＭＤ１２０を装着したユーザ５の頭の傾きと、仮想カメラ１４の位置に応じて、視界領域１５を規定する。レンダリングモジュール５２０は、決定された視界領域１５に基づいて、モニタ１３０に表示される視界画像１７を生成する。レンダリングモジュール５２０により生成された視界画像１７は、通信制御モジュール５４０によってＨＭＤ１２０に出力される。
In one aspect,
コントロールモジュール５１０は、ＨＭＤ１２０から、ユーザ５のマイク１７０を用いた発話を検出すると、当該発話に対応する音声データの送信対象のコンピュータ２００を特定する。音声データは、コントロールモジュール５１０によって特定されたコンピュータ２００に送信される。コントロールモジュール５１０は、ネットワーク２を介して他のユーザのコンピュータ２００から音声データを受信すると、当該音声データに対応する音声（発話）をスピーカ１８０から出力する。
When the
メモリモジュール５３０は、コンピュータ２００が仮想空間１１をユーザ５に提供するために使用されるデータを保持している。ある局面において、メモリモジュール５３０は、空間情報と、オブジェクト情報と、ユーザ情報とを保持している。
空間情報は、仮想空間１１を提供するために規定された１つ以上のテンプレートを保持している。
The spatial information holds one or more templates defined to provide the
オブジェクト情報は、仮想空間１１を構成する複数のパノラマ画像１３、仮想空間１１にオブジェクトを配置するためのオブジェクトデータを含む。パノラマ画像１３は、静止画像および動画像を含み得る。パノラマ画像１３は、非現実空間の画像と現実空間の画像とを含み得る。非現実空間の画像としては、例えば、コンピュータグラフィックスで生成された画像が挙げられる。
The object information includes a plurality of
ユーザ情報は、ユーザ５を識別するユーザＩＤを保持する。ユーザＩＤは、例えば、ユーザが使用するコンピュータ２００に設定されるＩＰ（Internet Protocol）アドレスまたはＭＡＣ（Media Access Control）アドレスであり得る。別の局面において、ユーザＩＤはユーザによって設定され得る。ユーザ情報は、ＨＭＤシステム１００の制御装置としてコンピュータ２００を機能させるためのプログラム等を含む。
User information holds a user ID that identifies the
メモリモジュール５３０に格納されているデータおよびプログラムは、ＨＭＤ１２０のユーザ５によって入力される。あるいは、プロセッサ２１０が、当該コンテンツを提供する事業者が運営するコンピュータ（例えば、サーバ６００）からプログラムあるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール５３０に格納する。
Data and programs stored in
通信制御モジュール５４０は、ネットワーク２を介して、サーバ６００その他の情報通信装置と通信し得る。
ある局面において、コントロールモジュール５１０及びレンダリングモジュール５２０は、例えば、ユニティテクノロジーズ社によって提供されるＵｎｉｔｙ（登録商標）を用いて実現され得る。別の局面において、コントロールモジュール５１０及びレンダリングモジュール５２０は、各処理を実現する回路素子の組み合わせとしても実現され得る。
In one aspect,
コンピュータ２００における処理は、ハードウェアと、プロセッサ２１０により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール５３０に予め格納されている場合がある。ソフトウェアは、ＣＤ－ＲＯＭその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール５４０を介してサーバ６００その他のコンピュータからダウンロードされた後、記憶モジュールに一旦格納される。そのソフトウェアは、プロセッサ２１０によって記憶モジュールから読み出され、実行可能なプログラムの形式でＲＡＭに格納される。プロセッサ２１０は、そのプログラムを実行する。
Processing in
［ＨＭＤシステムの制御構造］
図１１を参照して、ＨＭＤセット１１０の制御構造について説明する。図１１は、ある実施の形態に従うＨＭＤセット１１０において実行される処理の一部を表すシーケンスチャートである。
[Control Structure of HMD System]
The control structure of the HMD set 110 will be described with reference to FIG. FIG. 11 is a sequence chart representing part of the processing performed in HMD set 110 according to one embodiment.
図１１に示されるように、ステップＳ１１１０にて、コンピュータ２００のプロセッサ２１０は、コントロールモジュール５１０として、仮想空間データを特定し、仮想空間１を定義する。
As shown in FIG. 11, at step S1110,
ステップＳ１１２０にて、プロセッサ２１０は、仮想カメラ１４を初期化する。たとえば、プロセッサ２１０は、メモリのワーク領域において、仮想カメラ１４を仮想空間１１において予め規定された中心１２に配置し、仮想カメラ１４の視線をユーザ５が向いている方向に向ける。
At step S1120,
ステップＳ１１３０にて、プロセッサ２１０は、レンダリングモジュール５２０として、初期の視界画像を表示するための視界画像データを生成する。生成された視界画像データは、通信制御モジュール５４０によってＨＭＤ１２０に出力される。
At step S1130,
ステップＳ１１３２にて、ＨＭＤ１２０のモニタ１３０は、コンピュータ２００から受信した視界画像データに基づいて、視界画像を表示する。ＨＭＤ１２０を装着したユーザ５は、視界画像を視認すると仮想空間１１を認識し得る。
In step S<b>1132 , monitor 130 of
ステップＳ１１３４にて、ＨＭＤセンサ４１０は、ＨＭＤ１２０から発信される複数の赤外線光に基づいて、ＨＭＤ１２０の位置と傾きを検知する。検知結果は、動き検知データとして、コンピュータ２００に出力される。
In step S<b>1134 ,
ステップＳ１１４０にて、プロセッサ２１０は、ＨＭＤ１２０の動き検知データに含まれる位置と傾きとに基づいて、ＨＭＤ１２０を装着したユーザ５の視界方向を特定する。
In step S<b>1140 ,
ステップＳ１１５０にて、プロセッサ２１０は、アプリケーションプログラムを実行し、アプリケーションプログラムに含まれる命令に基づいて、仮想空間１１にオブジェクトを配置する。
In step S1150,
ステップＳ１１６０にて、コントローラ３００は、モーションセンサ４２０から出力される信号に基づいて、ユーザ５の操作を検出し、その検出された操作を表す検出データをコンピュータ２００に出力する。別の局面において、ユーザ５によるコントローラ３００の操作は、ユーザ５の周囲に配置されたカメラからの画像に基づいて検出されてもよい。
In
ステップＳ１１７０にて、プロセッサ２１０は、コントローラ３００から取得した検出データに基づいて、ユーザ５によるコントローラ３００の操作を検出する。
In step S<b>1170 ,
ステップＳ１１８０にて、プロセッサ２１０は、ユーザ５によるコントローラ３００の操作に基づく視界画像データを生成する。生成された視界画像データは、通信制御モジュール５４０によってＨＭＤ１２０に出力される。
At step S 1180 ,
ステップＳ１１９０にて、ＨＭＤ１２０は、受信した視界画像データに基づいて視界画像を更新し、更新後の視界画像をモニタ１３０に表示する。
In step S<b>1190 ,
［アバターオブジェクト］
図１２（Ａ）、（Ｂ）を参照して、本実施の形態に従うアバターオブジェクトについて説明する。以下、ＨＭＤセット１１０Ａ，１１０Ｂの各ユーザ５のアバターオブジェクトを説明する図である。以下、ＨＭＤセット１１０Ａのユーザをユーザ５Ａ、ＨＭＤセット１１０Ｂのユーザをユーザ５Ｂ、ＨＭＤセット１１０Ｃのユーザをユーザ５Ｃ、ＨＭＤセット１１０Ｄのユーザをユーザ５Ｄと表す。ＨＭＤセット１１０Ａに関する各構成要素の参照符号にＡが付され、ＨＭＤセット１１０Ｂに関する各構成要素の参照符号にＢが付され、ＨＭＤセット１１０Ｃに関する各構成要素の参照符号にＣが付され、ＨＭＤセット１１０Ｄに関する各構成要素の参照符号にＤが付される。例えば、ＨＭＤ１２０Ａは、ＨＭＤセット１１０Ａに含まれる。
[Avatar object]
An avatar object according to this embodiment will be described with reference to FIGS. Hereafter, it is a figure explaining the avatar object of each
図１２（Ａ）は、ネットワーク２において、各ＨＭＤ１２０がユーザ５に仮想空間１１を提供する状況を表す模式図である。コンピュータ２００Ａ～２００Ｄは、ＨＭＤ１２０Ａ～１２０Ｄを介して、ユーザ５Ａ～５Ｄに、仮想空間１１Ａ～１１Ｄをそれぞれ提供する。図１２（Ａ）に示される例において、仮想空間１１Ａおよび仮想空間１１Ｂは同じデータによって構成されている。換言すれば、コンピュータ２００Ａとコンピュータ２００Ｂとは同じ仮想空間を共有していることになる。仮想空間１１Ａおよび仮想空間１１Ｂには、ユーザ５Ａのアバターオブジェクト６Ａと、ユーザ５Ｂのアバターオブジェクト６Ｂとが存在する。仮想空間１１Ａにおけるアバターオブジェクト６Ａおよび仮想空間１１Ｂにおけるアバターオブジェクト６ＢがそれぞれＨＭＤ１２０を装着しているが、これは説明を分かりやすくするためのものであって、実際にはこれらのオブジェクトはＨＭＤ１２０を装着していない。
FIG. 12A is a schematic diagram showing a situation in which each
ある局面において、プロセッサ２１０Ａは、ユーザ５Ａの視界画像１７Ａを撮影する仮想カメラ１４Ａを、アバターオブジェクト６Ａの目の位置に配置し得る。
In one aspect, processor 210A may position virtual camera 14A capturing
図１２（Ｂ）は、図１２（Ａ）におけるユーザ５Ａの視界画像１７Ａを示す図である。視界画像１７Ａは、ＨＭＤ１２０Ａのモニタ１３０Ａに表示される画像である。この視界画像１７Ａは、仮想カメラ１４Ａにより生成された画像である。視界画像１７Ａには、ユーザ５Ｂのアバターオブジェクト６Ｂが表示されている。特に図示はしていないが、ユーザ５Ｂの視界画像にも同様に、ユーザ５Ａのアバターオブジェクト６Ａが表示されている。
FIG. 12(B) is a diagram showing a field-of-
図１２（Ｂ）の状態において、ユーザ５Ａは仮想空間１１Ａを介してユーザ５Ｂと対話による通信（コミュニケーション）を図ることができる。より具体的には、マイク１７０Ａにより取得されたユーザ５Ａの音声は、サーバ６００を介してユーザ５ＢのＨＭＤ１２０Ｂに送信され、ＨＭＤ１２０Ｂに設けられたスピーカ１８０Ｂから出力される。ユーザ５Ｂの音声は、サーバ６００を介してユーザ５ＡのＨＭＤ１２０Ａに送信され、ＨＭＤ１２０Ａに設けられたスピーカ１８０Ａから出力される。
In the state of FIG. 12B, the user 5A can communicate with the user 5B through dialogue through the
ユーザ５Ｂの動作（ＨＭＤ１２０Ｂの動作およびコントローラ３００Ｂの動作）は、プロセッサ２１０Ａにより仮想空間１１Ａに配置されるアバターオブジェクト６Ｂに反映される。これにより、ユーザ５Ａは、ユーザ５Ｂの動作を、アバターオブジェクト６Ｂを通じて認識できる。
Actions of the user 5B (actions of the
図１３は、本実施の形態に従うＨＭＤシステム１００において実行される処理の一部を表すシーケンスチャートである。図１３においては、ＨＭＤセット１１０Ｄを図示していないが、ＨＭＤセット１１０Ｄについても、ＨＭＤセット１１０Ａ、１１０Ｂ、１１０Ｃと同様に動作する。以下の説明でも、ＨＭＤセット１１０Ａに関する各構成要素の参照符号にＡが付され、ＨＭＤセット１１０Ｂに関する各構成要素の参照符号にＢが付され、ＨＭＤセット１１０Ｃに関する各構成要素の参照符号にＣが付され、ＨＭＤセット１１０Ｄに関する各構成要素の参照符号にＤが付されるものとする。
FIG. 13 is a sequence chart showing part of the processing executed in
ステップＳ１３１０Ａにおいて、ＨＭＤセット１１０Ａにおけるプロセッサ２１０Ａは、仮想空間１１Ａにおけるアバターオブジェクト６Ａの動作を決定するためのアバター情報を取得する。このアバター情報は、例えば、動き情報、フェイストラッキングデータ、および音声データ等のアバターに関する情報を含む。動き情報は、ＨＭＤ１２０Ａの位置および傾きの時間的変化を示す情報や、モーションセンサ４２０Ａ等により検出されたユーザ５Ａの手の動きを示す情報などを含む。フェイストラッキングデータは、ユーザ５Ａの顔の各パーツの位置および大きさを特定するデータが挙げられる。フェイストラッキングデータは、ユーザ５Ａの顔を構成する各器官の動きを示すデータや視線データが挙げられる。音声データは、ＨＭＤ１２０Ａのマイク１７０Ａによって取得されたユーザ５Ａの音声を示すデータが挙げられる。アバター情報には、アバターオブジェクト６Ａ、あるいはアバターオブジェクト６Ａに関連付けられるユーザ５Ａを特定する情報や、アバターオブジェクト６Ａが存在する仮想空間１１Ａを特定する情報等が含まれてもよい。アバターオブジェクト６Ａやユーザ５Ａを特定する情報としては、ユーザＩＤが挙げられる。アバターオブジェクト６Ａが存在する仮想空間１１Ａを特定する情報としては、ルームＩＤが挙げられる。プロセッサ２１０Ａは、上述のように取得されたアバター情報を、ネットワーク２を介してサーバ６００に送信する。
In step S1310A, the processor 210A in the HMD set 110A acquires avatar information for determining the motion of the
ステップＳ１３１０Ｂにおいて、ＨＭＤセット１１０Ｂにおけるプロセッサ２１０Ｂは、ステップＳ１３１０Ａにおける処理と同様に、仮想空間１１Ｂにおけるアバターオブジェクト６Ｂの動作を決定するためのアバター情報を取得し、サーバ６００に送信する。同様に、ステップＳ１３１０Ｃにおいて、ＨＭＤセット１１０Ｃにおけるプロセッサ２１０Ｃは、仮想空間１１Ｃにおけるアバターオブジェクト６Ｃの動作を決定するためのアバター情報を取得し、サーバ６００に送信する。
In step S1310B, processor 210B in HMD set 110B acquires avatar information for determining the motion of
ステップＳ１３２０において、サーバ６００は、ＨＭＤセット１１０Ａ、ＨＭＤセット１１０Ｂ、およびＨＭＤセット１１０Ｃのそれぞれから受信したプレイヤ情報を一旦記憶する。サーバ６００は、各アバター情報に含まれるユーザＩＤおよびルームＩＤ等に基づいて、共通の仮想空間１１に関連付けられた全ユーザ（この例では、ユーザ５Ａ～５Ｃ）のアバター情報を統合する。そして、サーバ６００は、予め定められたタイミングで、統合したアバター情報を当該仮想空間１１に関連付けられた全ユーザに送信する。これにより、同期処理が実行される。このような同期処理により、ＨＭＤセット１１０Ａ、ＨＭＤセット１１０Ｂ、およびＨＭＤ１１０Ｃは、互いのアバター情報をほぼ同じタイミングで共有することができる。
In step S1320,
続いて、サーバ６００から各ＨＭＤセット１１０Ａ～１１０Ｃに送信されたアバター情報に基づいて、各ＨＭＤセット１１０Ａ～１１０Ｃは、ステップＳ１３３０Ａ～Ｓ１３３０Ｃの処理を実行する。ステップＳ１３３０Ａの処理は、図１１におけるステップＳ１１８０の処理に相当する。
Subsequently, based on the avatar information transmitted from
ステップＳ１３３０Ａにおいて、ＨＭＤセット１１０Ａにおけるプロセッサ２１０Ａは、仮想空間１１Ａにおける他のユーザ５Ｂ，５Ｃのアバターオブジェクト６Ｂ、アバターオブジェクト６Ｃの情報を更新する。具体的には、プロセッサ２１０Ａは、ＨＭＤセット１１０Ｂから送信されたアバター情報に含まれる動き情報に基づいて、仮想空間１１におけるアバターオブジェクト６Ｂの位置および向き等を更新する。例えば、プロセッサ２１０Ａは、メモリモジュール５３０に格納されたオブジェクト情報に含まれるアバターオブジェクト６Ｂの情報（位置および向き等）を更新する。同様に、プロセッサ２１０Ａは、ＨＭＤセット１１０Ｃから送信されたアバター情報に含まれる動き情報に基づいて、仮想空間１１におけるアバターオブジェクト６Ｃの情報（位置および向き等）を更新する。
In step S1330A, the processor 210A in the HMD set 110A updates information on the avatar objects 6B and 6C of the other users 5B and 5C in the
ステップＳ１３３０Ｂにおいて、ＨＭＤセット１１０Ｂにおけるプロセッサ２１０Ｂは、ステップＳ１３３０Ａにおける処理と同様に、仮想空間１１Ｂにおけるユーザ５Ａ，５Ｃのアバターオブジェクト６Ａ，６Ｃの情報を更新する。同様に、ステップＳ１３３０Ｃにおいて、ＨＭＤセット１１０Ｃにおけるプロセッサ２１０Ｃは、仮想空間１１Ｃにおけるユーザ５Ａ，５Ｂのアバターオブジェクト６Ａ，６Ｂの情報を更新する。
In step S1330B, processor 210B in HMD set 110B updates information on
［モジュールの詳細構成］
図１４を参照して、コンピュータ２００のモジュール構成の詳細について説明する。図１４は、ある実施の形態に従うコンピュータ２００のモジュールの詳細構成を表わすブロック図である。
[Detailed module configuration]
Details of the module configuration of the
図１４に示されるように、コントロールモジュール５１０は、仮想カメラ制御モジュール１４２１と、視界領域決定モジュール１４２２と、基準視線特定モジュール１４２３と、顔器官検出モジュール１４２４と、動き検出モジュール１４２４と、仮想空間定義モジュール１４２５と、仮想オブジェクト生成モジュール１４２６と、遮蔽対象特定モジュール１４２７と、仮想オブジェクト制御モジュール１４２８と、操作オブジェクト制御モジュール１４２９と、を備える。レンダリングモジュール５２０は、視界画像生成モジュール１４３８を備える。メモリモジュール５３０は、空間情報１４３１と、オブジェクト情報１４３２と、ユーザ情報１４３３と、を保持している。
As shown in FIG. 14, the
仮想カメラ制御モジュール１４２１は、仮想空間１１に仮想カメラ１４（仮想視点）を配置する。仮想カメラ制御モジュール１４２１は、仮想空間１１における仮想カメラ１４の配置位置と、仮想カメラ１４の向き（傾き）を制御する。視界領域決定モジュール１４２２は、ＨＭＤ１２０を装着したユーザの頭の向きと、仮想カメラ１４の配置位置に応じて、視界領域１５（視界）を定義する。視界画像生成モジュール１４３８は、決定された視界領域１５と後述する仮想空間データとに基づいて、モニタ１３０に表示される視界画像１７を生成する。
The virtual
基準視線特定モジュール１４２３は、注視センサ１４０からの信号に基づいて、ユーザ５の視線を特定する。動き検出モジュール１４２４は、第１カメラ１５０および第２カメラ１６０が生成するユーザ５の顔の画像から、ユーザ５の顔を構成する器官（例えば、口，目，眉）を検出し、且つ、各器官の動き（形状）を検出する。
The reference line of
仮想空間定義モジュール１４２５は、仮想空間１１を表わす仮想空間データを生成することにより、ＨＭＤシステム１００における仮想空間１１を定義する。
The virtual
仮想オブジェクト生成モジュール１４２６は、仮想空間１１に配置される１又は複数の仮想オブジェクトを生成する。仮想オブジェクトは、例えば、部材、構造物や人を含み得るが、これらに限られず、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、動物等を含み得る。また、仮想オブジェクトは、後述するアバターオブジェクトを含む。
The virtual
遮蔽対象特定モジュール１４２７は、後述の遮蔽オブジェクトにより遮蔽される対象を特定する。この遮蔽対象は、上記の人等の仮想オブジェクトの少なくとも一部（遮蔽対象部位）であってもよいし、仮想オブジェクトの全体であってもよい。また、遮蔽対象は、３６０度映像上に映るオブジェクトであってもよい。３６０度映像上に映るオブジェクトは、例えば、部材、構造物や人を含み得るが、これらに限られず、森、山その他を含む風景、動物等を含み得る。遮蔽対象特定モジュール１４２７は、仮想オブジェクト生成モジュール１４２６が仮想オブジェクトを生成する際に、又は、仮想オブジェクトを生成した後に、当該仮想オブジェクトの遮蔽対象部位を特定してもよい。
A shielding
仮想オブジェクト制御モジュール１４２８は、遮蔽対象と、遮蔽対象を遮蔽するための遮蔽オブジェクト（第１オブジェクト）と、を仮想空間１１に配置する。仮想オブジェクト制御モジュール１４２８は、視界に遮蔽対象が含まれる場合、遮蔽対象が第１オブジェクトにより遮蔽されるように、第１オブジェクトの配置（例えば、位置及び傾きの少なくとも一方を含む。）を制御する。ここで、遮蔽オブジェクト（第１オブジェクト）は、遮蔽対象を遮蔽することができるオブジェクトであり、例えば、いわゆるモザイク画像、又は、遮蔽対象を遮蔽可能なように黒色等の色が付された画像を含む。また、遮蔽オブジェクトは、平面又は立体形状からなる部材を模したオブジェクトであってもよく、当該部材としては、すりガラスや屈折率が高い半透明の他の部材を含んでもよい。
The virtual
仮想オブジェクト制御モジュール１４２８は、ネットワーク２を介して接続される他のコンピュータ２００のユーザのアバターオブジェクトを仮想空間１１に配置するためのデータを生成する。ある局面において、仮想オブジェクト制御モジュール１４２８は、ユーザ５のアバターオブジェクトを仮想空間１１に配置するためのデータを生成する。ある局面において、仮想オブジェクト制御モジュール１４２８は、ユーザ５を含む画像に基づいて、ユーザ５を模したアバターオブジェクトを生成する。別の局面において、仮想オブジェクト制御モジュール１４２８は、複数種類のアバターオブジェクト（例えば、動物を模したオブジェクトや、デフォルメされた人のオブジェクト）の中からユーザ５による選択を受け付けたアバターオブジェクトを仮想空間１１に配置するためのデータを生成する。
The virtual
仮想オブジェクト制御モジュール１４２８は、ＨＭＤセンサ４１０が検出するＨＭＤ１２０の動きをアバターオブジェクトに反映する。例えば、仮想オブジェクト制御モジュール１４２８は、ＨＭＤ１２０が傾いたことを検知して、アバターオブジェクトを傾けて配置するためのデータを生成する。ある局面において、仮想オブジェクト制御モジュール１４２８は、コントローラ３００の動きをアバターオブジェクトに反映する。この場合、コントローラ３００は、コントローラ３００の動きを検知するためのモーションセンサ、加速度センサ、または複数の発光素子（例えば、赤外線ＬＥＤ）などを備える。仮想オブジェクト制御モジュール１４２８は、動き検出モジュール１４２４が検出した顔器官の動作を、仮想空間１１に配置されるアバターオブジェクトの顔に反映させる。つまり、仮想オブジェクト制御モジュール１４２８は、ユーザ５Ａの顔の動作をアバターオブジェクトに反映する。
Virtual
操作オブジェクト制御モジュール１４２９は、仮想空間１１においてユーザの操作を受け付けるための操作オブジェクトを仮想空間１１に配置する。ユーザは、操作オブジェクトを操作することにより、例えば、仮想空間１１に配置される遮蔽対象を動かすことができる。操作オブジェクト制御モジュール１４２９は、操作オブジェクトと、仮想空間１１に配置される、遮蔽対象部位を有する被遮蔽オブジェクト（第２オブジェクト）と、を関連づける。仮想オブジェクト制御モジュール１４２８は、操作オブジェクト制御モジュール１４２９による操作オブジェクトの動きに応じて、操作オブジェクトに関連づけられた被遮蔽オブジェクトの配置を制御する。仮想オブジェクト制御モジュール１４２８は、被遮蔽オブジェクトの動きに伴い遮蔽対象部位の配置が変化したことに応じて、遮蔽対象部位が遮蔽オブジェクト（第１オブジェクト）により遮蔽されるように、遮蔽オブジェクトの配置を制御してもよい。
The operating
ある局面において、操作オブジェクトは、例えば、ＨＭＤ１２０を装着したユーザの手に相当する手オブジェクト等を含み得る。ある局面において、操作オブジェクトは、上述したアバターオブジェクトの手の部分に相当し得る。例えば、操作オブジェクト制御モジュール１４２９は、図１に示すコンローラ３００の動きに応じて、ＨＭＤ１２０を装着したユーザの手に相当する手オブジェクトを動かす。手オブジェクト及び被遮蔽オブジェクトにはそれぞれコリジョンエリアが仮想空間内で設定されており、両者のコリジョンエリアが接触すると、手オブジェクトと被遮蔽オブジェクトとが接触したと判定される。また、図８に示すコントローラ３００の各種ボタン３４０、３５０、３７０、３８０等が押下されることによりユーザの手の指の曲げが検知されると、手オブジェクトの指も曲がる。例えば、手オブジェクトと被遮蔽オブジェクトとが接触状態である場合に、ユーザの手の指を曲げることにより手オブジェクトで被遮蔽オブジェクトを掴むことができる。そして、手オブジェクトで被遮蔽オブジェクトを掴んだ状態で、手オブジェクトの配置が制御されると、手オブジェクトの配置の変化に対応するように被遮蔽オブジェクトの配置も変化する。これにより、ユーザがコントローラ３００を操作することにより、仮想空間内で手オブジェクトにより被遮蔽オブジェクトを把持したり移動させることができる。
In one aspect, the manipulation object may include, for example, a hand object corresponding to the hand of the user wearing the
コントロールモジュール５１０は、仮想空間１１に配置されるオブジェクトのそれぞれが、他のオブジェクトと衝突した場合に、当該衝突を検出する。コントロールモジュール５１０は、例えば、あるオブジェクトと、別のオブジェクトとが触れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行なう。コントロールモジュール５１０は、オブジェクトとオブジェクトとが触れている状態から離れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行なう。コントロールモジュール５１０は、オブジェクトとオブジェクトとが触れている状態であることを検出することができる。具体的には、操作オブジェクト制御モジュール１４２８は、操作オブジェクトと、他のオブジェクトとが触れたときに、これら操作オブジェクトと他のオブジェクトとが触れたことを検出して、予め定められた処理を行なう。
The
メモリモジュール５３０は、コンピュータ２００が仮想空間１１をユーザ５に提供するために使用されるデータを保持している。ある局面において、メモリモジュール５３０は、空間情報１４３１と、オブジェクト情報１４３２と、ユーザ情報１４３３と、を保持している。
空間情報１４３１は、仮想空間１１を提供するために規定された１つ以上のテンプレートを保持している。
The
オブジェクト情報１４３２は、仮想空間１１において再生されるコンテンツ、当該コンテンツで使用されるオブジェクト、およびオブジェクトを仮想空間１１に配置するための情報（たとえば、位置情報）を保持している。当該コンテンツは、例えば、ゲーム、現実社会と同様の風景を表したコンテンツ等を含み得る。
The
ユーザ情報１４３３は、ＨＭＤシステム１００の制御装置としてコンピュータ２００を機能させるためのプログラム、オブジェクト情報１４３２に保持される各コンテンツを使用するアプリケーションプログラム等を保持している。
The
［ＨＭＤシステムの制御構造］
図１５を参照して、ＨＭＤセット１１０の制御構造について説明する。図１５は、ある実施の形態に従うＨＭＤセット１１０において実行される処理の一部を表すシーケンスチャートである。なお、図１５におけるステップＳ１１１０～ステップＳ１１４０、及び、ステップＳ１１６０～ステップＳ１１９０は、図１１におけるステップＳ１１１０～ステップＳ１１４０、及び、ステップＳ１１６０～ステップＳ１１９０と同様の処理であるため、説明を省略する。
[Control Structure of HMD System]
The control structure of the HMD set 110 will be described with reference to FIG. FIG. 15 is a sequence chart representing part of the processing performed in HMD set 110 according to an embodiment. Note that steps S1110 to S1140 and steps S1160 to S1190 in FIG. 15 are the same processes as steps S1110 to S1140 and steps S1160 to S1190 in FIG. 11, so description thereof will be omitted.
ステップＳ１５５０にて、プロセッサ２１０は、アプリケーションプログラムを実行し、アプリケーションプログラムに含まれる命令に基づいて、仮想空間１１に配置する１又は複数の仮想オブジェクトのうち、遮蔽対象を特定する。また、プロセッサ２１０は、被遮蔽オブジェクトの少なくとも一部の部位を、遮蔽対象部位として特定してもよい。
In step S<b>1550 ,
ステップＳ１５６０にて、プロセッサ２１０は、アプリケーションプログラムを実行し、アプリケーションプログラムに含まれる命令に基づいて、仮想空間１１において、遮蔽対象が遮蔽オブジェクトにより遮蔽されるように、遮蔽オブジェクトの配置を制御する。
In step S1560,
図１６は、被遮蔽オブジェクト８Ａ（遮蔽対象）を遮蔽オブジェクト８Ｃにより遮蔽する制御を説明するための図である。図１６（Ａ）は、被遮蔽オブジェクト８Ａを含む仮想空間において視界領域１５をＹ方向から見た図と、仮想カメラ１４から見た視界画像１７Ｂを示す図である。図１６（Ｂ）は、被遮蔽オブジェクト８Ａと遮蔽オブジェクト８Ｃとを含む仮想空間において視界領域１５をＹ方向から見た図と、仮想カメラ１４から見た視界画像１７Ｂを示す図である。図１６（Ｂ）の例では、図１６（Ａ）の例と比較すると、仮想カメラ１４から見て被遮蔽オブジェクト８Ａが遮蔽オブジェクト８Ｃにより遮蔽されるように、Ｚ軸方向において仮想カメラ１４と被遮蔽オブジェクト８Ａとの間に遮蔽オブジェクト８Ｃが新たに配置される。遮蔽オブジェクト８Ｃは、平面Ｓを有する形状となっている。遮蔽オブジェクトの配置は、図１４に示す仮想オブジェクト制御モジュール１４２８の制御に従って行われる。
FIG. 16 is a diagram for explaining control for shielding the shielded
仮想オブジェクト制御モジュール１４２８は、遮蔽オブジェクト（第１オブジェクト）の向きも制御し、例えば、遮蔽オブジェクト８Ｃの平面Ｓが仮想カメラ１４のＺ軸方向に対して垂直となるように制御する。この場合、平面Ｓが仮想カメラ１４のＺ軸方向に対して垂直でない場合と比較して、広範囲の遮蔽を実現することができる。
The virtual
図１７は、被遮蔽オブジェクト８Ａ（遮蔽対象）が移動した場合に、その動きに遮蔽オブジェクト８Ｃが追従し、被遮蔽オブジェクト８Ａを常に遮蔽するための制御を説明する図である。図１７（Ａ）は、被遮蔽オブジェクト８Ａと遮蔽オブジェクト８Ｃとを含む仮想空間をＹ方向から見た図と、仮想カメラ１４から見た、被遮蔽オブジェクト８Ａが遮蔽オブジェクト８Ｃにより遮蔽される視界画像を示す図である。
FIG. 17 is a diagram illustrating control for always shielding the
図１７（Ｂ）は、図１７（Ａ）に示す例から被遮蔽オブジェクト８Ａが移動した後の状態を示しており、被遮蔽オブジェクト８Ａと遮蔽オブジェクト８Ｃとを含む仮想空間において視界領域をＹ方向から見た図と、仮想カメラ１４から見た視界画像を示す図である。被遮蔽オブジェクト８Ａは、図１７（Ａ）の位置から図１７（Ｂ）の位置まで移動している。この移動に追従して、仮想オブジェクト制御モジュール１４２８の制御の下、被遮蔽オブジェクト８Ａが遮蔽オブジェクト８Ｃにより遮蔽されるように、遮蔽オブジェクト８Ｃも移動する。この際、遮蔽オブジェクト８Ｃの平面Ｓが仮想カメラ１４のＺ軸方向に対して垂直となる位置関係を常に保持したまま、遮蔽オブジェクト８Ｃを移動させてもよい。本例では、移動した被遮蔽オブジェクト８Ａに遮蔽オブジェクト８Ｃが追従する例を説明したが、被遮蔽オブジェクト８Ａが移動するのではなく、仮想カメラ１４が移動した結果として遮蔽オブジェクト８Ｃによる遮蔽範囲から被遮蔽オブジェクト８Ａが外れそうになる場合に、遮蔽状態を維持すべく遮蔽オブジェクト８Ｃを移動させるようにしてもよい。
FIG. 17(B) shows a state after the hidden
遮蔽オブジェクト８Ｃの配置を制御する手法については、様々な方法を採用し得る。例えば、仮想オブジェクト制御モジュール１４２８は、ビルボード制御を採用してもよい。仮想オブジェクト制御モジュール１４２８は、例えば、平面を有する遮蔽オブジェクト８Ｃの平面が仮想カメラ１４の視線方向に対して常に垂直となるように遮蔽オブジェクト８Ｃを制御する。つまり、仮想オブジェクト制御モジュール１４２８は、平面を有する遮蔽オブジェクト８Ｃの平面が、図１に示すユーザ５から見て常に正面を向くように遮蔽オブジェクト８Ｃを制御する。
Various methods can be adopted as a technique for controlling the placement of the shielding
この構成によれば、仮想カメラ１４、及び、被遮蔽オブジェクト８Ａの少なくとも一つの配置が変更される場合であっても、被遮蔽オブジェクト８Ａが遮蔽オブジェクト８Ｃにより適切に遮蔽される。
According to this configuration, even when the placement of at least one of the
図１８（Ａ）は、被遮蔽オブジェクトと遮蔽オブジェクトとを含む仮想空間において視界領域をＹ方向から見た図である。図１８（Ｂ）は、図１８（Ａ）の例に比べて、仮想カメラと被遮蔽オブジェクトとの間の距離が大きい状態を示す。各図に示すように、図１４に示す仮想オブジェクト制御モジュール１４２８は、被遮蔽オブジェクト８Ａ（遮蔽対象）に対する遮蔽オブジェクト（第１オブジェクト）のＺ方向（奥行き方向）の距離が、仮想カメラ１４と被遮蔽オブジェクト８ＡとのＺ方向の距離に応じた距離となるように、遮蔽オブジェクトの配置を制御する。例えば、仮想オブジェクト制御モジュール１４２８は、仮想カメラ１４と被遮蔽オブジェクト８Ａとの間の距離が長くなる場合（図１８（Ａ）のＬ３から図１８（Ｂ）のＬ４へ長くなる場合）、被遮蔽オブジェクト８Ａと遮蔽オブジェクト８Ｃとの間の距離をＬ１から、Ｌ１よりも長いＬ２となるように制御する。より具体的には、仮想オブジェクト制御モジュール１４２８は、距離Ｌ２を求める際には、仮想カメラ１４と被遮蔽オブジェクト８Ａとの間の距離の比率を示す以下の式を参照する。なお、仮想オブジェクト制御モジュール１４２８の距離Ｌ２の算出方法は、以下の式を参照する手法に限られない。
[式]
Ｌ２＝（仮想カメラ１４と被遮蔽オブジェクト８Ａとの間の距離Ｌ４/仮想カメラ１４と被遮蔽オブジェクト８Ａとの間の距離Ｌ３）×Ｌ１
FIG. 18A is a view of the field of view in the virtual space including the hidden object and the shielding object as seen from the Y direction. FIG. 18B shows a state in which the distance between the virtual camera and the hidden object is greater than in the example of FIG. 18A. As shown in each figure, the virtual
[formula]
L2=(distance L4 between
この構成によれば、仮想カメラ１４と被遮蔽オブジェクト８Ａとの間の距離に応じて、被遮蔽オブジェクト８Ａと遮蔽オブジェクト８Ｃとの間の距離を動的に制御するので、仮想カメラ１４と被遮蔽オブジェクト８Ａとの間の距離の変化によらず、被遮蔽オブジェクト８Ａが遮蔽オブジェクト８Ｃにより適切に遮蔽される。
According to this configuration, the distance between the
仮想オブジェクト制御モジュール１４２８は、仮想カメラ１４と被遮蔽オブジェクト８Ａとの間の距離に応じて、被遮蔽オブジェクト８Ａと遮蔽オブジェクト８Ｃとの間の距離を制御することに代えて、遮蔽オブジェクト８Ｃの形状を制御してもよい。また、仮想オブジェクト制御モジュール１４２８は、仮想カメラ１４と被遮蔽オブジェクト８Ａとの間の距離に応じて、被遮蔽オブジェクト８Ａと遮蔽オブジェクト８Ｃとの間の距離を制御することに加えて、遮蔽オブジェクト８Ｃの形状を制御してもよい。なお、仮想オブジェクト制御モジュール１４２８は、遮蔽オブジェクト８Ｃの位置を制御するのみならず、遮蔽オブジェクト８Ｃの傾きをさらに制御してもよい。
The virtual
この構成によれば、仮想カメラ１４と被遮蔽オブジェクト８Ａとの間の距離に応じて、遮蔽オブジェクト８Ｃの形状を制御するので、仮想カメラ１４と被遮蔽オブジェクト８Ａとの間の距離の変化によらず、被遮蔽オブジェクト８Ａが遮蔽オブジェクト８Ｃにより適切に遮蔽される。
According to this configuration, the shape of the shielding
図１９は、被遮蔽オブジェクト８Ａの顔（遮蔽対象部位）が遮蔽オブジェクト８Ｃにより遮蔽される視界画像１７Ｄを示す図である。図１９に示すように、遮蔽オブジェクト８Ｃは、被遮蔽オブジェクト８Ａの顔を遮蔽するために、「？」が円の中心部に配置された円形の部材が採用されてもよい。遮蔽オブジェクト８Ｃは、これに限られず、平面又は立体形状からなる部材を模した仮想オブジェクトであってもよい。当該部材としては、被遮蔽オブジェクト８Ａの少なくとも一部を遮蔽可能である、すりガラスや屈折率が高い半透明の他の部材を含んでもよい。また、遮蔽オブジェクト８Ｃは、小片を寄せ合わせた絵や図像を示すモザイク画像、又は、被遮蔽オブジェクト８Ａの少なくとも一部を遮蔽可能なように黒色等の色が付された画像を含んでもよい。
FIG. 19 is a view showing a
以上、本実施形態によれば、視界画像において、被遮蔽オブジェクトの遮蔽対象部位が遮蔽オブジェクトにより遮蔽されるように、仮想カメラと被遮蔽オブジェクトとの間に遮蔽オブジェクトが配置されるように制御する。よって、例えば、プレイヤの年齢等の属性によっては、ゲームを構成するＶＲ空間において表示される仮想オブジェクトの特定部位を秘匿する必要があるという要請に対して十分に応えることができる。このように、本実施形態によれば、ユーザの仮想体験を向上させることができる。 As described above, according to the present embodiment, in the view image, control is performed so that the shielding object is placed between the virtual camera and the shielding object so that the shielding target portion of the shielding object is shielded by the shielding object. . Therefore, for example, depending on attributes such as the age of the player, it is possible to sufficiently meet the demand for concealing the specific part of the virtual object displayed in the VR space that constitutes the game. Thus, according to this embodiment, it is possible to improve the user's virtual experience.
上記各実施形態は、本発明の理解を容易にするためのものであり、本発明を限定して解釈するものではない。本発明はその趣旨を逸脱することなく、変更／改良され得るとともに、本発明にはその等価物も含まれる。 Each of the above-described embodiments is for facilitating understanding of the present invention, and is not intended to limit and interpret the present invention. The present invention may be modified/improved without departing from its spirit, and the present invention also includes equivalents thereof.
図１４に示す仮想オブジェクト制御モジュール１４２８は、例えば、図１２に示すＨＭＤ１２０Ｂを装着するユーザ５Ｂに対応づけられたアバターオブジェクト６Ｂが被遮蔽オブジェクトであってもよい。この場合、仮想オブジェクト制御モジュール１４２８は、コンピュータ２００Ｂよりアバターオブジェクト６Ｂを動作させるモーションデータを取得し、取得したモーションデータに応じて、アバターオブジェクト６Ｂを動作させる。そして、仮想オブジェクト制御モジュール１４２８は、アバターオブジェクト６Ｂの動きに伴いアバターオブジェクト６Ｂの少なくとも一部分である遮蔽対象部位の配置が変化したことに応じて、遮蔽対象部位が遮蔽オブジェクトにより遮蔽されるように、遮蔽オブジェクトの配置を制御してもよい。ここでは、被遮蔽オブジェクトがユーザＢの動きに連動して動作するアバターオブジェクト６Ｂである場合について説明したが、これに限定されず、被遮蔽オブジェクトがＮＰＣ（Non Player Character）制御されるアバターオブジェクトであってもよい。
In the virtual
仮想オブジェクト制御モジュール１４２８は、任意のタイミングで遮蔽オブジェクトの表示形態を制御してもよい。また、仮想オブジェクト制御モジュール１４２８は、所定の条件が成立する前の遮蔽オブジェクト（第１オブジェクト）を第１態様で表示し、所定の条件が成立した後の遮蔽オブジェクトを第１態様よりも遮蔽対象の遮蔽度合いが低い第２態様で表示する。ここで、遮蔽度合いが低い態様とは、遮蔽範囲が狭い態様や遮蔽部分の透過率が高い態様等を含む。所定の条件とは、例えば、仮想空間が構成するゲームの進捗、ゲームにおける課金、及びゲームにおけるアイテムの使用の少なくとも一つに関する条件を含む。具体的に、所定の条件が成立するとは、ゲームにおけるイベントをクリアしたり、ゲームにおいて課金（例えば、現金や電子マネー等が支払われることや投げ銭行為が行われること等）が実行されたり、又は、ゲームにおけるアイテム（現金や電子マネー等が支払われることにより得られる課金アイテム含む）が消費されたりすることを含む。
The virtual
本実施形態は、以下のようなゲームにも適用可能である。例えば、サンプル版やベータ版においては所定の遮蔽対象部位が遮蔽されるが、正規版を入手すると、当該部位の遮蔽が解除されるゲーム、モザイクで遮蔽されたものを当てるゲームであって、課金に応じて段階的にモザイクが解除されたり、他のゲームやイベントの進捗に応じて段階的にモザイクが解除されるゲーム、又は、ゲームやイベントをクリアすることに対する報酬としてモザイクが解除されるゲームが挙げられる。 This embodiment can also be applied to the following games. For example, in the sample version or beta version, a predetermined shielding target part is blocked, but if you get the official version, the shielding of that part will be canceled, or a game that hits what is blocked with a mosaic, and you can charge Games that are progressively demosaiced according to the progress of other games or events, or games that are progressively demosaiced as a reward for completing games or events is mentioned.
なお、上記した視界画像は、３６０度動画であり、当該視界画像に含まれる仮想オブジェクトは、３６０度動画に含まれる人物等に対応するものであってもよい。例えば、コンピュータ２００により、３６０度動画に対して画像認識処理を実行し、予め定められた設定情報、例えば、予め人物の頭部を遮蔽することを示す設定情報に基づいて、３６０度動画に含まれる人物等の少なくとも一部の遮蔽対象部位を特定してもよい。また、３６０度動画は、予め定められた設定情報に基づいて、予め遮蔽したい位置にマーカ等を付した状態で撮影され、撮影されたことにより画像データとして取得され記録されてもよい。
The field-of-view image described above may be a 360-degree video, and the virtual object included in the field-of-view image may correspond to a person or the like included in the 360-degree video. For example, the
他方、コンピュータ２００は、ユーザからの指示に基づいて、３６０度動画に含まれる人物等の少なくとも一部の遮蔽対象部位を特定してもよい。例えば、ユーザは３６０度動画をモニタや他の表示装置で確認しながら、３６０度動画に含まれる人物等の少なくとも一部の遮蔽対象部位を確認し、コンピュータ２００に対して指示してもよい。なお、ユーザは、遮蔽対象部位を表示装置上で指定することにより、コンピュータに対して遮蔽対象部分を通知してもよい。また、コンピュータ２００は、ＨＭＤに搭載された注視センサ等の視線センサを用いてユーザの視線を検出することにより遮蔽対象部位を特定してもよい。
On the other hand, the
図２０は、ＨＭＤセットにおいては、被遮蔽オブジェクトの遮蔽対象部位が遮蔽オブジェクトにより遮蔽されない視界画像（第１視界画像）を表示し、かつ、他のＨＭＤセットにおいては、被遮蔽オブジェクトの遮蔽対象部位が遮蔽オブジェクトにより遮蔽される視界画像（第２視界画像）を表示する例を示す図である。図１に示すユーザ５に対応づけられたＨＭＤセット１１０Ａは、不図示の仮想カメラと被遮蔽オブジェクト８Ａとの間に遮蔽オブジェクト８Ｃが配置される視界画像を生成し、当該視界画像における遮蔽オブジェクト８Ｃの位置情報ＰＩを特定する。なお、位置情報ＰＩは、遮蔽オブジェクト８Ｃの位置を示す情報であり、図２０の例では、遮蔽オブジェクト８Ｃの外周を示しているが、これに限られず、遮蔽オブジェクト８Ｃの中心点等の座標情報であってもよい。
FIG. 20 shows a view image (first view image) in which the portion to be shielded of the object to be shielded is not shielded by the shielding object in the HMD set, and the portion to be shielded of the object to be shielded in the other HMD set. is a diagram showing an example of displaying a field-of-view image (second field-of-view image) shielded by a shielding object. The HMD set 110A associated with the
そして、ＨＭＤセット１１０Ａは、図２０に示すように、例えば、遮蔽オブジェクト８Ｃの表示形態を透明状態、つまり遮蔽オブジェクト８Ｃを非表示にした視界画像１７ＥをＨＭＤ１２０Ａにおいて表示する。なお、遮蔽オブジェクト８Ｃの表示形態に関して、被遮蔽オブジェクト８Ａが視認できればよいので、遮蔽オブジェクト８Ｃの表示形態を透明状態にするのみならず、遮蔽オブジェクト８Ｃの表示形態を半透明状態にしたり、その他の表示形態を採用し得る。
Then, as shown in FIG. 20, the HMD set 110A displays, on the
また、ＨＭＤセット１１０Ａは、他のユーザに対応づけられたＨＭＤセットに対して、仮想カメラと被遮蔽オブジェクト８Ａとの間に遮蔽オブジェクト８Ｃが配置される視界画像及び位置情報ＰＩを送信する。よって、他のユーザに対応づけられたＨＭＤセットのＨＭＤ１２０Ｂにおいては、仮想カメラと被遮蔽オブジェクト８Ａとの間に遮蔽オブジェクト８Ｃが配置される視界画像１７Ｆが表示される。なお、視界画像１７Ｆは、ＨＭＤ１２０Ｂではなく、ユーザ５以外の１又は複数のユーザが視認することができる他のディスプレイ装置において表示されてもよい。
In addition, the HMD set 110A transmits to the HMD set associated with another user, a view image in which the
この構成によれば、自身のＨＭＤや表示装置において視界画像を表示する際には、ある仮想オブジェクトの特定部位について秘匿する必要がない場合であっても、他のユーザに対しては適切に秘匿することが可能である。 According to this configuration, when displaying the field-of-view image on one's own HMD or display device, even if there is no need to conceal a specific portion of a certain virtual object, it can be appropriately concealed from other users. It is possible to
上記実施形態においては、ＨＭＤによってユーザが没入する仮想空間（ＶＲ空間）を例示して説明したが、ＨＭＤとして、透過型のＨＭＤを採用してもよい。この場合、透過型のＨＭＤを介してユーザが視認する現実空間に仮想空間を構成する画像の一部を合成した視界画像を出力することにより、拡張現実（ＡＲ：Augmented Reality）空間または複合現実（ＭＲ：Mixed Reality）空間における仮想体験をユーザに提供してもよい。この場合、操作オブジェクトに代えて、ユーザの手の動きに基づいて、仮想空間内における対象オブジェクトへの作用を生じさせてもよい。具体的には、プロセッサは、現実空間におけるユーザの手の位置の座標情報を特定するとともに、仮想空間内における対象オブジェクトの位置を現実空間における座標情報との関係で定義してもよい。これにより、プロセッサは、現実空間におけるユーザの手と仮想空間における対象オブジェクトとの位置関係を把握し、ユーザの手と対象オブジェクトとの間で上述したコリジョン制御等に対応する処理を実行可能となる。その結果、ユーザの手の動きに基づいて対象オブジェクトに作用を与えることが可能となる。 In the above embodiments, the virtual space (VR space) in which the user is immersed by the HMD has been exemplified and explained, but a transmissive HMD may be employed as the HMD. In this case, by outputting a visual field image obtained by synthesizing a part of an image constituting a virtual space with a real space visually recognized by a user through a transmissive HMD, an augmented reality (AR) space or mixed reality ( A virtual experience in MR (Mixed Reality) space may be provided to the user. In this case, an action may be generated on the target object in the virtual space based on the movement of the user's hand instead of the operation object. Specifically, the processor may identify the coordinate information of the position of the user's hand in the real space and define the position of the target object in the virtual space in relation to the coordinate information in the real space. As a result, the processor can grasp the positional relationship between the user's hand in the real space and the target object in the virtual space, and execute processing corresponding to the above-described collision control or the like between the user's hand and the target object. . As a result, it is possible to give an effect to the target object based on the movement of the user's hand.
２…ネットワーク、５…ユーザ、６Ａ，６Ｂ…アバターオブジェクト、８Ａ…被遮蔽オブジェクト、８Ｃ…遮蔽オブジェクト、１１，１１Ａ，１１Ｂ，１１Ｃ，１１Ｄ…仮想空間、１２…中心、１３…パノラマ画像、１４…仮想カメラ、１５…視界領域、１６…基準視線、１７，１７Ａ，１７Ｂ，１７Ｃ，１７Ｄ，１７Ｅ，１７Ｆ…視界画像、１８…領域、１９…領域、１００…ＨＭＤシステム、１１０，１１０Ａ，１１０Ｂ，１１０Ｃ，１１０ Ｄ…ＨＭＤセット、１２０…ＨＭＤ、１３０…モニタ、１４０…注視センサ、１５０…第１カメラ、１６０…第２カメラ、１７０…マイク、１８０…スピーカ、１９０…センサ、２００，２００Ａ，２００Ｂ，２００Ｃ，２００Ｄ…コンピュータ、２１０…プロセッサ、２２０…メモリ、２３０…ストレージ、２４０…入出力インターフェイス、２５０…通信インターフェイス、２６０…バス、３００…コントローラ、３００Ｒ…右コントローラ、３１０…グリップ、３２０…フレーム、３３０…天面、３４０…ボタン、３５０…ボタン、３６０…赤外線ＬＥＤ、３７０…ボタン、３８０…ボタン、３９０…アナログスティック、４１０…ＨＭＤセンサ、４２０…モーションセンサ、４３０…ディスプレイ、５１０…コントロールモジュール、５２０…レンダリングモジュール、５３０…メモリモジュール、５４０…通信制御モジュール、６００…サーバ、６１０…プロセッサ、６２０…メモリ、６３０…ストレージ、６４０…入出力インターフェイス、６５０…通信インターフェイス、６６０…バス、７００…外部機器、１４２１…仮想カメラ制御モジュール、１４２２…視界領域決定モジュール、１４２３…基準視線特定モジュール、１４２４…動き検出モジュール、１４２５…仮想空間定義モジュール、１４２６…仮想オブジェクト生成モジュール、１４２７…遮蔽対象特定モジュール、１４２８…仮想オブジェクト制御モジュール、１４２９…操作オブジェクト制御モジュール、１４３１…空間情報、１４３２…オブジェクト情報、１４３３…ユーザ情報、１４３８…視界画像生成モジュール、１６２０…視軸
2
Claims (1)
第１オブジェクトと、第２オブジェクトと、を含む仮想空間における仮想視点からの視界を制御し、
前記視界に前記第２オブジェクトの少なくとも一部を構成する遮蔽対象が含まれる場合、前記遮蔽対象が前記第１オブジェクトにより遮蔽されるように、前記第１オブジェクトを制御する第１オブジェクト制御手段と、
前記視界に対応する視界画像を生成する生成手段と、
前記第２オブジェクトを制御させるモーションデータを取得する取得手段と、
前記モーションデータに応じて、前記第２オブジェクトを制御させる第２オブジェクト制御手段と、を備え、
前記第１オブジェクトを制御する制御手段は、前記第２オブジェクトの制御に伴う前記遮蔽対象の変化に応じて、前記遮蔽対象が前記第１オブジェクトにより遮蔽されるように、前記第１オブジェクトを制御するように機能させるプログラム。
controlling a computer to control a field of view from a virtual viewpoint in a virtual space containing a first object and a second object;
a first object control means for controlling the first object so that, when the field of view includes an object to be shielded that constitutes at least part of the second object, the object to be shielded is shielded by the first object;
generating means for generating a field-of-view image corresponding to the field of view;
Acquisition means for acquiring motion data for controlling the second object;
a second object control means for controlling the second object according to the motion data;
The control means for controlling the first object controls the first object so that the first object shields the shielding target according to a change in the shielding target caused by the control of the second object. A program that works like a
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2022140613A JP2022171742A (en) | 2020-06-16 | 2022-09-05 | Program, information processing method, and information processing device |
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2020103445A JP7138138B2 (en) | 2020-06-16 | 2020-06-16 | Program, information processing method and information processing apparatus |
| JP2022140613A JP2022171742A (en) | 2020-06-16 | 2022-09-05 | Program, information processing method, and information processing device |
Related Parent Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2020103445A Division JP7138138B2 (en) | 2020-06-16 | 2020-06-16 | Program, information processing method and information processing apparatus |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP2022171742A true JP2022171742A (en) | 2022-11-11 |
Family
ID=72643597
Family Applications (2)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2020103445A Active JP7138138B2 (en) | 2020-06-16 | 2020-06-16 | Program, information processing method and information processing apparatus |
| JP2022140613A Pending JP2022171742A (en) | 2020-06-16 | 2022-09-05 | Program, information processing method, and information processing device |
Family Applications Before (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2020103445A Active JP7138138B2 (en) | 2020-06-16 | 2020-06-16 | Program, information processing method and information processing apparatus |
Country Status (1)
| Country | Link |
|---|---|
| JP (2) | JP7138138B2 (en) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116745628A (en) | 2021-01-19 | 2023-09-12 | 阿尔卑斯阿尔派株式会社 | Current detection device |
Family Cites Families (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US9245177B2 (en) * | 2010-06-02 | 2016-01-26 | Microsoft Technology Licensing, Llc | Limiting avatar gesture display |
| JP2017138973A (en) * | 2017-01-18 | 2017-08-10 | 株式会社コロプラ | Method and program for providing virtual space |
| JP6397595B1 (en) * | 2018-04-12 | 2018-09-26 | 株式会社ドワンゴ | Content distribution server, content distribution system, content distribution method and program |
-
2020
- 2020-06-16 JP JP2020103445A patent/JP7138138B2/en active Active
-
2022
- 2022-09-05 JP JP2022140613A patent/JP2022171742A/en active Pending
Also Published As
| Publication number | Publication date |
|---|---|
| JP2020161168A (en) | 2020-10-01 |
| JP7138138B2 (en) | 2022-09-15 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7466034B2 (en) | Programs and systems | |
| JP6513241B1 (en) | PROGRAM, INFORMATION PROCESSING DEVICE, AND INFORMATION PROCESSING METHOD | |
| JP2022171742A (en) | Program, information processing method, and information processing device | |
| JP7192151B2 (en) | Program, information processing device, and information processing method | |
| JP7005406B2 (en) | Programs, information processing devices, and information processing methods | |
| JP7356827B2 (en) | Program, information processing method, and information processing device | |
| JP6703578B2 (en) | Program, method and information processing apparatus | |
| JP6771006B2 (en) | Programs, methods and information processing equipment | |
| JP6826082B2 (en) | Programs, information processing equipment, and methods | |
| JP7121518B2 (en) | Program, information processing device, and information processing method | |
| JP6722244B2 (en) | Program, information processing method, and information processing apparatus | |
| JP7145177B2 (en) | Program, method and information processing device | |
| JP2019155115A (en) | Program, information processor and information processing method | |
| JP7295045B2 (en) | Programs, computer implemented methods and computers | |
| JP7313523B1 (en) | Program and information processing system | |
| WO2021131938A1 (en) | Program, method, and information processing device | |
| JP7111848B2 (en) | Program, Information Processing Apparatus, and Method | |
| WO2021131935A1 (en) | Program, method, and information processing device | |
| JP7233202B2 (en) | Program, Information Processing Apparatus, and Method | |
| JP6659793B1 (en) | Program, method and information processing device | |
| JP6718930B2 (en) | Program, information processing apparatus, and method | |
| JP6522825B1 (en) | Program, information processing apparatus, and method | |
| JP6441517B1 (en) | Program, information processing apparatus, and method | |
| JP6453499B1 (en) | Program, information processing apparatus, and method | |
| JP2020181581A (en) | Program, method, and information processing device |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220905 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230815 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230921 |
|
| A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20231031 |