JP2019128915A - Program, information processing device, and method - Google Patents

Program, information processing device, and method Download PDF

Info

Publication number
JP2019128915A
JP2019128915A JP2018011993A JP2018011993A JP2019128915A JP 2019128915 A JP2019128915 A JP 2019128915A JP 2018011993 A JP2018011993 A JP 2018011993A JP 2018011993 A JP2018011993 A JP 2018011993A JP 2019128915 A JP2019128915 A JP 2019128915A
Authority
JP
Japan
Prior art keywords
user
virtual
hmd
virtual space
processor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018011993A
Other languages
Japanese (ja)
Other versions
JP6441517B1 (en
Inventor
健志 加田
Kenji Kada
健志 加田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Colopl Inc
Original Assignee
Colopl Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Colopl Inc filed Critical Colopl Inc
Priority to JP2018011993A priority Critical patent/JP6441517B1/en
Application granted granted Critical
Publication of JP6441517B1 publication Critical patent/JP6441517B1/en
Publication of JP2019128915A publication Critical patent/JP2019128915A/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

To enhance a user's sense of immersion in a virtual space.SOLUTION: A processor is configured to cause a mobile object to move following positional change of a virtual camera until the virtual camera and the mobile object satisfy a first positional relationship (S1609), and to cause the mobile object to move without following the positional change of the virtual camera once the virtual camera and the mobile object satisfy the first positional relationship (S1610).SELECTED DRAWING: Figure 16

Description

本発明は、プログラム、情報処理装置、および方法に関する。   The present invention relates to a program, an information processing apparatus, and a method.

非特許文献1および2に、仮想空間においてユーザが敵キャラクタと戦うゲームの一例が開示されている。   Non-Patent Documents 1 and 2 disclose an example of a game in which a user fights with an enemy character in a virtual space.

COLOPL CHANNEL、"TITAN SLAYER - Trailer | HTC Vive, Oculus Rift"、[online]、平成29年4月12日、YouTube(登録商標)、[平成29年11月8日検索]、インターネット〈https://www.youtube.com/watch?v=kuo7Z3sfhKU〉COLOPL CHANNEL, "TITAN SLAYER-Trailer | HTC Vive, Oculus Rift", [online], April 12, 2017, YouTube (registered trademark), [November 8, 2017 search], Internet <https: / / www.youtube.com/watch?v=kuo7Z3sfhKU> Unreal Engine、"Bullet Train VR Demo by Epic Games on Oculus | Unreal Engine"、[online]、平成27年9月24日、YouTube(登録商標)、[平成29年11月8日検索]、インターネット〈https://www.youtube.com/watch?v=DmaxmnPzMWE〉Unreal Engine, "Bullet Train VR Demo by Epic Games on Oculus | Unreal Engine", [online], September 24, 2015, YouTube (registered trademark), [November 8, 2017 search], Internet <https : //www.youtube.com/watch? v = DmaxmnPzMWE>

従来の技術には、仮想空間に対するユーザの没入感をより高めることができる余地がある。   The prior art has room to be able to further enhance the user's sense of immersion into the virtual space.

本開示の一態様は、仮想空間に対するユーザの没入感をより高めることを目的とする。   An object of one aspect of the present disclosure is to further increase a user's immersion in a virtual space.

本発明の一態様によれば、ユーザの頭部に関連付けられた画像表示装置を介して仮想体験をユーザに提供するために、プロセッサを備えたコンピュータによって実行されるプログラムが提供される。プログラムは、プロセッサに、仮想体験をユーザに提供するための仮想空間を定義するステップと、ユーザの身体の一部の動きに連動する第1オブジェクトを仮想空間に生成するステップと、身体の一部の動きに応じて、第1オブジェクトを動かすステップと、第2オブジェクトを仮想空間に生成するステップと、第1オブジェクトと第2オブジェクトとが第1位置関係になるまで、第1オブジェクトの位置変化に追随するように第2オブジェクトを移動させ、第1オブジェクトと第2オブジェクトとが第1位置関係になった後、第1オブジェクトの位置変化に追随させずに第2オブジェクトを移動させるステップと、仮想空間内における仮想視点からの視界に対応する視界画像を定義するステップと、視界画像を画像表示装置に出力するステップとを実行させる。   According to one aspect of the present invention, a program executed by a computer with a processor is provided for providing a virtual experience to a user via an image display device associated with the user's head. The program defines, in the processor, a virtual space for providing the user with a virtual experience, generating a first object in the virtual space that is linked to the movement of the user's body part, and the body part. In response to the movement of the first object, the step of moving the first object, the step of generating the second object in the virtual space, and the position change of the first object until the first object and the second object are in the first positional relationship. Moving the second object so as to follow, moving the second object without following the position change of the first object after the first object and the second object are in the first positional relationship; Defining a view image corresponding to a view from a virtual view in space; outputting the view image to the image display device Tsu to execute and-flops.

本開示の一態様によれば、仮想空間に対するユーザの没入感をより高めることができる。   According to one aspect of the present disclosure, it is possible to further enhance the user's immersion in the virtual space.

ある実施の形態に従うHMDシステムの構成の概略を表す図である。It is a figure showing the outline of a structure of the HMD system according to a certain embodiment. ある実施の形態に従うコンピュータのハードウェア構成の一例を表すブロック図である。It is a block diagram showing an example of the hardware constitutions of the computer according to a certain embodiment. ある実施の形態に従うHMDに設定されるuvw視野座標系を概念的に表す図である。It is a figure which represents notionally the uvw view coordinate system set to HMD according to one Embodiment. ある実施の形態に従う仮想空間を表現する一態様を概念的に表す図である。It is a figure which represents notionally the one aspect | mode which represents the virtual space according to a certain embodiment. ある実施の形態に従うHMDを装着するユーザの頭部を上から表した図である。FIG. 1 is a top view of a user's head wearing an HMD according to an embodiment; 仮想空間において視界領域をX方向から見たYZ断面を表す図である。It is a figure showing the YZ cross section which looked at the visual field area from the X direction in virtual space. 仮想空間において視界領域をY方向から見たXZ断面を表す図である。It is a figure showing the XZ cross section which looked at the visual field area from the Y direction in virtual space. ある実施の形態に従うコントローラの概略構成を表す図である。It is a figure showing the schematic structure of the controller according to a certain embodiment. ある実施の形態に従うユーザの右手に対して規定されるヨー、ロール、ピッチの各方向の一例を示す図である。FIG. 7 is a diagram showing an example of yaw, roll, and pitch directions defined for the right hand of the user according to an embodiment. ある実施の形態に従うサーバのハードウェア構成の一例を表すブロック図である。It is a block diagram showing an example of the hardware constitutions of the server according to a certain embodiment. ある実施の形態に従うコンピュータをモジュール構成として表わすブロック図である。FIG. 1 is a block diagram representing a computer according to an embodiment as a modular configuration. ある実施の形態に従うHMDセットにおいて実行される処理の一部を表すシーケンスチャートである。7 is a sequence chart showing a part of processing performed in the HMD set according to an embodiment. ネットワークにおいて、各HMDがユーザに仮想空間を提供する状況を表す模式図である。In a network, it is a mimetic diagram showing the situation where each HMD provides virtual space to a user. 図12(A)におけるユーザ5Aの視界画像を示す図である。It is a figure which shows the visual field image of the user 5A in FIG. ある実施の形態に従うHMDシステムにおいて実行する処理を示すシーケンス図である。It is a sequence diagram which shows the process performed in the HMD system according to a certain embodiment. ある実施の形態に従うコンピュータのモジュールの詳細構成を表わすブロック図である。It is a block diagram showing the detailed structure of the module of the computer according to a certain embodiment. ある実施の形態に従う仮想空間および視界画像を示す図である。It is a figure which shows the virtual space and visual field image according to a certain embodiment. ある実施の形態に従うHMDセットにおいて実行される処理の一部を表すシーケンスチャートである。7 is a sequence chart showing a part of processing performed in the HMD set according to an embodiment. ある実施の形態に従う仮想空間および視界画像を示す図である。It is a figure which shows the virtual space and visual field image according to a certain embodiment. ある実施の形態に従う仮想空間および視界画像を示す図である。It is a figure which shows the virtual space and visual field image according to a certain embodiment. ある実施の形態に従う仮想空間および視界画像を示す図である。It is a figure which shows the virtual space and visual field image according to a certain embodiment. ある実施の形態に従う仮想空間および視界画像を表す図である。It is a figure showing the virtual space and visual field image according to a certain embodiment. ある実施の形態に従う仮想空間および視界画像を表す図である。It is a figure showing the virtual space and visual field image according to a certain embodiment. ある実施の形態に従う仮想空間を表す図である。It is a figure showing the virtual space according to a certain embodiment. ある実施の形態に従う仮想空間を表す図である。It is a figure showing the virtual space according to a certain embodiment.

以下、この技術的思想の実施の形態について図面を参照しながら詳細に説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。本開示において示される1以上の実施形態において、各実施形態が含む要素を互いに組み合わせることができ、かつ、当該組み合わせられた結果物も本開示が示す実施形態の一部をなすものとする。   Hereinafter, embodiments of the technical idea will be described in detail with reference to the drawings. In the following description, the same parts are denoted by the same reference numerals. Their names and functions are also the same. Therefore, detailed description about them will not be repeated. In one or more embodiments shown in the present disclosure, elements included in each embodiment can be combined with each other, and the combined result also forms a part of the embodiments represented by the present disclosure.

[HMDシステムの構成]
図1を参照して、HMD(Head-Mounted Device)システム100の構成について説明する。図1は、本実施の形態に従うHMDシステム100の構成の概略を表す図である。HMDシステム100は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。
[Configuration of HMD system]
A configuration of an HMD (Head-Mounted Device) system 100 will be described with reference to FIG. FIG. 1 is a diagram schematically showing a configuration of HMD system 100 according to the present embodiment. The HMD system 100 is provided as a home system or a business system.

HMDシステム100は、サーバ600と、HMDセット110A,110B,110C,110Dと、外部機器700と、ネットワーク2とを含む。HMDセット110A,110B,110C,110Dの各々は、ネットワーク2を介してサーバ600や外部機器700と通信可能に構成される。以下、HMDセット110A,110B,110C,110Dを総称して、HMDセット110とも言う。HMDシステム100を構成するHMDセット110の数は、4つに限られず、3つ以下でも、5つ以上でもよい。HMDセット110は、HMD120と、コンピュータ200と、HMDセンサ410と、ディスプレイ430と、コントローラ300とを備える。HMD120は、モニタ130と、注視センサ140と、第1カメラ150と、第2カメラ160と、マイク170と、スピーカ180とを含む。コントローラ300は、モーションセンサ420を含み得る。   The HMD system 100 includes a server 600, HMD sets 110A, 110B, 110C, and 110D, an external device 700, and the network 2. Each of the HMD sets 110A, 110B, 110C, and 110D is configured to be able to communicate with the server 600 and the external device 700 via the network 2. Hereinafter, the HMD sets 110A, 110B, 110C, and 110D are collectively referred to as the HMD set 110. The number of HMD sets 110 constituting the HMD system 100 is not limited to four, and may be three or less or five or more. The HMD set 110 includes an HMD 120, a computer 200, an HMD sensor 410, a display 430, and a controller 300. The HMD 120 includes a monitor 130, a gaze sensor 140, a first camera 150, a second camera 160, a microphone 170, and a speaker 180. The controller 300 can include a motion sensor 420.

ある局面において、コンピュータ200は、インターネットその他のネットワーク2に接続可能であり、ネットワーク2に接続されているサーバ600その他のコンピュータと通信可能である。その他のコンピュータとしては、例えば、他のHMDセット110のコンピュータや外部機器700が挙げられる。別の局面において、HMD120は、HMDセンサ410の代わりに、センサ190を含み得る。   In one aspect, the computer 200 can be connected to the Internet and other networks 2, and can communicate with the server 600 and other computers connected to the network 2. Examples of other computers include computers of other HMD sets 110 and external devices 700. In another aspect, the HMD 120 may include a sensor 190 instead of the HMD sensor 410.

HMD120は、ユーザ5の頭部に装着され、動作中に仮想空間をユーザ5に提供し得る。より具体的には、HMD120は、右目用の画像および左目用の画像をモニタ130にそれぞれ表示する。ユーザ5の各目がそれぞれの画像を視認すると、ユーザ5は、両目の視差に基づき当該画像を3次元画像として認識し得る。HMD120は、モニタを備える所謂ヘッドマウントディスプレイと、スマートフォンその他のモニタを有する端末を装着可能なヘッドマウント機器のいずれをも含み得る。   The HMD 120 may be worn on the head of the user 5 and provide a virtual space to the user 5 during operation. More specifically, the HMD 120 displays a right-eye image and a left-eye image on the monitor 130, respectively. When each eye of the user 5 visually recognizes each image, the user 5 can recognize the image as a three-dimensional image based on the parallax of both eyes. The HMD 120 may include either a so-called head mounted display having a monitor or a head mounted device to which a terminal having a smartphone or other monitor can be attached.

モニタ130は、例えば、非透過型の表示装置として実現される。ある局面において、モニタ130は、ユーザ5の両目の前方に位置するようにHMD120の本体に配置されている。したがって、ユーザ5は、モニタ130に表示される3次元画像を視認すると、仮想空間に没入することができる。ある局面において、仮想空間は、例えば、背景、ユーザ5が操作可能なオブジェクト、ユーザ5が選択可能なメニューの画像を含む。ある局面において、モニタ130は、所謂スマートフォンその他の情報表示端末が備える液晶モニタまたは有機EL(Electro Luminescence)モニタとして実現され得る。   The monitor 130 is realized as, for example, a non-transmissive display device. In one aspect, the monitor 130 is disposed on the main body of the HMD 120 so as to be located in front of the eyes of the user 5. Therefore, the user 5 can immerse in the virtual space when viewing the three-dimensional image displayed on the monitor 130. In one aspect, the virtual space includes, for example, a background, an object operable by the user 5, and an image of a menu selectable by the user 5. In one aspect, the monitor 130 can be realized as a liquid crystal monitor or an organic EL (Electro Luminescence) monitor included in a so-called smart phone or other information display terminal.

別の局面において、モニタ130は、透過型の表示装置として実現され得る。この場合、HMD120は、図1に示されるようにユーザ5の目を覆う密閉型ではなく、メガネ型のような開放型であり得る。透過型のモニタ130は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可能であってもよい。モニタ130は、仮想空間を構成する画像の一部と、現実空間とを同時に表示する構成を含んでいてもよい。例えば、モニタ130は、HMD120に搭載されたカメラで撮影した現実空間の画像を表示してもよいし、一部の透過率を高く設定することにより現実空間を視認可能にしてもよい。   In another aspect, the monitor 130 can be realized as a transmissive display device. In this case, the HMD 120 may not be a closed type covering the eyes of the user 5 as shown in FIG. 1, but may be an open type like a glasses type. The transmissive monitor 130 may be configured as a temporarily non-transmissive display device by adjusting the transmittance thereof. The monitor 130 may include a configuration for simultaneously displaying a part of the image forming the virtual space and the real space. For example, the monitor 130 may display a real space image taken by a camera mounted on the HMD 120, or may make the real space visible by setting a part of the transmittance high.

ある局面において、モニタ130は、右目用の画像を表示するためのサブモニタと、左目用の画像を表示するためのサブモニタとを含み得る。別の局面において、モニタ130は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、モニタ130は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。   In one aspect, the monitor 130 may include a sub monitor for displaying an image for the right eye and a sub monitor for displaying an image for the left eye. In another aspect, the monitor 130 may be configured to integrally display the image for the right eye and the image for the left eye. In this case, the monitor 130 includes a high-speed shutter. The high speed shutter operates so as to alternately display the image for the right eye and the image for the left eye so that the image is recognized only for one of the eyes.

ある局面において、HMD120は、図示せぬ複数の光源を含む。各光源は例えば、赤外線を発するLED(Light Emitting Diode)により実現される。HMDセンサ410は、HMD120の動きを検出するためのポジショントラッキング機能を有する。より具体的には、HMDセンサ410は、HMD120が発する複数の赤外線を読み取り、現実空間内におけるHMD120の位置および傾きを検出する。   In one aspect, the HMD 120 includes a plurality of light sources (not shown). Each light source is realized by, for example, an LED (Light Emitting Diode) that emits infrared rays. The HMD sensor 410 has a position tracking function for detecting the movement of the HMD 120. More specifically, the HMD sensor 410 reads a plurality of infrared rays emitted by the HMD 120 and detects the position and tilt of the HMD 120 in the physical space.

別の局面において、HMDセンサ410は、カメラにより実現されてもよい。この場合、HMDセンサ410は、カメラから出力されるHMD120の画像情報を用いて、画像解析処理を実行することにより、HMD120の位置および傾きを検出することができる。   In another aspect, the HMD sensor 410 may be realized by a camera. In this case, the HMD sensor 410 can detect the position and inclination of the HMD 120 by executing image analysis processing using image information of the HMD 120 output from the camera.

別の局面において、HMD120は、位置検出器として、HMDセンサ410の代わりに、あるいはHMDセンサ410に加えてセンサ190を備えてもよい。HMD120は、センサ190を用いて、HMD120自身の位置および傾きを検出し得る。例えば、センサ190が角速度センサ、地磁気センサ、あるいは加速度センサである場合、HMD120は、HMDセンサ410の代わりに、これらの各センサのいずれかを用いて、自身の位置および傾きを検出し得る。一例として、センサ190が角速度センサである場合、角速度センサは、現実空間におけるHMD120の3軸周りの角速度を経時的に検出する。HMD120は、各角速度に基づいて、HMD120の3軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、HMD120の傾きを算出する。   In another aspect, the HMD 120 may include a sensor 190 as a position detector, instead of or in addition to the HMD sensor 410. The HMD 120 can detect the position and inclination of the HMD 120 itself using the sensor 190. For example, when the sensor 190 is an angular velocity sensor, a geomagnetic sensor, or an acceleration sensor, the HMD 120 can detect its own position and inclination using any one of these sensors instead of the HMD sensor 410. As one example, when the sensor 190 is an angular velocity sensor, the angular velocity sensor detects angular velocity around three axes of the HMD 120 in real space over time. The HMD 120 calculates the temporal change of the angle around the three axes of the HMD 120 based on each angular velocity, and further calculates the inclination of the HMD 120 based on the temporal change of the angle.

注視センサ140は、ユーザ5の右目および左目の視線が向けられる方向を検出する。つまり、注視センサ140は、ユーザ5の視線を検出する。視線の方向の検出は、例えば、公知のアイトラッキング機能によって実現される。注視センサ140は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ140は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ140は、例えば、ユーザ5の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ140は、検出した各回転角に基づいて、ユーザ5の視線を検知することができる。   The gaze sensor 140 detects the direction in which the line of sight of the right eye and the left eye of the user 5 is directed. That is, the gaze sensor 140 detects the line of sight of the user 5. The detection of the direction of the line of sight is realized by, for example, a known eye tracking function. The gaze sensor 140 is realized by a sensor having the eye tracking function. In one aspect, the gaze sensor 140 preferably includes a sensor for the right eye and a sensor for the left eye. The gaze sensor 140 may be, for example, a sensor that emits infrared light to the right and left eyes of the user 5 and detects the rotation angle of each eye by receiving reflected light from the cornea and iris to the irradiated light. . The gaze sensor 140 can detect the line of sight of the user 5 based on the detected rotation angles.

第1カメラ150は、ユーザ5の顔の下部を撮影する。より具体的には、第1カメラ150は、ユーザ5の鼻および口などを撮影する。第2カメラ160は、ユーザ5の目および眉などを撮影する。HMD120のユーザ5側の筐体をHMD120の内側、HMD120のユーザ5とは逆側の筐体をHMD120の外側と定義する。ある局面において、第1カメラ150は、HMD120の外側に配置され、第2カメラ160は、HMD120の内側に配置され得る。第1カメラ150および第2カメラ160が生成した画像は、コンピュータ200に入力される。別の局面において、第1カメラ150と第2カメラ160とを1台のカメラとして実現し、この1台のカメラでユーザ5の顔を撮影するようにしてもよい。   The first camera 150 shoots the lower part of the face of the user 5. More specifically, the first camera 150 captures the nose, the mouth, and the like of the user 5. The second camera 160 captures the eyes, eyelids, and the like of the user 5. The housing on the user 5 side of the HMD 120 is defined as the inside of the HMD 120, and the housing on the opposite side to the user 5 of the HMD 120 is defined as the outside of the HMD 120. In an aspect, the first camera 150 may be disposed outside the HMD 120, and the second camera 160 may be disposed inside the HMD 120. Images generated by the first camera 150 and the second camera 160 are input to the computer 200. In another aspect, the first camera 150 and the second camera 160 may be realized as one camera, and the face of the user 5 may be photographed by this one camera.

マイク170は、ユーザ5の発話を音声信号(電気信号)に変換してコンピュータ200に出力する。スピーカ180は、音声信号を音声に変換してユーザ5に出力する。別の局面において、HMD120は、スピーカ180に替えてイヤホンを含み得る。   The microphone 170 converts the speech of the user 5 into an audio signal (electric signal) and outputs the audio signal to the computer 200. The speaker 180 converts an audio signal into audio and outputs the audio to the user 5. In another aspect, the HMD 120 may include an earphone in place of the speaker 180.

コントローラ300は、有線または無線によりコンピュータ200に接続されている。コントローラ300は、ユーザ5からコンピュータ200への命令の入力を受け付ける。ある局面において、コントローラ300は、ユーザ5によって把持可能に構成される。別の局面において、コントローラ300は、ユーザ5の身体あるいは衣類の一部に装着可能に構成される。さらに別の局面において、コントローラ300は、コンピュータ200から送信される信号に基づいて、振動、音、光のうちの少なくともいずれかを出力するように構成されてもよい。さらに別の局面において、コントローラ300は、ユーザ5から、仮想空間に配置されるオブジェクトの位置や動きを制御するための操作を受け付ける。   The controller 300 is connected to the computer 200 by wire or wireless. The controller 300 receives an input of an instruction from the user 5 to the computer 200. In one aspect, the controller 300 is configured to be grippable by the user 5. In another aspect, the controller 300 is configured to be attachable to a part of the user 5's body or clothes. In yet another aspect, the controller 300 may be configured to output vibration, sound, and / or light based on a signal transmitted from the computer 200. In yet another aspect, the controller 300 receives from the user 5 an operation for controlling the position and the movement of an object arranged in the virtual space.

ある局面において、コントローラ300は、複数の光源を含む。各光源は例えば、赤外線を発するLEDにより実現される。HMDセンサ410は、ポジショントラッキング機能を有する。この場合、HMDセンサ410は、コントローラ300が発する複数の赤外線を読み取り、現実空間内におけるコントローラ300の位置および傾きを検出する。別の局面において、HMDセンサ410は、カメラにより実現されてもよい。この場合、HMDセンサ410は、カメラから出力されるコントローラ300の画像情報を用いて、画像解析処理を実行することにより、コントローラ300の位置および傾きを検出することができる。   In one aspect, controller 300 includes a plurality of light sources. Each light source is realized by, for example, an LED that emits infrared light. The HMD sensor 410 has a position tracking function. In this case, the HMD sensor 410 reads a plurality of infrared rays emitted from the controller 300 and detects the position and inclination of the controller 300 in the real space. In another aspect, the HMD sensor 410 may be realized by a camera. In this case, the HMD sensor 410 can detect the position and the inclination of the controller 300 by executing the image analysis process using the image information of the controller 300 output from the camera.

モーションセンサ420は、ある局面において、ユーザ5の手に取り付けられて、ユーザ5の手の動きを検出する。例えば、モーションセンサ420は、手の回転速度、回転数等を検出する。検出された信号は、コンピュータ200に送られる。モーションセンサ420は、例えば、コントローラ300に設けられている。ある局面において、モーションセンサ420は、例えば、ユーザ5に把持可能に構成されたコントローラ300に設けられている。別の局面において、現実空間における安全のため、コントローラ300は、手袋型のようにユーザ5の手に装着されることにより容易に飛んで行かないものに装着される。さらに別の局面において、ユーザ5に装着されないセンサがユーザ5の手の動きを検出してもよい。例えば、ユーザ5を撮影するカメラの信号が、ユーザ5の動作を表わす信号として、コンピュータ200に入力されてもよい。モーションセンサ420とコンピュータ200とは、一例として、無線により互いに接続される。無線の場合、通信形態は特に限られず、例えば、Bluetooth(登録商標)その他の公知の通信手法が用いられる。   The motion sensor 420 is attached to the hand of the user 5 to detect the movement of the hand of the user 5 in one aspect. For example, the motion sensor 420 detects the rotation speed, the number of rotations, and the like of the hand. The detected signal is sent to the computer 200. The motion sensor 420 is provided in the controller 300, for example. In one aspect, the motion sensor 420 is provided, for example, in the controller 300 configured to be grippable by the user 5. In another aspect, for safety in real space, the controller 300 is attached to something that does not easily fly by being attached to the hand of the user 5 like a glove type. In yet another aspect, a sensor that is not worn by the user 5 may detect the movement of the user's 5 hand. For example, a signal of a camera that captures the user 5 may be input to the computer 200 as a signal representing the operation of the user 5. As an example, the motion sensor 420 and the computer 200 are connected to each other wirelessly. In the case of wireless communication, the communication form is not particularly limited, and for example, Bluetooth (registered trademark) or other known communication methods are used.

ディスプレイ430は、モニタ130に表示されている画像と同様の画像を表示する。これにより、HMD120を装着しているユーザ5以外のユーザにも当該ユーザ5と同様の画像を視聴させることができる。ディスプレイ430に表示される画像は、3次元画像である必要はなく、右目用の画像や左目用の画像であってもよい。ディスプレイ430としては、例えば、液晶ディスプレイや有機ELモニタなどが挙げられる。   Display 430 displays an image similar to the image displayed on monitor 130. As a result, it is possible to make a user other than the user 5 wearing the HMD 120 view the same image as the user 5. The image displayed on the display 430 does not have to be a three-dimensional image, and may be an image for the right eye or an image for the left eye. Examples of the display 430 include a liquid crystal display and an organic EL monitor.

サーバ600は、コンピュータ200にプログラムを送信し得る。別の局面において、サーバ600は、他のユーザによって使用されるHMD120に仮想現実を提供するための他のコンピュータ200と通信し得る。例えば、アミューズメント施設において、複数のユーザが参加型のゲームを行なう場合、各コンピュータ200は、各ユーザの動作に基づく信号をサーバ600を介して他のコンピュータ200と通信して、同じ仮想空間において複数のユーザが共通のゲームを楽しむことを可能にする。各コンピュータ200は、各ユーザの動作に基づく信号をサーバ600を介さずに他のコンピュータ200と通信するようにしてもよい。   Server 600 may send a program to computer 200. In another aspect, server 600 may communicate with another computer 200 to provide virtual reality to HMD 120 used by another user. For example, when a plurality of users play a participatory game in an amusement facility, each computer 200 communicates a signal based on each user's operation with another computer 200 via the server 600, and the plurality of users in the same virtual space. Allows users of to enjoy common games. Each computer 200 may communicate a signal based on the operation of each user with another computer 200 without passing through the server 600.

外部機器700は、コンピュータ200と通信可能な機器であればどのような機器であってもよい。外部機器700は、例えば、ネットワーク2を介してコンピュータ200と通信可能な機器であってもよいし、近距離無線通信や有線接続によりコンピュータ200と直接通信可能な機器であってもよい。外部機器700としては、例えば、スマートデバイス、PC(Personal Computer)、及びコンピュータ200の周辺機器などが挙げられるが、これらに限定されるものではない。   The external device 700 may be any device that can communicate with the computer 200. The external device 700 may be, for example, a device capable of communicating with the computer 200 via the network 2, or may be a device capable of directly communicating with the computer 200 by near field communication or wired connection. Examples of the external device 700 include, but are not limited to, a smart device, a personal computer (PC), and peripheral devices of the computer 200.

[コンピュータのハードウェア構成]
図2を参照して、本実施の形態に係るコンピュータ200について説明する。図2は、本実施の形態に従うコンピュータ200のハードウェア構成の一例を表すブロック図である。コンピュータ200は、主たる構成要素として、プロセッサ210と、メモリ220と、ストレージ230と、入出力インターフェイス240と、通信インターフェイス250とを備える。各構成要素は、それぞれ、バス260に接続されている。
[Computer hardware configuration]
A computer 200 according to the present embodiment will be described with reference to FIG. FIG. 2 is a block diagram showing an example of a hardware configuration of computer 200 according to the present embodiment. The computer 200 includes a processor 210, a memory 220, a storage 230, an input / output interface 240, and a communication interface 250 as main components. Each component is connected to the bus 260, respectively.

プロセッサ210は、コンピュータ200に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ220またはストレージ230に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ210は、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、MPU(Micro Processor Unit)、FPGA(Field-Programmable Gate Array)その他のデバイスとして実現される。   The processor 210 executes a series of instructions included in a program stored in the memory 220 or the storage 230 based on a signal given to the computer 200 or based on a predetermined condition being satisfied. In one aspect, the processor 210 is realized as a CPU (Central Processing Unit), a GPU (Graphics Processing Unit), an MPU (Micro Processor Unit), an FPGA (Field-Programmable Gate Array), or other device.

メモリ220は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ230からロードされる。データは、コンピュータ200に入力されたデータと、プロセッサ210によって生成されたデータとを含む。ある局面において、メモリ220は、RAM(Random Access Memory)その他の揮発メモリとして実現される。   The memory 220 temporarily stores programs and data. The program is loaded from the storage 230, for example. The data includes data input to the computer 200 and data generated by the processor 210. In one aspect, the memory 220 is implemented as a random access memory (RAM) or another volatile memory.

ストレージ230は、プログラムおよびデータを永続的に保持する。ストレージ230は、例えば、ROM(Read-Only Memory)、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ230に格納されるプログラムは、HMDシステム100において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、他のコンピュータ200との通信を実現するためのプログラムを含む。ストレージ230に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含む。   The storage 230 holds programs and data permanently. The storage 230 is realized as, for example, a ROM (Read-Only Memory), a hard disk device, a flash memory, and other nonvolatile storage devices. Programs stored in the storage 230 include a program for providing a virtual space in the HMD system 100, a simulation program, a game program, a user authentication program, and a program for realizing communication with another computer 200. The data stored in the storage 230 includes data and objects for defining a virtual space.

別の局面において、ストレージ230は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、コンピュータ200に内蔵されたストレージ230の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のHMDシステム100が使用される場面において、プログラムやデータの更新を一括して行なうことが可能になる。   In another aspect, the storage 230 may be realized as a removable storage device such as a memory card. In still another aspect, instead of the storage 230 built in the computer 200, a configuration using programs and data stored in an external storage device may be used. According to such a configuration, for example, in a scene where a plurality of HMD systems 100 are used as in an amusement facility, it is possible to update programs and data collectively.

入出力インターフェイス240は、HMD120、HMDセンサ410、モーションセンサ420およびディスプレイ430との間で信号を通信する。HMD120に含まれるモニタ130,注視センサ140,第1カメラ150,第2カメラ160,マイク170およびスピーカ180は、HMD120の入出力インターフェイス240を介してコンピュータ200との通信を行ない得る。ある局面において、入出力インターフェイス240は、USB(Universal Serial Bus)、DVI(Digital Visual Interface)、HDMI(登録商標)(High-Definition Multimedia Interface)その他の端子を用いて実現される。入出力インターフェイス240は上述のものに限られない。   The input / output interface 240 communicates signals between the HMD 120, the HMD sensor 410, the motion sensor 420, and the display 430. The monitor 130, the gaze sensor 140, the first camera 150, the second camera 160, the microphone 170 and the speaker 180 included in the HMD 120 can communicate with the computer 200 via the input / output interface 240 of the HMD 120. In one aspect, the input / output interface 240 is realized using a Universal Serial Bus (USB), a Digital Visual Interface (DVI), a High-Definition Multimedia Interface (HDMI (registered trademark)), and other terminals. The input / output interface 240 is not limited to the above.

ある局面において、入出力インターフェイス240は、さらに、コントローラ300と通信し得る。例えば、入出力インターフェイス240は、コントローラ300およびモーションセンサ420から出力された信号の入力を受ける。別の局面において、入出力インターフェイス240は、プロセッサ210から出力された命令を、コントローラ300に送る。当該命令は、振動、音声出力、発光等をコントローラ300に指示する。コントローラ300は、当該命令を受信すると、その命令に応じて、振動、音声出力または発光のいずれかを実行する。   In an aspect, input / output interface 240 may further communicate with controller 300. For example, the input / output interface 240 receives signals output from the controller 300 and the motion sensor 420. In another aspect, the input / output interface 240 sends the command output from the processor 210 to the controller 300. The instruction instructs the controller 300 to vibrate, output sound, emit light, and the like. When the controller 300 receives the command, the controller 300 executes vibration, voice output or light emission according to the command.

通信インターフェイス250は、ネットワーク2に接続されて、ネットワーク2に接続されている他のコンピュータ(例えば、サーバ600)と通信する。ある局面において、通信インターフェイス250は、例えば、LAN(Local Area Network)その他の有線通信インターフェイス、あるいは、WiFi(Wireless Fidelity)、Bluetooth(登録商標)、NFC(Near Field Communication)その他の無線通信インターフェイスとして実現される。通信インターフェイス250は上述のものに限られない。   The communication interface 250 is connected to the network 2 and communicates with other computers (for example, the server 600) connected to the network 2. In one aspect, the communication interface 250 is realized as, for example, a LAN (Local Area Network) or other wired communication interface, or a WiFi (Wireless Fidelity), Bluetooth (registered trademark), an NFC (Near Field Communication) or other wireless communication interface. Be done. The communication interface 250 is not limited to the above.

ある局面において、プロセッサ210は、ストレージ230にアクセスし、ストレージ230に格納されている1つ以上のプログラムをメモリ220にロードし、当該プログラムに含まれる一連の命令を実行する。当該1つ以上のプログラムは、コンピュータ200のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ210は、入出力インターフェイス240を介して、仮想空間を提供するための信号をHMD120に送る。HMD120は、その信号に基づいてモニタ130に映像を表示する。   In one aspect, the processor 210 accesses the storage 230, loads one or more programs stored in the storage 230 into the memory 220, and executes a series of instructions included in the program. The one or more programs may include an operating system of the computer 200, an application program for providing a virtual space, game software executable in the virtual space, and the like. The processor 210 sends a signal for providing virtual space to the HMD 120 via the input / output interface 240. The HMD 120 displays an image on the monitor 130 based on the signal.

図2に示される例では、コンピュータ200は、HMD120の外部に設けられる構成が示されているが、別の局面において、コンピュータ200は、HMD120に内蔵されてもよい。一例として、モニタ130を含む携帯型の情報通信端末(例えば、スマートフォン)がコンピュータ200として機能してもよい。   In the example shown in FIG. 2, a configuration in which the computer 200 is provided outside the HMD 120 is shown. However, in another aspect, the computer 200 may be built in the HMD 120. As an example, a portable information communication terminal (for example, a smartphone) including the monitor 130 may function as the computer 200.

コンピュータ200は、複数のHMD120に共通して用いられる構成であってもよい。このような構成によれば、例えば、複数のユーザに同一の仮想空間を提供することもできるので、各ユーザは同一の仮想空間で他のユーザと同一のアプリケーションを楽しむことができる。   The computer 200 may be configured to be commonly used by a plurality of HMDs 120. According to such a configuration, for example, since the same virtual space can be provided to a plurality of users, each user can enjoy the same application as other users in the same virtual space.

ある実施の形態において、HMDシステム100では、現実空間における座標系である実座標系が予め設定されている。実座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、並びに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、3つの基準方向(軸)を有する。実座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれ、x軸、y軸、z軸と規定される。より具体的には、実座標系において、x軸は現実空間の水平方向に平行である。y軸は、現実空間の鉛直方向に平行である。z軸は現実空間の前後方向に平行である。   In an embodiment, in the HMD system 100, a real coordinate system that is a coordinate system in the real space is set in advance. The real coordinate system has three reference directions (axes) parallel to the vertical direction in the real space, the horizontal direction perpendicular to the vertical direction, and the front-back direction perpendicular to both the vertical direction and the horizontal direction. The horizontal direction, vertical direction (vertical direction), and front-rear direction in the real coordinate system are defined as an x-axis, a y-axis, and a z-axis, respectively. More specifically, in the real coordinate system, the x-axis is parallel to the horizontal direction of the real space. The y axis is parallel to the vertical direction of the real space. The z axis is parallel to the front-rear direction of the real space.

ある局面において、HMDセンサ410は、赤外線センサを含む。赤外線センサが、HMD120の各光源から発せられた赤外線をそれぞれ検出すると、HMD120の存在を検出する。HMDセンサ410は、さらに、各点の値(実座標系における各座標値)に基づいて、HMD120を装着したユーザ5の動きに応じた、現実空間内におけるHMD120の位置および傾き(向き)を検出する。より詳しくは、HMDセンサ410は、経時的に検出された各値を用いて、HMD120の位置および傾きの時間的変化を検出できる。   In one aspect, HMD sensor 410 includes an infrared sensor. When the infrared sensor detects the infrared rays emitted from each light source of the HMD 120, the presence of the HMD 120 is detected. The HMD sensor 410 further detects the position and tilt (orientation) of the HMD 120 in the physical space according to the movement of the user 5 wearing the HMD 120 based on the value of each point (each coordinate value in the actual coordinate system) Do. More specifically, the HMD sensor 410 can detect temporal changes in the position and inclination of the HMD 120 using each value detected over time.

HMDセンサ410によって検出されたHMD120の各傾きは、実座標系におけるHMD120の3軸周りの各傾きに相当する。HMDセンサ410は、実座標系におけるHMD120の傾きに基づき、uvw視野座標系をHMD120に設定する。HMD120に設定されるuvw視野座標系は、HMD120を装着したユーザ5が仮想空間において物体を見る際の視点座標系に対応する。   Each inclination of the HMD 120 detected by the HMD sensor 410 corresponds to each inclination around three axes of the HMD 120 in the real coordinate system. The HMD sensor 410 sets the uvw visual field coordinate system to the HMD 120 based on the inclination of the HMD 120 in the real coordinate system. The uvw visual field coordinate system set in the HMD 120 corresponds to the visual point coordinate system when the user 5 wearing the HMD 120 views an object in the virtual space.

[uvw視野座標系]
図3を参照して、uvw視野座標系について説明する。図3は、ある実施の形態に従うHMD120に設定されるuvw視野座標系を概念的に表す図である。HMDセンサ410は、HMD120の起動時に、実座標系におけるHMD120の位置および傾きを検出する。プロセッサ210は、検出された値に基づいて、uvw視野座標系をHMD120に設定する。
[Uvw view coordinate system]
The uvw view coordinate system will be described with reference to FIG. FIG. 3 is a diagram conceptually illustrating the uvw visual field coordinate system set in the HMD 120 according to an embodiment. The HMD sensor 410 detects the position and tilt of the HMD 120 in the real coordinate system when the HMD 120 is activated. The processor 210 sets the uvw visual field coordinate system to the HMD 120 based on the detected value.

図3に示されるように、HMD120は、HMD120を装着したユーザ5の頭部を中心(原点)とした3次元のuvw視野座標系を設定する。より具体的には、HMD120は、実座標系を規定する水平方向、鉛直方向、および前後方向(x軸、y軸、z軸)を、実座標系内においてHMD120の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる3つの方向を、HMD120におけるuvw視野座標系のピッチ軸(u軸)、ヨー軸(v軸)、およびロール軸(w軸)として設定する。   As shown in FIG. 3, the HMD 120 sets a three-dimensional uvw visual field coordinate system with the head (origin) of the user 5 wearing the HMD 120 as the center (origin). More specifically, the HMD 120 includes a horizontal direction, a vertical direction, and a front-rear direction (x-axis, y-axis, z-axis) that define the real coordinate system by an inclination around each axis of the HMD 120 in the real coordinate system. Three directions newly obtained by tilting around the axis are set as the pitch axis (u-axis), yaw axis (v-axis), and roll axis (w-axis) of the uvw visual field coordinate system in the HMD 120.

ある局面において、HMD120を装着したユーザ5が直立し、かつ、正面を視認している場合、プロセッサ210は、実座標系に平行なuvw視野座標系をHMD120に設定する。この場合、実座標系における水平方向(x軸)、鉛直方向(y軸)、および前後方向(z軸)は、HMD120におけるuvw視野座標系のピッチ軸(u軸)、ヨー軸(v軸)、およびロール軸(w軸)に一致する。   In a certain situation, when the user 5 wearing the HMD 120 stands upright and is viewing the front, the processor 210 sets the uvw visual field coordinate system parallel to the real coordinate system to the HMD 120. In this case, the horizontal direction (x-axis), vertical direction (y-axis), and front-rear direction (z-axis) in the real coordinate system are the pitch axis (u-axis) and yaw axis (v-axis) of the uvw visual field coordinate system in the HMD 120. , And the roll axis (w axis).

uvw視野座標系がHMD120に設定された後、HMDセンサ410は、HMD120の動きに基づいて、設定されたuvw視野座標系におけるHMD120の傾きを検出できる。この場合、HMDセンサ410は、HMD120の傾きとして、uvw視野座標系におけるHMD120のピッチ角(θu)、ヨー角(θv)、およびロール角(θw)をそれぞれ検出する。ピッチ角(θu)は、uvw視野座標系におけるピッチ軸周りのHMD120の傾き角度を表す。ヨー角(θv)は、uvw視野座標系におけるヨー軸周りのHMD120の傾き角度を表す。ロール角(θw)は、uvw視野座標系におけるロール軸周りのHMD120の傾き角度を表す。   After the uvw visual field coordinate system is set to the HMD 120, the HMD sensor 410 can detect the inclination of the HMD 120 in the set uvw visual field coordinate system based on the movement of the HMD 120. In this case, the HMD sensor 410 detects the pitch angle (θu), the yaw angle (θv), and the roll angle (θw) of the HMD 120 in the uvw visual field coordinate system as the inclination of the HMD 120. The pitch angle (θu) represents the inclination angle of the HMD 120 around the pitch axis in the uvw view coordinate system. The yaw angle (θ v) represents the inclination angle of the HMD 120 around the yaw axis in the uvw view coordinate system. The roll angle (θw) represents the inclination angle of the HMD 120 around the roll axis in the uvw view coordinate system.

HMDセンサ410は、検出されたHMD120の傾きに基づいて、HMD120が動いた後のHMD120におけるuvw視野座標系を、HMD120に設定する。HMD120と、HMD120のuvw視野座標系との関係は、HMD120の位置および傾きに関わらず、常に一定である。HMD120の位置および傾きが変わると、当該位置および傾きの変化に連動して、実座標系におけるHMD120のuvw視野座標系の位置および傾きが変化する。   The HMD sensor 410 sets the uvw visual field coordinate system in the HMD 120 after the HMD 120 moves based on the detected inclination of the HMD 120 in the HMD 120. The relationship between the HMD 120 and the uvw view coordinate system of the HMD 120 is always constant regardless of the position and tilt of the HMD 120. When the position and the inclination of the HMD 120 change, the position and the inclination of the uvw view coordinate system of the HMD 120 in the real coordinate system change in conjunction with the change of the position and the inclination.

ある局面において、HMDセンサ410は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係(例えば、各点間の距離など)に基づいて、HMD120の現実空間内における位置を、HMDセンサ410に対する相対位置として特定してもよい。プロセッサ210は、特定された相対位置に基づいて、現実空間内(実座標系)におけるHMD120のuvw視野座標系の原点を決定してもよい。   In one aspect, the HMD sensor 410 uses the HMD 120 based on the infrared light intensity acquired based on the output from the infrared sensor and the relative positional relationship between a plurality of points (for example, the distance between the points). The position in the real space of may be identified as a relative position to the HMD sensor 410. The processor 210 may determine the origin of the uvw visual field coordinate system of the HMD 120 in the real space (real coordinate system) based on the identified relative position.

[仮想空間]
図4を参照して、仮想空間についてさらに説明する。図4は、ある実施の形態に従う仮想空間11を表現する一態様を概念的に表す図である。仮想空間11は、中心12の360度方向の全体を覆う全天球状の構造を有する。図4では、説明を複雑にしないために、仮想空間11のうちの上半分の天球が例示されている。仮想空間11では各メッシュが規定される。各メッシュの位置は、仮想空間11に規定されるグローバル座標系であるXYZ座標系における座標値として予め規定されている。コンピュータ200は、仮想空間11に展開可能なパノラマ画像13(静止画、動画等)を構成する各部分画像を、仮想空間11において対応する各メッシュにそれぞれ対応付ける。
[Virtual space]
The virtual space will be further described with reference to FIG. FIG. 4 is a diagram conceptually showing one aspect of expressing virtual space 11 according to an embodiment. The virtual space 11 has a spherical shape that covers the entire 360 ° direction of the center 12. In FIG. 4, the celestial sphere in the upper half of the virtual space 11 is illustrated so as not to complicate the description. In the virtual space 11, each mesh is defined. The position of each mesh is previously defined as coordinate values in an XYZ coordinate system which is a global coordinate system defined in the virtual space 11. The computer 200 associates each partial image constituting the panoramic image 13 (still image, moving image, etc.) that can be developed in the virtual space 11 with each corresponding mesh in the virtual space 11.

ある局面において、仮想空間11では、中心12を原点とするXYZ座標系が規定される。XYZ座標系は、例えば、実座標系に平行である。XYZ座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれX軸、Y軸、Z軸として規定される。したがって、XYZ座標系のX軸(水平方向)が実座標系のx軸と平行であり、XYZ座標系のY軸(鉛直方向)が実座標系のy軸と平行であり、XYZ座標系のZ軸(前後方向)が実座標系のz軸と平行である。   In one aspect, the virtual space 11 defines an XYZ coordinate system whose origin is the center 12. The XYZ coordinate system is, for example, parallel to the real coordinate system. The horizontal direction, vertical direction (up and down direction), and front and rear direction in the XYZ coordinate system are defined as an X axis, a Y axis, and a Z axis, respectively. Therefore, the X axis (horizontal direction) of the XYZ coordinate system is parallel to the x axis of the real coordinate system, the Y axis (vertical direction) of the XYZ coordinate system is parallel to the y axis of the real coordinate system, and the XYZ coordinate system The Z-axis (front-rear direction) is parallel to the z-axis of the real coordinate system.

HMD120の起動時、すなわちHMD120の初期状態において、仮想カメラ14が、仮想空間11の中心12に配置される。ある局面において、プロセッサ210は、仮想カメラ14が撮影する画像をHMD120のモニタ130に表示する。仮想カメラ14は、現実空間におけるHMD120の動きに連動して、仮想空間11を同様に移動する。これにより、現実空間におけるHMD120の位置および傾きの変化が、仮想空間11において同様に再現され得る。   When the HMD 120 is activated, that is, in the initial state of the HMD 120, the virtual camera 14 is disposed at the center 12 of the virtual space 11. In one aspect, the processor 210 displays an image captured by the virtual camera 14 on the monitor 130 of the HMD 120. The virtual camera 14 similarly moves in the virtual space 11 in conjunction with the movement of the HMD 120 in the real space. Thereby, changes in the position and inclination of the HMD 120 in the real space can be similarly reproduced in the virtual space 11.

仮想カメラ14には、HMD120の場合と同様に、uvw視野座標系が規定される。仮想空間11における仮想カメラ14のuvw視野座標系は、現実空間(実座標系)におけるHMD120のuvw視野座標系に連動するように規定されている。したがって、HMD120の傾きが変化すると、それに応じて、仮想カメラ14の傾きも変化する。仮想カメラ14は、HMD120を装着したユーザ5の現実空間における移動に連動して、仮想空間11において移動することもできる。   As with the HMD 120, the uvw visual field coordinate system is defined for the virtual camera 14. The uvw visual field coordinate system of the virtual camera 14 in the virtual space 11 is defined so as to be interlocked with the uvw visual field coordinate system of the HMD 120 in the real space (real coordinate system). Therefore, when the inclination of the HMD 120 changes, the inclination of the virtual camera 14 also changes accordingly. The virtual camera 14 can also move in the virtual space 11 in conjunction with the movement of the user 5 wearing the HMD 120 in the real space.

コンピュータ200のプロセッサ210は、仮想カメラ14の位置と傾き(基準視線16)とに基づいて、仮想空間11における視界領域15を規定する。視界領域15は、仮想空間11のうち、HMD120を装着したユーザ5が視認する領域に対応する。つまり、仮想カメラ14の位置は、仮想空間11におけるユーザ5の視点と言える。   The processor 210 of the computer 200 defines the field-of-view area 15 in the virtual space 11 based on the position and tilt (reference line of sight 16) of the virtual camera 14. The visual field area 15 corresponds to an area of the virtual space 11 that is visually recognized by the user 5 wearing the HMD 120. That is, the position of the virtual camera 14 can be said to be the viewpoint of the user 5 in the virtual space 11.

注視センサ140によって検出されるユーザ5の視線は、ユーザ5が物体を視認する際の視点座標系における方向である。HMD120のuvw視野座標系は、ユーザ5がモニタ130を視認する際の視点座標系に等しい。仮想カメラ14のuvw視野座標系は、HMD120のuvw視野座標系に連動している。したがって、ある局面に従うHMDシステム100は、注視センサ140によって検出されたユーザ5の視線を、仮想カメラ14のuvw視野座標系におけるユーザ5の視線とみなすことができる。   The line of sight of the user 5 detected by the gaze sensor 140 is a direction in the viewpoint coordinate system when the user 5 visually recognizes an object. The uvw visual field coordinate system of the HMD 120 is equal to the viewpoint coordinate system when the user 5 visually recognizes the monitor 130. The uvw view coordinate system of the virtual camera 14 is linked to the uvw view coordinate system of the HMD 120. Therefore, the HMD system 100 according to an aspect can regard the line of sight of the user 5 detected by the gaze sensor 140 as the line of sight of the user 5 in the uvw view coordinate system of the virtual camera 14.

[ユーザの視線]
図5を参照して、ユーザ5の視線の決定について説明する。図5は、ある実施の形態に従うHMD120を装着するユーザ5の頭部を上から表した図である。
[User's gaze]
The determination of the line of sight of the user 5 will be described with reference to FIG. FIG. 5 is a diagram showing the head of user 5 wearing HMD 120 according to an embodiment from above.

ある局面において、注視センサ140は、ユーザ5の右目および左目の各視線を検出する。ある局面において、ユーザ5が近くを見ている場合、注視センサ140は、視線R1およびL1を検出する。別の局面において、ユーザ5が遠くを見ている場合、注視センサ140は、視線R2およびL2を検出する。この場合、ロール軸wに対して視線R2およびL2が成す角度は、ロール軸wに対して視線R1およびL1が成す角度よりも小さい。注視センサ140は、検出結果をコンピュータ200に送信する。   In one aspect, the gaze sensor 140 detects the line of sight of the right eye and the left eye of the user 5. In a certain situation, when the user 5 is looking near, the gaze sensor 140 detects the lines of sight R1 and L1. In another aspect, when the user 5 is looking far away, the gaze sensor 140 detects the lines of sight R2 and L2. In this case, an angle formed by the sight lines R2 and L2 with respect to the roll axis w is smaller than an angle formed by the sight lines R1 and L1 with the roll axis w. The gaze sensor 140 transmits the detection result to the computer 200.

コンピュータ200が、視線の検出結果として、視線R1およびL1の検出値を注視センサ140から受信した場合には、その検出値に基づいて、視線R1およびL1の交点である注視点N1を特定する。一方、コンピュータ200は、視線R2およびL2の検出値を注視センサ140から受信した場合には、視線R2およびL2の交点を注視点として特定する。コンピュータ200は、特定した注視点N1の位置に基づき、ユーザ5の視線N0を特定する。コンピュータ200は、例えば、ユーザ5の右目Rと左目Lとを結ぶ直線の中点と、注視点N1とを通る直線の延びる方向を、視線N0として検出する。視線N0は、ユーザ5が両目により実際に視線を向けている方向である。視線N0は、視界領域15に対してユーザ5が実際に視線を向けている方向に相当する。   When the computer 200 receives the detection values of the lines of sight R1 and L1 from the gaze sensor 140 as the line-of-sight detection result, the computer 200 identifies the point of sight N1 that is the intersection of the lines of sight R1 and L1 based on the detection value. On the other hand, when the computer 200 receives the detection values of the sight lines R2 and L2 from the gaze sensor 140, the computer 200 specifies the intersection of the sight lines R2 and L2 as the gaze point. The computer 200 identifies the line of sight N0 of the user 5 based on the identified position of the fixation point N1. For example, the computer 200 detects, as the line of sight N0, the extending direction of the straight line passing through the midpoint of the straight line connecting the right eye R and the left eye L of the user 5 and the gazing point N1. The line of sight N0 is the direction in which the user 5 is actually pointing the line of sight with both eyes. The line of sight N0 corresponds to the direction in which the user 5 actually directs the line of sight to the view field 15.

別の局面において、HMDシステム100は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、HMDシステム100は、仮想空間11においてテレビ番組を表示することができる。   In another aspect, the HMD system 100 may include a television broadcast receiving tuner. According to such a configuration, the HMD system 100 can display a television program in the virtual space 11.

さらに別の局面において、HMDシステム100は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。   In still another aspect, the HMD system 100 may be provided with a communication circuit for connecting to the Internet, or a call function for connecting to a telephone line.

[視界領域]
図6および図7を参照して、視界領域15について説明する。図6は、仮想空間11において視界領域15をX方向から見たYZ断面を表す図である。図7は、仮想空間11において視界領域15をY方向から見たXZ断面を表す図である。
[View area]
The view area 15 will be described with reference to FIGS. 6 and 7. FIG. 6 is a diagram showing a YZ cross section of the view area 15 in the virtual space 11 as viewed from the X direction. FIG. 7 is a diagram showing an XZ cross section of the view area 15 in the virtual space 11 as viewed from the Y direction.

図6に示されるように、YZ断面における視界領域15は、領域18を含む。領域18は、仮想カメラ14の位置と基準視線16と仮想空間11のYZ断面とによって定義される。プロセッサ210は、仮想空間における基準視線16を中心として極角αを含む範囲を、領域18として規定する。   As shown in FIG. 6, the view area 15 in the YZ cross section includes the area 18. The area 18 is defined by the position of the virtual camera 14, the reference line of sight 16, and the YZ cross section of the virtual space 11. The processor 210 defines a range including the polar angle α centering on the reference gaze 16 in the virtual space as a region 18.

図7に示されるように、XZ断面における視界領域15は、領域19を含む。領域19は、仮想カメラ14の位置と基準視線16と仮想空間11のXZ断面とによって定義される。プロセッサ210は、仮想空間11における基準視線16を中心とした方位角βを含む範囲を、領域19として規定する。極角αおよびβは、仮想カメラ14の位置と仮想カメラ14の傾き(向き)とに応じて定まる。   As shown in FIG. 7, the field-of-view region 15 in the XZ section includes a region 19. The area 19 is defined by the position of the virtual camera 14, the reference line of sight 16, and the XZ cross section of the virtual space 11. The processor 210 defines a range including the azimuth angle β around the reference line of sight 16 in the virtual space 11 as the region 19. The polar angles α and β are determined according to the position of the virtual camera 14 and the tilt (orientation) of the virtual camera 14.

ある局面において、HMDシステム100は、コンピュータ200からの信号に基づいて、視界画像17をモニタ130に表示させることにより、ユーザ5に仮想空間11における視界を提供する。視界画像17は、パノラマ画像13のうち視界領域15に対応する部分に相当する画像である。ユーザ5が、頭部に装着したHMD120を動かすと、その動きに連動して仮想カメラ14も動く。その結果、仮想空間11における視界領域15の位置が変化する。これにより、モニタ130に表示される視界画像17は、パノラマ画像13のうち、仮想空間11においてユーザ5が向いた方向の視界領域15に重畳する画像に更新される。ユーザ5は、仮想空間11における所望の方向を視認することができる。   In one aspect, the HMD system 100 provides the user 5 with a view in the virtual space 11 by displaying the view image 17 on the monitor 130 based on the signal from the computer 200. The visual field image 17 is an image corresponding to a portion corresponding to the visual field region 15 in the panoramic image 13. When the user 5 moves the HMD 120 mounted on the head, the virtual camera 14 also moves in conjunction with the movement. As a result, the position of the visual field area 15 in the virtual space 11 changes. As a result, the view image 17 displayed on the monitor 130 is updated to an image of the panoramic image 13 to be superimposed on the view area 15 in the direction in which the user 5 is facing in the virtual space 11. The user 5 can visually recognize a desired direction in the virtual space 11.

このように、仮想カメラ14の傾きは仮想空間11におけるユーザ5の視線(基準視線16)に相当し、仮想カメラ14が配置される位置は、仮想空間11におけるユーザ5の視点に相当する。したがって、仮想カメラ14の位置または傾きを変更することにより、モニタ130に表示される画像が更新され、ユーザ5の視界が移動される。   Thus, the inclination of the virtual camera 14 corresponds to the line of sight of the user 5 (reference line of sight 16) in the virtual space 11, and the position where the virtual camera 14 is arranged corresponds to the viewpoint of the user 5 in the virtual space 11. Therefore, by changing the position or tilt of the virtual camera 14, the image displayed on the monitor 130 is updated, and the field of view of the user 5 is moved.

ユーザ5は、HMD120を装着している間、現実世界を視認することなく、仮想空間11に展開されるパノラマ画像13のみを視認できる。そのため、HMDシステム100は、仮想空間11への高い没入感覚をユーザ5に与えることができる。   While wearing the HMD 120, the user 5 can view only the panoramic image 13 developed in the virtual space 11 without viewing the real world. Therefore, the HMD system 100 can give the user 5 a high sense of immersion into the virtual space 11.

ある局面において、プロセッサ210は、HMD120を装着したユーザ5の現実空間における移動に連動して、仮想空間11において仮想カメラ14を移動し得る。この場合、プロセッサ210は、仮想空間11における仮想カメラ14の位置および傾きに基づいて、HMD120のモニタ130に投影される画像領域(視界領域15)を特定する。   In an aspect, the processor 210 may move the virtual camera 14 in the virtual space 11 in conjunction with the movement of the user 5 wearing the HMD 120 in the real space. In this case, the processor 210 specifies an image area (field of view area 15) to be projected on the monitor 130 of the HMD 120 based on the position and the inclination of the virtual camera 14 in the virtual space 11.

ある局面において、仮想カメラ14は、2つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含み得る。ユーザ5が3次元の仮想空間11を認識できるように、適切な視差が、2つの仮想カメラに設定される。別の局面において、仮想カメラ14を1つの仮想カメラにより実現してもよい。この場合、1つの仮想カメラにより得られた画像から、右目用の画像と左目用の画像とを生成するようにしてもよい。本実施の形態においては、仮想カメラ14が2つの仮想カメラを含み、2つの仮想カメラのロール軸が合成されることによって生成されるロール軸(w)がHMD120のロール軸(w)に適合されるように構成されているものとして、本開示に係る技術思想を例示する。   In one aspect, virtual camera 14 may include two virtual cameras: a virtual camera for providing an image for the right eye, and a virtual camera for providing an image for the left eye. An appropriate parallax is set to two virtual cameras so that the user 5 can recognize the three-dimensional virtual space 11. In another aspect, the virtual camera 14 may be realized by one virtual camera. In this case, the image for the right eye and the image for the left eye may be generated from an image obtained by one virtual camera. In the present embodiment, the virtual camera 14 includes two virtual cameras, and the roll axis (w) generated by combining the roll axes of the two virtual cameras is adapted to the roll axis (w) of the HMD 120. The technical idea concerning this indication is illustrated as what is constituted.

[コントローラ]
図8を参照して、コントローラ300の一例について説明する。図8は、ある実施の形態に従うコントローラ300の概略構成を表す図である。
[controller]
An example of the controller 300 will be described with reference to FIG. FIG. 8 is a diagram illustrating a schematic configuration of a controller 300 according to an embodiment.

図8に示されるように、ある局面において、コントローラ300は、右コントローラ300Rと図示せぬ左コントローラとを含み得る。右コントローラ300Rは、ユーザ5の右手で操作される。左コントローラは、ユーザ5の左手で操作される。ある局面において、右コントローラ300Rと左コントローラとは、別個の装置として対称に構成される。したがって、ユーザ5は、右コントローラ300Rを把持した右手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。別の局面において、コントローラ300は両手の操作を受け付ける一体型のコントローラであってもよい。以下、右コントローラ300Rについて説明する。   As shown in FIG. 8, in one aspect, the controller 300 may include the right controller 300R and a left controller (not shown). The right controller 300R is operated by the right hand of the user 5. The left controller is operated with the left hand of the user 5. In one aspect, the right controller 300R and the left controller are symmetrically configured as separate devices. Therefore, the user 5 can freely move the right hand holding the right controller 300R and the left hand holding the left controller. In another aspect, the controller 300 may be an integrated controller that receives operations of both hands. Hereinafter, the right controller 300R will be described.

右コントローラ300Rは、グリップ310と、フレーム320と、天面330とを備える。グリップ310は、ユーザ5の右手によって把持されるように構成されている。たとえば、グリップ310は、ユーザ5の右手の掌と3本の指(中指、薬指、小指)とによって保持され得る。   The right controller 300R includes a grip 310, a frame 320, and a top surface 330. The grip 310 is configured to be gripped by the right hand of the user 5. For example, the grip 310 may be held by the palm of the right hand of the user 5 and three fingers (middle, ring and little fingers).

グリップ310は、ボタン340,350と、モーションセンサ420とを含む。ボタン340は、グリップ310の側面に配置され、右手の中指による操作を受け付ける。ボタン350は、グリップ310の前面に配置され、右手の人差し指による操作を受け付ける。ある局面において、ボタン340,350は、トリガー式のボタンとして構成される。モーションセンサ420は、グリップ310の筐体に内蔵されている。ユーザ5の動作がカメラその他の装置によってユーザ5の周りから検出可能である場合には、グリップ310は、モーションセンサ420を備えなくてもよい。   The grip 310 includes buttons 340 and 350 and a motion sensor 420. The button 340 is disposed on the side surface of the grip 310 and receives an operation with the middle finger of the right hand. The button 350 is disposed on the front of the grip 310 and accepts an operation by the index finger of the right hand. In one aspect, buttons 340 and 350 are configured as triggered buttons. The motion sensor 420 is built in the housing of the grip 310. The grip 310 may not include the motion sensor 420 if the motion of the user 5 can be detected from around the user 5 by a camera or other device.

フレーム320は、その円周方向に沿って配置された複数の赤外線LED360を含む。赤外線LED360は、コントローラ300を使用するプログラムの実行中に、当該プログラムの進行に合わせて赤外線を発光する。赤外線LED360から発せられた赤外線は、右コントローラ300Rと左コントローラとの各位置や姿勢(傾き、向き)を検出するために使用され得る。図8に示される例では、二列に配置された赤外線LED360が示されているが、配列の数は図8に示されるものに限られない。一列あるいは3列以上の配列が使用されてもよい。   The frame 320 includes a plurality of infrared LEDs 360 arranged along its circumferential direction. The infrared LED 360 emits infrared light in accordance with the progress of the program while the program using the controller 300 is being executed. The infrared rays emitted from the infrared LED 360 can be used to detect each position and attitude (tilt, orientation) of the right controller 300R and the left controller. Although the example shown in FIG. 8 shows infrared LEDs 360 arranged in two rows, the number of arrays is not limited to that shown in FIG. An array of one or more columns may be used.

天面330は、ボタン370,380と、アナログスティック390とを備える。ボタン370,380は、プッシュ式ボタンとして構成される。ボタン370,380は、ユーザ5の右手の親指による操作を受け付ける。アナログスティック390は、ある局面において、初期位置(ニュートラルの位置)から360度任意の方向への操作を受け付ける。当該操作は、たとえば、仮想空間11に配置されるオブジェクトを移動するための操作を含む。   The top surface 330 includes buttons 370 and 380 and an analog stick 390. The buttons 370 and 380 are configured as push buttons. The buttons 370 and 380 receive an operation with the thumb of the right hand of the user 5. The analog stick 390 receives an operation in an arbitrary direction 360 degrees from the initial position (the position of neutral) in a certain phase. The operation includes, for example, an operation for moving an object disposed in the virtual space 11.

ある局面において、右コントローラ300Rおよび左コントローラは、赤外線LED360その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型などを含むが、これらに限定されない。別の局面において、右コントローラ300Rと左コントローラは、たとえば、コンピュータ200のUSBインターフェースに接続され得る。この場合、右コントローラ300Rおよび左コントローラは、電池を必要としない。   In one aspect, the right controller 300R and the left controller include a battery for driving the infrared LED 360 and other members. Batteries include rechargeable batteries, button batteries, dry battery batteries and the like, but are not limited thereto. In another aspect, the right controller 300R and the left controller may be connected to, for example, a USB interface of the computer 200. In this case, the right controller 300R and the left controller do not require a battery.

図8の状態(A)および状態(B)に示されるように、例えば、ユーザ5の右手に対して、ヨー、ロール、ピッチの各方向が規定される。ユーザ5が親指と人差し指とを伸ばした場合に、親指の伸びる方向がヨー方向、人差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定される平面に垂直な方向がピッチ方向として規定される。   As shown in the state (A) and the state (B) of FIG. 8, for example, the yaw, roll, and pitch directions are defined with respect to the right hand of the user 5. When the user 5 stretches the thumb and forefinger, the extension direction of the thumb is the yaw direction, the extension direction of the forefinger is the roll direction, and the direction perpendicular to the plane defined by the yaw and roll axes is the pitch direction Defined as

[サーバのハードウェア構成]
図9を参照して、本実施の形態に係るサーバ600について説明する。図9は、ある実施の形態に従うサーバ600のハードウェア構成の一例を表すブロック図である。サーバ600は、主たる構成要素として、プロセッサ610と、メモリ620と、ストレージ630と、入出力インターフェイス640と、通信インターフェイス650とを備える。各構成要素は、それぞれ、バス660に接続されている。
[Hardware configuration of server]
A server 600 according to the present embodiment will be described with reference to FIG. FIG. 9 is a block diagram illustrating an exemplary hardware configuration of server 600 according to an embodiment. The server 600 includes a processor 610, a memory 620, a storage 630, an input / output interface 640, and a communication interface 650 as main components. Each component is connected to the bus 660, respectively.

プロセッサ610は、サーバ600に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ620またはストレージ630に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ610は、CPU、GPU、MPU、FPGAその他のデバイスとして実現される。   The processor 610 executes a series of instructions included in a program stored in the memory 620 or the storage 630 based on a signal supplied to the server 600 or based on the establishment of a predetermined condition. In one aspect, the processor 610 is implemented as a CPU, a GPU, an MPU, an FPGA, and other devices.

メモリ620は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ630からロードされる。データは、サーバ600に入力されたデータと、プロセッサ610によって生成されたデータとを含む。ある局面において、メモリ620は、RAMその他の揮発メモリとして実現される。   Memory 620 temporarily stores programs and data. The program is loaded from the storage 630, for example. The data includes data input to the server 600 and data generated by the processor 610. In one aspect, the memory 620 is implemented as a RAM or other volatile memory.

ストレージ630は、プログラムおよびデータを永続的に保持する。ストレージ630は、例えば、ROM、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ630に格納されるプログラムは、HMDシステム100において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、コンピュータ200との通信を実現するためのプログラムを含んでもよい。ストレージ630に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含んでもよい。   The storage 630 permanently stores programs and data. The storage 630 is implemented as, for example, a ROM, a hard disk drive, a flash memory, or another non-volatile storage device. The program stored in the storage 630 may include a program for providing a virtual space in the HMD system 100, a simulation program, a game program, a user authentication program, and a program for realizing communication with the computer 200. The data stored in the storage 630 may include data, objects, etc. for defining a virtual space.

別の局面において、ストレージ630は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、サーバ600に内蔵されたストレージ630の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のHMDシステム100が使用される場面において、プログラムやデータの更新を一括して行なうことが可能になる。   In another aspect, the storage 630 may be implemented as a removable storage device, such as a memory card. In still another aspect, instead of the storage 630 built into the server 600, a configuration using programs and data stored in an external storage device may be used. According to such a configuration, for example, in a scene where a plurality of HMD systems 100 are used as in an amusement facility, it is possible to update programs and data collectively.

入出力インターフェイス640は、入出力機器との間で信号を通信する。ある局面において、入出力インターフェイス640は、USB、DVI、HDMIその他の端子を用いて実現される。入出力インターフェイス640は上述のものに限られない。   The input / output interface 640 communicates signals with input / output devices. In one aspect, the input / output interface 640 is implemented using a USB, DVI, HDMI or other terminal. The input / output interface 640 is not limited to the above.

通信インターフェイス650は、ネットワーク2に接続されて、ネットワーク2に接続されているコンピュータ200と通信する。ある局面において、通信インターフェイス650は、例えば、LANその他の有線通信インターフェイス、あるいは、WiFi、Bluetooth、NFCその他の無線通信インターフェイスとして実現される。通信インターフェイス650は上述のものに限られない。   The communication interface 650 is connected to the network 2 and communicates with the computer 200 connected to the network 2. In one aspect, communication interface 650 is implemented as, for example, a LAN or other wired communication interface, or a wireless communication interface such as WiFi, Bluetooth, NFC, or the like. The communication interface 650 is not limited to the above.

ある局面において、プロセッサ610は、ストレージ630にアクセスし、ストレージ630に格納されている1つ以上のプログラムをメモリ620にロードし、当該プログラムに含まれる一連の命令を実行する。当該1つ以上のプログラムは、サーバ600のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ610は、入出力インターフェイス640を介して、仮想空間を提供するための信号をコンピュータ200に送ってもよい。   In one aspect, the processor 610 accesses the storage 630, loads one or more programs stored in the storage 630 into the memory 620, and executes a series of instructions included in the program. The one or more programs may include an operating system of the server 600, an application program for providing a virtual space, game software that can be executed in the virtual space, and the like. The processor 610 may send a signal for providing a virtual space to the computer 200 via the input / output interface 640.

[HMDの制御装置]
図10を参照して、HMD120の制御装置について説明する。ある実施の形態において、制御装置は周知の構成を有するコンピュータ200によって実現される。図10は、ある実施の形態に従うコンピュータ200をモジュール構成として表わすブロック図である。
[Control unit of HMD]
With reference to FIG. 10, the control apparatus of HMD120 is demonstrated. In one embodiment, the controller is implemented by a computer 200 having a known configuration. FIG. 10 is a block diagram representing a computer 200 according to an embodiment as a modular configuration.

図10に示されるように、コンピュータ200は、コントロールモジュール510と、レンダリングモジュール520と、メモリモジュール530と、通信制御モジュール540とを備える。ある局面において、コントロールモジュール510とレンダリングモジュール520とは、プロセッサ210によって実現される。別の局面において、複数のプロセッサ210がコントロールモジュール510とレンダリングモジュール520として作動してもよい。メモリモジュール530は、メモリ220またはストレージ230によって実現される。通信制御モジュール540は、通信インターフェイス250によって実現される。   As shown in FIG. 10, the computer 200 includes a control module 510, a rendering module 520, a memory module 530, and a communication control module 540. In one aspect, the control module 510 and the rendering module 520 are implemented by the processor 210. In another aspect, multiple processors 210 may operate as control module 510 and rendering module 520. The memory module 530 is realized by the memory 220 or the storage 230. The communication control module 540 is realized by the communication interface 250.

コントロールモジュール510は、ユーザ5に提供される仮想空間11を制御する。コントロールモジュール510は、仮想空間11を表す仮想空間データを用いて、HMDシステム100における仮想空間11を規定する。仮想空間データは、例えば、メモリモジュール530に記憶されている。コントロールモジュール510が、仮想空間データを生成したり、サーバ600などから仮想空間データを取得するようにしたりしてもよい。   The control module 510 controls the virtual space 11 provided to the user 5. The control module 510 defines the virtual space 11 in the HMD system 100 using virtual space data representing the virtual space 11. The virtual space data is stored in the memory module 530, for example. The control module 510 may generate virtual space data or may acquire virtual space data from the server 600 or the like.

コントロールモジュール510は、オブジェクトを表すオブジェクトデータを用いて、仮想空間11にオブジェクトを配置する。オブジェクトデータは、例えば、メモリモジュール530に記憶されている。コントロールモジュール510が、オブジェクトデータを生成したり、サーバ600などからオブジェクトデータを取得するようにしたりしてもよい。オブジェクトは、例えば、ユーザ5の分身であるアバターオブジェクト、キャラクタオブジェクト、コントローラ300によって操作される仮想手などの操作オブジェクト、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、街並み、動物等を含み得る。   The control module 510 places an object in the virtual space 11 using object data representing the object. The object data is stored in the memory module 530, for example. The control module 510 may generate object data or may obtain object data from the server 600 or the like. The objects include, for example, an avatar object that is a substitute of the user 5, a character object, an operation object such as a virtual hand operated by the controller 300, a landscape arranged in accordance with the progress of a game story, a mountain, etc., a cityscape, an animal Etc. may be included.

コントロールモジュール510は、ネットワーク2を介して接続される他のコンピュータ200のユーザ5のアバターオブジェクトを仮想空間11に配置する。ある局面において、コントロールモジュール510は、ユーザ5のアバターオブジェクトを仮想空間11に配置する。ある局面において、コントロールモジュール510は、ユーザ5を含む画像に基づいて、ユーザ5を模したアバターオブジェクトを仮想空間11に配置する。別の局面において、コントロールモジュール510は、複数種類のアバターオブジェクト(例えば、動物を模したオブジェクトや、デフォルメされた人のオブジェクト)の中からユーザ5による選択を受け付けたアバターオブジェクトを仮想空間11に配置する。   The control module 510 places avatar objects of users 5 of other computers 200 connected via the network 2 in the virtual space 11. In one aspect, the control module 510 places the avatar object of the user 5 in the virtual space 11. In an aspect, the control module 510 arranges an avatar object that imitates the user 5 in the virtual space 11 based on an image including the user 5. In another aspect, the control module 510 places in the virtual space 11 an avatar object that has been selected by the user 5 from a plurality of types of avatar objects (for example, an object imitating an animal or a deformed human object). Do.

コントロールモジュール510は、HMDセンサ410の出力に基づいてHMD120の傾きを特定する。別の局面において、コントロールモジュール510は、モーションセンサとして機能するセンサ190の出力に基づいてHMD120の傾きを特定する。コントロールモジュール510は、第1カメラ150および第2カメラ160が生成するユーザ5の顔の画像から、ユーザ5の顔を構成する器官(例えば、口,目,眉)を検出する。コントロールモジュール510は、検出した各器官の動き(形状)を検出する。   The control module 510 identifies the tilt of the HMD 120 based on the output of the HMD sensor 410. In another aspect, the control module 510 determines the tilt of the HMD 120 based on the output of the sensor 190 that functions as a motion sensor. The control module 510 detects organs (e.g., mouth, eyes, eyebrows) constituting the face of the user 5 from the image of the face of the user 5 generated by the first camera 150 and the second camera 160. The control module 510 detects the movement (shape) of each detected organ.

コントロールモジュール510は、注視センサ140からの信号に基づいて、ユーザ5の仮想空間11における視線を検出する。コントロールモジュール510は、検出したユーザ5の視線と仮想空間11の天球とが交わる視点位置(XYZ座標系における座標値)を検出する。より具体的には、コントロールモジュール510は、uvw座標系で規定されるユーザ5の視線と、仮想カメラ14の位置および傾きとに基づいて、視点位置を検出する。コントロールモジュール510は、検出した視点位置をサーバ600に送信する。別の局面において、コントロールモジュール510は、ユーザ5の視線を表す視線情報をサーバ600に送信するように構成されてもよい。係る場合、サーバ600が受信した視線情報に基づいて視点位置を算出し得る。   The control module 510 detects the line of sight of the user 5 in the virtual space 11 based on the signal from the gaze sensor 140. The control module 510 detects a viewpoint position (coordinate value in the XYZ coordinate system) where the detected line of sight of the user 5 and the celestial sphere of the virtual space 11 intersect. More specifically, the control module 510 detects the viewpoint position based on the line of sight of the user 5 defined by the uvw coordinate system and the position and tilt of the virtual camera 14. The control module 510 transmits the detected viewpoint position to the server 600. In another aspect, the control module 510 may be configured to transmit line-of-sight information representing the line of sight of the user 5 to the server 600. In such a case, the viewpoint position can be calculated based on the line-of-sight information received by the server 600.

コントロールモジュール510は、HMDセンサ410が検出するHMD120の動きをアバターオブジェクトに反映する。例えば、コントロールモジュール510は、HMD120が傾いたことを検知して、アバターオブジェクトを傾けて配置する。コントロールモジュール510は、検出した顔器官の動作を、仮想空間11に配置されるアバターオブジェクトの顔に反映させる。コントロールモジュール510は、サーバ600から他のユーザ5の視線情報を受信し、当該他のユーザ5のアバターオブジェクトの視線に反映させる。ある局面において、コントロールモジュール510は、コントローラ300の動きをアバターオブジェクトや操作オブジェクトに反映する。この場合、コントローラ300は、コントローラ300の動きを検知するためのモーションセンサ、加速度センサ、または複数の発光素子(例えば、赤外線LED)などを備える。   The control module 510 reflects the motion of the HMD 120 detected by the HMD sensor 410 on the avatar object. For example, the control module 510 detects that the HMD 120 is tilted, and tilts and arranges the avatar object. The control module 510 reflects the detected motion of the face organ on the face of the avatar object arranged in the virtual space 11. The control module 510 receives the line-of-sight information of the other user 5 from the server 600 and reflects the line-of-sight information of the avatar object of the other user 5. In one aspect, the control module 510 reflects the motion of the controller 300 on an avatar object or an operation object. In this case, the controller 300 includes a motion sensor for detecting the movement of the controller 300, an acceleration sensor, or a plurality of light emitting elements (for example, infrared LEDs).

コントロールモジュール510は、仮想空間11においてユーザ5の操作を受け付けるための操作オブジェクトを仮想空間11に配置する。ユーザ5は、操作オブジェクトを操作することにより、例えば、仮想空間11に配置されるオブジェクトを操作する。ある局面において、操作オブジェクトは、例えば、ユーザ5の手に相当する仮想手である手オブジェクト等を含み得る。ある局面において、コントロールモジュール510は、モーションセンサ420の出力に基づいて現実空間におけるユーザ5の手の動きに連動するように仮想空間11において手オブジェクトを動かす。ある局面において、操作オブジェクトは、アバターオブジェクトの手の部分に相当し得る。   The control module 510 arranges an operation object in the virtual space 11 for accepting the operation of the user 5 in the virtual space 11. The user 5 operates, for example, an object arranged in the virtual space 11 by operating the operation object. In one aspect, the operation object may include, for example, a hand object that is a virtual hand corresponding to the hand of the user 5. In one aspect, the control module 510 moves the hand object in the virtual space 11 to interlock with the movement of the hand of the user 5 in the real space based on the output of the motion sensor 420. In one aspect, the operation object may correspond to a hand portion of the avatar object.

コントロールモジュール510は、仮想空間11に配置されるオブジェクトのそれぞれが、他のオブジェクトと衝突した場合に、当該衝突を検出する。コントロールモジュール510は、例えば、あるオブジェクトのコリジョンエリアと、別のオブジェクトのコリジョンエリアとが触れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行なう。コントロールモジュール510は、オブジェクトとオブジェクトとが触れている状態から離れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行なう。コントロールモジュール510は、オブジェクトとオブジェクトとが触れている状態であることを検出することができる。例えば、コントロールモジュール510は、操作オブジェクトと、他のオブジェクトとが触れたときに、これら操作オブジェクトと他のオブジェクトとが触れたことを検出して、予め定められた処理を行なう。   The control module 510 detects a collision when each of the objects arranged in the virtual space 11 collides with another object. The control module 510 can detect, for example, the timing at which a collision area of an object and a collision area of another object touch, and performs predetermined processing when the detection is performed. The control module 510 can detect the timing at which the object and the object are away from the touch, and performs a predetermined process when the detection is performed. The control module 510 can detect that the object is touching the object. For example, when the operation object and another object touch, the control module 510 detects that the operation object and the other object touch and performs predetermined processing.

ある局面において、コントロールモジュール510は、HMD120のモニタ130における画像表示を制御する。例えば、コントロールモジュール510は、仮想空間11に仮想カメラ14を配置する。コントロールモジュール510は、仮想空間11における仮想カメラ14の位置と、仮想カメラ14の傾き(向き)を制御する。コントロールモジュール510は、HMD120を装着したユーザ5の頭部の傾きと、仮想カメラ14の位置に応じて、視界領域15を規定する。レンダリングモジュール520は、決定された視界領域15に基づいて、モニタ130に表示される視界画像17を生成する。レンダリングモジュール520により生成された視界画像17は、通信制御モジュール540によってHMD120に出力される。   In one aspect, the control module 510 controls image display on the monitor 130 of the HMD 120. For example, the control module 510 arranges the virtual camera 14 in the virtual space 11. The control module 510 controls the position of the virtual camera 14 in the virtual space 11 and the tilt (orientation) of the virtual camera 14. The control module 510 defines the view area 15 according to the tilt of the head of the user 5 wearing the HMD 120 and the position of the virtual camera 14. The rendering module 520 generates a view image 17 to be displayed on the monitor 130 based on the determined view area 15. The view image 17 generated by the rendering module 520 is output to the HMD 120 by the communication control module 540.

コントロールモジュール510は、HMD120から、ユーザ5のマイク170を用いた発話を検出すると、当該発話に対応する音声データの送信対象のコンピュータ200を特定する。音声データは、コントロールモジュール510によって特定されたコンピュータ200に送信される。コントロールモジュール510は、ネットワーク2を介して他のユーザのコンピュータ200から音声データを受信すると、当該音声データに対応する音声(発話)をスピーカ180から出力する。   When the control module 510 detects an utterance of the user 5 using the microphone 170 from the HMD 120, the control module 510 identifies the computer 200 to which voice data corresponding to the utterance is to be transmitted. The audio data is transmitted to the computer 200 specified by the control module 510. When the control module 510 receives voice data from the computer 200 of another user via the network 2, the control module 510 outputs a voice (speech) corresponding to the voice data from the speaker 180.

メモリモジュール530は、コンピュータ200が仮想空間11をユーザ5に提供するために使用されるデータを保持している。ある局面において、メモリモジュール540は、空間情報と、オブジェクト情報と、ユーザ情報とを保持している。   The memory module 530 holds data used by the computer 200 to provide the virtual space 11 to the user 5. In one aspect, the memory module 540 holds spatial information, object information, and user information.

空間情報は、仮想空間11を提供するために規定された1つ以上のテンプレートを保持している。   Spatial information holds one or more templates defined to provide virtual space 11.

オブジェクト情報は、仮想空間11を構成する複数のパノラマ画像13、仮想空間11にオブジェクトを配置するためのオブジェクトデータを含む。パノラマ画像13は、静止画像および動画像を含み得る。パノラマ画像13は、非現実空間の画像と現実空間の画像とを含み得る。非現実空間の画像としては、例えば、コンピュータグラフィックスで生成された画像が挙げられる。   The object information includes a plurality of panoramic images 13 constituting the virtual space 11 and object data for arranging the object in the virtual space 11. The panoramic image 13 may include a still image and a moving image. The panoramic image 13 may include an image of non-real space and an image of real space. Examples of images in non-real space include images generated by computer graphics.

ユーザ情報は、ユーザ5を識別するユーザIDを保持する。ユーザIDは、例えば、ユーザが使用するコンピュータ200に設定されるIP(Internet Protocol)アドレスまたはMAC(Media Access Control)アドレスであり得る。別の局面において、ユーザIDはユーザによって設定され得る。ユーザ情報は、HMDシステム100の制御装置としてコンピュータ200を機能させるためのプログラム等を含む。   The user information holds a user ID identifying the user 5. The user ID may be, for example, an IP (Internet Protocol) address or a MAC (Media Access Control) address set in the computer 200 used by the user. In another aspect, the user ID may be set by the user. The user information includes a program for causing the computer 200 to function as a control device of the HMD system 100.

メモリモジュール530に格納されているデータおよびプログラムは、HMD120のユーザ5によって入力される。あるいは、プロセッサ210が、当該コンテンツを提供する事業者が運営するコンピュータ(例えば、サーバ600)からプログラムあるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール530に格納する。   The data and programs stored in the memory module 530 are input by the user 5 of the HMD 120. Alternatively, the processor 210 downloads a program or data from a computer (for example, the server 600) operated by a provider providing the content, and stores the downloaded program or data in the memory module 530.

通信制御モジュール540は、ネットワーク2を介して、サーバ600その他の情報通信装置と通信し得る。   The communication control module 540 may communicate with the server 600 and other information communication devices via the network 2.

ある局面において、コントロールモジュール510及びレンダリングモジュール520は、例えば、ユニティテクノロジーズ社によって提供されるUnity(登録商標)を用いて実現され得る。別の局面において、コントロールモジュール510及びレンダリングモジュール520は、各処理を実現する回路素子の組み合わせとしても実現され得る。   In an aspect, the control module 510 and the rendering module 520 may be implemented using, for example, Unity (registered trademark) provided by Unity Technologies. In another aspect, the control module 510 and the rendering module 520 can also be realized as a combination of circuit elements that implement each process.

コンピュータ200における処理は、ハードウェアと、プロセッサ410により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール530に予め格納されている場合がある。ソフトウェアは、CD−ROMその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール540を介してサーバ600その他のコンピュータからダウンロードされた後、記憶モジュールに一旦格納される。そのソフトウェアは、プロセッサ210によって記憶モジュールから読み出され、実行可能なプログラムの形式でRAMに格納される。プロセッサ210は、そのプログラムを実行する。   Processing in computer 200 is realized by hardware and software executed by processor 410. Such software may be stored in advance in a memory module 530 such as a hard disk. The software may be stored in a CD-ROM or other computer readable non-volatile data storage medium and distributed as a program product. Alternatively, the software may be provided as a program product that can be downloaded by an information provider connected to the Internet or other networks. Such software is temporarily stored in the storage module after being read from the data recording medium by an optical disk drive or other data reader, or downloaded from the server 600 or other computer via the communication control module 540. . The software is read from the storage module by the processor 210 and stored in RAM in the form of an executable program. The processor 210 executes the program.

[HMDシステムの制御構造]
図11を参照して、HMDセット110の制御構造について説明する。図11は、ある実施の形態に従うHMDセット110において実行される処理の一部を表すシーケンスチャートである。
[Control structure of HMD system]
The control structure of the HMD set 110 will be described with reference to FIG. FIG. 11 is a sequence chart showing a part of processing executed in HMD set 110 according to an embodiment.

図11に示されるように、ステップS1110にて、コンピュータ200のプロセッサ210は、コントロールモジュール510として、仮想空間データを特定し、仮想空間11を定義する。   As shown in FIG. 11, in step S 1110, the processor 210 of the computer 200 specifies virtual space data as the control module 510 and defines the virtual space 11.

ステップS1120にて、プロセッサ210は、仮想カメラ14を初期化する。たとえば、プロセッサ210は、メモリのワーク領域において、仮想カメラ14を仮想空間11において予め規定された中心点12に配置し、仮想カメラ14の視線をユーザ5が向いている方向に向ける。   In step S1120, processor 210 initializes virtual camera 14. For example, the processor 210 places the virtual camera 14 at the center point 12 defined in advance in the virtual space 11 in the work area of the memory, and directs the line of sight of the virtual camera 14 in the direction in which the user 5 is facing.

ステップS1130にて、プロセッサ210は、レンダリングモジュール520として、初期の視界画像を表示するための視界画像データを生成する。生成された視界画像データは、通信制御モジュール540によってHMD120に出力される。   In step S1130, the processor 210 causes the rendering module 520 to generate view image data for displaying the initial view image. The generated view image data is output to the HMD 120 by the communication control module 540.

ステップS1132にて、HMD120のモニタ130は、コンピュータ200から受信した視界画像データに基づいて、視界画像を表示する。HMD120を装着したユーザ5は、視界画像を視認すると仮想空間11を認識し得る。   In step S1132, the monitor 130 of the HMD 120 displays the view image based on the view image data received from the computer 200. The user 5 wearing the HMD 120 can recognize the virtual space 11 when viewing the view image.

ステップS1134にて、HMDセンサ410は、HMD120から発信される複数の赤外線光に基づいて、HMD120の位置と傾きを検知する。検知結果は、動き検知データとして、コンピュータ200に出力される。   In step S1134, the HMD sensor 410 detects the position and inclination of the HMD 120 based on the plurality of infrared light beams emitted from the HMD 120. The detection result is output to the computer 200 as motion detection data.

ステップS1140にて、プロセッサ210は、HMD120の動き検知データに含まれる位置と傾きとに基づいて、HMD120を装着したユーザ5の視界方向を特定する。   In step S1140, the processor 210 specifies the view direction of the user 5 wearing the HMD 120 based on the position and the inclination included in the motion detection data of the HMD 120.

ステップS1150にて、プロセッサ210は、アプリケーションプログラムを実行し、アプリケーションプログラムに含まれる命令に基づいて、仮想空間11にオブジェクトを配置する。   In step S1150, the processor 210 executes an application program, and places an object in the virtual space 11 based on an instruction included in the application program.

ステップS1160にて、コントローラ300は、モーションセンサ420から出力される信号に基づいて、ユーザ5の操作を検出し、その検出された操作を表す検出データをコンピュータ200に出力する。別の局面において、ユーザ5によるコントローラ300の操作は、ユーザ5の周囲に配置されたカメラからの画像に基づいて検出されてもよい。   In step S1160, controller 300 detects the operation of user 5 based on the signal output from motion sensor 420, and outputs detection data representing the detected operation to computer 200. In another aspect, the operation of the controller 300 by the user 5 may be detected based on an image from a camera disposed around the user 5.

ステップS1170にて、プロセッサ210は、コントローラ300から取得した検出データに基づいて、ユーザ5によるコントローラ300の操作を検出する。   In step S <b> 1170, processor 210 detects the operation of controller 300 by user 5 based on the detection data acquired from controller 300.

ステップS1180にて、プロセッサ210は、ユーザ5によるコントローラ300の操作に基づく視界画像データを生成する。生成された視界画像データは、通信制御モジュール540によってHMD120に出力される。   In step S1180, processor 210 generates view field image data based on operation of controller 300 by user 5. The generated view image data is output to the HMD 120 by the communication control module 540.

ステップS1190にて、HMD120は、受信した視界画像データに基づいて視界画像を更新し、更新後の視界画像をモニタ130に表示する。   In step S1190, the HMD 120 updates the view image based on the received view image data, and displays the updated view image on the monitor 130.

[アバターオブジェクト]
図12(A)、(B)を参照して、本実施の形態に従うアバターオブジェクトについて説明する。以下、HMDセット110A,110Bの各ユーザ5のアバターオブジェクトを説明する図である。以下、HMDセット110Aのユーザをユーザ5A、HMDセット110Bのユーザをユーザ5B、HMDセット110Cのユーザをユーザ5C、HMDセット110Dのユーザをユーザ5Dと表す。HMDセット110Aに関する各構成要素の参照符号にAが付され、HMDセット110Bに関する各構成要素の参照符号にBが付され、HMDセット110Cに関する各構成要素の参照符号にCが付され、HMDセット110Dに関する各構成要素の参照符号にDが付される。例えば、HMD120Aは、HMDセット110Aに含まれる。
Avatar object
With reference to FIGS. 12A and 12B, an avatar object according to the present embodiment will be described. Hereinafter, it is a figure explaining the avatar object of each user 5 of HMD set 110A, 110B. Hereinafter, the user of the HMD set 110A is represented as the user 5A, the user of the HMD set 110B as the user 5B, the user of the HMD set 110C as the user 5C, and the user of the HMD set 110D as the user 5D. A is added to the reference numeral of each component related to HMD set 110A, B is added to the reference code of each component related to HMD set 110B, C is added to the reference code of each component related to HMD set 110C, and HMD set D is attached to the reference number of each component relating to 110D. For example, the HMD 120A is included in the HMD set 110A.

図12(A)は、ネットワーク2において、各HMD120がユーザ5に仮想空間11を提供する状況を表す模式図である。コンピュータ200A〜200Dは、HMD120A〜120Dを介して、ユーザ5A〜5Dに、仮想空間11A〜11Dをそれぞれ提供する。図12(A)に示される例において、仮想空間11Aおよび仮想空間11Bは同じデータによって構成されている。換言すれば、コンピュータ200Aとコンピュータ200Bとは同じ仮想空間を共有していることになる。仮想空間11Aおよび仮想空間11Bには、ユーザ5Aのアバターオブジェクト6Aと、ユーザ5Bのアバターオブジェクト6Bとが存在する。仮想空間11Aにおけるアバターオブジェクト6Aおよび仮想空間11Bにおけるアバターオブジェクト6BがそれぞれHMD120を装着しているが、これは説明を分かりやすくするためのものであって、実際にはこれらのオブジェクトはHMD120を装着していない。   FIG. 12A is a schematic diagram illustrating a situation where each HMD 120 provides the virtual space 11 to the user 5 in the network 2. The computers 200A to 200D provide the virtual spaces 11A to 11D to the users 5A to 5D via the HMDs 120A to 120D, respectively. In the example shown in FIG. 12A, the virtual space 11A and the virtual space 11B are configured by the same data. In other words, the computer 200A and the computer 200B share the same virtual space. In the virtual space 11A and the virtual space 11B, an avatar object 6A of the user 5A and an avatar object 6B of the user 5B exist. The avatar object 6A in the virtual space 11A and the avatar object 6B in the virtual space 11B are each equipped with the HMD 120, but this is for easy understanding. In fact, these objects are equipped with the HMD 120. Not.

ある局面において、プロセッサ210Aは、ユーザ5Aの視界画像17Aを撮影する仮想カメラ14Aを、アバターオブジェクト6Aの目の位置に配置し得る。   In one aspect, the processor 210A may place the virtual camera 14A that captures the view image 17A of the user 5A at the eye position of the avatar object 6A.

図12(B)は、図12(A)におけるユーザ5Aの視界画像17Aを示す図である。視界画像17Aは、HMD120Aのモニタ130Aに表示される画像である。この視界画像17Aは、仮想カメラ14Aにより生成された画像である。視界画像17Aには、ユーザ5Bのアバターオブジェクト6Bが表示されている。特に図示はしていないが、ユーザ5Bの視界画像にも同様に、ユーザ5Aのアバターオブジェクト6Aが表示されている。   FIG. 12 (B) is a view showing a view image 17A of the user 5A in FIG. 12 (A). The view image 17A is an image displayed on the monitor 130A of the HMD 120A. The view image 17A is an image generated by the virtual camera 14A. The avatar object 6B of the user 5B is displayed in the view field image 17A. Although not particularly shown, the avatar object 6A of the user 5A is similarly displayed on the view image of the user 5B.

図12(B)の状態において、ユーザ5Aは仮想空間11Aを介してユーザ5Bと対話による通信(コミュニケーション)を図ることができる。より具体的には、マイク170Aにより取得されたユーザ5Aの音声は、サーバ600を介してユーザ5BのHMD17120Bに送信され、HMD120Bに設けられたスピーカ180Bから出力される。ユーザ5Bの音声は、サーバ600を介してユーザ5AのHMD120Aに送信され、HMD120Aに設けられたスピーカ180Aから出力される。   In the state of FIG. 12B, the user 5A can communicate with the user 5B through communication (communication) through the virtual space 11A. More specifically, the voice of the user 5A acquired by the microphone 170A is transmitted to the HMD 17120B of the user 5B via the server 600 and output from the speaker 180B provided in the HMD 120B. The voice of the user 5B is transmitted to the HMD 120A of the user 5A via the server 600, and is output from the speaker 180A provided in the HMD 120A.

ユーザ5Bの動作(HMD120Bの動作およびコントローラ300Bの動作)は、プロセッサ210Aにより仮想空間11Aに配置されるアバターオブジェクト6Bに反映される。これにより、ユーザ5Aは、ユーザ5Bの動作を、アバターオブジェクト6Bを通じて認識できる。   The operation of the user 5B (the operation of the HMD 120B and the operation of the controller 300B) is reflected by the processor 210A in the avatar object 6B disposed in the virtual space 11A. Thereby, the user 5A can recognize the operation of the user 5B through the avatar object 6B.

図13は、本実施の形態に従うHMDシステム100において実行される処理の一部を表すシーケンスチャートである。図13においては、HMDセット110Dを図示していないが、HMDセット110Dについても、HMDセット110A、110B、110Cと同様に動作する。以下の説明でも、HMDセット110Aに関する各構成要素の参照符号にAが付され、HMDセット110Bに関する各構成要素の参照符号にBが付され、HMDセット110Cに関する各構成要素の参照符号にCが付され、HMDセット110Dに関する各構成要素の参照符号にDが付されるものとする。   FIG. 13 is a sequence chart showing a part of the process executed in HMD system 100 according to the present embodiment. Although the HMD set 110D is not illustrated in FIG. 13, the HMD set 110D operates similarly to the HMD sets 110A, 110B, and 110C. In the following description, A is added to the reference symbol of each component relating to the HMD set 110A, B is added to the reference symbol of each component relating to the HMD set 110B, and C is assigned to the reference symbol of each component relating to the HMD set 110C. It is assumed that D is added to the reference symbol of each component relating to the HMD set 110D.

ステップS1310Aにおいて、HMDセット110Aにおけるプロセッサ210Aは、仮想空間11Aにおけるアバターオブジェクト6Aの動作を決定するためのアバター情報を取得する。このアバター情報は、例えば、動き情報、フェイストラッキングデータ、および音声データ等のアバターに関する情報を含む。動き情報は、HMD120Aの位置および傾きの時間的変化を示す情報や、モーションセンサ420A等により検出されたユーザ5Aの手の動きを示す情報などを含む。フェイストラッキングデータは、ユーザ5Aの顔の各パーツの位置および大きさを特定するデータが挙げられる。フェイストラッキングデータは、ユーザ5Aの顔を構成する各器官の動きを示すデータや視線データが挙げられる。音声データは、HMD120Aのマイク170Aによって取得されたユーザ5Aの音声を示すデータが挙げられる。アバター情報には、アバターオブジェクト6A、あるいはアバターオブジェクト6Aに関連付けられるユーザ5Aを特定する情報や、アバターオブジェクト6Aが存在する仮想空間11Aを特定する情報等が含まれてもよい。アバターオブジェクト6Aやユーザ5Aを特定する情報としては、ユーザIDが挙げられる。アバターオブジェクト6Aが存在する仮想空間11Aを特定する情報としては、ルームIDが挙げられる。プロセッサ210Aは、上述のように取得されたアバター情報を、ネットワーク2を介してサーバ600に送信する。   In step S1310A, the processor 210A in the HMD set 110A acquires avatar information for determining the operation of the avatar object 6A in the virtual space 11A. The avatar information includes, for example, information related to the avatar such as motion information, face tracking data, and voice data. The motion information includes information indicating temporal changes in position and inclination of the HMD 120A, information indicating motion of the hand of the user 5A detected by the motion sensor 420A or the like, and the like. The face tracking data includes data specifying the position and size of each part of the face of the user 5A. The face tracking data may be data indicating movement of each organ constituting the face of the user 5A, or gaze data. The voice data includes data indicating the voice of the user 5A acquired by the microphone 170A of the HMD 120A. The avatar information may include the avatar object 6A or information specifying the user 5A associated with the avatar object 6A, information specifying the virtual space 11A in which the avatar object 6A exists, and the like. User ID is mentioned as information which specifies avatar object 6A and user 5A. Room ID is mentioned as information which specifies 11 A of virtual spaces in which the avatar object 6A exists. The processor 210A transmits the avatar information acquired as described above to the server 600 via the network 2.

ステップS1310Bにおいて、HMDセット110Bにおけるプロセッサ210Bは、ステップS1310Aにおける処理と同様に、仮想空間11Bにおけるアバターオブジェクト6Bの動作を決定するためのアバター情報を取得し、サーバ600に送信する。同様に、ステップS1310Cにおいて、HMDセット110Cにおけるプロセッサ210Cは、仮想空間11Cにおけるアバターオブジェクト6Cの動作を決定するためのアバター情報を取得し、サーバ600に送信する。   In step S1310B, the processor 210B in the HMD set 110B acquires avatar information for determining the operation of the avatar object 6B in the virtual space 11B, and transmits the avatar information to the server 600, similarly to the process in step S1310A. Similarly, in step S1310C, the processor 210C in the HMD set 110C acquires avatar information for determining the operation of the avatar object 6C in the virtual space 11C, and transmits it to the server 600.

ステップS1320において、サーバ600は、HMDセット110A、HMDセット110B、およびHMDセット110Cのそれぞれから受信したプレイヤ情報を一旦記憶する。サーバ600は、各アバター情報に含まれるユーザIDおよびルームID等に基づいて、共通の仮想空間11に関連付けられた全ユーザ(この例では、ユーザ5A〜5C)のアバター情報を統合する。そして、サーバ600は、予め定められたタイミングで、統合したアバター情報を当該仮想空間11に関連付けられた全ユーザに送信する。これにより、同期処理が実行される。このような同期処理により、HMDセット110A、HMDセット110B、およびHMD110Cは、互いのアバター情報をほぼ同じタイミングで共有することができる。   In step S1320, the server 600 temporarily stores the player information received from each of the HMD set 110A, the HMD set 110B, and the HMD set 110C. The server 600 integrates avatar information of all users (users 5A to 5C in this example) associated with the common virtual space 11 based on the user ID and the room ID included in each avatar information. Then, the server 600 transmits the integrated avatar information to all the users associated with the virtual space 11 at a predetermined timing. Thereby, a synchronous process is performed. By such synchronization processing, the HMD set 110A, the HMD set 110B, and the HMD 110C can share each other's avatar information at substantially the same timing.

続いて、サーバ600から各HMDセット110A〜110Cに送信されたアバター情報に基づいて、各HMDセット110A〜110Cは、ステップS1330A〜S1330Cの処理を実行する。ステップS1330Aの処理は、図11におけるステップS1180の処理に相当する。   Subsequently, based on the avatar information transmitted from the server 600 to the HMD sets 110A to 110C, the HMD sets 110A to 110C execute the processes of steps S1330A to S1330C. The process in step S1330A corresponds to the process in step S1180 in FIG.

ステップS1330Aにおいて、HMDセット110Aにおけるプロセッサ210Aは、仮想空間11Aにおける他のユーザ5B,5Cのアバターオブジェクト6B、アバターオブジェクト6Cの情報を更新する。具体的には、プロセッサ210Aは、HMDセット110Bから送信されたアバター情報に含まれる動き情報に基づいて、仮想空間11におけるアバターオブジェクト6Bの位置および向き等を更新する。例えば、プロセッサ210Aは、メモリモジュール540に格納されたオブジェクト情報に含まれるアバターオブジェクト6Bの情報(位置および向き等)を更新する。同様に、プロセッサ210Aは、HMDセット110Cから送信されたアバター情報に含まれる動き情報に基づいて、仮想空間11におけるアバターオブジェクト6Cの情報(位置および向き等)を更新する。   In step S1330A, the processor 210A in the HMD set 110A updates the information on the avatar object 6B and avatar object 6C of the other users 5B and 5C in the virtual space 11A. Specifically, the processor 210A updates the position and orientation of the avatar object 6B in the virtual space 11 based on the motion information included in the avatar information transmitted from the HMD set 110B. For example, the processor 210A updates the information (such as position and orientation) of the avatar object 6B included in the object information stored in the memory module 540. Similarly, the processor 210A updates the information (position, orientation, etc.) of the avatar object 6C in the virtual space 11 based on the motion information included in the avatar information transmitted from the HMD set 110C.

ステップS1330Bにおいて、HMDセット110Bにおけるプロセッサ210Bは、ステップS1330Aにおける処理と同様に、仮想空間11Bにおけるユーザ5A,5Cのアバターオブジェクト6A,6Cの情報を更新する。同様に、ステップS1330Cにおいて、HMDセット110Cにおけるプロセッサ210Cは、仮想空間11Cにおけるユーザ5A,5Bのアバターオブジェクト6A,6Bの情報を更新する。   In step S1330B, the processor 210B in the HMD set 110B updates the information on the avatar objects 6A and 6C of the users 5A and 5C in the virtual space 11B, as in the process in step S1330A. Similarly, in step S1330C, the processor 210C in the HMD set 110C updates the information on the avatar objects 6A and 6B of the users 5A and 5B in the virtual space 11C.

[モジュールの詳細構成]
図14を参照して、コンピュータ200のモジュール構成の詳細について説明する。図14は、ある実施の形態に従うコンピュータ200のモジュールの詳細構成を表わすブロック図である。
[Detailed configuration of module]
Details of the module configuration of the computer 200 will be described with reference to FIG. FIG. 14 is a block diagram representing a detailed configuration of a module of computer 200 according to an embodiment.

図14に示されるように、コントロールモジュール510は、仮想オブジェクト生成モジュール1421、仮想カメラ制御モジュール1422、操作オブジェクト制御モジュール1423、移動オブジェクト制御モジュール1424、衝突検出モジュール1425、および機能制限モジュール1426を備えている。   As shown in FIG. 14, the control module 510 includes a virtual object generation module 1421, a virtual camera control module 1422, an operation object control module 1423, a moving object control module 1424, a collision detection module 1425, and a function restriction module 1426. Yes.

仮想オブジェクト生成モジュール1421は、各種の仮想オブジェクトを仮想空間11に生成する。ある局面において、仮想オブジェクトは、例えば、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、動物等を含み得る。ある局面において、仮想オブジェクトは、仮想カメラ14および操作オブジェクトを含み得る。   The virtual object generation module 1421 generates various virtual objects in the virtual space 11. In one aspect, virtual objects may include, for example, landscapes, including forests, mountains, etc., animals, etc., arranged according to the progression of the game's story. In one aspect, the virtual object may include a virtual camera 14 and an operation object.

仮想カメラ制御モジュール1422は、仮想空間11における仮想カメラ14の挙動を制御する。仮想カメラ制御モジュール1422は、例えば、仮想空間11における仮想カメラ14の配置位置と、仮想カメラ14の向き(傾き)とを制御する。   The virtual camera control module 1422 controls the behavior of the virtual camera 14 in the virtual space 11. The virtual camera control module 1422 controls, for example, the arrangement position of the virtual camera 14 in the virtual space 11 and the direction (tilt) of the virtual camera 14.

操作オブジェクト制御モジュール1423は、仮想空間11においてユーザ5の操作を受け付けるための操作オブジェクトを制御する。ユーザ5は、操作オブジェクトを操作することによって、例えば、仮想空間11に配置される仮想オブジェクトを操作する。ある局面において、操作オブジェクトは、例えば、HMD120を装着したユーザ5の手に相当する手オブジェクト(仮想手)等を含み得る。ある局面において、操作オブジェクトは、後述するアバターオブジェクトの手の部分に相当し得る。   The operation object control module 1423 controls an operation object for receiving the operation of the user 5 in the virtual space 11. For example, the user 5 operates a virtual object placed in the virtual space 11 by operating the operation object. In one aspect, the operation object may include, for example, a hand object (virtual hand) corresponding to the hand of the user 5 wearing the HMD 120 or the like. In one aspect, the operation object may correspond to a hand portion of an avatar object described later.

移動オブジェクト制御モジュール1424は、仮想空間11において移動可能な移動オブジェクトを制御する。移動オブジェクト制御モジュール1424は、移動オブジェクトと、ユーザ5の身体の一部の動きに連動する仮想オブジェクトとの位置関係に基づいた態様で、移動オブジェクトを移動させる。ユーザ5の身体の一部がユーザ5の頭部である場合、ユーザ5の頭部の動きに連動する仮想オブジェクトは、例えば仮想カメラ14である。ユーザ5の身体の一部が手である場合、ユーザ5の手の動きに連動する仮想オブジェクトは、例えば操作オブジェクトである。   The moving object control module 1424 controls moving objects that can move in the virtual space 11. The moving object control module 1424 moves the moving object in a manner based on the positional relationship between the moving object and the virtual object interlocked with the movement of the body part of the user 5. When a part of the body of the user 5 is the head of the user 5, the virtual object linked to the movement of the head of the user 5 is, for example, the virtual camera 14. When a part of the body of the user 5 is a hand, the virtual object interlocked with the movement of the hand of the user 5 is, for example, an operation object.

衝突検出モジュール1425は、仮想空間11に配置される仮想オブジェクトのそれぞれが、他の仮想オブジェクトと衝突した場合に、当該衝突を検出する。衝突検出モジュール1425は、例えば、ある仮想オブジェクトと、別の仮想オブジェクトとが触れたタイミングを検出することができる。衝突検出モジュール1425は、ある仮想オブジェクトと他の仮想オブジェクトとが触れている状態から離れたタイミングを検出することができる。衝突検出モジュール1425は、ある仮想オブジェクトと他の仮想オブジェクトとが触れている状態であることを検出することもできる。衝突検出モジュール1425は、例えば、操作オブジェクトと、他の仮想オブジェクトとが触れたときに、これら操作オブジェクトと他のオブジェクトとが触れたことを検出する。コントロールモジュール510は、これらの検出結果に基づいて、予め定められた処理を実行する。   The collision detection module 1425 detects the collision when each of the virtual objects arranged in the virtual space 11 collides with another virtual object. The collision detection module 1425 can detect, for example, the timing when a certain virtual object touches another virtual object. The collision detection module 1425 can detect timing when a virtual object and another virtual object are away from being in contact with each other. The collision detection module 1425 can also detect that a virtual object is in contact with another virtual object. The collision detection module 1425 detects, for example, when an operation object and another virtual object touch each other, the operation object and the other object touch each other. The control module 510 executes a predetermined process based on these detection results.

図15は、ある実施の形態に従う仮想空間11および視界画像1517を示す図である。図15(A)では、ユーザ5に仮想体験を提供するための仮想空間11に、アバターオブジェクト6、仮想カメラ14(第1オブジェクト)、固定オブジェクト1531、固定オブジェクト1532、および移動オブジェクト1533(第2オブジェクト)が配置される。アバターオブジェクト6は、仮想右手1521R(第1オブジェクト)および仮想左手1521L(第1オブジェクト)を含む。仮想右手1521Rは操作オブジェクトの一種であり、ユーザ5の右手の動きに応じて仮想空間11において動くことができる。仮想左手1521Lは操作オブジェクトの一種であり、ユーザ5の左手の動きに応じて仮想空間11において動くことができる。固定オブジェクト1531および1532は仮想オブジェクトの一種であり、仮想空間11における規定の位置に固定される。移動オブジェクト1533は仮想オブジェクトの一種であり、移動オブジェクト制御モジュール1424による制御に応じて仮想空間11において移動することができる。   FIG. 15 shows virtual space 11 and view image 1517 according to an embodiment. In FIG. 15A, in the virtual space 11 for providing the virtual experience to the user 5, the avatar object 6, the virtual camera 14 (first object), the fixed object 1531, the fixed object 1532, and the moving object 1533 (second Object). The avatar object 6 includes a virtual right hand 1521R (first object) and a virtual left hand 1521L (first object). The virtual right hand 1521 R is a kind of operation object, and can move in the virtual space 11 according to the movement of the user 5 's right hand. The virtual left hand 1521 L is a kind of operation object, and can move in the virtual space 11 according to the movement of the user 5's left hand. The fixed objects 1531 and 1532 are a type of virtual object, and are fixed at prescribed positions in the virtual space 11. The moving object 1533 is a type of virtual object, and can move in the virtual space 11 according to control by the moving object control module 1424.

図15(A)に示す仮想空間11は、コンピュータ200においてゲームコンテンツが再生されることによって、構築される。このゲームコンテンツに対応するゲームは、例えば、図示しない敵キャラクタとアバターオブジェクト6が戦闘することによって、進行する。移動オブジェクト1533は、ゲーム中にアバターオブジェクト6を攻撃するための武器オブジェクトの一種である。移動オブジェクト1533は、例えば、ミサイルまたは矢などのように、敵キャラクタから放たれることによって敵キャラクタと離れた状態でアバターオブジェクト6に向かって移動する。移動オブジェクト1533は、例えば、敵キャラクタの身体の一部(手、足、または牙など)または当該身体の一部によって把持される武器オブジェクト(剣、槍など)であり、敵キャラクタの動作によって敵キャラクタと一体化した状態でアバターオブジェクト6に向かって移動する。   The virtual space 11 shown in FIG. 15A is constructed by reproducing game content in the computer 200. The game corresponding to this game content proceeds, for example, by the battle of an enemy character (not shown) and the avatar object 6. The moving object 1533 is a kind of weapon object for attacking the avatar object 6 during the game. The moving object 1533 moves toward the avatar object 6 while being separated from the enemy character by being released from the enemy character, such as a missile or an arrow. The moving object 1533 is, for example, a part of the enemy character's body (such as a hand, a foot, or a fang) or a weapon object (such as a sword or a kite) gripped by the part of the body. It moves toward the avatar object 6 in a state integrated with the character.

コントロールモジュール510は、アバターオブジェクト6に体力パラメータを設定する。移動オブジェクト1533が仮想カメラ14(第2オブジェクト)またはアバターオブジェクト6に衝突すると、アバターオブジェクト6はダメージを受け、体力パラメータが減少する。体力パラメータの値が例えばゼロになると、ゲームオーバーになる。ユーザ5は、仮想空間11において提供されるゲームをプレイする際、移動オブジェクト1533によるアバターオブジェクト6への攻撃を回避するように、現実空間において自ら動いたり、あるいはコントローラ300を操作したりする必要がある。   The control module 510 sets physical strength parameters for the avatar object 6. When the moving object 1533 collides with the virtual camera 14 (second object) or the avatar object 6, the avatar object 6 is damaged and the strength parameter decreases. When the value of the physical strength parameter becomes zero, for example, the game is over. When playing the game provided in the virtual space 11, the user 5 needs to move in the real space or operate the controller 300 to avoid the attack on the avatar object 6 by the moving object 1533. is there.

図15(A)において、仮想カメラ14は、アバターオブジェクト6の頭部に配置される。仮想カメラ14は、仮想カメラ14の位置および向きに応じた視界領域15を規定する。視界領域15内に、固定オブジェクト1531、固定オブジェクト1532、および移動オブジェクト1533が配置される。仮想カメラ14は、視界領域15に対応する視界画像1517を生成して、図15(B)に示すようにHMD120に表示させる。視界画像1517は、視界領域15内に配置される固定オブジェクト1531、固定オブジェクト1532、および移動オブジェクト1533をいずれも含む。ユーザ5は、視界画像1517を視認することによって、アバターオブジェクト6の視点で仮想空間の一部を視認する。これにより、ユーザ5は、あたかもユーザ5自身がアバターオブジェクト6であるかのような仮想体験を、得ることができる。   In FIG. 15A, the virtual camera 14 is disposed on the head of the avatar object 6. The virtual camera 14 defines a field-of-view area 15 according to the position and orientation of the virtual camera 14. A fixed object 1531, a fixed object 1532, and a moving object 1533 are arranged in the view field area 15. The virtual camera 14 generates a view image 1517 corresponding to the view area 15 and causes the HMD 120 to display the view image 1517 as shown in FIG. The view image 1517 includes any of the fixed object 1531, the fixed object 1532, and the moving object 1533 disposed in the view area 15. The user 5 visually recognizes a part of the virtual space from the viewpoint of the avatar object 6 by visually recognizing the view image 1517. As a result, the user 5 can obtain a virtual experience as if the user 5 himself is the avatar object 6.

図16は、ある実施の形態に従うHMDセットにおいて実行される処理の一部を表すシーケンスチャートである。本実施形態では、移動オブジェクト1533の移動制御に関する処理がHMDセット100Aにより実行されるものとして説明する。ただし、当該処理は、他のHMDセット100B,100Cにより実行されてもよいし、当該処理の一部または全部がサーバ600によって実行されてもよい。   FIG. 16 is a sequence chart representing a part of processing executed in the HMD set according to an embodiment. In the present embodiment, description will be made assuming that processing related to movement control of the moving object 1533 is executed by the HMD set 100A. However, the process may be performed by another HMD set 100B or 100C, or part or all of the process may be performed by the server 600.

ステップS1601において、コンピュータ200のプロセッサ210(以下単に「プロセッサ210」)は、仮想空間11を定義する。当該処理は、図11のステップS1110の処理に相当する。具体的には、プロセッサ210は、仮想空間データを特定することによって、仮想空間データによって表される仮想空間11を定義する。   In step S1601, the processor 210 (hereinafter simply referred to as "processor 210") of the computer 200 defines the virtual space 11. This process corresponds to the process in step S1110 of FIG. Specifically, the processor 210 defines the virtual space 11 represented by the virtual space data by specifying the virtual space data.

ステップS1602において、プロセッサ210は、仮想オブジェクト生成モジュール1421として、仮想カメラ14を仮想空間11に生成する。ステップS1603において、プロセッサ210は、仮想オブジェクト生成モジュール1421として、仮想右手1521Rおよび仮想左手1521Lを含むアバターオブジェクト6を、仮想空間11に生成する。ステップS1604において、プロセッサ210は、仮想オブジェクト生成モジュール1421として、移動オブジェクト1533を仮想空間11に生成する。ステップS1605において、プロセッサ210は、仮想カメラ制御モジュール1422として、HMD120の動きに応じて仮想空間11における仮想カメラ14の位置および傾きを決定する。より詳細には、プロセッサ210は、ユーザ5の頭部の姿勢と、仮想空間11における仮想カメラ14の位置とに応じて、仮想空間11における仮想カメラ14からの視界である視界領域15を制御する。当該処理は、図11のステップS1140の処理の一部に相当する。   In step S1602, the processor 210 generates the virtual camera 14 in the virtual space 11 as the virtual object generation module 1421. In step S1603, the processor 210 generates the avatar object 6 including the virtual right hand 1521R and the virtual left hand 1521L in the virtual space 11 as the virtual object generation module 1421. In step S <b> 1604, the processor 210 generates a moving object 1533 in the virtual space 11 as the virtual object generation module 1421. In step S1605, the processor 210 determines the position and tilt of the virtual camera 14 in the virtual space 11 according to the movement of the HMD 120 as the virtual camera control module 1422. More specifically, the processor 210 controls the visual field area 15 that is the visual field from the virtual camera 14 in the virtual space 11 according to the posture of the head of the user 5 and the position of the virtual camera 14 in the virtual space 11. . This process corresponds to part of the process in step S1140 of FIG.

ステップS1606において、プロセッサ210は、視界画像1517をモニタ130に出力する。具体的には、プロセッサ210は、HMD120の動き(すなわち仮想カメラ14の位置および傾き)と、仮想空間11を定義する仮想空間データと、に基づいて、視界領域15に対応する視界画像1517を定義する。視界画像1517を定義することは、視界画像1517を生成することと同義である。プロセッサ210は、さらに、HMD120のモニタ130に視界画像1517を出力することによって、視界画像1517をHMD120に表示させる。当該処理は、図11のステップS1180およびS11990の処理に相当する。   In step S1606, the processor 210 outputs the view image 1517 to the monitor 130. Specifically, the processor 210 defines a view image 1517 corresponding to the view region 15 based on the movement of the HMD 120 (that is, the position and tilt of the virtual camera 14) and virtual space data defining the virtual space 11. To do. Defining the view image 1517 is synonymous with generating the view image 1517. The processor 210 further causes the HMD 120 to display the view image 1517 by outputting the view image 1517 to the monitor 130 of the HMD 120. This processing corresponds to the processing in steps S1180 and S111990 in FIG.

上述したステップS1605およびS1606の処理(すなわち、HMD120の動きに応じた視界画像1517の更新)は、後述するステップS1607〜S1610が実行される間にも、継続して繰り返し実行される。   The processes of steps S1605 and S1606 described above (that is, updating of the view image 1517 according to the movement of the HMD 120) are continuously and repeatedly performed while steps S1607 to S1610 described later are performed.

ステップS1607において、プロセッサ210は、仮想カメラ制御モジュール1422として、ユーザ5の頭部の動きに応じて、仮想カメラ14を仮想空間11において動かす。詳細には、プロセッサ210は、ユーザ5の頭部に装着されるHMD120の出力に基づいて、HMD120に連動して仮想カメラ14を動かす。   In step S1607, the processor 210 moves the virtual camera 14 in the virtual space 11 according to the movement of the head of the user 5 as the virtual camera control module 1422. Specifically, the processor 210 moves the virtual camera 14 in conjunction with the HMD 120 based on the output of the HMD 120 mounted on the head of the user 5.

ステップS1608において、プロセッサ210は、移動オブジェクト制御モジュール1424として、仮想カメラ14と移動オブジェクト1533とが第1位置関係にあるか否かを判定する。仮想空間11において移動オブジェクト1533と仮想カメラ14とが第1位置関係にあることは、例えば、仮想空間11における移動オブジェクト1533と仮想カメラ14との距離が第1距離を下回ることである。第1位置関係にない場合(ステップS1608においてNO)、ステップS1609において、プロセッサ210は、仮想カメラ14の位置変化に追随するように移動オブジェクト1533を移動させる。第1位置関係にある場合(ステップS1608においてYES)、ステップS1610において、プロセッサ210は、仮想カメラ14の位置変化に追随させずに移動オブジェクト1533を移動させる。   In step S1608, the processor 210 determines, as a moving object control module 1424, whether or not the virtual camera 14 and the moving object 1533 have a first positional relationship. That the moving object 1533 and the virtual camera 14 are in the first positional relationship in the virtual space 11 is, for example, that the distance between the moving object 1533 and the virtual camera 14 in the virtual space 11 is less than the first distance. If not in the first positional relationship (NO in step S1608), in step S1609, the processor 210 moves the moving object 1533 so as to follow the change in the position of the virtual camera 14. If it is in the first positional relationship (YES in step S1608), in step S1610, the processor 210 moves the moving object 1533 without following the position change of the virtual camera 14.

図17は、ある実施の形態に従う仮想空間11および視界画像1717を示す図である。図17(A)に示す仮想空間11において、移動オブジェクト1533は、アバターオブジェクト6から離れた位置に配置される。移動オブジェクト1533には、仮想カメラ14を標的として仮想空間11内を移動することが設定されている。仮想カメラ14と移動オブジェクト1533とは、第1位置関係にない。したがってプロセッサ210は、仮想空間11において、移動オブジェクト1533の位置から仮想カメラ14の位置に向かう移動方向1741に沿って、移動オブジェクト1533を移動させる。プロセッサ210は、図17(A)に示すように、ユーザ5の頭部の動きに応じて、仮想空間11において仮想カメラ14を、仮想空間11の天頂から底面に向かう移動方向1742に沿って、仮想空間11の底面に向かって動かす。これにより、仮想カメラ14の位置は、仮想空間11においてより下に向かうように変化する。仮想カメラ14の位置変化に応じて、仮想空間11における視界領域15の位置も変化する。   FIG. 17 is a diagram showing a virtual space 11 and a view field image 1717 according to an embodiment. In the virtual space 11 illustrated in FIG. 17A, the moving object 1533 is disposed at a position away from the avatar object 6. The moving object 1533 is set to move in the virtual space 11 with the virtual camera 14 as a target. The virtual camera 14 and the moving object 1533 are not in the first positional relationship. Therefore, the processor 210 moves the moving object 1533 in the virtual space 11 along the moving direction 1741 from the position of the moving object 1533 toward the position of the virtual camera 14. The processor 210 moves the virtual camera 14 in the virtual space 11 along the movement direction 1742 from the zenith to the bottom of the virtual space 11 according to the movement of the head of the user 5 as shown in FIG. It moves toward the bottom of the virtual space 11. As a result, the position of the virtual camera 14 changes to move downward in the virtual space 11. As the position of the virtual camera 14 changes, the position of the visual field area 15 in the virtual space 11 also changes.

プロセッサ210は、図17(A)に示す仮想空間11に対応する視界画像1717を、図17(B)に示すようにモニタ130に表示する。仮想空間11における仮想カメラ14の位置は、仮想空間11におけるアバターオブジェクト6の顔の位置に相当し、さらには、現実空間におけるユーザ5の顔の位置にも相当する。ユーザ5は、視界画像1717を視認することによって、移動オブジェクト1533が自身の目に向かって近づいてくることを認識する。これにより、仮想空間11におけるユーザ5の恐怖体験をより高めることができる。   The processor 210 displays the view image 1717 corresponding to the virtual space 11 shown in FIG. 17 (A) on the monitor 130 as shown in FIG. 17 (B). The position of the virtual camera 14 in the virtual space 11 corresponds to the position of the face of the avatar object 6 in the virtual space 11, and further corresponds to the position of the face of the user 5 in the real space. The user 5 recognizes that the moving object 1533 approaches toward his own eyes by visually recognizing the view image 1717. Thereby, the fear experience of the user 5 in the virtual space 11 can be further enhanced.

図18は、ある実施の形態に従う仮想空間11および視界画像1817を示す図である。移動オブジェクト1533は、図18(A)に示すように、仮想カメラ14に対してより近い位置まで移動する。仮想カメラ14が移動方向1742に沿って移動した結果、仮想カメラ14の位置が、図17(A)の位置よりも下に変化している。図18(A)では、仮想カメラ14と移動オブジェクト1533とは未だ第1位置関係にない。これにより、プロセッサ210は、図18(A)に示すように、移動後の移動オブジェクト1533の位置から移動後の仮想カメラ14の位置に向かう移動方向1841に沿って、移動オブジェクト1533をさらに移動させる。言い換えれば、仮想カメラ14の位置変化に追随するように移動オブジェクト1533を移動させる。プロセッサ210は、図18(A)に示す仮想空間11に対応する視界画像1817を、図18(B)に示すようにモニタ130に表示する。ユーザ5は、視界画像1817を視認することによって、ユーザ5の頭部を動かしたとしても移動オブジェクト1533がユーザ5の目を狙ってさらに近づいてくることを、認識する。   FIG. 18 shows virtual space 11 and view image 1817 according to an embodiment. The moving object 1533 moves to a position closer to the virtual camera 14 as shown in FIG. 18 (A). As a result of the virtual camera 14 moving along the moving direction 1742, the position of the virtual camera 14 changes below the position of FIG. In FIG. 18A, the virtual camera 14 and the moving object 1533 are not yet in the first positional relationship. Thereby, the processor 210 further moves the moving object 1533 along the movement direction 1841 from the position of the moving object 1533 after movement to the position of the virtual camera 14 after movement as shown in FIG. 18A. . In other words, the moving object 1533 is moved to follow the position change of the virtual camera 14. The processor 210 displays a view image 1817 corresponding to the virtual space 11 shown in FIG. 18A on the monitor 130 as shown in FIG. 18B. By visually recognizing the visual field image 1817, the user 5 recognizes that the moving object 1533 aims at the eye of the user 5 and approaches even if the head of the user 5 is moved.

この後、プロセッサ210は、ユーザ5の頭部の動きに応じて、仮想空間11の天頂から底面に向かう移動方向1842に沿って、仮想空間11の底面に向かって仮想カメラ14をさらに動かす。これにより、仮想カメラ14の位置は、より仮想空間11の下方向に向かって変化する。仮想カメラ14の位置変化に応じて、仮想空間11における視界領域15の位置もさらに変化する。プロセッサ210は、さらに、仮想カメラ14と移動オブジェクト1533とが第1位置関係になるまで、仮想カメラ14の位置変化に追随するように移動オブジェクト1533を移動させる。言い換えると、プロセッサ210は、仮想カメラ14と移動オブジェクト1533とが第1位置関係になるまで、移動オブジェクト1533が常に仮想カメラ14に向かって移動するように、仮想カメラ14の位置変化に応じて移動オブジェクト1533の移動方向を制御する。   After this, the processor 210 further moves the virtual camera 14 toward the bottom of the virtual space 11 along the movement direction 1842 from the zenith to the bottom of the virtual space 11 according to the movement of the head of the user 5. Thereby, the position of the virtual camera 14 changes further downward in the virtual space 11. As the position of the virtual camera 14 changes, the position of the visual field area 15 in the virtual space 11 further changes. The processor 210 further moves the moving object 1533 so as to follow the positional change of the virtual camera 14 until the virtual camera 14 and the moving object 1533 have a first positional relationship. In other words, the processor 210 moves in response to a change in position of the virtual camera 14 so that the moving object 1533 always moves toward the virtual camera 14 until the virtual camera 14 and the moving object 1533 have a first positional relationship. Control the moving direction of the object 1533.

プロセッサ210は、仮想カメラ14と移動オブジェクト1533との距離が第1距離以下になったことを検出し、この検出結果に応じて、仮想カメラ14と移動オブジェクト1533とが第1位置関係になったことを検出する。プロセッサ210は、仮想カメラ14と移動オブジェクト1533とが第1位置関係になった場合、移動オブジェクト1533に対する仮想カメラ14の追尾設定を取り消す。プロセッサ210は、さらに、仮想カメラ14と移動オブジェクト1533とが第1位置関係になった時点での移動オブジェクト1533の移動態様(移動速度および移動方向など)に応じた慣性を、移動オブジェクト1533に設定する。プロセッサ210は、さらに、仮想カメラ14と移動オブジェクト1533とが第1位置関係になった後、仮想空間11において移動オブジェクト1533に設定される慣性に応じて、移動オブジェクト1533をさらに移動させる。これにより、追尾目標を失った仮想カメラ14を仮想空間11内で自然な態様で移動させることができる。   The processor 210 detects that the distance between the virtual camera 14 and the moving object 1533 is equal to or smaller than the first distance, and the virtual camera 14 and the moving object 1533 are in the first positional relationship according to the detection result. Detect that. The processor 210 cancels the tracking setting of the virtual camera 14 with respect to the moving object 1533 when the virtual camera 14 and the moving object 1533 have a first positional relationship. The processor 210 further sets, to the moving object 1533, an inertia according to the moving mode (moving speed, moving direction, etc.) of the moving object 1533 when the virtual camera 14 and the moving object 1533 are in the first positional relationship. To do. The processor 210 further moves the moving object 1533 according to the inertia set in the moving object 1533 in the virtual space 11 after the virtual camera 14 and the moving object 1533 are in the first positional relationship. Thereby, the virtual camera 14 that has lost the tracking target can be moved in a natural manner in the virtual space 11.

図19は、ある実施の形態に従う仮想空間11および視界画像1917を示す図である。図19(A)では、仮想カメラ14が移動方向1842に沿って移動した結果、仮想カメラ14の位置が、図18(A)の位置よりも下に変化している。プロセッサ210は、仮想カメラ14と移動オブジェクト1533とが第1位置関係になった後、図19(A)に示すように、移動オブジェクト1533に設定される慣性に応じた移動方向1941に沿って、移動オブジェクト1533をさらに移動させる。仮想カメラ14の位置は、移動オブジェクト1533の移動方向1941に重畳していない。プロセッサ210は、仮想カメラ14の上を通り過ぎるように移動オブジェクト1533を移動させる。言い換えれば、プロセッサ210は、仮想カメラ14と移動オブジェクト1533とが第1位置関係になった後、仮想カメラ14の位置変化に追随させずに移動オブジェクト1533を移動させる。これにより、移動オブジェクト1533が常に仮想カメラ14に向かって移動することによって、ユーザ5が移動オブジェクト1533の衝突を避けることが決してできなくなることが、防止される。   FIG. 19 shows virtual space 11 and view image 1917 according to an embodiment. In FIG. 19A, as a result of the virtual camera 14 moving along the movement direction 1842, the position of the virtual camera 14 has changed below the position of FIG. After the virtual camera 14 and the moving object 1533 become in the first positional relationship, the processor 210 moves along the moving direction 1941 according to the inertia set in the moving object 1533 as shown in FIG. 19A. The moving object 1533 is further moved. The position of the virtual camera 14 is not superimposed on the moving direction 1941 of the moving object 1533. The processor 210 moves the moving object 1533 so as to pass over the virtual camera 14. In other words, the processor 210 moves the moving object 1533 without following the position change of the virtual camera 14 after the virtual camera 14 and the moving object 1533 are in the first positional relationship. Thereby, it is prevented that the user 5 can never avoid the collision of the moving object 1533 by constantly moving the moving object 1533 toward the virtual camera 14.

図19(A)では、仮想カメラ14は、移動オブジェクト1533の移動方向1941に重畳していない。したがって、移動オブジェクト1533が移動方向1941に沿ってどれだけ移動したとしても、移動オブジェクト1533は仮想カメラ14に衝突しない。言い換えれば、ユーザ5は、移動オブジェクト1533を仮想カメラ14に十分に引き付けてからユーザ5の頭部を巧みに動かすことによって、仮想カメラ14に対する移動オブジェクト1533の衝突を回避することができる。このように、HMDシステム100は、仮想空間11に対するユーザ5の没入感をより高めることができる。   In FIG. 19A, the virtual camera 14 is not superimposed on the moving direction 1941 of the moving object 1533. Therefore, the moving object 1533 does not collide with the virtual camera 14 no matter how much the moving object 1533 moves along the moving direction 1941. In other words, the user 5 can avoid the collision of the moving object 1533 with the virtual camera 14 by sufficiently attracting the moving object 1533 to the virtual camera 14 and then moving the head of the user 5 skillfully. Thus, the HMD system 100 can further enhance the sense of immersion of the user 5 with respect to the virtual space 11.

プロセッサ210は、図19(A)に示す仮想空間11に対応する視界画像1917を、図19(B)に示すようにモニタ130に表示する。図19(A)に示す仮想空間11において、移動オブジェクト1533は視界領域15の外部に配置されるので、視界領域15に対応する視界画像1917には移動オブジェクト1533が含まれない。ユーザ5は、視界画像1917を視認することによって、移動オブジェクト1533が一定距離までユーザ5の目に近づいた後にユーザ5が頭部を動かした結果、移動オブジェクト1533がアバターオブジェクト6に衝突せずにユーザ5の頭部の上側を通り過ぎたことを、認識する。言い換えると、ユーザ5は、移動オブジェクト1533の衝突を回避できたことを認識する。   The processor 210 displays the view image 1917 corresponding to the virtual space 11 shown in FIG. 19A on the monitor 130 as shown in FIG. 19B. In the virtual space 11 shown in FIG. 19A, since the moving object 1533 is arranged outside the visual field area 15, the visual object image 1917 corresponding to the visual field area 15 does not include the moving object 1533. The user 5 does not collide with the avatar object 6 as a result of the user 5 moving the head after the moving object 1533 approaches the eye of the user 5 to a certain distance by visually recognizing the view image 1917. It is recognized that the user has passed the upper side of the head. In other words, the user 5 recognizes that the collision of the moving object 1533 has been avoided.

プロセッサ210は、移動オブジェクト1533が視界領域15内に配置される場合に限り、移動オブジェクト1533と仮想カメラ14とが第1位置関係になるまで、仮想カメラ14の位置変化に追従するように移動オブジェクト1533を移動させてもよい。言い換えれば、プロセッサ210は、移動オブジェクト1533が視界領域15外に配置される場合、移動オブジェクト1533と仮想カメラ14とが第1位置関係にあるか否かに関わらず、仮想カメラ14の位置変化に追随しないように移動オブジェクト1533を移動させる。これにより、ゲームの興趣性をより高めることができる。   The processor 210 moves the moving object 1533 so as to follow the change in the position of the virtual camera 14 until the moving object 1533 and the virtual camera 14 are in the first positional relationship only when the moving object 1533 is arranged in the view field 15. You may move 1533. In other words, when the moving object 1533 is disposed outside the view area 15, the processor 210 changes the position of the virtual camera 14 regardless of whether the moving object 1533 and the virtual camera 14 are in the first positional relationship. The moving object 1533 is moved so as not to follow. Thereby, the interest property of a game can be improved more.

図20は、ある実施の形態に従う仮想空間11、視界画像2017R、および視界画像2017Lを表す図である。図20(A)では、移動オブジェクト1533および仮想カメラ14が仮想空間11に配置される。仮想空間11において、移動オブジェクト1533は、仮想カメラ14から離れた位置に配置される。移動オブジェクト1533には、仮想カメラ14を標的として仮想空間11において移動することが設定されている。さらに、仮想カメラ14と移動オブジェクト1533とは、第1位置関係にない。したがって、プロセッサ210は、図20(A)に示す仮想空間11において、移動オブジェクト1533の位置から仮想カメラ14の位置に向かう方向2041に沿って、移動オブジェクト1533を移動させる。   FIG. 20 is a diagram representing a virtual space 11, a view image 2017R, and a view image 2017L according to an embodiment. In FIG. 20A, the moving object 1533 and the virtual camera 14 are arranged in the virtual space 11. In the virtual space 11, the moving object 1533 is arranged at a position away from the virtual camera 14. The moving object 1533 is set to move in the virtual space 11 with the virtual camera 14 as a target. Furthermore, the virtual camera 14 and the moving object 1533 are not in the first positional relationship. Therefore, the processor 210 moves the moving object 1533 along the direction 2041 from the position of the moving object 1533 toward the position of the virtual camera 14 in the virtual space 11 illustrated in FIG.

仮想カメラ14は、視界画像2017をモニタ130に出力する機能に対応する。視界画像2017は、立体視差に対応する右目用の視界画像2017R(第1視界画像)および左目用の視界画像2017L(第2視界画像)からなる。仮想カメラ14に対応する機能は、視界画像2017Rをモニタ130に出力する第1機能および視界画像2017Lをモニタ130に出力する第2機能を含む。機能の制限とは、例えば、視界画像2017Rおよび視界画像2017Lのいずれかの出力を停止することである。   The virtual camera 14 corresponds to a function of outputting the view field image 2017 to the monitor 130. The view image 2017 includes a right-eye view image 2017R (first view image) and a left-eye view image 2017L (second view image) corresponding to stereoscopic parallax. The functions corresponding to the virtual camera 14 include a first function of outputting the view image 2017R to the monitor 130 and a second function of outputting the view image 2017L to the monitor 130. The function limitation is, for example, stopping the output of either the visibility image 2017R or the visibility image 2017L.

図20(A)に示す仮想空間11において、移動オブジェクト1533は仮想カメラ14に衝突していない。したがって、仮想カメラ14に対応する機能は制限されない。プロセッサ210は、仮想カメラ14に対応する機能が制限されるまで、図20(A)に示す仮想空間11に対応する視界画像2017Rおよび視界画像2017Lを、図20(B)に示すようにそれぞれモニタ130に出力する。ユーザ5は、視界画像2017Rを右目で視認すると共に、視界画像2017Lを左目で視認する。これにより、ユーザ5は、モニタ130に3次元表示される視界画像2017を視認することができる。   In the virtual space 11 shown in FIG. 20A, the moving object 1533 has not collided with the virtual camera 14. Therefore, the function corresponding to the virtual camera 14 is not limited. The processor 210 monitors the view image 2017R and the view image 2017L corresponding to the virtual space 11 shown in FIG. 20A as shown in FIG. 20B until the function corresponding to the virtual camera 14 is restricted. To 130. The user 5 visually recognizes the visibility image 2017R with the right eye, and visually recognizes the visibility image 2017L with the left eye. Thereby, the user 5 can visually recognize the view image 2017 three-dimensionally displayed on the monitor 130.

図21は、ある実施の形態に従う仮想空間11および視界画像2017Rを表す図である。図21(A)の例では、仮想空間11において移動オブジェクト1533が移動した結果、移動オブジェクト1533は仮想カメラ14の左側に衝突する。このような衝突は、例えば、移動オブジェクト1533が仮想カメラ14を狙って移動開始した後、ユーザ5が移動オブジェクト1533の衝突を避けようとしたが避けきれなかった場合に起こる。プロセッサ210は、移動オブジェクト1533が仮想カメラ14の左側に衝突したことに応じて、仮想カメラ14に対応する第2機能を制限する。プロセッサ210は、第2機能が制限されたことに応じて、図21(B)に示すように、モニタ130に対する視界画像2017Lの出力を停止すると共に、モニタ130に対する視界画像2017Rの出力は継続する。   FIG. 21 shows virtual space 11 and field-of-view image 2017R according to an embodiment. In the example of FIG. 21A, as a result of the moving object 1533 moving in the virtual space 11, the moving object 1533 collides with the left side of the virtual camera 14. Such a collision occurs, for example, when the user 5 tries to avoid the collision of the moving object 1533 after the moving object 1533 starts moving for aiming at the virtual camera 14 but can not be avoided. The processor 210 restricts the second function corresponding to the virtual camera 14 in response to the moving object 1533 colliding with the left side of the virtual camera 14. The processor 210 stops the output of the view image 2017L to the monitor 130 and continues the output of the view image 2017R to the monitor 130 as shown in FIG. 21B in response to the second function being restricted. .

第2機能の制限後、ユーザ5は、視界画像2017Rを右目で視認するが、左目では視界画像2017Lを視認しない。これにより、ユーザ5によって視認される視界画像が、3次元表示される視界画像2017から2次元表示される視界画像2017に切り替わる。この結果、ユーザ5は、視界画像2017の遠近感を得にくくなるので、ゲームにおける自身の立場が不利になったことを自覚する。プロセッサ210は、視界画像2017Lを出力する第2機能を制限する場合、ユーザ5の頭部の動きに連動して仮想カメラ14の傾きおよび位置を制御する機能は制限しない。したがって、ユーザ5が頭部を傾けたり移動させたりすると、プロセッサ210はそれに応じて仮想カメラ14の傾きおよび位置を制御する。   After restriction of the second function, the user 5 visually recognizes the visibility image 2017R with the right eye, but does not visually recognize the visibility image 2017L with the left eye. Thereby, the view image visually recognized by the user 5 is switched from the view image 2017 displayed three-dimensionally to the view image 2017 displayed two-dimensionally. As a result, since it becomes difficult for the user 5 to obtain a sense of perspective of the view image 2017, he / she notices that his own position in the game has become disadvantageous. When the processor 210 restricts the second function of outputting the view field image 2017L, the processor 210 does not restrict the function of controlling the tilt and position of the virtual camera 14 in conjunction with the movement of the head of the user 5. Thus, when the user 5 tilts or moves his head, the processor 210 controls the tilt and position of the virtual camera 14 accordingly.

仮想カメラ14の左側は、アバターオブジェクト6の左目に相当する。プロセッサ210は、移動オブジェクト1533を仮想カメラ14の左側に衝突させた場合、あたかもユーザ5の自身の左目に移動オブジェクト1533が衝突したかのような感覚をユーザ5に与えることができる。これにより、ユーザ5に対してより強い恐怖感を与えることができる。プロセッサ210は、さらに、移動オブジェクト1533の衝突後にユーザ5の左目による視界画像2017Lの視認をできなくすることによって、移動オブジェクト1533の衝突によってあたかもユーザ5の左目が実際に見えなくなったかのような感覚を、ユーザ5に与えることができる。これらのことから、ユーザ5は、移動オブジェクト1533がアバターオブジェクト6の左目に衝突しないように、仮想空間11において巧みに行動しようとする動機を持つことができる。このように、HMDシステム100は、仮想空間11に対するユーザ5の没入覚をより高めることができる。   The left side of the virtual camera 14 corresponds to the left eye of the avatar object 6. When the moving object 1533 collides with the left side of the virtual camera 14, the processor 210 can give the user 5 a feeling as if the moving object 1533 collided with the user's own left eye. Thereby, a stronger fear can be given to the user 5. The processor 210 further prevents the user 5 from seeing the visibility image 2017L by the left eye of the user 5 after the collision of the moving object 1533, so that the user 5 feels as if the left eye of the user 5 actually disappeared by the collision of the moving object 1533. , Can be given to the user 5. From these things, the user 5 can have a motivation to act skillfully in the virtual space 11 so that the moving object 1533 does not collide with the left eye of the avatar object 6. As described above, the HMD system 100 can further enhance the sense of immersion of the user 5 with respect to the virtual space 11.

プロセッサ210は、仮想カメラ14の右側に移動オブジェクト1533が衝突したことに応じて、仮想カメラ14に対応する第1機能を制限することができる。プロセッサ210は、第1機能が制限された場合、モニタ130に対する視界画像2017Rの出力を停止すると共に、モニタ130に対する視界画像2017Lの出力は継続する。ユーザ5は、左目で視界画像2017Rを視認するが、右目では視界画像2017Rを視認しない。この結果、ユーザ5によって視認される視界画像2017が、3次元表示される視界画像2017から2次元表示される視界画像2017に切り替わる。したがって、プロセッサ210は、移動オブジェクト1533の衝突によってあたかもユーザ5の右目が実際に見えなくなったかのような感覚を、ユーザ5に与えることができる。   The processor 210 can limit the first function corresponding to the virtual camera 14 in response to the collision of the moving object 1533 with the right side of the virtual camera 14. The processor 210 stops outputting the visibility image 2017R to the monitor 130 when the first function is restricted, and continues outputting the visibility image 2017L to the monitor 130. The user 5 views the view image 2017R with the left eye, but does not view the view image 2017R with the right eye. As a result, the view image 2017 visually recognized by the user 5 is switched from the view image 2017 displayed three-dimensionally to the view image 2017 displayed two-dimensionally. Therefore, the processor 210 can give the user 5 a feeling as if the right eye of the user 5 has actually disappeared due to the collision of the moving object 1533.

プロセッサ210は、移動オブジェクト1533が操作オブジェクトを標的として仮想空間11において移動することを、移動オブジェクト1533に設定することもできる。プロセッサ210は、例えば、仮想左手1521Lを標的として仮想空間11において移動することを、移動オブジェクト1533に設定する。この場合、プロセッサ210は、仮想左手1521Lと移動オブジェクト1533とが第1位置関係になるまで、仮想左手1521Lの位置変化に追随するように移動オブジェクト1533を移動させる。プロセッサ210は、さらに、仮想左手1521Lと移動オブジェクト1533とが第1位置関係になった後、仮想左手1521Lの位置変化に追随させずに移動オブジェクト1533を移動させる。このような移動制御によっても、仮想空間11に対するユーザ5の没入感を高めることができる。   The processor 210 can set in the moving object 1533 that the moving object 1533 moves in the virtual space 11 with the operation object as a target. For example, the processor 210 sets the moving object 1533 to move in the virtual space 11 with the virtual left hand 1521L as a target. In this case, the processor 210 moves the moving object 1533 so as to follow the position change of the virtual left hand 1521L until the virtual left hand 1521L and the moving object 1533 are in the first positional relationship. Further, after the virtual left hand 1521L and the moving object 1533 are in the first positional relationship, the processor 210 moves the moving object 1533 without following the position change of the virtual left hand 1521L. Such movement control can also enhance the sense of immersion of the user 5 in the virtual space 11.

図22は、ある実施の形態に従う仮想空間11を表す図である。図22では、プロセッサ210が移動オブジェクト1533を移動させた結果、仮想左手1521Lと移動オブジェクト1533とが衝突している。このような衝突は、例えば、移動オブジェクト1533が仮想左手1521Lを狙って移動開始した後、ユーザ5が移動オブジェクト1533の衝突を避けようと試みたが避けきれなかった場合に、起こり得る。プロセッサ210は、仮想左手1521Lと移動オブジェクト1533との衝突に応じて、仮想左手1521Lに対応する機能を制限する。このとき制限される機能は、例えば、ユーザ5の左手の動きに応じて仮想左手1521Lを動かす機能である。   FIG. 22 is a diagram illustrating virtual space 11 according to an embodiment. In FIG. 22, as a result of the processor 210 moving the moving object 1533, the virtual left hand 1521L and the moving object 1533 collide with each other. Such a collision may occur, for example, when the user 5 tries to avoid the collision of the moving object 1533 after the moving object 1533 starts moving aiming at the virtual left hand 1521 L but can not be avoided. The processor 210 restricts the function corresponding to the virtual left hand 1521 L in response to the collision between the virtual left hand 1521 L and the moving object 1533. The function to be limited at this time is, for example, a function to move the virtual left hand 1521 L in accordance with the movement of the user 5's left hand.

図22では、仮想右手1521Rおよび仮想左手1521Lに、それぞれ体力パラメータが設定される。体力パラメータは、一定範囲内のいずれかの値を取り得る。プロセッサ210は、衝突検出モジュール1425として、仮想左手1521Lと移動オブジェクト1533との衝突を検出する。プロセッサ210は、仮想左手1521Lと操作オブジェクトとの衝突に基づいて、仮想左手1521Lに設定されるパラメータの値を減少させる。   In FIG. 22, physical strength parameters are set for the virtual right hand 1521R and the virtual left hand 1521L, respectively. The physical strength parameter can take any value within a certain range. The processor 210 detects a collision between the virtual left hand 1521L and the moving object 1533 as the collision detection module 1425. The processor 210 decreases the value of the parameter set in the virtual left hand 1521 L based on the collision between the virtual left hand 1521 L and the operation object.

図23は、ある実施の形態に従う仮想空間11を表す図である。プロセッサ210は、仮想左手1521Lに設定されるパラメータの値が第1閾値を下回った場合、図23に示すように、仮想左手1521Lに対応する機能を制限する。プロセッサ210は、仮想左手1521Lに対応する機能が制限されたことに応じて、仮想左手1521Lの表示態様を、機能が制限される前の態様と異ならせる。図23では、プロセッサ210は、仮想左手1521Lの表示態様を、仮想左手1521Lを動かす機能が制限されたことをユーザ5に直感的に把握させる態様に、変化させる。   FIG. 23 is a diagram illustrating virtual space 11 according to an embodiment. When the parameter value set in the virtual left hand 1521L falls below the first threshold, the processor 210 restricts the function corresponding to the virtual left hand 1521L as shown in FIG. The processor 210 makes the display mode of the virtual left hand 1521L different from the mode before the function is limited in response to the function corresponding to the virtual left hand 1521L being limited. In FIG. 23, the processor 210 changes the display mode of the virtual left hand 1521L to a mode in which the user 5 intuitively recognizes that the function of moving the virtual left hand 1521L is limited.

図23では、仮想左手1521Lを動かす機能が制限されている。プロセッサ210は、仮想左手1521Lを動かす機能が制限された後、図23に示すように、ユーザ5の左手の動きに応じて仮想左手1521Lを動かさない。詳細には、図23に示す仮想空間11における仮想左手1521Lの位置は、ユーザ5が左手を動かす前の図22に示す仮想空間11における仮想左手1521Lの位置と、同一である。   In FIG. 23, the function of moving the virtual left hand 1521L is restricted. After the function of moving the virtual left hand 1521L is limited, the processor 210 does not move the virtual left hand 1521L according to the movement of the left hand of the user 5, as shown in FIG. Specifically, the position of the virtual left hand 1521L in the virtual space 11 shown in FIG. 23 is the same as the position of the virtual left hand 1521L in the virtual space 11 shown in FIG. 22 before the user 5 moves the left hand.

ユーザ5は、図23に示す仮想空間11に対応する視界画像17を視認することによって、仮想左手1521Lと移動オブジェクト1533との衝突の結果、仮想左手1521Lに対応する機能が制限されたことを認識する。プロセッサ210は、仮想左手1521Lが動かない視界画像17を出力することによって、よりリアルなダメージを受けた感覚をユーザ5に生じさせることができる。プロセッサ210は、さらに、ユーザ5の左手の動きに応じて仮想左手1521Lを動かす機能を停止することによって、ダメージを受けたユーザ5が仮想空間11における敵キャラクタとの戦闘において不利になることを、よりリアルに演出することができる。この演出に応じて、ユーザ5は、移動オブジェクト1533が仮想左手1521Lに衝突することをより積極的に回避するように、行動する。このように、HMDシステム100は、仮想空間11に対するユーザ5の没入感をより高めることができる。   The user 5 recognizes that the function corresponding to the virtual left hand 1521L is restricted as a result of the collision between the virtual left hand 1521L and the moving object 1533 by visually recognizing the view image 17 corresponding to the virtual space 11 shown in FIG. To do. The processor 210 can cause the user 5 to feel more realistically damaged by outputting the view image 17 in which the virtual left hand 1521 L does not move. The processor 210 further causes the damaged user 5 to be disadvantageous in the battle with the enemy character in the virtual space 11 by stopping the function of moving the virtual left hand 1521 L according to the movement of the user 5's left hand. It is possible to produce more realistically. In response to this effect, the user 5 acts so as to more positively avoid the moving object 1533 colliding with the virtual left hand 1521L. Thus, the HMD system 100 can further enhance the sense of immersion of the user 5 with respect to the virtual space 11.

以上、本開示の実施形態について説明したが、本発明の技術的範囲は、本実施形態の説明によって限定的に解釈されるべきではない。本実施形態は一例であって、特許請求の範囲に記載された発明の範囲内において、様々な実施形態の変更が可能であることが当業者によって理解されるところである。本発明の技術的範囲は、特許請求の範囲に記載された発明の範囲およびその均等の範囲に基づいて定められるべきである。   As mentioned above, although embodiment of this indication was described, the technical scope of this invention should not be limitedly interpreted by description of this embodiment. This embodiment is an example, and it is understood by those skilled in the art that various modifications can be made within the scope of the invention described in the claims. The technical scope of the present invention should be determined based on the scope of the invention described in the claims and the equivalents thereof.

プロセッサ210は、仮想カメラ14に体力パラメータを設定することができる。この場合、プロセッサ210は、仮想空間11において移動オブジェクト1533を移動させる。この移動態様に特に制限はない。プロセッサ210は、移動オブジェクト1533と仮想カメラ14とが第1位置関係になるまで、移動オブジェクト1533を仮想カメラ14の位置変化に追随するように移動させることができる。プロセッサ210は、移動オブジェクト1533と仮想カメラ14とが第1位置関係になるか否かに関わらず、移動オブジェクト1533を仮想カメラ14の位置変化に常に追随するように移動させることができる。プロセッサ210は、移動オブジェクト1533に設定される慣性に常に基づいて、移動オブジェクト1533を移動させることもできる。   The processor 210 can set the physical fitness parameter for the virtual camera 14. In this case, the processor 210 moves the moving object 1533 in the virtual space 11. There is no restriction in particular in this movement mode. The processor 210 can move the moving object 1533 to follow the change in the position of the virtual camera 14 until the moving object 1533 and the virtual camera 14 are in the first positional relationship. The processor 210 can move the moving object 1533 so as to always follow the position change of the virtual camera 14 regardless of whether or not the moving object 1533 and the virtual camera 14 are in the first positional relationship. The processor 210 can also move the moving object 1533 based on the inertia set for the moving object 1533 at all times.

プロセッサ210は、仮想空間11における移動オブジェクト1533の移動に応じて、仮想カメラ14に設定される体力パラメータの値を減少させる。プロセッサ210は、例えば、移動オブジェクト1533と仮想カメラ14との衝突に応じて、体力パラメータの値を減少させる。プロセッサ210は、体力パラメータが第1閾値を下回る場合、仮想カメラ14に対応する機能を制限する。仮想カメラ14に対応する機能とは、モニタ130に視界画像2017を出力する機能である。機能は、上述した第1機能および第2機能を含む。視界画像17は、立体視差に対応する右目用の視界画像2017Rおよび左目用の視界画像2017Lからなる。機能の制限とは、例えば、視界画像2017Rおよび視界画像2017Lのいずれかの出力を停止することである。   The processor 210 decreases the value of the physical strength parameter set to the virtual camera 14 in accordance with the movement of the moving object 1533 in the virtual space 11. For example, the processor 210 decreases the value of the physical strength parameter in accordance with the collision between the moving object 1533 and the virtual camera 14. The processor 210 limits the function corresponding to the virtual camera 14 if the strength parameter falls below the first threshold. The function corresponding to the virtual camera 14 is a function of outputting the view field image 2017 to the monitor 130. The functions include the first function and the second function described above. The view image 17 includes a view image 2017R for the right eye and a view image 2017L for the left eye corresponding to the stereoscopic parallax. The function limitation is, for example, stopping the output of either the visibility image 2017R or the visibility image 2017L.

プロセッサ210は、仮想カメラ14の右側に第1体力パラメータを設定し、仮想カメラ14の左側に第2体力パラメータを設定する。第2体力パラメータは第1体力パラメータから独立している。第1体力パラメータは第1機能に対応し、第2体力パラメータは第2機能に対応する。プロセッサ210は、第1体力パラメータが第1閾値を下回った場合、第1機能を制限し、第2体力パラメータが第2閾値を下回った場合、第2機能を制限する。   The processor 210 sets a first strength parameter to the right of the virtual camera 14 and sets a second strength parameter to the left of the virtual camera 14. The second strength parameter is independent of the first strength parameter. The first physical strength parameter corresponds to the first function, and the second physical strength parameter corresponds to the second function. The processor 210 restricts the first function when the first strength parameter falls below the first threshold, and restricts the second function when the second strength parameter falls below the second threshold.

プロセッサ210は、仮想カメラ14に対応する機能を制限する場合、第1機能および第2機能のうちいずれかを制限する。プロセッサ210は、第1機能が制限された場合、モニタ130に対する視界画像2017Rの出力を停止すると共に、視界画像2017Lの出力は継続する。プロセッサ210は、第2機能が制限された場合、モニタ130に対する視界画像2017Lの出力を停止すると共に、視界画像2017Rの出力は継続する。   When the function corresponding to the virtual camera 14 is restricted, the processor 210 restricts one of the first function and the second function. The processor 210 stops the output of the view image 2017R to the monitor 130 and continues the output of the view image 2017L when the first function is limited. The processor 210 stops the output of the view image 2017L to the monitor 130 and continues the output of the view image 2017R when the second function is limited.

〔付記事項〕
本発明の一側面に係る内容を列記すると以下のとおりである。
[Items to be added]
The contents according to one aspect of the present invention are listed as follows.

(項目1) プログラムを説明した。本開示のある局面によれば、プログラムは、ユーザ5の頭部に関連付けられた画像表示装置(HMD120)を介して仮想体験をユーザに提供するために、プロセッサ210を備えたコンピュータ200によって実行される。プログラムは、プロセッサに、仮想体験をユーザに提供するための仮想空間11を定義するステップ(S1601)と、ユーザの身体の一部の動きに連動する第1オブジェクト(仮想カメラ14)を仮想空間に生成するステップ(S1602)と、身体の一部の動きに応じて、第1オブジェクトを動かすステップ(S1607)と、第2オブジェクト(移動オブジェクト1533)を仮想空間に生成するステップ(S1604)と、第1オブジェクトと第2オブジェクトとが第1位置関係になるまで、第1オブジェクトの位置変化に追随するように第2オブジェクトを移動させ、第1オブジェクトと第2オブジェクトとが第1位置関係になった後、第1オブジェクトの位置変化に追随させずに第2オブジェクトを移動させるステップ(S1609,S1610)と、仮想空間内における仮想視点(仮想カメラ14)からの視界(視界領域15)に対応する視界画像1517を定義するステップ(S1606)と、視界画像を画像表示装置に出力するステップ(S1606)とを実行させる。   (Item 1) The program was explained. According to one aspect of the present disclosure, a program is executed by a computer 200 comprising a processor 210 to provide a virtual experience to a user via an image display device (HMD 120) associated with the head of the user 5. The The program defines a virtual space 11 for providing the user with a virtual experience in the processor (S1601), and a first object (virtual camera 14) linked to the movement of a part of the user's body in the virtual space. The step of generating (S1602), the step of moving the first object according to the movement of a part of the body (S1607), the step of generating the second object (moving object 1533) in the virtual space (S1604), The second object is moved so as to follow the change in position of the first object until the first object and the second object are in the first positional relation, and the first object and the second object are in the first positional relation. Thereafter, the step of moving the second object without following the position change of the first object (S16). 9, S1610), defining (S1606) a view image 1517 corresponding to the view (view area 15) from the virtual view (virtual camera 14) in the virtual space, and outputting the view image to the image display device And (S1606).

(項目2) (項目1)において、プログラムは、プロセッサに、第1オブジェクトと第2オブジェクトとの衝突に応じて、第1オブジェクトに対応する機能を制限するステップをさらに実行させる。   (Item 2) In (Item 1), the program further causes the processor to execute a step of restricting a function corresponding to the first object in accordance with a collision between the first object and the second object.

(項目3) (項目2)において、第1オブジェクトにパラメータが設定されており、プログラムは、プロセッサに、第1オブジェクトと第2オブジェクトとの衝突に応じて、パラメータの値を減少させるステップをさらに実行させ、機能を制限するステップにおいて、パラメータの値が第1閾値を下回った場合、機能を制限する。   (Item 3) In (Item 2), a parameter is set for the first object, and the program further includes a step of causing the processor to decrease the value of the parameter in response to a collision between the first object and the second object. In the step of executing and limiting the function, if the value of the parameter falls below the first threshold, the function is limited.

(項目4) (項目2)または(項目3)において、ユーザの身体の一部は、ユーザの頭部であり、第1オブジェクトは、仮想カメラであり、仮想視点からの視界は、仮想カメラからの視界であり、機能を制限するステップにおいて、視界画像を出力する機能を制限する。   (Item 4) In (Item 2) or (Item 3), the part of the user's body is the user's head, the first object is the virtual camera, and the view from the virtual viewpoint is from the virtual camera. In the step of restricting the function, the function of outputting the view field image is restricted.

(項目5) (項目4)において、視界画像は、立体視差に対応する右目用の第1視界画像(2017R)および左目用の第2視界画像(2017L)からなり、機能は、第1視界画像を出力する第1機能および第2視界画像を出力する第2機能を含み、機能を制限するステップにおいて、第1機能および第2機能のうちいずれかを制限し、視界画像を出力するステップにおいて、機能が制限されるまで、第1視界画像および左目用の第2視界画像を画像表示装置に出力し、第1機能が制限された場合、第1視界画像の出力を停止し、第2機能が制限された場合、第2視界画像の出力を停止する。   (Item 5) In (Item 4), the view image is composed of a first view image (2017 R) for the right eye and a second view image (2017 L) for the left eye corresponding to stereoscopic parallax, and the function is the first view image In the step of limiting the function in the step of limiting the function and outputting the visual field image in the step of limiting the function, the first function of outputting the second visual field image and the second function of outputting the second visual field image The first view image and the second view image for the left eye are output to the image display device until the function is limited, and when the first function is limited, the output of the first view image is stopped, and the second function When it is restricted, the output of the second view image is stopped.

(項目6) 項目(4)または項目(5)において、プログラムは、プロセッサに、ユーザの頭部の姿勢に応じて、仮想カメラからの視界の向きを制御するステップをさらに実行させる。   (Item 6) In item (4) or item (5), the program causes the processor to further execute a step of controlling the direction of the field of view from the virtual camera according to the posture of the user's head.

(項目7) (項目2)または(項目3)において、ユーザの身体の一部は、ユーザの手であり、第1オブジェクトは、仮想手(仮想左手1521L)であり、第1オブジェクトを動かすステップにおいて、機能が制限された後、ユーザの手の動きに応じて仮想手を動かさない。   (Item 7) In (Item 2) or (Item 3), the part of the user's body is the user's hand, and the first object is the virtual hand (virtual left hand 1521 L), and the step of moving the first object , After the function is limited, the virtual hand is not moved according to the movement of the user's hand.

(項目8) (項目1)〜(項目7)のいずれかにおいて、第2オブジェクトを移動させるステップにおいて、第1オブジェクトと第2オブジェクトとが第1位置関係になった後、仮想空間内において第2オブジェクトに設定される慣性に応じて、第2オブジェクトをさらに移動させる。   (Item 8) In any one of (Item 1) to (Item 7), in the step of moving the second object, after the first object and the second object are in the first positional relationship, the second object is moved in the virtual space. The second object is further moved according to the inertia set for the two objects.

(項目9) 情報処理装置を説明した。本開示のある局面によると、情報処理装置(コンピュータ200)は、情報処理装置によって実行されるプログラムを記憶する記憶部(ストレージ230)と、情報処理装置の動作を制御する制御部(プロセッサ210)と、を備えている。制御部は、仮想体験をユーザ5に提供するための仮想空間11を定義し、ユーザの身体の一部の動きに連動する第1オブジェクト(仮想カメラ14)を仮想空間に生成し、身体の一部の動きに応じて、第1オブジェクトを動し、第2オブジェクト(移動オブジェクト1533)を仮想空間に生成し、第1オブジェクトと第2オブジェクトとが第1位置関係になるまで、第1オブジェクトの位置変化に追随するように第2オブジェクトを移動させ、第1オブジェクトと第2オブジェクトとが第1位置関係になった後、第1オブジェクトの位置変化に追随させずに第2オブジェクトを移動させ、仮想空間内における仮想視点(仮想カメラ14)からの視界に対応する視界画像1517を定義し、視界画像を画像表示装置に出力する。   (Item 9) The information processing apparatus has been described. According to an aspect of the present disclosure, the information processing apparatus (computer 200) includes a storage unit (storage 230) that stores a program executed by the information processing apparatus, and a control unit (processor 210) that controls the operation of the information processing apparatus. And. The control unit defines a virtual space 11 for providing a virtual experience to the user 5, generates a first object (virtual camera 14) linked to a movement of a part of the user's body in the virtual space, and The first object is moved according to the movement of the part, the second object (moving object 1533) is generated in the virtual space, and the first object and the second object are in the first positional relationship until the first object is in the first positional relationship. Moving the second object so as to follow the positional change, and after the first object and the second object become in the first positional relationship, moving the second object without following the positional change of the first object, A view image 1517 corresponding to the view from the virtual view (virtual camera 14) in the virtual space is defined, and the view image is output to the image display device.

(項目10) プログラムを実行する方法を説明した。本開示のある局面によると、プログラムは、ユーザ5の頭部に関連付けられた画像表示装置(HMD120)を介して仮想体験をユーザに提供するために、プロセッサ210を備えたコンピュータ200によって実行される。プログラムは、プロセッサが、仮想体験をユーザに提供するための仮想空間11を定義するステップ(S1601)と、ユーザの身体の一部の動きに連動する第1オブジェクト(仮想カメラ14)を仮想空間に生成するステップと、身体の一部の動きに応じて、第1オブジェクトを動かすステップ(S1607)と、第2オブジェクト(移動オブジェクト1533)を仮想空間に生成するステップ(S1604)と、第1オブジェクトと第2オブジェクトとが第1位置関係になるまで、第1オブジェクトの位置変化に追随するように第2オブジェクトを移動させ、第1オブジェクトと第2オブジェクトとが第1位置関係になった後、第1オブジェクトの位置変化に追随させずに第2オブジェクトを移動させるステップ(S1609,S1610)と、仮想空間内における仮想視点(仮想カメラ14)からの視界(視界領域15)に対応する視界画像1517を定義するステップ(S1606)と、視界画像を画像表示装置に出力するステップ(S1606)と、を含む。   (Item 10) A method of executing a program has been described. According to one aspect of the present disclosure, a program is executed by a computer 200 equipped with a processor 210 to provide a virtual experience to a user via an image display device (HMD 120) associated with the head of the user 5. . In the program, the processor defines a virtual space 11 for providing a virtual experience to the user (S1601), and the first object (virtual camera 14) linked to the movement of a part of the user's body in the virtual space. Generating a second object (moving object 1533) in a virtual space (S1604); moving the first object according to the movement of a part of the body (S1607); The second object is moved so as to follow the change in the position of the first object until the second object is in the first positional relationship. After the first object and the second object are in the first positional relationship, 1) move the second object without following the position change of the object (S1609, S161 ), Defining a view image 1517 corresponding to the view (view area 15) from the virtual view (virtual camera 14) in the virtual space (S1606), and outputting the view image to the image display device (S1606) And including.

(項目11) プログラムを説明した。本開示のある局面によれば、プログラムは、ユーザ5の頭部に関連付けられた画像表示装置(HMD120)を介して仮想体験をユーザに提供するために、プロセッサ210を備えたコンピュータ200によって実行される。プログラムは、プロセッサに、仮想体験をユーザに提供するための仮想空間11を定義するステップと、ユーザの頭部の動きに応じて、仮想空間内において仮想カメラを動かすステップと、ユーザの頭部の姿勢と仮想空間における仮想カメラの位置とに応じて、仮想空間における仮想カメラからの視界(視界領域15)を制御するステップと、仮想空間内において仮想カメラに向けて第2オブジェクト(移動オブジェクト1533)を移動させるステップと、仮想カメラからの視界に対応する視界画像2017を定義するステップと、視界画像を画像表示装置に出力するステップと、第2オブジェクトの移動に応じて、仮想カメラに設定されるパラメータの値を減少させるステップと、パラメータの値が第1閾値を下回る場合、視界画像を出力する機能を制限するステップとを実行させる。   (Item 11) The program was explained. According to one aspect of the present disclosure, a program is executed by a computer 200 comprising a processor 210 to provide a virtual experience to a user via an image display device (HMD 120) associated with the head of the user 5. The The program includes defining a virtual space 11 for providing a virtual experience to the user to the processor, moving a virtual camera in the virtual space in accordance with the movement of the user's head, Controlling the field of view (field of view area 15) from the virtual camera in the virtual space according to the posture and the position of the virtual camera in the virtual space, and a second object (moving object 1533) toward the virtual camera in the virtual space Are set in the virtual camera according to the movement of the second object, the step of moving the second image, the step of defining the visual field image 2017 corresponding to the visual field from the virtual camera, the step of outputting the visual field image to the image display device Reducing the value of the parameter and, if the value of the parameter falls below a first threshold, And a step of limiting the function of.

(項目12) (項目11)において、視界画像は、立体視差に対応する右目用の第1視界画像(視界画像2017R)および左目用の第2視界画像(視界画像2017L)からなり、機能は、第1視界画像を出力する第1機能および第2視界画像を出力する第2機能を含み、機能を制限するステップにおいて、第1機能および第2機能のうちいずれかを制限し、視界画像を出力するステップにおいて、機能が制限されるまで、第1視界画像および左目用の第2視界画像を画像表示装置に出力し、第1機能が制限された場合、第1視界画像の出力を停止し、第2機能が制限された場合、第2視界画像の出力を停止する。   (Item 12) In (Item 11), the view image is composed of a first view image (view image 2017R) for the right eye and a second view image (view image 2017L) for the left eye corresponding to stereoscopic parallax, and the function is Including a first function for outputting a first view image and a second function for outputting a second view image, and restricting one of the first function and the second function and outputting a view image in the step of restricting the function And outputting the first view image and the second view image for the left eye to the image display device until the function is limited, and stopping the output of the first view image when the first function is limited, When the second function is restricted, the output of the second view image is stopped.

上記実施形態においては、HMDによってユーザが没入する仮想空間(VR空間)を例示して説明したが、HMDとして、透過型のHMDを採用してもよい。この場合、透過型のHMDを介してユーザが視認する現実空間に仮想空間を構成する画像の一部を合成した視界画像を出力することにより、拡張現実(AR:Augmented Reality)空間または複合現実(MR:Mixed Reality)空間における仮想体験をユーザに提供してもよい。この場合、操作オブジェクトに代えて、ユーザの手の動きに基づいて、仮想空間内における対象オブジェクトへの作用を生じさせてもよい。具体的には、プロセッサは、現実空間におけるユーザの手の位置の座標情報を特定するとともに、仮想空間内における対象オブジェクトの位置を現実空間における座標情報との関係で定義してもよい。これにより、プロセッサは、現実空間におけるユーザの手と仮想空間における対象オブジェクトとの位置関係を把握し、ユーザの手と対象オブジェクトとの間で上述したコリジョン制御等に対応する処理を実行可能となる。その結果、ユーザの手の動きに基づいて対象オブジェクトに作用を与えることが可能となる。   In the embodiment described above, the virtual space (VR space) in which the user is immersed by the HMD has been described as an example. However, a transmissive HMD may be adopted as the HMD. In this case, an augmented reality (AR) space or a mixed reality (AR) is generated by outputting a view image obtained by synthesizing a part of the image forming the virtual space in the real space viewed by the user through the transmissive HMD. A virtual experience in an MR (Mixed Reality) space may be provided to the user. In this case, instead of the operation object, an action on the target object in the virtual space may be generated based on the movement of the user's hand. Specifically, the processor may specify the coordinate information of the position of the user's hand in the real space and define the position of the target object in the virtual space in relation to the coordinate information in the real space. As a result, the processor can grasp the positional relationship between the user's hand in the real space and the target object in the virtual space, and execute processing corresponding to the aforementioned collision control or the like between the user's hand and the target object. . As a result, it is possible to affect the target object based on the movement of the user's hand.

2 ネットワーク、11,11A,11B,11C 仮想空間、5,5A,5B,5C、5D ユーザ、6A,6B,6C アバターオブジェクト、11 仮想空間、12 中心、13 パノラマ画像、14,14A 仮想カメラ、15 視界領域、16 基準視線、17,17A 視界画像、18,19 領域、100 HMDシステム、110,110A,110B,110C,110D HMDセット、120,120A,120B,HMD、130,130A モニタ、140,140 注視センサ、150 第1カメラ、160 第2カメラ、170,170A マイク、180,180A,180B スピーカ、190 センサ、200,200A,200B コンピュータ、210,210A、210B,210C,610 プロセッサ、220,620 メモリ、230,630 ストレージ、240,640 入出力インターフェイス、250,650 通信インターフェイス、260,660 バス、300,300B コントローラ、300R 右コントローラ、310 グリップ、320 フレーム、330 天面、340,340,350,370,380 ボタン、360 赤外線LED、390 アナログスティック、410 HMDセンサ、420,420A モーションセンサ、430 ディスプレイ、510,710 コントロールモジュール、520 レンダリングモジュール、530,720 メモリモジュール、540 通信制御モジュール、600 サーバ、700 外部機器、1421 仮想オブジェクト生成モジュール、1422 仮想カメラ制御モジュール、1423 操作オブジェクト制御モジュール、1424 移動オブジェクト制御モジュール、1425 衝突検出モジュール、1426 機能制限モジュール、1517,1817,1917,2017,2017R、2017L 視界画像、1521R 仮想右手、1521L 仮想左手、1531,1532 固定オブジェクト、1533 移動オブジェクト、1741,1742,1841,1842,1941,2041 方向、   2 Network, 11, 11A, 11B, 11C Virtual Space, 5, 5A, 5B, 5C, 5D User, 6A, 6B, 6C Avatar Object, 11 Virtual Space, 12 Center, 13 Panoramic Images, 14, 14A Virtual Camera, 15 Field of View, 16 Reference Line of Sight, 17, 17A Field of View Image, 18, 19 Region, 100 HMD System, 110, 110A, 110B, 110C, 110D HMD Set, 120, 120A, 120B, HMD, 130, 130A Monitor, 140, 140 Gaze sensor, 150 first camera, 160 second camera, 170, 170A microphone, 180, 180A, 180B speaker, 190 sensor, 200, 200A, 200B computer, 210, 210A, 210B, 210C, 610 processor, 22 0, 620 memory, 230, 630 storage, 240, 640 input / output interface, 250, 650 communication interface, 260, 660 bus, 300, 300 B controller, 300 R right controller, 310 grip, 320 frame, 330 top surface, 340, 340 , 350, 370, 380 buttons, 360 infrared LED, 390 analog stick, 410 HMD sensor, 420, 420A motion sensor, 430 display, 510, 710 control module, 520 rendering module, 530, 720 memory module, 540 communication control module, 600 server, 700 external device, 1421 virtual object generation module, 1422 virtual camera control module, 1 23 Operation object control module, 1424 Moving object control module, 1425 Collision detection module, 1426 Function restriction module, 1517, 1817, 1917, 2017, 2017R, 2017L Visibility image, 1521R Virtual right hand, 1521L Virtual left hand, 1531, 1532 Fixed object, 1533 moving object, 1741, 1742, 1841, 1842, 1941, 2041 direction,

Claims (10)

ユーザの頭部に関連付けられた画像表示装置を介して仮想体験を前記ユーザに提供するために、プロセッサを備えたコンピュータによって実行されるプログラムであって、
前記プログラムは、前記プロセッサに、
前記仮想体験を前記ユーザに提供するための仮想空間を定義するステップと、
前記ユーザの身体の一部の動きに連動する第1オブジェクトを前記仮想空間に生成するステップと、
前記身体の一部の動きに応じて、前記第1オブジェクトを動かすステップと、
第2オブジェクトを前記仮想空間に生成するステップと、
前記第1オブジェクトと前記第2オブジェクトとが第1位置関係になるまで、前記第1オブジェクトの位置変化に追随するように前記第2オブジェクトを移動させ、前記第1オブジェクトと前記第2オブジェクトとが前記第1位置関係になった後、前記第1オブジェクトの位置変化に追随させずに前記第2オブジェクトを移動させるステップと、
前記仮想空間内における仮想視点からの視界に対応する視界画像を定義するステップと、
前記視界画像を前記画像表示装置に出力するステップとを実行させる、プログラム。
A program executed by a computer comprising a processor to provide a virtual experience to the user via an image display device associated with the head of the user,
The program is executed by the processor
Defining a virtual space for providing the virtual experience to the user;
Generating in the virtual space a first object associated with movement of a part of the user's body;
Moving the first object in response to movement of the body part;
Creating a second object in the virtual space;
The second object is moved to follow the change in position of the first object until the first object and the second object have a first positional relationship, and the first object and the second object Moving the second object without following the change in the position of the first object after the first positional relationship is established;
Defining a view image corresponding to a view from a virtual viewpoint in the virtual space;
Outputting the view image to the image display device.
前記プログラムは、前記プロセッサに、
前記第1オブジェクトと前記第2オブジェクトとの衝突に応じて、前記第1オブジェクトに対応する機能を制限するステップをさらに実行させる、請求項1に記載のプログラム。
The program is executed by the processor
The program according to claim 1, further comprising a step of restricting a function corresponding to the first object in response to a collision between the first object and the second object.
前記第1オブジェクトにパラメータが設定されており、
前記プログラムは、前記プロセッサに、前記第1オブジェクトと前記第2オブジェクトとの衝突に応じて、前記パラメータの値を減少させるステップをさらに実行させ、
前記機能を制限するステップにおいて、前記パラメータの値が第1閾値を下回った場合、前記機能を制限する、請求項2に記載のプログラム。
Parameters are set to the first object,
The program further causes the processor to decrease the value of the parameter in response to a collision between the first object and the second object.
The program according to claim 2, wherein, in the step of restricting the function, the function is restricted if the value of the parameter falls below a first threshold.
前記ユーザの身体の一部は、前記ユーザの頭部であり、
前記第1オブジェクトは、仮想カメラであり、
前記仮想視点からの視界は、前記仮想カメラからの視界であり、
前記機能を制限するステップにおいて、前記視界画像を出力する機能を制限しする、請求項2または3に記載のプログラム。
A part of the user's body is the user's head;
The first object is a virtual camera,
The view from the virtual viewpoint is the view from the virtual camera,
The program according to claim 2 or 3, wherein, in the step of restricting the function, a function of outputting the visual field image is restricted.
前記視界画像は、立体視差に対応する右目用の第1視界画像および左目用の第2視界画像からなり、
前記機能は、前記第1視界画像を出力する第1機能および前記第2視界画像を出力する第2機能を含み、
前記機能を制限するステップにおいて、前記第1機能および前記第2機能のうちいずれかを制限し、
前記視界画像を出力するステップにおいて、
前記機能が制限されるまで、前記第1視界画像および左目用の第2視界画像を前記画像表示装置に出力し、
前記第1機能が制限された場合、前記第1視界画像の出力を停止し、
前記第2機能が制限された場合、前記第2視界画像の出力を停止する、請求項4に記載のプログラム。
The visual field image includes a first visual field image for the right eye and a second visual field image for the left eye corresponding to the stereoscopic parallax,
The functions include a first function for outputting the first view image and a second function for outputting the second view image,
Restricting any one of the first function and the second function in the step of restricting the function;
In the step of outputting the view image,
Until the function is limited, the first view image and the second view image for the left eye are output to the image display device,
When the first function is restricted, the output of the first view image is stopped,
The program according to claim 4, wherein when the second function is restricted, output of the second view image is stopped.
前記プログラムは、前記プロセッサに、前記ユーザの頭部の姿勢に応じて、前記仮想カメラからの視界の向きを制御するステップをさらに実行させる、請求項4または5に記載のプログラム。   The program according to claim 4 or 5, wherein the program further causes the processor to further execute a step of controlling a direction of a field of view from the virtual camera according to a posture of the head of the user. 前記ユーザの身体の一部は、前記ユーザの手であり、
前記第1オブジェクトは、仮想手であり、
前記第1オブジェクトを動かすステップにおいて、前記機能が制限された後、前記ユーザの手の動きに応じて前記仮想手を動かさない、請求項2または3に記載のプログラム。
A part of the user's body is the user's hand;
The first object is a virtual hand,
The program according to claim 2 or 3, wherein, in the step of moving the first object, the virtual hand is not moved in accordance with a movement of the user's hand after the function is limited.
前記第2オブジェクトを移動させるステップにおいて、前記第1オブジェクトと前記第2オブジェクトとが第1位置関係になった後、前記仮想空間内において前記第2オブジェクトに設定される慣性に応じて、前記第2オブジェクトをさらに移動させる、請求項1〜7のいずれか1項に記載のプログラム。   In the step of moving the second object, after the first object and the second object are in a first positional relationship, the second object is moved according to inertia set for the second object in the virtual space. The program according to claim 1, further moving two objects. 情報処理装置であって、
前記情報処理装置は、
ユーザの頭部に関連付けられた画像表示装置と、
前記画像表示装置を介して仮想体験を前記ユーザに提供するために、プロセッサを備えたコンピュータによって実行されるプログラムを記憶する記憶部と、
前記情報処理装置の動作を制御する制御部と、を備え、
前記制御部は、
前記仮想体験を前記ユーザに提供するための仮想空間を定義し、
前記ユーザの身体の一部の動きに連動する第1オブジェクトを前記仮想空間に生成し、
前記身体の一部の動きに応じて、前記第1オブジェクトを動かし、
第2オブジェクトを前記仮想空間に生成し、
前記第1オブジェクトと前記第2オブジェクトとが第1位置関係になるまで、前記第1オブジェクトの位置変化に追随するように前記第2オブジェクトを移動させ、前記第1オブジェクトと前記第2オブジェクトとが前記第1位置関係になった後、前記第1オブジェクトの位置変化に追随させずに前記第2オブジェクトを移動させ、
前記仮想空間内における仮想視点からの視界に対応する視界画像を定義し、
前記視界画像を前記画像表示装置に出力する、情報処理装置。
An information processing apparatus,
The information processing apparatus is
An image display associated with the head of the user;
A storage unit storing a program executed by a computer provided with a processor to provide a virtual experience to the user via the image display device;
A control unit for controlling the operation of the information processing apparatus,
The control unit
Defining a virtual space for providing the virtual experience to the user;
Generating a first object in the virtual space in conjunction with a movement of a part of the user's body;
Moving the first object in response to movement of the body part;
Create a second object in the virtual space,
The second object is moved so as to follow the change in position of the first object until the first object and the second object are in the first positional relationship, and the first object and the second object are After the first positional relationship is achieved, the second object is moved without following the positional change of the first object,
Defining a view image corresponding to a view from a virtual viewpoint in the virtual space;
An information processing apparatus that outputs the view image to the image display apparatus.
ユーザの頭部に関連付けられた画像表示装置を介して仮想体験を前記ユーザに提供するために、プロセッサを備えたコンピュータがプログラムを実行する方法であって、
前記プログラムは、前記プロセッサが、
前記仮想体験を前記ユーザに提供するための仮想空間を定義するステップと、
前記ユーザの身体の一部の動きに連動する第1オブジェクトを前記仮想空間に生成するステップと、
前記身体の一部の動きに応じて、前記第1オブジェクトを動かすステップと、
第2オブジェクトを前記仮想空間に生成するステップと、
前記第1オブジェクトと前記第2オブジェクトとが第1位置関係になるまで、前記第1オブジェクトの位置変化に追随するように前記第2オブジェクトを移動させ、前記第1オブジェクトと前記第2オブジェクトとが前記第1位置関係になった後、前記第1オブジェクトの位置変化に追随させずに前記第2オブジェクトを移動させるステップと、
前記仮想空間内における仮想視点からの視界に対応する視界画像を定義するステップと、
前記視界画像を前記画像表示装置に出力するステップとを含む、方法。
A computer comprising a processor executing a program to provide a virtual experience to the user via an image display associated with the user's head,
In the program, the processor is
Defining a virtual space for providing the virtual experience to the user;
Generating in the virtual space a first object associated with movement of a part of the user's body;
Moving the first object in response to movement of the body part;
Creating a second object in the virtual space;
The second object is moved so as to follow the change in position of the first object until the first object and the second object are in the first positional relationship, and the first object and the second object are Moving the second object without following the change in the position of the first object after the first positional relationship is established;
Defining a view image corresponding to a view from a virtual viewpoint in the virtual space;
Outputting the field-of-view image to the image display device.
JP2018011993A 2018-01-26 2018-01-26 Program, information processing apparatus, and method Active JP6441517B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018011993A JP6441517B1 (en) 2018-01-26 2018-01-26 Program, information processing apparatus, and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018011993A JP6441517B1 (en) 2018-01-26 2018-01-26 Program, information processing apparatus, and method

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2018217776A Division JP7233202B2 (en) 2018-11-20 2018-11-20 Program, Information Processing Apparatus, and Method

Publications (2)

Publication Number Publication Date
JP6441517B1 JP6441517B1 (en) 2018-12-19
JP2019128915A true JP2019128915A (en) 2019-08-01

Family

ID=64668707

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018011993A Active JP6441517B1 (en) 2018-01-26 2018-01-26 Program, information processing apparatus, and method

Country Status (1)

Country Link
JP (1) JP6441517B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7504253B2 (en) 2019-02-01 2024-06-21 マクセル株式会社 Virtual Object Display Device

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07250970A (en) * 1994-03-15 1995-10-03 Sega Enterp Ltd Game device
JP2003117245A (en) * 2001-08-09 2003-04-22 Sega Corp Game program and apparatus using cards
JP2007007065A (en) * 2005-06-29 2007-01-18 Konami Digital Entertainment:Kk Network game system, method for controlling network game, game apparatus, method for controlling game, and program
JP2016214822A (en) * 2015-02-27 2016-12-22 株式会社ソニー・インタラクティブエンタテインメント Display control program, display control device, and display control method

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07250970A (en) * 1994-03-15 1995-10-03 Sega Enterp Ltd Game device
JP2003117245A (en) * 2001-08-09 2003-04-22 Sega Corp Game program and apparatus using cards
JP2007007065A (en) * 2005-06-29 2007-01-18 Konami Digital Entertainment:Kk Network game system, method for controlling network game, game apparatus, method for controlling game, and program
JP2016214822A (en) * 2015-02-27 2016-12-22 株式会社ソニー・インタラクティブエンタテインメント Display control program, display control device, and display control method

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
簗瀬 洋平: "プレイヤキャラクタの位置予測を用いた弾避けゲーム難易度の調整", 情報処理学会 研究報告 ヒューマンコンピュータインタラクション(HCI) 2015−HCI−163, vol. Vol.2015-HCI-163 No.3, JPN6018040047, 7 May 2015 (2015-05-07), JP, pages 1 - 3, ISSN: 0003896956 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7504253B2 (en) 2019-02-01 2024-06-21 マクセル株式会社 Virtual Object Display Device

Also Published As

Publication number Publication date
JP6441517B1 (en) 2018-12-19

Similar Documents

Publication Publication Date Title
JP6248219B1 (en) Information processing method, computer, and program for causing computer to execute information processing method
JP2020161168A (en) Program, information processing method, and information processing device
JP2018147465A (en) Information processing method, device, and program for causing computer to execute the method
JP6479933B1 (en) Program, information processing apparatus, and method
JP6368404B1 (en) Information processing method, program, and computer
JP2019133309A (en) Program, information processor and information processing method
JP6771006B2 (en) Programs, methods and information processing equipment
JP7005406B2 (en) Programs, information processing devices, and information processing methods
JP7192151B2 (en) Program, information processing device, and information processing method
JP6263292B1 (en) Information processing method, computer, and program for causing computer to execute information processing method
JP6441517B1 (en) Program, information processing apparatus, and method
JP2019021250A (en) Information processing method, device, and program for causing computer to execute the method
JP6703578B2 (en) Program, method and information processing apparatus
JP6458179B1 (en) Program, information processing apparatus, and method
JP6392953B1 (en) Information processing method, apparatus, and program for causing computer to execute information processing method
JP6330072B1 (en) Information processing method, apparatus, and program for causing computer to execute information processing method
JP2019155115A (en) Program, information processor and information processing method
JP2019048045A (en) Information processing method device, and program for causing computer to execute the information processing method
JP7233202B2 (en) Program, Information Processing Apparatus, and Method
JP2019016358A (en) Information processing method, program and computer
JP7386948B2 (en) Program, method and information processing device
JP2019179434A (en) Program, information processing device, and information processing method
JP6659793B1 (en) Program, method and information processing device
JP2019036122A (en) Information processing method, program and computer
JP6522825B1 (en) Program, information processing apparatus, and method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180524

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20180702

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20180921

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180926

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181016

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181017

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181023

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181121

R150 Certificate of patent or registration of utility model

Ref document number: 6441517

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250