JP2019145120A - Method of providing virtual space, program, and information processing apparatus for executing the program - Google Patents
Method of providing virtual space, program, and information processing apparatus for executing the program Download PDFInfo
- Publication number
- JP2019145120A JP2019145120A JP2019041032A JP2019041032A JP2019145120A JP 2019145120 A JP2019145120 A JP 2019145120A JP 2019041032 A JP2019041032 A JP 2019041032A JP 2019041032 A JP2019041032 A JP 2019041032A JP 2019145120 A JP2019145120 A JP 2019145120A
- Authority
- JP
- Japan
- Prior art keywords
- user
- virtual space
- sight
- line
- movement
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Processing Or Creating Images (AREA)
- Position Input By Displaying (AREA)
- Controls And Circuits For Display Device (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
Description
この開示は、仮想空間を提供する技術に関し、より特定的には、視線を利用して仮想空
間を提供する技術に関する。
This disclosure relates to a technique for providing a virtual space, and more specifically, to a technique for providing a virtual space using a line of sight.
近年、ヘッドマウントデバイス(以下、「HMD」とも言う)に仮想空間を提示するた
めの技術開発が盛んに行なわれている。たとえば、国際公開第2017/051570号
(特許文献1)は、「仮想空間の画像に対する観察者の注視点または注視対象に基づいて
、仮想空間の画像を規定する仮想カメラの画角を制御する制御部と、仮想空間の画像に関
する情報を出力する画像情報出力部と、を備える、情報処理装置」を開示している。
In recent years, technology development for presenting a virtual space to a head mounted device (hereinafter also referred to as “HMD”) has been actively performed. For example, International Publication No. 2017/051570 (Patent Document 1) states that “control for controlling the angle of view of a virtual camera that defines an image in the virtual space based on an observer's gaze point or gaze target for the image in the virtual space. And an image information output unit that outputs information related to an image in the virtual space.
ユーザを仮想空間に没入させるためには、ユーザに現実空間と同じような視界が提供さ
れることが望ましい。現実空間における視界の更新方法と仮想空間における視界の更新方
法とが異なる場合、ユーザは違和感を覚えて仮想空間に没入しづらくなるためである。
In order to immerse the user in the virtual space, it is desirable to provide the user with a field of view similar to the real space. This is because when the visual field update method in the real space and the visual field update method in the virtual space are different, the user feels uncomfortable and is hard to get into the virtual space.
しかしながら、特許文献1に開示される技術は、仮想空間の画像に対する観察者の注視
点または注視対象に基づいて、仮想空間の画像を規定する仮想カメラの画角を制御する構
成であって、現実空間における視界の更新方法と仮想空間における視界の更新方法とが大
きく異なる。その結果、ユーザが仮想空間における視界の更新方法に違和感を覚え、ユー
ザの仮想空間に対する没入感が低減される恐れがある。したがって、ユーザが違和感を覚
えにくい仮想空間における視界の更新方法が必要とされている。
However, the technique disclosed in
本開示は、上記のような問題を解決するためになされたものであって、ある局面におけ
る目的は、仮想空間においてユーザが違和感を覚えにくいユーザの視界の更新方法を提供
することである。
This indication is made in order to solve the above problems, and the objective in a certain situation is to provide the update method of a user's field of view in which a user is hard to feel discomfort in virtual space.
ある実施形態に従うと、ヘッドマウントデバイスによって仮想空間を提供するためにコ
ンピュータで実行されるプログラムが提供される。このプログラムはコンピュータに、ヘ
ッドマウントデバイスのディスプレイに視界画像を表示してヘッドマウントデバイスのユ
ーザに仮想空間を提供するステップと、ユーザの視線の動きを検出するステップと、検出
された視線の動きに応じて、仮想空間においてディスプレイに表示する範囲を特定するス
テップと、特定された範囲に対応する視界画像をディスプレイに表示させるよう視界画像
を更新するステップとを実行させる。
According to an embodiment, a program is provided that is executed on a computer to provide a virtual space by a head mounted device. The program displays a visual field image on a display of the head mounted device on a computer to provide a virtual space to a user of the head mounted device, detects a movement of the user's line of sight, and detects the movement of the line of sight. In response, a step of specifying a range to be displayed on the display in the virtual space and a step of updating the view image to display the view image corresponding to the specified range on the display are executed.
ある実施形態に従うプログラムは、ユーザが違和感を覚えにくい視界の更新方法を提供
できる。その結果、ユーザは、仮想空間により没入し得る。
A program according to an embodiment can provide a method of updating a field of view that makes it difficult for a user to feel uncomfortable. As a result, the user can be immersed in the virtual space.
開示された技術的特徴の上記および他の目的、特徴、局面および利点は、添付の図面と
関連して理解されるこの発明に関する次の詳細な説明から明らかとなるであろう。
The above and other objects, features, aspects and advantages of the disclosed technical features will become apparent from the following detailed description of the invention which is to be understood in connection with the accompanying drawings.
以下、この技術的思想の実施形態について図面を参照しながら詳細に説明する。以下の
説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じであ
る。したがって、それらについての詳細な説明は繰り返さない。なお、以下で説明される
各実施の形態および各変形例は、適宜選択的に組み合わされてもよい。
Hereinafter, embodiments of this technical idea will be described in detail with reference to the drawings. In the following description, the same parts are denoted by the same reference numerals. Their names and functions are also the same. Therefore, detailed description thereof will not be repeated. Each embodiment and each modified example described below may be selectively combined as appropriate.
[HMDシステムの構成]
図1を参照して、HMDシステム100の構成について説明する。図1は、ある実施の
形態に従うHMDシステム100の構成の概略を表す図である。ある局面において、HM
Dシステム100は、家庭用のシステムとしてあるいは業務用のシステムとして提供され
る。
[Configuration of HMD system]
The configuration of the
The
HMDシステム100は、HMD110と、HMDセンサ120と、コントローラ16
0と、コンピュータ200とを備える。HMD110は、モニタ112と、注視センサ1
40と、スピーカ115と、マイク119とを含む。コントローラ160は、モーション
センサ130を含み得る。
The
0 and a
40, a
ある局面において、コンピュータ200は、インターネットその他のネットワーク19
に接続可能であり、ネットワーク19に接続されているサーバ150その他のコンピュー
タと通信可能である。他の局面において、HMD110は、HMDセンサ120の代わり
に、センサ114を含み得る。
In one aspect, the
To the
HMD110は、ユーザ190の頭部に装着され、動作中に仮想空間2をユーザ190
に提供し得る。より具体的には、HMD110は、右目用の画像および左目用の画像をモ
ニタ112にそれぞれ表示する。ユーザ190の各目がそれぞれの画像を視認すると、ユ
ーザ190は、両目の視差に基づき当該画像を3次元の画像として認識し得る。
The HMD 110 is mounted on the head of the
Can be provided to. More specifically, the HMD 110 displays a right-eye image and a left-eye image on the
モニタ112は、たとえば、非透過型の表示装置として実現される。ある局面において
、モニタ112は、ユーザ190の両目の前方に位置するようにHMD110の本体に配
置されている。したがって、ユーザ190は、モニタ112に表示される3次元画像を視
認すると、仮想空間2に没入することができる。ある実施の形態において、仮想空間2は
、たとえば、背景、ユーザ190が操作可能なオブジェクト、ユーザ190が選択可能な
メニューの画像を含む。複数のコンピュータ200が各ユーザの動作に基づく信号を受け
渡しすることで、複数のユーザが一の仮想空間2で仮想体験できる構成であれば、各ユー
ザに対応するアバターオブジェクトが、仮想空間2に提示される。
The
なお、オブジェクトとは、仮想空間2に存在する仮想の物体である。ある局面において
、オブジェクトは、ユーザに対応するアバターオブジェクト、アバターオブジェクトが身
に着ける仮想アクセサリおよび仮想衣服、ユーザに関する情報が示されたパネルを模した
仮想パネル、手紙を模した仮想手紙、およびポストを模した仮想ポストなどを含む。さら
に、アバターオブジェクトは、仮想空間2においてユーザ190を象徴するキャラクタで
あり、たとえば人型、動物型、ロボット型などを含む。オブジェクトの形は様々である。
ユーザ190は、予め決められたオブジェクトの中から好みのオブジェクトを仮想空間2
に提示するようにしてもよいし、自分が作成したオブジェクトを仮想空間2に提示するよ
うにしてもよい。
The object is a virtual object that exists in the
The
The object created by the user may be presented in the
ある実施の形態において、モニタ112は、所謂スマートフォンその他の情報表示端末
が備える液晶モニタまたは有機EL(Electro Luminescence)モニタとして実現され得
る。
In an embodiment, the
ある局面において、モニタ112は、右目用の画像を表示するためのサブモニタと、左
目用の画像を表示するためのサブモニタとを含み得る。他の局面において、モニタ112
は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合
、モニタ112は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にの
み認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。
In one aspect, the
May be configured to display a right-eye image and a left-eye image together. In this case, the
注視センサ140は、ユーザ190の右目および左目の視線が向けられる方向(視線方
向)を検出する。当該方向の検出は、たとえば、公知のアイトラッキング機能によって実
現される。注視センサ140は、当該アイトラッキング機能を有するセンサにより実現さ
れる。ある局面において、注視センサ140は、右目用のセンサおよび左目用のセンサを
含むことが好ましい。注視センサ140は、たとえば、ユーザ190の右目および左目に
赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることに
より各眼球の回転角を検出するセンサであってもよい。注視センサ140は、検出した各
回転角に基づいて、ユーザ190の視線方向を検知することができる。
The
スピーカ115は、コンピュータ200から受信した音声データに対応する音声(発話
)を外部に出力する。マイク119は、ユーザ190の発話に対応する音声データをコン
ピュータ200に出力する。ユーザ190は、マイク119を用いて他のユーザに向けて
発話する一方で、スピーカ115を用いて他のユーザの音声(発話)を聞くことができる
。
The
より具体的には、ユーザ190がマイク119に向かって発話すると、当該ユーザ19
0の発話に対応する音声データがコンピュータ200に入力される。コンピュータ200
は、その音声データを、ネットワーク19を介してサーバ150に出力する。サーバ15
0は、コンピュータ200から受信した音声データを、ネットワーク19を介して他のコ
ンピュータ200に出力する。他のコンピュータ200は、サーバ150から受信した音
声データを、他のユーザが装着するHMD110のスピーカ115に出力する。これによ
り、他のユーザは、HMD110のスピーカ115を介してユーザ190の音声を聞くこ
とができる。同様に、他のユーザからの発話は、ユーザ190が装着するHMD110の
スピーカ115から出力される。
More specifically, when the
Voice data corresponding to the utterance of 0 is input to the
Outputs the voice data to the
0 outputs audio data received from the
コンピュータ200は、他のユーザのコンピュータ200から受信した音声データに応
じて、当該他のユーザに対応する他アバターオブジェクトを動かすような画像をモニタ1
12に表示する。たとえば、ある局面において、コンピュータ200は、他アバターオブ
ジェクトの口を動かすような画像をモニタ112に表示することで、あたかも仮想空間2
内でアバターオブジェクト同士が会話しているかのように仮想空間2を表現する。このよ
うに、複数のコンピュータ200間で音声データの送受信が行なわれることで、一の仮想
空間2内で複数のユーザ間での会話(チャット)が実現される。
The
12 is displayed. For example, in one aspect, the
The
HMDセンサ120は、複数の光源(図示しない)を含む。各光源は、たとえば、赤外
線を発するLED(Light Emitting Diode)により実現される。HMDセンサ120は
、HMD110の動きを検出するためのポジショントラッキング機能を有する。HMDセ
ンサ120は、この機能を用いて、現実空間内におけるHMD110の位置および傾きを
検出する。
The
なお、他の局面において、HMDセンサ120は、カメラにより実現されてもよい。こ
の場合、HMDセンサ120は、カメラから出力されるHMD110の画像情報を用いて
、画像解析処理を実行することにより、HMD110の位置および傾きを検出することが
できる。
In other aspects,
他の局面において、HMD110は、位置検出器として、HMDセンサ120の代わり
に、センサ114を備えてもよい。HMD110は、センサ114を用いて、HMD11
0自身の位置および傾きを検出し得る。たとえば、センサ114が、角速度センサ、地磁
気センサ、加速度センサ、あるいはジャイロセンサなどである場合、HMD110は、H
MDセンサ120の代わりに、これらの各センサのいずれかを用いて、自身の位置および
傾きを検出し得る。一例として、センサ114が角速度センサである場合、角速度センサ
は、現実空間におけるHMD110の3軸周りの角速度を経時的に検出する。HMD11
0は、各角速度に基づいて、HMD110の3軸周りの角度の時間的変化を算出し、さら
に、角度の時間的変化に基づいて、HMD110の傾きを算出する。
In another aspect, the
The position and inclination of 0 itself can be detected. For example, when the
Instead of the
0 calculates the temporal change of the angle around the three axes of the
また、HMD110は、透過型表示装置を備えていても良い。この場合、当該透過型表
示装置は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可
能であってもよい。また、視野画像は仮想空間2を構成する画像の一部に、現実空間を提
示する構成を含んでいてもよい。たとえば、HMD110に搭載されたカメラで撮影した
画像を視野画像の一部に重畳して表示させてもよいし、当該透過型表示装置の一部の透過
率を高く設定することにより、視野画像の一部から現実空間を視認可能にしてもよい。
The
サーバ150は、コンピュータ200にプログラムを送信し得る。他の局面において、
サーバ150は、他のユーザによって使用されるHMD110に仮想現実を提供するため
の他のコンピュータ200と通信し得る。たとえば、アミューズメント施設において、複
数のユーザが参加型のゲームを行なう場合、各コンピュータ200は、各ユーザの動作に
基づく信号を他のコンピュータ200と通信して、同じ仮想空間2において複数のユーザ
が共通のゲームを楽しむことを可能にする。また、上述したように、複数のコンピュータ
200が各ユーザの動作に基づく信号を送受信することで、一の仮想空間2内で複数のユ
ーザが会話を楽しむことができる。
コントローラ160は、ユーザ190からコンピュータ200への命令の入力を受け付
ける。ある局面において、コントローラ160は、ユーザ190によって把持可能に構成
される。他の局面において、コントローラ160は、ユーザ190の身体あるいは衣類の
一部に装着可能に構成される。他の局面において、コントローラ160は、コンピュータ
200から送られる信号に基づいて、振動、音、光のうちの少なくともいずれかを出力す
るように構成されてもよい。他の局面において、コントローラ160は、仮想現実を提供
する空間に配置されるオブジェクトの位置や動きを制御するためにユーザ190によって
与えられる操作を受け付ける。
The
モーションセンサ130は、ある局面において、ユーザ190の手に取り付けられて、
ユーザ190の手の動きを検出する。たとえば、モーションセンサ130は、手の回転速
度、回転数などを検出する。モーションセンサ130によって得られたユーザ190の手
の動きの検出結果を表すデータ(以下、検出データともいう)は、コンピュータ200に
送られる。モーションセンサ130は、たとえば、手袋型のコントローラ160に設けら
れている。ある実施の形態において、現実空間における安全のため、コントローラ160
は、手袋型のようにユーザ190の手に装着されることにより容易に飛んで行かないもの
に装着されるのが望ましい。他の局面において、ユーザ190に装着されないセンサがユ
ーザ190の手の動きを検出してもよい。たとえば、ユーザ190を撮影するカメラの信
号が、ユーザ190の動作を表す信号として、コンピュータ200に入力されてもよい。
モーションセンサ130とコンピュータ200とは、有線により、または無線により互い
に接続される。無線の場合、通信形態は特に限られず、たとえば、Bluetooth(
登録商標)その他の公知の通信手法が用いられる。
The
The movement of the hand of the
It is desirable to attach to a thing that does not fly easily by being worn on the hand of the
The
Registered trademark) and other known communication methods are used.
他の局面において、HMDシステム100は、テレビジョン放送受信チューナを備えて
もよい。このような構成によれば、HMDシステム100は、仮想空間2においてテレビ
番組を表示することができる。
In another aspect, the
さらに他の局面において、HMDシステム100は、インターネットに接続するための
通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。
In still another aspect, the
[コンピュータのハードウェア構成]
図2を参照して、本実施の形態に係るコンピュータ200について説明する。図2は、
一局面に従うコンピュータ200のハードウェア構成の一例を表すブロック図である。コ
ンピュータ200は、主たる構成要素として、プロセッサ10と、メモリ11と、ストレ
ージ12と、入出力インターフェース13と、通信インターフェース14とを備える。各
構成要素は、それぞれ、バス15に接続されている。
[Computer hardware configuration]
A
It is a block diagram showing an example of the hardware constitutions of the
プロセッサ10は、コンピュータ200に与えられる信号に基づいて、あるいは、予め
定められた条件が成立したことに基づいて、メモリ11またはストレージ12に格納され
ているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ10
は、CPU(Central Processing Unit)、MPU(Micro Processor Unit)、FP
GA(Field-Programmable Gate Array)その他のデバイスとして実現される。
The
CPU (Central Processing Unit), MPU (Micro Processor Unit), FP
Realized as GA (Field-Programmable Gate Array) and other devices.
メモリ11は、プログラムおよびデータを一時的に保存する。プログラムは、たとえば
、ストレージ12からロードされる。データは、コンピュータ200に入力されたデータ
と、プロセッサ10によって生成されたデータとを含む。ある局面において、メモリ11
は、RAM(Random Access Memory)その他の揮発メモリとして実現される。
The
Is realized as RAM (Random Access Memory) or other volatile memory.
ストレージ12は、プログラムおよびデータを永続的に保持する。ストレージ12は、
たとえば、ROM(Read-Only Memory)、ハードディスク装置、フラッシュメモリ、そ
の他の不揮発記憶装置として実現される。ストレージ12に格納されるプログラムは、H
MDシステム100において仮想空間2を提供するためのプログラム、シミュレーション
プログラム、ゲームプログラム、ユーザ認証プログラム、他のコンピュータ200との通
信を実現するためのプログラムを含む。ストレージ12に格納されるデータは、仮想空間
2を規定するためのデータおよびオブジェクトなどを含む。
The
For example, it is realized as a ROM (Read-Only Memory), a hard disk device, a flash memory, and other nonvolatile storage devices. The program stored in the
The
なお、他の局面において、ストレージ12は、メモリカードのように着脱可能な記憶装
置として実現されてもよい。さらに他の局面において、コンピュータ200に内蔵された
ストレージ12の代わりに、外部の記憶装置に保存されているプログラムおよびデータを
使用する構成が使用されてもよい。このような構成によれば、たとえば、アミューズメン
ト施設のように複数のHMDシステム100が使用される場面において、プログラムやデ
ータの更新を一括して行なうことが可能になる。
In another aspect, the
ある実施の形態において、入出力インターフェース13は、HMD110、HMDセン
サ120またはモーションセンサ130との間で信号を通信する。ある局面において、入
出力インターフェース13は、USB(Universal Serial Bus)インターフェース、D
VI(Digital Visual Interface)、HDMI(登録商標)(High-Definition Multi
media Interface)その他の端子を用いて実現される。なお、入出力インターフェース1
3は上述のものに限られない。
In some embodiments, the input /
VI (Digital Visual Interface), HDMI (registered trademark) (High-Definition Multi
media Interface) Realized using other terminals. Input /
3 is not limited to the above.
ある実施の形態において、入出力インターフェース13は、さらに、コントローラ16
0と通信し得る。たとえば、入出力インターフェース13は、モーションセンサ130か
ら出力された信号の入力を受ける。他の局面において、入出力インターフェース13は、
プロセッサ10から出力された命令を、コントローラ160に送る。当該命令は、振動、
音声出力、発光などをコントローラ160に指示する。コントローラ160は、当該命令
を受信すると、その命令に応じて、振動、音声出力または発光のいずれかを実行する。
In some embodiments, the input /
Can communicate with zero. For example, the input /
The instruction output from the
The
通信インターフェース14は、ネットワーク19に接続されて、ネットワーク19に接
続されている他のコンピュータ(たとえば、サーバ150、他のユーザのコンピュータ2
00など)と通信する。ある局面において、通信インターフェース14は、たとえば、L
AN(Local Area Network)その他の有線通信インターフェース、あるいは、WiFi
(Wireless Fidelity)、Bluetooth(登録商標)、NFC(Near Field Com
munication)その他の無線通信インターフェースとして実現される。なお、通信インター
フェース14は上述のものに限られない。
The
00). In one aspect, the
AN (Local Area Network) or other wired communication interface, or WiFi
(Wireless Fidelity), Bluetooth (registered trademark), NFC (Near Field Com
munication) realized as other wireless communication interface. The
ある局面において、プロセッサ10は、ストレージ12にアクセスし、ストレージ12
に格納されている1つ以上のプログラムをメモリ11にロードし、当該プログラムに含ま
れる一連の命令を実行する。当該1つ以上のプログラムは、コンピュータ200のオペレ
ーティングシステム、仮想空間2を提供するためのアプリケーションプログラム、コント
ローラ160を用いて仮想空間2で実行可能なゲームソフトウェアなどを含み得る。プロ
セッサ10は、入出力インターフェース13を介して、仮想空間2を提供するための信号
をHMD110に送る。HMD110は、その信号に基づいてモニタ112に映像を表示
する。
In one aspect, the
Is loaded into the
なお、図2に示される例では、コンピュータ200は、HMD110の外部に設けられ
る構成が示されているが、他の局面において、コンピュータ200は、HMD110に内
蔵されてもよい。一例として、モニタ112を含む携帯型の情報通信端末(たとえば、ス
マートフォン)がコンピュータ200として機能してもよい。
In the example illustrated in FIG. 2, the
また、コンピュータ200は、複数のHMD110に共通して用いられる構成であって
もよい。このような構成によれば、たとえば、複数のユーザに同一の仮想空間2を提供す
ることもできるので、各ユーザは同一の仮想空間2で他のユーザと同一のアプリケーショ
ンを楽しむことができる。
Further, the
ある実施の形態において、HMDシステム100では、グローバル座標系が予め設定さ
れている。グローバル座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方
向、ならびに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、3
つの基準方向(軸)を有する。本実施の形態では、グローバル座標系は視点座標系の一つ
である。そこで、グローバル座標系における水平方向、鉛直方向(上下方向)、および前
後方向は、それぞれ、x軸、y軸、z軸と規定される。より具体的には、グローバル座標
系において、x軸は現実空間の水平方向に平行である。y軸は、現実空間の鉛直方向に平
行である。z軸は現実空間の前後方向に平行である。
In an embodiment, in the
It has two reference directions (axes). In the present embodiment, the global coordinate system is one of the viewpoint coordinate systems. Therefore, the horizontal direction, the vertical direction (up-down direction), and the front-rear direction in the global coordinate system are defined as an x-axis, a y-axis, and a z-axis, respectively. More specifically, in the global coordinate system, the x axis is parallel to the horizontal direction of the real space. The y axis is parallel to the vertical direction of the real space. The z axis is parallel to the front-rear direction of the real space.
ある局面において、HMDセンサ120は、赤外線センサを含む。赤外線センサが、H
MD110の各光源から発せられた赤外線をそれぞれ検出すると、HMD110の存在を
検出する。HMDセンサ120は、さらに、各点の値(グローバル座標系における各座標
値)に基づいて、HMD110を装着したユーザ190の動きに応じた、現実空間内にお
けるHMD110の位置および傾きを検出する。より詳しくは、HMDセンサ120は、
経時的に検出された各値を用いて、HMD110の位置および傾きの時間的変化を検出で
きる。
In one aspect,
When the infrared rays emitted from the light sources of the
Using each value detected over time, the temporal change in the position and inclination of the
グローバル座標系は現実空間の座標系と平行である。したがって、HMDセンサ120
によって検出されたHMD110の各傾きは、グローバル座標系におけるHMD110の
3軸周りの各傾きに相当する。HMDセンサ120は、グローバル座標系におけるHMD
110の傾きに基づき、uvw視野座標系をHMD110に設定する。HMD110に設
定されるuvw視野座標系は、HMD110を装着したユーザ190が仮想空間2におい
て物体を見る際の視点座標系に対応する。
The global coordinate system is parallel to the real space coordinate system. Therefore, the
Each inclination of the
Based on the inclination of 110, the uvw visual field coordinate system is set to HMD110. The uvw visual field coordinate system set in the
[uvw視野座標系]
図3を参照して、uvw視野座標系について説明する。図3は、ある実施の形態に従う
HMD110に設定されるuvw視野座標系を概念的に表す図である。HMDセンサ12
0は、HMD110の起動時に、グローバル座標系におけるHMD110の位置および傾
きを検出する。プロセッサ10は、検出された値に基づいて、uvw視野座標系をHMD
110に設定する。
[Uvw visual field coordinate system]
The uvw visual field coordinate system will be described with reference to FIG. FIG. 3 is a diagram conceptually showing a uvw visual field coordinate system set in
0 detects the position and inclination of the
Set to 110.
図3に示されるように、HMD110は、HMD110を装着したユーザ190の頭部
を中心(原点)とした3次元のuvw視野座標系を設定する。より具体的には、HMD1
10は、グローバル座標系を規定する水平方向、鉛直方向、および前後方向(x軸、y軸
、z軸)を、グローバル座標系内においてHMD110の各軸周りの傾きだけ各軸周りに
それぞれ傾けることによって新たに得られる3つの方向を、HMD110におけるuvw
視野座標系のピッチ方向(u軸)、ヨー方向(v軸)、およびロール方向(w軸)として
設定する。
As shown in FIG. 3, the
10 is to incline the horizontal direction, the vertical direction, and the front-rear direction (x axis, y axis, z axis) defining the global coordinate system around each axis by an inclination around each axis of the
The pitch direction (u-axis), yaw direction (v-axis), and roll direction (w-axis) of the visual field coordinate system are set.
ある局面において、HMD110を装着したユーザ190が直立し、かつ、正面を視認
している場合、プロセッサ10は、グローバル座標系に平行なuvw視野座標系をHMD
110に設定する。この場合、グローバル座標系における水平方向(x軸)、鉛直方向(
y軸)、および前後方向(z軸)は、HMD110におけるuvw視野座標系のピッチ方
向(u軸)、ヨー方向(v軸)、およびロール方向(w軸)に一致する。
In one aspect, when the
Set to 110. In this case, the horizontal direction (x-axis), the vertical direction (
The y-axis) and the front-rear direction (z-axis) coincide with the pitch direction (u-axis), yaw direction (v-axis), and roll direction (w-axis) of the uvw visual field coordinate system in the
uvw視野座標系がHMD110に設定された後、HMDセンサ120は、HMD11
0の動きに基づいて、設定されたuvw視野座標系におけるHMD110の傾き(傾きの
変化量)を検出できる。この場合、HMDセンサ120は、HMD110の傾きとして、
uvw視野座標系におけるHMD110のピッチ角(θu)、ヨー角(θv)、およびロ
ール角(θw)をそれぞれ検出する。ピッチ角(θu)は、uvw視野座標系におけるピ
ッチ方向周りのHMD110の傾き角度を表す。ヨー角(θv)は、uvw視野座標系に
おけるヨー方向周りのHMD110の傾き角度を表す。ロール角(θw)は、uvw視野
座標系におけるロール方向周りのHMD110の傾き角度を表す。
After the uvw visual field coordinate system is set to HMD110, the
Based on the movement of 0, the inclination of the
The pitch angle (θu), yaw angle (θv), and roll angle (θw) of the
HMDセンサ120は、検出されたHMD110の傾き角度に基づいて、HMD110
が動いた後のHMD110におけるuvw視野座標系を、HMD110に設定する。HM
D110と、HMD110のuvw視野座標系との関係は、HMD110の位置および傾
きに関わらず、常に一定である。HMD110の位置および傾きが変わると、当該位置お
よび傾きの変化に連動して、グローバル座標系におけるHMD110のuvw視野座標系
の位置および傾きが変化する。
The
The uvw visual field coordinate system in the
The relationship between D110 and the uvw visual field coordinate system of the
ある局面において、HMDセンサ120は、赤外線センサからの出力に基づいて取得さ
れる赤外線の光強度および複数の点間の相対的な位置関係(たとえば、各点間の距離など
)に基づいて、HMD110の現実空間内における位置を、HMDセンサ120に対する
相対位置として特定してもよい。また、プロセッサ10は、特定された相対位置に基づい
て、現実空間内(グローバル座標系)におけるHMD110のuvw視野座標系の原点を
決定してもよい。
In one aspect, the
[仮想空間]
図4を参照して、仮想空間2についてさらに説明する。図4は、ある実施の形態に従う
仮想空間2を表現する一態様を概念的に表す図である。仮想空間2は、中心21の360
度方向の全体を覆う全天球状の構造を有する。図4では、説明を複雑にしないために、仮
想空間2のうちの上半分の天球が例示されている。仮想空間2では各メッシュが規定され
る。各メッシュの位置は、仮想空間2に規定されるXYZ座標系における座標値として予
め規定されている。コンピュータ200は、仮想空間2に展開可能なコンテンツ(静止画
、動画など)を構成する各部分画像を、仮想空間2において対応する各メッシュにそれぞ
れ対応付けて、ユーザ190によって視認可能な仮想空間画像22が展開される仮想空間
2をユーザ190に提供する。
[Virtual space]
The
It has a spherical structure that covers the entire degree direction. In FIG. 4, the upper half of the celestial sphere in the
ある局面において、仮想空間2では、中心21を原点とするXYZ座標系が規定される
。XYZ座標系は、たとえば、グローバル座標系に平行である。XYZ座標系は視点座標
系の一種であるため、XYZ座標系における水平方向、鉛直方向(上下方向)、および前
後方向は、それぞれX軸、Y軸、Z軸として規定される。したがって、XYZ座標系のX
軸(水平方向)がグローバル座標系のx軸と平行であり、XYZ座標系のY軸(鉛直方向
)がグローバル座標系のy軸と平行であり、XYZ座標系のZ軸(前後方向)がグローバ
ル座標系のz軸と平行である。
In one aspect, the
The axis (horizontal direction) is parallel to the x axis of the global coordinate system, the Y axis (vertical direction) of the XYZ coordinate system is parallel to the y axis of the global coordinate system, and the Z axis (front-back direction) of the XYZ coordinate system is It is parallel to the z axis of the global coordinate system.
HMD110の起動時、すなわちHMD110の初期状態において、仮想カメラ1が、
仮想空間2の中心21に配置される。仮想カメラ1は、現実空間におけるHMD110の
動きに連動して、仮想空間2を同様に移動する。これにより、現実空間におけるHMD1
10の位置および向きの変化が、仮想空間2において同様に再現される。
When the
Arranged at the
Ten position and orientation changes are similarly reproduced in the
仮想カメラ1には、HMD110の場合と同様に、uvw視野座標系が規定される。仮
想空間2における仮想カメラのuvw視野座標系は、現実空間(グローバル座標系)にお
けるHMD110のuvw視野座標系に連動するように規定されている。したがって、H
MD110の傾きが変化すると、それに応じて、仮想カメラ1の傾きも変化する。また、
仮想カメラ1は、HMD110を装着したユーザ190の現実空間における移動に連動し
て、仮想空間2において移動することもできる。
As with the
When the inclination of the
The
仮想カメラ1の向きは、仮想カメラ1の位置および傾きに応じて決まるので、ユーザ1
90が仮想空間画像22を視認する際に基準となる視線(基準視線5)は、仮想カメラ1
の向きに応じて決まる。コンピュータ200のプロセッサ10は、基準視線5に基づいて
、仮想空間2における視界領域23を規定する。視界領域23は、仮想空間2のうち、H
MD110を装着したユーザ190の視界に対応する。
Since the orientation of the
The reference line of sight (reference line of sight 5) when the 90 visually recognizes the virtual space image 22 is the
It depends on the direction of the. The
This corresponds to the field of view of the
注視センサ140によって検出されるユーザ190の視線方向は、ユーザ190が物体
を視認する際の視点座標系における方向である。HMD110のuvw視野座標系は、ユ
ーザ190がモニタ112を視認する際の視点座標系に等しい。また、仮想カメラ1のu
vw視野座標系は、HMD110のuvw視野座標系に連動している。したがって、ある
局面に従うHMDシステム100は、注視センサ140によって検出されたユーザ190
の視線方向を、仮想カメラ1のuvw視野座標系におけるユーザ190の視線方向とみな
すことができる。
The gaze direction of the
The vw visual field coordinate system is linked to the uvw visual field coordinate system of the
Can be regarded as the viewing direction of the
[ユーザの視線]
図5を参照して、ユーザ190の視線方向の決定について説明する。図5は、ある実施
の形態に従うHMD110を装着するユーザ190の頭部を上から表した図である。
[User's line of sight]
With reference to FIG. 5, the determination of the line-of-sight direction of the
ある局面において、注視センサ140は、ユーザ190の右目および左目の各視線を検
出する。ある局面において、ユーザ190が近くを見ている場合、注視センサ140は、
視線R1およびL1を検出する。他の局面において、ユーザ190が遠くを見ている場合
、注視センサ140は、視線R2およびL2を検出する。この場合、ロール方向wに対し
て視線R2およびL2がなす角度は、ロール方向wに対して視線R1およびL1がなす角
度よりも小さい。注視センサ140は、検出結果をコンピュータ200に送信する。
In one aspect, gaze
The lines of sight R1 and L1 are detected. In another aspect, when the
コンピュータ200が、視線の検出結果として、視線R1およびL1の検出値を注視セ
ンサ140から受信した場合には、その検出値に基づいて、視線R1およびL1の交点で
ある注視点N1を特定する。一方、コンピュータ200は、視線R2およびL2の検出値
を注視センサ140から受信した場合には、視線R2およびL2の交点を注視点として特
定する。コンピュータ200は、特定した注視点N1の位置に基づき、ユーザ190の視
線方向N0を特定する。コンピュータ200は、たとえば、ユーザ190の右目Rと左目
Lとを結ぶ直線の中点と、注視点N1とを通る直線の延びる方向を、視線方向N0として
検出する。視線方向N0は、ユーザ190が両目により実際に視線を向けている方向であ
る。また、視線方向N0は、視界領域23に対してユーザ190が実際に視線を向けてい
る方向に相当する。
When the
[視界領域]
図6および図7を参照して、視界領域23について説明する。図6は、仮想空間2にお
いて視界領域23をX方向から見たYZ断面を表す図である。図7は、仮想空間2におい
て視界領域23をY方向から見たXZ断面を表す図である。
[Visibility area]
With reference to FIGS. 6 and 7, the
図6に示されるように、YZ断面における視界領域23は、領域24を含む。領域24
は、仮想カメラ1の基準視線5と仮想空間2のYZ断面とによって定義される。プロセッ
サ10は、仮想空間2おける基準視線5を中心として極角αを含む範囲を、領域24とし
て規定する。
As shown in FIG. 6, the
Is defined by the reference line of
図7に示されるように、XZ断面における視界領域23は、領域25を含む。領域25
は、基準視線5と仮想空間2のXZ断面とによって定義される。プロセッサ10は、仮想
空間2における基準視線5を中心とした方位角βを含む範囲を、領域25として規定する
。
As shown in FIG. 7, the
Is defined by the reference line of
ある局面において、HMDシステム100は、コンピュータ200からの信号に基づい
て、視界画像をモニタ112に表示させることにより、ユーザ190に仮想空間2を提供
する。視界画像は、仮想空間画像22のうちの視界領域23に重畳する部分に相当する。
ユーザ190が、頭に装着したHMD110を動かすと、その動きに連動して仮想カメラ
1も動く。その結果、仮想空間2における視界領域23の位置が変化する。これにより、
モニタ112に表示される視界画像は、仮想空間画像22のうち、仮想空間2においてユ
ーザ190が向いた方向の視界領域23に重畳する画像に更新される。ユーザ190は、
仮想空間2における所望の方向を視認することができる。
In one aspect, the
When the
The field-of-view image displayed on the
A desired direction in the
ユーザ190は、HMD110を装着している間、現実世界を視認することなく、仮想
空間2に展開される仮想空間画像22のみを視認できる。そのため、HMDシステム10
0は、仮想空間2への高い没入感覚をユーザ190に与えることができる。
While wearing the
0 can give the user 190 a high sense of immersion in the
ある局面において、プロセッサ10は、HMD110を装着したユーザ190の現実空
間における移動に連動して、仮想空間2において仮想カメラ1を移動し得る。この場合、
プロセッサ10は、仮想空間2における仮想カメラ1の位置および向きに基づいて、HM
D110のモニタ112に投影される画像領域(すなわち、仮想空間2における視界領域
23)を特定する。
In one aspect, the
Based on the position and orientation of the
The image area projected on the
ある実施の形態に従うと、仮想カメラ1は、二つの仮想カメラ、すなわち、右目用の画
像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含むこ
とが望ましい。また、ユーザ190が3次元の仮想空間2を認識できるように、適切な視
差が、二つの仮想カメラに設定されていることが好ましい。本実施の形態においては、仮
想カメラ1が二つの仮想カメラを含み、二つの仮想カメラのロール方向が合成されること
によって生成されるロール方向(w)がHMD110のロール方向(w)に適合されるよ
うに構成されているものとして、本開示に係る技術思想を例示する。
According to an embodiment, the
[コントローラ]
図8を参照して、コントローラ160の一例について説明する。図8は、ある実施の形
態に従うコントローラ160の概略構成を表す図である。
[controller]
An example of the
図8の分図(A)に示されるように、ある局面において、コントローラ160は、右コ
ントローラ800と左コントローラ(図示しない)とを含み得る。右コントローラ800
は、ユーザ190の右手で操作される。左コントローラは、ユーザ190の左手で操作さ
れる。ある局面において、右コントローラ800と左コントローラとは、別個の装置とし
て対称に構成される。したがって、ユーザ190は、右コントローラ800を把持した右
手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。他の局面
において、コントローラ160は両手の操作を受け付ける一体型のコントローラであって
もよい。以下、右コントローラ800について説明する。
As shown in the partial diagram (A) of FIG. 8, in one aspect, the
Is operated with the right hand of the
右コントローラ800は、グリップ30と、フレーム31と、天面32とを備える。グ
リップ30は、ユーザ190の右手によって把持されるように構成されている。たとえば
、グリップ30は、ユーザ190の右手の掌と3本の指(中指、薬指、小指)とによって
保持され得る。
The
グリップ30は、ボタン33,34と、モーションセンサ130とを含む。ボタン33
は、グリップ30の側面に配置され、右手の中指による操作を受け付ける。ボタン34は
、グリップ30の前面に配置され、右手の人差し指による操作を受け付ける。ある局面に
おいて、ボタン33,34は、トリガー式のボタンとして構成される。モーションセンサ
130は、グリップ30の筐体に内蔵されている。なお、ユーザ190の動作がカメラそ
の他の装置によってユーザ190の周りから検出可能である場合には、グリップ30は、
モーションセンサ130を備えなくてもよい。
The
Is arranged on the side of the
The
フレーム31は、その円周方向に沿って配置された複数の赤外線LED35を含む。赤
外線LED35は、コントローラ160を使用するプログラムの実行中に、当該プログラ
ムの進行に合わせて赤外線を発光する。赤外線LED35から発せられた赤外線は、右コ
ントローラ800と左コントローラとの各位置や姿勢(傾き、向き)を検出するために使
用され得る。図8に示される例では、二列に配置された赤外線LED35が示されている
が、配列の数は図8に示されるものに限られない。一列あるいは3列以上の配列が使用さ
れてもよい。
The
天面32は、ボタン36,37と、アナログスティック38とを備える。ボタン36,
37は、プッシュ式ボタンとして構成される。ボタン36,37は、ユーザ190の右手
の親指による操作を受け付ける。アナログスティック38は、ある局面において、初期位
置(ニュートラルの位置)から360度任意の方向への操作を受け付ける。当該操作は、
たとえば、仮想空間2に配置されるオブジェクトを移動するための操作を含む。
The
37 is configured as a push button. The
For example, an operation for moving an object arranged in the
ある局面において、右コントローラ800および左コントローラは、赤外線LED35
その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型などを
含むが、これらに限定されない。他の局面において、右コントローラ800と左コントロ
ーラは、たとえば、コンピュータ200のUSBインターフェースに接続され得る。この
場合、右コントローラ800および左コントローラは、電池を必要としない。
In one aspect, the
A battery for driving other members is included. The battery includes, but is not limited to, a rechargeable type, a button type, and a dry battery type. In other aspects, the
図8の分図(B)は、右コントローラ800を把持するユーザ190の右手に対応して
仮想空間2に配置されるハンドオブジェクト810の一例を示す。たとえば、ユーザ19
0の右手に対応するハンドオブジェクト810に対して、ヨー、ロール、ピッチの各方向
が規定される。たとえば、入力操作が、右コントローラ800のボタン34に対して行な
われると、ハンドオブジェクト810の人差し指を握りこんだ状態とし、入力操作がボタ
ン34に対して行なわれていない場合には、分図(B)に示すように、ハンドオブジェク
ト810の人差し指を伸ばした状態とすることもできる。たとえば、ハンドオブジェクト
810において親指と人差し指とが伸びている場合に、親指の伸びる方向がヨー方向、人
差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定され
る平面に垂直な方向がピッチ方向としてハンドオブジェクト810に規定される。
FIG. 8B shows an example of a
Yaw, roll, and pitch directions are defined for the
[HMDの制御装置]
図9を参照して、HMD110の制御装置について説明する。ある実施の形態において
、制御装置は周知の構成を有するコンピュータ200によって実現される。図9は、ある
実施の形態に従うコンピュータ200をモジュール構成として表すブロック図である。
[HMD control device]
The control device of the
図9に示されるように、コンピュータ200は、表示制御モジュール220と、仮想空
間制御モジュール230と、音声制御モジュール225と、メモリモジュール240と、
通信制御モジュール250とを備える。
As shown in FIG. 9, the
And a
表示制御モジュール220は、サブモジュールとして、仮想カメラ制御モジュール22
1と、視界領域決定モジュール222と、視界画像生成モジュール223と、基準視線特
定モジュール224と、視線検出モジュール226とを含む。
The
1, a visual field
仮想空間制御モジュール230は、サブモジュールとして、仮想空間定義モジュール2
31と、仮想オブジェクト生成モジュール232と、手オブジェクト制御モジュール23
3とを含む。
The virtual
31, virtual
3 is included.
ある実施の形態において、表示制御モジュール220、仮想空間制御モジュール230
、および音声制御モジュール225は、プロセッサ10によって実現される。他の実施の
形態において、複数のプロセッサ10が表示制御モジュール220、仮想空間制御モジュ
ール230、および音声制御モジュール225として作動してもよい。メモリモジュール
240は、メモリ11またはストレージ12によって実現される。通信制御モジュール2
50は、通信インターフェース14によって実現される。
In an embodiment, the
, And the
50 is realized by the
ある局面において、表示制御モジュール220は、HMD110のモニタ112におけ
る画像表示を制御する。仮想カメラ制御モジュール221は、仮想空間2に仮想カメラ1
を配置し、仮想カメラ1の挙動、向きなどを制御する。視界領域決定モジュール222は
、HMD110を装着したユーザ190の頭の向きに応じて、視界領域23を規定する。
視界画像生成モジュール223は、決定された視界領域23に基づいて、モニタ112に
表示される視界画像のデータ(視界画像データともいう)を生成する。さらに、視界画像
生成モジュール223は、仮想空間制御モジュール230から受信したデータに基づいて
、視界画像データを生成する。視界画像生成モジュール223によって生成された視界画
像データは、通信制御モジュール250によってHMD110に出力される。基準視線特
定モジュール224は、HMDセンサ120またはセンサ114からの信号に基づいて基
準視線(HMD110の傾き)を検出する。視線検出モジュール226は、注視センサ1
40からの信号に基づいて、ユーザ190の視線を特定する。
In one aspect, the
To control the behavior and orientation of the
The view
Based on the signal from 40, the line of sight of the
仮想空間制御モジュール230は、ユーザ190に提供される仮想空間2を制御する。
仮想空間定義モジュール231は、仮想空間2を表す仮想空間データを生成することによ
り、HMDシステム100における仮想空間2を規定する。
The virtual
The virtual space definition module 231 defines the
仮想オブジェクト生成モジュール232は、仮想空間2に配置されるオブジェクトのデ
ータを生成する。オブジェクトは、たとえば、他アバターオブジェクト、仮想パネル、仮
想手紙、および仮想ポストなどを含み得る。仮想オブジェクト生成モジュール232によ
って生成されたデータは、視界画像生成モジュール223に出力される。
The virtual
手オブジェクト制御モジュール233は、手オブジェクトを仮想空間2に配置する。手
オブジェクトは、たとえば、コントローラ160を保持したユーザ190の右手あるいは
左手に対応する。ある局面において、手オブジェクト制御モジュール233は、右手ある
いは左手に対応する手オブジェクトを仮想空間2に配置するためのデータを生成する。ま
た、手オブジェクト制御モジュール233は、ユーザ190によるコントローラ160の
操作に応じて、手オブジェクトを動かすためのデータを生成する。手オブジェクト制御モ
ジュール233によって生成されたデータは、視界画像生成モジュール223に出力され
る。
The hand
他の局面において、ユーザ190の体の一部の動き(たとえば、左手、右手、左足、右
足、頭などの動き)がコントローラ160に関連付けられている場合、仮想空間制御モジ
ュール230は、ユーザ190の体の一部に対応する部分オブジェクトを仮想空間2に配
置するためのデータを生成する。仮想空間制御モジュール230は、ユーザ190が体の
一部を用いてコントローラ160を操作すると、部分オブジェクトを動かすためのデータ
を生成する。これらのデータは、視界画像生成モジュール223に出力される。
In other aspects, if a movement of a part of the
音声制御モジュール225は、HMD110から、ユーザ190のマイク119を用い
た発話を検出すると、当該発話に対応する音声データの送信対象のコンピュータ200を
特定する。音声データは、音声制御モジュール225によって特定されたコンピュータ2
00に送信される。音声制御モジュール225は、ネットワーク19を介して他のユーザ
のコンピュータ200から音声データを受信すると、当該音声データに対応する音声(発
話)をスピーカ115から出力する。
When the
Sent to 00. When the
メモリモジュール240は、コンピュータ200が仮想空間2をユーザ190に提供す
るために使用されるデータを保持している。ある局面において、メモリモジュール240
は、空間情報241と、オブジェクト情報242と、ユーザ情報243とを保持している
。
The
Holds
空間情報241は、仮想空間2を提供するために規定された1つ以上のテンプレートを
保持している。
The
オブジェクト情報242は、仮想空間2において再生されるコンテンツ、当該コンテン
ツで使用されるオブジェクトを配置するための情報を保持している。当該コンテンツは、
たとえば、ゲーム、現実社会と同様の風景を表したコンテンツなどを含み得る。さらに、
オブジェクト情報242は、コントローラ160を操作するユーザ190の手に相当する
手オブジェクトを仮想空間2に配置するためのデータと、各ユーザのアバターオブジェク
トを仮想空間2に配置するためのデータと、仮想パネルなどのその他のオブジェクトを仮
想空間2に配置するためのデータとを含む。
The object information 242 holds information for arranging content reproduced in the
For example, it may include content representing a scene similar to a game or real society. further,
The object information 242 includes data for arranging a hand object corresponding to the hand of the
ユーザ情報243は、HMDシステム100の制御装置としてコンピュータ200を機
能させるためのプログラム、オブジェクト情報242に保持される各コンテンツを使用す
るアプリケーションプログラムなどを保持している。メモリモジュール240に格納され
ているデータおよびプログラムは、HMD110のユーザ190によって入力される。あ
るいは、プロセッサ10が、当該コンテンツを提供する事業者が運営するコンピュータ(
たとえば、サーバ150)からプログラムあるいはデータをダウンロードして、ダウンロ
ードされたプログラムあるいはデータをメモリモジュール240に格納する。
The
For example, a program or data is downloaded from the server 150), and the downloaded program or data is stored in the
通信制御モジュール250は、ネットワーク19を介して、サーバ150その他の情報
通信装置と通信し得る。
The
ある局面において、表示制御モジュール220および仮想空間制御モジュール230は
、たとえば、ユニティテクノロジーズ社によって提供されるUnity(登録商標)を用
いて実現され得る。他の局面において、表示制御モジュール220および仮想空間制御モ
ジュール230は、各処理を実現する回路素子の組み合わせとしても実現され得る。
In an aspect, the
コンピュータ200における処理は、ハードウェアと、プロセッサ10により実行され
るソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその
他のメモリモジュール240に予め格納されている場合がある。また、ソフトウェアは、
CD−ROMその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納され
て、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、イ
ンターネットその他のネットワークに接続されている情報提供事業者によってダウンロー
ド可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光デ
ィスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、ある
いは、通信制御モジュール250を介してサーバ150その他のコンピュータからダウン
ロードされた後、記憶モジュールに一旦格納される。そのソフトウェアは、プロセッサ1
0によって記憶モジュールから読み出され、実行可能なプログラムの形式でRAMに格納
される。プロセッサ10は、そのプログラムを実行する。
Processing in the
In some cases, it is stored in a CD-ROM or other computer-readable non-volatile data recording medium and distributed as a program product. Alternatively, the software may be provided as a program product that can be downloaded by an information provider connected to the Internet or other networks. Such software is read from a data recording medium by an optical disk drive or other data reader, or downloaded from the
0 is read from the storage module and stored in RAM in the form of an executable program. The
コンピュータ200を構成するハードウェアは、一般的なものである。したがって、本
実施の形態に係る最も本質的な部分は、コンピュータ200に格納されたプログラムであ
るともいえる。なお、コンピュータ200のハードウェアの動作は周知であるので、詳細
な説明は繰り返さない。
The hardware that constitutes the
なお、データ記録媒体としては、CD−ROM、FD(Flexible Disk)、ハードディ
スクに限られず、磁気テープ、カセットテープ、光ディスク(MO(Magnetic Optical
Disc)/MD(Mini Disc)/DVD(Digital Versatile Disc))、IC(Integr
ated Circuit)カード(メモリカードを含む)、光カード、マスクROM、EPROM
(Electronically Programmable Read-Only Memory)、EEPROM(Electronicall
y Erasable Programmable Read-Only Memory)、フラッシュROMなどの半導体メモ
リなどの固定的にプログラムを担持する不揮発性のデータ記録媒体でもよい。
The data recording medium is not limited to a CD-ROM, FD (Flexible Disk), and hard disk, but may be a magnetic tape, cassette tape, or optical disk (MO (Magnetic Optical).
Disc) / MD (Mini Disc) / DVD (Digital Versatile Disc)), IC (Integral)
ated Circuit) card (including memory card), optical card, mask ROM, EPROM
(Electronically Programmable Read-Only Memory), EEPROM (Electronicall
It may be a non-volatile data recording medium that carries a fixed program such as y Erasable Programmable Read-Only Memory) or a semiconductor memory such as a flash ROM.
ここでいうプログラムとは、プロセッサ10により直接実行可能なプログラムだけでな
く、ソースプログラム形式のプログラム、圧縮処理されたプログラム、暗号化されたプロ
グラムなどを含み得る。
The program here may include not only a program that can be directly executed by the
[HMDシステムの制御構造]
図10を参照して、HMDシステム100の制御構造について説明する。図10は、あ
る実施の形態に従うHMDシステム100において実行される処理の一部を表すシーケン
スチャートである。
[Control structure of HMD system]
A control structure of the
図10に示されるように、ステップS1010にて、コンピュータ200のプロセッサ
10は、仮想空間定義モジュール231として、仮想空間画像データを特定し、仮想空間
2を定義する。
As shown in FIG. 10, in step S <b> 1010, the
ステップS1020にて、プロセッサ10は、仮想カメラ1を初期化する。たとえば、
プロセッサ10は、メモリのワーク領域において、仮想カメラ1を仮想空間2において予
め規定された中心点に配置し、仮想カメラ1の視線をユーザ190が向いている方向に向
ける。
In step S1020,
In the work area of the memory, the
ステップS1030にて、プロセッサ10は、視界画像生成モジュール223として、
初期の視界画像を表示するための視界画像データを生成する。生成された視界画像データ
は、通信制御モジュール250によってHMD110に出力される。
In step S1030, the
View image data for displaying an initial view image is generated. The generated view image data is output to the
ステップS1032にて、HMD110のモニタ112は、コンピュータ200から受
信した視界画像データに基づいて、視界画像を表示する。HMD110を装着したユーザ
190は、視界画像を視認すると仮想空間2を認識し得る。
In step S <b> 1032, the
ステップS1034にて、HMDセンサ120は、HMD110から発信される複数の
赤外線光に基づいて、HMD110の位置と傾きを検知する。検知結果は、動き検知デー
タとして、コンピュータ200に出力される。
In step S <b> 1034,
ステップS1040にて、プロセッサ10は、HMD110の動き検知データに含まれ
る位置と傾きとに基づいて、HMD110を装着したユーザ190の視界方向を特定する
。
In step S1040,
ステップS1050にて、プロセッサ10は、アプリケーションプログラムを実行し、
アプリケーションプログラムに含まれる命令に基づいて、仮想空間2にオブジェクトを提
示する。このとき提示されるオブジェクトは、他アバターオブジェクトを含む。
In step S1050, the
An object is presented in the
ステップS1060にて、コントローラ160は、モーションセンサ130から出力さ
れる信号に基づいて、ユーザ190の操作を検出し、その検出された操作を表す検出デー
タをコンピュータ200に出力する。なお、他の局面において、ユーザ190によるコン
トローラ160の操作は、ユーザ190の周囲に配置されたカメラからの画像に基づいて
検出されてもよい。
In step S1060,
ステップS1065にて、プロセッサ10は、コントローラ160から取得した検出デ
ータに基づいて、ユーザ190によるコントローラ160の操作を検出する。
In step S <b> 1065, the
ステップS1070にて、プロセッサ10は、手オブジェクトを仮想空間2に提示する
ための視界画像データを生成する。
In step S1070,
ステップS1080にて、プロセッサ10は、ユーザ190によるコントローラ160
の操作に基づく視界画像データを生成する。生成された視界画像データは、通信制御モジ
ュール250によってHMD110に出力される。
In step S1080, the
Visual field image data based on the above operation is generated. The generated view image data is output to the
ステップS1092にて、HMD110は、受信した視界画像データに基づいて視界画
像を更新し、更新後の視界画像をモニタ112に表示する。
In step S1092, the
[技術思想]
図11は、ある実施形態に従う仮想空間における視界の更新方法の概要を説明するため
の図である。
[Technology]
FIG. 11 is a diagram for explaining an overview of a visual field updating method in a virtual space according to an embodiment.
図11(A)を参照して、ユーザ190はHMD110を装着している。上述の注視セ
ンサ140は、ユーザ190の左目の視線(眼球の位置)を検出するための注視センサ1
40Lと、ユーザ190の右目の視線(眼球の位置)を検出するための注視センサ140
Rとを含む。コンピュータ200は、ユーザ190の左目の視線と右目の視線とに基づい
て、ユーザ190の視線を検出する。
Referring to FIG. 11A,
40L and a
And R. The
ある局面において、注視センサ140は赤外線照射装置(図示しない)とカメラ(図示
しない)とを含む。赤外線照射装置は、ユーザ190の目に赤外線を照射する。注視セン
サ140は、ユーザ190の目に照射された赤外線の反射光をカメラで撮影することによ
り、ユーザ190の視線を検出する。当該構成によれば、HMDシステム100は、非接
触でユーザ190の視線を検出できるため、ユーザ190の負担を軽減し得る。なお、他
の局面において、注視センサ140は、サーチコイル法、眼球電位法等の接触方式を採用
してもよい。
In one aspect, gaze
図11(A)において、ユーザ190およびユーザ190の視線は正面を向いている。
図11(B)は、図11(A)の状態のユーザ190が視認する仮想空間の範囲を表す図
である。図11(B)を参照して、仮想カメラ1の撮影範囲に対応する視界領域23には
、幽霊を模したオブジェクト1300が配置されている。コンピュータ200は、視界領
域23に配置されているオブジェクト1300とパノラマ画像の一部とをレンダリングし
てモニタ112に表示する。これにより、ユーザ190は、オブジェクト1300を視認
する。
In FIG. 11A, the
FIG. 11B is a diagram illustrating the range of the virtual space visually recognized by the
ある局面において、ユーザ190は、図11(A)の状態から頭部を矢印D1の方向(
右方向)に回転させて図11(C)の状態に移行する。基準視線特定モジュール224は
、センサ114(たとえば、角速度センサ)またはHMDセンサ120の出力に基づいて
ユーザ190の頭部が右方向に回転したことを検出する。仮想カメラ制御モジュール22
1は、このユーザ190の頭部の動きに連動するように仮想カメラ1を右方向に傾ける。
これにより、図11(D)に示されるように、オブジェクト1300は視界領域23から
外れる。その結果、オブジェクト1300はモニタ112にも表示されなくなる。
In one aspect, the
(Right direction) to shift to the state of FIG. The reference line-of-sight identifying module 224 detects that the head of the
1 tilts the
Thereby, as shown in FIG. 11D, the
他の局面において、ユーザ190は、図11(A)の状態から視線を矢印D2の方向(
右方向)に移動させて図11(E)の状態に移行する。視線検出モジュール226は、注
視センサ140の出力に基づいてユーザ190の視線が右方向に移動したことを検出する
。仮想カメラ制御モジュール221は、このユーザ190の視線の動きに連動するように
仮想カメラ1を右方向に傾ける。これにより、図11(F)に示されるように、オブジェ
クト1300は視界領域23から外れる。その結果、オブジェクト1300はモニタ11
2にも表示されなくなる。
In another aspect,
And move to the state shown in FIG. The line-of-
2 is not displayed.
上記のように、ある実施形態に従う仮想カメラ制御モジュール221は、注視センサ1
40の出力に基づいて検出されるユーザ190の視線の動きに応じて、仮想空間2におい
てモニタ112に表示する範囲を特定(例えば、仮想カメラ1の傾きを制御)する。さら
に、ある実施形態に従う仮想カメラ制御モジュール221は、センサ114またはHMD
センサ120の出力に基づいて検出されるユーザ190の頭部の動きに応じて、仮想空間
2においてモニタ112に表示する範囲を特定する。
As described above, the virtual
The range displayed on the
A range to be displayed on the
これにより、実施形態に従うHMDシステム100は、現実空間における視界の更新方
法と同じ更新方法を仮想空間において実現できる。その結果、ユーザ190は、仮想空間
において違和感を覚えることなく自身の視界を更新できるため、より仮想空間に没入し得
る。
Thereby, the
[制御構造]
図12は、ある局面においてHMDシステム100が視界画像データを生成する処理を
表すフローチャートである。
[Control structure]
FIG. 12 is a flowchart showing a process in which the
ステップS1210にて、コンピュータ200のプロセッサ10は、仮想空間定義モジ
ュール231として、仮想空間2を定義する。ステップS1220にて、プロセッサ10
は、仮想オブジェクト生成モジュール232として、仮想カメラ1を仮想空間2における
初期位置(例えば中央21)に配置する。
In step S1210, the
As the virtual
ステップS1230にて、プロセッサ10は、視界画像生成モジュール223として、
初期の視界画像を表示するための視界画像データを生成する。生成された視界画像データ
は、通信制御モジュール250によってHMD110に出力される。
In step S1230, the
View image data for displaying an initial view image is generated. The generated view image data is output to the
ステップS1232にて、HMD110のモニタ112は、コンピュータ200から受
信した視界画像データに基づいて、視界画像を表示する。HMD110を装着したユーザ
190は、視界画像を視認すると仮想空間2を認識する。
In step S1232, monitor 112 of
ステップS1234にて、センサ114は、HMD110の傾き(つまり、ユーザ19
0の頭部の傾き)を表す動き検知データをコンピュータ200に出力する。ステップS1
240にて、コンピュータ200のプロセッサ10は、基準視線特定モジュール224と
して、センサ114から受信した動き検知データに基づいてユーザ190の頭部の動き(
傾き)を検出する。ある局面において、センサ114は、3軸角速度センサと、3軸加速
度センサとの組み合わせにより構成される。コンピュータ200は、これらのセンサの出
力に基づいて、HMD110の基準方向(たとえば、重力(鉛直)方向)に対する角度を
算出する。
In step S1234, the
Motion detection data representing 0 head tilt is output to the
At 240, the
(Tilt) is detected. In one aspect, the
ステップS1260にて、注視センサ140は、ユーザ190の両目の各々の視線の検
出結果をコンピュータ200に出力する。ステップS1270にて、プロセッサ10は、
視線検出モジュール226として、注視センサ140の出力に基づいてユーザ190の視
線の動き(たとえば、基準視線(たとえば、正面)に対する傾き)を検出する。
In step S <b> 1260,
The line-of-
ステップS1280にて、プロセッサ10は、仮想空間2においてモニタ112に表示
する範囲を特定する。より具体的には、プロセッサ10は、検出された頭部の動きと、視
線の動きとに連動するように、仮想カメラ1の傾きを制御する。たとえば、ユーザ190
が頭を右方向に10°傾け、ユーザ190が視線を右方向に10°傾けた場合、プロセッ
サ10は、仮想カメラ1を右方向に20°傾ける。プロセッサ10は、傾けた後の仮想カ
メラ1の撮影範囲(視界領域23)を、モニタ112に表示する範囲として特定する。こ
のとき、プロセッサ10は、仮想カメラ1の設定を参照して、仮想カメラ1の撮影範囲を
決定する。たとえば、仮想カメラ1の設定は、仮想カメラ1の画角を含む。
In step S1280, the
When the head tilts 10 ° to the right and the
ステップS1290にて、プロセッサ10は、特定した表示範囲に含まれるオブジェク
トおよびパノラマ画像をレンダリングして視界画像データを生成する。生成された視界画
像データは、通信制御モジュール250によってHMD110に出力される。
In step S1290,
ステップS1292にて、HMD110は、受信した視界画像データに基づいて視界画
像を更新し、更新後の視界画像をモニタ112に表示する。
In step S1292, the
上記によれば、実施形態に従うHMDシステム100は、ユーザ190の頭部の動きと
、ユーザ190の視線の動きとに連動するように、ユーザ190に提供する視界画像を更
新する。これにより、実施形態に従うHMDシステム100は、現実空間における視界の
更新方法と同じ更新方法を仮想空間において実現できる。その結果、ユーザ190は、仮
想空間において違和感を覚えることなく自身の視界を更新できるため、より仮想空間に没
入し得る。
According to the above, the
なお、上記の例ではプロセッサ10はステップS1280において、検出された頭部の
動きと、視線の動きとに連動するように仮想カメラ1の傾きを制御して、仮想空間2にお
いてモニタ112に表示する範囲を特定しているが、表示範囲の特定方法は当該方法に限
られない。
In the above example, in step S1280, the
ある実施形態において、プロセッサ10は、検出された頭部の動きに連動するように仮
想カメラ1の傾きを制御し、傾きを制御された仮想カメラ1の撮影範囲に対応する第1視
界画像を生成する。この第1視界画像は、モニタ112の解像度よりも大きいものとする
。プロセッサ10は、検出された視線の動きに基づいて、当該第1視界画像の一部の領域
である第2視界画像を切り出す。たとえば、検出された視線が正面方向である場合、第2
視界画像は、第1視界画像の中央領域に設定される。ある局面において、第2視界画像の
解像度は、モニタ112の解像度と同じに設定される。プロセッサ10は、この第2視界
画像をモニタ112に表示することにより、視界画像を更新してもよい。
In an embodiment, the
The view field image is set in the central region of the first view field image. In one aspect, the resolution of the second view image is set to be the same as the resolution of the
[変形例1−視線で視界画像を更新する条件]
上記の例では、コンピュータ200は常にユーザ190の視線の動きに追随するように
仮想カメラ1の傾きを制御するように構成されている。他の例において、コンピュータ2
00は、視線に関する予め定められた条件を満たした場合に、仮想カメラ1の傾きを視線
の動きに追随するように制御してもよい。
[
In the above example, the
00 may control the inclination of the
(視線が大きく動いた場合)
ある局面において、コンピュータ200のプロセッサ10は、基準視線に対するユーザ
190の視線の角度が予め定められた角度(例えば15°)を超えた場合に、検出される
視線の動きに連動するように仮想カメラ1の傾きを制御する。基準視線は、たとえば、ユ
ーザ190の正面方向に設定される。他の例として、プロセッサ10は、ユーザ190の
視線が所定時間にわたり略同じ方向を向いている場合、当該方向を基準視線として設定し
てもよい。
(When the line of sight moves greatly)
In one aspect, the
ユーザ190の視線は微小ながら振動している。そのため、仮に仮想カメラ1の傾きを
常にユーザ190の視線に連動させると、ユーザ190はぶれている視界画像を認識する
。係る場合、ユーザ190は、不快感を覚え得る。そこで、ある実施形態に従うコンピュ
ータ200は、上記の条件を満たすときに(つまり、基準視線に対してユーザ190の視
線が大きく動いた場合)仮想カメラ1の傾きを視線に連動するように制御することによっ
て、ユーザ190の不快感を低減することができる。
The line of sight of the
また、人は頭を固定したまま自身の視界の中央領域から外れた位置(例えば端)にある
物体を視認したい場合、物体側に向けて自身の視線を大きく動かす。つまり、視線が大き
く動くことは、人が何らかの物体を注視したいことを表す。この特性を生かし、コンピュ
ータ200は、ユーザ190が視線による自身の視界画像の変更を意図する場合にのみ、
仮想カメラ1の傾きを視線に連動させ得る。図13を用いて、この処理について説明する
。
In addition, when a person wants to visually recognize an object at a position (for example, an end) deviating from the center region of his / her field of view while fixing his / her head, he / she greatly moves his / her line of sight toward the object side. In other words, a large movement of the line of sight represents that a person wants to gaze at some object. Taking advantage of this characteristic, the
The tilt of the
図13は、ある実施形態に従う、ユーザ190の視線の動きに基づいて視界画像を更新
する処理を説明するための図である。図13(A)は、ユーザ190の視線と基準視線と
の関係を説明するための図である。図13(B)は、図13(A)の状態においてユーザ
190が視認する視界画像1310を表す。図13(C)は、図13(B)の後に表示さ
れる視界画像1320を表す。
FIG. 13 is a diagram for describing processing for updating a view field image based on the movement of the line of sight of the
図13(A)を参照して、ユーザ190は方向1305を注視している(つまり、方向
1305がユーザ190の視線)。方向1301は、ユーザ190の正面方向である。あ
る局面において、ユーザ190の正面方向(方向1301)が基準視線として設定される
。
Referring to FIG. 13A, the
図13(B)に示される視界画像1310における中央1330は、ユーザ190の正
面(方向1301)に対応する視点である。ポインタ1350は、視界画像1310にお
けるユーザ190の注視点を表す。図13(B)に示される例においてユーザ190は幽
霊を模したオブジェクト1300を視認するために自身の視線を動かす。範囲1340は
、基準視線に対する予め定められた角度θ1の範囲を表す。
A
ある局面において、コンピュータ200のプロセッサ10は、基準視線(方向1301
)に対するユーザ190の視線(方向1305)の角度θ2が、予め定められた角度θ1
よりも大きいと判断する。これにより、プロセッサ10はユーザ190の視線に連動する
ように仮想カメラ1の傾きを制御する。その結果、図13(C)に示されるように、オブ
ジェクト1300が中央1330に位置する視界画像1320が生成される。
In one aspect, the
The angle θ2 of the line of sight (direction 1305) of the
It is judged that it is larger than. Thereby, the
ある局面において、プロセッサ10は、ユーザ190の視線に連動するように視界画像
を更新した後、予め定められた時間(例えば2秒)にわたり、視線に基づく視界画像の更
新処理を禁止する。その理由は、当該禁止処理が行なわれない場合、プロセッサ10は、
仮想カメラ1の傾きをユーザ190の視線方向に動かし続け、ユーザ190が視認したい
対象が視界画像の中央から外れてしまうためである。
In one aspect, after updating the view image so as to be linked to the line of sight of the
This is because the inclination of the
(同じ箇所を見つめ続けた場合)
他の局面において、プロセッサ10は、予め定められた時間(例えば1秒間)にわたり
ユーザ190の視線が略同じ方向を向いている場合、ユーザ190の視線の動きに連動す
るように仮想カメラ1の傾きを制御してもよい。ユーザ190の視線が略同じ方向を向い
ている場合、ユーザ190は当該方向に存在する対象物を視認したいと推定されるためで
ある。
(If you keep looking at the same part)
In another aspect, the
さらに他の局面において、プロセッサ10は、ユーザ190の視線と基準視線とがなす
角度が予め定められた角度を超えた場合であって、かつ、所定時間にわたりユーザ190
の視線が略同じ方向を向いている場合に、ユーザ190の視線の動きに連動するように仮
想カメラ1の傾きを制御してもよい。
In yet another aspect, the
The tilt of the
(制御構造)
図14は、変形例1に従う仮想カメラ1の傾きの制御する処理を表すフローチャートで
ある。図14に示される処理は、コンピュータ200のプロセッサ10により実現される
。
(Control structure)
FIG. 14 is a flowchart showing processing for controlling the tilt of the
ステップS1410にて、プロセッサ10は、視線検出モジュール226として、注視
センサ140の出力に基づいてユーザ190の視線を検出する。
In step S <b> 1410, the
ステップS1420にて、プロセッサ10は、基準視線(例えば、正面方向)に対して
ユーザ190の視線がなす角度が予め定められた角度を超えているか否かを判断する。プ
ロセッサ10は、基準視線に対してユーザ190の視線がなす角度が予め定められた角度
を超えていると判断した場合(ステップS1420でYES)、ステップS1430の処
理を実行する。そうでない場合(ステップS1420でNO)、プロセッサ10は、ステ
ップS1450の処理を実行する。
In step S1420,
ステップS1430にて、プロセッサ10は、検出されたユーザ190の視線の動き(
傾き)に応じて、仮想空間2においてモニタ112に表示する範囲を特定する。より具体
的には、プロセッサ10は、仮想カメラ1の傾きを検出されたユーザ190の視線の動き
に連動させる。たとえば、ステップS1420で基準視線に対してユーザ190の視線が
なす角度が右方向に30°であった場合、プロセッサ10は、仮想カメラ1を右方向に3
0°傾ける。
In step S1430, the
The range to be displayed on the
Tilt 0 °.
ステップS1440において、プロセッサ10は、予め定められた時間(例えば、2秒
)にわたり、視線に従う仮想カメラ1の傾き制御処理(ステップS1430の処理)を禁
止する。
In step S1440, the
ステップS1450にて、プロセッサ10は、ユーザ190が予め定められた時間(例
えば、1秒)にわたりユーザ190の視線が略同じ方向であるか否かを判断する。たとえ
ば、プロセッサ10は、予め定められた時間にわたりユーザ190の視線方向の変動が5
°未満である場合に、ユーザ190の視線が略同じ方向であると判断する。
In step S1450,
When the angle is less than 0 °, it is determined that the line of sight of the
プロセッサ10は、ユーザ190が予め定められた時間にわたりユーザ190の視線が
略同じ方向であると判断した場合(ステップS1450でYES)、ステップS1460
の処理を実行する。そうでない場合(ステップS1450でNO)、プロセッサ10は、
ステップS1410の処理を再び実行する。
If the
Execute the process. Otherwise (NO in step S1450),
The process of step S1410 is executed again.
ステップS1460にて、プロセッサ10は、検出されたユーザ190の視線の動き(
傾き)に応じて、仮想空間2においてモニタ112に表示する範囲を特定する。より具体
的には、プロセッサ10は、仮想カメラ1の傾きを検出されたユーザ190の視線の動き
に連動させる。その後、プロセッサ10は、ステップS1410の処理を再び実行する。
In step S1460, the
The range to be displayed on the
上記によれば、変形例に従うプロセッサ10は、よりユーザ190が違和感を覚えにく
い視界画像をユーザ190に提供し得る。
Based on the above, the
[変形例2−ディスプレイの表示領域を変更]
変形例2に従うプロセッサ10は、ユーザ190の視線の動きに連動するように、モニ
タ112の表示領域を変更する。
[
The
図15は、ユーザ190の視線とディスプレイの表示領域との関係を説明するための図
である。図15(A)を参照して、ユーザ190は方向1305を注視している(つまり
、方向1305がユーザ190の視線)。方向1301は、ユーザ190の正面方向であ
る。
FIG. 15 is a diagram for explaining the relationship between the line of sight of the
図15(B)はモニタ112における表示領域を説明するための図である。ユーザ19
0が正面方向(方向1301)に対応するモニタ112における中央1520を注視して
いる場合、プロセッサ10は、中央1520を中心とする中央領域1510を表示領域と
して設定する。プロセッサ10は、設定した表示領域に、仮想カメラ1の撮影範囲(視界
領域23)に対応する視界画像を表示する。ある局面において、表示領域のアスペクト比
はモニタ112のアスペクト比に設定される。
FIG. 15B is a diagram for explaining a display area on the
When 0 is gazing at the
変形例2に従うモニタ112(右目用および左目用の各々のディスプレイを含む)は、
ユーザ190の目とモニタ112との距離に応じて定まるユーザ190の視界よりも十分
に大きく構成され得る。
The
The field of view of the
ユーザ190が方向1305に対応するモニタ112における位置1530を注視して
いる場合、プロセッサ10は、位置1530を中心とする領域1540を表示領域に設定
する。プロセッサ10は、ユーザ190の視線(方向1305)に連動するように傾きを
制御した仮想カメラ1により生成される視界画像を、表示領域に表示する。
When the
上記によれば、ユーザ190は、自身の視線方向を中心とする視界画像を認識できる。
換言すれば、ユーザ190は、自身が視認しようとしている対象物を自身の視界の中心に
捉えることができる。
Based on the above, the
In other words, the
また、コンピュータ200は、大きなモニタ112のすべてに画像を表示するのではな
く、ユーザ190の視線(視界)に対応する視界画像を生成して表示領域に表示する構成
である。そのため、コンピュータ200は、モニタ112の全画素分の画像を生成しなく
てもよいため、処理負担および消費電力を抑制し得る。
The
上記の例では、コンピュータ200のプロセッサ10は、ユーザ190の視線に連動す
るようにモニタ112における表示領域の位置を変更するように構成されている。他の局
面において、プロセッサ10は、ユーザ190の視線に基づいて、表示領域の大きさを変
更するように構成されてもよい。
In the above example, the
ある局面においてプロセッサ10は、ユーザ190の視線(方向1305)と正面方向
(方向1301)とがなす角度θ2を算出する。プロセッサ10は、この角度θ2が大き
くなるほど、モニタ112における表示領域を大きくするように制御する。図15(C)
に示される例において、領域1550が表示領域として設定される。一例として、プロセ
ッサ10は、中央1520および位置1530の距離1560と、中央1520から位置
1530へ伸びる方向における中央領域1510の外周位置から領域1550の外周位置
までの距離1570とが等しくなるように、領域1550を設定する。
In one aspect, the
In the example shown in FIG. 5, the
プロセッサ10はさらに、ユーザ190の視線の動きに連動するように、仮想カメラ1
の画角を制御する。より具体的には、プロセッサ10は仮想カメラ制御モジュール221
として、角度θ2が大きくなるほど仮想カメラ1の画角を大きくする。仮想カメラ1の画
角が広がることにより、視界領域23が広がる。プロセッサ10は視界画像生成モジュー
ル223として、広がった視界領域23に対応する視界画像を、領域1550に表示する
。当該構成によっても、ユーザ190は、自身が視認しようとしている対象物を自身の視
界の中心に捉えることができる。
Further, the
Control the angle of view. More specifically, the
As the angle θ2 increases, the angle of view of the
[変形例3−胴部の動きに連動するように視界画像を更新]
上記の例では、プロセッサ10は、センサ114またはHMDセンサ120の出力によ
って検出されるHMD110の動きをユーザ190の頭部の動きとして検出し、ユーザ1
90の頭部の動きに連動するように視界画像を更新する。他の局面において、プロセッサ
10は、ユーザ190の胴部の動きに連動するように視界画像を更新してもよい。
[
In the above example, the
The view field image is updated so as to be interlocked with the movement of the head 90. In another aspect, the
人は胴部を傾ける(たとえば、前屈みする)ことによっても、自身の視界は変わる。そ
こで、他の実施形態において、コンピュータ200のプロセッサ10は、ユーザ190の
胴部の動き(傾き)を検出し、検出された胴部の動きに連動するように視界画像を更新す
る。
A person also changes his field of view by tilting the torso (eg, bending forward). Therefore, in another embodiment, the
一例として、プロセッサ10は、図示しないカメラでユーザ190を撮影することによ
り生成された画像を解析することにより、ユーザ190の胴部の傾きを検出する。他の例
として、プロセッサ10は、ユーザ190の胴部に装着されるモーションセンサの出力に
基づいてユーザ190の胴部の傾きを検出する。
As an example, the
[構成]
以上に開示された技術的特徴は、以下のように要約され得る。
[Constitution]
The technical features disclosed above can be summarized as follows.
(構成1) HMD110によって仮想空間2を提供するためにコンピュータ200で
実行されるプログラムが提供される。このプログラムはコンピュータ200に、HMD1
10のモニタ112に視界画像を表示してHMD110のユーザ190に仮想空間2を提
供するステップ(ステップS1230)と、ユーザ190の視線の動きを検出するステッ
プ(ステップS1270)と、検出された視線の動きに応じて、仮想空間2においてモニ
タ112に表示する範囲を特定するステップ(ステップS1280)と、特定された範囲
に対応する視界画像をモニタ112に表示させるよう視界画像を更新するステップ(ステ
ップS1290)とを実行させる。
(Configuration 1) A program executed by the
The step of displaying the visual field image on the ten
上記によれば、ユーザ190は、仮想空間においても現実空間と同様に、視線を動かす
ことにより更新された視界画像を視認できる。その結果、ユーザ190は、仮想空間によ
り没入し得る。また、従来は仮想空間における視界を所定方向に変更したい場合、HMD
を当該所定方向に傾けるなどの動作が必要であったが、HMDシステム100を利用する
ユーザ190は、自身の視線を所定方向に動かすだけでよい。
According to the above, the
The
(構成2) (構成1)において、プログラムはコンピュータ200に、視線の動きを
除くユーザ190の一部の動きを検出するステップ(ステップS1240)をさらに実行
させる。範囲を特定するステップは、検出された視線の動きおよび検出された一部の動き
に応じて仮想空間2においてモニタ112に表示する範囲を特定することを含む。
(Configuration 2) In (Configuration 1), the program causes the
現実空間においても、ユーザの視界は、ユーザの頭や身体の傾きなどによって変更され
る。そのため、コンピュータ200は、仮想空間におけるユーザの視界を、ユーザの頭や
体の傾きなどによって変更することにより、ユーザを仮想空間により没入させ得る。
Even in the real space, the user's field of view is changed by the inclination of the user's head and body. Therefore, the
(構成3) (構成1)または(構成2)において、仮想空間2を提供するステップは
、仮想空間2に配置される仮想カメラ1の撮影範囲に対応する視界画像をモニタ112に
表示すること(ステップS1220、S1230)を含む。範囲を特定するステップは、
検出された視線の動きに連動するように仮想カメラ1の傾きを制御し、仮想カメラ1の設
定(例えば、画角)に基づいて、仮想空間2においてHMD110に表示する範囲を特定
すること(ステップS1280)を含む。
(Configuration 3) In (Configuration 1) or (Configuration 2), the step of providing the
Controlling the tilt of the
(構成4) (構成2)において、ユーザ190の一部は、ユーザ190の頭部を含む
。ユーザ190の一部の動きを検出するステップは、HMD110の動きをユーザ190
の一部の動きとして検出することを含む。
(Configuration 4) In (Configuration 2), a part of the
Detection as a part of movement.
(構成5) (構成2)において、仮想空間2を提供するステップは、仮想空間2に配
置される仮想カメラ1の撮影範囲に対応する視界画像をモニタ112に表示することを含
む。範囲を特定するステップは、検出された視線の動きおよび検出された一部の動きに連
動するように仮想カメラ1の傾きを制御し、仮想カメラ1の設定に基づいて、仮想空間2
においてHMD110に表示する範囲を特定すること(ステップS1280)を含む。
(Configuration 5) In (Configuration 2), the step of providing the
Includes specifying a range to be displayed on the HMD 110 (step S1280).
(構成6) (構成1)〜(構成5)のいずれかにおいて、範囲を特定するステップは
、予め定められた視線方向に対する検出された視線の角度(θ2)が予め定められた角度
(θ1)を超えた場合(ステップS1420でYES)に、視線の動きに応じて、仮想空
間2においてモニタ112に表示する範囲を特定すること(ステップS1430)を含む
。
(Configuration 6) In any one of (Configuration 1) to (Configuration 5), in the step of specifying the range, the detected line-of-sight angle (θ2) with respect to a predetermined line-of-sight direction is a predetermined angle (θ1). This includes specifying the range to be displayed on the
(構成7) (構成1)〜(構成6)のいずれかにおいて、範囲を特定するステップは
、予め定められた時間にわたり検出された視線が略同じ方向を向いている場合(ステップ
S1450でYES)に、視線の動きに応じて、仮想空間2においてモニタ112に表示
する範囲を特定すること(ステップS1460)を含む。
(Configuration 7) In any one of (Configuration 1) to (Configuration 6), the step of specifying the range is when the lines of sight detected over a predetermined time point in substantially the same direction (YES in Step S1450). In addition, specifying a range to be displayed on the
(構成8) (構成1)〜(構成7)のいずれかにおいて、視界画像を更新するステッ
プは、検出された視線の動きに基づいてモニタ112の表示領域を変更すること(図15
)を含む。
(Configuration 8) In any one of (Configuration 1) to (Configuration 7), the step of updating the view field image changes the display area of the
)including.
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えら
れるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され
、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図され
る。
The embodiment disclosed this time should be considered as illustrative in all points and not restrictive. The scope of the present invention is defined by the terms of the claims, rather than the description above, and is intended to include any modifications within the scope and meaning equivalent to the terms of the claims.
1 仮想カメラ、2 仮想空間、5 基準視線、10,1720 プロセッサ、11
メモリ、12 ストレージ、13 入出力インターフェース、14 通信インターフェー
ス、15 バス、19 ネットワーク、22 仮想空間画像、100 HMDシステム、
112 モニタ、114 センサ、115 スピーカ、119 マイク、120 HMD
センサ、130 モーションセンサ、140 注視センサ、150 サーバ、160 コ
ントローラ、190 ユーザ、200 コンピュータ、220 表示制御モジュール、2
21 仮想カメラ制御モジュール、222 視界領域決定モジュール、223 視界画像
生成モジュール、224 基準視線特定モジュール、225 音声制御モジュール、22
6 視線検出モジュール、230 仮想空間制御モジュール、231 仮想空間定義モジ
ュール、232 仮想オブジェクト生成モジュール、233 手オブジェクト制御モジュ
ール、240 メモリモジュール、241 空間情報、242 オブジェクト情報、24
3 ユーザ情報、250 通信制御モジュール、800 右コントローラ、810 ハン
ドオブジェクト、1300 オブジェクト、1310,1320 視界画像、1350
ポインタ。
1 virtual camera, 2 virtual space, 5 reference line of sight, 10, 1720 processor, 11
Memory, 12 Storage, 13 Input / output interface, 14 Communication interface, 15 Bus, 19 Network, 22 Virtual space image, 100 HMD system,
112 monitor, 114 sensor, 115 speaker, 119 microphone, 120 HMD
Sensor, 130 Motion sensor, 140 Gaze sensor, 150 Server, 160 Controller, 190 User, 200 Computer, 220 Display control module, 2
21 virtual camera control module, 222 visual field determination module, 223 visual field image generation module, 224 reference visual line identification module, 225 audio control module, 22
6 Gaze detection module, 230 Virtual space control module, 231 Virtual space definition module, 232 Virtual object generation module, 233 Hand object control module, 240 Memory module, 241 Spatial information, 242 Object information, 24
3 User information, 250 Communication control module, 800 Right controller, 810 Hand object, 1300 object, 1310, 1320 View image, 1350
Pointer.
Claims (10)
プログラムであって、前記プログラムは前記コンピュータに、
前記ヘッドマウントデバイスのディスプレイに視界画像を表示して前記ヘッドマウント
デバイスのユーザに仮想空間を提供するステップと、
前記ユーザの視線の動きを検出するステップと、
前記検出された視線の動きに応じて、前記仮想空間において前記ディスプレイに表示す
る範囲を特定するステップと、
前記特定された範囲に対応する視界画像を前記ディスプレイに表示させるよう前記視界
画像を更新するステップとを実行させる、プログラム。 A program executed by a computer to provide a virtual space by a head mounted device, the program being stored in the computer,
Displaying a field-of-view image on a display of the head-mounted device to provide a virtual space to a user of the head-mounted device;
Detecting the movement of the user's line of sight;
Identifying a range to be displayed on the display in the virtual space according to the detected movement of the line of sight;
Updating the view image so that a view image corresponding to the specified range is displayed on the display.
を検出するステップをさらに実行させ、
前記範囲を特定するステップは、前記検出された視線の動きおよび前記検出された前記
一部の動きに応じて前記仮想空間において前記ディスプレイに表示する範囲を特定するこ
とを含む、請求項1に記載のプログラム。 The program further causes the computer to execute a step of detecting a movement of a part of the user excluding the movement of the line of sight,
The step of specifying the range includes specifying a range to be displayed on the display in the virtual space according to the detected movement of the line of sight and the detected partial movement. Program.
に対応する視界画像を前記ディスプレイに表示することを含み、
前記範囲を特定するステップは、前記検出された視線の動きに連動するように前記仮想
カメラの傾きを制御し、前記仮想カメラの設定に基づいて、前記仮想空間において前記ヘ
ッドマウントデバイスに表示する範囲を特定することを含む、請求項1または2に記載の
プログラム。 Providing the virtual space includes displaying a view field image corresponding to a shooting range of a virtual camera arranged in the virtual space on the display;
The step of specifying the range controls the tilt of the virtual camera to be interlocked with the detected movement of the line of sight, and the range to be displayed on the head mounted device in the virtual space based on the setting of the virtual camera The program according to claim 1 or 2, comprising specifying:
前記ユーザの一部の動きを検出するステップは、前記ヘッドマウントデバイスの動きを
前記ユーザの一部の動きとして検出することを含む、請求項2に記載のプログラム。 The portion of the user includes a user's head;
The program according to claim 2, wherein detecting the movement of the part of the user includes detecting movement of the head mounted device as a movement of the part of the user.
に対応する視界画像を前記ディスプレイに表示することを含み、
前記範囲を特定するステップは、前記検出された視線の動きおよび前記検出された前記
一部の動きに連動するように前記仮想カメラの傾きを制御し、前記仮想カメラの設定に基
づいて、前記仮想空間において前記ヘッドマウントデバイスに表示する範囲を特定するこ
とを含む、請求項2に記載のプログラム。 Providing the virtual space includes displaying a view field image corresponding to a shooting range of a virtual camera arranged in the virtual space on the display;
The step of specifying the range includes controlling the tilt of the virtual camera to interlock with the detected movement of the line of sight and the detected partial movement, and based on the setting of the virtual camera, The program according to claim 2, comprising specifying a range to be displayed on the head mounted device in space.
の角度が予め定められた角度を超えた場合に、前記視線の動きに応じて、前記仮想空間に
おいて前記ディスプレイに表示する範囲を特定することを含む、請求項1〜5のいずれか
1項に記載のプログラム。 The step of specifying the range includes displaying on the display in the virtual space according to the movement of the line of sight when the angle of the detected line of sight exceeds a predetermined angle with respect to a predetermined line-of-sight direction. The program of any one of Claims 1-5 including specifying the range to perform.
同じ方向を向いている場合に、前記視線の動きに応じて、前記仮想空間において前記ディ
スプレイに表示する範囲を特定することを含む、請求項1〜6のいずれか1項に記載のプ
ログラム。 The step of specifying the range specifies a range to be displayed on the display in the virtual space according to the movement of the line of sight when the detected line of sight is directed in substantially the same direction over a predetermined time. The program according to any one of claims 1 to 6, further comprising:
プレイの表示領域を変更することを含む、請求項1〜7のいずれか1項に記載のプログラ
ム。 The program according to any one of claims 1 to 7, wherein the step of updating the visual field image includes changing a display area of the display based on the detected movement of the visual line.
前記プログラムを実行するためのプロセッサとを備える、情報処理装置。 A memory storing the program according to any one of claims 1 to 8,
An information processing apparatus comprising: a processor for executing the program.
方法であって、
前記ヘッドマウントデバイスのディスプレイに視界画像を表示して前記ヘッドマウント
デバイスのユーザに仮想空間を提供するステップと、
前記ユーザの視線の動きを検出するステップと、
前記検出された視線の動きに応じて、前記仮想空間において前記ディスプレイに表示す
る範囲を特定するステップと、
前記特定された範囲に対応する視界画像を前記ディスプレイに表示させるよう前記視界
画像を更新するステップとを備える、方法。 A computer-implemented method for providing virtual space by a head-mounted device, comprising:
Displaying a field-of-view image on a display of the head-mounted device to provide a virtual space to a user of the head-mounted device;
Detecting the movement of the user's line of sight;
Identifying a range to be displayed on the display in the virtual space according to the detected movement of the line of sight;
Updating the view image to cause the display to display a view image corresponding to the specified range.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019041032A JP2019145120A (en) | 2019-03-06 | 2019-03-06 | Method of providing virtual space, program, and information processing apparatus for executing the program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019041032A JP2019145120A (en) | 2019-03-06 | 2019-03-06 | Method of providing virtual space, program, and information processing apparatus for executing the program |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017169610A Division JP6495398B2 (en) | 2017-09-04 | 2017-09-04 | Method and program for providing virtual space, and information processing apparatus for executing the program |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019145120A true JP2019145120A (en) | 2019-08-29 |
Family
ID=67773288
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019041032A Withdrawn JP2019145120A (en) | 2019-03-06 | 2019-03-06 | Method of providing virtual space, program, and information processing apparatus for executing the program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2019145120A (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024090844A1 (en) * | 2022-10-28 | 2024-05-02 | 삼성전자주식회사 | Wearable device for changing state of screen, and method therefor |
-
2019
- 2019-03-06 JP JP2019041032A patent/JP2019145120A/en not_active Withdrawn
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024090844A1 (en) * | 2022-10-28 | 2024-05-02 | 삼성전자주식회사 | Wearable device for changing state of screen, and method therefor |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6470796B2 (en) | Information processing method, program, and computer | |
JP6298523B1 (en) | Method executed by computer to communicate through virtual space, program for causing computer to execute the method, and computer apparatus | |
JP6523233B2 (en) | Information processing method, apparatus, and program for causing a computer to execute the information processing method | |
JP6201028B1 (en) | Information processing method, apparatus, and program for causing computer to execute information processing method | |
JP6393387B1 (en) | Programs, computers, and methods for providing a virtual experience | |
JP6227732B1 (en) | Method and apparatus for supporting input in virtual space, and program causing computer to execute the method | |
JP6495398B2 (en) | Method and program for providing virtual space, and information processing apparatus for executing the program | |
JP6368404B1 (en) | Information processing method, program, and computer | |
JP6306678B1 (en) | Method executed by computer to present object in virtual space, program causing computer to execute the method, and computer apparatus | |
JP6457446B2 (en) | Method and apparatus for supporting communication in virtual space, and program for causing computer to execute the method | |
JP2018049629A (en) | Method and device for supporting input in virtual space and program for causing computer to execute the method | |
JP2019133309A (en) | Program, information processor and information processing method | |
JP6278546B1 (en) | Information processing method, apparatus, and program for causing computer to execute information processing method | |
JP2019030638A (en) | Information processing method, device, and program for causing computer to execute information processing method | |
JP2019145120A (en) | Method of providing virtual space, program, and information processing apparatus for executing the program | |
JP2018032384A (en) | Method and device for assisting communication in virtual space and program enabling computer to execute method | |
JP2018092592A (en) | Information processing method, apparatus, and program for implementing that information processing method on computer | |
JP2018101293A (en) | Method executed by computer to provide head-mounted device with virtual space, program causing computer to execute the same and computer device | |
JP6966336B2 (en) | An information processing method, a device, and a program for causing a computer to execute the information processing method. | |
JP2019155115A (en) | Program, information processor and information processing method | |
JP2019075091A (en) | Program for providing virtual experience, computer and method | |
JP6623199B2 (en) | Computer-executable program and information processing apparatus for providing virtual reality using a head-mounted device | |
JP2019016358A (en) | Information processing method, program and computer | |
JP2019015972A (en) | Method for suppressing vr sickness, program for causing computer to execute the method, and information processing device | |
JP2019032715A (en) | Information processing method, device, and program for causing computer to execute the method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200828 |
|
A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20210309 |