JP2019046248A - Method of providing virtual space, program for it, and information processing apparatus for executing said program - Google Patents
Method of providing virtual space, program for it, and information processing apparatus for executing said program Download PDFInfo
- Publication number
- JP2019046248A JP2019046248A JP2017169610A JP2017169610A JP2019046248A JP 2019046248 A JP2019046248 A JP 2019046248A JP 2017169610 A JP2017169610 A JP 2017169610A JP 2017169610 A JP2017169610 A JP 2017169610A JP 2019046248 A JP2019046248 A JP 2019046248A
- Authority
- JP
- Japan
- Prior art keywords
- user
- virtual space
- sight
- hmd
- movement
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Processing Or Creating Images (AREA)
- Position Input By Displaying (AREA)
- Controls And Circuits For Display Device (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
Description
この開示は、仮想空間を提供する技術に関し、より特定的には、視線を利用して仮想空間を提供する技術に関する。 The present disclosure relates to a technology for providing a virtual space, and more particularly to a technology for providing a virtual space using a line of sight.
近年、ヘッドマウントデバイス（以下、「ＨＭＤ」とも言う）に仮想空間を提示するための技術開発が盛んに行なわれている。たとえば、国際公開第２０１７／０５１５７０号（特許文献１）は、「仮想空間の画像に対する観察者の注視点または注視対象に基づいて、仮想空間の画像を規定する仮想カメラの画角を制御する制御部と、仮想空間の画像に関する情報を出力する画像情報出力部と、を備える、情報処理装置」を開示している。 In recent years, technology development for presenting a virtual space to a head mount device (hereinafter, also referred to as “HMD”) has been actively performed. For example, WO 2017/051570 (Patent Document 1) describes a control for controlling an angle of view of a virtual camera that defines an image of a virtual space based on an observer's gaze point or And an image information output unit that outputs information related to an image of a virtual space.
ユーザを仮想空間に没入させるためには、ユーザに現実空間と同じような視界が提供されることが望ましい。現実空間における視界の更新方法と仮想空間における視界の更新方法とが異なる場合、ユーザは違和感を覚えて仮想空間に没入しづらくなるためである。 In order to immerse the user in the virtual space, it is desirable that the user be provided with a view similar to that of the real space. If the method of updating the field of view in the real space is different from the method of updating the field of view in the virtual space, the user feels uncomfortable and is less likely to immerse in the virtual space.
しかしながら、特許文献１に開示される技術は、仮想空間の画像に対する観察者の注視点または注視対象に基づいて、仮想空間の画像を規定する仮想カメラの画角を制御する構成であって、現実空間における視界の更新方法と仮想空間における視界の更新方法とが大きく異なる。その結果、ユーザが仮想空間における視界の更新方法に違和感を覚え、ユーザの仮想空間に対する没入感が低減される恐れがある。したがって、ユーザが違和感を覚えにくい仮想空間における視界の更新方法が必要とされている。
However, the technology disclosed in
本開示は、上記のような問題を解決するためになされたものであって、ある局面における目的は、仮想空間においてユーザが違和感を覚えにくいユーザの視界の更新方法を提供することである。 The present disclosure has been made to solve the above-described problems, and an object in one aspect is to provide a method of updating the user's view with which the user is less likely to feel discomfort in the virtual space.
ある実施形態に従うと、ヘッドマウントデバイスによって仮想空間を提供するためにコンピュータで実行されるプログラムが提供される。このプログラムはコンピュータに、ヘッドマウントデバイスのディスプレイに視界画像を表示してヘッドマウントデバイスのユーザに仮想空間を提供するステップと、ユーザの視線の動きを検出するステップと、検出された視線の動きに応じて、仮想空間においてディスプレイに表示する範囲を特定するステップと、特定された範囲に対応する視界画像をディスプレイに表示させるよう視界画像を更新するステップとを実行させる。 According to an embodiment, a computer implemented program is provided for providing virtual space by a head mounted device. The program displays the view image on the display of the head mounted device on the computer to provide virtual space to the user of the head mounted device, detects the movement of the user's gaze, and detects the movement of the detected gaze. In response, the control unit executes the steps of specifying the range to be displayed on the display in the virtual space, and updating the view image to cause the display to display a view image corresponding to the specified range.
ある実施形態に従うプログラムは、ユーザが違和感を覚えにくい視界の更新方法を提供できる。その結果、ユーザは、仮想空間により没入し得る。 The program according to an embodiment can provide a view updating method that makes it difficult for the user to feel uncomfortable. As a result, the user may be immersed in the virtual space.
開示された技術的特徴の上記および他の目的、特徴、局面および利点は、添付の図面と関連して理解されるこの発明に関する次の詳細な説明から明らかとなるであろう。 The above and other objects, features, aspects and advantages of the disclosed technical features will be apparent from the following detailed description of the invention taken in conjunction with the accompanying drawings.
以下、この技術的思想の実施形態について図面を参照しながら詳細に説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。なお、以下で説明される各実施の形態および各変形例は、適宜選択的に組み合わされてもよい。 Hereinafter, embodiments of this technical concept will be described in detail with reference to the drawings. In the following description, the same components are denoted by the same reference numerals. Their names and functions are also the same. Therefore, detailed description about them will not be repeated. In addition, each embodiment and each modification which are explained below may be combined suitably suitably.
［ＨＭＤシステムの構成］
図１を参照して、ＨＭＤシステム１００の構成について説明する。図１は、ある実施の形態に従うＨＭＤシステム１００の構成の概略を表す図である。ある局面において、ＨＭＤシステム１００は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。
[Configuration of HMD system]
The configuration of the
ＨＭＤシステム１００は、ＨＭＤ１１０と、ＨＭＤセンサ１２０と、コントローラ１６０と、コンピュータ２００とを備える。ＨＭＤ１１０は、モニタ１１２と、注視センサ１４０と、スピーカ１１５と、マイク１１９とを含む。コントローラ１６０は、モーションセンサ１３０を含み得る。
The
ある局面において、コンピュータ２００は、インターネットその他のネットワーク１９に接続可能であり、ネットワーク１９に接続されているサーバ１５０その他のコンピュータと通信可能である。他の局面において、ＨＭＤ１１０は、ＨＭＤセンサ１２０の代わりに、センサ１１４を含み得る。
In one aspect, the
ＨＭＤ１１０は、ユーザ１９０の頭部に装着され、動作中に仮想空間２をユーザ１９０に提供し得る。より具体的には、ＨＭＤ１１０は、右目用の画像および左目用の画像をモニタ１１２にそれぞれ表示する。ユーザ１９０の各目がそれぞれの画像を視認すると、ユーザ１９０は、両目の視差に基づき当該画像を３次元の画像として認識し得る。
The HMD 110 may be worn on the head of the
モニタ１１２は、たとえば、非透過型の表示装置として実現される。ある局面において、モニタ１１２は、ユーザ１９０の両目の前方に位置するようにＨＭＤ１１０の本体に配置されている。したがって、ユーザ１９０は、モニタ１１２に表示される３次元画像を視認すると、仮想空間２に没入することができる。ある実施の形態において、仮想空間２は、たとえば、背景、ユーザ１９０が操作可能なオブジェクト、ユーザ１９０が選択可能なメニューの画像を含む。複数のコンピュータ２００が各ユーザの動作に基づく信号を受け渡しすることで、複数のユーザが一の仮想空間２で仮想体験できる構成であれば、各ユーザに対応するアバターオブジェクトが、仮想空間２に提示される。
The
なお、オブジェクトとは、仮想空間２に存在する仮想の物体である。ある局面において、オブジェクトは、ユーザに対応するアバターオブジェクト、アバターオブジェクトが身に着ける仮想アクセサリおよび仮想衣服、ユーザに関する情報が示されたパネルを模した仮想パネル、手紙を模した仮想手紙、およびポストを模した仮想ポストなどを含む。さらに、アバターオブジェクトは、仮想空間２においてユーザ１９０を象徴するキャラクタであり、たとえば人型、動物型、ロボット型などを含む。オブジェクトの形は様々である。ユーザ１９０は、予め決められたオブジェクトの中から好みのオブジェクトを仮想空間２に提示するようにしてもよいし、自分が作成したオブジェクトを仮想空間２に提示するようにしてもよい。
The object is a virtual object existing in the
ある実施の形態において、モニタ１１２は、所謂スマートフォンその他の情報表示端末が備える液晶モニタまたは有機ＥＬ（Electro Luminescence）モニタとして実現され得る。
In one embodiment, the
ある局面において、モニタ１１２は、右目用の画像を表示するためのサブモニタと、左目用の画像を表示するためのサブモニタとを含み得る。他の局面において、モニタ１１２は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、モニタ１１２は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。
In one aspect, the
注視センサ１４０は、ユーザ１９０の右目および左目の視線が向けられる方向（視線方向）を検出する。当該方向の検出は、たとえば、公知のアイトラッキング機能によって実現される。注視センサ１４０は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ１４０は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ１４０は、たとえば、ユーザ１９０の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ１４０は、検出した各回転角に基づいて、ユーザ１９０の視線方向を検知することができる。
The
スピーカ１１５は、コンピュータ２００から受信した音声データに対応する音声（発話）を外部に出力する。マイク１１９は、ユーザ１９０の発話に対応する音声データをコンピュータ２００に出力する。ユーザ１９０は、マイク１１９を用いて他のユーザに向けて発話する一方で、スピーカ１１５を用いて他のユーザの音声（発話）を聞くことができる。
The
より具体的には、ユーザ１９０がマイク１１９に向かって発話すると、当該ユーザ１９０の発話に対応する音声データがコンピュータ２００に入力される。コンピュータ２００は、その音声データを、ネットワーク１９を介してサーバ１５０に出力する。サーバ１５０は、コンピュータ２００から受信した音声データを、ネットワーク１９を介して他のコンピュータ２００に出力する。他のコンピュータ２００は、サーバ１５０から受信した音声データを、他のユーザが装着するＨＭＤ１１０のスピーカ１１５に出力する。これにより、他のユーザは、ＨＭＤ１１０のスピーカ１１５を介してユーザ１９０の音声を聞くことができる。同様に、他のユーザからの発話は、ユーザ１９０が装着するＨＭＤ１１０のスピーカ１１５から出力される。
More specifically, when the
コンピュータ２００は、他のユーザのコンピュータ２００から受信した音声データに応じて、当該他のユーザに対応する他アバターオブジェクトを動かすような画像をモニタ１１２に表示する。たとえば、ある局面において、コンピュータ２００は、他アバターオブジェクトの口を動かすような画像をモニタ１１２に表示することで、あたかも仮想空間２内でアバターオブジェクト同士が会話しているかのように仮想空間２を表現する。このように、複数のコンピュータ２００間で音声データの送受信が行なわれることで、一の仮想空間２内で複数のユーザ間での会話（チャット）が実現される。
The
ＨＭＤセンサ１２０は、複数の光源（図示しない）を含む。各光源は、たとえば、赤外線を発するＬＥＤ（Light Emitting Diode）により実現される。ＨＭＤセンサ１２０は、ＨＭＤ１１０の動きを検出するためのポジショントラッキング機能を有する。ＨＭＤセンサ１２０は、この機能を用いて、現実空間内におけるＨＭＤ１１０の位置および傾きを検出する。
The
なお、他の局面において、ＨＭＤセンサ１２０は、カメラにより実現されてもよい。この場合、ＨＭＤセンサ１２０は、カメラから出力されるＨＭＤ１１０の画像情報を用いて、画像解析処理を実行することにより、ＨＭＤ１１０の位置および傾きを検出することができる。
In another aspect, the
他の局面において、ＨＭＤ１１０は、位置検出器として、ＨＭＤセンサ１２０の代わりに、センサ１１４を備えてもよい。ＨＭＤ１１０は、センサ１１４を用いて、ＨＭＤ１１０自身の位置および傾きを検出し得る。たとえば、センサ１１４が、角速度センサ、地磁気センサ、加速度センサ、あるいはジャイロセンサなどである場合、ＨＭＤ１１０は、ＨＭＤセンサ１２０の代わりに、これらの各センサのいずれかを用いて、自身の位置および傾きを検出し得る。一例として、センサ１１４が角速度センサである場合、角速度センサは、現実空間におけるＨＭＤ１１０の３軸周りの角速度を経時的に検出する。ＨＭＤ１１０は、各角速度に基づいて、ＨＭＤ１１０の３軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、ＨＭＤ１１０の傾きを算出する。
In another aspect, the
また、ＨＭＤ１１０は、透過型表示装置を備えていても良い。この場合、当該透過型表示装置は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可能であってもよい。また、視野画像は仮想空間２を構成する画像の一部に、現実空間を提示する構成を含んでいてもよい。たとえば、ＨＭＤ１１０に搭載されたカメラで撮影した画像を視野画像の一部に重畳して表示させてもよいし、当該透過型表示装置の一部の透過率を高く設定することにより、視野画像の一部から現実空間を視認可能にしてもよい。
The
サーバ１５０は、コンピュータ２００にプログラムを送信し得る。他の局面において、サーバ１５０は、他のユーザによって使用されるＨＭＤ１１０に仮想現実を提供するための他のコンピュータ２００と通信し得る。たとえば、アミューズメント施設において、複数のユーザが参加型のゲームを行なう場合、各コンピュータ２００は、各ユーザの動作に基づく信号を他のコンピュータ２００と通信して、同じ仮想空間２において複数のユーザが共通のゲームを楽しむことを可能にする。また、上述したように、複数のコンピュータ２００が各ユーザの動作に基づく信号を送受信することで、一の仮想空間２内で複数のユーザが会話を楽しむことができる。
The
コントローラ１６０は、ユーザ１９０からコンピュータ２００への命令の入力を受け付ける。ある局面において、コントローラ１６０は、ユーザ１９０によって把持可能に構成される。他の局面において、コントローラ１６０は、ユーザ１９０の身体あるいは衣類の一部に装着可能に構成される。他の局面において、コントローラ１６０は、コンピュータ２００から送られる信号に基づいて、振動、音、光のうちの少なくともいずれかを出力するように構成されてもよい。他の局面において、コントローラ１６０は、仮想現実を提供する空間に配置されるオブジェクトの位置や動きを制御するためにユーザ１９０によって与えられる操作を受け付ける。
The
モーションセンサ１３０は、ある局面において、ユーザ１９０の手に取り付けられて、ユーザ１９０の手の動きを検出する。たとえば、モーションセンサ１３０は、手の回転速度、回転数などを検出する。モーションセンサ１３０によって得られたユーザ１９０の手の動きの検出結果を表すデータ（以下、検出データともいう）は、コンピュータ２００に送られる。モーションセンサ１３０は、たとえば、手袋型のコントローラ１６０に設けられている。ある実施の形態において、現実空間における安全のため、コントローラ１６０は、手袋型のようにユーザ１９０の手に装着されることにより容易に飛んで行かないものに装着されるのが望ましい。他の局面において、ユーザ１９０に装着されないセンサがユーザ１９０の手の動きを検出してもよい。たとえば、ユーザ１９０を撮影するカメラの信号が、ユーザ１９０の動作を表す信号として、コンピュータ２００に入力されてもよい。モーションセンサ１３０とコンピュータ２００とは、有線により、または無線により互いに接続される。無線の場合、通信形態は特に限られず、たとえば、Ｂｌｕｅｔｏｏｔｈ（登録商標）その他の公知の通信手法が用いられる。
The
他の局面において、ＨＭＤシステム１００は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、ＨＭＤシステム１００は、仮想空間２においてテレビ番組を表示することができる。
In another aspect, the
さらに他の局面において、ＨＭＤシステム１００は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。
In yet another aspect, the
［コンピュータのハードウェア構成］
図２を参照して、本実施の形態に係るコンピュータ２００について説明する。図２は、一局面に従うコンピュータ２００のハードウェア構成の一例を表すブロック図である。コンピュータ２００は、主たる構成要素として、プロセッサ１０と、メモリ１１と、ストレージ１２と、入出力インターフェース１３と、通信インターフェース１４とを備える。各構成要素は、それぞれ、バス１５に接続されている。
[Computer hardware configuration]
A
プロセッサ１０は、コンピュータ２００に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ１１またはストレージ１２に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ１０は、ＣＰＵ（Central Processing Unit）、ＭＰＵ（Micro Processor Unit）、ＦＰＧＡ（Field-Programmable Gate Array）その他のデバイスとして実現される。
The
メモリ１１は、プログラムおよびデータを一時的に保存する。プログラムは、たとえば、ストレージ１２からロードされる。データは、コンピュータ２００に入力されたデータと、プロセッサ１０によって生成されたデータとを含む。ある局面において、メモリ１１は、ＲＡＭ（Random Access Memory）その他の揮発メモリとして実現される。
The
ストレージ１２は、プログラムおよびデータを永続的に保持する。ストレージ１２は、たとえば、ＲＯＭ（Read-Only Memory）、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ１２に格納されるプログラムは、ＨＭＤシステム１００において仮想空間２を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、他のコンピュータ２００との通信を実現するためのプログラムを含む。ストレージ１２に格納されるデータは、仮想空間２を規定するためのデータおよびオブジェクトなどを含む。
The
なお、他の局面において、ストレージ１２は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに他の局面において、コンピュータ２００に内蔵されたストレージ１２の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、たとえば、アミューズメント施設のように複数のＨＭＤシステム１００が使用される場面において、プログラムやデータの更新を一括して行なうことが可能になる。
In another aspect, the
ある実施の形態において、入出力インターフェース１３は、ＨＭＤ１１０、ＨＭＤセンサ１２０またはモーションセンサ１３０との間で信号を通信する。ある局面において、入出力インターフェース１３は、ＵＳＢ（Universal Serial Bus）インターフェース、ＤＶＩ（Digital Visual Interface）、ＨＤＭＩ（登録商標）（High-Definition Multimedia Interface）その他の端子を用いて実現される。なお、入出力インターフェース１３は上述のものに限られない。
In one embodiment, input /
ある実施の形態において、入出力インターフェース１３は、さらに、コントローラ１６０と通信し得る。たとえば、入出力インターフェース１３は、モーションセンサ１３０から出力された信号の入力を受ける。他の局面において、入出力インターフェース１３は、プロセッサ１０から出力された命令を、コントローラ１６０に送る。当該命令は、振動、音声出力、発光などをコントローラ１６０に指示する。コントローラ１６０は、当該命令を受信すると、その命令に応じて、振動、音声出力または発光のいずれかを実行する。
In one embodiment, input /
通信インターフェース１４は、ネットワーク１９に接続されて、ネットワーク１９に接続されている他のコンピュータ（たとえば、サーバ１５０、他のユーザのコンピュータ２００など）と通信する。ある局面において、通信インターフェース１４は、たとえば、ＬＡＮ（Local Area Network）その他の有線通信インターフェース、あるいは、ＷｉＦｉ（Wireless Fidelity）、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＮＦＣ（Near Field Communication）その他の無線通信インターフェースとして実現される。なお、通信インターフェース１４は上述のものに限られない。
The
ある局面において、プロセッサ１０は、ストレージ１２にアクセスし、ストレージ１２に格納されている１つ以上のプログラムをメモリ１１にロードし、当該プログラムに含まれる一連の命令を実行する。当該１つ以上のプログラムは、コンピュータ２００のオペレーティングシステム、仮想空間２を提供するためのアプリケーションプログラム、コントローラ１６０を用いて仮想空間２で実行可能なゲームソフトウェアなどを含み得る。プロセッサ１０は、入出力インターフェース１３を介して、仮想空間２を提供するための信号をＨＭＤ１１０に送る。ＨＭＤ１１０は、その信号に基づいてモニタ１１２に映像を表示する。
In one aspect, the
なお、図２に示される例では、コンピュータ２００は、ＨＭＤ１１０の外部に設けられる構成が示されているが、他の局面において、コンピュータ２００は、ＨＭＤ１１０に内蔵されてもよい。一例として、モニタ１１２を含む携帯型の情報通信端末（たとえば、スマートフォン）がコンピュータ２００として機能してもよい。
In the example illustrated in FIG. 2, the
また、コンピュータ２００は、複数のＨＭＤ１１０に共通して用いられる構成であってもよい。このような構成によれば、たとえば、複数のユーザに同一の仮想空間２を提供することもできるので、各ユーザは同一の仮想空間２で他のユーザと同一のアプリケーションを楽しむことができる。
In addition, the
ある実施の形態において、ＨＭＤシステム１００では、グローバル座標系が予め設定されている。グローバル座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、ならびに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、３つの基準方向（軸）を有する。本実施の形態では、グローバル座標系は視点座標系の一つである。そこで、グローバル座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれ、ｘ軸、ｙ軸、ｚ軸と規定される。より具体的には、グローバル座標系において、ｘ軸は現実空間の水平方向に平行である。ｙ軸は、現実空間の鉛直方向に平行である。ｚ軸は現実空間の前後方向に平行である。
In one embodiment, in the
ある局面において、ＨＭＤセンサ１２０は、赤外線センサを含む。赤外線センサが、ＨＭＤ１１０の各光源から発せられた赤外線をそれぞれ検出すると、ＨＭＤ１１０の存在を検出する。ＨＭＤセンサ１２０は、さらに、各点の値（グローバル座標系における各座標値）に基づいて、ＨＭＤ１１０を装着したユーザ１９０の動きに応じた、現実空間内におけるＨＭＤ１１０の位置および傾きを検出する。より詳しくは、ＨＭＤセンサ１２０は、経時的に検出された各値を用いて、ＨＭＤ１１０の位置および傾きの時間的変化を検出できる。
In one aspect, the
グローバル座標系は現実空間の座標系と平行である。したがって、ＨＭＤセンサ１２０によって検出されたＨＭＤ１１０の各傾きは、グローバル座標系におけるＨＭＤ１１０の３軸周りの各傾きに相当する。ＨＭＤセンサ１２０は、グローバル座標系におけるＨＭＤ１１０の傾きに基づき、ｕｖｗ視野座標系をＨＭＤ１１０に設定する。ＨＭＤ１１０に設定されるｕｖｗ視野座標系は、ＨＭＤ１１０を装着したユーザ１９０が仮想空間２において物体を見る際の視点座標系に対応する。
The global coordinate system is parallel to the real space coordinate system. Therefore, each inclination of the
［ｕｖｗ視野座標系］
図３を参照して、ｕｖｗ視野座標系について説明する。図３は、ある実施の形態に従うＨＭＤ１１０に設定されるｕｖｗ視野座標系を概念的に表す図である。ＨＭＤセンサ１２０は、ＨＭＤ１１０の起動時に、グローバル座標系におけるＨＭＤ１１０の位置および傾きを検出する。プロセッサ１０は、検出された値に基づいて、ｕｖｗ視野座標系をＨＭＤ１１０に設定する。
[Uvw view coordinate system]
The uvw view coordinate system will be described with reference to FIG. FIG. 3 is a diagram conceptually illustrating the uvw visual field coordinate system set in the
図３に示されるように、ＨＭＤ１１０は、ＨＭＤ１１０を装着したユーザ１９０の頭部を中心（原点）とした３次元のｕｖｗ視野座標系を設定する。より具体的には、ＨＭＤ１１０は、グローバル座標系を規定する水平方向、鉛直方向、および前後方向（ｘ軸、ｙ軸、ｚ軸）を、グローバル座標系内においてＨＭＤ１１０の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる３つの方向を、ＨＭＤ１１０におけるｕｖｗ視野座標系のピッチ方向（ｕ軸）、ヨー方向（ｖ軸）、およびロール方向（ｗ軸）として設定する。
As shown in FIG. 3, the
ある局面において、ＨＭＤ１１０を装着したユーザ１９０が直立し、かつ、正面を視認している場合、プロセッサ１０は、グローバル座標系に平行なｕｖｗ視野座標系をＨＭＤ１１０に設定する。この場合、グローバル座標系における水平方向（ｘ軸）、鉛直方向（ｙ軸）、および前後方向（ｚ軸）は、ＨＭＤ１１０におけるｕｖｗ視野座標系のピッチ方向（ｕ軸）、ヨー方向（ｖ軸）、およびロール方向（ｗ軸）に一致する。
In one aspect, when the
ｕｖｗ視野座標系がＨＭＤ１１０に設定された後、ＨＭＤセンサ１２０は、ＨＭＤ１１０の動きに基づいて、設定されたｕｖｗ視野座標系におけるＨＭＤ１１０の傾き（傾きの変化量）を検出できる。この場合、ＨＭＤセンサ１２０は、ＨＭＤ１１０の傾きとして、ｕｖｗ視野座標系におけるＨＭＤ１１０のピッチ角（θｕ）、ヨー角（θｖ）、およびロール角（θｗ）をそれぞれ検出する。ピッチ角（θｕ）は、ｕｖｗ視野座標系におけるピッチ方向周りのＨＭＤ１１０の傾き角度を表す。ヨー角（θｖ）は、ｕｖｗ視野座標系におけるヨー方向周りのＨＭＤ１１０の傾き角度を表す。ロール角（θｗ）は、ｕｖｗ視野座標系におけるロール方向周りのＨＭＤ１１０の傾き角度を表す。
After the uvw visual field coordinate system is set to the
ＨＭＤセンサ１２０は、検出されたＨＭＤ１１０の傾き角度に基づいて、ＨＭＤ１１０が動いた後のＨＭＤ１１０におけるｕｖｗ視野座標系を、ＨＭＤ１１０に設定する。ＨＭＤ１１０と、ＨＭＤ１１０のｕｖｗ視野座標系との関係は、ＨＭＤ１１０の位置および傾きに関わらず、常に一定である。ＨＭＤ１１０の位置および傾きが変わると、当該位置および傾きの変化に連動して、グローバル座標系におけるＨＭＤ１１０のｕｖｗ視野座標系の位置および傾きが変化する。
The
ある局面において、ＨＭＤセンサ１２０は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係（たとえば、各点間の距離など）に基づいて、ＨＭＤ１１０の現実空間内における位置を、ＨＭＤセンサ１２０に対する相対位置として特定してもよい。また、プロセッサ１０は、特定された相対位置に基づいて、現実空間内（グローバル座標系）におけるＨＭＤ１１０のｕｖｗ視野座標系の原点を決定してもよい。
In one aspect, the
［仮想空間］
図４を参照して、仮想空間２についてさらに説明する。図４は、ある実施の形態に従う仮想空間２を表現する一態様を概念的に表す図である。仮想空間２は、中心２１の３６０度方向の全体を覆う全天球状の構造を有する。図４では、説明を複雑にしないために、仮想空間２のうちの上半分の天球が例示されている。仮想空間２では各メッシュが規定される。各メッシュの位置は、仮想空間２に規定されるＸＹＺ座標系における座標値として予め規定されている。コンピュータ２００は、仮想空間２に展開可能なコンテンツ（静止画、動画など）を構成する各部分画像を、仮想空間２において対応する各メッシュにそれぞれ対応付けて、ユーザ１９０によって視認可能な仮想空間画像２２が展開される仮想空間２をユーザ１９０に提供する。
[Virtual space]
The
ある局面において、仮想空間２では、中心２１を原点とするＸＹＺ座標系が規定される。ＸＹＺ座標系は、たとえば、グローバル座標系に平行である。ＸＹＺ座標系は視点座標系の一種であるため、ＸＹＺ座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれＸ軸、Ｙ軸、Ｚ軸として規定される。したがって、ＸＹＺ座標系のＸ軸（水平方向）がグローバル座標系のｘ軸と平行であり、ＸＹＺ座標系のＹ軸（鉛直方向）がグローバル座標系のｙ軸と平行であり、ＸＹＺ座標系のＺ軸（前後方向）がグローバル座標系のｚ軸と平行である。
In one aspect, in the
ＨＭＤ１１０の起動時、すなわちＨＭＤ１１０の初期状態において、仮想カメラ１が、仮想空間２の中心２１に配置される。仮想カメラ１は、現実空間におけるＨＭＤ１１０の動きに連動して、仮想空間２を同様に移動する。これにより、現実空間におけるＨＭＤ１１０の位置および向きの変化が、仮想空間２において同様に再現される。
When the
仮想カメラ１には、ＨＭＤ１１０の場合と同様に、ｕｖｗ視野座標系が規定される。仮想空間２における仮想カメラのｕｖｗ視野座標系は、現実空間（グローバル座標系）におけるＨＭＤ１１０のｕｖｗ視野座標系に連動するように規定されている。したがって、ＨＭＤ１１０の傾きが変化すると、それに応じて、仮想カメラ１の傾きも変化する。また、仮想カメラ１は、ＨＭＤ１１０を装着したユーザ１９０の現実空間における移動に連動して、仮想空間２において移動することもできる。
As in the case of the
仮想カメラ１の向きは、仮想カメラ１の位置および傾きに応じて決まるので、ユーザ１９０が仮想空間画像２２を視認する際に基準となる視線（基準視線５）は、仮想カメラ１の向きに応じて決まる。コンピュータ２００のプロセッサ１０は、基準視線５に基づいて、仮想空間２における視界領域２３を規定する。視界領域２３は、仮想空間２のうち、ＨＭＤ１１０を装着したユーザ１９０の視界に対応する。
Since the direction of the
注視センサ１４０によって検出されるユーザ１９０の視線方向は、ユーザ１９０が物体を視認する際の視点座標系における方向である。ＨＭＤ１１０のｕｖｗ視野座標系は、ユーザ１９０がモニタ１１２を視認する際の視点座標系に等しい。また、仮想カメラ１のｕｖｗ視野座標系は、ＨＭＤ１１０のｕｖｗ視野座標系に連動している。したがって、ある局面に従うＨＭＤシステム１００は、注視センサ１４０によって検出されたユーザ１９０の視線方向を、仮想カメラ１のｕｖｗ視野座標系におけるユーザ１９０の視線方向とみなすことができる。
The gaze direction of the
［ユーザの視線］
図５を参照して、ユーザ１９０の視線方向の決定について説明する。図５は、ある実施の形態に従うＨＭＤ１１０を装着するユーザ１９０の頭部を上から表した図である。
[User's gaze]
The determination of the gaze direction of the
ある局面において、注視センサ１４０は、ユーザ１９０の右目および左目の各視線を検出する。ある局面において、ユーザ１９０が近くを見ている場合、注視センサ１４０は、視線Ｒ１およびＬ１を検出する。他の局面において、ユーザ１９０が遠くを見ている場合、注視センサ１４０は、視線Ｒ２およびＬ２を検出する。この場合、ロール方向ｗに対して視線Ｒ２およびＬ２がなす角度は、ロール方向ｗに対して視線Ｒ１およびＬ１がなす角度よりも小さい。注視センサ１４０は、検出結果をコンピュータ２００に送信する。
In one aspect, the
コンピュータ２００が、視線の検出結果として、視線Ｒ１およびＬ１の検出値を注視センサ１４０から受信した場合には、その検出値に基づいて、視線Ｒ１およびＬ１の交点である注視点Ｎ１を特定する。一方、コンピュータ２００は、視線Ｒ２およびＬ２の検出値を注視センサ１４０から受信した場合には、視線Ｒ２およびＬ２の交点を注視点として特定する。コンピュータ２００は、特定した注視点Ｎ１の位置に基づき、ユーザ１９０の視線方向Ｎ０を特定する。コンピュータ２００は、たとえば、ユーザ１９０の右目Ｒと左目Ｌとを結ぶ直線の中点と、注視点Ｎ１とを通る直線の延びる方向を、視線方向Ｎ０として検出する。視線方向Ｎ０は、ユーザ１９０が両目により実際に視線を向けている方向である。また、視線方向Ｎ０は、視界領域２３に対してユーザ１９０が実際に視線を向けている方向に相当する。
When the
［視界領域］
図６および図７を参照して、視界領域２３について説明する。図６は、仮想空間２において視界領域２３をＸ方向から見たＹＺ断面を表す図である。図７は、仮想空間２において視界領域２３をＹ方向から見たＸＺ断面を表す図である。
[View area]
The
図６に示されるように、ＹＺ断面における視界領域２３は、領域２４を含む。領域２４は、仮想カメラ１の基準視線５と仮想空間２のＹＺ断面とによって定義される。プロセッサ１０は、仮想空間２おける基準視線５を中心として極角αを含む範囲を、領域２４として規定する。
As shown in FIG. 6, the
図７に示されるように、ＸＺ断面における視界領域２３は、領域２５を含む。領域２５は、基準視線５と仮想空間２のＸＺ断面とによって定義される。プロセッサ１０は、仮想空間２における基準視線５を中心とした方位角βを含む範囲を、領域２５として規定する。
As shown in FIG. 7, the
ある局面において、ＨＭＤシステム１００は、コンピュータ２００からの信号に基づいて、視界画像をモニタ１１２に表示させることにより、ユーザ１９０に仮想空間２を提供する。視界画像は、仮想空間画像２２のうちの視界領域２３に重畳する部分に相当する。ユーザ１９０が、頭に装着したＨＭＤ１１０を動かすと、その動きに連動して仮想カメラ１も動く。その結果、仮想空間２における視界領域２３の位置が変化する。これにより、モニタ１１２に表示される視界画像は、仮想空間画像２２のうち、仮想空間２においてユーザ１９０が向いた方向の視界領域２３に重畳する画像に更新される。ユーザ１９０は、仮想空間２における所望の方向を視認することができる。
In one aspect, the
ユーザ１９０は、ＨＭＤ１１０を装着している間、現実世界を視認することなく、仮想空間２に展開される仮想空間画像２２のみを視認できる。そのため、ＨＭＤシステム１００は、仮想空間２への高い没入感覚をユーザ１９０に与えることができる。
While wearing the
ある局面において、プロセッサ１０は、ＨＭＤ１１０を装着したユーザ１９０の現実空間における移動に連動して、仮想空間２において仮想カメラ１を移動し得る。この場合、プロセッサ１０は、仮想空間２における仮想カメラ１の位置および向きに基づいて、ＨＭＤ１１０のモニタ１１２に投影される画像領域（すなわち、仮想空間２における視界領域２３）を特定する。
In one aspect, the
ある実施の形態に従うと、仮想カメラ１は、二つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含むことが望ましい。また、ユーザ１９０が３次元の仮想空間２を認識できるように、適切な視差が、二つの仮想カメラに設定されていることが好ましい。本実施の形態においては、仮想カメラ１が二つの仮想カメラを含み、二つの仮想カメラのロール方向が合成されることによって生成されるロール方向（ｗ）がＨＭＤ１１０のロール方向（ｗ）に適合されるように構成されているものとして、本開示に係る技術思想を例示する。
According to an embodiment, the
［コントローラ］
図８を参照して、コントローラ１６０の一例について説明する。図８は、ある実施の形態に従うコントローラ１６０の概略構成を表す図である。
[controller]
An example of the
図８の分図（Ａ）に示されるように、ある局面において、コントローラ１６０は、右コントローラ８００と左コントローラ（図示しない）とを含み得る。右コントローラ８００は、ユーザ１９０の右手で操作される。左コントローラは、ユーザ１９０の左手で操作される。ある局面において、右コントローラ８００と左コントローラとは、別個の装置として対称に構成される。したがって、ユーザ１９０は、右コントローラ８００を把持した右手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。他の局面において、コントローラ１６０は両手の操作を受け付ける一体型のコントローラであってもよい。以下、右コントローラ８００について説明する。
As shown in FIG. 8A, in one aspect, the
右コントローラ８００は、グリップ３０と、フレーム３１と、天面３２とを備える。グリップ３０は、ユーザ１９０の右手によって把持されるように構成されている。たとえば、グリップ３０は、ユーザ１９０の右手の掌と３本の指（中指、薬指、小指）とによって保持され得る。
The
グリップ３０は、ボタン３３，３４と、モーションセンサ１３０とを含む。ボタン３３は、グリップ３０の側面に配置され、右手の中指による操作を受け付ける。ボタン３４は、グリップ３０の前面に配置され、右手の人差し指による操作を受け付ける。ある局面において、ボタン３３，３４は、トリガー式のボタンとして構成される。モーションセンサ１３０は、グリップ３０の筐体に内蔵されている。なお、ユーザ１９０の動作がカメラその他の装置によってユーザ１９０の周りから検出可能である場合には、グリップ３０は、モーションセンサ１３０を備えなくてもよい。
The
フレーム３１は、その円周方向に沿って配置された複数の赤外線ＬＥＤ３５を含む。赤外線ＬＥＤ３５は、コントローラ１６０を使用するプログラムの実行中に、当該プログラムの進行に合わせて赤外線を発光する。赤外線ＬＥＤ３５から発せられた赤外線は、右コントローラ８００と左コントローラとの各位置や姿勢（傾き、向き）を検出するために使用され得る。図８に示される例では、二列に配置された赤外線ＬＥＤ３５が示されているが、配列の数は図８に示されるものに限られない。一列あるいは３列以上の配列が使用されてもよい。
The
天面３２は、ボタン３６，３７と、アナログスティック３８とを備える。ボタン３６，３７は、プッシュ式ボタンとして構成される。ボタン３６，３７は、ユーザ１９０の右手の親指による操作を受け付ける。アナログスティック３８は、ある局面において、初期位置（ニュートラルの位置）から３６０度任意の方向への操作を受け付ける。当該操作は、たとえば、仮想空間２に配置されるオブジェクトを移動するための操作を含む。
The
ある局面において、右コントローラ８００および左コントローラは、赤外線ＬＥＤ３５その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型などを含むが、これらに限定されない。他の局面において、右コントローラ８００と左コントローラは、たとえば、コンピュータ２００のＵＳＢインターフェースに接続され得る。この場合、右コントローラ８００および左コントローラは、電池を必要としない。
In one aspect, the
図８の分図（Ｂ）は、右コントローラ８００を把持するユーザ１９０の右手に対応して仮想空間２に配置されるハンドオブジェクト８１０の一例を示す。たとえば、ユーザ１９０の右手に対応するハンドオブジェクト８１０に対して、ヨー、ロール、ピッチの各方向が規定される。たとえば、入力操作が、右コントローラ８００のボタン３４に対して行なわれると、ハンドオブジェクト８１０の人差し指を握りこんだ状態とし、入力操作がボタン３４に対して行なわれていない場合には、分図（Ｂ）に示すように、ハンドオブジェクト８１０の人差し指を伸ばした状態とすることもできる。たとえば、ハンドオブジェクト８１０において親指と人差し指とが伸びている場合に、親指の伸びる方向がヨー方向、人差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定される平面に垂直な方向がピッチ方向としてハンドオブジェクト８１０に規定される。
Part (B) of FIG. 8 illustrates an example of the
［ＨＭＤの制御装置］
図９を参照して、ＨＭＤ１１０の制御装置について説明する。ある実施の形態において、制御装置は周知の構成を有するコンピュータ２００によって実現される。図９は、ある実施の形態に従うコンピュータ２００をモジュール構成として表すブロック図である。
[Control unit of HMD]
The control device of the
図９に示されるように、コンピュータ２００は、表示制御モジュール２２０と、仮想空間制御モジュール２３０と、音声制御モジュール２２５と、メモリモジュール２４０と、通信制御モジュール２５０とを備える。
As shown in FIG. 9, the
表示制御モジュール２２０は、サブモジュールとして、仮想カメラ制御モジュール２２１と、視界領域決定モジュール２２２と、視界画像生成モジュール２２３と、基準視線特定モジュール２２４と、視線検出モジュール２２６とを含む。
The
仮想空間制御モジュール２３０は、サブモジュールとして、仮想空間定義モジュール２３１と、仮想オブジェクト生成モジュール２３２と、手オブジェクト制御モジュール２３３とを含む。
The virtual
ある実施の形態において、表示制御モジュール２２０、仮想空間制御モジュール２３０、および音声制御モジュール２２５は、プロセッサ１０によって実現される。他の実施の形態において、複数のプロセッサ１０が表示制御モジュール２２０、仮想空間制御モジュール２３０、および音声制御モジュール２２５として作動してもよい。メモリモジュール２４０は、メモリ１１またはストレージ１２によって実現される。通信制御モジュール２５０は、通信インターフェース１４によって実現される。
In one embodiment,
ある局面において、表示制御モジュール２２０は、ＨＭＤ１１０のモニタ１１２における画像表示を制御する。仮想カメラ制御モジュール２２１は、仮想空間２に仮想カメラ１を配置し、仮想カメラ１の挙動、向きなどを制御する。視界領域決定モジュール２２２は、ＨＭＤ１１０を装着したユーザ１９０の頭の向きに応じて、視界領域２３を規定する。視界画像生成モジュール２２３は、決定された視界領域２３に基づいて、モニタ１１２に表示される視界画像のデータ（視界画像データともいう）を生成する。さらに、視界画像生成モジュール２２３は、仮想空間制御モジュール２３０から受信したデータに基づいて、視界画像データを生成する。視界画像生成モジュール２２３によって生成された視界画像データは、通信制御モジュール２５０によってＨＭＤ１１０に出力される。基準視線特定モジュール２２４は、ＨＭＤセンサ１２０またはセンサ１１４からの信号に基づいて基準視線（ＨＭＤ１１０の傾き）を検出する。視線検出モジュール２２６は、注視センサ１４０からの信号に基づいて、ユーザ１９０の視線を特定する。
In one aspect, the
仮想空間制御モジュール２３０は、ユーザ１９０に提供される仮想空間２を制御する。仮想空間定義モジュール２３１は、仮想空間２を表す仮想空間データを生成することにより、ＨＭＤシステム１００における仮想空間２を規定する。
The virtual
仮想オブジェクト生成モジュール２３２は、仮想空間２に配置されるオブジェクトのデータを生成する。オブジェクトは、たとえば、他アバターオブジェクト、仮想パネル、仮想手紙、および仮想ポストなどを含み得る。仮想オブジェクト生成モジュール２３２によって生成されたデータは、視界画像生成モジュール２２３に出力される。
The virtual
手オブジェクト制御モジュール２３３は、手オブジェクトを仮想空間２に配置する。手オブジェクトは、たとえば、コントローラ１６０を保持したユーザ１９０の右手あるいは左手に対応する。ある局面において、手オブジェクト制御モジュール２３３は、右手あるいは左手に対応する手オブジェクトを仮想空間２に配置するためのデータを生成する。また、手オブジェクト制御モジュール２３３は、ユーザ１９０によるコントローラ１６０の操作に応じて、手オブジェクトを動かすためのデータを生成する。手オブジェクト制御モジュール２３３によって生成されたデータは、視界画像生成モジュール２２３に出力される。
The hand
他の局面において、ユーザ１９０の体の一部の動き（たとえば、左手、右手、左足、右足、頭などの動き）がコントローラ１６０に関連付けられている場合、仮想空間制御モジュール２３０は、ユーザ１９０の体の一部に対応する部分オブジェクトを仮想空間２に配置するためのデータを生成する。仮想空間制御モジュール２３０は、ユーザ１９０が体の一部を用いてコントローラ１６０を操作すると、部分オブジェクトを動かすためのデータを生成する。これらのデータは、視界画像生成モジュール２２３に出力される。
In another aspect, if movement of a portion of the body of the user 190 (eg, movement of a left hand, right hand, left foot, right foot, head, etc.) is associated with the
音声制御モジュール２２５は、ＨＭＤ１１０から、ユーザ１９０のマイク１１９を用いた発話を検出すると、当該発話に対応する音声データの送信対象のコンピュータ２００を特定する。音声データは、音声制御モジュール２２５によって特定されたコンピュータ２００に送信される。音声制御モジュール２２５は、ネットワーク１９を介して他のユーザのコンピュータ２００から音声データを受信すると、当該音声データに対応する音声（発話）をスピーカ１１５から出力する。
When the
メモリモジュール２４０は、コンピュータ２００が仮想空間２をユーザ１９０に提供するために使用されるデータを保持している。ある局面において、メモリモジュール２４０は、空間情報２４１と、オブジェクト情報２４２と、ユーザ情報２４３とを保持している。
空間情報２４１は、仮想空間２を提供するために規定された１つ以上のテンプレートを保持している。
オブジェクト情報２４２は、仮想空間２において再生されるコンテンツ、当該コンテンツで使用されるオブジェクトを配置するための情報を保持している。当該コンテンツは、たとえば、ゲーム、現実社会と同様の風景を表したコンテンツなどを含み得る。さらに、オブジェクト情報２４２は、コントローラ１６０を操作するユーザ１９０の手に相当する手オブジェクトを仮想空間２に配置するためのデータと、各ユーザのアバターオブジェクトを仮想空間２に配置するためのデータと、仮想パネルなどのその他のオブジェクトを仮想空間２に配置するためのデータとを含む。
The object information 242 holds content to be reproduced in the
ユーザ情報２４３は、ＨＭＤシステム１００の制御装置としてコンピュータ２００を機能させるためのプログラム、オブジェクト情報２４２に保持される各コンテンツを使用するアプリケーションプログラムなどを保持している。メモリモジュール２４０に格納されているデータおよびプログラムは、ＨＭＤ１１０のユーザ１９０によって入力される。あるいは、プロセッサ１０が、当該コンテンツを提供する事業者が運営するコンピュータ（たとえば、サーバ１５０）からプログラムあるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール２４０に格納する。
The
通信制御モジュール２５０は、ネットワーク１９を介して、サーバ１５０その他の情報通信装置と通信し得る。
ある局面において、表示制御モジュール２２０および仮想空間制御モジュール２３０は、たとえば、ユニティテクノロジーズ社によって提供されるＵｎｉｔｙ（登録商標）を用いて実現され得る。他の局面において、表示制御モジュール２２０および仮想空間制御モジュール２３０は、各処理を実現する回路素子の組み合わせとしても実現され得る。
In one aspect, the
コンピュータ２００における処理は、ハードウェアと、プロセッサ１０により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール２４０に予め格納されている場合がある。また、ソフトウェアは、ＣＤ−ＲＯＭその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール２５０を介してサーバ１５０その他のコンピュータからダウンロードされた後、記憶モジュールに一旦格納される。そのソフトウェアは、プロセッサ１０によって記憶モジュールから読み出され、実行可能なプログラムの形式でＲＡＭに格納される。プロセッサ１０は、そのプログラムを実行する。
Processing in the
コンピュータ２００を構成するハードウェアは、一般的なものである。したがって、本実施の形態に係る最も本質的な部分は、コンピュータ２００に格納されたプログラムであるともいえる。なお、コンピュータ２００のハードウェアの動作は周知であるので、詳細な説明は繰り返さない。
The hardware that makes up the
なお、データ記録媒体としては、ＣＤ−ＲＯＭ、ＦＤ（Flexible Disk）、ハードディスクに限られず、磁気テープ、カセットテープ、光ディスク（ＭＯ（Magnetic Optical Disc）／ＭＤ（Mini Disc）／ＤＶＤ（Digital Versatile Disc））、ＩＣ（Integrated Circuit）カード（メモリカードを含む）、光カード、マスクＲＯＭ、ＥＰＲＯＭ（Electronically Programmable Read-Only Memory）、ＥＥＰＲＯＭ（Electronically Erasable Programmable Read-Only Memory）、フラッシュＲＯＭなどの半導体メモリなどの固定的にプログラムを担持する不揮発性のデータ記録媒体でもよい。 Incidentally, the data recording medium is not limited to CD-ROM, FD (Flexible Disk), hard disk, magnetic tape, cassette tape, optical disk (Magnetic Optical Disc) / MD (Mini Disc) / DVD (Digital Versatile Disc) ), IC (Integrated Circuit) card (including memory card), optical card, mask ROM, semiconductor memory such as EEPROM (Electronically Programmable Read-Only Memory), EEPROM (Electronically Erasable Programmable Read-Only Memory), flash ROM, etc. It may be a non-volatile data storage medium that carries a program fixedly.
ここでいうプログラムとは、プロセッサ１０により直接実行可能なプログラムだけでなく、ソースプログラム形式のプログラム、圧縮処理されたプログラム、暗号化されたプログラムなどを含み得る。
The program referred to here may include not only a program directly executable by the
［ＨＭＤシステムの制御構造］
図１０を参照して、ＨＭＤシステム１００の制御構造について説明する。図１０は、ある実施の形態に従うＨＭＤシステム１００において実行される処理の一部を表すシーケンスチャートである。
[Control structure of HMD system]
The control structure of the
図１０に示されるように、ステップＳ１０１０にて、コンピュータ２００のプロセッサ１０は、仮想空間定義モジュール２３１として、仮想空間画像データを特定し、仮想空間２を定義する。
As shown in FIG. 10, in step S1010, the
ステップＳ１０２０にて、プロセッサ１０は、仮想カメラ１を初期化する。たとえば、プロセッサ１０は、メモリのワーク領域において、仮想カメラ１を仮想空間２において予め規定された中心点に配置し、仮想カメラ１の視線をユーザ１９０が向いている方向に向ける。
In step S1020, the
ステップＳ１０３０にて、プロセッサ１０は、視界画像生成モジュール２２３として、初期の視界画像を表示するための視界画像データを生成する。生成された視界画像データは、通信制御モジュール２５０によってＨＭＤ１１０に出力される。
In step S1030, the
ステップＳ１０３２にて、ＨＭＤ１１０のモニタ１１２は、コンピュータ２００から受信した視界画像データに基づいて、視界画像を表示する。ＨＭＤ１１０を装着したユーザ１９０は、視界画像を視認すると仮想空間２を認識し得る。
In step S1032, the
ステップＳ１０３４にて、ＨＭＤセンサ１２０は、ＨＭＤ１１０から発信される複数の赤外線光に基づいて、ＨＭＤ１１０の位置と傾きを検知する。検知結果は、動き検知データとして、コンピュータ２００に出力される。
In step S1034, the
ステップＳ１０４０にて、プロセッサ１０は、ＨＭＤ１１０の動き検知データに含まれる位置と傾きとに基づいて、ＨＭＤ１１０を装着したユーザ１９０の視界方向を特定する。
In step S1040, the
ステップＳ１０５０にて、プロセッサ１０は、アプリケーションプログラムを実行し、アプリケーションプログラムに含まれる命令に基づいて、仮想空間２にオブジェクトを提示する。このとき提示されるオブジェクトは、他アバターオブジェクトを含む。
In step S1050, the
ステップＳ１０６０にて、コントローラ１６０は、モーションセンサ１３０から出力される信号に基づいて、ユーザ１９０の操作を検出し、その検出された操作を表す検出データをコンピュータ２００に出力する。なお、他の局面において、ユーザ１９０によるコントローラ１６０の操作は、ユーザ１９０の周囲に配置されたカメラからの画像に基づいて検出されてもよい。
In step S1060,
ステップＳ１０６５にて、プロセッサ１０は、コントローラ１６０から取得した検出データに基づいて、ユーザ１９０によるコントローラ１６０の操作を検出する。
In step S1065, the
ステップＳ１０７０にて、プロセッサ１０は、手オブジェクトを仮想空間２に提示するための視界画像データを生成する。
In step S1070, the
ステップＳ１０８０にて、プロセッサ１０は、ユーザ１９０によるコントローラ１６０の操作に基づく視界画像データを生成する。生成された視界画像データは、通信制御モジュール２５０によってＨＭＤ１１０に出力される。
In step S1080,
ステップＳ１０９２にて、ＨＭＤ１１０は、受信した視界画像データに基づいて視界画像を更新し、更新後の視界画像をモニタ１１２に表示する。
In step S1092, the
［技術思想］
図１１は、ある実施形態に従う仮想空間における視界の更新方法の概要を説明するための図である。
[Technical thought]
FIG. 11 is a diagram for describing an overview of a method of updating a field of view in a virtual space according to an embodiment.
図１１（Ａ）を参照して、ユーザ１９０はＨＭＤ１１０を装着している。上述の注視センサ１４０は、ユーザ１９０の左目の視線（眼球の位置）を検出するための注視センサ１４０Ｌと、ユーザ１９０の右目の視線（眼球の位置）を検出するための注視センサ１４０Ｒとを含む。コンピュータ２００は、ユーザ１９０の左目の視線と右目の視線とに基づいて、ユーザ１９０の視線を検出する。
Referring to FIG. 11A, the
ある局面において、注視センサ１４０は赤外線照射装置（図示しない）とカメラ（図示しない）とを含む。赤外線照射装置は、ユーザ１９０の目に赤外線を照射する。注視センサ１４０は、ユーザ１９０の目に照射された赤外線の反射光をカメラで撮影することにより、ユーザ１９０の視線を検出する。当該構成によれば、ＨＭＤシステム１００は、非接触でユーザ１９０の視線を検出できるため、ユーザ１９０の負担を軽減し得る。なお、他の局面において、注視センサ１４０は、サーチコイル法、眼球電位法等の接触方式を採用してもよい。
In one aspect, the
図１１（Ａ）において、ユーザ１９０およびユーザ１９０の視線は正面を向いている。図１１（Ｂ）は、図１１（Ａ）の状態のユーザ１９０が視認する仮想空間の範囲を表す図である。図１１（Ｂ）を参照して、仮想カメラ１の撮影範囲に対応する視界領域２３には、幽霊を模したオブジェクト１３００が配置されている。コンピュータ２００は、視界領域２３に配置されているオブジェクト１３００とパノラマ画像の一部とをレンダリングしてモニタ１１２に表示する。これにより、ユーザ１９０は、オブジェクト１３００を視認する。
In FIG. 11A, the line of sight of the
ある局面において、ユーザ１９０は、図１１（Ａ）の状態から頭部を矢印Ｄ１の方向（右方向）に回転させて図１１（Ｃ）の状態に移行する。基準視線特定モジュール２２４は、センサ１１４（たとえば、角速度センサ）またはＨＭＤセンサ１２０の出力に基づいてユーザ１９０の頭部が右方向に回転したことを検出する。仮想カメラ制御モジュール２２１は、このユーザ１９０の頭部の動きに連動するように仮想カメラ１を右方向に傾ける。これにより、図１１（Ｄ）に示されるように、オブジェクト１３００は視界領域２３から外れる。その結果、オブジェクト１３００はモニタ１１２にも表示されなくなる。
In one aspect, the
他の局面において、ユーザ１９０は、図１１（Ａ）の状態から視線を矢印Ｄ２の方向（右方向）に移動させて図１１（Ｅ）の状態に移行する。視線検出モジュール２２６は、注視センサ１４０の出力に基づいてユーザ１９０の視線が右方向に移動したことを検出する。仮想カメラ制御モジュール２２１は、このユーザ１９０の視線の動きに連動するように仮想カメラ１を右方向に傾ける。これにより、図１１（Ｆ）に示されるように、オブジェクト１３００は視界領域２３から外れる。その結果、オブジェクト１３００はモニタ１１２にも表示されなくなる。
In another aspect, the
上記のように、ある実施形態に従う仮想カメラ制御モジュール２２１は、注視センサ１４０の出力に基づいて検出されるユーザ１９０の視線の動きに応じて、仮想空間２においてモニタ１１２に表示する範囲を特定（例えば、仮想カメラ１の傾きを制御）する。さらに、ある実施形態に従う仮想カメラ制御モジュール２２１は、センサ１１４またはＨＭＤセンサ１２０の出力に基づいて検出されるユーザ１９０の頭部の動きに応じて、仮想空間２においてモニタ１１２に表示する範囲を特定する。
As described above, the virtual
これにより、実施形態に従うＨＭＤシステム１００は、現実空間における視界の更新方法と同じ更新方法を仮想空間において実現できる。その結果、ユーザ１９０は、仮想空間において違和感を覚えることなく自身の視界を更新できるため、より仮想空間に没入し得る。
Thus, the
［制御構造］
図１２は、ある局面においてＨＭＤシステム１００が視界画像データを生成する処理を表すフローチャートである。
Control structure
FIG. 12 is a flowchart showing a process of generating view image data by the
ステップＳ１２１０にて、コンピュータ２００のプロセッサ１０は、仮想空間定義モジュール２３１として、仮想空間２を定義する。ステップＳ１２２０にて、プロセッサ１０は、仮想オブジェクト生成モジュール２３２として、仮想カメラ１を仮想空間２における初期位置（例えば中央２１）に配置する。
In step S1210, the
ステップＳ１２３０にて、プロセッサ１０は、視界画像生成モジュール２２３として、初期の視界画像を表示するための視界画像データを生成する。生成された視界画像データは、通信制御モジュール２５０によってＨＭＤ１１０に出力される。
In step S1230, the
ステップＳ１２３２にて、ＨＭＤ１１０のモニタ１１２は、コンピュータ２００から受信した視界画像データに基づいて、視界画像を表示する。ＨＭＤ１１０を装着したユーザ１９０は、視界画像を視認すると仮想空間２を認識する。
In step S1232, the
ステップＳ１２３４にて、センサ１１４は、ＨＭＤ１１０の傾き（つまり、ユーザ１９０の頭部の傾き）を表す動き検知データをコンピュータ２００に出力する。ステップＳ１２４０にて、コンピュータ２００のプロセッサ１０は、基準視線特定モジュール２２４として、センサ１１４から受信した動き検知データに基づいてユーザ１９０の頭部の動き（傾き）を検出する。ある局面において、センサ１１４は、３軸角速度センサと、３軸加速度センサとの組み合わせにより構成される。コンピュータ２００は、これらのセンサの出力に基づいて、ＨＭＤ１１０の基準方向（たとえば、重力（鉛直）方向）に対する角度を算出する。
In step S1234,
ステップＳ１２６０にて、注視センサ１４０は、ユーザ１９０の両目の各々の視線の検出結果をコンピュータ２００に出力する。ステップＳ１２７０にて、プロセッサ１０は、視線検出モジュール２２６として、注視センサ１４０の出力に基づいてユーザ１９０の視線の動き（たとえば、基準視線（たとえば、正面）に対する傾き）を検出する。
In step S1260,
ステップＳ１２８０にて、プロセッサ１０は、仮想空間２においてモニタ１１２に表示する範囲を特定する。より具体的には、プロセッサ１０は、検出された頭部の動きと、視線の動きとに連動するように、仮想カメラ１の傾きを制御する。たとえば、ユーザ１９０が頭を右方向に１０°傾け、ユーザ１９０が視線を右方向に１０°傾けた場合、プロセッサ１０は、仮想カメラ１を右方向に２０°傾ける。プロセッサ１０は、傾けた後の仮想カメラ１の撮影範囲（視界領域２３）を、モニタ１１２に表示する範囲として特定する。このとき、プロセッサ１０は、仮想カメラ１の設定を参照して、仮想カメラ１の撮影範囲を決定する。たとえば、仮想カメラ１の設定は、仮想カメラ１の画角を含む。
In step S1280, the
ステップＳ１２９０にて、プロセッサ１０は、特定した表示範囲に含まれるオブジェクトおよびパノラマ画像をレンダリングして視界画像データを生成する。生成された視界画像データは、通信制御モジュール２５０によってＨＭＤ１１０に出力される。
In step S1290, the
ステップＳ１２９２にて、ＨＭＤ１１０は、受信した視界画像データに基づいて視界画像を更新し、更新後の視界画像をモニタ１１２に表示する。
In step S1292, the
上記によれば、実施形態に従うＨＭＤシステム１００は、ユーザ１９０の頭部の動きと、ユーザ１９０の視線の動きとに連動するように、ユーザ１９０に提供する視界画像を更新する。これにより、実施形態に従うＨＭＤシステム１００は、現実空間における視界の更新方法と同じ更新方法を仮想空間において実現できる。その結果、ユーザ１９０は、仮想空間において違和感を覚えることなく自身の視界を更新できるため、より仮想空間に没入し得る。
According to the above, the
なお、上記の例ではプロセッサ１０はステップＳ１２８０において、検出された頭部の動きと、視線の動きとに連動するように仮想カメラ１の傾きを制御して、仮想空間２においてモニタ１１２に表示する範囲を特定しているが、表示範囲の特定方法は当該方法に限られない。
In the above example, in step S1280, the
ある実施形態において、プロセッサ１０は、検出された頭部の動きに連動するように仮想カメラ１の傾きを制御し、傾きを制御された仮想カメラ１の撮影範囲に対応する第１視界画像を生成する。この第１視界画像は、モニタ１１２の解像度よりも大きいものとする。プロセッサ１０は、検出された視線の動きに基づいて、当該第１視界画像の一部の領域である第２視界画像を切り出す。たとえば、検出された視線が正面方向である場合、第２視界画像は、第１視界画像の中央領域に設定される。ある局面において、第２視界画像の解像度は、モニタ１１２の解像度と同じに設定される。プロセッサ１０は、この第２視界画像をモニタ１１２に表示することにより、視界画像を更新してもよい。
In one embodiment, the
［変形例１−視線で視界画像を更新する条件］
上記の例では、コンピュータ２００は常にユーザ１９０の視線の動きに追随するように仮想カメラ１の傾きを制御するように構成されている。他の例において、コンピュータ２００は、視線に関する予め定められた条件を満たした場合に、仮想カメラ１の傾きを視線の動きに追随するように制御してもよい。
[
In the above example, the
（視線が大きく動いた場合）
ある局面において、コンピュータ２００のプロセッサ１０は、基準視線に対するユーザ１９０の視線の角度が予め定められた角度（例えば１５°）を超えた場合に、検出される視線の動きに連動するように仮想カメラ１の傾きを制御する。基準視線は、たとえば、ユーザ１９０の正面方向に設定される。他の例として、プロセッサ１０は、ユーザ１９０の視線が所定時間にわたり略同じ方向を向いている場合、当該方向を基準視線として設定してもよい。
(When the gaze moves a lot)
In one aspect, the
ユーザ１９０の視線は微小ながら振動している。そのため、仮に仮想カメラ１の傾きを常にユーザ１９０の視線に連動させると、ユーザ１９０はぶれている視界画像を認識する。係る場合、ユーザ１９０は、不快感を覚え得る。そこで、ある実施形態に従うコンピュータ２００は、上記の条件を満たすときに（つまり、基準視線に対してユーザ１９０の視線が大きく動いた場合）仮想カメラ１の傾きを視線に連動するように制御することによって、ユーザ１９０の不快感を低減することができる。
The line of sight of the
また、人は頭を固定したまま自身の視界の中央領域から外れた位置（例えば端）にある物体を視認したい場合、物体側に向けて自身の視線を大きく動かす。つまり、視線が大きく動くことは、人が何らかの物体を注視したいことを表す。この特性を生かし、コンピュータ２００は、ユーザ１９０が視線による自身の視界画像の変更を意図する場合にのみ、仮想カメラ１の傾きを視線に連動させ得る。図１３を用いて、この処理について説明する。
Also, when a person wants to view an object at a position (for example, an end) outside the central region of his field of view with his head fixed, he greatly moves his gaze toward the object side. That is, large movement of the line of sight indicates that a person wants to gaze at an object. Taking advantage of this characteristic, the
図１３は、ある実施形態に従う、ユーザ１９０の視線の動きに基づいて視界画像を更新する処理を説明するための図である。図１３（Ａ）は、ユーザ１９０の視線と基準視線との関係を説明するための図である。図１３（Ｂ）は、図１３（Ａ）の状態においてユーザ１９０が視認する視界画像１３１０を表す。図１３（Ｃ）は、図１３（Ｂ）の後に表示される視界画像１３２０を表す。
FIG. 13 is a diagram for explaining a process of updating a view image based on the movement of the line of sight of the
図１３（Ａ）を参照して、ユーザ１９０は方向１３０５を注視している（つまり、方向１３０５がユーザ１９０の視線）。方向１３０１は、ユーザ１９０の正面方向である。ある局面において、ユーザ１９０の正面方向（方向１３０１）が基準視線として設定される。
Referring to FIG. 13A,
図１３（Ｂ）に示される視界画像１３１０における中央１３３０は、ユーザ１９０の正面（方向１３０１）に対応する視点である。ポインタ１３５０は、視界画像１３１０におけるユーザ１９０の注視点を表す。図１３（Ｂ）に示される例においてユーザ１９０は幽霊を模したオブジェクト１３００を視認するために自身の視線を動かす。範囲１３４０は、基準視線に対する予め定められた角度θ１の範囲を表す。
The
ある局面において、コンピュータ２００のプロセッサ１０は、基準視線（方向１３０１）に対するユーザ１９０の視線（方向１３０５）の角度θ２が、予め定められた角度θ１よりも大きいと判断する。これにより、プロセッサ１０はユーザ１９０の視線に連動するように仮想カメラ１の傾きを制御する。その結果、図１３（Ｃ）に示されるように、オブジェクト１３００が中央１３３０に位置する視界画像１３２０が生成される。
In one aspect, the
ある局面において、プロセッサ１０は、ユーザ１９０の視線に連動するように視界画像を更新した後、予め定められた時間（例えば２秒）にわたり、視線に基づく視界画像の更新処理を禁止する。その理由は、当該禁止処理が行なわれない場合、プロセッサ１０は、仮想カメラ１の傾きをユーザ１９０の視線方向に動かし続け、ユーザ１９０が視認したい対象が視界画像の中央から外れてしまうためである。
In one aspect, the
（同じ箇所を見つめ続けた場合）
他の局面において、プロセッサ１０は、予め定められた時間（例えば１秒間）にわたりユーザ１９０の視線が略同じ方向を向いている場合、ユーザ１９０の視線の動きに連動するように仮想カメラ１の傾きを制御してもよい。ユーザ１９０の視線が略同じ方向を向いている場合、ユーザ１９０は当該方向に存在する対象物を視認したいと推定されるためである。
(If you keep looking at the same spot)
In another aspect, the
さらに他の局面において、プロセッサ１０は、ユーザ１９０の視線と基準視線とがなす角度が予め定められた角度を超えた場合であって、かつ、所定時間にわたりユーザ１９０の視線が略同じ方向を向いている場合に、ユーザ１９０の視線の動きに連動するように仮想カメラ１の傾きを制御してもよい。
In yet another aspect, the
（制御構造）
図１４は、変形例１に従う仮想カメラ１の傾きの制御する処理を表すフローチャートである。図１４に示される処理は、コンピュータ２００のプロセッサ１０により実現される。
(Control structure)
FIG. 14 is a flowchart showing a process of controlling the tilt of the
ステップＳ１４１０にて、プロセッサ１０は、視線検出モジュール２２６として、注視センサ１４０の出力に基づいてユーザ１９０の視線を検出する。
In step S1410, the
ステップＳ１４２０にて、プロセッサ１０は、基準視線（例えば、正面方向）に対してユーザ１９０の視線がなす角度が予め定められた角度を超えているか否かを判断する。プロセッサ１０は、基準視線に対してユーザ１９０の視線がなす角度が予め定められた角度を超えていると判断した場合（ステップＳ１４２０でＹＥＳ）、ステップＳ１４３０の処理を実行する。そうでない場合（ステップＳ１４２０でＮＯ）、プロセッサ１０は、ステップＳ１４５０の処理を実行する。
In step S1420, the
ステップＳ１４３０にて、プロセッサ１０は、検出されたユーザ１９０の視線の動き（傾き）に応じて、仮想空間２においてモニタ１１２に表示する範囲を特定する。より具体的には、プロセッサ１０は、仮想カメラ１の傾きを検出されたユーザ１９０の視線の動きに連動させる。たとえば、ステップＳ１４２０で基準視線に対してユーザ１９０の視線がなす角度が右方向に３０°であった場合、プロセッサ１０は、仮想カメラ１を右方向に３０°傾ける。
In step S1430,
ステップＳ１４４０において、プロセッサ１０は、予め定められた時間（例えば、２秒）にわたり、視線に従う仮想カメラ１の傾き制御処理（ステップＳ１４３０の処理）を禁止する。
In step S1440, the
ステップＳ１４５０にて、プロセッサ１０は、ユーザ１９０が予め定められた時間（例えば、１秒）にわたりユーザ１９０の視線が略同じ方向であるか否かを判断する。たとえば、プロセッサ１０は、予め定められた時間にわたりユーザ１９０の視線方向の変動が５°未満である場合に、ユーザ１９０の視線が略同じ方向であると判断する。
In step S1450,
プロセッサ１０は、ユーザ１９０が予め定められた時間にわたりユーザ１９０の視線が略同じ方向であると判断した場合（ステップＳ１４５０でＹＥＳ）、ステップＳ１４６０の処理を実行する。そうでない場合（ステップＳ１４５０でＮＯ）、プロセッサ１０は、ステップＳ１４１０の処理を再び実行する。
If it is determined that the
ステップＳ１４６０にて、プロセッサ１０は、検出されたユーザ１９０の視線の動き（傾き）に応じて、仮想空間２においてモニタ１１２に表示する範囲を特定する。より具体的には、プロセッサ１０は、仮想カメラ１の傾きを検出されたユーザ１９０の視線の動きに連動させる。その後、プロセッサ１０は、ステップＳ１４１０の処理を再び実行する。
In step S1460,
上記によれば、変形例に従うプロセッサ１０は、よりユーザ１９０が違和感を覚えにくい視界画像をユーザ１９０に提供し得る。
According to the above, the
［変形例２−ディスプレイの表示領域を変更］
変形例２に従うプロセッサ１０は、ユーザ１９０の視線の動きに連動するように、モニタ１１２の表示領域を変更する。
[Modification 2-Change Display Area of Display]
The
図１５は、ユーザ１９０の視線とディスプレイの表示領域との関係を説明するための図である。図１５（Ａ）を参照して、ユーザ１９０は方向１３０５を注視している（つまり、方向１３０５がユーザ１９０の視線）。方向１３０１は、ユーザ１９０の正面方向である。
FIG. 15 is a diagram for explaining the relationship between the line of sight of the
図１５（Ｂ）はモニタ１１２における表示領域を説明するための図である。ユーザ１９０が正面方向（方向１３０１）に対応するモニタ１１２における中央１５２０を注視している場合、プロセッサ１０は、中央１５２０を中心とする中央領域１５１０を表示領域として設定する。プロセッサ１０は、設定した表示領域に、仮想カメラ１の撮影範囲（視界領域２３）に対応する視界画像を表示する。ある局面において、表示領域のアスペクト比はモニタ１１２のアスペクト比に設定される。
FIG. 15B is a diagram for explaining a display area on the
変形例２に従うモニタ１１２（右目用および左目用の各々のディスプレイを含む）は、ユーザ１９０の目とモニタ１１２との距離に応じて定まるユーザ１９０の視界よりも十分に大きく構成され得る。
The monitor 112 (including the displays for the right eye and the left eye) according to the second modification may be configured to be sufficiently larger than the field of view of the
ユーザ１９０が方向１３０５に対応するモニタ１１２における位置１５３０を注視している場合、プロセッサ１０は、位置１５３０を中心とする領域１５４０を表示領域に設定する。プロセッサ１０は、ユーザ１９０の視線（方向１３０５）に連動するように傾きを制御した仮想カメラ１により生成される視界画像を、表示領域に表示する。
When the
上記によれば、ユーザ１９０は、自身の視線方向を中心とする視界画像を認識できる。換言すれば、ユーザ１９０は、自身が視認しようとしている対象物を自身の視界の中心に捉えることができる。
According to the above, the
また、コンピュータ２００は、大きなモニタ１１２のすべてに画像を表示するのではなく、ユーザ１９０の視線（視界）に対応する視界画像を生成して表示領域に表示する構成である。そのため、コンピュータ２００は、モニタ１１２の全画素分の画像を生成しなくてもよいため、処理負担および消費電力を抑制し得る。
The
上記の例では、コンピュータ２００のプロセッサ１０は、ユーザ１９０の視線に連動するようにモニタ１１２における表示領域の位置を変更するように構成されている。他の局面において、プロセッサ１０は、ユーザ１９０の視線に基づいて、表示領域の大きさを変更するように構成されてもよい。
In the above example, the
ある局面においてプロセッサ１０は、ユーザ１９０の視線（方向１３０５）と正面方向（方向１３０１）とがなす角度θ２を算出する。プロセッサ１０は、この角度θ２が大きくなるほど、モニタ１１２における表示領域を大きくするように制御する。図１５（Ｃ）に示される例において、領域１５５０が表示領域として設定される。一例として、プロセッサ１０は、中央１５２０および位置１５３０の距離１５６０と、中央１５２０から位置１５３０へ伸びる方向における中央領域１５１０の外周位置から領域１５５０の外周位置までの距離１５７０とが等しくなるように、領域１５５０を設定する。
In one aspect, the
プロセッサ１０はさらに、ユーザ１９０の視線の動きに連動するように、仮想カメラ１の画角を制御する。より具体的には、プロセッサ１０は仮想カメラ制御モジュール２２１として、角度θ２が大きくなるほど仮想カメラ１の画角を大きくする。仮想カメラ１の画角が広がることにより、視界領域２３が広がる。プロセッサ１０は視界画像生成モジュール２２３として、広がった視界領域２３に対応する視界画像を、領域１５５０に表示する。当該構成によっても、ユーザ１９０は、自身が視認しようとしている対象物を自身の視界の中心に捉えることができる。
The
［変形例３−胴部の動きに連動するように視界画像を更新］
上記の例では、プロセッサ１０は、センサ１１４またはＨＭＤセンサ１２０の出力によって検出されるＨＭＤ１１０の動きをユーザ１９０の頭部の動きとして検出し、ユーザ１９０の頭部の動きに連動するように視界画像を更新する。他の局面において、プロセッサ１０は、ユーザ１９０の胴部の動きに連動するように視界画像を更新してもよい。
[Modification 3-Update the field of view image to be linked to the movement of the torso]
In the above example, the
人は胴部を傾ける（たとえば、前屈みする）ことによっても、自身の視界は変わる。そこで、他の実施形態において、コンピュータ２００のプロセッサ１０は、ユーザ１９０の胴部の動き（傾き）を検出し、検出された胴部の動きに連動するように視界画像を更新する。
A person can change his / her field of vision by tilting (eg, bending forward) the torso. Therefore, in another embodiment, the
一例として、プロセッサ１０は、図示しないカメラでユーザ１９０を撮影することにより生成された画像を解析することにより、ユーザ１９０の胴部の傾きを検出する。他の例として、プロセッサ１０は、ユーザ１９０の胴部に装着されるモーションセンサの出力に基づいてユーザ１９０の胴部の傾きを検出する。
As an example, the
［構成］
以上に開示された技術的特徴は、以下のように要約され得る。
[Constitution]
The technical features disclosed above can be summarized as follows.
（構成１） ＨＭＤ１１０によって仮想空間２を提供するためにコンピュータ２００で実行されるプログラムが提供される。このプログラムはコンピュータ２００に、ＨＭＤ１１０のモニタ１１２に視界画像を表示してＨＭＤ１１０のユーザ１９０に仮想空間２を提供するステップ（ステップＳ１２３０）と、ユーザ１９０の視線の動きを検出するステップ（ステップＳ１２７０）と、検出された視線の動きに応じて、仮想空間２においてモニタ１１２に表示する範囲を特定するステップ（ステップＳ１２８０）と、特定された範囲に対応する視界画像をモニタ１１２に表示させるよう視界画像を更新するステップ（ステップＳ１２９０）とを実行させる。
(Configuration 1) A program that is executed by the
上記によれば、ユーザ１９０は、仮想空間においても現実空間と同様に、視線を動かすことにより更新された視界画像を視認できる。その結果、ユーザ１９０は、仮想空間により没入し得る。また、従来は仮想空間における視界を所定方向に変更したい場合、ＨＭＤを当該所定方向に傾けるなどの動作が必要であったが、ＨＭＤシステム１００を利用するユーザ１９０は、自身の視線を所定方向に動かすだけでよい。
According to the above, the
（構成２） （構成１）において、プログラムはコンピュータ２００に、視線の動きを除くユーザ１９０の一部の動きを検出するステップ（ステップＳ１２４０）をさらに実行させる。範囲を特定するステップは、検出された視線の動きおよび検出された一部の動きに応じて仮想空間２においてモニタ１１２に表示する範囲を特定することを含む。
(Configuration 2) In (Configuration 1), the program causes the
現実空間においても、ユーザの視界は、ユーザの頭や身体の傾きなどによって変更される。そのため、コンピュータ２００は、仮想空間におけるユーザの視界を、ユーザの頭や体の傾きなどによって変更することにより、ユーザを仮想空間により没入させ得る。
Also in real space, the user's view is changed due to the tilt of the user's head or body. Therefore, the
（構成３） （構成１）または（構成２）において、仮想空間２を提供するステップは、仮想空間２に配置される仮想カメラ１の撮影範囲に対応する視界画像をモニタ１１２に表示すること（ステップＳ１２２０、Ｓ１２３０）を含む。範囲を特定するステップは、検出された視線の動きに連動するように仮想カメラ１の傾きを制御し、仮想カメラ１の設定（例えば、画角）に基づいて、仮想空間２においてＨＭＤ１１０に表示する範囲を特定すること（ステップＳ１２８０）を含む。
(Configuration 3) In (Configuration 1) or (Configuration 2), the step of providing the
（構成４） （構成２）において、ユーザ１９０の一部は、ユーザ１９０の頭部を含む。ユーザ１９０の一部の動きを検出するステップは、ＨＭＤ１１０の動きをユーザ１９０の一部の動きとして検出することを含む。
(Configuration 4) In (Configuration 2), a part of the
（構成５） （構成２）において、仮想空間２を提供するステップは、仮想空間２に配置される仮想カメラ１の撮影範囲に対応する視界画像をモニタ１１２に表示することを含む。範囲を特定するステップは、検出された視線の動きおよび検出された一部の動きに連動するように仮想カメラ１の傾きを制御し、仮想カメラ１の設定に基づいて、仮想空間２においてＨＭＤ１１０に表示する範囲を特定すること（ステップＳ１２８０）を含む。
(Configuration 5) In (Configuration 2), the step of providing the
（構成６） （構成１）〜（構成５）のいずれかにおいて、範囲を特定するステップは、予め定められた視線方向に対する検出された視線の角度（θ２）が予め定められた角度（θ１）を超えた場合（ステップＳ１４２０でＹＥＳ）に、視線の動きに応じて、仮想空間２においてモニタ１１２に表示する範囲を特定すること（ステップＳ１４３０）を含む。
(Configuration 6) In any one of (Configuration 1) to (Configuration 5), in the step of specifying the range, an angle (θ1) at which a detected gaze angle (θ2) with respect to a predetermined gaze direction is predetermined (θ1) Is determined (YES in step S1420), the range to be displayed on the
（構成７） （構成１）〜（構成６）のいずれかにおいて、範囲を特定するステップは、予め定められた時間にわたり検出された視線が略同じ方向を向いている場合（ステップＳ１４５０でＹＥＳ）に、視線の動きに応じて、仮想空間２においてモニタ１１２に表示する範囲を特定すること（ステップＳ１４６０）を含む。
(Configuration 7) In any one of (Configuration 1) to (Configuration 6), in the step of specifying the range, the line of sight detected over a predetermined time is substantially in the same direction (YES in step S1450) And specifying the range to be displayed on the
（構成８） （構成１）〜（構成７）のいずれかにおいて、視界画像を更新するステップは、検出された視線の動きに基づいてモニタ１１２の表示領域を変更すること（図１５）を含む。
(Configuration 8) In any one of (Configuration 1) to (Configuration 7), the step of updating the view image includes changing the display area of the
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。 It should be understood that the embodiments disclosed herein are illustrative and non-restrictive in every respect. The scope of the present invention is indicated not by the above description but by the claims, and is intended to include all the modifications within the meaning and scope equivalent to the claims.
１ 仮想カメラ、２ 仮想空間、５ 基準視線、１０，１７２０ プロセッサ、１１ メモリ、１２ ストレージ、１３ 入出力インターフェース、１４ 通信インターフェース、１５ バス、１９ ネットワーク、２２ 仮想空間画像、１００ ＨＭＤシステム、１１２ モニタ、１１４ センサ、１１５ スピーカ、１１９ マイク、１２０ ＨＭＤセンサ、１３０ モーションセンサ、１４０ 注視センサ、１５０ サーバ、１６０ コントローラ、１９０ ユーザ、２００ コンピュータ、２２０ 表示制御モジュール、２２１ 仮想カメラ制御モジュール、２２２ 視界領域決定モジュール、２２３ 視界画像生成モジュール、２２４ 基準視線特定モジュール、２２５ 音声制御モジュール、２２６ 視線検出モジュール、２３０ 仮想空間制御モジュール、２３１ 仮想空間定義モジュール、２３２ 仮想オブジェクト生成モジュール、２３３ 手オブジェクト制御モジュール、２４０ メモリモジュール、２４１ 空間情報、２４２ オブジェクト情報、２４３ ユーザ情報、２５０ 通信制御モジュール、８００ 右コントローラ、８１０ ハンドオブジェクト、１３００ オブジェクト、１３１０，１３２０ 視界画像、１３５０ ポインタ。
Claims (10)
前記ヘッドマウントデバイスのディスプレイに視界画像を表示して前記ヘッドマウントデバイスのユーザに仮想空間を提供するステップと、
前記ユーザの視線の動きを検出するステップと、
前記検出された視線の動きに応じて、前記仮想空間において前記ディスプレイに表示する範囲を特定するステップと、
前記特定された範囲に対応する視界画像を前記ディスプレイに表示させるよう前記視界画像を更新するステップとを実行させる、プログラム。 A program executed by a computer to provide a virtual space by a head mounted device, said program comprising
Displaying a view image on a display of the head mounted device to provide a virtual space to a user of the head mounted device;
Detecting the movement of the user's gaze;
Identifying a range to be displayed on the display in the virtual space according to the detected movement of the line of sight;
Updating the view image to cause the display to display a view image corresponding to the specified range.
前記範囲を特定するステップは、前記検出された視線の動きおよび前記検出された前記一部の動きに応じて前記仮想空間において前記ディスプレイに表示する範囲を特定することを含む、請求項１に記載のプログラム。 The program further causes the computer to perform a step of detecting a movement of the user excluding the movement of the gaze.
The step of specifying the range may include specifying a range to be displayed on the display in the virtual space according to the detected movement of the sight line and the detected movement. Programs.
前記範囲を特定するステップは、前記検出された視線の動きに連動するように前記仮想カメラの傾きを制御し、前記仮想カメラの設定に基づいて、前記仮想空間において前記ヘッドマウントデバイスに表示する範囲を特定することを含む、請求項１または２に記載のプログラム。 The step of providing the virtual space may include displaying on the display a field of view image corresponding to an imaging range of a virtual camera disposed in the virtual space.
In the step of specifying the range, the tilt of the virtual camera is controlled to interlock with the movement of the detected line of sight, and the range displayed on the head mounted device in the virtual space based on the setting of the virtual camera The program according to claim 1 or 2, comprising identifying.
前記ユーザの一部の動きを検出するステップは、前記ヘッドマウントデバイスの動きを前記ユーザの一部の動きとして検出することを含む、請求項２に記載のプログラム。 Part of the user includes the head of the user,
The program according to claim 2, wherein the step of detecting the movement of the part of the user includes detecting the movement of the head mounted device as the movement of the part of the user.
前記範囲を特定するステップは、前記検出された視線の動きおよび前記検出された前記一部の動きに連動するように前記仮想カメラの傾きを制御し、前記仮想カメラの設定に基づいて、前記仮想空間において前記ヘッドマウントデバイスに表示する範囲を特定することを含む、請求項２に記載のプログラム。 The step of providing the virtual space may include displaying on the display a field of view image corresponding to an imaging range of a virtual camera disposed in the virtual space.
In the step of identifying the range, the tilt of the virtual camera is controlled to be interlocked with the detected movement of the sight line and the detected movement, and the virtual camera is controlled based on the setting of the virtual camera. The program according to claim 2, comprising specifying an area to be displayed on the head mount device in a space.
前記プログラムを実行するためのプロセッサとを備える、情報処理装置。 A memory storing the program according to any one of claims 1 to 8.
And a processor for executing the program.
前記ヘッドマウントデバイスのディスプレイに視界画像を表示して前記ヘッドマウントデバイスのユーザに仮想空間を提供するステップと、
前記ユーザの視線の動きを検出するステップと、
前記検出された視線の動きに応じて、前記仮想空間において前記ディスプレイに表示する範囲を特定するステップと、
前記特定された範囲に対応する視界画像を前記ディスプレイに表示させるよう前記視界画像を更新するステップとを備える、方法。 A computer implemented method for providing virtual space by a head mounted device, the method comprising:
Displaying a view image on a display of the head mounted device to provide a virtual space to a user of the head mounted device;
Detecting the movement of the user's gaze;
Identifying a range to be displayed on the display in the virtual space according to the detected movement of the line of sight;
Updating the view image to cause the display to display a view image corresponding to the identified range.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2017169610A JP6495398B2 (en) | 2017-09-04 | 2017-09-04 | Method and program for providing virtual space, and information processing apparatus for executing the program |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2017169610A JP6495398B2 (en) | 2017-09-04 | 2017-09-04 | Method and program for providing virtual space, and information processing apparatus for executing the program |
Related Child Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2019041032A Division JP2019145120A (en) | 2019-03-06 | 2019-03-06 | Method of providing virtual space, program, and information processing apparatus for executing the program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2019046248A true JP2019046248A (en) | 2019-03-22 |
| JP6495398B2 JP6495398B2 (en) | 2019-04-03 |
Family
ID=65812827
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2017169610A Active JP6495398B2 (en) | 2017-09-04 | 2017-09-04 | Method and program for providing virtual space, and information processing apparatus for executing the program |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP6495398B2 (en) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110030467A (en) * | 2019-03-27 | 2019-07-19 | 阿里巴巴集团控股有限公司 | A kind of method, device and equipment of the installation for camera assembly |
| WO2021131938A1 (en) * | 2019-12-26 | 2021-07-01 | 株式会社コロプラ | Program, method, and information processing device |
| WO2021131935A1 (en) * | 2019-12-26 | 2021-07-01 | 株式会社コロプラ | Program, method, and information processing device |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2009069885A (en) * | 2007-09-10 | 2009-04-02 | Denso Corp | State determination device and program |
| WO2015122108A1 (en) * | 2014-02-17 | 2015-08-20 | ソニー株式会社 | Information processing device, information processing method and program |
| WO2017094607A1 (en) * | 2015-12-02 | 2017-06-08 | 株式会社ソニー・インタラクティブエンタテインメント | Display control device and display control method |
| JP6181842B1 (en) * | 2016-11-30 | 2017-08-16 | グリー株式会社 | Application control program, application control method, and application control system |
| JP2017142769A (en) * | 2016-08-03 | 2017-08-17 | 株式会社コロプラ | Method and program for providing head-mounted display with virtual space image |
-
2017
- 2017-09-04 JP JP2017169610A patent/JP6495398B2/en active Active
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2009069885A (en) * | 2007-09-10 | 2009-04-02 | Denso Corp | State determination device and program |
| WO2015122108A1 (en) * | 2014-02-17 | 2015-08-20 | ソニー株式会社 | Information processing device, information processing method and program |
| WO2017094607A1 (en) * | 2015-12-02 | 2017-06-08 | 株式会社ソニー・インタラクティブエンタテインメント | Display control device and display control method |
| JP2017142769A (en) * | 2016-08-03 | 2017-08-17 | 株式会社コロプラ | Method and program for providing head-mounted display with virtual space image |
| JP6181842B1 (en) * | 2016-11-30 | 2017-08-16 | グリー株式会社 | Application control program, application control method, and application control system |
Non-Patent Citations (1)
| Title |
|---|
| 宮下 広夢: "両眼式ＨＭＤのための動作と視線を用いた映像視野移動手法", 日本バーチャルリアリティ学会論文誌 第１４巻 第２号, vol. 14, no. 2, JPN6018031097, 30 June 2009 (2009-06-30), JP, pages 177 - 184, ISSN: 0003855869 * |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110030467A (en) * | 2019-03-27 | 2019-07-19 | 阿里巴巴集团控股有限公司 | A kind of method, device and equipment of the installation for camera assembly |
| WO2021131938A1 (en) * | 2019-12-26 | 2021-07-01 | 株式会社コロプラ | Program, method, and information processing device |
| WO2021131935A1 (en) * | 2019-12-26 | 2021-07-01 | 株式会社コロプラ | Program, method, and information processing device |
| JP7514076B2 (en) | 2019-12-26 | 2024-07-10 | 株式会社コロプラ | Program, method and information processing device |
Also Published As
| Publication number | Publication date |
|---|---|
| JP6495398B2 (en) | 2019-04-03 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6263252B1 (en) | Information processing method, apparatus, and program for causing computer to execute information processing method | |
| JP6523233B2 (en) | Information processing method, apparatus, and program for causing a computer to execute the information processing method | |
| JP2018190336A (en) | Method for providing virtual space, program for executing method in computer, information processing unit for executing program | |
| JP6290467B1 (en) | Information processing method, apparatus, and program causing computer to execute information processing method | |
| JP6298523B1 (en) | Method executed by computer to communicate through virtual space, program for causing computer to execute the method, and computer apparatus | |
| JP2018089228A (en) | Information processing method, apparatus, and program for implementing that information processing method on computer | |
| JP6227732B1 (en) | Method and apparatus for supporting input in virtual space, and program causing computer to execute the method | |
| JP6495398B2 (en) | Method and program for providing virtual space, and information processing apparatus for executing the program | |
| JP2018125003A (en) | Information processing method, apparatus, and program for implementing that information processing method in computer | |
| JP2019074962A (en) | Program for providing virtual experience, computer and method | |
| JP6368404B1 (en) | Information processing method, program, and computer | |
| JP6306678B1 (en) | Method executed by computer to present object in virtual space, program causing computer to execute the method, and computer apparatus | |
| JP6457446B2 (en) | Method and apparatus for supporting communication in virtual space, and program for causing computer to execute the method | |
| JP2018049629A (en) | Method and device for supporting input in virtual space and program for causing computer to execute the method | |
| JP6278546B1 (en) | Information processing method, apparatus, and program for causing computer to execute information processing method | |
| JP6382928B2 (en) | Method executed by computer to control display of image in virtual space, program for causing computer to realize the method, and computer apparatus | |
| JP2019030638A (en) | Information processing method, device, and program for causing computer to execute information processing method | |
| JP2018170013A (en) | Method executed by computer to control display of image in virtual space, program for causing computer to achieve the method, and computer device | |
| JP2018092635A (en) | Information processing method, device, and program for implementing that information processing method on computer | |
| JP2018092592A (en) | Information processing method, apparatus, and program for implementing that information processing method on computer | |
| JP2018109937A (en) | Information processing method, apparatus, information processing system, and program causing computer to execute the information processing method | |
| JP2019145120A (en) | Method of providing virtual space, program, and information processing apparatus for executing the program | |
| JP6535641B2 (en) | Method and apparatus for controlling an object displayed in a virtual space, and program for causing a computer to execute the method | |
| JP2019016358A (en) | Information processing method, program and computer | |
| JP2018206353A (en) | Information processing method, apparatus, and program for implementing that information processing method in computer |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190206 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190306 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6495398 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |