JP2019056901A - 仮想空間にコンテンツを提示するためにコンピュータで実行される方法、当該方法をコンピュータに実行させるプログラム、および、コンテンツ提示装置 - Google Patents

Abstract

【課題】仮想空間にコンテンツを提示するためにコンピュータで実行される方法、当該方法をコンピュータに実行させるプログラム、及び、コンテンツ提示装置を提供する。【解決手段】プロセッサが実行する処理は、外国語の学習画面を仮想空間に表示するステップＳ１２２５と、シチュエーションの選択を促す画面を仮想空間に表示するステップＳ１２３０と、ユーザによって選択されたシチュエーションに応じた例文をＨＭＤの仮想空間に表示するステップＳ１２３５と、ユーザによって単語が選択されたことを検知するステップＳ１２４０と、ユーザによって選択された単語をユーザ別の単語帳に保存するステップＳ１２４５とを含む。【選択図】図１２

Description

本開示は仮想空間におけるコンテンツの提示に関し、より特定的には、仮想空間を用いて学習を支援するコンテンツの提示に関する。

コンピュータまたはロボットを用いて外国語の学習を支援する技術が知られている。例えば、特開２０１４−１４５９７６号公報（特許文献１）は、「認識機能（聴聞機能と、環境認識機能と）と、表現機能（発声機能と、動作機能と、表示機能）を有し、学習言語のみ聴聞・発声するロボットが、学習言語のみを用いて生徒の外国語能力を向上させる外国語会話学習システム」を開示している（段落０００１参照）。

特開２０１４−１４５９７６号公報

外国語の学習において経験が伴った単語は、そうでない単語に比べて学習者の記憶に残りやすい。また、外国語が使用される局面は学習者によって異なる。したがって、学習者が使用する可能性の高いシチュエーションに応じて外国語の学習を支援する技術が必要とされている。

本開示は上述のような問題点を解決するためになされたものであって、ある局面における目的は、仮想空間を用いて提供されるシチュエーションに応じて外国語の学習を支援するための技術を提供することである。

ある実施の形態に従うと、仮想空間にコンテンツを表示するためにコンピュータで実行される方法が提供される。この方法は、ヘッドマウントデバイスを装着したユーザの動作に基づいて、予め規定された複数の状況のうち仮想空間において展開される状況を選択するステップと、ユーザの動きに基づいて、状況に関連付けられた１つ以上の単語を提示するステップと、コンピュータに与えられる命令に基づいて、１つ以上の単語のいずれかを選択するステップと、選択された状況および単語を単語帳に登録するステップとを含む。

ある実施の形態に従うと、仮想空間にて提示されるシチュエーションに応じた単語を単語帳として記録できるので、外国語の学習が支援され得る。

この発明の上記および他の目的、特徴、局面および利点は、添付の図面と関連して理解されるこの発明に関する次の詳細な説明から明らかとなるであろう。

ある実施の形態に従うＨＭＤシステム１００の構成の概略を表す図である。 一局面に従うコンピュータ２００のハードウェア構成の一例を表すブロック図である。 ある実施の形態に従うＨＭＤ１１０に設定されるｕｖｗ視野座標系を概念的に表す図である。 ある実施の形態に従う仮想空間２を表現する一態様を概念的に表す図である。 ある実施の形態に従うＨＭＤ１１０を装着するユーザ１９０の頭部を上から表した図である。 仮想空間２において視界領域２３をＸ方向から見たＹＺ断面を表す図である。 仮想空間２において視界領域２３をＹ方向から見たＸＺ断面を表す図である。 ある実施の形態に従うコントローラ１６０の概略構成を表す図である。 ある実施の形態に従うコンピュータ２００をモジュール構成として表わすブロック図である。 ある実施の形態に従うサーバ１５０のメモリ１５２におけるデータの格納の一態様を概念的に表す図である。 ＨＭＤシステム１００が実行する処理を表わすフローチャートである。 ある実施の形態に従うサーバ１５０が実行する処理の一部を表すフローチャートである。 ある実施の形態に従うサーバ１５０のプロセッサ１０が単語を読み出すときに実行する処理の一部を表すフローチャートである。 ある実施の形態に従ってモニタ１１２に表示される視界画像１４００を表す図である。 複数のシチュエーションからいずれかのシチュエーションの選択を促す視界画像１５００を表す図である。 ある実施の形態に従って自己学習を支援するための視覚画像１６００を表す図である。 ある実施の形態に従って、チャット形式でユーザ１９０が講師からの指導を受けながら学習する態様を例示する図である。 ＨＭＤ１１０によって提示される視界画像１８００から単語が選択される一態様を表す図である。 視界画像１９００に単語オブジェクトが提示される一態様を概念的に表す図である。 ある実施の形態に従ってユーザ１９０によって選択されたシチュエーションにおける学習を開始する時の視界画像２０００を表す図である。

以下、図面を参照しつつ、本発明の実施の形態について説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。

［ＨＭＤシステムの構成］
図１を参照して、ＨＭＤ（Head Mounted Device）システム１００の構成について説明する。図１は、ある実施の形態に従うＨＭＤシステム１００の構成の概略を表す図である。ある局面において、ＨＭＤシステム１００は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。なお、本実施の形態において、ＨＭＤとは、モニタを備える所謂ヘッドマウントディスプレイと、スマートホンその他のモニタを有する端末を装着可能なヘッドマウント機器のいずれをも含み得る。

ＨＭＤシステム１００は、ＨＭＤ１１０と、ＨＭＤセンサ１２０と、コントローラ１６０と、コンピュータ２００とを備える。ＨＭＤ１１０は、モニタ１１２と、注視センサ１４０とを含む。コントローラ１６０は、モーションセンサ１３０を含み得る。

ある局面において、コンピュータ２００は、インターネットその他のネットワーク１９に接続可能であり、ネットワーク１９に接続されているサーバ１５０その他のコンピュータと通信可能である。

別の局面において、ＨＭＤシステム１００がＨＭＤセンサ１２０を備える代わりに、ＨＭＤ１１０がセンサ１１４を含んでもよい。

サーバ１５０は、プロセッサ１５１と、メモリ１５２と、通信インターフェイス１５３とを含む。サーバ１５０は、周知の構成を有するコンピュータによって実現される。

ＨＭＤ１１０は、ユーザの頭部に装着され、動作中に仮想空間をユーザに提供し得る。より具体的には、ＨＭＤ１１０は、右目用の画像および左目用の画像をモニタ１１２にそれぞれ表示する。ユーザの各目がそれぞれの画像を視認すると、ユーザは、両目の視差に基づき当該画像を３次元の画像として認識し得る。

モニタ１１２は、例えば、非透過型の表示装置として実現される。ある局面において、モニタ１１２は、ユーザの両目の前方に位置するようにＨＭＤ１１０の本体に配置されている。したがって、ユーザは、モニタ１１２に表示される３次元画像を視認すると、仮想空間に没入することができる。ある実施の形態において、仮想空間は、例えば、背景、ユーザが操作可能なオブジェクト、ユーザが選択可能なメニューの画像を含む。ある実施の形態において、モニタ１１２は、所謂スマートフォンその他の情報表示端末が備える液晶モニタまたは有機ＥＬ（Electro Luminescence）モニタとして実現され得る。

ある局面において、モニタ１１２は、右目用の画像を表示するためのサブモニタと、左目用の画像を表示するためのサブモニタとを含み得る。別の局面において、モニタ１１２は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、モニタ１１２は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。

ＨＭＤセンサ１２０は、複数の光源（図示しない）を含む。各光源は例えば、赤外線を発するＬＥＤ（Light Emitting Diode）により実現される。ＨＭＤセンサ１２０は、ＨＭＤ１１０の動きを検出するためのポジショントラッキング機能を有する。ＨＭＤセンサ１２０は、この機能を用いて、現実空間内におけるＨＭＤ１１０の位置および傾きを検出する。

なお、別の局面において、ＨＭＤセンサ１２０は、カメラにより実現されてもよい。この場合、ＨＭＤセンサ１２０は、カメラから出力されるＨＭＤ１１０の画像情報を用いて、画像解析処理を実行することにより、ＨＭＤ１１０の位置および傾きを検出することができる。

別の局面において、ＨＭＤ１１０は、位置検出器として、ＨＭＤセンサ１２０の代わりに、センサ１１４を備えてもよい。ＨＭＤ１１０は、センサ１１４を用いて、ＨＭＤ１１０自身の位置および傾きを検出し得る。例えば、センサ１１４が角速度センサ、地磁気センサ、加速度センサ、あるいはジャイロセンサ等である場合、ＨＭＤ１１０は、ＨＭＤセンサ１２０の代わりに、これらの各センサのいずれかを用いて、自身の位置および傾きを検出し得る。一例として、センサ１１４が角速度センサである場合、角速度センサは、現実空間におけるＨＭＤ１１０の３軸周りの角速度を経時的に検出する。ＨＭＤ１１０は、各角速度に基づいて、ＨＭＤ１１０の３軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、ＨＭＤ１１０の傾きを算出する。また、ＨＭＤ１１０は、透過型表示装置を備えていても良い。この場合、当該透過型表示装置は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可能であってもよい。また、視野画像は仮想空間を構成する画像の一部に、現実空間を提示する構成を含んでいてもよい。例えば、ＨＭＤ１１０に搭載されたカメラで撮影した画像を視野画像の一部に重畳して表示させてもよいし、当該透過型表示装置の一部の透過率を高く設定することにより、視野画像の一部から現実空間を視認可能にしてもよい。

注視センサ１４０は、ユーザ１９０の右目および左目の視線が向けられる方向（視線方向）を検出する。当該方向の検出は、例えば、公知のアイトラッキング機能によって実現される。注視センサ１４０は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ１４０は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ１４０は、例えば、ユーザ１９０の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ１４０は、検出した各回転角に基づいて、ユーザ１９０の視線方向を検知することができる。

サーバ１５０は、コンピュータ２００にプログラムを送信し得る。別の局面において、サーバ１５０は、他のユーザによって使用されるＨＭＤに仮想現実を提供するための他のコンピュータ２００と通信し得る。例えば、アミューズメント施設において、複数のユーザが参加型のゲームを行なう場合、各コンピュータ２００は、各ユーザの動作に基づく信号を他のコンピュータ２００と通信して、同じ仮想空間において複数のユーザが共通のゲームを楽しむことを可能にする。

コントローラ１６０は、ユーザ１９０からコンピュータ２００への命令の入力を受け付ける。ある局面において、コントローラ１６０は、ユーザ１９０によって把持可能に構成される。別の局面において、コントローラ１６０は、ユーザ１９０の身体あるいは衣類の一部に装着可能に構成される。別の局面において、コントローラ１６０は、コンピュータ２００から送られる信号に基づいて、振動、音、光のうちの少なくともいずれかを出力するように構成されてもよい。別の局面において、コントローラ１６０は、仮想現実を提供する空間に配置されるオブジェクトの位置や動きを制御するためにユーザ１９０によって与えられる操作を受け付ける。

モーションセンサ１３０は、ある局面において、ユーザの手に取り付けられて、ユーザの手の動きを検出する。例えば、モーションセンサ１３０は、手の回転速度、回転数等を検出する。検出された信号は、コンピュータ２００に送られる。モーションセンサ１３０は、例えば、手袋型のコントローラ１６０に設けられている。ある実施の形態において、現実空間における安全のため、コントローラ１６０は、手袋型のようにユーザ１９０の手に装着されることにより容易に飛んで行かないものに装着されるのが望ましい。別の局面において、ユーザ１９０に装着されないセンサがユーザ１９０の手の動きを検出してもよい。例えば、ユーザ１９０を撮影するカメラの信号が、ユーザ１９０の動作を表わす信号として、コンピュータ２００に入力されてもよい。モーションセンサ１３０とコンピュータ２００とは、有線により、または無線により互いに接続される。無線の場合、通信形態は特に限られず、例えば、Ｂｌｕｅｔｏｏｔｈ（登録商標）その他の公知の通信手法が用いられる。

［ハードウェア構成］
図２を参照して、本実施の形態に係るコンピュータ２００について説明する。図２は、一局面に従うコンピュータ２００のハードウェア構成の一例を表すブロック図である。コンピュータ２００は、主たる構成要素として、プロセッサ１０と、メモリ１１と、ストレージ１２と、入出力インターフェイス１３と、通信インターフェイス１４とを備える。各構成要素は、それぞれ、バス１５に接続されている。

プロセッサ１０は、コンピュータ２００に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ１１またはストレージ１２に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ１０は、ＣＰＵ（Central Processing Unit）、ＭＰＵ（Micro Processor Unit）、ＦＰＧＡ（Field-Programmable Gate Array）その他のデバイスとして実現される。

メモリ１１は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ１２からロードされる。データは、コンピュータ２００に入力されたデータと、プロセッサ１０によって生成されたデータとを含む。ある局面において、メモリ１１は、ＲＡＭ（Random Access Memory）その他の揮発メモリとして実現される。

ストレージ１２は、プログラムおよびデータを永続的に保持する。ストレージ１２は、例えば、ＲＯＭ（Read-Only Memory）、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ１２に格納されるプログラムは、ＨＭＤシステム１００において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、他のコンピュータ２００との通信を実現するためのプログラムを含む。ストレージ１２に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含む。

なお、別の局面において、ストレージ１２は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、コンピュータ２００に内蔵されたストレージ１２の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のＨＭＤシステム１００が使用される場面において、プログラムやデータの更新を一括して行なうことが可能になる。

ある実施の形態において、入出力インターフェイス１３は、ＨＭＤ１１０、ＨＭＤセンサ１２０またはモーションセンサ１３０との間で信号を通信する。ある局面において、入出力インターフェイス１３は、ＵＳＢ（Universal Serial Bus）インターフェイス、ＤＶＩ（Digital Visual Interface）、ＨＤＭＩ（登録商標）（High-Definition Multimedia Interface）その他の端子を用いて実現される。なお、入出力インターフェイス１３は上述のものに限られない。

ある実施の形態において、入出力インターフェイス１３は、さらに、コントローラ１６０と通信し得る。例えば、入出力インターフェイス１３は、モーションセンサ１３０から出力された信号の入力を受ける。別の局面において、入出力インターフェイス１３は、プロセッサ１０から出力された命令を、コントローラ１６０に送る。当該命令は、振動、音声出力、発光等をコントローラ１６０に指示する。コントローラ１６０は、当該命令を受信すると、その命令に応じて、振動、音声出力または発光のいずれかを実行する。

通信インターフェイス１４は、ネットワーク１９に接続されて、ネットワーク１９に接続されている他のコンピュータ（例えば、サーバ１５０）と通信する。ある局面において、通信インターフェイス１４は、例えば、ＬＡＮ（Local Area Network）その他の有線通信インターフェイス、あるいは、ＷｉＦｉ（Wireless Fidelity）、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＮＦＣ（Near Field Communication）その他の無線通信インターフェイスとして実現される。なお、通信インターフェイス１４は上述のものに限られない。

ある局面において、プロセッサ１０は、ストレージ１２にアクセスし、ストレージ１２に格納されている１つ以上のプログラムをメモリ１１にロードし、当該プログラムに含まれる一連の命令を実行する。当該１つ以上のプログラムは、コンピュータ２００のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、コントローラ１６０を用いて仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ１０は、入出力インターフェイス１３を介して、仮想空間を提供するための信号をＨＭＤ１１０に送る。ＨＭＤ１１０は、その信号に基づいてモニタ１１２に映像を表示する。

なお、図２に示される例では、コンピュータ２００は、ＨＭＤ１１０の外部に設けられる構成が示されているが、別の局面において、コンピュータ２００は、ＨＭＤ１１０に内蔵されてもよい。一例として、モニタ１１２を含む携帯型の情報通信端末（例えば、スマートフォン）がコンピュータ２００として機能してもよい。

また、コンピュータ２００は、複数のＨＭＤ１１０に共通して用いられる構成であってもよい。このような構成によれば、例えば、複数のユーザに同一の仮想空間を提供することもできるので、各ユーザは同一の仮想空間で他のユーザと同一のアプリケーションを楽しむことができる。

ある実施の形態において、ＨＭＤシステム１００では、グローバル座標系が予め設定されている。グローバル座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、ならびに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、３つの基準方向（軸）を有する。本実施の形態では、グローバル座標系は視点座標系の一つである。そこで、グローバル座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれ、ｘ軸、ｙ軸、ｚ軸と規定される。より具体的には、グローバル座標系において、ｘ軸は現実空間の水平方向に平行である。ｙ軸は、現実空間の鉛直方向に平行である。ｚ軸は現実空間の前後方向に平行である。

ある局面において、ＨＭＤセンサ１２０は、赤外線センサを含む。赤外線センサが、ＨＭＤ１１０の各光源から発せられた赤外線をそれぞれ検出すると、ＨＭＤ１１０の存在を検出する。ＨＭＤセンサ１２０は、さらに、各点の値（グローバル座標系における各座標値）に基づいて、ＨＭＤ１１０を装着したユーザ１９０の動きに応じた、現実空間内におけるＨＭＤ１１０の位置および傾きを検出する。より詳しくは、ＨＭＤセンサ１２０は、経時的に検出された各値を用いて、ＨＭＤ１１０の位置および傾きの時間的変化を検出できる。

グローバル座標系は現実空間の座標系と平行である。したがって、ＨＭＤセンサ１２０によって検出されたＨＭＤ１１０の各傾きは、グローバル座標系におけるＨＭＤ１１０の３軸周りの各傾きに相当する。ＨＭＤセンサ１２０は、グローバル座標系におけるＨＭＤ１１０の傾きに基づき、ｕｖｗ視野座標系をＨＭＤ１１０に設定する。ＨＭＤ１１０に設定されるｕｖｗ視野座標系は、ＨＭＤ１１０を装着したユーザ１９０が仮想空間において物体を見る際の視点座標系に対応する。

［ｕｖｗ視野座標系］
図３を参照して、ｕｖｗ視野座標系について説明する。図３は、ある実施の形態に従うＨＭＤ１１０に設定されるｕｖｗ視野座標系を概念的に表す図である。ＨＭＤセンサ１２０は、ＨＭＤ１１０の起動時に、グローバル座標系におけるＨＭＤ１１０の位置および傾きを検出する。プロセッサ１０は、検出された値に基づいて、ｕｖｗ視野座標系をＨＭＤ１１０に設定する。

図３に示されるように、ＨＭＤ１１０は、ＨＭＤ１１０を装着したユーザの頭部を中心（原点）とした３次元のｕｖｗ視野座標系を設定する。より具体的には、ＨＭＤ１１０は、グローバル座標系を規定する水平方向、鉛直方向、および前後方向（ｘ軸、ｙ軸、ｚ軸）を、グローバル座標系内においてＨＭＤ１１０の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる３つの方向を、ＨＭＤ１１０におけるｕｖｗ視野座標系のピッチ方向（ｕ軸）、ヨー方向（ｖ軸）、およびロール方向（ｗ軸）として設定する。

ある局面において、ＨＭＤ１１０を装着したユーザ１９０が直立し、かつ、正面を視認している場合、プロセッサ１０は、グローバル座標系に平行なｕｖｗ視野座標系をＨＭＤ１１０に設定する。この場合、グローバル座標系における水平方向（ｘ軸）、鉛直方向（ｙ軸）、および前後方向（ｚ軸）は、ＨＭＤ１１０におけるｕｖｗ視野座標系のピッチ方向（ｕ軸）、ヨー方向（ｖ軸）、およびロール方向（ｗ軸）に一致する。

ｕｖｗ視野座標系がＨＭＤ１１０に設定された後、ＨＭＤセンサ１２０は、ＨＭＤ１１０の動きに基づいて、設定されたｕｖｗ視野座標系におけるＨＭＤ１１０の傾き（傾きの変化量）を検出できる。この場合、ＨＭＤセンサ１２０は、ＨＭＤ１１０の傾きとして、ｕｖｗ視野座標系におけるＨＭＤ１１０のピッチ角（θｕ）、ヨー角（θｖ）、およびロール角（θｗ）をそれぞれ検出する。ピッチ角（θｕ）は、ｕｖｗ視野座標系におけるピッチ方向周りのＨＭＤ１１０の傾き角度を表す。ヨー角（θｖ）は、ｕｖｗ視野座標系におけるヨー方向周りのＨＭＤ１１０の傾き角度を表す。ロール角（θｗ）は、ｕｖｗ視野座標系におけるロール方向周りのＨＭＤ１１０の傾き角度を表す。

ＨＭＤセンサ１２０は、検出されたＨＭＤ１１０の傾き角度に基づいて、ＨＭＤ１１０が動いた後のＨＭＤ１１０におけるｕｖｗ視野座標系を、ＨＭＤ１１０に設定する。ＨＭＤ１１０と、ＨＭＤ１１０のｕｖｗ視野座標系との関係は、ＨＭＤ１１０の位置および傾きに関わらず、常に一定である。ＨＭＤ１１０の位置および傾きが変わると、当該位置および傾きの変化に連動して、グローバル座標系におけるＨＭＤ１１０のｕｖｗ視野座標系の位置および傾きが変化する。

ある局面において、ＨＭＤセンサ１２０は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係（例えば、各点間の距離など）に基づいて、ＨＭＤ１１０の現実空間内における位置を、ＨＭＤセンサ１２０に対する相対位置として特定してもよい。また、プロセッサ１０は、特定された相対位置に基づいて、現実空間内（グローバル座標系）におけるＨＭＤ１１０のｕｖｗ視野座標系の原点を決定してもよい。

［仮想空間］
図４を参照して、仮想空間についてさらに説明する。図４は、ある実施の形態に従う仮想空間２を表現する一態様を概念的に表す図である。仮想空間２は、中心２１の３６０度方向の全体を覆う全天球状の構造を有する。図４では、説明を複雑にしないために、仮想空間２のうちの上半分の天球が例示されている。仮想空間２では各メッシュが規定される。各メッシュの位置は、仮想空間２に規定されるＸＹＺ座標系における座標値として予め規定されている。コンピュータ２００は、仮想空間２に展開可能なコンテンツ（静止画、動画等）を構成する各部分画像を、仮想空間２において対応する各メッシュにそれぞれ対応付けて、ユーザによって視認可能な仮想空間画像２２が展開される仮想空間２をユーザに提供する。

ある局面において、仮想空間２では、中心２１を原点とするＸＹＺ座標系が規定される。ＸＹＺ座標系は、例えば、グローバル座標系に平行である。ＸＹＺ座標系は視点座標系の一種であるため、ＸＹＺ座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれＸ軸、Ｙ軸、Ｚ軸として規定される。したがって、ＸＹＺ座標系のＸ軸（水平方向）がグローバル座標系のｘ軸と平行であり、ＸＹＺ座標系のＹ軸（鉛直方向）がグローバル座標系のｙ軸と平行であり、ＸＹＺ座標系のＺ軸（前後方向）がグローバル座標系のｚ軸と平行である。

ＨＭＤ１１０の起動時、すなわちＨＭＤ１１０の初期状態において、仮想カメラ１が、仮想空間２の中心２１に配置される。仮想カメラ１は、現実空間におけるＨＭＤ１１０の動きに連動して、仮想空間２を同様に移動する。これにより、現実空間におけるＨＭＤ１１０の位置および向きの変化が、仮想空間２において同様に再現される。

仮想カメラ１には、ＨＭＤ１１０の場合と同様に、ｕｖｗ視野座標系が規定される。仮想空間２における仮想カメラのｕｖｗ視野座標系は、現実空間（グローバル座標系）におけるＨＭＤ１１０のｕｖｗ視野座標系に連動するように規定されている。したがって、ＨＭＤ１１０の傾きが変化すると、それに応じて、仮想カメラ１の傾きも変化する。また、仮想カメラ１は、ＨＭＤ１１０を装着したユーザの現実空間における移動に連動して、仮想空間２において移動することもできる。

仮想カメラ１の向きは、仮想カメラ１の位置および傾きに応じて決まるので、ユーザが仮想空間画像２２を視認する際に基準となる視線（基準視線５）は、仮想カメラ１の向きに応じて決まる。コンピュータ２００のプロセッサ１０は、基準視線５に基づいて、仮想空間２における視界領域２３を規定する。視界領域２３は、仮想空間２のうち、ＨＭＤ１１０を装着したユーザの視界に対応する。

注視センサ１４０によって検出されるユーザ１９０の視線方向は、ユーザ１９０が物体を視認する際の視点座標系における方向である。ＨＭＤ１１０のｕｖｗ視野座標系は、ユーザ１９０がモニタ１１２を視認する際の視点座標系に等しい。また、仮想カメラ１のｕｖｗ視野座標系は、ＨＭＤ１１０のｕｖｗ視野座標系に連動している。したがって、ある局面に従うＨＭＤシステム１００は、注視センサ１４０によって検出されたユーザ１９０の視線方向を、仮想カメラ１のｕｖｗ視野座標系におけるユーザの視線方向とみなすことができる。

［ユーザの視線］
図５を参照して、ユーザの視線方向の決定について説明する。図５は、ある実施の形態に従うＨＭＤ１１０を装着するユーザ１９０の頭部を上から表した図である。

ある局面において、注視センサ１４０は、ユーザ１９０の右目および左目の各視線を検出する。ある局面において、ユーザ１９０が近くを見ている場合、注視センサ１４０は、視線Ｒ１およびＬ１を検出する。別の局面において、ユーザ１９０が遠くを見ている場合、注視センサ１４０は、視線Ｒ２およびＬ２を検出する。この場合、ロール方向ｗに対して視線Ｒ２およびＬ２がなす角度は、ロール方向ｗに対して視線Ｒ１およびＬ１がなす角度よりも小さい。注視センサ１４０は、検出結果をコンピュータ２００に送信する。

コンピュータ２００が、視線の検出結果として、視線Ｒ１およびＬ１の検出値を注視センサ１４０から受信した場合には、その検出値に基づいて、視線Ｒ１およびＬ１の交点である注視点Ｎ１を特定する。一方、コンピュータ２００は、視線Ｒ２およびＬ２の検出値を注視センサ１４０から受信した場合には、視線Ｒ２およびＬ２の交点を注視点として特定する。コンピュータ２００は、特定した注視点Ｎ１の位置に基づき、ユーザ１９０の視線方向Ｎ０を特定する。コンピュータ２００は、例えば、ユーザ１９０の右目Ｒと左目Ｌとを結ぶ直線の中点と、注視点Ｎ１とを通る直線の延びる方向を、視線方向Ｎ０として検出する。視線方向Ｎ０は、ユーザ１９０が両目により実際に視線を向けている方向である。また、視線方向Ｎ０は、視界領域２３に対してユーザ１９０が実際に視線を向けている方向に相当する。

別の局面において、ＨＭＤシステム１００は、ＨＭＤシステム１００を構成するいずれかのパーツに、マイクおよびスピーカを備えてもよい。ユーザは、マイクに発話することにより、仮想空間２に対して、音声による指示を与えることができる。

また、別の局面において、ＨＭＤシステム１００は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、ＨＭＤシステム１００は、仮想空間２においてテレビ番組を表示することができる。

さらに別の局面において、ＨＭＤシステム１００は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。

［視界領域］
図６および図７を参照して、視界領域２３について説明する。図６は、仮想空間２において視界領域２３をＸ方向から見たＹＺ断面を表す図である。図７は、仮想空間２において視界領域２３をＹ方向から見たＸＺ断面を表す図である。

図６に示されるように、ＹＺ断面における視界領域２３は、領域２４を含む。領域２４は、仮想カメラ１の基準視線５と仮想空間２のＹＺ断面とによって定義される。プロセッサ１０は、仮想空間おける基準視線５を中心として極角αを含む範囲を、領域２４として規定する。

図７に示されるように、ＸＺ断面における視界領域２３は、領域２５を含む。領域２５は、基準視線５と仮想空間２のＸＺ断面とによって定義される。プロセッサ１０は、仮想空間２における基準視線５を中心とした方位角βを含む範囲を、領域２５として規定する。

ある局面において、ＨＭＤシステム１００は、コンピュータ２００からの信号に基づいて、視界画像２６をモニタ１１２に表示させることにより、ユーザ１９０に仮想空間を提供する。視界画像２６は、仮想空間画像２２のうち視界領域２３に重畳する部分に相当する。ユーザ１９０が、頭に装着したＨＭＤ１１０を動かすと、その動きに連動して仮想カメラ１も動く。その結果、仮想空間２における視界領域２３の位置が変化する。これにより、モニタ１１２に表示される視界画像２６は、仮想空間画像２２のうち、仮想空間２においてユーザが向いた方向の視界領域２３に重畳する画像に更新される。ユーザは、仮想空間２における所望の方向を視認することができる。

ユーザ１９０は、ＨＭＤ１１０を装着している間、現実世界を視認することなく、仮想空間２に展開される仮想空間画像２２のみを視認できる。そのため、ＨＭＤシステム１００は、仮想空間２への高い没入感覚をユーザに与えることができる。

ある局面において、プロセッサ１０は、ＨＭＤ１１０を装着したユーザ１９０の現実空間における移動に連動して、仮想空間２において仮想カメラ１を移動し得る。この場合、プロセッサ１０は、仮想空間２における仮想カメラ１の位置および向きに基づいて、ＨＭＤ１１０のモニタ１１２に投影される画像領域（すなわち、仮想空間２における視界領域２３）を特定する。

ある実施の形態に従うと、仮想カメラ１は、二つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含むことが望ましい。また、ユーザ１９０が３次元の仮想空間２を認識できるように、適切な視差が、二つの仮想カメラに設定されていることが好ましい。本実施の形態においては、仮想カメラ１が二つの仮想カメラを含み、二つの仮想カメラのロール方向が合成されることによって生成されるロール方向（ｗ）がＨＭＤ１１０のロール方向（ｗ）に適合されるように構成されているものとして、本開示に係る技術思想を例示する。

［コントローラ］
図８を参照して、コントローラ１６０の一例について説明する。図８は、ある実施の形態に従うコントローラ１６０の概略構成を表す図である。

図８の分図（Ａ）に示されるように、ある局面において、コントローラ１６０は、右コントローラ８００と左コントローラとを含み得る。右コントローラ８００は、ユーザ１９０の右手で操作される。左コントローラは、ユーザ１９０の左手で操作される。ある局面において、右コントローラ８００と左コントローラとは、別個の装置として対称に構成される。したがって、ユーザ１９０は、右コントローラ８００を把持した右手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。別の局面において、コントローラ１６０は両手の操作を受け付ける一体型のコントローラであってもよい。以下、右コントローラ８００について説明する。

右コントローラ８００は、グリップ３０と、フレーム３１と、天面３２とを備える。グリップ３０は、ユーザ１９０の右手によって把持されるように構成されている。例えば、グリップ３０は、ユーザ１９０の右手の掌と３本の指（中指、薬指、小指）とによって保持され得る。

グリップ３０は、ボタン３３，３４と、モーションセンサ１３０とを含む。ボタン３３は、グリップ３０の側面に配置され、右手の中指による操作を受け付ける。ボタン３４は、グリップ３０の前面に配置され、右手の人差し指による操作を受け付ける。ある局面において、ボタン３３，３４は、トリガー式のボタンとして構成される。モーションセンサ１３０は、グリップ３０の筐体に内蔵されている。なお、ユーザ１９０の動作がカメラその他の装置によってユーザ１９０の周りから検出可能である場合には、グリップ３０は、モーションセンサ１３０を備えなくてもよい。

フレーム３１は、その円周方向に沿って配置された複数の赤外線ＬＥＤ３５を含む。赤外線ＬＥＤ３５は、コントローラ１６０を使用するプログラムの実行中に、当該プログラムの進行に合わせて赤外線を発光する。赤外線ＬＥＤ３５から発せられた赤外線は、右コントローラ８００と左コントローラ（図示しない）との各位置や姿勢（傾き、向き）を検出するために使用され得る。図８に示される例では、二列に配置された赤外線ＬＥＤ３５が示されているが、配列の数は図８に示されるものに限られない。一列あるいは３列以上の配列が使用されてもよい。

天面３２は、ボタン３６，３７と、アナログスティック３８とを備える。ボタン３６，３７は、プッシュ式ボタンとして構成される。ボタン３６，３７は、ユーザ１９０の右手の親指による操作を受け付ける。アナログスティック３８は、ある局面において、初期位置（ニュートラルの位置）から３６０度任意の方向への操作を受け付ける。当該操作は、例えば、仮想空間２に配置されるオブジェクトを移動するための操作を含む。

ある局面において、右コントローラ８００および左コントローラは、赤外線ＬＥＤ３５その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型等を含むが、これらに限定されない。別の局面において、右コントローラ８００と左コントローラは、例えば、コンピュータ２００のＵＳＢインターフェイスに接続され得る。この場合、右コントローラ８００および左コントローラは、電池を必要としない。

図８の分図（Ｂ）は、右コントローラ８００を把持するユーザ１９０の右手に対応して仮想空間に配置されるハンドオブジェクト８１０の一例を示す。例えば、ユーザ１９０の右手に対応するハンドオブジェクト８１０に対して、ヨー、ロール、ピッチの各方向が規定される。例えば、入力操作が、右コントローラ８００のボタン３４に対して行なわれると、ハンドオブジェクト８１０の人差し指を握りこんだ状態とし、入力操作がボタン３４に対して行なわれていない場合には、分図（Ｂ）に示すように、ハンドオブジェクト８１０の人差し指を伸ばした状態とすることもできる。例えば、ハンドオブジェクト８１０において親指と人差し指とが伸びている場合に、親指の伸びる方向がヨー方向、人差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定される平面に垂直な方向がピッチ方向としてハンドオブジェクト８１０に規定される。

［ＨＭＤ１１０の制御装置］
図９を参照して、ＨＭＤ１１０の制御装置について説明する。ある実施の形態において、制御装置は周知の構成を有するコンピュータ２００によって実現される。図９は、ある実施の形態に従うコンピュータ２００をモジュール構成として表わすブロック図である。

図９に示されるように、コンピュータ２００は、表示制御モジュール２２０と、仮想空間制御モジュール２３０と、メモリモジュール２４０と、通信制御モジュール２５０とを備える。表示制御モジュール２２０は、サブモジュールとして、仮想カメラ制御モジュール２２１と、視界領域決定モジュール２２２と、視界画像生成モジュール２２３と、基準視線特定モジュール２２４とを含む。仮想空間制御モジュール２３０は、サブモジュールとして、仮想空間定義モジュール２３１と、仮想オブジェクト生成モジュール２３２と、手オブジェクト管理モジュール２３３と、コントローラ管理モジュール２３４とを含む。

ある実施の形態において、表示制御モジュール２２０と仮想空間制御モジュール２３０とは、プロセッサ１０によって実現される。別の実施の形態において、複数のプロセッサ１０が表示制御モジュール２２０と仮想空間制御モジュール２３０として作動してもよい。メモリモジュール２４０は、メモリ１１またはストレージ１２によって実現される。通信制御モジュール２５０は、通信インターフェイス１４によって実現される。

ある局面において、表示制御モジュール２２０は、ＨＭＤ１１０のモニタ１１２における画像表示を制御する。仮想カメラ制御モジュール２２１は、仮想空間２に仮想カメラ１を配置し、仮想カメラ１の挙動、向き等を制御する。視界領域決定モジュール２２２は、ＨＭＤ１１０を装着したユーザの頭の向きに応じて、視界領域２３を規定する。視界画像生成モジュール２２３は、決定された視界領域２３に基づいて、モニタ１１２に表示される視界画像２６を生成する。

基準視線特定モジュール２２４は、注視センサ１４０からの信号に基づいて、ユーザ１９０の視線を特定する。

仮想空間制御モジュール２３０は、ユーザ１９０に提供される仮想空間２を制御する。仮想空間定義モジュール２３１は、仮想空間２を表わす仮想空間データを生成することにより、ＨＭＤシステム１００における仮想空間２を規定する。

仮想オブジェクト生成モジュール２３２は、仮想空間２に配置される対象物を生成する。対象物は、例えば、外国語の学習に使用される様々なシチュエーションを含む。当該シチュエーションは、一例として、空港、レストラン、銀行、ブティック、病院、駅、ホテル、市役所、警察署等を含むが、これらに限られない。

手オブジェクト管理モジュール２３３は、手オブジェクトを仮想空間２に配置し得る。手オブジェクトは、例えば、コントローラ１６０を保持したユーザ１９０の右手あるいは左手に対応する。

コントローラ管理モジュール２３４は、仮想空間２においてユーザ１９０の動作を受け付けて、その動作に応じてコントローラオブジェクトを制御する。ある実施の形態に従うコントローラオブジェクトは、仮想空間２に配置される他のオブジェクトに対して命令を与えるコントローラとして機能する。ある局面において、コントローラ管理モジュール２３４は、仮想空間２において制御を受け付けるコントローラオブジェクトを仮想空間２に配置するためのデータを生成する。ＨＭＤ１１０がこのデータを受信すると、モニタ１１２は、コントローラオブジェクトを表示し得る。

メモリモジュール２４０は、コンピュータ２００が仮想空間２をユーザ１９０に提供するために使用されるデータを保持している。ある局面において、メモリモジュール２４０は、空間情報２４１と、学習コンテンツ２４２と、ユーザ情報２４３とを保持している。

空間情報２４１は、仮想空間２を提供するために規定された１つ以上のテンプレートを保持している。

学習コンテンツ２４２は、英語、中国語その他の外国語による複数の例文を含む。各例文は、ユーザ１９０によってローカルに保存されたデータである。別の局面において、各例文は、クラウド（たとえばサーバ１５０）に保存され得る。ある局面において、複数の例文の各々は、当該例文が使用される一つ以上の場面に関連付けられている。

ユーザ情報２４３は、ＨＭＤ１１０のユーザ１９０の識別情報、ユーザ１９０に関連付けられている権限等を含む。

通信制御モジュール２５０は、ネットワーク１９を介して、サーバ１５０その他の情報通信装置と通信し得る。

ある局面において、表示制御モジュール２２０および仮想空間制御モジュール２３０は、例えば、ユニティテクノロジーズ社によって提供されるＵｎｉｔｙ（登録商標）を用いて実現され得る。別の局面において、表示制御モジュール２２０および仮想空間制御モジュール２３０は、各処理を実現する回路素子の組み合わせとしても実現され得る。

コンピュータ２００における処理は、ハードウェアと、プロセッサ１０により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール２４０に予め格納されている場合がある。また、ソフトウェアは、ＣＤ−ＲＯＭその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール２５０を介してサーバ１５０その他のコンピュータからダウンロードされた後、記憶モジュールに一旦格納される。そのソフトウェアは、プロセッサ１０によって記憶モジュールから読み出され、実行可能なプログラムの形式でＲＡＭに格納される。プロセッサ１０は、そのプログラムを実行する。

コンピュータ２００を構成するハードウェアは、一般的なものである。したがって、本実施の形態に係る最も本質的な部分は、コンピュータ２００に格納されたプログラムであるともいえる。なお、コンピュータ２００のハードウェアの動作は周知であるので、詳細な説明は繰り返さない。

なお、データ記録媒体としては、ＣＤ−ＲＯＭ、ＦＤ（Flexible Disk）、ハードディスクに限られず、磁気テープ、カセットテープ、光ディスク（ＭＯ（Magnetic Optical Disc）／ＭＤ（Mini Disc）／ＤＶＤ（Digital Versatile Disc））、ＩＣ（Integrated Circuit）カード（メモリカードを含む）、光カード、マスクＲＯＭ、ＥＰＲＯＭ（Electronically Programmable Read-Only Memory）、ＥＥＰＲＯＭ（Electronically Erasable Programmable Read-Only Memory）、フラッシュＲＯＭなどの半導体メモリ等の固定的にプログラムを担持する不揮発性のデータ記録媒体でもよい。

ここでいうプログラムとは、プロセッサ１０により直接実行可能なプログラムだけでなく、ソースプログラム形式のプログラム、圧縮処理されたプログラム、暗号化されたプログラム等を含み得る。

［サーバのデータ構造］
図１０を参照して、サーバ１５０のデータ構造の詳細について説明する。図１０は、ある実施の形態に従うサーバ１５０のメモリ１５２におけるデータの格納の一態様を概念的に表す図である。

ある実施の形態に従うと、メモリ１５２は、テーブル１０１０，１０２０，１０３０を格納している。テーブル１０１０は、シチュエーションに応じた一つ以上の例文を含む。テーブル１０２０は、ユーザ情報を含む。テーブル１０３０は、ユーザ別の単語帳を含む。

テーブル１０１０は、シチュエーション１０１１と、例文ＩＤ１０１２と、例文１０１３とを含む。シチュエーション１０１１は、外国語が使用される場面を表す。シチュエーション１０１１は、例えば、外国語の学習を支援するサービスにおいて使用されるコンテンツの作成者によって規定される。例文ＩＤ１０１２は、例文１０１３を識別する。例文１０１３は、当該コンテンツの作成者によって準備される。ある局面において、同一の例文が二つ以上の異なるシチュエーションに使用されてもよい。

テーブル１０２０は、ユーザ名１０２１と、ユーザＩＤ１０２２と、登録日１０２３と、最終ログイン日時１０２４と、ステータス１０２５とを含む。ユーザ名１０２１は、当該サービスの利用者を表す。ユーザＩＤ１０２２は、当該ユーザを識別する。登録日１０２３は、当該ユーザがサービスに登録された日を表す。最終ログイン日時１０２４は、当該ユーザが当該サービスに最後にログインした日時を表す。ステータス１０２５は、当該ユーザが現在オンラインであるかオフラインであるかを表わす。

テーブル１０３０は、ユーザＩＤ１０３１と、シチュエーション１０３２と、例文ＩＤ１０３３と、単語１０３４と、選択モード１０３５とを含む。ユーザＩＤ１０３１は、単語を登録したユーザを識別する。シチュエーション１０３２は、当該単語が使用されたシチュエーションを表わす。例文ＩＤ１０３３は、当該単語が含まれる例文を識別する。単語１０３４は、ユーザによって登録された単語を表わす。選択モード１０３５は、単語が登録された時の動作モードを表わす。選択モード１０３５は、例えば、ユーザ選択、自動選択、指導者選択を含み得る。ユーザ選択は、単語がユーザによって選択されたことを表わす。自動選択は、単語がサーバ１５０によって選択されたことを表わす。指導者選択は、単語がユーザ１９０の指導者（例えば、英会話の講師等）によって選択されたことを表わす。

サーバ１５０のプロセッサ１５１は、メモリ１５２に保持されているこれらのデータを用いて、各ユーザ毎に単語を登録し、あるいは、登録されている単語をＨＭＤ１１０に提示する。

［制御構造］
図１１を参照して、ある実施の形態に係るＨＭＤシステム１００の制御構造について説明する。図１１は、ＨＭＤシステム１００が実行する処理を表わすフローチャートである。

ステップＳ１１１０にて、コンピュータ２００のプロセッサ１０は、仮想空間定義モジュール２３１として、仮想空間画像データを特定し、仮想空間を定義する。

ステップＳ１１２０にて、プロセッサ１０は、仮想カメラ１を初期化する。例えば、プロセッサ１０は、メモリのワーク領域において、仮想カメラ１を仮想空間２において予め規定された中心点に配置し、仮想カメラ１の視線をユーザ１９０が向いている方向に向ける。

ステップＳ１１３０にて、プロセッサ１０は、視界画像生成モジュール２２３として、初期の視界画像を表示するための視界画像データを生成する。生成された視界画像データは、視界画像生成モジュール２２３を介して通信制御モジュール２５０によってＨＭＤ１１０に送られる。

ステップＳ１１３２にて、ＨＭＤ１１０のモニタ１１２は、コンピュータ２００から受信した視界画像データに基づいて、視界画像を表示する。ＨＭＤ１１０を装着したユーザ１９０は、視界画像を視認すると仮想空間２を認識し得る。

ステップＳ１１３４にて、ＨＭＤセンサ１２０は、ＨＭＤ１１０から発信される複数の赤外線光に基づいて、ＨＭＤ１１０の位置と傾きを検知する。検知結果は、動き検知データとして、コンピュータ２００に送られる。

ステップＳ１１４０にて、プロセッサ１０は、ＨＭＤ１１０の位置と傾きとに基づいて、ＨＭＤ１１０を装着したユーザ１９０の視界方向を特定する。プロセッサ１０は、アプリケーションプログラムを実行し、アプリケーションプログラムに含まれる命令に基づいて、仮想空間２にオブジェクトを配置する。

ステップＳ１１４２にて、コントローラ１６０は、モーションセンサ１３０から出力される信号に基づいて、ユーザ１９０の動作を検出する。なお、別の局面において、ユーザ１９０の動作は、ユーザ１９０の周囲に配置されたカメラからの画像に基づいて検出されてもよい。

ステップＳ１１５０にて、プロセッサ１０は、ユーザ１９０の動作に基づいて、外国語の学習を支援するアプリケーションを起動する指示を受信する。この指示は、サーバ１５０に送信される。サーバ１５０がアプリケーションを起動すると、学習画面を表示するデータがサーバ１５０からコンピュータ２００に送信される。コンピュータ２００がそのデータをＨＭＤ１１０に送信すると、ユーザ１９０は、仮想空間２において外国語の学習画面を視認し得る。

ステップＳ１１６０にて、プロセッサ１０は、ユーザ１９０の動作に基づいて、学習したいシチュエーションの選択を受け付ける。例えば、ユーザ１９０がコントローラ１６０を操作して仮想空間に提示されるメニュー画面からシチュエーションを選択すると、その選択されたシチュエーションを表すデータがサーバ１５０に送信される。サーバ１５０は、そのデータを受信すると、当該シチュエーションに関連付けられている例文のデータをコンピュータ２００に送信する。

ステップＳ１１７０にて、プロセッサ１０は、例文を表示するためのデータを生成し、当該データを視界画像データとしてＨＭＤ１１０に送信する。

ステップＳ１１７２にて、ＨＭＤ１１０は、視界画像データを受信すると、モニタ１１２に視界画像を更新させる。

ステップＳ１１７４にて、コントローラ１６０は、モーションセンサ１３０から出力される信号に基づいて、ユーザ１９０の動作を検出する。なお、ステップＳ１１４２の場合と同様に、別の局面において、ユーザ１９０の動作は、ユーザ１９０の周囲に配置されたカメラからの画像に基づいて検出されてもよい。ユーザ１９０の動作は、例えば、ユーザ１９０によって選択されたシチュエーションにおいて、選択された単語を選択することを含む。ユーザ１９０が仮想空間において単語を選択すると、選択された単語を識別するデータは、サーバ１５０に送信される。

ステップＳ１１８０にて、プロセッサ１０は、ユーザ１９０によって選択された単語を単語帳に保存する指示を検出する。コンピュータ２００は、この指示を検出すると、ユーザＩＤと単語と保存の指示とを、サーバ１５０に送信する。サーバ１５０は、その指示に基づいて、ユーザ１９０に関連付けられた単語として当該単語を単語帳（例えばテーブル１０３０）に保存する。サーバ１５０は、単語の保存を完了すると、その旨を通知するメッセージをコンピュータ２００に送信する。

ステップＳ１１９０にて、プロセッサ１０は、単語を保存した旨のメッセージを生成し、そのメッセージを視界画像データとしてＨＭＤ１１０に送信する。

ステップＳ１１９２にて、ＨＭＤ１１０は、受信した視界画像データに基づいて視界画像を更新し、更新後の視界画像をモニタ１１２に表示する。ユーザ１９０は、そのメッセージに基づいて、選択された単語が保存されたことを認識する。

なお、単語の保存完了の通知はメッセージに限られない。例えば、別の局面において、単語が保存されたことを示す信号がコントローラ１６０に送られてコントローラ１６０が、その信号に基づいて振動してもよい。

図１２を参照して、サーバ１５０の制御構造について詳細に説明する。図１２は、ある実施の形態に従うサーバ１５０が実行する処理の一部を表すフローチャートである。

ステップＳ１２１０にて、プロセッサ１５１は、ユーザ１９０から与えられた命令に基づいて、アプリケーションプログラムの実行を開始する。

ステップＳ１２１５にて、プロセッサ１５１は、仮想空間をＨＭＤ１１０に表示させるためのデータを生成し、コンピュータ２００を介して、生成したデータをＨＭＤ１１０に送信する。

ステップＳ１２２０にて、プロセッサ１５１は、コントローラ１６０から送られる信号に基づいて、現実空間におけるユーザ１９０の動作を検知する。例えば、プロセッサ１５１は、外国語学習を支援するサービスにアクセスするためのログイン情報の入力を検知する。ログイン情報は、例えば、登録済みのユーザＩＤおよびパスワードを含む。

ステップＳ１２２５にて、プロセッサ１５１は、ユーザ１９０から送られたログイン情報と、サーバ１５０に登録されているユーザ情報（例えばテーブル１０２０）とに基づいて、ユーザ１９０が登録されたユーザであるか否かを判断する。ユーザ１９０が登録されたユーザである場合には、プロセッサ１５１は、外国語の学習画面をユーザ１９０が装着しているＨＭＤ１１０で提示される仮想空間に表示させるデータを生成し、そのデータをＨＭＤ１１０に送信する。

ステップＳ１２３０にて、プロセッサ１５１は、シチュエーションの選択を促す画面を仮想空間に表示させるデータを生成し、そのデータをＨＭＤ１１０に送信する。ユーザ１９０は、仮想空間においてシチュエーションを選択すると、その選択されたシチュエーションを識別する情報は、ＨＭＤ１１０からサーバ１５０に送信される。

ステップＳ１２３５にて、プロセッサ１５１は、ユーザ１９０によって選択されたシチュエーションに応じた例文をＨＭＤ１１０の仮想空間に表示させる。ユーザ１９０がコントローラ１６０を操作して、その例文から単語を選択すると、その単語を識別するデータは、サーバ１５０に送られる。

ステップＳ１２４０にて、プロセッサ１５１は、ユーザ１９０によって単語が選択されたことを検知する。

ステップＳ１２４５にて、プロセッサ１５１は、ユーザ１９０によって選択された単語をユーザ別の単語帳（例えば、テーブル１０３０）に保存する。

ステップＳ１２５０にて、プロセッサ１５１は、単語を登録した旨を通知するメッセージを仮想空間に表示させるためのデータを生成し、コンピュータ２００を介して、そのデータをＨＭＤ１１０に送信する。ＨＭＤ１１０がそのデータを受信すると、メッセージがモニタ１１２に表示される。ユーザ１９０は、そのメッセージを仮想空間で認識することができる。

ステップＳ１２５５にて、プロセッサ１５１は、コントローラ１６０からの信号に基づいて、現実空間におけるユーザ１９０の動作を検出する。その動作がアプリケーションを続ける旨の指示である場合には、制御はステップＳ１２３５に戻される。その動作が終了指示である場合には、アプリケーションプログラムは終了する。その動作がその他の指示である場合には、制御はステップＳ１２６０に移される。

ステップＳ１２６０にて、プロセッサ１５１は、当該動作に関連付けられた処理を実行する。

図１３を参照して、サーバ１５０の制御構造についてさらに説明する。図１３は、ある実施の形態に従うサーバ１５０のプロセッサ１５１が単語を読み出すときに実行する処理の一部を表すフローチャートである。

ステップＳ１３１０にて、プロセッサ１５１は、ユーザ１９０による単語の読出指示の検知に基づいて、アプリケーションプログラムの実行を開始する。

ステップＳ１３１５にて、プロセッサ１５１は、仮想空間を表示するためのデータを生成し、コンピュータ２００を介して、ＨＭＤ１１０に送信する。

ステップＳ１３２０にて、プロセッサ１５１は、コントローラ１６０から送られる信号に基づいて、現実空間におけるユーザ動作を検出する。

ステップＳ１３２５にて、プロセッサ１５１は、ユーザ１９０の動作に基づいて、外国語の学習画面を仮想空間に表示させる。

ステップＳ１３３０にて、プロセッサ１５１は、ユーザ１９０の動作に基づいて、外国語を学習するシチュエーションの選択を促す画面を仮想空間に表示させる。当該画面は、例えば、複数のシチュエーションの各々を表すアイコンをメニュー形式で表示する画面等を含む。ＨＭＤ１１０を装着したユーザ１９０がコントローラ１６０を操作して、シチュエーション（例えば、空港）を選択すると、その選択されたシチュエーションを識別するデータは、ＨＭＤ１１０からサーバ１５０に送信される。

ステップＳ１３３５にて、プロセッサ１５１は、ＨＭＤ１１０からの信号に含まれるシチュエーションＩＤに基づいて、ユーザ１９０によって選択されたシチュエーションを特定する。

ステップＳ１３４０にて、プロセッサ１５１は、選択されたシチュエーションに関連付けられて登録されていた単語をメモリモジュール２４０から読み出して、その単語を仮想空間に表示させるためのデータを生成する。そのデータはＨＭＤ１１０に送られる。ＨＭＤ１１０がそのデータを受信すると、モニタ１１２は単語を表示する。ユーザ１９０は、仮想空間に表示された単語を認識することができる。例えば、ユーザ１９０が記憶したい単語を登録していた場合に、当該単語が仮想空間に表示され得る。ユーザ１９０は、その単語を容易に思い出せた場合に、コントローラ１６０を操作して、例えば、仮想空間に表示される「確認ＯＫ」のアイコンを選択し得る。その選択を表す信号は、コントローラ１６０の入力を受けたＨＭＤ１１０からサーバ１５０に送信される。

ステップＳ１３４５にて、プロセッサ１５１は、ＨＭＤ１１０から送られた信号を受信すると、単語の確認結果が入力されたことを検知する。プロセッサ１５１は、その信号に基づいて、ユーザ１９０に関連付けられた当該単語のステータスを、例えば、「要記憶」から「記憶済」に変更する。

ステップＳ１３５０にて、プロセッサ１５１は、ＨＭＤ１１０からの信号に基づいて、現実空間におけるユーザ１９０の動作を検出する。例えば、ユーザ１９０がコントローラ１６０を操作すると、その操作に応じた信号が、ＨＭＤ１１０から送信される。より具体的には、ある局面において、ユーザ１９０がコントローラ１６０を操作して、学習済みの単語を削除する命令をコントローラ１６０に入力すると、コントローラ１６０からの入力を受けたＨＭＤ１１０は、単語の識別データと当該命令とを含む信号を、サーバ１５０に送信する。ユーザ１９０が他の命令をコントローラ１６０に入力した場合は、その命令に応じた信号がＨＭＤ１１０からサーバ１５０に送信される。

ステップＳ１３５５にて、プロセッサ１５１は、ユーザ１９０の動作に応じてＨＭＤ１１０から送られた信号に基づいて、登録済みの単語を削除するか否かを判断する。プロセッサ１５１は、当該信号が当該単語を削除する指示であることを確認すると（ステップＳ１３５５にてＹＥＳ）、制御をステップＳ１３６０に切り換える。そうでない場合には（ステップＳ１３５５にてＮＯ）、プロセッサ１５１は、制御をステップＳ１３６５に切り換える。

ステップＳ１３６０にて、プロセッサ１５１は、単語帳（例えば、テーブル１０３０）に登録されていた当該単語を含むレコードを削除する。

ステップＳ１３６５にて、プロセッサ１５１は、ユーザ１９０の動作に関連付けられた他の処理を実行する。

図１４〜図２０を参照して、ユーザ１９０に表示される画面について説明する。図１４は、ある実施の形態に従ってモニタ１１２に表示される視界画像１４００を表す図である。視界画像１４００は、例えば、仮想空間において外国語を学習するためのアプリケーションプログラムの初期画面を表す。初期画面は、例えば、ユーザ１９０によるユーザＩＤおよびパスワードの入力が完了して認証が成功した場合に表示される。

図１４の例では、英語を学習するための画面が表示されている。この画面は、ユーザ１９０のユーザＩＤ（＝ＡＢＣ）と、前回にログインした日時とを含む。ユーザ１９０がアイコン１４１０を選択して、「続ける」の指示を入力すると、視界画像１４００は、シチュエーションを選択する画面に切り換わる。

図１５は、複数のシチュエーションからいずれかのシチュエーションの選択を促す視界画像１５００を表す。この視界画像１５００は、サーバ１５０から受信した信号に基づいてモニタ１１２に表示される。複数のシチュエーションは、当該サービスの提供者によって予め準備されている。ある局面において、ユーザ１９０によって選択された嗜好に応じて一つ以上のシチュエーションが初期候補として提示され得る。別の局面において、ユーザ１９０は、必要に応じて、シチュエーションを選択し得る。

図１５に示される例において、ユーザ１９０がコントローラ１６０を操作してアイコン１５１０を選択すると、シチュエーションとして「空港」が選択される。「空港」がシチュエーションとして選択されたことを表す信号は、ＨＭＤ１１０からサーバ１５０に送られる。その後、選択されたシチュエーションに応じた例文が、サーバ１５０からＨＭＤ１１０に送信される。ＨＭＤ１１０は、各例文をモニタ１１２に表示させる。

図１６は、ある実施の形態に従って自己学習を支援するための視覚画像１６００を表す。例えば、外国語の学習モードとして、自己学習モードと自動モードとが予め規定されている場合において、ユーザ１９０が自己学習モードを選択すると、サーバ１５０は、その選択結果に応じて、例文１６１０を表示する。ユーザ１９０は、例文１６１０を視認して、分からない単語を認識すると、その単語を選択することができる。例えば、ユーザ１９０は、コントローラ１６０を操作して仮想空間に提示された例文１６１０にポインタオブジェクトを向けることにより、単語を選択することができる。別の局面において、ユーザ１９０は、視線を例文１６１０に向けて、注視点を単語に存在させ、その時の視線の検知結果に応じて、その単語を選択し得る。ユーザ１９０の視線により単語を選択する方法は、例えば、注視センサ１４０の出力に基づいて検出されるユーザ１９０の視線により、単語を選択することとしてもよいし、仮想カメラ１の向き（すなわち、ＨＭＤ１１０を装着するユーザの頭部の動きにより定まる方向）に基づいて定まる基準視線５をユーザ１９０の視線とみなして単語を選択することとしてもよい。例えば、基準視線５を示すアイコンをモニタ１１２に表示して、当該アイコンと、単語とが一定時間以上重なることで、単語が選択されたものとしてもよい。

図１７は、ある実施の形態に従って、チャット形式でユーザ１９０が講師からの指導を受けながら学習する態様を例示する。例えば、視界画像１７００を提示するＨＭＤ１１０は、サーバ１５０に接続されている。ＨＭＤ１１０を装着したユーザ１９０は、視界画像１７００を視認する。サーバ１５０は、講師によって使用される。

ＨＭＤ１１０において、視界画像１７００は、例文１６１０と、メッセージ１７１０とを含む。メッセージ１７１０は、講師からのコメント（チャット）とヒントとを含み得る。例えば、サーバ１５０を使用する講師がキーボードを操作してメッセージとヒントとを入力して、送信先を指定すると、メッセージとヒントは、ユーザ１９０のみに送信される。

サーバ１５０において、講師が閲覧するモニタは、生徒（例えばユーザ１９０）を移す領域１７３０と、ログインしているユーザを表す領域１７４０と、チャットの入力を受け付ける領域１７５０とを含む。領域１７３０は、例えば、ユーザ１９０の近傍に配置されたカメラによって撮影された画像を表示し得る。領域１７４０は、講師によって選択されると、その選択されたユーザのみに、コメントやヒントを送信する指示を受け付ける。領域１７５０は、キーボードあるいは発話に応じてコメントやチャットの入力を受け付ける。

図１８を参照して、例文から単語を選択する態様について説明する。図１８は、ＨＭＤ１１０によって提示される視界画像１８００から単語が選択される一態様を表す図である。

ある局面において、視界画像１８００は、例文１６１０を含む。このとき、ＨＭＤ１１０は、サーバ１５０から送信された例文１６１０に含まれるスペースを用いて単語に分割し、各単語をテキストデータとして一時的に保持している。例文１６１０は、そのようなテキストデータに基づく単語オブジェクトの集合として、仮想空間に配置されている。

ユーザ１９０がコントローラ１６０の操作その他の現実空間での動作を行なうと、その動作に応じたポインタが仮想空間に提示され、そのポインタが単語オブジェクトに重なった時にコントローラ１６０において所定の決定ボタンを押下すると、当該単語オブジェクトが単語帳に登録されるべきものとして選択され、単語帳（例えば、テーブル１０３０）に保存される。

別の局面において、ユーザ１９０によるコントローラ１６０の操作に応じて仮想空間内に手オブジェクトが提示される場合は、その手オブジェクトが単語オブジェクトをつかむように構成されてもよい。この場合、手オブジェクトによって把持された単語オブジェクトに対応する単語が単語帳（テーブル１０３０）に保存される。

図１８に示される例では、単語オブジェクト１８１０，１８２０が、単語帳に登録されるべきものとして選択されている。

図１９を参照して、単語帳に登録されている単語の閲覧について説明する。図１９は、視界画像１９００に単語オブジェクトが提示される一態様を概念的に表す図である。

ユーザ１９０は、外国語の学習を一旦終えて、別の日に学習を再開することもあり得る。その場合、サーバ１５０は、別の日にログインしてきたユーザについて蓄積されているデータベースに基づいて、単語帳に登録された単語があれば、その単語を読み出して、単語のデータをＨＭＤ１１０に送信する。ＨＭＤ１１０は、そのデータに基づく単語オブジェクトを仮想空間に提示し得る。例えば、ユーザ１９０がシチュエーションを選択して、単語の参照をＨＭＤ１１０に指示すると、その指示は、ＨＭＤ１１０からサーバ１５０に送信される。サーバ１５０は、その指示に応答して、テーブル１０３０からユーザ１９０が選択したシチュエーションに関連付けられている単語を読み出して、単語のデータをＨＭＤ１１０に送信する。

図１９に示される例では、視界画像１９００は、特定のシチュエーション（例えば、空港）における学習において過去に登録された５つの単語オブジェクトを提示している。そのうち、単語オブジェクト１８１０，１８２０は、ユーザ１９０が学習時に登録した単語に相当する（図１８）。このように構成すると、各ユーザは、学習を中断しても、それまでに登録した単語を容易に参照できるので、シームレスに学習を再開することができる。

図２０を参照して、シチュエーション別のトレーニングについて説明する。図２０は、ある実施の形態に従ってユーザ１９０によって選択されたシチュエーションにおける学習を開始する時の視界画像２０００を表す図である。

ユーザ１９０がアプリケーションプログラムのメニュー画面において、トレーニングの開始を選択すると、シチュエーションの選択画面が仮想空間に提示される。ユーザ１９０がシチュエーションとして「空港」を選択すると、選択されたシチュエーションを表すデータは、サーバ１５０に送られる。サーバ１５０は、ユーザ１９０の識別データと、シチュエーションを識別するデータとに基づいて、シチュエーション「空港」に関連付けられている単語を読み出し、その単語のデータ（例えばテキストデータ）をＨＭＤ１１０に送信する。ＨＭＤ１１０は、サーバ１５０からデータを受信すると、シチュエーションを表すオブジェクト２０１０と、当該シチュエーションに関連付けられた単語のオブジェクト２０２０とを、他のオブジェクトの表示態様とは異なった態様で仮想空間に提示する。

＜まとめ＞
以上の次第で、開示された技術的特徴は、例えば、以下のように要約され得る。

（構成１） ある実施の形態に従うと、仮想空間２にコンテンツを表示するためにコンピュータ（例えば、サーバ１５０）で実行される方法が提供される。この方法は、ＨＭＤ１１０を装着したユーザ１９０の動作に基づいて、予め規定された複数の状況（空港、レストランその他のシチュエーション）のうち仮想空間２において展開される状況を選択するステップと、ユーザ１９０の動きに基づいて、状況に関連付けられた１つ以上の単語を提示するステップと、サーバ１５０に与えられる命令に基づいて、１つ以上の単語のいずれかを選択するステップと、選択された状況および単語を単語帳（たとえば、テーブル１０３０）に登録するステップとを含む。

（構成２） ある実施の形態に従うと、方法は、仮想空間２に、単語帳に登録されている単語を仮想空間２に提示するステップをさらに含む。

（構成３） ある実施の形態に従うと、方法は、複数の状況から単語を学習するための状況を選択するステップと、選択された状況に関連付けられている単語を仮想空間２に提示するステップとをさらに含む。

（構成４） ある実施の形態に従うと、１つ以上の単語のいずれかを選択するステップは、現実空間におけるユーザ１９０の動作に基づくオブジェクト（例えば、注視点オブジェクト、仮想手オブジェクト等）を仮想空間２に提示するステップと、ユーザ１９０の動作に基づいてオブジェクトが選択対象の単語を選択するステップとを含む。

（構成５） ある実施の形態に従うと、１つ以上の単語のいずれかを選択するステップは、ユーザ１９０の視線を検出するステップと、ユーザ１９０の視線が向けられた単語を特定するステップとを含む。

（構成６） ある実施の形態に従うと、１つ以上の単語のいずれかを選択するステップは、ユーザ１９０の指導者による命令に基づいて単語を選択するステップを含む。

（構成７） ある実施の形態に従うと、１つ以上の単語のいずれかを選択するステップは、予め定められた回答基準を満たさない単語を選択するステップを含む。例えば、ユーザ１９０が頻繁に間違える単語は、単語帳への保存対象として選択される。

（構成８） ある実施の形態に従うと、方法は、１つ以上の単語のヒントを提示するステップをさらに含む。

（構成９） ある実施の形態に従うと、ヒントを提示するステップは、ユーザ１９０の指示に基づいて、または、指導者の操作に基づいてヒントを提示することを含む。

（構成１０） ある実施の形態に従うと、ヒントを提示するステップは、１つ以上の単語のいずれかについて予め定められた解答が予め定められた時間内に得られない場合に、ヒントを提示することを含む。例えば、ユーザ１９０が、仮想空間２に提示された単語の意味を予め定められた時間内に回答できない場合、ヒントが仮想空間２に提示され得る。

以上のようにして、本実施の形態によると、各ユーザは、シチュエーションを選択し、選択したシチュエーションごとに外国語を学習することができる。例えば、ユーザは、シチュエーションに応じて予め準備された一つ以上の例文を学習し、必要に応じて、例文を構成する単語をクラウド上に（例えば、サーバ１５０）に保存できる。保存された単語は、ユーザ１９０の要求に応じて、仮想空間に表示され得る。このようにすると、ユーザ１９０は、仮想空間においてシチュエーションを体験しながら、外国語の例文を学習できる。例文がシチュエーションに関連付けられているため、例文や単語の記憶が容易になり、学習効果が高まる。

今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。

１ 仮想カメラ、２ 仮想空間、５ 基準視線、１０，１５１ プロセッサ、１１，１５２ メモリ、１２ ストレージ、１３ 入出力インターフェイス、１４，１５３ 通信インターフェイス、１５ バス、１９ ネットワーク、２１ 中心、２２ 仮想空間画像、２３ 視界領域、２４，２５，１７３０，１７４０，１７５０ 領域、２６，１４００，１５００，１７００，１８００，１９００，２０００ 視界画像、３０ グリップ、３１ フレーム、３２ 天面、３３，３４，３６，３７ ボタン、３８ アナログスティック、１００ システム、１１２ モニタ、１１４，１２０ センサ、１３０ モーションセンサ、１４０ 注視センサ、１５０ サーバ、１６０ コントローラ、１９０ ユーザ、２００ コンピュータ、２２０ 表示制御モジュール、２２１ 仮想カメラ制御モジュール、２２２ 視界領域決定モジュール、２２３ 視界画像生成モジュール、２２４ 基準視線特定モジュール、２３０ 仮想空間制御モジュール、２３１ 仮想空間定義モジュール、２３２ 仮想オブジェクト生成モジュール、２３３ 手オブジェクト管理モジュール、２３４ コントローラ管理モジュール、２４０ メモリモジュール、２４１ 空間情報、２４２ 学習コンテンツ、２４３ ユーザ情報、２５０ 通信制御モジュール、８００ 右コントローラ、８１０ 右手、１７１０ メッセージ、１８１０，１８２０ 単語オブジェクト、２０１０，２０２０ オブジェクト。

Claims (12)

1. 仮想空間にコンテンツを提示するためにコンピュータで実行される方法であって、
   ヘッドマウントデバイスを装着したユーザの動作に基づいて、予め規定された複数の状況のうち前記仮想空間において展開される状況を選択するステップと、
   前記ユーザの動きに基づいて、前記状況に関連付けられた１つ以上の単語を提示するステップと、
   前記コンピュータに与えられる命令に基づいて、前記１つ以上の単語のいずれかを選択するステップと、
   選択された状況および単語を単語帳に登録するステップとを含む、方法。
2. 前記仮想空間に、前記単語帳に登録されている単語を表示するステップをさらに含む、請求項１に記載の方法。
3. 前記複数の状況から単語を学習するための状況を選択するステップと、
   選択された状況に関連付けられている単語を前記仮想空間に提示するステップとをさらに含む、請求項１または２に記載の方法。
4. 前記１つ以上の単語のいずれかを選択する前記ステップは、
   現実空間における前記ユーザの動作に基づくオブジェクトを前記仮想空間に提示するステップと、
   前記ユーザの動作に基づいて前記オブジェクトが選択対象の単語を選択するステップとを含む、請求項１〜３のいずれかに記載の方法。
5. 前記１つ以上の単語のいずれかを選択する前記ステップは、
   前記ユーザの視線を検出するステップと、
   前記ユーザの視線が向けられた単語を特定するステップとを含む、請求項１〜３のいずれかに記載の方法。
6. 前記１つ以上の単語のいずれかを選択する前記ステップは、前記ユーザの指導者による命令に基づいて単語を選択するステップを含む、請求項１〜３のいずれかに記載の方法。
7. 前記１つ以上の単語のいずれかを選択する前記ステップは、予め定められた回答基準を満たさない単語を選択するステップを含む、請求項１〜３のいずれかに記載の方法。
8. 前記１つ以上の単語のヒントを提示するステップをさらに含む、請求項１〜７のいずれかに記載の方法。
9. 前記ヒントを提示するステップは、前記ユーザの指示に基づいて、または、指導者の操作に基づいてヒントを提示することを含む、請求項８に記載の方法。
10. 前記ヒントを提示するステップは、前記１つ以上の単語のいずれかについて予め定められた解答が予め定められた時間内に得られない場合に、ヒントを提示することを含む、請求項８に記載の方法。
11. 請求項１〜１０のいずれかに記載の方法をコンピュータに実行させる、プログラム。
12. 請求項１１に記載のプログラムを格納したメモリと、
    前記プログラムを実行するためのプロセッサとを備える、コンテンツ提示装置。

Images