JP2019135655A - 仮想空間を提供するためにコンピュータで実行されるプログラム、方法、および当該プログラムを実行するための情報処理装置 - Google Patents

Abstract

【課題】仮想空間に展開されるパノラマ画像を変更するにあたり、ユーザの所望するパノラマ画像の候補をユーザに提示する技術を提供する。【解決手段】プログラムはコンピュータに、ヘッドマウントデバイスのユーザから、仮想空間に展開されているパノラマ画像を他のパノラマ画像に変更するためのトリガの入力を受け付けるステップ（ステップＳ２４１５）と、トリガの入力を受け付けた後に、ユーザから検索キーの入力を受け付けるステップ（ステップＳ２４２０）と、複数のパノラマ画像の中から、検索キーにより検索された一以上のパノラマ画像を特定するための情報を仮想空間に提示するステップ（ステップＳ２４６０）と、ユーザから、一以上のパノラマ画像の中から一のパノラマ画像を選択する入力を受け付けるステップ（ステップＳ２４６５）とを実行させる。【選択図】図２４

Description

この開示は、仮想空間を提供する技術に関し、より特定的には、仮想空間に展開される
パノラマ画像を変更するための技術に関する。

ヘッドマウントデバイス（ＨＭＤ：Head-Mounted Device）を用いて仮想空間を提供す
る技術が知られている。たとえば、特開２０１６−１４００７８号公報（特許文献１）は
、ヘッドマウントディスプレイにパノラマ画像を表示する技術を開示している。

また、近年、仮想空間におけるユーザの体験を豊かにする様々な技術が提案されている
。たとえば、非特許文献１は、仮想空間上に複数のユーザの各々のアバターを配置し、こ
れらアバターを通じてユーザ間でのコミュニケーションを図る技術を開示している。

特開２０１６−１４００７８号公報

"Ｆａｃｅｂｏｏｋ、ＶＲの世界で友達と会えるアプリ「Ｓｐａｃｅｓ」を発表"、［online］、［平成２９年８月２５日検索］、インターネット〈URL：http://itpro.nikkeibp.co.jp/atcl/idg/14/481709/042000319/〉

ある局面において、ユーザは、仮想空間に展開されているパノラマ画像を変更したいと
考える。非特許文献１は、ユーザに対して切り替え候補のパノラマ画像を提示する技術を
開示しているものの、これら切り替え候補のパノラマ画像の中にユーザが所望するパノラ
マ画像が含まれていない場合があった。したがって、ユーザが所望するパノラマ画像の候
補を提示する技術が必要とされている。

本開示は、上記のような問題を解決するためになされたものであって、ある局面におけ
る目的は、仮想空間に展開されるパノラマ画像を変更するにあたり、ユーザの所望するパ
ノラマ画像をユーザに提示する技術を提供することである。

ある実施形態に従うと、ヘッドマウントデバイスによって仮想空間を提供するためにコ
ンピュータで実行されるプログラムが提供される。このプログラムはコンピュータに、予
め定められた複数のパノラマ画像に含まれる一のパノラマ画像を仮想空間に展開するステ
ップと、ヘッドマウントデバイスのユーザから、仮想空間に展開されているパノラマ画像
を他のパノラマ画像に変更するためのトリガの入力を受け付けるステップと、トリガの入
力を受け付けた後に、ユーザから検索キーの入力を受け付けるステップと、複数のパノラ
マ画像の中から、検索キーにより検索された一以上のパノラマ画像を特定するための情報
を仮想空間に提示するステップと、ユーザから、一以上のパノラマ画像の中から一のパノ
ラマ画像を選択する入力を受け付けるステップと、選択された一のパノラマ画像を仮想空
間に展開するステップとを実行させる。

ある実施形態に従うプログラムは、仮想空間に展開されるパノラマ画像を変更するにあ
たり、ユーザの所望するパノラマ画像をユーザに提示できる。

開示された技術的特徴の上記および他の目的、特徴、局面および利点は、添付の図面と
関連して理解されるこの発明に関する次の詳細な説明から明らかとなるであろう。

ある実施の形態に従うＨＭＤシステムの構成の概略を表す図である。 一局面に従うコンピュータのハードウェア構成の一例を表すブロック図である。 ある実施の形態に従うＨＭＤに設定されるｕｖｗ視野座標系を概念的に表す図である。 ある実施の形態に従う仮想空間を表現する一態様を概念的に表す図である。 ある実施の形態に従うＨＭＤを装着するユーザの頭部を上から表した図である。 仮想空間において視界領域をＸ方向から見たＹＺ断面を表す図である。 仮想空間において視界領域をＹ方向から見たＸＺ断面を表す図である。 ある実施の形態に従うコントローラの概略構成を表す図である。 ある実施の形態に従うコンピュータをモジュール構成として表すブロック図である。 ある実施の形態に従うＨＭＤシステムにおいて実行される処理の一部を表すシーケンスチャートである。 仮想空間に展開されているパノラマ画像を変更するための処理を説明する図（その１）である。 パノラマ画像を変更するための処理を説明する図（その２）である。 パノラマ画像を変更するための処理を説明する図（その３）である。 ある実施形態に従うＨＭＤシステムの構成を説明するための図である。 ユーザの顔画像から口を検出する制御について説明する図である。 フェイストラッキングモジュールが口の形状を検出する処理を説明する図（その１）である。 フェイストラッキングモジュールが口の形状を検出する処理を説明するための図（その２）である。 フェイストラッキングデータの構造の一例を表す。 サーバのハードウェア構成と機能構成とを表すブロック図である。 パノラマ画像ＤＢのデータ構造の一例を表す。 学習用ＤＢのデータ構造の一例を表す。 ユーザが仮想空間において線図を描いている様子を表す視界画像である。 ユーザがパノラマ画像を選択する様子を表す視界画像である。 線図に基づいてパノラマ画像を変更するための処理を表すフローチャートである。 立体的な線図の入力を受け付ける様子を表す視界画像である。 立体的な線図を２次元化する処理を説明する図である。 フェイストラッキングデータに基づいてパノラマ画像を変更するための処理を表すフローチャートである。 ユーザが発話により検索キーを入力する様子を表す視界画像である。 音声信号から抽出される文字列に基づいてパノラマ画像を切り替えるための処理を表すフローチャートである。 複数のユーザが仮想空間を共有している場合のネットワークを説明する図である。 ユーザが視認する視界画像を表す。

以下、この技術的思想の実施形態について図面を参照しながら詳細に説明する。以下の
説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じであ
る。したがって、それらについての詳細な説明は繰り返さない。なお、以下で説明される
各実施の形態および各変形例は、適宜選択的に組み合わされてもよい。

［ＨＭＤシステムの構成］
図１を参照して、ＨＭＤシステム１００の構成について説明する。図１は、ある実施の
形態に従うＨＭＤシステム１００の構成の概略を表す図である。ある局面において、ＨＭ
Ｄシステム１００は、家庭用のシステムとしてあるいは業務用のシステムとして提供され
る。

ＨＭＤシステム１００は、ＨＭＤ１１０と、ＨＭＤセンサ１２０と、コントローラ１６
０と、コンピュータ２００とを備える。ＨＭＤ１１０は、モニタ１１２と、注視センサ１
４０と、スピーカ１１５と、マイク１１９とを含む。コントローラ１６０は、モーション
センサ１３０を含み得る。

ある局面において、コンピュータ２００は、インターネットその他のネットワーク１９
に接続可能であり、ネットワーク１９に接続されているサーバ１５０その他のコンピュー
タと通信可能である。他の局面において、ＨＭＤ１１０は、ＨＭＤセンサ１２０の代わり
に、センサ１１４を含み得る。

ＨＭＤ１１０は、ユーザ１９０の頭部に装着され、動作中に仮想空間２をユーザ１９０
に提供し得る。より具体的には、ＨＭＤ１１０は、右目用の画像および左目用の画像をモ
ニタ１１２にそれぞれ表示する。ユーザ１９０の各目がそれぞれの画像を視認すると、ユ
ーザ１９０は、両目の視差に基づき当該画像を３次元の画像として認識し得る。

モニタ１１２は、たとえば、非透過型の表示装置として実現される。ある局面において
、モニタ１１２は、ユーザ１９０の両目の前方に位置するようにＨＭＤ１１０の本体に配
置されている。したがって、ユーザ１９０は、モニタ１１２に表示される３次元画像を視
認すると、仮想空間２に没入することができる。ある実施の形態において、仮想空間２は
、たとえば、背景、ユーザ１９０が操作可能なオブジェクト、ユーザ１９０が選択可能な
メニューの画像を含む。複数のコンピュータ２００が各ユーザの動作に基づく信号を受け
渡しすることで、複数のユーザが一の仮想空間２で仮想体験できる構成であれば、各ユー
ザに対応するアバターオブジェクトが、仮想空間２に提示される。

なお、オブジェクトとは、仮想空間２に存在する仮想の物体である。ある局面において
、オブジェクトは、ユーザに対応するアバターオブジェクト、アバターオブジェクトが身
に着ける仮想アクセサリおよび仮想衣服、ユーザに関する情報が示されたパネルを模した
仮想パネル、手紙を模した仮想手紙、およびポストを模した仮想ポストなどを含む。さら
に、アバターオブジェクトは、仮想空間２においてユーザ１９０を象徴するキャラクタで
あり、たとえば人型、動物型、ロボット型などを含む。オブジェクトの形は様々である。
ユーザ１９０は、予め決められたオブジェクトの中から好みのオブジェクトを仮想空間２
に提示するようにしてもよいし、自分が作成したオブジェクトを仮想空間２に提示するよ
うにしてもよい。

ある実施の形態において、モニタ１１２は、所謂スマートフォンその他の情報表示端末
が備える液晶モニタまたは有機ＥＬ（Electro Luminescence）モニタとして実現され得
る。

ある局面において、モニタ１１２は、右目用の画像を表示するためのサブスクリーンと
、左目用の画像を表示するためのサブスクリーンとを含み得る。他の局面において、モニ
タ１１２は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。
この場合、モニタ１１２は、高速シャッタを含む。高速シャッタは、画像がいずれか一方
の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動す
る。

注視センサ１４０は、ユーザ１９０の右目および左目の視線が向けられる方向（視線方
向）を検出する。当該方向の検出は、たとえば、公知のアイトラッキング機能によって実
現される。注視センサ１４０は、当該アイトラッキング機能を有するセンサにより実現さ
れる。ある局面において、注視センサ１４０は、右目用のセンサおよび左目用のセンサを
含むことが好ましい。注視センサ１４０は、たとえば、ユーザ１９０の右目および左目に
赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることに
より各眼球の回転角を検出するセンサであってもよい。注視センサ１４０は、検出した各
回転角に基づいて、ユーザ１９０の視線方向を検知することができる。

スピーカ１１５は、コンピュータ２００から受信した音声データに対応する音声（発話
）を外部に出力する。マイク１１９は、ユーザ１９０の発話に対応する音声データをコン
ピュータ２００に出力する。ユーザ１９０は、マイク１１９を用いて他のユーザに向けて
発話する一方で、スピーカ１１５を用いて他のユーザの音声（発話）を聞くことができる
。

より具体的には、ユーザ１９０がマイク１１９に向かって発話すると、当該ユーザ１９
０の発話に対応する音声データがコンピュータ２００に入力される。コンピュータ２００
は、その音声データを、ネットワーク１９を介してサーバ１５０に出力する。サーバ１５
０は、コンピュータ２００から受信した音声データを、ネットワーク１９を介して他のコ
ンピュータ２００に出力する。他のコンピュータ２００は、サーバ１５０から受信した音
声データを、他のユーザが装着するＨＭＤ１１０のスピーカ１１５に出力する。これによ
り、他のユーザは、ＨＭＤ１１０のスピーカ１１５を介してユーザ１９０の音声を聞くこ
とができる。同様に、他のユーザからの発話は、ユーザ１９０が装着するＨＭＤ１１０の
スピーカ１１５から出力される。

コンピュータ２００は、他のユーザのコンピュータ２００から受信した音声データに応
じて、当該他のユーザに対応する他アバターオブジェクトを動かすような画像をモニタ１
１２に表示する。たとえば、ある局面において、コンピュータ２００は、他アバターオブ
ジェクトの口を動かすような画像をモニタ１１２に表示することで、あたかも仮想空間２
内でアバターオブジェクト同士が会話しているかのように仮想空間２を表現する。このよ
うに、複数のコンピュータ２００間で音声データの送受信が行なわれることで、一の仮想
空間２内で複数のユーザ間での会話（チャット）が実現される。

ＨＭＤセンサ１２０は、複数の光源（図示しない）を含む。各光源は、たとえば、赤外
線を発するＬＥＤ（Light Emitting Diode）により実現される。ＨＭＤセンサ１２０は
、ＨＭＤ１１０の動きを検出するためのポジショントラッキング機能を有する。ＨＭＤセ
ンサ１２０は、この機能を用いて、現実空間内におけるＨＭＤ１１０の位置および傾きを
検出する。

なお、他の局面において、ＨＭＤセンサ１２０は、カメラにより実現されてもよい。こ
の場合、ＨＭＤセンサ１２０は、カメラから出力されるＨＭＤ１１０の画像情報を用いて
、画像解析処理を実行することにより、ＨＭＤ１１０の位置および傾きを検出することが
できる。

他の局面において、ＨＭＤ１１０は、位置検出器として、ＨＭＤセンサ１２０の代わり
に、センサ１１４を備えてもよい。ＨＭＤ１１０は、センサ１１４を用いて、ＨＭＤ１１
０自身の位置および傾きを検出し得る。たとえば、センサ１１４が、角速度センサ、地磁
気センサ、加速度センサ、あるいはジャイロセンサなどである場合、ＨＭＤ１１０は、Ｈ
ＭＤセンサ１２０の代わりに、これらの各センサのいずれかを用いて、自身の位置および
傾きを検出し得る。一例として、センサ１１４が角速度センサである場合、角速度センサ
は、現実空間におけるＨＭＤ１１０の３軸周りの角速度を経時的に検出する。ＨＭＤ１１
０は、各角速度に基づいて、ＨＭＤ１１０の３軸周りの角度の時間的変化を算出し、さら
に、角度の時間的変化に基づいて、ＨＭＤ１１０の傾きを算出する。

また、ＨＭＤ１１０は、透過型表示装置を備えていても良い。この場合、当該透過型表
示装置は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可
能であってもよい。また、視野画像は仮想空間２を構成する画像の一部に、現実空間を提
示する構成を含んでいてもよい。たとえば、ＨＭＤ１１０に搭載されたカメラで撮影した
画像を視野画像の一部に重畳して表示させてもよいし、当該透過型表示装置の一部の透過
率を高く設定することにより、視野画像の一部から現実空間を視認可能にしてもよい。

サーバ１５０は、コンピュータ２００にプログラムを送信し得る。他の局面において、
サーバ１５０は、他のユーザによって使用されるＨＭＤ１１０に仮想現実を提供するため
の他のコンピュータ２００と通信し得る。たとえば、アミューズメント施設において、複
数のユーザが参加型のゲームを行なう場合、各コンピュータ２００は、各ユーザの動作に
基づく信号を他のコンピュータ２００と通信して、同じ仮想空間２において複数のユーザ
が共通のゲームを楽しむことを可能にする。また、上述したように、複数のコンピュータ
２００が各ユーザの動作に基づく信号を送受信することで、一の仮想空間２内で複数のユ
ーザが会話を楽しむことができる。

コントローラ１６０は、ユーザ１９０からコンピュータ２００への命令の入力を受け付
ける。ある局面において、コントローラ１６０は、ユーザ１９０によって把持可能に構成
される。他の局面において、コントローラ１６０は、ユーザ１９０の身体あるいは衣類の
一部に装着可能に構成される。他の局面において、コントローラ１６０は、コンピュータ
２００から送られる信号に基づいて、振動、音、光のうちの少なくともいずれかを出力す
るように構成されてもよい。他の局面において、コントローラ１６０は、仮想現実を提供
する空間に配置されるオブジェクトの位置や動きを制御するためにユーザ１９０によって
与えられる操作を受け付ける。

モーションセンサ１３０は、ある局面において、ユーザ１９０の手に取り付けられて、
ユーザ１９０の手の動きを検出する。たとえば、モーションセンサ１３０は、手の回転速
度、回転数などを検出する。モーションセンサ１３０によって得られたユーザ１９０の手
の動きの検出結果を表すデータ（以下、検出データともいう）は、コンピュータ２００に
送られる。モーションセンサ１３０は、たとえば、手袋型のコントローラ１６０に設けら
れている。ある実施の形態において、現実空間における安全のため、コントローラ１６０
は、手袋型のようにユーザ１９０の手に装着されることにより容易に飛んで行かないもの
に装着されるのが望ましい。他の局面において、ユーザ１９０に装着されないセンサがユ
ーザ１９０の手の動きを検出してもよい。たとえば、ユーザ１９０を撮影するカメラの信
号が、ユーザ１９０の動作を表す信号として、コンピュータ２００に入力されてもよい。
モーションセンサ１３０とコンピュータ２００とは、有線により、または無線により互い
に接続される。無線の場合、通信形態は特に限られず、たとえば、Ｂｌｕｅｔｏｏｔｈ（
登録商標）その他の公知の通信手法が用いられる。

他の局面において、ＨＭＤシステム１００は、テレビジョン放送受信チューナを備えて
もよい。このような構成によれば、ＨＭＤシステム１００は、仮想空間２においてテレビ
番組を表示することができる。

さらに他の局面において、ＨＭＤシステム１００は、インターネットに接続するための
通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。

［コンピュータのハードウェア構成］
図２を参照して、本実施の形態に係るコンピュータ２００について説明する。図２は、
一局面に従うコンピュータ２００のハードウェア構成の一例を表すブロック図である。コ
ンピュータ２００は、主たる構成要素として、プロセッサ１０と、メモリ１１と、ストレ
ージ１２と、入出力インターフェース１３と、通信インターフェース１４とを備える。各
構成要素は、それぞれ、バス１５に接続されている。

プロセッサ１０は、コンピュータ２００に与えられる信号に基づいて、あるいは、予め
定められた条件が成立したことに基づいて、メモリ１１またはストレージ１２に格納され
ているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ１０
は、ＣＰＵ（Central Processing Unit）、ＭＰＵ（Micro Processor Unit）、ＦＰ
ＧＡ（Field-Programmable Gate Array）その他のデバイスとして実現される。

メモリ１１は、プログラムおよびデータを一時的に保存する。プログラムは、たとえば
、ストレージ１２からロードされる。データは、コンピュータ２００に入力されたデータ
と、プロセッサ１０によって生成されたデータとを含む。ある局面において、メモリ１１
は、ＲＡＭ（Random Access Memory）その他の揮発メモリとして実現される。

ストレージ１２は、プログラムおよびデータを永続的に保持する。ストレージ１２は、
たとえば、ＲＯＭ（Read-Only Memory）、ハードディスク装置、フラッシュメモリ、そ
の他の不揮発記憶装置として実現される。ストレージ１２に格納されるプログラムは、Ｈ
ＭＤシステム１００において仮想空間２を提供するためのプログラム、シミュレーション
プログラム、ゲームプログラム、ユーザ認証プログラム、他のコンピュータ２００との通
信を実現するためのプログラムを含む。ストレージ１２に格納されるデータは、仮想空間
２を規定するためのデータおよびオブジェクトなどを含む。

なお、他の局面において、ストレージ１２は、メモリカードのように着脱可能な記憶装
置として実現されてもよい。さらに他の局面において、コンピュータ２００に内蔵された
ストレージ１２の代わりに、外部の記憶装置に保存されているプログラムおよびデータを
使用する構成が使用されてもよい。このような構成によれば、たとえば、アミューズメン
ト施設のように複数のＨＭＤシステム１００が使用される場面において、プログラムやデ
ータの更新を一括して行なうことが可能になる。

ある実施の形態において、入出力インターフェース１３は、ＨＭＤ１１０、ＨＭＤセン
サ１２０またはモーションセンサ１３０との間で信号を通信する。ある局面において、入
出力インターフェース１３は、ＵＳＢ（Universal Serial Bus）インターフェース、Ｄ
ＶＩ（Digital Visual Interface）、ＨＤＭＩ（登録商標）（High-Definition Multi
media Interface）その他の端子を用いて実現される。なお、入出力インターフェース１
３は上述のものに限られない。

ある実施の形態において、入出力インターフェース１３は、さらに、コントローラ１６
０と通信し得る。たとえば、入出力インターフェース１３は、モーションセンサ１３０か
ら出力された信号の入力を受ける。他の局面において、入出力インターフェース１３は、
プロセッサ１０から出力された命令を、コントローラ１６０に送る。当該命令は、振動、
音声出力、発光などをコントローラ１６０に指示する。コントローラ１６０は、当該命令
を受信すると、その命令に応じて、振動、音声出力または発光のいずれかを実行する。

通信インターフェース１４は、ネットワーク１９に接続されて、ネットワーク１９に接
続されている他のコンピュータ（たとえば、サーバ１５０、他のユーザのコンピュータ２
００など）と通信する。ある局面において、通信インターフェース１４は、たとえば、Ｌ
ＡＮ（Local Area Network）その他の有線通信インターフェース、あるいは、ＷｉＦｉ
（Wireless Fidelity）、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＮＦＣ（Near Field Com
munication）その他の無線通信インターフェースとして実現される。なお、通信インター
フェース１４は上述のものに限られない。

ある局面において、プロセッサ１０は、ストレージ１２にアクセスし、ストレージ１２
に格納されている１つ以上のプログラムをメモリ１１にロードし、当該プログラムに含ま
れる一連の命令を実行する。当該１つ以上のプログラムは、コンピュータ２００のオペレ
ーティングシステム、仮想空間２を提供するためのアプリケーションプログラム、コント
ローラ１６０を用いて仮想空間２で実行可能なゲームソフトウェアなどを含み得る。プロ
セッサ１０は、入出力インターフェース１３を介して、仮想空間２を提供するための信号
をＨＭＤ１１０に送る。ＨＭＤ１１０は、その信号に基づいてモニタ１１２に映像を表示
する。

なお、図２に示される例では、コンピュータ２００は、ＨＭＤ１１０の外部に設けられ
る構成が示されているが、他の局面において、コンピュータ２００は、ＨＭＤ１１０に内
蔵されてもよい。一例として、モニタ１１２を含む携帯型の情報通信端末（たとえば、ス
マートフォン）がコンピュータ２００として機能してもよい。

また、コンピュータ２００は、複数のＨＭＤ１１０に共通して用いられる構成であって
もよい。このような構成によれば、たとえば、複数のユーザに同一の仮想空間２を提供す
ることもできるので、各ユーザは同一の仮想空間２で他のユーザと同一のアプリケーショ
ンを楽しむことができる。

ある実施の形態において、ＨＭＤシステム１００では、グローバル座標系が予め設定さ
れている。グローバル座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方
向、ならびに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、３
つの基準方向（軸）を有する。本実施の形態では、グローバル座標系は視点座標系の一つ
である。そこで、グローバル座標系における水平方向、鉛直方向（上下方向）、および前
後方向は、それぞれ、ｘ軸、ｙ軸、ｚ軸と規定される。より具体的には、グローバル座標
系において、ｘ軸は現実空間の水平方向に平行である。ｙ軸は、現実空間の鉛直方向に平
行である。ｚ軸は現実空間の前後方向に平行である。

ある局面において、ＨＭＤセンサ１２０は、赤外線センサを含む。赤外線センサが、Ｈ
ＭＤ１１０の各光源から発せられた赤外線をそれぞれ検出すると、ＨＭＤ１１０の存在を
検出する。ＨＭＤセンサ１２０は、さらに、各点の値（グローバル座標系における各座標
値）に基づいて、ＨＭＤ１１０を装着したユーザ１９０の動きに応じた、現実空間内にお
けるＨＭＤ１１０の位置および傾きを検出する。より詳しくは、ＨＭＤセンサ１２０は、
経時的に検出された各値を用いて、ＨＭＤ１１０の位置および傾きの時間的変化を検出で
きる。

グローバル座標系は現実空間の座標系と平行である。したがって、ＨＭＤセンサ１２０
によって検出されたＨＭＤ１１０の各傾きは、グローバル座標系におけるＨＭＤ１１０の
３軸周りの各傾きに相当する。ＨＭＤセンサ１２０は、グローバル座標系におけるＨＭＤ
１１０の傾きに基づき、ｕｖｗ視野座標系をＨＭＤ１１０に設定する。ＨＭＤ１１０に設
定されるｕｖｗ視野座標系は、ＨＭＤ１１０を装着したユーザ１９０が仮想空間２におい
て物体を見る際の視点座標系に対応する。

［ｕｖｗ視野座標系］
図３を参照して、ｕｖｗ視野座標系について説明する。図３は、ある実施の形態に従う
ＨＭＤ１１０に設定されるｕｖｗ視野座標系を概念的に表す図である。ＨＭＤセンサ１２
０は、ＨＭＤ１１０の起動時に、グローバル座標系におけるＨＭＤ１１０の位置および傾
きを検出する。プロセッサ１０は、検出された値に基づいて、ｕｖｗ視野座標系をＨＭＤ
１１０に設定する。

図３に示されるように、ＨＭＤ１１０は、ＨＭＤ１１０を装着したユーザ１９０の頭部
を中心（原点）とした３次元のｕｖｗ視野座標系を設定する。より具体的には、ＨＭＤ１
１０は、グローバル座標系を規定する水平方向、鉛直方向、および前後方向（ｘ軸、ｙ軸
、ｚ軸）を、グローバル座標系内においてＨＭＤ１１０の各軸周りの傾きだけ各軸周りに
それぞれ傾けることによって新たに得られる３つの方向を、ＨＭＤ１１０におけるｕｖｗ
視野座標系のピッチ方向（ｕ軸）、ヨー方向（ｖ軸）、およびロール方向（ｗ軸）として
設定する。

ある局面において、ＨＭＤ１１０を装着したユーザ１９０が直立し、かつ、正面を視認
している場合、プロセッサ１０は、グローバル座標系に平行なｕｖｗ視野座標系をＨＭＤ
１１０に設定する。この場合、グローバル座標系における水平方向（ｘ軸）、鉛直方向（
ｙ軸）、および前後方向（ｚ軸）は、ＨＭＤ１１０におけるｕｖｗ視野座標系のピッチ方
向（ｕ軸）、ヨー方向（ｖ軸）、およびロール方向（ｗ軸）に一致する。

ｕｖｗ視野座標系がＨＭＤ１１０に設定された後、ＨＭＤセンサ１２０は、ＨＭＤ１１
０の動きに基づいて、設定されたｕｖｗ視野座標系におけるＨＭＤ１１０の傾き（傾きの
変化量）を検出できる。この場合、ＨＭＤセンサ１２０は、ＨＭＤ１１０の傾きとして、
ｕｖｗ視野座標系におけるＨＭＤ１１０のピッチ角（θｕ）、ヨー角（θｖ）、およびロ
ール角（θｗ）をそれぞれ検出する。ピッチ角（θｕ）は、ｕｖｗ視野座標系におけるピ
ッチ方向周りのＨＭＤ１１０の傾き角度を表す。ヨー角（θｖ）は、ｕｖｗ視野座標系に
おけるヨー方向周りのＨＭＤ１１０の傾き角度を表す。ロール角（θｗ）は、ｕｖｗ視野
座標系におけるロール方向周りのＨＭＤ１１０の傾き角度を表す。

ＨＭＤセンサ１２０は、検出されたＨＭＤ１１０の傾き角度に基づいて、ＨＭＤ１１０
が動いた後のＨＭＤ１１０におけるｕｖｗ視野座標系を、ＨＭＤ１１０に設定する。ＨＭ
Ｄ１１０と、ＨＭＤ１１０のｕｖｗ視野座標系との関係は、ＨＭＤ１１０の位置および傾
きに関わらず、常に一定である。ＨＭＤ１１０の位置および傾きが変わると、当該位置お
よび傾きの変化に連動して、グローバル座標系におけるＨＭＤ１１０のｕｖｗ視野座標系
の位置および傾きが変化する。

ある局面において、ＨＭＤセンサ１２０は、赤外線センサからの出力に基づいて取得さ
れる赤外線の光強度および複数の点間の相対的な位置関係（たとえば、各点間の距離など
）に基づいて、ＨＭＤ１１０の現実空間内における位置を、ＨＭＤセンサ１２０に対する
相対位置として特定してもよい。また、プロセッサ１０は、特定された相対位置に基づい
て、現実空間内（グローバル座標系）におけるＨＭＤ１１０のｕｖｗ視野座標系の原点を
決定してもよい。

［仮想空間］
図４を参照して、仮想空間２についてさらに説明する。図４は、ある実施の形態に従う
仮想空間２を表現する一態様を概念的に表す図である。仮想空間２は、中心２１の３６０
度方向の全体を覆う全天球状の構造を有する。図４では、説明を複雑にしないために、仮
想空間２のうちの上半分の天球が例示されている。仮想空間２では各メッシュが規定され
る。各メッシュの位置は、仮想空間２に規定されるＸＹＺ座標系における座標値として予
め規定されている。コンピュータ２００は、仮想空間２に展開可能なコンテンツ（静止画
、動画など）を構成する各部分画像を、仮想空間２において対応する各メッシュにそれぞ
れ対応付けて、ユーザ１９０によって視認可能な仮想空間画像２２が展開される仮想空間
２をユーザ１９０に提供する。

ある局面において、仮想空間２では、中心２１を原点とするＸＹＺ座標系が規定される
。ＸＹＺ座標系は、たとえば、グローバル座標系に平行である。ＸＹＺ座標系は視点座標
系の一種であるため、ＸＹＺ座標系における水平方向、鉛直方向（上下方向）、および前
後方向は、それぞれＸ軸、Ｙ軸、Ｚ軸として規定される。したがって、ＸＹＺ座標系のＸ
軸（水平方向）がグローバル座標系のｘ軸と平行であり、ＸＹＺ座標系のＹ軸（鉛直方向
）がグローバル座標系のｙ軸と平行であり、ＸＹＺ座標系のＺ軸（前後方向）がグローバ
ル座標系のｚ軸と平行である。

ＨＭＤ１１０の起動時、すなわちＨＭＤ１１０の初期状態において、仮想カメラ１が、
仮想空間２の中心２１に配置される。仮想カメラ１は、現実空間におけるＨＭＤ１１０の
動きに連動して、仮想空間２を同様に移動する。これにより、現実空間におけるＨＭＤ１
１０の位置および向きの変化が、仮想空間２において同様に再現される。

仮想カメラ１には、ＨＭＤ１１０の場合と同様に、ｕｖｗ視野座標系が規定される。仮
想空間２における仮想カメラのｕｖｗ視野座標系は、現実空間（グローバル座標系）にお
けるＨＭＤ１１０のｕｖｗ視野座標系に連動するように規定されている。したがって、Ｈ
ＭＤ１１０の傾きが変化すると、それに応じて、仮想カメラ１の傾きも変化する。また、
仮想カメラ１は、ＨＭＤ１１０を装着したユーザ１９０の現実空間における移動に連動し
て、仮想空間２において移動することもできる。

仮想カメラ１の向きは、仮想カメラ１の位置および傾きに応じて決まるので、ユーザ１
９０が仮想空間画像２２を視認する際に基準となる視線（基準視線５）は、仮想カメラ１
の向きに応じて決まる。コンピュータ２００のプロセッサ１０は、基準視線５に基づいて
、仮想空間２における視界領域２３を規定する。視界領域２３は、仮想空間２のうち、Ｈ
ＭＤ１１０を装着したユーザ１９０の視界に対応する。

注視センサ１４０によって検出されるユーザ１９０の視線方向は、ユーザ１９０が物体
を視認する際の視点座標系における方向である。ＨＭＤ１１０のｕｖｗ視野座標系は、ユ
ーザ１９０がモニタ１１２を視認する際の視点座標系に等しい。また、仮想カメラ１のｕ
ｖｗ視野座標系は、ＨＭＤ１１０のｕｖｗ視野座標系に連動している。したがって、ある
局面に従うＨＭＤシステム１００は、注視センサ１４０によって検出されたユーザ１９０
の視線方向を、仮想カメラ１のｕｖｗ視野座標系におけるユーザ１９０の視線方向とみな
すことができる。

［ユーザの視線］
図５を参照して、ユーザ１９０の視線方向の決定について説明する。図５は、ある実施
の形態に従うＨＭＤ１１０を装着するユーザ１９０の頭部を上から表した図である。

ある局面において、注視センサ１４０は、ユーザ１９０の右目および左目の各視線を検
出する。ある局面において、ユーザ１９０が近くを見ている場合、注視センサ１４０は、
視線Ｒ１およびＬ１を検出する。他の局面において、ユーザ１９０が遠くを見ている場合
、注視センサ１４０は、視線Ｒ２およびＬ２を検出する。この場合、ロール方向ｗに対し
て視線Ｒ２およびＬ２がなす角度は、ロール方向ｗに対して視線Ｒ１およびＬ１がなす角
度よりも小さい。注視センサ１４０は、検出結果をコンピュータ２００に送信する。

コンピュータ２００が、視線の検出結果として、視線Ｒ１およびＬ１の検出値を注視セ
ンサ１４０から受信した場合には、その検出値に基づいて、視線Ｒ１およびＬ１の交点で
ある注視点Ｎ１を特定する。一方、コンピュータ２００は、視線Ｒ２およびＬ２の検出値
を注視センサ１４０から受信した場合には、視線Ｒ２およびＬ２の交点を注視点として特
定する。コンピュータ２００は、特定した注視点Ｎ１の位置に基づき、ユーザ１９０の視
線方向Ｎ０を特定する。コンピュータ２００は、たとえば、ユーザ１９０の右目Ｒと左目
Ｌとを結ぶ直線の中点と、注視点Ｎ１とを通る直線の延びる方向を、視線方向Ｎ０として
検出する。視線方向Ｎ０は、ユーザ１９０が両目により実際に視線を向けている方向であ
る。また、視線方向Ｎ０は、視界領域２３に対してユーザ１９０が実際に視線を向けてい
る方向に相当する。

［視界領域］
図６および図７を参照して、視界領域２３について説明する。図６は、仮想空間２にお
いて視界領域２３をＸ方向から見たＹＺ断面を表す図である。図７は、仮想空間２におい
て視界領域２３をＹ方向から見たＸＺ断面を表す図である。

図６に示されるように、ＹＺ断面における視界領域２３は、領域２４を含む。領域２４
は、仮想カメラ１の基準視線５と仮想空間２のＹＺ断面とによって定義される。プロセッ
サ１０は、仮想空間２おける基準視線５を中心として極角αを含む範囲を、領域２４とし
て規定する。

図７に示されるように、ＸＺ断面における視界領域２３は、領域２５を含む。領域２５
は、基準視線５と仮想空間２のＸＺ断面とによって定義される。プロセッサ１０は、仮想
空間２における基準視線５を中心とした方位角βを含む範囲を、領域２５として規定する
。

ある局面において、ＨＭＤシステム１００は、コンピュータ２００からの信号に基づい
て、視界画像をモニタ１１２に表示させることにより、ユーザ１９０に仮想空間２を提供
する。視界画像は、仮想空間画像２２のうちの視界領域２３に重畳する部分に相当する。
ユーザ１９０が、頭に装着したＨＭＤ１１０を動かすと、その動きに連動して仮想カメラ
１も動く。その結果、仮想空間２における視界領域２３の位置が変化する。これにより、
モニタ１１２に表示される視界画像は、仮想空間画像２２のうち、仮想空間２においてユ
ーザ１９０が向いた方向の視界領域２３に重畳する画像に更新される。ユーザ１９０は、
仮想空間２における所望の方向を視認することができる。

ユーザ１９０は、ＨＭＤ１１０を装着している間、現実世界を視認することなく、仮想
空間２に展開される仮想空間画像２２のみを視認できる。そのため、ＨＭＤシステム１０
０は、仮想空間２への高い没入感覚をユーザ１９０に与えることができる。

ある局面において、プロセッサ１０は、ＨＭＤ１１０を装着したユーザ１９０の現実空
間における移動に連動して、仮想空間２において仮想カメラ１を移動し得る。この場合、
プロセッサ１０は、仮想空間２における仮想カメラ１の位置および向きに基づいて、ＨＭ
Ｄ１１０のモニタ１１２に投影される画像領域（すなわち、仮想空間２における視界領域
２３）を特定する。

ある実施の形態に従うと、仮想カメラ１は、二つの仮想カメラ、すなわち、右目用の画
像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含むこ
とが望ましい。また、ユーザ１９０が３次元の仮想空間２を認識できるように、適切な視
差が、二つの仮想カメラに設定されていることが好ましい。本実施の形態においては、仮
想カメラ１が二つの仮想カメラを含み、二つの仮想カメラのロール方向が合成されること
によって生成されるロール方向（ｗ）がＨＭＤ１１０のロール方向（ｗ）に適合されるよ
うに構成されているものとして、本開示に係る技術思想を例示する。

［コントローラ］
図８を参照して、コントローラ１６０の一例について説明する。図８は、ある実施の形
態に従うコントローラ１６０の概略構成を表す図である。

図８の分図（Ａ）に示されるように、ある局面において、コントローラ１６０は、右コ
ントローラ８００と左コントローラ（図示しない）とを含み得る。右コントローラ８００
は、ユーザ１９０の右手で操作される。左コントローラは、ユーザ１９０の左手で操作さ
れる。ある局面において、右コントローラ８００と左コントローラとは、別個の装置とし
て対称に構成される。したがって、ユーザ１９０は、右コントローラ８００を把持した右
手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。他の局面
において、コントローラ１６０は両手の操作を受け付ける一体型のコントローラであって
もよい。以下、右コントローラ８００について説明する。

右コントローラ８００は、グリップ３０と、フレーム３１と、天面３２とを備える。グ
リップ３０は、ユーザ１９０の右手によって把持されるように構成されている。たとえば
、グリップ３０は、ユーザ１９０の右手の掌と３本の指（中指、薬指、小指）とによって
保持され得る。

グリップ３０は、ボタン３３，３４と、モーションセンサ１３０とを含む。ボタン３３
は、グリップ３０の側面に配置され、右手の中指による操作を受け付ける。ボタン３４は
、グリップ３０の前面に配置され、右手の人差し指による操作を受け付ける。ある局面に
おいて、ボタン３３，３４は、トリガー式のボタンとして構成される。モーションセンサ
１３０は、グリップ３０の筐体に内蔵されている。なお、ユーザ１９０の動作がカメラそ
の他の装置によってユーザ１９０の周りから検出可能である場合には、グリップ３０は、
モーションセンサ１３０を備えなくてもよい。

フレーム３１は、その円周方向に沿って配置された複数の赤外線ＬＥＤ３５を含む。赤
外線ＬＥＤ３５は、コントローラ１６０を使用するプログラムの実行中に、当該プログラ
ムの進行に合わせて赤外線を発光する。赤外線ＬＥＤ３５から発せられた赤外線は、右コ
ントローラ８００と左コントローラとの各位置や姿勢（傾き、向き）を検出するために使
用され得る。図８に示される例では、二列に配置された赤外線ＬＥＤ３５が示されている
が、配列の数は図８に示されるものに限られない。一列あるいは３列以上の配列が使用さ
れてもよい。

天面３２は、ボタン３６，３７と、アナログスティック３８とを備える。ボタン３６，
３７は、プッシュ式ボタンとして構成される。ボタン３６，３７は、ユーザ１９０の右手
の親指による操作を受け付ける。アナログスティック３８は、ある局面において、初期位
置（ニュートラルの位置）から３６０度任意の方向への操作を受け付ける。当該操作は、
たとえば、仮想空間２に配置されるオブジェクトを移動するための操作を含む。

ある局面において、右コントローラ８００および左コントローラは、赤外線ＬＥＤ３５
その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型などを
含むが、これらに限定されない。他の局面において、右コントローラ８００と左コントロ
ーラは、たとえば、コンピュータ２００のＵＳＢインターフェースに接続され得る。この
場合、右コントローラ８００および左コントローラは、電池を必要としない。

図８の分図（Ｂ）は、右コントローラ８００を把持するユーザ１９０の右手に対応して
仮想空間２に配置されるハンドオブジェクト８１０の一例を示す。たとえば、ユーザ１９
０の右手に対応するハンドオブジェクト８１０に対して、ヨー、ロール、ピッチの各方向
が規定される。たとえば、入力操作が、右コントローラ８００のボタン３４に対して行な
われると、ハンドオブジェクト８１０の人差し指を握りこんだ状態とし、入力操作がボタ
ン３４に対して行なわれていない場合には、分図（Ｂ）に示すように、ハンドオブジェク
ト８１０の人差し指を伸ばした状態とすることもできる。たとえば、ハンドオブジェクト
８１０において親指と人差し指とが伸びている場合に、親指の伸びる方向がヨー方向、人
差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定され
る平面に垂直な方向がピッチ方向としてハンドオブジェクト８１０に規定される。

［ＨＭＤの制御装置］
図９を参照して、ＨＭＤ１１０の制御装置について説明する。ある実施の形態において
、制御装置は周知の構成を有するコンピュータ２００によって実現される。図９は、ある
実施の形態に従うコンピュータ２００をモジュール構成として表すブロック図である。

図９に示されるように、コンピュータ２００は、表示制御モジュール２２０と、仮想空
間制御モジュール２３０と、音声制御モジュール２２５と、メモリモジュール２４０と、
通信制御モジュール２５０とを備える。

表示制御モジュール２２０は、サブモジュールとして、仮想カメラ制御モジュール２２
１と、視界領域決定モジュール２２２と、視界画像生成モジュール２２３と、基準視線特
定モジュール２２４と、視線検出モジュール２２６と、ハンドトラッキングモジュール２
２７と、フェイストラッキングモジュール２２８とを含む。

仮想空間制御モジュール２３０は、サブモジュールとして、仮想空間定義モジュール２
３１と、仮想オブジェクト生成モジュール２３２と、手オブジェクト制御モジュール２３
３とを含む。

ある実施の形態において、表示制御モジュール２２０、仮想空間制御モジュール２３０
、および音声制御モジュール２２５は、プロセッサ１０によって実現される。他の実施の
形態において、複数のプロセッサ１０が表示制御モジュール２２０、仮想空間制御モジュ
ール２３０、および音声制御モジュール２２５として作動してもよい。メモリモジュール
２４０は、メモリ１１またはストレージ１２によって実現される。通信制御モジュール２
５０は、通信インターフェース１４によって実現される。

ある局面において、表示制御モジュール２２０は、ＨＭＤ１１０のモニタ１１２におけ
る画像表示を制御する。仮想カメラ制御モジュール２２１は、仮想空間２に仮想カメラ１
を配置し、仮想カメラ１の挙動、向きなどを制御する。視界領域決定モジュール２２２は
、ＨＭＤ１１０を装着したユーザ１９０の頭の向きに応じて、視界領域２３を規定する。
視界画像生成モジュール２２３は、決定された視界領域２３に基づいて、モニタ１１２に
表示される視界画像のデータ（視界画像データともいう）を生成する。さらに、視界画像
生成モジュール２２３は、仮想空間制御モジュール２３０から受信したデータに基づいて
、視界画像データを生成する。視界画像生成モジュール２２３によって生成された視界画
像データは、通信制御モジュール２５０によってＨＭＤ１１０に出力される。基準視線特
定モジュール２２４は、ＨＭＤセンサ１２０またはセンサ１１４からの信号に基づいて基
準視線（ＨＭＤ１１０の傾き）を検出する。視線検出モジュール２２６は、注視センサ１
４０からの信号に基づいて、ユーザ１９０の視線を特定する。ハンドトラッキングモジュ
ール２２７は、ユーザ１９０が装着するコントローラ１６０の動き、つまり、ユーザ１９
０の手の動きを検出する。より具体的には、ＨＭＤセンサ１２０は、コントローラ１６０
に設けられた赤外線ＬＥＤ３５が発する赤外線を検出してコンピュータ２００に出力する
。ハンドトラッキングモジュール２２７は、ＨＭＤセンサ１２０から入力される検出結果
に基づいて、コントローラ１６０（右コントローラ８００および左コントローラの各々）
の位置を検出する。フェイストラッキングモジュール２２８は、ユーザ１９０の表情を検
出する。フェイストラッキングモジュール２２８の詳細は後述される。

仮想空間制御モジュール２３０は、ユーザ１９０に提供される仮想空間２を制御する。
仮想空間定義モジュール２３１は、仮想空間２を表す仮想空間データを生成することによ
り、ＨＭＤシステム１００における仮想空間２を規定する。

仮想オブジェクト生成モジュール２３２は、仮想空間２に配置されるオブジェクトのデ
ータを生成する。オブジェクトは、たとえば、他アバターオブジェクト、仮想パネル、仮
想手紙、および仮想ポストなどを含み得る。仮想オブジェクト生成モジュール２３２によ
って生成されたデータは、視界画像生成モジュール２２３に出力される。

手オブジェクト制御モジュール２３３は、手オブジェクトを仮想空間２に配置する。手
オブジェクトは、たとえば、コントローラ１６０を保持したユーザ１９０の右手あるいは
左手に対応する。ある局面において、手オブジェクト制御モジュール２３３は、右手ある
いは左手に対応する手オブジェクトを仮想空間２に配置するためのデータを生成する。ま
た、手オブジェクト制御モジュール２３３は、ユーザ１９０によるコントローラ１６０の
操作に応じて、手オブジェクトを動かすためのデータを生成する。手オブジェクト制御モ
ジュール２３３によって生成されたデータは、視界画像生成モジュール２２３に出力され
る。

他の局面において、ユーザ１９０の体の一部の動き（たとえば、左手、右手、左足、右
足、頭などの動き）がコントローラ１６０に関連付けられている場合、仮想空間制御モジ
ュール２３０は、ユーザ１９０の体の一部に対応する部分オブジェクトを仮想空間２に配
置するためのデータを生成する。仮想空間制御モジュール２３０は、ユーザ１９０が体の
一部を用いてコントローラ１６０を操作すると、部分オブジェクトを動かすためのデータ
を生成する。これらのデータは、視界画像生成モジュール２２３に出力される。

音声制御モジュール２２５は、ＨＭＤ１１０から、ユーザ１９０のマイク１１９を用い
た発話を検出すると、当該発話に対応する音声データの送信対象のコンピュータ２００を
特定する。音声データは、音声制御モジュール２２５によって特定されたコンピュータ２
００に送信される。音声制御モジュール２２５は、ネットワーク１９を介して他のユーザ
のコンピュータ２００から音声データを受信すると、当該音声データに対応する音声（発
話）をスピーカ１１５から出力する。

メモリモジュール２４０は、コンピュータ２００が仮想空間２をユーザ１９０に提供す
るために使用されるデータを保持している。ある局面において、メモリモジュール２４０
は、空間情報２４１と、オブジェクト情報２４２と、ユーザ情報２４３と、顔情報２４４
とを保持している。

空間情報２４１は、仮想空間２を提供するために規定された１つ以上のテンプレートを
保持している。

オブジェクト情報２４２は、仮想空間２において再生されるコンテンツ、当該コンテン
ツで使用されるオブジェクトを配置するための情報を保持している。当該コンテンツは、
たとえば、ゲーム、現実社会と同様の風景を表したコンテンツなどを含み得る。さらに、
オブジェクト情報２４２は、コントローラ１６０を操作するユーザ１９０の手に相当する
手オブジェクトを仮想空間２に配置するためのデータと、各ユーザのアバターオブジェク
トを仮想空間２に配置するためのデータと、仮想パネルなどのその他のオブジェクトを仮
想空間２に配置するためのデータとを含む。

ユーザ情報２４３は、ＨＭＤシステム１００の制御装置としてコンピュータ２００を機
能させるためのプログラム、オブジェクト情報２４２に保持される各コンテンツを使用す
るアプリケーションプログラムなどを保持している。メモリモジュール２４０に格納され
ているデータおよびプログラムは、ＨＭＤ１１０のユーザ１９０によって入力される。あ
るいは、プロセッサ１０が、当該コンテンツを提供する事業者が運営するコンピュータ（
たとえば、サーバ１５０）からプログラムあるいはデータをダウンロードして、ダウンロ
ードされたプログラムあるいはデータをメモリモジュール２４０に格納する。顔情報２４
４は、ユーザ１９０の顔器官を検出するために必要なテンプレートを含む。ある実施形態
において、顔情報２４４は、口テンプレート２４５と、目テンプレート２４６と、眉テン
プレート２４７とを含む。各テンプレートは、顔を構成する器官に対応する画像であり得
る。たとえば、口テンプレート２４５は、口の画像であり得る。なお、各テンプレートは
複数の画像を含んでもよい。

通信制御モジュール２５０は、ネットワーク１９を介して、サーバ１５０その他の情報
通信装置と通信し得る。

ある局面において、表示制御モジュール２２０および仮想空間制御モジュール２３０は
、たとえば、ユニティテクノロジーズ社によって提供されるＵｎｉｔｙ（登録商標）を用
いて実現され得る。他の局面において、表示制御モジュール２２０および仮想空間制御モ
ジュール２３０は、各処理を実現する回路素子の組み合わせとしても実現され得る。

コンピュータ２００における処理は、ハードウェアと、プロセッサ１０により実行され
るソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその
他のメモリモジュール２４０に予め格納されている場合がある。また、ソフトウェアは、
ＣＤ−ＲＯＭその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納され
て、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、イ
ンターネットその他のネットワークに接続されている情報提供事業者によってダウンロー
ド可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光デ
ィスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、ある
いは、通信制御モジュール２５０を介してサーバ１５０その他のコンピュータからダウン
ロードされた後、記憶モジュールに一旦格納される。そのソフトウェアは、プロセッサ１
０によって記憶モジュールから読み出され、実行可能なプログラムの形式でＲＡＭに格納
される。プロセッサ１０は、そのプログラムを実行する。

コンピュータ２００を構成するハードウェアは、一般的なものである。したがって、本
実施の形態に係る最も本質的な部分は、コンピュータ２００に格納されたプログラムであ
るとも言える。なお、コンピュータ２００のハードウェアの動作は周知であるので、詳細
な説明は繰り返さない。

なお、データ記録媒体としては、ＣＤ−ＲＯＭ、ＦＤ（Flexible Disk）、ハードディ
スクに限られず、磁気テープ、カセットテープ、光ディスク（ＭＯ（Magnetic Optical
Disc）／ＭＤ（Mini Disc）／ＤＶＤ（Digital Versatile Disc））、ＩＣ（Integr
ated Circuit）カード（メモリカードを含む）、光カード、マスクＲＯＭ、ＥＰＲＯＭ
（Electronically Programmable Read-Only Memory）、ＥＥＰＲＯＭ（Electronicall
y Erasable Programmable Read-Only Memory）、フラッシュＲＯＭなどの半導体メモ
リなどの固定的にプログラムを担持する不揮発性のデータ記録媒体でもよい。

ここで言うプログラムとは、プロセッサ１０により直接実行可能なプログラムだけでな
く、ソースプログラム形式のプログラム、圧縮処理されたプログラム、暗号化されたプロ
グラムなどを含み得る。

［ＨＭＤシステムの制御構造］
図１０を参照して、ＨＭＤシステム１００の制御構造について説明する。図１０は、あ
る実施の形態に従うＨＭＤシステム１００において実行される処理の一部を表すシーケン
スチャートである。

図１０に示されるように、ステップＳ１０１０にて、コンピュータ２００のプロセッサ
１０は、仮想空間定義モジュール２３１として、仮想空間画像データを特定し、仮想空間
２を定義する。

ステップＳ１０２０にて、プロセッサ１０は、仮想カメラ１を初期化する。たとえば、
プロセッサ１０は、メモリのワーク領域において、仮想カメラ１を仮想空間２において予
め規定された中心点に配置し、仮想カメラ１の視線をユーザ１９０が向いている方向に向
ける。

ステップＳ１０３０にて、プロセッサ１０は、視界画像生成モジュール２２３として、
初期の視界画像を表示するための視界画像データを生成する。生成された視界画像データ
は、通信制御モジュール２５０によってＨＭＤ１１０に出力される。

ステップＳ１０３２にて、ＨＭＤ１１０のモニタ１１２は、コンピュータ２００から受
信した視界画像データに基づいて、視界画像を表示する。ＨＭＤ１１０を装着したユーザ
１９０は、視界画像を視認すると仮想空間２を認識し得る。

ステップＳ１０３４にて、ＨＭＤセンサ１２０は、ＨＭＤ１１０から発信される複数の
赤外線光に基づいて、ＨＭＤ１１０の位置と傾きを検知する。検知結果は、動き検知デー
タとして、コンピュータ２００に出力される。

ステップＳ１０４０にて、プロセッサ１０は、ＨＭＤ１１０の動き検知データに含まれ
る位置と傾きとに基づいて、ＨＭＤ１１０を装着したユーザ１９０の視界方向を特定する
。

ステップＳ１０５０にて、プロセッサ１０は、アプリケーションプログラムを実行し、
アプリケーションプログラムに含まれる命令に基づいて、仮想空間２にオブジェクトを提
示する。このとき提示されるオブジェクトは、他アバターオブジェクトを含む。

ステップＳ１０６０にて、コントローラ１６０は、モーションセンサ１３０から出力さ
れる信号に基づいて、ユーザ１９０の操作を検出し、その検出された操作を表す検出デー
タをコンピュータ２００に出力する。なお、他の局面において、ユーザ１９０によるコン
トローラ１６０の操作は、ユーザ１９０の周囲に配置されたカメラからの画像に基づいて
検出されてもよい。

ステップＳ１０６５にて、プロセッサ１０は、コントローラ１６０から取得した検出デ
ータに基づいて、ユーザ１９０によるコントローラ１６０の操作を検出する。

ステップＳ１０７０にて、プロセッサ１０は、手オブジェクトを仮想空間２に提示する
ための視界画像データを生成する。

ステップＳ１０８０にて、プロセッサ１０は、ユーザ１９０によるコントローラ１６０
の操作に基づく視界画像データを生成する。生成された視界画像データは、通信制御モジ
ュール２５０によってＨＭＤ１１０に出力される。

ステップＳ１０９２にて、ＨＭＤ１１０は、受信した視界画像データに基づいて視界画
像を更新し、更新後の視界画像をモニタ１１２に表示する。

［技術思想］
次に、図１１〜図１３を用いて本開示に従う技術思想を説明する。図１１は、仮想空間
２に展開されている仮想空間画像２２（以下、「パノラマ画像２２」とも言う）を変更す
るための処理を説明する図（その１）である。

図１１を参照して、仮想空間２には花１１１０を含むパノラマ画像２２が展開されてい
る。また、仮想空間２は、スピーカオブジェクト１１２０を含む。ある局面において、ユ
ーザ１９０は、仮想空間２に展開されているパノラマ画像２２を変更したいと思う。係る
場合、ユーザ１９０は、パノラマ画像２２を変更するためのトリガをコンピュータ２００
に入力する（ステップＳ１）。一例として、トリガは、スピーカオブジェクト１１２０と
ハンドオブジェクト８１０とを接触させることを含む。

その後、ユーザ１９０は、検索キーをコンピュータ２００に入力する（ステップＳ２）
。図１１に示される例において、ユーザ１９０は、「動物」と発話する。コンピュータ２
００は、マイク１１９から入力される音声信号から文字列「動物」を抽出する。コンピュ
ータ２００は、抽出された文字列を表す検索キー１１３０をサーバ１５０に送信する（ス
テップＳ３）。サーバ１５０は、パノラマ画像ＤＢ（データベース）１９３４を保持する
ストレージ１９３０を有する。パノラマ画像ＤＢ１９３４は、パノラマ画像（動画像を含
む）と、パノラマ画像を識別する情報（以下、「パノラマ画像ＩＤ」とも言う。）とを関
連付けて複数保持する。

サーバ１５０は、コンピュータ２００から検索キー１１３０が入力されると、当該検索
キー１１３０に基づいて、パノラマ画像ＤＢ１９３４に格納される複数のパノラマ画像の
中から、一以上のパノラマ画像を検索する（ステップＳ４）。サーバ１５０は、検索され
た一以上のパノラマ画像のサムネイル１１４０を生成する。サムネイル１１４０は、パノ
ラマ画像を特定するための情報として機能する。サーバ１５０は、生成したサムネイル１
１４０とパノラマ画像ＩＤ１１５０とをコンピュータ２００に送信する（ステップＳ５）
。

図１２は、パノラマ画像２２を変更するための処理を説明する図（その２）である。図
１２に示される視界画像１２００は、サムネイル１２１０〜１２６０を含む。これらのサ
ムネイルは、受信した一以上のサムネイル１１４０に対応する。また、これらのサムネイ
ルは、静止画像または動画像のいずれであってもよい。

ユーザ１９０は、サムネイル１２１０〜１２６０のうち一のサムネイル（パノラマ画像
）をハンドオブジェクト８１０で選択する（ステップＳ６）。たとえば、ユーザ１９０は
、犬を含むサムネイル１２１０とハンドオブジェクト８１０とを接触させることにより、
サムネイル１２１０を選択する。

図１３は、パノラマ画像２２を変更するための処理を説明する図（その３）である。コ
ンピュータ２００は、ユーザ１９０から選択されたサムネイルに対応するパノラマ画像Ｉ
Ｄ１３１０をサーバ１５０に送信する（ステップＳ７）。サーバ１５０は、受信したパノ
ラマ画像ＩＤに対応するパノラマ画像１３２０をコンピュータ２００に送信する。コンピ
ュータ２００は、受信したパノラマ画像１３２０を仮想空間２に展開する（ステップＳ９
）。これにより、ユーザ１９０は、仮想空間２において犬１３３０を含むパノラマ画像１
３２０を視認できる。

上記によれば、コンピュータ２００は、ユーザ１９０に入力された検索キーに関連する
一以上のパノラマ画像、換言すれば、ユーザ１９０が所望するパノラマ画像（を特定する
情報）をユーザ１９０に提示できる。以下、パノラマ画像を変更するためのより具体的な
処理について説明する。

［ＨＭＤシステム１４００の構成］
図１４は、ある実施形態に従うＨＭＤシステム１４００の構成を説明するための図であ
る。ＨＭＤシステム１４００は、ＨＭＤ１１０に替えてＨＭＤ１４１０を有する点におい
て、図１で説明したＨＭＤシステム１００と相違する。

ＨＭＤ１４１０は、第１カメラ１１６と、第２カメラ１１７とを有する点において、Ｈ
ＭＤ１１０と相違する。第１カメラ１１６は、ユーザ１９０の顔の下部を撮影する。より
具体的には、第１カメラ１１６は、ユーザ１９０の鼻、頬、および口などを撮影する。第
２カメラ１１７は、ユーザ１９０の目および眉などを撮影する。ＨＭＤ１４１０のユーザ
１９０側の筐体をＨＭＤ１４１０の内側、ＨＭＤ１４１０のユーザ１９０とは逆側の筐体
をＨＭＤ１４１０の外側と定義する。ある局面において、第１カメラ１１６は、ＨＭＤ１
４１０の外側に配置され、第２カメラ１１７は、ＨＭＤ１４１０の内側に配置され得る。
第１カメラ１１６および第２カメラ１１７が生成した画像は、コンピュータ２００に入力
される。

フェイストラッキングモジュール２２８は、ユーザ１９０の第１カメラ１１６および第
２カメラ１１７が生成するユーザ１９０の顔の画像から、ユーザ１９０の顔を構成する器
官（例えば、口，目，眉）を検出する。フェイストラッキングモジュール２２８は、検出
した各器官ごとの特徴点の位置を間欠的に検出する。換言すれば、フェイストラッキング
モジュール２２８は、ユーザ１９０の表情を検出する。以下、フェイストラッキングモジ
ュール２２８のより具体的な処理を説明する。

［フェイストラッキング］
以下、図１５〜図１８を参照して、ユーザの表情（顔の動き）を検出するための具体例
について説明する。図１５〜図１８では、一例として、ユーザ１９０の口の動きを検出す
る具体例について説明する。なお、図１５〜図１８で説明される検出方法は、ユーザ１９
０の口の動きに限られず、ユーザ１９０の顔を構成する他の器官（例えば、目、眉、鼻、
頬）の動きの検出にも適用され得る。

図１５は、ユーザの顔画像１５００から口を検出する制御について説明する図である。
第１カメラ１１６により生成された顔画像１５００は、ユーザ１９０の鼻と口とを含む。

フェイストラッキングモジュール２２８は、顔情報２４４に格納される口テンプレート
２４５を利用したパターンマッチングにより、顔画像１５００から口領域１５１０を特定
する。ある局面において、フェイストラッキングモジュール２２８は、顔画像１５００に
おいて、矩形上の比較領域を設定し、この比較領域の大きさ、位置および角度をそれぞれ
変えながら、比較領域の画像と、口テンプレート２４５の画像との類似度を算出する。フ
ェイストラッキングモジュール２２８は、予め定められたしきい値よりも大きい類似度が
算出された比較領域を、口領域１５１０として特定し得る。

フェイストラッキングモジュール２２８はさらに、算出した類似度がしきい値よりも大
きい比較領域の位置と、他の顔器官（例えば、目、鼻）の位置との相対関係に基づいて、
当該比較領域が口領域に相当するか否かを判断し得る。

フェイストラッキングモジュール２２８は、特定した口領域１５１０に基づいて、より
詳細な口の形状を検出する。

図１６は、フェイストラッキングモジュール２２８が口の形状を検出する処理を説明す
る図（その１）である。図１６を参照して、フェイストラッキングモジュール２２８は、
口領域１５１０に含まれる口の形状（唇の輪郭）を検出するための複数の輪郭検出線１６
００を設定する。各輪郭検出線１６００は、顔の高さ方向に直交する方向に、予め定めら
れた間隔で設定される。

フェイストラッキングモジュール２２８は、複数の輪郭検出線１６００の各々に沿った
口領域１５１０の輝度値の変化を検出し、輝度値の変化が急激な位置を輪郭点として特定
し得る。より具体的には、フェイストラッキングモジュール２２８は、隣接画素との輝度
差（すなわち、輝度値変化）が予め定められたしきい値以上である画素を、輪郭点として
特定し得る。画素の輝度値は、たとえば、画素のＲＢＧ値を所定の重み付けで積算するこ
とにより得られる。

フェイストラッキングモジュール２２８は、口領域１５１０に対応する画像から２種類
の輪郭点を特定する。フェイストラッキングモジュール２２８は、口（唇）の外側の輪郭
に対応する輪郭点１６１０と、口（唇）の内側の輪郭に対応する輪郭点１６２０とを特定
する。ある局面において、フェイストラッキングモジュール２２８は、１つの輪郭検出線
１６００上に３つ以上の輪郭点が検出された場合には、両端の輪郭点を外側の輪郭点１６
１０として特定し得る。この場合、フェイストラッキングモジュール２２８は、外側の輪
郭点１６１０以外の輪郭点を、内側の輪郭点１６２０として特定し得る。また、フェイス
トラッキングモジュール２２８は、１つの輪郭検出線１６００上に二つ以下の輪郭点が検
出された場合には、検出された輪郭点を外側の輪郭点１６１０として特定し得る。

図１７は、フェイストラッキングモジュール２２８が口の形状を検出する処理を説明す
るための図（その２）である。図１７では、外側の輪郭点１６１０は白丸、内側の輪郭点
１６２０はハッチングされた丸としてそれぞれ示されている。

フェイストラッキングモジュール２２８は、内側の輪郭点１６２０間を補完することに
より、口形状１７００を特定する。この場合、輪郭点１６２０は、口の特徴点と言える。
ある局面において、フェイストラッキングモジュール２２８は、スプライン補完などの非
線形の補完方法を用いて、口形状１７００を特定し得る。なお、他の局面において、フェ
イストラッキングモジュール２２８は、外側の輪郭点１６１０間を補完することにより口
形状１７００を特定してもよい。さらに他の局面において、フェイストラッキングモジュ
ール２２８は、想定される口形状（人の上唇と下唇とによって形成され得る所定の形状）
から、大きく逸脱する輪郭点を除外し、残った輪郭点によって口形状１７００を特定して
もよい。このようにして、フェイストラッキングモジュール２２８は、ユーザの口の動作
（形状）を特定し得る。なお、口形状１７００の検出方法は上記に限られず、フェイスト
ラッキングモジュール２２８は、他の手法により口形状１７００を検出してもよい。また
、フェイストラッキングモジュール２２８は、同様にして、ユーザの目および眉の動作を
検出し得る。なお、フェイストラッキングモジュール２２８は、頬、鼻などの器官の形状
を検出可能に構成されてもよい。

図１８は、フェイストラッキングデータの構造の一例を表す。フェイストラッキングデ
ータは、各器官の形状を構成する複数の特徴点のｕｖｗ視野座標系における位置座標を表
す。たとえば、図１８に示されるポイントｍ１、ｍ２・・は、口形状１７００を構成する
内側の輪郭点１６２０に対応する。ある局面において、フェイストラッキングデータは、
第１カメラ１１６または第２カメラ１１７の位置を基準（原点）としたｕｖｗ視野座標系
における座標値である。他の局面において、フェイストラッキングデータは、各器官ごと
に予め定められた特徴点を基準（原点）とした座標系における座標値である。一例として
、ポイントｍ１、ｍ２・・・は、内側の輪郭点１６２０のうち口角に対応するいずれか一
方の特徴点を原点とした座標系における座標値である。

［サーバ１５０の構成］
図１９は、サーバ１５０のハードウェア構成と機能構成とを表すブロック図である。あ
る実施形態において、サーバ１５０は、主たるハードウェアとして通信インターフェース
１９１０と、プロセッサ１９２０と、ストレージ１９３０とを備える。

通信インターフェース１９１０は、コンピュータ２００など外部の通信機器と信号を送
受信するための変復調処理などを行なう無線通信用の通信モジュールとして機能する。通
信インターフェース１９１０は、チューナ、高周波回路等により実現される。

プロセッサ１９２０は、サーバ１５０の動作を制御する。プロセッサ１９２０は、スト
レージ１９３０に格納される各種の制御プログラムを実行することにより、送受信部１９
２１、サーバ処理部１９２２、検索エンジン１９２３、物体特定部１９２４、感情判断部
１９２５、学習部１９２６として機能する。

送受信部１９２１は、各コンピュータ２００との間で各種情報を送受信する。たとえば
、送受信部１９２１は、仮想空間２にオブジェクトを配置する要求、オブジェクトを仮想
空間２から削除する要求、オブジェクトを移動させる要求、ユーザの音声などを各コンピ
ュータ２００に送信する。

サーバ処理部１９２２は、コンピュータ２００から受信した情報に基づいて、後述され
るユーザＤＢ１９３３および学習用ＤＢ１９３５を更新する。検索エンジン１９２３は、
コンピュータ２００から受信した検索キーに基づいて、パノラマ画像ＤＢ１９３４に含ま
れる複数のパノラマ画像の中から一以上のパノラマ画像を検索する。

物体特定部１９２４は、後述する学習モデル１９３６を利用して、コンピュータ２００
から入力された線図データに対応する物体の候補を特定する。感情判断部１９２５は、後
述する学習モデル１９３７を利用して、コンピュータ２００から受信したフェイストラッ
キングデータに対応するユーザ１９０の感情の候補を判断する。学習部１９２６は、後述
する学習モデル１９３６、１９３７を更新する。

ストレージ１９３０は、仮想空間指定情報１９３１と、オブジェクト指定情報１９３２
と、ユーザＤＢ１９３３と、パノラマ画像ＤＢ１９３４と、学習用ＤＢ１９３５と、学習
モデル１９３６、１９３７とを保持する。

仮想空間指定情報１９３１は、コンピュータ２００の仮想空間定義モジュール２３１が
仮想空間２を定義するために用いられる情報である。たとえば、仮想空間指定情報１９３
１は、仮想空間２の大きさまたは形状を指定する情報を含む。オブジェクト指定情報１９
３２は、コンピュータ２００の仮想オブジェクト生成モジュール２３２が仮想空間２に配
置（生成）するオブジェクトを指定する。

ユーザＤＢ１９３３は、ネットワーク１９に接続される複数のコンピュータ２００の各
々のユーザ１９０を識別するための情報（以下、「ユーザＩＤ」とも言う）と、ユーザの
属性情報とを含む。属性情報は、たとえば、年齢、場所（住所など）、性別、趣味などを
含む。パノラマ画像ＤＢ１９３４は、パノラマ画像ＩＤと、パノラマ画像（動画像を含む
）とを関連付けて保持する。

学習用ＤＢ１９３５は、検索キーと、当該検索キーにより検索された一以上のパノラマ
画像のうちユーザ１９０に選択されたパノラマ画像とを互いに関連付けて保持する。ある
局面において、学習用ＤＢ１９３５は、これらの情報にさらにユーザＩＤを関連付けて保
持してもよい。パノラマ画像ＤＢ１９３４および学習用ＤＢ１９３５のデータ構造は後述
される。

学習モデル１９３６は、コンピュータ２００から入力された線図データに対応する物体
を特定するためのプログラムを保持する。学習モデル１９３７は、コンピュータ２００か
ら入力されたフェイストラッキングデータに対応するユーザ１９０の感情を判断するため
のプログラムを保持する。一例として、学習モデル１９３６，１９３７は、入力層、複数
の中間層、および出力層を含むニューラルネットワークである。学習部１９２６は、学習
用ＤＢ１９３５に保持される学習用データに基づいて、学習モデル１９３６、１９３７の
各ノード間の重み係数を更新する。学習部１９２６は、一例として、誤差逆伝播法に従い
重み係数を更新する。

（パノラマ画像ＤＢ１９３４）
図２０は、パノラマ画像ＤＢ１９３４のデータ構造の一例を表す。パノラマ画像ＤＢ１
９３４は、パノラマ画像ＩＤと、画像データと、タイトルと、タグとを互いに関連付けて
保持する。

画像データは、動画像データを含み得る。画像データは、たとえば、コンピュータ２０
０のユーザ、またはサーバ１５０の管理者によりサーバ１５０に投稿（登録）される。タ
イトルは、画像データの投稿者によって設定される。タグは、画像データの投稿者、また
はパノラマ画像の視聴者によって設定される。タグは、パノラマ画像のジャンル、パノラ
マ画像に含まれる物体などを特定する。タグはさらに、感情タグを含み得る。感情タグは
、ユーザ１９０がパノラマ画像を視聴することにより得られると推定される感情を表す。
一例として、コメディ動画像のパノラマ画像には、「楽しい」、「リラックス」、「満足
」などの感情タグが設定される。

（学習用ＤＢ１９３５）
図２１は、学習用ＤＢ１９３５のデータ構造の一例を表す。学習用ＤＢ１９３５は、テ
ーブル２１１０，２１２０，２１３０を含む。テーブル２１１０は、線図データとしての
検索キーと、線図により表される物体と、当該検索キーにより検索された一以上のパノラ
マ画像のうちユーザ１９０に選択されたパノラマ画像のパノラマ画像ＩＤとを互いに関連
付けて保持する。テーブル２１２０は、フェイストラッキングデータとしての検索キーと
、フェイストラッキングデータにより表される感情と、当該検索キーにより検索された一
以上のパノラマ画像のうちユーザ１９０に選択されたパノラマ画像のパノラマ画像ＩＤと
を互いに関連付けて保持する。テーブル２１３０は、音声信号から抽出された文字列とし
ての検索キーと、当該検索キーにより検索された一以上のパノラマ画像のうちユーザ１９
０に選択されたパノラマ画像のパノラマ画像ＩＤとを互いに関連付けて保持する。

以下、検索キーとして、ユーザ１９０が仮想空間２で描いた線図を表す線図データ、ユ
ーザ１９０の表情を表すフェイストラッキングデータ、ユーザ１９０の発話に基づく音声
信号から抽出された文字列、を用いる実施形態について説明する。

［線図データを検索キーとして用いる］
図２２は、ユーザ１９０が仮想空間２において線図を描いている様子を表す視界画像２
２００である。視界画像２２００は、机オブジェクト２２１０を含む。机オブジェクト２
２１０の上には、コンピュータ２００がユーザ１９０から線図の入力を受け付けるための
入力オブジェクト２２２０が配置されている。入力オブジェクト２２２０の形状は、平ら
な面を有する略直方体である。

ある局面において、机オブジェクト２２１０の上にペンオブジェクト２２３０が配置さ
れている。また、入力オブジェクト２２２０の近傍に、入力オブジェクト２２２０への線
図の入力を促すメッセージオブジェクト２２４０が配置されている。

図２２に示される例において、ハンドオブジェクト８１０とペンオブジェクト２２３０
とが関連付けられている。たとえば、コンピュータ２００のプロセッサ１０は、ハンドオ
ブジェクト８１０とペンオブジェクト２２３０とが接触したことを検出して、これらのオ
ブジェクトを互いに関連付ける。

ユーザ１９０は、これらのオブジェクトが関連付けられた状態でコントローラ１６０を
動かす。プロセッサ１０はハンドトラッキングモジュール２２７として、コントローラ１
６０の動きをハンドオブジェクト８１０に反映する。これにより、ペンオブジェクト２２
３０がハンドオブジェクト８１０に連動して動く。

ユーザ１９０は、ペンオブジェクト２２３０を用いて入力オブジェクト２２２０に線図
を入力する。より具体的には、プロセッサ１０は、ペンオブジェクト２２３０と入力オブ
ジェクト２２２０との接点の軌跡を表す軌跡オブジェクト２２５０を入力オブジェクト２
２２０上に配置する。これにより、ユーザ１９０は、自身が描いた線図（に対応する軌跡
オブジェクト２２５０）を認識できる。ある実施形態において、プロセッサ１０は、コン
トローラ１６０の予め定められたボタンが押下されている間のみ、ペンオブジェクト２２
３０と入力オブジェクト２２２０との接点の軌跡をトラッキングするように構成されても
よい。

コンピュータ２００は、軌跡オブジェクト２２５０のデータ（ユーザ１９０が描いた線
図を表す線図データ）を検索キーとして、サーバ１５０に送信する。

サーバ１５０のプロセッサ１９２０は、物体特定部１９２４として、コンピュータ２０
０から入力された線図データが表す物体の候補を特定する。より具体的には、物体特定部
１９２４は、学習モデル１９３６の各入力層に線図データを入力し、各出力層から出力さ
れた値に基づいて、線図データが表す物体の候補を特定する。一例として、物体特定部１
９２４は、予め定められた閾値を超える値を出力した出力層に対応する物体を、線図デー
タが表す物体の候補として特定する。物体特定部１９２４は、特定された物体の候補を表
す情報（例えば文字列）を検索エンジン１９２３に出力する。

検索エンジン１９２３は、物体特定部１９２４から入力された情報に基づいて、パノラ
マ画像ＤＢ１９３４に格納される複数のパノラマ画像の中から一以上のパノラマ画像を検
索する。たとえば、検索エンジン１９２３は、物体特定部１９２４から「ねこ」、「いぬ
」の文字列の入力を受け付ける。検索エンジン１９２３は、入力された文字列を用いて、
パノラマ画像ＤＢ１９３４の中から、タイトルまたはタグに「ねこ」または「いぬ」の文
字列を含むパノラマ画像を検索する。プロセッサ１９２０は、検索されたパノラマ画像の
画像データからサムネイルを生成する。プロセッサ１９２０は、生成したサムネイルと、
当該サムネイルに対応するパノラマ画像ＩＤとをコンピュータ２００に送信する。

図２３は、ユーザ１９０がパノラマ画像を選択する様子を表す視界画像２３００である
。視界画像２３００は、ユーザ１９０により入力された検索キーを表すスクリーン２３１
０と、サーバ１５０から受信したサムネイル２３２０〜２３５０とを含む。

ユーザ１９０は、サムネイル２３２０〜２３５０のうち一のサムネイル（パノラマ画像
）をハンドオブジェクト８１０で選択する。コンピュータ２００は、選択されたサムネイ
ルに対応するパノラマ画像ＩＤをサーバ１５０に送信する。サーバ１５０は、受信したパ
ノラマ画像ＩＤに対応する画像データをコンピュータ２００に送信する。コンピュータ２
００は、受信した画像データを仮想空間２に展開する。これにより、ユーザ１９０は、所
望のパノラマ画像を視聴できる。なお、パノラマ画像が動画像である場合、コンピュータ
２００は、当該パノラマ画像を予めダウンロードしてから仮想空間２に展開してもよいし
、当該パノラマ画像をストリーミング再生してもよい。

サーバ１５０のプロセッサ１９２０は、コンピュータ２００から受信したパノラマ画像
ＩＤに関連付けられたタグに基づいて、検索キーにより表される物体を特定する。プロセ
ッサ１９２０は、検索キー（線図データ）と、検索キーにより表される物体と、パノラマ
画像ＩＤとを検索用ＤＢ１９３５のテーブル２１１０に格納する。ある局面において、プ
ロセッサ１９２０は、学習部１９２６として、線図データと当該線図データにより表され
る物体とに基づいて、学習モデル１９３６の学習（教師あり学習）を実行する。

上記によれば、サーバ１５０は、ユーザ１９０の描いた線図に基づいて、ユーザ１９０
が所望するパノラマ画像の候補をユーザ１９０に提供できる可能性を高め得る。また、図
２３の視界画像２３００に示されるように、ユーザ１９０は、自分で入力した検索キー（
線図）と、検索キーにより検索されたパノラマ画像（のサムネイル）とを一緒に提示され
るため、自身が思い浮かべていた検索キー（線図ではなく文字列）に対応するパノラマ動
画を正確に選択し得る。その結果、サーバ１５０は、質の高い学習用データを取得でき、
学習効率を高め得る。

ある局面において、視界画像２３００は、検索キーに対応する物体が何であるかをユー
ザ１９０に問い合わせるための質問オブジェクト２３６０を含む。たとえば、質問オブジ
ェクト２３６０は、検索キーに対応する物体が、最も大きな値を出力した出力層に対応す
る物体（つまり、ユーザが意図している物体である確率が最も高い物体）であるか否かを
問い合わせる。質問オブジェクト２３６０は、当該問い合わせに対する回答の入力を受け
付けるための回答オブジェクト２３７０，２３８０を含む。ユーザ１９０は、ハンドオブ
ジェクト８１０で回答オブジェクト２３７０，２３８０のいずれか一方を選択する。コン
ピュータ２００は、当該問い合わせに対するユーザ１９０の回答結果をサーバ１５０に送
信する。サーバ１５０のプロセッサ１９２０は、受信した回答結果と線図データとに基づ
いて学習モデル１９３６を学習してもよい。

（線図に基づくパノラマ画像の変更処理の制御構造）
図２４は、線図に基づいてパノラマ画像を変更するための処理を表すフローチャートで
ある。図２４に示される処理は、コンピュータ２００のプロセッサ１０およびサーバ１５
０のプロセッサ１９２０によって実現される。

ステップＳ２４０５にて、プロセッサ１０は、仮想空間定義モジュール２３１として、
仮想空間２にパノラマ画像を展開する。ステップＳ２４１０にて、プロセッサ１０は、仮
想空間２に、入力オブジェクト、ペンオブジェクト、操作オブジェクトとして機能するハ
ンドオブジェクト、仮想カメラなどの各種オブジェクトを配置する。

ステップＳ２４１５にて、プロセッサ１０は、操作オブジェクトとペンオブジェクトと
が接触したか否かを判断する。プロセッサ１０は、これらのオブジェクトが接触したと判
断した場合（ステップＳ２４１５でＹＥＳ）、これらのオブジェクトを関連付ける。また
、プロセッサ１０は、これらのオブジェクトが接触したことを、パノラマ画像を変更する
ためのトリガとして受け付ける。そうでない場合（ステップＳ２４１５でＮＯ）、プロセ
ッサ１０は、トリガを受け付けるまで待機する。

ステップＳ２４２０にて、プロセッサ１０は、入力オブジェクトに対する線図（例えば
、ペンオブジェクトと入力オブジェクトとの接点の軌跡）を検索キーとして受け付ける。
ステップＳ２４２５にて、プロセッサ１０は、操作オブジェクトとペンオブジェクトとの
関連付けが解除されたか否かを判断する。たとえば、ユーザ１９０は、コントローラ１６
０に設けられた予め定められたボタンを押下することにより、上記関連付けを解除する。
プロセッサ１０は、操作オブジェクトとペンオブジェクトとの関連付けが解除されたと判
断した場合（ステップＳ２４２５でＹＥＳ）、ステップＳ２４２０で入力された線図デー
タをサーバ１５０に送信する（ステップＳ２４３０）。そうでない場合（ステップＳ２４
２５でＮＯ）、プロセッサ１０は、ステップＳ２４２０の処理を再び実行する。

ステップＳ２４３５にて、プロセッサ１９２０は、コンピュータ２００から線図データ
（検索キー）を受信する。ステップＳ２４４０にて、プロセッサ１９２０は、線図データ
に基づいて物体（例えば、物体を表す文字列）を特定する。ステップＳ２４４５にて、プ
ロセッサ１９２０は、特定した物体を表す文字列に基づいて、パノラマ画像ＤＢ１９３４
に格納される複数のパノラマ画像の中から一以上のパノラマ画像を検索する。ステップＳ
２４５０にて、プロセッサ１９２０は、検索した一以上のパノラマ画像の各々についてサ
ムネイルを生成し、サムネイルとパノラマ画像ＩＤとをコンピュータ２００に送信する。

ステップＳ２４５５にて、プロセッサ１０は、サーバ１５０からサムネイルとパノラマ
画像ＩＤとを受信する。ステップＳ２４６０にて、プロセッサ１０は、検索されたパノラ
マ画像を特定するための情報として機能するサムネイルを仮想空間２に提示する。ステッ
プＳ２４６５にて、プロセッサ１０は、ユーザ１９０から、一以上のパノラマ画像（サム
ネイル）の中から一のパノラマ画像（サムネイル）の選択を受け付ける。ステップＳ２４
７０にて、プロセッサ１０は、選択されたサムネイルに対応するパノラマ画像ＩＤをサー
バ１５０に送信する。

ステップＳ２４７５にて、プロセッサ１９２０は、パノラマ画像ＩＤをコンピュータ２
００から受信する。ステップＳ２４８０にて、プロセッサ１９２０は、パノラマ画像ＤＢ
１９３４を参照して、受信したパノラマ画像ＩＤに対応する画像データをコンピュータ２
００に送信する。

ステップＳ２４８５にて、プロセッサ１０は、仮想空間定義モジュール２３１として、
受信した画像データを仮想空間２を構成する天球に展開する。これにより、ユーザ１９０
は、自身の所望するパノラマ画像を視認できる。

ステップＳ２４９０にて、プロセッサ１９２０は、学習部１９２６として、検索キーと
して入力された線図データと、当該線図データにより表される物体とに基づいて、学習モ
デル１９３６を学習（更新）する。

（立体的な線図に基づく検索）
上記の例では、コンピュータ２００は、平坦な入力オブジェクトに対してユーザが描く
平面的な線図の入力を受け付けるように構成されている。他の局面において、コンピュー
タ２００は、ユーザが描く立体的な線図を検索キーとして受け付けるように構成されても
よい。

図２５は、立体的な線図の入力を受け付ける様子を表す視界画像２５００である。視界
画像２５００は、入力オブジェクト２５１０を含む。図２５に示される例において、入力
オブジェクト２５１０は、立方体であって、立方体を構成する各辺が破線で表示されてい
る。

ユーザ１９０は、ペンオブジェクト２２３０が関連付けられたハンドオブジェクト８１
０を操作して、入力オブジェクト２５１０に囲まれる領域に立体的な線図を描くことがで
きる。図２５に示される例において、飛行機２５２０が描かれている。

コンピュータ２００は、飛行機２５２０（３次元の線図）を２次元化する。より具体的
には、入力オブジェクト２５１０を構成する立方体の各平面に飛行機２５２０を転写する
。入力オブジェクト２５１０は、仮想空間２に設定されている各軸に平行に配置されてい
るとする。係る場合、コンピュータ２００は、図２６に示されるように、飛行機２５２０
を、ＸＹ平面、ＹＺ平面、およびＺＸ平面にそれぞれ転写する。図２６（Ａ）は、飛行機
２５２０をＸＹ平面に転写した線図である。図２６（Ｂ）は、飛行機２５２０をＹＺ平面
に転写した線図である。図２６（Ｃ）は、飛行機２５２０をＺＸ平面に転写した線図であ
る。

コンピュータ２００は、得られた２次元の線図データを検索キーとしてサーバ１５０に
送信する。その後の処理は上述の通りであるので、当該処理の説明は、繰り返さない。

上記によれば、ユーザ１９０は、仮想空間２上に描いた立体的な線図を検索キーとして
コンピュータ２００およびサーバ１５０に入力できる。ある局面において、ユーザ１９０
は、仮想空間２を介して他のユーザと通信する場合がある。係る場合、ユーザ１９０は、
ユーザ１９０が意図する物体を、サーバ１５０が入力された線図に基づいて正しく認識で
きているのか否かを、他のユーザとともにゲーム感覚で楽しむことができる。

［フェイストラッキングデータを検索キーとして用いる］
次に、フェイストラッキングデータ、つまり、ユーザ１９０の表情を検索キーとして用
いる場合の実施形態について説明する。

図２７は、フェイストラッキングデータに基づいてパノラマ画像を変更するための処理
を表すフローチャートである。なお、図２７に示される処理のうち図２４の処理と同じ処
理については同じ符号を付している。そのため、その処理についての説明は繰り返さない
。

ステップＳ２７１０にて、コンピュータ２００のプロセッサ１０は、仮想空間２に展開
されているパノラマ画像を変更するためのトリガを受け付けたか否かを判断する。たとえ
ば、プロセッサ１０は、コントローラ１６０に設けられた予め定められたボタンが押下さ
れたことに応じて、上記トリガを受け付ける。

ステップＳ２７２０にて、プロセッサ１０は、フェイストラッキングデータを取得する
。このとき、プロセッサ１０は、ユーザ１９０に今の感情（気分）、またはパノラマ画像
を視聴することにより得たい感情を問い合わせてもよい。ユーザ１９０は、当該問い合わ
せに応じて表情を作る。第１カメラ１１６および第２カメラ１１７は、そのときのユーザ
１９０の顔の画像を生成する。プロセッサ１０はフェイストラッキングモジュール２２８
として、入力された顔の画像に基づいてフェイストラッキングデータを生成する。ステッ
プＳ２７３０にて、プロセッサ１０は、生成されたフェイストラッキングデータを検索キ
ーとしてサーバ１５０に送信する。

ステップＳ２７４０にて、サーバ１５０のプロセッサ１９２０は、コンピュータ２００
からフェイストラッキングデータの入力を受け付ける。ステップＳ２７５０にて、プロセ
ッサ１９２０は、感情判断部１９２５として、入力されたフェイストラッキングデータが
表すユーザ１９０の感情の候補を特定する。より具体的には、感情判断部１９２５は、学
習モデル１９３７の各入力層にフェイストラッキングデータを入力し、各出力層から出力
された値に基づいて、フェイストラッキングデータが表す感情の候補を特定する。一例と
して、感情判断部１９２５は、予め定められた閾値を超える値を出力した出力層に対応す
る感情を、フェイストラッキングデータが表す感情の候補として特定する。ステップＳ２
７６０にて、プロセッサ１９２０は、パノラマ画像ＤＢ１９３４に格納されている複数の
パノラマ画像の中から、特定された感情の感情タグを含む一以上のパノラマ画像を検索す
る。

ステップＳ２７９０にて、プロセッサ１９２０は、学習部１９２６として、検索キーと
して入力されたフェイストラッキングデータと、当該フェイストラッキングデータにより
表される感情とに基づいて、学習モデル１９３７を学習（更新）する。

上記によれば、ユーザ１９０は、表情を作る（たとえば、笑う）だけで、自身の気分（
感情）に合わせたパノラマ画像の候補を受けることができる。また、サーバ１５０は、ユ
ーザ１９０の表情（を表すフェイストラッキングデータ）に基づいて、ユーザ１９０が所
望するパノラマ画像の候補をユーザ１９０に提供できる可能性を高め得る。

なお、上記の例では、サーバ１５０は、フェイストラッキングデータに基づいてユーザ
１９０の感情を推定するように構成されているが、他の局面において他のデータに基づい
てユーザ１９０の感情を推定するように構成されてもよい。たとえば、サーバ１５０は、
ユーザ１９０の発話に基づく音声信号をコンピュータ２００から受け付け、当該音声信号
に基づいてユーザ１９０の感情を推定してもよい。たとえば、サーバ１５０は、音声信号
から文字列を抽出して、当該文字列から感情を推定する。このような処理は、たとえば、
メタデータ社が提供する「感情解析ＡＰＩ」により実現され得る。他の局面において、サ
ーバ１５０は、音声信号の波形から感情を推定する。このような処理は、たとえば、ＡＧ
Ｉ社が提供する「ＳＴ Ｅｍｏｔｉｏｎ ＳＤＫ」により実現され得る。なお、これらの処
理は、サーバ１５０ではなくコンピュータ２００が実行するように構成されてもよい。係
る場合、コンピュータ２００は、推定した感情を特定する情報をサーバ１５０に送信する
。

［音声信号から抽出される文字列を検索キーとして用いる］
次に、ユーザ１９０の発話に対応する音声信号から抽出される文字列を検索キーとして
用いる場合の実施形態について説明する。

図２８は、ユーザ１９０が発話により検索キーを入力する様子を表す視界画像２８００
である。視界画像２８００は、机オブジェクト２２１０を含む。机オブジェクト２２１０
の上には、スピーカオブジェクト２８１０が配置されている。また、スピーカオブジェク
ト２８１０に重畳するようにポインタオブジェクト２８２０が配置されている。

ポインタオブジェクト２８２０は、ユーザ１９０の仮想空間２における視点を表す。プ
ロセッサ１０は視線検出モジュール２２６として、注視センサ１４０の出力に基づいて現
実空間におけるユーザ１９０の視線を検出する。視線検出モジュール２２６は、現実空間
におけるユーザ１９０の視線を、仮想カメラ１の位置および傾き（基準視線）に基づいて
、仮想空間２における視線に変換する。仮想オブジェクト生成モジュール２３２は、仮想
空間２における視線と、オブジェクトとが衝突する位置にポインタオブジェクト２８２０
を配置する。

ある局面において、ユーザ１９０は、スピーカオブジェクト２８１０を選択することで
、仮想空間２に展開されているパノラマ画像を変更するためのトリガをコンピュータ２０
０に入力する。一例として、ユーザ１９０は、ハンドオブジェクト８１０と、スピーカオ
ブジェクト２８１０とを接触させることで、スピーカオブジェクト２８１０を選択する。
他の例として、ユーザ１９０は、スピーカオブジェクト２８１０を予め定められた時間に
わたり注視する、つまり、ポインタオブジェクト２８２０を予め定められた時間にわたり
スピーカオブジェクト２８１０に重畳することにより、スピーカオブジェクト２８１０を
選択する。

コンピュータ２００のプロセッサ１０は、ユーザ１９０に対してトリガが入力されたこ
とを通知する。たとえば、プロセッサ１０は、「検索したい内容を話してください」等の
、ユーザ１９０の発話を促す音声またはメッセージを出力する。これに従い、ユーザ１９
０は、検索したい内容を発話する。プロセッサ１０は、マイク１１９から音声信号を受け
付け、当該音声信号から文字列を抽出する。一例として、プロセッサ１０は、音声信号の
先頭から所定時間単位（たとえば、１０ｍｓｅｃ単位）で区切られる波形データと、スト
レージ１２に格納される音響モデル（図示しない）とを照合して、文字列を抽出する。音
響モデルは、母音や子音などの音素ごとの特徴量を表す。一例として、プロセッサ１０は
、隠れマルコフモデルに基づき、音声信号と音響モデルとを照合する。プロセッサ１０は
、抽出した文字列をサーバ１５０に送信する。

サーバ１５０のプロセッサ１９２０は、パノラマ画像ＤＢ１９３４に格納されている複
数のパノラマ画像の中から、タイトルまたはタグに入力された文字列（または当該文字列
に含まれる単語）を含むパノラマ画像を検索する。その後の処理は上述の処理と同じであ
るので繰り返さない。

上記によれば、ユーザ１９０は、単に発話するだけで検索キーをコンピュータ２００に
入力できる。また、現実世界においてスピーカ機能を有するデバイス（たとえば、アマゾ
ンエコー（登録商標））とユーザとの間での音声コミュニケーションが一般的になってい
る。そのため、ユーザ１９０は、スピーカの形状を有するスピーカオブジェクトが音声入
力および出力機能を有すると容易に想像し得る。なお、他の局面において、スピーカオブ
ジェクトに替えて、マイクの形状を有するマイクオブジェクトが配置されていてもよい。

（制御構造）
図２９は、音声信号から抽出される文字列に基づいてパノラマ画像を切り替えるための
処理を表すフローチャートである。なお、図２９に示される処理のうち図２４の処理と同
じ処理については同じ符号を付している。そのため、その処理についての説明は繰り返さ
ない。

ステップＳ２９１０にて、コンピュータ２００のプロセッサ１０は、仮想空間２に展開
されているパノラマ画像を変更するためのトリガを受け付けたか否かを判断する。たとえ
ば、プロセッサ１０は、スピーカオブジェクトがユーザ１９０に選択された場合に、上記
トリガを受け付けて、ステップＳ２９２０の処理を実行する。そうでない場合（ステップ
Ｓ２９１０でＮＯ）、プロセッサ１０は、トリガを受け付けるまで待機する。

ステップＳ２９２０にて、プロセッサ１０は、マイク１１９からユーザ１９０の発話に
対応する音声信号の入力を受け付ける。ステップＳ２９３０にて、プロセッサ１０は、音
声信号から文字列を抽出し、抽出された文字列を検索キーとしてサーバ１５０に送信する
。なお、他の局面において、プロセッサ１０は音声信号をサーバ１５０に送信し、サーバ
１５０が音声信号から文字列を抽出するように構成されてもよい。

ステップＳ２９４０にて、サーバ１５０のプロセッサ１９２０は、検索キーとしての文
字列をコンピュータ２００から受信する。

上記によれば、ユーザ１９０は、発話するだけで、自身の所望するパノラマ画像の候補
を受けることができる。

（他のユーザと連携してパノラマ画像を検索）
上述のように、ユーザ１９０は、ネットワーク１９を介して仮想空間２上で他のユーザ
とコミュニケーションできる。このとき、ユーザ１９０と他のユーザは、同じパノラマ画
像を視聴している。ある局面において、ユーザ１９０は、他のユーザと相談しながらパノ
ラマ画像の変更を行ないたいと考え得る。その理由は、ユーザ１９０が勝手にパノラマ画
像２２を変更することで、他のユーザが驚くことを抑制するためである。そこで、以下に
、複数のユーザの入力に基づいてパノラマ画像を変更する処理について説明する。

図３０は、複数のユーザが仮想空間を共有している場合のネットワーク１９を説明する
図である。図３０に示される例において、ネットワーク１９にコンピュータ２００Ａ、２
００Ｂが接続されている。コンピュータ２００ＡはＨＭＤシステム１４００Ａに含まれ、
コンピュータ２００ＢはＨＭＤシステム１４００Ｂに含まれる。ＨＭＤシステム１４００
ＡおよびＨＭＤシステム１４００Ｂの構成は、上述のＨＭＤシステム１４００と同じ構成
である。以下、ＨＭＤシステム１４００Ａのユーザをユーザ１９０Ａ、ＨＭＤシステム１
４００Ｂのユーザをユーザ１９０Ｂとする。また、ＨＭＤシステム１４００Ａに関する各
構成要素の参照符号にＡが付され、ＨＭＤシステム１４００Ｂに関する各構成要素の参照
符号にＢが付される。

図３０に示される例において、コンピュータ２００Ａによって提供される仮想空間２Ａ
と、コンピュータ２００Ｂによって提供される仮想空間２Ｂとは同じデータによって構成
されている。換言すれば、コンピュータ２００Ａとコンピュータ２００Ｂとは同じ仮想空
間を共有していることになる。仮想空間２Ａおよび仮想空間２Ｂには、ユーザ１９０Ａに
対応するアバターオブジェクト３０００Ａと、ユーザ１９０Ｂに対応するアバターオブジ
ェクト３０００Ｂとが存在する。なお、仮想空間２Ａにおけるアバターオブジェクト３０
００Ａおよび仮想空間２Ｂにおけるアバターオブジェクト３０００ＢがそれぞれＨＭＤを
装着しているが、これは説明を分かりやすくするためのものであって、実際にはこれらの
オブジェクトはＨＭＤを装着していない。

コンピュータ２００Ａは、アバターオブジェクト３０００Ａの目の位置に仮想カメラ１
Ａを配置する。これにより、ユーザ１９０Ａは、仮想空間２Ａにおけるアバターオブジェ
クト３０００Ａの視界を共有する。コンピュータ２００Ｂは、アバターオブジェクト３０
００Ｂの目の位置に仮想カメラ１Ｂを配置する。これにより、ユーザ１９０Ｂは、仮想空
間２Ｂにおけるアバターオブジェクト３０００Ｂの視界を共有する。仮想空間２Ａおよび
仮想空間２Ｂにおいて、アバターオブジェクト３０００Ａとアバターオブジェクト３００
０Ｂとは互いに向かい合っている。そのため、ユーザ１９０Ａはユーザ１９０Ｂに対応す
るアバターオブジェクト３０００Ｂを視認し、ユーザ１９０Ｂはユーザ１９０Ａに対応す
るアバターオブジェクト３０００Ａを視認する。この状態において、ユーザ１９０Ａとユ
ーザ１９０Ｂとはコミュニケーションを行なう。

たとえば、コンピュータ２００Ｂは、コントローラ１６０Ｂが動いたことを検出すると
、コントローラ１６０Ｂの動きを表すデータをサーバ１５０を介してコンピュータ２００
Ａに送信する。コンピュータ２００Ａは、受信したデータをアバターオブジェクト３００
０Ｂの手に反映する。これにより、ユーザ１９０Ａは、アバターオブジェクト３０００Ｂ
を介してユーザ１９０Ｂの動きを認識できる。

図３１は、ユーザ１９０Ａが視認する視界画像３１００を表す。視界画像３１００は、
コンピュータ２００Ａに接続されているモニタ１１２Ａに表示される。視界画像３１００
は、机オブジェクト２２１０と、机オブジェクト２２１０の上に配置されるスピーカオブ
ジェクト２８１０と、アバターオブジェクト３０００Ｂと、サムネイル群３１１０とを含
む。

ある局面において、ユーザ１９０Ｂはスピーカオブジェクト２８１０を選択した後に「
動物」と発話することで検索キーをコンピュータ２００Ｂに入力する。サーバ１５０は、
コンピュータ２００Ｂから入力された検索キーに基づいて検索された複数のパノラマ画像
に対応するサムネイル群３１１０を、検索キーの受信元のコンピュータ２００Ｂと、コン
ピュータ２００Ｂと仮想空間を共有するコンピュータ２００Ａとに対して送信する。

コンピュータ２００Ａは、受信したサムネイル群３１１０を仮想空間２Ａに提示する。
これにより、ユーザ１９０Ａは、ユーザ１９０Ｂがコンピュータ２００Ｂに入力した検索
キーによって検索されたパノラマ画像を表すサムネイル群３１１０を視認する。

ユーザ１９０Ａは、これらサムネイル群３１１０が表す複数のパノラマ画像をさらに限
定するための検索キーをコンピュータ２００Ａに入力できる。たとえば、ユーザ１９０Ａ
は、自身の注視点を表すポインタオブジェクト３１２０を予め定められた時間にわたりス
ピーカオブジェクト２８１０に重畳し、スピーカオブジェクト２８１０を選択する。その
後、ユーザ１９０Ａは、「ねこ」と発話することで検索キーをコンピュータ２００Ａに入
力する。

サーバ１５０は、コンピュータ２００Ａから他の検索キーの入力を受け付けると、動物
に関する複数のパノラマ画像のなかから、ねこに関する一以上のパノラマ画像を検索する
。サーバ１５０は、検索された一以上のパノラマ画像の各々のサムネイルを生成し、コン
ピュータ２００Ａおよび２００Ｂに送信する。

コンピュータ２００Ａは、サーバ１５０から新たに一以上のサムネイルを受信すると、
現在提示しているサムネイル群３１１０に替えて、新たに受信した一以上のサムネイルを
表示する。コンピュータ２００Ｂもコンピュータ２００Ａと同様の動作を行なう。

ユーザ１９０Ａまたは１９０Ｂのいずれか一方が、仮想空間に提示されている一以上の
サムネイルの中から一のサムネイルを選択する。これにより、仮想空間２Ａおよび２Ｂに
、選択されたサムネイルに対応するパノラマ画像が展開される。

上記によれば、仮想空間を共有するユーザ１９０Ａおよび１９０Ｂは、コミュニケーシ
ョンを図りながら変更するパノラマ画像を決定できる。

［構成］
以上に開示された技術的特徴は、以下のように要約され得る。

（構成１） ＨＭＤ１１０によって仮想空間２を提供するためにコンピュータ２００で
実行されるプログラムが提供される。このプログラムはコンピュータ２００に、複数のパ
ノラマ画像に含まれる一のパノラマ画像を仮想空間２に展開するステップ（ステップＳ２
４０５）と、ＨＭＤ１１０のユーザ１９０から、仮想空間２に展開されているパノラマ画
像を他のパノラマ画像に変更するためのトリガの入力を受け付けるステップ（ステップＳ
２４１５）と、トリガの入力を受け付けた後に、ユーザ１９０から検索キーの入力を受け
付けるステップ（ステップＳ２４２０）と、複数のパノラマ画像の中から、検索キーによ
り検索された一以上のパノラマ画像を特定するための情報を仮想空間２に提示するステッ
プ（ステップＳ２４６０）と、ユーザ１９０から、一以上のパノラマ画像の中から一のパ
ノラマ画像を選択する入力を受け付けるステップ（ステップＳ２４６５）と、選択された
一のパノラマ画像を仮想空間２に展開するステップ（ステップＳ２４８５）とを実行させ
る。

上記の例において、サーバ１５０がパノラマ画像の検索を行なう処理について説明した
が、他の実施形態において、コンピュータ２００が検索を行なってもよい。例えば、コン
ピュータ２００は、ストレージ１２に格納される複数のパノラマ画像の中から、検索キー
に基づいて一以上のパノラマ画像を検索してもよい。

上記の例において、コンピュータ２００は、パノラマ画像を特定するための情報として
、当該パノラマ画像から生成されるサムネイルを仮想空間２に提示する処理を説明したが
、他の例として、パノラマ画像に関連付けられるタイトル、タグを仮想空間２に提示して
もよい。

上記によれば、コンピュータ２００は、ユーザ１９０に入力された検索キーに関連する
一以上のパノラマ画像、換言すれば、ユーザ１９０が所望するパノラマ画像（を特定する
情報）をユーザ１９０に提示できる。

（構成２） ある実施形態において、上記のプログラムはコンピュータ２００に、入力
された検索キーと、選択された一のパノラマ画像のパノラマ画像ＩＤとを、コンピュータ
２００と通信可能なサーバ１５０に送信するステップ（ステップＳ２４３０、ステップＳ
２４７０）とを実行させる。

（構成３） 上記の検索キーは、ユーザ１９０が仮想空間２で描いた線図を含む。
上記によれば、ユーザ１９０は、例えば、興味のある物体の名称を知らない、または忘
れた場合であっても、当該物体の線図を仮想空間上で描くことによって、コンピュータ２
００に当該興味のある物体に関する検索キーを入力できる。

（構成４） ある実施形態において、プログラムはコンピュータ２００に、ユーザ１９
０の手の動きを検出するステップをさらに実行させる。上記のユーザ１９０から検索キー
の入力を受け付けるステップは、ユーザ１９０の手の動きに基づく線図を検索キーとして
受け付けることを含む。

ある局面において、コンピュータ２００は、コントローラ１６０の動きをユーザ１９０
の手の動きとして検出する。他の局面において、コンピュータ２００は、図示しない赤外
線カメラによりユーザ１９０の手を撮影し、撮影結果に基づいてユーザ１９０の手の動き
を検出してもよい。このような技術は、例えば、Ｌｅａｐ Ｍｏｔｉｏｎ社が提供するＬ
ｅａｐ Ｍｏｔｉｏｎ（登録商標）によって実現され得る。上記によれば、ユーザ１９０
は、仮想空間２上で容易に線図を描くことができる。

（構成５） 上記の検索キーの入力を受け付けるステップは、仮想空間２に配置された
入力オブジェクトに対してユーザ１９０が描いた線図を検索キーとして受け付けることを
含む。

（構成６） 上記の検索キーをの入力受け付けるステップは、仮想空間２における予め
定められた空間内（例えば、入力オブジェクト２５１０により囲まれる空間）にユーザ１
９０が形成した立体オブジェクト（例えば、飛行機２５２０）の入力を受け付けることと
、立体オブジェクトを２次元化して得られる線図を検索キーとして受け付けることとを含
む。

上記によれば、ユーザ１９０は、立体的な線図を検索キーとしてコンピュータ２００に
入力できる。さらに、サーバ１５０またはコンピュータ２００は、平面的な線図よりも情
報量の多い立体的な線図に基づいて検索を行なうことが出来るため、ユーザ１９０が所望
するパノラマ画像をユーザ１９０に提示できる可能性を高め得る。

（構成７） ある実施形態に従うプログラムはコンピュータ２００に、ユーザ１９０の
表情を表すフェイストラッキングデータを検出するステップ（ステップＳ２７２０）をさ
らに実行させる。検索キーは、ユーザ１９０のフェイストラッキングデータを含む。

ある局面において、コンピュータ２００は、仮想空間２に仮想的なキーボードを配置し
、当該仮想的なキーボードに基づいてユーザ１９０から検索キーの入力を受け付けること
も考えられる。しかしながら、仮想的なキーボードは触感がないため現実空間におけるハ
ードウェアキーボードと使用感が異なる。そのため、ユーザ１９０は、仮想的なキーボー
ドに対してうまく検索キーを入力できない場合もある。これに対し、ユーザ１９０は、単
に表情を作るだけでコンピュータ２００に検索キーを入力できる。

（構成８） 上記の検索キーの入力を受け付けるステップは、ユーザ１９０の音声の入
力を受け付けることと、ユーザ１９０の音声から抽出された文字列を検索キーとして受け
付けることとを含む。

上記によれば、ユーザ１９０は、単に発話するだけでコンピュータ２００に検索キーを
入力できる。

（構成９） ある実施形態に従うプログラムはコンピュータ２００に、スピーカオブジ
ェクトまたはマイクオブジェクトを仮想空間２に配置するステップをさらに実行させる。
トリガの入力を受け付けるステップは、スピーカオブジェクトまたはマイクオブジェクト
に対するユーザ１９０の予め定められた動作をトリガとして受け付けることを含む。

ある局面において、コンピュータ２００は、ユーザ１９０の手の動きに連動するハンド
オブジェクトと、スピーカオブジェクトまたはマイクオブジェクトとが接触した場合に、
上記トリガの入力を受け付ける。他の局面において、コンピュータ２００は、ユーザ１９
０がスピーカオブジェクトまたはマイクオブジェクトを予め定められた時間にわたり見つ
めたことを検出した場合に、上記トリガの入力を受け付ける。

（構成１０） 上記の一以上のパノラマ画像を仮想空間２に提示するステップは、検索
キーまたは当該検索キーに基づく情報と、一以上のパノラマ画像とを仮想空間２に提示す
ることを含む。

上記によれば、ユーザ１９０は、自分で入力した検索キーと、検索キーにより検索され
たパノラマ画像（のサムネイル）とを一緒に提示されるため、一以上のパノラマ画像の中
から自分が意図したパノラマ動画を正確に選択し得る。その結果、サーバ１５０またはコ
ンピュータ２００は、質の高い学習用データを取得でき、学習効率を高め得る。

検索キーに基づく情報は、検索キーに基づいて検索された複数の内容（物体、感情など
）のうちユーザ１９０が意図する可能性が最も高い内容が、検索キーに対応するか否かを
ユーザ１９０に問い合わせる情報であり得る。当該問い合わせに対するユーザ１９０の回
答を得ることで、サーバ１５０またはコンピュータ２００は、質の高い学習用データを取
得でき、学習効率を高め得る。

（構成１１） ある実施形態において、プログラムはコンピュータ２００Ａに、コンピ
ュータ２００Ｂのユーザ１９０Ｂに対応するアバターオブジェクト３０００Ｂを仮想空間
２に配置するステップと、複数のパノラマ画像の中から、コンピュータ２００Ｂのユーザ
１９０がコンピュータ２００Ｂに入力した検索キーにより検索された一以上のパノラマ画
像を仮想空間２に提示するステップとをさらに実行させる。

上記によれば、コンピュータ２００Ａのユーザ１９０Ａは、仮想空間を共有するユーザ
１９０Ｂが入力した検索キーに対する検索結果を確認できる。これにより、コンピュータ
２００Ａは、ユーザ１９０Ａが意図せずにパノラマ画像が変更された場合に、ユーザ１９
０Ａが驚くことを抑制し得る。

（構成１２） 上記の検索キーの入力を受け付けるステップは、コンピュータ２００Ｂ
のユーザ１９０Ｂによって入力された検索キーにより検索された一以上のパノラマ画像に
対する検索キーの入力を受け付けることを含む。

上記によれば、仮想空間を共有するユーザ１９０Ａおよび１９０Ｂは、パノラマ画像を
変更する処理において、互いの合意形成を行ないながら、パノラマ画像を変更し得る。

（構成１３） ある実施形態に従うと、上記のいずれかに記載のプログラムを格納した
ストレージ１２と、当該プログラムを実行するためのプロセッサ１０とを備えるコンピュ
ータ２００が提供される。

（構成１４） ある実施形態に従うと、ＨＭＤ１１０によって仮想空間２を提供するた
めにコンピュータ２００で実行される方法が提供される。この方法は、複数のパノラマ画
像に含まれる一のパノラマ画像を仮想空間２に展開するステップ（ステップＳ２４０５）
と、ＨＭＤ１１０のユーザ１９０から、仮想空間２に展開されているパノラマ画像を他の
パノラマ画像に変更するためのトリガの入力を受け付けるステップ（ステップＳ２４１５
）と、トリガの入力を受け付けた後に、ユーザ１９０から検索キーの入力を受け付けるス
テップ（ステップＳ２４２０）と、複数のパノラマ画像の中から、検索キーにより検索さ
れた一以上のパノラマ画像を特定するための情報を仮想空間２に提示するステップ（ステ
ップＳ２４６０）と、ユーザ１９０から、一以上のパノラマ画像の中から一のパノラマ画
像を選択する入力を受け付けるステップ（ステップＳ２４６５）と、選択された一のパノ
ラマ画像を仮想空間２に展開するステップ（ステップＳ２４８５）とを備える。

（構成１５） ある実施形態において、ＨＭＤ１１０に仮想空間２を提供するコンピュ
ータ２００と通信可能なサーバ１５０によって実行されるプログラムが提供される。この
プログラムはサーバ１５０に、ＨＭＤ１１０のモニタ１１２に展開されるパノラマ画像を
変更するための検索キーの入力をコンピュータ２００から受け付けるステップ（ステップ
Ｓ２４３５）と、サーバ１５０のストレージ１９３０のパノラマ画像ＤＢ１９３４に格納
される複数のパノラマ画像の中から、検索キーに基づいて一以上のパノラマ画像を検索す
るステップ（ステップＳ２４４５）と、検索した一以上のパノラマ画像を特定するための
情報（例えば、サムネイル）をコンピュータ２００に送信するステップ（ステップＳ２４
５０）と、一以上のパノラマ画像の中から選択された一のパノラマ画像のパノラマ画像Ｉ
Ｄの入力をコンピュータ２００から受け付けるステップ（ステップＳ２４７５）と、パノ
ラマ画像の識別情報と検索キーとに基づいて、検索のための学習を行なうステップ（ステ
ップＳ２４９０）とを実行させる。

上記によれば、サーバ１５０は、検索キーに従い、コンピュータ２００のユーザ１９０
が所望するパノラマ画像の候補をユーザ１９０に提供できる。また、サーバ１５０は、検
索キーと、ユーザ１９０に選択されたパノラマ画像に関連づけられた情報（例えば、タグ
、タイトル）とに基づいて学習を行なうことにより、入力された検索キーに対してユーザ
１９０が所望するパノラマ画像をユーザ１９０に提供できる可能性を高め得る。

（構成１６） 上記の検索するステップは、検索キーから文字列を検出することと、パ
ノラマ画像ＤＢ１９３４に格納される複数のパノラマ画像の中から、検出された文字列が
関連付けられた一以上のパノラマ画像を検索することとを含む。

（構成１７） 上記の検索キーは、コンピュータ２００のユーザ１９０のフェイストラ
ッキングデータを含む。上記の検索するステップは、ユーザ１９０のフェイストラッキン
グデータからユーザ１９０の感情を推測することと、推測された感情に基づいて一以上の
パノラマ画像を検索することとを含む。

（構成１８） ある実施形態に従うと、（構成１５）〜（構成１７）のいずれかに記載
のプログラムを格納したストレージ１９３０と、当該プログラムを実行するためのプロセ
ッサ１９２０とを備えるサーバ１５０が提供される。

（構成１９） ある実施形態に従うと、ＨＭＤ１１０に仮想空間２を提供するコンピュ
ータ２００と通信可能なサーバ１５０によって実行される方法が提供される。この方法は
、ＨＭＤ１１０のモニタ１１２に展開されるパノラマ画像を変更するための検索キーの入
力をコンピュータ２００から受け付けるステップ（ステップＳ２４３５）と、サーバ１５
０のストレージ１９３０のパノラマ画像ＤＢ１９３４に格納される複数のパノラマ画像の
中から、検索キーに基づいて一以上のパノラマ画像を検索するステップ（ステップＳ２４
４５）と、検索した一以上のパノラマ画像を特定するための情報（例えば、サムネイル）
をコンピュータ２００に送信するステップ（ステップＳ２４５０）と、一以上のパノラマ
画像の中から選択された一のパノラマ画像のパノラマ画像ＩＤの入力をコンピュータ２０
０から受け付けるステップ（ステップＳ２４７５）と、パノラマ画像の識別情報と検索キ
ーとに基づいて、検索のための学習を行なうステップ（ステップＳ２４９０）とを備える
。

今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えら
れるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され
、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図され
る。

１ 仮想カメラ、２ 仮想空間、５ 基準視線、１０，１９２０ プロセッサ、１１
メモリ、１２，１９３０ ストレージ、１９ ネットワーク、２２ パノラマ画像、１０
０，１４００ ＨＭＤシステム、１１２ モニタ、１１４ センサ、１１５ スピーカ、
１１６ 第１カメラ、１１７ 第２カメラ、１１９ マイク、１２０ ＨＭＤセンサ、１
３０ モーションセンサ、１４０ 注視センサ、１５０ サーバ、１６０ コントローラ
、１９０ ユーザ、２００ コンピュータ、２２０ 表示制御モジュール、２２１ 仮想
カメラ制御モジュール、２２２ 視界領域決定モジュール、２２３ 視界画像生成モジュ
ール、２２４ 基準視線特定モジュール、２２５ 音声制御モジュール、２２６ 視線検
出モジュール、２２７ ハンドトラッキングモジュール、２２８ フェイストラッキング
モジュール、２３０ 仮想空間制御モジュール、２３１ 仮想空間定義モジュール、２３
２ 仮想オブジェクト生成モジュール、２３３ 手オブジェクト制御モジュール、２４０
メモリモジュール、２４１ 空間情報、２４２ オブジェクト情報、２４３ ユーザ情
報、２４４ 顔情報、８１０ ハンドオブジェクト１１２０，２８１０ スピーカオブジ
ェクト、１１３０ 検索キー、１１４０，１２１０，１２６０，２３２０，２３５０ サ
ムネイル、１２００，２２００，２３００，２５００，２８００，３１００ 視界画像、
１９２３ 検索エンジン、１９２４ 物体特定部、１９２５ 感情判断部、１９２６ 学
習部、１９３４ パノラマ画像ＤＢ、１９３５ 学習用ＤＢ、１９３６，１９３７ 学習
モデル、２２２０，２５１０ 入力オブジェクト、２２３０ ペンオブジェクト、２２４
０ メッセージオブジェクト、２２５０ 軌跡オブジェクト、２３１０ スクリーン、２
５２０ 飛行機、２８２０，３１２０ ポインタオブジェクト、３０００Ａ，３０００Ｂ
アバターオブジェクト。

Claims (19)

1. ヘッドマウントデバイスによって仮想空間を提供するためにコンピュータで実行される
   プログラムであって、前記プログラムは前記コンピュータに、
   予め定められた複数のパノラマ画像に含まれる一のパノラマ画像を仮想空間に展開する
   ステップと、
   前記ヘッドマウントデバイスのユーザから、前記仮想空間に展開されているパノラマ画
   像を他のパノラマ画像に変更するためのトリガの入力を受け付けるステップと、
   前記トリガの入力を受け付けた後に、前記ユーザから検索キーの入力を受け付けるステ
   ップと、
   前記複数のパノラマ画像の中から、前記検索キーにより検索された一以上のパノラマ画
   像を特定するための情報を前記仮想空間に提示するステップと、
   前記ユーザから、前記一以上のパノラマ画像の中から一のパノラマ画像を選択する入力
   を受け付けるステップと、
   前記選択された一のパノラマ画像を前記仮想空間に展開するステップとを実行させる、
   プログラム。
2. 前記プログラムは前記コンピュータに、前記入力された検索キーと、前記選択された一
   のパノラマ画像の識別情報とを、前記コンピュータと通信可能な情報処理端末に送信する
   ステップとを実行させる、請求項１に記載のプログラム。
3. 前記検索キーは、前記ユーザが前記仮想空間で描いた線図を含む、請求項１または２に
   記載のプログラム。
4. 前記プログラムは前記コンピュータに、前記ユーザの手の動きを検出するステップをさ
   らに実行させ、
   前記ユーザから検索キーの入力を受け付けるステップは、前記ユーザの手の動きに基づ
   く線図を前記検索キーとして受け付けることを含む、請求項３に記載のプログラム。
5. 前記検索キーの入力を受け付けるステップは、前記仮想空間に配置された予め定められ
   たオブジェクトに対して前記ユーザが描いた線図を前記検索キーとして受け付けることを
   含む、請求項３または４に記載のプログラム。
6. 前記検索キーをの入力受け付けるステップは、
   前記仮想空間における予め定められた空間内に前記ユーザが形成した立体オブジェク
   トの入力を受け付けることと、
   前記立体オブジェクトを２次元化して得られる線図を前記検索キーとして受け付ける
   こととを含む、請求項３または４に記載のプログラム。
7. 前記プログラムは前記コンピュータに、前記ユーザの表情を表すデータを検出するステ
   ップをさらに実行させ、
   前記検索キーは、前記ユーザの表情を表すデータを含む、請求項１または２に記載のプ
   ログラム。
8. 前記検索キーの入力を受け付けるステップは、
   前記ユーザの音声の入力を受け付けることと、
   前記ユーザの音声から抽出された文字列を前記検索キーとして受け付けることとを含
   む、請求項１または２に記載のプログラム。
9. 前記プログラムは前記コンピュータに、スピーカオブジェクトまたはマイクオブジェク
   トを前記仮想空間に配置するステップをさらに実行させ、
   前記トリガの入力を受け付けるステップは、前記スピーカオブジェクトまたは前記マイ
   クオブジェクトに対する前記ユーザの予め定められた動作を前記トリガとして受け付ける
   ことを含む、請求項８に記載のプログラム。
10. 前記一以上のパノラマ画像を前記仮想空間に提示するステップは、前記検索キーまたは
    当該検索キーに基づく情報と、前記一以上のパノラマ画像とを前記仮想空間に提示するこ
    とを含む、請求項１〜９のいずれか１項に記載のプログラム。
11. 前記プログラムは前記コンピュータに、
    他のコンピュータのユーザに対応するアバターオブジェクトを前記仮想空間に配置する
    ステップと、
    前記複数のパノラマ画像の中から、前記他のコンピュータのユーザが前記他のコンピュ
    ータに入力した検索キーにより検索された一以上のパノラマ画像を前記仮想空間に提示す
    るステップとをさらに実行させる、請求項１〜１０のいずれか１項に記載のプログラム。
12. 前記検索キーの入力を受け付けるステップは、前記他のコンピュータのユーザによって
    入力された検索キーにより検索された一以上のパノラマ画像に対する検索キーの入力を受
    け付けることを含む、請求項１１に記載のプログラム。
13. 請求項１〜１１のいずれか１項に記載のプログラムを格納したメモリと、
    前記プログラムを実行するためのプロセッサとを備える、情報処理装置。
14. ヘッドマウントデバイスによって仮想空間を提供するためにコンピュータで実行される
    方法であって、
    予め定められた複数のパノラマ画像に含まれる一のパノラマ画像を仮想空間に展開する
    ステップと、
    前記ヘッドマウントデバイスのユーザから、前記仮想空間に展開されているパノラマ画
    像を他のパノラマ画像に変更するためのトリガの入力を受け付けるステップと、
    前記トリガの入力を受け付けた後に、前記ユーザから検索キーの入力を受け付けるステ
    ップと、
    前記複数のパノラマ画像の中から、前記検索キーにより検索された一以上のパノラマ画
    像を特定するための情報を前記仮想空間に提示するステップと、
    前記ユーザから、前記一以上のパノラマ画像の中から一のパノラマ画像を選択する入力
    を受け付けるステップと、
    前記選択された一のパノラマ画像を前記仮想空間に展開するステップと、
    前記入力された検索キーと、前記選択された一のパノラマ画像の識別情報とを、前記コ
    ンピュータと通信可能な情報処理端末に送信するステップとを備える、方法。
15. ヘッドマウントデバイスに仮想空間を提供する情報処理端末と通信可能なコンピュータ
    によって実行されるプログラムであって、
    前記プログラムは前記コンピュータに、
    前記ヘッドマウントデバイスのディスプレイに展開されるパノラマ画像を変更するため
    の検索キーの入力を前記情報処理端末から受け付けるステップと、
    前記コンピュータのメモリに格納される複数のパノラマ画像の中から、前記検索キーに
    基づいて一以上のパノラマ画像を検索するステップと、
    前記検索した一以上のパノラマ画像を特定するための情報を前記情報処理端末に送信す
    るステップと、
    前記一以上のパノラマ画像の中から選択された一のパノラマ画像の識別情報の入力を前
    記情報処理端末から受け付けるステップと、
    前記パノラマ画像の識別情報と前記検索キーとに基づいて、前記検索のための学習を行
    なうステップとを実行させる、プログラム。
16. 前記検索するステップは、
    前記検索キーから文字列を検出することと、
    前記メモリに格納される複数のパノラマ画像の中から、前記検出された文字列が関連
    付けられた一以上のパノラマ画像を検索することとを含む、請求項１５に記載のプログラ
    ム。
17. 前記検索キーは、前記情報処理端末のユーザの表情を表すデータを含み、
    前記検索するステップは、
    前記ユーザの表情を表すデータから前記ユーザの感情を推測することと、
    前記推測された感情に基づいて前記一以上のパノラマ画像を検索することとを含む、
    請求項１５に記載のプログラム。
18. 請求項１５〜１７のいずれか１項に記載のプログラムを格納したメモリと、
    前記プログラムを実行するためのプロセッサとを備える、情報処理装置。
19. ヘッドマウントデバイスに仮想空間を提供する情報処理端末と通信可能なコンピュータ
    によって実行される方法であって、
    前記ヘッドマウントデバイスのディスプレイに展開されるパノラマ画像を変更するため
    の検索キーの入力を前記情報処理端末から受け付けるステップと、
    前記コンピュータのメモリに格納される複数のパノラマ画像の中から、前記検索キーに
    基づいて一以上のパノラマ画像を検索するステップと、
    前記検索した一以上のパノラマ画像を特定するための情報を前記情報処理端末に送信す
    るステップと、
    前記一以上のパノラマ画像の中から選択された一のパノラマ画像の識別情報の入力を前
    記情報処理端末から受け付けるステップと、
    前記パノラマ画像の識別情報と前記検索キーとに基づいて、前記検索のための学習を行
    なうステップとを備える、方法。