JP2017207595A - 仮想空間を提供する方法、プログラム及び記録媒体 - Google Patents

Abstract

【課題】ヘッドマウントディスプレイにて動画コンテンツを再生する際に広告等の他のコンテンツを表示しても、ユーザの没入感に与える影響が少ない方法を提供する。【解決手段】仮想空間に適合させて再生するための動画コンテンツの初期方向を特定するステップと、初期方向の水平方向における向きとＨＭＤのロール方向の水平方向における向きとが一致するように仮想空間に前記動画コンテンツを適合させて再生するステップと、初期方向の後方側に、第１のサブコンテンツを表示するステップと、ＨＭＤの向きおよび傾きのうち少なくとも一方に応じて視野を更新するステップと、を含む。【選択図】図１１

Description

本開示は仮想空間を提供する方法、プログラム及び記録媒体に関する。

特許文献１には、ヘッドマウントディスプレイを用いてコンテンツを視聴するシステムが記載されている。

特許文献２には、仮想空間に看板及び掲示板等のオブジェクトを表示する方法が記載されている。

特開２０１３−２５８６１４号公報 特開２００３−２４８８４４号公報

ヘッドマウントディスプレイにて動画コンテンツを視聴するユーザは、据え置き型のテレビ等で動画コンテンツを視聴するユーザに比べて、より深く動画コンテンツの内容に没入する。そこで、ヘッドマウントディスプレイにて動画コンテンツを再生する際に広告を表示できれば、高い広告効果が期待できる。しかし、ユーザの視界に入り易い位置に広告が表示されると仮想空間への没入感が損なわれる虞がある。

本開示は、このような事情に鑑みてなされたものであり、ヘッドマウントディスプレイにて動画コンテンツを再生する際に広告等の他のコンテンツを表示しても、ユーザの没入感に与える影響が少ない、広告等のコンテンツを表示する方法を提供する。

上記の課題を解決するために、本開示に係る仮想空間を提供する方法は、ヘッドマウントディスプレイ（以下、ＨＭＤ）を装着したユーザに仮想空間を提供する方法であって、前記仮想空間に適合させて再生するための動画コンテンツの初期方向を特定するステップと、前記初期方向の水平方向における向きと前記ＨＭＤのロール方向の水平方向における向きとが一致するように前記仮想空間に前記動画コンテンツを適合させて再生するステップと、前記初期方向の後方側に、第１のサブコンテンツを表示するステップと、前記ＨＭＤの向きおよび傾きのうち少なくとも一方に応じて視野を更新するステップと、を含む。

本開示によって、ヘッドマウントディスプレイにて動画コンテンツを再生する際に広告等の他のコンテンツを表示しても、ユーザの没入感に与える影響が少ないという効果を奏する。

ＨＭＤシステムの構成を示す図である。 制御回路部のハード構成を示す図である。 ＨＭＤに設定される視野座標系を例示する図である。 ユーザに提供される仮想空間の概要を説明する図である。 視界領域の断面を示す図である。 ユーザの視線方向を決定する方法を例示する図である。 制御回路部の機能的構成を示すブロック図である。 ＨＭＤシステムが仮想空間をユーザに提供する処理の流れを示すシーケンス図である。 ＨＭＤシステムが、仮想空間内のプラットフォームを通じてユーザが選択した動画コンテンツを仮想空間において再生する処理の流れを示すシーケンス図である。 仮想空間内のプラットフォームを通じた動画コンテンツの選択および再生を説明する図である。 視界画像生成部が合成コンテンツを再生することによって表示する視野画像の一例を示す図である。 制御回路部が動画コンテンツと広告コンテンツとを合成する処理の流れを示すフロー図である。 格子と広告コンテンツの位置との関係を説明するための模式図である。 制御回路部が視線情報を収集する処理の流れを示す図である。

［本発明の実施形態の詳細］
本発明の実施形態に係る仮想空間を提供する方法、および、プログラムの具体例を、以下に図面を参照しつつ説明する。本発明はこれらの例示に限定されるものではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が本発明に含まれることが意図される。以下の説明では、図面の説明において同一の要素には同一の符号を付し、重複する説明を繰り返さない。

（ＨＭＤシステム１００の構成）
図１は、ＨＭＤシステム１００の構成を示す図である。この図に示すように、ＨＭＤシステム１００は、ＨＭＤ１１０、ＨＭＤセンサ１２０、制御回路部２００、およびコントローラ３００を備えている。

ＨＭＤ１１０は、ユーザの頭部に装着される。ＨＭＤ１１０は、非透過型の表示装置であるディスプレイ１１２、センサ１１４、および注視センサ１３０を備えている。ＨＭＤ１１０は、右目用画像および左目用画像をディスプレイ１１２にそれぞれ表示することにより、ユーザの両目の視差に基づきユーザに立体的に視認される３次元画像を、ユーザに視認させる。これにより仮想空間をユーザに提供する。ディスプレイ１１２がユーザの眼前に配置されているので、ユーザは、ディスプレイ１１２に表示される画像を通じて仮想空間に没入できる。仮想空間は、背景、ならびにユーザが操作可能な各種のオブジェクトおよびメニュー画像等を含み得る。

ディスプレイ１１２は、右目用画像を表示する右目用サブディスプレイと、左目用画像を表示する左目用サブディスプレイとを含んでもよい。または、ディスプレイ１１２は、右目用画像および左目用画像を共通の画面に表示する１つの表示装置であってもよい。このような表示装置として、たとえば、表示画像が一方の目にしか認識できないようにするシャッターを高速に切り替えることにより、右目用画像および左目用画像を独立して交互に表示する表示装置が挙げられる。

（制御回路部２００のハード構成）
図２は、制御回路部２００のハード構成を示す図である。制御回路部２００は、ＨＭＤ１１０に仮想空間を提供させるためのコンピュータである。図２に示すように、制御回路部２００は、プロセッサ、メモリ、ストレージ、入出力インターフェース、および通信インターフェースを備えている。これらは、データ伝送路としてのバスを通じて、制御回路部２００内において互いに接続されている。

プロセッサは、ＣＰＵ（Central Processing Unit）、ＭＰＵ（Micro-processing unit）、またはＧＰＵ（Graphics Processing Unit）等を含んで構成され、制御回路部２００およびＨＭＤシステム１００全体の動作を制御する。

メモリは、主記憶として機能する。メモリには、プロセッサによって処理されるプログラムおよび制御用データ（演算パラメータなど）が記憶される。メモリは、ＲＯＭ（Read Only Memory）またはＲＡＭ（Random Access Memory）等を含んで構成され得る。

ストレージは、補助記憶として機能する。ストレージには、ＨＭＤシステム１００全体の動作を制御するためのプログラム、各種のシミュレーションプログラム、ユーザ認証プログラム、および、仮想空間を規定するための各種のデータ（画像およびオブジェクト等）が格納されている。さらには、各種のデータを管理するためのテーブルを含むデータベースがストレージに構築されていてもよい。ストレージは、フラッシュメモリまたはＨＤＤ（Hard Disc Drive）等を含んで構成され得る。

入出力インターフェースは、ＵＳＢ（Universal Serial Bus）端子、ＤＶＩ（Digital Visual Interface）端子、ＨＤＭＩ（登録商標）（High-Definition Multimedia Interface）端子等の各種の有線接続端子、および、無線接続のための各種の処理回路を含んで構成されている。入出力インターフェースは、ＨＭＤ１１０と、ＨＭＤセンサ１２０を含む各種のセンサと、コントローラ３００とを互いに接続する。

通信インターフェースは、ネットワークＮＷを介して外部装置と通信するための各種の有線接続端子、および、無線接続のための各種の処理回路を含んで構成される。通信インターフェースは、ＬＡＮ（Local Area Network）またはインターネットを介して通信するための各種の通信規格およびプロトコルに適合するように、構成されている。

制御回路部２００は、ストレージに格納された所定のアプリケーションプログラムをメモリにロードして実行することによって、ユーザに仮想空間を提供する。プログラムの実行時に、メモリおよびストレージには、仮想空間内に配置される各種のオブジェクトを操作したり、各種のメニュー画像等を表示および制御したりするための各種のプログラムが格納される。

制御回路部２００は、ＨＭＤ１１０に搭載されていてもよいし、されていなくてもよい。すなわち制御回路部２００は、ＨＭＤ１１０から独立した別のハードウェア（たとえば、パーソナルコンピュータ、またはネットワークを通じてＨＭＤ１１０と通信可能なサーバ装置）であってもよい。制御回路部２００は、複数のハードウェアの協働によって１または複数の機能が実装される形態の装置であってもよい。または、制御回路部２００が有する全機能のうち一部の機能のみがＨＭＤ１１０に実装され、残りの機能が別のハードウェアに実装されていてもよい。

ＨＭＤシステム１００を構成するＨＭＤ１１０等の各要素には、予め、グローバル座標系（基準座標系、ｘｙｚ座標系）が設定されている。このグローバル座標系は、現実空間における、鉛直方向、鉛直方向と直交する横方向、ならびに、鉛直方向および横方向の双方と直交する前後方向にそれぞれ平行な、３つの基準方向（軸）を有する。本実施形態では、グローバル座標系は視点座標系の一種であるため、グローバル座標系における横方向、鉛直方向（上下方向）、および前後方向を、それぞれｘ軸、ｙ軸、ｚ軸とする。具体的には、グローバル座標系のｘ軸は現実空間の横方向に平行であり、ｙ軸は現実空間の鉛直方向に平行であり、ｚ軸は現実空間の前後方向に平行である。

ＨＭＤセンサ１２０は、ＨＭＤ１１０の動きを検出するためのポジション・トラッキング機能を有する。ＨＭＤセンサ１２０は、この機能によって、現実空間内におけるＨＭＤ１１０の位置および傾きを検出する。この検出を実現するために、ＨＭＤ１１０は、図示しない複数の光源を備えている。各光源は、たとえば赤外線を発するＬＥＤである。ＨＭＤセンサ１２０は、たとえば赤外線センサを含んで構成される。ＨＭＤセンサ１２０は、ＨＭＤ１１０の光源から照射された赤外線を、赤外線センサによって検出することによって、ＨＭＤ１１０の検出点を検出する。さらに、ＨＭＤ１１０の検出点の検出値に基づき、ユーザの動きに応じたＨＭＤ１１０の現実空間内における位置および傾きを検出する。ＨＭＤセンサ１２０は、検出値の経時的変化に基づき、ＨＭＤ１１０の位置および傾きの時間変化を決定することができる。

ＨＭＤセンサ１２０は、光学カメラを含んで構成されてもよい。この場合、ＨＭＤセンサ１２０は、光学カメラによって得られたＨＭＤ１１０の画像情報に基づき、ＨＭＤ１１０の位置および傾きを検出する。

ＨＭＤセンサ１２０の代わりに、ＨＭＤ１１０が、センサ１１４を用いて自身の位置および傾きを検出してもよい。この場合、センサ１１４は、たとえば角速度センサ、地磁気センサ、加速度センサ、またはジャイロセンサであればよい。ＨＭＤ１１０は、これらのうち少なくとも１つを用いる。センサ１１４が角速度センサである場合、センサ１１４は、ＨＭＤ１１０の動きに応じて、ＨＭＤ１１０の現実空間における３軸回りの角速度を経時的に検出する。ＨＭＤ１１０は、角速度の検出値に基づき、ＨＭＤ１１０の３軸回りの角度の時間的変化を決定し、さらに、角度の時間的変化に基づきＨＭＤ１１０の傾きを検出することができる。

ＨＭＤ１１０がセンサ１１４による検出値に基づきＨＭＤ１１０の位置および傾きを自ら検出する場合、ＨＭＤシステム１００にＨＭＤセンサ１２０は不要である。逆に、ＨＭＤ１１０から離れた位置に配置されるＨＭＤセンサ１２０がＨＭＤ１１０の位置および傾きを検出する場合、ＨＭＤ１１０にセンサ１１４は不要である。

上述したように、グローバル座標系は現実空間の座標系と平行である。そのため、ＨＭＤセンサ１２０によって検出されたＨＭＤ１１０の各傾きは、グローバル座標系におけるＨＭＤ１１０の３軸周りの各傾きに相当する。ＨＭＤセンサ１２０は、グローバル座標系におけるＨＭＤセンサ１２０の傾きの検出値に基づき、ｕｖｗ視野座標系をＨＭＤ１１０に設定する。ＨＭＤ１１０に設定されるｕｖｗ視野座標系は、ＨＭＤ１１０を装着したユーザが物体を見る際の視点座標系に対応する。

（ｕｗｖ視野座標系）
図３は、ＨＭＤ１１０に設定されるｕｗｖ視野座標系を例示する図である。ＨＭＤセンサ１２０は、ＨＭＤ１１０の起動時に、グローバル座標系におけるＨＭＤ１１０の位置および傾きを検出する。そして、傾きの検出値に基づく３次元のｕｖｗ視野座標系を、ＨＭＤ１１０に設定する。図３に示すように、ＨＭＤセンサ１２０は、ＨＭＤ１１０を装着したユーザの頭部を中心（原点）とした３次元のｕｖｗ視野座標系を、ＨＭＤ１１０に設定する。具体的には、グローバル座標系を規定する横方向、鉛直方向、および前後方向（ｘ軸、ｙ軸、ｚ軸）を、グローバル座標系内においてＨＭＤ１１０の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって得られる新たな３つの方向を、ＨＭＤ１１０におけるｕｖｗ視野座標系のピッチ方向（ｕ軸）、ヨー方向（ｖ軸）、およびロール方向（ｗ軸）として設定する。

図３に示すように、ＨＭＤセンサ１２０は、ＨＭＤ１１０を装着したユーザが直立しかつ正面を視認している場合、グローバル座標系に平行なｕｖｗ視野座標系をＨＭＤ１１０に設定する。この場合、グローバル座標系の横方向（ｘ軸）、鉛直方向（ｙ軸）、および前後方向（ｚ軸）が、そのまま、ＨＭＤ１１０におけるｕｖｗ視野座標系のピッチ方向（ｕ軸）、ヨー方向（ｖ軸）、およびロール方向（ｗ軸）に一致する。

ＨＭＤセンサ１２０は、ＨＭＤ１１０にｕｖｗ視野座標系を設定した後、ＨＭＤ１１０の動きに応じて、現在設定中のｕｖｗ視野座標系におけるＨＭＤ１１０の傾き（傾きの変化量）を検出することができる。この場合、ＨＭＤセンサ１２０は、ＨＭＤ１１０の傾きとして、現在設定中のｕｖｗ視野座標系におけるＨＭＤ１１０のピッチ角（θｕ）、ヨー角（θｖ）、およびロール角（θｗ）をそれぞれ検出する。ピッチ角（θｕ）は、ｕｖｗ視野座標系におけるピッチ方向周りのＨＭＤ１１０の傾き角度である。ヨー角（θｖ）は、ｕｖｗ視野座標系におけるヨー方向周りのＨＭＤ１１０の傾き角度である。ロール角（θｗ）は、ｕｖｗ視野座標系におけるロール方向周りのＨＭＤ１１０の傾き角度である。

ＨＭＤセンサ１２０は、ＨＭＤ１１０の傾きの検出値に基づき、動いた後のＨＭＤ１１０におけるｕｖｗ視野座標系を、新たにＨＭＤ１１０に設定する。ＨＭＤ１１０と、ＨＭＤ１１０のｕｖｗ視野座標系との関係は、ＨＭＤ１１０の位置および傾きによらず常に一定である。ＨＭＤ１１０の位置および傾きが変わると、それの変化に連動して、グローバル座標系におけるＨＭＤ１１０のｕｖｗ視野座標系の位置および傾きが同様に変化する。

ＨＭＤセンサ１２０は、赤外線センサによって取得される赤外線の光強度および複数の検出点間の相対位置関係（検出点間の距離等）に基づき、ＨＭＤ１１０の現実空間内における位置を、ＨＭＤセンサ１２０に対する相対位置として特定してもよい。また、特定した相対位置に基づき、現実空間内（グローバル座標系）におけるＨＭＤ１１０のｕｖｗ視野座標系の原点を決定してもよい。また、ＨＭＤセンサ１２０は、複数の検出点間の相対位置関係に基づきＨＭＤ１１０の現実空間内における傾きを検出し、さらに、その検出値に基づき現実空間内（グローバル座標系）におけるＨＭＤ１１０のｕｖｗ視野座標系の向きを決定してもよい。

（仮想空間２の概要）
図４は、ユーザに提供される仮想空間２の概要を説明する図である。この図に示すように、仮想空間２は、中心２１の３６０°方向全体を覆う全天球状の構造を有する。図４には、仮想空間２の全体のうち上半分の天球のみを例示する。仮想空間２には、略正方形または略長方形の複数のメッシュが関連付けられている。仮想空間２における各メッシュの位置は、仮想空間２に規定される空間座標系（ＸＹＺ座標系）における座標として、予め規定されている。制御回路部２００は、仮想空間２に展開可能なコンテンツ（静止画、動画等）を構成する各部分画像を、仮想空間２における対応する各メッシュに対応付けることによって、ユーザによって視認可能な仮想空間画像２２が展開される仮想空間２をユーザに提供する。

仮想空間２には、中心２１を原点とするＸＹＺ空間座標系が規定されている。ＸＹＺ座標系は、たとえばグローバル座標系に平行である。ＸＹＺ座標系は視点座標系の一種であるため、ＸＹＺ座標系における横方向、鉛直方向（上下方向）、および前後方向を、それぞれＸ軸、Ｙ軸、Ｚ軸とする。すなわち、ＸＹＺ座標系のＸ軸（横方向）がグローバル座標系のｘ軸と平行であり、ＸＹＺ座標系のＹ軸（上下方向）がグローバル座標系のｙ軸と平行であり、ＸＹＺ座標系のＺ軸（前後方向）がグローバル座標系のｚ軸と平行である。

ＨＭＤ１１０の起動時（初期状態）において、仮想空間２の中心２１に仮想カメラ１が配置されている。仮想カメラ１は、現実空間内におけるＨＭＤ１１０の動きに連動して、仮想空間２内において同様に動く。これにより、現実空間内におけるＨＭＤ１１０の位置および向きの変化が、仮想空間２内において同様に再現される。

仮想カメラ１には、ＨＭＤ１１０と同様にｕｖｗ視野座標系が規定される。仮想空間２内における仮想カメラ１のｕｖｗ視野座標系は、現実空間（グローバル座標系）内におけるＨＭＤ１１０のｕｖｗ視野座標系に変動するように規定されている。したがって、ＨＭＤ１１０の傾きが変化すると、それに連動して仮想カメラ１の傾きも変化する。仮想カメラ１は、ＨＭＤ１１０を装着したユーザの現実空間における移動に連動して、仮想空間２において移動することもできる。

仮想空間２における仮想カメラ１の位置および傾きに応じて、仮想空間２における仮想カメラ１の向きが決まる。これにより、仮想空間２に展開される仮想空間画像２２をユーザが視認する際の基準となる視線（基準視線５）が決まる。制御回路部２００は、基準視線５に基づき、仮想空間２における視界領域２３を決定する。視界領域２３は、仮想空間２のうち、ＨＭＤ１１０を装着したユーザの視界に対応する領域である。

図５は、視界領域２３の断面を示す図である。図５の（ａ）に、仮想空間２において視界領域２３をＸ方向から見たＹＺ断面を示す。図５の（ｂ）に、仮想空間２において視界領域２３をＹ方向から見たＸＺ断面を示す。視界領域２３は、基準視線５と仮想空間２のＹＺ断面とによって定義される範囲である第１領域２４（図５の（ａ）参照）と、基準視線５と仮想空間２のＸＺ断面とによって定義される範囲である第２領域２５（図５の（ｂ）参照）とを有する。制御回路部２００は、仮想空間２における基準視線５を中心として極角αを含む範囲を、第１領域２４として設定する。また、仮想空間２における基準視線５を中心とした方位角βを含む範囲を、第２領域２５として設定する。

ＨＭＤシステム１００は、仮想空間画像２２のうち視界領域２３に重畳する部分である視界画像２６をＨＭＤ１１０のディスプレイ１１２に表示させることによって、ユーザに仮想空間２を提供する。ユーザがＨＭＤ１１０を動かせば、それに連動して仮想カメラ１も動き、その結果、仮想空間２における視界領域２３の位置が変化する。これによりディスプレイ１１２に表示される視界画像２６が、仮想空間画像２２のうち、仮想空間２においてユーザが向いた箇所（＝視界領域２３）に重畳する画像に更新される。したがってユーザは、仮想空間２における所望の箇所を視認することができる。

ユーザは、ＨＭＤ１１０を装着している間、現実世界を目にすることなく、仮想空間２に展開される仮想空間画像２２のみを視認する。そのためＨＭＤシステム１００は、仮想空間２への高い没入感をユーザに与えることができる。

制御回路部２００は、ＨＭＤ１１０を装着したユーザの現実空間における移動に連動して、仮想カメラ１を仮想空間２内において移動させてもよい。この場合、制御回路部２００は、仮想カメラ１の仮想空間２内における位置および向きに基づき、仮想空間２のうちＨＭＤ１１０のディスプレイ１１２に投影されることによってユーザが視認する視界領域２３を特定する。

仮想カメラ１は、右眼用画像を提供する右眼用仮想カメラと、左眼用画像を提供する左眼用仮想カメラとを含むことが好ましい。さらに、２つの仮想カメラには、ユーザが３次元の仮想空間２を認識できるように適切な視差が設定されていることが好ましい。本実施形態では、このような２つの仮想カメラのロール方向が合成されることによって生成されるロール方向（ｗ）がＨＭＤ１１０のロール方向（ｗ）に適合されるような仮想カメラ１のみを、代表して図示および説明するものとする。

（視線方向の検出）
注視センサ１３０は、ユーザの右目および左目の視線が向けられる方向（視線方向）を検出するアイトラッキング機能を有する。注視センサ１３０として、アイトラッキング機能を有する公知のセンサを採用することができる。注視センサ１３０は、右目用センサおよび左目用センサを備えていることが好ましい。注視センサ１３０は、たとえば、ユーザの右目および左目に赤外光を照射すると共に、照射光に対する角膜および虹彩からの反射光を受光することによって、各眼球の回転角を検出するセンサでもよい。注視センサ１３０は、検出した各回転角に基づき、ユーザの視線方向を検知することができる。

注視センサ１３０によって検出されるユーザの視線方向は、ユーザが物体を視認する際の視点座標系における方向である。上述したように、ＨＭＤ１１０のｕｖｗ視野座標系は、ユーザがディスプレイ１１２を視認する際の視点座標系に等しい。また、仮想カメラ１のｕｖｗ視野座標系は、ＨＭＤ１１０のｕｖｗ視野座標系に連動している。したがってＨＭＤシステム１００では、注視センサ１３０によって検出されたユーザの視線方向を、仮想カメラ１のｕｖｗ視野座標系におけるユーザの視線方向と見なすことができる。

図６は、ユーザの視線方向を決定する方法を例示する図である。この図に示すように、注視センサ１３０は、ユーザＵの右目および左目の視線を検出する。ユーザＵが近くを見ている場合、注視センサ１３０は、ユーザＵの視線Ｒ１およびＬ１を検出する。ユーザが遠くを見ている場合、注視センサ１３０は、ユーザの視線Ｒ１およびＬ１よりも、ＨＭＤ１１０のロール方向（ｗ）とのなす角が小さい視線Ｒ２およびＬ２を特定する。注視センサ１３０は、検出値を制御回路部２００に送信する。

制御回路部２００は、視線の検出値として視線Ｒ１およびＬ１を受信した場合、両者の交点である注視点Ｎ１を特定する。一方、視線Ｒ２およびＬ２を受信した場合も、両者の交点である注視点Ｎ１（不図示）を特定する。制御回路部２００は、特定した注視点Ｎ１に基づき、ユーザＵの視線方向Ｎ０を検出する。制御回路部２００は、たとえば、ユーザＵの右目Ｒと左目Ｌとを結ぶ直線の中点と、注視点Ｎ１とを通る直線の伸びる方向を、視線方向Ｎ０として検出する。視線方向Ｎ０は、ユーザＵが両目により実際に視線を向けている方向である。視線方向Ｎ０はまた、視界領域２３に対してユーザＵが実際に視線を向けている方向でもある。

ＨＭＤシステム１００は、ＨＭＤシステム１００を構成するいずれかの要素に、マイクおよびスピーカを備えていてもよい。これにより、ユーザは仮想空間２内に対して、音声による指示を与えることができる。また、仮想空間内の仮想テレビにテレビ番組の放送を受信するために、ＨＭＤシステム１００はいずれかの要素にテレビジョン受像機を含んでいてもよい。また、ユーザが取得した電子メール等を表示させるための、通信機能等を含んでいてもよい。

（コントローラ３００）
コントローラ３００は、ユーザの操作に基づく各種の指令を制御回路部２００に対して送信ことができるデバイスである。コントローラ３００は、有線または無線通信が可能な携帯端末であり得る。コントローラ３００は、たとえば、スマートフォン、ＰＤＡ（Personal Digital Assistant）、タブレット型コンピュータ、ゲーム用コンソール、汎用のＰＣ（Personal Computer）等であればよい。コントローラ３００は、タッチパネルを備えるデバイスであることが好ましく、互いにバス接続されたプロセッサ、メモリ、ストレージ、通信部、表示部と入力部が一体として構成されたタッチパネル、を備える任意の端末が採用され得る。ユーザは、コントローラ３００のタッチパネルに対し、タップ、スワイプ、およびホールドを含む各種のタッチ動作を入力することによって、仮想空間２に配置される各種のオブジェクトおよびＵＩ（User Interface）に対して影響を及ぼすことができる。

（制御回路部２００の機能的構成）
図７は、制御回路部２００の機能的構成を示すブロック図である。制御回路部２００は、ＨＭＤセンサ１２０、注視センサ１３０、およびコントローラ３００から受信した各種のデータを用いることによって、ユーザに提供される仮想空間２を制御すると共に、ＨＭＤ１１０のディスプレイ１１２への画像表示を制御する。図７に示すように、制御回路部２００は、検出部２１０、表示制御部２２０、仮想空間制御部２３０、記憶部２４０、および通信部２５０を備えている。制御回路部２００は、図２に示す各ハードウェアの協働によって、検出部２１０、表示制御部２２０、仮想空間制御部２３０、記憶部２４０、および通信部２５０として機能する。検出部２１０、表示制御部２２０、および仮想空間制御部２３０は、主としてプロセッサおよびメモリの協働によってその機能が実現され得る。記憶部２４０は、主としてメモリおよびストレージの協働によってその機能が実現され得る。通信部２５０は、主としてプロセッサおよび通信インターフェースの協働によってその機能が実現され得る。

検出部２１０は、制御回路部２００に接続される各種のセンサ（ＨＭＤセンサ１２０等）から検出値を受信する。また、必要に応じて、受信した検出値を用いた所定の処理を実行する。検出部２１０は、ＨＭＤ検出部２１１、視線検出部２１２、および操作受付部２１３を備えている。ＨＭＤ検出部２１１は、ＨＭＤ１１０およびＨＭＤセンサ１２０から検出値をそれぞれ受信する。視線検出部２１２は、注視センサ１３０から検出値を受信する。操作受付部２１３は、コントローラ３００に対するユーザの操作に応じて送信された指令を受信することによって、当該操作を受け付ける。

表示制御部２２０は、ＨＭＤ１１０のディスプレイ１１２への画像表示を制御する。表示制御部２２０は、仮想カメラ制御部２２１、視界領域決定部２２２、および視界画像生成部２２３を備えている。仮想カメラ制御部２２１は、仮想空間２内に仮想カメラ１を配置すると共に、仮想空間２内における仮想カメラ１の挙動を制御する。視界領域決定部２２２は、視界領域２３を決定する。視界画像生成部２２３は、決定された視界領域２３に基づき、ディスプレイ１１２に表示される視界画像２６を生成する。

仮想空間制御部２３０は、ユーザに提供される仮想空間２を制御する。仮想空間制御部２３０は、仮想空間規定部２３１、視線管理部２３２、コンテンツ特定部２３３、およびコンテンツ管理部２３４を備えている。仮想空間規定部２３１は、ユーザに提供される仮想空間２を表す仮想空間データを生成することによって、ＨＭＤシステム１００における仮想空間２を規定する。視線管理部２３２は、仮想空間２におけるユーザの視線を管理する。コンテンツ特定部２３３は、仮想空間２における再生対象のコンテンツを特定する。コンテンツ管理部２３４は、動画コンテンツに広告コンテンツを合成する。また、コンテンツ管理部２３４は仮想空間２において再生しているコンテンツの時間的位置を認識して、広告が表示されている時間か否かの判断を行なう。

記憶部２４０は、制御回路部２００が仮想空間２をユーザに提供するために用いる各種のデータを格納している。記憶部２４０は、雛形格納部２４１およびコンテンツ格納部２４２を備えている。雛形格納部２４１は、各種の雛形データを格納している。コンテンツ格納部２４２は、各種のコンテンツを格納している。

雛形データは、仮想空間２の雛形を表すデータである。雛形データは、仮想空間２の空間構造を規定する空間構造データを有する。空間構造データは、たとえば、中心２１を中心とする３６０°の全天球の空間構造を規定するデータである。雛形データは、仮想空間２のＸＹＺ座標系を規定するデータをさらに有する。雛形データは、天球を構成する各メッシュのＸＹＺ座標系における位置を特定する座標データをさらに有する。また、雛形データは、仮想空間２内にオブジェクトを配置可能であるか否かを示すフラグをさらに有する。

コンテンツは、仮想空間２において再生可能なコンテンツである。コンテンツの例として、たとえば、プラットフォームコンテンツおよび視聴用コンテンツが挙げられる。

プラットフォームコンテンツは、ユーザが視聴したい視聴用コンテンツを仮想空間２においてユーザに選択させるための環境（プラットフォーム）に関するコンテンツである。このプラットフォームコンテンツが仮想空間２において再生されることによって、コンテンツ選択用のプラットフォームがユーザに提供される。プラットフォームコンテンツは、背景画像、および、オブジェクトを規定するデータを少なくとも有する。

視聴用コンテンツは、たとえば静止画コンテンツまたは動画コンテンツである。静止画コンテンツは、背景画像を有する。動画コンテンツは、各フレームの画像（静止画）を少なくとも有する。動画コンテンツは、さらに音声データを有してもよい。

動画コンテンツは、たとえば、全天球カメラによって生成されるコンテンツである。全天球カメラは、当該カメラのレンズを中心とした現実空間の全方向を一度に撮影することによって、全方向の画像を一度に生成することができるカメラである。全天球カメラによって得られる動画コンテンツを構成する各画像は歪んでいるが、動画コンテンツが仮想空間２において再生されるとき、各画像の歪みは、ＨＭＤ１１０のディスプレイ１１２を構成するレンズによってキャンセルされることによって解消される。したがって動画コンテンツの再生時、ユーザは仮想空間２内において歪みのない自然な画像を視認することができる。

各コンテンツには、ＨＭＤ１１０の初期状態（起動時）にユーザに見せる画像を向いた初期方向が、予め規定されている。全天球カメラによって生成される動画コンテンツに規定される初期方向は、通常、動画コンテンツの撮影に用いた全天球カメラに規定される所定の撮影方向に一致する。なお、この初期方向を、撮影方向とは異なる方向に変更してもよい。具体的には、全天球カメラによる撮影後、得られた動画コンテンツを適宜編集することによって、撮影方向からずれた方向を初期方向として動画コンテンツに規定してもよい。

通信部２５０は、ネットワークＮＷを介して外部機器４００（たとえばサーバ）との間でデータを送受信する。

（仮想空間２の提供処理）
図８は、ＨＭＤシステム１００が仮想空間２をユーザに提供する処理の流れを示すシーケンス図である。仮想空間２は、基本的に、ＨＭＤ１１０および制御回路部２００の協働によってユーザに提供される。図８に示す処理が開始されると、まず、Ｓ１において、仮想空間規定部２３１が、ユーザに提供される仮想空間２を表す仮想空間データを生成することによって、仮想空間２を規定する。生成の手順は次の通りである。まず仮想空間規定部２３１は、仮想空間２の雛形データを雛形格納部２４１から取得することによって、仮想空間２の原型を定義する。仮想空間規定部２３１は、さらに、仮想空間２において再生されるコンテンツを、コンテンツ格納部２４２から取得する。仮想空間規定部２３１は、取得した雛形データに、取得したコンテンツを適合することによって、仮想空間２を規定する仮想空間データを生成する。仮想空間規定部２３１は、仮想空間データにおいて、仮想空間２の天球を構成する各メッシュの管理データに、コンテンツに含まれる背景画像を構成する各部分画像を適宜関連付ける。仮想空間規定部２３１は、コンテンツに規定される初期方向を仮想空間２のＸＹＺ座標系におけるＺ方向に合致させるように、各部分画像と各メッシュとを関連付けることが好ましい。

仮想空間規定部２３１は、さらに、必要に応じて、コンテンツに含まれる各オブジェクトの管理データを、仮想空間データに追加する。その際、各管理データに、対応するオブジェクトが仮想空間２において配置される位置を表す座標を、設定する。これにより各オブジェクトが、仮想空間２における当該座標の位置にそれぞれ配置される。

その後、ユーザによってＨＭＤ１１０が起動されると、Ｓ２において、ＨＭＤセンサ１２０が、ＨＭＤ１１０の初期状態における位置および傾きを検出して、Ｓ３において、検出値を制御回路部２００に出力する。ＨＭＤ検出部２１１は、この検出値を受信する。この後、Ｓ４において、仮想カメラ制御部２２１は、仮想空間２において仮想カメラ１を初期化する。

初期化の手順は次の通りである。まず仮想カメラ制御部２２１は、仮想空間２内における初期位置（図４における中心２１等）に、仮想カメラ１を配置する。次に、仮想空間２における仮想カメラ１の向きを設定する。その際、仮想カメラ制御部２２１は、ＨＭＤセンサ１２０からの検出値に基づき初期状態のＨＭＤ１１０のｕｖｗ視野座標系を特定すると共に、ＨＭＤ１１０のｕｖｗ視野座標系に一致するｕｖｗ視野座標系を仮想カメラ１に設定することによって、仮想カメラ１の向きを設定すればよい。仮想カメラ制御部２２１は、仮想カメラ１にｕｖｗ視野座標系を設定する際、仮想カメラ１のロール方向（ｗ軸）をＸＹＺ座標系のＺ方向（Ｚ軸）に適合させる。具体的には、仮想カメラ制御部２２１は、仮想カメラ１のロール方向をＸＺ平面に投影して得られる方向を、ＸＹＺ座標系のＺ方向に一致させると共に、ＸＺ平面に対する仮想カメラ１のロール方向の傾きを、水平面に対するＨＭＤ１１０のロール方向の傾きに一致させる。このような適合処理によって、初期状態の仮想カメラ２のロール方向がコンテンツの初期方向に適合されるので、コンテンツの再生開始後におけるユーザが最初に向く水平方向の向きを、コンテンツの初期方向に一致させることができる。

仮想カメラ１の初期化処理が終わると、視界領域決定部２２２は、仮想カメラ１のｕｖｗ視野座標系に基づき、仮想空間２における視界領域２３を決定する。具体的には、仮想カメラ１のｕｖｗ視野座標系のロール方向（ｗ軸）をユーザの基準視線５として特定し、この基準視線５に基づき視界領域２３を決定する。Ｓ５において、視界画像生成部２２３は、仮想空間データを処理することによって、仮想空間２に展開される仮想空間画像２２の全体のうち、仮想空間２における視界領域２３に投影される部分に相当する視界画像２６を生成（レンダリング）する。Ｓ６において、視界画像生成部２２３は、生成した視界画像２６を初期視界画像としてＨＭＤ１１０に出力する。Ｓ７において、ＨＭＤ１１０は、受信した初期視界画像をディスプレイ１１２に表示する。これによりユーザは初期視界画像を視認する。

その後、Ｓ８において、ＨＭＤセンサ１２０が、ＨＭＤ１１０の現在の位置および傾きを検出して、Ｓ９において、これらの検出値を制御回路部２００に出力する。ＨＭＤ検出部２１１は、各検出値を受信する。仮想カメラ制御部２２１は、ＨＭＤ１１０の位置および傾きの検出値に基づき、ＨＭＤ１１０における現在のｕｖｗ視野座標系を特定する。さらに、Ｓ１０において、仮想カメラ制御部２２１は、ＸＹＺ座標系におけるｕｖｗ視野座標系のロール方向（ｗ軸）を、ＨＭＤ１１０の視界方向として特定する。

本実施形態では、Ｓ１１において、仮想カメラ制御部２２１が、特定したＨＭＤ１１０の視界方向を、仮想空間２におけるユーザの基準視線５として特定する。Ｓ１２において、仮想カメラ制御部２２１は、特定した基準視線５に基づき、仮想カメラ１を制御する。仮想カメラ制御部２２１は、基準視線５の位置（起点）および方向が仮想カメラ１の初期状態と同一であれば、仮想カメラ１の位置および方向をそのまま維持する。一方、基準視線５の位置（起点）および／または方向が、仮想カメラ１の初期状態から変化していれば、仮想空間２内における仮想カメラ１の位置および／または傾きを、変化後の基準視線５に応じた位置および／または傾きに変更する。また、制御後の仮想カメラ１に対してｕｖｗ視野座標系を再設定する。

Ｓ１３において、視界領域決定部２２２は、特定した基準視線５に基づき、仮想空間２における視界領域２３を決定する。その後、Ｓ１４において、視界画像生成部２２３は、仮想空間データを処理することによって、仮想空間２に展開される仮想空間画像２２の全体のうち、仮想空間２における視界領域２３に投影（重畳）される部分である視界画像２６を生成（レンダリング）する。Ｓ１５において、視界画像生成部２２３は、生成した視界画像２６を更新用の視界画像としてＨＭＤ１１０に出力する。Ｓ１６において、ＨＭＤ１１０は、受信した視界画像２６をディスプレイ１１２に表示することによって、視界画像２６を更新する。これにより、ユーザがＨＭＤ１１０を動かせば、それに連動して視界画像２６が更新される。

（プラットフォームの提供およびコンテンツの再生処理）
本実施形態では、ＨＭＤシステム１００は、仮想空間２においてユーザが視聴したいコンテンツを仮想空間２においてユーザに選択するための環境（プラットフォーム）を、ユーザに提供する。ユーザが、仮想空間２に展開されるプラットフォームを通じて、視聴したいコンテンツを選択すれば、制御回路部２００は、選択されたコンテンツの仮想空間２における再生を開始する。以下に、プラットフォームの提供およびコンテンツの再生処理の詳細について、説明する。

図９は、ＨＭＤシステム１００が、仮想空間２内のプラットフォームを通じてユーザが選択した動画コンテンツを仮想空間２において再生する処理の流れを示すシーケンス図である。図１０は、仮想空間２内のプラットフォームを通じた動画コンテンツの選択および再生を説明する図である。図９に示す処理が開始されると、まず、Ｓ２１において、仮想空間規定部２３１が、プラットフォーム提供用の仮想空間２を表す仮想空間データを生成することによって、プラットフォーム提供用の仮想空間２を規定する。生成の手順は次の通りである。まず仮想空間規定部２３１は、プラットフォームに対応した仮想空間２の雛形データを、雛形格納部２４１から取得する。ここでは、オブジェクトが使用可能な雛形データが取得される。

仮想空間規定部２３１は、さらに、仮想空間２において提供されるプラットフォームに関するプラットフォームコンテンツを、コンテンツ格納部２４２から取得する。仮想空間規定部２３１は、取得した雛形データに、取得したプラットフォームコンテンツを適合することによって、プラットフォームを提供するための仮想空間２を規定する仮想空間データを生成する。仮想空間規定部２３１は、仮想空間データにおいて、仮想空間２の天球を構成する各メッシュの管理データに、プラットフォームコンテンツに含まれる背景画像を構成する各部分画像を適宜関連付ける。

仮想空間規定部２３１は、さらに、プラットフォームコンテンツに含まれる各オブジェクトの管理データを、仮想空間データに追加する。これにより各オブジェクトが、プラットフォームを提供する仮想空間２における所定の位置にそれぞれ配置される。仮想空間規定部２３１は、次に、コンテンツ格納部２４２に格納される一定数の視聴用コンテンツ（ここでは動画コンテンツ）の概要画像（サムネイル）を、それぞれ取得する。仮想空間規定部２３１は、取得した各サムネイルを、仮想空間データ内のいずれかのオブジェクトの管理データに関連付ける。これにより、仮想空間２に配置される各オブジェクトに、サムネイルが関連付けられる。以下では、説明の便宜のために、仮想空間２に配置される、サムネイルが関連付けられたオブジェクトのことを、単にサムネイルと表記する場合がある。

対応するサムネイルがオブジェクトに関連付けられた各視聴用コンテンツは、ユーザが仮想空間２において再生させるために選択可能な動画コンテンツの候補（候補動画コンテンツ）である。ユーザは、サムネイルの選択を通じて、対応する候補動画コンテンツを選択することができる。制御回路部２００は、プラットフォームにおいてユーザによって選択された候補動画コンテンツを、仮想空間２において再生させる動画コンテンツとして特定する。

図１０の（ａ）に、プラットフォーム提供用の仮想空間２の一例を示す。この図には、４つのサムネイルＳＮ１〜ＳＮ４が配置される、プラットフォーム提供用の仮想空間２を示す。これらのサムネイルＳＮ１〜ＳＮ４は、いずれも、対応する動画コンテンツの概要画像（サムネイル）が関連付けられたオブジェクトである。

図１０の（ａ）に示す仮想空間２を表す仮想空間データの生成後、Ｓ２２において、視界画像生成部２２３は、ユーザの基準視線５に基づき視界画像２６を生成する。この生成方法は図８を参照して説明した方法と同一である。ここでは、プラットフォームに対応した視界画像２６が生成される。図１０の（ａ）では、サムネイルＳＮ１〜Ｎ４のうち、ユーザの基準視線５によって規定される視界領域２３の内部に、サムネイルＳＮ１およびＳＮ２が配置されている。一方、サムネイルＳＮ３およびＳＮ４は、視界領域２３の外部に配置されている。そのため視界画像生成部２２３は、サムネイルＳＮ１およびＳＮ２を含む視界画像２６を生成する。

Ｓ２３において、視界画像生成部２２３は、生成した視界画像２６をＨＭＤ１１０に出力する。Ｓ２４においてＨＭＤ１１０は、受信した視界画像２６をディスプレイ１１２に表示する。ユーザは、プラットフォームの視界画像２６を視認する。サムネイルが関連付けられたオブジェクトが視界画像２６に含まれる場合、視界画像２６の表示時、当該オブジェクトに関連付けられたサムネイルがディスプレイ１１２に表示される。これによりユーザは、サムネイルを含む視界画像２６を視認する。図１０の（ｂ）に、プラットフォームの視界画像２６の一例を示す。この図に示す視界画像２６は、サムネイルＳＮ１およびＮ２を含むので、ユーザは、仮想空間２において、サムネイルＳＮ１およびＳＮ２を視認する。

図９には示さないが、この後、ユーザがＨＭＤ１１０を動かせば、その動きに連動して視界画像２６が更新される。たとえば、ユーザがＨＭＤ１１０を動かすことによって、視界領域２３の位置が、サムネイルＳＮ１およびＳＮ３を含む位置に変化すれば、サムネイルＳＮ１およびＳＮ３を含む視界画像２６がディスプレイ１１２に表示される。したがってユーザは、ＨＭＤ１１０を適宜動かすことによって、視聴したい動画コンテンツのサムネイルを、自身の視界のうちに収めることができる。

プラットフォームの視界画像２６が表示された後、Ｓ２５において、注視センサ１３０は、ユーザの右目の視線および左目の視線をそれぞれ検出し、Ｓ２６において、各検出値を制御回路部２００に送信する。視線検出部２１２が、この検出値を受信する。Ｓ２７において、視線検出部２１２は、受信した検出値を用いて、仮想カメラ１のｕｖｗ視野座標系におけるユーザの視線方向Ｎ０を特定する。

Ｓ２８において、視線管理部２３２は、視線方向Ｎ０と、視界領域２３に含まれる各サムネイルとに基づき、視界画像２６に含まれる特定のサムネイルに規定時間以上ユーザの視線が当たったか否かを判定する。より詳細には、視線管理部２３２は、視界領域２３における視線方向Ｎ０が交わる点が、視界領域２３に含まれる特定のサムネイルの表示範囲（配置範囲）に含まれているか否かを判定する。この判定結果がＹＥＳであれば、視界画像２６に含まれる特定のサムネイルに視線が当たったと判定し、ＮＯであれば、視線は特定のサムネイルに当たっていないと判定する。

Ｓ２８がＮｏの場合、図９の処理はＳ２５の直前に戻る。この後、Ｓ２８がＹＥＳになるまで、Ｓ２５〜Ｓ２８の処理が繰り返される。一方、Ｓ２８がＹＥＳの場合、Ｓ２９において、コンテンツ特定部２３３は、規定時間以上視線が当たったと判定されたサムネイルに対応するコンテンツを特定する。たとえば、ユーザがサムネイルＳＮ１に規定時間以上視線を当てれば、サムネイルＳＮ１に対応するコンテンツとして、サムネイルＳＮ１の管理データに関連付けられる動画コンテンツを特定する。

この後、Ｓ３０において、仮想空間規定部２３１は、特定された動画コンテンツを再生するための仮想空間データを生成することによって、動画コンテンツ再生用の仮想空間２を規定する。生成の手順は次の通りである。まず仮想空間規定部２３１は、動画コンテンツに対応した仮想空間２の雛形データを、雛形格納部２４１から取得する。

仮想空間規定部２３１は、コンテンツ特定部２３３によって特定された動画コンテンツを、コンテンツ格納部２４２から取得する。仮想空間規定部２３１は、取得した雛形データに、取得した動画コンテンツを適合することによって、動画コンテンツ再生用の仮想空間２を規定する仮想空間データを生成する。仮想空間規定部２３１は、仮想空間データにおいて、仮想空間２の天球を構成する各メッシュの管理データに、動画コンテンツに含まれる最初のフレームの画像を構成する各部分画像を適宜関連付ける。

ここで生成される仮想空間データによって規定される仮想空間２においては、オブジェクトを配置することが想定されていない。さらに、動画コンテンツには、オブジェクトを規定する管理データが含まれない。そのためＳ３０において、仮想空間規定部２３１は、オブジェクトの管理データを含まない仮想空間データを生成する。

動画コンテンツ再生用の仮想空間２を表す仮想空間データの生成後、Ｓ３１において、視界画像生成部２２３は、ユーザの基準視線５に基づき視界画像２６を生成する。この生成方法は図８を参照して説明した方法と同一である。ここでは、動画コンテンツの視界画像２６が生成される。Ｓ３２において、視界画像生成部２２３は、生成した視界画像２６をＨＭＤ１１０に出力する。Ｓ３３においてＨＭＤ１１０は、受信した視界画像２６をディスプレイ１１２に表示することによって、視界画像２６を更新する。これにより仮想空間２における動画コンテンツの再生が開始され、ユーザは動画コンテンツの視界画像２６を視認する。

図９には示さないが、この後、ユーザがＨＭＤ１１０を動かせば、その動きに連動して視界画像２６が更新される。したがってユーザは、ＨＭＤ１１０を適宜動かすことによって、動画コンテンツを構成する各フレームの全天球画像における所望の位置の部分画像（視界画像２６）を、視認することができる。

図１０の（ｃ）に、動画コンテンツの視界画像２６の一例を示す。この図に示す視界画像２６は、ユーザによって選択されたサムネイルＳＮ１に対応する動画コンテンツの視界画像２６である。このように、ユーザが、図１０の（ｂ）に示すプラットフォームの視界画像２６を視認中にサムネイルＳＮ１を視線によって選択すると、ディスプレイ１１２に表示されるプラットフォームの視界画像２６が、図１０の（ｃ）に示す動画コンテンツの視界画像２６に更新される。すなわちユーザは、仮想空間２において視線移動によってサムネイルＳＮ１を選択することによって、これに対応した動画コンテンツを仮想空間２において視聴することができる。

以上のように、ユーザは、仮想空間２において視聴したい動画コンテンツを、仮想空間２における動画コンテンツ選択用のプラットフォームを通じて選択することができる。したがってユーザは、ＨＭＤ１１０を装着する前に、制御回路部２００に接続される他の一般的なディスプレイを現実空間において視認しながら、仮想空間２において視聴したい動画コンテンツを選択する必要がない。これにより、仮想空間２に対するユーザの没入感をより一層高めることができる。

また、制御回路部２００は、動画コンテンツの再生中にユーザが所定の操作をＨＭＤシステム１００に対して（たとえばコントローラ３００を通じて）行えば、動画コンテンツが再生される仮想空間２をユーザに提供することを終了し、それから再び、動画コンテンツ選択用のプラットフォームが展開される仮想空間２をユーザに提供する。これによりユーザは、他のサムネイルを選択することによって、他の動画コンテンツを仮想空間２において視聴することができる。ユーザは、視聴したい動画コンテンツを切り替える際にＨＭＤ１１０を外す必要がないので、仮想空間２に対するユーザの没入感をより一層高めることができる。

（広告コンテンツの表示）
動画コンテンツの表示域の一部に広告コンテンツを表示する方法の一形態について図１１及び１２を参照して説明する。本実施形態では、制御回路部２００が動画コンテンツの表示域の内、初期方向に対して後方の表示域に広告コンテンツを表示する。本明細書において表示域とは、動画コンテンツの時間的位置および空間的位置を少なくとも含む情報によって規定される。動画コンテンツを再生すると規定時間ごとに既定のフレームが連続して表示される。時間的位置とは表示するフレームがどのフレームであるかを示す情報ともいえる。また、空間的位置は一つのフレーム中の場所を示す。また、本実施形態において、視線管理部２３２等の制御回路部２００の処理で用いるユーザの視る方向を示す情報は、視線方向Ｎ０の方向を示す情報であってもよく、視界方向を示す情報であってもよい。

図１１は、広告コンテンツＳＣ１（第１サブコンテンツ）を表示する視野画像と、広告コンテンツＳＣ１に視線を誘導するための広告コンテンツＳＣ２（第２サブコンテンツ）を表示する視野画像と、仮想空間２内の位置との関係を説明するための図である。視野画像ｖ１は、動画コンテンツの再生中に生成される仮想空間画像２２の一部である。また、視野画像ｖ１は、仮想空間２においてユーザが前方を向いているときの基準視線に基づいて表示される視野画像の一部である。ここで「前方」とは、初期方向を基準として水平方向におけるプラス方向（−９０°以上、＋９０°以下）であればよく、例えば初期方向の近辺であることが好ましい。また、「後方」とは初期方向を基準として水平方向におけるマイナス方向（９０°より大きく１８０°以下、−９０°より小さく−１８０°以上の範囲）である。

視界画像生成部２２３は、視野画像ｖ１内の鏡ｍ１に、広告コンテンツＳＣ１中の本棚の一部を表示する（第２のサブコンテンツ表示ステップ）。この本棚の一部の画像は、前方側を向いて動画コンテンツを視聴するユーザから見て後方側に位置する広告コンテンツＳＣ１に視線を誘導するための広告コンテンツＳＣ２である。広告コンテンツＳＣ２は、初期方向に対する後方側にも注目すべきコンテンツが存在していることをユーザに知らせるためコンテンツである。動画コンテンツが再生されている間、ユーザは初期方向に近い前方側を主として視聴する傾向が有る。そのため、制御回路部２００が初期方向に対して後方側に広告コンテンツを表示すれば、ユーザの没入感を損なわない。しかし、後方側はユーザに見られ難いので、広告効果が低いという課題がある。そこで、本実施形態では、後方側の広告コンテンツＳＣ１のみならず、ユーザの視線を誘導する広告コンテンツＳＣ２を表示する。これにより、ユーザの視線を後方側に誘導することができ、ユーザに広告コンテンツＳＣ１を閲覧させることができる。よって、本実施形態は、ユーザの没入感を損ねずに、後方側に表示される広告効果を高めることができる。

広告コンテンツＳＣ１が常時再生される形態では無い場合には、視界画像生成部２２３は、仮に視野が後方であれば広告コンテンツＳＣ１が表示されている時間的位置で、広告コンテンツＳＣ２を表示することが好ましい。すなわち、広告コンテンツＳＣ２は、広告コンテンツＳＣ１の空間的位置および時間的位置に基づいて、鏡ｍ１に表示させることが好ましい。広告コンテンツＳＣ１が表示されるタイミングと広告コンテンツＳＣ２とが表示されるタイミングを連動させることにより、効果的に広告コンテンツＳＣ１にユーザの視線を誘導することができる。

また、広告コンテンツＳＣ２の表示方法は、本実施形態のように鏡に広告コンテンツＳＣ１の一部を表示する形態には限定されない。仮想空間画像２２の前方側に、後方側のコンテンツの一部を不自然でないように反映させることができるものであればよい。例えば、仮想空間画像２２の前方側に何らかの反射面を有する画像が表示されるのであれば、その部分に広告コンテンツＳＣ１の少なくとも一部示す画像を表示させることが好ましい。従って、動画コンテンツに登場する人物が窓を開ける際に、窓に広告コンテンツＳＣ１の一部を描画して、あたかも窓に後方の広告コンテンツＳＣ１の一部が映っているように描画してもよい。視界画像生成部２２３は、広告コンテンツＳＣ２を常時表示してもよく、既定の時間的位置のみ表示してもよい。例えば、視界画像生成部２２３は、動画コンテンツ内の主人公が鏡を覗き込んでいるとき、または、窓にかかるカーテンを開けたときなどに広告コンテンツＳＣ２を表示してもよい。また、本実施形態では視線誘導のためのコンテンツとして静止画を用いる場合について説明するが、動画であってもよく、音声であってもよい。

視界画像生成部２２３は、ユーザが後方を向いたことを認識すると、視野画像ｖ２を表示する。すなわち、視界画像生成部２２３は、ＨＭＤ１１０の向きに基づいて視界画像を更新することで、視野画像ｖ２を生成する。視野画像ｖ２は動画コンテンツの再生中に生成される仮想空間画像２２の一部である。また、視野画像ｖ２は仮想空間２においてユーザが後方を向いているときの基準視線に基づいて表示される視野画像の一部である。視野画像ｖ２には広告コンテンツＳＣ１が含まれる。広告コンテンツＳＣ１は、広告画像ｐ１、ｐ２および広告用背景画像ｂ１を含んでいる。広告用背景画像ｂ１が、後述のつなぎ目領域Ｓを隠している。広告画像ｐ１およびｐ２は広告用背景画像ｂ１上に表示される。このように、初期方向を基準として後方側に広告コンテンツＳＣ１を含む仮想空間画像２２を生成することでユーザの没入感を損なうことなく広告を視聴させる機会を提供できる。なお、広告コンテンツＳＣ１は動画であっても静止画であってもよい。

つなぎ目領域Ｓとは、複数の画像のつなぎ目のうち、画像間の不整合が生じるつなぎ目が集合する場所である。本実施形態では、つなぎ目領域Ｓを初期方向のマイナス方向（後方）側に位置させる。本実施形態では、動画コンテンツは全天球カメラによって撮影されたものである。全天球カメラで撮影したコンテンツのように天球状、または、半球等の球の一部に適合するように画像を表示する場合、分離した画像をつないで画像を生成することがある。分離した画像としては、複数の画像に分離したもの、および、一つの画像の一部が分離したものであり得る。この場合、画像のつなぎ目のうち、画像間の不整合が生じるつなぎ目においては、画像が歪んだり、画像が途切れて何も表示されない空間が生じたりすることがある。そのような場所に広告コンテンツを合成することで、広告を表示させるのみならず、ユーザの没入感を損なう画像を隠すことができる。つまり、本実施形態ではつなぎ目領域Ｓの上に広告コンテンツＳＣ１が重ねられることでつなぎ目領域Ｓが隠されている。従って、ユーザは歪んだ画像または何も表示されていない空間を視認することがないので、ユーザの没入感を損ねない。

図１２は制御回路部２００が動画コンテンツと、広告コンテンツＳＣ１と、広告コンテンツＳＣ２とを合成する処理の流れを示すフロー図である。まず、Ｓ２０１において、通信部２５０が動画コンテンツを受信する。通信部２５０が動画コンテンツを取得するタイミングは特に限定されないが、例えば、ユーザがコントローラ３００を用いて行なった動画コンテンツの取得を指示する操作を、操作受付部２１３が受け付けることによって、動画コンテンツを取得してもよい。また、既定の時間に、記憶部２４０に格納されていないコンテンツが外部機器４００に格納されているか否かを、通信部２５０が外部機器４００を参照することによって判断し、未格納の動画コンテンツを自動的に取得してもよい。

通信部２５０は、動画コンテンツを取得すると記憶部２４０に格納する。コンテンツ管理部２３４は、記憶部２４０に新たな動画コンテンツが格納されたことを認識する。次に、Ｓ２０２において、コンテンツ管理部２３４は視線誘導枠情報（枠情報）を動画コンテンツから取得する（第２のサブコンテンツ枠情報取得ステップ）。視線誘導枠情報とは、広告コンテンツＳＣ２の表示域を含むシーンの時間的位置、および、当該表示域の空間的位置を示す情報を含むである。動画コンテンツの作成者は、コンテンツを作成する際に、視線誘導枠情報をコンテンツに関連付ける。動画コンテンツの作成者は、動画コンテンツにおいて表示される映像の中で、例えば上述の鏡のように、広告コンテンツＳＣ２を表示しても不自然ではない箇所を特定しておくことができる。よって、ユーザの没入感を損ねずに視線誘導するための画像を表示することができる。

Ｓ２０３において、コンテンツ管理部２３４は動画コンテンツと、広告コンテンツＳＣ１および広告コンテンツＳＣ２とを合成する。上述の通り、広告コンテンツＳＣ１を合成する空間的位置は、動画コンテンツを合成する画像のつなぎ目領域Ｓに位置する。このような位置は、初期方向とは真反対に位置することが多い。ユーザの没入感を損なわないように、初期方向から最も遠い位置にするからである。従って、コンテンツ管理部２３４は、画像のつなぎ目領域Ｓがどこかを動画コンテンツ毎に認識することなく、初期方向を認識することで、当該方向の真反対の位置に広告コンテンツＳＣ１が重なるように合成すればよい。なお、このような形態に限定されず、コンテンツ管理部２３４は、動画コンテンツを解析して、つなぎ目領域Ｓがどこかを認識したうえで広告コンテンツＳＣ１を合成してもよい。

また、コンテンツ管理部２３４は、広告用背景画像ｂ１と動画コンテンツの仮想空間画像２２とが連続性を有するように合成する。コンテンツ管理部２３４は、広告用画像ｂ１中の壁、床を仮想空間画像２２のつなぎ目領域Ｓ付近の壁、床と連続するように合成する。広告画像ｐ１、ｐ２は広告の内容を示す画像である。広告用背景画像ｂ１は、広告の内容を表示しても自然な表示となるように、本棚、ポスター立てを含んでいる。コンテンツ管理部２３４は、広告画像ｐ１、ｐ２を本棚中の棚、ポスター立て上に合成する。これにより、広告画像ｐ１、ｐ２は、あたかも本棚中に元から存在する物、または、ポスター自体のように表示されるため、ユーザの没入感を損なわない。

また、コンテンツ管理部２３４は視線誘導枠情報に基づいて、規定の空間的位置および時間的位置に広告コンテンツＳＣ２を合成する。

動画コンテンツに広告コンテンツＳＣ１、ＳＣ２を合成する方法は特に限定されないが、例えば、動画コンテンツのフレームの画像に広告コンテンツ等の画像を貼り付ける処理を行なう。また、当該画像の大きさおよび形状を適宜調整してもよい。例えば、当該画像を貼り付ける対象である本棚、鏡等の対象物が遠方に見えるものであれば、各画像の大きさを小さくしたり、当該対象物が斜めから見えるものであれば、各画像の形状を台形状に処理したりしてもよい。

コンテンツ管理部２３４は、コンテンツの合成が終わると、コンテンツ格納部２４２に合成後の動画コンテンツを格納する。コンテンツ格納部２４２に格納されている動画コンテンツをユーザが選択して再生する手順については上述の通りである。

以上のように、本実施形態では予め動画コンテンツと広告コンテンツＳＣ１および広告コンテンツＳＣ２とを合成してコンテンツ格納部２４２に格納しておく形態について説明したが、本発明はこのような形態に限定されない。例えば、視界画像生成部２２３が、動画コンテンツをＨＭＤ１１０に表示させるときに、既定の表示域に広告コンテンツＳＣ１および広告コンテンツＳＣ２を重畳して表示するように視界画像を生成することによって合成コンテンツを合成してもよい。

また、本実施形態では、ＨＭＤシステム１００が合成コンテンツを合成する形態について説明したが、サーバ等の外部機器４００が合成したものをＨＭＤシステム１００が取得してもよい。また、外部機器４００が広告用背景画像に相当する画像でつなぎ目領域Ｓを隠す処理をしておき、ＨＭＤシステム１００が広告画像を広告用背景画像上に合成する処理を行なってもよい。

＜視線情報収集＞
次に、動画コンテンツに合成する広告コンテンツＳＣ１の位置と、視線情報収集区画ＦＥとの関係について説明する。図１３は格子と広告コンテンツの位置との関係を説明する模式図である。制御回路部２００が動画コンテンツを再生するときに生成する仮想空間データには格子Ｇが関連付けられている。より詳細には仮想空間データの一部である雛形データに格子Ｇが関連付けられている。

視線情報収集区画ＦＥは、格子Ｇによって形成される区画のうちの一つであり、仮想空間２を構成する天球面の内の規定の箇所に設定されている。視線情報収集区画ＦＥには、ユーザの視線（視界方向または視線方向Ｎ０）が視線情報収集区画ＦＥと交わっているか否かを判定する機能が割り当てられている。より具体的には視線情報収集区画ＦＥは仮想空間データを生成するための雛形データに関連付けられている。当該雛形データを用いて仮想空間データを生成することで、仮想空間２中に視線情報収集区画ＦＥが設定される。仮にゲーム等のようにオブジェクトを配置することで仮想空間を提供する場合、オブジェクトに視線情報を収集する機能を持たせればよいため、当該オブジェクトに注目されたか否かを示す情報を収集することは容易である。しかし、オブジェクトを用いない動画コンテンツの場合には、視線の情報を収集することは困難である。しかし、本実施形態のように規定の区画に視線情報を収集するための機能を持たせることで、視線の情報を収集することが可能となる。

また、つなぎ目領域Ｓに視線情報収集区画ＦＥが重複するように雛形データを作成しておき、複数の動画コンテンツにおいて、当該雛形データを用いて仮想空間データを作成してもよい。動画コンテンツ毎に視線情報収集区画の位置を変更する必要が無いため、動画コンテンツが増えても広告に対する視線情報の収集を効率的に行うことができる。オブジェクトを使用しないか、又は、使用するとしても限られた数となるコンテンツにおいても、効率的に多くの動画コンテンツにて広告に対する注目を示す情報を収集することが容易となる。

次に、視線情報を収集する処理の流れを説明する。図１４は視線情報を収集する処理の流れを示す図である。まず、最初に動画コンテンツの再生が開始されると、Ｓ３０１において、コンテンツ管理部２３４は広告が表示される時間か否かを判断する。具体的には、コンテンツ管理部２３４は広告枠情報のうち時間的位置を示す情報を参照し、コンテンツ管理部２３４が再生している動画コンテンツの時間的位置と照合して、判断する。Ｓ３０１においてＮＯの場合、広告を表示する時間でない場合には、広告枠情報に含まれる時間的位置と、再生している動画コンテンツの時間的位置との照合を続ける。

Ｓ３０１においてＹＥＳの場合、Ｓ３０２において、視線管理部２３２は、視線方向Ｎ０が広告コンテンツＳＣ１を表示している箇所に対応する視線情報収集区画ＦＥと交わっているか否かを判定する。Ｓ３０２においてＮＯの場合、視線方向Ｎ０が当該視線情報収集区画ＦＥと交わっているか否かの判定を続ける。Ｓ３０２においてＹＥＳの場合、Ｓ３０３において視線方向Ｎ０が当該視線情報収集区画ＦＥと交わっている時間を計測する。計測が終わると、視線管理部２３２は、計測した時間と、どの時間的位置から計測を開始したかを示す情報と、計測対象がどの視線情報収集区画ＦＥであったかを示す情報とを互いに関連付けて視線情報を作成する。さらに、視線管理部２３２は、視線情報に視線情報収集区画ＦＥにどの広告コンテンツＳＣ１を合成したかを示す情報も関連付ける。なお、視線情報収集区画ＦＥにどの広告コンテンツＳＣ１を合成したかを示す情報は、上述したＳ２０３における動画コンテンツと広告コンテンツＳＣ１との合成を行なった後の任意のタイミングで、通信部２５０が外部機器４００に送信しておいてもよい。

Ｓ３０４において、通信部２５０は視線情報を外部機器４００に送信する。外部機器４００の管理者は、視線情報に基づいて、どの広告にどれくらいの時間、視線が向けられたかを把握することができる。また、動画コンテンツの内容に応じて、ユーザが広告に対して持った興味の度合いを評価することができる。例えば、ユーザが広告を見たシーンが、動画コンテンツにおける山場のシーン、および、盛り上がっているシーン等であれば、ユーザが当該広告に高い興味を示したと評価できる。また、例えば、ユーザが広告を見たシーンが、動画コンテンツにおける山場ではないシーン、および、盛り上がっていないシーン等であればユーザが当該広告に示した興味は高くないと評価できる。動画コンテンツ内の時間的位置と、山場であるか否か等のシーンの状況を示す情報とを関連付けておいてもよい。上述のユーザの興味の解析が容易となる。以上のように、本実施形態によれば、ヘッドマウントディスプレイにて再生する動画コンテンツ中の広告の効果を効率的に把握することができる。

〔ソフトウェアによる実現例〕
制御回路部２００の制御ブロック（検出部２１０、表示制御部２２０、仮想空間制御部２３０、記憶部２４０、および通信部２５０）は、集積回路（ＩＣチップ）等に形成された論理回路（ハードウェア）によって実現してもよいし、ＣＰＵ（Central Processing Unit）を用いてソフトウェアによって実現してもよい。

後者の場合、制御ブロックは、各機能を実現するソフトウェアであるプログラムの命令を実行するＣＰＵ、上記プログラムおよび各種データがコンピュータ（またはＣＰＵ）で読み取り可能に記録されたＲＯＭ（Read Only Memory）または記憶装置（これらを「記録媒体」と称する）、上記プログラムを展開するＲＡＭ（Random Access Memory）などを備えている。そして、コンピュータ（またはＣＰＵ）が上記プログラムを上記記録媒体から読み取って実行することにより、本発明の目的が達成される。上記記録媒体としては、「一時的でない有形の媒体」、例えば、テープ、ディスク、カード、半導体メモリ、プログラマブルな論理回路などを用いることができる。また、上記プログラムは、該プログラムを伝送可能な任意の伝送媒体（通信ネットワークや放送波等）を介して上記コンピュータに供給されてもよい。なお、本発明は、上記プログラムが電子的な伝送によって具現化された、搬送波に埋め込まれたデータ信号の形態でも実現され得る。

本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。

〔付記事項〕
本発明の一側面に係る内容を列記すると以下の通りである。

（項目１）ヘッドマウントディスプレイ（以下、ＨＭＤ）を装着したユーザに仮想空間を提供する方法であって、前記仮想空間に適合させて再生するための動画コンテンツの初期方向を特定するステップと、前記初期方向の水平方向における向きと前記ＨＭＤのロール方向の水平方向における向きとが一致するように前記仮想空間に前記動画コンテンツを適合させて再生するステップと、前記初期方向の後方側に、第１のサブコンテンツを表示するステップと、前記ＨＭＤの向きおよび傾きのうち少なくとも一方に応じて視野を更新するステップと、を含む方法。ヘッドマウントディスプレイにて動画コンテンツを再生する際に広告等の他のコンテンツを表示しても、ユーザの没入感に与える影響が少ない。

（項目２）前記初期方向の前方側に、第２のサブコンテンツをさらに表示するステップを含む、項目１の仮想空間を提供する方法。この方法によれば、第２のサブコンテンツとして、第１のサブコンテンツにユーザの視線を誘導する内容のものを表示することができる。よって、広告効果を高めることができる。

（項目３）前記第２のサブコンテンツは、前記第１のサブコンテンツの少なくとも一部を示す画像である項目２の方法。この方法によれば、効果的に第１のサブコンテンツにユーザの視線を誘導することができる。よって、広告効果を高めることができる。

（項目４）前記動画コンテンツには、前記第２のサブコンテンツを表示するための空間的位置及び時間的位置を含む枠情報が関連付けられており、前記枠情報を取得するステップをさらに含み、前記枠情報に基づいて、前記第２のサブコンテンツを表示する、項目２又は３の方法。動画コンテンツの作成者は、動画コンテンツにおいて表示される映像の中で第２のサブコンテンツを表示しても不自然ではない箇所を特定しておくことができるので、ユーザの没入感を損ねずに広告に視線誘導するためのコンテンツを表示することができる。

（項目５）前記第１のサブコンテンツは広告コンテンツであり、前記第２のサブコンテンツは前記動画コンテンツに登場する反射面に投影される画像である、項目４の方法。この方法によれば、ユーザの没入感を損ねることなく、効果的に第１のサブコンテンツにユーザの視線を誘導することができる。よって、広告効果を高めることができる。

（項目６）前記動画コンテンツを構成するフレームは、互いに異なる方向を向く複数の撮像素子によって撮影された画像であって、少なくとも一部が分離している画像をつなぎ合せて生成されており、前記視野更新ステップでは、前記第１のサブコンテンツを、前記画像のつなぎ目に重畳させて表示する、項目１〜５の方法。つなぎ目は画像が歪んでいたり表示されていなかったりする虞があるが、そのような場所を広告等の第１のサブコンテンツで隠すことができるのでユーザの没入感を損ねない。

（項目７）項目１〜６の方法の各ステップを、コンピュータに実行させるプログラム。

（項目８）項目７のプログラムを記録したコンピュータ読取可能な記録媒体。

１ 仮想カメラ、２ 仮想空間、５ 基準視線、２１ 中心、２２ 仮想空間画像、２３ 視界領域、２４ 第１領域、２５ 第２領域、２６ 視界画像、１００ ＨＭＤシステム、１１０ ＨＭＤ、１１２ ディスプレイ、１１４ センサ、１２０ ＨＭＤセンサ、１３０ 注視センサ、２００ 制御回路部、２１０ 検出部、２１１ ＨＭＤ検出部、２１２ 視線検出部、２１３ 操作受付部、２２０ 表示制御部、２２１ 仮想カメラ制御部、２２２ 視界領域決定部、２２３ 視界画像生成部、２３０ 仮想空間制御部、２３１ 仮想空間規定部、２３２ 視線管理部、２３３ コンテンツ特定部、２３４ コンテンツ管理部、２４０ 記憶部、２４１ 雛形格納部、２４２ コンテンツ格納部、２５０ 通信部、３００ コントローラ、４００ 外部機器、ＦＥ 視線情報収集区画、Ｇ 格子、Ｎ０ 視線方向、Ｎ１ 注視点、ＳＣ１、ＳＣ２ 広告コンテンツ、ｖ１、ｖ２ 視野画像

Claims (8)

1. ヘッドマウントディスプレイ（以下、ＨＭＤ）を装着したユーザに仮想空間を提供する方法であって、
   前記仮想空間に適合させて再生するための動画コンテンツの初期方向を特定するステップと、
   前記初期方向の水平方向における向きと前記ＨＭＤのロール方向の水平方向における向きとが一致するように前記仮想空間に前記動画コンテンツを適合させて再生するステップと、
   前記初期方向の後方側に、第１のサブコンテンツを表示するステップと、
   前記ＨＭＤの向きおよび傾きのうち少なくとも一方に応じて視野を更新するステップと、を含む方法。
2. 前記初期方向の前方側に、第２のサブコンテンツをさらに表示するステップを含む、請求項１に記載の方法。
3. 前記第２のサブコンテンツは、前記第１のサブコンテンツの少なくとも一部を示す画像である、請求項２に記載の方法。
4. 前記動画コンテンツには、前記第２のサブコンテンツを表示するための空間的位置及び時間的位置を含む枠情報が関連付けられており、
   前記枠情報を取得するステップをさらに含み、
   前記枠情報に基づいて、前記第２のサブコンテンツを表示する、請求項２または３に記載の方法。
5. 前記第１のサブコンテンツは広告コンテンツであり、前記第２のサブコンテンツは前記動画コンテンツに登場する反射面に投影される画像である、請求項４に記載の方法。
6. 前記動画コンテンツを構成するフレームは、互いに異なる方向を向く複数の撮像素子によって撮影された画像であって、少なくとも一部が分離している画像をつなぎ合せて生成されており、
   前記視野更新ステップでは、前記第１のサブコンテンツを、前記画像のつなぎ目に重畳させて表示する、請求項１〜５のいずれか１項に記載の方法。
7. 請求項１から６のいずれか１項に記載の方法の各ステップを、コンピュータに実行させるプログラム。
8. 請求項７に記載のプログラムを記録したコンピュータ読取可能な記録媒体。

Images