JP6543079B2 - コンテンツ視聴のための装置および方法、並びにコンテンツ視聴動作をコンピュータに制御させるコンピュータ・プログラム - Google Patents

コンテンツ視聴のための装置および方法、並びにコンテンツ視聴動作をコンピュータに制御させるコンピュータ・プログラム Download PDF

Info

Publication number
JP6543079B2
JP6543079B2 JP2015092702A JP2015092702A JP6543079B2 JP 6543079 B2 JP6543079 B2 JP 6543079B2 JP 2015092702 A JP2015092702 A JP 2015092702A JP 2015092702 A JP2015092702 A JP 2015092702A JP 6543079 B2 JP6543079 B2 JP 6543079B2
Authority
JP
Japan
Prior art keywords
content
moving image
hmd
virtual
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015092702A
Other languages
English (en)
Other versions
JP2016149735A5 (ja
JP2016149735A (ja
Inventor
功淳 馬場
功淳 馬場
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Colopl Inc
Original Assignee
Colopl Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Colopl Inc filed Critical Colopl Inc
Priority to JP2015092702A priority Critical patent/JP6543079B2/ja
Publication of JP2016149735A publication Critical patent/JP2016149735A/ja
Publication of JP2016149735A5 publication Critical patent/JP2016149735A5/ja
Application granted granted Critical
Publication of JP6543079B2 publication Critical patent/JP6543079B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本発明は、コンテンツ視聴のための装置および方法、並びにコンテンツ視聴動作をコンピュータに制御させるコンピュータ・プログラムに関するものである。より詳細には、ユーザの頭部に装着されるヘッドマウント・ディスプレイ(HMD)を用い、頭部を動かすことによる簡単なユーザ操作を通じて、ユーザが、視界内にある仮想ディスプレイのコンテンツを視聴可能とするための装置、方法およびコンピュータ・プログラムに関するものである。
ユーザの頭部に装着され、眼前に配置されたディスプレイ等によってユーザに仮想空間における画像を提示可能なHMDが知られる。特に、特許文献1に開示されるようなHMDでは、仮想空間に360度のパノラマ画像を表示可能である。このようなHMDは通例、各種センサ(例えば、加速度センサや角速度センサ)を備え、HMD本体の姿勢データを計測する。特に、頭部の回転角に関する情報に基づくことで、パノラマ画像の視線方向変更を可能にする。より詳細には、HMDを装着したユーザが頭部を回転させると、それに併せて360度のパノラマ画像の視線方向を変更することにより、ユーザに対し、映像世界への没入感を高め、エンタテインメント性を向上させる(特許文献1の段落〔0003〕,〔0033〕,〔0034〕および〔要約〕参照)。
加えて、特許文献1には、頭部の動きによるユーザ・ジェスチャとHMDでの画面の操作(例えば、表示画面切り替え)を予め関連付けておき、頭部の傾きや加速度に基づいてユーザのジェスチャを特定した際に、該ジェスチャに関連する画面操作を実施することが開示される。これにより、ユーザがHMD装着時に手元が見えないことに起因したコントローラ操作の不便性を解消する(同文献の段落〔0080〕〜〔0083〕参照)。
特開2013−258614号公報 しかしながら、特許文献1の上記開示は、センサにより取得される頭部動作の情報について、単に、パノラマ画像の視線方向特定のために、またはユーザ・ジェスチャの特定のために、使用しているに過ぎない。今後、HMDを使用した各種アプリケーションが数多く開発され、HMDがより広範に普及することが見込まれるが、その際に、頭部動作の情報は、上記に限られずアプリケーション起動中の様々な場面で適用されることが期待される。
その一例として、仮想空間に配置されたマルチ仮想ディスプレイをHMD上に表示するアプリケーションを想定する。特に、当該仮想ディスプレイが仮想テレビであり、仮想空間内でテレビ番組を放送し、HMDを装着したユーザが視聴するようなアプリケーションを想定する。ここでは、HMD本体の頭部動作を、現実世界のテレビ番組交代等のコントローラ(リモコン)操作全般をHMDの動作で代用させることが期待される。
特に、現実世界では、ユーザがテレビ番組を視聴する際、ユーザがリモコンを操作してチャンネルを切り替える所謂ザッピングを実施ことが多々ある一方で、ユーザがHMDを装着して仮想空間に没入している場合は、ユーザは手元を観察することができず、誤ったリモコンボタン操作を生じさせることになる。非透過型のHMDを使用することにより、ユーザが全視界を覆われるような場合には、ユーザは外界を全く観察することができないから尚更である。
そこで、本発明は、仮想空間に配置されたマルチ仮想ディスプレイをHMD上に表示するアプリケーションにおいて、従来のリモコン操作の代替としてHMDによる頭部動作を適用することを目的とする。特に、仮想空間のマルチ仮想テレビ環境内でテレビ番組を放送するアプリケーションにおいて、従来のリモコン操作によるザッピングをHMDの頭部動作で実施させることを目的とする。
(1)本発明のコンテンツ視聴のための装置は、仮想空間に配置された複数の仮想ディスプレイをヘッドマウント・ディスプレイに表示する表示部、ヘッドマウント・ディスプレイが具備する検出器で検出される動きに応じて、仮想ディスプレイの内1つを選択する選択部、該選択された仮想ディスプレイに関連付けられるコンテンツを再生する再生部、および、上記ヘッドマウント・ディスプレイに表示された複数の仮想ディスプレイにおいて、各々に関連付けられるコンテンツを同時に制限付きで再生する制限付き再生部を備えるものである。
そして、上記制限付き再生部において、コンテンツを制限付きで再生することが、オーディオ出力を無効化して動画コンテンツを再生することを含み、上記再生部において、前記コンテンツを再生することが、無効化された動画コンテンツのオーディオ出力を有効化することを含むことを特徴とする。
また、上記動画コンテンツが、テレビジョン受像機を通じて受信されるテレビ番組コンテンツであることを特徴とする。
加えて、本発明の装置は、上記再生されたコンテンツが所与の時間継続して再生されたかを判定する判定部、および、所与の時間継続して再生されたと判定された場合に、当該再生されているコンテンツを所定の位置に配置された仮想ディスプレイに関連付けられたコンテンツと入れ替えるコンテンツ入れ替え部を更に備えることを特徴とする。そして、上記検出器が角速度センサであり、上記検出された動きが傾きを含むことを特徴とする。
(2)本発明のコンテンツ視聴方法は、仮想空間に配置された複数の仮想ディスプレイ上で各々に関連付けられるコンテンツを制限付きで再生するステップ、仮想空間の視界に含まれ、コンテンツが制限付きで再生された複数の仮想ディスプレイをヘッドマウント・ディスプレイに表示するステップ、ヘッドマウント・ディスプレイの動きを検出するステップ、上記動きに応じて、仮想ディスプレイの内1つを選択するステップ、および、上記選択された仮想ディスプレイに関連付けられたコンテンツを再生するステップを含むものであり、上記コンテンツを制限付きで再生するステップが、オーディオ出力を無効化して動画コンテンツを再生することを含み、上記コンテンツを再生するステップが、無効化された動画コンテンツのオーディオ出力を有効化することを含むことを特徴とする。
また、本発明のコンテンツ視聴方法は、上記コンテンツを再生するステップでコンテンツを所与の時間継続して再生したかを判定するステップ、および、コンテンツが所与の時間継続して再生されたと判定された場合に、当該再生されているコンテンツを所定の位置に配置された仮想ディスプレイに関連付けられたコンテンツと入れ替えるステップを含み、特に、上記所定の位置が視界の中心部であることを特徴とする。
(3)本発明のコンテンツ視聴動作をコンピュータに制御させるコンピュータ・プログラムは、仮想空間に配置された複数の仮想ディスプレイにおいて、各々に関連付けられるコンテンツを制限付きで再生する制限付き再生部、仮想空間の視界に含まれ、コンテンツが制限付きで再生された複数の仮想ディスプレイをヘッドマウント・ディスプレイに表示する表示部、ヘッドマウント・ディスプレイに具備される検出器で検出される動きに応じて、仮想ディスプレイの内1つを選択する選択部、および、上記選択された仮想ディスプレイに関連付けられるコンテンツを再生する再生部としてコンピュータを機能させ、上記コンテンツを制限付きで再生することが、オーディオ出力を無効化して動画コンテンツを再生することを含み、上記コンテンツを再生することが、無効化された動画コンテンツのオーディオ出力を有効化することを含むことを特徴とするものである。
本発明によれば、HMDを装着したユーザの頭部の簡易な動作により、仮想空間におけるアプリケーションの所定の操作を実施可能とする。特に、マルチ仮想ディスプレイに対し、従来では考えられなかったザッピングの操作態様をユーザに提供することができる。より詳細には、ユーザの頭部の動きによる動作により、仮想空間に配置されたマルチ仮想ディスプレイに対して、何らのリモコン操作を必要とせずにユーザのザッピング操作を実現することができ、実世界とは異なる画面操作性をユーザに提供することができる。
この発明の上記の、及び他の特徴及び利点は、この発明の実施例の以下のより特定的な説明、添付の図面、及び請求の範囲から明らかになるであろう。
図1Aは、本発明の一実施例に従った、HMDシステムの概略図である。 図1Bは、本発明の他の実施例に従った、HMDシステムの概略図である。 図2は、図1Bで使用される赤外線センサによって検知される、HMD上に仮想的に設けられた複数の検知点の概要図である。 図3は、本発明の実施の態様による、HMDシステムのコンテンツ視聴処理を実装するための機能的構成のブロック図である。 図4は、本発明の実施の態様による、HMDを装着しているユーザの頭部を中心に規定される3次元空間上の直交座標系を示す。 図5Aは、本発明の実施の態様による、仮想空間におけるユーザと仮想ディスプレイの一配置例を示す立体概要図である。 図5Bは、本発明の実施の態様による、仮想空間におけるユーザと仮想ディスプレイの他の配置例を示す立体概要図である。 図6は、本発明の実施の態様による、仮想空間における仮想ディスプレイのコンテンツ表示例を示す一例の平面概要図である。 図7は、本発明の実施の態様による、仮想空間における仮想ディスプレイのコンテンツ表示例を示す他の例の平面概要図である。 図8は、本発明の実施の態様による、コンテンツ視聴部における機能的構成のブロック図である。 図9は、本発明の実施の態様による、コンテンツ視聴に関す処理の流れを示すフロー図である。 図10は、本発明の実施の態様による、コンテンツ視聴アプリケーションで実装された一例の画面イメージである。 図11は、本発明の実施の態様による、コンテンツ視聴アプリケーションで実装された他の例の画面イメージである。
以下、図面を参照して、本発明の実施の形態による、コンテンツ視聴のための装置および方法、並びにコンテンツ視聴動作をコンピュータに制御させるコンピュータ・プログラムについて説明する。図中、同一の構成要素には同一の符号を付してある。
図1Aは、本発明の第1実施例による、ヘッドマウント・ディスプレイ(以下、「HMD」と称する。)を用いたHMDシステム100の概略図である。図示のようにHMDシステム100は、ディスプレイ112およびセンサ114を搭載するHMD110、並びに制御回路部120を備える。HMD110が具備するディスプレイ112は、ユーザの視界を完全に覆うよう構成された非透過型の表示装置であり、ユーザはディスプレイ112に表示される画面のみを観察することができる。非透過型のHMD110を装着したユーザは、外界の視界を全て失うため、制御回路部120において実行されるアプリケーションにより表示される仮想空間に完全に没入することになる。
制御回路部120は、コンテンツ視聴装置として、HMD110内部に搭載してもよく、また、HMD110に搭載せずに別のハードウェア(例えば公知のパーソナルコンピュータ、ネットワークを通じたサーバ・コンピュータ)として構成してもよい。更に、制御回路部120は、コンテンツ視聴装置の全部または一部の機能のみを実装することができる。一部のみを実装した場合には、残りの機能をHMD110側、またはネットワークを通じたサーバ・コンピュータ(図示せず)側に実装してもよい。
HMD110が具備するセンサ114は、ディスプレイ112近辺に固定される。センサ114は、地磁気センサ、加速度センサ、および/または角速度(ジャイロ)センサを含み、これらの1つ以上を通じて、ユーザの頭部に装着されたHMD110(ディスプレイ112)の各種動きを検出することができる。特に角速度センサの場合には、HMD110の動きに応じて、HMD110の3軸回りの角速度を経時的に検出し、各軸回りの角度(傾き)の時間変化を決定することができる(図4において後述)。
図1Bは、本発明の第2実施例による、HMDシステム100’の概略図である。第1実施例の図1Aと比較すると、本実施例では、制御回路部120に通信可能に接続される赤外線センサ130を備える点で異なる。また、HMD110は図1Aのセンサ114を備えてもよいし、備えなくてもよい。赤外線センサ130はポジショントラッキング機能を有する。
図2に例示的に示すように、HMD110上に仮想的に設けられ、赤外線を検知する複数の検知点についての実空間内での位置をユーザの動きに対応して経時的に検出する。そして、赤外線センサ130により検出された実空間内での位置の経時的変化に基づいて、HMD110の動きに応じた各軸回りの角度の時間変化を決定することができる。
なお、図1Aおよび図1Bには図示していないが、HMD110はヘッドホン116を内蔵することができる。また、仮想空間内の仮想テレビにテレビ番組の放送を受信するために、HMDシステム100,100’はいずれかの要素にテレビジョン受像機115を具備することができる。また、HMD110のコントローラとして、ユーザにより保持される公知のスマートフォン等の携帯端末を使用できる。コントローラは制御回路部120に通信可能に接続することができる。
図3は、本発明の各実施例による、HMDシステム100/100’においてコンテンツ視聴処理を実施するために実装される上記制御回路装置120が有する主要機能のブロック図である。制御回路部120は、視界生成部210、動き検出部220およびコンテンツ視聴部230を備え、空間情報格納部250やコンテンツ情報格納部260等の各種テーブルと相互作用する。
視界生成部210は、空間情報格納部250に格納された3次元仮想空間情報、およびセンサ114/130から取得した視野方向の検出情報に基づいて、3次元仮想空間に没入したユーザから見える視界を生成する。当該視界は、360度パノラマ画像の一部とすることができる。
動き検出部220は、センサ114/130からの動き情報の入力に基づいて、ユーザの頭部に装着されたHMD110の動きデータを測定する。本発明の実施の形態では、特に、角速度(ジャイロ)センサにより経時的に検出された角度情報データを決定する。
ここで、図4を参照して、角度情報データについて説明する。図示のように、HMDを装着したユーザの頭部を中心として、XYZ座標を規定する。ユーザが直立する垂直方向をY軸とし、Y軸と直交しディスプレイ112の中心とユーザを結ぶ方向をZ軸とし、Y軸およびZ軸と直交する方向の軸をX軸とする。角速度(ジャイロ)センサでは、各軸回りの角度(即ち、Y軸を軸とした回転を示すヨー角、X軸を軸とした回転を示すピッチ角、Z軸を軸とした回転を示すロール角で決定される傾き)を検出し、その経時的な変化により、動き検出部220が視界情報として角度(傾き)情報データを決定する。
図3に戻り、コンテンツ視聴部230では、コンテンツ情報格納部260に格納されたコンテンツ情報および動き検出部220で決定した傾きの角度に基づいて、3次元仮想空間に配置した複数の仮想ディスプレイの内1つを特定し、そのコンテンツを再生して、ディスプレイ112およびヘッドホン116に出力する。なお、当該コンテンツは、静止画や動画、音声等、如何なる形式にもすることができる。特に、テレビジョン受像機115で受診したテレビ番組の動画コンテンツとするのがよい。
なお図3において、様々な処理を行う機能ブロックとして記載される各要素は、ハードウェア的には、CPU、メモリ、その他の集積回路で構成することができ、ソフトウェア的には、メモリにロードされた各種プログラムなどによって実現される。したがって、これらの機能ブロックがハードウェア、ソフトウェア、又はそれらの組み合わせによって実現できることが当業者に理解される(後記する図9についても同様である)。
これより図5A以降を参照して、上記コンテンツ視聴部230により実施されるコンテンツ視聴処理について説明する。図5Aおよび図5Bは、3次元仮想空間に没入したユーザ1と仮想ディスプレイ2の配置例をそれぞれ示す。点線で囲まれる各仮想ディスプレイ2は、全天球の球面3に設けられ、コンテンツA〜Iを表示している。そして、図6に示すように、ユーザ1の視界はコンテンツA〜Iの各ディスプレイが含まれ、ユーザ1は現在、頭部を回転させてHMDを傾けることにより、コンテンツAの方向を向いている(「×」印)。
ここで、図5Aと図5Bは、ユーザが球体の中心に位置するか、中心から離れて位置するかの点で異なる。なお、図5Aは、図1Aに示した第1実施例のHMDシステム100を採用した場合、図5Bは、図1Bの第2実施例のHMDシステム100’を採用した場合に相当する。つまり、図1Bの第2実施例のように赤外線センサ130によるポジショントラッキングを実施する場合は、球体の中心にユーザを位置する必要はなく、ユーザは、赤外線センサ130とHMD110の位置関係に基づいて、球体内の平面上を移動可能である。
図5Aおよび図5Bに示すように、3次元仮想空間の半径Rの全天球の球面3に複数の仮想ディスプレイが配置される。より詳細には、球面に沿うように複数の格子2が設けられ、当該格子上に9つ(3×3)の仮想ディスプレイ(仮想テレビ)が整列して配置されている。そして、ユーザの視野に含まれる全ての仮想ディスプレイに関連付けられたコンテンツ(コンテンツA〜I)が同時に制限付きで再生されている。
制限付きの再生とは、一例として、コンテンツが音声付きの映像である場合に、ビジュアル・コンテンツのみを再生し、オーディオ・コンテンツは無効化(ミュート)するような態様である。図示のように、HMDを装着したユーザには、9つの仮想テレビのコンテンツA〜Iのビジュアル・コンテンツが同時に見えている。
次いで、ユーザは、頭部を回転させ、即ちHMDを傾けることにより、上記9つの仮想テレビの内何れかを特定することができる。上記のように、図5Aおよび図5Bでは、左上の格子に配置された仮想テレビの方向にHMDを傾け、特定の方向を指向することにより、図6に示す格子#1(1)に配置された仮想テレビが特定されている。図6に示す「×」印はHMDが指向する上記格子上の点を示すが、実際にHMDに表示しても、非表示としても何れでもよい。
図6に示すように格子#1(1)の仮想テレビが特定され、該仮想テレビが太枠と網掛けで活性表示されると、そのコンテンツAが(制限なしで)再生される。即ち、現在、コンテンツAは、ビジュアル・コンテンツのみならず、オーディオ・コンテンツも再生されている状態となる。なお、その間コンテンツB〜Iは、引き続きビジュアル・コンテンツのみが制限付き再生されている。この状態で、ユーザが更に頭部を動かしてHMDを傾けることにより、別の仮想テレビ(例えば#3(3))が特定され活性表示された場合は、今度は、コンテンツAのオーディオ・コンテンツを無効化(ミュート)すると共にコンテンツIのオーディオ・コンテンツを再生する。
このように、ユーザは、装着したHMDを傾けて、何れかの仮想テレビを指向して特定することを通じて、オーディオ・コンテンツを逐次切り替えることができる。つまり、仮想空間に配置されたマルチ仮想ディスプレイに対するユーザのザッピング操作を、何らのリモコン操作を必要としない、HMDを傾ける動作のみによって実現可能となる。
本発明の実施の形態によれば、更に、ユーザが図6のコンテンツAを視聴した状態を一定時間継続した場合、図7の状態に移行させることができる。より詳細には、図示のように、コンテンツAを、ユーザの視界の中心部に相当する格子#2(2)の仮想ディスプレイ(メイン仮想ディスプレイ)での表示に移行する。その代わり、それまで格子#2(2)の仮想ディスプレイで制限付き再生されていたコンテンツEを格子#1(1)の仮想ディスプレイ(サブ仮想ディスプレイ)での表示に移行することにより、ビジュアル・コンテンツの入れ替えを行う。当然、オーディオ・コンテンツとしてはコンテンツAのものが再生される状態が維持される。当該移行処理は、一定時間視聴状態が継続されると、ユーザはザッピングから視聴動作に状態遷移しているものと想定でき、視界の中心部に視聴コンテンツを表示すべきであるという考察に基づく。
引き続き、ユーザが更に頭部を動かしてHMDを傾けることにより、別の仮想テレビ(例えば#3(3))が特定され活性表示された場合は、更に、メイン仮想ディスプレイ(格子#2(2))とサブ仮想ディスプレイ(#3(3))のコンテンツ入れ替えを実施する。その際、ビジュアル・コンテンツを入れ替えるのよりも先に、オーディオ・コンテンツを切り替えるのがよい。即ち、ビジュアル・コンテンツを入れ替えるのよりも先に、メイン仮想ディスプレイで再生しているコンテンツAのオーディオ・コンテンツを無効化(ミュート)すると共に、サブ仮想ディスプレイのコンテンツIのオーディオ・コンテンツを再生するように切り替えるのがよい。
代替として、オーディオ・コンテンツを切り替える際に、メイン仮想ディスプレイのコンテンツAのオーディオ・コンテンツをいきなり無効化(ミュート)することなく、メイン仮想ディスプレイのコンテンツAのオーディオ・コンテンツとサブ仮想ディスプレイのコンテンツIのオーディオ・コンテンツをそれぞれの音量を調整しながら同時再生するようにしてもよい。例えば、それぞれのオーディオ・コンテンツのボリューム比を所定の値となるように調整してもよく、または、時間経過と共にメイン仮想ディスプレイのコンテンツAのオーディオ・コンテンツをボリューム・ダウンすると共にサブ仮想ディスプレイのコンテンツIのオーディオ・コンテンツをボリューム・アップしてもよい。それ以外にも、例えば、メイン仮想ディスプレイとサブ仮想ディスプレイの配置関係にしたがって、それぞれのオーディオ・コンテンツの出力をヘッドホン115の右耳出力と左耳出力に対応付けてもよい。
上記図5A〜図7で説明してきたコンテンツ視聴に関する処理の詳細について、これより図8および図9を参照して説明する。図8は、図3で説明したコンテンツ視聴部230を構成する詳細な機能ブロック図である。一方、図9は、コンテンツ視聴処理に関する詳細なフロー図である。図8に示すように、コンテンツ視聴部230は、ビジュアル・コンテンツ(制限付きコンテンツ)再生部301およびオーディオ・コンテンツ再生部302を含むコンテンツ再生部300、仮想ディスプレイ選択部303、コンテンツ視聴判定部304、並びにコンテンツ入替部305を備える。
ビジュアル・コンテンツ再生部301は、HMDに表示された複数の仮想ディスプレイにおいて、各々に関連付けられるコンテンツについて、同時に、ビジュアル・コンテンツのみの制限付き再生を行う。特に、テレビジョン受像機を通じて受信されるテレビ番組の動画コンテンツに対し、オーディオ・コンテンツを無効化(即ち、ミュート)して、ビジュアル・コンテンツのみを再生する。
オーディオ・コンテンツ再生部302は、仮想ディスプレイ選択部303で選択される仮想ディスプレイに関連付けられ、ビジュアル・コンテンツ再生部301で無効化されたオーディオ・コンテンツを有効化することにより、コンテンツ全体を再生する。即ち、コンテンツ再生部300は、ビジュアル・コンテンツ再生部301で再生されている複数のオーディオ・コンテンツ、およびオーディオ・コンテンツ再生部302で再生されている1つのオーディオ・コンテンツを重畳させて、出力部306に出力し、ユーザに視聴させる。
仮想ディスプレイ選択部303では、HMDが具備するセンサ(114/130)で検出される動きに応じて、仮想ディスプレイの内1つを選択する。より詳細には、上述のように、センサは角速度センサとすることができ、検出されたHMDの動きが傾きを含む。そして、図5A〜図6のように、全天球の球面3上において、HMDの傾きおよび位置に従って、複数の格子2(#1(1)〜#3(3))の中から1つの格子を特定することにより、その格子上の仮想ディスプレイを選択する。
コンテンツ視聴判定部304は、オーディオ・コンテンツ再生部302において、有効化して再生されたオーディオ・コンテンツについて、ユーザが一定時間継続して視聴したかを判定する。即ち、そのコンテンツが所与の時間継続して再生されたかを判定する。コンテンツが所与の時間継続して再生されたということは、ユーザの動作がザッピングから視聴モードに移行ものと判定することを意味する。
その場合、コンテンツ入替部305において、再生されているコンテンツを所定の位置に配置された仮想ディスプレイに関連付けられたコンテンツと入れ替え、そして出力部306に出力する。特に、視界中心部に相当する格子上のディスプレイのコンテンツと入れ替えるとよい。最後に、出力部306では、仮想空間に配置された複数の仮想ディスプレイのビジュアル・コンテンツをHMDのディスプレイ112に、オーディオ・コンテンツはHMDのヘッドホン115に出力する。
次に図9に示すように、コンテンツ視聴に関する処理は、HMD110およびコンテンツ視聴装置120との間の相互作用によって実施される。最初にステップS201では、アプリケーション上でコンテンツ視聴モードをオンにして、仮想空間の視界を決定する。これにより、HMDを装着したユーザは図5A〜図6の状態となる。ステップS202では、視界内に配置されている(格子#1(1)〜#3(3)の)全ての仮想テレビのビジュアル・コンテンツをビジュアル・コンテンツ再生部301で制限付き再生して、出力部306に出力する。
ステップS101では、図6に示したように、HMD110は、出力部306に出力された視界内の全ての仮想テレビの再生されたビジュアル・コンテンツを表示する。ビジュアル・コンテンツが表示されている間、HMD110はまた、ステップS102においてセンサ114/130からHMDの動き情報を取得して、コンテンツ視聴装置120に当該情報を供給する。特に、角速度センサ114による頭部の回転(傾き)情報データおよび/または赤外線センサ130による仮想空間内の位置情報データを取得する。
動き情報を取得したコンテンツ視聴装置120では、ステップS203において、仮想ディスプレイ選択部303により、動き情報に基づいて、ターゲットとなる仮想ディスプレイを特定し選択する。
より詳細には、一例として、図4に示した角速度センサによる頭部の回転情報に含まれる、ヨー角、ピッチ角、およびロール角から決定されるHMDの傾きデータ、並びに任意で赤外線センサ130による仮想空間内の位置情報データを使用して、HMDの傾き方向(図5A,図5Bの矢印)のベクトルが半径Rの球体表面3と交わる交点の絶対位置座標を計算する。そして、計算した絶対位置座標が球体面のどの格子の領域にあるかを判断することによって、1つの格子が特定され、格子上のディスプレイが特定される。格子とディスプレイの関連付けは、例えば、コンテンツ情報格納部260にテーブルとして格納しておくのがよい。
ステップS203でターゲット仮想ディスプレイが特定されると、次いで、コンテンツ視聴装置120は、コンテンツ再生部300において当該ターゲット仮想ディスプレイのコンテンツを再生する。ここでは、オーディオ・コンテンツ再生部302においてステップS202では無効化されていたターゲット仮想ディスプレイのオーディオ・コンテンツを有効化して再生する。
ステップS204以降、HMD110では、ステップS103で継続的にHMDの動き情報を取得しコンテンツ視聴装置に供給する。一方、コンテンツ視聴装置120では、ステップS205で、コンテンツ視聴判定部304においてどれくらいの時間、ターゲット仮想ディスプレイのコンテンツが継続再生されたかをモニタすると共に、所定の時間にわたり継続再生されたかを判定する。所定の時間継続して再生された場合には、ステップS206で、ユーザの動作がザッピングから視聴モードに移行したものと判定して、ターゲット仮想ディスプレイのコンテンツをメイン仮想ディスプレイに表示すべく、ターゲット仮想ディスプレイのコンテンツと、視界の中心に相当する球面3上の格子のメイン仮想ディスプレイのコンテンツとを入れ替える(図7も参照)。
なお、メイン仮想ディスプレイは、図7の例に限定されない。例えば、視界の中心を含む複数の格子(例えば4つ)を用いて、メイン仮想ディスプレイの配置領域として構成してもよい。また、ステップS206の移行処理では、ターゲット仮想ディスプレイとメイン仮想ディスプレイの各コンテンツを入れ替える処理に限定されない。例えば、図6に示す格子#1(1)と#2(2)以外の格子のコンテンツについても入れ替えを行ったり、順にスライドさせたり、回転させたりしてもよい。
画面表示例
上記を踏まえて、図10および図11に、本発明の実施の態様に基づいて実装された、HMDに表示される画面例を示す。図10では、3次元仮想空間上に6つの仮想ディスプレイが「一覧モード」として表示され、そして、各仮想ディスプレイにおいてビジュアル・コンテンツが制限付き再生されている。
この状態では、HMDは、下行中心の仮想ディスプレイ方向を指向しており、これをターゲット仮想ディスプレイとして選択している。一定時間、当該ターゲット仮想ディスプレイに対してHMDの傾きを維持すると、図11の「視聴モード」画面への切り替えが実施され、ターゲット仮想ディスプレイが、中央のメイン・ディスプレイ部分に移行され、そのコンテンツが大きく表示されると共に、オーディオ・コンテンツも再生される。「視聴モード」画面では、メイン・ディスプレイ以外のコンテンツは、メイン部の周辺のサブ・ディスプレイ部分に配置され、コンテンツがサブ仮想ディスプレイとして制限付き再生され表示される。ユーザがHMDを更に傾けて、サブ・ディスプレイのいずれかを指向し、一定時間経過した場合には、今度は、指向したサブ・ディスプレイのコンテンツがメイン・ディスプレイのコンテンツと入れ替わることになる。
このように、ユーザは、装着したHMDを何れかの仮想ディスプレイを指向するように傾けることで、1つの仮想ディスプレイを特定することにより、オーディオ・コンテンツを逐次切り替えることができる。つまり、仮想空間に配置されたマルチ仮想ディスプレイに対するユーザのザッピングを、何らのリモコン操作を必要とせず、HMDを傾ける動作のみにより実現することができ、実世界とは異なる画面操作性をユーザに提供することができる。
以上、本発明の実施の形態について説明したが、本発明は上記実施形態に限定されるものではない。前述の請求項に記載されるこの発明の精神及び範囲から逸脱することなく、様々な実施形態の変更がなされ得ることを当業者は理解するであろう。
1 仮想空間没入ユーザ
2 格子
3 球面
100,100’ HMDシステム
110 HMD
112 ディスプレイ
114 センサ
115 テレビジョン受像機
116 ヘッドホン
120 制御回路部
130 赤外線センサ
210 視界生成部
220 動き検出部
230 コンテンツ視聴部
250 空間情報格納部
260 コンテンツ情報格納部
300 コンテンツ再生部
301 ビジュアル・コンテンツ再生部
302 オーディオ・コンテンツ再生部
303 仮想ディスプレイ選択部
304 コンテンツ視聴判定部
305 コンテンツ入替部
306 出力部

Claims (5)

  1. 3次元仮想空間に配置された複数の動画コンテンツをヘッドマウント・ディスプレイに表示するステップと、
    前記ヘッドマウント・ディスプレイ動きに応じて、前記複数の動画コンテンツの内1つを選択するステップと、
    前記選択された動画コンテンツを、オーディオ出力を有効化して再生するステップ
    前記複数の動画コンテンツの内選択されていない動画コンテンツの各々を、オーディオ出力を無効化して再生するステップ
    コンピュータに実行させ、
    前記複数の動画コンテンツは、少なくとも2以上の動画コンテンツの全体が前記ヘッドマウント・ディスプレイに表示できるように前記3次元仮想空間に配置されている、プログラム。
  2. 請求項1記載のプログラムであって、更に、
    前記選択された動画コンテンツが、所定の時間継続して再生されたかを判定するステップと、
    前記所定の時間継続して再生されたと判定された場合に、前記選択された動画コンテンツを、前記3次元仮想空間内の所定の位置に配置された他の動画コンテンツと入れ替えるステップと、
    を前記コンピュータに実行させる、プログラム。
  3. 請求項1または2記載のプログラムにおいて、
    前記複数の動画コンテンツが、前記3次元仮想空間において球面に沿うように設けた格子に関連付けて配置されており、
    前記選択するステップにおいて、前記動きに応じて前記格子が特定されることにより、前記格子に関連づけられた動画コンテンツが選択される、プログラム。
  4. 3次元仮想空間に配置された複数の動画コンテンツをヘッドマウント・ディスプレイに表示するステップと、
    前記ヘッドマウント・ディスプレイの動きに応じて、前記複数の動画コンテンツの内1つを選択するステップと、
    前記選択された動画コンテンツを、オーディオ出力を有効化して再生するステップと、
    前記複数の動画コンテンツの内選択されていない動画コンテンツの各々を、オーディオ出力を無効化して再生するステップと、
    を含み、
    前記複数の動画コンテンツは、少なくとも2以上の動画コンテンツの全体が前記ヘッドマウント・ディスプレイに表示できるように前記3次元仮想空間に配置されている、方法。
  5. 3次元仮想空間に配置された複数の動画コンテンツをヘッドマウント・ディスプレイに表示する表示部と、
    前記ヘッドマウント・ディスプレイの動きに応じて、前記複数の動画コンテンツの内1つを選択する選択部と、
    前記選択された動画コンテンツを、オーディオ出力を有効化して再生する第1再生部と、
    前記複数の動画コンテンツの内選択されていない動画コンテンツの各々を、オーディオ出力を無効化して再生する第2再生部と、
    を備え、
    前記複数の動画コンテンツは、少なくとも2以上の動画コンテンツの全体が前記ヘッドマウント・ディスプレイに表示できるように前記3次元仮想空間に配置されている、装置。
JP2015092702A 2015-04-30 2015-04-30 コンテンツ視聴のための装置および方法、並びにコンテンツ視聴動作をコンピュータに制御させるコンピュータ・プログラム Active JP6543079B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015092702A JP6543079B2 (ja) 2015-04-30 2015-04-30 コンテンツ視聴のための装置および方法、並びにコンテンツ視聴動作をコンピュータに制御させるコンピュータ・プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015092702A JP6543079B2 (ja) 2015-04-30 2015-04-30 コンテンツ視聴のための装置および方法、並びにコンテンツ視聴動作をコンピュータに制御させるコンピュータ・プログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2015025469A Division JP5961291B1 (ja) 2015-02-12 2015-02-12 コンテンツ視聴のための装置および方法、並びにコンテンツ視聴動作をコンピュータに制御させるコンピュータ・プログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2019110070A Division JP2019197554A (ja) 2019-06-13 2019-06-13 コンテンツ視聴のための装置および方法、並びにコンテンツ視聴動作をコンピュータに制御させるコンピュータ・プログラム

Publications (3)

Publication Number Publication Date
JP2016149735A JP2016149735A (ja) 2016-08-18
JP2016149735A5 JP2016149735A5 (ja) 2018-03-29
JP6543079B2 true JP6543079B2 (ja) 2019-07-10

Family

ID=56691802

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015092702A Active JP6543079B2 (ja) 2015-04-30 2015-04-30 コンテンツ視聴のための装置および方法、並びにコンテンツ視聴動作をコンピュータに制御させるコンピュータ・プログラム

Country Status (1)

Country Link
JP (1) JP6543079B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10665206B2 (en) 2018-07-30 2020-05-26 Honeywell International Inc. Method and system for user-related multi-screen solution for augmented reality for use in performing maintenance

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05113864A (ja) * 1991-10-22 1993-05-07 Canon Inc マルチウインドウ動画表示方法及び装置
JP4927631B2 (ja) * 2006-06-27 2012-05-09 パナソニック株式会社 表示装置、その制御方法、プログラム、記録媒体および集積回路
JP5125779B2 (ja) * 2008-06-04 2013-01-23 株式会社ニコン ヘッドマウントディスプレイ装置
JP5657920B2 (ja) * 2010-06-03 2015-01-21 株式会社東芝 放送受信装置、放送受信方法、映像表示装置

Also Published As

Publication number Publication date
JP2016149735A (ja) 2016-08-18

Similar Documents

Publication Publication Date Title
WO2016129549A1 (ja) ヘッドマウント・ディスプレイを用いたコンテンツ視聴のための装置およびシステム
EP3396511B1 (en) Information processing device and operation reception method
US10620791B2 (en) Information processing apparatus and operation reception method
US11030771B2 (en) Information processing apparatus and image generating method
TWI571130B (zh) 體積式視訊呈現
US9858643B2 (en) Image generating device, image generating method, and program
US20190219824A1 (en) Information processing apparatus and image generating method
JP5961291B1 (ja) コンテンツ視聴のための装置および方法、並びにコンテンツ視聴動作をコンピュータに制御させるコンピュータ・プログラム
US11061466B2 (en) Apparatus and associated methods for presenting sensory scenes
JP7005161B2 (ja) 電子機器及びその制御方法
JP2017021680A (ja) ヘッドマウントディスプレイ制御方法、および、ヘッドマウントディスプレイ制御プログラム
JP5882517B1 (ja) ヘッドマウント・ディスプレイを用いたコンテンツ視聴システム
KR20190026267A (ko) 전자장치, 그 제어방법 및 그 컴퓨터프로그램제품
JP2007299330A (ja) 画像表示装置、その制御方法及びプログラム
JP2017021824A (ja) ヘッドマウントディスプレイ制御方法、および、ヘッドマウントディスプレイ制御プログラム
JP6543079B2 (ja) コンテンツ視聴のための装置および方法、並びにコンテンツ視聴動作をコンピュータに制御させるコンピュータ・プログラム
US20200160600A1 (en) Methods, Apparatus, Systems, Computer Programs for Enabling Consumption of Virtual Content for Mediated Reality
JP2016225967A (ja) ヘッドマウント・ディスプレイを用いたコンテンツ視聴システム
JP2019197554A (ja) コンテンツ視聴のための装置および方法、並びにコンテンツ視聴動作をコンピュータに制御させるコンピュータ・プログラム
JP2008041013A (ja) 画像表示制御装置、画像表示方法及びプログラム
JP2016165153A (ja) コンテンツ視聴のための装置および方法、並びにコンテンツ視聴動作をコンピュータに制御させるコンピュータ・プログラム
US11783449B2 (en) Method for adjusting displayed content based on host posture, host, and computer readable storage medium
US11647350B2 (en) Audio processing
WO2023238264A1 (ja) 情報表示装置およびその表示方法
WO2023242981A1 (ja) ヘッドマウントディスプレイ、ヘッドマウントディスプレイシステム、および、ヘッドマウントディスプレイの表示方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180209

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180209

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181018

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181127

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190122

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190516

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190614

R150 Certificate of patent or registration of utility model

Ref document number: 6543079

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250