JP2020042357A - プログラム、情報処理装置、および方法 - Google Patents

プログラム、情報処理装置、および方法 Download PDF

Info

Publication number
JP2020042357A
JP2020042357A JP2018167159A JP2018167159A JP2020042357A JP 2020042357 A JP2020042357 A JP 2020042357A JP 2018167159 A JP2018167159 A JP 2018167159A JP 2018167159 A JP2018167159 A JP 2018167159A JP 2020042357 A JP2020042357 A JP 2020042357A
Authority
JP
Japan
Prior art keywords
user
viewer
hmd
processor
subject
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018167159A
Other languages
English (en)
Other versions
JP6791920B2 (ja
Inventor
一晃 澤木
Kazuaki Sawaki
一晃 澤木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Colopl Inc
Original Assignee
Colopl Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Colopl Inc filed Critical Colopl Inc
Priority to JP2018167159A priority Critical patent/JP6791920B2/ja
Publication of JP2020042357A publication Critical patent/JP2020042357A/ja
Application granted granted Critical
Publication of JP6791920B2 publication Critical patent/JP6791920B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

【課題】ライブストリーミング映像の配信における、視聴者と被写体とのインタラクションに関し、興趣性を向上させる。【解決手段】プロセッサ(610)は、映像の配信中に複数のユーザ(5)それぞれが入力した入札情報に基づいて、落札対象となる第1視聴者を特定する。プロセッサ(610)は、第1視聴者を落札者として確定させる処理の実行に応じて、映像の配信中に、第1視聴者に特化したインタラクションを演者(1852)に行わせる権利を第1視聴者に付与する。【選択図】図20

Description

本発明はプログラム、情報処理装置、および方法に関する。
特許文献1には、ライブストリーミング映像の配信中に、視聴者が購入したアイテムを表示画面上の自由な位置に配置するとともに、視聴者が入力したコメントを該アイテムの近傍に表示する技術が開示されている。映像の被写体(配信者)は、該アイテムおよびコメントに応答することにより、視聴者と配信者とのインタラクションが実現される。
特開2012−120098号公報
従来の技術には、ライブストリーミング映像の配信における、視聴者と被写体とのインタラクションに関し、興趣性を向上させる余地がある。
本発明の一態様は、ライブストリーミング映像の配信における、視聴者と被写体とのインタラクションに関し、興趣性を向上させることを目的とする。
本発明の一態様によれば、プロセッサを備えたコンピュータによって実行されるプログラムが提供される。プログラムは、プロセッサに、被写体を撮影した映像を複数の視聴者に配信するステップと、映像の配信中に複数の視聴者それぞれが入力した入札情報を取得するステップと、取得した入札情報に基づいて、落札対象となる第1視聴者を特定するステップと、第1視聴者を落札者として確定させる処理を実行するステップと、落札者として確定させる処理が実行されたことに応じて、映像の配信中に、第1視聴者に特化したインタラクションを被写体に行わせる権利を第1視聴者に付与するステップと、を実行させる。
本発明の一態様によれば、生配信における興趣性を向上させることができる。
ある実施の形態に従うHMDシステムの構成の概略を表す図である。 ある実施の形態に従うコンピュータのハードウェア構成の一例を表すブロック図である。 ある実施の形態に従うHMDに設定されるuvw視野座標系を概念的に表す図である。 ある実施の形態に従う仮想空間を表現する一態様を概念的に表す図である。 ある実施の形態に従うHMDを装着するユーザの頭部を上から表した図である。 仮想空間において視界領域をX方向から見たYZ断面を表す図である。 仮想空間において視界領域をY方向から見たXZ断面を表す図である。 ある実施の形態に従うコントローラの概略構成を表す図である。 ある実施の形態に従うユーザの右手に対して規定されるヨー、ロール、ピッチの各方向の一例を示す図である。 ある実施の形態に従うサーバのハードウェア構成の一例を表すブロック図である。 ある実施の形態に従うコンピュータをモジュール構成として表わすブロック図である。 ある実施の形態に従うHMDセットにおいて実行される処理の一部を表すシーケンスチャートである。 ネットワークにおいて、各HMDがユーザに仮想空間を提供する状況を表す模式図である。 図12(A)におけるユーザ5Aの視界画像を示す図である。 ある実施の形態に従うHMDシステムにおいて実行する処理を示すシーケンス図である。 ある実施の形態に従うコンピュータのモジュールの詳細構成を表わすブロック図である。 ある実施の形態に従う映像配信システムの構成の概略を示す図である。 ある実施の形態に従うカメラの視野を説明するための図である。 ある実施の形態に従うカメラのハードウェア構成の一例を表すブロック図である。 映像配信システムを用いた被写体の撮影の一例を示す図である。 ある実施の形態に従うサーバのモジュールの詳細構成を表すブロック図である。 ある実施の形態に従うサーバおよびHMDセットにおいて実行される処理の一部を示すシーケンス図である。 ある実施の形態に従う仮想空間および視界画像を示す図である。 ある実施の形態に従う仮想空間および視界画像を示す図である。 ある実施の形態に従う仮想空間および視界画像を示す図である。 ある実施の形態に従う仮想空間および視界画像を示す図である。 ある実施の形態に従う仮想空間および視界画像を示す図である。 ある実施の形態に従う表示装置に表示される画像を示す図である。
以下、この技術的思想の実施の形態について図面を参照しながら詳細に説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。本開示において示される1以上の実施形態において、各実施形態が含む要素を互いに組み合わせることができ、かつ、当該組み合わせられた結果物も本開示が示す実施形態の一部をなすものとする。
[HMDシステムの構成]
図1を参照して、HMD(Head-Mounted Device)システム100の構成について説明する。図1は、本実施の形態に従うHMDシステム100の構成の概略を表す図である。HMDシステム100は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。
HMDシステム100は、サーバ600と、HMDセット110A,110B,110C,110Dと、外部機器700と、ネットワーク2とを含む。HMDセット110A,110B,110C,110Dの各々は、ネットワーク2を介してサーバ600や外部機器700と通信可能に構成される。以下、HMDセット110A,110B,110C,110Dを総称して、HMDセット110とも言う。HMDシステム100を構成するHMDセット110の数は、4つに限られず、3つ以下でも、5つ以上でもよい。HMDセット110は、HMD120と、コンピュータ200と、HMDセンサ410と、ディスプレイ430と、コントローラ300とを備える。HMD120は、モニタ130と、注視センサ140と、第1カメラ150と、第2カメラ160と、マイク170と、スピーカ180とを含む。コントローラ300は、モーションセンサ420を含み得る。
ある局面において、コンピュータ200は、インターネットその他のネットワーク2に接続可能であり、ネットワーク2に接続されているサーバ600その他のコンピュータと通信可能である。その他のコンピュータとしては、例えば、他のHMDセット110のコンピュータや外部機器700が挙げられる。別の局面において、HMD120は、HMDセンサ410の代わりに、センサ190を含み得る。
HMD120は、ユーザ5の頭部に装着され、動作中に仮想空間をユーザ5に提供し得る。より具体的には、HMD120は、右目用の画像および左目用の画像をモニタ130にそれぞれ表示する。ユーザ5の各目がそれぞれの画像を視認すると、ユーザ5は、両目の視差に基づき当該画像を3次元画像として認識し得る。HMD120は、モニタを備える所謂ヘッドマウントディスプレイと、スマートフォンその他のモニタを有する端末を装着可能なヘッドマウント機器のいずれをも含み得る。
モニタ130は、例えば、非透過型の表示装置として実現される。ある局面において、モニタ130は、ユーザ5の両目の前方に位置するようにHMD120の本体に配置されている。したがって、ユーザ5は、モニタ130に表示される3次元画像を視認すると、仮想空間に没入することができる。ある局面において、仮想空間は、例えば、背景、ユーザ5が操作可能なオブジェクト、ユーザ5が選択可能なメニューの画像を含む。ある局面において、モニタ130は、所謂スマートフォンその他の情報表示端末が備える液晶モニタまたは有機EL(Electro Luminescence)モニタとして実現され得る。
別の局面において、モニタ130は、透過型の表示装置として実現され得る。この場合、HMD120は、図1に示されるようにユーザ5の目を覆う密閉型ではなく、メガネ型のような開放型であり得る。透過型のモニタ130は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可能であってもよい。モニタ130は、仮想空間を構成する画像の一部と、現実空間とを同時に表示する構成を含んでいてもよい。例えば、モニタ130は、HMD120に搭載されたカメラで撮影した現実空間の画像を表示してもよいし、一部の透過率を高く設定することにより現実空間を視認可能にしてもよい。
ある局面において、モニタ130は、右目用の画像を表示するためのサブモニタと、左目用の画像を表示するためのサブモニタとを含み得る。別の局面において、モニタ130は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、モニタ130は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。
ある局面において、HMD120は、図示せぬ複数の光源を含む。各光源は例えば、赤外線を発するLED(Light Emitting Diode)により実現される。HMDセンサ410は、HMD120の動きを検出するためのポジショントラッキング機能を有する。より具体的には、HMDセンサ410は、HMD120が発する複数の赤外線を読み取り、現実空間内におけるHMD120の位置および傾きを検出する。
別の局面において、HMDセンサ410は、カメラにより実現されてもよい。この場合、HMDセンサ410は、カメラから出力されるHMD120の画像情報を用いて、画像解析処理を実行することにより、HMD120の位置および傾きを検出することができる。
別の局面において、HMD120は、位置検出器として、HMDセンサ410の代わりに、あるいはHMDセンサ410に加えてセンサ190を備えてもよい。HMD120は、センサ190を用いて、HMD120自身の位置および傾きを検出し得る。例えば、センサ190が角速度センサ、地磁気センサ、あるいは加速度センサである場合、HMD120は、HMDセンサ410の代わりに、これらの各センサのいずれかを用いて、自身の位置および傾きを検出し得る。一例として、センサ190が角速度センサである場合、角速度センサは、現実空間におけるHMD120の3軸周りの角速度を経時的に検出する。HMD120は、各角速度に基づいて、HMD120の3軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、HMD120の傾きを算出する。
注視センサ140は、ユーザ5の右目および左目の視線が向けられる方向を検出する。つまり、注視センサ140は、ユーザ5の視線を検出する。視線の方向の検出は、例えば、公知のアイトラッキング機能によって実現される。注視センサ140は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ140は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ140は、例えば、ユーザ5の右目および左目に赤外線を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ140は、検出した各回転角に基づいて、ユーザ5の視線を検知することができる。
第1カメラ150は、ユーザ5の顔の下部を撮影する。より具体的には、第1カメラ150は、ユーザ5の鼻および口などを撮影する。第2カメラ160は、ユーザ5の目および眉などを撮影する。HMD120のユーザ5側の筐体をHMD120の内側、HMD120のユーザ5とは逆側の筐体をHMD120の外側と定義する。ある局面において、第1カメラ150は、HMD120の外側に配置され、第2カメラ160は、HMD120の内側に配置され得る。第1カメラ150および第2カメラ160が生成した画像は、コンピュータ200に入力される。別の局面において、第1カメラ150と第2カメラ160とを1台のカメラとして実現し、この1台のカメラでユーザ5の顔を撮影するようにしてもよい。
マイク170は、ユーザ5の発話を音声信号(電気信号)に変換してコンピュータ200に出力する。スピーカ180は、音声信号を音声に変換してユーザ5に出力する。別の局面において、HMD120は、スピーカ180に替えてイヤホンを含み得る。
コントローラ300は、有線または無線によりコンピュータ200に接続されている。コントローラ300は、ユーザ5からコンピュータ200への命令の入力を受け付ける。ある局面において、コントローラ300は、ユーザ5によって把持可能に構成される。別の局面において、コントローラ300は、ユーザ5の身体あるいは衣類の一部に装着可能に構成される。さらに別の局面において、コントローラ300は、コンピュータ200から送信される信号に基づいて、振動、音、光のうちの少なくともいずれかを出力するように構成されてもよい。さらに別の局面において、コントローラ300は、ユーザ5から、仮想空間に配置されるオブジェクトの位置や動きを制御するための操作を受け付ける。
ある局面において、コントローラ300は、複数の光源を含む。各光源は例えば、赤外線を発するLEDにより実現される。HMDセンサ410は、ポジショントラッキング機能を有する。この場合、HMDセンサ410は、コントローラ300が発する複数の赤外線を読み取り、現実空間内におけるコントローラ300の位置および傾きを検出する。別の局面において、HMDセンサ410は、カメラにより実現されてもよい。この場合、HMDセンサ410は、カメラから出力されるコントローラ300の画像情報を用いて、画像解析処理を実行することにより、コントローラ300の位置および傾きを検出することができる。
モーションセンサ420は、ある局面において、ユーザ5の手に取り付けられて、ユーザ5の手の動きを検出する。例えば、モーションセンサ420は、手の回転速度、回転数等を検出する。検出された信号は、コンピュータ200に送られる。モーションセンサ420は、例えば、コントローラ300に設けられている。ある局面において、モーションセンサ420は、例えば、ユーザ5に把持可能に構成されたコントローラ300に設けられている。別の局面において、現実空間における安全のため、コントローラ300は、手袋型のようにユーザ5の手に装着されることにより容易に飛んで行かないものに装着される。さらに別の局面において、ユーザ5に装着されないセンサがユーザ5の手の動きを検出してもよい。例えば、ユーザ5を撮影するカメラの信号が、ユーザ5の動作を表わす信号として、コンピュータ200に入力されてもよい。モーションセンサ420とコンピュータ200とは、一例として、無線により互いに接続される。無線の場合、通信形態は特に限られず、例えば、Bluetooth(登録商標)その他の公知の通信手法が用いられる。
ディスプレイ430は、モニタ130に表示されている画像と同様の画像を表示する。これにより、HMD120を装着しているユーザ5以外のユーザにも当該ユーザ5と同様の画像を視聴させることができる。ディスプレイ430に表示される画像は、3次元画像である必要はなく、右目用の画像や左目用の画像であってもよい。ディスプレイ430としては、例えば、液晶ディスプレイや有機ELモニタなどが挙げられる。
サーバ600は、コンピュータ200にプログラムを送信し得る。別の局面において、サーバ600は、他のユーザによって使用されるHMD120に仮想現実を提供するための他のコンピュータ200と通信し得る。例えば、アミューズメント施設において、複数のユーザが参加型のゲームを行なう場合、各コンピュータ200は、各ユーザの動作に基づく信号をサーバ600を介して他のコンピュータ200と通信して、同じ仮想空間において複数のユーザが共通のゲームを楽しむことを可能にする。各コンピュータ200は、各ユーザの動作に基づく信号をサーバ600を介さずに他のコンピュータ200と通信するようにしてもよい。
外部機器700は、コンピュータ200と通信可能な機器であればどのような機器であってもよい。外部機器700は、例えば、ネットワーク2を介してコンピュータ200と通信可能な機器であってもよいし、近距離無線通信や有線接続によりコンピュータ200と直接通信可能な機器であってもよい。外部機器700としては、例えば、スマートデバイス、PC(Personal Computer)、及びコンピュータ200の周辺機器などが挙げられるが、これらに限定されるものではない。
[コンピュータのハードウェア構成]
図2を参照して、本実施の形態に係るコンピュータ200について説明する。図2は、本実施の形態に従うコンピュータ200のハードウェア構成の一例を表すブロック図である。コンピュータ200は、主たる構成要素として、プロセッサ210と、メモリ220と、ストレージ230と、入出力インターフェイス240と、通信インターフェイス250とを備える。各構成要素は、それぞれ、バス260に接続されている。
プロセッサ210は、コンピュータ200に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ220またはストレージ230に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ210は、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、MPU(Micro Processor Unit)、FPGA(Field-Programmable Gate Array)その他のデバイスとして実現される。
メモリ220は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ230からロードされる。データは、コンピュータ200に入力されたデータと、プロセッサ210によって生成されたデータとを含む。ある局面において、メモリ220は、RAM(Random Access Memory)その他の揮発メモリとして実現される。
ストレージ230は、プログラムおよびデータを永続的に保持する。ストレージ230は、例えば、ROM(Read-Only Memory)、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ230に格納されるプログラムは、HMDシステム100において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、他のコンピュータ200との通信を実現するためのプログラムを含む。ストレージ230に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含む。
別の局面において、ストレージ230は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、コンピュータ200に内蔵されたストレージ230の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のHMDシステム100が使用される場面において、プログラムやデータの更新を一括して行なうことが可能になる。
入出力インターフェイス240は、HMD120、HMDセンサ410、モーションセンサ420およびディスプレイ430との間で信号を通信する。HMD120に含まれるモニタ130,注視センサ140,第1カメラ150,第2カメラ160,マイク170およびスピーカ180は、HMD120の入出力インターフェイス240を介してコンピュータ200との通信を行ない得る。ある局面において、入出力インターフェイス240は、USB(Universal Serial Bus)、DVI(Digital Visual Interface)、HDMI(登録商標)(High-Definition Multimedia Interface)その他の端子を用いて実現される。入出力インターフェイス240は上述のものに限られない。
ある局面において、入出力インターフェイス240は、さらに、コントローラ300と通信し得る。例えば、入出力インターフェイス240は、コントローラ300およびモーションセンサ420から出力された信号の入力を受ける。別の局面において、入出力インターフェイス240は、プロセッサ210から出力された命令を、コントローラ300に送る。当該命令は、振動、音声出力、発光等をコントローラ300に指示する。コントローラ300は、当該命令を受信すると、その命令に応じて、振動、音声出力または発光のいずれかを実行する。
通信インターフェイス250は、ネットワーク2に接続されて、ネットワーク2に接続されている他のコンピュータ(例えば、サーバ600)と通信する。ある局面において、通信インターフェイス250は、例えば、LAN(Local Area Network)その他の有線通信インターフェイス、あるいは、WiFi(Wireless Fidelity)、Bluetooth(登録商標)、NFC(Near Field Communication)その他の無線通信インターフェイスとして実現される。通信インターフェイス250は上述のものに限られない。
ある局面において、プロセッサ210は、ストレージ230にアクセスし、ストレージ230に格納されている1つ以上のプログラムをメモリ220にロードし、当該プログラムに含まれる一連の命令を実行する。当該1つ以上のプログラムは、コンピュータ200のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ210は、入出力インターフェイス240を介して、仮想空間を提供するための信号をHMD120に送る。HMD120は、その信号に基づいてモニタ130に映像を表示する。
図2に示される例では、コンピュータ200は、HMD120の外部に設けられる構成が示されているが、別の局面において、コンピュータ200は、HMD120に内蔵されてもよい。一例として、モニタ130を含む携帯型の情報通信端末(例えば、スマートフォン)がコンピュータ200として機能してもよい。
コンピュータ200は、複数のHMD120に共通して用いられる構成であってもよい。このような構成によれば、例えば、複数のユーザに同一の仮想空間を提供することもできるので、各ユーザは同一の仮想空間で他のユーザと同一のアプリケーションを楽しむことができる。
ある実施の形態において、HMDシステム100では、現実空間における座標系である実座標系が予め設定されている。実座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、並びに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、3つの基準方向(軸)を有する。実座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれ、x軸、y軸、z軸と規定される。より具体的には、実座標系において、x軸は現実空間の水平方向に平行である。y軸は、現実空間の鉛直方向に平行である。z軸は現実空間の前後方向に平行である。
ある局面において、HMDセンサ410は、赤外線センサを含む。赤外線センサが、HMD120の各光源から発せられた赤外線をそれぞれ検出すると、HMD120の存在を検出する。HMDセンサ410は、さらに、各点の値(実座標系における各座標値)に基づいて、HMD120を装着したユーザ5の動きに応じた、現実空間内におけるHMD120の位置および傾き(向き)を検出する。より詳しくは、HMDセンサ410は、経時的に検出された各値を用いて、HMD120の位置および傾きの時間的変化を検出できる。
HMDセンサ410によって検出されたHMD120の各傾きは、実座標系におけるHMD120の3軸周りの各傾きに相当する。HMDセンサ410は、実座標系におけるHMD120の傾きに基づき、uvw視野座標系をHMD120に設定する。HMD120に設定されるuvw視野座標系は、HMD120を装着したユーザ5が仮想空間において物体を見る際の視点座標系に対応する。
[uvw視野座標系]
図3を参照して、uvw視野座標系について説明する。図3は、ある実施の形態に従うHMD120に設定されるuvw視野座標系を概念的に表す図である。HMDセンサ410は、HMD120の起動時に、実座標系におけるHMD120の位置および傾きを検出する。プロセッサ210は、検出された値に基づいて、uvw視野座標系をHMD120に設定する。
図3に示されるように、HMD120は、HMD120を装着したユーザ5の頭部を中心(原点)とした3次元のuvw視野座標系を設定する。より具体的には、HMD120は、実座標系を規定する水平方向、鉛直方向、および前後方向(x軸、y軸、z軸)を、実座標系内においてHMD120の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる3つの方向を、HMD120におけるuvw視野座標系のピッチ軸(u軸)、ヨー軸(v軸)、およびロール軸(w軸)として設定する。
ある局面において、HMD120を装着したユーザ5が直立し、かつ、正面を視認している場合、プロセッサ210は、実座標系に平行なuvw視野座標系をHMD120に設定する。この場合、実座標系における水平方向(x軸)、鉛直方向(y軸)、および前後方向(z軸)は、HMD120におけるuvw視野座標系のピッチ軸(u軸)、ヨー軸(v軸)、およびロール軸(w軸)に一致する。
uvw視野座標系がHMD120に設定された後、HMDセンサ410は、HMD120の動きに基づいて、設定されたuvw視野座標系におけるHMD120の傾きを検出できる。この場合、HMDセンサ410は、HMD120の傾きとして、uvw視野座標系におけるHMD120のピッチ角(θu)、ヨー角(θv)、およびロール角(θw)をそれぞれ検出する。ピッチ角(θu)は、uvw視野座標系におけるピッチ軸周りのHMD120の傾き角度を表す。ヨー角(θv)は、uvw視野座標系におけるヨー軸周りのHMD120の傾き角度を表す。ロール角(θw)は、uvw視野座標系におけるロール軸周りのHMD120の傾き角度を表す。
HMDセンサ410は、検出されたHMD120の傾きに基づいて、HMD120が動いた後のHMD120におけるuvw視野座標系を、HMD120に設定する。HMD120と、HMD120のuvw視野座標系との関係は、HMD120の位置および傾きに関わらず、常に一定である。HMD120の位置および傾きが変わると、当該位置および傾きの変化に連動して、実座標系におけるHMD120のuvw視野座標系の位置および傾きが変化する。
ある局面において、HMDセンサ410は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係(例えば、各点間の距離など)に基づいて、HMD120の現実空間内における位置を、HMDセンサ410に対する相対位置として特定してもよい。プロセッサ210は、特定された相対位置に基づいて、現実空間内(実座標系)におけるHMD120のuvw視野座標系の原点を決定してもよい。
[仮想空間]
図4を参照して、仮想空間についてさらに説明する。図4は、ある実施の形態に従う仮想空間11を表現する一態様を概念的に表す図である。仮想空間11は、中心12の360度方向の全体を覆う全天球状の構造を有する。図4では、説明を複雑にしないために、仮想空間11のうちの上半分の天球が例示されている。仮想空間11では各メッシュが規定される。各メッシュの位置は、仮想空間11に規定されるグローバル座標系であるXYZ座標系における座標値として予め規定されている。コンピュータ200は、仮想空間11に展開可能なパノラマ画像13(静止画、動画等)を構成する各部分画像を、仮想空間11において対応する各メッシュにそれぞれ対応付ける。
ある局面において、仮想空間11では、中心12を原点とするXYZ座標系が規定される。XYZ座標系は、例えば、実座標系に平行である。XYZ座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれX軸、Y軸、Z軸として規定される。したがって、XYZ座標系のX軸(水平方向)が実座標系のx軸と平行であり、XYZ座標系のY軸(鉛直方向)が実座標系のy軸と平行であり、XYZ座標系のZ軸(前後方向)が実座標系のz軸と平行である。
HMD120の起動時、すなわちHMD120の初期状態において、仮想カメラ14が、仮想空間11の中心12に配置される。ある局面において、プロセッサ210は、仮想カメラ14が撮影する画像をHMD120のモニタ130に表示する。仮想カメラ14は、現実空間におけるHMD120の動きに連動して、仮想空間11を同様に移動する。これにより、現実空間におけるHMD120の位置および傾きの変化が、仮想空間11において同様に再現され得る。
仮想カメラ14には、HMD120の場合と同様に、uvw視野座標系が規定される。仮想空間11における仮想カメラ14のuvw視野座標系は、現実空間(実座標系)におけるHMD120のuvw視野座標系に連動するように規定されている。したがって、HMD120の傾きが変化すると、それに応じて、仮想カメラ14の傾きも変化する。仮想カメラ14は、HMD120を装着したユーザ5の現実空間における移動に連動して、仮想空間11において移動することもできる。
コンピュータ200のプロセッサ210は、仮想カメラ14の位置と傾き(基準視線16)とに基づいて、仮想空間11における視界領域15を規定する。視界領域15は、仮想空間11のうち、HMD120を装着したユーザ5が視認する領域に対応する。つまり、仮想カメラ14の位置は、仮想空間11におけるユーザ5の視点と言える。
注視センサ140によって検出されるユーザ5の視線は、ユーザ5が物体を視認する際の視点座標系における方向である。HMD120のuvw視野座標系は、ユーザ5がモニタ130を視認する際の視点座標系に等しい。仮想カメラ14のuvw視野座標系は、HMD120のuvw視野座標系に連動している。したがって、ある局面に従うHMDシステム100は、注視センサ140によって検出されたユーザ5の視線を、仮想カメラ14のuvw視野座標系におけるユーザ5の視線とみなすことができる。
[ユーザの視線]
図5を参照して、ユーザ5の視線の決定について説明する。図5は、ある実施の形態に従うHMD120を装着するユーザ5の頭部を上から表した図である。
ある局面において、注視センサ140は、ユーザ5の右目および左目の各視線を検出する。ある局面において、ユーザ5が近くを見ている場合、注視センサ140は、視線R1およびL1を検出する。別の局面において、ユーザ5が遠くを見ている場合、注視センサ140は、視線R2およびL2を検出する。この場合、ロール軸wに対して視線R2およびL2が成す角度は、ロール軸wに対して視線R1およびL1が成す角度よりも小さい。注視センサ140は、検出結果をコンピュータ200に送信する。
コンピュータ200が、視線の検出結果として、視線R1およびL1の検出値を注視センサ140から受信した場合には、その検出値に基づいて、視線R1およびL1の交点である注視点N1を特定する。一方、コンピュータ200は、視線R2およびL2の検出値を注視センサ140から受信した場合には、視線R2およびL2の交点を注視点として特定する。コンピュータ200は、特定した注視点N1の位置に基づき、ユーザ5の視線N0を特定する。コンピュータ200は、例えば、ユーザ5の右目Rと左目Lとを結ぶ直線の中点と、注視点N1とを通る直線の延びる方向を、視線N0として検出する。視線N0は、ユーザ5が両目により実際に視線を向けている方向である。視線N0は、視界領域15に対してユーザ5が実際に視線を向けている方向に相当する。
別の局面において、HMDシステム100は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、HMDシステム100は、仮想空間11においてテレビ番組を表示することができる。
さらに別の局面において、HMDシステム100は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。
[視界領域]
図6および図7を参照して、視界領域15について説明する。図6は、仮想空間11において視界領域15をX方向から見たYZ断面を表す図である。図7は、仮想空間11において視界領域15をY方向から見たXZ断面を表す図である。
図6に示されるように、YZ断面における視界領域15は、領域18を含む。領域18は、仮想カメラ14の位置と基準視線16と仮想空間11のYZ断面とによって定義される。プロセッサ210は、仮想空間における基準視線16を中心として極角αを含む範囲を、領域18として規定する。
図7に示されるように、XZ断面における視界領域15は、領域19を含む。領域19は、仮想カメラ14の位置と基準視線16と仮想空間11のXZ断面とによって定義される。プロセッサ210は、仮想空間11における基準視線16を中心とした方位角βを含む範囲を、領域19として規定する。極角αおよびβは、仮想カメラ14の位置と仮想カメラ14の傾き(向き)とに応じて定まる。
ある局面において、HMDシステム100は、コンピュータ200からの信号に基づいて、視界画像17をモニタ130に表示させることにより、ユーザ5に仮想空間11における視界を提供する。視界画像17は、パノラマ画像13のうち視界領域15に対応する部分に相当する画像である。ユーザ5が、頭部に装着したHMD120を動かすと、その動きに連動して仮想カメラ14も動く。その結果、仮想空間11における視界領域15の位置が変化する。これにより、モニタ130に表示される視界画像17は、パノラマ画像13のうち、仮想空間11においてユーザ5が向いた方向の視界領域15に重畳する画像に更新される。ユーザ5は、仮想空間11における所望の方向を視認することができる。
このように、仮想カメラ14の傾きは仮想空間11におけるユーザ5の視線(基準視線16)に相当し、仮想カメラ14が配置される位置は、仮想空間11におけるユーザ5の視点に相当する。したがって、仮想カメラ14の位置または傾きを変更することにより、モニタ130に表示される画像が更新され、ユーザ5の視界が移動される。
ユーザ5は、HMD120を装着している間、現実世界を視認することなく、仮想空間11に展開されるパノラマ画像13のみを視認できる。そのため、HMDシステム100は、仮想空間11への高い没入感覚をユーザ5に与えることができる。
ある局面において、プロセッサ210は、HMD120を装着したユーザ5の現実空間における移動に連動して、仮想空間11において仮想カメラ14を移動し得る。この場合、プロセッサ210は、仮想空間11における仮想カメラ14の位置および傾きに基づいて、HMD120のモニタ130に投影される画像領域(視界領域15)を特定する。
ある局面において、仮想カメラ14は、2つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含み得る。ユーザ5が3次元の仮想空間11を認識できるように、適切な視差が、2つの仮想カメラに設定される。別の局面において、仮想カメラ14を1つの仮想カメラにより実現してもよい。この場合、1つの仮想カメラにより得られた画像から、右目用の画像と左目用の画像とを生成するようにしてもよい。本実施の形態においては、仮想カメラ14が2つの仮想カメラを含み、2つの仮想カメラのロール軸が合成されることによって生成されるロール軸(w)がHMD120のロール軸(w)に適合されるように構成されているものとして、本開示に係る技術思想を例示する。
[コントローラ]
図8を参照して、コントローラ300の一例について説明する。図8は、ある実施の形態に従うコントローラ300の概略構成を表す図である。
図8に示されるように、ある局面において、コントローラ300は、右コントローラ300Rと図示せぬ左コントローラとを含み得る。右コントローラ300Rは、ユーザ5の右手で操作される。左コントローラは、ユーザ5の左手で操作される。ある局面において、右コントローラ300Rと左コントローラとは、別個の装置として対称に構成される。したがって、ユーザ5は、右コントローラ300Rを把持した右手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。別の局面において、コントローラ300は両手の操作を受け付ける一体型のコントローラであってもよい。以下、右コントローラ300Rについて説明する。
右コントローラ300Rは、グリップ310と、フレーム320と、天面330とを備える。グリップ310は、ユーザ5の右手によって把持されるように構成されている。たとえば、グリップ310は、ユーザ5の右手の掌と3本の指(中指、薬指、小指)とによって保持され得る。
グリップ310は、ボタン340,350と、モーションセンサ420とを含む。ボタン340は、グリップ310の側面に配置され、右手の中指による操作を受け付ける。ボタン350は、グリップ310の前面に配置され、右手の人差し指による操作を受け付ける。ある局面において、ボタン340,350は、トリガー式のボタンとして構成される。モーションセンサ420は、グリップ310の筐体に内蔵されている。ユーザ5の動作がカメラその他の装置によってユーザ5の周りから検出可能である場合には、グリップ310は、モーションセンサ420を備えなくてもよい。
フレーム320は、その円周方向に沿って配置された複数の赤外線LED360を含む。赤外線LED360は、コントローラ300を使用するプログラムの実行中に、当該プログラムの進行に合わせて赤外線を発光する。赤外線LED360から発せられた赤外線は、右コントローラ300Rと左コントローラとの各位置や姿勢(傾き、向き)を検出するために使用され得る。図8に示される例では、二列に配置された赤外線LED360が示されているが、配列の数は図8に示されるものに限られない。一列あるいは3列以上の配列が使用されてもよい。
天面330は、ボタン370,380と、アナログスティック390とを備える。ボタン370,380は、プッシュ式ボタンとして構成される。ボタン370,380は、ユーザ5の右手の親指による操作を受け付ける。アナログスティック390は、ある局面において、初期位置(ニュートラルの位置)から360度任意の方向への操作を受け付ける。当該操作は、たとえば、仮想空間11に配置されるオブジェクトを移動するための操作を含む。
ある局面において、右コントローラ300Rおよび左コントローラは、赤外線LED360その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型などを含むが、これらに限定されない。別の局面において、右コントローラ300Rと左コントローラは、たとえば、コンピュータ200のUSBインターフェースに接続され得る。この場合、右コントローラ300Rおよび左コントローラは、電池を必要としない。
図8の状態(A)および状態(B)に示されるように、例えば、ユーザ5の右手に対して、ヨー、ロール、ピッチの各方向が規定される。ユーザ5が親指と人差し指とを伸ばした場合に、親指の伸びる方向がヨー方向、人差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定される平面に垂直な方向がピッチ方向として規定される。
[サーバのハードウェア構成]
図9を参照して、本実施の形態に係るサーバ600について説明する。図9は、ある実施の形態に従うサーバ600のハードウェア構成の一例を表すブロック図である。サーバ600は、主たる構成要素として、プロセッサ610と、メモリ620と、ストレージ630と、入出力インターフェイス640と、通信インターフェイス650とを備える。各構成要素は、それぞれ、バス660に接続されている。
プロセッサ610は、サーバ600に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ620またはストレージ630に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ610は、CPU、GPU、MPU、FPGAその他のデバイスとして実現される。
メモリ620は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ630からロードされる。データは、サーバ600に入力されたデータと、プロセッサ610によって生成されたデータとを含む。ある局面において、メモリ620は、RAMその他の揮発メモリとして実現される。
ストレージ630は、プログラムおよびデータを永続的に保持する。ストレージ630は、例えば、ROM、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ630に格納されるプログラムは、HMDシステム100において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、コンピュータ200との通信を実現するためのプログラムを含んでもよい。ストレージ630に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含んでもよい。
別の局面において、ストレージ630は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、サーバ600に内蔵されたストレージ630の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のHMDシステム100が使用される場面において、プログラムやデータの更新を一括して行なうことが可能になる。
入出力インターフェイス640は、入出力機器との間で信号を通信する。ある局面において、入出力インターフェイス640は、USB、DVI、HDMIその他の端子を用いて実現される。入出力インターフェイス640は上述のものに限られない。
通信インターフェイス650は、ネットワーク2に接続されて、ネットワーク2に接続されているコンピュータ200と通信する。ある局面において、通信インターフェイス650は、例えば、LANその他の有線通信インターフェイス、あるいは、WiFi、Bluetooth、NFCその他の無線通信インターフェイスとして実現される。通信インターフェイス650は上述のものに限られない。
ある局面において、プロセッサ610は、ストレージ630にアクセスし、ストレージ630に格納されている1つ以上のプログラムをメモリ620にロードし、当該プログラムに含まれる一連の命令を実行する。当該1つ以上のプログラムは、サーバ600のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ610は、入出力インターフェイス640を介して、仮想空間を提供するための信号をコンピュータ200に送ってもよい。
[HMDの制御装置]
図10を参照して、HMD120の制御装置について説明する。ある実施の形態において、制御装置は周知の構成を有するコンピュータ200によって実現される。図10は、ある実施の形態に従うコンピュータ200をモジュール構成として表わすブロック図である。
図10に示されるように、コンピュータ200は、コントロールモジュール510と、レンダリングモジュール520と、メモリモジュール530と、通信制御モジュール540とを備える。ある局面において、コントロールモジュール510とレンダリングモジュール520とは、プロセッサ210によって実現される。別の局面において、複数のプロセッサ210がコントロールモジュール510とレンダリングモジュール520として作動してもよい。メモリモジュール530は、メモリ220またはストレージ230によって実現される。通信制御モジュール540は、通信インターフェイス250によって実現される。
コントロールモジュール510は、ユーザ5に提供される仮想空間11を制御する。コントロールモジュール510は、仮想空間11を表す仮想空間データを用いて、HMDシステム100における仮想空間11を規定する。仮想空間データは、例えば、メモリモジュール530に記憶されている。コントロールモジュール510が、仮想空間データを生成したり、サーバ600などから仮想空間データを取得するようにしたりしてもよい。
コントロールモジュール510は、オブジェクトを表すオブジェクトデータを用いて、仮想空間11にオブジェクトを配置する。オブジェクトデータは、例えば、メモリモジュール530に記憶されている。コントロールモジュール510が、オブジェクトデータを生成したり、サーバ600などからオブジェクトデータを取得するようにしたりしてもよい。オブジェクトは、例えば、ユーザ5の分身であるアバターオブジェクト、キャラクタオブジェクト、コントローラ300によって操作される仮想手などの操作オブジェクト、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、街並み、動物等を含み得る。
コントロールモジュール510は、ネットワーク2を介して接続される他のコンピュータ200のユーザ5のアバターオブジェクトを仮想空間11に配置する。ある局面において、コントロールモジュール510は、ユーザ5のアバターオブジェクトを仮想空間11に配置する。ある局面において、コントロールモジュール510は、ユーザ5を含む画像に基づいて、ユーザ5を模したアバターオブジェクトを仮想空間11に配置する。別の局面において、コントロールモジュール510は、複数種類のアバターオブジェクト(例えば、動物を模したオブジェクトや、デフォルメされた人のオブジェクト)の中からユーザ5による選択を受け付けたアバターオブジェクトを仮想空間11に配置する。
コントロールモジュール510は、HMDセンサ410の出力に基づいてHMD120の傾きを特定する。別の局面において、コントロールモジュール510は、モーションセンサとして機能するセンサ190の出力に基づいてHMD120の傾きを特定する。コントロールモジュール510は、第1カメラ150および第2カメラ160が生成するユーザ5の顔の画像から、ユーザ5の顔を構成する器官(例えば、口,目,眉)を検出する。コントロールモジュール510は、検出した各器官の動き(形状)を検出する。
コントロールモジュール510は、注視センサ140からの信号に基づいて、ユーザ5の仮想空間11における視線を検出する。コントロールモジュール510は、検出したユーザ5の視線と仮想空間11の天球とが交わる視点位置(XYZ座標系における座標値)を検出する。より具体的には、コントロールモジュール510は、uvw座標系で規定されるユーザ5の視線と、仮想カメラ14の位置および傾きとに基づいて、視点位置を検出する。コントロールモジュール510は、検出した視点位置をサーバ600に送信する。別の局面において、コントロールモジュール510は、ユーザ5の視線を表す視線情報をサーバ600に送信するように構成されてもよい。係る場合、サーバ600が受信した視線情報に基づいて視点位置を算出し得る。
コントロールモジュール510は、HMDセンサ410が検出するHMD120の動きをアバターオブジェクトに反映する。例えば、コントロールモジュール510は、HMD120が傾いたことを検知して、アバターオブジェクトを傾けて配置する。コントロールモジュール510は、検出した顔器官の動作を、仮想空間11に配置されるアバターオブジェクトの顔に反映させる。コントロールモジュール510は、サーバ600から他のユーザ5の視線情報を受信し、当該他のユーザ5のアバターオブジェクトの視線に反映させる。ある局面において、コントロールモジュール510は、コントローラ300の動きをアバターオブジェクトや操作オブジェクトに反映する。この場合、コントローラ300は、コントローラ300の動きを検知するためのモーションセンサ、加速度センサ、または複数の発光素子(例えば、赤外線LED)などを備える。
コントロールモジュール510は、仮想空間11においてユーザ5の操作を受け付けるための操作オブジェクトを仮想空間11に配置する。ユーザ5は、操作オブジェクトを操作することにより、例えば、仮想空間11に配置されるオブジェクトを操作する。ある局面において、操作オブジェクトは、例えば、ユーザ5の手に相当する仮想手である手オブジェクト等を含み得る。ある局面において、コントロールモジュール510は、モーションセンサ420の出力に基づいて現実空間におけるユーザ5の手の動きに連動するように仮想空間11において手オブジェクトを動かす。ある局面において、操作オブジェクトは、アバターオブジェクトの手の部分に相当し得る。
コントロールモジュール510は、仮想空間11に配置されるオブジェクトのそれぞれが、他のオブジェクトと衝突した場合に、当該衝突を検出する。コントロールモジュール510は、例えば、あるオブジェクトのコリジョンエリアと、別のオブジェクトのコリジョンエリアとが触れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行なう。コントロールモジュール510は、オブジェクトとオブジェクトとが触れている状態から離れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行なう。コントロールモジュール510は、オブジェクトとオブジェクトとが触れている状態であることを検出することができる。例えば、コントロールモジュール510は、操作オブジェクトと、他のオブジェクトとが触れたときに、これら操作オブジェクトと他のオブジェクトとが触れたことを検出して、予め定められた処理を行なう。
ある局面において、コントロールモジュール510は、HMD120のモニタ130における画像表示を制御する。例えば、コントロールモジュール510は、仮想空間11に仮想カメラ14を配置する。コントロールモジュール510は、仮想空間11における仮想カメラ14の位置と、仮想カメラ14の傾き(向き)を制御する。コントロールモジュール510は、HMD120を装着したユーザ5の頭部の傾きと、仮想カメラ14の位置に応じて、視界領域15を規定する。レンダリングモジュール520は、決定された視界領域15に基づいて、モニタ130に表示される視界画像17を生成する。レンダリングモジュール520により生成された視界画像17は、通信制御モジュール540によってHMD120に出力される。
コントロールモジュール510は、HMD120から、ユーザ5のマイク170を用いた発話を検出すると、当該発話に対応する音声データの送信対象のコンピュータ200を特定する。音声データは、コントロールモジュール510によって特定されたコンピュータ200に送信される。コントロールモジュール510は、ネットワーク2を介して他のユーザのコンピュータ200から音声データを受信すると、当該音声データに対応する音声(発話)をスピーカ180から出力する。
メモリモジュール530は、コンピュータ200が仮想空間11をユーザ5に提供するために使用されるデータを保持している。ある局面において、メモリモジュール530は、空間情報と、オブジェクト情報と、ユーザ情報とを保持している。
空間情報は、仮想空間11を提供するために規定された1つ以上のテンプレートを保持している。
オブジェクト情報は、仮想空間11を構成する複数のパノラマ画像13、仮想空間11にオブジェクトを配置するためのオブジェクトデータを含む。パノラマ画像13は、静止画像および動画像を含み得る。パノラマ画像13は、非現実空間の画像と現実空間の画像とを含み得る。非現実空間の画像としては、例えば、コンピュータグラフィックスで生成された画像が挙げられる。
ユーザ情報は、ユーザ5を識別するユーザIDを保持する。ユーザIDは、例えば、ユーザが使用するコンピュータ200に設定されるIP(Internet Protocol)アドレスまたはMAC(Media Access Control)アドレスであり得る。別の局面において、ユーザIDはユーザによって設定され得る。ユーザ情報は、HMDシステム100の制御装置としてコンピュータ200を機能させるためのプログラム等を含む。
メモリモジュール530に格納されているデータおよびプログラムは、HMD120のユーザ5によって入力される。あるいは、プロセッサ210が、当該コンテンツを提供する事業者が運営するコンピュータ(例えば、サーバ600)からプログラムあるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール530に格納する。
通信制御モジュール540は、ネットワーク2を介して、サーバ600その他の情報通信装置と通信し得る。
ある局面において、コントロールモジュール510及びレンダリングモジュール520は、例えば、ユニティテクノロジーズ社によって提供されるUnity(登録商標)を用いて実現され得る。別の局面において、コントロールモジュール510及びレンダリングモジュール520は、各処理を実現する回路素子の組み合わせとしても実現され得る。
コンピュータ200における処理は、ハードウェアと、プロセッサ210により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール530に予め格納されている場合がある。ソフトウェアは、CD−ROMその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール540を介してサーバ600その他のコンピュータからダウンロードされた後、記憶モジュールに一旦格納される。そのソフトウェアは、プロセッサ210によって記憶モジュールから読み出され、実行可能なプログラムの形式でRAMに格納される。プロセッサ210は、そのプログラムを実行する。
[HMDシステムの制御構造]
図11を参照して、HMDセット110の制御構造について説明する。図11は、ある実施の形態に従うHMDセット110において実行される処理の一部を表すシーケンスチャートである。
図11に示されるように、ステップS1110において、コンピュータ200のプロセッサ210は、コントロールモジュール510として、仮想空間データを特定し、仮想空間11を定義する。
ステップS1120において、プロセッサ210は、仮想カメラ14を初期化する。たとえば、プロセッサ210は、メモリのワーク領域において、仮想カメラ14を仮想空間11において予め規定された中心12に配置し、仮想カメラ14の視線をユーザ5が向いている方向に向ける。
ステップS1130において、プロセッサ210は、レンダリングモジュール520として、初期の視界画像を表示するための視界画像データを生成する。生成された視界画像データは、通信制御モジュール540によってHMD120に出力される。
ステップS1132において、HMD120のモニタ130は、コンピュータ200から受信した視界画像データに基づいて、視界画像を表示する。HMD120を装着したユーザ5は、視界画像を視認すると仮想空間11を認識し得る。
ステップS1134において、HMDセンサ410は、HMD120から発信される複数の赤外線光に基づいて、HMD120の位置と傾きを検知する。検知結果は、動き検知データとして、コンピュータ200に出力される。
ステップS1140において、プロセッサ210は、HMD120の動き検知データに含まれる位置と傾きとに基づいて、HMD120を装着したユーザ5の視界方向を特定する。
ステップS1150において、プロセッサ210は、アプリケーションプログラムを実行し、アプリケーションプログラムに含まれる命令に基づいて、仮想空間11にオブジェクトを配置する。
ステップS1160において、コントローラ300は、モーションセンサ420から出力される信号に基づいて、ユーザ5の操作を検出し、その検出された操作を表す検出データをコンピュータ200に出力する。別の局面において、ユーザ5によるコントローラ300の操作は、ユーザ5の周囲に配置されたカメラからの画像に基づいて検出されてもよい。
ステップS1170において、プロセッサ210は、コントローラ300から取得した検出データに基づいて、ユーザ5によるコントローラ300の操作を検出する。
ステップS1180において、プロセッサ210は、ユーザ5によるコントローラ300の操作に基づく視界画像データを生成する。生成された視界画像データは、通信制御モジュール540によってHMD120に出力される。
ステップS1190において、HMD120は、受信した視界画像データに基づいて視界画像を更新し、更新後の視界画像をモニタ130に表示する。
[アバターオブジェクト]
図12(A)、(B)を参照して、本実施の形態に従うアバターオブジェクトについて説明する。以下、HMDセット110A,110Bの各ユーザ5のアバターオブジェクトを説明する図である。以下、HMDセット110Aのユーザをユーザ5A、HMDセット110Bのユーザをユーザ5B、HMDセット110Cのユーザをユーザ5C、HMDセット110Dのユーザをユーザ5Dと表す。HMDセット110Aに関する各構成要素の参照符号にAが付され、HMDセット110Bに関する各構成要素の参照符号にBが付され、HMDセット110Cに関する各構成要素の参照符号にCが付され、HMDセット110Dに関する各構成要素の参照符号にDが付される。例えば、HMD120Aは、HMDセット110Aに含まれる。
図12(A)は、ネットワーク2において、各HMD120がユーザ5に仮想空間11を提供する状況を表す模式図である。コンピュータ200A〜200Dは、HMD120A〜120Dを介して、ユーザ5A〜5Dに、仮想空間11A〜11Dをそれぞれ提供する。図12(A)に示される例において、仮想空間11Aおよび仮想空間11Bは同じデータによって構成されている。換言すれば、コンピュータ200Aとコンピュータ200Bとは同じ仮想空間を共有していることになる。仮想空間11Aおよび仮想空間11Bには、ユーザ5Aのアバターオブジェクト6Aと、ユーザ5Bのアバターオブジェクト6Bとが存在する。仮想空間11Aにおけるアバターオブジェクト6Aおよび仮想空間11Bにおけるアバターオブジェクト6BがそれぞれHMD120を装着しているが、これは説明を分かりやすくするためのものであって、実際にはこれらのオブジェクトはHMD120を装着していない。
ある局面において、プロセッサ210Aは、ユーザ5Aの視界画像17Aを撮影する仮想カメラ14Aを、アバターオブジェクト6Aの目の位置に配置し得る。
図12(B)は、図12(A)におけるユーザ5Aの視界画像17Aを示す図である。視界画像17Aは、HMD120Aのモニタ130Aに表示される画像である。この視界画像17Aは、仮想カメラ14Aにより生成された画像である。視界画像17Aには、ユーザ5Bのアバターオブジェクト6Bが表示されている。特に図示はしていないが、ユーザ5Bの視界画像にも同様に、ユーザ5Aのアバターオブジェクト6Aが表示されている。
図12(B)の状態において、ユーザ5Aは仮想空間11Aを介してユーザ5Bと対話による通信(コミュニケーション)を図ることができる。より具体的には、マイク170Aにより取得されたユーザ5Aの音声は、サーバ600を介してユーザ5BのHMD120Bに送信され、HMD120Bに設けられたスピーカ180Bから出力される。ユーザ5Bの音声は、サーバ600を介してユーザ5AのHMD120Aに送信され、HMD120Aに設けられたスピーカ180Aから出力される。
ユーザ5Bの動作(HMD120Bの動作およびコントローラ300Bの動作)は、プロセッサ210Aにより仮想空間11Aに配置されるアバターオブジェクト6Bに反映される。これにより、ユーザ5Aは、ユーザ5Bの動作を、アバターオブジェクト6Bを通じて認識できる。
図13は、本実施の形態に従うHMDシステム100において実行される処理の一部を表すシーケンスチャートである。図13においては、HMDセット110Dを図示していないが、HMDセット110Dについても、HMDセット110A、110B、110Cと同様に動作する。以下の説明でも、HMDセット110Aに関する各構成要素の参照符号にAが付され、HMDセット110Bに関する各構成要素の参照符号にBが付され、HMDセット110Cに関する各構成要素の参照符号にCが付され、HMDセット110Dに関する各構成要素の参照符号にDが付されるものとする。
ステップS1310Aにおいて、HMDセット110Aにおけるプロセッサ210Aは、仮想空間11Aにおけるアバターオブジェクト6Aの動作を決定するためのアバター情報を取得する。このアバター情報は、例えば、動き情報、フェイストラッキングデータ、および音声データ等のアバターに関する情報を含む。動き情報は、HMD120Aの位置および傾きの時間的変化を示す情報や、モーションセンサ420A等により検出されたユーザ5Aの手の動きを示す情報などを含む。フェイストラッキングデータは、ユーザ5Aの顔の各パーツの位置および大きさを特定するデータが挙げられる。フェイストラッキングデータは、ユーザ5Aの顔を構成する各器官の動きを示すデータや視線データが挙げられる。音声データは、HMD120Aのマイク170Aによって取得されたユーザ5Aの音声を示すデータが挙げられる。アバター情報には、アバターオブジェクト6A、あるいはアバターオブジェクト6Aに関連付けられるユーザ5Aを特定する情報や、アバターオブジェクト6Aが存在する仮想空間11Aを特定する情報等が含まれてもよい。アバターオブジェクト6Aやユーザ5Aを特定する情報としては、ユーザIDが挙げられる。アバターオブジェクト6Aが存在する仮想空間11Aを特定する情報としては、ルームIDが挙げられる。プロセッサ210Aは、上述のように取得されたアバター情報を、ネットワーク2を介してサーバ600に送信する。
ステップS1310Bにおいて、HMDセット110Bにおけるプロセッサ210Bは、ステップS1310Aにおける処理と同様に、仮想空間11Bにおけるアバターオブジェクト6Bの動作を決定するためのアバター情報を取得し、サーバ600に送信する。同様に、ステップS1310Cにおいて、HMDセット110Cにおけるプロセッサ210Cは、仮想空間11Cにおけるアバターオブジェクト6Cの動作を決定するためのアバター情報を取得し、サーバ600に送信する。
ステップS1320において、サーバ600は、HMDセット110A、HMDセット110B、およびHMDセット110Cのそれぞれから受信したプレイヤ情報を一旦記憶する。サーバ600は、各アバター情報に含まれるユーザIDおよびルームID等に基づいて、共通の仮想空間11に関連付けられた全ユーザ(この例では、ユーザ5A〜5C)のアバター情報を統合する。そして、サーバ600は、予め定められたタイミングで、統合したアバター情報を当該仮想空間11に関連付けられた全ユーザに送信する。これにより、同期処理が実行される。このような同期処理により、HMDセット110A、HMDセット110B、およびHMDセット110Cは、互いのアバター情報をほぼ同じタイミングで共有することができる。
続いて、サーバ600から各HMDセット110A〜110Cに送信されたアバター情報に基づいて、各HMDセット110A〜110Cは、ステップS1330A〜S1330Cの処理を実行する。ステップS1330Aの処理は、図11におけるステップS1180の処理に相当する。
ステップS1330Aにおいて、HMDセット110Aにおけるプロセッサ210Aは、仮想空間11Aにおける他のユーザ5B,5Cのアバターオブジェクト6B、アバターオブジェクト6Cの情報を更新する。具体的には、プロセッサ210Aは、HMDセット110Bから送信されたアバター情報に含まれる動き情報に基づいて、仮想空間11におけるアバターオブジェクト6Bの位置および向き等を更新する。例えば、プロセッサ210Aは、メモリモジュール530に格納されたオブジェクト情報に含まれるアバターオブジェクト6Bの情報(位置および向き等)を更新する。同様に、プロセッサ210Aは、HMDセット110Cから送信されたアバター情報に含まれる動き情報に基づいて、仮想空間11におけるアバターオブジェクト6Cの情報(位置および向き等)を更新する。
ステップS1330Bにおいて、HMDセット110Bにおけるプロセッサ210Bは、ステップS1330Aにおける処理と同様に、仮想空間11Bにおけるユーザ5A,5Cのアバターオブジェクト6A,6Cの情報を更新する。同様に、ステップS1330Cにおいて、HMDセット110Cにおけるプロセッサ210Cは、仮想空間11Cにおけるユーザ5A,5Bのアバターオブジェクト6A,6Bの情報を更新する。
[コンピュータ200のモジュールの詳細構成]
図14を参照して、コンピュータ200のモジュール構成の詳細について説明する。図14は、ある実施の形態に従うコンピュータ200のモジュールの詳細構成を表すブロック図である。図14に示されるように、コントロールモジュール510は、仮想オブジェクト生成モジュール1421、仮想カメラ制御モジュール1422、操作オブジェクト制御モジュール1423、アバターオブジェクト制御モジュール1424、動き検出モジュール1425、および、仮想オブジェクト制御モジュール1426を備えている。
仮想オブジェクト生成モジュール1421は、各種の仮想オブジェクトを仮想空間11に生成する。ある局面において、仮想オブジェクトは、例えば、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、動物等を含み得る。ある局面において、仮想オブジェクトは、アバターオブジェクト、操作オブジェクト、UI(User Interface)オブジェクトを含み得る。
仮想カメラ制御モジュール1422は、仮想空間11における仮想カメラ14の挙動を制御する。仮想カメラ制御モジュール1422は、例えば、仮想空間11における仮想カメラ14の配置位置と、仮想カメラ14の向き(傾き)とを制御する。
操作オブジェクト制御モジュール1423は、仮想空間11においてユーザ5の操作を受け付けるための操作オブジェクトを制御する。ユーザ5は、操作オブジェクトを操作することによって、例えば、仮想空間11に配置される仮想オブジェクトを操作する。ある局面において、操作オブジェクトは、例えば、HMD120を装着したユーザ5の手に相当する手オブジェクト(仮想手)等を含み得る。ある局面において、操作オブジェクトは、後述するアバターオブジェクトの手の部分に相当し得る。
アバターオブジェクト制御モジュール1424は、HMDセンサ410が検出するHMD120の動きをアバターオブジェクトに反映する。例えば、アバターオブジェクト制御モジュール1424は、HMD120が傾いたことを検知して、アバターオブジェクトを傾けて配置するためのデータを生成する。ある局面において、アバターオブジェクト制御モジュール1424は、コントローラ300の動きをアバターオブジェクトに反映する。この場合、コントローラ300は、コントローラ300の動きを検知するためのモーションセンサ、加速度センサ、または複数の発光素子(例えば、赤外線LED)などを備える。アバターオブジェクト制御モジュール1424は、後述する動き検出モジュール1425が検出した顔器官の動作を、仮想空間11に配置されるアバターオブジェクトの顔に反映させる。つまり、アバターオブジェクト制御モジュール1424は、ユーザ5の顔の動作をアバターオブジェクトに反映する。
動き検出モジュール1425は、ユーザ5の動きを検出する。動き検出モジュール1425は、例えば、コントローラ300の出力に応じて、ユーザ5の手の動きを検出する。動き検出モジュール1425は、例えば、ユーザ5の身体に装着されるモーションセンサの出力に応じて、ユーザ5の身体の動きを検出する。動き検出モジュール1425は、ユーザ5の顔器官の動作を検出することもできる。
仮想オブジェクト制御モジュール1426は、仮想空間11において、アバターオブジェクトを除く仮想オブジェクトの挙動を制御する。一例として、仮想オブジェクト制御モジュール1426は、仮想オブジェクトを変形させる。別の例として、仮想オブジェクト制御モジュール1426は、仮想オブジェクトの配置位置を変更する。別の例として、仮想オブジェクト制御モジュール1426は、仮想オブジェクトを移動させる。
[映像配信システムの構成]
図15は、ある実施の形態に従う映像配信システム1500の構成の概略を示す図である。映像配信システム1500は、被写体を撮影した映像をユーザ5(視聴者)のコンピュータ200に配信する。これにより、視聴者は該映像を視聴することができる。なお、ここでの「配信」とは、例えば、映像配信システム1500が、コンピュータ200に対するユーザ5の入力に基づく第1指示を受信して、映像をコンピュータ200へ送信することを指す。映像配信システム1500は、撮影された被写体の映像をリアルタイムにコンピュータ200に配信する。ある局面において、映像配信システム1500は、全天球映像を配信する。全天球映像とは、各フレームが全天球画像である映像である。
なお、本実施形態に係る被写体は人間である。このため、本実施形態に係る被写体は、「映像の配信者」、または、「演者」と表現することもできる。
映像配信システム1500は、一例として、図15に示すように、コンピュータ200と、サーバ600と、全天球カメラ1531と、全天球映像生成装置1534と、表示装置1535とを含む。なお、映像配信システム1500は、複数の全天球カメラ1531を含む構成であってもよい。
[全天球カメラ1531]
全天球カメラ1531は、複数の撮像部を備え、被写体1551を撮影する。一例として、全天球カメラ1531は、2つの撮像部を備える。具体的には、全天球カメラ1531は、第1撮像部1532および第2撮像部1533を備える。ある局面において、全天球カメラ1531は、業務用の全天球カメラである。別の局面において、全天球カメラ1531は、民生用の全天球カメラである。該全天球カメラは、例えば、映像の配信者が有するスマートフォンなどの端末装置に接続して使用される。
第1撮像部1532および第2撮像部1533は、動画像を撮像するように構成されており、CCD(Charge-Coupled Device)やCMOS(complementary metal-oxide semiconductor)などの撮像素子、および、レンズによって構成されている。以降、第1撮像部1532および第2撮像部1533が撮像する映像を「撮影映像」と称する場合がある。
図16は、ある実施の形態に従う全天球カメラ1531の視野を説明するための図である。第1撮像部1532および第2撮像部1533は、一例として、互いに反対方向を撮像するように全天球カメラ1531に配置されている。第1撮像部1532は、一例として、図16に示す視野1661Aを有する。また、第2撮像部1533は、一例として、図16に示す視野1661Bを有する。視野1661Aおよび視野1661Bは、それぞれ、第1撮像部1532および第2撮像部1533の撮像領域と表現することもできる。
図16は、全天球カメラ1531の上面図であるため、視野1661Aおよび視野1661Bを、一部が欠けた円形(扇形)で示している。しかしながら、第1撮像部1532および第2撮像部1533は、垂直方向(紙面に垂直な方向)にも視野を有している。つまり、視野1661Aおよび視野1661Bは、実際は、一部が欠けた球形である。よって、全天球カメラ1531の視野は、互いに反対方向であり、かつ、一部が欠けた球形の2つの視野である。これにより、全天球カメラ1531は、全天球カメラ1531の全周囲(360度)の領域を撮影することができる。
図17は、ある実施の形態に従う全天球カメラ1531のハードウェア構成の一例を表すブロック図である。図17に示すように、全天球カメラ1531は、主たる構成要素として、プロセッサ1771と、メモリ1772と、ストレージ1773と、第1撮像部1532と、第2撮像部1533と、入出力インターフェイス1774と、通信インターフェイス1775とを備える。各構成要素は、それぞれ、バス1776に接続される。
プロセッサ1771は、全天球カメラ1531に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ1772またはストレージ1773に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ1771は、CPU、GPU、MPU、FPGAその他のデバイスとして実現される。
メモリ1772は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ1773からロードされる。データは、全天球カメラ1531に入力されたデータと、プロセッサ1771によって生成されたデータとを含む。ある局面において、メモリ1772は、RAMその他の揮発メモリとして実現される。
ストレージ1773は、プログラムおよびデータを永続的に保持する。ストレージ1773は、例えば、ROM、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ1773に格納されるプログラムは、撮影映像の撮像を実現するためのプログラム、その他の装置との通信を実現するためのプログラムなどを含んでもよい。ストレージ1773に格納されるデータは、撮影映像(撮影映像データ)を含んでもよい。
別の局面において、ストレージ1773は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、全天球カメラ1531に内蔵されたストレージ1773の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。
第1撮像部1532および第2撮像部1533は、上述したように、撮影映像を撮像する。
入出力インターフェイス1774は、入出力機器との間で信号を通信する。ある局面において、入出力インターフェイス1774は、USB、DVI、HDMIその他の端子を用いて実現される。入出力インターフェイス1774は上述のものに限られない。
通信インターフェイス1775は、ネットワーク2に接続されて、ネットワーク2に接続されている装置と通信する。ある局面において、通信インターフェイス1775は、例えば、LANその他の有線通信インターフェイス、あるいは、WiFi,Bluetooth、NFCその他の無線通信インターフェイスとして実現される。通信インターフェイス1775は上述のものに限られない。
なお、プロセッサ1771は、通信インターフェイス1775を用いて、撮影映像をリアルタイムに全天球映像生成装置1534へ送信する。
[全天球映像生成装置1534]
全天球映像生成装置1534は、全天球カメラ1531から取得した撮影映像を用いて、全天球映像を生成する。ある局面において、全天球映像生成装置1534は、ネットワーク2を介して全天球カメラ1531から撮影映像を取得する。
全天球映像生成装置1534は、全天球カメラ1531の第1撮像部1532が撮像した撮影映像と、第2撮像部1533が撮像した撮影映像とを取得する。図16に示すように、第1撮像部1532の視野1661Aと、第2撮像部1533の視野1661Bとは、一部が互いに重複している。このため、全天球カメラ1531の第1撮像部1532が撮像した撮影映像と、第2撮像部1533が撮像した撮影映像とは、一部が互いに重複している。全天球映像生成装置1534は、これら2つの撮影映像に含まれる、対応する2つのフレームを歪ませて、当該歪んだ2つのフレームをスティッチング処理する。「対応する2つのフレーム」とは、撮影時刻が一致する2つのフレームである。全天球映像生成装置1534は、対応する2つのフレーム全てに対し、スティッチング処理を行うことにより、全天球映像を生成する。全天球映像生成装置1534は、生成した全天球映像を、ネットワーク2を介して、サーバ600へ送信する。
全天球カメラ1531が、全天球映像を生成し、サーバ600へ送信する機能を備えていてもよい。この例の場合、映像配信システム1500は、全天球映像生成装置1534を含まなくてもよい。
[表示装置1535]
表示装置1535は、全天球映像生成装置1534が生成した全天球映像、または、該全天球映像から抽出された第1映像を表示する。第1映像は例えば、全天球映像から抽出された、演者を含む映像である。なお、以降、全天球映像および第1映像を総称して、「演者用映像」と記載する場合がある。また、表示装置1535は、全天球映像または第1映像とともに、演者へ宛てた第1メッセージを表示する。第1メッセージは、例えば、視聴者が全天球映像を視聴しながら入力した、演者へ宛てたコメントである。
[サーバ600]
サーバ600は、受信した全天球映像をコンピュータ200へ配信する。ある局面において、サーバ600は、コンピュータ200に対するユーザ5の入力に基づく第1指示を受信した場合、全天球映像をコンピュータ200へ送信する。つまり、第1指示は全天球映像の送信指示である。
[演者の撮影]
図18は、映像配信システム1500を用いた被写体1551の撮影の一例を示す図である。ここでは、撮影空間1800において、全天球カメラ1531を用いて、被写体1551の一例である演者1852を撮影する例を説明する。図示の例では、演者1852は女性であるが、演者は男性であってもよい。
全天球カメラ1531は、自装置に対して第1方向にいる演者1852を撮影する。図18の例では、第1方向は、第1撮像部1532の正面の方向である。なお、図18では、第1撮像部1532は、表示装置1535によって隠れているため、図示していない。
表示装置1535は、全天球映像または第1映像と、第1メッセージとを第1方向に表示する。つまり、表示装置1535の表示領域1836は、図18に示すように演者1852側にある。これにより、演者1852は映像および第1メッセージを視認することができる。
[サーバ600のモジュールの詳細構成]
図19を参照して、サーバ600のモジュール構成の詳細について説明する。図19は、ある実施の形態に従うサーバ600のモジュールの詳細構成を表すブロック図である。図19に示されるように、サーバ600は、コントロールモジュール1910と、メモリモジュール1930と、通信制御モジュール1940とを備える。ある局面において、コントロールモジュール1910は、プロセッサ610によって実現される。メモリモジュール1930は、メモリ620またはストレージ630によって実現される。通信制御モジュール1940は、通信インターフェイス650によって実現される。
コントロールモジュール1910は、全天球映像制御モジュール1927、入札制御モジュール1928、および、コミュニケーション制御モジュール1929を備えている。
全天球映像制御モジュール1927は、コンピュータ200から第1指示を受信すると、コンピュータ200に全天球映像を送信する。全天球映像制御モジュール1927は、一例として、ライブ方式で全天球映像のストリーミングを行う。つまり、全天球映像制御モジュール1927は、全天球映像生成装置1534から受信した全天球映像のストリーミングをリアルタイムに行う。
以上より、映像配信システム1500では、(1)全天球カメラ1531から全天球映像生成装置1534への撮影映像の送信、(2)全天球映像生成装置1534による全天球映像の生成、および、該全天球映像のサーバ600への送信、(3)サーバ600から、第1指示を送信したコンピュータ200への全天球映像の送信がリアルタイムに行われる。これにより、ユーザ5は、現在撮影されている演者1852の映像を視聴することができる。
入札制御モジュール1928は、映像配信システム1500において実行される入札処理(オークション)を制御する。入札制御モジュール1928は、入札が開始されると、コンピュータ200から送信される入札金額情報(入札情報)を取得する。入札金額情報とは、複数の視聴者(ユーザ5)それぞれが、関連付けられたコンピュータ200に入力した金額の情報である。入札金額情報は、該情報が示す金額を入力したユーザ5を特定可能な視聴者情報を含む。入札制御モジュール1928は、各ユーザ5による入札が終了すると、最も高額な金額(第1入札金額)を示す入札金額情報を特定し、該入札金額情報を入力した視聴者である第1視聴者を、視聴者情報に基づいて特定する。第1視聴者は、「落札対象」と表現することもできる。
本実施形態に係る入札処理では、一例として、映像配信システム1500を介した、演者1852との1対1のコミュニケーションを全天球映像の配信中に行う権利のオークションを行う。
コミュニケーション制御モジュール1929は、落札者と演者1852との、映像配信システム1500を介した1対1のコミュニケーションを制御する。コミュニケーション制御モジュール1929は、落札者に該コミュニケーションの権利を付与する。具体的には、コミュニケーション制御モジュール1929は、映像配信システム1500を、落札者と演者1852とが1対1のコミュニケーションを実行可能な状態とする。
[処理フロー]
図20は、ある実施の形態に従うサーバ600、および、HMDセット110において実行される処理の一部を示すシーケンス図である。本実施形態では、視聴者側の一連の処理が、HMDセット110Aにより実行されるものとして説明する。ただし、当該処理は、他のHMDセット110B、110Cにより実行されてもよいし、当該処理の一部または全部がサーバ600によって実行されてもよい。
ステップS2001において、コンピュータ200Aのプロセッサ210Aは、仮想空間11Aを定義する。当該処理は、図11のステップS1110の処理に相当する。具体的には、プロセッサ210Aは、仮想空間データを特定することによって、仮想空間データによって表される仮想空間11Aを定義する。
ステップS2021において、サーバ600のプロセッサ610は、全天球映像生成装置1534から全天球映像を受信する。ステップS2021の処理は、全天球カメラ1531による被写体の撮影が終了するまで継続して実行される。
ステップS2002において、HMDセット110Aは、コンテンツの再生操作を受け付ける。該操作は、コントローラ300が受け付けてもよいし、コントローラ300以外の入力装置がHMDセット110Aに含まれる場合、該入力装置が受け付けてもよい。ステップS2003において、プロセッサ210Aは、再生操作が入力されたことに基づき、再生指示をサーバ600へ送信する。
ステップS2022において、プロセッサ610は、全天球映像制御モジュール1927として、受信した全天球映像をコンピュータ200Aへ送信する。具体的には、プロセッサ610は、再生指示の受信以降に全天球映像生成装置1534から受信した全天球映像をコンピュータ200Aへ送信する。つまり、撮影開始時点より後に再生指示を受信した場合、プロセッサ610は、全天球映像の途中からコンピュータ200Aへ送信することとなる。プロセッサ610は、撮影開始時点より前、換言すれば、全天球映像生成装置1534から全天球映像を受信する前に、再生指示を受信してもよい。この場合、プロセッサ610は、全天球映像生成装置1534から全天球映像を受信するまで待機する。この場合、プロセッサ610は、全天球映像の冒頭からコンピュータ200Aへ送信することができる。
図21は、ある実施の形態に従う仮想空間2111Aおよび視界画像2117Aを示す図である。ステップS2004において、プロセッサ210Aは、図21(A)に示すように、仮想空間2111Aに受信した全天球映像2113Aを展開する。具体的には、プロセッサ210Aは、全天球映像2113Aを構成する各部分画像を、仮想空間2111Aにおいて対応する各メッシュにそれぞれ対応付ける。ステップS2005において、プロセッサ210Aは、全天球映像2113Aの再生を開始する。全天球映像2113Aは、図21(A)に示すように、全天球カメラ1531により撮影された演者1852を含む。
また、プロセッサ210Aは、仮想カメラ14Aを生成し、仮想空間2111Aに配置する。プロセッサ210Aは、仮想オブジェクト生成モジュール1421として、アバターオブジェクト6Aを生成し、仮想空間2111Aに配置する。一例として、プロセッサ210Aは、仮想カメラ14Aとアバターオブジェクト6Aとを、同一の位置に配置する。これらの処理は、ステップS2001が実行されてからS2006が実行されるまでの期間における、いずれかのタイミングで行われればよい。
ステップS2006において、プロセッサ210Aは、仮想カメラ制御モジュール1422および動き検出モジュール1425として、HMD120Aの動きに応じて、仮想空間11Aにおけるユーザの視界を決定する。プロセッサ210Aは、図21(A)に示す仮想視点2199Aを設定する。該仮想視点2199Aは、仮想空間2111Aの中心2112Aに設定されてもよい。プロセッサ210Aは、現実空間におけるHMD120Aの動きに連動して、仮想視点2199Aを仮想空間2111A内で移動させてもよい。
プロセッサ210Aは、HMD120Aの位置と傾きとに基づいて、仮想空間2111Aにおける視界領域15Aを規定する。視界領域15Aは、仮想空間2111Aのうち、HMD120Aを装着したユーザ5Aが視認する領域に対応する。つまり、仮想視点2199Aの位置は、仮想空間2111Aにおけるユーザ5Aの視点と言える。プロセッサ210Aは、例えば、図21(A)に示す視界領域2115Aを規定する。
ステップ2007において、プロセッサ210Aは、視界画像2117Aをモニタ130Aに表示する。具体的には、プロセッサ210Aは、HMD120Aの動きと、仮想空間2111Aを定義する仮想空間データと、全天球映像2113Aとに基づいて、視界領域2115Aに対応する視界画像2117Aを定義する。視界画像2117Aを定義することは、視界画像2117Aを生成することと同義である。プロセッサ210Aは、さらに、HMD120Aのモニタ130Aに視界画像2117Aを出力することによって、視界画像2117AをHMD120Aに表示させる。
プロセッサ210Aは、例えば、図21(A)に示す視界画像2117Aを、図21(B)に示すようにモニタ130Aに表示する。ユーザ5Aは、視界画像2117Aを視認することにより、演者1852を視認することができる。
ステップS2023において、プロセッサ610は、演者用映像を表示装置1535へ送信する。これにより、表示装置1535は演者用映像を表示することができる。
図20に図示してはいないが、プロセッサ210Aは、一例として、演者1852とのコミュニケーションするためにユーザ5が行った操作(第2操作)に基づく情報を、サーバ600へ送信する。該情報は、例えば、演者1852宛のコメントを入力するためのコメント入力操作に基づいて生成されたコメントであってもよい。また、該情報は、ユーザ5が演者1852にオブジェクトを贈呈したことを示す情報であってもよい。つまり、ユーザ5Aは、全天球映像を視認しながら演者1852宛てのコメントを入力したり、演者1852にオブジェクトを贈呈したりすることができる。プロセッサ610は、受信した情報に基づくテキストを生成し、コンピュータ200Aおよび表示装置1535へ送信する。また、図示してはいないが、プロセッサ610は、該テキストを、コンピュータ200A以外のコンピュータ200、例えば、コンピュータ200B、200Cなどにも送信する。つまり、プロセッサ610は、あるユーザ5が行った第2操作に基づくテキストを、演者および全てのユーザ5へ送信する同期処理を行う。プロセッサ210Aは、受信したテキストをモニタ130Aに表示する。また、表示装置1535もまた、受信したテキストを表示する。これにより、演者1852は、ユーザ5の第2操作に基づくテキストを視認することができる。
ステップS2024において、プロセッサ610は、入札開始指示を受信する。一例として、入札開始指示は、演者1852の入力に基づき、表示装置1535から送信される。すなわち、表示装置1535は、ある局面において、演者1852の入力操作を受け付ける入力部を備えている。該入力部は、一例として、表示装置1535の表示部(表示領域)と一体となったタッチパネルであってもよい。この例において、表示装置1535は、入札開始指示を入力するためのタッチ操作を受け付けるユーザインターフェース(以下、UI)を表示部に表示してもよい。表示装置1535は、別の局面において、演者1852の入力操作を受け付ける入力装置と接続されている。
プロセッサ610は、入札開始指示を受信すると、入札処理を開始する。ステップS2025において、プロセッサ610は、入札オブジェクトのオブジェクト情報をコンピュータ200Aへ送信する。入札オブジェクトとは、ユーザ5Aに入札金額を入力させるために、ユーザ5Aによって用いられる、UIオブジェクトの一種である。図20には図示していないが、サーバ600は、コンピュータ200A以外のコンピュータ200にも、入札オブジェクトのオブジェクト情報を送信する。プロセッサ610は、一例として、入札処理を開始すると、設定された入札時間のカウントを行う。入札時間とは、ユーザ5からの入札金額情報を受け付ける時間であり、いわゆる入札の制限時間である。入札時間を示す情報は、例えば、入札開始指示に含まれていてもよい。入札時間は、演者1852が設定してもよいし、予め設定された時間であってもよい。
図22は、ある実施の形態に従う仮想空間2111Aおよび視界画像2217Aを示す図である。ステップS2008において、プロセッサ210Aは、仮想オブジェクト生成モジュール1421として、入札オブジェクト2271およびペンオブジェクト2272を生成し、仮想空間211Aに配置する。ペンオブジェクト2272は、仮想オブジェクトの一種であり、入札オブジェクト2271に入札金額を入力するために使用される。
プロセッサ210Aは、例えば、図22(A)に示す視界画像2217Aを、図22(B)に示すようにモニタ130Aに表示する。ユーザ5Aは、視界画像2217Aを視認することにより、入札オブジェクト2271およびペンオブジェクト2272を視認する。
入札オブジェクト2271は、テンキー2273、表示部2274、入札キー2275を含む。テンキー2273は、0〜9までの数字の入力に使用される。換言すれば、テンキー2273は入札金額の入力に使用される。表示部2274は、入力された入札金額を表示する。入札キー2275は、入力された入札金額を示す入札金額情報をサーバ600へ送信するために使用される。
図23は、ある実施の形態に従う仮想空間2111Aおよび視界画像2317Aを示す図である。図23(A)に示すように、アバターオブジェクト6Aは、仮想右手2395RAおよび仮想左手2395LAを含む。ペンオブジェクト2272は、仮想右手2395RAまたは仮想左手2395LAによって把持され、使用される。
プロセッサ210Aは、動き検出モジュール1425として、例えば、右コントローラ300RAの出力に基づいて、ユーザ5Aの右手の動きを検出する。プロセッサ210Aは、操作オブジェクト制御モジュール1423として、検出されたユーザ5Aの右手の動きに応じて、仮想空間2111Aにおいて仮想右手2395RAを動かす。ある局面において、プロセッサ210Aは、ユーザ5Aの右手の動きに応じて、ペンオブジェクト2272に仮想右手2395RAを近づけるように、仮想空間2111Aにおいて仮想右手2395RAを動かす。プロセッサ210Aは、仮想右手2395RAがペンオブジェクト2272に十分に近づいた後、ユーザ5Aの右手の動きに基づいて、仮想右手2395RAでペンオブジェクト2272を選択する(掴む)。ユーザ5Aの右手の動きとしては、例えば、右コントローラ300RAのいずれかのボタンを押下する動きが挙げられる。これにより、仮想右手2395RAでペンオブジェクト2272が把持される。
ステップS2009において、HMDセット110Aは、入札を行うための入札操作を受け付ける。一例として、右コントローラ300RAが、入札操作を受け付ける。プロセッサ210Aは、仮想右手2395RAがペンオブジェクト2272を選択した後、ユーザ5Aの右手の動きに基づいて、ペンオブジェクト2272の先端をテンキー2273のいずれかに近づけるように、仮想空間2111Aにおいて仮想右手2395RAおよびペンオブジェクト2272を動かす。プロセッサ210Aは、ペンオブジェクト2272の先端とテンキー2273のいずれかとが第1位置関係になった場合、ペンオブジェクト2272の先端とテンキー2273のいずれかとが衝突したことを検出する。第1位置関係とは、例えば、ペンオブジェクト2272の先端とテンキー2273のいずれかとの距離が第1距離を下回ることである。あるいは、ペンオブジェクト2272の先端に規定されるコリジョンエリアと、テンキー2273に設定されるコリジョンエリアとが少なくとも部分的に衝突することである。プロセッサ210Aは、ペンオブジェクト2272の先端とテンキー2273のいずれかとが衝突したことに基づいて、該テンキー2273が選択されたことを検出し、表示部2274に選択されたテンキー2273が示す数字を表示する。
プロセッサ210Aは、数字、すなわち入札金額の入力が終了した後、ユーザ5Aの右手の動きに基づいて、ペンオブジェクト2272の先端を入札キー2275に近づけるように、仮想空間2111Aにおいて仮想右手2395RAおよびペンオブジェクト2272を動かす。プロセッサ210Aは、ペンオブジェクト2272の先端と入札キー2275とが第2位置関係になった場合、ペンオブジェクト2272の先端と入札キー2275とが衝突したことを検出する。第2位置関係とは、例えば、ペンオブジェクト2272の先端と入札キー2275との距離が第2距離を下回ることである。あるいは、ペンオブジェクト2272の先端に規定されるコリジョンエリアと、入札キー2275に設定されるコリジョンエリアとが少なくとも部分的に衝突することである。プロセッサ210Aは、ペンオブジェクト2272の先端と入札キー2275とが衝突したことに基づいて、入札キー2275が選択されたことを検出する。
プロセッサ210Aは、例えば、視界画像2317Aを、図23(B)に示すようにモニタ130Aに表示する。図23(B)に示す視界画像2317Aでは、入札金額として「5000」との数字が入力された後、入札キー2275が選択されている。ユーザ5Aは、視界画像2317Aを視認することにより、自身が入札金額として5000円を入力し、入札を行ったことを認識する。ステップS2010において、プロセッサ210Aは、入札キー2275が選択されたことに基づいて、入札金額情報をサーバ600へ送信する。図20には図示していないが、サーバ600は、コンピュータ200A以外のコンピュータ200からも、入札金額情報を受信する。
ステップS2026において、プロセッサ610は、入札制御モジュール1928として、落札対象を決定する。プロセッサ610は、一例として、入札時間が終了すると、受信した入札金額情報のうち、最も高い金額を示す入札金額情報を特定する。また、プロセッサ610は、該入札金額情報に含まれる視聴者情報に基づき落札対象を決定する。図20の例では、落札対象はユーザ5Aであるとする。
図20には図示していないが、プロセッサ610は、第1入札金額に応じた、ユーザ5Aを落札者として確定させる処理を実行する。一例として、プロセッサ610は、ユーザ5Aに対する、第1入札金額の課金に関する処理を実行する。一例として、プロセッサ610は、ユーザ5Aと演者1852との1対1のコミュニケーションを、該課金に関する処理が実行された後に開始可能としてもよい。一例として、プロセッサ610は、ステップS2026の処理を実行した後、コンピュータ200Aに、ユーザ5Aが落札者であることの通知と、課金に関する処理を実行するための情報とを送信する。そして、プロセッサ610は、課金に関する処理が実行されたことを示す情報を受信した場合、ステップS2027の処理を実行する。なお、第1入札金額の課金に関する処理は、ステップS2026の後であれば、どのタイミングで実行されてもよい。
ステップS2027において、プロセッサ610は、コミュニケーション制御モジュール1929として、コミュニケーション開始オブジェクトのオブジェクト情報をコンピュータ200Aへ送信する。コミュニケーション開始オブジェクトとは、落札者(ユーザ5A)に、演者1852との1対1のコミュニケーションを開始させるために、落札者によって用いられる、UIオブジェクトの一種である。プロセッサ610は、ユーザ5Aが落札者であることを示す情報を、各コンピュータ200へ送信し、各コンピュータ200に、ユーザ5に対する通知を行わせてもよい。これにより、各ユーザ5は、ユーザ5Aが落札者であることを認識することができる。
図24は、ある実施の形態に従う仮想空間2111Aおよび視界画像2417Aを示す図である。ステップS2011において、プロセッサ210Aは、仮想オブジェクト生成モジュール1421として、コミュニケーション開始オブジェクト2476およびペンオブジェクト2272を生成し、仮想空間211Aに配置する。
プロセッサ210Aは、例えば、図24(A)に示す視界画像2417Aを、図24(B)に示すようにモニタ130Aに表示する。ユーザ5Aは、視界画像2417Aを視認することにより、コミュニケーション開始オブジェクト2476およびペンオブジェクト2272を視認する。
ステップS2012において、HMDセット110Aは、演者1852との1対1のコミュニケーションを開始するためのコミュニケーション開始操作(第1操作)を受け付ける。一例として、右コントローラ300RAがコミュニケーション開始操作を受け付ける。プロセッサ210Aは、仮想右手2395RAがペンオブジェクト2272を選択した後、ユーザ5Aの右手の動きに基づいて、ペンオブジェクト2272の先端をコミュニケーション開始オブジェクト2476に近づけるように、仮想空間2111Aにおいて仮想右手2395RAおよびペンオブジェクト2272を動かす。プロセッサ210Aは、ペンオブジェクト2272の先端とコミュニケーション開始オブジェクト2476とが第3位置関係になった場合、ペンオブジェクト2272の先端とコミュニケーション開始オブジェクト2476とが衝突したことを検出する。第3位置関係とは、例えば、ペンオブジェクト2272の先端とコミュニケーション開始オブジェクト2476との距離が第3距離を下回ることである。あるいは、ペンオブジェクト2272の先端に規定されるコリジョンエリアと、コミュニケーション開始オブジェクト2476に設定されるコリジョンエリアとが少なくとも部分的に衝突することである。プロセッサ210Aは、ペンオブジェクト2272の先端とコミュニケーション開始オブジェクト2476とが衝突したことに基づいて、コミュニケーション開始オブジェクト2476が選択されたことを検出する。
ステップS2013において、プロセッサ210Aは、コミュニケーション開始オブジェクト2476が選択されたことに基づいて、コミュニケーション開始指示をサーバ600へ送信する。
ステップS2028において、プロセッサ610は、コミュニケーション開始指示を受信した場合、落札者、すなわちユーザ5Aと演者1852との1対1のコミュニケーションを開始する。コミュニケーション開始操作に基づいて、ユーザ5Aと演者1852との1対1のコミュニケーションを開始するように構成することにより、ユーザ5Aは自身の望むタイミングで演者1852との1対1のコミュニケーションを開始することができる。プロセッサ610は、一例として、該コミュニケーションを開始すると、全天球映像の視聴中にユーザ5が、演者1852とコミュニケーションを図るために行った第2操作に基づく第1メッセージを演者1852に通知する一方、ユーザ5A以外のユーザ5が行った第2操作に基づく第1メッセージを演者1852に通知しない。換言すれば、ユーザ5Aに付与される、演者との1対1のコミュニケーションを行う権利は、ユーザ5A以外のユーザ5が行った第2操作に基づく第1メッセージが演者1852に通知されない一方、ユーザ5Aが行った第2操作に基づく第1メッセージが演者に通知される権利である。なお、第2操作とは、演者1852向けのコメントの入力、演者1852へのオブジェクトの贈呈などを含む。
ユーザ5Aと演者1852との1対1のコミュニケーションは、全天球映像の配信中に行われるため、該コミュニケーションには制限時間が予め設定されていることが好ましい。プロセッサ610は、一例として、該コミュニケーションが開始された場合、時間経過をカウントする。そして、プロセッサ610は、該コミュニケーションの開始から、設定された制限時間が経過した場合、該コミュニケーションを終了させる。すなわち、該コミュニケーションの開始から、設定された制限時間が経過した場合、ユーザ5A以外のユーザ5が行った第2操作に基づく第1メッセージも演者1852に通知されるようになる。これにより、落札者以外のユーザ5が、落札者が演者1852とコミュニケーションしている間、演者1852とコミュニケーションすることができないことへの不満を抑えることができる。なお、該制限時間は、ユーザ5に予め通知されていることが好ましい。また、プロセッサ610は、コンピュータ200に、落札者と演者1852とのコミュニケーションの間、該コミュニケーションの残り時間を示すUIをモニタ130に表示させてもよい。
図25は、ある実施の形態に従う仮想空間2111Aおよび視界画像2517Aを示す図である。図26は、ある実施の形態に従う表示装置1535に表示される画像を示す図である。図25および図26は、ユーザ5Aと演者1852との1対1のコミュニケーション中を示す図である。
図25(A)に示す全天球映像2113Aは、演者1852、コメント欄2581、および、ギフト2591を含む。コメント欄2581は、ユーザ5が入力したコメントや、ユーザ5が演者へオブジェクトを贈呈したことを示す通知が表示される領域である。ギフト2591は、ユーザ5Aから演者1852に贈呈されたオブジェクトである。
プロセッサ210Aは、例えば、図25(A)に示す視界画像2517Aを、図25(B)に示すようにモニタ130Aに表示する。ユーザ5Aは、視界画像2517Aを視認することにより、演者1852とともに、自身が演者1852に贈呈したギフト2591と、コメント欄2581とを視認することができる。
図25(B)の例では、コメント欄2581に、コメント2582、並びに、通知2583および2584が表示されている。コメント2582、並びに、通知2583および2584は、一例として、どのユーザの第2操作に基づくものであるかを示すテキストと、コメントまたは通知の内容を示すテキストから構成されている。これにより、ユーザ5は、各コメントおよび通知が、どのユーザ5の第2操作に基づくものであるかを認識することができる。図25(B)の例では、コメント2582および通知2584は、ユーザ5Aの第2操作に基づくものであり、通知2583は、ユーザ5Bの第2操作に基づくものである。
図26に示す演者用画像2637は、図25に示す視界画像2517Aと対応する。換言すれば、モニタ130Aに視界画像2517Aが表示されているとき、表示装置1535には演者用画像2637が表示されている。演者用画像2637は、演者1852、ギフト2591、および、コメント欄2681を含む。
図26の例では、コメント欄2681に、コメント2682および通知2684が表示されている。コメント2682および通知2684は、それぞれ、図25(B)に示すコメント2582および通知2584に対応する。つまり、演者用画像2637は、通知2583に対応する通知、すなわち、ユーザ5Bが演者1852にギフトを贈呈したことを示す通知を含まない。換言すれば、ユーザ5Aと演者1852との1対1のコミュニケーション中において、コメント欄2681には、ユーザ5Aの第2操作に基づくコメントおよび通知のみが表示される。
プロセッサ610は、コメント欄2681に表示されるコメントおよび通知の同期処理を実行する。ユーザ5Aと演者1852との1対1のコミュニケーション中である場合、プロセッサ610は、コンピュータ200には、すべてのコメントおよび通知を送信する。一方、表示装置1535には、ユーザ5Aの第2操作に基づくコメントおよび通知を送信する。これにより、演者1852は、ユーザ5Aの第2操作に基づくコメントおよび通知のみを認識することとなるので、ユーザ5Aの第2操作に基づくコメントおよび通知に対する各種対応を取ることになる。例えば、演者1852は、コメントの入力や、オブジェクトの贈呈に対してお礼を述べる。結果として、ユーザ5Aと演者1852との1対1のコミュニケーションが実現される。
プロセッサ610は、ギフト2591の贈呈に対する、ユーザ5Aへの課金に関する処理を実行してもよい。換言すれば、ギフト2591の贈呈は有料であってもよい。ユーザ5Aは、演者1852との1対1のコミュニケーション中にギフト2591の贈呈を行うことにより、金銭の支払いに対して、演者1852のお礼などの対価を得ることができる。一方、該コミュニケーション以外のタイミングでギフト2591の贈呈を行った場合、他のユーザ5の第2操作に基づくコメントや通知に、ギフト2591の贈呈の通知がまぎれ、演者1852が気付かず、金銭の支払いが無駄になるおそれがある。以上より、ギフト2591が、ギフト2591に設定されている金額のユーザ5に対する課金に関する処理が実行された場合に、演者1852に贈呈されるよう構成することで、ギフト2591の贈呈を演者1852に確実に気付かせるために、ユーザ5に入札に参加する動機づけを与えることができる。
また、ギフト2591が贈呈された場合、プロセッサ610は、演者1852の利益の獲得に関する処理を実行してもよい。一例として、プロセッサ610は、ギフト2591に設定されている金額の少なくとも一部を、演者1852への報酬としてもよい。別の例として、プロセッサ610は、演者1852に設定されている、演者1852の人気を示すスコアを、ギフト2591の贈呈に基づいて加算してもよい。このように構成することにより、ギフト2591を贈呈された演者1852に大きな喜びを与えることができる。つまり、落札者と演者との1対1のコミュニケーションにおいてギフトの贈呈を行うことにより、演者1852の喜びを独占することができる。結果として、ユーザ5に入札に参加する動機づけを与えることができる。
落札者と演者1852との1対1のコミュニケーションは、上述した例に限定されない。一例として、該コミュニケーションは、落札者と演者1852とが、電話、テレビ電話などにより通話することであってもよい。この場合、コミュニケーション開始指示は、演者1852が有する通話機器への発信であってもよい。プロセッサ610は、コミュニケーション開始指示を受信すると、演者1852が有する通話機器へ電話をかける。別の例として、該コミュニケーションは、落札者と演者とがチャットすることであってもよい。該チャットは、ボイスチャットであってもよい。
プロセッサ610は、演者1852との1対1のコミュニケーションの方法を、落札者に選択させてもよい。プロセッサ610は、一例として、該コミュニケーションの方法の選択肢を複数含むコミュニケーション開始オブジェクトのオブジェクト情報を、コンピュータ200へ送信してもよい。該選択肢は、例えば、落札者のコメントおよび通知のみが演者1852に届くこと、演者1852との通話、および、演者1852とのチャットを含んでもよい。
落札者と演者1852とが1対1のコミュニケーション中である場合、プロセッサ610は、各ユーザ5が視聴する全天球映像においても、落札者のコメントおよび通知のみを表示させてもよい。また、プロセッサ610は、落札者以外のユーザ5のコンピュータ200に、落札者と演者1852との1対1のコミュニケーションが開始された場合には演者1852とのコミュニケーションが取れない旨を、ユーザ5に対して通知させることが好ましい。
上述した例では、ユーザ5Aは、現金により、演者1852との、映像配信システム1500を介した1対1のコミュニケーションを行う権利を購入する例を説明した。これに対して、該権利を購入するための対価は、現金に限定されない。例えば、該対価は、ユーザ5Aが、予め購入しておいたオブジェクト(いわゆる、課金アイテム)であってもよい。この例の場合、サーバ600は、ユーザ5が入力した、課金アイテムの個数を入札情報として受信する。また、この例の場合、サーバ600は、ユーザ5Aを落札者として確定させる処理として、ユーザ5Aに関連付けられた課金アイテムの総数から、ユーザ5Aが入力した個数を減算する処理を実行する。
上述した例では、入札の対象が演者1852との、映像配信システム1500を介した1対1のコミュニケーションを行う権利である例を説明した。これに対して、入札の対象となる権利は、落札者(ユーザ5A)と演者1852との間において、双方向性のあるインタラクションであればよく、該コミュニケーションに限定されない。例えば、入札の対象となる権利は、落札者に特化した、演者1852とのコミュニケーションを行う権利であってもよい。つまり、入札の対象となる権利は、第1視聴者に特化したインタラクションを演者1852に行わせる権利、と表現することもできる。なお、「第1視聴者に特化したインタラクション」とは、他の視聴者と比べて、第1視聴者に優先的なインタラクションである。
上述した例では、落札者であるユーザ5A以外のユーザ5が入力したコメントや、ギフトの贈呈について、ユーザ5Aと演者1852とのコミュニケーション中は、演者1852に通知しない例を説明した。これに対して、該コミュニケーション中の、ユーザ5A以外のユーザ5が入力したコメントや、ギフトの贈呈について、演者1852への通知を制限する構成であってもよい。一例として、サーバ600は、ユーザ5A以外のユーザ5が入力したコメントは演者1852へ通知する一方、ユーザ5A以外のユーザ5によるギフトの贈呈は演者1852へ通知しない構成であってもよい。
サーバ600は、落札者と演者1852とのコミュニケーションの方法が電話やチャットである場合であっても、該コミュニケーション中は、ユーザ5A以外のユーザ5が入力したコメントや、ギフトの贈呈について、演者1852への通知を制限する構成であってもよい。
ユーザ5がライブストリーミング映像を視聴する端末は、HMDシステム100に限定されない。例えば、ユーザ5は、スマートフォンやタブレット端末を用いてライブストリーミング映像を視聴してもよい。この例において、ライブストリーミング映像が全天球映像である場合、ユーザ5は、一例として、スマートフォンのタッチスクリーンに対するフリック操作、スワイプ操作などにより、全天球映像のうちの表示する領域を変更してもよい。また、別の例として、把持したスマートフォンを移動させることで、スマートフォンのジャイロ機能により、全天球映像のうちの表示する領域を変更してもよい。
ユーザ5が視聴するライブストリーミング映像は、被写体1551(例えば、演者1852)そのものを含む映像に限定されない。例えば、該ライブストリーミング映像は、演者1852に関連付けられた、演者1852の動きを反映するアバターオブジェクトを含む映像であってもよい。つまり、ライブストリーミング映像は、実写映像ではなく、CG(Computer Graphics)映像やアニメーション映像であってもよいし、実写映像にCG(Computer Graphics)映像やアニメーション映像を合成した映像であってもよい。
以上、本開示の実施形態について説明したが、本発明の技術的範囲は、本実施形態の説明によって限定的に解釈されるべきではない。本実施形態は一例であって、特許請求の範囲に記載された発明の範囲内において、様々な実施形態の変更が可能であることが当業者によって理解されるところである。本発明の技術的範囲は、特許請求の範囲に記載された発明の範囲およびその均等の範囲に基づいて定められるべきである。
〔付記事項〕
本発明の一側面に係る内容を列記すると以下の通りである。
(項目1) プログラムを説明した。本開示のある局面によると、プログラムは、プロセッサ(610)を備えたコンピュータ(サーバ600)によって実行される。プログラムは、プロセッサに、被写体(演者1852)を撮影した映像を複数の視聴者に配信するステップ(S2022)と、映像の配信中に複数の視聴者それぞれが入力した入札情報を取得するステップと、取得した入札情報に基づいて、落札対象となる第1視聴者を特定するステップ(S2026)と、第1視聴者を落札者として確定させる処理を実行するステップと、落札者として確定させる処理が実行されたことに応じて、映像の配信中に、第1視聴者に特化したインタラクションを被写体に行わせる権利を第1視聴者に付与するステップ(S2027)と、を実行させる。
(項目2) (項目1)において、インタラクションはコミュニケーションであり、プログラムは、プロセッサに、映像の配信中に権利が行使されたことに伴い、コミュニケーションを行わせるための処理を実行するステップ(ステップS2028)と、予め設定された時間が経過した場合、コミュニケーションを終了させるステップと、を実行させる、請求項1に記載のプログラム。
(項目3) (項目2)において、コミュニケーションを行わせるための処理を実行するステップでは、第1視聴者により入力された、コミュニケーションを開始するための第1操作に基づいて、コミュニケーションを開始するための処理を実行する。
(項目4) (項目1)から(項目3)のいずれかにおいて、プログラムは、プロセッサに、前記複数の視聴者により入力された、被写体とコミュニケーションするための第2操作に基づく、被写体宛の第1メッセージを被写体に通知するステップをさらに実行させる。権利は、第1視聴者に特化したインタラクションを被写体に行わせることに加え、第1視聴者以外の視聴者による第1メッセージの被写体への通知を制限することを含む。
(項目5) (項目4)において、権利は、第1視聴者による第1メッセージの被写体への通知を行うことにより、第1視聴者に特化したインタラクションを被写体に行わせることを含む。
(項目6) (項目5)において、通知するステップでは、第1メッセージとして、視聴者から被写体へオブジェクトが贈呈されたことを被写体に通知する。プログラムは、プロセッサに、オブジェクトの贈呈に対する、視聴者への課金に関する処理を実行するステップをさらに実行させる。
(項目7) (項目6)において、プログラムは、プロセッサに、オブジェクトが贈呈されたことに基づいて、被写体の利益の獲得に関する処理を実行するステップをさらに実行させる。
(項目8) (項目1)から(項目7)のいずれかにおいて、権利は、インタラクションとして、第1視聴者が被写体と通話する権利を含む。
(項目9) (項目1)から(項目8)のいずれかにおいて、権利は、インタラクションとして、第1視聴者が演者とチャットする権利を含む。
(項目10) (項目1)から(項目9)のいずれかにおいて、プログラムは、プロセッサに、インタラクションの方法を第1視聴者に選択させるステップをさらに実行させる。
(項目11) (項目1)から(項目10)のいずれかにおいて、確定させる処理を実行するステップは、第1視聴者の入札情報が示す入札金額の課金に関する処理、および、第1視聴者の入札情報が示す個数分の課金アイテムを消費する処理の少なくとも一方を行うことを含む。
(項目12) 情報処理装置を説明した。本開示のある局面によると、情報処理装置(サーバ600)は、情報処理装置によって実行されるプログラムを記憶する記憶部(メモリ620)と、プログラムを実行することにより、情報処理装置の動作を制御する制御部(プロセッサ610)と、を備える。制御部は、被写体(演者1852)を撮影した映像を複数の視聴者に配信し、映像の配信中に複数の視聴者それぞれが入力した入札情報を取得し、取得した入札情報に基づいて、落札対象となる第1視聴者を特定し、第1視聴者を落札者として確定させる処理を実行し、落札者として確定させる処理が実行されたことに応じて、映像の配信中に、第1視聴者に特化したインタラクションを被写体に行わせる権利を第1視聴者に付与する。
(項目13) プログラムを実行する方法を説明した。本開示のある局面によると、プログラムは、プロセッサ(610)を備えたコンピュータ(サーバ600)によって実行される。方法は、プロセッサが、被写体(演者1852)を撮影した映像を複数の視聴者に配信するステップ(S2022)と、映像の配信中に複数の視聴者それぞれが入力した入札情報を取得するステップと、取得した入札情報に基づいて、落札対象となる第1視聴者を特定するステップ(S2026)と、第1視聴者を落札者として確定させる処理を実行するステップと、落札者として確定させる処理が実行されたことに応じて、映像の配信中に、第1視聴者に特化したインタラクションを被写体に行わせる権利を第1視聴者に付与するステップ(S2027)と、を含む。
上記実施形態においては、HMDによってユーザが没入する仮想空間(VR空間)を例示して説明したが、HMDとして、透過型のHMDを採用してもよい。この場合、透過型のHMDを介してユーザが視認する現実空間に仮想空間を構成する画像の一部を合成した視界画像を出力することにより、拡張現実(AR:Augmented Reality)空間または複合現実(MR:Mixed Reality)空間における仮想体験をユーザに提供してもよい。この場合、操作オブジェクトに代えて、ユーザの手の動きに基づいて、仮想空間内における対象オブジェクトへの作用を生じさせてもよい。具体的には、プロセッサは、現実空間におけるユーザの手の位置の座標情報を特定するとともに、仮想空間内における対象オブジェクトの位置を現実空間における座標情報との関係で定義してもよい。これにより、プロセッサは、現実空間におけるユーザの手と仮想空間における対象オブジェクトとの位置関係を把握し、ユーザの手と対象オブジェクトとの間で上述したコリジョン制御等に対応する処理を実行可能となる。その結果、ユーザの手の動きに基づいて対象オブジェクトに作用を与えることが可能となる。
2 ネットワーク、5,5A,5B,5C ユーザ、6,6A,6B,6C アバターオブジェクト、11,11A,11B,11C,11D,2111A 仮想空間、12,12A 中心、13 パノラマ画像、14,14A,14B 仮想カメラ、15,15A,15B,15C,2115A 視界領域、16 基準視線、17,17A,17B,2117A,2217A,2317A,2417A,2517A 視界画像、18,19 領域、100 HMDシステム、110,110A,110B,110C,110D HMDセット、120,120A,120B,120C、HMD、130,130A,130B,130C モニタ、140 注視センサ、150 第1カメラ、160 第2カメラ、170,170A,170B マイク、180,180A,180B スピーカ、190 センサ、200,200A,200B,200C コンピュータ、210,210A、210B,210C,210D,610,1771 プロセッサ、220,620,1772 メモリ、230,230A,230B,630,1773 ストレージ、240,640,1774 入出力インターフェイス、250,650,1775 通信インターフェイス、260,660,1776 バス、300,300B コントローラ、300R 右コントローラ、300L 左コントローラ、310 グリップ、320 フレーム、330 天面、340,340,350,370,380 ボタン、360 赤外線LED、390 アナログスティック、410 HMDセンサ、420,420A モーションセンサ、430,430A ディスプレイ、510,1910 コントロールモジュール、520 レンダリングモジュール、530,1930 メモリモジュール、540,1940 通信制御モジュール、600 サーバ、700 外部機器、1421 仮想オブジェクト生成モジュール、1422 仮想カメラ制御モジュール、1423 操作オブジェクト制御モジュール、1424 アバターオブジェクト制御モジュール、1425 動き検出モジュール、1426 仮想オブジェクト制御モジュール、1500 映像配信システム、1531 全天球カメラ、1532 第1撮像部、1533 第2撮像部、1534 全天球映像生成装置、1535 表示装置、1551 被写体、1661A,1661B 視野、1800 撮影空間、1836 表示領域、1852 演者、 1927 全天球映像制御モジュール、1928 入札制御モジュール、1929 コミュニケーション制御モジュール、2113A 全天球映像、2271 入札オブジェクト、2272 ペンオブジェクト、2273 テンキー、2274 表示部、2275 入札キー、2395LA 仮想左手、2395RA 仮想右手、2471 コミュニケーション開始オブジェクト、2581,2681 コメント欄、2582,2682 コメント、2583,2584,2684 通知、2591 ギフト

Claims (13)

  1. プロセッサを備えたコンピュータによって実行されるプログラムであって、
    前記プログラムは、前記プロセッサに、
    被写体を撮影した映像を複数の視聴者に配信するステップと、
    前記映像の配信中に前記複数の視聴者それぞれが入力した入札情報を取得するステップと、
    取得した前記入札情報に基づいて、落札対象となる第1視聴者を特定するステップと、
    前記第1視聴者を落札者として確定させる処理を実行するステップと、
    前記落札者として確定させる処理が実行されたことに応じて、前記映像の配信中に、前記第1視聴者に特化したインタラクションを前記被写体に行わせる権利を前記第1視聴者に付与するステップと、を実行させる、プログラム。
  2. 前記インタラクションは、コミュニケーションであり、
    前記プログラムは、前記プロセッサに、
    前記映像の配信中に前記権利が行使されたことに伴い、前記コミュニケーションを行わせるための処理を実行するステップと、
    予め設定された時間が経過した場合、前記コミュニケーションを終了させるステップと、を実行させる、請求項1に記載のプログラム。
  3. 前記コミュニケーションを行わせるための処理を実行するステップでは、前記第1視聴者により入力された、前記コミュニケーションを開始するための第1操作に基づいて、前記コミュニケーションを開始するための処理を実行する、請求項2に記載のプログラム。
  4. 前記プログラムは、前記プロセッサに、
    前記複数の視聴者により入力された、前記被写体とコミュニケーションするための第2操作に基づく、前記被写体宛の第1メッセージを前記被写体に通知するステップをさらに実行させ、
    前記権利は、前記第1視聴者に特化した前記インタラクションを前記被写体に行わせることに加え、前記第1視聴者以外の前記視聴者による前記第1メッセージの前記被写体への通知を制限することを含む、請求項1から3のいずれか1項に記載のプログラム。
  5. 前記権利は、前記第1視聴者による前記第1メッセージの前記被写体への通知を行うことにより、前記第1視聴者に特化した前記インタラクションを前記被写体に行わせることを含む、請求項4に記載のプログラム。
  6. 前記通知するステップでは、前記第1メッセージとして、前記視聴者から前記被写体へオブジェクトが贈呈されたことを前記被写体に通知し、
    前記プログラムは、前記プロセッサに、前記オブジェクトの贈呈に対する、前記視聴者への課金に関する処理を実行するステップをさらに実行させる、請求項5に記載のプログラム。
  7. 前記プログラムは、前記プロセッサに、前記オブジェクトが贈呈されたことに基づいて、前記被写体の利益の獲得に関する処理を実行するステップをさらに実行させる、請求項6に記載のプログラム。
  8. 前記権利は、前記インタラクションとして、前記第1視聴者が前記被写体と通話する権利を含む、請求項1から7のいずれか1項に記載のプログラム。
  9. 前記権利は、前記インタラクションとして、前記第1視聴者が前記被写体とチャットする権利を含む、請求項1から8のいずれか1項に記載のプログラム。
  10. 前記プログラムは、前記プロセッサに、前記インタラクションの方法を前記第1視聴者に選択させるステップをさらに実行させる、請求項1から9のいずれか1項に記載のプログラム。
  11. 前記確定させる処理を実行するステップは、前記第1視聴者の前記入札情報が示す入札金額の課金に関する処理、および、前記第1視聴者の前記入札情報が示す個数分の課金アイテムを消費する処理の少なくとも一方を行うことを含む、請求項1から10のいずれか1項に記載のプログラム。
  12. 情報処理装置であって、
    前記情報処理装置は、
    前記情報処理装置によって実行されるプログラムを記憶する記憶部と、
    前記プログラムを実行することにより、前記情報処理装置の動作を制御する制御部と、を備え、
    前記制御部は、
    被写体を撮影した映像を複数の視聴者に配信し、
    前記映像の配信中に前記複数の視聴者それぞれが入力した入札情報を取得し、
    取得した前記入札情報に基づいて、落札対象となる第1視聴者を特定し、
    前記第1視聴者を落札者として確定させる処理を実行し、
    前記落札者として確定させる処理が実行されたことに応じて、前記映像の配信中に、前記第1視聴者に特化したインタラクションを前記被写体に行わせる権利を前記第1視聴者に付与する、情報処理装置。
  13. プロセッサを備えたコンピュータがプログラムを実行する方法であって、
    前記方法は、前記プロセッサが、
    被写体を撮影した映像を複数の視聴者に配信するステップと、
    前記映像の配信中に前記複数の視聴者それぞれが入力した入札情報を取得するステップと、
    取得した前記入札情報に基づいて、落札対象となる第1視聴者を特定するステップと、
    前記第1視聴者を落札者として確定させる処理を実行するステップと、
    前記落札者として確定させる処理が実行されたことに応じて、前記映像の配信中に、前記第1視聴者に特化したインタラクションを前記被写体に行わせる権利を前記第1視聴者に付与するステップと、を含む、方法。
JP2018167159A 2018-09-06 2018-09-06 プログラム、情報処理装置、および方法 Active JP6791920B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018167159A JP6791920B2 (ja) 2018-09-06 2018-09-06 プログラム、情報処理装置、および方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018167159A JP6791920B2 (ja) 2018-09-06 2018-09-06 プログラム、情報処理装置、および方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2020184771A Division JP2021036448A (ja) 2020-11-05 2020-11-05 プログラム、情報処理装置、および方法

Publications (2)

Publication Number Publication Date
JP2020042357A true JP2020042357A (ja) 2020-03-19
JP6791920B2 JP6791920B2 (ja) 2020-11-25

Family

ID=69798406

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018167159A Active JP6791920B2 (ja) 2018-09-06 2018-09-06 プログラム、情報処理装置、および方法

Country Status (1)

Country Link
JP (1) JP6791920B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021071963A (ja) * 2019-10-31 2021-05-06 Line株式会社 情報処理方法、プログラムおよび情報処理装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004064503A (ja) * 2002-07-30 2004-02-26 Mitsui & Associates Telepark Corp ビデオチャットの課金方法及びその装置
JP2005141697A (ja) * 2003-11-10 2005-06-02 Toru Goto 情報処理装置及び情報処理方法
JP2005157586A (ja) * 2003-11-21 2005-06-16 Nec Soft Ltd バーチャルコミュニティシステム,そのコミュニケーション方法およびプログラム
US20090112680A1 (en) * 2007-10-25 2009-04-30 Ido Dovrath System for interaction with celebrities
JP2012120098A (ja) * 2010-12-03 2012-06-21 Linkt Co Ltd 情報提供システム
JP2018106498A (ja) * 2016-12-27 2018-07-05 株式会社コロプラ 仮想空間を提供するための方法、当該方法をコンピュータに実現させるためのプログラム、および、コンピュータ装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004064503A (ja) * 2002-07-30 2004-02-26 Mitsui & Associates Telepark Corp ビデオチャットの課金方法及びその装置
JP2005141697A (ja) * 2003-11-10 2005-06-02 Toru Goto 情報処理装置及び情報処理方法
JP2005157586A (ja) * 2003-11-21 2005-06-16 Nec Soft Ltd バーチャルコミュニティシステム,そのコミュニケーション方法およびプログラム
US20090112680A1 (en) * 2007-10-25 2009-04-30 Ido Dovrath System for interaction with celebrities
JP2012120098A (ja) * 2010-12-03 2012-06-21 Linkt Co Ltd 情報提供システム
JP2018106498A (ja) * 2016-12-27 2018-07-05 株式会社コロプラ 仮想空間を提供するための方法、当該方法をコンピュータに実現させるためのプログラム、および、コンピュータ装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021071963A (ja) * 2019-10-31 2021-05-06 Line株式会社 情報処理方法、プログラムおよび情報処理装置
JP7143010B2 (ja) 2019-10-31 2022-09-28 Line株式会社 情報処理方法、プログラムおよび情報処理装置
JP2022168231A (ja) * 2019-10-31 2022-11-04 Line株式会社 情報処理方法、プログラムおよび情報処理装置
JP7482959B2 (ja) 2019-10-31 2024-05-14 Lineヤフー株式会社 情報処理方法、プログラムおよび情報処理装置

Also Published As

Publication number Publication date
JP6791920B2 (ja) 2020-11-25

Similar Documents

Publication Publication Date Title
JP2019192173A (ja) プログラム、情報処理装置、および方法
JP7117890B2 (ja) プログラム、情報処理装置、および方法
JP7138138B2 (ja) プログラム、情報処理方法及び情報処理装置
JP2023090719A (ja) プログラム
JP2022087111A (ja) ヘッドマウントデバイスを介して仮想空間を提供するためにコンピュータで実行されるプログラムおよび方法ならびに情報処理装置
JP2023099570A (ja) プログラム、およびシステム
JP2019128721A (ja) ユーザの動きをアバタに反映するためのプログラム、当該プログラムを実行するための情報処理装置、およびアバタを含む映像を配信するための方法
JP7117889B2 (ja) プログラム、情報処理装置、および方法
JP7157551B2 (ja) プログラム、情報処理装置、および方法
JP7192151B2 (ja) プログラム、情報処理装置、及び情報処理方法
JP6791920B2 (ja) プログラム、情報処理装置、および方法
JP7278442B2 (ja) プログラム、情報処理装置、および方法
JP2019192203A (ja) プログラム、情報処理装置、および方法
JP2019168962A (ja) プログラム、情報処理装置、及び情報処理方法
JP6826082B2 (ja) プログラム、情報処理装置、および方法
JP6718928B2 (ja) 映像出力システム
JP2021036448A (ja) プログラム、情報処理装置、および方法
JP6718930B2 (ja) プログラム、情報処理装置、および方法
JP7438786B2 (ja) プログラム、情報処理方法、及び情報処理装置
JP7313523B1 (ja) プログラムおよび情報処理システム
WO2021131938A1 (ja) プログラム、方法および情報処理装置
WO2021131935A1 (ja) プログラム、方法および情報処理装置
JP7114326B2 (ja) プログラム、情報処理装置、および方法
JP6453499B1 (ja) プログラム、情報処理装置、および方法
JP6659793B1 (ja) プログラム、方法および情報処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181210

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200128

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20200309

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200522

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201027

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201105

R150 Certificate of patent or registration of utility model

Ref document number: 6791920

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250