JP6392832B2 - 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム - Google Patents

情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム Download PDF

Info

Publication number
JP6392832B2
JP6392832B2 JP2016236784A JP2016236784A JP6392832B2 JP 6392832 B2 JP6392832 B2 JP 6392832B2 JP 2016236784 A JP2016236784 A JP 2016236784A JP 2016236784 A JP2016236784 A JP 2016236784A JP 6392832 B2 JP6392832 B2 JP 6392832B2
Authority
JP
Japan
Prior art keywords
player character
user
virtual space
hmd
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016236784A
Other languages
English (en)
Other versions
JP2018089230A (ja
Inventor
一晃 澤木
一晃 澤木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Colopl Inc
Original Assignee
Colopl Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Colopl Inc filed Critical Colopl Inc
Priority to JP2016236784A priority Critical patent/JP6392832B2/ja
Priority to US15/832,674 priority patent/US10238968B2/en
Publication of JP2018089230A publication Critical patent/JP2018089230A/ja
Application granted granted Critical
Publication of JP6392832B2 publication Critical patent/JP6392832B2/ja
Priority to US16/361,205 priority patent/US10894211B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本開示は、情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラムに関する。
非特許文献1は、複数ユーザによって共有される仮想空間において、各ユーザに関連付けられたアバター(プレイヤキャラクタ)を各ユーザの操作に基づいて動作させる技術を開示している。このような技術によれば、共通の仮想空間内におけるチャット(以下「VRチャット」)機能を複数ユーザに提供することが可能になる。
"Facebook Mark Zuckerberg Social VR Demo OC3 Oculus Connect 3 Keynote"、[online]、平成28年10月6日、VRvibe、[平成28年12月5日検索]、インターネット<https://www.youtube.com/watch?v=NCpNKLXovtE>
ところで、上述のVRチャットのように、複数ユーザで同一の仮想空間を共有する場合、仮想空間内のユーザ数(すなわちユーザに関連付けられたアバターの数)が多いと、そのとき注目すべきアバターを容易に特定できないといった状況が生じ得る。その結果、円滑なコミュニケーションが阻害され得る。
本開示は、上述のような問題点を解決するためになされたものであり、複数ユーザで仮想空間を共有する仮想体験におけるユーザ間のコミュニケーションをより円滑にし得る情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラムを提供することを目的とする。
本開示が示す一態様によれば、第1ヘッドマウントディスプレイを介して第1ユーザに仮想空間を提供するためにコンピュータによって実行される情報処理方法が提供される。この情報処理方法は、第1ユーザに関連付けられた第1プレイヤキャラクタと、第2ユーザに関連付けられた第2プレイヤキャラクタと、第1ヘッドマウントディスプレイに提供される視界画像を定義する仮想カメラとを含む仮想空間を定義する仮想空間データを生成するステップと、視界画像に含まれる第2プレイヤキャラクタの表示態様を、第1プレイヤキャラクタに対する第2プレイヤキャラクタの状態に応じて決定するステップと、を含む。
本開示によれば、複数ユーザで仮想空間を共有する仮想体験におけるユーザ間のコミュニケーションをより円滑にし得る情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラムを提供することが可能となる。
ある実施の形態に従うHMDシステム100の構成の概略を表す図である。 一局面に従うコンピュータ200のハードウェア構成の一例を表すブロック図である。 ある実施の形態に従うHMD装置110に設定されるuvw視野座標系を概念的に表す図である。 ある実施の形態に従う仮想空間2を表現する一態様を概念的に表す図である。 ある実施の形態に従うHMD装置110を装着するユーザ190の頭部を上から表した図である。 仮想空間2において視界領域23をX方向から見たYZ断面を表す図である。 仮想空間2において視界領域23をY方向から見たXZ断面を表す図である。 ある実施の形態に従うコントローラ160の概略構成を表す図である。 ある実施の形態に従うコンピュータ200をモジュール構成として表すブロック図である。 HMDシステム100Aが実行する処理を表すフローチャートである。 複数ユーザに共有される仮想空間2を模式的に表す図である。 ユーザ190Aに提供される視界画像Mを表す図である。 HMDシステム100A、HMDシステム100B、HMDシステム100C、およびサーバ150が実行する処理を示すシーケンス図である。 プレイヤキャラクタの透過制御の第1の例における視界画像の一例(視界画像M1)を表す図である。 プレイヤキャラクタの透過制御の第2の例における視界画像の一例(視界画像M2)を表す図である。 プレイヤキャラクタの透過制御の第3の例においてHMDシステム100Aが実行する処理を表すフローチャートである。 プレイヤキャラクタの透過制御の第3の例における視界画像の一例(視界画像M3)を表す図である。 プレイヤキャラクタの透過制御の第3の例における視界画像の他例(視界画像M4)を表す図である。
以下、図面を参照しつつ、本開示の実施の形態について説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。
[HMDシステムの構成]
図1を参照して、HMD(Head Mount Display)システム100の構成について説明する。図1は、ある実施の形態に従うHMDシステム100の構成の概略を表す図である。ある局面において、HMDシステム100は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。
HMDシステム100は、HMD装置110と、HMDセンサ120と、コントローラ160と、コンピュータ200とを備える。HMD装置110は、モニタ112と、カメラ116と、マイク118と、注視センサ140とを含む。コントローラ160は、モーションセンサ130を含み得る。
ある局面において、コンピュータ200は、インターネットその他のネットワーク19に接続可能であり、ネットワーク19に接続されているサーバ150その他のコンピュータと通信可能である。別の局面において、HMD装置110は、HMDセンサ120の代わりに、センサ114を含み得る。
HMD装置110は、ユーザの頭部に装着され、動作中に仮想空間をユーザに提供し得る。より具体的には、HMD装置110は、右目用の画像および左目用の画像をモニタ112にそれぞれ表示する。ユーザの各目がそれぞれの画像を視認すると、ユーザは、両目の視差に基づき当該画像を3次元の画像として認識し得る。
モニタ112は、例えば、非透過型の表示装置として実現される。ある局面において、モニタ112は、ユーザの両目の前方に位置するようにHMD装置110の本体に配置されている。したがって、ユーザは、モニタ112に表示される3次元画像を視認すると、仮想空間に没入することができる。ある実施の形態において、仮想空間は、例えば、背景、ユーザが操作可能なオブジェクト、およびユーザが選択可能なメニューの画像等を含む。ある実施の形態において、モニタ112は、所謂スマートフォンその他の情報表示端末が備える液晶モニタまたは有機EL(Electro Luminescence)モニタとして実現され得る。
ある局面において、モニタ112は、右目用の画像を表示するためのサブモニタと、左目用の画像を表示するためのサブモニタとを含み得る。別の局面において、モニタ112は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、モニタ112は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。
カメラ116は、HMD装置110を装着するユーザの顔画像を取得する。カメラ116によって取得された顔画像は、画像解析処理によってユーザの表情を検知するために使用され得る。カメラ116は、例えば、瞳の動き、まぶたの開閉、および眉毛の動き等を検知するために、HMD装置110本体に内蔵された赤外線カメラであってもよい。あるいは、カメラ116は、ユーザの口、頬、および顎等の動きを検知するために、図1に示されるようにHMD装置110の外側に配置された外付けカメラであってもよい。また、カメラ116は、上述した赤外線カメラおよび外付けカメラの両方によって構成されてもよい。
マイク118は、ユーザが発した音声を取得する。マイク118によって取得された音声は、音声解析処理によってユーザの感情を検知するために使用され得る。当該音声は、仮想空間2に対して、音声による指示を与えるためにも使用され得る。また、当該音声は、ネットワーク19およびサーバ150等を介して、他のユーザが使用するHMDシステムに送られ、当該HMDシステムに接続されたスピーカ等から出力されてもよい。これにより、仮想空間を共有するユーザ間での会話(チャット)が実現される。
HMDセンサ120は、複数の光源(図示しない)を含む。各光源は例えば、赤外線を発するLED(Light Emitting Diode)により実現される。HMDセンサ120は、HMD装置110の動きを検出するためのポジショントラッキング機能を有する。HMDセンサ120は、この機能を用いて、現実空間内におけるHMD装置110の位置および傾きを検出する。
なお、別の局面において、HMDセンサ120は、カメラにより実現されてもよい。この場合、HMDセンサ120は、カメラから出力されるHMD装置110の画像情報を用いて、画像解析処理を実行することにより、HMD装置110の位置および傾きを検出することができる。
別の局面において、HMD装置110は、位置検出器として、HMDセンサ120の代わりに、センサ114を備えてもよい。HMD装置110は、センサ114を用いて、HMD装置110自身の位置および傾きを検出し得る。例えば、センサ114が角速度センサ、地磁気センサ、加速度センサ、あるいはジャイロセンサ等である場合、HMD装置110は、HMDセンサ120の代わりに、これらの各センサのいずれかを用いて、自身の位置および傾きを検出し得る。一例として、センサ114が角速度センサである場合、角速度センサは、現実空間におけるHMD装置110の3軸周りの角速度を経時的に検出する。HMD装置110は、各角速度に基づいて、HMD装置110の3軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、HMD装置110の傾きを算出する。また、HMD装置110は、透過型表示装置を備えていてもよい。この場合、当該透過型表示装置は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可能であってもよい。また、視界画像は仮想空間を構成する画像の一部に、現実空間を提示する構成を含んでいてもよい。例えば、HMD装置110に搭載されたカメラで撮影した画像を視界画像の一部に重畳して表示させてもよいし、当該透過型表示装置の一部の透過率を高く設定することにより、視界画像の一部から現実空間を視認可能にしてもよい。
注視センサ140は、ユーザ190の右目および左目の視線が向けられる方向(視線方向)を検出する。当該方向の検出は、例えば、公知のアイトラッキング機能によって実現される。注視センサ140は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ140は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ140は、例えば、ユーザ190の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ140は、検出した各回転角に基づいて、ユーザ190の視線方向を検知することができる。
サーバ150は、コンピュータ200にプログラムを送信し得る。別の局面において、サーバ150は、他のユーザによって使用されるHMD装置に仮想現実を提供するための他のコンピュータ200と通信し得る。例えば、アミューズメント施設において、複数のユーザが参加型のゲームを行う場合、各コンピュータ200は、各ユーザの動作に基づく信号を他のコンピュータ200と通信して、同じ仮想空間において複数のユーザが共通のゲームを楽しむことを可能にする。
コントローラ160は、ユーザ190からコンピュータ200への命令の入力を受け付ける。ある局面において、コントローラ160は、ユーザ190によって把持可能に構成される。別の局面において、コントローラ160は、ユーザ190の身体あるいは衣類の一部に装着可能に構成される。別の局面において、コントローラ160は、コンピュータ200から送られる信号に基づいて、振動、音、光のうちの少なくともいずれかを出力するように構成されてもよい。別の局面において、コントローラ160は、仮想現実を提供する空間に配置されるオブジェクトの位置および動き等を制御するためにユーザ190によって与えられる操作を受け付ける。
モーションセンサ130は、ある局面において、ユーザの手に取り付けられて、ユーザの手の動きを検出する。例えば、モーションセンサ130は、手の回転速度、回転数等を検出する。検出された信号は、コンピュータ200に送られる。モーションセンサ130は、例えば、手袋型のコントローラ160に設けられている。ある実施の形態において、現実空間における安全のため、コントローラ160は、手袋型のようにユーザ190の手に装着されることにより容易に飛んで行かないものに装着されるのが望ましい。別の局面において、ユーザ190に装着されないセンサがユーザ190の手の動きを検出してもよい。例えば、ユーザ190を撮影するカメラの信号が、ユーザ190の動作を表す信号として、コンピュータ200に入力されてもよい。モーションセンサ130とコンピュータ200とは、有線により、または無線により互いに接続される。無線の場合、通信形態は特に限られず、例えば、Bluetooth(登録商標)その他の公知の通信手法が用いられる。
[ハードウェア構成]
図2を参照して、本実施の形態に係るコンピュータ200について説明する。図2は、一局面に従うコンピュータ200のハードウェア構成の一例を表すブロック図である。コンピュータ200は、主たる構成要素として、プロセッサ10と、メモリ11と、ストレージ12と、入出力インターフェース13と、通信インターフェース14とを備える。各構成要素は、それぞれ、バス15に接続されている。
プロセッサ10は、コンピュータ200に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ11またはストレージ12に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ10は、CPU(Central Processing Unit)、MPU(Micro Processor Unit)、FPGA(Field-Programmable Gate Array)その他のデバイスとして実現される。
メモリ11は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ12からロードされる。メモリ11に保存されるデータは、コンピュータ200に入力されたデータと、プロセッサ10によって生成されたデータとを含む。ある局面において、メモリ11は、RAM(Random Access Memory)その他の揮発性メモリとして実現される。
ストレージ12は、プログラムおよびデータを永続的に保持する。ストレージ12は、例えば、ROM(Read-Only Memory)、ハードディスク装置、フラッシュメモリ、その他の不揮発性記憶装置として実現される。ストレージ12に格納されるプログラムは、HMDシステム100において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、および他のコンピュータ200との通信を実現するためのプログラム等を含む。ストレージ12に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含む。
なお、別の局面において、ストレージ12は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、コンピュータ200に内蔵されたストレージ12の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のHMDシステム100が使用される場面において、プログラムおよびデータ等の更新を一括して行うことが可能になる。
ある実施の形態において、入出力インターフェース13は、HMD装置110、HMDセンサ120またはモーションセンサ130との間で信号を通信する。ある局面において、入出力インターフェース13は、USB(Universal Serial Bus)インターフェース、DVI(Digital Visual Interface)、HDMI(登録商標)(High-Definition Multimedia Interface)その他の端子を用いて実現される。なお、入出力インターフェース13は上述のものに限られない。
ある実施の形態において、入出力インターフェース13は、さらに、コントローラ160と通信し得る。例えば、入出力インターフェース13は、モーションセンサ130から出力された信号の入力を受ける。別の局面において、入出力インターフェース13は、プロセッサ10から出力された命令を、コントローラ160に送る。当該命令は、振動、音声出力、発光等をコントローラ160に指示する。コントローラ160は、当該命令を受信すると、その命令に応じて、振動、音声出力または発光のいずれかを実行する。
通信インターフェース14は、ネットワーク19に接続されて、ネットワーク19に接続されている他のコンピュータ(例えば、サーバ150)と通信する。ある局面において、通信インターフェース14は、例えば、LAN(Local Area Network)その他の有線通信インターフェース、あるいは、WiFi(Wireless Fidelity)、Bluetooth(登録商標)、NFC(Near Field Communication)その他の無線通信インターフェースとして実現される。なお、通信インターフェース14は上述のものに限られない。
ある局面において、プロセッサ10は、ストレージ12にアクセスし、ストレージ12に格納されている1つ以上のプログラムをメモリ11にロードし、当該プログラムに含まれる一連の命令を実行する。当該1つ以上のプログラムは、コンピュータ200のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、コントローラ160を用いて仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ10は、入出力インターフェース13を介して、仮想空間を提供するための信号をHMD装置110に送る。HMD装置110は、その信号に基づいてモニタ112に映像を表示する。
サーバ150は、ネットワーク19を介して複数のHMDシステム100の各々の制御装置と接続される。図2に示される例では、サーバ150は、HMD装置110A(第1ヘッドマウントディスプレイ)を有するHMDシステム100Aと、HMD装置110Bを有するHMDシステム100Bと、HMD装置110Cを有するHMDシステム100Cとを含む複数のHMDシステム100を互いに通信可能に接続する。これにより、共通の仮想空間を用いた仮想体験が各HMDシステムを使用するユーザに提供される。なお、HMDシステム100A、HMDシステム100B、HMDシステム100C、およびその他のHMDシステム100は、いずれも同様の構成を備える。
なお、図2に示される例では、コンピュータ200がHMD装置110の外部に設けられる構成が示されているが、別の局面において、コンピュータ200は、HMD装置110に内蔵されてもよい。一例として、モニタ112を含む携帯型の情報通信端末(例えば、スマートフォン)がコンピュータ200として機能してもよい。
また、コンピュータ200は、複数のHMD装置110に共通して用いられる構成であってもよい。このような構成によれば、例えば、複数のユーザに同一の仮想空間を提供することもできるので、各ユーザは同一の仮想空間で他のユーザと同一のアプリケーションを楽しむことができる。なお、このような場合、本実施形態における複数のHMDシステム100は、入出力インターフェース13により、コンピュータ200に直接接続されてもよい。また、本実施形態におけるサーバ150の各機能(例えば後述する同期処理等)は、コンピュータ200に実装されてもよい。
ある実施の形態において、HMDシステム100では、グローバル座標系が予め設定されている。グローバル座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、ならびに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、3つの基準方向(軸)を有する。本実施の形態では、グローバル座標系は視点座標系の一つである。そこで、グローバル座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれ、x軸、y軸、z軸と規定される。より具体的には、グローバル座標系において、x軸は現実空間の水平方向に平行である。y軸は、現実空間の鉛直方向に平行である。z軸は現実空間の前後方向に平行である。
ある局面において、HMDセンサ120は、赤外線センサを含む。赤外線センサが、HMD装置110の各光源から発せられた赤外線をそれぞれ検出すると、HMD装置110の存在を検出する。HMDセンサ120は、さらに、各点の値(グローバル座標系における各座標値)に基づいて、HMD装置110を装着したユーザ190の動きに応じた、現実空間内におけるHMD装置110の位置および傾きを検出する。より詳しくは、HMDセンサ120は、経時的に検出された各値を用いて、HMD装置110の位置および傾きの時間的変化を検出できる。
グローバル座標系は現実空間の座標系と平行である。したがって、HMDセンサ120によって検出されたHMD装置110の各傾きは、グローバル座標系におけるHMD装置110の3軸周りの各傾きに相当する。HMDセンサ120は、グローバル座標系におけるHMD装置110の傾きに基づき、uvw視野座標系をHMD装置110に設定する。HMD装置110に設定されるuvw視野座標系は、HMD装置110を装着したユーザ190が仮想空間において物体を見る際の視点座標系に対応する。
[uvw視野座標系]
図3を参照して、uvw視野座標系について説明する。図3は、ある実施の形態に従うHMD装置110に設定されるuvw視野座標系を概念的に表す図である。HMDセンサ120は、HMD装置110の起動時に、グローバル座標系におけるHMD装置110の位置および傾きを検出する。プロセッサ10は、検出された値に基づいて、uvw視野座標系をHMD装置110に設定する。
図3に示されるように、HMD装置110は、HMD装置110を装着したユーザの頭部を中心(原点)とした3次元のuvw視野座標系を設定する。より具体的には、HMD装置110は、グローバル座標系を規定する水平方向、鉛直方向、および前後方向(x軸、y軸、z軸)を、グローバル座標系内においてHMD装置110の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる3つの方向を、HMD装置110におけるuvw視野座標系のピッチ方向(u軸)、ヨー方向(v軸)、およびロール方向(w軸)として設定する。
ある局面において、HMD装置110を装着したユーザ190が直立し、かつ、正面を視認している場合、プロセッサ10は、グローバル座標系に平行なuvw視野座標系をHMD装置110に設定する。この場合、グローバル座標系における水平方向(x軸)、鉛直方向(y軸)、および前後方向(z軸)は、HMD装置110におけるuvw視野座標系のピッチ方向(u軸)、ヨー方向(v軸)、およびロール方向(w軸)に一致する。
uvw視野座標系がHMD装置110に設定された後、HMDセンサ120は、HMD装置110の動きに基づいて、設定されたuvw視野座標系におけるHMD装置110の傾き(傾きの変化量)を検出できる。この場合、HMDセンサ120は、HMD装置110の傾きとして、uvw視野座標系におけるHMD装置110のピッチ角(θu)、ヨー角(θv)、およびロール角(θw)をそれぞれ検出する。ピッチ角(θu)は、uvw視野座標系におけるピッチ方向周りのHMD装置110の傾き角度を表す。ヨー角(θv)は、uvw視野座標系におけるヨー方向周りのHMD装置110の傾き角度を表す。ロール角(θw)は、uvw視野座標系におけるロール方向周りのHMD装置110の傾き角度を表す。
HMDセンサ120は、検出されたHMD装置110の傾き角度に基づいて、HMD装置110が動いた後のHMD装置110におけるuvw視野座標系を、HMD装置110に設定する。HMD装置110と、HMD装置110のuvw視野座標系との関係は、HMD装置110の位置および傾きに関わらず、常に一定である。HMD装置110の位置および傾きが変わると、当該位置および傾きの変化に連動して、グローバル座標系におけるHMD装置110のuvw視野座標系の位置および傾きが変化する。
ある局面において、HMDセンサ120は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係(例えば、各点間の距離など)に基づいて、HMD装置110の現実空間内における位置を、HMDセンサ120に対する相対位置として特定してもよい。また、プロセッサ10は、特定された相対位置に基づいて、現実空間内(グローバル座標系)におけるHMD装置110のuvw視野座標系の原点を決定してもよい。
[仮想空間]
図4を参照して、仮想空間についてさらに説明する。図4は、ある実施の形態に従う仮想空間2を表現する一態様を概念的に表す図である。仮想空間2は、中心21の360度方向の全体を覆う全天球状の構造を有する。図4では、説明を複雑にしないために、仮想空間2のうちの上半分の天球が例示されている。仮想空間2では各メッシュが規定される。各メッシュの位置は、仮想空間2に規定されるXYZ座標系における座標値として予め規定されている。コンピュータ200は、仮想空間2に展開可能なコンテンツ(静止画、動画等)を構成する各部分画像を、仮想空間2において対応する各メッシュにそれぞれ対応付けて、ユーザによって視認可能な仮想空間画像22が展開される仮想空間2をユーザに提供する。
ある局面において、仮想空間2では、中心21を原点とするXYZ座標系が規定される。XYZ座標系は、例えば、グローバル座標系に平行である。XYZ座標系は視点座標系の一種であるため、XYZ座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれX軸、Y軸、Z軸として規定される。したがって、XYZ座標系のX軸(水平方向)がグローバル座標系のx軸と平行であり、XYZ座標系のY軸(鉛直方向)がグローバル座標系のy軸と平行であり、XYZ座標系のZ軸(前後方向)がグローバル座標系のz軸と平行である。
HMD装置110の起動時、すなわちHMD装置110の初期状態において、仮想カメラ1が、仮想空間2の中心21に配置される。仮想カメラ1は、現実空間におけるHMD装置110の動きに連動して、仮想空間2を同様に移動する。これにより、現実空間におけるHMD装置110の位置および向きの変化が、仮想空間2において同様に再現される。
仮想カメラ1には、HMD装置110の場合と同様に、uvw視野座標系が規定される。仮想空間2における仮想カメラ1のuvw視野座標系は、現実空間(グローバル座標系)におけるHMD装置110のuvw視野座標系に連動するように規定されている。したがって、HMD装置110の傾きが変化すると、それに応じて、仮想カメラ1の傾きも変化する。また、仮想カメラ1は、HMD装置110を装着したユーザの現実空間における移動に連動して、仮想空間2において移動することもできる。
仮想カメラ1の向きは、仮想カメラ1の位置および傾きに応じて決まるので、ユーザが仮想空間画像22を視認する際に基準となる視線(基準視線5)は、仮想カメラ1の向きに応じて決まる。コンピュータ200のプロセッサ10は、基準視線5に基づいて、仮想空間2における視界領域23を規定する。視界領域23は、仮想空間2のうち、HMD装置110を装着したユーザの視界に対応する。
注視センサ140によって検出されるユーザ190の視線方向は、ユーザ190が物体を視認する際の視点座標系における方向である。HMD装置110のuvw視野座標系は、ユーザ190がモニタ112を視認する際の視点座標系に等しい。また、仮想カメラ1のuvw視野座標系は、HMD装置110のuvw視野座標系に連動している。したがって、ある局面に従うHMDシステム100は、注視センサ140によって検出されたユーザ190の視線方向を、仮想カメラ1のuvw視野座標系におけるユーザの視線方向とみなすことができる。
[ユーザの視線]
図5を参照して、ユーザの視線方向の決定について説明する。図5は、ある実施の形態に従うHMD装置110を装着するユーザ190の頭部を上から表した図である。
ある局面において、注視センサ140は、ユーザ190の右目および左目の各視線を検出する。ある局面において、ユーザ190が近くを見ている場合、注視センサ140は、視線R1およびL1を検出する。別の局面において、ユーザ190が遠くを見ている場合、注視センサ140は、視線R2およびL2を検出する。この場合、ロール方向wに対して視線R2およびL2がなす角度は、ロール方向wに対して視線R1およびL1がなす角度よりも小さい。注視センサ140は、検出結果をコンピュータ200に送信する。
コンピュータ200が、視線の検出結果として、視線R1およびL1の検出値を注視センサ140から受信した場合には、その検出値に基づいて、視線R1およびL1の交点である注視点N1を特定する。一方、コンピュータ200は、視線R2およびL2の検出値を注視センサ140から受信した場合には、視線R2およびL2の交点を注視点として特定する。コンピュータ200は、特定した注視点N1の位置に基づき、ユーザ190の視線方向N0を特定する。コンピュータ200は、例えば、ユーザ190の右目Rと左目Lとを結ぶ直線の中点と、注視点N1とを通る直線の延びる方向を、視線方向N0として検出する。視線方向N0は、ユーザ190が両目により実際に視線を向けている方向である。また、視線方向N0は、視界領域23に対してユーザ190が実際に視線を向けている方向に相当する。
また、別の局面において、HMDシステム100は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、HMDシステム100は、仮想空間2においてテレビ番組を表示することができる。
さらに別の局面において、HMDシステム100は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。
[視界領域]
図6および図7を参照して、視界領域23について説明する。図6は、仮想空間2において視界領域23をX方向から見たYZ断面を表す図である。図7は、仮想空間2において視界領域23をY方向から見たXZ断面を表す図である。
図6に示されるように、YZ断面における視界領域23は、領域24を含む。領域24は、仮想カメラ1の基準視線5と仮想空間2のYZ断面とによって定義される。プロセッサ10は、仮想空間2における基準視線5を中心として極角αを含む範囲を、領域24として規定する。
図7に示されるように、XZ断面における視界領域23は、領域25を含む。領域25は、基準視線5と仮想空間2のXZ断面とによって定義される。プロセッサ10は、仮想空間2における基準視線5を中心とした方位角βを含む範囲を、領域25として規定する。
ある局面において、HMDシステム100は、コンピュータ200からの信号に基づいて、視界画像をモニタ112に表示させることにより、ユーザ190に仮想空間を提供する。視界画像は、仮想空間画像22のうち視界領域23に重畳する部分に相当する。ユーザ190が、頭に装着したHMD装置110を動かすと、その動きに連動して仮想カメラ1も動く。その結果、仮想空間2における視界領域23の位置が変化する。これにより、モニタ112に表示される視界画像は、仮想空間画像22のうち、仮想空間2においてユーザが向いた方向の視界領域23に重畳する画像に更新される。ユーザは、仮想空間2における所望の方向を視認することができる。
ユーザ190は、HMD装置110を装着している間、現実世界を視認することなく、仮想空間2に展開される仮想空間画像22のみを視認できる。そのため、HMDシステム100は、仮想空間2への高い没入感覚をユーザに与えることができる。
ある局面において、プロセッサ10は、HMD装置110を装着したユーザ190の現実空間における移動に連動して、仮想空間2において仮想カメラ1を移動し得る。この場合、プロセッサ10は、仮想空間2における仮想カメラ1の位置および向きに基づいて、HMD装置110のモニタ112に投影される画像領域(すなわち、仮想空間2における視界領域23)を特定する。すなわち、仮想カメラ1によって、仮想空間2におけるユーザ190の視野が定義される。
ある実施の形態に従うと、仮想カメラ1は、二つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含むことが望ましい。また、ユーザ190が3次元の仮想空間2を認識できるように、適切な視差が、二つの仮想カメラに設定されていることが好ましい。本実施の形態においては、仮想カメラ1が二つの仮想カメラを含み、二つの仮想カメラのロール方向が合成されることによって生成されるロール方向(w)がHMD装置110のロール方向(w)に適合されるように構成されているものとして、本開示に係る技術思想を例示する。
[コントローラ]
図8を参照して、コントローラ160の一例について説明する。図8は、ある実施の形態に従うコントローラ160の概略構成を表す図である。
図8の状態(A)に示されるように、ある局面において、コントローラ160は、右コントローラ160Rと左コントローラとを含み得る。右コントローラ160Rは、ユーザ190の右手で操作される。左コントローラは、ユーザ190の左手で操作される。ある局面において、右コントローラ160Rと左コントローラとは、別個の装置として対称に構成される。したがって、ユーザ190は、右コントローラ160Rを把持した右手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。別の局面において、コントローラ160は両手の操作を受け付ける一体型のコントローラであってもよい。以下、右コントローラ160Rについて説明する。
右コントローラ160Rは、グリップ30と、フレーム31と、天面32とを備える。グリップ30は、ユーザ190の右手によって把持されるように構成されている。例えば、グリップ30は、ユーザ190の右手の掌と3本の指(中指、薬指、小指)とによって保持され得る。
グリップ30は、ボタン33,34と、モーションセンサ130とを含む。ボタン33は、グリップ30の側面に配置され、右手の中指による操作を受け付ける。ボタン34は、グリップ30の前面に配置され、右手の人差し指による操作を受け付ける。ある局面において、ボタン33,34は、トリガー式のボタンとして構成される。モーションセンサ130は、グリップ30の筐体に内蔵されている。なお、ユーザ190の動作がカメラその他の装置によってユーザ190の周りから検出可能である場合には、グリップ30は、モーションセンサ130を備えなくてもよい。
フレーム31は、その円周方向に沿って配置された複数の赤外線LED35を含む。赤外線LED35は、コントローラ160を使用するプログラムの実行中に、当該プログラムの進行に合わせて赤外線を発光する。赤外線LED35から発せられた赤外線は、右コントローラ160Rと左コントローラとの各位置および姿勢(傾き、向き)等を検出するために使用され得る。図8に示される例では、二列に配置された赤外線LED35が示されているが、配列の数は図8に示されるものに限られない。一列あるいは3列以上の配列が使用されてもよい。
天面32は、ボタン36,37と、アナログスティック38とを備える。ボタン36,37は、プッシュ式ボタンとして構成される。ボタン36,37は、ユーザ190の右手の親指による操作を受け付ける。アナログスティック38は、ある局面において、初期位置(ニュートラルの位置)から360度任意の方向への操作を受け付ける。当該操作は、例えば、仮想空間2に配置されるオブジェクトを移動させるための操作を含む。
ある局面において、右コントローラ160Rおよび左コントローラは、赤外線LED35その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型等を含むが、これらに限定されない。別の局面において、右コントローラ160Rおよび左コントローラは、例えば、コンピュータ200のUSBインターフェースに接続され得る。この場合、右コントローラ160Rおよび左コントローラは、電池を必要としない。
図8の状態(A)および状態(B)に示されるように、例えば、ユーザ190の右手810に対して、ヨー、ロール、ピッチの各方向が規定される。ユーザ190が親指と人差し指とを伸ばした場合に、親指の伸びる方向がヨー方向、人差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定される平面に垂直な方向がピッチ方向として規定される。
[HMD装置の制御装置]
図9を参照して、HMD装置110の制御装置について説明する。ある実施の形態において、制御装置は周知の構成を有するコンピュータ200によって実現される。図9は、ある実施の形態に従うコンピュータ200をモジュール構成として表すブロック図である。
図9に示されるように、コンピュータ200は、表示制御モジュール220と、仮想空間制御モジュール230と、メモリモジュール240と、通信制御モジュール250とを備える。表示制御モジュール220は、サブモジュールとして、仮想カメラ制御モジュール221と、視界領域決定モジュール222と、視界画像生成モジュール223と、基準視線特定モジュール224とを含む。仮想空間制御モジュール230は、サブモジュールとして、仮想空間定義モジュール231と、仮想オブジェクト制御モジュール232と、操作オブジェクト制御モジュール233とを含む。
ある実施の形態において、表示制御モジュール220と仮想空間制御モジュール230とは、プロセッサ10によって実現される。別の実施の形態において、複数のプロセッサ10が表示制御モジュール220と仮想空間制御モジュール230として作動してもよい。メモリモジュール240は、メモリ11またはストレージ12によって実現される。通信制御モジュール250は、通信インターフェース14によって実現される。
ある局面において、表示制御モジュール220は、HMD装置110のモニタ112における画像表示を制御する。仮想カメラ制御モジュール221は、仮想空間2に仮想カメラ1を配置し、仮想カメラ1の挙動、向き等を制御する。視界領域決定モジュール222は、HMD装置110を装着したユーザの頭の向きに応じて、視界領域23を規定する。視界画像生成モジュール223は、決定された視界領域23に基づいて、モニタ112に表示される視界画像を生成する。また、視界画像生成モジュール223は、視界画像に含まれるプレイヤキャラクタ(詳しくは後述)の表示態様を決定する。基準視線特定モジュール224は、注視センサ140からの信号に基づいて、ユーザ190の視線を特定する。
仮想空間制御モジュール230は、ユーザ190に提供される仮想空間2を制御する。仮想空間定義モジュール231は、仮想空間2を表す仮想空間データを生成することにより、HMDシステム100における仮想空間2を規定する。
仮想オブジェクト制御モジュール232は、仮想空間2に配置される対象オブジェクトを生成する。また、仮想オブジェクト制御モジュール232は、仮想空間2における対象オブジェクトおよびプレイヤキャラクタの動作(移動および状態変化等)を制御する。対象オブジェクトは、例えば、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、動物等を含み得る。プレイヤキャラクタは、仮想空間2においてHMD装置110を装着したユーザに関連付けられたオブジェクト(いわゆるアバター)である。
操作オブジェクト制御モジュール233は、仮想空間2に配置されるオブジェクトを操作するための操作オブジェクトを仮想空間2に配置する。ある局面において、操作オブジェクトは、例えば、HMD装置110を装着したユーザの手に相当する手オブジェクト、ユーザの指に相当する指オブジェクト、ユーザが使用するスティックに相当するスティックオブジェクト等を含み得る。操作オブジェクトが指オブジェクトの場合、特に、操作オブジェクトは、当該指が指し示す方向(軸方向)の軸の部分に対応している。
チャット制御モジュール234は、同じ仮想空間2に滞在する他のユーザのアバターとチャットをするための制御を行う。例えば、チャット制御モジュール234は、ユーザのアバターの位置および向き等の情報、ならびにマイク118に入力された音声データをサーバ150に送信する。また、チャット制御モジュール234は、サーバ150から受信した他のユーザの音声データを図示しないスピーカに出力する。これにより、音声によるチャットが実現される。なお、チャットは、音声データに基づくものに限られず、テキストデータに基づくものであってもよい。この場合、チャット制御モジュール234は、テキストデータの送受信を制御する。
仮想空間制御モジュール230は、仮想空間2に配置されるオブジェクトのそれぞれが、他のオブジェクトと衝突した場合に、当該衝突を検出する。仮想空間制御モジュール230は、例えば、あるオブジェクトと、別のオブジェクトとが触れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。仮想空間制御モジュール230は、オブジェクトとオブジェクトとが触れている状態から離れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。仮想空間制御モジュール230は、オブジェクトとオブジェクトとが触れている状態であることを検出することができる。具体的には、操作オブジェクト制御モジュール233は、操作オブジェクトと、他のオブジェクト(例えば、仮想オブジェクト制御モジュール232によって配置される対象オブジェクト)とが触れた時に、これら操作オブジェクトと他のオブジェクトとが触れたことを検出して、予め定められた処理を行う。
メモリモジュール240は、コンピュータ200が仮想空間2をユーザ190に提供するために使用されるデータを保持している。ある局面において、メモリモジュール240は、空間情報241と、オブジェクト情報242と、ユーザ情報243とを保持している。空間情報241には、例えば、仮想空間2を提供するために規定された1つ以上のテンプレートが含まれている。オブジェクト情報242には、例えば、仮想空間2において再生されるコンテンツ、当該コンテンツで使用されるオブジェクトを配置するための情報等が含まれている。当該コンテンツは、例えば、ゲーム、現実社会と同様の風景を表したコンテンツ等を含み得る。ユーザ情報243には、例えば、HMDシステム100の制御装置としてコンピュータ200を機能させるためのプログラム、オブジェクト情報242に保持される各コンテンツを使用するアプリケーションプログラム等が含まれている。
メモリモジュール240に格納されているデータおよびプログラムは、HMD装置110のユーザによって入力される。あるいは、プロセッサ10が、当該コンテンツを提供する事業者が運営するコンピュータ(例えば、サーバ150)からプログラムあるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール240に格納する。
通信制御モジュール250は、ネットワーク19を介して、サーバ150その他の情報通信装置と通信し得る。
ある局面において、表示制御モジュール220および仮想空間制御モジュール230は、例えば、ユニティテクノロジーズ社によって提供されるUnity(登録商標)を用いて実現され得る。別の局面において、表示制御モジュール220および仮想空間制御モジュール230は、各処理を実現する回路素子の組み合わせとしても実現され得る。
コンピュータ200における処理は、ハードウェアと、プロセッサ10により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール240に予め格納されている場合がある。また、ソフトウェアは、CD−ROMその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール250を介してサーバ150その他のコンピュータからダウンロードされた後、メモリモジュール240に一旦格納される。そのソフトウェアは、プロセッサ10によってメモリモジュール240から読み出され、実行可能なプログラムの形式でRAMに格納される。プロセッサ10は、そのプログラムを実行する。
図9に示されるコンピュータ200を構成するハードウェアは、一般的なものである。したがって、本実施の形態に係る最も本質的な部分は、コンピュータ200に格納されたプログラムであるともいえる。なお、コンピュータ200のハードウェアの動作は周知であるので、詳細な説明は繰り返さない。
なお、データ記録媒体としては、CD−ROM、FD(Flexible Disk)、ハードディスクに限られず、磁気テープ、カセットテープ、光ディスク(MO(Magnetic Optical Disc)/MD(Mini Disc)/DVD(Digital Versatile Disc))、IC(Integrated Circuit)カード(メモリカードを含む)、光カード、マスクROM、EPROM(Erasable Programmable Read-Only Memory)、EEPROM(Electrically Erasable Programmable Read-Only Memory)、フラッシュROMなどの半導体メモリ等の固定的にプログラムを担持する不揮発性のデータ記録媒体でもよい。
ここでいうプログラムとは、プロセッサ10により直接実行可能なプログラムだけでなく、ソースプログラム形式のプログラム、圧縮処理されたプログラム、暗号化されたプログラム等を含み得る。
[制御構造]
図10を参照して、本実施の形態に係るコンピュータ200の制御構造について説明する。図10は、ユーザ190A(第1ユーザ)によって使用されるHMDシステム100Aがユーザ190Aに仮想空間2を提供するために実行する処理を表すフローチャートである。
ステップS1において、コンピュータ200のプロセッサ10は、仮想空間定義モジュール231として、仮想空間画像データを特定し、仮想空間2を定義する。
ステップS2において、プロセッサ10は、仮想カメラ制御モジュール221として、仮想カメラ1を初期化する。例えば、プロセッサ10は、メモリのワーク領域において、仮想カメラ1を仮想空間2において予め規定された中心点に配置し、仮想カメラ1の視線をユーザ190が向いている方向に向ける。
ステップS3において、プロセッサ10は、視界画像生成モジュール223として、初期の視界画像を表示するための視界画像データを生成する。生成された視界画像データは、視界画像生成モジュール223を介して通信制御モジュール250によってHMD装置110に送られる。
ステップS4において、HMD装置110のモニタ112は、コンピュータ200から受信した信号に基づいて、視界画像を表示する。HMD装置110を装着したユーザ190は、視界画像を視認すると仮想空間2を認識し得る。
ステップS5において、HMDセンサ120は、HMD装置110から発信される複数の赤外線光に基づいて、HMD装置110の位置と傾きを検知する。検知結果は、動き検知データとして、コンピュータ200に送られる。
ステップS6において、プロセッサ10は、視界領域決定モジュール222として、HMD装置110の位置と傾きとに基づいて、HMD装置110を装着したユーザ190の視界方向を特定する。プロセッサ10は、アプリケーションプログラムを実行し、アプリケーションプログラムに含まれる命令に基づいて、仮想空間2にオブジェクトを配置する。
ステップS7において、コントローラ160は、現実空間におけるユーザ190の操作を検出する。例えば、ある局面において、コントローラ160は、ユーザ190によってボタンが押下されたことを検出する。別の局面において、コントローラ160は、ユーザ190の両手の動作(たとえば、両手を振る等)を検出する。検出内容を示す信号は、コンピュータ200に送られる。
ステップS8において、プロセッサ10は、操作オブジェクト制御モジュール233として、コントローラ160から送られた検出内容を仮想空間2に反映する。具体的には、プロセッサ10は、検出内容を示す信号に基づいて、仮想空間2における操作オブジェクト(例えば、プレイヤキャラクタの手を表す手オブジェクト等)を動かす。また、プロセッサ10は、操作オブジェクト制御モジュール233として、操作オブジェクトによる対象オブジェクトに対する予め定められた操作(例えば掴み操作等)を検知する。
ステップS9において、プロセッサ10は、他のユーザ190B,190C(第2ユーザ)によって使用されるHMDシステム100B,100Cから送られる情報(後述するプレイヤ情報)に基づいて、他のユーザに関連付けられたプレイヤキャラクタの情報を更新する。具体的には、プロセッサ10は、仮想オブジェクト制御モジュール232として、他のユーザに関連付けられたプレイヤキャラクタの仮想空間2における位置および向き等の情報を更新する。
ステップS10において、プロセッサ10は、視界画像生成モジュール223として、ステップS8およびステップS9における処理の結果に基づく視界画像を表示するための視界画像データを生成し、生成した視界画像データをHMD装置110に出力する。プロセッサ10は、視界画像データを生成する際、視界画像に含まれるプレイヤキャラクタの表示態様を決定する。視界画像にプレイヤキャラクタが含まれるか否かは、例えば、ステップS6において特定される視界方向に基づいて定められる視界領域23にプレイヤキャラクタが含まれるか否かによって判定される。
ステップS11において、HMD装置110のモニタ112は、受信した視界画像データに基づいて視界画像を更新し、更新後の視界画像を表示する。
図11は、複数ユーザに共有される仮想空間2を模式的に表す図である。図11に示される例では、HMD装置110Aを装着するユーザ190Aに関連付けられたプレイヤキャラクタPC1(第1プレイヤキャラクタ)と、HMD装置110Bを装着するユーザ190Bに関連付けられたプレイヤキャラクタPC2(第2プレイヤキャラクタ)と、HMD装置110Cを装着するユーザ190Cに関連付けられたプレイヤキャラクタPC3(第2プレイヤキャラクタ)とが、同一の仮想空間2に配置されている。このような複数ユーザに共通の仮想空間2によれば、各ユーザに対して、プレイヤキャラクタPCを介した他のユーザとのチャット(VRチャット)等のコミュニケーション体験を提供することができる。
この例では、各プレイヤキャラクタPCは、動物(猫、うさぎ、熊)を模したオブジェクトとして定義されている。また、プレイヤキャラクタPCは、HMDセンサ120等によって検出されたHMD装置110の動きに連動して動く頭部と、モーションセンサ130等により検出されたユーザの手の動きに連動して動く手と、頭部および手に付随して表示される胴体部および腕部とを含んでいる。なお、腰から下の脚部については動作制御が複雑となるため、プレイヤキャラクタPCは脚部を含んでいない。
プレイヤキャラクタPC1の視野は、HMDシステム100Aにおける仮想カメラ1の視野と一致している。これにより、ユーザ190Aに対して、プレイヤキャラクタPC1の1人称視点における視界画像Mが提供される。すなわち、ユーザ190Aに対して、あたかも自分がプレイヤキャラクタPC1として仮想空間2に存在しているかのような仮想体験が提供される。図12は、HMD装置110Aを介してユーザ190Aに提供される視界画像Mを表す図である。ユーザ190B,190Cに対しても同様に、プレイヤキャラクタPC2,PC3の1人称視点における視界画像が提供される。
図13は、上述したVRチャットを実現するためにHMDシステム100A、HMDシステム100B、HMDシステム100C、およびサーバ150が実行する処理を表すシーケンス図である。
ステップS21Aにおいて、HMDシステム100Aにおけるプロセッサ10は、チャット制御モジュール234として、仮想空間2におけるプレイヤキャラクタPC1の動作を決定するためのプレイヤ情報を取得する。このプレイヤ情報は、例えば、動き情報、フェイストラッキングデータ、音声データ、および感情データを含む。動き情報は、例えば、HMDセンサ120等により検出されたHMD装置110Aの位置および傾きの時間的変化を示す情報と、モーションセンサ130等により検出されたユーザ190Aの手の動きを示す情報とを含む。フェイストラッキングデータは、ユーザ190Aの顔の各パーツの位置および大きさを特定するデータである。フェイストラッキングデータは、例えばHMD装置110Aのカメラ116により取得された画像情報に対する画像解析処理によって生成される。音声データは、HMD装置110Aのマイク118によって取得されたユーザ190Aの音声を示すデータである。感情データは、ユーザ190Aの感情を示す情報であり、例えば感情の種別(喜び、怒り、悲しみ等)と感情の度合い(例えば10段階で表現されるレベル等)とを含む情報である。例えば、プロセッサ10は、フェイストラッキングデータまたは音声データを用いた任意の感情認識処理によって感情データを生成する。また、プレイヤ情報には、プレイヤキャラクタPC1(あるいはプレイヤキャラクタPC1に関連付けられるユーザ190A)を特定する情報(ユーザID等)、およびプレイヤキャラクタPC1が存在する仮想空間2を特定する情報(ルームID等)等が含まれてもよい。プロセッサ10は、上述のように取得されたプレイヤ情報を、ネットワーク19を介してサーバ150に送信する。
ステップS21Bにおいて、HMDシステム100Bにおけるプロセッサ10は、ステップS21Aにおける処理と同様に、仮想空間2におけるプレイヤキャラクタPC2の動作を決定するためのプレイヤ情報を取得し、サーバ150に送信する。同様に、ステップS21Cにおいて、HMDシステム100Cにおけるプロセッサ10は、仮想空間2におけるプレイヤキャラクタPC3の動作を決定するためのプレイヤ情報を取得し、サーバ150に送信する。
ステップS22において、サーバ150は、HMDシステム100A、HMDシステム100B、およびHMDシステム100Cのそれぞれから受信したプレイヤ情報を一旦記憶する。サーバ150は、各プレイヤ情報に含まれるユーザIDおよびルームID等に基づいて、共通の仮想空間2に関連付けられた全ユーザ(この例では、ユーザ190A〜190C)のプレイヤ情報を統合する。そして、サーバ150は、予め定められたタイミングで、統合したプレイヤ情報を当該仮想空間2に関連付けられた全ユーザに送信する。これにより、同期処理が実行される。このような同期処理により、HMDシステム100A、HMDシステム100B、およびHMDシステム100Cは、互いのプレイヤ情報をほぼ同じタイミングで共有することができる。
続いて、サーバ150から各HMDシステム100A〜100Cに送信されたプレイヤ情報に基づいて、各HMDシステム100A〜100Cは、ステップS23A〜S23Cの処理を実行する。なお、ステップS23Aの処理は、図10におけるステップS9の処理に相当する。
ステップS23Aにおいて、HMDシステム100Aにおけるプロセッサ10は、仮想オブジェクト制御モジュール232として、仮想空間2における他ユーザ190B,190CのプレイヤキャラクタPC2,PC3の情報を更新する。具体的には、プロセッサ10は、HMDシステム100Bから送信されたプレイヤ情報に含まれる動き情報に基づいて、仮想空間2におけるプレイヤキャラクタPC2の位置および向き等を更新する。例えば、プロセッサ10は、メモリモジュール240に格納されたオブジェクト情報242に含まれるプレイヤキャラクタPC2の情報(位置および向き等)を更新する。同様に、プロセッサ10は、HMDシステム100Cから送信されたプレイヤ情報に含まれる動き情報に基づいて、仮想空間2におけるプレイヤキャラクタPC3の情報(位置および向き等)を更新する。
ステップS23Bにおいて、HMDシステム100Bにおけるプロセッサ10は、ステップS23Aにおける処理と同様に、仮想空間2におけるユーザ190A,190CのプレイヤキャラクタPC1,PC3の情報を更新する。同様に、ステップS23Cにおいて、HMDシステム100Cにおけるプロセッサ10は、仮想空間2におけるユーザ190A,190BのプレイヤキャラクタPC1,PC2の情報を更新する。
続いて、各HMDシステム100A〜100Cは、ステップS24A〜S24Cの処理を実行する。ステップS24Aの処理は、図10におけるステップS10の処理の一部に相当する。
ステップS24Aにおいて、HMDシステム100Aにおけるプロセッサ10は、視界画像生成モジュール223として、視界画像Mに含まれるプレイヤキャラクタPCの表示態様を決定する。具体的には、プロセッサ10は、仮想カメラ1(プレイヤキャラクタPC1)の視界方向に基づいて定められた視界領域23に含まれるプレイヤキャラクタPCを抽出する。図11および図12に示される例では、HMDシステム100Aにおける仮想カメラ1の視界領域には、プレイヤキャラクタPC2,PC3が含まれる。このため、プロセッサ10は、視界画像Mに含まれるプレイヤキャラクタPCとしてプレイヤキャラクタPC2,PC3を抽出し、これらの表示態様を決定する。
ここで、HMDシステム100B,100CにおけるステップS24B,S24Cの処理は、HMDシステム100AにおけるステップS24Aの処理と同様である。また、ステップS24AにおけるプレイヤキャラクタPC3の表示態様の決定に関する処理は、プレイヤキャラクタPC2の表示態様の決定に関する処理と同様である。したがって、以下では、ステップS24AにおけるプレイヤキャラクタPC2の表示態様の決定に関する処理についてのみ詳細に説明する。
例えば、HMDシステム100Aにおけるプロセッサ10は、プレイヤ情報として受信されたユーザ190Bのフェイストラッキングデータに基づいて、プレイヤキャラクタPC2の顔部分の動作を規定する動作データを生成してもよい。この動作データによれば、視界画像Mに含まれるプレイヤキャラクタPC2の表情を変化させることができる。例えば、プロセッサ10は、フェイストラッキングデータが示すユーザ190Bの顔の各パーツの位置形状に基づいて、プレイヤキャラクタPC2の顔の各パーツの位置形状を示す画像を生成してもよい。そして、プロセッサ10は、当該画像をプレイヤキャラクタPC2の顔画像として決定してもよい。これにより、VRチャットに参加するユーザ190Bの表情の変化を、仮想空間2におけるプレイヤキャラクタPC2の表情として反映させることができる。その結果、仮想空間2におけるユーザ間の感情理解を向上し得る。
ここで、HMDシステム100Aのメモリモジュール240は、オブジェクト情報242として、プレイヤキャラクタPC2の複数の表情に対応する複数の表情画像(例えば驚きに対応する画像および悲しみに対応する画像等)を予め保持していてもよい。この場合、プロセッサ10は、プレイヤ情報として受信されたユーザ190Bの感情データが示す感情の種別および度合いに対応する表情画像を、プレイヤキャラクタPC2の顔画像として決定してもよい。これによれば、視界画像MにおいてプレイヤキャラクタPC2の表情を表現するためにフェイストラッキングデータを用いる必要がなくなるため、フェイストラッキングデータの通信を省略することでデータ通信量を削減し得る。また、プレイヤキャラクタPC2の表情を表現するために必要な処理が、予め用意された複数の表情画像から感情データに対応する画像を抽出するだけの処理になるため、処理量を低減すると共に処理の高速化を実現し得る。
さらに、上記のように予め用意された複数の表情画像間でプレイヤキャラクタPC2の表情を切り替える際には、プロセッサ10は、所謂モーフィングと呼ばれる処理を実行してもよい。モーフィングとは、2つの異なる状態(ここでは表情)の中間状態の映像をコンピュータにより補完する処理である。例えば、プロセッサ10は、前回の同期処理により受信されたユーザ190Bの感情データに対応するプレイヤキャラクタPC2の表情画像(例えば驚きを示す表情画像)と今回の同期処理により受信されたユーザ190Bの感情データに対応するプレイヤキャラクタPC2の表情画像(例えば喜びを示す表情画像)との中間状態の映像(動作データ)を、モーフィングにより生成してもよい。このように生成された中間状態の映像により、ユーザ190Aに提供される視界画像Mにおいて、プレイヤキャラクタPC2の自然な表情変化を表現することが可能となる。具体的には、プロセッサ10は、視界画像データの一部として、今回の同期処理により受信されたユーザ190Bの感情データに対応するプレイヤキャラクタPC2の表情画像と共に、上述のように生成された中間状態の映像をHMD装置110Aに出力すればよい。これにより、ユーザ190Aに提供される視界画像Mにおいて、プレイヤキャラクタPC2の自然な表情変化を表現することができる。その結果、仮想空間2への高い没入感覚をユーザ190Aに提供し得る。
なお、HMDシステム100Aにおけるプロセッサ10は、チャット制御モジュール234として、ステップS24Aにおける処理と並行して、プレイヤ情報に含まれる音声データをスピーカ等に出力してもよい。すなわち、プロセッサ10は、プレイヤキャラクタPC2の動作に合わせて音声データを出力してもよい。この場合、ユーザ190Aに、ユーザ190Bの発話内容をプレイヤキャラクタPC2の発話内容として感じさせることができる。これにより、仮想空間2への高い没入感覚をユーザ190Aに提供し得る。
以上説明したようなステップS24Aの処理によれば、他のユーザ190B,190Cの動作および表情等がプレイヤキャラクタPC2,PC3に反映された視界画像Mを、ユーザ190Aに提供することができる。同様に、ステップS24B,S24Cの処理により、ユーザ190B,190Cに対して、上述同様の視界画像を提供することができる。
[プレイヤキャラクタの透過表示]
上述したVRチャットの用途としては、例えば複数ユーザで同じ360度動画を視聴することが挙げられる。360度動画の例としては、例えば森等の自然豊かな風景画像が仮想空間画像22として映し出される動画等が挙げられる。このような場合、同時視聴ユーザ数(すなわち、仮想空間2を共有するユーザ数)が多いと、他のユーザに関連付けられたアバターによって仮想空間2における視界が遮られてしまい、360度動画の視聴が困難になるおそれがある。そこで、HMDシステム100Aにおけるプロセッサ10は、視界画像Mに含まれるプレイヤキャラクタPCの表示態様を決定する処理の一部として、プレイヤキャラクタPCの透過率を設定する。すなわち、プロセッサ10は、以下に述べるようにプレイヤキャラクタPCの一部または全部を透過表示させる処理(透過制御)を実行する。以下、プレイヤキャラクタPCの透過制御の第1〜第3の例について説明する。
(第1の例)
図14は、プレイヤキャラクタPCの透過制御の第1の例における視界画像の一例(視界画像M1)を表す図である。ここで、視界画像M1は、HMDシステム100Aを使用するユーザ190A(第1ユーザ)に対してHMD装置110Aを介して提供される画像である。すなわち、視界画像M1は、ユーザ190Aに関連付けられたプレイヤキャラクタPC(第1プレイヤキャラクタ)の1人称視点における視界画像である。また、視界画像M1に含まれる4つのプレイヤキャラクタPC11〜PC14(第2プレイヤキャラクタ)は、ユーザ190Aにとっての他のユーザ190B〜190E(第2ユーザ)に関連付けられたプレイヤキャラクタPCである。すなわち、図14に示される例では、5人のユーザ190A〜190Eのそれぞれに関連付けられた5つのプレイヤキャラクタPCが共通の仮想空間2に配置されている。
各プレイヤキャラクタPC11〜PC14は、ユーザ190B〜190Eの動きに応じて仮想空間2における動作が制御される第1部分と、第1部分に付随して表示される第2部分とを含んでいる。本実施形態では、第1部分は、頭部および手である。上述の通り、プレイヤキャラクタPCの頭部は、HMD装置110の動きに応じて仮想空間2における動作が制御される部分である。プレイヤキャラクタPCの手は、ユーザの手の動きに応じて仮想空間2における動作が制御される部分である。一方、第2部分は、頭部および手に付随して表示される胴体部(腰から上の部分)および腕部である。腕部は、胴体部と手とを接続する部分である。ただし、第1部分および第2部分は、上記の例に限られない。例えば、腕部は、手と同様に第1部分に含まれてもよいし、そもそもプレイヤキャラクタPCの一部として含まれていなくてもよい。なお、各プレイヤキャラクタPCのどの部分が第1部分または第2部分であるかを示す情報は、例えば、オブジェクト情報242としてメモリモジュール240に予め格納されている。この場合、プロセッサ10は、オブジェクト情報242を参照することで、各プレイヤキャラクタPCの第1部分および第2部分を特定することができる。
第1の例においては、プロセッサ10は、上述した表示態様を決定する処理(図10におけるステップS10および図13におけるステップS24Aに相当する処理)において、視界画像生成モジュール223として、以下の処理を実行する。具体的には、プロセッサ10は、視界画像M1に含まれるプレイヤキャラクタPC11〜PC14のそれぞれについて、第2部分の少なくとも一部の透過率(透明度)が第1部分の透過率よりも大きくなるように、第1部分および第2部分の透過率を設定する。透過率は、0%(非透過)から100%(完全な透明)までの範囲で設定され得る。
ここでは一例として、プロセッサ10は、各プレイヤキャラクタPC11〜PC14の第1部分(頭部および手)の透過率を0%に設定する。ただし、第1部分の透過率は、0%よりも大きい値に設定されてもよい。一方、プロセッサ10は、各プレイヤキャラクタPC11〜PC14の第2部分(胴体部および腕部)の透過率を、第1部分の透過率(ここでは0%)よりも大きく、100%よりも小さくなるように設定する。第1部分の透過率を100%よりも小さくすることにより、ユーザによる360度動画の視聴を妨げないようにしつつ、ユーザに各プレイヤキャラクタの胴体全体の存在を認識させることができる。また、プロセッサ10は、第2部分の全体の透過率が一定となるように、第2部分の透過率を設定する。
プロセッサ10(視界画像生成モジュール223)が上記のように透過率が設定された視界画像データを生成および出力することにより、図14に示される視界画像M1が、HMD装置110Aを介してユーザ190Aに提供される。視界画像M1において、各ユーザ190B〜190Eの動きに連動して動作する第1部分(頭部および手)は、それ以外の第2部分(胴体部および腕部)と比較して明瞭に表示される。これにより、ユーザ190Aに、プレイヤキャラクタPC11〜PC14の表情および身振り手振り等を容易に視認させ、ユーザ間のコミュニケーションを促進させることができる。また、共通の仮想空間2を他のユーザ190B〜190Eと共有している感覚(一体感等)をユーザ190Aに与えることができる。その結果、複数ユーザで仮想空間を共有する仮想体験のエンタテイメント性を確保することができる。
一方、視界画像M1において、第1部分に付随して表示される第2部分(胴体部および腕部)については、半透明に表示される。これにより、仮想空間2におけるユーザ190Aの360度動画の視認性を向上させることができる。また、視界画像M1において、第2部分は完全な透明(非表示)にされないため、プレイヤキャラクタPC11〜PC14の胴体がない(すなわち、頭部だけが宙に浮いている)といった不自然な状況が生じることを防止し得る。すなわち、自然なアバター表現を実現し得る。これにより、ユーザ190Aの仮想体験への没入感覚が損なわれることを防止し得る。
(第2の例)
図15は、プレイヤキャラクタPCの透過制御の第2の例における視界画像の一例(視界画像M2)を表す図である。第2の例は、視界画像M2に含まれる各プレイヤキャラクタPC11〜PC14について、第1部分から遠ざかるにつれて徐々に大きくなるように第2部分の透過率を設定する点で第1の例と相違し、その他の点については第1の例と同様である。ここでは一例として、プロセッサ10は、腕部の透過率については、手に近い側から手から遠い側に向けて徐々に大きくなるように設定する。同様に、プロセッサ10は、胴体部の透過率については、頭部に近い側から頭部から遠い側に向けて徐々に大きくなるように設定する。
プロセッサ10(視界画像生成モジュール223)が上記のように透過率が設定された視界画像データを生成および出力することにより、図15に示される視界画像M2が、HMD装置110Aを介してユーザ190Aに提供される。視界画像M2においては、第2部分の透過率が第1部分に近い側から遠い側に向けて段階的に上げられている。このように透過率が徐々に変化するグラデーション表現により、プレイヤキャラクタPC11〜PC14が透過表示されることに対してユーザ190Aが感じ得る違和感を低減し得る。
(第3の例)
第3の例では、プロセッサ10(視界画像生成モジュール223)は、ユーザ190Aに関連付けられたプレイヤキャラクタPC(第1プレイヤキャラクタ)に対する、各ユーザ190B〜190E(第2ユーザ)に関連付けられた各プレイヤキャラクタPC11〜PC14(第2プレイヤキャラクタ)の状態に応じて、各プレイヤキャラクタPC11〜PC14の透過率を設定する。具体的には、プロセッサ10は、上述した表示態様を決定する処理(図10におけるステップS10および図13におけるステップS24Aに相当する処理)において、視界画像生成モジュール223として、図16に示される処理を実行する。図16は、プレイヤキャラクタの透過制御の第3の例においてHMDシステム100Aが実行する処理を表すフローチャートである。
ステップS31において、プロセッサ10は、視界画像に第2プレイヤキャラクタが含まれているか否かを判定する。視界画像に第2プレイヤキャラクタが含まれていない場合、プロセッサ10は、第3の例における透過制御の処理を終了する。一方、視界画像に1つ以上の第2プレイヤキャラクタが含まれている場合、プロセッサ10は、ステップS32の処理を実行する。
ステップS32〜S36において、プロセッサ10は、視界画像に含まれる第2プレイヤキャラクタのそれぞれについて、ステップS33の判定を実行し、その判定結果に応じてステップS34またはS35の処理を実行する。ステップS36において、プロセッサ10は、視界画像に含まれる全ての第2プレイヤキャラクタについて処理を完了したか否かを判定する。プロセッサ10は、全ての第2プレイヤキャラクタについて処理を完了したら(ステップS36:YES)、第3の例における透過制御の処理を終了する。以下、第2プレイヤキャラクタのそれぞれに対して実行される判定処理について説明する。
ステップS32において、プロセッサ10は、判定対象となる第2プレイヤキャラクタを1つ選択する。続いて、ステップS33において、プロセッサ10は、選択した第2プレイヤキャラクタについて、第1プレイヤキャラクタに対する第2プレイヤキャラクタの状態が、予め定められた所定の状態であるか否かを判定する。第2プレイヤキャラクタが所定の状態であると判定されなかった場合、ステップS34において、プロセッサ10は、当該第2プレイヤキャラクタの少なくとも一部の透過率を0より大きい値に設定する。一方、第2プレイヤキャラクタが所定の状態であると判定された場合、ステップS35において、プロセッサ10は、当該第2プレイヤキャラクタの透過率を0(非透過)に設定する。
図17は、プレイヤキャラクタPCの透過制御の第3の例における視界画像の一例(視界画像M3)を表す図である。視界画像M3は、第2プレイヤキャラクタが第1プレイヤキャラクタ(あるいは第1プレイヤキャラクタを含む集団)に向けて発話している状態(以下「発話状態」)を上記所定の状態として、図16に示される処理を実行した場合に得られる視界画像である。
図17に示されるように、視界画像M3においては、プレイヤキャラクタPC12のみが第1プレイヤキャラクタを含む集団に向けて発話している。このため、プロセッサ10は、プレイヤキャラクタPC12については、ステップS33において発話状態であると判定し、ステップS35の処理を実行する。一方、プロセッサ10は、他のプレイヤキャラクタPC11,PC13,PC14については、ステップS33において発話状態でないと判定し、ステップS34の処理を実行する。
上述の発話状態の判定(ステップS33)は、例えば以下のようにして実行される。すなわち、プロセッサ10は、第2プレイヤキャラクタの発話音声がユーザ190A(HMDシステム100A)に送信される状態であり、且つ、当該第2プレイヤキャラクタが発話している状態である場合に、当該第2プレイヤキャラクタが発話状態であると判定してもよい。一方、プロセッサ10は、上記以外の場合に、当該第2プレイヤキャラクタが発話状態でないと判定してもよい。ここで、第2プレイヤキャラクタの発話音声がユーザ190A(HMDシステム100A)に送信される状態とは、例えば、仮想空間2における第1プレイヤキャラクタと第2プレイヤキャラクタとの距離が所定距離以内である等の予め定められた条件を満たす状態である。
上述のような処理により、プロセッサ10は、プレイヤキャラクタPC12のみが非透過に表示され、他のプレイヤキャラクタPC11,PC13,PC14が透過表示された視界画像M3を生成する。なお、図17に示される例では、上述のステップS34において、プロセッサ10は、各プレイヤキャラクタの下部から上部に向けて透過率が徐々に大きくなるように、透過表示させる対象の各プレイヤキャラクタPC11,PC13,PC14の透過率を設定している。これにより、視界画像M3において、各プレイヤキャラクタPC11,PC13,PC14は、下部(腰部)から上部(頭頂部)に向けて透明の度合いが大きくなるように表示されている。
上述した発話状態に基づく透過制御によれば、視界画像M3において、発話状態であって注目すべき第2プレイヤキャラクタ(図17の例では、プレイヤキャラクタPC12)を他のプレイヤキャラクタPC11,PC13,PC14よりも目立たせることができる。これにより、仮想空間2を共有するユーザ(プレイヤキャラクタPC)が多い場合であっても、ユーザ190Aは、仮想空間2において、誰が発話しているかを容易に把握することが可能となる。したがって、VRチャットにおけるユーザ間のコミュニケーションをより円滑にし得る。
また、上述のように透過表示させる対象のプレイヤキャラクタPCの透過率を下部から上部に向けて大きくなるように設定することにより、人の目を惹き易い上部(頭部)の透過率を下部(腰部)と比較して大きくすることができる。これにより、透過表示させる対象のプレイヤキャラクタPCの仮想空間2における存在感を適切に弱めることができる。一方、下部(腰部)に近い部分の透過率を上部(頭部)と比較して小さくし、当該プレイヤキャラクタPCの下部に近い部分を視認させることにより、当該プレイヤキャラクタPCの存在をユーザ190Aに気付かせることができる。これにより、共通の仮想空間2を複数ユーザで共有する仮想体験のエンタテイメント性(一体感等)を適切に確保することができる。
図18は、プレイヤキャラクタPCの透過制御の第3の例における視界画像の他例(視界画像M4)を表す図である。視界画像M4は、第2プレイヤキャラクタが第1プレイヤキャラクタの方を向いている状態(以下「対面状態」)を上記所定の状態として、図16に示される処理を実行した場合に得られる視界画像である。
図18に示されるように、視界画像M4においては、プレイヤキャラクタPC13のみが第1プレイヤキャラクタの方を向いており、他のプレイヤキャラクタPC11,PC12,PC14は、第1プレイヤキャラクタに対して背中を向けている。このため、プロセッサ10は、プレイヤキャラクタPC13については、ステップS33において対面状態であると判定し、ステップS35の処理を実行する。一方、プロセッサ10は、他のプレイヤキャラクタPC11,PC12,PC14については、ステップS33において対面状態でないと判定し、ステップS34の処理を実行する。
上述の対面状態の判定(ステップS33)は、例えば以下のようにして実行される。すなわち、プロセッサ10は、第2プレイヤキャラクタの予め定められた所定の顔パーツ(例えば目等)が視界画像M4に表示されている場合に、当該第2プレイヤキャラクタが対面状態であると判定してもよい。一方、プロセッサ10は、上記以外の場合に、当該第2プレイヤキャラクタが対面状態でないと判定してもよい。
上述のような処理により、プロセッサ10は、プレイヤキャラクタPC13のみが非透過に表示され、他のプレイヤキャラクタPC11,PC12,PC14が透過表示された視界画像M4を生成する。なお、図18に示される例では、図17に示される例と同様に、各プレイヤキャラクタPC11,PC12,PC14は、下部(腰部)から上部(頭頂部)に向けて透明の度合いが大きくなるように表示されている。
上述した対面状態に基づく透過制御によれば、視界画像M4において、対面状態であって第1ユーザとコミュニケーションを取っている(あるいはコミュニケーションを取る可能性の高い)第2プレイヤキャラクタ(図18の例では、プレイヤキャラクタPC13)を他のプレイヤキャラクタPC11,PC12,PC14よりも目立たせることができる。これにより、仮想空間2を共有するユーザ(プレイヤキャラクタPC)が多い場合であっても、ユーザ190Aは、仮想空間2において、コミュニケーションを取っている相手(あるいは、これからコミュニケーションを取る可能性の高い相手)を容易に把握することが可能となる。したがって、VRチャットにおけるユーザ間のコミュニケーションをより円滑にし得る。
以上、本開示の実施形態について説明したが、本発明の技術的範囲は、本実施形態の説明によって限定的に解釈されるべきではない。本実施形態は一例であって、特許請求の範囲に記載された発明の範囲内において、様々な実施形態の変更が可能であることが当業者によって理解されるところである。本発明の技術的範囲は、特許請求の範囲に記載された発明の範囲およびその均等の範囲に基づいて定められるべきである。
例えば、透過制御の第3の例として説明した第1プレイヤキャラクタに対する状態に応じて第2プレイヤキャラクタの透過率を設定する処理は、透過制御の第1または第2の例に適用されてもよい。具体的には、プロセッサ10は、第1または第2の例において、第2プレイヤキャラクタの第1プレイヤキャラクタに対する状態に応じて第2プレイヤキャラクタ間の透過率に差を生じさせてもよい。これにより、上述した第1または第2の例により得られる効果と共に、上述した第3の例により得られる効果が奏される。
また、透過制御の第3の例では、ステップS35において、プロセッサ10は、必ずしも第2プレイヤキャラクタの透過率を0(非透過)に設定しなくてもよい。例えば、プロセッサ10は、ステップS35において、ステップS34において設定される透過率よりも小さい透過率(>0)を第2プレイヤキャラクタの透過率として設定してもよい。このような構成であっても、所定の状態である第2プレイヤキャラクタを所定の状態でない第2プレイヤキャラクタよりも目立たせることができ、上述した第3の例により得られる効果が奏される。
また、本実施形態では、所定の状態でない第2プレイヤキャラクタを透過表示させることで、所定の状態である第2プレイヤキャラクタを目立たせる例について説明したが、所定の状態である第2プレイヤキャラクタを目立たせる方法はこれに限られない。例えば、プロセッサ10は、所定の状態でない第2プレイヤキャラクタの明度を低くすることで暗く表示してもよい。あるいは、プロセッサ10は、所定の状態である第2プレイヤキャラクタの明度を高くして明るく表示してもよい。このように、プロセッサ10は、所定の状態である第2プレイヤキャラクタを目立ち易くするために、透過制御以外の表示態様の制御を実行してもよい。
また、VRチャットを実現するために各HMDシステム100とサーバ150との間で実行される機能の分担は、上記例に限られず、様々な分散構成を採用し得る。例えば、上記例では、プレイヤ情報を送信する側のHMDシステム100が自システムを利用するユーザの感情を示す感情データを生成する構成について説明したが、各ユーザの感情データを複数のHMDシステム100間で共有するための処理構成は上記構成に限られない。例えば、プレイヤ情報を受信する側のHMDシステム100が、受信されたプレイヤ情報に含まれるフェイストラッキングデータまたは音声データに基づいて感情データを生成してもよい。この場合、プレイヤ情報に感情データを含める必要がなくなるため、プレイヤ情報の送受信に係るデータ通信量を削減し得る。
また、上述した各HMDシステム100のコンピュータ200によって実行される機能の一部または全部は、サーバ150に集約されてもよい。例えば、以下のように、サーバ150が視界画像の生成および出力までの処理を実行し、各HMD装置110はサーバ150から受信した視界画像を表示する構成が採用されてもよい。すなわち、サーバ150が、複数のHMD装置110によって共有される仮想空間2を定義するデータ(例えば、空間情報241、オブジェクト情報242等)を保持する。各HMD装置110のHMDセンサ120が、当該HMD装置110の位置および傾きの情報をサーバ150に送信する。サーバ150が、各HMD装置110の位置および傾きに応じた視界画像を生成し、当該視界画像を表示するための視界画像データを各HMD装置110に送信する。この場合、例えば上述した図10のステップS1、S9、およびS10等の処理を実行する主体は、サーバ150となる。
本明細書に開示された主題は、例えば、以下のような項目として示される。
(項目1)
第1ヘッドマウントディスプレイ(HMD装置110A)を介して第1ユーザ(ユーザ190A)に仮想空間2を提供するためにコンピュータ200によって実行される情報処理方法であって、
前記第1ユーザに関連付けられた第1プレイヤキャラクタと、第2ユーザ(ユーザ190B〜190E)に関連付けられた第2プレイヤキャラクタ(プレイヤキャラクタPC11〜PC14)と、前記第1ヘッドマウントディスプレイに提供される視界画像Mを定義する仮想カメラ1とを含む仮想空間2を定義する仮想空間データを生成するステップ(例えば、図10のS1)と、
前記視界画像Mに含まれる前記第2プレイヤキャラクタの表示態様を、前記第1プレイヤキャラクタに対する前記第2プレイヤキャラクタの状態に応じて決定するステップ(例えば、図10のS10)と、
を含む、情報処理方法。
本項目の情報処理方法によれば、第1プレイヤキャラクタに対する第2プレイヤキャラクタの状態に応じて、第2プレイヤキャラクタの表示態様を決定することで、第2プレイヤキャラクタの目立ち易さを調整可能となる。したがって、視界画像において、注目すべき第2プレイヤキャラクタを第1ユーザに対して目立ち易く提示することが可能となる。これにより、複数ユーザで仮想空間2を共有する仮想体験におけるユーザ間のコミュニケーションをより円滑にし得る。
(項目2)
前記決定するステップにおいて、前記第1プレイヤキャラクタに対する前記第2プレイヤキャラクタの状態に応じて前記第2プレイヤキャラクタの透過率を設定する、
項目1の情報処理方法。
本項目の情報処理方法によれば、第1プレイヤキャラクタに対する第2プレイヤキャラクタの状態に応じて、第2プレイヤキャラクタの透過率を設定することで、第2プレイヤキャラクタの目立ち易さを適切に調整可能となる。
(項目3)
前記決定するステップにおいて、前記透過率を前記第2プレイヤキャラクタの下部から前記第2プレイヤキャラクタの上部に向けて徐々に大きくなるように設定する、
項目2の情報処理方法。
本項目の情報処理方法によれば、人の目を惹き易い上部(例えば頭部)の透過率を下部(例えば腰部)と比較して大きくすることができる。これにより、透過表示させる対象の第2プレイヤキャラクタの仮想空間2における存在感を適切に弱めることができる。
(項目4)
前記決定するステップにおいて、前記第2プレイヤキャラクタが前記第1プレイヤキャラクタに向けて発話している発話状態であるときの透過率が、前記第2プレイヤキャラクタが前記発話状態でないときの透過率よりも小さくなるように、前記第2プレイヤキャラクタの透過率を設定する、
項目2または3の情報処理方法。
本項目の情報処理方法によれば、仮想空間2を共有するユーザ(プレイヤキャラクタPC)が多い場合であっても、仮想空間2において発言しているユーザ(プレイヤキャラクタPC)を第1ユーザに容易に把握させることができる。したがって、VRチャットにおけるユーザ間のコミュニケーションをより円滑にし得る。
(項目5)
前記決定するステップにおいて、前記第2プレイヤキャラクタが前記第1プレイヤキャラクタの方を向いている対面状態であるときの透過率が、前記第2プレイヤキャラクタが前記対面状態でないときの透過率よりも小さくなるように、前記第2プレイヤキャラクタの透過率を設定する、
項目2または3の情報処理方法。
本項目の情報処理方法によれば、仮想空間2を共有するユーザ(プレイヤキャラクタPC)が多い場合であっても、仮想空間2においてコミュニケーションを取っている相手(あるいは、これからコミュニケーションを取る可能性の高い相手)を第1ユーザに容易に把握させることができる。したがって、VRチャットにおけるユーザ間のコミュニケーションをより円滑にし得る。
(項目6)
項目1〜5のいずれかの情報処理方法をコンピュータに実行させる、プログラム。
(項目7)
項目6のプログラムを格納したメモリと、
前記メモリに結合され、前記プログラムを実行するためのプロセッサとを備える、装置。
1…仮想カメラ、2…仮想空間、5…基準視線、10…プロセッサ、11…メモリ、12…ストレージ、13…入出力インターフェース、14…通信インターフェース、15…バス、19…ネットワーク、21…中心、22…仮想空間画像、23…視界領域、24,25…領域、31…フレーム、32…天面、33,34,36,37…ボタン、35…赤外線LED、38…アナログスティック、100,100A,100B,100C…HMDシステム、110,110A,110B,110C…HMD装置、112…モニタ、114…センサ、116…カメラ、118…マイク、120…HMDセンサ、130…モーションセンサ、140…注視センサ、150…サーバ、160…コントローラ、160R…右コントローラ、190,190A,190B,190C,190D,190E…ユーザ、200…コンピュータ、220…表示制御モジュール、221…仮想カメラ制御モジュール、222…視界領域決定モジュール、223…視界画像生成モジュール、224…基準視線特定モジュール、230…仮想空間制御モジュール、231…仮想空間定義モジュール、232…仮想オブジェクト制御モジュール、233…操作オブジェクト制御モジュール、240…メモリモジュール、241…空間情報、242…オブジェクト情報、243…ユーザ情報、250…通信制御モジュール、810…右手、M,M1,M2,M3,M4…視界画像、PC,PC1,PC2,PC3,PC11,PC12,PC13,PC14…プレイヤキャラクタ。

Claims (10)

  1. 第1ヘッドマウントディスプレイを介して第1ユーザに仮想空間を提供するためにコンピュータによって実行される情報処理方法であって、
    前記第1ユーザに関連付けられた第1プレイヤキャラクタと、第2ユーザに関連付けられた第2プレイヤキャラクタと、仮想カメラとを含む仮想空間を定義する仮想空間データを生成するステップと、
    前記第1ユーザの頭の動きに応じて、前記仮想カメラからの視界領域を制御するステップと、
    前記視界領域に含まれる前記第2プレイヤキャラクタが、前記第1プレイヤキャラクタとコミュニケーションを取っている状態として予め定められた所定の状態であるか否かを判定するステップと、
    前記視界領域に含まれる前記第2プレイヤキャラクタの表示態様を、前記第2プレイヤキャラクタが前記所定の状態であるか否かに基づいて決定するステップと、
    前記視界領域に対応する視界画像を前記第1ヘッドマウントディスプレイに出力するステップとを含み、
    前記判定するステップにおいて、前記第2プレイヤキャラクタが前記第1プレイヤキャラクタの方を向いている対面状態である場合に、前記第2プレイヤキャラクタが前記所定の状態であると判定する、情報処理方法。
  2. 前記決定するステップにおいて、前記所定の状態でないと判定された前記第2プレイヤキャラクタが前記所定の状態であると判定された前記第2プレイヤキャラクタよりも目立たないように、前記第2プレイヤキャラクタの表示態様を決定する、
    請求項1に記載の情報処理方法。
  3. 前記決定するステップにおいて、前記第2プレイヤキャラクタの透過率を設定する、
    請求項1または2に記載の情報処理方法。
  4. 前記決定するステップにおいて、前記所定の状態でないと判定された前記第2プレイヤキャラクタの透過率が前記所定の状態であると判定された前記第2プレイヤキャラクタの透過率よりも大きくなるように、前記第2プレイヤキャラクタの透過率を設定する、
    請求項3に記載の情報処理方法。
  5. 前記決定するステップにおいて、前記透過率を前記第2プレイヤキャラクタの下部から前記第2プレイヤキャラクタの上部に向けて徐々に大きくなるように設定する、
    請求項3または4に記載の情報処理方法。
  6. 前記判定するステップにおいて、前記第1プレイヤキャラクタに対する前記第2プレイヤキャラクタの位置関係に基づいて、前記第2プレイヤキャラクタが前記所定の状態であるか否かを判定する、
    請求項1〜5のいずれか一項に記載の情報処理方法。
  7. 前記判定するステップにおいて、前記第2プレイヤキャラクタが前記第1プレイヤキャラクタに向けて発話している発話状態である場合に、前記第2プレイヤキャラクタが前記所定の状態であると判定する、
    請求項1〜6のいずれか一項に記載の情報処理方法。
  8. 前記仮想空間の背景画像は、360度動画に基づく画像である、請求項1〜のいずれか一項に記載の情報処理方法。
  9. 請求項1〜のいずれか一項に記載の情報処理方法をコンピュータに実行させる、プログラム。
  10. 請求項に記載のプログラムを格納したメモリと、
    前記メモリに結合され、前記プログラムを実行するためのプロセッサとを備える、装置。
JP2016236784A 2016-12-06 2016-12-06 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム Active JP6392832B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2016236784A JP6392832B2 (ja) 2016-12-06 2016-12-06 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
US15/832,674 US10238968B2 (en) 2016-12-06 2017-12-05 Information processing method, apparatus, and system for executing the information processing method
US16/361,205 US10894211B2 (en) 2016-12-06 2019-03-22 Information processing method, apparatus, and system for executing the information processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016236784A JP6392832B2 (ja) 2016-12-06 2016-12-06 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2018129524A Division JP2019030638A (ja) 2018-07-06 2018-07-06 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム

Publications (2)

Publication Number Publication Date
JP2018089230A JP2018089230A (ja) 2018-06-14
JP6392832B2 true JP6392832B2 (ja) 2018-09-19

Family

ID=62563318

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016236784A Active JP6392832B2 (ja) 2016-12-06 2016-12-06 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム

Country Status (1)

Country Link
JP (1) JP6392832B2 (ja)

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002312295A (ja) * 2001-04-09 2002-10-25 Nec Interchannel Ltd 仮想3次元空間会話システム
GB2450757A (en) * 2007-07-06 2009-01-07 Sony Comp Entertainment Europe Avatar customisation, transmission and reception
JP2009027423A (ja) * 2007-07-19 2009-02-05 Sony Computer Entertainment Inc 通信システム、通信装置、通信プログラム、通信プログラムを記憶したコンピュータ読み取り可能な記憶媒体
JP2009223656A (ja) * 2008-03-17 2009-10-01 Nomura Research Institute Ltd 仮想空間提供装置、仮想空間提供システム、仮想空間提供方法及びコンピュータプログラム
JP5408948B2 (ja) * 2008-10-01 2014-02-05 株式会社バンダイナムコゲームス プログラム及びゲームシステム
FR2948480B1 (fr) * 2009-07-24 2012-03-09 Alcatel Lucent Procede de traitement d'image, procede d'adaptation de l'affichage d'avatars, processeur de traitement d'image, serveur de monde virtuel et terminal de communication
JP5983499B2 (ja) * 2013-03-29 2016-08-31 ソニー株式会社 表示制御装置、表示制御方法、およびプログラム
US9452354B2 (en) * 2013-06-07 2016-09-27 Sony Interactive Entertainment Inc. Sharing three-dimensional gameplay
JP5869712B1 (ja) * 2015-04-08 2016-02-24 株式会社コロプラ 没入型仮想空間に実空間のユーザの周辺環境を提示するためのヘッドマウント・ディスプレイ・システムおよびコンピュータ・プログラム

Also Published As

Publication number Publication date
JP2018089230A (ja) 2018-06-14

Similar Documents

Publication Publication Date Title
JP6244593B1 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP6263252B1 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP6201028B1 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP6392911B2 (ja) 情報処理方法、コンピュータ、および当該情報処理方法をコンピュータに実行させるためのプログラム
US10894211B2 (en) Information processing method, apparatus, and system for executing the information processing method
JP6290467B1 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるプログラム
JP6321263B1 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP6479933B1 (ja) プログラム、情報処理装置、および方法
JP6495398B2 (ja) 仮想空間を提供するための方法、プログラム、および当該プログラムを実行するための情報処理装置
JP2019032844A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP2018125003A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるプログラム
JP2018124981A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP2019030638A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP2018092592A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP6419268B1 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP6368404B1 (ja) 情報処理方法、プログラム及びコンピュータ
JP6278546B1 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP6225242B1 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるプログラム
JP2018192238A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP2019020836A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP2018190196A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP2019020832A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP6856572B2 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP6839046B2 (ja) 情報処理方法、装置、情報処理システム、および当該情報処理方法をコンピュータに実行させるプログラム
JP6392953B1 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180309

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20180413

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180706

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20180718

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180808

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180823

R150 Certificate of patent or registration of utility model

Ref document number: 6392832

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250