JP6275891B1 - 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置 - Google Patents

仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置 Download PDF

Info

Publication number
JP6275891B1
JP6275891B1 JP2017013102A JP2017013102A JP6275891B1 JP 6275891 B1 JP6275891 B1 JP 6275891B1 JP 2017013102 A JP2017013102 A JP 2017013102A JP 2017013102 A JP2017013102 A JP 2017013102A JP 6275891 B1 JP6275891 B1 JP 6275891B1
Authority
JP
Japan
Prior art keywords
user
virtual space
avatar object
data
computer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017013102A
Other languages
English (en)
Other versions
JP2018120520A (ja
Inventor
英太 菊地
英太 菊地
孝司 中坊
孝司 中坊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Colopl Inc
Original Assignee
Colopl Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Colopl Inc filed Critical Colopl Inc
Priority to JP2017013102A priority Critical patent/JP6275891B1/ja
Priority to US15/881,668 priority patent/US20180299948A1/en
Application granted granted Critical
Publication of JP6275891B1 publication Critical patent/JP6275891B1/ja
Publication of JP2018120520A publication Critical patent/JP2018120520A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0187Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye

Abstract

【課題】仮想空間に配置されるアバターのより自然な動作を実現する技術を提供すること。【解決手段】仮想空間を介して通信するためにコンピュータで実行される方法は、ユーザの身体の一部の位置をトラッキングするためのデータを取得するステップ(S2030)と、データに基づいてアバターオブジェクトの一部をユーザの一部の位置に追随させるステップ(S2040)と、ユーザの一部の位置をトラッキングできなくなったことに応じて、トラッキングできなくなった時の直前のデータに基づいてアバターオブジェクトの一部を動かすステップ(S2060)と、ユーザの一部の位置を再びトラッキングできる状態に復帰したことに応じて、所定時間をかけて、アバターオブジェクトの一部を、復帰後のデータが示すユーザの一部の位置に移動させるステップ(S2080)とを備える。【選択図】図20

Description

この開示は、仮想空間に配置されるアバターを制御する技術に関し、より特定的には、アバターの動作を制御する技術に関する。
ヘッドマウントデバイス(HMD:Head-Mounted Device)装置を用いて仮想現実を提供する技術が知られている。また、仮想空間上に、複数のユーザの各々のアバターを配置し、これらアバターを通じてユーザ間でのコミュニケーションを図る技術が提案されている。
このような仮想空間上でアバターを通じたコミュニケーションを促進するために、現実空間のユーザの動きをアバターに反映する技術も提案されている。この現実空間のユーザの動きを取得する技術に関し、特開2008−140101号公報(特許文献1)は、「マーカを用いない、人の手の動きをリアルタイムで取得する装置」を開示している。
特開2008−140101号公報
特許文献1のように、マーカを用いずにユーザの動きを取得しようとする場合、カメラ(例えば、ステレオカメラ)によりユーザの動作を撮影して、ユーザ動作をトラッキングすることが多い。しかしながら、カメラによりユーザ動作をトラッキングする場合、カメラの撮影範囲内からユーザの動作が外れると、ユーザ動作のトラッキングは停止される。
ユーザ動作のトラッキングが停止されると仮想空間に配置されるアバターは一時的に動作を停止する。そのため、このアバターを視認するユーザは違和感を覚え得る。その結果、ユーザは、仮想空間でアバターを通じた円滑なコミュニケーションを実現することができない。したがって、仮想空間に配置されるアバターがより自然な動作を行なうことができる技術が必要とされている。
本開示は、上記のような問題を解決するためになされたものであって、ある局面における目的は、仮想空間に配置されるアバターのより自然な動作を実現する技術を提供することである。
ある実施形態に従うと、仮想空間を介して通信するためにコンピュータで実行される方法が提供される。この方法は、仮想空間を定義するステップと、仮想空間を介して通信する他のコンピュータのユーザのアバターオブジェクトを仮想空間に配置するステップと、ユーザの身体の一部の位置をトラッキングするためのデータを取得するステップと、データに基づいてアバターオブジェクトの一部をユーザの一部の位置に追随させるステップと、ユーザの一部の位置をトラッキングできなくなったことに応じて、トラッキングできなくなった時の直前のデータに基づいてアバターオブジェクトの一部を動かすステップと、ユーザの一部の位置を再びトラッキングできる状態に復帰したことに応じて、所定時間をかけて、アバターオブジェクトの一部を、復帰後のデータが示すユーザの一部の位置に移動させるステップとを備える。
開示された技術的特徴の上記および他の目的、特徴、局面および利点は、添付の図面と関連して理解されるこの発明に関する次の詳細な説明から明らかとなるであろう。
HMDシステムの構成の概略を表す模式図である。 ある局面に従うコンピュータのハードウェア構成の一例を表すブロック図である。 ある実施形態に従うHMDに設定されるuvw視野座標系を概念的に表す模式図である。 ある実施形態に従う仮想空間を表現する一態様を概念的に表す模式図である。 ある実施形態に従うHMDを装着するユーザ190の頭部を上から表した模式図である。 仮想空間において視認領域をX方向から見たYZ断面を表す模式図である。 仮想空間において視認領域をY方向から見たXZ断面を表す模式図である。 ある実施形態に従うコンピュータをモジュール構成として表わすブロック図である。 HMDシステムにおける処理を表すフローチャートである。 HMDセットの各ユーザのアバターオブジェクトを説明するための図である。 ユーザの手をトラッキングする処理について説明するための図である。 トラッキングモジュールの動作を説明するための図である。 トラッキングデータを構成するデータ(その1)を示す図である。 トラッキングデータを構成するデータ(その2)を示す図である。 サーバのハードウェア構成およびモジュール構成を説明するための図である。 現実空間におけるユーザの動作をアバターオブジェクトに反映するための、コンピュータとサーバとの信号の送受信を表わすフローチャートである。 ユーザの手をトラッキングできなくなったことを説明するための図である。 ユーザの手の位置(関節jの位置)のトラッキングデータの履歴であるデータを示す図である。 動作ライブラリのデータ構造例を示す図である。 コンピュータがユーザの手の位置をトラッキングできなくなった時の処理を示すフローチャートである。 他の局面に従う、ユーザの手の位置をトラッキングできなくなった時のアバターオブジェクトの動きを説明するための図である。 他の局面に従う、コンピュータがユーザの手の位置をトラッキングできなくなった時の処理を示すフローチャートである。 さらに他の局面に従う、ユーザの手の位置をトラッキングできなくなった時のアバターオブジェクトの動きを説明するための図である。 さらに他の局面に従う、ユーザの手の位置をトラッキングできなくなった時のアバターオブジェクトの動きを説明するための図である。
以下、この技術的思想の実施形態について図面を参照しながら詳細に説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。なお、以下で説明される各実施形態は、適宜選択的に組み合わされてもよい。
[HMDシステムの構成]
図1を参照して、HMD(Head-Mounted Device)システム100の構成について説明する。図1は、HMDシステム100の構成の概略を表す。HMDシステム100は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。
HMDシステム100は、HMD(Head-Mounted Device)セット105A,105B,105C,105Dと、ネットワーク19とサーバ150とを含む。HMDセット105A,105B,105C,105Dの各々は、ネットワーク19を介してサーバ150と通信可能に構成される。以下、HMDセット105A,105B,105C,105Dを総称して、HMDセット105とも言う。なお、HMDシステム100を構成するHMDセット105の数は、4つに限られず、3つ以下でも、5つ以上でもよい。
HMDセット105は、HMD110と、コンピュータ200とを備える。他の局面において、HMDセット105は、HMDセンサ120をさらに備える構成であってもよい。HMD110は、モニタ112と、センサ114と、カメラ116と、スピーカ118と、マイク119と、注視センサ140とを含む。
ある局面において、コンピュータ200は、インターネットその他のネットワーク19に接続可能であり、ネットワーク19に接続されているサーバ150その他のコンピュータ(例えば、他のHMDセット105のコンピュータ)と通信可能である。
HMD110は、ユーザの頭部に装着され、動作中に仮想空間をユーザに提供し得る。より具体的には、HMD110は、右目用の画像および左目用の画像をモニタ112にそれぞれ表示する。ユーザの各目がそれぞれの画像を視認すると、ユーザは、両目の視差に基づき当該画像を3次元の画像として認識し得る。HMD110は、モニタを備える所謂ヘッドマウントディスプレイと、スマートフォンその他のモニタを有する端末を装着可能なヘッドマウント機器のいずれをも含み得る。
モニタ112は、例えば、非透過型の表示装置として実現される。ある局面において、モニタ112は、ユーザの両目の前方に位置するようにHMD110の本体に配置されている。したがって、ユーザは、モニタ112に表示される3次元画像を視認すると、仮想空間に没入することができる。ある実施形態において、仮想空間は、例えば、背景、ユーザが操作可能なオブジェクト、ユーザが選択可能なメニューの画像を含む。ある実施形態において、モニタ112は、所謂スマートフォンその他の情報表示端末が備える液晶モニタまたは有機EL(Electro Luminescence)モニタとして実現され得る。
他の局面において、モニタ112は、透過型の表示装置として実現され得る。この場合、HMD110は、図1に示されるようにユーザの目を覆う密閉型ではなく、メガネ型のような開放型であり得る。透過型のモニタ112は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可能であってもよい。また、モニタ112は、仮想空間を構成する画像の一部と、現実空間とを同時に表示する構成を含んでいてもよい。例えば、モニタ112は、HMD110に搭載されたカメラで撮影した現実空間の画像を表示してもよいし、一部の透過率を高く設定することにより現実空間を視認可能にしてもよい。
ある局面において、モニタ112は、右目用の画像を表示するためのサブモニタと、左目用の画像を表示するためのサブモニタとを含み得る。別の局面において、モニタ112は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、モニタ112は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。
センサ114は、HMD110の姿勢(傾き)を検出する。センサ114は、例えば、角速度センサ、加速度センサ、ジャイロセンサ、地磁気センサにより、またはこれらのセンサの組み合わせにより実現され得る。コンピュータ200は、センサ114の出力に基づいて、HMD110の傾きを検出し得る。一例として、センサ114が角速度センサである場合、角速度センサは、現実空間におけるHMD110の3軸周りの角速度を経時的に検出する。コンピュータ200は、各角速度に基づいて、HMD110の3軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、HMD110の傾きを算出する。
他の局面において、コンピュータ200は、センサ114の出力に替えて、HMDセンサ120の出力に基づいて、HMD110の位置および傾きを検出するように構成されてもよい。この場合、HMD110は、複数の光源(図示しない)を含む。各光源は例えば、赤外線を発するLED(Light Emitting Diode)により実現される。HMDセンサ120は、HMD110の動きを検出するためのポジショントラッキング機能を有する。より具体的には、HMDセンサ120は、HMD110が発する複数の赤外線を読み取り、現実空間内におけるHMD110の位置および傾きを検出する。
なお、さらに他の局面において、HMDセンサ120は、カメラにより実現されてもよい。この場合、HMDセンサ120は、カメラから出力されるHMD110の画像情報を用いて、画像解析処理を実行することにより、HMD110の位置および傾きを検出することができる。
カメラ116は、対象物の深度情報を取得可能に構成される。一例として、カメラ116は、TOF(Time Of Flight)方式に従い、対象物の深度情報を取得する。他の例として、カメラ116は、パターン照射方式に従い、対象物の深度情報を取得する。ある実施形態において、カメラ116は、対象物を2つ以上の異なる方向から撮影できるステレオカメラであり得る。また、カメラ116は、人間が不可視な赤外線カメラであり得る。カメラ116は、HMD110に装着され、ユーザの身体の一部を撮影する。以下、一例として、カメラ116は、ユーザの手を撮影する。カメラ116は取得した対象物(手)の深度情報をコンピュータ200に出力する。
スピーカ118は、音声信号を音声に変換してユーザ190に出力する。マイク119は、ユーザ190の発話を電気信号に変換してコンピュータ200に出力する。なお、他の局面において、HMD110は、スピーカ118に替えてイヤホンを備えるように構成されてもよい。
注視センサ140は、ユーザ190の右目および左目の視線が向けられる方向(視線)を検出する。当該方向の検出は、例えば、公知のアイトラッキング機能によって実現される。注視センサ140は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ140は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ140は、例えば、ユーザ190の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ140は、検出した各回転角に基づいて、ユーザ190の視線を検知することができる。
サーバ150は、コンピュータ200にプログラムを送信し得る。別の局面において、サーバ150は、他のユーザによって使用されるHMDに仮想現実を提供するための他のコンピュータ200と通信し得る。例えば、アミューズメント施設において、複数のユーザが参加型のゲームを行なう場合、各コンピュータ200は、各ユーザの動作に基づく信号を他のコンピュータ200と通信して、同じ仮想空間において複数のユーザが共通のゲームを楽しむことを可能にする。
[ハードウェア構成]
図2を参照して、本実施形態に係るコンピュータ200について説明する。図2は、ある局面に従うコンピュータ200のハードウェア構成の一例を表すブロック図である。コンピュータ200は、主たる構成要素として、プロセッサ10と、メモリ11と、ストレージ12と、入出力インターフェイス13と、通信インターフェイス14とを備える。各構成要素は、それぞれ、バス15に接続されている。
プロセッサ10は、コンピュータ200に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ11またはストレージ12に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ10は、CPU(Central Processing Unit)、MPU(Micro Processor Unit)、FPGA(Field-Programmable Gate Array)その他のデバイスとして実現される。
メモリ11は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ12からロードされる。データは、コンピュータ200に入力されたデータと、プロセッサ10によって生成されたデータとを含む。ある局面において、メモリ11は、RAM(Random Access Memory)その他の揮発メモリとして実現される。
ストレージ12は、プログラムおよびデータを永続的に保持する。ストレージ12は、例えば、ROM(Read-Only Memory)、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ12に格納されるプログラムは、HMDシステム100において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、他のコンピュータ200との通信を実現するためのプログラムを含む。ストレージ12に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含む。
なお、別の局面において、ストレージ12は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、コンピュータ200に内蔵されたストレージ12の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のHMDシステム100が使用される場面において、プログラムやデータの更新を一括して行なうことが可能になる。
ある実施形態において、入出力インターフェイス13は、HMD110、およびHMDセンサ120との間で信号を通信する。ある局面において、HMD110に含まれるセンサ114、カメラ116、スピーカ118、およびマイク119は、HMD110のインターフェイスを介してコンピュータ200との通信を行ない得る。ある局面において、入出力インターフェイス13は、USB(Universal Serial Bus)、DVI(Digital Visual Interface)、HDMI(登録商標)(High-Definition Multimedia Interface)その他の端子を用いて実現される。なお、入出力インターフェイス13は上述のものに限られない。
通信インターフェイス14は、ネットワーク19に接続されて、ネットワーク19に接続されている他のコンピュータ(例えば、サーバ150)と通信する。ある局面において、通信インターフェイス14は、例えば、LAN(Local Area Network)その他の有線通信インターフェイス、あるいは、WiFi(Wireless Fidelity)、Bluetooth(登録商標)、NFC(Near Field Communication)その他の無線通信インターフェイスとして実現される。なお、通信インターフェイス14は上述のものに限られない。
ある局面において、プロセッサ10は、ストレージ12にアクセスし、ストレージ12に格納されている1つ以上のプログラムをメモリ11にロードし、当該プログラムに含まれる一連の命令を実行する。当該1つ以上のプログラムは、コンピュータ200のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ10は、入出力インターフェイス13を介して、仮想空間を提供するための信号をHMD110に送る。HMD110は、その信号に基づいてモニタ112に映像を表示する。
なお、図2に示される例では、コンピュータ200は、HMD110の外部に設けられる構成が示されているが、別の局面において、コンピュータ200は、HMD110に内蔵されてもよい。一例として、モニタ112を含む携帯型の情報通信端末(例えば、スマートフォン)がコンピュータ200として機能してもよい。
また、コンピュータ200は、複数のHMD110に共通して用いられる構成であってもよい。このような構成によれば、例えば、複数のユーザに同一の仮想空間を提供することもできるので、各ユーザは同一の仮想空間で他のユーザと同一のアプリケーションを楽しむことができる。
ある実施形態において、HMDシステム100では、グローバル座標系が予め設定されている。グローバル座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、ならびに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、3つの基準方向(軸)を有する。本実施形態では、グローバル座標系は視点座標系の一つである。そこで、グローバル座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれ、x軸、y軸、z軸と規定される。より具体的には、グローバル座標系において、x軸は現実空間の水平方向に平行である。y軸は、現実空間の鉛直方向に平行である。z軸は現実空間の前後方向に平行である。
ある局面において、センサ114は、3軸角速度センサと、3軸加速度センサとの組み合わせにより構成される。コンピュータ200は、これらのセンサの出力に基づいて、HMD110の基準方向(例えば、重力(鉛直)方向)に対する角度を算出する。これにより、コンピュータ200は、グローバル座標系におけるHMD110の傾きを取得できる。
他の局面において、HMDセンサ120は、赤外線センサを含む。赤外線センサが、HMD110の各光源から発せられた赤外線をそれぞれ検出すると、HMD110の存在を検出する。HMDセンサ120は、さらに、各点の値(グローバル座標系における各座標値)に基づいて、HMD110を装着したユーザ190の動きに応じた、現実空間内におけるHMD110の位置および傾きを検出する。より詳しくは、HMDセンサ120は、経時的に検出された各値を用いて、HMD110の位置および傾きの時間的変化を検出できる。
グローバル座標系は現実空間の座標系と平行である。したがって、HMDセンサ120によって検出されたHMD110の各傾きは、グローバル座標系におけるHMD110の3軸周りの各傾きに相当する。HMDセンサ120は、グローバル座標系におけるHMD110の傾きに基づき、uvw視野座標系をHMD110に設定する。HMD110に設定されるuvw視野座標系は、HMD110を装着したユーザ190が仮想空間において物体を見る際の視点座標系に対応する。
[uvw視野座標系]
図3を参照して、uvw視野座標系について説明する。図3は、ある実施形態に従うHMD110に設定されるuvw視野座標系を概念的に表す模式図である。センサ114またはHMDセンサ120は、HMD110の起動時に、グローバル座標系におけるHMD110の位置および傾きを検出する。プロセッサ10は、検出された値に基づいて、uvw視野座標系をHMD110に設定する。
図3に示されるように、HMD110は、HMD110を装着したユーザの頭部を中心(原点)とした3次元のuvw視野座標系を設定する。より具体的には、HMD110は、グローバル座標系を規定する水平方向、鉛直方向、および前後方向(x軸、y軸、z軸)を、グローバル座標系内においてHMD110の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる3つの方向を、HMD110におけるuvw視野座標系のピッチ方向(u軸)、ヨー方向(v軸)、およびロール方向(w軸)として設定する。
ある局面において、HMD110を装着したユーザ190が直立し、かつ、正面を視認している場合、プロセッサ10は、グローバル座標系に平行なuvw視野座標系をHMD110に設定する。この場合、グローバル座標系における水平方向(x軸)、鉛直方向(y軸)、および前後方向(z軸)は、HMD110におけるuvw視野座標系のピッチ方向(u軸)、ヨー方向(v軸)、およびロール方向(w軸)に一致する。
uvw視野座標系がHMD110に設定された後、センサ114またはHMDセンサ120は、HMD110の動きに基づいて、設定されたuvw視野座標系におけるHMD110の傾き(傾きの変化量)を検出できる。この場合、センサ114またはHMDセンサ120は、HMD110の傾きとして、uvw視野座標系におけるHMD110のピッチ角(θu)、ヨー角(θv)、およびロール角(θw)をそれぞれ検出する。ピッチ角(θu)は、uvw視野座標系におけるピッチ方向周りのHMD110の傾き角度を表す。ヨー角(θv)は、uvw視野座標系におけるヨー方向周りのHMD110の傾き角度を表す。ロール角(θw)は、uvw視野座標系におけるロール方向周りのHMD110の傾き角度を表す。
コンピュータ200は、センサ114またはHMDセンサ120の出力に基づいて検出したHMD110の傾き角度に基づいて、HMD110が動いた後のHMD110におけるuvw視野座標系を、HMD110に設定する。HMD110と、HMD110のuvw視野座標系との関係は、HMD110の位置および傾きに関わらず、常に一定である。HMD110の位置および傾きが変わると、当該位置および傾きの変化に連動して、グローバル座標系におけるHMD110のuvw視野座標系の位置および傾きが変化する。
ある局面において、HMDセンサ120は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係(例えば、各点間の距離など)に基づいて、HMD110の現実空間内における位置を、HMDセンサ120に対する相対位置として特定してもよい。また、プロセッサ10は、特定された相対位置に基づいて、現実空間内(グローバル座標系)におけるHMD110のuvw視野座標系の原点を決定してもよい。
[仮想空間]
図4を参照して、仮想空間についてさらに説明する。図4は、ある実施形態に従う仮想空間2を表現する一態様を概念的に表す模式図である。仮想空間2は、中心21の360度方向の全体を覆う全天球状の構造を有する。図4では、説明を複雑にしないために、仮想空間2のうちの上半分の天球が例示されている。仮想空間2では各メッシュが規定される。各メッシュの位置は、仮想空間2に規定されるXYZ座標系における座標値として予め規定されている。コンピュータ200は、仮想空間2に展開可能なコンテンツ(静止画、動画等)を構成する各部分画像を、仮想空間2において対応する各メッシュにそれぞれ対応付けて、ユーザによって視認可能な仮想空間画像22が展開される仮想空間2をユーザに提供する。
ある局面において、仮想空間2では、中心21を原点とするXYZ座標系が規定される。XYZ座標系は、例えば、グローバル座標系に平行である。XYZ座標系は視点座標系の一種であるため、XYZ座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれX軸、Y軸、Z軸として規定される。したがって、XYZ座標系のX軸(水平方向)がグローバル座標系のx軸と平行であり、XYZ座標系のY軸(鉛直方向)がグローバル座標系のy軸と平行であり、XYZ座標系のZ軸(前後方向)がグローバル座標系のz軸と平行である。
HMD110の起動時、すなわちHMD110の初期状態において、仮想カメラ1が、仮想空間2の中心21に配置される。ある局面において、プロセッサ10は、仮想カメラ1が撮影する画像をHMD110のモニタ112に表示する。仮想カメラ1は、現実空間におけるHMD110の動きに連動して、仮想空間2を同様に移動する。これにより、現実空間におけるHMD110の位置および向きの変化が、仮想空間2において同様に再現され得る。
仮想カメラ1には、HMD110の場合と同様に、uvw視野座標系が規定される。仮想空間2における仮想カメラ1のuvw視野座標系は、現実空間(グローバル座標系)におけるHMD110のuvw視野座標系に連動するように規定されている。したがって、HMD110の傾きが変化すると、それに応じて、仮想カメラ1の傾きも変化する。また、仮想カメラ1は、HMD110を装着したユーザの現実空間における移動に連動して、仮想空間2において移動することもできる。
コンピュータ200のプロセッサ10は、仮想カメラ1の配置位置と、仮想カメラ1の傾き方向、換言すれば、仮想カメラ1の撮影方向を示す基準視線5とに基づいて、仮想空間2における視認領域23を規定する。視認領域23は、仮想空間2のうち、HMD110を装着したユーザが視認する領域に対応する。上記のように、仮想カメラ1のuvw視野座標系はHMD110のuvw視野座標系に連動している。そのため、基準視線5は、センサ114またはHMD120の出力に基づいて定まるHMD110の傾きによって定まる。
注視センサ140によって検出されるユーザ190の視線は、ユーザ190が物体を視認する際の視点座標系における方向である。HMD110のuvw視野座標系は、ユーザ190がモニタ112を視認する際の視点座標系に等しい。また、仮想カメラ1のuvw視野座標系は、HMD110のuvw視野座標系に連動している。したがって、ある局面に従うHMDシステム100は、注視センサ140によって検出されたユーザ190の視線を、仮想カメラ1のuvw視野座標系におけるユーザの視線とみなすことができる。
[ユーザの視線]
図5を参照して、ユーザの視線の決定について説明する。図5は、ある実施形態に従うHMD110を装着するユーザ190の頭部を上から表した模式図である。
ある局面において、注視センサ140は、ユーザ190の右目および左目の各視線を検出する。ある局面において、ユーザ190が近くを見ている場合、注視センサ140は、視線R1およびL1を検出する。別の局面において、ユーザ190が遠くを見ている場合、注視センサ140は、視線R2およびL2を検出する。この場合、ロール方向wに対して視線R2およびL2が成す角度は、ロール方向wに対して視線R1およびL1が成す角度よりも小さい。注視センサ140は、検出結果をコンピュータ200に送信する。
コンピュータ200が、視線の検出結果として、視線R1およびL1の検出値を注視センサ140から受信した場合には、その検出値に基づいて、視線R1およびL1の交点である注視点N1を特定する。一方、コンピュータ200は、視線R2およびL2の検出値を注視センサ140から受信した場合には、視線R2およびL2の交点を注視点として特定する。コンピュータ200は、特定した注視点N1の位置に基づき、ユーザ190の視線N0を特定する。コンピュータ200は、例えば、ユーザ190の右目Rと左目Lとを結ぶ直線の中点と、注視点N1とを通る直線の延びる方向を、視線N0として検出する。視線N0は、ユーザ190が両目により実際に視線を向けている方向である。また、視線N0は、視認領域23に対してユーザ190が実際に視線を向けている方向に相当する。
また、別の局面において、HMDシステム100は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、HMDシステム100は、仮想空間2においてテレビ番組を表示することができる。
さらに別の局面において、HMDシステム100は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。
[視界領域]
図6および図7を参照して、視認領域23について説明する。図6は、仮想空間2において視認領域23をX方向から見たYZ断面を表す。図7は、仮想空間2において視認領域23をY方向から見たXZ断面を表す。
図6に示されるように、YZ断面における視認領域23は、領域24を含む。領域24は、仮想カメラ1の配置位置と基準視線5と仮想空間2のYZ断面とによって定義される。プロセッサ10は、仮想空間おける基準視線5を中心として極角αを含む範囲を、領域24として規定する。
図7に示されるように、XZ断面における視認領域23は、領域25を含む。領域25は、仮想カメラ1の配置位置と基準視線5と仮想空間2のXZ断面とによって定義される。プロセッサ10は、仮想空間2における基準視線5を中心とした方位角βを含む範囲を、領域25として規定する。極角αおよびβは、仮想カメラ1の配置位置と仮想カメラ1の向きとに応じて定まる。
ある局面において、HMDシステム100は、コンピュータ200からの信号に基づいて、視界画像26をモニタ112に表示させることにより、ユーザ190に仮想空間における視界を提供する。視界画像26は、仮想空間画像22のうち視認領域23に重畳する部分に相当する。ユーザ190が、頭に装着したHMD110を動かすと、その動きに連動して仮想カメラ1も動く。その結果、仮想空間2における視認領域23の位置が変化する。これにより、モニタ112に表示される視界画像26は、仮想空間画像22のうち、仮想空間2においてユーザが向いた方向の視認領域23に重畳する画像に更新される。ユーザは、仮想空間2における所望の方向を視認することができる。
このように、仮想カメラ1の向き(傾き)は仮想空間2におけるユーザの視線(基準視線5)に相当し、仮想カメラ1が配置される位置は、仮想空間2におけるユーザの視点に相当する。したがって、仮想カメラ1を移動(配置位置を変える動作、向きを変える動作を含む)させることにより、モニタ112に表示される画像が更新され、ユーザ190の視界が移動される。
ユーザ190は、HMD110を装着している間、現実世界を視認することなく、仮想空間2に展開される仮想空間画像22のみを視認できる。そのため、HMDシステム100は、仮想空間2への高い没入感覚をユーザに与えることができる。
ある局面において、プロセッサ10は、HMD110を装着したユーザ190の現実空間における移動に連動して、仮想空間2において仮想カメラ1を移動させ得る。この場合、プロセッサ10は、仮想空間2における仮想カメラ1の位置および向きに基づいて、HMD110のモニタ112に投影される画像領域(すなわち、仮想空間2における視認領域23)を特定する。
ある実施形態に従うと、仮想カメラ1は、2つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含み得る。また、ユーザ190が3次元の仮想空間2を認識できるように、適切な視差が、2つの仮想カメラに設定される。本実施形態においては、仮想カメラ1が2つの仮想カメラを含み、2つの仮想カメラのロール方向が合成されることによって生成されるロール方向(w)がHMD110のロール方向(w)に適合されるように構成されているものとして、本開示に係る技術思想を例示する。
[HMDの制御装置]
図8を参照して、HMD110の制御装置について説明する。ある実施形態において、制御装置は周知の構成を有するコンピュータ200によって実現される。図8は、ある実施形態に従うコンピュータ200をモジュール構成として表わすブロック図である。
図8に示されるように、コンピュータ200は、表示制御モジュール220と、仮想空間制御モジュール230と、メモリモジュール240と、通信制御モジュール250とを備える。表示制御モジュール220は、サブモジュールとして、仮想カメラ制御モジュール221と、視界領域決定モジュール222と、視界画像生成モジュール223と、基準視線特定モジュール224と、動き検出モジュール225と、トラッキングモジュール226とを含む。仮想空間制御モジュール230は、サブモジュールとして、仮想空間定義モジュール231と、仮想オブジェクト生成モジュール232と、操作オブジェクト制御モジュール233と、アバター制御モジュール234とを含む。
ある実施形態において、表示制御モジュール220と仮想空間制御モジュール230とは、プロセッサ10によって実現される。別の実施形態において、複数のプロセッサ10が表示制御モジュール220と仮想空間制御モジュール230として作動してもよい。メモリモジュール240は、メモリ11またはストレージ12によって実現される。通信制御モジュール250は、通信インターフェイス14によって実現される。
ある局面において、表示制御モジュール220は、HMD110のモニタ112における画像表示を制御する。
仮想カメラ制御モジュール221は、仮想空間2に仮想カメラ1を配置する。また、仮想カメラ制御モジュール221は、仮想空間2における仮想カメラ1の配置位置と、仮想カメラ1の向き(傾き)を制御する。視界領域決定モジュール222は、HMD110を装着したユーザ190の頭の向きと、仮想カメラ1の配置位置に応じて、視認領域23を規定する。視界画像生成モジュール223は、決定された視認領域23に基づいて、モニタ112に表示される視界画像26を生成する。
基準視線特定モジュール224は、センサ114またはHMDセンサ120の出力に基づいて、ユーザ190の視線(すなわち、HMD110の傾き)を特定する。他の局面において、基準視線特定モジュール224は、注視センサ140からの信号に基づいて、ユーザ190の視線を特定し得る。また、動き検出モジュール225は、HMDセンサ120の出力に基づいて、HMD110の基準状態(例えば、グローバル座標系における原点)に対する変位量を検出し得る。
トラッキングモジュール226は、ユーザ190の身体の一部の位置を検出(トラッキング)する。本実施形態において、トラッキングモジュール226は、カメラ116から入力される深度情報に基づいて、HMD110に設定されるuvw視野座標系におけるユーザ190の手の位置を検出する。トラッキングモジュール226の動作は、図11〜図13において後述される。
仮想空間制御モジュール230は、ユーザ190に提供される仮想空間2を制御する。仮想空間定義モジュール231は、仮想空間2を表わす仮想空間データを生成することにより、HMDシステム100における仮想空間2を規定する。
仮想オブジェクト生成モジュール232は、仮想空間2に配置されるオブジェクトを生成する。オブジェクトは、例えば、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、動物等を含み得る。
操作オブジェクト制御モジュール233は、仮想空間2においてユーザの操作を受け付けるための操作オブジェクトを仮想空間2に配置する。ユーザは、操作オブジェクトを操作することにより、例えば、仮想空間2に配置されるオブジェクトを操作する。ある局面において、操作オブジェクトは、例えば、HMD110を装着したユーザの手に相当する手オブジェクト等を含み得る。ある局面において、操作オブジェクトは、後述するアバターオブジェクトの手の部分に相当し得る。
アバター制御モジュール234は、ネットワークを介して接続される他のコンピュータ200のユーザのアバターオブジェクトを仮想空間2に配置するためのデータを生成する。ある局面において、アバター制御モジュール234は、ユーザ190のアバターオブジェクトを仮想空間2に配置するためのデータを生成する。ある局面において、アバター制御モジュール234は、ユーザ190を含む画像に基づいて、ユーザ190を模したアバターオブジェクトを生成する。他の局面において、アバター制御モジュール234は、複数種類のアバターオブジェクト(例えば、動物を模したオブジェクトや、デフォルメされた人のオブジェクト)の中からユーザ190による選択を受け付けたアバターオブジェクトを仮想空間2に配置するためのデータを生成する。
アバター制御モジュール234は、センサ114またはHMDセンサ120の出力に基づいて、HMD110の動きをアバターオブジェクトに反映する。例えば、アバター制御モジュール234は、センサ114の出力に基づいてHMD110が傾いたことを検知して、アバターオブジェクトを傾けて配置するためのデータを生成する。また、アバター制御モジュール234は、トラッキングモジュール226の出力に基づいて、現実空間のユーザの手の動きを、アバターオブジェクトの手に反映する。また、アバター制御モジュール234は、他のコンピュータ200から入力されるデータに基づいて、他のコンピュータのユーザに対応するアバターオブジェクトの動きを制御する。
仮想空間制御モジュール230は、仮想空間2に配置されるオブジェクトのそれぞれが、他のオブジェクトと衝突した場合に、当該衝突を検出する。仮想空間制御モジュール230は、例えば、あるオブジェクトと、別のオブジェクトとが触れたタイミングを検出することができ、当該検出がされた時に、予め定められた処理を行なう。仮想空間制御モジュール230は、オブジェクトとオブジェクトとが触れている状態から離れたタイミングを検出することができ、当該検出がされた時に、予め定められた処理を行なう。仮想空間制御モジュール230は、オブジェクトとオブジェクトとが触れている状態であることを検出することができる。具体的には、操作オブジェクト制御モジュール233は、操作オブジェクトと、他のオブジェクトとが触れた時に、これら操作オブジェクトと他のオブジェクトとが触れたことを検出して、予め定められた処理を行なう。
メモリモジュール240は、コンピュータ200が仮想空間2をユーザ190に提供するために使用されるデータを保持している。ある局面において、メモリモジュール240は、空間情報241と、オブジェクト情報242と、ユーザ情報243とを保持している。
空間情報241は、仮想空間2を提供するために規定された1つ以上のテンプレートを保持している。
オブジェクト情報242は、仮想空間2において再生されるコンテンツ、当該コンテンツで使用されるオブジェクト、およびオブジェクトを仮想空間2に配置するための情報(たとえば、位置情報)を保持している。当該コンテンツは、例えば、ゲーム、現実社会と同様の風景を表したコンテンツ等を含み得る。
オブジェクト情報242は、動き検知データ244と、トラッキングデータ245と、動作ライブラリ246とをさらに含む。動き検知データ244は、センサ114の出力、換言すれば、HMD110の傾きを示すデータである。他の局面において、動き検知データ244は、HMDセンサ120の出力、換言すれば、HMD110の位置および傾きを示すデータであり得る。トラッキングデータ245は、カメラ116およびトラッキングモジュール226により取得された、ユーザ190の手の位置を示すデータである。動作ライブラリ246は、ユーザ190の手の位置と、アバターオブジェクトの手の動作とを互いに関連付けて保持する。
ユーザ情報243は、HMDシステム100の制御装置としてコンピュータ200を機能させるためのプログラム、オブジェクト情報242に保持される各コンテンツを使用するアプリケーションプログラム等を保持している。
メモリモジュール240に格納されているデータおよびプログラムは、HMD110のユーザによって入力される。あるいは、プロセッサ10が、当該コンテンツを提供する事業者が運営するコンピュータ(例えば、サーバ150)からプログラムあるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール240に格納する。
通信制御モジュール250は、ネットワーク19を介して、サーバ150その他の情報通信装置と通信し得る。
ある局面において、表示制御モジュール220および仮想空間制御モジュール230の一部は、例えば、ユニティテクノロジーズ社によって提供されるUnity(登録商標)を用いて実現され得る。別の局面において、表示制御モジュール220および仮想空間制御モジュール230は、各処理を実現する回路素子の組み合わせとしても実現され得る。
コンピュータ200における処理は、ハードウェアと、プロセッサ10により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール240に予め格納されている場合がある。また、ソフトウェアは、CD−ROMその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール250を介してサーバ150その他のコンピュータからダウンロードされた後、記憶モジュールに一旦格納される。そのソフトウェアは、プロセッサ10によって記憶モジュールから読み出され、実行可能なプログラムの形式でRAMに格納される。プロセッサ10は、そのプログラムを実行する。
[コンピュータ200の制御構造]
図9を参照して、コンピュータ200における視界画像の更新方法について説明する。図9は、HMDシステム100における処理を表すフローチャートである。
ステップS910において、コンピュータ200のプロセッサ10は、仮想空間定義モジュール231として、仮想空間2を定義する。
ステップS920において、プロセッサ10は、仮想カメラ1を仮想空間2に配置する。このとき、プロセッサ10は、メモリのワーク領域において、仮想カメラ1を仮想空間2において予め規定された中心21に配置し得る。
ステップS930にて、プロセッサ10は、視界画像生成モジュール223として、初期の視界画像26を表示するための視界画像データを生成する。生成された視界画像データは、視界画像生成モジュール223を介して通信制御モジュール250によってHMD110に送信される。
ステップS932にて、HMD110のモニタ112は、コンピュータ200から受信した信号に基づいて、視界画像26を表示する。HMD110を装着したユーザ190は、視界画像26を視認すると仮想空間2を認識し得る。
ステップS934にて、センサ114(またはHMDセンサ120)は、ユーザ190の頭の動き(HMD110の傾き)を検知する。センサ114の検知結果は、動き検知データとして、コンピュータ200に入力される。
ステップS940にて、プロセッサ10は、センサ114から入力された動き検知データに基づいて、HMD110の傾きを検知する。プロセッサ10はさらに、仮想カメラ制御モジュール221として、検知した傾きに連動するように仮想カメラ1の傾き(すなわち、仮想カメラ1の基準視線5)を変更する。これにより、仮想カメラ1が撮影する視界画像26が更新される。
ステップS950において、プロセッサ10は、視界画像生成モジュール223として、傾きを変更された仮想カメラ1が撮影する視界画像26を表示するための視界画像データを生成し、生成した視界画像データをHMD110に出力する。
ステップS952において、HMD110のモニタ112は、受信した視界画像データに基づいて、更新後の視界画像を表示する。これにより、仮想空間2におけるユーザの視界が更新される。
[アバターオブジェクト]
図10を参照して、本実施形態に従うアバターオブジェクトについて説明する。図10は、HMDセット105A,105Bの各ユーザのアバターオブジェクトを説明するための図である。以下、HMDセット105Aのユーザをユーザ190A、HMDセット105Bのユーザをユーザ190B、HMDセット105Cのユーザをユーザ190C、HMDセット105Dのユーザをユーザ190Dと表す。また、HMDセット105Aに関する各構成要素の参照符号にAが付され、HMDセット105Bに関する各構成要素の参照符号にBが付され、HMDセット105Cに関する各構成要素の参照符号にCが付され、HMDセット105Dに関する各構成要素の参照符号にDが付される。例えば、HMD110Aは、HMDセット105Aに含まれる。
分図(A)は、ネットワーク19において、複数のHMD110のそれぞれが、複数のユーザ190のそれぞれに仮想空間を提供する状況を模式的に示す。分図(A)を参照して、コンピュータ200A〜200Dのそれぞれは、HMD110A〜110Dのそれぞれを介して、ユーザ190A〜190Dのそれぞれに、仮想空間2A〜2Dのそれぞれを提供する。図10に示される例において、仮想空間2Aと仮想空間2Bとは同じである。換言すれば、コンピュータ200Aとコンピュータ200Bとは同じ仮想空間を共有していることになる。仮想空間2Aおよび仮想空間2Bには、ユーザ190Aのアバターオブジェクト1000Aと、ユーザ190Bのアバターオブジェクト1000Bとが存在する。なお、仮想空間2Aにおけるアバターオブジェクト1000Aおよび仮想空間2Bにおけるアバターオブジェクト1000BがそれぞれHMDを装着しているが、これは説明を分かりやすくするためのものであって、実際にはこれらのオブジェクトはHMDを装着していない。
ある局面において、仮想カメラ制御モジュール221Aは、ユーザ190Aの視界画像26Aを撮影する仮想カメラ1Aを、アバターオブジェクト1000Aの目の位置に配置し得る。
分図(B)は、ユーザ190Aの視界画像1020を示す。視界画像1020は、HMD110Aのモニタ112Aに表示される画像である。この視界画像1020は、仮想カメラ1Aにより生成された画像である。また、視界画像1020には、ユーザ190Bに対応するアバターオブジェクト1000Bが表示されている。なお、特に図示はしていないが、ユーザ190Bの視界画像にも同様に、ユーザ190Aのアバターオブジェクト1000Aが表示されている。
分図(B)の状態において、ユーザ190Aは仮想空間を介してユーザ190Bと対話による通信(コミュニケーション)を図ることができる。より具体的には、マイク119Aにより取得されたユーザ190Aの音声データは、サーバ150を介してユーザ190BのHMD110Bに送信され、HMD110Bに設けられたスピーカ118Bから出力される。また、ユーザ190Bの音声データは、サーバ150を介してユーザ190AのHMD110Aに送信され、HMD110Aに設けられたスピーカ118Aから出力される。
図16を用いて後述するように、ユーザ190Bの動き(HMD110Bの動きおよびユーザ190Bの手の動き)は、アバター制御モジュール234Aによりアバターオブジェクト1000Bに反映される。これにより、ユーザ190Aは、ユーザ190Bの動きを、アバターオブジェクト1000Bを通じて認識できる。
[手のトラッキング]
以下、図11〜図13を参照して、手の動きをトラッキングする処理について説明する。図11は、ユーザ190Bの手をトラッキングする処理について説明するための図である。分図(A)は、現実空間におけるユーザ190Bを示す。分図(B)は、ユーザ190Aの視界画像1120に含まれるアバターオブジェクト1000Bを示す。
分図(A)を参照して、ユーザ190Bは、現実空間においてHMD110Bを装着している。HMD110Bには、カメラ116Bが搭載されている。カメラ116Bは、HMD110Bの前方の空間1100に含まれる物体の深度情報を取得する。分図(A)に示される例において、カメラ116Bは、空間1100に含まれるユーザ190Bの手1110の深度情報を取得する。
トラッキングモジュール226Bは、この深度情報に基づき、ユーザ190Bの手1110の位置情報を取得する。カメラ116BはHMD110Bに搭載されるため、手1110の位置情報はHMD110Bに設定されるuvw視野座標系における位置を示し得る。コンピュータ200Bは、この位置情報を、トラッキングデータとしてサーバ150を介してコンピュータ200Aに送信する。
分図(B)に示されるように、コンピュータ200Aのプロセッサ10Aは、アバター制御モジュール234Aとして、仮想空間2Aに配置されるアバターオブジェクト1000Bの手1010を、受信したトラッキングデータから導出される位置に追随させる。一例として、プロセッサ10Aは、受信したトラッキングデータが示す位置(HMD110Bに設定されるuvw視野座標系の位置)を、アバターオブジェクト1000Bの頭部の位置に基づいてXYZ座標系に変換する。プロセッサ10Aは、アバターオブジェクト1000Bの手1010を、変換後の位置に移動させる。このようにして、ユーザ190Aが視認するアバターオブジェクト1000Bに、ユーザ190Bの手の動きが反映される。
図12は、トラッキングモジュール226の動作を説明するための図である。トラッキングモジュール226は、カメラ116から入力される手の深度情報に基づいて、ユーザ190の手の骨の動きをトラッキングする。図12に示される例において、トラッキングモジュール226は、ユーザ190の手の関節a、b、c・・・、xの各位置をそれぞれ検知する。
トラッキングモジュール226は、関節a〜xの位置関係に基づいて、ユーザ190の手の形状(指の動き)を認識可能に構成される。トラッキングモジュール226は、例えば、ユーザ190の手が指を指していること、手が開いていること、手が閉じていること、手が何かをつまむ動作をしていること、手がひねられていることなどを認識できる。トラッキングモジュール226はさらに、関節a〜dと、その他の関節との位置関係により、認識している手が左手であるか右手であるかを判断できる。このようなカメラ116およびトラッキングモジュール226は、例えば、LeapMotion社によって提供されるLeapMotion(登録商標)によって実現され得る。
図13は、トラッキングデータ245を構成するデータ1300を示す。トラッキングモジュール226は、関節a〜xそれぞれについての、HMD110に設定されるuvw視野座標系における位置情報であるデータ1300を取得する。コンピュータ200は、取得したデータ1300をトラッキングデータ245としてメモリ11に保存する。コンピュータ200はさらに、取得したデータ1300を、仮想空間2を共有する他のコンピュータ200にサーバ150を介して送信する。例えば、コンピュータ200Aがコンピュータ200Bからデータ1300を受信した場合、コンピュータ200Aはアバターオブジェクト1000Bの手の形状をデータ1300に従い動かすことができる。
図14は、トラッキングデータ245を構成するデータ1400を示す。コンピュータ200は、一例として、関節a〜xのうち、関節jを、ユーザ190の手の代表的な位置として認識し得る。データ1400は、ユーザ190の手の位置(関節jの位置)の所定期間(例えば、10秒間)にわたる履歴を示す。
コンピュータ200は、自身に接続されるHMD110を装着するユーザ190の手の位置を示すデータ1400をメモリ11に保持する。コンピュータ200はさらに、他のコンピュータ200から受信したデータ1300に基づいて、他のコンピュータ200のユーザ190の手の位置を示すデータ1400もメモリ11に保持する。具体例として、コンピュータ200Aは、ユーザ190Aの手の位置を示すデータ1400をメモリ11Aに保持するとともに、コンピュータ200Bから受信したデータ1300に基づき、ユーザ190Bの手の位置を示すデータ1400をメモリ11Aに保持する。
[サーバ150の制御構造]
図15は、サーバ150のハードウェア構成およびモジュール構成を説明するための図である。ある実施形態において、サーバ150は、主たる構成要素として通信インターフェイス1510と、プロセッサ1520と、ストレージ1530とを備える。
通信インターフェイス1510は、コンピュータ200など外部の通信機器と信号を送受信するための変復調処理などを行なう無線通信用の通信モジュールとして機能する。通信インターフェイス1510は、チューナ、高周波回路等により実現される。
プロセッサ1520は、サーバ150の動作を制御する。プロセッサ1520は、ストレージ1530に格納される各種の制御プログラムを実行することにより、送受信部1522、サーバ処理部1524、およびマッチング部1526として機能する。
送受信部1522は、各コンピュータ200との間で各種情報を送受信する。例えば、送受信部1522は、仮想空間2にオブジェクトを配置する要求、オブジェクトを仮想空間2から削除する要求、オブジェクトを移動する要求、ユーザの音声、または仮想空間2を定義するための情報などを各コンピュータ200に送信する。
サーバ処理部1524は、複数のユーザが同じ仮想空間2を共有するために必要な処理を行なう。例えば、サーバ処理部1524は、コンピュータ200から受信した情報に基づいて、後述するアバターオブジェクト情報1536を更新する。
マッチング部1526は、複数のユーザを関連付けるための一連の処理を行なう。マッチング部1526は、例えば、複数のユーザが同じ仮想空間2を共有するための入力操作を行った場合に、仮想空間2に属するユーザ同士を関連付ける処理などを行なう。
ストレージ1530は、仮想空間指定情報1532と、オブジェクト指定情報1534と、アバターオブジェクト情報1536と、ユーザ情報1538とを保持する。
仮想空間指定情報1532は、コンピュータ200の仮想空間定義モジュール231が仮想空間2を定義するために用いられる情報である。例えば、仮想空間指定情報1532は、仮想空間2の大きさを指定する情報や、仮想空間2を構成する各メッシュに展開されるコンテンツを含む。
オブジェクト指定情報1534は、コンピュータ200の仮想オブジェクト生成モジュール232が仮想空間2に配置(生成)するオブジェクトを指定する。
アバターオブジェクト情報1536は、トラッキングデータ1540と、傾き情報1542とを含む。トラッキングデータ1540は、仮想空間2における各アバターオブジェクトの手の位置を示す情報である。傾き情報1542は、仮想空間2における各アバターオブジェクトの傾きを示す。アバターオブジェクト情報1536は、コンピュータ200から入力される情報に基づいて随時更新され得る。
ユーザ情報1538は、コンピュータ200のユーザ190についての情報である。ユーザ情報1538は、例えば、複数のユーザ190を互いに識別する識別情報(例えば、ユーザアカウント)を含む。
[ユーザの動作をアバターオブジェクトに反映するための制御]
図16を参照して、仮想空間におけるアバターオブジェクトの動作の制御方法について説明する。図16は、現実空間におけるユーザの動作をアバターオブジェクトに反映するための、コンピュータ200とサーバ150との信号のやりとりを表わすフローチャートである。図16に示される処理は、コンピュータ200のプロセッサ10がメモリ11またはストレージ12に格納される制御プログラムを実行し、サーバ150のプロセッサ1520がストレージ1530に格納される制御プログラムを実行することにより実現され得る。
ステップS1602において、サーバ150のプロセッサ1520は、送受信部1522として、コンピュータ200Aおよび200Bから受信した仮想空間を生成するための要求に基づいて、仮想空間指定情報1532をコンピュータ200Aおよび200Bに送信する。このとき、各コンピュータ200は、仮想空間指定情報1532と併せてユーザ190の識別情報をサーバ150に送信し得る。プロセッサ1520はさらに、マッチング部1526として、ユーザ190Aおよび190Bが同じ仮想空間を共有するものとして、彼らの識別情報を互いに関連付け得る。
ステップS1604において、コンピュータ200Aのプロセッサ10Aは、仮想空間定義モジュール231Aとして、受信した仮想空間指定情報1532に基づいて、仮想空間2Aを定義する。ステップS1606において、コンピュータ200Bのプロセッサ10Bは、プロセッサ10Aと同様に仮想空間2Bを定義する。
ステップS1608において、プロセッサ1520は、仮想空間2Aおよび2Bに配置されるオブジェクトを指定するためのオブジェクト指定情報1534をコンピュータ200Aおよび200Bに送信する。
ステップS1610において、プロセッサ10Aは、仮想オブジェクト生成モジュール232Aとして、受信したオブジェクト指定情報1534に基づいて、仮想空間2Aにオブジェクトを配置する。ステップS1612において、プロセッサ10Bは、プロセッサ10Aと同様に仮想空間2Bにオブジェクトを配置する。
ステップS1614において、プロセッサ10Aは、アバター制御モジュール234Aとして、ユーザ190A自身のアバターオブジェクト1000A(図16では「自アバターオブジェクト」と表記)を仮想空間2Aに配置する。プロセッサ10Aはさらに、アバターオブジェクト1000Aの情報(例えば、モデリングのためのデータ、位置情報など)をサーバ150に送信する。
ステップS1616において、プロセッサ1520は、受信したアバターオブジェクト1000Aの情報をストレージ1530(アバターオブジェクト情報1536)に保存する。プロセッサ1520はさらに、アバターオブジェクト1000Aの情報を、コンピュータ200Aと仮想空間を共有するコンピュータ200Bに送信する。
ステップS1618において、プロセッサ10Bは、アバター制御モジュール234Bとして、受信したアバターオブジェクト1000Aの情報に基づいて、仮想空間2Bにアバターオブジェクト1000Aを配置する。
ステップS1620〜S1624において、ステップS1614〜S1618と同様に、仮想空間2Aおよび2Bにアバターオブジェクト1000B(図16では「他アバターオブジェクト」と表記)が生成され、ストレージ1530にアバターオブジェクト1000Bの情報が保存される。
ステップS1626において、プロセッサ10Aは、カメラ116Aにより、ユーザ190Aの手を撮影して、深度情報を取得する。
ステップS1628において、プロセッサ10Aは、トラッキングモジュール226Aとして、取得した深度情報に基づいて、ユーザ190Aの手の位置を示すトラッキングデータを検出する。プロセッサ10Aは、検出したトラッキングデータをサーバ150に送信する。
ステップS1630において、プロセッサ10Aは、アバター制御モジュール234Aとして、検出したトラッキングデータを仮想空間2Aに配置されるアバターオブジェクト1000Aに反映する。これにより、アバターオブジェクト1000Aの手が、トラッキングデータが示す位置に移動する。
ステップS1632〜S1636において、プロセッサ10Bは、ステップS1626〜S1630と同様に、ユーザ190Bの手の位置を示すトラッキングデータを検出し、当該データをサーバ150に送信する。プロセッサ10Bはさらに、当該データを仮想空間2Bに配置されるアバターオブジェクト1000Bに反映する。
ステップS1638において、プロセッサ1520は、サーバ処理部1524として、コンピュータ200Aから受信したトラッキングデータに基づいて、アバターオブジェクト1000Aに対応するトラッキングデータ1540を更新する。プロセッサ1520はさらに、200Bから受信したトラッキングデータに基づいて、アバターオブジェクト1000Bに対応するトラッキングデータ1540を更新する。
ステップS1638において、プロセッサ1520はさらに、送受信部1522として、コンピュータ200Aから受信したトラッキングデータをコンピュータ200Bに送信する。また、プロセッサ1520は、コンピュータ200Bから受信したトラッキングデータをコンピュータ200Aに送信する。
ステップS1640において、プロセッサ10Aは、サーバ150から受信したトラッキングデータを仮想空間2Aに配置されるアバターオブジェクト1000Bに反映する。これにより、アバターオブジェクト1000Bの手が、現実空間におけるユーザ190Bの動きに連動して移動する。
ステップS1642において、プロセッサ10Bは、サーバ150から受信したトラッキングデータを仮想空間2Bに配置されるアバターオブジェクト1000Aに反映する。これにより、アバターオブジェクト1000Aの手が、現実空間におけるユーザ190Aの動きに連動して移動する。
ステップS1644において、プロセッサ10Aは、センサ114Aの出力に基づいて、HMD110Aの傾きを検知する。プロセッサ10Aはさらに、HMD110Aの傾きに連動するように、仮想空間2Aに配置されるアバターオブジェクト1000Aの傾きを変更する。また、プロセッサ10Aは、検知したHMD110Aの傾きを示す動き検知データを、サーバ150に送信する。
ステップS1646において、プロセッサ10Bは、センサ114Bの出力に基づいて、仮想空間2Bに配置されるアバターオブジェクト1000Bの傾きを変更する。プロセッサ10Bはさらに、センサ114Bの出力に対応する動き検知データをサーバ150に送信する。
ステップS1648において、プロセッサ1520は、サーバ処理部1524として、コンピュータ200Aから受信した動き検知データに基づいてアバターオブジェクト1000Aに対応する傾き情報1542を更新する。プロセッサ1520はさらに、コンピュータ200Bから受信した動き検知データに基づいて、アバターオブジェクト1000Bに対応する傾き情報1542を更新する。
ステップS1648において、プロセッサ1520はさらに、送受信部1522として、コンピュータ200Aから受信した動き検知データをコンピュータ200Bに送信する。また、プロセッサ1520は、コンピュータ200Bから受信した動き検知データをコンピュータ200Aに送信する。
ステップS1650において、プロセッサ10Aは、受信した動き検知データに基づいて、仮想空間2Aに配置されるアバターオブジェクト1000Bの傾きを変更する。ステップS1652において、プロセッサ10Bは、受信した動き検知データに基づいて、仮想空間2Bに配置されるアバターオブジェクト1000Aの傾きを変更する。
ステップS1654において、プロセッサ10Aは、アバターオブジェクト1000Aの目の位置に配置される仮想カメラ1Aが撮影する画像を、モニタ112Aに表示する。これにより、ユーザ190Aが視認する視界画像が更新される。その後、プロセッサ10Aは、処理をステップS1626に戻す。
ステップS1656において、プロセッサ10Bは、プロセッサ10Aと同様に、仮想カメラ1Bが撮影する画像をモニタ112Bに表示する。これにより、ユーザ190Bが視認する視界画像が更新される。その後、プロセッサ10Bは、処理をステップS1632に戻す。
ある実施形態において、繰り返し実行されるステップS1626〜S1656の処理は、1/60秒または1/30秒の間隔で実行され得る。
上記の一連の処理により、ユーザ190は、仮想空間2において、相手のアバターオブジェクトを通じて、現実空間における他のユーザの動きを認識できる。そのため、ユーザ190は、アバターオブジェクトに対しより一層人間味を感じる。その結果、アバターオブジェクトを通じた仮想空間上でのコミュニケーションが促進され得る。
なお、他の局面において、上記の繰り返し実行される処理は、ユーザ190の音声を相手のコンピュータ200に送信する処理などの仮想空間2におけるユーザ同士のコミュニケーションを促進する処理を含み得る。
また、上記の例において、ステップS1614およびステップS1620において、コンピュータ200は、当該コンピュータ200のユーザ自身のアバターオブジェクトを仮想空間2に配置する構成であったが、他の局面において、これらの処理は必ずしも行われなくてもよい。仮想空間2において相手のアバターオブジェクトさえ配置されていれば、相手とのコミュニケーションを図ることができるためである。
[トラッキングできなくなった時の処理]
図17を参照して、手の動きをトラッキングできなくなった時の、アバターオブジェクトの手の動作の制御について説明する。図17は、ユーザ190Bの手をトラッキングできなくなったことを説明するための図である。
図17において、ユーザ190Bの手1110が、カメラ116Bの深度検知範囲である空間1100から外れている。そのため、カメラ116Bは、手1110の深度情報を取得できない。
図17に示される例の他にも、カメラ116Bと手1110との間に何らかの障害物がある場合や、手1110の動きが速すぎる場合などに、カメラ116Bは、手1110の深度情報を取得できなくなる。
トラッキングモジュール226Bは、カメラ116Bによりユーザ190Bの手の深度情報を取得できなくなったこと(すなわち、手の位置を取得できなくなったこと)に応じて、その旨を示すトラッキング外れ信号をサーバ150に出力する。サーバ150は、トラッキング外れ信号を、コンピュータ200Bと仮想空間を共有するコンピュータ200Aに送信する。
トラッキングモジュール226Bは、カメラ116Bによりユーザ190Bの手の深度情報を再び取得できたことに応じて、関節a〜xの位置を示すトラッキングデータをサーバ150を介してコンピュータ200Aに送信する。
図18は、ユーザ190Bの手の位置(関節jの位置)のトラッキングデータの履歴であるデータ1400を示す。図18に示されるデータ1400は、コンピュータ200Aのメモリ11Aに格納される。すなわち、このデータ1400は、サーバ150を介してコンピュータ200Bから受信したトラッキングデータの一部である。
図18に示される例において、コンピュータ200Aは、時刻「12012330」にトラッキングデータ1810を受信した後に、トラッキング外れ信号をコンピュータ200Bから受信している。そのため、このトラッキングデータ1810は、ユーザ190Bの手の位置をトラッキングできなくなった時の直前のデータ(以下、「直前のトラッキングデータ」とも称する)である。
コンピュータ200Aは、時刻「12012450」において、コンピュータ200Bからユーザ190Bの手の位置を示すトラッキングデータ1820を受信している。そのため、このトラッキングデータ1820は、コンピュータ200Bがユーザ190Bの手の位置を再びトラッキングできる状態に復帰した後のデータ(以下、「復帰後のトラッキングデータ」とも称する)である。
プロセッサ10Aは、コンピュータ200Bからトラッキング外れ信号を受信したことに応じて、直前のトラッキングデータ1810に基づいて、アバターオブジェクト1000Bの手を動かす。
より具体的には、プロセッサ10Aは、動作ライブラリ246を参照して、直前のトラッキングデータ1810に対応する動作を特定する。プロセッサ10Aは、特定した動作に従い、アバターオブジェクト1000Bの手を、直前のトラッキングデータ1810で示される位置で動かす。
図19は、動作ライブラリ246のデータ構造例を示す。動作ライブラリ246は、uvw視野座標系における空間領域と、アバターオブジェクト1000の動作とを互いに関連付けて保持する。
図19に示される例において、直前のトラッキングデータ1810が示す位置が(u,v,w)=(u1〜u2,v1〜v2,w1〜w2)の空間領域に含まれる場合、プロセッサ10Aは、アバターオブジェクト1000Bの手首をくるくると回す動作を実行する。また、直前のトラッキングデータ1810が示す位置が(u,v,w)=(u3〜u4,v3〜v4,w3〜w4)の空間領域に含まれる場合、プロセッサ10Aは、アバターオブジェクト1000Bの手を振る動作を実行する。
なお、図19において、動作の例として「手首をくるくる回す」、「手を振る」として記載しているが、実際には、これらの動作を実行するために必要なデータが動作ライブラリ246に格納されている。
ある局面において、(u,v,w)=(u1〜u2,v1〜v2,w1〜w2)の空間領域は、カメラ116B(ユーザ190Bの頭)より上の空間領域として設定され得る。また、(u,v,w)=(u3〜u4,v3〜v4,w3〜w4)の空間領域は、カメラ116Bより下の空間領域として設定され得る。
上記によれば、コンピュータ200Aがユーザ190Bの手の位置をトラッキングできなくなった場合にも、アバターオブジェクト1000Bは仮想空間2Aにおいて自然な動作を実行し得る。そのため、ユーザ190Aは、アバターオブジェクト1000Bに対して違和感を感じることなく、ユーザ190Bとのコミュニケーションを継続することができる。
ユーザ190Bの手の位置が再びトラッキングされる位置に復帰したことに応じて(復帰後のトラッキングデータ1820を受信したことに応じて)、プロセッサ10Aは、所定時間かけて、アバターオブジェクト1000Bの手を、トラッキングデータ1820が示す位置に移動させる。
ある局面において、プロセッサ10Aは、アバターオブジェクト1000Bの手を、予め定められた速度で移動させ得る。他の局面において、プロセッサ10Aは、復帰後のトラッキングデータ1820を受信したタイミングにおけるアバターオブジェクト1000Bの手の位置と、トラッキングデータ1820が示す位置との距離に応じた速度で、アバターオブジェクト1000Bの手を移動させる。一例として、プロセッサ10Aは、この距離が長いほど、アバターオブジェクト1000Bの手を速く移動させ得る。さらに他の局面において、プロセッサ10Aは、上記所定時間において、アバターオブジェクト1000Bの手の移動速度を徐々に遅くし得る。
これらいずれの制御においても、アバターオブジェクト1000Bの手の速度は、ユーザ190Aが違和感を覚えにくい程度に遅い速度に設定される。その理由は、仮に、アバターオブジェクト1000Bの手の移動速度が日常生活においてあり得ない速度であった場合、ユーザ190Aは、アバターオブジェクト1000Bの手の動きに違和感を覚え得る。その結果、ユーザ190Aは、ユーザ190Bとのコミュニケーションに集中できなくなり得るためである。
[コンピュータにおける処理の流れ]
図20を参照して、ユーザの手の位置をトラッキングできなくなった時のコンピュータの処理について説明する。図20は、コンピュータ200Aがユーザ190Bの手の位置をトラッキングできなくなった時の処理を示すフローチャートである。図20に示される処理は、コンピュータ200Aのプロセッサ10Aがメモリ11Aまたはストレージ12Aに格納される制御プログラムを実行することにより実現され得る。
ステップS2010において、プロセッサ10Aは、サーバ150から受信した仮想空間指定情報1532に基づいて仮想空間2を定義する。
ステップS2020において、プロセッサ10Aは、サーバ150を介してコンピュータ200Bから受信したアバターオブジェクト1000Bの情報に基づいて、仮想空間2Aにアバターオブジェクト1000Bを配置する。
ステップS2030において、プロセッサ10Aは、サーバ150を介してコンピュータ200Bから、ユーザ190Bの手の位置(関節jの位置)をトラッキングするためのトラッキングデータを受信する。このトラッキングデータは、コンピュータ200Bに接続されるカメラ116Bの出力に基づく。
ステップS2040において、プロセッサ10Aは、受信したトラッキングデータに基づいて、アバターオブジェクト1000Bの手を、ユーザ190Bの手の位置に追随させる。言い換えれば、プロセッサ10Aは、アバターオブジェクト1000Bの手を、受信したトラッキングデータが示す位置に追随させる。
ステップS2050において、プロセッサ10Aは、ユーザ190Bの手の位置をトラッキングできなくなったか否かを判断する。一例として、プロセッサ10Aは、サーバ150を介してコンピュータ200Bからトラッキング外れ信号を受信した場合に、ユーザ190Bの手の位置をトラッキングできなくなったと判断し得る。
プロセッサ10Aは、ユーザ190Bの手の位置をトラッキングできなくなったと判断した場合(ステップS2050においてYES)、処理をステップS2060に進める。一方、プロセッサ10Aは、ユーザ190Bの手の位置をトラッキングできていると判断した場合(ステップS2050においてNO)、処理をステップS2030に戻す。
ステップS2060において、プロセッサ10Aは、動作ライブラリ246を参照して、直前のトラッキングデータが示す位置に対応する動作を特定する。プロセッサ10Aはさらに、特定した動作に従い、アバターオブジェクト1000Bの手を動かす。
ステップS2070において、プロセッサ10Aは、サーバ150を介してコンピュータ200Bからトラッキングデータを再び受信したか否かを判断する。プロセッサ10Aは、トラッキングデータを再び受信したと判断した場合(ステップS2070においてYES)、処理をステップS2080に進める。一方、プロセッサ10Aは、トラッキングデータを再び受信していないと判断した場合(ステップS2070においてNO)、処理をステップS2060に戻す。
ステップS2080において、プロセッサ10Aは、アバターオブジェクト1000Bの手を、所定時間かけて、復帰後のトラッキングデータが示すユーザ190Bの手の位置に移動させる。この時のアバターオブジェクト1000Bの手の移動速度は、ユーザ190Aが違和感を覚えてない程度に遅く設定される。
上記によれば、ユーザ190Aは、コンピュータ200Aがユーザ190Bの手の位置をトラッキングできなくなった場合にも、自然な動作を行なうアバターオブジェクト1000Bを認識する。そのため、ユーザ190Aは、アバターオブジェクト1000Bに対して違和感を覚えることなく、ユーザ190Bとのコミュニケーションを継続することができる。
また、コンピュータ200Aがユーザ190Bの手の位置を再びトラッキングできたことに応じて、アバターオブジェクト1000Bの手はユーザ190Bの手の位置にゆっくり移動する。これにより、ユーザ190Aは、アバターオブジェクト1000Bに対して違和感を覚えることなく、ユーザ190Bとのコミュニケーションを継続することができる。
[他の構成]
(トラッキングできなくなった時の他のアバターオブジェクトの動かし方(その1))
上記の例において、コンピュータ200は、ユーザ190の手をトラッキングできなくなった時に、直前のトラッキングデータが示す位置でアバターオブジェクトの一部(手)を動かすように構成されていた。以下、ユーザ190の手をトラッキングできなくなった時の他のアバターオブジェクトの動かし方(制御方法)について説明する。
図21は、他の局面に従う、トラッキングできなくなった時のアバターオブジェクト1000Bの動きを説明するための図である。図21を参照して、ユーザ190Aは、モニタ112Aに表示される視界画像2100を視認する。視界画像2100には、ユーザ190Bに対応するアバターオブジェクト1000Bが表示されている。
ある局面において、コンピュータ200Aは、位置2110を示すトラッキングデータを受信した後に、トラッキング外れ信号を受信する。したがって、位置2110を示すトラッキングデータが、直前のトラッキングデータである。
プロセッサ10Aは、トラッキング外れ信号を受信したことに応じて、仮想空間2Aにおけるユーザ190Bの視界2140の範囲を特定する。一例として、プロセッサ10Aは、アバターオブジェクト1000Bの頭部位置2130と、基準視線2140とに基づいて、ユーザ190Bの視界2140の範囲を特定する。より具体的には、プロセッサ10Aは、頭部位置2130を基準として、基準視線2140の方向に向かって予め定められた角度θで広がる範囲をユーザ190Bの視界として特定し得る。
ある局面において、頭部位置2130は、アバターオブジェクト1000Bの目の位置に設定される。基準視線2140は、サーバ150を介してコンピュータ200Bから受信した動き検知データ(センサ114Bの検知結果)により特定され得る。
プロセッサ10Aは、トラッキング外れ信号を受信したことに応じて、アバターオブジェクト1000Bの手を、ユーザ190Bの視界2140の範囲外である位置2150で動かす。このとき、プロセッサ10Aは、動作ライブラリ246と、直前のトラッキングデータとにより特定される動作に従い、アバターオブジェクト1000Bの手を動かす。位置2150は、直前のトラッキングデータが示す位置2110に近い位置に設定され得る。
コンピュータ200Aがユーザ190Bの手の位置をトラッキングできなくなった場合、現実空間におけるユーザ190Bの手の位置は、カメラ116Bが深度情報を取得可能な範囲外にあると想定される。カメラ116BがHMD110Bに設けられていることから、カメラ116Bが深度情報を取得可能な範囲と、ユーザ190Bの視界とはほぼ等しい。そのため、プロセッサ10Aは、ユーザ190Bの手の位置をトラッキングできなくなった時にアバターオブジェクト1000Bの手をユーザ190Bの視界外で動かすことにより、アバターオブジェクト1000Bの手の位置を、現実空間におけるユーザ190Bの手の位置に一層近づけ得る。これにより、ユーザ190Aは、現実空間におけるユーザ190Bの動き(位置)をより忠実に再現したアバターオブジェクト1000Bを通じて、ユーザ190Bとコミュニケーションし得る。
また、コンピュータ200Bは、仮想空間2Bにアバターオブジェクト1000Bを配置する場合、ユーザ190Bの手の位置をトラッキングできなくなったことに応じて、ユーザ190Bの視界外にアバターオブジェクト1000Bの手を配置し得る。仮にコンピュータ200Bがユーザ190Bの手の位置をトラッキングできない間にユーザ190Bの視界内にアバターオブジェクト1000Bの手が含まれる場合、ユーザ190Bは、自身の手の位置とアバターオブジェクト1000Bの手の位置とが異なるために違和感を覚え得る。しかしながら、コンピュータ200Bが上記の制御を実行することにより、ユーザ190Bは、コンピュータ200Bがユーザ190Bの手の位置をトラッキングできない間にアバターオブジェクト1000Bの手を視認しない。その結果、上記の制御は、このような違和感を抑制し得る。
図22は、上記他の局面に従う、コンピュータ200Aがユーザ190Bの手の位置をトラッキングできなくなった時の処理を示すフローチャートである。図22に示される処理は、コンピュータ200Aのプロセッサ10Aがメモリ11Aまたはストレージ12Aに格納される制御プログラムを実行することにより実現され得る。なお、図22において図20と同じ参照符号を付している処理は、図20の処理と同じである。そのため、これらの処理についての説明は繰り返さない。
ステップS2210において、プロセッサ10Aは、ユーザ190Bの手の位置をトラッキングできなくなった時の直前の動き検知データ(センサ114Bの検知結果)に基づいて、ユーザ190Bの視界を特定する。
ステップS2220において、プロセッサ10Aは、動作ライブラリ246を参照して、直前のトラッキングデータが示す位置に対応する動作を特定する。プロセッサ10Aはさらに、特定した動作に従い、特定したユーザ190Bの視界外でアバターオブジェクト1000Bの手を動かす。
(トラッキングできなくなった時の他のアバターオブジェクトの動かし方(その2))
図23は、さらに他の局面に従う、ユーザ190Bの手をトラッキングできなくなった時のアバターオブジェクト1000Bの動きを説明するための図である。図23を参照して、ユーザ190Aは、モニタ112Aに表示される視界画像2300を視認する。視界画像2300には、ユーザ190Bに対応するアバターオブジェクト1000Bが表示されている。
ある局面において、プロセッサ10Aは、サーバ150を介してコンピュータ200Bからトラッキング外れ信号を受信する。これに応じて、プロセッサ10Aは、アバターオブジェクト1000Bの頭部位置2130と、基準視線2140(すなわち、アバターオブジェクト1000Bの向き)とに基づく空間領域2310を特定する。一例として、空間領域2310は、頭部位置2130から基準視線2140の方向に向かって設定される、予め定められた大きさの矩形領域であり得る。
プロセッサ10Aは、トラッキング外れ信号を受信したことに応じて、アバターオブジェクト1000Bの手を、特定した空間領域2310の範囲外である位置2320で動かす。このような構成によっても、プロセッサ10Aは、ユーザ190Bの手をトラッキングできなくなった場合に、現実空間におけるユーザ190Bの動き(位置)をより忠実に再現し得る。
(トラッキングできなくなった時の他のアバターオブジェクトの動かし方(その3))
図24は、さらに他の局面に従う、ユーザ190Bの手をトラッキングできなくなった時のアバターオブジェクト1000Bの動きを説明するための図である。図24を参照して、ユーザ190Aは、モニタ112Aに表示される視界画像2400を視認する。視界画像2400には、ユーザ190Bに対応するアバターオブジェクト1000Bが表示されている。
ある局面において、プロセッサ10Aは、サーバ150を介してコンピュータ200Bからトラッキング外れ信号を受信する。これに応じて、プロセッサ10Aは、アバターオブジェクト1000Bの手を、予め定められた位置2410に移動させ得る。この予め定められた位置2410は、アバターオブジェクト1000Bの位置に対する相対的な位置である。そのため、アバターオブジェクト1000Bの手が予め定められた位置2410に移動することにより、アバターオブジェクト1000Bは予め定められた体勢になる。予め定められた体勢は、例えば、手を腿の付近に配置する体勢(気を付け(Attention)の体勢)を含む。
プロセッサ10Aは、動作ライブラリ246と直前のトラッキングデータとにより特定される動作に従い、予め定められた位置2410において、アバターオブジェクト1000Bの手を動かす。
(トラッキングの対象部位)
上記の例では、コンピュータ200は、ユーザ190の手の位置をトラッキングする構成であった。他の局面において、コンピュータ200は、ユーザ190の手の指先の位置、ユーザ190の足の位置、その他のユーザ190の身体の一部の位置をトラッキングするように構成されてもよい。
(トラッキングできなくなったと判断する方法)
上記の例では、コンピュータ200は、サーバ150を介して他のコンピュータ200からトラッキング外れ信号を受信した場合に、トラッキングができなくなったと判断するように構成されていた。他の局面において、コンピュータ200は、他のコンピュータ200から所定期間(例えば、10フレーム)にわたりトラッキングデータを受信できなかった場合に、ユーザ190の身体の一部をトラッキングできなくなったと判断し得る。
[構成]
以上に開示された技術的特徴は、以下のように要約され得る。
(構成1) 仮想空間2Aを介して通信するためにコンピュータ200Aで実行される方法が提供される。この方法は、仮想空間2Aを定義するステップ(S2010)と、仮想空間2Aを介して通信する他のコンピュータ200Bのユーザ190Bのアバターオブジェクト1000Bを仮想空間2Aに配置するステップ(S2020)と、ユーザ190Bの手(一部)の位置をトラッキングするためのトラッキングデータを取得するステップ(S2030)と、トラッキングデータに基づいてアバターオブジェクト1000Bの手をユーザ190Bの手の位置に追随させるステップ(S2040)と、ユーザ190Bの手の位置をトラッキングできなくなったことに応じて(S2050においてYES)、トラッキングできなくなった時の直前のトラッキングデータに基づいてアバターオブジェクト1000Bの手を動かすステップ(S2060)と、ユーザ190Bの手の位置を再びトラッキングできる状態に復帰したことに応じて(S2070においてYES)、所定時間をかけて、アバターオブジェクト1000Bの手を、復帰後のトラッキングデータが示すユーザ190Bの手の位置に移動させるステップ(S2080)とを備える。
(構成2) (構成1)において、コンピュータ200は、アバターオブジェクトの手の位置と予め定められた動作とを関連付けた動作ライブラリ246をメモリ11に格納している。アバターオブジェクトの手(一部)を動かすステップ(S2080)は、動作ライブラリ246を参照して、直前のトラッキングデータが示す位置に対応する予め定められた動作をアバターオブジェクトに実行させることを含む。
(構成3) (構成1)〜(構成2)において、アバターオブジェクト1000Bの手を動かすステップ(S2060)は、アバターオブジェクト1000Bの頭部の位置および傾きに基づく範囲外で、アバターオブジェクト1000Bの手の動かすことを含む。
(構成4) (構成1)〜(構成2)において、アバターオブジェクト1000Bの手を動かすステップ(S2060)は、仮想空間2Aにおけるユーザ190Bの視界外で、アバターオブジェクト1000Bの手を動かすことを含む。
(構成5) (構成3)〜(構成4)において、アバターオブジェクト1000Bの手を動かすステップ(S2060)は、アバターオブジェクト1000Bの手を予め定められた位置に移動させることを含む。
(構成6) (構成1)〜(構成5)において、アバターオブジェクト1000Bの手を動かすステップ(S2060)は、他のコンピュータ200Bからユーザ190Bの手の位置をトラッキングできなくなったことを示すトラッキング外れ信号を受信したことに応じて、直前のトラッキングデータに基づいてアバターオブジェクト1000Bの手を動かすことを含む。
(構成7) (構成1)〜(構成6)において、アバターオブジェクト1000Bの手を、復帰後のトラッキングデータが示すユーザ190Bの手の位置に移動させるステップ(S2080)は、アバターオブジェクト1000Bの手を、予め定められた速度で、復帰後のトラッキングデータが示す位置に移動させることを含む。
(構成8) (構成1)〜(構成6)において、アバターオブジェクト1000Bの手を、復帰後のトラッキングデータが示すユーザ190Bの手の位置に移動させるステップ(S2080)は、アバターオブジェクト1000Bの手を、復帰後のアバターオブジェクト1000Bの手の位置と復帰後のトラッキングデータが示す位置との距離に応じた速度で、復帰後のトラッキングデータが示す位置に移動させることを含む。
(構成9) (構成1)〜(構成6)において、アバターオブジェクト1000Bの手を、復帰後のトラッキングデータが示すユーザ190Bの手の位置に移動させるステップ(S2080)は、アバターオブジェクト1000Bの手を移動させる速度を、所定時間において徐々に遅くすることを含む。
(構成10) (構成1)〜(構成9)において、ユーザ190Bの身体の手の位置をトラッキングするためのトラッキングデータを取得するステップ(S2030)は、他のコンピュータ200Bに接続されるカメラ116Bの出力に基づくユーザ190Bの手の位置を示すトラッキングデータを受信することを含む。
(構成11) (構成1)〜(構成10)において、カメラ116Bは、他のコンピュータ200Bに接続されたHMD110Bに設けられる。
(構成12) (構成11)において、カメラ116Bは赤外線カメラである。
今回開示された実施形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
1 仮想カメラ、2 仮想空間、5,2140 基準視線、10,1520 プロセッサ、11 メモリ、12 ストレージ、13 入出力インターフェイス、14 通信インターフェイス、19 ネットワーク、22 仮想空間画像、23 視認領域、26,1020,1120,2100,2300,2400 視界画像、100 システム、105 セット、112 モニタ、114 センサ、116 カメラ、118 スピーカ、119 マイク、120 HMDセンサ、140 注視センサ、150 サーバ、190 ユーザ、200 コンピュータ、220 表示制御モジュール、221 仮想カメラ制御モジュール、222 視界領域決定モジュール、223 視界画像生成モジュール、224 基準視線特定モジュール、225 動き検出モジュール、226 トラッキングモジュール、230 仮想空間制御モジュール、231 仮想空間定義モジュール、232 仮想オブジェクト生成モジュール、233 操作オブジェクト制御モジュール、234 アバター制御モジュール、240 メモリモジュール、241 空間情報、242 オブジェクト情報、243,1538 ユーザ情報、244 動き検知データ、245,1540,1810,1820 トラッキングデータ、246 動作ライブラリ、250 通信制御モジュール、1000 アバターオブジェクト、1010,1110 手、1100 空間、1300,1400 データ、1522 送受信部、1524 サーバ処理部、1526 マッチング部、1532 仮想空間指定情報、1534 オブジェクト指定情報、1536 アバターオブジェクト情報、1542 傾き情報、2130 頭部位置、2310 空間領域。

Claims (14)

  1. 仮想空間を介して通信するためにコンピュータで実行される方法であって、
    仮想空間を定義するステップと、
    前記仮想空間を介して通信する他のコンピュータのユーザのアバターオブジェクトを前記仮想空間に配置するステップと、
    前記ユーザの身体の一部の位置をトラッキングするためのデータを取得するステップと、
    前記データに基づいて前記アバターオブジェクトの前記一部を前記ユーザの前記一部の位置に追随させるステップと、
    前記ユーザの前記一部の位置をトラッキングできなくなったことに応じて、前記トラッキングできなくなった時の直前の前記データに基づいて、前記アバターオブジェクトの頭部の位置および傾きに基づく範囲外で前記アバターオブジェクトの前記一部を動かすステップと、
    前記ユーザの前記一部の位置を再びトラッキングできる状態に復帰したことに応じて、所定時間をかけて、前記アバターオブジェクトの前記一部を、前記復帰後の前記データが示す前記ユーザの前記一部の位置に移動させるステップとを備える、方法。
  2. 仮想空間を介して通信するためにコンピュータで実行される方法であって、
    仮想空間を定義するステップと、
    前記仮想空間を介して通信する他のコンピュータのユーザのアバターオブジェクトを前記仮想空間に配置するステップと、
    前記ユーザの身体の一部の位置をトラッキングするためのデータを取得するステップと、
    前記データに基づいて前記アバターオブジェクトの前記一部を前記ユーザの前記一部の位置に追随させるステップと、
    前記ユーザの前記一部の位置をトラッキングできなくなったことに応じて、前記トラッキングできなくなった時の直前の前記データに基づいて、前記仮想空間における前記ユーザの視界外で前記アバターオブジェクトの前記一部を動かすステップと、
    前記ユーザの前記一部の位置を再びトラッキングできる状態に復帰したことに応じて、所定時間をかけて、前記アバターオブジェクトの前記一部を、前記復帰後の前記データが示す前記ユーザの前記一部の位置に移動させるステップとを備える、方法。
  3. 仮想空間を介して通信するためにコンピュータで実行される方法であって、
    仮想空間を定義するステップと、
    前記仮想空間を介して通信する他のコンピュータのユーザのアバターオブジェクトを前記仮想空間に配置するステップと、
    前記ユーザの身体の一部の位置をトラッキングするためのデータを取得するステップと、
    前記データに基づいて前記アバターオブジェクトの前記一部を前記ユーザの前記一部の位置に追随させるステップと、
    前記ユーザの前記一部の位置をトラッキングできなくなったことに応じて、前記トラッキングできなくなった時の直前の前記データに基づいて前記アバターオブジェクトの前記一部を動かすステップと、
    前記ユーザの前記一部の位置を再びトラッキングできる状態に復帰したことに応じて、所定時間をかけて、前記アバターオブジェクトの前記一部を、予め定められた速度で、前記復帰後の前記データが示す前記ユーザの前記一部の位置に移動させるステップとを備える、方法。
  4. 仮想空間を介して通信するためにコンピュータで実行される方法であって、
    仮想空間を定義するステップと、
    前記仮想空間を介して通信する他のコンピュータのユーザのアバターオブジェクトを前記仮想空間に配置するステップと、
    前記ユーザの身体の一部の位置をトラッキングするためのデータを取得するステップと、
    前記データに基づいて前記アバターオブジェクトの前記一部を前記ユーザの前記一部の位置に追随させるステップと、
    前記ユーザの前記一部の位置をトラッキングできなくなったことに応じて、前記トラッキングできなくなった時の直前の前記データに基づいて前記アバターオブジェクトの前記一部を動かすステップと、
    前記ユーザの前記一部の位置を再びトラッキングできる状態に復帰したことに応じて、所定時間をかけて、前記アバターオブジェクトの前記一部を、前記復帰後の前記アバターオブジェクトの前記一部の位置と前記復帰後の前記データが示す位置との距離に応じた速度で、前記復帰後の前記データが示す前記ユーザの前記一部の位置に移動させるステップとを備える、方法。
  5. 仮想空間を介して通信するためにコンピュータで実行される方法であって、
    仮想空間を定義するステップと、
    前記仮想空間を介して通信する他のコンピュータのユーザのアバターオブジェクトを前記仮想空間に配置するステップと、
    前記ユーザの身体の一部の位置をトラッキングするためのデータを取得するステップと、
    前記データに基づいて前記アバターオブジェクトの前記一部を前記ユーザの前記一部の位置に追随させるステップと、
    前記ユーザの前記一部の位置をトラッキングできなくなったことに応じて、前記トラッキングできなくなった時の直前の前記データに基づいて前記アバターオブジェクトの前記一部を動かすステップと、
    前記ユーザの前記一部の位置を再びトラッキングできる状態に復帰したことに応じて、所定時間をかけて、前記アバターオブジェクトの前記一部を、前記復帰後の前記データが示す前記ユーザの前記一部の位置に移動させるステップとを備え
    前記アバターオブジェクトの前記一部を、前記復帰後の前記データが示す前記ユーザの前記一部の位置に移動させるステップは、前記アバターオブジェクトの前記一部を移動させる速度を、前記所定時間において徐々に遅くすることを含む、方法。
  6. 前記一部は、手を含む、請求項1〜5のいずれか1項に記載の方法。
  7. 前記コンピュータは、アバターオブジェクトの手の位置と予め定められた動作とを関連付けたライブラリをメモリに格納しており、
    前記アバターオブジェクトの一部を動かすステップは、前記ライブラリを参照して、前記直前の前記データが示す位置に対応する予め定められた動作を前記アバターオブジェクトに実行させることを含む、請求項に記載の方法。
  8. 前記アバターオブジェクトの一部を動かすステップは、前記アバターオブジェクトの手を予め定められた位置に移動させることを含む、請求項またはに記載の方法。
  9. 前記アバターオブジェクトの前記一部を動かすステップは、前記他のコンピュータから前記ユーザの前記一部の位置をトラッキングできなくなったことを示す信号を受信したことに応じて、前記直前の前記データに基づいて前記アバターオブジェクトの前記一部を動かすことを含む、請求項1〜のいずれか1項に記載の方法。
  10. 前記ユーザの身体の一部の位置をトラッキングするためのデータを取得するステップは、前記他のコンピュータに接続されるカメラの出力に基づく前記ユーザの前記一部の位置を示すデータを受信することを含む、請求項1〜のいずれか1項に記載の方法。
  11. 前記カメラは、前記他のコンピュータに接続されたヘッドマウントデバイスに設けられる、請求項1に記載の方法。
  12. 前記カメラは、赤外線カメラである、請求項10または11に記載の方法。
  13. 請求項1〜12のいずれか1項に記載の方法をコンピュータに実現させるためのプログラム。
  14. 請求項13に記載のプログラムを格納したメモリと、
    前記プログラムを実行するためのプロセッサとを備える、情報処理装置。
JP2017013102A 2017-01-27 2017-01-27 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置 Active JP6275891B1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017013102A JP6275891B1 (ja) 2017-01-27 2017-01-27 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
US15/881,668 US20180299948A1 (en) 2017-01-27 2018-01-26 Method for communicating via virtual space and system for executing the method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017013102A JP6275891B1 (ja) 2017-01-27 2017-01-27 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2018001532A Division JP2018120587A (ja) 2018-01-09 2018-01-09 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置

Publications (2)

Publication Number Publication Date
JP6275891B1 true JP6275891B1 (ja) 2018-02-07
JP2018120520A JP2018120520A (ja) 2018-08-02

Family

ID=61158405

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017013102A Active JP6275891B1 (ja) 2017-01-27 2017-01-27 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置

Country Status (2)

Country Link
US (1) US20180299948A1 (ja)
JP (1) JP6275891B1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2566745A (en) * 2017-09-26 2019-03-27 Sony Interactive Entertainment Inc Motion signal generation
JP6718933B2 (ja) * 2018-09-11 2020-07-08 株式会社コロプラ プログラム、情報処理装置、および方法
JP2021005157A (ja) * 2019-06-25 2021-01-14 株式会社ソニー・インタラクティブエンタテインメント 画像処理装置および画像処理方法
WO2022172651A1 (ja) * 2021-02-12 2022-08-18 ソニーグループ株式会社 情報処理装置、情報処理方法およびプログラム
US20240096033A1 (en) * 2021-10-11 2024-03-21 Meta Platforms Technologies, Llc Technology for creating, replicating and/or controlling avatars in extended reality

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000244886A (ja) * 1999-01-20 2000-09-08 Canon Inc コンピュータ会議システム、コンピュータ処理装置、コンピュータ会議を行う方法、コンピュータ処理装置における処理方法、ビデオ会議システム、ビデオ会議を行う方法、ヘッドホン
JP2001160154A (ja) * 1999-12-02 2001-06-12 Nippon Telegr & Teleph Corp <Ntt> 仮想空間通信システムにおけるアバタ表示装置、アバタ表示方法および記憶媒体
JP2006331065A (ja) * 2005-05-26 2006-12-07 Matsushita Electric Ind Co Ltd 顔情報送信装置、顔情報送信方法及びそのプログラムを記録した記録媒体
JP2007334443A (ja) * 2006-06-12 2007-12-27 Kyushu Institute Of Technology アバター動作制御システム、そのプログラム及び方法
JP2010526391A (ja) * 2007-05-04 2010-07-29 ジェスチャー テック,インコーポレイテッド コンパクト・デバイスのためのカメラ・ベースのユーザ入力
JP2010541398A (ja) * 2007-09-24 2010-12-24 ジェスチャー テック,インコーポレイテッド 音声及びビデオ通信のための機能向上したインタフェース
JP2016126365A (ja) * 2014-12-26 2016-07-11 セイコーエプソン株式会社 表示システム、表示装置、情報表示方法、及び、プログラム
US20160378294A1 (en) * 2015-06-24 2016-12-29 Shawn Crispin Wright Contextual cursor display based on hand tracking

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000244886A (ja) * 1999-01-20 2000-09-08 Canon Inc コンピュータ会議システム、コンピュータ処理装置、コンピュータ会議を行う方法、コンピュータ処理装置における処理方法、ビデオ会議システム、ビデオ会議を行う方法、ヘッドホン
JP2001160154A (ja) * 1999-12-02 2001-06-12 Nippon Telegr & Teleph Corp <Ntt> 仮想空間通信システムにおけるアバタ表示装置、アバタ表示方法および記憶媒体
JP2006331065A (ja) * 2005-05-26 2006-12-07 Matsushita Electric Ind Co Ltd 顔情報送信装置、顔情報送信方法及びそのプログラムを記録した記録媒体
JP2007334443A (ja) * 2006-06-12 2007-12-27 Kyushu Institute Of Technology アバター動作制御システム、そのプログラム及び方法
JP2010526391A (ja) * 2007-05-04 2010-07-29 ジェスチャー テック,インコーポレイテッド コンパクト・デバイスのためのカメラ・ベースのユーザ入力
JP2010541398A (ja) * 2007-09-24 2010-12-24 ジェスチャー テック,インコーポレイテッド 音声及びビデオ通信のための機能向上したインタフェース
JP2016126365A (ja) * 2014-12-26 2016-07-11 セイコーエプソン株式会社 表示システム、表示装置、情報表示方法、及び、プログラム
US20160378294A1 (en) * 2015-06-24 2016-12-29 Shawn Crispin Wright Contextual cursor display based on hand tracking

Also Published As

Publication number Publication date
JP2018120520A (ja) 2018-08-02
US20180299948A1 (en) 2018-10-18

Similar Documents

Publication Publication Date Title
JP6266736B1 (ja) 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP6240301B1 (ja) 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP6342038B1 (ja) 仮想空間を提供するためのプログラム、当該プログラムを実行するための情報処理装置、および仮想空間を提供するための方法
JP6275891B1 (ja) 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP6263252B1 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP6234622B1 (ja) 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP6342024B1 (ja) 仮想空間を提供するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP6290467B1 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるプログラム
JP6201028B1 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP2018205913A (ja) 仮想空間を提供するためにコンピュータで実行される方法、プログラム、および、情報処理装置
JP6257825B1 (ja) 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP6580624B2 (ja) 仮想空間を提供するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP2018116684A (ja) 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP2018125003A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるプログラム
JP2019030638A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP2018092592A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP2018206340A (ja) 仮想空間を提供するためにコンピュータで実行される方法、プログラム、および、情報処理装置
JP6974253B2 (ja) 仮想空間を提供するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP2018190196A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP2018120587A (ja) 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP2018097879A (ja) 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP2018190395A (ja) 仮想空間を提供するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP2018092635A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP7111848B2 (ja) プログラム、情報処理装置、および方法
JP2018109937A (ja) 情報処理方法、装置、情報処理システム、および当該情報処理方法をコンピュータに実行させるプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180110

R150 Certificate of patent or registration of utility model

Ref document number: 6275891

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: R3D04

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250