JP6240301B1 - 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置 - Google Patents

Abstract

【課題】仮想空間上でより円滑なコミュニケーションを実現するための技術を提供する。【解決手段】仮想空間を介して通信するためにコンピュータで実行される方法は、仮想空間を定義するステップ（Ｓ１７１０）と、仮想空間を介して通信するユーザのアバターオブジェクトを仮想空間に配置するステップ（Ｓ１７２０）と、ユーザの口を含む画像の入力を繰り返し受け付けるステップ（Ｓ１７３０）と、画像からユーザの下唇を検出するステップと、検出された下唇の少なくとも一部が隠れた場合に、アバターオブジェクトの舌をアバターオブジェクトの口から出ている状態にするステップ（Ｓ１７６０）とを備える。【選択図】図１７

Description

この開示は、仮想空間に配置されるアバターを制御する技術に関し、より特定的には、アバターの表情を制御する技術に関する。

ヘッドマウントデバイス（ＨＭＤ：Head-Mounted Device）を用いて仮想現実を提供する技術が知られている。また、仮想空間上に、複数のユーザの各々のアバターを配置し、これらアバターを通じてユーザ間でのコミュニケーションを図る技術が提案されている。

アバターを利用したコミュニケーションを促進する技術として、フェイストラッキング技術によりユーザの顔の動作を検出して（特許文献１〜４）、検出した顔の動作をアバターに反映させる技術が知られている。例えば、特許文献１は、パターンマッチングによりユーザの口の動作を検出する技術を開示している。また、特許文献４は、「色相補正部２１から色相が補正された舌映像と舌映像データベース１５に保存された各個人別の舌の基本テンプレート映像とを整合させて舌尖、舌中、左舌辺、右舌辺及び舌根のような関心領域を抽出する」技術を提案している（段落［００１９］参照）。

特開２００９−２３１８７９号公報 特開２００９−５３３７８６号公報 特表２０１０−５０７８５４号公報 特開２００４−２０９２４５号公報

人が社会的生活を営む際には、他者とのコミュニケーションが重要である。特に対面対話においては、人は、音声言語を用いた情報伝達だけではなく、表情や視線、姿勢、身体動作といったさまざまな情報を合わせて用いることにより、より円滑なコミュニケーションを行っている。

そのため、仮想空間上でアバターを利用したコミュニケーションを行なう場合においても、アバターの表情などを利用してより円滑なコミュニケーションを図ることができる技術が必要とされている。

本開示は、上記のような問題を解決するためになされたものであって、ある局面における目的は、仮想空間上でより円滑なコミュニケーションを実現するための技術を提供することである。

ある実施の形態に従って仮想空間を介して通信するためにコンピュータで実行される方法は、仮想空間を定義するステップと、仮想空間を介して通信するユーザのアバターオブジェクトを仮想空間に配置するステップと、ユーザの口を含む画像の入力を繰り返し受け付けるステップと、画像からユーザの下唇を検出するステップと、検出された下唇の少なくとも一部が隠れた場合に、アバターオブジェクトの舌をアバターオブジェクトの口から出ている状態にするステップとを備える。

開示された技術的特徴の上記および他の目的、特徴、局面および利点は、添付の図面と関連して理解されるこの発明に関する次の詳細な説明から明らかとなるであろう。

ＨＭＤシステムの構成の概略を表す。 ある局面に従うコンピュータのハードウェア構成の一例を表すブロック図である。 ある実施の形態に従うＨＭＤに設定されるｕｖｗ視野座標系を概念的に表す。 ある実施の形態に従う仮想空間を表現する一態様を概念的に表す。 ある実施の形態に従うＨＭＤを装着するユーザの頭部を上から表す。 仮想空間２において視認領域をＸ方向から見たＹＺ断面を表す。 仮想空間２において視認領域をＹ方向から見たＸＺ断面を表す。 ある実施の形態に従うコンピュータをモジュール構成として表わすブロック図である。 ＨＭＤセットの各ユーザのアバターオブジェクトを表す。 第１カメラが撮影するユーザの顔画像を示す。 動き検出モジュールが口の形状を検出する処理（その１）を示す。 動き検出モジュールが口の形状を検出する処理（その２）を示す。 現実空間におけるユーザの表情と、仮想空間におけるユーザのアバターオブジェクトの表情との対比を示す。 サーバのハードウェア構成およびモジュール構成の一例を示す。 ユーザの動作をアバターオブジェクトに反映するための、コンピュータとサーバとの信号のやりとりを表わすフローチャートである。 実施の形態に従う舌を検出する処理を示す。 プロセッサが舌を検出する制御について説明するフローチャートである。 図１７のステップＳ１７４０の処理例を示す。 図１７のステップＳ１７５０の処理例を示すフローチャートである。 ユーザが舌を出している量を検出する処理を示す。 プロセッサがアバターオブジェクトの舌を出す量を制御するための処理を示すフローチャートである。

以下、この技術的思想の実施の形態について図面を参照しながら詳細に説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。なお、以下で説明される各実施の形態は、適宜選択的に組み合わされてもよい。

［ＨＭＤシステムの構成］
図１を参照して、ＨＭＤ（Head-Mounted Device）システム１００の構成について説明する。図１は、ＨＭＤシステム１００の構成の概略を表す。ＨＭＤシステム１００は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。

ＨＭＤシステム１００は、ＨＭＤ（Head-Mounted Device）セット１０５Ａ，１０５Ｂ，１０５Ｃ，１０５Ｄと、ネットワーク１９とサーバ１５０とを含む。ＨＭＤセット１０５Ａ，１０５Ｂ，１０５Ｃ，１０５Ｄの各々は、ネットワーク１９を介してサーバ１５０と通信可能に構成される。以下、ＨＭＤセット１０５Ａ，１０５Ｂ，１０５Ｃ，１０５Ｄを総称して、ＨＭＤセット１０５とも言う。なお、ＨＭＤシステム１００を構成するＨＭＤセット１０５の数は、４つに限られず、３つ以下でも、５つ以上でもよい。ＨＭＤセット１０５は、ＨＭＤ１１０と、ＨＭＤセンサ１２０と、コントローラ１６０と、コンピュータ２００とを備える。ＨＭＤ１１０は、モニタ１１２と、第１カメラ１１５と、第２カメラ１１７と、スピーカ１１８と、マイク１１９と、注視センサ１４０とを含む。コントローラ１６０は、モーションセンサ１３０を含み得る。

ある局面において、コンピュータ２００は、インターネットその他のネットワーク１９に接続可能であり、ネットワーク１９に接続されているサーバ１５０その他のコンピュータ（例えば、他のＨＭＤセット１０５のコンピュータ）と通信可能である。別の局面において、ＨＭＤ１１０は、ＨＭＤセンサ１２０の代わりに、センサ１１４を含み得る。

ＨＭＤ１１０は、ユーザの頭部に装着され、動作中に仮想空間をユーザに提供し得る。より具体的には、ＨＭＤ１１０は、右目用の画像および左目用の画像をモニタ１１２にそれぞれ表示する。ユーザの各目がそれぞれの画像を視認すると、ユーザは、両目の視差に基づき当該画像を３次元の画像として認識し得る。ＨＭＤ１００は、モニタを備える所謂ヘッドマウントディスプレイと、スマートフォンその他のモニタを有する端末を装着可能なヘッドマウント機器のいずれをも含み得る。

モニタ１１２は、例えば、非透過型の表示装置として実現される。ある局面において、モニタ１１２は、ユーザの両目の前方に位置するようにＨＭＤ１１０の本体に配置されている。したがって、ユーザは、モニタ１１２に表示される３次元画像を視認すると、仮想空間に没入することができる。ある実施の形態において、仮想空間は、例えば、背景、ユーザが操作可能なオブジェクト、ユーザが選択可能なメニューの画像を含む。ある実施の形態において、モニタ１１２は、所謂スマートフォンその他の情報表示端末が備える液晶モニタまたは有機ＥＬ（Electro Luminescence）モニタとして実現され得る。

他の局面において、モニタ１１２は、透過型の表示装置として実現され得る。この場合、ＨＭＤ１１０は、図１に示されるようにユーザの目を覆う密閉型ではなく、メガネ型のような開放型であり得る。透過型のモニタ１１２は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可能であってもよい。また、モニタ１１２は、仮想空間を構成する画像の一部と、現実空間とを同時に表示する構成を含んでいてもよい。例えば、モニタ１１２は、ＨＭＤ１１０に搭載されたカメラで撮影した現実空間の画像を表示してもよいし、一部の透過率を高く設定することにより現実空間を視認可能にしてもよい。

ある局面において、モニタ１１２は、右目用の画像を表示するためのサブモニタと、左目用の画像を表示するためのサブモニタとを含み得る。別の局面において、モニタ１１２は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、モニタ１１２は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。

ある局面において、ＨＭＤ１１０は、複数の光源（図示しない）を含む。各光源は例えば、赤外線を発するＬＥＤ（Light Emitting Diode）により実現される。ＨＭＤセンサ１２０は、ＨＭＤ１１０の動きを検出するためのポジショントラッキング機能を有する。より具体的には、ＨＭＤセンサ１２０は、ＨＭＤ１１０が発する複数の赤外線を読み取り、現実空間内におけるＨＭＤ１１０の位置および傾きを検出する。

なお、別の局面において、ＨＭＤセンサ１２０は、カメラにより実現されてもよい。この場合、ＨＭＤセンサ１２０は、カメラから出力されるＨＭＤ１１０の画像情報を用いて、画像解析処理を実行することにより、ＨＭＤ１１０の位置および傾きを検出することができる。

別の局面において、ＨＭＤ１１０は、位置検出器として、ＨＭＤセンサ１２０の代わりに、センサ１１４を備えてもよい。ＨＭＤ１１０は、センサ１１４を用いて、ＨＭＤ１１０自身の位置および傾きを検出し得る。例えば、センサ１１４が角速度センサ、地磁気センサ、加速度センサ、あるいはジャイロセンサ等である場合、ＨＭＤ１１０は、ＨＭＤセンサ１２０の代わりに、これらの各センサのいずれかを用いて、自身の位置および傾きを検出し得る。一例として、センサ１１４が角速度センサである場合、角速度センサは、現実空間におけるＨＭＤ１１０の３軸周りの角速度を経時的に検出する。ＨＭＤ１１０は、各角速度に基づいて、ＨＭＤ１１０の３軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、ＨＭＤ１１０の傾きを算出する。

第１カメラ１１５は、ユーザ１９０の顔の下部を撮影する。より具体的には、第１カメラ１１５は、ユーザ１９０の鼻および口などを撮影する。第２カメラ１１７は、ユーザの目および眉などを撮影する。ＨＭＤ１１０のユーザ１９０側の筐体をＨＭＤ１１０の内側、ＨＭＤ１１０のユーザ１９０とは逆側の筐体をＨＭＤ１１０の外側と定義する。ある局面において、第１カメラ１１５は、ＨＭＤ１１０の外側に配置され、第２カメラ１１７は、ＨＭＤ１１０の内側に配置され得る。第１カメラ１１５および第２カメラ１１７が生成した画像は、コンピュータ２００に入力される。

スピーカ１１８は、音声信号を音声に変換してユーザ１９０に出力する。マイク１１９は、ユーザ１９０の発話を電気信号に変換してコンピュータ２００に出力する。なお、他の局面において、ＨＭＤ１１０は、スピーカ１１８に替えてイヤホンを含み得る。

注視センサ１４０は、ユーザ１９０の右目および左目の視線が向けられる方向（視線）を検出する。当該方向の検出は、例えば、公知のアイトラッキング機能によって実現される。注視センサ１４０は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ１４０は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ１４０は、例えば、ユーザ１９０の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ１４０は、検出した各回転角に基づいて、ユーザ１９０の視線を検知することができる。

サーバ１５０は、コンピュータ２００にプログラムを送信し得る。別の局面において、サーバ１５０は、他のユーザによって使用されるＨＭＤに仮想現実を提供するための他のコンピュータ２００と通信し得る。例えば、アミューズメント施設において、複数のユーザが参加型のゲームを行なう場合、各コンピュータ２００は、各ユーザの動作に基づく信号を他のコンピュータ２００と通信して、同じ仮想空間において複数のユーザが共通のゲームを楽しむことを可能にする。

コントローラ１６０は、有線または無線によりコンピュータ２００に接続されている。コントローラ１６０は、ユーザ１９０からコンピュータ２００への命令の入力を受け付ける。ある局面において、コントローラ１６０は、ユーザ１９０によって把持可能に構成される。別の局面において、コントローラ１６０は、ユーザ１９０の身体あるいは衣類の一部に装着可能に構成される。別の局面において、コントローラ１６０は、コンピュータ２００から送信される信号に基づいて、振動、音、光のうちの少なくともいずれかを出力するように構成されてもよい。別の局面において、コントローラ１６０は、ユーザ１９０から、仮想空間に配置されるオブジェクトの位置や動きを制御するための操作を受け付ける。

モーションセンサ１３０は、ある局面において、ユーザの手に取り付けられて、ユーザの手の動きを検出する。例えば、モーションセンサ１３０は、手の回転速度、回転数等を検出する。検出された信号は、コンピュータ２００に送られる。モーションセンサ１３０は、例えば、手袋型のコントローラ１６０に設けられている。ある実施の形態において、現実空間における安全のため、コントローラ１６０は、手袋型のようにユーザ１９０の手に装着されることにより容易に飛んで行かないものに装着されるのが望ましい。別の局面において、ユーザ１９０に装着されないセンサがユーザ１９０の手の動きを検出してもよい。例えば、ユーザ１９０を撮影するカメラの信号が、ユーザ１９０の動作を表わす信号として、コンピュータ２００に入力されてもよい。モーションセンサ１３０とコンピュータ２００とは、一例として、無線により互いに接続される。無線の場合、通信形態は特に限られず、例えば、Ｂｌｕｅｔｏｏｔｈ（登録商標）その他の公知の通信手法が用いられる。

［ハードウェア構成］
図２を参照して、本実施の形態に係るコンピュータ２００について説明する。図２は、ある局面に従うコンピュータ２００のハードウェア構成の一例を表すブロック図である。コンピュータ２００は、主たる構成要素として、プロセッサ１０と、メモリ１１と、ストレージ１２と、入出力インターフェイス１３と、通信インターフェイス１４とを備える。各構成要素は、それぞれ、バス１５に接続されている。

プロセッサ１０は、コンピュータ２００に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ１１またはストレージ１２に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ１０は、ＣＰＵ（Central Processing Unit）、ＭＰＵ（Micro Processor Unit）、ＦＰＧＡ（Field-Programmable Gate Array）その他のデバイスとして実現される。

メモリ１１は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ１２からロードされる。データは、コンピュータ２００に入力されたデータと、プロセッサ１０によって生成されたデータとを含む。ある局面において、メモリ１１は、ＲＡＭ（Random Access Memory）その他の揮発メモリとして実現される。

ストレージ１２は、プログラムおよびデータを永続的に保持する。ストレージ１２は、例えば、ＲＯＭ（Read-Only Memory）、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ１２に格納されるプログラムは、ＨＭＤシステム１００において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、他のコンピュータ２００との通信を実現するためのプログラムを含む。ストレージ１２に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含む。

なお、別の局面において、ストレージ１２は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、コンピュータ２００に内蔵されたストレージ１２の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のＨＭＤシステム１００が使用される場面において、プログラムやデータの更新を一括して行なうことが可能になる。

ある実施の形態において、入出力インターフェイス１３は、ＨＭＤ１１０、ＨＭＤセンサ１２０およびモーションセンサ１３０との間で信号を通信する。ある局面において、ＨＭＤ１１０に含まれる第１カメラ１１５，第２カメラ１１７，スピーカ１１８，およびマイク１１９は、ＨＭＤ１１０のインターフェイスを介してコンピュータ２００との通信を行ない得る。ある局面において、入出力インターフェイス１３は、ＵＳＢ（Universal Serial Bus）、ＤＶＩ（Digital Visual Interface）、ＨＤＭＩ（登録商標）（High-Definition Multimedia Interface）その他の端子を用いて実現される。なお、入出力インターフェイス１３は上述のものに限られない。

ある実施の形態において、入出力インターフェイス１３は、さらに、コントローラ１６０と通信し得る。例えば、入出力インターフェイス１３は、コントローラ１６０およびモーションセンサ１３０から出力された信号の入力を受ける。別の局面において、入出力インターフェイス１３は、プロセッサ１０から出力された命令を、コントローラ１６０に送る。当該命令は、振動、音声出力、発光等をコントローラ１６０に指示する。コントローラ１６０は、当該命令を受信すると、その命令に応じて、振動、音声出力または発光のいずれかを実行する。

通信インターフェイス１４は、ネットワーク１９に接続されて、ネットワーク１９に接続されている他のコンピュータ（例えば、サーバ１５０）と通信する。ある局面において、通信インターフェイス１４は、例えば、ＬＡＮ（Local Area Network）その他の有線通信インターフェイス、あるいは、ＷｉＦｉ（Wireless Fidelity）、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＮＦＣ（Near Field Communication）その他の無線通信インターフェイスとして実現される。なお、通信インターフェイス１４は上述のものに限られない。

ある局面において、プロセッサ１０は、ストレージ１２にアクセスし、ストレージ１２に格納されている１つ以上のプログラムをメモリ１１にロードし、当該プログラムに含まれる一連の命令を実行する。当該１つ以上のプログラムは、コンピュータ２００のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ１０は、入出力インターフェイス１３を介して、仮想空間を提供するための信号をＨＭＤ１１０に送る。ＨＭＤ１１０は、その信号に基づいてモニタ１１２に映像を表示する。

なお、図２に示される例では、コンピュータ２００は、ＨＭＤ１１０の外部に設けられる構成が示されているが、別の局面において、コンピュータ２００は、ＨＭＤ１１０に内蔵されてもよい。一例として、モニタ１１２を含む携帯型の情報通信端末（例えば、スマートフォン）がコンピュータ２００として機能してもよい。

また、コンピュータ２００は、複数のＨＭＤ１１０に共通して用いられる構成であってもよい。このような構成によれば、例えば、複数のユーザに同一の仮想空間を提供することもできるので、各ユーザは同一の仮想空間で他のユーザと同一のアプリケーションを楽しむことができる。

ある実施の形態において、ＨＭＤシステム１００では、グローバル座標系が予め設定されている。グローバル座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、ならびに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、３つの基準方向（軸）を有する。本実施の形態では、グローバル座標系は視点座標系の一つである。そこで、グローバル座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれ、ｘ軸、ｙ軸、ｚ軸と規定される。より具体的には、グローバル座標系において、ｘ軸は現実空間の水平方向に平行である。ｙ軸は、現実空間の鉛直方向に平行である。ｚ軸は現実空間の前後方向に平行である。

ある局面において、ＨＭＤセンサ１２０は、赤外線センサを含む。赤外線センサが、ＨＭＤ１１０の各光源から発せられた赤外線をそれぞれ検出すると、ＨＭＤ１１０の存在を検出する。ＨＭＤセンサ１２０は、さらに、各点の値（グローバル座標系における各座標値）に基づいて、ＨＭＤ１１０を装着したユーザ１９０の動きに応じた、現実空間内におけるＨＭＤ１１０の位置および傾きを検出する。より詳しくは、ＨＭＤセンサ１２０は、経時的に検出された各値を用いて、ＨＭＤ１１０の位置および傾きの時間的変化を検出できる。

グローバル座標系は現実空間の座標系と平行である。したがって、ＨＭＤセンサ１２０によって検出されたＨＭＤ１１０の各傾きは、グローバル座標系におけるＨＭＤ１１０の３軸周りの各傾きに相当する。ＨＭＤセンサ１２０は、グローバル座標系におけるＨＭＤ１１０の傾きに基づき、ｕｖｗ視野座標系をＨＭＤ１１０に設定する。ＨＭＤ１１０に設定されるｕｖｗ視野座標系は、ＨＭＤ１１０を装着したユーザ１９０が仮想空間において物体を見る際の視点座標系に対応する。

［ｕｖｗ視野座標系］
図３を参照して、ｕｖｗ視野座標系について説明する。図３は、ある実施の形態に従うＨＭＤ１１０に設定されるｕｖｗ視野座標系を概念的に表す。ＨＭＤセンサ１２０は、ＨＭＤ１１０の起動時に、グローバル座標系におけるＨＭＤ１１０の位置および傾きを検出する。プロセッサ１０は、検出された値に基づいて、ｕｖｗ視野座標系をＨＭＤ１１０に設定する。

図３に示されるように、ＨＭＤ１１０は、ＨＭＤ１１０を装着したユーザの頭部を中心（原点）とした３次元のｕｖｗ視野座標系を設定する。より具体的には、ＨＭＤ１１０は、グローバル座標系を規定する水平方向、鉛直方向、および前後方向（ｘ軸、ｙ軸、ｚ軸）を、グローバル座標系内においてＨＭＤ１１０の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる３つの方向を、ＨＭＤ１１０におけるｕｖｗ視野座標系のピッチ方向（ｕ軸）、ヨー方向（ｖ軸）、およびロール方向（ｗ軸）として設定する。

ある局面において、ＨＭＤ１１０を装着したユーザ１９０が直立し、かつ、正面を視認している場合、プロセッサ１０は、グローバル座標系に平行なｕｖｗ視野座標系をＨＭＤ１１０に設定する。この場合、グローバル座標系における水平方向（ｘ軸）、鉛直方向（ｙ軸）、および前後方向（ｚ軸）は、ＨＭＤ１１０におけるｕｖｗ視野座標系のピッチ方向（ｕ軸）、ヨー方向（ｖ軸）、およびロール方向（ｗ軸）に一致する。

ｕｖｗ視野座標系がＨＭＤ１１０に設定された後、ＨＭＤセンサ１２０は、ＨＭＤ１１０の動きに基づいて、設定されたｕｖｗ視野座標系におけるＨＭＤ１１０の傾き（傾きの変化量）を検出できる。この場合、ＨＭＤセンサ１２０は、ＨＭＤ１１０の傾きとして、ｕｖｗ視野座標系におけるＨＭＤ１１０のピッチ角（θｕ）、ヨー角（θｖ）、およびロール角（θｗ）をそれぞれ検出する。ピッチ角（θｕ）は、ｕｖｗ視野座標系におけるピッチ方向周りのＨＭＤ１１０の傾き角度を表す。ヨー角（θｖ）は、ｕｖｗ視野座標系におけるヨー方向周りのＨＭＤ１１０の傾き角度を表す。ロール角（θｗ）は、ｕｖｗ視野座標系におけるロール方向周りのＨＭＤ１１０の傾き角度を表す。

ＨＭＤセンサ１２０は、検出されたＨＭＤ１１０の傾き角度に基づいて、ＨＭＤ１１０が動いた後のＨＭＤ１１０におけるｕｖｗ視野座標系を、ＨＭＤ１１０に設定する。ＨＭＤ１１０と、ＨＭＤ１１０のｕｖｗ視野座標系との関係は、ＨＭＤ１１０の位置および傾きに関わらず、常に一定である。ＨＭＤ１１０の位置および傾きが変わると、当該位置および傾きの変化に連動して、グローバル座標系におけるＨＭＤ１１０のｕｖｗ視野座標系の位置および傾きが変化する。

ある局面において、ＨＭＤセンサ１２０は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係（例えば、各点間の距離など）に基づいて、ＨＭＤ１１０の現実空間内における位置を、ＨＭＤセンサ１２０に対する相対位置として特定してもよい。また、プロセッサ１０は、特定された相対位置に基づいて、現実空間内（グローバル座標系）におけるＨＭＤ１１０のｕｖｗ視野座標系の原点を決定してもよい。

［仮想空間］
図４を参照して、仮想空間についてさらに説明する。図４は、ある実施の形態に従う仮想空間２を表現する一態様を概念的に表す。仮想空間２は、中心２１の３６０度方向の全体を覆う全天球状の構造を有する。図４では、説明を複雑にしないために、仮想空間２のうちの上半分の天球が例示されている。仮想空間２では各メッシュが規定される。各メッシュの位置は、仮想空間２に規定されるＸＹＺ座標系における座標値として予め規定されている。コンピュータ２００は、仮想空間２に展開可能なコンテンツ（静止画、動画等）を構成する各部分画像を、仮想空間２において対応する各メッシュにそれぞれ対応付けて、ユーザによって視認可能な仮想空間画像２２が展開される仮想空間２をユーザに提供する。

ある局面において、仮想空間２では、中心２１を原点とするＸＹＺ座標系が規定される。ＸＹＺ座標系は、例えば、グローバル座標系に平行である。ＸＹＺ座標系は視点座標系の一種であるため、ＸＹＺ座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれＸ軸、Ｙ軸、Ｚ軸として規定される。したがって、ＸＹＺ座標系のＸ軸（水平方向）がグローバル座標系のｘ軸と平行であり、ＸＹＺ座標系のＹ軸（鉛直方向）がグローバル座標系のｙ軸と平行であり、ＸＹＺ座標系のＺ軸（前後方向）がグローバル座標系のｚ軸と平行である。

ＨＭＤ１１０の起動時、すなわちＨＭＤ１１０の初期状態において、仮想カメラ１が、仮想空間２の中心２１に配置される。ある局面において、プロセッサ１０は、仮想カメラ１が撮影する画像をＨＭＤ１１０のモニタ１１２に表示する。仮想カメラ１は、現実空間におけるＨＭＤ１１０の動きに連動して、仮想空間２を同様に移動する。これにより、現実空間におけるＨＭＤ１１０の位置および向きの変化が、仮想空間２において同様に再現され得る。

仮想カメラ１には、ＨＭＤ１１０の場合と同様に、ｕｖｗ視野座標系が規定される。仮想空間２における仮想カメラのｕｖｗ視野座標系は、現実空間（グローバル座標系）におけるＨＭＤ１１０のｕｖｗ視野座標系に連動するように規定されている。したがって、ＨＭＤ１１０の傾きが変化すると、それに応じて、仮想カメラ１の傾きも変化する。また、仮想カメラ１は、ＨＭＤ１１０を装着したユーザの現実空間における移動に連動して、仮想空間２において移動することもできる。

コンピュータ２００のプロセッサ１０は、仮想カメラ１の配置位置と、基準視線５とに基づいて、仮想空間２における視認領域２３を規定する。視認領域２３は、仮想空間２のうち、ＨＭＤ１１０を装着したユーザが視認する領域に対応する。

注視センサ１４０によって検出されるユーザ１９０の視線は、ユーザ１９０が物体を視認する際の視点座標系における方向である。ＨＭＤ１１０のｕｖｗ視野座標系は、ユーザ１９０がモニタ１１２を視認する際の視点座標系に等しい。また、仮想カメラ１のｕｖｗ視野座標系は、ＨＭＤ１１０のｕｖｗ視野座標系に連動している。したがって、ある局面に従うＨＭＤシステム１００は、注視センサ１４０によって検出されたユーザ１９０の視線を、仮想カメラ１のｕｖｗ視野座標系におけるユーザの視線とみなすことができる。

［ユーザの視線］
図５を参照して、ユーザの視線の決定について説明する。図５は、ある実施の形態に従うＨＭＤ１１０を装着するユーザ１９０の頭部を上から表す。

ある局面において、注視センサ１４０は、ユーザ１９０の右目および左目の各視線を検出する。ある局面において、ユーザ１９０が近くを見ている場合、注視センサ１４０は、視線Ｒ１およびＬ１を検出する。別の局面において、ユーザ１９０が遠くを見ている場合、注視センサ１４０は、視線Ｒ２およびＬ２を検出する。この場合、ロール方向ｗに対して視線Ｒ２およびＬ２がなす角度は、ロール方向ｗに対して視線Ｒ１およびＬ１がなす角度よりも小さい。注視センサ１４０は、検出結果をコンピュータ２００に送信する。

コンピュータ２００が、視線の検出結果として、視線Ｒ１およびＬ１の検出値を注視センサ１４０から受信した場合には、その検出値に基づいて、視線Ｒ１およびＬ１の交点である注視点Ｎ１を特定する。一方、コンピュータ２００は、視線Ｒ２およびＬ２の検出値を注視センサ１４０から受信した場合には、視線Ｒ２およびＬ２の交点を注視点として特定する。コンピュータ２００は、特定した注視点Ｎ１の位置に基づき、ユーザ１９０の視線Ｎ０を特定する。コンピュータ２００は、例えば、ユーザ１９０の右目Ｒと左目Ｌとを結ぶ直線の中点と、注視点Ｎ１とを通る直線の延びる方向を、視線Ｎ０として検出する。視線Ｎ０は、ユーザ１９０が両目により実際に視線を向けている方向である。また、視線Ｎ０は、視認領域２３に対してユーザ１９０が実際に視線を向けている方向に相当する。

また、別の局面において、ＨＭＤシステム１００は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、ＨＭＤシステム１００は、仮想空間２においてテレビ番組を表示することができる。

さらに別の局面において、ＨＭＤシステム１００は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。

［視界領域］
図６および図７を参照して、視認領域２３について説明する。図６は、仮想空間２において視認領域２３をＸ方向から見たＹＺ断面を表す。図７は、仮想空間２において視認領域２３をＹ方向から見たＸＺ断面を表す。

図６に示されるように、ＹＺ断面における視認領域２３は、領域２４を含む。領域２４は、仮想カメラ１の配置位置と基準視線５と仮想空間２のＹＺ断面とによって定義される。プロセッサ１０は、仮想空間おける基準視線５を中心として極角αを含む範囲を、領域２４として規定する。

図７に示されるように、ＸＺ断面における視認領域２３は、領域２５を含む。領域２５は、仮想カメラ１の配置位置と基準視線５と仮想空間２のＸＺ断面とによって定義される。プロセッサ１０は、仮想空間２における基準視線５を中心とした方位角βを含む範囲を、領域２５として規定する。極角αおよびβは、仮想カメラ１の配置位置と仮想カメラ１の向きとに応じて定まる。

ある局面において、ＨＭＤシステム１００は、コンピュータ２００からの信号に基づいて、視界画像２６をモニタ１１２に表示させることにより、ユーザ１９０に仮想空間における視界を提供する。視界画像２６は、仮想空間画像２２のうち視認領域２３に重畳する部分に相当する。ユーザ１９０が、頭に装着したＨＭＤ１１０を動かすと、その動きに連動して仮想カメラ１も動く。その結果、仮想空間２における視認領域２３の位置が変化する。これにより、モニタ１１２に表示される視界画像２６は、仮想空間画像２２のうち、仮想空間２においてユーザが向いた方向の視認領域２３に重畳する画像に更新される。ユーザは、仮想空間２における所望の方向を視認することができる。

このように、仮想カメラ１の向き（傾き）は仮想空間２におけるユーザの視線（基準視線５）に相当し、仮想カメラ１が配置される位置は、仮想空間２におけるユーザの視点に相当する。したがって、仮想カメラ１を移動（配置位置を変える動作、向きを変える動作を含む）させることにより、モニタ１１２に表示される画像が更新され、ユーザ１９０の視界が移動される。

ユーザ１９０は、ＨＭＤ１１０を装着している間、現実世界を視認することなく、仮想空間２に展開される仮想空間画像２２のみを視認できる。そのため、ＨＭＤシステム１００は、仮想空間２への高い没入感覚をユーザに与えることができる。

ある局面において、プロセッサ１０は、ＨＭＤ１１０を装着したユーザ１９０の現実空間における移動に連動して、仮想空間２において仮想カメラ１を移動し得る。この場合、プロセッサ１０は、仮想空間２における仮想カメラ１の位置および向きに基づいて、ＨＭＤ１１０のモニタ１１２に投影される画像領域（すなわち、仮想空間２における視認領域２３）を特定する。

ある実施の形態に従うと、仮想カメラ１は、２つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含み得る。また、ユーザ１９０が３次元の仮想空間２を認識できるように、適切な視差が、２つの仮想カメラに設定される。本実施の形態においては、仮想カメラ１が２つの仮想カメラを含み、２つの仮想カメラのロール方向が合成されることによって生成されるロール方向（ｗ）がＨＭＤ１１０のロール方向（ｗ）に適合されるように構成されているものとして、本開示に係る技術思想を例示する。

［ＨＭＤの制御装置］
図８を参照して、ＨＭＤ１１０の制御装置について説明する。ある実施の形態において、制御装置は周知の構成を有するコンピュータ２００によって実現される。図８は、ある実施の形態に従うコンピュータ２００をモジュール構成として表わすブロック図である。

図９に示されるように、コンピュータ２００は、表示制御モジュール２２０と、仮想空間制御モジュール２３０と、メモリモジュール２４０と、通信制御モジュール２５０とを備える。表示制御モジュール２２０は、サブモジュールとして、仮想カメラ制御モジュール２２１と、視界領域決定モジュール２２２と、視界画像生成モジュール２２３と、基準視線特定モジュール２２４と、顔器官検出モジュール２２５と、動き検出モジュール２６６とを含む。仮想空間制御モジュール２３０は、サブモジュールとして、仮想空間定義モジュール２３１と、仮想オブジェクト生成モジュール２３２と、操作オブジェクト制御モジュール２３３と、アバター制御モジュール２３４とを含む。

ある実施の形態において、表示制御モジュール２２０と仮想空間制御モジュール２３０とは、プロセッサ１０によって実現される。別の実施の形態において、複数のプロセッサ１０が表示制御モジュール２２０と仮想空間制御モジュール２３０として作動してもよい。メモリモジュール２４０は、メモリ１１またはストレージ１２によって実現される。通信制御モジュール２５０は、通信インターフェイス１４によって実現される。

ある局面において、表示制御モジュール２２０は、ＨＭＤ１１０のモニタ１１２における画像表示を制御する。

仮想カメラ制御モジュール２２１は、仮想空間２に仮想カメラ１を配置する。また、仮想カメラ制御モジュール２２１は、仮想空間２における仮想カメラ１の配置位置と、仮想カメラ１の向き（傾き）を制御する。視界領域決定モジュール２２２は、ＨＭＤ１１０を装着したユーザの頭の向きと、仮想カメラ１の配置位置に応じて、視認領域２３を規定する。視界画像生成モジュール２２３は、決定された視認領域２３に基づいて、モニタ１１２に表示される視界画像２６を生成する。

基準視線特定モジュール２２４は、注視センサ１４０からの信号に基づいて、ユーザ１９０の視線を特定する。顔器官検出モジュール２２５は、第１カメラ１１５および第２カメラ１１７が生成するユーザ１９０の顔の画像から、ユーザ１９０の顔を構成する器官（例えば、口，目，眉）を検出する。動き検出モジュール２２６は、顔器官検出モジュール２２５が検出した各器官の動き（形状）を検出する。図１０〜図１２において、顔器官検出モジュール２２５および動き検出モジュール２２６の制御内容は後述される。

仮想空間制御モジュール２３０は、ユーザ１９０に提供される仮想空間２を制御する。仮想空間定義モジュール２３１は、仮想空間２を表わす仮想空間データを生成することにより、ＨＭＤシステム１００における仮想空間２を規定する。

仮想オブジェクト生成モジュール２３２は、仮想空間２に配置されるオブジェクトを生成する。オブジェクトは、例えば、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、動物等を含み得る。

操作オブジェクト制御モジュール２３３は、仮想空間２においてユーザの操作を受け付けるための操作オブジェクトを仮想空間２に配置する。ユーザは、操作オブジェクトを操作することにより、例えば、仮想空間２に配置されるオブジェクトを操作する。ある局面において、操作オブジェクトは、例えば、ＨＭＤ１１０を装着したユーザの手に相当する手オブジェクト等を含み得る。ある局面において、操作オブジェクトは、後述するアバターオブジェクトの手の部分に相当し得る。

アバター制御モジュール２３４は、ネットワークを介して接続される他のコンピュータ２００のユーザのアバターオブジェクトを生成して仮想空間２に配置するためのデータを生成する。ある局面において、アバター制御モジュール２３４は、ユーザ１９０のアバターオブジェクトを仮想空間２に配置するためのデータを生成する。ある局面において、アバター制御モジュール２３４は、ユーザ１９０を含む画像に基づいて、ユーザ１９０を模したアバターオブジェクトを生成する。他の局面において、アバター制御モジュール２３４は、複数種類のアバターオブジェクト（例えば、動物を模したオブジェクトや、デフォルメされた人のオブジェクト）の中からユーザ１９０による選択を受け付けたアバターオブジェクトを仮想空間２に配置するためのデータを生成する。

アバター制御モジュール２３４は、ＨＭＤセンサ１２０が検出するＨＭＤ１１０の動きをアバターオブジェクトに反映する。例えば、アバター制御モジュール２３４は、ＨＭＤ１１０が傾いたことを検知して、アバターオブジェクトを傾けるて配置するためのデータを生成する。また、ある局面において、アバター制御モジュール２３４は、コントローラ１６０の動きをアバターオブジェクトに反映する。この場合、コントローラ１６０には、コントローラ１６０の動きを検知するためのモーションセンサ、加速度センサ、または複数の発光素子（例えば、赤外線ＬＥＤ）などが搭載されるを備えている。また、アバター制御モジュール２３４は、動き検出モジュール２２６が検出した顔器官の動作を、仮想空間２に配置されるアバターオブジェクトの顔に反映させる。

仮想空間制御モジュール２３０は、仮想空間２に配置されるオブジェクトのそれぞれが、他のオブジェクトと衝突した場合に、当該衝突を検出する。仮想空間制御モジュール２３０は、例えば、あるオブジェクトと、別のオブジェクトとが触れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行なう。仮想空間制御モジュール２３０は、オブジェクトとオブジェクトとが触れている状態から離れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行なう。仮想空間制御モジュール２３０は、オブジェクトとオブジェクトとが触れている状態であることを検出することができる。具体的には、操作オブジェクト制御モジュール２３３は、操作オブジェクトと、他のオブジェクトとが触れたときに、これら操作オブジェクトと他のオブジェクトとが触れたことを検出して、予め定められた処理を行なう。

メモリモジュール２４０は、コンピュータ２００が仮想空間２をユーザ１９０に提供するために使用されるデータを保持している。ある局面において、メモリモジュール２４０は、空間情報２４１と、オブジェクト情報２４２と、ユーザ情報２４３と、顔テンプレート２４４とを保持している。

空間情報２４１は、仮想空間２を提供するために規定された１つ以上のテンプレートを保持している。

オブジェクト情報２４２は、仮想空間２において再生されるコンテンツ、当該コンテンツで使用されるオブジェクト、およびオブジェクトを仮想空間２に配置するための情報（たとえば、位置情報）を保持している。当該コンテンツは、例えば、ゲーム、現実社会と同様の風景を表したコンテンツ等を含み得る。

ユーザ情報２４３は、ＨＭＤシステム１００の制御装置としてコンピュータ２００を機能させるためのプログラム、オブジェクト情報２４２に保持される各コンテンツを使用するアプリケーションプログラム等を保持している。

顔テンプレート２４４は、顔器官検出モジュール２２５が、ユーザ１９０の顔器官を検出するために予め準備されたテンプレートを保持している。ある実施形態において、顔テンプレート２４４は、口テンプレート２４５と、目テンプレート２４６と、眉テンプレート２４７とを保持する。口テンプレート２４５は、上唇テンプレート２４５２と、下唇テンプレート２４５４と、舌テンプレート２４５６とを含む。これら各テンプレートは、顔を構成する器官に対応する画像であり得る。例えば、口テンプレート２４５は、口の画像であり得る。なお、各テンプレートは複数の画像を含んでもよい。

メモリモジュール２４０に格納されているデータおよびプログラムは、ＨＭＤ１１０のユーザによって入力される。あるいは、プロセッサ１０が、当該コンテンツを提供する事業者が運営するコンピュータ（例えば、サーバ１５０）からプログラムあるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール２４０に格納する。

通信制御モジュール２５０は、ネットワーク１９を介して、サーバ１５０その他の情報通信装置と通信し得る。

ある局面において、表示制御モジュール２２０および仮想空間制御モジュール２３０は、例えば、ユニティテクノロジーズ社によって提供されるＵｎｉｔｙ（登録商標）を用いて実現され得る。別の局面において、表示制御モジュール２２０および仮想空間制御モジュール２３０は、各処理を実現する回路素子の組み合わせとしても実現され得る。

コンピュータ２００における処理は、ハードウェアと、プロセッサ１０により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール２４０に予め格納されている場合がある。また、ソフトウェアは、ＣＤ−ＲＯＭその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール２５０を介してサーバ１５０その他のコンピュータからダウンロードされた後、記憶モジュールに一旦格納される。そのソフトウェアは、プロセッサ１０によって記憶モジュールから読み出され、実行可能なプログラムの形式でＲＡＭに格納される。プロセッサ１０は、そのプログラムを実行する。

［アバターオブジェクト］
図９を参照して、本実施の形態に従うアバターオブジェクトについて説明する。図９は、ＨＭＤセット１０５Ａ，１０５Ｂの各ユーザのアバターオブジェクトを説明する図である。以下、ＨＭＤセット１０５Ａのユーザをユーザ１９０Ａ、ＨＭＤセット１０５Ｂのユーザをユーザ１９０Ｂ、ＨＭＤセット１０５Ｃのユーザをユーザ１９０Ｃ、ＨＭＤセット１０５Ｄのユーザをユーザ１９０Ｄと表す。また、ＨＭＤセット１０５Ａに関する各構成要素の参照符号にＡが付され、ＨＭＤセット１０５Ｂに関する各構成要素の参照符号にＢが付され、ＨＭＤセット１０５Ｃに関する各構成要素の参照符号にＣが付され、ＨＭＤセット１０５Ｄに関する各構成要素の参照符号にＤが付される。例えば、ＨＭＤ１１０Ａは、ＨＭＤセット１０５Ａに含まれる。

分図（Ａ）は、ネットワークにおいて、複数のＨＭＤのそれぞれが、複数のユーザのそれぞれに仮想空間を提供する状況を模式的に示す図である。分図（Ａ）を参照して、コンピュータ２００Ａ〜２００Ｄのそれぞれは、ＨＭＤ１１０Ａ〜１１０Ｄのそれぞれを介して、ユーザ１９０Ａ〜１９０Ｄのそれぞれに、仮想空間２Ａ〜２Ｄのそれぞれを提供する。図９に示される例において、仮想空間２Ａと仮想空間２Ｂは同じである。換言すれば、コンピュータ２００Ａとコンピュータ２００Ｂとは同じ仮想空間を共有していることになる。仮想空間２Ａおよび仮想空間２Ｂには、ユーザ１９０Ａのアバターオブジェクト９００Ａと、ユーザ１９０Ｂのアバターオブジェクト９００Ｂとが存在する。なお、仮想空間２Ａにおけるアバターオブジェクト９００Ａおよび仮想空間２Ｂにおけるアバターオブジェクト９００ＢがそれぞれＨＭＤを装着しているが、これは説明を分かりやすくするためのものであって、実際にはこれらのオブジェクトはＨＭＤを装着していない。

ある局面において、仮想カメラ制御モジュール２２１Ａは、ユーザ１９０Ａの視界画像２３Ａを撮影する仮想カメラ１Ａを、アバターオブジェクト９００Ａの目の位置に配置し得る。

分図（Ｂ）は、ユーザ１９０Ａの視界画像９１０を示す図である。視界画像９１０は、ＨＭＤ１１０Ａのモニタ１１２Ａに表示される画像である。この視界画像９１０は、仮想カメラ１Ａにより生成された画像である。また、視界画像９１０には、ユーザ１９０Ｂのアバターオブジェクト９００Ｂが表示されている。なお、特に図示はしていないが、ユーザ１９０Ｂの視界画像にも同様に、ユーザ１９０Ａのアバターオブジェクト９００Ａが表示されている。

分図（Ｂ）の状態において、ユーザ１９０Ａは仮想空間を介してユーザ１９０Ｂと対話による通信（コミュニケーション）を図ることができる。より具体的には、マイク１１９Ａにより取得されたユーザ１９０Ａの音声は、サーバ１５０を介してユーザ１９０ＢのＨＭＤ１１０Ｂに送信され、ＨＭＤ１１０Ｂに設けられたスピーカ１１８Ｂから出力される。また、ユーザ１９０Ｂの音声は、サーバ１５０を介してユーザ１９０ＡのＨＭＤ１１０Ａに送信され、ＨＭＤ１１０Ａに設けられたスピーカ１１８Ａから出力される。

上記の通り、ユーザ１９０Ａの動作（ＨＭＤ１１０Ａの動作、コントローラ１６０Ａの動作）は、アバター制御モジュール２３４によりアバターオブジェクト９００Ａに反映される。これにより、ユーザ１９０Ｂは、ユーザ１９０Ａの動作を、アバターオブジェクト９００Ａを通じて認識できる。

加えて、アバター制御モジュール２３４は、ユーザ１９０Ａの顔の動作をアバターオブジェクト９００Ａに反映する。

［フェイストラッキング］
以下、図１０〜図１２を参照してユーザの顔の動作（形状）を検出するための具体例について説明する。図１０〜図１２では、一例として、ユーザの口の動作を検出する具体例について説明する。なお、図１０〜図１２で説明される検出方法は、ユーザの口の動作に限られず、ユーザの顔を構成する他の器官（例えば、目、眉）の動作の検出にも適用され得る。

図１０は、第１カメラ１１５が撮影するユーザの顔画像１０００を示す。顔画像１０００は、ユーザ１９０の鼻と口とを含む。

顔器官検出モジュール２２５は、顔テンプレート２４４に格納される口テンプレート２４５を利用したパターンマッチングにより、顔画像１０００から口領域１０１０を特定する。ある局面において、顔器官検出モジュール２２５は、顔画像１０００において、矩形上の比較領域を設定し、この比較領域の大きさ、位置および角度をそれぞれ変えながら、比較領域の画像と、口テンプレート２４５の画像との類似度を算出する。顔器官検出モジュール２２５は、予め定められたしきい値よりも大きい類似度が算出された比較領域を、口領域１０１０として特定し得る。

顔器官検出モジュール２２５はさらに、算出した類似度がしきい値よりも大きい比較領域の位置と、他の顔器官（例えば、目、鼻）の位置との相対関係に基づいて、当該比較領域が口領域に相当するか否かを判断し得る。

動き検出モジュール２２６は、顔器官検出モジュール２２５が検出した口領域１０１０から、より詳細な口の形状を検出する。

図１１は、動き検出モジュール２２６が口の形状を検出する処理（その１）を示す。図１１を参照して、動き検出モジュール２２６は、口領域１０１０に含まれる口の形状（唇の輪郭）を検出するための輪郭検出線１１００を設定する。輪郭検出線１１００は、顔の高さ方向（以下、「縦方向」とも称する）に直交する方向（以下、「横方向」とも称する）に、所定間隔で複数本設定される。

動き検出モジュール２２６は、複数本の輪郭検出線１１００の各々に沿った口領域１０１０の輝度値の変化を検出し、輝度値の変化が急激な位置を輪郭点として特定し得る。より具体的には、動き検出モジュール２２６は、隣接画素との輝度差（すなわち、輝度値変化）が予め定められたしきい値以上である画素を、輪郭点として特定し得る。画素の輝度値は、例えば、画素のＲＢＧ値を所定の重み付けで積算することにより得られる。

動き検出モジュール２２６は、口領域１０１０に対応する画像から２種類の輪郭点を特定する。動き検出モジュール２２６は、口（唇）の外側の輪郭に対応する輪郭点１１１０と、口（唇）の内側の輪郭に対応する輪郭点１１２０とを特定する。ある局面において、動き検出モジュール２２６は、１つの輪郭検出線１１００上に３つ以上の輪郭点が検出された場合には、両端の輪郭点を外側の輪郭点１１１０として特定し得る。この場合、動き検出モジュール２２６は、外側の輪郭点１１１０以外の輪郭点を、内側の輪郭点１１２０として特定し得る。また、動き検出モジュール２２６は、１つの輪郭検出線１１００上に２つ以下の輪郭点が検出された場合には、検出された輪郭点を外側の輪郭点１１１０として特定し得る。

図１２は、動き検出モジュール２２６が口の形状を検出する処理（その２）を示す。図１２では、外側の輪郭点１１１０は白丸、内側の輪郭点１１２０はハッチングされた丸としてそれぞれ示されている。

動き検出モジュール２２６は、内側の輪郭点１１２０間を補完することにより、口形状１２００（口の開き具合）を特定する。ある局面において、動き検出モジュール２２６は、スプライン補間などの非線形の補間方法を用いて、口形状１２００を特定し得る。なお、他の局面において、動き検出モジュール２２６は、外側の輪郭点１１１０間を補完することにより口形状１２００を特定してもよい。さらに他の局面において、動き検出モジュール２２６は、想定される口形状（人の上唇と下唇とによって形成され得る所定の形状）から、大きく逸脱する輪郭点を除外し、残った輪郭点によって口形状１２００を特定してもよい。このようにして、動き検出モジュール２２６は、ユーザの口の動作（形状）を特定し得る。なお、口形状１２００の検出方法は上記に限られず、動き検出モジュール２２６は、他の手法により口形状１２００を検出してもよい。また、動き検出モジュール２２６は、同様にして、ユーザの目および眉その他の顔器官の動作を検出し得る。

動き検出モジュール２２６はさらに、口を構成する上唇と下唇とを検出し得る。一例として、動き検出モジュール２２６は、外側の輪郭点１１１０のうち、横方向の両端に存在する輪郭点１１１０−Ｒと輪郭点１１１０−Ｌとを特定する。動き検出モジュール２２６は、これら両端に存在する輪郭点と、これら輪郭点より上下方向において下側に存在する内側の輪郭点１１２０および外側の輪郭点１１１０とによって囲まれる領域１２１０を下唇として検出し得る。また、動き検出モジュール２２６は、両端に存在する外側の輪郭点１１１０−Ｒ，１１１０−Ｌと、これら輪郭点より上下方向において上側に存在する内側の輪郭点１１２０および外側の輪郭点１１１０とによって囲まれる領域を上唇として検出し得る。

他の局面において、顔器官検出モジュール２２５は、第１カメラ１１５が撮影する画像１０００とメモリモジュール２４０に格納される下唇テンプレート２４５４とをパターンマッチングすることにより、画像１０００からユーザ１９０の下唇を検出し得る。より具体的には、顔器官検出モジュール２２５は、下唇テンプレート２４５４との類似度が予め定められたしきい値よりも高い画像１０００に含まれる比較領域を、下唇として検出し得る。顔器官検出モジュール２２５は、下唇の検出方法と同様に、画像１０００と上唇テンプレート２４５２とをパターンマッチングすることにより、画像１０００からユーザ１９０の上唇を検出し得る。

図１３は、現実空間におけるユーザの表情と、仮想空間におけるユーザのアバターオブジェクトの表情との対比を示す。分図（Ａ）は、現実空間におけるユーザ１９０Ｂを示す。分図（Ｂ）は、ユーザ１９０Ａが視認する視界画像１３１０を示す。

分図（Ａ）を参照して、ＨＭＤセット１０５Ｂを構成する第１カメラ１１５Ｂおよび第２カメラ１１７Ｂは、ユーザ１９０Ｂを撮影する。このとき、ユーザ１９０Ｂは笑っている。なお、分図（Ａ）において、ユーザはＨＭＤ１１０Ｂを装着しているが、便宜的にＨＭＤ１１０Ｂが存在しないものとして表現している。これは、後述する同様の図面においても同様とする。

動き検出モジュール２２６Ｂは、第１カメラ１１５Ｂが撮影する画像に基づいて、ユーザ１９０Ｂの口の形状を検出する。コンピュータ２００Ｂは、検出した口の形状（動作）を示すデータをサーバ１５０に出力する。サーバ１５０は、コンピュータ２００Ｂと同じ仮想空間２を共有するコンピュータ２００Ａに、当該データを転送する。アバター制御モジュール２３４Ａは、このデータに基づき、ユーザ１９０Ｂの口の形状をアバターオブジェクト９００Ｂに反映する。これにより、分図（Ｂ）に示されるように、ユーザ１９０Ａの視界画像１３１０に表示されるアバターオブジェクト９００Ｂは、笑っている表情を表す。

［サーバ１５０の制御構造］
図１４は、サーバ１５０のハードウェア構成およびモジュール構成の一例を示す。ある実施の形態において、サーバ１５０は、主たる構成要素として通信インターフェイス１４１０と、プロセッサ１４２０と、ストレージ１４３０とを備える。

通信インターフェイス１４１０は、コンピュータ２００など外部の通信機器と信号を送受信するための変復調処理などを行なう無線通信用の通信モジュールとして機能する。通信インターフェイス１４１０は、チューナ、高周波回路等により実現される。

プロセッサ１４２０は、サーバ１５０の動作を制御する。プロセッサ１４２０は、ストレージ１４３０に格納される各種の制御プログラムを実行することにより、送受信部１４２２、サーバ処理部１４２４、およびマッチング部１４２６として機能する。

送受信部１４２２は、各コンピュータ２００と各種情報を送受信する。例えば、送受信部１４２２は、仮想空間２にオブジェクトを配置する要求、オブジェクトを仮想空間２から削除する要求、オブジェクトを移動させる要求、ユーザの音声、または仮想空間２を定義するための情報などを各コンピュータ２００に送信する。

サーバ処理部１４２４は、複数のユーザが同じ仮想空間２を共有するために必要な処理を行なう。例えば、サーバ処理部１４２４は、コンピュータ２００から受信した情報に基づいて、後述するアバターオブジェクト情報１４３６を更新する。

マッチング部１４２６は、複数のユーザを関連付けるための一連の処理を行なう。マッチング部１４２６は、例えば、複数のユーザが同じ仮想空間２を共有するための入力操作を行った場合に、仮想空間２に属するユーザ同士を関連付ける処理などを行なう。

ストレージ１４３０は、仮想空間指定情報１４３２と、オブジェクト指定情報１４３４と、アバターオブジェクト情報１４３６と、ユーザ情報１４３８とを保持する。

仮想空間指定情報１４３２は、コンピュータ２００の仮想空間定義モジュール２３１が仮想空間２を定義するために用いられる情報である。例えば、仮想空間指定情報１４３２は、仮想空間２の大きさを指定する情報を含む。

オブジェクト指定情報１４３４は、コンピュータ２００の仮想オブジェクト生成モジュール２３２が仮想空間２に配置（生成）するオブジェクトを指定する。

アバターオブジェクト情報１４３６は、顔情報１４４０と、位置情報１４４２とを含む。顔情報１４４０は、コンピュータ２００のユーザの顔を構成する各器官（例えば、口，目，眉）の動作（形状）を示す情報（フェイストラッキングデータ）である。位置情報１４４２は、仮想空間２における各アバターオブジェクトの位置（座標）を示す。アバターオブジェクト情報１４３６は、コンピュータ２００から入力される情報に基づいて随時更新され得る。

ユーザ情報１４３８は、コンピュータ２００のユーザ１９０についての情報である。ユーザ情報１４３８は、例えば、複数のユーザ１９０を互いに識別する識別情報（例えば、ユーザアカウント）を含む。

［ユーザの動作をアバターオブジェクトに反映するための制御］
図１５を参照して、仮想空間におけるアバターオブジェクトの動作の制御方法について説明する。図１５は、ユーザの動作をアバターオブジェクトに反映するための、コンピュータ２００とサーバ１５０との信号のやりとりを表わすフローチャートである。図１５に示される処理は、コンピュータ２００のプロセッサ１０がメモリ１１またはストレージ１２に格納される制御プログラムを実行し、サーバ１５０のプロセッサ１４２０がストレージ１４３０に格納される制御プログラムを実行することにより実現され得る。

ステップＳ１５０２において、サーバ１５０のプロセッサ１４２０は、送受信部１４２２として、コンピュータ２００Ａおよび２００Ｂから受信した仮想空間２を生成するための要求に基づいて、仮想空間指定情報１４３２をコンピュータ２００Ａおよび２００Ｂに送信する。このとき、各コンピュータ２００は、仮想空間指定情報１４３２と併せてユーザ１９０の識別情報をサーバ１５０に送信し得る。プロセッサ１４２０はさらに、マッチング部１４２６として、ユーザ１９０Ａおよび１９０Ｂが同じ仮想空間を共有するものとして、彼らの識別情報を互いに関連付け得る。

ステップＳ１５０４において、コンピュータ２００Ａのプロセッサ１０Ａは、仮想空間定義モジュール２３１Ａとして、受信した仮想空間指定情報１４３２に基づいて、仮想空間２Ａを定義する。ステップＳ１５０６において、コンピュータ２００Ｂのプロセッサ１０Ｂは、プロセッサ１０Ａと同様に仮想空間２Ｂを定義する。

ステップＳ１５０８において、プロセッサ１４２０は、仮想空間２Ａおよび２Ｂに配置されるオブジェクトを指定するためのオブジェクト指定情報１４３４をコンピュータ２００Ａおよび２００Ｂに送信する。

ステップＳ１５１０において、プロセッサ１０Ａは、仮想オブジェクト生成モジュール２３２Ａとして、受信したオブジェクト指定情報１４３４に基づいて、仮想空間２Ａにオブジェクトを配置する。ステップＳ１５１２において、プロセッサ１０Ｂは、プロセッサ１０Ａと同様に仮想空間２Ｂにオブジェクトを配置する。

ステップＳ１５１４において、プロセッサ１０Ａは、アバター制御モジュール２３４Ａとして、ユーザ１９０Ａ自身のアバターオブジェクト９００Ａ（図１５では「自アバターオブジェクト」と表記）を仮想空間２Ａに配置する。プロセッサ１０Ａはさらに、アバターオブジェクト９００Ａの情報（例えば、モデリングのためのデータ、位置情報など）をサーバ１５０に送信する。

ステップＳ１５１６において、プロセッサ１４２０は、受信したアバターオブジェクト９００Ａの情報をストレージ１４３０（アバターオブジェクト情報１４３６）に保存する。プロセッサ１４２０はさらに、アバターオブジェクト９００Ａの情報を、コンピュータ２００Ａと仮想空間を共有するコンピュータ２００Ｂに送信する。

ステップＳ１５１８において、プロセッサ１０Ｂは、アバター制御モジュール２３４Ｂとして、受信したアバターオブジェクト９００Ａの情報に基づいて、仮想空間２Ｂにアバターオブジェクト９００Ａを配置する。

ステップＳ１５２０〜Ｓ１５２４において、ステップＳ１５１４〜Ｓ１５１８と同様に、仮想空間２Ａおよび２Ｂにアバターオブジェクト９００Ｂ（図１５では「他アバターオブジェクト」と表記）が生成され、ストレージ１４３０にアバターオブジェクト９００Ｂの情報が保存される。

ステップＳ１５２６において、プロセッサ１０Ａは、第１カメラ１１５Ａおよび第２カメラ１１７Ａによりユーザ１９０Ａの顔を撮影して、顔画像を生成する。

ステップＳ１５２８において、プロセッサ１０Ａは、顔器官検出モジュール２２５Ａおよび動き検出モジュール２２６Ａとして、ユーザ１９０Ａの顔（例えば、口，目，眉）の動作（形状）を示すフェイストラッキングデータを検出する。プロセッサ１０Ａはさらに、検出したフェイストラッキングデータをサーバ１５０に送信する。

ステップＳ１５３０において、プロセッサ１０Ａは、アバター制御モジュール２３４Ａとして、検出したユーザ１９０Ａの顔の動作を仮想空間２Ａに配置されるアバターオブジェクト９００Ａに反映する。

ステップＳ１５３２〜ステップＳ１５３６において、プロセッサ１０Ｂは、ステップＳ１５２６〜Ｓ１５３０と同様に、第１カメラ１１５Ｂおよび第２カメラ１１７Ｂが生成する顔画像に基づいて、ユーザ１９０Ｂの顔の動作をアバターオブジェクト９００Ｂに反映する。また、プロセッサ１０Ｂは、ユーザ１９０Ｂの顔の動作を示すフェイストラッキングデータをサーバ１５０に送信する。

ステップＳ１５３８において、プロセッサ１４２０は、サーバ処理部１４２４として、コンピュータ２００Ａから受信したフェイストラッキングデータに基づいてアバターオブジェクト９００Ａに対応する顔情報１４４０を更新する。プロセッサ１４２０はさらに、コンピュータ２００Ｂから受信したフェイストラッキングデータに基づいてアバターオブジェクト９００Ｂに対応する顔情報１４４０を更新する。

ステップＳ１５３８において、プロセッサ１４２０はさらに、送受信部１４２２として、コンピュータ２００Ａから受信したフェイストラッキングデータをコンピュータ２００Ｂに送信する。また、プロセッサ１４２０は、コンピュータ２００Ｂから受信したフェイストラッキングデータをコンピュータ２００Ａに送信する。

ステップＳ１５４０において、プロセッサ１０Ａは、アバター制御モジュール２３４Ａとして、サーバ１５０から受信したフェイストラッキングデータに基づいてユーザ１９０Ｂの顔の動作をアバターオブジェクト９００Ｂに反映する。

ステップＳ１５４２において、プロセッサ１０Ｂは、アバター制御モジュール２３４Ｂとして、サーバ１５０から受信したフェイストラッキングデータに基づいてユーザ１９０Ａの顔の動作をアバターオブジェクト９００Ａに反映する。

ステップＳ１５４４において、プロセッサ１０Ａは、アバターオブジェクト９００Ａを移動させる。このステップにおける「移動」とは、アバターオブジェクトの座標位置を変更することと、アバターオブジェクトの向き（傾き）を変更することとを含む。一例として、プロセッサ１０Ａは、コントローラ１６０から、自身のアバターオブジェクト９００Ａを動かすための指示の入力を受け付ける。他の例として、プロセッサ１０Ａは、ＨＭＤセンサ１２０が検出するＨＭＤ１１０の位置情報に基づいて、アバターオブジェクト９００Ａを動かす。ステップＳ１５４４において、プロセッサ１０Ａはさらに、アバターオブジェクト９００Ａの仮想空間２Ａにおける位置情報をサーバ１５０に送信する。他の局面において、プロセッサ１０Ａは、アバターオブジェクト９００Ａの移動量を示す情報をサーバ１５０に送信する構成であってもよい。

ステップＳ１５４６において、プロセッサ１０Ｂは、プロセッサ１０Ａと同様に、アバターオブジェクト９００Ｂを移動させるとともに、アバターオブジェクト９００Ｂの仮想空間２Ｂにおける位置情報をサーバ１５０に送信する。

ステップＳ１５４８において、プロセッサ１４２０は、サーバ処理部１４２４として、コンピュータ２００Ａから受信した位置情報に基づいてアバターオブジェクト９００Ａに対応する位置情報１４４２を更新する。プロセッサ１４２０はさらに、コンピュータ２００Ｂから受信した位置情報に基づいてアバターオブジェクト９００Ｂに対応する位置情報１４４２を更新する。

ステップＳ１５４８において、プロセッサ１４２０はさらに、送受信部１４２２として、コンピュータ２００Ａから受信した位置情報をコンピュータ２００Ｂに送信する。また、プロセッサ１４２０は、コンピュータ２００Ｂから受信した位置情報をコンピュータ２００Ａに送信する。

ステップＳ１５５０において、プロセッサ１０Ａは、アバター制御モジュール２３４Ａとして、受信した位置情報に基づいてアバターオブジェクト９００Ｂを移動させる。ステップＳ１５５２において、プロセッサ１０Ｂは、アバター制御モジュール２３４Ｂとして、受信した位置情報に基づいてアバターオブジェクト９００Ａを移動させる。

ステップＳ１５５４において、プロセッサ１０Ａは、アバターオブジェクト９００Ａの目の位置に配置される仮想カメラ１Ａが撮影する画像を、モニタ１１２Ａに表示する。これにより、ユーザ１９０Ａが視認する視界画像が更新される。その後、プロセッサ１０Ａは、処理をステップＳ１５２６に戻す。

ステップＳ１５５６において、プロセッサ１０Ｂは、プロセッサ１０Ａと同様に、仮想カメラ１Ｂが撮影する画像をモニタ１１２Ｂに表示する。これにより、ユーザ１９０Ｂが視認する視界画像が更新される。その後、プロセッサ１０Ｂは、処理をステップＳ１５３２に戻す。

ある実施の形態において、繰り返し実行されるステップＳ１５２６〜Ｓ１５５６の処理は、１／６０秒または１／３０秒の間隔で実行され得る。

上記の一連の処理により、ユーザ１９０は、仮想空間２において、相手のアバターオブジェクトを通じて、相手の表情を読み取ることができる。

なお、他の局面において、上記の繰り返し実行される処理は、ユーザ１９０の音声を、相手のコンピュータ２００に送信する処理、その他の仮想空間２におけるユーザ同士のコミュニケーションを促進する処理を含み得る。

また、上記の例において、ステップＳ１４１４およびステップＳ１４２０において、コンピュータ２００は、当該コンピュータ２００のユーザ自身のアバターオブジェクト９００を仮想空間２に配置する構成であった。他の局面において、これらの処理は省略され得る。仮想空間２において相手のアバターオブジェクトさえ配置されていれば、相手とのコミュニケーションを図ることができるためである。

［舌の検出方法］
以下、仮想空間におけるユーザ同士のより円滑なコミュニケーションを実現する技術について説明する。より具体的には、現実空間でユーザ１９０が舌を出したことを検知して、その動作を仮想空間に配置されるアバターオブジェクト９００に反映する技術について説明する。

対面対話において人が舌を大きく口から出すことは稀である。一般的に、人は、恥ずかしさをごまかす場合に、舌を少しだけ出す場合がある。そのため、仮想空間におけるコミュニケーションを円滑にするためには、コンピュータは、ユーザが少しだけ舌を出したことも検知して、アバターオブジェクトに反映する必要がある。しかしながら、従来、コンピュータが画像処理によりユーザの舌を認識するためには、ユーザが舌を十分に口から出す必要があった。この場合、コンピュータは、ユーザが少しだけ出した舌を下唇と誤検出するか、そもそも検出できない恐れがある。そこで、以下に、ユーザが少しだけ舌を出した場合であっても、ユーザが舌を出していることを正確に検知し、その動作をアバターオブジェクトに反映させる技術について説明する。

図１６は、実施の形態に従う舌を検出する処理を示す。分図（Ａ）はユーザ１９０Ｂの口を示す。分図（Ｂ）は、ユーザ１９０Ａが視認する視界画像１６００を示す。

分図（Ａ）を参照して、第１カメラ１１５Ｂは、ユーザ１９０Ｂの口を含む画像を撮影する。ユーザ１９０Ｂの口は、上唇１６１０と、下唇１６２０と、舌１６３０とを含む。

プロセッサ１０Ｂは、第１カメラ１１５Ｂが取得する画像に基づいて、図１０〜図１２で説明した一連の処理を実行し、当該画像からユーザ１９０Ｂの下唇１６２０を検出する。その後に、ユーザ１９０Ｂが舌１６３０を突き出すと、分図（Ａ）に示されるように、下唇１６２０の一部が舌１６３０によって覆い隠される。この特性を利用して、プロセッサ１０Ｂは、検出した下唇１６２０の少なくとも一部が隠れた場合に、ユーザ１９０Ｂの舌がユーザ１９０Ｂの口から出ていると判断する。

プロセッサ１０Ｂは、ユーザ１９０Ｂの舌が口から出ていると判断した場合に、その旨を示すフェイストラッキングデータをサーバ１５０に送信する。サーバ１５０は、受信したフェイストラッキングデータに基づいて、アバターオブジェクト９００Ｂに対応する顔情報１４４０を更新するとともに、コンピュータ２００Ｂと仮想空間を共有するコンピュータ２００Ａにこのデータを送信する。コンピュータ２００Ａのプロセッサ１０Ａは、受信したフェイストラッキングデータに基づいて、仮想空間２Ａに配置されるアバターオブジェクト９００Ｂの舌をアバターオブジェクト９００Ｂの口から出ている状態にする。これにより、分図（Ｂ）に示されるように、ユーザ１９０Ａが視認するアバターオブジェクト９００Ｂは、舌が出ている状態になる。

上記によれば、ＨＭＤシステム１００は、ユーザの舌が出ているか否かの判断を、ユーザの下唇が隠れたか否かによって判断を行なうため、ユーザの舌が少ししか出ていない場合であっても、精度よくユーザの舌が出ていることを検知できる。そのため、ＨＭＤシステム１００は、仮想空間に属するユーザ間のコミュニケーションをより円滑にし得る。

［舌の動作をアバターオブジェクトに反映する処理］
図１７は、プロセッサ１０が舌を検出する処理を示すフローチャートである。図１７に示される処理は、プロセッサ１０がストレージ１２に格納される制御プログラムを実行することにより実現され得る。

ステップＳ１７１０において、プロセッサ１０は、サーバ１５０から受信した仮想空間指定情報１４３２に基づいて仮想空間２を定義する。

ステップＳ１７２０において、プロセッサ１０は、コンピュータ２００のユーザ１９０のアバターオブジェクト９００を仮想空間２に配置する。プロセッサ１０はさらに、コンピュータ２００とは異なる他のコンピュータのユーザのアバターオブジェクトも仮想空間２に配置する。

ステップＳ１７３０において、プロセッサ１０は、第１カメラ１１５が生成するユーザ１９０の口を含む画像に基づいて、ユーザ１９０の下唇を検出する。

ステップＳ１７４０において、プロセッサ１０は、検出したユーザ１９０の下唇の少なくとも一部が隠れたか否かを判断する。図１８において、下唇が隠れたか否かを判断する制御の詳細は後述される。

プロセッサ１０は、下唇の少なくとも一部が隠れたと判断した場合（ステップＳ１７４０においてＹＥＳ）、処理をステップＳ１７５０に進める。そうでない場合（ステップＳ１７４０においてＮＯ）、プロセッサ１０は、処理をステップＳ１７３０に戻す。

ステップＳ１７５０において、プロセッサ１０は、下唇を隠している物体が舌であるか否かを判断する。図１９において、この処理の詳細は後述される。

プロセッサ１０は、下唇を隠している物体が舌であると判断した場合（ステップＳ１７５０においてＹＥＳ）、処理をステップＳ１７６０に進める。そうでない場合（ステップＳ１７５０においてＮＯ）、プロセッサ１０は、処理をステップＳ１７３０に戻す。

ステップＳ１７６０において、プロセッサ１０は、仮想空間２に配置されるアバターオブジェクト９００の舌を、アバターオブジェクト９００の口から出ている状態になるように制御する。

ステップＳ１７７０において、プロセッサ１０は、アバターオブジェクト９００の舌が口から出ている状態であることを示すフェイストラッキングデータ（舌のトラッキングデータ）を、サーバ１５０に出力する。

サーバ１５０は、受信したフェイストラッキングデータを、受信元のコンピュータ２００と仮想空間２を共有する他のコンピュータ２００に送信する。これにより、他のコンピュータ２００を利用するユーザは、舌が出ているアバターオブジェクト９００を認識し得る。

上記によれば、ある実施の形態に従うＨＭＤシステム１００は、ユーザの下唇が隠れた場合に、ユーザの舌が出ていると判断するため、ユーザの舌が少ししか出ていない場合であっても、精度よくユーザの舌が出ていることを検知できる。加えて、ＨＭＤシステム１００は、ユーザの舌を隠している物体が舌か否かの判断を行なう。そのため、このシステムは、舌以外の物体（例えば、ユーザの手）によりユーザの下唇が隠された場合に、ユーザの舌の誤検出を抑制できる。

［下唇が隠れているか否かを判断する処理］
図１８は、図１７のステップＳ１７４０の処理例を示す。状態（Ａ）は、ユーザの舌がユーザの口から少し出ている状態を示す。状態（Ｂ）は、ユーザの舌がユーザの口から大きく出ている状態を示す。

プロセッサ１０は、図１０〜図１２で説明した一連の処理を行なうことにより、下唇を構成する外側の輪郭点１８１０と内側の輪郭点１８２０とを検出する。状態（Ａ）および（Ｂ）を参照して、ユーザの舌が少ししか出ていない場合に検出される下唇を構成する輪郭点（１８１０および１８２０）の数は、ユーザの舌が多く出ている場合に検出される下唇を構成する輪郭点の数よりも多い。この特性を利用して、ある実施の形態において、プロセッサ１０は、下唇を構成する輪郭点の数がしきい値未満になった場合に、下唇の少なくとも一部が隠れたと判断し得る。ある局面において、このしきい値は、予め定められた設定値であり得る。他の局面において、このしきい値は、下唇の横方向における長さに応じて定められ得る。より具体的には、下唇の横方向の長さが長いほど、しきい値が大きくなるように設定され得る。

他の局面において、プロセッサ１０は、検出された下唇の面積に基づいて、下唇が隠れたか否かを判断し得る。より具体的には、プロセッサ１０は、図１２で説明したように、下唇を構成する領域（図１２では領域１２１０）を検出し得る。

図１８の状態（Ａ）および状態（Ｂ）を参照して、ユーザの舌が少ししか出ていない場合に比して、ユーザの舌が多く出ている場合の方が下唇を構成する領域１８３０の面積は小さい。この特性を利用して、他の局面に従うプロセッサ１０は、下唇の面積を算出し、算出された下唇の面積がしきい値未満になった場合に、下唇の少なくとも一部が隠れたと判断し得る。

さらに他の局面において、プロセッサ１０は、第１カメラ１１５が生成する画像からユーザ１９０の下唇を検出した後に、当該下唇を検出できなくなった場合に、下唇が隠れたと判断し得る。図１０〜図１２で説明したように、この下唇の検出は、第１カメラ１１５が生成する画像と下唇テンプレート２４５４とのパターンマッチングにより行われ得る。そのため、下唇を検出できなくなったことは、第１カメラ１１５が生成する画像と下唇テンプレート２４５４との類似度が予め定められたしきい値未満になったことを示す。

［下唇を隠している物体が舌であるか否かの判断］
図１９は、図１７のステップＳ１７５０の処理例を示すフローチャートである。

ステップＳ１９１０において、プロセッサ１０は、下唇を隠している物体と、メモリモジュール２４０に格納される舌テンプレート２４５６とのパターンマッチングによる類似度が、しきい値以上であるか否かを判断する。

プロセッサ１０は、類似度がしきい値以上であると判断した場合に（ステップＳ１９１０においてＹＥＳ）、当該物体が舌であると判断する（ステップＳ１９２０）。一方、プロセッサ１０は、類似度がしきい値未満であると判断した場合に（ステップＳ１９１０においてＮＯ）、当該物体が舌ではないと判断する（ステップＳ１９３０）。

他の例において、プロセッサ１０は、下唇を隠している物体の形状に基づいて、当該物体が舌か否かを判断し得る。例えば、プロセッサ１０は、物体の形状が先細り形状（略三角形）の場合、当該物体を舌であると判断し得る。

［アバターオブジェクトが舌を出す量を調節］
上記の実施の形態では、ユーザの舌が出ているか否かを判断する構成であった。以下に説明するＨＭＤシステムは、ユーザの舌が口から出ている量を検出して、仮想空間においてアバターオブジェクトが舌を出す量を調節する。

図２０は、ユーザが舌を出している量を検出する処理を示す。図２０において、ユーザの口から舌２０１０が出ている。

プロセッサ１０は、図１９で説明した処理などにより、第１カメラ１１５が生成する画像において下唇を隠している物体が舌であると判断可能に構成される。プロセッサ１０は、下唇を隠している物体が舌であると判断した場合、舌２０１０の先端２０２０から、上唇を構成する内側の輪郭点２０３０までの距離Ｌ（画素数）を算出する。プロセッサ１０は、この算出した距離Ｌが大きいほど、仮想空間に配置されるアバターオブジェクト９００が舌を出す量が大きくなるように、アバターオブジェクト９００を制御する。ここで、アバターオブジェクト９００が舌を出す量とは、アバターオブジェクト９００の口から舌が突出している距離を言う。

なお、他の局面において、プロセッサ１０は、舌の先端２０２０から上唇を構成する外側の輪郭点２１４０までの距離に基づいて、アバターオブジェクト９００が舌を出す量を調整し得る。

なお、上記の例において、プロセッサ１０は、舌の先端２０２０から上唇までの距離に基づいてアバターオブジェクト９００が舌を出す量を調整しているが、舌を出す量を調整するために用いられるパラメータは、上記の例に限られない。プロセッサ１０は、舌の先端２０２０からユーザ１９０の顔を構成する予め定められた器官（例えば、鼻の先端（鼻尖））までの距離に基づいて、アバターオブジェクト９００が舌を出す量を調整してもよい。

さらに他の局面において、プロセッサ１０は、下唇を隠している物体が舌であると判断した場合に、舌（物体）の面積が大きくなるほど、アバターオブジェクト９００が舌を出す量が多くなるようにアバターオブジェクト９００を制御してもよい。

図２１は、プロセッサ１０がアバターオブジェクト９００の舌を出す量を制御するための処理を示すフローチャートである。なお、図２１に示す処理のうち図１７と同一符号を付している処理は図１７の処理と同じであるため、その処理の説明は繰り返さない。

ステップＳ２１１０において、プロセッサ１０は、ユーザ１９０の顔を構成する基準器官（例えば、上唇）と、舌の先端との距離を算出するとともに、算出した距離に基づいてアバターオブジェクト９００が舌を出す量を決定する。

ステップＳ２１２０において、プロセッサ１０は、決定した舌を出す量に従い、仮想空間２に配置されるアバターオブジェクト９００の舌をアバターオブジェクト９００の口から出ている状態にする。

ステップＳ２１３０において、プロセッサ１０は決定した舌を出す量を示すデータを、サーバ１５０に出力する。サーバ１５０は、受信したデータを、受信元のコンピュータ２００と仮想空間２を共有する他のコンピュータ２００に送信する。これにより、他のコンピュータ２００を利用するユーザは、舌を出す量を調整されたアバターオブジェクト９００を認識し得る。

上記によれば、プロセッサ１０は、現実空間におけるユーザ１９０が舌を口から出した量に従い、仮想空間２に配置されるアバターオブジェクト９００が舌を出す量を調整できる。そのため、ユーザ１９０と仮想空間２を共有する他のユーザは、アバターオブジェクト９００を通じて、ユーザ１９０のより具体的な表情を読み取ることができる。その結果、仮想空間２に没入するユーザは、より円滑なコミュニケーションを図ることができる。

［構成］
以上に開示された技術的特徴は、以下のように要約され得る。

（構成１） ある実施の形態に従うと、仮想空間２を介して通信するためにコンピュータ２００で実行される方法が提供される。この方法は、仮想空間２を定義するステップ（Ｓ１７１０）と、仮想空間を介して通信するユーザ１９０のアバターオブジェクト９００を仮想空間２に配置するステップ（Ｓ１７２０）と、ユーザの口を含む画像の入力を繰り返し受け付けるステップ（Ｓ１７３０）と、画像からユーザの下唇を検出するステップ（Ｓ１７３０）と、検出された下唇の少なくとも一部が隠れた場合（Ｓ１７４０においてＹＥＳ）に、アバターオブジェクト９００の舌をアバターオブジェクト９００の口から出ている状態にするステップ（Ｓ１７６０）とを備える。

（構成２） （構成１）において、アバターオブジェクト９００の舌をアバターオブジェクト９００の口から出ている状態にするステップは、下唇の少なくとも一部が隠れたと判断された場合に、下唇を隠している物体が舌か否かを判断すること（Ｓ１７５０）と、物体が舌であると判断された場合に、アバターオブジェクト９００の舌をアバターオブジェクト９００の口から出ている状態にすること（Ｓ１７６０）とを含む。

（構成３） （構成２）において、物体が舌か否かを判断することは、メモリモジュール２４０に格納される舌テンプレート２４５６と物体との類似度がしきい値以上である場合に、物体が舌であると判断すること（Ｓ１９２０）を含む。

（構成４） （構成２）または（構成３）において、アバターオブジェクト９００の舌をアバターオブジェクト９００の口から出ている状態にするステップは、物体が舌であると判断された場合に、舌の面積が大きいほどアバターオブジェクト９００が舌を出す量を多くすることを含む。

（構成５） （構成２）または（構成３）において、アバターオブジェクト９００の舌をアバターオブジェクト９００の口から出ている状態にするステップは、物体が舌であると判断された場合に、ユーザの顔を構成する基準器官と、舌の先端との距離に基づいて、アバターオブジェクト９００が舌を出す量を調節すること（Ｓ２１１０）を含む。

（構成６） （構成５）において、基準器官は、ユーザの上唇を含む。
（構成７） （構成１）〜（構成６）のいずれかにおいて、アバターオブジェクト９００の舌をアバターオブジェクト９００の口から出ている状態にするステップは、メモリモジュール２４０に格納された下唇テンプレート２４５４と画像との類似度が所定値未満になった場合に、下唇の少なくとも一部が隠れたと判断することを含む。

（構成８） （構成１）〜（構成６）のいずれかにおいて、下唇を検出するステップは、下唇の輪郭点を検出することを含む。アバターオブジェクト９００の舌をアバターオブジェクト９００の口から出ている状態にするステップは、下唇の輪郭点の数がしきい値未満になった場合に下唇の少なくとも一部が隠れたと判断することを含む。

（構成９） （構成１）〜（構成６）のいずれかにおいて、アバターオブジェクト９００の舌をアバターオブジェクト９００の口から出ている状態にするステップは、検出された下唇の面積を算出することと、算出された下唇の面積がしきい値未満である場合に下唇の少なくとも一部が隠れたと判断することとを含む。

（構成１０） （構成１）〜（構成９）のいずれかにおいて、ユーザの下唇を検出することは、画像と、メモリモジュール２４０に格納された下唇テンプレート２４５４とをパターンマッチングすることを含む。

今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。

１ 仮想カメラ、２，２Ａ，２Ｂ 仮想空間、１０，１４２０ プロセッサ、１２，１４３０ ストレージ、１３ 入出力インターフェイス、１４，１４１０ 通信インターフェイス、１００ ＨＭＤシステム、１０５ ＨＭＤセット、１１０ ＨＭＤ、１１２ モニタ、１１４，１２０ センサ、１１５ 第１カメラ、１１７ 第２カメラ、１１８ スピーカ、１１９ マイク、１３０ モーションセンサ、１４０ 注視センサ、１５０ サーバ、１６０ コントローラ、１９０ ユーザ、２００ コンピュータ、２４０ メモリモジュール、２４１ 空間情報、２４２ オブジェクト情報、２４３，１４３８ ユーザ情報、２４４ 顔テンプレート、２４５ 口テンプレート、２４６ 目テンプレート、２４７ 眉テンプレート、２５０ 通信制御モジュール、９００，２１１０，２１２０ アバターオブジェクト、１１００，１７２２ 輪郭検出線、１１１０ 外側の輪郭点、１１２０ 内側の輪郭点、１４２２ 送受信部、１４２４ サーバ処理部、１４２６ マッチング部、１４３２ 仮想空間指定情報、１４３４ オブジェクト指定情報、１４３６ アバターオブジェクト情報、１４４０ 顔情報、１４４２ 位置情報。

Claims (14)

1. 仮想空間を介して通信するためにコンピュータで実行される方法であって、
   仮想空間を定義するステップと、
   前記仮想空間を介して通信するユーザのアバターオブジェクトを前記仮想空間に配置するステップと、
   前記ユーザの口を含む画像の入力を繰り返し受け付けるステップと、
   前記画像から前記ユーザの下唇を検出するステップと、
   前記検出された下唇の少なくとも一部が隠れた場合に、前記アバターオブジェクトの舌を前記アバターオブジェクトの口から出ている状態にするステップとを備える、方法。
2. 前記アバターオブジェクトの舌を前記アバターオブジェクトの口から出ている状態にするステップは、
   前記下唇の少なくとも一部が隠れたと判断された場合に、前記下唇を隠している物体が舌か否かを判断することと、
   前記物体が舌であると判断された場合に、前記アバターオブジェクトの舌を前記アバターオブジェクトの口から出ている状態にすることとを含む、請求項１に記載の方法。
3. 前記物体が舌か否かを判断することは、メモリに格納される舌テンプレートと前記物体との類似度がしきい値以上である場合に、前記物体が舌であると判断することを含む、請求項２に記載の方法。
4. 前記アバターオブジェクトの舌を前記アバターオブジェクトの口から出ている状態にするステップは、前記物体が舌であると判断された場合に、前記舌の面積が大きいほど前記アバターオブジェクトが舌を出す量を多くすることを含む、請求項２または３に記載の方法。
5. 前記アバターオブジェクトの舌を前記アバターオブジェクトの口から出ている状態にするステップは、前記物体が舌であると判断された場合に、前記ユーザの顔を構成する基準器官と、前記舌の先端との距離に基づいて、前記アバターオブジェクトが舌を出す量を調節することを含む、請求項２または３に記載の方法。
6. 前記基準器官は、前記ユーザの上唇を含む、請求項５に記載の方法。
7. 前記アバターオブジェクトの舌を前記アバターオブジェクトの口から出ている状態にするステップは、メモリに格納された下唇テンプレートと前記画像との類似度が所定値未満になった場合に、下唇の少なくとも一部が隠れたと判断することを含む、請求項１〜６のいずれか１項に記載の方法。
8. 前記下唇を検出するステップは、前記下唇の輪郭点を検出することを含み、
   前記アバターオブジェクトの舌を前記アバターオブジェクトの口から出ている状態にするステップは、前記下唇の輪郭点の数がしきい値未満になった場合に前記下唇の少なくとも一部が隠れたと判断することを含む、請求項１〜６のいずれか１項に記載の方法。
9. 前記アバターオブジェクトの舌を前記アバターオブジェクトの口から出ている状態にするステップは、
   前記検出された下唇の面積を算出することと、
   前記算出された下唇の面積がしきい値未満である場合に前記下唇の少なくとも一部が隠れたと判断することとを含む、請求項１〜６のいずれか１項に記載の方法。
10. 前記ユーザの下唇を検出することは、前記画像と、メモリに格納された下唇テンプレートとをパターンマッチングすることを含む、請求項１〜９のいずれか１項に記載の方法。
11. 仮想空間を介して通信するためにコンピュータで実行される方法であって、
    仮想空間を定義するステップと、
    前記仮想空間を介して通信する他のユーザのアバターオブジェクトを前記仮想空間に配置するステップと、
    前記コンピュータのユーザの口を含む画像の入力を繰り返し受け付けるステップと、
    前記画像から前記ユーザの下唇を検出するステップと、
    前記検出された下唇の少なくとも一部が隠れた場合に、前記下唇の少なくとも一部が隠れたことを示す情報を前記他のユーザのコンピュータに送信するステップとを備える、方法。
12. 前記ユーザの口を含む画像の入力を繰り返し受け付けるステップは、前記ユーザが装着するヘッドマウントデバイスに設けられたカメラから前記ユーザの口を含む画像の入力を繰り返し受け付けるステップを含む、請求項１１に記載の方法。
13. 請求項１〜１２のいずれか１項に記載の方法をコンピュータに実現させるためのプログラム。
14. 請求項１３に記載のプログラムを格納したメモリと、
    前記プログラムを実行するためのプロセッサとを備える、情報処理装置。

Images