JP5294612B2 - 仮想共有空間における参照マークの自動生成方法、装置及びプログラム - Google Patents

仮想共有空間における参照マークの自動生成方法、装置及びプログラム Download PDF

Info

Publication number
JP5294612B2
JP5294612B2 JP2007296861A JP2007296861A JP5294612B2 JP 5294612 B2 JP5294612 B2 JP 5294612B2 JP 2007296861 A JP2007296861 A JP 2007296861A JP 2007296861 A JP2007296861 A JP 2007296861A JP 5294612 B2 JP5294612 B2 JP 5294612B2
Authority
JP
Japan
Prior art keywords
reference mark
client device
information
avatar
notification
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007296861A
Other languages
English (en)
Other versions
JP2009123001A (ja
Inventor
道昭 立堀
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Priority to JP2007296861A priority Critical patent/JP5294612B2/ja
Priority to US12/197,173 priority patent/US8276080B2/en
Priority to CN2008101662916A priority patent/CN101437024B/zh
Publication of JP2009123001A publication Critical patent/JP2009123001A/ja
Application granted granted Critical
Publication of JP5294612B2 publication Critical patent/JP5294612B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/535Tracking the activity of the user
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/75Indicating network or usage conditions on the user display

Description

本発明は、仮想共有空間におけるオブジェクトの参照に関し、特に、注目対象であるオブジェクトに自動で参照マークを付ける技術に関する。
近年、3次元コンピュータ・グラフィックスで作られたオンラインの仮想現実世界を提供するサービスが注目を浴びている。サービスの利用者は、専用のクライアント用ソフトウェアをインストールしたコンピュータから、インターネット等のネットワーク経由でホストのサーバに接続し、仮想現実世界にアクセスする。仮想現実世界では、サービスの利用者は、自らの分身であるアバタを操作して活動する。例えば、サービスの利用者は、アバタを介して、仮想現実世界に作られた街並みや建物を見て回ったり、そこで商取引を行ったり、出会った他の利用者と会話を楽しんだりすることができる。
現実の世界における会話では、人々は何かを参照して話をする際、しばしば指差し等のジェスチャーにより参照対象を相手に伝えようとする。3次元の仮想現実世界においても、利用者はアバタに特定のポーズをとらせ、また、メッセージ内の指示語により、特定のオブジェクトを指し示すことができる。しかしこれは現実世界のように必ずしもうまく機能しない。これは、仮想現実世界にアクセスする利用者のコンピュータの画面には、その利用者のアバタから見た仮想現実世界のビューが表示され、利用者ごとその画面に表示される画像が異なるからである。
仮想現実世界では、参照対象を相手が容易に識別できるように、参照対象にマークを付けることも考えられる。例えば特許文献1は、オブジェクトを指定するコマンドをユーザから受信してオブジェクトを指定し、また選択された情報を上記オブジェクトに関連付けるコマンドをユーザから受信して上記オブジェクトに選択された情報を関連付ける技術を開示する。該技術により、ユーザは、例えばウィンドウを指定して参照マークを関連付け、更にウィンドウのそばに「狙撃兵に注意」のテキストを表示することで、別のプレイヤーがウィンドウを容易に識別し、かつ関連情報を知ることができるようにすることができる。
特開2006−212423号公報
しかし、上記特許文献1の技術は、プレイヤーに対して同じ1つの目標を設定する3次元ゲームにおけるオブジェクト参照を対象としている。そのため、リンデン・ラボ社によって運用されるSECOND LIFE(リンデンリサーチの商標)のような、各人が自由な活動を行うより汎用的な3次元仮想現実世界では、上記参照マーク付け技術をうまく利用することが難しい。なぜなら、より汎用的な3次元仮想現実世界では、利用者の目的意識や背景知識がそれぞれ異なるため、ある利用者が注目させたいものと、他の利用者が興味をもつものとが一致しないからである。その結果、折角面倒な参照マーク付けを行っても無駄になったり、また興味をもつものには参照マーク付けがなされていなかったりということが起こる。
ありとあらゆるものに参照マークを付けることで上記問題に対処することも可能であるが、そのためには利用者は参照マーク付けのためのコマンドを相当数入力しなければならず、現実的な解決法とはいえない。また、利用者の興味あるものに参照マーク付けがなされたとしても、参照マークが付けられたオブジェクトが利用者のコンピュータ画面に表示されない限り、利用者はその参照マークに気づくこともない。
この発明は、上記の問題点を解決するためになされたものであって、コンピュータ処理により、利用者によるコマンドの入力なしに、自動で、オブジェクトに付ける参照マークを生成することを目的とする。また、参照マークが付けられたオブジェクトが画面に表示されているか否かに関わらず、生成された参照マークの存在を、他のクライアント装置のユーザが、その興味に応じて知ることができるようにすることを目的とする。更に、参照マークを付けられたオブジェクトが他のクライアント装置の画面に表示されていない場合でも、他のクライアント装置のユーザがその参照マークの通知に興味を示す場合には、ユーザが参照マークを付けられたオブジェクトを見ることができるようにすることを目的とする。
上記目的を達成する本発明は、ネットワークを介して接続された複数のクライアント装置に仮想現実空間を提供するサーバ装置により実現される。該サーバ装置は、クライアント装置の画面に表示される仮想現実空間内のオブジェクトを指し示す、クライアント装置に関連付けられたアバタの動作を検出する動作検出部と、動作の検出に応答して、オブジェクトに付ける参照マークを生成する参照マーク生成部とを含む。
ここで検出するアバタの動作は、指や手等のアバタの体の一部を使ってオブジェクトを指し示す動作に限られず、棒やビーム等の道具を使ってオブジェクトを指し示す動作も含む。更には、アバタの視線があるオブジェクトに向けられることによってオブジェクトが指し示される状態を検出してもよい。また、サーバ装置が生成する参照マークは、クライアント装置の画面上で実際に見ることができる可視の参照マークでもよく、又は、実際には見ることができない不可視の参照マークでもよい。いずれの場合でも、サーバ装置は、参照マークに識別子としてIDを割り当て、該IDを、参照マークを付けるオブジェクトに関連付けて維持することで、参照マークを生成する。
好ましくは、動作検出部は、クライアント装置のユーザの入力により、オブジェクトがアバタによって一定時間以上指し示される状態を検出する。オブジェクトが一定時間以上指し示されることを条件とすることで、サーバ装置は、オブジェクトを指し示す以外の目的でオブジェクトを選択するアバタの動作又はユーザの操作に対し、誤って参照マークを生成することがなくなる。
また好ましくは、動作検出部は、クライアント装置のユーザの入力により、アバタがオブジェクトを指し示している状態で、クライアント装置のユーザにより入力されたチャット・メッセージ中に所定のキーワードが含まれる状態を検出する。
ここで所定のキーワードとは、例えば「これ」、「そこ」、「あちら」等の指示代名詞である。単に、アバタがオブジェクトを指し示す状態を検出するのではなく、その際、ユーザにより入力されたチャット・メッセージ中に所定のキーワードが含まれることを条件とすることで、サーバ装置は、アバタを介してオブジェクトを単に見るためのユーザ操作に対し、誤って参照マークを生成することがなくなる。
また好ましくは、サーバ装置は、動作検出部による動作の検出に応答して、オブジェクトが指し示される前後においてクライアント装置のユーザにより入力されたチャット・メッセージを取得するメッセージ取得部と、取得したチャット・メッセージを参照マークに関連付けて格納する参照マーク格納部を含む。オブジェクトが指し示される前後にユーザにより入力されたチャット・メッセージは、そのオブジェクトに関する内容である可能性が高い。そこで、サーバ装置は、オブジェクトを説明する情報として、チャット・メッセージをクライアント装置から取得し、参照マークに関連付けて維持する。なお、チャット・メッセージはテキストベースのメッセージだけでなく、音声ベースのメッセージであってもよい。
これに代えて又はこれに加えて、サーバ装置は、生成した参照マークに関連付けて、該参照マークの生成時刻、参照マークを付けるオブジェクトに関する情報、参照マークを生成する基となったアバタの動作に関する動作情報、及び該動作を行ったアバタに関するアバタ情報のうち少なくとも1つを格納する参照マーク格納部を含んでもよい。
また好ましくは、サーバ装置は、他のクライアント装置がサーバ装置に予め登録した、存在の通知を希望する参照マークを定義するポリシーを取得するポリシー取得部と、ポリシーを参照して、生成した参照マークのうちポリシーに合致する参照マークを選択し、選択した参照マークの存在を他のクライアント装置に通知する参照マーク通知部とを更に含む。これにより、生成された参照マークが付けられたオブジェクトが他のクライアント装置の画面に表示されていなくても、他のクライアント装置のユーザは、自分の興味あるオブジェクトに対して自動生成された参照マークの存在を知ることができる。
あるいは、サーバ装置は、生成した参照マークの存在を知らせる通知であって、参照マークの生成時刻、参照マークを付けるオブジェクトに関する情報、参照マークを生成する基となったアバタの動作に関する動作情報、及び該動作を行ったアバタに関するアバタ情報のうち少なくとも1つ含む通知を他のクライアント装置に送信する参照マーク通知部を更に含んでもよい。これにより、生成された参照マークが付けられたオブジェクトが、他のクライアント装置の画面に表示されていなくても、他のクライアント装置のユーザは、自動生成された参照マークの存在を知ることができ、かつそれが自分の興味あるものであるかを判断することができる。
また好ましくは、サーバ装置は、生成した参照マークに関連付けて、参照マークが参照された参照回数又は参照マークが最後に参照された最終参照時刻を格納する参照マーク格納部と、生成した参照マークの存在を、参照回数又は最終参照時刻の情報とともに、他のクライアント装置に通知する参照マーク通知部と、他のクライアント装置の画面に表示された参照マークの通知に対する他のクライアント装置のユーザによる選択操作のイベントを他のクライアント装置から取得する操作情報取得部と、選択操作のイベントの受信に応答して、参照回数又は最終参照時刻を更新する更新部とを更に含む。
参照回数や最終参照時刻の情報が与えられることで、他のクライアント装置のユーザは、自動生成された参照マークが付けられたオブジェクトの人気の高さを知ることができ、参照マークが付けられたオブジェクトを見るかどうかの判断材料の1つとすることができる。
更に好ましくは、サーバ装置に、参照回数が少ない参照マーク、生成から一定時間経過した参照マーク、最終参照時刻から一定時間が経過した参照マークのうち少なくとも1に該当する参照マークを廃棄する廃棄部を含む。これにより、人気がない参照マークや、古くなった参照マークがオブジェクトに付けられたままいつまでも残ることを避けることができる。
また好ましくは、サーバ装置は、生成した参照マークの存在を他のクライアント装置に通知する参照マーク通知部と、他のクライアント装置の画面に表示された参照マークの通知に対する他のクライアント装置のユーザによる選択操作のイベントを他のクライアント装置から取得する操作情報取得部と、選択操作のイベントの受信に応答して、他のクライアント装置に関連付けられた他のアバタが、参照マークを付けたオブジェクトに誘導されるように、他のアバタの位置情報及び視線情報の少なくとも一方を更新する更新部とを含む。
これにより、生成された参照マークが付けられたオブジェクトが、他のクライアント装置の画面に表示されていなくても、他のクライアント装置のユーザは、画面に表示される参照マークの通知を選択するだけで、アバタの現在位置や視線が更新され、自身の画面中に対応するオブジェクトを見ることができるようになる。
以上、サーバ装置として本発明を説明したが、本発明は、そのようなサーバ装置において実行される、参照マーク自動生成方法、及び参照マーク自動生成プログラムとして把握することもできる。
上記目的を達成する本発明はまた、仮想現実空間を提供するサーバ装置と、該サーバ装置にネットワークを介して接続する1以上のクライアント装置を含むシステムにおいて実行される、参照マークを自動生成するためのプログラムとして把握することも可能である。この参照マーク自動生成プログラムは、クライアント装置に、クライアント装置の画面に表示される仮想現実空間内のオブジェクトを指し示す、クライアント装置のユーザによる入力のイベントを検出するステップと、イベントの検出に応答して、サーバ装置が前記オブジェクトに付ける参照マークを生成するトリガー情報として、検出したイベントの情報をサーバ装置へ通知するステップとを実行させる。また、参照マーク自動生成プログラムは、サーバ装置に、クライアント装置からイベントの情報を取得することに応答して、オブジェクトに付ける参照マークを生成するステップを実行させる。
好ましくは、上記検出するステップは、ユーザの入力により、クライアント装置の画面に表示されるオブジェクトが一定時間以上指し示される状態を検出するステップを含む。これに代えて、又はこれに加えて、上記検出するステップは、クライアント装置に関連づけられたアバタがオブジェクトを指し示している状態で、ユーザにより入力されたチャット・メッセージ中に所定のキーワードが含まれる状態を検出するステップを含んでもよい。
また好ましくは、参照マーク自動生成プログラムは、クライアント装置に、オブジェクトが指し示される前後においてユーザによりクライアント装置に入力されたチャット・メッセージを取得するステップを実行させてもよい。この場合、取得したチャット・メッセージは、検出したイベントの情報に含まれて、サーバ装置へ通知される。
また好ましくは、参照マーク自動生成プログラムは、クライアント装置に、存在の通知を希望する参照マークを定義するポリシーをユーザの入力に基づき生成するステップと、生成したポリシーをサーバ装置に登録するステップとを実行させる。定義されるポリシーは、一例として、参照マークを生成する基となったイベントの種類に関する条件や、イベント情報を送信するクライアント装置に関する条件、また、参照マークが生成された時刻に関する条件を含むことができるが、これに限られない。また、ポリシーは、通知を希望しない参照マークを定義することによって、存在の通知を希望する参照マークを定義するものであってもよい。
また好ましくは、参照マーク自動生成プログラムは、サーバ装置に、ポリシーを参照して、生成した参照マークのうち前記ポリシーに合致する参照マークを選択し、選択した参照マークの存在をクライアント装置に通知するステップを更に実行させる。また、参照マーク自動生成プログラムは、クライアント装置に、サーバ装置から受信した参照マークの存在を知らせる通知を、予めユーザによりクライアント装置に登録されたプリファレンス情報を参照して、画面に強調表示又は非強調表示するステップを更に実行させる。
ここで、登録されるプリファレンス情報は、一例として、最近生成された参照マーク、他のユーザによって参照された参照マーク、仮想現実空間において最近会話したアバタ又は自身のアバタの周辺にいるアバタに関連付けられるクライアント装置が発行したイベントが基となって生成された参照マークの少なくとも1つに該当する参照マークを優先して強調表示するというものであってよい。
また好ましくは、参照マーク自動生成プログラムは、サーバ装置に、ポリシーを参照して、生成した参照マークのうち前記ポリシーに合致する参照マークを選択し、選択した参照マークの存在をクライアント装置に通知するステップを更に実行させる。また、参照マーク自動生成プログラムは、クライアント装置に、サーバ装置から受信した参照マークの存在を知らせる通知を画面に表示するステップと、画面に表示された通知に対するユーザによる選択操作を検出するステップと、選択操作の検出に応答して、選択された通知に対応する参照マークが付けられたオブジェクトに、クライアント装置に関連付けられたアバタを誘導するように、該アバタの位置情報及び視線情報の少なくとも一方を更新するステップとを実行させる。
更に好ましくは、参照マークの存在を知らせる上記通知は、参照マークが付けられるオブジェクトに関する情報及び参照マークを生成する基となったイベントをサーバ装置へ送信したクライアント装置に関連付けられたアバタに関する情報のうちの少なくとも一方を含む。そして、上記更新するステップは、アバタの位置情報及び視線情報の少なくとも一方を、通知に含まれるオブジェクトに関する情報又はアバタに関する情報に基づいて更新するステップを含む。該構成は、サーバ装置において、アバタの位置情報及び視線情報の少なくとも一方を更新する計算処理を行う構成と比較して、スケーラビリティの点で好ましい。
本発明によれば、クライアント装置の画面に表示される仮想現実空間内のオブジェクトを指し示す、クライアント装置に関連付けられたアバタの動作を、参照マークを生成するトリガー情報として検出し、動作の検出に応答してオブジェクトに付ける参照マークを生成するので、参照マークの生成を指示するコマンドの入力という面倒な操作なしに、ユーザはオブジェクトに参照マークを付けることが可能となる。
また、自動生成した参照マークのうち、クライアント装置がサーバ装置に予め登録したポリシー情報に合致する参照マークについて、その存在を知らせる通知がクライアント装置の画面に表示されるので、クライアント装置のユーザは、参照マークが付けられたオブジェクトがその画面に表示されているか否かに関わらず、興味ある参照マークの存在を知ることができる。更に、画面に表示される参照マークの通知がユーザにより選択された場合、その参照マークが付けられるオブジェクトが見えるようにアバタの視線情報や位置情報が更新されるので、ユーザは興味をもった参照マークがつけられるオブジェクトを確実に見ることができるようになる。
以下、本発明を実施するための最良の形態を図面に基づいて詳細に説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではなく、また実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。なお、実施の形態の説明の全体を通じて同じ要素には同じ番号を付している。
図1は、本発明の一実施形態に係る参照マークを自動生成するシステム1000の全体の構成の一例を示す図である。システム1000は、インターネットやLAN(Local Area Network)等のネットワーク100に接続し、複数のクライアント装置に仮想現実空間を提供するサーバ装置200と、ネットワーク100に接続し、サーバ装置200によって提供される仮想現実空間で活動を行う複数のクライアント装置300とを含む。
サーバ装置200は、クライアント装置300に対し、3次元の仮想現実空間を表示し、クライアント装置300のユーザがアバタを操作して、3次元の仮想現実空間内を自由に移動し、個人や企業により提供された様々なオブジェクトを参照し又操作し、他のクライアント装置300のユーザとのチャットを楽しむことができるサービスを提供する。
クライアント装置300は、ネットワーク100を介してサーバ装置200に接続し、サーバ装置200が提供する3次元の仮想現実世界の各種サービスを受ける。
本発明の実施形態に係るサーバ装置300は、上記説明した各種サービスに加えて、新たに次のサービスを提供する。
(1)3次元の仮想現実空間内のオブジェクトを指し示すアバタの動作をトリガーとした、オブジェクトに付ける参照マークの自動生成。
(2)ユーザの興味に基づく、クライアント装置300への生成した参照マークの存在の通知。
(3)クライアント装置において選択された参照マークの存在の通知に対応するオブジェクトへのアバタ(クライアント装置)の誘導。
(4)生成した参照マークの自動廃棄。
本発明の実施形態に係るクライアント装置300は、上記新たなサービスを受けるため、次の機能を有する。
(1)3次元の仮想現実空間内のオブジェクトを指し示すアバタの動作の検出及び該検出のサーバ装置200への通知。
(2)存在の通知を希望する参照マークを定義するポリシーの作成及び該ポリシーのサーバ装置200への登録。
(3)表示方法を定義するプリファレンス情報の登録及び該プリファレンス情報に従った、参照マークの通知の強調表示又は非強調表示。
(4)参照マークの通知の選択操作の検出、選択操作の検出に応答したアバタ情報の更新及び該更新情報のサーバ装置200への通知。
但し、上記機能のうち(1)の機能及び(4)の参照マークの通知の選択操作の検出に応答して、アバタ情報を更新する機能は、サーバ装置200にもたせることも可能である。(4)の機能をサーバ装置200にもたせる場合、クライアント装置300は、代わりに、参照マークの通知の選択操作の検出に応答して、該選択操作のイベントをサーバ装置200へ通知し、サーバ装置200からアバタの更新情報を受信する機能をもつ。
図2は、本発明の実施の形態によるサーバ装置200及びクライアント装置300を実現するのに好適な情報処理装置のハードウェア構成の一例を示した図である。情報処理装置は、バス2に接続されたCPU(中央処理装置)1とメインメモリ4を含んでいる。ハードディスク装置13、30、およびCD−ROM装置26、29、フレキシブル・ディスク装置20、MO装置28、DVD装置31のようなリムーバブル・ストレージ(記録メディアを交換可能な外部記憶システム)がフレキシブル・ディスクコントローラ19、IDEコントローラ25、SCSIコントローラ27などを経由してバス2へ接続されている。
フレキシブル・ディスク、MO、CD−ROM、DVD−ROMのような記憶メディアが、リムーバブル・ストレージに挿入される。これらの記憶メディアやハードディスク装置13、30、ROM14には、オペレーティング・システムと協働してCPU等に命令を与え、本発明を実施するためのコンピュータ・プログラムのコードを記録することができる。
即ち、サーバ装置200としての情報処理装置の上記説明した数々の記憶装置には、3次元仮想現実空間を提供するための基本プログラムと、本発明を実施するための参照マークを自動生成するためのサーバ用プログラムを格納できる。また、クライアント装置300としての情報処理装置の記憶装置には、3次元仮想現実空間のサービスを受けるための専用プログラムと、本発明を実施するための参照マークを自動生成するためのクライアント用プログラムを格納できる。なお本発明を実施するためのサーバ用プログラムを、基本プログラムの一部とすることも可能である。同様に、本発明を実施するためのクライアント用プログラムを、専用プログラムの一部とすることも可能である。
これら複数のコンピュータ・プログラムはメインメモリ4にロードされることによって実行される。コンピュータ・プログラムは圧縮し、また複数に分割して複数の媒体に記録することもできる。
サーバ装置200としての情報処理装置のハードディスク装置13、30等の記憶装置にはまた、3次元仮想現実空間を構成する街並み等の状態の変化しない3次元画像データと、そこに配置されるアバタを含む3次元のオブジェクトに関するデータが格納される。アバタを含む3次元のオブジェクトは、クライアント装置300により更新され、該更新情報は、同じ空間に各々のアバタを位置させる複数のクライアント装置300間で共有されるものである。そのためサーバ装置200の記憶装置にはまた、一例として3次元仮想現実空間内の領域ごとに、図3に示すようなアバタに関するアバタ情報(図3の(a)参照)と、その他のオブジェクトに関するオブジェクト情報(図3の(b)参照)が格納される。
情報処理装置は、キーボード/マウス・コントローラ5を経由して、キーボード6やマウス7のような入力デバイスからの入力を受ける。情報処理装置は、オーディオコントローラ21を経由して、マイク24からの入力を受け、またスピーカー23から音声を出力する。情報処理装置は、視覚データをユーザに提示するための表示装置11に、グラフィックスコントローラ10を経由して接続される。情報処理装置は、ネットワーク・アダプタ18(イーサネット(登録商標)・カードやトークンリング・カード)等を介してネットワークに接続し、他のコンピュータ等と通信を行うことが可能である。
以上の説明により、本発明の実施の形態によるシステム1000を実現するのに好適な情報処理装置は、通常のパーソナルコンピュータ、ワークステーション、メインフレームなどの情報処理装置、または、これらの組み合わせによって実現されることが容易に理解されるであろう。ただし、情報処理装置は3次元のグラフィックス処理を行う必要があることから、一定以上の性能をもつグラフィックスコントローラ10及び大容量のビデオメモリ9を備えることが好ましい。
またサーバ装置200としての情報処理装置は、3次元仮想現実空間を構成する3次元画像データや、アバタを含むオブジェクトを管理する管理データ(図3参照)を維持する必要から、大容量の記憶装置を備えることが好ましい。図1には、一台のサーバ装置200を示したが、例えば3次元仮想現実空間を領域ごと複数のサーバ装置200に担当させるなど、複数のサーバ装置200によって3次元仮想現実空間を提供するよう構成してもよい。なお、上記説明した構成要素は例示であり、そのすべての構成要素が本発明の必須構成要素となるわけではない。
このようなハードウェア構成を備えるクライアント装置300は、3次元仮想現実空間のサービスを受けようとするユーザにより専用のプログラムを起動されると、ネットワーク・アダプタ18を介して、上記ハードウェア構成を備えるサーバ装置200に接続を要求する。接続要求を受けたサーバ装置200は、クライアント装置300により指定された領域の3次元画像データと、そこに配置されるアバタを含むオブジェクトに関するデータを記憶装置から読み出し、ネットワーク・アダプタ18を介してクライアント装置300へ送信する。
クライアント装置300は、受信したデータをメインメモリ4に記憶し、自身のアバタの位置情報(3次元仮想現実空間内の視点座標)及び視線情報(視線方向角)に基づいて、自身のアバタから見た仮想現実空間の画像をメインメモリ4から読み出し、表示装置11に表示する。クライアント装置300は、キーボード6やマウス7等の入力デバイスを介してユーザにより、自身のアバタやオブジェクトが操作されると、操作による変更に対応したデータをメインメモリ4から読出し、表示装置11の表示内容を更新する。
クライアント装置300はまた、キーボード6やマイク24等の入力デバイスを介してユーザよりチャット・メッセージの入力を受けると、チャット・メッセージを表示装置11に表示し、あるいはチャット・メッセージをスピーカー23から出力する。そして、クライアント装置300は、アバタやオブジェクトに関する更新情報やチャット・メッセージを、ネットワーク・アダプタ18を介してサーバ装置200へ送信する。
サーバ装置200は、受信した更新情報で記憶装置に格納するデータを更新し、また対応するアバタのアバタ情報に関連付けてチャット・メッセージを記憶装置に格納する。サーバ装置200はまた、受信した更新情報やチャット・メッセージを、同一の空間にアバタを位置させる他のクライアント装置300にネットワーク・アダプタ18を介して送信する。このようにサーバ装置200とそれに接続する複数のクライアント装置300とが相互に情報を交換することで、3次元の仮想現実空間が複数のクライアント装置間で共有される。3次元の仮想現実空間を提供し、クライアント装置300のユーザが仮想現実空間において活動できるようにするための、サーバ装置200に適用される技術及びクライアント装置300に適用される技術は公知であるため、本明細書ではこれ以上の詳細な説明は省略する。
図4は、本発明の実施形態に係る参照マークを自動生成するためのサーバ装置200の機能構成の一例を示す図である。本発明の実施形態に係るサーバ装置200は、動作検出部205と、メッセージ取得部210と、参照マーク生成部215と、廃棄部220と、ポリシー取得部225と、参照マーク通知部230と、操作情報取得部235と、更新部240とを含む。また本発明の実施形態に係るサーバ装置200の1以上の記憶装置は、3次元画像データ格納部245及び管理情報格納部250、参照マーク格納部255と、ポリシー格納部260として構成される。
3次元画像データ格納部245は、上述したように、3次元の仮想現実空間を構成する街並み等の状態の変化しない3次元画像データを格納する。管理情報格納部250は、3次元の仮想現実空間内に配置される、状態が変化し得る3次元のオブジェクトに関するデータを格納する。管理情報格納部250は、一例として、3次元のオブジェクトに関するデータを、アバタに関するアバタ情報と、その他のオブジェクトに関するオブジェクト情報とに分けて格納する。図3(a)は、アバタ情報を管理するためのテーブルを示す。該テーブルには、アバタIDに関連付けて、アバタの位置情報(3次元仮想現実空間内の視点座標)、アバタの向き、即ち、視線情報(視線方向角)、及びアバタの3次元モデルデータが記憶される。図3(b)は、アバタを除く、他のオブジェクト情報を管理するためのテーブルを示す。該テーブルには、オブジェクトIDに関連付けて、オブジェクトの位置情報、向き情報、及びオブジェクトの3次元モデルデータが記憶される。
動作検出部205は、クライアント装置300の画面に表示される3次元の仮想現実空間内のオブジェクトを指し示す、クライアント装置300に関連付けられたアバタの動作を検出する。検出する、3次元の仮想現実空間内のオブジェクトを指し示すアバタの動作は、手や指等の体の一部や、指し棒、ビームといった道具を使ってオブジェクトを指し示す動作であってよい。更には、アバタの視線があるオブジェクトに向けられる状態を、オブジェクトを指し示す動作として検出してもよい。このようなアバタの動作は、指し示すオブジェクト又はアバタの視線を指定する、キーボード6やマウス7、更にはマイク24といったクライアント装置300の入力デバイスを介したユーザ入力の結果として行われる。
アバタにオブジェクトを指し示す動作をさせるユーザ入力は、画面に表示されるアバタの状態を変化させるものであるため、同じ空間を共有する他のクライアント装置300に伝える必要があることからサーバ装置200に送信される。そこでサーバ装置200は、このようなアバタの動作を、クライアント装置300から送信される、アバタの更新情報をモニタすることにより検出する。本実施形態に係るアバタの更新情報は、アバタの位置情報や視線情報を含み、更に、ユーザにより指定されたオブジェクトの識別情報又は指し位置情報の少なくとも1つを含む。オブジェクトの識別情報又は指し位置情報は、後述する参照マーク生成部215に渡される。
アバタの視線によりオブジェクトが指し示される場合、動作検出部205は、指し示されるオブジェクトを、アバタの位置情報及び視線情報に基づき、管理情報格納部250から検索する。即ち、動作検出部205は、アバタの現在の位置情報を起点として、アバタの視線方向に線をひき、最初にぶつかるオブジェクトを、指し示されるオブジェクトとして特定する。管理情報格納部250から検索されたオブジェクトの識別情報は、後述する参照マーク生成部215に渡される。
好ましくは、動作検出部205は、クライアント装置300のユーザの入力により、オブジェクトがアバタによって一定時間以上指し示される状態を検出する。オブジェクトが一定時間以上指し示されることを条件とすることで、動作検出部205は、オブジェクトを指し示す以外の目的でオブジェクトを選択するアバタの動作又はユーザの操作を誤って検出することがなくなる。なお、一定の時間が経過するまでにアバタの動作を複数回検出し、その際検出された又は特定された指し位置が同じでないという場合も起こりえる。しかしこのような場合でも、例えば同一のオブジェクト又は隣接するオブジェクトが指定されるなど、異なる指し位置が一定の範囲内のものであれば、最後に検出された指し位置がアバタによって指し示されたものとみなしてもよい。
これに代えて又はこれに加えて、動作検出部205は、クライアント装置300のユーザの入力により、アバタがオブジェクトを指し示している状態で、クライアント装置300のユーザにより入力されたチャット・メッセージ中に所定のキーワードが含まれる状態を検出してもよい。ここで所定のキーワードとは、例えば「これ」、「そこ」、「あちら」等の指示代名詞である。単にオブジェクトが指し示されるだけでなく、その際ユーザにより入力されたチャット・メッセージ中に所定のキーワードが含まれることを条件とすることで、動作検出部205は、アバタを介してオブジェクトを単に見るためのユーザ操作を誤って検出することがなくなる。
ユーザにより入力されるテキストベース又は音声ベースのチャット・メッセージは、同じ空間を共有する他のクライアント装置300に伝える必要があることからサーバ装置200に送信される。そこで動作検出部205は、クライアント装置300からチャット・メッセージを受信すると、該チャット・メッセージを解析して指示代名詞が含まれるか否か判断する。チャット・メッセージの解析は、テキストの場合、文字列(指示代名詞)マッチングでもよく、又は形態素解析などの高度なテキスト処理により行ってもよい。また、音声の場合は、音声認識処理により行ってもよい。なお、所定のキーワードが含まれるか否かに関わらず、アバタがオブジェクトを指し示している状態で、クライアント装置300のユーザによりチャット・メッセージが送信される状態を検出してもよい。
なお、動作検出部205によるアバタの動作の検出は、そのアバタに関連付けられたクライアント装置300において、上記説明したのと同様の方法により行うことができる。クライアント装置300において上記アバタの動作を検出する構成を採用する場合、当該検出したアバタの動作のイベント情報は、サーバ装置200がオブジェクトに付ける参照マークを生成するトリガー情報として、クライアント装置300からサーバ装置200(動作検出部205)へ通知される。
メッセージ取得部210は、動作検出部205によるアバタの動作の検出に応答して、オブジェクトが指し示される前後においてクライアント装置300のユーザにより入力されたチャット・メッセージを取得する。上述したように、ユーザにより入力されるチャット・メッセージは、同じ空間を共有する他のクライアント装置300に伝える必要があることからサーバ装置200に送信される。そこで、本発明の実施形態におけるメッセージ取得部210は、サーバ装置200において受信したクライアント装置300のチャット・メッセージを一定期間保管する。そして、メッセージ取得部210は、動作検出部205によるアバタの動作の検出に応答して、検出されたアバタに関連付けられるクライアント装置300からのチャット・メッセージを検索し、オブジェクトが指し示される前後においてクライアント装置300のユーザにより入力されたチャット・メッセージを取得する。取得されたチャット・メッセージは、上記オブジェクトを説明する情報として利用する。
なお、メッセージ取得部210によるチャット・メッセージの取得についても、クライアント装置300において、上記説明したのと同様の方法により行うことができる。クライアント装置300においてチャット・メッセージを取得する構成を採用する場合、取得されたチャット・メッセージは、参照マークを生成するトリガー情報の一部として、クライアント装置300からサーバ装置200(メッセージ取得部210)へ通知される。
参照マーク生成部215は、動作検出部205によるアバタの動作の検出に応答して、オブジェクトに付ける参照マークを生成する。参照マーク生成部215が生成する参照マークは、クライアント装置300の画面上でオブジェクトの近傍に実際に見ることができる可視の参照マークでもよく、又は、実際には見ることができない不可視の参照マークでもよい。いずれの場合でも、参照マーク生成部215は、参照マークに識別子としてIDを割り当て、該IDを、参照マークを付けるオブジェクトに関連付けて維持することで、参照マークを生成する。
なお、参照マーク生成部215は、参照マークを付けるオブジェクトの識別を、上述したように動作検出部205から渡されるオブジェクトの識別情報に基づいて行う。好ましくは、参照マーク生成部215は、生成した参照マークに関連付けて、参照マークの生成時刻、参照マークを生成する基となったアバタの動作に関する動作情報、及び該動作を行ったアバタに関するアバタ情報のうち少なくとも1つを維持し、参照マーク格納部255に格納する。
図5は、参照マーク格納部255に格納すべき、参照マーク生成部215により生成された参照マークのテーブルの一例を示す図である。参照マークIDの欄は、上述した、参照マークの識別子を記憶する。作成時刻の欄は、参照マーク生成部215が参照マークを生成した時刻を記憶する。最終参照時刻の欄は、該参照マークが、任意のクライアント装置300により最後に参照された時刻を記憶する。参照回数の欄は、該参照マークが、任意のクライアント装置300により参照された回数を記憶する。なお、これら2つの欄は、参照マーク生成部215により参照マークが生成された時点では初期値として0を記憶する。
オブジェクトの欄は、参照マークが付けられるオブジェクトに関するオブジェクト情報を記憶する。ここで記憶されるオブジェクト情報は、オブジェクトの識別子であるオブジェクトIDと、指し示された指し位置(X,Y,Z)を含む。アバタの視線によって指されたオブジェクトを特定する場合、アバタの位置情報、即ちアバタの視点座標と、オブジェクトの中心とを結んだ線がオブジェクトの表面にぶつかるその表面上の点が、指し位置として求められ記憶される。なお、参照マークのテーブルに記憶する指し位置は、オブジェクトの位置や向きに相対的な3次元座標を使用し、オブジェクトの位置の変更に対応可能とするのが好ましい。
生成者の欄は、参照マークを生成する基となった動作を行ったアバタ(以下、生成者という)に関する生成者情報を記憶する。ここで記憶される生成者情報は、生成者の識別子である生成者IDと、生成者の位置情報及び視線情報を含む。コンテキストの欄は、参照マークを生成する基となったアバタの動作に関する動作情報を記憶する。ここで記憶される動作情報は、動作のタイプと、動作の前後でユーザによりクライアント装置300に入力された入力値とを含む。
図5に示すテーブルに記載されるタイプTEXT及びVOICEは、アバタの動作として、それぞれテキストベース又は音声ベースの指示代名詞を含むチャット・メッセージの送信が検出されたこと示す。タイプSTAYは、アバタの動作として、体の一部や道具を使ってオブジェクトを一定時間以上指し示さす動作が検出されたことを示す。コンテキスト値には、メッセージ取得部210により取得されたチャット・メッセージが記憶される。なお、図5のテーブルに示すように、コンテキストがタイプSTAYの場合、メッセージ取得部210によりチャット・メッセージが必ずしも取得されるとは限らず、その場合コンテキスト値の欄は空欄のままである。
廃棄部220は、参照マーク格納部255から、参照回数が少ない参照マーク、生成から一定時間経過した参照マーク、最終参照時刻から一定時間が経過した参照マークのうち少なくとも1に該当する参照マークを廃棄する。これにより、人気がない参照マークや、古くなった参照マークがオブジェクトに付けられたままいつまでも残ることを避けることができる。
ポリシー取得部225は、参照マーク生成部215が生成した参照マークのうち、クライアント装置300が存在の通知を希望する参照マークを定義するポリシーを、クライアント装置300から予め受信し、ポリシー格納部260に格納する。ポリシー取得部225が取得するポリシーの詳細は、図7を参照して後述する。
参照マーク通知部230は、ポリシー格納部260に格納される各クライアント装置300のポリシーに基づいて、参照マークテーブルに記憶される生成した参照マークの中から、ポリシーに合致する参照マークをそれぞれ選択し、選択した参照マークの存在を知らせる通知(以下、単に、参照マークの通知という)を各クライアント装置300に送信する。参照マーク通知部230が送信する参照マークの通知は参照マークのIDを含み、好ましくは更に、参照マークの生成時刻、参照マークを付けるオブジェクトに関するオブジェクト情報、参照マークを生成する基となったアバタの動作に関する動作情報、該動作を行った生成者に関する生成者情報、参照マークが参照された参照回数、参照マークが最後に参照された最終参照時刻のうち少なくとも1つを含む。
ここで、オブジェクト情報は、オブジェクトの識別子であるオブジェクトIDと、指し示された指し位置(X,Y,Z)を含む。動作情報は、動作の前後でユーザによりクライアント装置300に入力された入力値を含む。生成者情報は、生成者IDと、生成者の位置情報及び視線情報を含む。詳細は後述するが、参照マークの通知を受け取ったクライアント装置300は、該参照マークの通知をその表示装置11の画面に表示する。一例として画面に表示される参照マークの通知は、参照マークの生成時刻、生成者情報、参照マークを生成する基となった動作の前後でユーザによりクライアント装置300に入力された入力値を含む。
操作情報取得部235は、クライアント装置300の画面に表示された参照マークの通知に対する、クライアント装置300のユーザによる選択操作のイベントを、該クライアント装置300から受信する。ここで、受信する選択操作のイベントには、参照マークのIDが含まれる。
更新部240は、操作情報取得部235による選択操作のイベントの受信に応答して、該選択操作のイベントに含まれる参照マークのIDをキーに、参照マーク格納部255に格納される参照マークのテーブルから、一致する参照マークを検索する。そして更新部240は、一致した参照マークの最終参照時刻及び参照回数の値をそれぞれ更新する。
また、更新部240は、操作情報取得部235による選択操作のイベントの受信に応答して、選択操作のイベントを送信したクライアント装置300のユーザが、選択された参照マークの通知に対応する参照マークを付けたオブジェクトに誘導されるように、管理情報格納部250に格納される、選択操作のイベントを送信したクライアント装置300に関連付けられたアバタ(以下、注目者という)の位置情報及び視線情報の少なくとも一方を更新する。
一例として、更新部240は、選択操作のイベントに含まれる参照マークのIDをキーに、参照マーク格納部255に格納される参照マークのテーブルから、一致する参照マークを検索する。そして更新部240は、一致した参照マークのオブジェクトの指し位置を読み出して、該指し位置に基づき注目者の位置情報及び視線情報の少なくとも一方を更新する。即ち、更新部240は、上記指し位置が注目者の視線方向となるように、注目者の位置情報又は視線情報の少なくとも一方を更新する。
あるいは、更新部240は、一致した参照マークの生成者の位置情報や視線情報を読み出して、これらを用いて注目者の位置情報及び視線情報の少なくとも一方を更新する。一例として、オブジェクトを指したときの参照マークの生成者の位置や視線を、そのまま注目者の位置及び視線として設定してもよい。但し、この場合、参照マークの生成者であるアバタと、注目者であるアバタとが3次元の仮想現実空間内においてぶつからないように配慮する必要がある。
なお、生成者情報やオブジェクト情報を参照マークの通知に含めることにより、クライアント装置300において、注目者の位置情報又は視線情報を更新して、参照マークの通知を選択したクライアント装置300のユーザを、その選択された参照マークの通知に対応する参照マークを付けたオブジェクトに誘導することも可能である。この場合、更新部240は、クライアント装置300から、選択操作のイベントと共にアバタの更新情報を取得する。そして更新部240は、取得した更新情報に基づいて、管理情報格納部250に格納する、選択操作のイベントを送信したクライアント装置300に関連付けられたアバタの位置情報及び視線情報の少なくとも一方を更新する。
図6は、本発明の実施形態に係る参照マークを自動生成するためのクライアント装置300の機能構成の一例を示す図である。本発明の実施形態に係るクライアント装置300は、イベント検出部305と、メッセージ取得部310と、通知部315と、ポリシー生成部320と、ポリシー登録部325、通知表示部330と、選択操作検出部335と、誘導部340とを含む。また本発明の実施形態に係るクライアント装置300の1以上の記憶装置は、3次元画像データ格納部345、管理情報格納部350、通知情報格納部355と、プリファレンス情報格納部360として構成される。なお、上述したように、サーバ装置200において、3次元の仮想現実空間内のオブジェクトを指し示すアバタの動作の検出を行う場合、イベント検出部305、メッセージ取得部310、及び通知部315は上記機能構成に含まれない。
3次元画像データ格納部345は、3次元の仮想現実空間を構成する街並み等の状態の変化しない3次元画像データを格納する。かかる3次元画像データは、ユーザが3次元の仮想現実空間内の特定の領域を初めて訪れる際、領域単位でサーバ装置200からダウンロードしてもよく、または、予めサービスの利用者に配布される、CD−ROM、DVD−ROMのような記憶メディアから読み出してもよい。
管理情報格納部350は、3次元の仮想現実空間内に配置される、状態が変化し得る3次元のオブジェクトに関するデータを格納する。管理情報格納部350は、一例として、3次元のオブジェクトに関するデータを、アバタに関するアバタ情報と、その他のオブジェクトに関するオブジェクト情報とに分けて格納する。これらアバタ情報とオブジェクト情報は、図3を参照して説明したのと同じであるから、ここでは説明を省略する。
イベント検出部305は、クライアント装置300の画面に表示される仮想現実空間内のオブジェクトを指し示す、クライアント装置300のユーザによる入力のイベントを検出する。検出方法の詳細な説明は、サーバ装置200の動作検出部205に関して説明したのと同様であることから、繰り返しを避けるため、ここでは省略する。
メッセージ取得部310は、イベント検出部305によるイベントの検出に応答して、オブジェクトが指し示される前後においてユーザによりクライアント装置300に入力されたチャット・メッセージを取得する。メッセージ取得の詳細な説明は、サーバ装置200のメッセージ取得部210に関して説明したのと同様であることから、繰り返しを避けるため、ここでは省略する。
通知部310は、イベント検出部305によるイベントの検出に応答して、サーバ装置200が上記オブジェクトに付ける参照マークを生成するトリガー情報として、検出したイベントの情報をサーバ装置200へ通知する。なお、サーバ装置200へ通知するイベントの情報には、検出されたイベントの種類と、ユーザにより指定されたオブジェクトの識別情報又は指し位置情報の少なくとも1つと、該当する場合にメッセージ取得部310により取得されたチャット・メッセージとが含まれる。
ここでイベントの種類は、図5を参照して説明したコンテキストのタイプに対応する。すなわち、イベント検出部305が、オブジェクトを指し示す、ユーザによる入力のイベントとして、テキストベース又は音声ベースの指示代名詞を含むチャット・メッセージの送信を検出する場合、イベントの種類はそれぞれTEXT又はVOICEである。一方、イベント検出部305が、オブジェクトを指し示す、ユーザによる入力のイベントとして、体の一部や道具を使ってオブジェクトを一定時間以上指し示さす動作を検出する場合、イベントの種類はSTAYである。
ポリシー生成部320は、その存在の通知を希望する参照マークを定義するポリシーを、クライアント装置300のユーザの入力に基づき生成する。また、ポリシー登録部325は、生成したポリシーを、サーバ装置200に登録する。図7は、ポリシー生成部320が生成するポリシーの一例を示す図である。図7(a)に示すポリシーは、通知を希望しない参照マークを定義することによって、存在の通知を希望する参照マークを定義する。Ignoreは、該ポリシーが、通知を希望しない参照マークの定義であることを示す。そして、参照マークを生成する基となるイベントを送信するクライアント装置300に関連付けられたアバタのID(<AvatarID>)と、参照マークを生成する基となるイベントの種類(<Action>)とによって、通知を希望しない参照マークを定義する。
例えば、図7(a)に示される最初の例は、アバタIDが1234であるアバタに対して、指示代名詞を含む音声チャット・メッセージが検出されることにより生成される参照マークを、通知を行わない参照マークとして定義する。このほか、本実施例においては、<Action>として、上述したTEXTやSTAYを指定することもできる。
図7(b)及び(c)に示すポリシーは、通知を希望しない参照マークまたは通知の優先度を定義する。図7(b)に示すポリシーにおいて、SetAbatarPriorityは、該ポリシーが、参照マークを生成する基となるイベントを送信するクライアント装置300に関連付けられたアバタに基づいて、参照マークの通知の優先度を定義することを示す。即ち、図7(b)に示される最初の例のように、参照マークを生成する基となるイベントを送信するクライアント装置300に関連付けられたアバタのID<Avatar ID>によって参照マークを特定し、優先度<Priority>によって、特定された参照マークの通知の優先度を指定する。本実施例においては、<Priority>には、IGNORE、LOW、MIDDLE、HIGHのいずれかを設定可能である。設定された優先度の情報はIGNOREを除き、クライアント装置300に送信する参照マークの通知に含める情報の一部として利用される。
図7(c)に示すポリシーにおいて、SetActionPriorityは、該ポリシーが、参照マークを生成する基となるイベントの種類に基づいて、参照マークの通知の優先度を定義することを示す。即ち、図7(c)に示される最初の例のように、参照マークを生成する基となるイベントの種類<ActionType>によって参照マークを特定し、優先度<Priority>によって、特定された参照マークの通知の優先度を指定する。本実施例においては、<ActionType>には、上述したように、VOICE、TEXT、STAYを指定することができる。<Priority>には、上述したように、IGNORE、LOW、MIDDLE、HIGHのいずれかを設定可能である。設定された優先度の情報はIGNOREを除き、クライアント装置300に送信する参照マークの通知に含める情報の一部として利用される。
通知情報格納部355は、サーバ装置200から送信された、参照マークの通知を格納する。上述したように、サーバ装置200から送信される参照マークの通知は参照マークのIDを含み、好ましくは更に、参照マークの生成時刻、参照マークを付けるオブジェクトに関するオブジェクト情報、参照マークを生成する基となったアバタ(生成者)の動作に関する動作情報、該動作を行った生成者に関する生成者情報、優先度情報、参照マークが参照された参照回数、参照マークが最後に参照された最終参照時刻のうち少なくとも1つを含む。
ここで、オブジェクト情報は、オブジェクトの識別子であるオブジェクトIDと、指し示された指し位置(X,Y,Z)とを含む。動作情報は、動作の前後でユーザによりクライアント装置300に入力された入力値を含む。生成者情報は、生成者IDと、生成者の位置情報及び視線情報を含む。
プリファレンス情報格納部360は、クライアント装置300の表示画面に参照マークの通知を表示する、その表示方法を定めるプリファレンス情報を格納する。プリファレンス情報は、クライアント装置300のユーザによって予め設定され、クライアント装置300に登録されるものである。登録されるプリファレンス情報は、一例として、最近生成された参照マーク、他のユーザによって参照された参照マーク、仮想現実空間において最近会話したアバタ又は自身のアバタの周辺にいるアバタが生成者である参照マークの少なくとも1つに該当する参照マークを優先して強調表示するというものであってよい。
通知表示部330は、通知情報格納部355から参照マークの通知を読み出し、該参照マークの通知をクライアント装置300の表示画面に表示する。一例として、通知表示部330は、参照マークの通知に含まれる情報から、参照マークの生成時刻、生成者情報、動作の前後でユーザによりクライアント装置300に入力された入力値、参照マークが参照された参照回数、参照マークが最後に参照された最終参照時刻のうちの少なくとも1つを読出し、該情報を参照マークの通知として、クライアント装置300の表示画面に表示する。
ここで、クライアント装置300の表示画面に生成者情報を表示する場合、好ましくは、生成者IDに対応するニックネームを使用する。アバタIDとニックネームの対応表は、クライアント装置300において、予めサーバ装置200より取得されているものとする。また、クライアント装置300の表示画面に入力値を表示する場合、入力値がテキストベースのチャット・メッセージであれば、そのまま文字情報として表示する。一方、入力値が音声ベースのチャット・メッセージの場合、一例として、表示画面には、選択された場合に入力値をスピーカー23より出力する、音声再生ボタンを表示する。更に入力値が一定以上の長さのチャット・メッセージである場合、一例としてチャット・メッセージから指示代名詞を含む前後のメッセージを抜き出し、抜き出したチャット・メッセージの一部を参照マークの通知として使用する。
好ましくは、通知表示部330は、通知情報格納部355から読み出した参照マークの通知を、プリファレンス情報格納部360に格納されるプリファレンス情報を参照して、クライアント装置300の表示画面に強調表示又は非強調表示する。例えばプリファレンス情報が、最近生成された参照マークを優先して強調表示するというものである場合、通知表示部330は、通知情報格納部355から、生成時刻が比較的最近の参照マークを読み出し、表示画面に大きく濃く表示する。また、プリファレンス情報が、仮想現実空間において最近会話したアバタが生成者である参照マークを優先して強調表示するというものである場合、通知表示部330は、クライアント装置300に維持されるチャット履歴を参照して、通知情報格納部355から、最近会話したアバタのIDと同じ生成者IDを含む参照マークの通知を読み出し、表示画面に大きく濃く表示する。
また、通知表示部330は、参照マークの通知に優先度情報(LOW、MIDDLE、HIGHのいずれか)が含まれる場合、通知情報格納部355から読み出した参照マークの通知を、優先度情報に従って、クライアント装置300の表示画面に強調表示又は非強調表示する。更に通知情報格納部355から読み出した参照マークの通知の数が一定数以上の場合、通知表示部330は、優先度情報に従って、参照マークの通知の一部を非表示としてもよい。
選択操作検出部335は、クライアント装置300の表示画面に表示された、参照マークの通知に対するクライアント装置300のユーザによる選択操作を検出し、該選択操作のイベントをサーバ装置200へ通知する。サーバ装置200へ通知する選択操作のイベントには、選択された参照マークの通知に含まれる参照マークのIDを含める。
誘導部340は、選択操作検出部335による選択操作の検出に応答して、選択された参照マークの通知に対応する参照マークが付けられたオブジェクトに自身のアバタを誘導するように、自身のアバタの位置情報及び視線情報の少なくとも一方を更新する。一例として、誘導部340は、通知情報格納部355から、選択された参照マークの通知に含まれる、オブジェクトの指し位置を読み出して、該指し位置に基づき自身のアバタの位置情報及び視線情報の少なくとも一方を更新する。これに代えて、誘導部340は、通知情報格納部355から、選択された参照マークの通知に含まれる、参照マークの生成者の位置情報や視線情報を読み出して、これら値を用いて自身のアバタの位置情報及び視線情報の少なくとも一方を更新してもよい。
なお、上記自身のアバタの位置情報又は視線情報の更新をサーバ装置300において行う場合、誘導部340は、アバタの更新情報をサーバ装置300から受信する。そして更新後のアバタの位置情報又は視線情報、或いはその両方に基づいて、クライアント装置300の表示画面を再描画する。
次に図8乃至図15を参照して、本発明の一実施形態に係る参照マークの自動生成の処理及びアバタの誘導処理の流れを説明する。なお、以下では、参照マークを生成するトリガーとなる、オブジェクトを指す動作の検出、及び、注目オブジェクトへのアバタの誘導処理は、クライアント装置300において行われるものとして説明する。しかしながら上述したように、これらの処理はサーバ装置200において行うことも可能であることに留意されたい。図8は、クライアント装置300及びサーバ装置200における、参照マークの自動生成処理の流れの一例を示すフローチャートである。図8においてクライアント装置300における処理はステップ100で開始し、クライアント装置300は、クライアント装置300の画面に表示される3次元仮想現実空間内のオブジェクトを指し示す、クライアント装置300のユーザによる入力のイベントを検出する。入力イベントの検出処理の詳細は、図9及び図10を参照して後述する。
イベントの検出に応答して、クライアント装置300は、サーバ装置200がオブジェクトに付ける参照マークを生成するトリガー情報として、検出したイベントの情報をサーバ装置200へ送信する(ステップ105)。サーバ装置200における処理は、ステップ110において、クライアント装置300からイベント情報を取得することにより開始する。サーバ装置200は、受け取ったイベント情報に基づいて、オブジェクトに付ける参照マークを生成し、これをオブジェクトに関連付けて、参照マーク格納部255に格納する(ステップ115)。参照マークの生成処理の詳細は、図11を参照して後述する。
図9は、オブジェクトを指し示すユーザ入力を検出する、クライアント装置300における処理の流れの一例を示すフローチャートである。図9(a)は、クライアント装置300に関連づけられるアバタの視線が、仮想現実空間内のあるオブジェクトに向けられた状態で、ユーザにより入力されたチャット・メッセージ中に所定のキーワードを検出する処理の流れの一例を示すフローチャートである。図9(a)において処理はステップ130で開始し、クライアント装置300は、チャット・メッセージの送信を検出する。チャット・メッセージの送信の検出に応答して、クライアント装置300は、送信されたチャット・メッセージに指示代名詞が含まれるか否かを判定する(ステップ135)。指示代名詞が含まれない場合(ステップ135:NO)、処理はステップ150へ戻る。
ステップ135において、チャット・メッセージに指示代名詞が含まれる場合、クライアント装置300は、管理情報格納部350から、自身のアバタの現在の位置情報と視線情報を読み出し、該情報に基づいて、アバタの視線方向にあるオブジェクトとその指し位置とを決定する(ステップ140)。そして、クライアント装置300は、決定したオブジェクトの識別情報と指し位置とを含むオブジェクト情報と、指示代名詞を含むチャット・メッセージとを含むイベント情報を作成し(ステップ145)、処理を終了する。なお、視線以外によってオブジェクトが指し示される状態で、指示代名詞を含むチャット・メッセージが入力される場合は、以下に説明する図9(b)に示すフローチャートにおいて検出され得るため、ここではアバタの視線によってオブジェクトが特定される場合を説明した。
図9(b)は、ユーザの入力により、クライアント装置300の表示画面に表示されるオブジェクトが一定時間以上指し示される状態を検出する処理の流れの一例を示すフローチャートである。図9(b)において処理はステップ150で開始し、クライアント装置300は、ユーザ入力によりオブジェクトが指し示された場合に、指し示された位置を順次記録するための空のリストを作成する。次にクライアント装置300は、オブジェクトを指し示すユーザ入力を検出すると(ステップ155)、指し位置の3次元仮想現実空間における座標をリストに追加する(ステップ160)。そしてクライアント装置300は、リストを参照して、過去N秒以内(Nは整数)に、指し位置の座標が3次元仮想現実空間の一定の範囲内にあるものがM個以上(Mは整数)あるか否か判定する(ステップ165)。M個以上ない場合、処理はステップ175へ戻る。
ステップ165においてYESの場合、クライアント装置300は、指し位置の座標に存在するオブジェクトを、参照マークを付けるオブジェクトとして決定する(ステップ170)。次にクライアント装置300は、クライアント装置300のユーザが送信したチャット・メッセージの履歴を参照し、指し動作を検出した前後において送信されたチャット・メッセージを取得する(ステップ175)。そして、クライアント装置300は、決定したオブジェクトの識別情報と指し位置とを含むオブジェクト情報と、チャット・メッセージとを含むイベント情報を作成し(ステップ180)、処理を終了する。
図10は、参照マークを生成する、サーバ装置200における処理の流れの一例を示すフローチャートである。図10において処理はステップ220で開始し、サーバ装置200は、イベント情報の受信に応答して、生成する参照マークに参照マークのIDを割り当てるとともに、現在時刻を取得して、参照マークの生成時刻とする(ステップ225)。サーバ装置200はまた、イベントを送信したクライアント装置300に関連付けられるアバタのIDを、参照マークの生成者IDとして取得する(ステップ230)。ここでアバタIDの取得は、一例として、サーバ装置200において管理される、クライアント装置300の識別子(例えば、IPアドレスやシリアル番号)とアバタIDの対応表を利用してよい。或いは、サーバ装置200は、イベント情報の一部として、クライアント装置300からアバタIDを取得してもよい。
サーバ装置300はまた、管理情報格納部250から、アバタIDをキーとして一致するアバタ情報を取得する(ステップ235)。ここで、サーバ装置300は、取得したアバタ情報に含まれるアバタの位置情報や視線情報を、参照マークの生成者の位置情報及び視線情報として決定する。最後にサーバ装置200は、上記一連の情報を、イベント情報に含まれるオブジェクト情報とともに、参照マークのIDに関連付けて参照マーク格納部255に格納し(ステップ240)、処理を終了する。
図11は、クライアント装置300及びサーバ装置200における、ポリシー情報の作成処理及び管理処理の流れの一例を示すフローチャートである。図11においてクライアント装置300における処理はステップ250で開始し、クライアント装置300は、通知を希望する参照マークを定義するポリシーを作成する。そして、クライアント装置300は、作成したポリシーをサーバ装置200へ送信し(ステップ255)、処理を終了する。一方、サーバ装置200における処理は、ステップ260において、クライアント装置300からポリシーを取得することにより開始する。サーバ装置200は、ポリシーを送信したクライアント装置300のIPアドレスを取得し(ステップ265)、該IPアドレスに関連付けて受信したポリシーをポリシー格納部260に格納する(ステップ270)。そして処理は終了する。
図12は、クライアント装置300及びサーバ装置200における、参照マークの通知処理の流れの一例を示すフローチャートである。図12においてサーバ装置200における処理はステップ305で開始し、サーバ装置200は一定時間が経過するのを待つ。一定時間が経過すると、サーバ装置200は、ポリシー格納部260からポリシーを1つ読み出し(ステップ310)、読み出したポリシーの条件に合致する新規に生成された参照マークを、参照マーク格納部255に格納される複数の参照マークから選択する(ステップ315)。次にサーバ装置200は、選択した参照マークごとに、参照マーク格納部255に格納される情報を用いて、参照マークの存在を知らせる参照マークの通知を作成する。そしてサーバ装置200は、作成した参照マークの通知を、読み出したポリシーを送信したクライアント装置300へ送信する(ステップ320)。その後処理はステップ325へ進み、サーバ装置200は、ポリシー格納部260に、未処理のポリシーが残っているか否か判定する。未処理のポリシーが残っている場合(ステップ325:YES)、処理はステップ310に戻り、サーバ装置200は、未処理のポリシーについて、ステップ310からステップ320までの一連の処理を繰り返す。一方、未処理のポリシーが残っていない場合(ステップ325:NO)、処理はステップ305に戻り、サーバ装置200は図12に示すサーバ装置200における一連の処理を繰り返す。
一方、クライアント装置300における処理は、ステップ330において、サーバ装置200から参照マークの通知を取得し、通知情報格納部355に格納することにより開始する。クライアント装置300は、サーバ装置200から新たに生成された参照マークの通知を受信する毎に、通知情報格納部355に格納されている既存の通知と、新たに受信した通知とを、その通知に含まれる優先度情報に基づいてソートする(ステップ330)。参照マークの通知が一定の数を超える場合、クライアント装置300は、上位の参照マークの通知のみをその表示画面に表示する(ステップ335)。この際クライアント装置300は、参照マークの通知を、その通知に含まれる優先度に応じて又はプリファレンス情報格納部360に格納されるプリファレンス情報を参照して、強調表示又は非強調表示してもよい(ステップ335)。そして処理は終了する。
図13は、クライアント装置300及びサーバ装置200における、参照マークの付けられたオブジェクトへの誘導処理の流れの一例を示すフローチャートである。図13においてクライアント装置300における処理はステップ350で開始し、クライアント装置300は、その表示画面に表示された参照マークの通知に対するユーザの選択操作を検出する。選択操作の検出に応答して、クライアント装置300は、自身のアバタを、選択された通知に対応する参照マークが付けられたオブジェクトへ誘導する(ステップ355)。オブジェクトへの誘導処理の詳細は、図14を参照して後述する。そしてクライアント装置300は、選択操作のイベントと誘導処理によるアバタの更新情報とを、サーバ装置200へ通知し(ステップ360)、処理を終了する。
一方、サーバ装置200における処理は、ステップ365において、クライアント装置300から選択操作のイベントと、誘導処理によるアバタの更新情報とを取得することにより開始する。サーバ装置200は、選択操作のイベントに含まれる参照マークのIDをキーに、参照マーク格納部255に格納される参照マークのテーブルから、一致する参照マークを検索する。そしてサーバ装置200は、一致した参照マークの最終参照時刻及び参照回数の値をそれぞれ更新する(ステップ370)。サーバ装置200はまた、取得したアバタの更新情報で、管理情報格納部250に格納される、選択操作のイベントを送信したクライアント装置300に関連付けられるアバタの位置情報又は視線情報を更新し(ステップ375)、処理を終了する。
図14は、クライアント装置300における、オブジェクトへの誘導処理の流れの一例を示すフローチャートである。ステップ400において、クライアント装置300は、通知情報格納部355から、選択した参照マークの通知に含まれる、オブジェクトの指し位置を読み出す。そして、クライアント装置300は、読み出したオブジェクトの指し位置に基づき自身のアバタの位置情報及び視線情報の少なくとも一方を更新し(ステップ405)、処理を終了する。これに代えて、クライアント装置300は、通知情報格納部355から、選択された参照マークの通知に含まれる、参照マークの生成者の位置情報や視線情報を読み出して、これらを用いて自身のアバタの位置情報及び視線情報の少なくとも一方を更新してもよい。
図15は、サーバ装置300における、参照マークの廃棄処理の流れの一例を示すフローチャートである。図15において処理はステップ430で開始し、サーバ装置200は一定時間が経過するのを待つ。一定時間が経過すると、サーバ装置200は、現在時刻を取得し(ステップ435)、参照マーク格納部255から次の参照マークの情報を読み出す(ステップ440)。そしてサーバ装置200は、参照マークの生成時刻に基づき、読み出した参照マークが現在時刻から一定時間以上前に生成された古い参照マークであるか否か判定する(ステップ445)。古い参照マークでない場合(ステップ445:NO)、次にサーバ装置200は、参照マークの最終参照時刻に基づき、読み出した参照マークが最後に参照されてから一定時間以上経過しているか否か判定する(ステップ450)。最後に参照されてからまだ間もない参照マークである場合(ステップ450:NO)、サーバ装置200は更に、参照マークの参照回数に基づき、読み出した参照マークが頻繁に参照されているか否か判定する(ステップ455)。
ステップ445、450、455のいずれかにおいて肯定的な判定結果が得られた場合、即ち、参照マークが古いものであったり、あまり注目されないものである場合、サーバ装置200は、参照マーク格納部255から参照マークを削除する(ステップ460)。一方ステップ445、450、455のいずれかにおいても否定的な判定結果が得られた場合、即ち、参照マークが比較的新しく、また、注目されるものである場合、又はステップ460から、処理はステップ465へ進み、サーバ装置200は、参照マーク格納部255に未検討の参照マークが残っているか否かを判定する。未検討の参照マークが残っている場合(ステップ465:YES)、処理はステップ440へ戻り、サーバ装置200は、未検討の参照マークについて、ステップ440からステップ465までの一連の処理を繰り返す。一方、未検討の参照マークが残っていない場合(ステップ465:NO)、処理はステップ430へ戻り、サーバ装置200は、図15に示す一連の処理を繰り返す。
次に、図16乃至図18を参照して、3次元仮想現実空間において行われるモーターショウを例に、本発明を適用した場合のクライアント装置300の表示画面に表示される表示内容について説明する。
図16は、モーターショウのある1会場の様子を示す図である。図16に示す会場には、6台の自動車505a、505b、505c、505d、505e、505fと、5台のバイク510a、510b、505c、510d、505eが展示されており、現在、参照番号515乃至530で示されるアバタが会場に集まっているものとする。ここでアバタ515は、セールスマンというニックネームを持ち、展示される商品を来場者であるアバタ520乃至アバタ530に説明する販売員のクライアント装置300に関連付けられている。アバタ530は、おじいさんというニックネームを持ち、来場者であるクライアント装置300に関連付けられている。以下では、アバタ515に関連付けられるセールスマンの表示画面と、アバタ530に関連付けられるおじいさんの表示画面に着目する。
図17は、セールスマンのクライアント装置300の表示画面を示す。セールスマンのクライアント装置300の表示画面には、図16に示すアバタ515から見た3次元のモーターショウの会場が表示される。セールスマンが、入力デバイスを介して、バイク510aの一部分を指し示す動作をアバタ515に行わせると、図17(a)に示すように、セールスマンの表示画面には、アバタ515の手から、指し示したバイクの一部分へ延びたビームが表示される。この状態で、セールスマンが、入力デバイスを介して「ここ、頑張りました」というチャット・メッセージを入力し、送信すると、セールスマンの表示画面は、図17(a)から図17(b)に変化する。なお、実際のセールスマンの表示画面には、バイク510aの一部分を囲む点線は表示されない。その後、セールスマンは、入力デバイスを介してアバタを画面向かって左へ移動させ、バイク510aの次の箇所の説明を開始する。すると、セールスマンの表示画面は、図17(b)から図17(c)に変化する。
図17(a)の表示画面から、図17(b)の表示画面に変化するまで、一定時間(例えば20秒)あったとすると、本発明の実施形態に係るセールスマンのクライアント装置300は、その表示画面に表示されるバイク510aの一部分が一定時間以上指し示される状態を検出する。指し動作の検出に応答して、セールスマンのクライアント装置300は、指し位置情報から指し示されるオブジェクト、即ちバイク510aを決定する。更に、セールスマンのクライアント装置300は、セールスマンのクライアント装置300において維持されるチャット・メッセージの履歴から、指し動作の前後で入力されたチャット・メッセージ、即ち「ここ、頑張りました」というチャット・メッセージを取得する。最後にセールスマンのクライアント装置300は、バイク510aのID、指し位置情報、及び、「ここ、頑張りました」というチャット・メッセージを含むイベント情報を作成し、サーバ装置200へ送信する。
なお、アバタ515の視線によってバイク510aの一部分が指し示される場合は、セールスマンのクライアント装置300は、チャット・メッセージに「ここ」という指示代名詞が含まれることを検出することにより、アバタ515の指し動作を検出する。この場合、セールスマンのクライアント装置300は、アバタ515の位置情報及び視線情報に基づき、管理情報格納部350から指し示されるオブジェクトを検索する。
セールスマンのクライアント装置300から、イベント情報を受信したサーバ装置200は、イベント情報に基づいて、上記バイク510aに付ける参照マークを生成する。生成された参照マークは、生成時刻、バイク510aのID及び指し位置を含むオブジェクト情報、セールスマンのアバタ515のID、セールスマンの現在の位置情報及び視線情報を含む生成者情報、及び「ここ、頑張りました」というチャット・メッセージに関連付けて、サーバ装置200により、参照マーク格納部255に格納される。
一方、アバタ530に関連付けられるおじいさんのクライアント装置300は、予めサーバ装置200に、通知を希望する参照マークを定義するポリシーとして、「SetAvatarPriority アバタ515のID HIGH」を登録しているものとする。サーバ装置200は、定期的に、参照マーク格納部255から、おじいさんのポリシーに合致する新規の参照マークを選択し、選択した参照マークの通知を、おじいさんのクライアント装置300へ送信する。本実施例における参照マークの通知には、参照マークの生成時刻と、オブジェクトのID及び指し位置を含むオブジェクト情報と、生成者のID、位置情報及び視線情報を含む生成者情報と、送信されたチャット・メッセージとが含まれる。
図18は、おじいさんのクライアント装置300の表示画面を示す。おじいさんのクライアント装置300の表示画面には、図16に示すアバタ530から見た3次元のモーターショウの会場が表示される。図18(a)は、セールスマンのクライアント装置300の表示画面が図17(a)に示す表示画面であるときの、おじいさんのクライアント装置300の表示画面を示す。おじいさんのクライアント装置300の表示画面には、一分前にセールスマンのアバタ515の動作が基となって生成された第1の参照マークの通知が太字で強調表示されている。なお、参照マークの通知から引かれている矢印550は、参照マークが付けられるオブジェクトを示すものである。おじいさんは、セールスマンがバイク510aの説明に移った後も、自動車505cに興味があり、自動車505cのエンブレムを見続けていたものとする。
その後、セールスマンのアバタ515による、バイク510aの一部を指し示す動作をトリガーとして、サーバ装置200において第2の参照マークが生成されると、おじいさんのクライアント装置300は、サーバ装置200から、第2の参照マークの存在を知らせる通知を受信する。そして、おじいさんのクライアント装置300の表示画面は、図18(a)から図18(b)に変化する。ここでおじいさんは、予めクライアント装置300に、より新しい参照マークを優先表示することを定めるプリファレンス情報を登録しているものとする。おじいさんのクライアント装置300は、登録されたプリファレンス情報に従って、図18(b)に示すように、過去に作成された第1の参照マークの通知を薄く小さく表示し、一方、最近作成された第2の参照マークの通知を濃く大きく表示する。なお、受信された参照マークの通知は、通知情報格納部355に格納される。
なお、本実施例に係るクライアント装置300は、参照マークの通知として、参照マークの生成時刻、生成者のニックネーム及びチャット・メッセージを表示画面に表示する。ここで、参照マークの生成時刻は、そのまま表示してもよく、或いは図18に示すように、現在時刻からの経過時間を求めて表示してもよい。おじいさんが、第2の参照マークの通知に興味を持ち、指し示されるオブジェクトをみることを望む場合、おじいさんは、表示画面に表示される第2の参照マークを、クリック操作等により選択するだけでよい。選択操作の検出に応答して、おじいさんのクライアント装置300は、通知情報格納部355から、選択された参照マークの通知に含まれる生成者情報を読出し、生成者の位置情報及び視線情報を使って、おじいさんのアバタ530の位置情報及び視線情報を更新する。その結果、おじいさんのクライアント装置300の表示画面は、図18(b)から図18(c)に変化する。
おじいさんのクライアント装置300はまた、通知情報格納部355から、選択された参照マークの通知に含まれる参照マークのIDを読出し、アバタの更新情報と共に、参照マークのIDを含む選択操作のイベントをサーバ装置200へ送信する。サーバ装置200は、選択操作のイベントの受信に応答して、該当する参照マークの参照回数と最終参照時刻を更新する。また、サーバ装置200は、管理情報格納部250に格納される情報を、アバタの更新情報で更新する。
このように、本発明によれば、クライアント装置300の画面に表示される仮想現実空間内のオブジェクトを指し示す、クライアント装置300に関連付けられたアバタの動作を、参照マークを生成するトリガー情報として検出し、動作の検出に応答してオブジェクトに付ける参照マークを生成するので、参照マークの生成を指示するコマンドの入力という面倒な操作なしに、ユーザはオブジェクトに参照マークを付けることが可能となる。
また、自動生成した参照マークのうち、クライアント装置300がサーバ装置200に予め登録したポリシー情報に合致する参照マークについて、その存在を知らせる通知がクライアント装置300の画面に表示されるので、クライアント装置300のユーザは、参照マークが付けられたオブジェクトがその画面に表示されているか否かに関わらず、興味ある参照マークの存在を知ることができる。更に、画面に表示される参照マークの通知がユーザにより選択された場合、その参照マークが付けられるオブジェクトが見えるようにアバタの視線情報や位置情報が更新されるので、ユーザは興味をもった参照マークがつけられるオブジェクトを確実に見ることができるようになる。
以上、実施形態を用いて本発明の説明をしたが、本発明の技術範囲は上記実施形態に記載の範囲には限定されない。上記の実施形態に、種々の変更または改良を加えることが可能であることが当業者に明らかである。従って、そのような変更または改良を加えた形態も当然に本発明の技術的範囲に含まれる。
本発明の一実施形態に係る参照マークを自動生成するシステム1000の全体の構成の一例を示す。 本発明の実施の形態によるサーバ装置200及びクライアント装置300を実現するのに好適な情報処理装置のハードウェア構成の一例を示した図である。 (a)は、サーバ装置200及びクライアント装置300において維持される、アバタに関するアバタ情報を管理するテーブルの一例を示す図である。(b)は、サーバ装置200及びクライアント装置300において維持される、その他のオブジェクトに関するオブジェクト情報を管理するテーブルの一例を示す図である。 本発明の実施の形態によるサーバ装置200の機能構成の一例を示す図である。 本発明の実施の形態による、参照マークのテーブルの一例を示す図である。 本発明の実施の形態によるクライアント装置300の機能構成の一例を示す図である。 (a)は、本発明の実施の形態による、ポリシーの一例を示す図である。(b)は、本発明の実施の形態による、ポリシーの一例を示す図である。(c)は、本発明の実施の形態による、ポリシーの一例を示す図である。 本発明の実施形態に係る、参照マークの自動生成処理の流れの一例を示すフローチャートを示す図である。 (a)は、本発明の実施形態に係る、オブジェクトを指し示す動作検出の処理の流れの一例を示すフローチャートを示す図である。(b)は、本発明の実施形態に係る、オブジェクトを指し示す動作検出の処理の流れの一例を示すフローチャートを示す図である。 本発明の実施形態に係る、参照マークを生成する処理の流れの一例を示すフローチャートを示す図である。 本発明の実施形態に係る、ポリシーを生成し、維持する処理の流れの一例を示すフローチャートを示す図である。 本発明の実施形態に係る、参照マークの存在を通知する処理の流れの一例を示すフローチャートを示す図である。 本発明の実施形態に係る、アバタの誘導処理の流れの一例を示すフローチャートを示す図である。 本発明の実施形態に係る、アバタ情報の更新処理の流れの一例を示すフローチャートを示す図である。 本発明の実施形態に係る、参照マークの廃棄処理の流れの一例を示すフローチャートを示す図である。 3次元仮想現実空間における、モーターショウのある1会場の様子を示す図である。 (a)は、本発明の実施形態に係る、セールスマンのクライアント装置300の表示画面の一例を示す図である。(b)は、本発明の実施形態に係る、セールスマンのクライアント装置300の表示画面の一例を示す図である。(c)は、本発明の実施形態に係る、セールスマンのクライアント装置300の表示画面の一例を示す図である。 (a)は、本発明の実施形態に係る、おじいさんのクライアント装置300の表示画面の一例を示す図である。(b)は、本発明の実施形態に係る、おじいさんのクライアント装置300の表示画面の一例を示す図である。(c)は、本発明の実施形態に係る、おじいさんのクライアント装置300の表示画面の一例を示す図である。

Claims (16)

  1. ネットワークを介して接続された複数のクライアント装置に仮想現実空間を提供するサーバ装置であって、
    クライアント装置の画面に表示される前記仮想現実空間内のオブジェクトを指し示す、前記クライアント装置に関連付けられたアバタの動作を検出する動作検出部と、
    前記動作の検出に応答して、前記オブジェクトに付ける参照マークを生成する参照マーク生成部と
    他のクライアント装置が前記サーバ装置に予め登録した、存在の通知を希望する参照マークを定義するポリシーを取得するポリシー取得部と
    前記ポリシーを参照して、生成した参照マークのうち前記ポリシーに合致する参照マークを選択し、選択した参照マークの存在を前記他のクライアント装置に通知する参照マーク通知部と
    を含むサーバ装置。
  2. 記他のクライアント装置の画面に表示された前記参照マークの通知に対する前記他のクライアント装置のユーザによる選択操作のイベントを前記他のクライアント装置から取得する操作情報取得部と、前記選択操作のイベントの受信に応答して、前記他のクライアント装置に関連付けられた他のアバタが、前記参照マークを付けた前記オブジェクトに誘導されるように、前記他のアバタの位置情報及び視線情報の少なくとも一方を更新する更新部とを更に含む、請求項1に記載のサーバ装置。
  3. 生成した前記参照マークに関連付けて、前記参照マークが参照された参照回数又は前記参照マークが最後に参照された最終参照時刻を格納する参照マーク格納部を更に含み、前記参照マーク通知部は、生成した前記参照マークの存在を、前記参照回数又は前記最終参照時刻の情報とともに、他のクライアント装置に通知する、請求項2に記載のサーバ装置。
  4. 記選択操作のイベントの受信に応答して、前記参照回数又は前記最終参照時刻を更新する更新部を更に含む、請求項3に記載のサーバ装置。
  5. 生成した前記参照マークに関連付けて、該参照マークの生成時刻、前記参照マークを付ける前記オブジェクトに関する情報、前記参照マークを生成する基となった前記アバタの動作に関する動作情報、及び該動作を行った前記アバタに関するアバタ情報のうち少なくとも1つを格納する参照マーク格納部を更に含む、請求項に記載のサーバ装置。
  6. 前記参照マーク通知部は、前記参照マークの生成時刻、前記参照マークを付ける前記オブジェクトに関する情報、前記参照マークを生成する基となった前記アバタの動作に関する動作情報、及び該動作を行った前記アバタに関するアバタ情報のうち少なくとも1つ含む前記通知を前記他のクライアント装置に送信する、請求項5に記載のサーバ装置
  7. 前記動作検出部は、前記クライアント装置のユーザの入力により、前記オブジェクトが前記アバタによって一定時間以上指し示される状態を検出する、請求項に記載のサーバ装置。
  8. 前記動作検出部は、前記クライアント装置のユーザの入力により、前記アバタが前記オブジェクトを指し示している状態で、前記クライアント装置のユーザにより入力されたチャット・メッセージ中に所定のキーワードが含まれる状態を検出する、請求項に記載のサーバ装置。
  9. 前記動作検出部による動作の検出に応答して、前記オブジェクトが指し示される前後において前記クライアント装置のユーザにより入力されたチャット・メッセージを取得するメッセージ取得部と、取得したチャット・メッセージを前記参照マークに関連付けて格納する参照マーク格納部とを更に含む、請求項に記載のサーバ装置。
  10. ネットワークを介して接続された複数のクライアント装置に仮想現実空間を提供するサーバ装置において実行される、参照マークを自動生成するための方法であって、
    クライアント装置の画面に表示される前記仮想現実空間内のオブジェクトを指し示す、前記クライアント装置に関連付けられたアバタの動作を検出するステップと、
    前記動作の検出に応答して、前記オブジェクトに付ける参照マークを生成するステップと
    他のクライアント装置が前記サーバ装置に予め登録した、存在の通知を希望する参照マークを定義するポリシーを取得するステップと
    前記ポリシーを参照して、生成した参照マークのうち前記ポリシーに合致する参照マークを選択し、選択した参照マークの存在を前記他のクライアント装置に通知するステップと
    を含む参照マーク自動生成方法。
  11. 前記他のクライアント装置の画面に表示された前記参照マークの通知に対する前記他のクライアント装置のユーザによる選択操作のイベントを前記他のクライアント装置から取得するステップと前記選択操作のイベントの受信に応答して、前記他のクライアント装置に関連付けられた他のアバタが、前記参照マークを付けた前記オブジェクトに誘導されるように、前記他のアバタの位置情報及び視線情報の少なくとも一方を更新するステップとを更に含む請求項10に記載の参照マーク自動生成方法
  12. 前記サーバ装置は、生成した前記参照マークに関連付けて、前記参照マークが参照された参照回数又は前記参照マークが最後に参照された最終参照時刻を格納する参照マーク格納部を含み前記通知するステップにおいて、生成した前記参照マークの存在は、前記参照回数又は前記最終参照時刻の情報とともに通知される請求項11に記載の参照マーク自動生成方法
  13. 請求項10乃至12のいずれか一項に記載の方法の全ステップをサーバに実行させる、サーバ用プログラム。
  14. 仮想現実空間を提供するサーバ装置と、該サーバ装置にネットワークを介して接続する1以上のクライアント装置を含むシステムにおいて実行される、参照マークを自動生成するためのプログラムであって、前記参照マーク自動生成プログラムは、前記クライアント装置に、
    前記クライアント装置の画面に表示される前記仮想現実空間内のオブジェクトを指し示す、前記クライアント装置のユーザによる入力のイベントを検出するステップと、
    前記イベントの検出に応答して、前記サーバ装置が前記オブジェクトに付ける参照マークを生成するトリガー情報として、前記検出したイベントの情報を前記サーバ装置へ通知するステップと
    存在の通知を希望する参照マークを定義するポリシーを前記ユーザの入力に基づき生成するステップと
    生成した前記ポリシーを前記サーバ装置に登録するステップと
    を実行させ、
    前記サーバ装置に、
    前記クライアント装置からイベントの情報を取得することに応答して、前記オブジェクトに付ける参照マークを生成するステップ
    前記ポリシーを参照して、生成した参照マークのうち前記ポリシーに合致する参照マークを選択し、選択した参照マークの存在を前記クライアント装置に通知するステップと
    を実行させる、参照マーク自動生成プログラム。
  15. 前記参照マーク自動生成プログラムは、記クライアント装置に、前記サーバ装置から受信した参照マークの存在を知らせる通知を、予め前記ユーザにより前記クライアント装置に登録されたプリファレンス情報を参照して、前記画面に強調表示又は非強調表示するステップを更に実行させる、請求項14に記載の参照マーク自動生成プログラム。
  16. 前記参照マーク自動生成プログラムは、記クライアント装置に、前記画面に表示された前記通知に対する前記ユーザによる選択操作を検出するステップと、前記選択操作の検出に応答して、選択された前記通知に対応する参照マークが付けられたオブジェクトに、前記クライアント装置に関連付けられたアバタを誘導するように、該アバタの位置情報及び視線情報の少なくとも一方を更新するステップとを更に実行させる、請求項15に記載の参照マーク自動生成プログラム。
JP2007296861A 2007-11-15 2007-11-15 仮想共有空間における参照マークの自動生成方法、装置及びプログラム Expired - Fee Related JP5294612B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2007296861A JP5294612B2 (ja) 2007-11-15 2007-11-15 仮想共有空間における参照マークの自動生成方法、装置及びプログラム
US12/197,173 US8276080B2 (en) 2007-11-15 2008-08-22 Automatically generating a reference mark in virtual shared space
CN2008101662916A CN101437024B (zh) 2007-11-15 2008-09-25 用于在虚拟共享空间中自动生成引用标记的方法和设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007296861A JP5294612B2 (ja) 2007-11-15 2007-11-15 仮想共有空間における参照マークの自動生成方法、装置及びプログラム

Publications (2)

Publication Number Publication Date
JP2009123001A JP2009123001A (ja) 2009-06-04
JP5294612B2 true JP5294612B2 (ja) 2013-09-18

Family

ID=40643267

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007296861A Expired - Fee Related JP5294612B2 (ja) 2007-11-15 2007-11-15 仮想共有空間における参照マークの自動生成方法、装置及びプログラム

Country Status (3)

Country Link
US (1) US8276080B2 (ja)
JP (1) JP5294612B2 (ja)
CN (1) CN101437024B (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10827230B2 (en) 2014-07-03 2020-11-03 Sony Corporation Information processing apparatus and information processing method
WO2022242854A1 (en) * 2021-05-19 2022-11-24 Telefonaktiebolaget Lm Ericsson (Publ) Prioritizing rendering by extended reality rendering device responsive to rendering prioritization rules

Families Citing this family (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5360864B2 (ja) * 2008-03-27 2013-12-04 インターナショナル・ビジネス・マシーンズ・コーポレーション 仮想空間危険度評価システム、方法及びプログラム
US8239776B2 (en) * 2009-01-14 2012-08-07 International Business Machines Corporation Behavior detection and alert in virtual worlds based on spatial and temporal criteria
US8291327B2 (en) * 2009-01-14 2012-10-16 International Business Machines Corporation Detecting avatar following in a virtual environment
US8271888B2 (en) * 2009-01-23 2012-09-18 International Business Machines Corporation Three-dimensional virtual world accessible for the blind
US9235268B2 (en) * 2010-04-09 2016-01-12 Nokia Technologies Oy Method and apparatus for generating a virtual interactive workspace
US8898567B2 (en) 2010-04-09 2014-11-25 Nokia Corporation Method and apparatus for generating a virtual interactive workspace
JP5134653B2 (ja) * 2010-07-08 2013-01-30 株式会社バンダイナムコゲームス プログラム及びユーザ端末
WO2012034044A2 (en) * 2010-09-11 2012-03-15 Social Communications Company Relationship based presence indicating in virtual area contexts
CN102446192A (zh) * 2010-09-30 2012-05-09 国际商业机器公司 在虚拟世界中评估关注度的方法和装置
JP5598232B2 (ja) * 2010-10-04 2014-10-01 ソニー株式会社 情報処理装置、情報処理システムおよび情報処理方法
CN104714639B (zh) * 2014-12-30 2017-09-29 上海孩子国科教设备有限公司 跨空间进行操作的方法及客户端
US10228813B2 (en) * 2016-02-26 2019-03-12 Pearson Education, Inc. System and method for remote interface alert triggering
US9654175B1 (en) 2016-02-26 2017-05-16 Pearson Education, Inc. System and method for remote alert triggering
US10607609B2 (en) * 2016-08-12 2020-03-31 Magic Leap, Inc. Word flow annotation
WO2018120474A1 (zh) * 2016-12-30 2018-07-05 华为技术有限公司 一种信息的处理方法及装置
WO2018131914A1 (en) 2017-01-13 2018-07-19 Samsung Electronics Co., Ltd. Method and apparatus for providing guidance in a virtual environment
US10503826B2 (en) * 2017-02-28 2019-12-10 Michael E. Woods Communicator
US11595480B2 (en) * 2017-05-23 2023-02-28 Constructive Labs Server system for processing a virtual space
CN111052045B (zh) 2017-09-29 2022-07-15 苹果公司 计算机生成的现实平台
US10449461B1 (en) * 2018-05-07 2019-10-22 Microsoft Technology Licensing, Llc Contextual in-game element recognition, annotation and interaction based on remote user input
CN108671543A (zh) * 2018-05-18 2018-10-19 腾讯科技(深圳)有限公司 虚拟场景中的标记元素显示方法、计算机设备及存储介质
US10474416B1 (en) * 2019-01-03 2019-11-12 Capital One Services, Llc System to facilitate interaction during a collaborative screen sharing session
US20230120772A1 (en) * 2021-10-14 2023-04-20 At&T Intellectual Property I, L.P. Methods, systems, and devices for on-demand reuse of volumetric content
CN115623133A (zh) * 2022-09-30 2023-01-17 维沃移动通信有限公司 线上会议方法、装置、电子设备及可读存储介质

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5813007A (en) * 1996-06-20 1998-09-22 Sun Microsystems, Inc. Automatic updates of bookmarks in a client computer
US6366285B1 (en) 1997-11-21 2002-04-02 International Business Machines Corporation Selection by proximity with inner and outer sensitivity ranges
US6493702B1 (en) * 1999-05-05 2002-12-10 Xerox Corporation System and method for searching and recommending documents in a collection using share bookmarks
US20020158916A1 (en) * 2001-04-26 2002-10-31 International Business Machines Corporation Graphical e-commerce shopping terminal system and method
US20020178072A1 (en) * 2001-05-24 2002-11-28 International Business Machines Corporation Online shopping mall virtual association
US7568151B2 (en) * 2002-06-27 2009-07-28 Microsoft Corporation Notification of activity around documents
JP2004199159A (ja) * 2002-12-16 2004-07-15 Canon Inc 情報処理方法、情報処理装置、プログラムおよび記憶媒体
JP2005018212A (ja) * 2003-06-24 2005-01-20 Sora Technology Corp ネットワーク上の情報コンテンツに対するユーザの反応を把握する情報収集方法及びシステム
US20060200662A1 (en) * 2005-02-01 2006-09-07 Microsoft Corporation Referencing objects in a virtual environment
US7933395B1 (en) * 2005-06-27 2011-04-26 Google Inc. Virtual tour of user-defined paths in a geographic information system
CN1990074B (zh) * 2005-12-28 2011-04-13 腾讯科技(深圳)有限公司 一种网络游戏中的物体运动控制方法
US7836437B2 (en) 2006-02-10 2010-11-16 Microsoft Corporation Semantic annotations for virtual objects
JP5041730B2 (ja) * 2006-05-08 2012-10-03 任天堂株式会社 オブジェクト処理装置及びオブジェクト処理プログラム
JP4861105B2 (ja) * 2006-09-15 2012-01-25 株式会社エヌ・ティ・ティ・ドコモ 空間掲示板システム
US20080263460A1 (en) * 2007-04-20 2008-10-23 Utbk, Inc. Methods and Systems to Connect People for Virtual Meeting in Virtual Reality

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10827230B2 (en) 2014-07-03 2020-11-03 Sony Corporation Information processing apparatus and information processing method
WO2022242854A1 (en) * 2021-05-19 2022-11-24 Telefonaktiebolaget Lm Ericsson (Publ) Prioritizing rendering by extended reality rendering device responsive to rendering prioritization rules

Also Published As

Publication number Publication date
US8276080B2 (en) 2012-09-25
US20090132931A1 (en) 2009-05-21
CN101437024B (zh) 2013-05-15
JP2009123001A (ja) 2009-06-04
CN101437024A (zh) 2009-05-20

Similar Documents

Publication Publication Date Title
JP5294612B2 (ja) 仮想共有空間における参照マークの自動生成方法、装置及びプログラム
US11233952B2 (en) Selective identification and order of image modifiers
US10101902B2 (en) Methods and systems for obscuring text in a conversation
US8117551B2 (en) Computer system and method of using presence visualizations of avatars as persistable virtual contact objects
KR101643678B1 (ko) 인간-기계 상호작용에서 기계 측 상의 목표 대상을 인식하는 방법 및 장치
KR101787248B1 (ko) 메신저 서비스를 이용한 키워드 검색 방법 및 시스템
KR20190103322A (ko) 표면 인식 렌즈
TWI596921B (zh) Reference notification method and device
JP2022166324A (ja) メッセージを表示するためのプログラム
TWI825053B (zh) 收集未回覆消息的方法、系統及非暫態電腦可讀取記錄媒體
CN105204886B (zh) 一种激活应用程序的方法、用户终端和服务器
CN110059241A (zh) 信息查询方法及装置、计算机可读存储介质、电子设备
CN107168974B (zh) 显示项相关内容、社交类应用中消息的显示控制方法和装置
KR20160131866A (ko) 검색 서비스와 연결된 메시지 서비스를 위한 메시지 서비스 제공 방법 및 상기 메시지 서비스 제공 방법을 수행하는 메시지 서버 및 사용자 단말
JP5055519B2 (ja) 情報処理装置、情報処理システム、プログラム、及び情報処理方法
KR20090041247A (ko) 가상 세계에서의 이벤트를 관리하는 장치 및 그 방법
WO2020095546A1 (ja) 情報処理装置、情報処理システム、および情報処理方法、並びにプログラム
US11302079B2 (en) Systems and methods for displaying and interacting with a dynamic real-world environment
KR20230137683A (ko) 대화 주제에 기초한 가상 화면 표시 방법 및 시스템
CN115580592A (zh) 消息收发应用的题绪导航

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100723

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120314

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120626

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120912

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120918

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121022

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130521

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130611

R150 Certificate of patent or registration of utility model

Ref document number: 5294612

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees