しかしながら、上記特許文献1に記載のテレビ会議装置では、共有画面内に会議に使用される資料等の画像である資料画像を表示させる場合、その資料画像とポインタのユーザ画像を共に表示させなくてはならないので、その為資料画像が表示できる画面領域が狭くなってしまうという課題がある。また、ポインタと、そのポインタを操作しているユーザの画像と直線画像で結ぶ表示を行うので、資料画像に直線画像が重なり、資料画像が見難くなってしまうという課題もある。
本発明は、上記問題点を解決する為になされたものであり、ポインタを操作している拠点の撮影画像を最適な条件で表示可能とする表示制御装置、表示制御処理方法、及び制御プログラムを提供することを目的とする。
上記目的を達成するために、請求項1に係る発明の表示制御装置は、複数の拠点に設置された端末装置間でネットワークを介して接続され、複数のリモコンに対応する各ポインタを表示手段に表示することが可能な表示制御装置において、前記表示手段に前記各リモコンに対応する各ポインタを表示するためのポインタ指示座標情報及び、前記端末装置の識別情報を少なくとも含むリモコン情報を取得するリモコン情報取得手段と、前記リモコン情報取得手段により取得されたリモコン情報に基づいて、前記表示手段に前記各ポインタを表示するための表示データを作成する表示データ作成手段と、前記表示データ作成手段により作成された前記表示データを前記表示手段へ出力する表示データ出力手段と、前記端末装置が設置された各拠点の撮影画像情報を前記識別情報と関連付けて取得する撮影画像情報取得手段と、前記表示手段に表示するための会議に関連する情報画像である関連画像情報を取得する関連画像情報取得手段と、前記関連画像情報取得手段により前記関連画像情報を取得したか否かを判断する関連画像情報判断手段と、自分のポインタと他のポインタとの前記ポインタ指示座標情報に基づいて、自分のポインタと他のポインタとを含む複数の前記ポインタの表示位置が所定条件になっているか否かの状態を判定するポインタ表示状態判定手段と、前記関連画像情報判断手段により前記関連画像情報を取得したと判断された場合、前記関連画像情報判断手段により取得した前記関連画像情報を前記表示手段へ出力し、前記ポインタ表示状態判定手段により前記所定条件であると判定された前記ポインタに対応する前記識別情報に関連付けられた前記撮影画像情報を、前記撮影画像情報の表示結果である撮影画像が画面の端部に隣接し、前記撮影画像が前記関連画像情報の表示結果である関連画像より小さく表示されるように、前記表示手段へ出力し、前記関連画像情報判断手段により前記関連画像情報を取得していないと判断された場合、前記撮影画像情報取得手段により取得された各拠点の撮影画像情報を前記表示手段へ出力する撮影画像情報出力手段を備えている。
請求項2に係る発明の表示制御装置では、請求項1に記載の発明の構成に加え、前記表示制御装置は、前記複数の拠点間で開催される会議に参加するユーザに関する情報であるユーザ情報が記憶されているユーザ情報記憶手段と、前記ユーザ情報記憶手段に記憶されている前記ユーザ情報と前記リモコン情報取得手段により取得された前記リモコン情報とを関連付けて記憶するリモコンユーザ情報記憶手段と、前記表示データ出力手段により出力された前記ポインタが、前記ポインタ表示状態判定手段により所定条件であると判定された場合、前記所定条件であると判定された前記ポインタに対応する前記リモコン情報と関連付けられた前記ユーザ情報を特定する特定手段とをさらに備え、前記撮影画像情報出力手段は、前記特定手段により特定された前記ユーザ情報に基づいて、前記識別情報に関連付けられた前記撮影画像情報から、特定された前記ユーザの画像である特定ユーザ画像を抽出して前記表示手段に出力することを特徴としている。
請求項3に係る発明の表示制御装置では、請求項2に記載の発明の構成に加え、前記ユーザ情報記憶手段には、前記ユーザの顔の特徴を示すデータである特徴データが前記ユーザ情報と対応付けて記憶され、前記撮影画像情報出力手段は、前記特定手段により特定された前記ユーザ情報に対応して記憶されている前記特徴データと、前記撮影画像情報取得手段により取得された前記撮影画像情報とを照合し、前記特定ユーザ画像を抽出して出力することを特徴としている。
請求項4に係る発明の表示制御装置では、請求項1乃至3のいずれかに記載の発明の構成に加え、前記撮影画像情報出力手段は、前記表示データ出力手段により出力された前記ポインタが、前記ポインタ表示状態判定手段により所定条件であると判定された後、前記所定条件であると判定された前記ポインタに対応する前記識別情報に関連付けられた前記撮影画像情報を所定時間の間、前記表示手段へ出力することを特徴としている。
請求項5に係る発明の表示制御装置では、請求項1乃至4のいずれかに記載の発明の構成に加え、前記表示制御装置は、自分のポインタの前記ポインタ指示座標情報に基づいて、前記表示手段内の領域を指定領域として指定する領域指定手段を備え、前記ポインタ表示状態判定手段は、前記領域指定手段により指定された前記指定領域内に他のポインタがある状態を、前記所定条件として判定することを特徴としている。
請求項6に係る発明の表示制御装置では、請求項5に記載の発明の構成に加え、前記領域指定手段は、前記関連画像情報取得手段により取得された前記関連画像情報を指定された場合、前記関連画像情報の表示領域を前記指定領域とすることを特徴としている。
請求項7に係る発明の表示制御装置では、請求項1乃至6のいずれかに記載の発明の構成に加え、前記ポインタ表示状態判定手段は、前記表示手段内で自分のポインタと他のポインタとの表示位置の相対距離を算出し、前記相対距離が所定距離以下にある状態を前記所定条件として判定することを特徴としている。
請求項8に係る発明の表示制御装置では、請求項1乃至7のいずれかに記載の発明の構成に加え、前記ポインタ表示状態判定手段により所定時間以上、前記所定条件になっていると判定された場合、前記撮影画像情報出力手段は前記ポインタに対応する前記識別情報に関連付けられた前記撮影画像情報を前記表示手段へ出力することを特徴としている。
請求項9に係る発明の表示制御装置では、請求項1乃至8のいずれかに記載の発明の構成に加え、前記表示制御装置は、前記端末装置が設置された各拠点の音声情報を前記識別情報と関連付けて取得する音声情報取得手段をさらに備え、前記撮影画像情報出力手段は、前記撮影画像情報取得手段により取得された前記撮影画像情報と、前記撮影画像情報と同じ前記識別情報が関連付けられた前記音声情報とを出力することを特徴としている。
請求項10に係る発明の表示制御装置では、複数の拠点に設置された端末装置間でネットワークを介して接続され、複数のリモコンに対応する各ポインタを表示手段に表示することが可能な表示制御装置で処理される表示制御処理方法おいて、前記表示手段に前記各リモコンに対応する各ポインタを表示するためのポインタ指示座標情報及び、前記端末装置の識別情報を少なくとも含むリモコン情報を取得するリモコン情報取得ステップと、前記リモコン情報取得ステップにより取得されたリモコン情報に基づいて、前記表示手段に前記各ポインタを表示するための表示データを作成する表示データ作成ステップと、前記表示データ作成ステップにより作成された前記表示データを前記表示手段へ出力する表示データ出力ステップと、前記端末装置が設置された各拠点の撮影画像情報を前記識別情報と関連付けて取得する撮影画像情報取得ステップと、前記表示手段に表示するための会議に関連する情報画像である関連画像情報を取得する関連画像情報取得ステップと、前記関連画像情報取得ステップにより前記関連画像情報を取得したか否かを判断する関連画像情報判断ステップと、自分のポインタと他のポインタとの前記ポインタ指示座標情報に基づいて、自分のポインタと他のポインタとを含む複数の前記ポインタの表示位置が所定条件になっているか否かの状態を判定するポインタ表示状態判定ステップと、前記関連画像情報判断ステップにより前記関連画像情報を取得したと判断された場合、前記関連画像情報判断ステップにより取得した前記関連画像情報を前記表示手段へ出力し、前記ポインタ表示状態判定ステップにより前記所定条件であると判定された前記ポインタに対応する前記識別情報に関連付けられた前記撮影画像情報を、前記撮影画像情報の表示結果である撮影画像が画面の端部に隣接し、前記撮影画像が前記関連画像情報の表示結果である関連画像より小さく表示されるように、前記表示手段へ出力し、前記関連画像情報判断ステップにより前記関連画像情報を取得していないと判断された場合、前記撮影画像情報取得ステップにより取得された各拠点の撮影画像情報を前記表示手段へ出力する撮影画像情報出力ステップを備えている。
請求項11に係る発明においては、コンピュータを、請求項1乃至10のいずれかに記載の表示制御装置における各手段、または表示制御処理方法における各種処理ステップを実行させる。
請求項1に係る発明の表示制御装置では、複数の拠点に設置された端末装置間でネットワークを介して接続され、複数のリモコンに対応する各ポインタを表示手段に表示する。そして、表示手段に各リモコンに対応する各ポインタを表示するためのポインタ指示座標情報及び、端末装置の識別情報を少なくとも含むリモコン情報を取得し、表示手段に各ポインタを表示する表示データを作成し、表示手段へ出力する。また、端末装置が設置された各拠点の撮影画像情報を識別情報と関連付けて取得する。さらに、ポインタ指示座標情報に基づいて、表示手段内で自分のポインタと他のポインタとを含む複数のポインタの表示位置が所定条件になっているか否かの状態を判定する。そして表示手段に表示するための会議に関連する情報画像である関連画像情報を取得したか否かを判断し、関連画像情報を取得したと判断された場合、前記関連画像情報判断ステップにより取得した前記関連画像情報を前記表示手段へ出力し、前記ポインタ表示状態判定ステップにより前記所定条件であると判定された前記ポインタに対応する前記識別情報に関連付けられた前記撮影画像情報を、前記撮影画像情報の表示結果である撮影画像が画面の端部に隣接し、前記撮影画像が前記関連画像情報の表示結果である関連画像より小さく表示されるように、前記表示手段へ出力し、関連画像情報を取得していないと判断された場合は、各拠点の撮影画像情報を表示手段へ出力する。よって、ユーザは、会議に関連している資料等の関連画像を表示手段に表示させる場合は、各拠点の撮影画像の表示を停止できるので、表示領域を関連画像の表示のために最大限利用できる。また、ユーザは表示手段内のポインタを操作している拠点の撮影画像を見たい場合は、ポインタを所定の操作をすることにより必要な時だけ拠点の撮影画像を表示させることができる。したがって、ユーザはポインタを操作するだけの簡単な操作で、他ポインタを操作している拠点の撮影画像を見たい時に表示させることができる。
請求項2に係る発明の表示制御装置では、請求項1に記載の発明の効果に加え、表示制御装置は、前記複数の拠点間で開催される会議に参加するユーザに関する情報であるユーザ情報が記憶されている。また、ユーザ情報とリモコン情報とを関連付けて記憶されている。そして表示手段に表示されているポインタが、所定条件であると判定された場合、所定条件であると判定された前記ポインタに対応するリモコン情報と関連付けられたユーザ情報を特定し、特定されたユーザ情報に基づいて、識別情報に関連付けられた撮影画像情報から、特定されたユーザの画像である特定ユーザ画像を抽出して表示手段に出力する。よって、ユーザは表示手段に表示しているポインタを操作することにより、他ポインタを操作している拠点のユーザの撮影画像を表示させることができる。
請求項3に係る発明の表示制御装置では、請求項2に記載の発明の効果に加え、ユーザ情報記憶手段には、ユーザの顔の特徴を示すデータである特徴データがユーザ情報と対応付けて記憶され、特徴データと撮影画像情報とを照合し、特定ユーザ画像を抽出して表示手段に出力する。よって、ユーザは、ポインタを操作することにより、他ポインタを操作している他拠点に複数のユーザが参加している場合でも、顔の特徴データを用いた照合でポインタを操作しているユーザの撮影画像を表示させることができる。したがって、拠点に複数のユーザが会議に参加している場合でも、他ポインタを操作しているユーザの撮影画像を正確に表示させることができる。
請求項4に係る発明の表示制御装置では、請求項1乃至3のいずれかに記載の発明の効果に加え、表示手段に表示されたポインタが、所定条件であると判定された後、所定条件であると判定されたポインタに対応する識別情報に関連付けられた撮影画像情報を所定時間の間、表示手段へ出力する。よって、ユーザは、ポインタを操作することで他ポインタを操作している拠点の撮影画像を表示させた後でポインタを動かしても、所定時間の間は拠点の撮影画像を表示させることできる。
請求項5に係る発明の表示制御装置では、請求項1乃至4のいずれかに記載の発明の効果に加え、自分のポインタの前記ポインタ指示座標情報に基づいて、表示手段内の領域を指定領域として指定し、指定された指定領域内に他のポインタがある状態を、所定条件として判定する。よって、ユーザは、他ポインタを操作している拠点の撮影画像を表示させたい場合、表示手段内に指定領域を指定することで、その指定領域内にある他ポインタを操作している拠点の撮影画像を表示させることができる。
請求項6に係る発明の表示制御装置では、請求項5に記載の発明の効果に加え、表示手段に表示された関連画像情報を指定領域として指定した場合、関連画像情報の表示領域を指定領域とする。よって、ユーザは、表示手段に表示されている資料情報などの関連画像情報の表示領域を指定領域として指定することができる。よって、ユーザは関連画像情報の表示領域にポインタを表示させている拠点の撮影画像を表示手段に表示させることができる。
請求項7に係る発明の表示制御装置では、請求項1乃至6のいずれかに記載の発明の効果に加え、表示手段内で自分のポインタと他のポインタとの表示位置の相対距離を算出し、相対距離が所定距離以下にある状態を所定条件として判定する。よって、ユーザは、操作しているポインタを他ポインタに近づけることにより、他ポインタを操作している拠点の撮影画像を表示させることができる。
請求項8に係る発明の表示制御装置では、請求項1乃至7のいずれかに記載の発明の効果に加え、ポインタが所定時間以上、所定条件になっていると判定された場合、ポインタに対応する識別情報に関連付けられた撮影画像情報を表示手段へ出力する。よって、ユーザはポインタを所定時間以上、所定の操作をした場合、他ポインタを操作している拠点の撮影画像を表示することができるので、意図しないポインタの操作で撮影画像が必要以上に表示されることが無く、意図しない撮影画像の表示を防ぐことができる。
請求項9に係る発明の表示制御装置では、請求項1乃至8のいずれかに記載の発明の効果に加え、各拠点の音声情報を識別情報と関連付けて取得し、撮影画像情報と同じ識別情報が関連付けられた音声情報とを出力する。よって、ユーザは、ポインタの操作により、他ポインタを操作している拠点の撮影画像と共に、音声情報も出力することができる。したがって、他ポインタを操作している拠点の状況をより正確に知ることができる。
請求項10に係る発明の表示制御処理方法では、複数の拠点に設置された端末装置間でネットワークを介して接続され、複数のリモコンに対応する各ポインタを表示手段に表示する。そして、表示手段に各リモコンに対応する各ポインタを表示するためのポインタ指示座標情報及び、端末装置の識別情報を少なくとも含むリモコン情報を取得し、表示手段に各ポインタを表示する表示データを作成し、表示手段へ出力する。また、端末装置が設置された各拠点の撮影画像情報を識別情報と関連付けて取得する。さらに、ポインタ指示座標情報に基づいて、表示手段内で自分のポインタと他のポインタとを含む複数のポインタの表示位置が所定条件になっているか否かの状態を判定する。そして表示手段に表示するための会議に関連する情報画像である関連画像情報を取得したか否かを判断し、関連画像情報を取得したと判断された場合、前記関連画像情報判断ステップにより取得した前記関連画像情報を前記表示手段へ出力し、前記ポインタ表示状態判定ステップにより前記所定条件であると判定された前記ポインタに対応する前記識別情報に関連付けられた前記撮影画像情報を、前記撮影画像情報の表示結果である撮影画像が画面の端部に隣接し、前記撮影画像が前記関連画像情報の表示結果である関連画像より小さく表示されるように、前記表示手段へ出力し、関連画像情報を取得していないと判断された場合は、各拠点の撮影画像情報を表示手段へ出力する。よって、ユーザは、会議に関連している資料等の関連画像を表示手段に表示させる場合は、各拠点の撮影画像の表示を停止できるので、表示領域を関連画像の表示のために最大限利用できる。また、ユーザは表示手段内のポインタを操作している拠点の撮影画像を見たい場合は、ポインタを所定の操作をすることにより必要な時だけ拠点の撮影画像を表示させることができる。したがって、ユーザはポインタを操作するだけの簡単な操作で、他ポインタを操作している拠点の撮影画像を見たい時に表示させることができる。
請求項11に係る発明においては、コンピュータを、請求項1乃至10のいずれかに記載の表示制御装置における各手段、または表示制御処理方法における各種処理ステップを実行させる。よって、ユーザはポインタを操作するだけの簡単な操作で、他ポインタを操作している拠点の撮影画像を見たい時に表示させることができる。
以下、本発明を具現化した実施の形態について、図面を参照して説明する。なお、参照する図面は、本発明が採用しうる技術的特徴を説明するために用いられるものであり、記載されている装置の構成、各種処理のフローチャートなどは、特に特定的な記載がない限り、それのみに限定する趣旨ではなく、単なる説明例である。
最初に、図1を参照して、本実施形態に係るテレビ会議システム100の全体構成について説明する。
図1に示すように、テレビ会議システム100は、サーバである表示制御装置10、多地点接続装置40、ならびに、拠点30に設けられた端末装置50を含み、これらはすべてネットワーク20に接続されている。ネットワーク20としては、例えば、IP(Internet Protocol)やISDN(Integrated Services Digital Network)等のネットワークを採用することができる。図1では、拠点30は1つしか図示されていないが、実際には複数が存在する。拠点30は、例えばある企業の同一サイト内に複数存在してもよいし、異なる事業所内や、異なる地域や国に点在して存在していてもよい。
表示制御装置10は、例えば、周知のパーソナルコンピュータであり、汎用型の装置である。表示制御装置10は、ネットワーク20を介して接続された複数の拠点30間で端末装置50を用いて行われるTV会議(以下、単に会議という)に関する各種の処理を行う。表示制御装置10の構成、および表示制御装置10で行われる各種処理の詳細については後述する。
多地点接続装置40は、ネットワーク20を介して複数の拠点30に備えられた端末装置50と接続し、端末装置50からの画像、音声、データ等を中継することにより、多地点間のTV会議を実現する装置である。なお、以下では、多地点接続装置(Multipoint Control Unit)40を、MCU40と略称する。
端末装置50としては、画像および音声データを圧縮符号化して送信するとともに、受信した圧縮符号化された画像および音声データを復号化して出力することが可能なコーデックを内蔵した、公知の端末装置を採用することができる。端末装置50には、MCU40から送信された画像を表示する表示装置51、拠点30における会議参加者を撮影するカメラ52、音声を入力するマイク53、音声を出力するスピーカ54、キーボードなどの入力装置56が接続され、さらに、会議参加者が表示装置51へポインタを表示指示するためのリモートコントローラ(以下「リモコン」と称す)6(601〜602)がリモコン通信装置55を介して接続されている。
リモコン6は、ポインタ指示座標情報及びリモコンID(リモコンを識別するための識別情報)を含むリモコン情報をリモコン通信装置55へ赤外線に載せて送信する。リモコン通信装置55には、赤外線受信回路が設けられており、リモコン6から送信された信号を受信する。リモコン6とリモコン通信装置55との間の通信は、上記赤外線以外に信号線、無線などを用いることもできる。リモコン通信装置55で取得したリモコン情報を端末装置50は表示制御装置10へ定期的(例えば、20ミリ秒ごと)に出力する。そして、表示制御装置10では、複数の拠点30から受信したリモコン情報に基づいて表示データを作成し、各拠点30の端末装置50を経由して表示装置51にポインタを表示させる。表示装置51でのポインタ表示状態について詳細は後述する。
次に、図2〜図3を参照して、表示制御装置10、およびリモコン6の電気的構成について説明する。図2に示すように表示制御装置10は、CPU11と、CPU11に各々接続されたROM12およびRAM13を備えている。CPU11には、その他、入出力(I/O)インタフェイス14が接続されている。I/Oインタフェイス14には、記録装置(ハードディスク装置(HDD)など、以下「HDD」と称す)15、マウスコントローラ16、ビデオコントローラ17、キーコントローラ18、および通信装置19が接続されている。
CPU11は、表示制御装置10の全体の制御を司る。ROM12は、BIOSを含む、表示制御装置10を動作させるための各種のプログラムやそのための設定値を記憶している。CPU11は、ROM12や、後述するHDD15に記憶されたプログラムに従って、表示制御装置10の動作を制御する。RAM13は、各種データを一時的に記憶するための記憶装置である。マウスコントローラ16、ビデオコントローラ17、キーコントローラ18には、それぞれマウス161、表示装置171、およびキーボード181が接続されている。通信装置19は、ネットワーク20に接続し、端末装置50等の外部機器との間でデータの送受信を行うためのものである。
ここで、HDD15の詳細について説明する。図2に示すように、HDD15は、ユーザデータベース(DB)記憶エリア151、プログラム記憶エリア152、資料画像記憶エリア153を含む複数の記憶エリアを備えている。ユーザDB記憶エリア151には、ユーザDB1510(図4参照)が記憶されている。ユーザDB1510は、各拠点30においてリモコン6を使用するユーザに関する情報(を以下、ユーザ情報という)を格納する。ユーザ情報は、ユーザ1名毎に作成されており、例えば、図4に示すように、ユーザID、ユーザ名、所属、顔特徴データ、およびログイン状態を含む。ユーザIDとは、各ユーザに付与される固有の識別コードである。ユーザ名は、ユーザの氏名であり、名前と名字に分かれて記憶されている。所属は、ユーザの所属する企業や団体の名称である。顔特徴データは、ユーザの顔の特徴をデータ化されて記憶されている。それらの情報は、予めユーザによって入力された情報を登録すればよい。また、ログイン状態は、会議に参加中の場合をONとし、未参加の場合はOFFとして記憶している。これは各拠点30にてユーザが会議に参加する時、自分のIDを端末装置50へ登録すると、そのユーザのログイン状態をONとして記憶する。そして会議が終了した場合、またはユーザが会議途中で退場することを端末装置50へ入力した場合、そのユーザのログイン状態はOFFとして更新記憶される。ユーザ情報には、他に、例えば、ユーザの電話番号やメールアドレス、役職等、ユーザに関連するその他の情報を含めてもよい。なお、図4では、説明の便宜上、5名分のユーザ情報しか図示されていないが、ユーザDB1510に記憶されるユーザ情報の数はこれに限られない。
詳細は図示しないが、図2に示すプログラム記憶エリア152には、各種処理を表示制御装置10に実行させるための各種プログラムが記憶されている。なお、これらのプログラムは、例えばCD−ROMに記憶されたものがCD−ROMドライブ(図示外)を介してインストールされ、プログラム記憶エリア154に記憶される。または、ネットワーク20を介してダウンロードされたプログラムが、プログラム記憶エリア152に記憶されてもよい。HDD15には、その他、各種処理で使用される設定値等も記憶されている。
また、詳細は図示しないが、図2に示す資料情報記憶エリア153には、会議に使用される各種資料情報が記憶されている。本実施例では、これらの資料情報は表示制御装置に記憶されているが、各拠点の端末装置50に記憶されていても良いし、または資料を表示する時に、ネットワークを介して外部機器から取得するようにしても良い。
次に図3を参照して、リモコン6の電気的構成について説明する。図3に示すように、リモコン6には、リモコン6を制御するCPU61,RAM60,ROM62及び入出力(I/O)インタフェイス68が備えられており、これらはバス67によって相互に接続されている。I/Oインタフェイス68には、受光部63,信号送受信部64、決定ボタン66が各々接続され、これらは、CPU61,RAM60,ROM62の制御のもとに以下のように動作する。決定ボタン66は、リモコン6の操作手段である。リモコンユーザにより決定ボタン66が押下されると、信号送受信部64は、リモコン通信装置55へ操作情報として信号を送信する。詳細な説明は後述するが、決定ボタン66は表示装置51の表示画面内の指定領域を指定する操作時等に用いられる。また、決定ボタン66は、全てのリモコン6に備えられている必要はなく、あらかじめ決めたいくつかのリモコンのみに備えられていてもよい。
また、リモコン6は、いわゆるポインティングディバイスとして表示装置51の表示画面上にポインタを表示指示する。例えば、受光部63では、表示装置51のディスプレイの周囲に設けられている発光部(図示は省略)で発光されている光を検出し、それに基づいてCPU61,RAM60,ROM62は、光源の位置、すなわちリモコン6が指示する表示装置51のディスプレイ上の位置を解析し、ポインタ指示座標情報を作成する。信号送受信部64は、そのポインタ指示座標情報を赤外線に載せてリモコン通信装置55へ送信する。また、リモコン6から発した光を表示装置51側で検出して同様にポインタ指示座標情報を作成することもできる。さらに、リモコン6は、ユーザが操作する装置であれば、汎用のマウス、トラックボール、ジョイスティックと同様の構成にすることもでき、その動きの方向、動きの量に基づいて端末装置50でポインタ指示座標情報を作成することもできる。
次に、図5を参照して、各拠点(以後、図5は拠点301とする。)の表示装置51に表示されているポインタ(601a、602b、603c、604d)の表示状態について説明する。
拠点301は、図1の拠点30に相当し、図示しない他の拠点(以後、拠点302、拠点303、拠点304とする。)と互いに離れた場所に設置されており、ネットワーク20を介して表示制御装置10と接続されている。図5に示す拠点301では、ユーザ3011が会議に参加している。また、ユーザ3011は、図1のリモコン6に相当するリモコン601を操作し、表示装置51の画面にポインタ601aを指示している。また、表示装置51の画面には、他拠点のユーザが各々リモコン6を操作して表示されているポインタ(602b、603c、604d)も表示されている。図示はしないが、ポインタ602aは拠点302、ポインタ603cは拠点303、ポインタ604dは拠点304にて、ユーザが操作しているものとする。また、拠点304で操作されているポインタ604dのユーザはリモコン6を表示装置に向けていないとして、所定の位置に固定表示されている。また、各ポインタ(601a、602b、603c、604d)は、図5に示すように、表示される形状(本実施例では、601a:円形、602b:四角形、603c:五角形、604d:三角形)または色彩の一方又はその両方がそれぞれ異なるように設定されている。
さらに、図5に示すように拠点301の表示装置51の画面には、各拠点30の端末装置50に備えられたカメラ52により撮影された拠点の撮影画像(801、802、803、804)が分割表示されている。本実施形態では、拠点301は撮影画像801、拠点302は撮影画像802、拠点303は撮影画像803、拠点304は撮影画像804とする。また、各拠点30の端末装置50にはマイク53、スピーカ54も備えられているので、ネットワークを介して撮影画像と音声を共有しながら、一般的なTV会議が実施されているものとする。
次に、図6を参照して、表示制御装置10で行われているポインタ生成処理について説明する。図6は表示制御装置10で行われるポインタ生成処理のフローチャートである。ポインタ生成処理は、表示制御装置10の電源がONされると開始され、電源がONである間は、処理終了時から所定時間経過後に繰り返し開始される。また、本実施形態での各拠点30(拠点301、302、303、304)との間でネットワーク20を介して接続が完了して、相互通信が可能な状態になっているものとする。まず、各拠点30の端末装置50からリモコン情報を取得できたか否かが判断される(S1)。具体的には、拠点30の端末装置50の電源がONされ、表示制御装置10とネットワーク20を介して接続状態にされた後、端末装置50から会議に参加するリモコンのリモコン情報が送信されると、CPU11は、リモコン情報を取得できたと判断する(S1:YES)が、取得できない場合(S1:NO)は、取得できるまで繰り返し処理を実行する。次にリモコン情報が取得できた場合(S1:YES)、ポインタ指示座標情報が含まれているかどうか判断する(S2)。そして、含まれている場合(S2:YES)は、ポインタの表示固定指示が有るかどうか判断される(S300)。表示固定指示についての詳細は後述する。そして、S300の処理で表示固定指示が無いと判断された場合(S300:NO)、リモコン情報データテーブル1310(図7)を作成して、RAM13に更新記憶させる(S3)。また、S300の処理で表示固定指示があると判断された場合は(S300:YES)、リモコン情報データテーブル1310への更新記憶をせず、表示データ作成処理(S5)を実行する。したがって表示固定指示があると判断されている間は、リモコン情報データデーブルの中の、対応するポインタ座標値は更新記憶されないので、表示装置内でのポインタの表示位置が固定される。また、ホインタ指示座標情報が含まれていない場合(S2:NO)は、表示装置51内の所定のポインタ座標値をリモコン情報データテーブル1310に記憶処理する(S4)。リモコン情報の中にポインタ指示座標情報が含まれない場合とは、ユーザがリモコン6を表示装置51の方向へ向けて指示していない状態なので、その状態でも対応するポインタが表示されるように、所定のポインタ座標値を記憶させる。所定の位置とは、会議の進行の妨げにならないような、表示装置51の画面のできるだけ外郭寄りの位置が望ましく、あらかじめ設定されているが、拠点30の端末装置50にて、設定変更ができるものとする。
そこで、図7を参照してリモコン情報データテーブル1310について詳細に説明する。リモコン情報データテーブル1310は、各拠点30で使用されているリモコンから取得したあるタイミングでの情報である。リモコンIDは、各拠点で使用されているリモコン6を識別するIDである。拠点IDは各拠点に設置された端末装置50を識別するためのIDである。ユーザIDは各拠点30の端末装置50で、会議参加時にユーザから入力されたIDであり、ユーザID入力時にリモコンIDと対応付けられている。本実施例では例えば、拠点301の端末装置50には、リモコンID:R001、拠点ID:K001、ユーザID:Y001とが対応付けられて記憶されており、他拠点も同様にそれぞれ対応付けて記憶されている。
ポインタ座標値は、各拠点30でユーザがリモコン6を表示装置51のどの位置に向けて指示しているのかを決定するために、X方向のX座標値と、Y方向のY座標値に分解された座標値である。X座標値について、拠点301の表示装置51では、画面中央の基準点511Cを基準として記憶される座標値である。またY座標値とは、同様に基準点511Cを基準として記憶される座標値である。他拠点30でも同様に各ポインタの座標値が決定される。そして定期的にリモコン情報が送信されてくるので、その都度ポインタ座標値を更新記憶させる。例えば、リモコンID:R001は、ポインタ座標値のX座標:Xa、Y座標:Ya、リモコンID:R002は、X座標値:Xb、Y座標値:Ybの情報を取得している。また、リモコンID:R004は、X座標値:Xd、Y座標値:Ydになっており、これは、S2の処理でリモコン情報の中にポインタ指示座標情報が含まれていないと判断された場合(S2:NO)で、所定の座標値が記憶されている(S4)。ポインタ形状は、予めリモコンIDに対応させ、RAM13のリモコン情報データテーブル1310にそれぞれ記憶される。これらの形状の他に、色彩などは、各拠点30の端末装置50で設定変更できるものとし、適宜変更可能である。
指定領域については、詳細は後述するが、リモコン6を操作するユーザがポインタを動かして、表示装置51の表示領域内で指定領域を指定した場合に記憶される情報である。例えば、表示装置内にポインタを表示させ、リモコン6に備えられている決定ボタン66を押下しながらポインタを移動させて指定領域を指定する場合、決定ボタン66を押下した時のポインタの座標位置を始点として、決定ボタンを離した時のポインタの座標位置を終点の座標位置として記憶される。また、表示装置51の表示画面に後述する資料画像等を表示している場合、その資料画像の表示領域を指定領域として指定すると、資料画像のIDが資料IDに記憶される。
続いて、CPU11では、RAM13に記憶されたリモコン情報データテーブル1310に基づいて、表示データ作成処理(S5)を行う。表示データとは、各拠点30の表示装置51へ、ポインタ画像を表示するためのデータであり、RAM13のリモコン情報データテーブル1310に記憶された各データに基づいて、定期的に作成処理が行われる。次に、表示データ出力処理(S7)を実行し、各拠点30の表示装置51へ表示データを出力する。
上記のポインタ生成処理により、各拠点では全てのリモコンが指示している各々のポインタを表示することができる。図5での拠点301では、ユーザ(ユーザID:Y001)がリモコン6(リモコンID:R001)を表示装置511に向けて操作し、ポインタ601aを指示している。同様に、拠点302のユーザ(ユーザID:Y002)もリモコン6(リモコンID:R002)を操作し、ポインタ602bを指示している。また、拠点303では、ユーザ(ユーザID:Y003)が、ポインタ603cを指示しているが、拠点304のユーザ(ユーザID:Y004)はリモコン6(リモコンID:R004)を表示装置51へ向けて操作していない状態としているので、対応するポインタ604dは外郭寄りの所定の位置に表示されている。また、各拠点では、それぞれの表示装置51に、全てのポインタが表示されているので、会議に参加しているユーザは、他のユーザのリモコン操作状況を確認しながら、リモコンを操作することができる。
次に、図8を参照して表示制御装置10のCPU11により行われるメイン処理について説明をする。図8はメイン処理のフローチャートであり、図7のポインタ生成処理が完了している状態で定期的な周期で(例えば20ミリ秒周期)継続して繰り返し行われる。まず、CPU11は、各拠点30の端末装置50から撮影画像情報を取得する(S111)。具体的には、各拠点30のカメラ52で撮影された撮影画像情報をRAM13に一時的に記憶する。次に、拠点30の端末装置50から、資料画像の出力指示情報を取得したかどうかが判断される(S112)。具体的には、HDD15の資料情報記憶エリアに記憶されている資料画像情報を、拠点30の端末装置50から、表示装置51へ出力するための指示情報を取得したかどうかを判断する。ステップS112で資料画像出力の指示情報を取得していないと判断した場合(S112:NO)、ステップS111で取得した各拠点30の撮影画像情報を、図5に示す様に各拠点30の端末装置50に備えられている表示装置51へ出力する(S117)。また、上記撮影画像情報に対応する拠点の音声情報も出力する。
また、ステップS112にて、CPU11が資料画像の出力指示情報を取得したと判断した場合(S112:YES)、ステップS111にて取得した撮影画像情報の出力を中止する(S113)。つまり、ステップS111にて取得した各拠点30の撮影画像情報を既に表示装置51へ出力中の場合は出力を中止し、または、ステップS113の処理時に撮影画像情報を出力していない場合は、そのまま出力を停止した状態となるよう処理を行う。また、ステップS113が実行されても、各拠点30の音声情報は継続して出力されている。次に、ステップS113にて撮影画像情報の出力を中止した後、CPU11はステップS112にて取得した資料画像情報の呼出し処理を行い、各拠点30の表示装置51へ表示するための出力を行う(S114)。よって、S114の処理が実行されると、ユーザは表示装置51に表示される資料画面情報を見ながら、ポインタを操作して、音声情報のみで会議を行う状態となる。
そこで、図9を参照して、本実施形態の拠点301での表示装置51の表示画面の表示状態について説明する。図9は、図5に示す様に各拠点30の撮影画像情報を表示している状態から、ステップS112にて資料画像の出力指示情報を取得したと判断し、ステップS113にて撮影画像情報の出力を中止し、ステップS114にて資料画像701を出力した状態の画面の説明図である。図9に示すように、表示装置51には、各拠点30の撮影画像を表示していないので、資料画像701が撮影画像領域による表示領域の制限を受けること無く、比較的表示領域を大きく占めて表示することができる。また、図6のポインタ生成処理にて生成された各拠点30で操作されているポインタが、資料画像701と共に表示されている状態である。
次に、ステップS114にて資料画像を出力した後、CPU11はポインタ表示状態判定による撮影画像情報の出力処理を行う(S200)。そこで、図10を参照して、ポインタ表示状態判定処理による撮影画像情報の出力処理のフローチャートについて詳細に説明する。まず、CPU11は各拠点30の端末装置50から指定領域の領域指定情報を取得したかどうを判断する(S201)。ここで言う指定領域について、図7、図11、図12を参照して説明する。
ステップS201にて判断する領域指定情報とは、各拠点30のリモコン6の操作により、表示装置51の表示画面に対して、ある領域を指定された時に作成される情報である。例えば、本実施形態では図11に示す様に、拠点301のユーザ3011がリモコン601を操作してポインタ601aを表示させながら、区画901を指定するとその領域内が指定領域として指定される。詳細には、ユーザは区画901の右下角の位置にポインタ601aを表示させて、リモコン601の決定ボタン66を押下したまま、区画901の左上角まで移動(図11の矢印の方向)させ、左上角の位置で決定ボタンを離すと、区画901が指定領域情報として、リモコン情報データテーブル1310(図7参照)の指定領域欄の始点と終点欄に座標情報が記憶される。または、図12に示すように、例えば資料画像701の表示領域内に、ポインタ601aを表示させた状態で、決定ボタンを1回押下すると、資料画像701の表示領域が本実施形態での領域指定情報として記憶されるようにしても良い。その場合は、リモコン情報データテーブル1310(図7参照)に示すように資料ID欄に指定された資料を識別するIDが記憶される。また、本実施形態では、領域指定方法として、区画901の様に四角形を用いて指定する方法を説明したが、これに限るものではなく、例えば、一般的に領域選択操作として実施されているように、区画形状が円形や、多角形で指定できるようにしても良い。
続いて、ステップ201にて領域指定情報を取得したと判断した場合(S201:YES)、指定領域内に他のポインタが有るかどうかを判断する(S202)。具体的には、図11に示すように拠点301のユーザ3011が、ポインタ601aの表示を操作して区画901を指定領域としたので、その指定領域内に他のポインタがあるかどうかを判断する。また、図12でも同様に拠点301のユーザ3011が、ポインタ601aの表示を操作して資料画面701の表示領域を指定領域としたので、その指定領域内に他のポインタがあるかどうかを判断する。本実施形態では、図11、図12に示すようにポインタ603cが指定領域内に表示されているので、ステップS202では指定領域内に他のポインタ有と判断する(S202:YES)。そして、ステップS202にて指定領域内に他ポインタが有ると判断してから、カウンタをスタートさせる(S203)。または、ステップS203の処理の時に、既にカウンタが作動中の場合は、そのままカウンタの計測処理を継続する。続いて所定時間以上経過したかどうかを判断する(S205)。ステップS205にて所定時間以上経過していないと判断した場合(S205:NO)、本処理は終了する。具体的には、ここでの所定時間とは、指定領域を指定したポインタの他に、指定領域内に他ポインタが有るかどうかを判断する時間であり、例えば1〜3秒程度が好適である。よって、指定領域内に瞬間的に他ポインタが通過した場合は、CPU11は所定時間を経過してないと判断するので、後述する撮影画像情報の無駄な出力が抑制できる。
上述のステップS205で、CPU11は所定時間以上経過したと判断した場合(S205)、ステップS202にて指定領域内に有ると判断されたポインタに対応した拠点の識別情報を取得する(S206)。本実施形態では、ポインタ603c(図11、図12参照)が指定領域内にあると判断したので、リモコン情報データテーブル1310(図7参照)からポインタ603cに対応する拠点ID:K003(拠点303)が取得される。次に、CPU11はステップS206で取得したポインタの識別情報に対応した拠点IDに、リモコンを操作するユーザが1人かどうかを判断する(S207)。具体的には、リモコン情報データテーブル1310(図7参照)より、拠点IDに対応するユーザIDが1人かどうかを判断する。ステップS207にてリモコンユーザが1人であると判断した場合(S207:YES)、対応する拠点の撮影画像情報を表示装置51へ出力する処理を行い(S209)、本処理を終了する。
具体的に図11、図12を参照して説明すると、CPU11はステップS202にて指定領域内に有ると判断したポインタ603cの拠点の識別情報である拠点ID(K003)を、リモコン情報データテーブル1310(図7参照)から取得する。そして取得した拠点ID(K003)は、拠点303の識別情報であるので、CPU11は、図11、図12に示すように拠点303の撮影画像である撮影画像802を表示装置51へ出力している。また、本実施形態の図11、図12では、指定領域を指定した拠点301の撮影画像である撮影画像情報801も同時に表示するようにしているので、ステップS202にて指定領域内に有ると判断された拠点303の表示装置51へも、指定領域を指定した拠点301の撮影画像情報を表示するので、拠点303のユーザは、どこの拠点にて指定領域が指定されたかを認識することができる。また、ステップS209、S210の処理を実行する時に、出力される撮影画像情報に対応する拠点の音声情報のみを出力するようにしても良い。上記実施形態では、指定領域を指定した拠点の撮影画像情報も同時に表示するようにしたが、これに限定されるものでは無く、指定した拠点の撮影画像情報は表示しないように設定しても良い。また、ステップS207にて識別情報に対応した拠点の撮影画像情報を出力しているが、所定時間(例えば2s〜5s)のみ出力するようにしても良い。また、ステップS209、S210の処理にて撮影画像情報が出力される間は、表示されている資料画像の表示領域を、撮影画像情報と重ならない程度まで縮小するようにしても良い。
また、ステップS207にて、CPU11はリモコン情報データテーブル1310(図7参照)より、リモコンユーザが1人では無いと判断した場合(S207:NO)、対応する拠点の撮影画像情報の中から、リモコンユーザを特定して撮影画像範囲を特定し(S208)、特定されたユーザの撮影画像範囲の撮影画像情報を表示装置51へ出力する処理を行い(S210)、本処理を終了する。具体的には、ステップS206にて取得したポインタの識別情報に対応するユーザIDと顔特徴データを、ユーザDB1510(図4参照)から取得し、取得したユーザIDに関連して記憶されている拠点IDに対応した撮影画像情報の中から、顔特徴データを用いて照合処理を行い、リモコンユーザの撮影画像範囲を特定し、特定されたユーザの撮影画像範囲を表示装置51へ出力する処理を行う。ここでの顔特徴データを用いた照合処理について詳細な説明は省略するが、一般的に顔照合技術で用いられている技術で良く、例えば、顔特徴データとして予め、顔の特徴部分である目、鼻、口などの形状のエッジ部をデータ化して記憶しておき、その特徴データに基づいて撮影画像情報の中に所定割合以上、前記特徴部分の形状に類似している形状があるかどうかを照合することで、顔画像の特定を判断する処理である。また、上記実施形態では、撮影画像情報の中からリモコンユーザを特定する場合、顔の照合技術を用いたが、これに限定されるものでは無く、例えば、予めリモコンユーザの位置毎に拠点30のカメラ52の撮影範囲を対応付けておけば、同様にユーザIDからリモコンユーザの撮影画像範囲を特定して表示装置へ出力することができる。
また、ステップS201にて指定領域情報を取得していないと判断した場合(S201:NO)、または、ステップS202にて指定領域内に他ポインタが無いと判断した場合(S202:NO)は、カウンタをリセット処理して(S204)、本処理を終了する。
図8のメイン処理の説明に戻り、ステップS200の処理の後、CPU11は資料画像の表示を中止する指示情報を取得したかどうかを判断する(S115)。具体的には、表示装置51に表示されている資料画像を閉じる指示情報が、拠点30の端末装置50から取得したかどうかを判断する。ステップS115にて資料画像の出力を中止する指示情報が拠点30の端末装置50から取得していないと判断した場合(S115:NO)、再度ステップS114の処理に戻り、繰り返し処理が実行される。ステップS115にて、資料画像の出力の中止指示があった場合(S115:YES)、出力中の資料画像の出力を中止し(S116)、撮影画像情報の出力を行う(S117)。よって、本実施形態の図5に示すように各拠点30の撮影画像情報(801、802、803、804)が表示装置51へ出力される。続いて会議終了かどうかが判断され(S118)、会議終了の指示を拠点30の端末装置50から受信した場合(S118:YES)、メイン処理は終了するが、会議終了指示を受信していない場合は(S118:NO)、ステップS111へ戻り、繰り返し処理が実行される。
したがって、表示制御装置10は、本メイン処理を実行することにより、各拠点の撮影画像情報を取得して、拠点30から資料画像情報の出力指示情報があるかどうかを判断して、出力指示情報がある場合は、各拠点の撮影画像情報を出力しない(または中止する)処理を行うので、資料画像情報の表示領域を大きく確保した見易い状態にすることができ、かつ各拠点のユーザは、各ポインタを表示させながら会議を進めることができる。そして、他のポインタが、どこの拠点が指示しているポインタなのかを知りたい場合、そのポインタが含まれるように、表示装置51の表示領域内に指定領域を設定することで、その指定領域内にあるポインタを指示している拠点の撮影画像を表示させることができる。よって、ユーザは、ポインタの操作により他拠点の状況を知りたい時に迅速に確認することができる。
次に、本発明の第一の変形例について、図13及び図14を参照して説明する。第一の変形例は、表示制御装置10のCPU11が実行するメイン処理(図8参照)の中のステップS200で実行するポインタ表示状態判定による撮影画像情報出力処理を、表示装置51で表示されている各ポインタ同士の相対距離に基づいて撮影画像情報の出力処理を行うものである。
図13を参照して、表示制御装置10のCPU11が実行するポインタ表示状態判定による撮影画像情報出力処理2について説明する。本処理は、上記メイン処理(図8)のステップS114で資料画像を出力された後に実行される処理であり、ステップS114の後、まず、CPU11はポインタ同士の相対距離を算出する(S401)。詳細には、ポインタ生成処理(図6参照)のステップS3の処理にて、CPU11がリモコン情報データテーブル1310(図7参照)に記憶した各ポインタのポインタ座標値に基づいて、各々の相対距離を算出する。
そこで、ポインタ相対距離算出方法について説明する。相対距離とは、表示画面上でポインタ同士の離れている距離であり、算出方法は一般的な定理であるピタゴラスの三平方の定理を用いればよい。例えば、リモコン情報データテーブル1310でのリモコンID:R001とR002の場合の相対距離は、
相対距離=√{(Xa―Xb)^2+(Ya―Yb)^2}(Xa、Xb、Xc、Xdは正負の符号を含む座標値)となる。この処理を実施された後、図14の相対距離データ1311がRAM13に記憶される。
続いて、所定距離内に他ポインタがあるかどうかがを判断する(S402)。ここでいう所定距離とは、予め表示制御装置10のROM12に記憶されている設定値であり、具体的にはポインタ同士が重なる程度まで近づけた状態の距離を相対距離として設定されている。また、上記設定値は、端末装置50を用いて適宜設定値が変更可能になっているものとする。よって、ステップS402では、CPU11は相対距離データ1311の中に、相対距離が上記設定値である所定距離以下になっている組合せがあるかどうかを判断する。
ステップS402にて、CPU11は所定距離以内に他ポインタがあると判断した場合(S402:YES)、カウンタスタート及び計測処理を開始する(S403)。そして、ステップS403にてカウンタがスタート処理された後、その後の処理であるS405〜S410までは、図10に示すポインタ表示状態判定による撮影画像情報出力処理のステップS205〜S209と各々同様の処理が実施される為、説明は省略する。また、ステップS402にて所定距離以内に他ポインタが無いと判断した場合(S402:NO)、カウンタリセット処理(S404)が実施され、本処理は終了する。
したがって、端末装置50の表示装置51に資料画像が出力されている状態で、各拠点30のリモコンユーザが他ポインタに対応する拠点の撮影画像情報を表示させたい場合、自ポインタを他ポインタに重なる程度まで近づける操作をすることで、簡単に他拠点の撮影画像情報を表示することができる。
本実施形態では、表示制御装置10が「表示制御装置」に相当し、表示制御装置10のCPU11,ROM12,RAM13において、図7のS1の処理を実行する部分が、「リモコン情報取得手段」、S5の処理を実行する部分が「表示データ作成手段」、S7の処理を実行する部分が「表示データ出力手段」に相当する。また、図8のS111の処理が「撮影画像情報取得手段」に相当し、図8のS112の処理を実行する部分が、「関連画像情報判断手段」に相当し、S114が「関連画像情報取得手段」に相当する。図10のS202、図13のS402の処理を実行する部分が「ポインタ表示状態判定手段」に相当し、図10のS208、図13のS408の処理を実行する部分が、「特定手段」に相当し、図8のS117、図10のS209、S210と、図13のS409、S410の処理を実行する部分が、「撮影画像情報出力手段」に相当する。また、図2の表示制御装置10のHDD15に記憶されているユーザDB記憶エリア151は、本発明の「ユーザ情報記憶手段」に相当し、RAM13に記憶されているリモコン情報データテーブル1310が、「リモコンユーザ情報記憶手段」に相当する。
なお、前述の実施形態に示される構成や処理は例示であり、各種の処理が変形可能なことはいうまでもない。例えば本実施例のテレビ会議システム100はクライアント−サーバ型の構成を採っているが、P2P(peer to peer)型の構成を採っても良く、その場合、表示制御装置10で処理される各種処理が、拠点30の端末装置50で処理されれば良い。