JP2012118751A - 外部入力装置、表示データ作成方法、プログラム - Google Patents

外部入力装置、表示データ作成方法、プログラム Download PDF

Info

Publication number
JP2012118751A
JP2012118751A JP2010267770A JP2010267770A JP2012118751A JP 2012118751 A JP2012118751 A JP 2012118751A JP 2010267770 A JP2010267770 A JP 2010267770A JP 2010267770 A JP2010267770 A JP 2010267770A JP 2012118751 A JP2012118751 A JP 2012118751A
Authority
JP
Japan
Prior art keywords
image data
data
cursor
remote communication
external input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010267770A
Other languages
English (en)
Other versions
JP5754117B2 (ja
Inventor
Akihiro Mihara
章裕 三原
Yoshinaga Kato
喜永 加藤
Takahiro Asai
貴浩 浅井
Katsuki Nakagawa
勝樹 中川
Volmat Alain
アラン ボルマ
Kenji Tanaka
謙次 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2010267770A priority Critical patent/JP5754117B2/ja
Publication of JP2012118751A publication Critical patent/JP2012118751A/ja
Application granted granted Critical
Publication of JP5754117B2 publication Critical patent/JP5754117B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • User Interface Of Digital Computer (AREA)
  • Telephonic Communication Services (AREA)
  • Information Transfer Between Computers (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

【課題】資料などの表示データを複数の機器が共有可能な遠隔通信システムにおいて、画面上を指示する指示手段も共有可能な外部入力装置を提供すること。
【解決手段】ネットワーク2を介して接続された他の機器10dbに、音声又は映像が含まれる会議データを配信する遠隔通信端末10aaと接続された外部入力装置40aaであって、電子資料を表示する表示手段400と、表示手段に表示されるカーソルの操作を受け付けるカーソル操作手段212と、電子資料の画像データを取得する画像データ取得手段4513と、カーソルの少なくとも座標データが含まれるカーソル情報を取得するカーソル情報取得手段4512と、カーソル情報取得手段がカーソル情報を取得する第1の頻度を決定する情報取得頻度決定手段4511と、画像データにカーソルを合成した表示データを作成する表示データ作成手段4514と、表示データを他の機器に送信する送信手段41と、を有する。
【選択図】図19

Description

本発明は、他の遠隔通信端末に画面の表示データを送信することで、他の遠隔通信端末と表示データを共有する遠隔通信端末等に関する。
インターネット等の通信ネットワークの普及、高速化に伴い、遠隔地同士でテレビ会議などを行う遠隔通信システムが利用されるようになった。遠隔通信システムを利用すれば、出張経費及び出張時間を削減することができる。
テレビ会議を実現することが可能な遠隔通信システムでは、複数の遠隔通信端末同士が直接又はサーバを介するなどして画像データ及び音声データの送受信を行う。近年のブロードバンド環境の充実化により、高画質の画像データや高音質の音声データの送受信が可能となったため、テレビ会議の相手の状況を把握し易くなり、会話による高度な意思疎通も容易になっている。
ところで、遠隔通信システムは、こちらの状況を知らせるための音声データやこちら側のユーザなどが映った画像データだけでなく、会議で用いる資料の表示データを会議の相手に送信することも多い。資料の表示データにより、テレビ会議の相手はこちら側と同じ資料を参照することができる。
遠隔通信端末が、音声データや画像データを送る場合も、表示データを送信する場合も、ネットワークを経由して配信装置にそれらのデータを送信し、受信した配信装置がそれらのデータを相手先の遠隔通信端末に配信する技術が考案されている(例えば、特許文献1参照。)。このようにすることによって、テレビ会議の参加者はテレビ会議が実施されている間、相手の声を聞いたり顔を見たりすることも、資料を参照することもできる。
ところで、会議の場において、例えばプレゼンテーション資料をプロジェクタ等に映して説明する際に、説明者は説明を分かりやすくするために指示棒やレーザーポインタを使用することが多い。これと同様に、テレビ会議で用いる資料をテレビ会議の相手と共有する際に、資料のみを相手に参照させるよりも何かしらの指示手段があった方が情報を伝えやすい。
テレビ会議において、こちら側のユーザが資料等の表示データを相手先に送信する場合、こちら側の遠隔通信端末が資料が表示された画面をキャプチャする。キャプチャには、一般的なキーボードに搭載されている「Print Screen」ボタンが使用されるが、「Print Screen」ボタンではマウスカーソルがキャプチャされないという制限がある。
このため、引用文献1のように、こちら側の遠隔通信端末が単に表示データを送信するだけでは、マウスカーソルなどの指示情報を遠隔通信端末間で共有することができないという問題がある。このため、遠隔地に離れたユーザが互いに資料のどの部分を見ているか伝えにくい。
このような問題については、マウスカーソルも同時にキャプチャできるソフトウェアが市場に有料又は無料で流通しており、遠隔通信システムの開発者はテレビ会議に利用することができる。
しかしながら、マウスカーソルなどの指示手段をキャプチャするソフトウェアだけでは、マウスカーソルのキャプチャは可能であるが、そのままではその表示データを遠隔地と共有することはできない。また、マウスカーソルと画面データが合成された状態でキャプチャされるため、送信先の端末がマウスの動きを滑らかに再現するためにはキャプチャの頻度が多くなり遠隔通信端末や通信網の負荷が増大してしまうという問題もある。
本発明は、資料などの表示データを複数の遠隔通信端末が共有可能な遠隔通信システムにおいて、画面上を指示する指示手段も共有可能な外部入力装置を提供することを目的とする。
上記課題に鑑み、本発明は、ネットワークを介して接続された他の機器に、音声又は映像が含まれる会議データを配信する遠隔通信端末と接続された外部入力装置であって、画像を表示する表示手段と、前記表示手段に表示されるカーソルの操作を受け付けるカーソル操作手段と、前記画像の画像データを取得する画像データ取得手段と、前記カーソルの少なくとも座標データが含まれるカーソル情報を取得するカーソル情報取得手段と、前記カーソル情報取得手段が前記カーソル情報を取得する第1の頻度を決定する情報取得頻度決定手段と、前記画像データに前記カーソルを合成した表示データを作成する表示データ作成手段と、前記表示データを他の機器に送信する送信手段と、を有することを特徴とする。
資料などの表示データを複数の遠隔通信端末が共有可能な遠隔通信システムにおいて、画面上を指示する指示手段も共有可能な外部入力装置を提供することができる。
遠隔通信システムの構成図の一例である。 遠隔通信端末のハードウェア構成図の一例である。 遠隔通信管理システムのハードウェア構成図の一例である。 遠隔通信システム1を構成する各端末、装置及びシステムの機能ブロック図の一例である。 外部入力装置の機能ブロック図の一例である。 資料管理テーブルの一例を示す図である。 変更品質管理テーブルの一例を示す図である。 中継装置管理テーブルの一例を示す図である。 端末認証管理テーブルの一例を示す図である。 端末管理テーブルの一例を示す図である。 宛先リスト管理テーブルの一例を示す図である。 セッション管理テーブルの一例を示す図である。 アドレス優先度管理テーブルの一例を示す図である。 伝送速度優先度管理テーブルの一例を示す図である。 品質管理テーブルの一例を示す図である。 遠隔通信端末間で画像データ及び音声データを送受信する処理を示したシーケンス図の一例である。 外部入力装置がHDDに記憶している資料データを表示して、その画面全体を共有する手順を示すシーケンス図の一例である。 遠隔通信端末の画像表示制御部が表示する画面の画面例を示す図である。 図17の「ステップS75の 表示データ取得」の際、外部入力装置が資料の画像データと指示情報を取り込む手順を示すシーケンス図の一例である 2つの画像の合成を模式的に説明する図の一例である。 図17の「ステップS75の 表示データ取得」の際、外部入力装置が資料の画像データと指示情報を取り込む手順を示すフローチャート図の一例である 図17の「ステップS75の 表示データ取得」の際、外部入力装置が資料の画像データと指示情報を取り込む手順を示す図の一例である(シーケンス図)。 図17の「ステップS75の 表示データ取得」の際、外部入力装置が資料の画像データと指示情報を取り込む手順を示す図の一例である(フローチャート図)。 図17の「ステップS75の 表示データ取得」の際、外部入力装置が資料の画像データと指示情報を取り込む手順を示す図の一例である。
以下、本発明を実施するための形態について図面を参照しながら説明する。
本実施形態の遠隔通信システム1の概略的な特徴は、以下のようになる。
(1)資料の画像データとマウスカーソル等の指示情報を別々にキャプチャして1つの表示データに合成すること(資料の画像データにマウスカーソルを合成できる)
(2)資料の画像データの取り込み頻度と、マウスカーソル等の指示情報の取り込み頻度をそれぞれ決定できること(処理負荷を軽減しながら配信先でもマウスカーソルを滑らかに移動させることができる)
(3)資料の画像データの変化の有無やマウスカーソルの移動量に応じて、表示データを作成するか否かを決定すること(画面に変化がなければ表示データを作成しないので、処理負荷や通信網の負荷を抑制できる)
図1は、遠隔通信システムの構成図の一例である。遠隔通信システムは、一例として地域Aと地域Bに分かれて遠隔通信端末10が分かれて配置されているが、最小、2つの遠隔通信端末があれば遠隔通信が可能である。
遠隔通信システム1は、複数の遠隔通信端末(10aa,10ab,…,10db)、各遠隔通信端末(10aa,10ab,…,10db)用のディスプレイ(100aa,100ab,…,100db)、複数の中継装置(30a,30b,30c,30d)、及び遠隔通信管理システム50、プログラム提供システム、及び、外部入力装置を有する。
なお、本実施形態では、遠隔通信端末(10aa,10ab,…,10db)のうち任意の遠隔通信端末を示す場合には「遠隔通信端末10」を用い、ディスプレイ(100aa,100ab,…,100db)のうち任意のディスプレイを示す場合には「ディスプレイ100」を用い、中継装置(30a,30b,30c,30d)のうち任意の中継装置を示す場合には「中継装置30」を用い、外部入力装置(40aa,40ab,…,140db)のうち任意の外部入力装置を示す場合には「外部入力装置40」を用いる。
遠隔通信端末10は、他の遠隔通信端末10との間で、画像データ、音声データ等の送受信を行う。本実施形態では、画像データの画像が動画の場合について説明するが、動画だけでなく静止画であってもよい。また、画像データの画像には、動画と静止画の両方が含まれてもよい。中継装置30は、複数の遠隔通信端末10の間で、画像データ及び音声データの中継を行う。遠隔通信管理システム50は、遠隔通信端末10及び中継装置30を一元的に管理する。
外部入力装置40は、遠隔通信端末10と接続され、遠隔通信端末10に対して資料データを表示するための表示データを送信する。ここでの資料データとは、たとえば、文書作成ソフトウェア、表計算ソフトウェア、プレゼンテーション用ソフトウェア等を用いて利用されるデータを意味する。
また、図1に示されている複数のルータ(70a,70b,…,70f)は、画像データ及び音声データの最適な経路の選択を行う。なお、本実施形態では、ルータ(70a,70b,…,70f)のうち任意のルータを示す場合には「ルータ70」を用いる。
プログラム提供システム90は、遠隔通信端末10に各種機能又は各種手段を実現させるための遠隔通信端末用プログラムが記憶された、不図示のHDD(Hard Disk Drive)を備えており、遠隔通信端末10に、遠隔通信端末用プログラムを送信することができる。 また、プログラム提供システム90のHDDには、中継装置30に各種機能又は各種手段を実現させるための中継装置用プログラムも記憶されており、中継装置30に、中継装置用プログラムを送信することができる。更に、プログラム提供システム90のHDDには、遠隔通信管理システム50に各種機能又は各種手段を実現させるための遠隔通信管理用プログラムも記憶されており、遠隔通信管理システム50に、遠隔通信管理用プログラムを送信することができる。
また、遠隔通信端末10aa、遠隔通信端末10ab、中継装置30a、及び、ルータ70aは、LAN2aによって互いに通信可能に接続されている。遠隔通信端末10ba、遠隔通信端末10bb、中継装置30b、及び、ルータ70bは、LAN2bによって互いに通信可能に接続されている。また、LAN2a及びLAN2bは、ルータ70cが含まれた専用線2abによって通信可能に接続されており、所定の地域A内で構築されている。例えば、地域Aは日本であり、LAN2aは東京の事業所内で構築されており、LAN2bは大阪の事業所内で構築されている。
一方、遠隔通信端末10ca、遠隔通信端末10cb、中継装置30c、及び、ルータ70dは、LAN2cによって互いに通信可能に接続されている。遠隔通信端末10da、遠隔通信端末10db、中継装置30d、及び、ルータ70eは、LAN2dによって互いに通信可能に接続されている。また、LAN2c及びLAN2dは、ルータ70fが含まれた専用線2cdによって通信可能に接続されており、所定の地域B内で構築されている。例えば、地域Bはアメリカであり、LAN2cはニューヨークの事業所内で構築されており、LAN2dはワシントンD.C.の事業所内で構築されている。
地域A及び地域Bは、それぞれルータ(70c,70f)からインターネット2iを介して通信可能に接続されている。
また、遠隔通信管理システム50、及び、プログラム提供システム90は、インターネット2iを介して、遠隔通信端末10及び中継装置30と通信可能に接続されている。遠隔通信管理システム50、及びプログラム提供システム90は、地域A又は地域Bに設置されていてもよいし、これら以外の地域に設置されていてもよい。
なお、本実施形態では、LAN2a、LAN2b、専用線2ab、インターネット2i、専用線2cd、LAN2c、及びLAN2dによって、本実施形態の通信ネットワーク2が構築されている。
また、図1において、各遠隔通信端末10、各中継装置30、遠隔通信管理システム50、各ルータ70、及び、プログラム提供システム90の下に示されている4組の数字は、一般的なIPv4におけるIPアドレスを簡易的に示している。例えば、遠隔通信端末10aaのIPアドレスは「1.2.1.3」である。また、IPv4ではなく、IPv6を用いてもよいが。説明を簡略化するため、IPv4を用いて説明する。
<<ハードウェア構成>>
次に、各機器のハードウェア構成を説明する。本実施形態では、中継先としての遠隔通信端末10で画像データの受信に遅延が生じた場合に、中継装置30によって画像データの画像の解像度を変更してから、中継先としての遠隔通信端末10へ画像データを送信する場合について説明する。
図2は、遠隔通信端末10のハードウェア構成図の一例である。図2に示されているように、本実施形態の遠隔通信端末10は、遠隔通信端末10全体の動作を制御するCPU(Central Processing Unit)101、遠隔通信端末用プログラムを記憶したROM(Read Only Memory)102、CPU101のワークエリアとして使用されるRAM(Random Access Memory)103、画像データや音声データ等の各種データを記憶するフラッシュメモリ104、CPU101の制御にしたがってフラッシュメモリ104に対する各種データの読み出し又は書き込みを制御するSSD(Solid State Drive)105、フラッシュメモリ等の記録メディア106に対するデータの読み出し又は書き込み(記憶)を制御するメディアドライブ107、遠隔通信端末10の宛先を選択する場合などに操作される操作ボタン108、遠隔通信端末10の電源のON/OFFを切り換えるための電源スイッチ109、後述の通信ネットワーク2を利用してデータ伝送をするためのネットワークI/F111、CPU101の制御に従って被写体を撮像し画像データを得るCCD(Charge Coupled Device)112、このCCD112の駆動を制御する撮像素子I/F113、音声を入力するマイク114、音声を出力するスピーカ115、CPU101の制御に従ってマイク114及びスピーカ115との間で音声信号の入出力を処理する音声入出力I/F116、CPU101の制御に従って外付けのディスプレイ100に画像データを伝送するディスプレイI/F117、外部の装置と各種データを送受信する外部装置I/F118及び上記各構成要素を図2に示されているように電気的に接続するためのアドレスバスやデータバス等のバスライン110を備えている。
なお、記録メディア106は、遠隔通信端末10に対して着脱自在な構成となっている。また、CPU101の制御にしたがってデータの読み出し又は書き込みを行う不揮発性メモリであれば、フラッシュメモリ104に限らず、EEPROM(Electrically Erasable and Programmable ROM)等を用いてもよい。更に、CCD112は、光を電荷に変換して被写体の画像(映像)を電子化する固体撮像素子であり、被写体を撮像するものであればCCDに限らず、CMOS(Complementary Metal Oxide Semiconductor)等を用いてもよい。また、ディスプレイ100は、被写体の画像や操作用アイコン等を表示する液晶や有機ELによって構成されている。
更に、上記遠隔通信端末用プログラムは、インストール可能な形式又は実行可能な形式のファイルで、上記記録メディア106等の、コンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。
図3は、本発明の一実施形態に係る遠隔通信管理システム50のハードウェア構成図の一例である。遠隔通信管理システム50は、遠隔通信管理システム50全体の動作を制御するCPU201、遠隔通信管理用プログラムを記憶したROM202、CPU201のワークエリアとして使用されるRAM203、各種データを記憶するHD(Hard Disk)204、CPU201の制御にしたがってHD204に対する各種データの読み出し又は書き込みを制御するHDD(Hard Disk Drive)205、フラッシュメモリ等の記録メディア206に対するデータの読み出し又は書き込み(記憶)を制御するメディアドライブ207、カーソル、メニュー、ウィンドウ、文字、又は画像などの各種情報を表示するディスプレイ208、後述の通信ネットワーク2を利用してデータ伝送をするためのネットワークI/F209、文字、数値、各種指示などの入力のための複数のキーを備えたキーボード211、各種指示の選択や実行、処理対象の選択、カーソルの移動などを行うマウス212、着脱可能な記録媒体の一例としてのCD−ROM(Compact Disc Read Only Memory)213に対するデータの読み出し又は書き込みを制御するCD−ROMドライブ214、外部の装置と情報を送受信する外部装置I/F215及び、上記各構成要素を図3に示されているように電気的に接続するためのアドレスバスやデータバス等のバスライン210を備えている。
なお、上記遠隔通信管理用プログラムは、インストール可能な形式又は実行可能な形式のファイルで、上記記録メディア206やCD−ROM213等のコンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。
また、外部入力装置40は、上記遠隔通信管理システム50と同様のハードウェア構成を有しているため、その説明を省略する。但し、ROM202には、外部入力装置40を制御するための外部入力装置用プログラムが記録されている。この場合も、外部入力装置用プログラムは、インストール可能な形式又は実行可能な形式のファイルで、上記記録メディア206やCD−ROM213等のコンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。
また、中継装置30は、上記遠隔通信管理システム50と同様のハードウェア構成を有しているため、その説明を省略する。但し、ROM202には、中継装置30を制御するための中継装置用プログラムが記録されている。この場合も、中継装置用プログラムは、インストール可能な形式又は実行可能な形式のファイルで、上記記録メディア206やCD−ROM213等のコンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。
更に、プログラム提供システム90は、上記遠隔通信管理システム50と同様のハードウェア構成を有しているため、その説明を省略する。但し、ROM202には、プログラム提供システム90を制御するためのプログラム提供用プログラムが記録されている。この場合も、プログラム提供用プログラムは、インストール可能な形式又は実行可能な形式のファイルで、上記記録メディア206やCD−ROM213等のコンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。
なお、上記着脱可能な記録媒体の他の例として、CD−R(Compact Disc Recordable)、DVD(Digital Versatile Disk)、ブルーレイディスク等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。
図4は、本実施形態の遠隔通信システム1を構成する各端末、装置及びシステムの機能ブロック図の一例である。図4では、遠隔通信端末10、中継装置30、及び遠隔通信管理システム50が、通信ネットワーク2を介してデータ通信することができるように接続されている。外部入力装置40は、遠隔通信端末10とデータを送受信することができるように接続されている。図1に示されているプログラム提供システム90は、テレビ会議の通信において直接関係ないため、図4では省略されている。また、図5は、外部入力装置40の機能ブロック図の一例である。
<遠隔通信端末の機能構成>
遠隔通信端末10は、送受信部11、操作入力受付部12、ログイン要求部13、撮像部14a、画像表示制御部14b、音声入力部15a、音声出力部15b、選択処理部16、遅延検出部17、外部情報送受信部18、及び記憶・読出処理部19を有している。これら各部は、図2に示されている各構成要素のいずれかが、ROM202に記憶されているプログラムに従ったCPU201からの命令によって動作することで実現される機能又は手段である。また、遠隔通信端末10は、図2に示されているSSD105によって構築される記憶部1000を有している。
(遠隔通信端末の各機能部)
次に、遠隔通信端末の各部を詳細に説明する。遠隔通信端末10の送受信部11は、図2に示されているネットワークI/F111によって実現され、通信ネットワーク2を介して他の端末、装置又はシステムと各種データ(情報)の送受信を行う。操作入力受付部12は、図2に示されている操作ボタン108、及び電源スイッチ109によって実現され、ユーザによる各種入力を受け付ける。例えば、ユーザが、図2に示されている電源スイッチ109をONにすると、図4に示されている操作入力受付部12が電源ONを受け付けて、電源をONにする。ログイン要求部13は、図2に示されているCPU101からの命令によって実現され、上記電源ONの受け付けを契機として、送受信部11から通信ネットワーク2を介して遠隔通信管理システム50に、ログインを要求する旨を示すログイン要求情報、及び遠隔通信端末10abの現時点のIPアドレスを自動的に送信する。
撮像部14aは、図2に示されているCCD112、及び撮像素子I/F113によって実現され、被写体を撮像して、この撮像して得た画像データを出力する。画像表示制御部14bは、図2に示されているディスプレイI/F117によって実現され、外付けのディスプレイ100に対して画像データを送信するための制御を行う。音声入力部15aは、図2に示されているマイク114、及び音声入出力I/F116によって実現され、ユーザの音声を入力し、この音声を音声信号に変換することで、音声信号に係る音声データを出力する。音声出力部15bは、図2に示されているスピーカ115、及び音声入出力I/F116によって実現され、音声データに係る音声信号を音声に変換して出力する。
選択処理部16は、複数の中継装置30から最終的に1つの中継装置30に絞り込む最終絞り込み処理を行うため、図2に示されているCPU101からの命令によって、計測部16a、算出部16b、及び選択部16cを実現する。このうち、計測部16aは、送受信部11によって受信された後述の事前送信情報毎に、送受信部11によって事前送信情報が受信される際の受信日時を計測する。算出部16bは、計測部16aによって受信日時が計測された事前送信情報毎に、この計測された受信時間と、この事前送信情報に含まれている送信日時との差に基づいて、事前送信情報の送信から受信までの所要時間を算出する。選択部16cは、算出部16bによって算出された所要時間のうち最短の所要時間を要した事前送信情報が中継された中継装置30を選択することで、最終的に1つの中継装置を選択する。
遅延検出部17は、図2に示されているCPU101からの命令によって実現され、他の遠隔通信端末10から中継装置30を介して送られて来る画像データ又は音声データの遅延時間(ms)を検出する。また、外部情報送受信部18は、外部装置I/F215により外部入力装置40とデータを送受信する。また、記憶・読出処理部19は、図2に示すSSD105を実体として、記憶部1000に各種データを記憶したり、記憶部1000に記憶された各種データを読み出す処理を行う。記憶部1000には、遠隔通信端末10を識別するための端末ID(Identification)、及びパスワード、並びに、画像データ、及び音声データ、各種データを送信する中継装置30を識別する中継装置ID、宛先端末のIPアドレス等が記憶される。
また、記憶部1000には、外部入力装置40に送信され、外部入力装置40上で動作する表示データ取得部451及び表示データ送信部452が記憶されている。表示データ取得部451は、外部入力装置40の表示データを取得するものであり、表示データ送信部452は、表示データ取得部451が取得した表示データを遠隔通信端末10に送信するものである。表示データとは、表示装置の画面に表示された画像をJPEG(Joint Photographic Experts Group)やBitmap等の形式にした画像データ、GDI(Graphics Device Interface )等の形式にした描画コマンドを表す。表示データには資料データが含まれる場合も資料データが含まれない単なるデスクトップ画面の場合もある。
なお、本実施形態の端末ID、及び後述の中継装置IDは、それぞれ遠隔通信端末10、及び中継装置30を一意に識別するために使われる言語、文字、記号、又は各種のしるし等の識別情報を示す。また、端末ID、及び中継装置IDは、上記言語、文字、記号、及び各種のしるしのうち、少なくとも2つが組み合わされた識別情報であってもよい。また、以下では、テレビ会議の開始を要求する要求元としての遠隔通信端末10を「要求元端末10A」とし、要求先である宛先としての遠隔通信端末10を「宛先端末10B」として説明する。
<外部入力装置の機能構成>
外部入力装置40は、図5(a)に示されているように、送受信部41、接続検出部42、インストール判定部43、プログラム取得部44、操作入力受付部46、表示制御部47、マウント部48及び記憶・読出処理部49を有している。また、表示データ取得部451及び表示データ送信部452が図示されている。これら各部は、図3に示されている各構成要素のいずれかが、ROM202に記憶されているプログラムに従ったCPU201からの命令によって動作することで実現される機能又は手段である。また、外部入力装置40は、図3に示されているディスプレイ208によって構築される表示装置400を有している。また、外部入力装置40は、Windows(登録商標)等のOS(Operating System)を搭載し、これにより、他の装置と接続したときにはプログラムを実行する機能を備えている。
<外部入力装置の各機能部>
次に、外部入力装置40の各部を詳細に説明する。外部入力装置40の送受信部41は、図3に示されているネットワークI/F209によって実現され、遠隔通信端末10から各種データ(情報)の送受信を行う。接続検出部42は外部装置I/F215により遠隔通信端末10とデータの送受信が可能となったことを検出する。インストール判定部43は外部入力装置40に表示データ取得部451、表示データ送信部452がインストールされているか否かを判定する。プログラム取得部44は、送受信部41を経由して接続された遠隔通信端末10の記憶部1000から表示データ取得部451、表示データ送信部452を取得し、インストールする。操作入力受付部46は、ユーザの操作による入力を受け付ける。表示制御部47は、後述する記憶・読出処理部49が読み出した画像を表示装置400に表示させる。マウント部48は、外部入力装置40に接続されている各種装置の記憶部をマウントする。記憶・読出処理部49は、図3に示されているHDD205を実体とし各種データを記憶したり、HDD205に記憶された各種データを読み出したりする処理を行う。HDD205には、資料管理テーブル等が記憶される。
また、図5(b)に示すように、外部入力装置の表示データ取得部451は、情報取得頻度決定部4511、指示情報取得部4512、画面情報取得部4513、及び、表示データ作成部4514を有する。
情報取得頻度決定部4511は、画像データと指示情報の取得頻度を決定する(例えば1秒に1回)。このように比較的短い間隔で画像データと指示情報を取得することで、遠隔通信システム1は、画像データを連続した画像、つまり動画として配信することができる。取得頻度は固定であってもよいし、可変とすることもできる。情報取得頻度決定部4511は、例えば、遠隔通信管理システム50に遅延時間を問い合わせ、遠隔通信管理システム50がセッション管理テーブル(図12参照)から読み出した遅延時間に応じて、取得頻度を決定する(例えば、遅延時間が50msなら取得頻度は0.3秒、遅延時間が100msなら取得頻度を0.6秒、遅延時間が200msなら取得頻度を1秒)。または、情報取得頻度決定部4511が、遠隔通信管理システム50に問い合わせる必要をなくすため、遠隔通信管理システム50が、端末管理テーブル(図10参照)で稼働中であることが確認された遠隔通信端末10に遅延時間を配信するとしてもよい。
画面情報取得部4513は、外部入力装置40が表示装置400に表示している資料の画像データを取得する。画像データの取得には、ハードコピーやキャプチャと呼ばれる手法を利用する。画面情報取得部4513は、例えばOSに画面のハードコピーをクリップボードに記憶するよう要求し、OSからクリップボードの画像データを取得する。
指示情報取得部4512は、マウスカーソルなどの位置や画像データなどの指示情報を取得する。後述するように、指示情報は、画面におけるマウスカーソルの座標データ、又は、画面におけるマウスカーソルの座標データとその画像データである。マウスカーソルの座標データは、所定のコマンドでOSに問い合わせることで取得できる。マウスカーソルの画像データは、同様にOSから取得してもよいし、予め既知のマウスカーソルのアイコンを画像データとしてもよい。
表示データ作成部4514は、資料の画像データと指示情報を合成して表示データを作成する。外部入力装置40は表示データを遠隔通信端末10に送信するので、各ユーザはマウスカーソルが画面上の資料で特定する位置を共通に把握することができる。
(資料管理テーブル)
外部入力装置40のHDD205には、資料管理テーブルが記憶される。
図6は資料管理テーブルの一例を示す図である。資料管理テーブルでは、資料の名称である資料名、資料の大きさを表すサイズ、資料が作成されるために用いられたアプリケーションソフトウェアの名称を表すアプリケーション名、資料が最後に更新された更新日時、資料データ等が関連付けられて管理される。
<中継装置の機能構成>
次に、中継装置30の機能又は手段について説明する。中継装置30は、送受信部31、状態検知部32、データ品質確認部33、変更品質管理部34、データ品質変更部35、及び記憶・読出処理部39を有している。これら各部は、図3に示されている各構成要素のいずれかが、ROM202に記憶されているプログラムに従ったCPU201からの命令によって動作することで実現される機能又は手段である。また、中継装置30は、図3に示されているHD204により構築される記憶部3000を有している。
(変更品質管理テーブル)
記憶部3000には、図7に示されているような変更品質管理テーブルによって構成されている変更品質管理DB3001が構築される。変更品質管理テーブルでは、画像データの中継先としての遠隔通信端末30のIPアドレス、及びこの中継先に中継装置30が中継する画像データの画質が関連付けられて管理される。
解像度は、例えば、横が160画素、縦が120画素から成り、ベース画像となる低解像度の画像と、横が320画素、縦が240画素から成る中解像度の画像と、横が640画素、縦が480画素から成る高解像度の画像とがある。このうち、狭帯域経路を経由する場合には、ベース画像となる低解像度の画像データのみから成る低画質の画像データが中継される。帯域が比較的広い場合には、ベース画像となる低解像度の画像データ、及び中解像度の画像データから成る中画質の画像データが中継される。また、帯域が非常に広い場合には、ベース画質となる低解像度の画像データ、中画解像度の画像データ、及び高解像度の画像データから成る高画質の画像データが中継される。例えば、図7に示されている変更品質管理テーブルにおいて、中継装置30が、IPアドレス「1.3.2.4」の宛先端末10dbに対して画像データを中継する場合には、この中継される画像データの画質(画像の品質)は「高品質」である。
<中継装置の各機能部>
次に、中継装置30の各機能構成について詳細に説明する。なお、以下では、中継装置30の各部を説明するにあたって、図2に示されている各構成要素のうち、中継装置30の各部を実現させるための主な構成要素との関係も説明する。
図4に示されている中継装置30の送受信部31は、図3に示されているネットワークI/F209によって実現され、通信ネットワーク2を介して他の端末、装置、又はシステムと各種データ(情報)の送受信を行う。状態検知部32は、図3に示されているCPU201からの命令によって実現され、この状態検知部32を有する中継装置30の稼動状態を検知する。稼動状態としては、「ONライン」、「OFFライン」、又は「故障中」の状態がある。
データ品質確認部33は、図3に示されているCPU201からの命令によって実現され、宛先端末10BのIPアドレスを検索キーとして、図7の変更品質管理テーブルを検索し、対応した中継される画像データの画質を抽出することで、中継される画像データの画質を確認する。変更品質管理部34は、図3に示されているCPU201からの命令によって実現され、遠隔通信管理システム50から送られて来る、後述の品質情報に基づいて、変更品質管理DB3001の内容を変更する。例えば、端末IDが「01aa」である要求元端末10aaと、端末IDが「01db」である宛先端末10dbとの間で高画質の画像データを送受信することによってテレビ会議を行っている最中に、他のテレビ会議を行う要求元端末bbと宛先端末caが通信ネットワーク2を介してテレビ会議を開始すること等によって、宛先端末10dbで画像データの受信の遅延が生じた場合には、中継装置30は今まで中継していた画像データの画質を、高画質から中画質に下げる必要がある。このような場合に、中画質を示す品質情報に基づいて、中継装置30が中継する画像データの画質を高画質から中画質に下げるように、変更品質管理DB3001の内容が変更される。
データ品質変更部35は、図3に示されているCPU201からの命令によって実現され、送信元端末10から送られて来た画像データの画質を、上記変更された変更品質管理DB3001の内容に基づいて変更する。記憶・読出処理部39は、図3に示されているHDD205によって実現され、記憶部3000に各種データを記憶したり、記憶部3000に記憶された各種データを読み出す処理を行う。
<遠隔通信管理システムの機能構成>
次に、遠隔通信管理システム50の機能又は手段について説明する。遠隔通信管理システム50は、送受信部51、端末認証部52、状態管理部53、端末抽出部54、端末状態取得部55、絞込部56、セッション管理部57、品質決定部58、記憶・読出処理部59、及び遅延時間管理部60を有している。これら各部は、図3に示されている各構成要素のいずれかが、ROM202に記憶されているプログラムに従ったCPU201からの命令によって動作することで実現される機能又は手段である。また、遠隔通信管理システム50は、図3に示されているHD204により構築される記憶部5000を有している。
(中継装置管理テーブル)
記憶部5000には、図8に示されているような中継装置管理テーブルによって構成されている中継装置管理DB5001が構築されている。この中継装置管理テーブルでは、各中継装置30の中継装置ID毎に、各中継装置30の稼動状態、稼動状態が示される状態情報が遠隔通信管理システム50で受信された受信日時、中継装置30のIPアドレス、及び中継装置30における最大データ伝送速度(Mbps)が関連付けられて管理される。例えば、図7に示されている中継装置管理テーブルにおいて、中継装置IDが「111a」の中継装置30aは、稼動状態が「ONライン」で、遠隔通信管理システム50で状態情報が受信された日時が「2009年11月10日の13時00分」で、この中継装置30aのIPアドレスが「1.2.1.2」で、この中継装置30aにおける最大データ伝送速度が100Mbpsであることが示されている。
(端末認証管理テーブル)
更に、記憶部5000には、図9に示されているような端末認証管理テーブルによって構成されている端末認証管理DB5002が構築されている。この端末認証管理テーブルでは、遠隔通信管理システム50によって管理される全ての遠隔通信端末10の各端末IDに対して、各パスワードが関連付けられて管理される。例えば、図8に示されている端末認証管理テーブルにおいて、遠隔通信端末10aaの端末IDは「01aa」で、パスワードは「aaaa」であることが示されている。
(端末管理テーブル)
また、記憶部5000には、図10に示されているような端末管理テーブルによって構成されている端末管理DB5003が構築されている。この端末管理テーブルでは、各遠隔通信端末10の端末ID毎に、各遠隔通信端末10の稼動状態、後述のログイン要求情報が遠隔通信管理システム50で受信された受信日時、及び遠隔通信端末10のIPアドレスが関連付けられて管理される。例えば、図9に示されている端末管理テーブルにおいて、端末IDが「01aa」の遠隔通信端末10aaは、稼動状態が「ONライン」で、遠隔通信管理システム50でログイン要求情報が受信された日時が「2009年11月10日の13時40分」で、この遠隔通信端末10aaのIPアドレスが「1.2.1.3」であることが示されている。
(宛先リスト管理テーブル)
更に、記憶部5000には、図11に示されているような宛先リスト管理テーブルによって構成されている宛先リスト管理DB5004が構築されている。この宛先リスト管理テーブルでは、テレビ会議の開始を要求する要求元端末10Aの端末IDに対して、宛先端末10Bの候補として登録されている宛先端末10Bの端末IDが全て関連付けられて管理される。例えば、図11に示されている宛先リスト管理テーブルにおいて、端末IDが「01aa」である要求元端末10aaからテレビ会議の開始を要求することができる宛先端末10Bの候補は、端末IDが「01ab」の遠隔通信端末10ab、端末IDが「01ba」の遠隔通信端末10ba、及び端末IDが「01db」の遠隔通信端末10dbの3つであることが示されている。この宛先端末10Bの候補は、要求元端末10Aから遠隔通信管理システム50に対する追加又は削除の要請により、追加又は削除されることで更新される。
(セッション管理テーブル)
また、この記憶部5000には、図12に示されているようなセッション管理テーブルによって構成されているセッション管理DB5005が構築されている。このセッション管理テーブルでは、中継装置30を選択するためのセッションの実行に用いられる選択用セッションID毎に、画像データ、音声データ及び表示データの中継に使用される中継装置30の中継装置ID、要求元端末10Aの端末ID、宛先端末10Bの端末ID、宛先端末10Bにおいて画像データが受信される際の受信の遅延時間(ms)、及びこの遅延時間が示されている遅延情報を宛先端末10Bから送られて来て遠隔通信管理システム50で受信された受信日時が関連付けられて管理される。例えば、図11に示されているセッション管理テーブルにおいて、選択用セッションID「se1」を用いて実行されたセッションで選択された中継装置30a(中継装置ID「111a」)は、端末IDが「01aa」の要求元端末10aaと、端末IDが「01db」の宛先端末10dbとの間で、画像データ及び音声データを中継しており、宛先端末10dbにおいて「2009年11月10日の14時00分」時点における画像データの遅延時間が200(ms)であることが示されている。なお、2つの遠隔通信端末10の間でテレビ会議を行う場合には、上記宛先端末10Bではなく要求元端末10Aから送信されてきた遅延情報に基づいて、遅延情報の受信日時を管理してもよい。但し、3つ以上の遠隔通信端末10の間でテレビ会議を行う場合には、画像データ、音声データ及び表示データの受信側の遠隔通信端末10から送信されてきた遅延情報に基づいて、遅延情報の受信日時を管理する。
(アドレス優先度管理テーブル)
更に、記憶部5000には、図13に示されているようなアドレス優先度管理テーブルによって構成されている優先度管理DB5006が構築されている。このアドレス優先度管理テーブルでは、一般的なIPv4におけるIPアドレスのうちの4組のドットアドレス(Dot Address)部分の同異に応じて、アドレス優先度のポイントが高くなるように関連付けられて管理される。例えば、図13に示されているアドレス優先度管理テーブルにおいて、ドットアドレスの上位から下位にかけて3つの値が同じIPアドレスの場合には、アドレス優先度のポイントが「5」である。ドットアドレスの上位から下位にかけて2つの値が同じIPアドレスの場合には、アドレス優先度のポイントが「3」である。この場合、最下位のドットアドレスの値が同じであるか否かは優先度に関係ない。ドットアドレスの最上位の値が同じで、上位から2番目の値が異なるIPアドレスの場合には、アドレス優先度のポイントが「1」である。この場合、上位から3番目及び最下位のドットアドレスの値が同じであるか否かは優先度には関係ない。ドットアドレスの最上位の値が異なるIPアドレスの場合には、アドレス優先度のポイントが「0」である。この場合、上位から2番目、3番目、及び最下位のドットアドレスの値が同じであるか否かは優先度には関係ない。
(伝送速度優先度管理テーブル)
また、記憶部5000に構築されている優先度管理DB5006には、図14に示されているような伝送速度優先度管理テーブルも含まれている。この伝送速度優先度管理テーブルでは、中継装置30における最大データ伝送速度(Mbps)の値に応じて、伝送速度優先度のポイントが高くなるように関連付けられて管理される。例えば、図14に示されている伝送速度優先度管理テーブルにおいて、中継装置30における最大データ伝送速度が1000Mbps以上の場合には、伝送速度優先度のポイントが「5」である。中継装置30における最大データ伝送速度が100Mbps以上1000Mbps未満の場合には、伝送速度優先度のポイントが「3」である。中継装置30における最大データ伝送速度が10Mbps以上100Mbps未満の場合には、伝送速度優先度のポイントが「1」である。中継装置30における最大データ伝送速度が10Mbps未満の場合には、伝送速度優先度のポイントが「0」である。
(品質管理テーブル)
更に、記憶部5000には、図15に示されているような品質管理テーブルによって構成されている品質管理DB5007が構築されている。この品質管理テーブルでは、要求元端末10A又は宛先端末10Bにおける画像データの遅延時間(ms)に応じて、中継装置30で中継させる画像データの画質(画像の品質)が関連付けられて管理される。
(遠隔通信管理システムの各機能部)
次に、遠隔通信管理システム50の各機能部について詳細に説明する。なお、以下では、遠隔通信管理システム50の各部を説明するにあたって、図3に示されている各構成要素のうち、遠隔通信管理システム50の各部を実現させるための主な構成要素との関係も説明する。
送受信部51は、図3に示されているネットワークI/F209によって実行され、通信ネットワーク2を介して他の端末、装置又はシステムと各種データ(情報)の送受信を行う。端末認証部52は、送受信部51を介して受信されたログイン要求情報に含まれている端末ID及びパスワードを検索キーとし、記憶部5000の端末認証管理DB5002を検索し、端末認証管理DB5002に同一の端末ID及びパスワードが管理されているかを判断することによって端末認証を行う。状態管理部53は、ログイン要求してきた要求元端末10Aの稼動状態を管理すべく、端末管理テーブル(図10参照)に、この要求元端末10Aの端末ID、要求元端末10Aの稼動状態、遠隔通信管理システム50でログイン要求情報が受信された受信日時、及び要求元端末10AのIPアドレスを関連付けて記憶して管理する。
端末抽出部54は、ログイン要求した要求元端末10Aの端末IDをキーとして、宛先リスト管理テーブル(図11参照)を検索し、要求元端末10Aと遠隔通信することができる宛先端末10Bの候補の端末IDを読み出すことで、端末IDを抽出する。また、端末抽出部54は、ログイン要求してきた要求元端末10Aの端末IDをキーとして、宛先リスト管理テーブル(図11参照)を検索し、上記要求元端末10Aの端末IDを宛先端末10Bの候補として登録している他の要求元端末10Aの端末IDも抽出する。
端末状態取得部55は、上記端末抽出部54によって抽出された宛先端末10Bの候補の端末IDを検索キーとして、端末管理DBテーブル(図10参照)を検索し、上記端末抽出部54によって抽出された端末ID毎に稼動状態を読み出す。これにより、端末状態取得部55は、ログイン要求してきた要求元端末10Aと遠隔通信することができる宛先端末10Bの候補の稼動状態を取得することができる。また、端末状態取得部55は、上記端末抽出部54によって抽出された端末IDを検索キーとして、端末管理テーブル(図10参照)を検索し、ログイン要求してきた要求元端末10Aの稼動状態も取得する。
絞込部56は、複数の中継装置30から最終的に1つの中継装置30に絞り込む最終絞り込み処理を支援するため、最終絞り込み処理前の一次絞り込み処理を行うため、選択用セッションID生成部56a、端末IPアドレス抽出部56b、一次選択部56c、及び優先度決定部56dを有している。このうち、選択用セッションID生成部56aは、中継装置30を選択するためのセッションの実行に用いられる選択用セッションIDを生成する。端末IPアドレス抽出部56bは、要求元端末10Aから送られてきた開始要求情報に含まれている要求元端末10Aの端末ID、及宛先端末10Bの端末IDに基づいて、端末管理テーブル(図10参照)を検索することにより、対応するそれぞれの遠隔通信端末10のIPアドレスを抽出する。一次選択部56cは、中継装置管理テーブル(図7参照)で管理されている中継装置30のうち、稼動状態が「ONライン」となっている中継装置30の中継装置IDを選択することにより、中継装置30の選択を行う。
また、一次選択部56cは、上記端末IPアドレス抽出部56bによって抽出された、要求元端末10AのIPアドレス、及び宛先端末10BのIPアドレスに基づいて、中継装置管理テーブル(図8参照)を検索することにより、上記選択された中継装置30のIPアドレスのドットアドレス毎に、上記要求元端末10A及び宛先端末10Bの各IPアドレスにおける各ドットアドレスと同じであるか異なるかを調査する。更に、一次選択部56cは、中継装置毎に、アドレス優先度のポイントにおいて遠隔通信端末10に対する高い方のポイントと、伝送速度優先度のポイントを統合した統合ポイントのうち、ポイントが高い上位2つの中継装置30を選択することにより、中継装置30の更なる選択を行う。
なお、本実施形態では、ポイントが高い上位2つの中継装置30を選択することにしているが、これに限られるものではなく、中継装置30を1つでも多く絞り込むことができれば、ポイントが高い上位3つ以上の中継装置30を選択するようにしてもよい。
優先度決定部56dは、優先度管理テーブル(図13参照)を参照して、上記一次選択部56cによって調査された中継装置30毎に、アドレス優先度のポイントを決定する。また、優先度決定部56dは、中継装置管理テーブル(図8参照)で管理されている各中継装置30の最大データ伝送速度に基づいて、伝送速度優先度管理テーブル(図14参照)を検索することにより、上記一次選択部56cによって絞り込まれた中継装置30毎に伝送速度優先度のポイントを決定する。
セッション管理部57は、記憶部5000のセッション管理テーブル(図12参照)に、選択用セッションID生成部56aで生成された選択用セッションID、要求元端末の端末ID、及び宛先端末の端末IDを関連付けて記憶して管理する。また、セッション管理部57は、セッション管理テーブル(図11参照)に対して、選択用セッションID毎に、遠隔通信端末10の選択部16cで最終的に1つに選択された中継装置30の中継装置IDを記憶して管理する。
品質決定部58は、上記遅延時間を検索キーとして、品質管理テーブル(図15参照)を検索し、対応する画像データの画質を抽出することで、中継装置30に中継させる画像データの画質を決定する。記憶・読出処理部59は、図3に示されているHDD205によって実行され、記憶部5000に各種データを記憶したり、記憶部5000に記憶された各種データを読み出す処理を行う。遅延時間管理部60は、上記宛先端末10BのIPアドレスを検索キーとして、端末管理テーブル(図10参照)を検索することで、対応する端末IDを抽出し、更に、セッション管理テーブル(図12参照)のセッション管理テーブルにおいて、抽出した端末IDが含まれるレコードにおける遅延時間のフィールド部分に、上記遅延情報で示されている遅延時間を記憶して管理する。
<<動作手順>>
図16は、遠隔通信端末10間で画像データ及び音声データを送受信する処理を示したシーケンス図の一例である。要求元端末10aaと宛先端末10dbとの間で、テレビ会議を行うために、画像データ及び音声データを送受信する処理を説明する。
まず、要求元端末10aaは、撮像部14aで撮像された被写体の画像データ、及び音声入力部15aで入力された音声の音声データを、送受信部11から通信ネットワーク2を介して中継装置30aへ送信する(ステップS81)。なお、本実施形態では、低解像度、中解像度、及び高解像度の3つから成る高画質の画像データ、並びに、音声データを送信している。これにより、中継装置30aでは、送受信部31で上記3つの解像度の画像データ及び音声データを受信する。そして、データ品質確認部33が、宛先端末10dbのIPアドレス「1.3.2.4」を検索キーとして、変更品質管理テーブル(図7参照)を検索し、対応した中継する画像データの画質を抽出することで、中継する画像データの画像の品質を確認する(ステップS82)。本実施形態では、確認された画像データの画像の画質が「高画質」であり、送受信部31で受信した画像データの画質と同じであるため、そのままの画質の画像データ、及びそのままの音質の音声データで、宛先端末10dbに転送する(ステップS83)。これにより、宛先端末10dbは、送受信部11で画像データ及び音声データを受信し、画像表示制御部14bがディスプレイ100に上記画像データに基づく画像を表示させると共に、音声出力部15bが音声データに基づく音声を出力させることができる。
次に、遠隔通信端末10dbの遅延検出部17は、送受信部11で受信された画像データの受信の遅延時間を一定時間毎(例えば、1秒毎)に検出する(ステップS84)。なお、本実施形態では、遅延時間が200(ms)である場合について、以下説明を続ける。
宛先端末10dbの送受信部11は、通信ネットワーク2を介して遠隔通信管理システム50へ、遅延時間「200(ms)」を示す遅延情報を送信する(ステップS85)。
これにより、遠隔通信管理システム50は、遅延時間を把握すると共に、遅延情報の送信元である遠隔通信端末10dbのIPアドレス「1.3.2.4」を把握することができる。
次に、遠隔通信管理システム50の遅延時間管理部60は、上記宛先端末10dbのIPアドレス「1.3.2.4」を検索キーとして、端末管理テーブル(図10参照)を検索することで、対応する端末ID「01db」を抽出し、更に、セッション管理DB5005のセッション管理テーブル(図12参照)において、上記端末ID「01db」のレコードにおける遅延時間のフィールド部分に、上記遅延情報で示されている遅延時間「200(ms)」を記憶して管理する(ステップS86)。
次に、品質決定部58は、上記遅延時間「200(ms)」を検索キーとして、品質管理テーブル(図14参照)を検索し、対応する画像データの画質「中画質」を抽出することで、画質を「中画質」に決定する(ステップS87)。
次に、送受信部51は、セッション管理テーブル(図12参照)において、上記端末ID「01db」に関連付けられている中継装置ID「111a」を検索キーとして、中継装置管理DBテーブル(図8参照)を検索し、対応する中継装置30aのIPアドレス「1.2.1.2」を抽出する(ステップS88)。そして、送受信部51は、通信ネットワーク2を介して中継装置30aへ、上記ステップS87によって決定された画像データの画質「中画質」を示す品質情報を送信する(ステップS89)。この品質情報には、上記ステップS86において検索キーとして用いた宛先端末10dbのIPアドレス「1.3.2.4」が含まれている。これにより、中継装置30aでは、変更品質管理部34が、変更品質管理テーブル(図7参照)に、送信先の遠隔通信端末10(ここでは、宛先端末10db)のIPアドレス「1.3.2.4」、及び中継される画像データの画質「中画質」を関連付けて記憶して管理する(ステップS90)。
次に、遠隔通信端末10aaは、引き続き上記ステップS81と同様に、中継装置30aへ、低画質、中画質、及び高画質の3つから成る高画質の画像データ、並びに、音声データを送信する(ステップS91)。これにより、中継装置30aでは、上記ステップS82と同様に、データ品質確認部33が、宛先端末10dbのIPアドレス「1.3.2.4」を検索キーとして、変更品質管理テーブル(図7参照)を検索し、対応した中継する画像データの画質「中画質」を抽出することで、中継される画像データの画像の品質を確認する(ステップS92)。本実施形態では、確認された画像データの画質が「中画質」であり、送受信部31で受信された画像データの画質「高画質」よりも低くなるため、データ品質変更部35は、画像データの画質を「高画質」から「中画質」に抑制することで、画像データの画像の品質を変更する(ステップS93)。そして、送受信部31は、通信ネットワーク2を介して遠隔通信端末10dbへ、上記画像データの画質が「中画質」に変更された画像データ、及び音声の音質が変更されていない音声データを送信する(ステップS94)。このように、画像データを受信する宛先端末10dbで、受信の遅延が生じた場合には、中継装置30aは画像の品質を変更し、テレビ会議に参加している人に違和感を与えないようにすることができる。
次に、図17を用いて、中継装置30が決定された後に、外部入力装置40がHDD205に記憶している資料データを表示して、その画面全体を共有する手順を説明する。ここでは、遠隔通信端末10aaに接続されている外部入力装置40aaが表示している情報を、宛先端末である遠隔通信端末10dbに表示させる例を説明する。
前述したように、中継装置30が決定されると、S67−21で遠隔通信管理システム50が送信した中継装置ID「111a」、宛先端末10dbのIPアドレス「1.3.2.4」を、遠隔通信端末10aaの送受信部11が受信し、受信した中継装置ID「111a」、IPアドレス「1.3.2.4」を記憶・読出処理部19が記憶部1000に記憶させる(ステップS67−22)。
また、外部入力装置40aa、遠隔通信端末10aaが互いに接続されると、外部入力装置40aaの接続検出部42がそれを検知する(ステップS70)。接続検出部42が、外部入力装置40aa、遠隔通信端末10aaが互いに接続されたことを検知すると、インストール判定部43は、表示データ送信部452が既にインストールされているか否かを判定する(ステップS71)。ステップS71で、表示データ送信部452がインストールされていないと判定された場合は、プログラム取得部44が、遠隔通信端末10aaに記憶されているデータ送信部452を取得し、インストールする(ステップS72)。
ステップS72で、表示データ送信部452がインストールされると、外部入力装置40aaは表示データ取得部451が処理を実行する許可を遠隔通信端末10aaに要求する(ステップS73)。遠隔通信端末10aaが外部入力装置40aaに対して、表示データ取得部451の処理の実行を許可すると、表示データ取得部451は表示データを取得する(ステップS74)。次に、表示データ送信部452が、表示データ取得部451で取得された表示データを遠隔通信端末10aaに対して送信する(ステップS75)。
ステップS71で表示データ送信部452がインストールされていると判定された場合は、ステップS73以降の処理に移る。
送信先の遠隔通信端末10dbの外部情報送受信部18が表示データを受信すると、記憶・読出処理部19が、記憶部1000に記憶されている中継装置ID「111a」、宛先となる遠隔通信端末10dbのIPアドレス「1.3.2.4」を取得する(ステップS77)。そして、ステップS77で取得された中継装置ID「111a」で示される中継装置30に対して、送受信部11が、表示データ、及び、宛先となる遠隔通信端末10dbのIPアドレス「1.3.2.4」を送信する(ステップS78)。ステップS78で遠隔通信端末10aaから送信された表示データを受信すると、中継装置30は遠隔通信端末10dbのIPアドレス「1.3.2.4」に基づいて、表示データの品質を変更し(ステップS79)、遠隔通信端末10dbに表示データを送信する(ステップS80)。ステップS77の処理の詳細は、上述した、音声データ及び画像データの品質を変更する処理(ステップS81〜ステップS94)と同じであるため、説明を省略する。
中継装置30から送信された表示データを遠隔通信端末10dbの送受信部11が受信すると、画像表示制御部14bが表示データを表示させる。
図18は、遠隔通信端末10dbの画像表示制御部14bが表示する画面の画面例を示す。図18に示される例では画面左部に外部入力装置40aaが表示する表示データが表示されている。図18に示すように表示データにマウスカーソル505が含まれる点が特徴の1つとなる。なお、図示する以外のウィンドウは別の表示データや操作メニューである。
また、画面右上部には遠隔通信端末10aaの撮像部14aによって撮像され、送受信部11によって送信された画像データが表示される。また、画面右下部には遠隔通信端末10dbの撮像部14aによって撮像された画像データが表示される。
〔指示情報の表示〕
続いて、指示情報の取得について説明する。外部入力装置40aaを操作するユーザは、マウス212やキーボード211を操作してマウスカーソルを表示装置400内で移動させる。表示装置400には資料が表示されているので、マウスカーソルの位置は資料の文字や1行、図形、又は、ある範囲を指示する。
本実施形態では、このマウスカーソルの表示データにおける座標データが指示情報である。なお、ユーザがマウス212を使用せずにトラックポインタでマウスカーソルを移動させたり、タッチパネルを指先で触ってマウスカーソルを移動させてもよく、本実施形態ではポインティングデバイスの種類は問わない。また、マウスカーソルはどのような形状や色を有していてもよい。
また、指示情報にはマウスカーソルの画像を含めることが好適となる。こうすることで、遠隔通信端末10aaと10dbで同じ形状や色のマウスカーソルを表示することができる。しかし、座標データさえあれば、遠隔通信端末10aaが有しているマウスカーソル用のアイコンの画像を表示データに合成することができる。また、同様に、遠隔通信端末10dbは自機が有するマウスカーソルの画像(アイコン)を使って表示データに合成することもできる。
また、遠隔通信端末10でなく外部入力装置40が、予めマウスカーソル用のアイコンの画像データを記憶していれば、外部入力装置40が表示データにマウスカーソルの画像データを合成することができる。
図19は、図17の「ステップS75の 表示データ取得」の際、外部入力装置40aaが資料の画像データと指示情報を取り込む手順を示すシーケンス図の一例である。「75:表示データ取得」がS75に相当するステップである。図19では、ステップS75の中で「75−1:画像データ取得」、「75−2:指示情報取得」、「75−3:画像データに指示情報を合成」とが行われている。
まず、画面情報取得部4513は、外部入力装置(例えばノートPC)10aaが表示している資料の画像データを取得する(S75−1)。資料の画像データはいったんRAM203等に記憶される。
次に、指示情報取得部4512は、「75−2:指示情報取得」の中で、マウスカーソルの画像データを取得する(S75−21)。マウスカーソルの画像データはいったんRAM203等に記憶される。また、指示情報取得部4512は、マウスカーソルの座標データを取得する(S75−22)。
次に、表示データ作成部4514は、資料の画像データの、座標データが示す位置にマウスカーソルの画像データを合成して表示データを作成する(S75−3)。
図20は、2つの画像の合成を模式的に説明する図の一例である。図20の画像データ501は、外部入力装置40aaが表示装置400に表示している画面の全体であり、その中に資料が表示されるウィンドウ5011が表示されている。マウスカーソルは画像データ501の全体を移動でき、ウィンドウ5011は画像データ501の全体を占めることもできる。画面情報取得部4513は画像データ501の全体の画像データもウィンドウ5011だけの画像データも取り込むことができる。本実施形態では、この違いを区別せずに資料の画像データと称している。
マウスカーソルの画像データ502はS75−2で取得され、マウスカーソルの座標データ503はS75−3で取得される。座標データは資料の画像データの左上の頂点を原点とするピクセル単位でマウスカーソルの2次元上の位置を示す座標である。
したがって、表示データ作成部4514は、例えばマウスカーソルの先端部を座標データが示す、資料の画像データ501又は5011の位置に配置することで、資料の画像データにマウスカーソルを合成することができる。なお、合成とは、資料の画像データにマウスカーソルの画像データを配置して(重なる画素の画素値を置き換えて)1つの画像データとすることである。
このようにして作成された図20下部の表示データ504は図17又は図19のステップS76で遠隔通信端末10aaに送信され、遠隔通信端末10aaから中継装置30に送信される。
以上説明したように、本実施例の遠隔通信システム1は、資料などの表示データにおいて画面上の位置を指示するマウスカーソルの座標データや画像データを各遠隔通信端末間で共有することができる。
実施例1では、画面情報取得部4513が資料の画像データを取得する頻度と、指示情報取得部4512が指示情報を取得する頻度が同じであった。本実施例では、資料の画像データの取得頻度を指示情報の取得頻度よりも低減する遠隔通信システム1について説明する。こうすることで、外部入力装置40の負荷を減らし、マウスカーソルの動きを滑らかにすることができる。
例えばテレビ会議において、各遠隔通信端末10がプレゼンテーション資料を共有している場合、プレゼンテーション資料の画面に比べ、相対的にマウスカーソルの位置の方が高い頻度で変化する。すなわち、資料の画面は静止したまま(同じまま)、マウスカーソルだけが移動することが多い。
このため、指示情報取得部4512がn回、指示情報を取得したら1回だけ、画面情報取得部4513が資料の画像データを取得するとしても、ユーザが違和感を感じることはほとんどないと考えられる。この考え方を利用して、本実施例の表示データ作成部4514は、最後に画面情報取得部4513が取得した資料の画像データをn回使用して(使い回して)、これとサイクル毎に取得する指示情報を用いて表示データを作成する。
図21は、図17の「ステップS75の 表示データ取得」の際、外部入力装置40aaが資料の画像データと指示情報を取り込む手順を示すフローチャート図の一例である。図21は説明の都合上、シーケンス図でなくフローチャート図とした。
画面情報取得部4513は、変数iを用いて資料の画像データを取得するか否かを制御する。ここで、情報取得頻度決定部4511は資料の画像データと指示情報の取得頻度を決定していたが、本実施例では情報取得頻度決定部4511は、指示情報の取得頻度と、指示情報の取得頻度に対する資料の画像データの取得頻度を決定する。例えば、資料の画像データの取得頻度は、指示情報の取得頻度n回に対し1回、のように決定される。したがって、情報取得頻度決定部4511はこの"n"回(例えば、2以上の自然数であり上限を100とする)を決定する。決定方法は種々あるが、例えば外部入力装置40aaのスペックに応じたり、ユーザの設定を受け付けるなどの方法がある。
まず、画面情報取得部4513は、外部入力装置40aaが起動して最初に資料の画像データを取得する際、変数iに1を設定することで初期化する。そして、画面情報取得部4513はi=1か否かを判定し(S75−0)、i=1の場合にだけ、資料の画像データを取得する(S75−1)。画面情報取得部4513はRAM203に記憶されている最後の資料の画像データを更新する。
i=1でない場合、画面情報取得部4513は資料の画像データを取得することなく、指示情報取得部4512がマウスカーソルの画像データを取得する(S75−21)。次に、指示情報取得部4512はマウスカーソルの座標データを取得する(S75−22)。
次に、表示データ作成部4514は資料の画像データにマウスカーソルの画像データを合成する(S75−3)。表示データの作成の一連の処理が終了すると、表示データ作成部4514は変数iを1つ 増やす。
そして、表示データ作成部4514はi = nか否かを判定し(S75−6)、i=nの場合は変数iを" 1" に初期化する(S75−7)。
以上のような処理により、指示情報がn回取得される毎に1回、外部入力装置40aaは資料の画像データを取得することができる。
したがって、動きの少ない資料の画像データの取得頻度を小さくし、動きの多いマウスカーソルの取得頻度を大きくすることができ、処理の負荷を低く保ちながら多くの表示データを送信できる。よって、効率的(負荷低)、効果的(なめらかなカーソル動作)に遠隔通信端末10の相手に表示データを伝えることができる。
実施例1と実施例2では、時間間隔の違いはあるが固定的なタイミングで外部入力装置40が資料の画像データと資料情報を取得した。しかし、複数の遠隔通信端末10間で共有する画面(資料、マウスカーソルの位置)は当然あらかじめ決まっているものではなく、ユーザが操作することで変化するものである。
そこで、本実施例では、表示されている資料の画像データの変化又はマウスカーソルの位置の変化量に応じて資料の画像データの取得頻度及び指示情報の取得頻度を変えることができる外部入力装置40について説明する。資料やマウスカーソルの位置に変化がなければ、外部入力装置40は資料の画像データや指示情報を取得しないので、効率的に表示データの作成及び送信を行うことができる。
図22、23は、図17の「ステップS75の表示データ取得」の際、外部入力装置40aaが指示情報を取り込む手順を示す図の一例である。このうち図22はシーケンス図であり、図23は図22の処理の一部を詳細に説明するフローチャート図である。
図22、23の処理の概略を説明すると、資料の画像データに変更があるか、又は、マウスカーソルが 距離m以上移動した場合にのみ、表示データ作成部4514が表示データを作成し、遠隔通信端末10dbに送信する手順である。よって、資料の画像データか指示情報のどちらか一方に更新があれば、外部入力装置40aaは資料の画像データと指示情報の合成を行い表示データを送信するが、どちらも更新されていなかった場合は、合成も送信も行わず同じサイクルを繰り返す。
まず、指示情報取得部4512は、外部入力装置40aaの起動した際に、変数mに"y"を設定する。"y"は定数であり、例えば数十ピクセルなど、マウスカーソルの移動量を判定する閾値である。
まず、画面情報取得部4513は、外部入力装置(例えばノートPC)40aaが表示している資料の画像データを取得する(S75−1)。資料の画像データはいったんRAM203等に記憶される。
そして、画面情報取得部4513は、今回、RAM203に記憶された資料の画像データと前回の画像データが異なる場合にだけ、前回の画像データを今回の画像データで置き換える(S75−11)。
ステップS75−11の処理を図23のフローチャート図にて説明する。画面情報取得部4513は、今回、RAM203に記憶された資料の画像データと前回の画像データが異なるか否かを判定する(S75−111)。そして、前回の画像データを今回の画像データで置き換える(S75−112)。
ここで「資料の画像データが異なる」とは、RAM203に保存されている前回の画像データと今回の画像データをピクセル単位で比較し、1ピクセルの画素値でも異なっていることをいう。このように判定することで、今回と前回の資料の画像データが異なっているか否かを正確に判定できる。また、1ピクセルの画素値が異なっているか否かでなく、10〜100ピクセル以上の画素値が異なっている場合に「資料の画像データが異なる」と判定することもできる。このように判定することで、資料の画像データの変化の大きい場合にだけ、「資料の画像データが異なる」と判定できる。
また、画素値をサンプリングして判定してもよい。すなわち、画面情報取得部4513は、今回と前回の資料の画像データの同じ位置の画素値を例えば縦横8〜16画素毎にそれぞれ取り出して比較し、1ピクセルの画素値でも異なっている場合に「資料の画像データが異なる」と判定することもできる。こうすることで、ある程度の正確さを保ちながら、比較処理を高速化できる。
また、資料の画像データが異なるとは、ユーザがキーボード211やマウス212を操作して資料の画像データに変化をもたらしたことになるので、キーボード211やマウス212の操作から「資料の画像データが異なる」か否かを判定することができる。画面情報取得部4513は、予め登録された表示中の資料の画像データに変化をもたらす操作(キーボード211のPageUp、PageDown、マウス212のページ捲りメニューの左クリック、右クリックメニューからのページ捲り操作)を監視し、このような操作が検出された場合に「資料の画像データが異なる」と判定する。この場合、比較のために資料の画像データを取り込む必要がないので、外部入力装置40aaの処理負荷を低減できる。
図22に戻り、次に、指示情報取得部4512は、マウスカーソルの座標データを取得する(S75−22)。マウスカーソルの座標データはいったんRAM203等に記憶される。
そして、指示情報取得部4512は、今回、取得したマウスカーソルの座標データと、前回、取得したマウスカーソルの座標データを比較して距離がm以上の場合にだけ、前回のマウスカーソルの画像データを今回のマウスカーソルの座標データで置き換える(S75−21)。
ステップS75−21の処理を図23のフローチャート図にて説明する。指示情報取得部4512は、今回、取得したマウスカーソルの座標データと、前回、取得したマウスカーソルの座標データを比較して距離がm以上か否かを判定する(S75−211)。
「距離がm 以上」とは、2つのマウスカーソルの座標のユークリッド距離が m 以上であることをいう。2座標間のユークリッド距離ではなく、x座標又はy座標のどちらか一方の変化量がm以上であることを判定基準としてもよい。
また、「距離が m 以上」であることに加え、又は、「距離が m 以上」か否かに関係なく、指示情報取得部4512はマウスカーソルの移動速度がv以上か、及び、マウスカーソルの加速度がα以上か否かを判定してもよい。図23の手順がほぼ一定時間毎に実行されるとすると、指示情報取得部4512が取得した毎回のマウスカーソルの座標データの差異をサイクル時間で除算することで速度が算出される。また、加速度は、単位時間当たりの速度の変化速度であるので、真得るカーソルの速度の変化をサイクル時間で除算することで加速度が算出される。
指示情報取得部4512は、過去の複数の座標データから速度と加速度を算出し(必要であれば平均を求める処理などを行い)、速度が速度v以上、又は/及び、加速度がα以上の場合、座標データを更新することができる。
距離がm以上の場合、指示情報取得部4512は、前回のマウスカーソルの座標データを今回の座標データで置き換える(S75−212)。
マウスカーソルの位置が大きく移動したので、指示情報取得部4512はマウスカーソルの画像データを取得する(S75−213)。マウスカーソルの画像データはいったんRAM203等に記憶される。
図22に戻り、次に、表示データ作成部4514は、資料の画像データ又は指示情報のどちらか1つ以上に更新があった場合に、資料の画像データの座標データが示す位置に、マウスカーソルの画像データを合成して表示データを作成する(S75−3)。
ステップS75−3の処理を図23のフローチャート図にて説明する。表示データ作成部4514は、資料の画像データ又は指示情報のどちらかに1つ以上に更新があったか否かを判定する(S75−31)。更新の有無は、例えば、資料の画像データの更新フラグ、マウスカーソルの座標データの更新フラグを監視するなどで判定される。
資料の画像データ又はマウスカーソルの座標データのどちらかに1つ以上に更新があった場合、表示データ作成部4514は資料の画像データにマウスカーソルの画像データを合成する(S75−32)。
このように、資料かマウスカーソルのどちらかに変化があった場合にだけ表示データを作成することで、画面の変化が乏しい間は処理負荷・通信負荷を低減することができる。
また、マウスカーソルの座標データの移動距離、速度又は加速度を閾値と比較するだけでなく、情報取得頻度決定部4511が移動距離、速度又は加速度に応じて指示情報の取得頻度を増減させてもよい。例えば、情報取得頻度決定部4511は、図23の実行後、図23のステップS75−22、S75−21、S75−3だけをk(1以上の自然数)回実行する。こうすれば、資料の画像データの取得頻度はそのままに、指示情報の取得頻度を大きくできる。移動距離、速度又は加速度の大きさに応じて、この"k"を大きくすれば、移動距離、速度又は加速度が大きくなるほど指示情報の取得頻度を大きくできる。
こうすることで、マウスカーソルの移動量が多いほど指示情報を高頻度に取得でき、マウスカーソルが速く移動してもマウスカーソルの動きを滑らかにすることができる。
実施例3では、表示データの作成頻度を低減することができたが、資料の画像データの比較はサイクル毎に行われている。本実施例では、実施例2と同様に、画面情報取得部4513が資料の画像データの比較頻度を低減する遠隔通信システム1について説明する。こうすることで、実施例3よりもさらに外部入力装置40aaの負荷を減らしながら通信負荷を低減できる。
図24は、図17の「ステップS75の 表示データ取得」の際、外部入力装置40aaが資料の画像データと指示情報を取り込む手順を示すフローチャート図の一例である。図24の手順は、図23と同様であるが、ステップS75−0にて、画面情報取得部4513はi=1か否かを判定し(S75−0)、i=1の場合にだけ、画面情報取得部4513は、資料の画像データを取得する(S75−1)。資料の画像データを取得した場合の処理(S75−11,75−22、75−21、75−3)については実施例3と同様である。
ステップS75−0にて、i=1でない場合、画面情報取得部4513は資料の画像データを取得することなく、指示情報取得部4512がマウスカーソルの画像データを取得する(S75−22)。
以降の処理は実施例3と同様であるが、表示データ作成部4514が資料の画像データにマウスカーソルの画像データを合成すると(S75−32)、表示データ作成部4514は変数iを1つ 増やす。
そして、表示データ作成部4514はi = nか否かを判定し(S75−6)、i=nの場合は変数iを" 1" に初期化する(S75−7)。
以上のような処理により、表示データがn回作成される毎に1回、資料の画像データを取得して、過去の資料の画像データと比較すればよいことになり、外部入力装置40aaの処理負荷を低減することができる。
したがって、資料の画像データの取得頻度を、指示情報の取得頻度よりも低減でき、さらに今回と前回の資料の画像データを比較しても異なっていなければRAM203の画像データを更新する必要もなく、資料かマウスカーソルのどちらかに変化がなければ表示データを作成する必要がない。このため、実施例3よりも処理負荷・通信負荷を低減することができる。
なお、本実施例においても、情報取得頻度決定部4511はマウスカーソルの移動距離、速度又は加速度に応じて指示情報の取得頻度を増減させることができ、資料の画像データの取得頻度は抑制したまま、遠隔通信端末10dbは滑らかに移動するマウスカーソルを表示することができる。
1 遠隔通信システム
10 遠隔通信端末
11 送受信部(表示データ送信手段の一例)
12 操作入力受付部
13 ログイン要求部
14a 撮像部
14b 画像表示制御部
15a 音声入力部
15b 音声出力部
16 選択処理部
16a 計測部
16b 算出部
16c 選択部
17 遅延検出部
18 外部情報送受信部(表示データ受信手段の一例)
19 記憶・読出処理部
30 中継装置
40 外部入力装置
41 送受信部
42 接続検出部
43 インストール判定部
44 プログラム取得部
451 表示データ取得部
452 表示データ送信部
4511 情報取得頻度決定部
4512 指示情報取得部
4513 画面情報取得部
4514 表示データ作成部
46 操作入力受付部
47 表示制御部
48 マウント部
49 記憶・読出処理部
50 遠隔通信管理システム
400 表示装置
1000 記憶部(宛先情報記憶手段の一例)
3000 記憶部
3001 変更品質管理DB
5000 記憶部
5001 中継装置管理DB
5002 端末認証管理DB
5003 端末管理DB
5004 宛先リスト管理DB
5005 セッション管理DB
5006 優先度管理DB
5007 品質管理DB
米国特許第6760749号明細書

Claims (12)

  1. ネットワークを介して接続された他の機器に、音声又は映像が含まれる会議データを配信する遠隔通信端末と接続された外部入力装置であって、
    画像を表示する表示手段と、
    前記表示手段に表示されるカーソルの操作を受け付けるカーソル操作手段と、
    前記画像の画像データを取得する画像データ取得手段と、
    前記カーソルの少なくとも座標データが含まれるカーソル情報を取得するカーソル情報取得手段と、
    前記カーソル情報取得手段が前記カーソル情報を取得する第1の頻度を決定する情報取得頻度決定手段と、
    前記画像データに前記カーソルを合成した表示データを作成する表示データ作成手段と、
    前記表示データを前記遠隔通信端末に送信する送信手段と、
    を有することを特徴とする外部入力装置。
  2. 前記カーソル情報には、前記座標データに加え、前記カーソルのカーソル画像データが含まれ、
    前記カーソル情報取得手段は、前記座標データと前記カーソル画像データを取得する、
    ことを特徴とする請求項1記載の外部入力装置。
  3. 前記カーソルはマウスカーソルである、ことを特徴とする請求項1又は2記載の外部入力装置。
  4. 前記表示データ作成手段は、前記画像データの、前記座標データが指示する位置に前記カーソル画像データを合成することで前記表示データを作成する、
    ことを特徴とする請求項2記載の外部入力装置。
  5. 前記情報取得頻度決定手段は、前記画像データ取得手段が前記画像データを取得する頻度を、前記第1の頻度と異なる第2の頻度に決定する、
    ことを特徴とする請求項1〜4いずれか1項記載の外部入力装置。
  6. 前記第1の頻度は前記第2の頻度よりも大きい、ことを特徴とする請求項5記載の外部入力装置。
  7. 前記表示手段に表示されている前記画像の前記画像データが変化したこと、又は、前記座標データが閾値以上変化したことを検出する変化検出手段、を有し、
    前記表示データ作成手段は、前記変化検出手段が前記画像データの変化を検出したか、又は、前記座標データが閾値以上変化したことを検出した場合、前記表示データを作成する、
    ことを特徴とする請求項1〜4いずれか1項記載の外部入力装置。
  8. 前記変化検出手段は、前記画像データの変化量が閾値以上の場合に、前記画像データが変化したことを検出する、
    ことを特徴とする請求項7記載の外部入力装置。
  9. 前記情報取得頻度決定手段は、前記画像データ取得手段が前記画像データを取得する頻度を、前記第1の頻度より小さい第2の頻度に決定する、
    ことを特徴とする請求項7記載の外部入力装置。
  10. 前記情報取得頻度決定手段は、前記座標データの変化量、変化速度又は加速度が大きいほど、前記第1の頻度を大きくする、
    ことを特徴とする請求項7又は8記載の外部入力装置。
  11. ネットワークを介して接続された他の機器に、音声又は映像が含まれる会議データを配信する遠隔通信端末と接続された外部入力装置の表示データ作成方法であって、
    表示手段が、画像を表示するステップと、
    カーソル操作手段が、前記表示手段に表示されるカーソルの操作を受け付けるステップと、
    画像データ取得手段が、前記画像の画像データを取得するステップと、
    カーソル情報取得手段が、前記カーソルの少なくとも座標データが含まれるカーソル情報を取得するステップと、
    情報取得頻度決定手段が、前記カーソル情報取得手段が前記カーソル情報を取得する第1の頻度を決定するステップと、
    表示データ作成手段が、前記画像データに前記カーソルを合成した表示データを作成するステップと、
    送信手段が、前記表示データを前記遠隔通信端末に送信するステップと、
    を有することを特徴とする表示データ作成方法。
  12. ネットワークを介して接続された他の機器に、音声又は映像が含まれる会議データを配信する遠隔通信端末と接続された外部入力装置に、
    表示手段に画像を表示させる表示ステップと、
    前記表示手段に表示されるカーソルの操作を受け付けるカーソル操作ステップと、
    前記画像の画像データを取得する画像データ取得ステップと、
    前記カーソルの少なくとも座標データが含まれるカーソル情報を取得するカーソル情報取得ステップと、
    前記カーソル情報取得ステップが実行され前記カーソル情報が取得される第1の頻度を決定する情報取得頻度決定ステップと、
    前記画像データに前記カーソルを合成した表示データを作成する表示データ作成ステップと、
    前記表示データを前記遠隔通信端末に送信する送信ステップと、
    を実行させるプログラム。


JP2010267770A 2010-11-30 2010-11-30 外部入力装置、表示データ作成方法、プログラム Expired - Fee Related JP5754117B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010267770A JP5754117B2 (ja) 2010-11-30 2010-11-30 外部入力装置、表示データ作成方法、プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010267770A JP5754117B2 (ja) 2010-11-30 2010-11-30 外部入力装置、表示データ作成方法、プログラム

Publications (2)

Publication Number Publication Date
JP2012118751A true JP2012118751A (ja) 2012-06-21
JP5754117B2 JP5754117B2 (ja) 2015-07-29

Family

ID=46501499

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010267770A Expired - Fee Related JP5754117B2 (ja) 2010-11-30 2010-11-30 外部入力装置、表示データ作成方法、プログラム

Country Status (1)

Country Link
JP (1) JP5754117B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014175956A (ja) * 2013-03-11 2014-09-22 Ricoh Co Ltd 伝送端末、伝送システム、プログラム
JP2016527792A (ja) * 2013-07-19 2016-09-08 ゼットティーイー コーポレイション ビデオ会議端末、セカンダリストリームデータアクセス方法およびコンピュータ記憶媒体
US9451208B2 (en) 2013-06-25 2016-09-20 Ricoh Company, Ltd. Communication terminal, communication system, and communication method
US9596431B2 (en) 2012-11-15 2017-03-14 Ricoh Company, Ltd. Transmission system and program
CN111694447A (zh) * 2019-03-11 2020-09-22 原相科技股份有限公司 多模光学导航装置及方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003108504A (ja) * 2001-09-28 2003-04-11 Fujitsu Fip Corp 画像データ表示方法、画像データ表示サーバ、画像データ表示プログラム及び記録媒体
JP2005328484A (ja) * 2004-05-17 2005-11-24 Sony Corp テレビ会議システム、情報処理装置及び情報処理方法並びにプログラム
JP2006129190A (ja) * 2004-10-29 2006-05-18 Tdk Corp 画像配信システム、画像配信装置、画像配信方法及びプログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003108504A (ja) * 2001-09-28 2003-04-11 Fujitsu Fip Corp 画像データ表示方法、画像データ表示サーバ、画像データ表示プログラム及び記録媒体
JP2005328484A (ja) * 2004-05-17 2005-11-24 Sony Corp テレビ会議システム、情報処理装置及び情報処理方法並びにプログラム
JP2006129190A (ja) * 2004-10-29 2006-05-18 Tdk Corp 画像配信システム、画像配信装置、画像配信方法及びプログラム

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9596431B2 (en) 2012-11-15 2017-03-14 Ricoh Company, Ltd. Transmission system and program
JP2014175956A (ja) * 2013-03-11 2014-09-22 Ricoh Co Ltd 伝送端末、伝送システム、プログラム
US9451208B2 (en) 2013-06-25 2016-09-20 Ricoh Company, Ltd. Communication terminal, communication system, and communication method
JP2016527792A (ja) * 2013-07-19 2016-09-08 ゼットティーイー コーポレイション ビデオ会議端末、セカンダリストリームデータアクセス方法およびコンピュータ記憶媒体
CN111694447A (zh) * 2019-03-11 2020-09-22 原相科技股份有限公司 多模光学导航装置及方法

Also Published As

Publication number Publication date
JP5754117B2 (ja) 2015-07-29

Similar Documents

Publication Publication Date Title
JP6691692B2 (ja) 伝送端末、伝送方法、伝送用プログラム及び伝送システム
JP5962098B2 (ja) 伝送端末、伝送システム、表示制御方法、及びプログラム
JP6460228B2 (ja) 情報処理装置、情報処理方法および情報処理プログラム
JP5887756B2 (ja) 外部入力装置、通信端末、表示データ共有システム、プログラム
JP6171303B2 (ja) 伝送端末、伝送方法、及びプログラム
JP2015097070A (ja) 通信システム、情報処理装置、プログラム
JP6343897B2 (ja) 伝送端末、伝送方法、及びプログラム
JP2013051664A (ja) 通信端末、通信システム、及び通信用プログラム
JP6582562B2 (ja) 通信端末、通信システム、通信方法、及びプログラム
JP2014003448A (ja) 伝送システム、外部入力装置、および表示解像度変換用プログラム
JP2015173435A (ja) 伝送システム、方法、プログラム及びシステム
JP5754117B2 (ja) 外部入力装置、表示データ作成方法、プログラム
JP6337910B2 (ja) 情報端末、システム、制御方法及び記憶媒体
JP7574843B2 (ja) 情報処理装置、プログラム、方法、システム
JP2017046192A (ja) 情報処理装置、プログラム、情報処理方法
JP6361728B2 (ja) 伝送制御システム、伝送システム、伝送制御方法、及び記録媒体
EP2913753A1 (en) Transmission terminal, transmission system, transmission method, and carrier means
JPWO2015151958A1 (ja) 伝送端末、伝送システム、及び中継装置の選択方法
JP6269781B2 (ja) 伝送システム
JP6819055B2 (ja) 通信端末、通信システム、通信方法、及びプログラム
JP6593392B2 (ja) 伝送方法、中継装置、及びプログラム
JP2016195389A (ja) 通信管理システム、通信システム、通信管理方法、及びプログラム
JP2017005704A (ja) 移動体端末、通信システム、通信方法、及びプログラム
JP2016195386A (ja) 通信システム、通信方法
JP2016195387A (ja) 通信端末、通信システム、通信方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131011

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140430

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140430

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140630

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141118

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150119

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150428

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150511

R151 Written notification of patent or utility model registration

Ref document number: 5754117

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees