JP2012134941A - 外部入力装置、通信端末、表示データ共有システム、プログラム - Google Patents

外部入力装置、通信端末、表示データ共有システム、プログラム Download PDF

Info

Publication number
JP2012134941A
JP2012134941A JP2011175417A JP2011175417A JP2012134941A JP 2012134941 A JP2012134941 A JP 2012134941A JP 2011175417 A JP2011175417 A JP 2011175417A JP 2011175417 A JP2011175417 A JP 2011175417A JP 2012134941 A JP2012134941 A JP 2012134941A
Authority
JP
Japan
Prior art keywords
communication terminal
display
image data
external input
input device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011175417A
Other languages
English (en)
Other versions
JP5887756B2 (ja
Inventor
Yoshinaga Kato
喜永 加藤
Kenji Tanaka
謙次 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2011175417A priority Critical patent/JP5887756B2/ja
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to CN201180065653.2A priority patent/CN103329515B/zh
Priority to CA2817947A priority patent/CA2817947C/en
Priority to SG2013037353A priority patent/SG190291A1/en
Priority to PCT/JP2011/076972 priority patent/WO2012073768A1/en
Priority to AU2011337919A priority patent/AU2011337919B2/en
Priority to EP11844298.7A priority patent/EP2647197B1/en
Priority to US13/988,062 priority patent/US9319631B2/en
Publication of JP2012134941A publication Critical patent/JP2012134941A/ja
Application granted granted Critical
Publication of JP5887756B2 publication Critical patent/JP5887756B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/15Conference systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00Data switching networks
    • H04L12/02Details
    • H04L12/16Arrangements for providing special services to substations
    • H04L12/18Arrangements for providing special services to substations for broadcast or conference, e.g. multicast
    • H04L12/1813Arrangements for providing special services to substations for broadcast or conference, e.g. multicast for computer conferences, e.g. chat rooms
    • H04L12/1822Conducting the conference, e.g. admission, detection, selection or grouping of participants, correlating users to one or more conference sessions, prioritising transmission
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00Data switching networks
    • H04L12/02Details
    • H04L12/16Arrangements for providing special services to substations
    • H04L12/18Arrangements for providing special services to substations for broadcast or conference, e.g. multicast
    • H04L12/1813Arrangements for providing special services to substations for broadcast or conference, e.g. multicast for computer conferences, e.g. chat rooms
    • H04L12/1827Network arrangements for conference optimisation or adaptation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

【課題】ユーザが操作することなしに又は少ない操作手順で適切な画像を選択して表示できる外部入力装置を提供すること。
【解決手段】ネットワーク2を介して接続された他の機器2に、音声又は映像が含まれる会議データを配信する通信端末と接続された外部入力装置40であって、画像を表示する第1の表示手段400と、操作を受け付ける操作受け付け手段46と、画像の画像データを取得する画像データ取得手段451と、通信端末を介して画像データを他の機器に送信する画像データ送信手段452と、画像データの共有制御操作を受け付ける共有メニューの遷移条件が、前記通信端末から通知される表示制御情報に応じて登録された遷移情報記憶手段431と、通信端末から取得した表示制御情報と遷移条件に従い特定した共有メニューを第1の表示手段に表示するメニュー制御手段44と、を有することを特徴とする。
【選択図】図28

Description

本発明は、遠隔地同士で行われる遠隔通信システムにおいて画像の表示データを送信する外部入力装置に関し、特に、表示データを各拠点で共有できる外部入力装置等に関する。
インターネット等の通信ネットワークの普及、高速化に伴い、遠隔地同士でテレビ会議などを行う遠隔通信システムが利用されるようになった。遠隔通信システムを利用すれば、出張経費及び出張時間を削減することができる。
テレビ会議を実現することが可能な遠隔通信システムでは、複数の遠隔通信端末同士が直接又はサーバを介するなどして画像データ及び音声データの送受信を行う。近年のブロードバンド環境の充実化により、高画質の画像データや高音質の音声データの送受信が可能となったため、テレビ会議の相手の状況を把握し易くなり、会話による高度な意思疎通も容易になっている。
ところで、遠隔通信システムは、所定の装置(例えば、外部入力装置)を用いて音声データや画像データだけでなく、会議で用いる資料の表示データを会議の相手に送信することも多い。資料の表示データにより、テレビ会議の相手はこちら側と同じ資料を参照することができる(例えば、特許文献1参照。)。
しかしながら、テレビ会議に参加する遠隔通信端末が多くなればなるほど、各遠隔通信端末が共有しなければならない資料の数も増大する。この点について、特許文献1では、会議参加者が複数の資料の中から表示させたい資料をURL(Uniform Resource Locator)などを指定して選ぶことで、表示する資料を取捨するとしている。
しかしながら、遠隔通信端末が表示する資料をユーザが選択しなければならないとすると操作性が低下するという問題がある。例えば、あるユーザが資料を切り替えた場合に、他のユーザがその度に資料をURLで指定して遠隔通信端末に表示させなければならない。
一方、共有可能な資料や議論の対象となりうる資料の全てをそのまま遠隔通信端末のディスプレイに縮小したりウィンドウ毎に表示してしまうと、表示領域が小さくなるか表示領域が重なって視認性が悪くなる。また、各ユーザは、現在、どの資料が議論の対象になっているのかを確認することも困難になるという問題があった。
本発明は、上記課題に鑑み、遠隔通信端末のディスプレイに表示される画像の視認性を確保しながら、ユーザが操作することなしに又は少ない操作手順で適切な画像を選択して表示できる外部入力装置を提供することを目的とする。
本発明は、ネットワークを介して接続された他の機器に、音声又は映像が含まれる会議データを配信する通信端末と接続された外部入力装置であって、画像を表示する第1の表示手段と、操作を受け付ける操作受け付け手段と、前記画像の画像データを取得する画像データ取得手段と、前記通信端末を介して前記画像データを他の機器に送信する画像データ送信手段と、前記画像データの共有制御操作を受け付ける共有メニューの遷移条件が、前記通信端末から通知される表示制御情報に応じて登録された遷移情報記憶手段と、前記通信端末から取得した前記表示制御情報と前記遷移条件に従い特定した共有メニューを前記第1の表示手段に表示するメニュー制御手段と、を有することを特徴とする。
通信端末のディスプレイに表示される資料の視認性を確保しながら、ユーザが操作することなしに又は少ない操作手順で適切な資料を選択して表示できる外部入力装置を提供することができる。
遠隔通信システムの構成図の一例である。 通信端末のハードウェア構成図の一例である。 遠隔通信管理システムのハードウェア構成図の一例である。 遠隔通信システムを構成する各端末、装置及びシステムの機能ブロック図の一例である。 外部入力装置の機能ブロック図の一例である。 資料管理テーブルの一例を示す図である。 変更品質管理テーブルの一例を示す図である。 中継装置管理テーブルの一例を示す図である。 端末認証管理テーブルの一例を示す図である。 端末管理テーブルの一例を示す図である。 宛先リスト管理テーブルの一例を示す図である。 セッション管理テーブルの一例を示す図である。 アドレス優先度管理テーブルの一例を示す図である。 伝送速度優先度管理テーブルの一例を示す図である。 品質管理テーブルの一例を示す図である。 配置情報管理表の一例を示す図である。 ディスプレイの分割例と分割により生じる領域を示す図の一例である。 配置情報と、各領域1〜4に割り当てられる映像データ又は表示データの関係の一例を示す図である。 選択される配置情報の状態遷移図の一例である。 中継装置から送信されるイベントと、イベントに応じて配置情報選択部が設定する表示データ及び表示データ制御部が決定する表示制御フラグの対応の一例を示す図である。 表示装置メニューの遷移例を説明する図の一例である。 通信端末同士がセッションを確立する処理を示すフローチャート図の一例である。 通信端末間で画像データ及び音声データを送受信する処理を示したシーケンス図の一例である。 外部入力装置から通信端末に表示データを送信する手順のフローチャート図の一例である。 通信端末1で撮像されている映像データ、通信端末2で撮像されている映像データ、及び、通信端末1,2に接続された外部入力装置1,2から送信される表示データの送信のシーケンス図の一例である。 図25のS3又はS4において外部入力装置が表示データの送信を開始する際の制御手順を示すシーケンス図の一例である。 通信端末が表示データを受信するまでのディスプレイの画面の状態を模式的に示す図の一例である。 外部入力装置に表示されるメニューの一例を示す図である。 外部入力装置が表示データの送信を開始する際の制御手順を示すシーケンス図の一例である。 通信端末が「他からの配信開始イベント」を受信した場合に配信停止を要求するか否かを判定する手順を示すフローチャート図の一例である。 中継装置の判定手順を示すフローチャート図の一例である。 図29の処理が終了した状態で、外部入力装置が表示データの送信を停止する手順を説明するシーケンス図の一例である。 通信端末同士がセッションを切断する処理を示すフローチャート図の一例である。
以下、本発明を実施するための形態について図面を参照しながら説明する。
本実施形態の遠隔通信システム1の概略的な特徴は、以下のようになる。
(1)異なる2つの拠点にある外部入力装置1、2はそれぞれ表示装置に資料の表示データの共有を開始するためのメニューを表示し、それぞれが表示データを配信できる。一方、例えば、外部入力装置1と接続された通信端末1が、中継装置経由で外部入力装置2から表示データの配信が開始されるというイベント通知を受信すると、外部入力装置1はそれまで送信していた表示データの送信を停止し、表示データの共有を開始するためのメニューを再度表示する。また、通信端末1は、外部入力装置2から受信した表示データを表示する。
したがって、通信端末1が表示する共有の表示データを1つに制限することができ、TV会議の参加者が複数の表示データの中から選択する必要がない。
(2)また、外部入力装置1,2はイベント通知に応じて表示データの共有状態を示すメッセージを表示する。これにより、参加者は、通信端末1,2が表示している表示データの共有態様を把握することができる。
(3)また、通信端末1,2は、中継装置からのイベント通知に応じて、映像データや表示データを1つの画面に強調して(拡大して)配置するので、参加者が表示データや映像データの表示を切り替えることなく、着目すべき表示データを提供できる。
〔構成〕
図1は、遠隔通信システムの構成図の一例である。遠隔通信システムは、一例として地域Aと地域Bに分かれて通信端末10が分かれて配置されているが、最小、2つの通信端末があれば遠隔通信が可能である。
遠隔通信システム1は、複数の通信端末(10aa,10ab,…,10db)、各通信端末(10aa,10ab,…,10db)用のディスプレイ(100aa,100ab,…,100db)、複数の中継装置(30a,30b,30c,30d)、及び遠隔通信管理システム50、プログラム提供システム、及び、外部入力装置40を有する。
なお、本実施形態では、通信端末(10aa,10ab,…,10db)のうち任意の通信端末を示す場合には「通信端末10」を用い、ディスプレイ(100aa,100ab,…,100db)のうち任意のディスプレイを示す場合には「ディスプレイ100」を用い、中継装置(30a,30b,30c,30d)のうち任意の中継装置を示す場合には「中継装置30」を用い、外部入力装置(40aa,40ab,…,140db)のうち任意の外部入力装置を示す場合には「外部入力装置40」を用いる。
通信端末10は、他の通信端末10との間で、画像データ、音声データ等の送受信を行う。本実施形態では、画像データの画像が動画の場合について説明するが、動画だけでなく静止画であってもよい。また、画像データの画像には、動画と静止画の両方が含まれてもよい。中継装置30は、複数の通信端末10の間で、画像データ及び音声データの中継を行う。遠隔通信管理システム50は、通信端末10及び中継装置30を一元的に管理する。
外部入力装置40は、通信端末10と接続され、通信端末10に対して資料データを表示するための表示データを送信する。ここでの資料データとは、たとえば、文書作成ソフトウェア、表計算ソフトウェア、プレゼンテーション用ソフトウェア等を用いて利用されるデータを意味する。
また、図1に示されている複数のルータ(70a,70b,…,70f)は、画像データ及び音声データの最適な経路の選択を行う。なお、本実施形態では、ルータ(70a,70b,…,70f)のうち任意のルータを示す場合には「ルータ70」を用いる。
プログラム提供システム90は、通信端末10に各種機能又は各種手段を実現させるための通信端末用プログラムが記憶された、不図示のHDD(Hard Disk Drive)を備えており、通信端末10に、通信端末用プログラムを送信することができる。また、プログラム提供システム90のHDDには、中継装置30に各種機能又は各種手段を実現させるための中継装置用プログラムも記憶されており、中継装置30に、中継装置用プログラムを送信することができる。更に、プログラム提供システム90のHDDには、遠隔通信管理システム50に各種機能又は各種手段を実現させるための遠隔通信管理用プログラムも記憶されており、遠隔通信管理システム50に、遠隔通信管理用プログラムを送信することができる。
また、通信端末10aa、通信端末10ab、中継装置30a、及び、ルータ70aは、LAN2aによって互いに通信可能に接続されている。通信端末10ba、通信端末10bb、中継装置30b、及び、ルータ70bは、LAN2bによって互いに通信可能に接続されている。また、LAN2a及びLAN2bは、ルータ70cが含まれた専用線2abによって通信可能に接続されており、所定の地域A内で構築されている。例えば、地域Aは日本であり、LAN2aは東京の事業所内で構築されており、LAN2bは大阪の事業所内で構築されている。
一方、通信端末10ca、通信端末10cb、中継装置30c、及び、ルータ70dは、LAN2cによって互いに通信可能に接続されている。通信端末10da、通信端末10db、中継装置30d、及び、ルータ70eは、LAN2dによって互いに通信可能に接続されている。また、LAN2c及びLAN2dは、ルータ70fが含まれた専用線2cdによって通信可能に接続されており、所定の地域B内で構築されている。例えば、地域Bはアメリカであり、LAN2cはニューヨークの事業所内で構築されており、LAN2dはワシントンD.C.の事業所内で構築されている。
地域A及び地域Bは、それぞれルータ(70c,70f)からインターネット2iを介して通信可能に接続されている。
また、遠隔通信管理システム50、及び、プログラム提供システム90は、インターネット2iを介して、通信端末10及び中継装置30と通信可能に接続されている。遠隔通信管理システム50、及びプログラム提供システム90は、地域A又は地域Bに設置されていてもよいし、これら以外の地域に設置されていてもよい。
なお、本実施形態では、LAN2a、LAN2b、専用線2ab、インターネット2i、専用線2cd、LAN2c、及びLAN2dによって、本実施形態の通信ネットワーク2が構築されている。
また、図1において、各通信端末10、各中継装置30、遠隔通信管理システム50、各ルータ70、及び、プログラム提供システム90の下に示されている4組の数字は、一般的なIPv4におけるIPアドレスを簡易的に示している。例えば、通信端末10aaのIPアドレスは「1.2.1.3」である。また、IPv4ではなく、IPv6を用いてもよいが。説明を簡略化するため、IPv4を用いて説明する。
<<ハードウェア構成>>
次に、各機器のハードウェア構成を説明する。本実施形態では、中継先としての通信端末10で画像データの受信に遅延が生じた場合に、中継装置30によって画像データの画像の解像度を変更してから、中継先としての通信端末10へ画像データを送信する場合について説明する。
図2は、通信端末10のハードウェア構成図の一例である。図2に示されているように、本実施形態の通信端末10は、通信端末10全体の動作を制御するCPU(Central Processing Unit)101、通信端末用プログラムを記憶したROM(Read Only Memory)102、CPU101のワークエリアとして使用されるRAM(Random Access Memory)103、画像データや音声データ等の各種データを記憶するフラッシュメモリ104、CPU101の制御にしたがってフラッシュメモリ104に対する各種データの読み出し又は書き込みを制御するSSD(Solid State Drive)105、フラッシュメモリ等の記録メディア106に対するデータの読み出し又は書き込み(記憶)を制御するメディアドライブ107、通信端末10の宛先を選択する場合などに操作される操作ボタン108、通信端末10の電源のON/OFFを切り換えるための電源スイッチ109、後述の通信ネットワーク2を利用してデータ伝送をするためのネットワークI/F111、CPU101の制御に従って被写体を撮像し画像データを得るCCD(Charge Coupled Device)112、このCCD112の駆動を制御する撮像素子I/F113、音声を入力するマイク114、音声を出力するスピーカ115、CPU101の制御に従ってマイク114及びスピーカ115との間で音声信号の入出力を処理する音声入出力I/F116、CPU101の制御に従って外付けのディスプレイ100に画像データを伝送するディスプレイI/F117、外部の装置と各種データを送受信する外部装置I/F118及び上記各構成要素を図2に示されているように電気的に接続するためのアドレスバスやデータバス等のバスライン110を備えている。
なお、記録メディア106は、通信端末10に対して着脱自在な構成となっている。また、CPU101の制御にしたがってデータの読み出し又は書き込みを行う不揮発性メモリであれば、フラッシュメモリ104に限らず、EEPROM(Electrically Erasable and Programmable ROM)等を用いてもよい。更に、CCD112は、光を電荷に変換して被写体の画像(映像)を電子化する固体撮像素子であり、被写体を撮像するものであればCCDに限らず、CMOS(Complementary Metal Oxide Semiconductor)等を用いてもよい。また、ディスプレイ100は、被写体の画像や操作用アイコン等を表示する液晶や有機ELによって構成されている。
更に、上記通信端末用プログラムは、インストール可能な形式又は実行可能な形式のファイルで、上記記録メディア106等の、コンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。
図3は、本発明の一実施形態に係る遠隔通信管理システム50のハードウェア構成図の一例である。遠隔通信管理システム50は、遠隔通信管理システム50全体の動作を制御するCPU201、遠隔通信管理用プログラムを記憶したROM202、CPU201のワークエリアとして使用されるRAM203、各種データを記憶するHD(Hard Disk)204、CPU201の制御にしたがってHD204に対する各種データの読み出し又は書き込みを制御するHDD(Hard Disk Drive)205、フラッシュメモリ等の記録メディア206に対するデータの読み出し又は書き込み(記憶)を制御するメディアドライブ207、カーソル、メニュー、ウィンドウ、文字、又は画像などの各種情報を表示するディスプレイ208、後述の通信ネットワーク2を利用してデータ伝送をするためのネットワークI/F209、文字、数値、各種指示などの入力のための複数のキーを備えたキーボード211、各種指示の選択や実行、処理対象の選択、カーソルの移動などを行うマウス212、着脱可能な記録媒体の一例としてのCD−ROM(Compact Disc Read Only Memory)213に対するデータの読み出し又は書き込みを制御するCD−ROMドライブ214、外部の装置と情報を送受信する外部装置I/F215及び、上記各構成要素を図3に示されているように電気的に接続するためのアドレスバスやデータバス等のバスライン210を備えている。
なお、上記遠隔通信管理用プログラムは、インストール可能な形式又は実行可能な形式のファイルで、上記記録メディア206やCD−ROM213等のコンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。
また、外部入力装置40は、上記遠隔通信管理システム50と同様のハードウェア構成を有しているため、その説明を省略する。但し、ROM202には、外部入力装置40を制御するための外部入力装置用プログラムが記録されている。この場合も、外部入力装置用プログラムは、インストール可能な形式又は実行可能な形式のファイルで、上記記録メディア206やCD−ROM213等のコンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。
また、中継装置30は、上記遠隔通信管理システム50と同様のハードウェア構成を有しているため、その説明を省略する。但し、ROM202には、中継装置30を制御するための中継装置用プログラムが記録されている。この場合も、中継装置用プログラムは、インストール可能な形式又は実行可能な形式のファイルで、上記記録メディア206やCD−ROM213等のコンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。
更に、プログラム提供システム90は、上記遠隔通信管理システム50と同様のハードウェア構成を有しているため、その説明を省略する。但し、ROM202には、プログラム提供システム90を制御するためのプログラム提供用プログラムが記録されている。この場合も、プログラム提供用プログラムは、インストール可能な形式又は実行可能な形式のファイルで、上記記録メディア206やCD−ROM213等のコンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。
なお、上記着脱可能な記録媒体の他の例として、CD−R(Compact Disc Recordable)、DVD(Digital Versatile Disk)、ブルーレイディスク等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。
図4は、本実施形態の遠隔通信システム1を構成する各端末、装置及びシステムの機能ブロック図の一例である。図4では、通信端末10、中継装置30、及び遠隔通信管理システム50が、通信ネットワーク2を介してデータ通信することができるように接続されている。外部入力装置40は、通信端末10とデータを送受信することができるように、例えばUSBケーブルにより接続されている。図1に示されているプログラム提供システム90は、テレビ会議の通信において直接関係ないため、図4では省略されている。また、図5は、外部入力装置40の機能ブロック図の一例であるが、説明を容易にするため、図4の通信端末10の機能ブロック図を再掲した。
<通信端末の機能構成>
通信端末10は、送受信部11、操作入力受付部12、ログイン要求部13、撮像部14a、画像表示制御部14b、音声入力部15a、音声出力部15b、選択処理部16、遅延検出部17、外部情報送受信部18、記憶・読出処理部19、配置情報選択部21、及び、表示データ制御部22を有している。これら各部は、図2に示されている各構成要素のいずれかが、ROM202に記憶されているプログラムに従ったCPU201からの命令によって動作することで実現される機能又は手段である。
通信端末10に外部入力装置40が接続されている場合、外部入力装置40は表示データを取得して通信端末10に送信する。通信端末10は表示データを受信すると、通信ネットワーク2を介して中継装置30に送信する。
また、通信端末10は、図2に示されているROM102、RAM103、フラッシュメモリ104のいずれかによって構築される記憶部1000を有している。記憶部1000には配置情報管理表23及びイベントフラグテーブル24が記憶されている。
(通信端末の各機能部)
次に、通信端末の各部を詳細に説明する。通信端末10の送受信部11は、図2に示されているネットワークI/F111によって実現され、通信ネットワーク2を介して他の端末、装置又はシステムと各種データ(情報)の送受信を行う。操作入力受付部12は、図2に示されている操作ボタン108、及び電源スイッチ109によって実現され、利用者による各種入力を受け付ける。例えば、利用者が、図2に示されている電源スイッチ109をONにすると、図4に示されている操作入力受付部12が電源ONを受け付けて、電源をONにする。ログイン要求部13は、図2に示されているCPU101からの命令によって実現され、上記電源ONの受け付けを契機として、送受信部11から通信ネットワーク2を介して遠隔通信管理システム50に、ログインを要求する旨を示すログイン要求情報、及び通信端末10abの現時点のIPアドレスを自動的に送信する。
撮像部14aは、図2に示されているCCD112、及び撮像素子I/F113によって実現され、被写体を撮像して、この撮像して得た画像データを出力する。画像表示制御部14bは、図2に示されているディスプレイI/F117によって実現され、外付けのディスプレイ100に対して画像データを送信するための制御を行う。画像表示制御部14bは自機である通信端末10及び他の通信端末10の撮像部14aで撮像された映像データの他に、自機である通信端末10に接続された外部入力装置40の表示装置400で表示され、キャプチャされた表示データを表示する。画像表示制御部14bは、映像データや表示データの表示領域を制御する機能をもつ。
音声入力部15aは、図2に示されているマイク114、及び音声入出力I/F116によって実現され、利用者の音声を入力し、この音声を音声信号に変換することで、音声信号に係る音声データを出力する。音声出力部15bは、図2に示されているスピーカ115、及び音声入出力I/F116によって実現され、音声データに係る音声信号を音声に変換して出力する。音声入力部15aは音声信号の入力レベルを測定しそれを閾値などと比較することで、音声信号の有無について判定する。
配置情報選択部21は表示データの配信イベントに基づき、イベントフラグテーブル24から共有フラグを選択し配置情報管理表23に設定することで、画像表示制御部14bにディスプレイ100に表示させる画面の配置情報を指示する。配置情報管理表23とイベントフラグテーブル24を用いた制御は本実施形態の特徴部となるので、詳細は後述する。
選択処理部16は、複数の中継装置30から最終的に1つの中継装置30に絞り込む最終絞り込み処理を行う。選択処理部16は、送受信部11によって受信された後述の事前送信情報毎に、送受信部11によって事前送信情報が受信される際の受信日時を計測する。選択処理部16は、受信日時が計測された事前送信情報毎に、この計測された受信時間と、この事前送信情報に含まれている送信日時との差に基づいて、事前送信情報の送信から受信までの所要時間を算出する。選択処理部16は、算出された所要時間のうち最短の所要時間を要した事前送信情報が中継された中継装置30を選択することで、最終的に1つの中継装置30を選択する。
遅延検出部17は、図2に示されているCPU101からの命令によって実現され、他の通信端末10から中継装置30を介して送られて来る画像データ又は音声データの遅延時間(ms)を検出する。また、外部情報送受信部18は、外部装置I/F215により外部入力装置40とデータを送受信する。また、記憶・読出処理部19は、図2に示すSSD105を実体として、記憶部1000に各種データを記憶したり、記憶部1000に記憶された各種データを読み出す処理を行う。記憶部1000には、通信端末10を識別するための端末ID(Identification)、及びパスワード、並びに、画像データ、及び音声データ、各種データを送信する中継装置30を識別する中継装置ID、宛先端末のIPアドレス等が記憶される。
表示データ制御部22は、外部入力装置40の表示データを取得するものであり、取得した表示データを通信端末10に送信する。表示データとは、表示装置400の画面に表示された画像をJPEG(Joint Photographic Experts Group)やBitmap等の形式にした画像データ、GDI(Graphics Device Interface )等の形式にした描画コマンドを表す。表示データには資料データが含まれる場合も資料データが含まれない単なるデスクトップ画面の場合もある。
また、表示データ制御部22は、外部入力装置40からの要求に応じて、中継装置30に対して表示データの配信開始の要求や配信停止の要求を行う。また、中継装置30からの配信イベントに応じてイベントフラグテーブル24を参照して表示制御フラグの状態を決定し、表示制御フラグを外部入力装置40へ送信する。表示制御フラグについては後述する。
なお、本実施形態の端末ID、及び後述の中継装置IDは、それぞれ通信端末10、及び中継装置30を一意に識別するために使われる言語、文字、記号、又は各種のしるし等の識別情報を示す。また、端末ID、及び中継装置IDは、上記言語、文字、記号、及び各種のしるしのうち、少なくとも2つが組み合わされた識別情報であってもよい。また、以下では、テレビ会議の開始を要求する要求元としての通信端末10を「要求元端末10A」とし、要求先である宛先としての通信端末10を「宛先端末10B」として説明する。
<外部入力装置の機能構成>
外部入力装置40は、図5に示されているように、送受信部41、接続検出部42、記憶部43、表示データ取得部451、表示データ送信部452、メニュー制御部44、操作入力受付部46、及び、記憶・読出処理部49を有している。これら各部は、図3に示されている各構成要素のいずれかが、ROM202に記憶されているプログラムに従ったCPU201からの命令によって動作することで実現される機能又は手段である。また、外部入力装置40は、図3に示されているディスプレイ208によって構築される表示装置400を有している。また、外部入力装置40は、Windows(登録商標)等のOS(Operating System)を搭載し、これにより、他の装置と接続したときにはプログラムを実行する機能を備えている。
<外部入力装置の各機能部>
次に、外部入力装置40の各部を詳細に説明する。外部入力装置40の送受信部41は、図3に示されているネットワークI/F209によって実現され、通信端末10から各種データ(情報)の送受信を行う。接続検出部42は外部装置I/F215により通信端末10とデータの送受信が可能となったことを検出する。操作入力受付部46は、キーボードやマウスにより実現され利用者の操作による入力を受け付ける。
表示データ取得部451は、表示装置400の画面をキャプチャするなどして外部入力装置40の表示データを取得するものであり、表示データ送信部452は、表示データ取得部451が取得した表示データを通信端末10に送信するものである。
記憶・読出処理部49は、図3に示されているHDD205を実体とし各種データを記憶したり、記憶部43に記憶された各種データを読み出したりする処理を行う。記憶部43は、HDD205を実体とし、資料管理テーブル432や遷移条件テーブル431等が記憶される。表示装置400は、ディスプレイ208によって実現され,画面への表示を行う。メニュー制御部44は、表示制御フラグに従って,メニューの内容や共有の状態を表示装置400に表示させる。
(資料管理テーブル)
外部入力装置40のHDD205には、資料管理テーブル432が記憶される。
図6は資料管理テーブル432の一例を示す図である。資料管理テーブル432では、資料の名称である資料名、資料の大きさを表すサイズ、資料が作成されるために用いられたアプリケーションソフトウェアの名称を表すアプリケーション名、資料が最後に更新された更新日時、資料データ等が関連付けられて管理される。
<中継装置の機能構成>
次に、中継装置30の機能又は手段について説明する。中継装置30は、送受信部31、状態検知部32、データ品質確認部33、変更品質管理部34、データ品質変更部35、及び記憶・読出処理部39を有している。これら各部は、図3に示されている各構成要素のいずれかが、ROM202に記憶されているプログラムに従ったCPU201からの命令によって動作することで実現される機能又は手段である。また、中継装置30は、図3に示されているHD204により構築される記憶部3000を有している。
(変更品質管理テーブル)
記憶部3000には、図7に示されているような変更品質管理テーブルによって構成されている変更品質管理DB3001が構築される。変更品質管理テーブルでは、画像データの中継先としての通信端末10のIPアドレス、及びこの中継先に中継装置30が中継する画像データの画質が関連付けられて管理される。
解像度は、例えば、横が160画素、縦が120画素から成り、ベース画像となる低解像度の画像と、横が320画素、縦が240画素から成る中解像度の画像と、横が640画素、縦が480画素から成る高解像度の画像とがある。このうち、狭帯域経路を経由する場合には、ベース画像となる低解像度の画像データのみから成る低画質の画像データが中継される。帯域が比較的広い場合には、ベース画像となる低解像度の画像データ、及び中解像度の画像データから成る中画質の画像データが中継される。また、帯域が非常に広い場合には、ベース画質となる低解像度の画像データ、中画解像度の画像データ、及び高解像度の画像データから成る高画質の画像データが中継される。例えば、図7に示されている変更品質管理テーブルにおいて、中継装置30が、IPアドレス「1.3.2.4」の宛先端末10dbに対して画像データを中継する場合には、この中継される画像データの画質(画像の品質)は「高品質」である。
<中継装置の各機能部>
次に、中継装置30の各機能構成について詳細に説明する。なお、以下では、中継装置30の各部を説明するにあたって、図2に示されている各構成要素のうち、中継装置30の各部を実現させるための主な構成要素との関係も説明する。
図4に示されている中継装置30の送受信部31は、図3に示されているネットワークI/F209によって実現され、通信ネットワーク2を介して他の端末、装置、又はシステムと各種データ(情報)の送受信を行う。状態検知部32は、図3に示されているCPU201からの命令によって実現され、この状態検知部32を有する中継装置30の稼動状態を検知する。稼動状態としては、「ONライン」、「OFFライン」、又は「故障中」の状態がある。
データ品質確認部33は、図3に示されているCPU201からの命令によって実現され、宛先端末10BのIPアドレスを検索キーとして、図7の変更品質管理テーブルを検索し、対応した中継される画像データの画質を抽出することで、中継される画像データの画質を確認する。変更品質管理部34は、図3に示されているCPU201からの命令によって実現され、遠隔通信管理システム50から送られて来る、後述の品質情報に基づいて、変更品質管理DB3001の内容を変更する。例えば、端末IDが「01aa」である要求元端末10aaと、端末IDが「01db」である宛先端末10dbとの間で高画質の画像データを送受信することによってテレビ会議を行っている最中に、他のテレビ会議を行う要求元端末bbと宛先端末caが通信ネットワーク2を介してテレビ会議を開始すること等によって、宛先端末10dbで画像データの受信の遅延が生じた場合には、中継装置30は今まで中継していた画像データの画質を、高画質から中画質に下げる必要がある。このような場合に、中画質を示す品質情報に基づいて、中継装置30が中継する画像データの画質を高画質から中画質に下げるように、変更品質管理DB3001の内容が変更される。
データ品質変更部35は、図3に示されているCPU201からの命令によって実現され、送信元端末10から送られて来た画像データの画質を、上記変更された変更品質管理DB3001の内容に基づいて変更する。記憶・読出処理部39は、図3に示されているHDD205によって実現され、記憶部3000に各種データを記憶したり、記憶部3000に記憶された各種データを読み出す処理を行う。
<遠隔通信管理システムの機能構成>
次に、遠隔通信管理システム50の機能又は手段について説明する。遠隔通信管理システム50は、送受信部51、端末認証部52、状態管理部53、端末抽出部54、端末状態取得部55、絞込部56、セッション管理部57、品質決定部58、記憶・読出処理部59、及び遅延時間管理部60を有している。これら各部は、図3に示されている各構成要素のいずれかが、ROM202に記憶されているプログラムに従ったCPU201からの命令によって動作することで実現される機能又は手段である。また、遠隔通信管理システム50は、図3に示されているHD204により構築される記憶部5000を有している。
(中継装置管理テーブル)
記憶部5000には、図8に示されているような中継装置管理テーブルによって構成されている中継装置管理DB5001が構築されている。この中継装置管理テーブルでは、各中継装置30の中継装置ID毎に、各中継装置30の稼動状態、稼動状態が示される状態情報が遠隔通信管理システム50で受信された受信日時、中継装置30のIPアドレス、及び中継装置30における最大データ伝送速度(Mbps)が関連付けられて管理される。例えば、図7に示されている中継装置管理テーブルにおいて、中継装置IDが「111a」の中継装置30aは、稼動状態が「ONライン」で、遠隔通信管理システム50で状態情報が受信された日時が「2009年11月10日の13時00分」で、この中継装置30aのIPアドレスが「1.2.1.2」で、この中継装置30aにおける最大データ伝送速度が100Mbpsであることが示されている。
(端末認証管理テーブル)
更に、記憶部5000には、図9に示されているような端末認証管理テーブルによって構成されている端末認証管理DB5002が構築されている。この端末認証管理テーブルでは、遠隔通信管理システム50によって管理される全ての通信端末10の各端末IDに対して、各パスワードが関連付けられて管理される。例えば、図8に示されている端末認証管理テーブルにおいて、通信端末10aaの端末IDは「01aa」で、パスワードは「aaaa」であることが示されている。
(端末管理テーブル)
また、記憶部5000には、図10に示されているような端末管理テーブルによって構成されている端末管理DB5003が構築されている。この端末管理テーブルでは、各通信端末10の端末ID毎に、各通信端末10の稼動状態、後述のログイン要求情報が遠隔通信管理システム50で受信された受信日時、及び通信端末10のIPアドレスが関連付けられて管理される。例えば、図9に示されている端末管理テーブルにおいて、端末IDが「01aa」の通信端末10aaは、稼動状態が「ONライン」で、遠隔通信管理システム50でログイン要求情報が受信された日時が「2009年11月10日の13時40分」で、この通信端末10aaのIPアドレスが「1.2.1.3」であることが示されている。
(宛先リスト管理テーブル)
更に、記憶部5000には、図11に示されているような宛先リスト管理テーブルによって構成されている宛先リスト管理DB5004が構築されている。この宛先リスト管理テーブルでは、テレビ会議の開始を要求する要求元端末10Aの端末IDに対して、宛先端末10Bの候補として登録されている宛先端末10Bの端末IDが全て関連付けられて管理される。例えば、図11に示されている宛先リスト管理テーブルにおいて、端末IDが「01aa」である要求元端末10aaからテレビ会議の開始を要求することができる宛先端末10Bの候補は、端末IDが「01ab」の通信端末10ab、端末IDが「01ba」の通信端末10ba、及び端末IDが「01db」の通信端末10dbの3つであることが示されている。この宛先端末10Bの候補は、要求元端末10Aから遠隔通信管理システム50に対する追加又は削除の要請により、追加又は削除されることで更新される。
(セッション管理テーブル)
また、この記憶部5000には、図12に示されているようなセッション管理テーブルによって構成されているセッション管理DB5005が構築されている。このセッション管理テーブルでは、中継装置30を選択するためのセッションの実行に用いられる選択用セッションID毎に、画像データ、音声データ及び表示データの中継に使用される中継装置30の中継装置ID、要求元端末10Aの端末ID、宛先端末10Bの端末ID、宛先端末10Bにおいて画像データが受信される際の受信の遅延時間(ms)、及びこの遅延時間が示されている遅延情報を宛先端末10Bから送られて来て遠隔通信管理システム50で受信された受信日時が関連付けられて管理される。例えば、図12に示されているセッション管理テーブルにおいて、選択用セッションID「se1」を用いて実行されたセッションで選択された中継装置30a(中継装置ID「111a」)は、端末IDが「01aa」の要求元端末10aaと、端末IDが「01db」の宛先端末10dbとの間で、画像データ及び音声データを中継しており、宛先端末10dbにおいて「2009年11月10日の14時00分」時点における画像データの遅延時間が200(ms)であることが示されている。なお、2つの通信端末10の間でテレビ会議を行う場合には、上記宛先端末10Bではなく要求元端末10Aから送信されてきた遅延情報に基づいて、遅延情報の受信日時を管理してもよい。但し、3つ以上の通信端末10の間でテレビ会議を行う場合には、画像データ、音声データ及び表示データの受信側の通信端末10から送信されてきた遅延情報に基づいて、遅延情報の受信日時を管理する。
(アドレス優先度管理テーブル)
更に、記憶部5000には、図13に示されているようなアドレス優先度管理テーブルによって構成されている優先度管理DB5006が構築されている。このアドレス優先度管理テーブルでは、一般的なIPv4におけるIPアドレスのうちの4組のドットアドレス(Dot Address)部分の同異に応じて、アドレス優先度のポイントが高くなるように関連付けられて管理される。例えば、図13に示されているアドレス優先度管理テーブルにおいて、ドットアドレスの上位から下位にかけて3つの値が同じIPアドレスの場合には、アドレス優先度のポイントが「5」である。ドットアドレスの上位から下位にかけて2つの値が同じIPアドレスの場合には、アドレス優先度のポイントが「3」である。この場合、最下位のドットアドレスの値が同じであるか否かは優先度に関係ない。ドットアドレスの最上位の値が同じで、上位から2番目の値が異なるIPアドレスの場合には、アドレス優先度のポイントが「1」である。この場合、上位から3番目及び最下位のドットアドレスの値が同じであるか否かは優先度には関係ない。ドットアドレスの最上位の値が異なるIPアドレスの場合には、アドレス優先度のポイントが「0」である。この場合、上位から2番目、3番目、及び最下位のドットアドレスの値が同じであるか否かは優先度には関係ない。
(伝送速度優先度管理テーブル)
また、記憶部5000に構築されている優先度管理DB5006には、図14に示されているような伝送速度優先度管理テーブルも含まれている。この伝送速度優先度管理テーブルでは、中継装置30における最大データ伝送速度(Mbps)の値に応じて、伝送速度優先度のポイントが高くなるように関連付けられて管理される。例えば、図14に示されている伝送速度優先度管理テーブルにおいて、中継装置30における最大データ伝送速度が1000Mbps以上の場合には、伝送速度優先度のポイントが「5」である。中継装置30における最大データ伝送速度が100Mbps以上1000Mbps未満の場合には、伝送速度優先度のポイントが「3」である。中継装置30における最大データ伝送速度が10Mbps以上100Mbps未満の場合には、伝送速度優先度のポイントが「1」である。中継装置30における最大データ伝送速度が10Mbps未満の場合には、伝送速度優先度のポイントが「0」である。
(品質管理テーブル)
更に、記憶部5000には、図15に示されているような品質管理テーブルによって構成されている品質管理DB5007が構築されている。この品質管理テーブルでは、要求元端末10A又は宛先端末10Bにおける画像データの遅延時間(ms)に応じて、中継装置30で中継させる画像データの画質(画像の品質)が関連付けられて管理される。
(遠隔通信管理システムの各機能部)
次に、遠隔通信管理システム50の各機能部について詳細に説明する。なお、以下では、遠隔通信管理システム50の各部を説明するにあたって、図3に示されている各構成要素のうち、遠隔通信管理システム50の各部を実現させるための主な構成要素との関係も説明する。
送受信部51は、図3に示されているネットワークI/F209によって実行され、通信ネットワーク2を介して他の端末、装置又はシステムと各種データ(情報)の送受信を行う。端末認証部52は、送受信部51を介して受信されたログイン要求情報に含まれている端末ID及びパスワードを検索キーとし、記憶部5000の端末認証管理DB5002を検索し、端末認証管理DB5002に同一の端末ID及びパスワードが管理されているかを判断することによって端末認証を行う。状態管理部53は、ログイン要求してきた要求元端末10Aの稼動状態を管理すべく、端末管理テーブル(図10参照)に、この要求元端末10Aの端末ID、要求元端末10Aの稼動状態、遠隔通信管理システム50でログイン要求情報が受信された受信日時、及び要求元端末10AのIPアドレスを関連付けて記憶して管理する。
端末抽出部54は、ログイン要求した要求元端末10Aの端末IDをキーとして、宛先リスト管理テーブル(図11参照)を検索し、要求元端末10Aと遠隔通信することができる宛先端末10Bの候補の端末IDを読み出すことで、端末IDを抽出する。また、端末抽出部54は、ログイン要求してきた要求元端末10Aの端末IDをキーとして、宛先リスト管理テーブル(図11参照)を検索し、上記要求元端末10Aの端末IDを宛先端末10Bの候補として登録している他の要求元端末10Aの端末IDも抽出する。
端末状態取得部55は、上記端末抽出部54によって抽出された宛先端末10Bの候補の端末IDを検索キーとして、端末管理DBテーブル(図10参照)を検索し、上記端末抽出部54によって抽出された端末ID毎に稼動状態を読み出す。これにより、端末状態取得部55は、ログイン要求してきた要求元端末10Aと遠隔通信することができる宛先端末10Bの候補の稼動状態を取得することができる。また、端末状態取得部55は、上記端末抽出部54によって抽出された端末IDを検索キーとして、端末管理テーブル(図10参照)を検索し、ログイン要求してきた要求元端末10Aの稼動状態も取得する。
絞込部56は、複数の中継装置30から最終的に1つの中継装置30に絞り込む最終絞り込み処理を支援するため、最終絞り込み処理前の一次絞り込み処理を行うため、選択用セッションID生成部56a、端末IPアドレス抽出部56b、一次選択部56c、及び優先度決定部56dを有している。このうち、選択用セッションID生成部56aは、中継装置30を選択するためのセッションの実行に用いられる選択用セッションIDを生成する。端末IPアドレス抽出部56bは、要求元端末10Aから送られてきた開始要求情報に含まれている要求元端末10Aの端末ID、及宛先端末10Bの端末IDに基づいて、端末管理テーブル(図10参照)を検索することにより、対応するそれぞれの通信端末10のIPアドレスを抽出する。一次選択部56cは、中継装置管理テーブル(図7参照)で管理されている中継装置30のうち、稼動状態が「ONライン」となっている中継装置30の中継装置IDを選択することにより、中継装置30の選択を行う。
また、一次選択部56cは、上記端末IPアドレス抽出部56bによって抽出された、要求元端末10AのIPアドレス、及び宛先端末10BのIPアドレスに基づいて、中継装置管理テーブル(図8参照)を検索することにより、上記選択された中継装置30のIPアドレスのドットアドレス毎に、上記要求元端末10A及び宛先端末10Bの各IPアドレスにおける各ドットアドレスと同じであるか異なるかを調査する。更に、一次選択部56cは、中継装置毎に、アドレス優先度のポイントにおいて通信端末10に対する高い方のポイントと、伝送速度優先度のポイントを統合した統合ポイントのうち、ポイントが高い上位2つの中継装置30を選択することにより、中継装置30の更なる選択を行う。
なお、本実施形態では、ポイントが高い上位2つの中継装置30を選択することにしているが、これに限られるものではなく、中継装置30を1つでも多く絞り込むことができれば、ポイントが高い上位3つ以上の中継装置30を選択するようにしてもよい。
優先度決定部56dは、優先度管理テーブル(図13参照)を参照して、上記一次選択部56cによって調査された中継装置30毎に、アドレス優先度のポイントを決定する。また、優先度決定部56dは、中継装置管理テーブル(図8参照)で管理されている各中継装置30の最大データ伝送速度に基づいて、伝送速度優先度管理テーブル(図14参照)を検索することにより、上記一次選択部56cによって絞り込まれた中継装置30毎に伝送速度優先度のポイントを決定する。
セッション管理部57は、記憶部5000のセッション管理テーブル(図12参照)に、選択用セッションID生成部56aで生成された選択用セッションID、要求元端末の端末ID、及び宛先端末の端末IDを関連付けて記憶して管理する。また、セッション管理部57は、セッション管理テーブル(図11参照)に対して、選択用セッションID毎に、通信端末10の選択処理部16が最終的に1つに選択した中継装置30の中継装置IDを記憶して管理する。
品質決定部58は、上記遅延時間を検索キーとして、品質管理テーブル(図15参照)を検索し、対応する画像データの画質を抽出することで、中継装置30に中継させる画像データの画質を決定する。記憶・読出処理部59は、図3に示されているHDD205によって実行され、記憶部5000に各種データを記憶したり、記憶部5000に記憶された各種データを読み出す処理を行う。遅延時間管理部60は、上記宛先端末10BのIPアドレスを検索キーとして、端末管理テーブル(図10参照)を検索することで、対応する端末IDを抽出し、更に、セッション管理テーブル(図12参照)のセッション管理テーブルにおいて、抽出した端末IDが含まれるレコードにおける遅延時間のフィールド部分に、上記遅延情報で示されている遅延時間を記憶して管理する。
〔表示データの表示制御について〕
以下、本実施形態の表示データの表示制御について詳述する。
(配置情報管理表)
図16は、配置情報管理表23の一例を示す図である。配置情報管理表23には、表示データの配置を管理するための情報が登録されている。「配置情報No」はレコードを識別するための識別情報であり、「配置情報」は、映像データ及び表示データをディスプレイ100にどのように配置するかの情報が記憶されている。配置情報には「VIEW_MULTI」と「SHARED_MULTI」がある。これらについては後述するが、「VIEW_MULTI」は映像データだけを表示することを、「SHARED_MULTI」は映像データと表示データを混在させて表示することを、それぞれ意味する。
また、「共有フラグ」は、配置情報選択部21が配信イベントに基づき図20のイベントフラグテーブル24を参照して決定する。「共有フラグ」により「配置情報No」が一意に定まる。通信端末10が表示データを受信する状態には以下の2つがある。
・外部入力装置40が接続された通信端末10で、この外部入力装置40からの表示データを受信している状態
・通信端末10が、他の通信端末10と接続された外部入力装置40から表示データを受信している状態
本実施形態ではこの2つの状態のいずれも「SHARED」と称する。また、通信端末10が全く表示データを受信していない状態を「UNSHARED」と称する。配置情報管理表23は、通信端末10の共有フラグが「SHARED」であれば、配置情報No2の「SHARED_MULTI」の配置情報と結びつけ、共有フラグが「UNSHARED」であれば配置情報No1の「VIEW_MULTI」の配置情報と結びつける。
なお、共有フラグと配置情報の対応付けは一例であり、極端に言えば逆の対応づけも可能である。また、通信端末10が表示データを受信する2つの状態を同じ「SHARED」とするのでなく、2つの受信状態を「SHARED1」「SHARED2」として、それぞれを異なる配置情報に対応づけることもできる。配置情報管理表23の設定は、通信端末の各参加者が行うことができる。
図17は、ディスプレイ100の分割例と分割により生じる領域を示す図の一例である。領域1〜4はそれぞれに異なる映像データ又は表示データを表示することができるので、この例では最大で4つの映像データ及び表示データを表示することができる。図17では、領域1が他の領域2〜4よりも広く割り当てられている。この領域1〜4のどの領域に映像データを表示し、どの領域に表示データを表示するかを定めるのが「配置情報」である。
図18は、配置情報と、各領域1〜4に割り当てられる映像データ又は表示データの関係の一例を示す図である。図18に示すように、
配置情報=「VIEW_MULTI」の場合、領域1には映像データ1が、領域2には映像データ2が、それぞれ表示され全ての領域1〜4に映像データが表示される。
配置情報=「SHARED_MULTI」の場合、領域1には表示データが、領域2には映像データ1が、領域3には映像データ2が、それぞれ表示される。
配置情報についてより詳細に説明する。
・「VIEW_MULTI」の場合
領域1から順に各端末で受信している映像データの数だけ映像データが割当てられる配置情報である。例えば、2つの通信端末10が遠隔通信システム1に接続されている場合は領域2まで映像データが表示され,領域3,領域4には何も表示されない。領域1には現在、参加者が注目すべき相手側の映像データを通信端末10は表示するようにして、発話している側の通信端末10の撮像部14aが撮影した映像データとする。この映像データを特定するため、各通信端末の音声入力部15aは音声レベルに基づき発話を検出した場合、表示データ制御部22は、該当する通信端末10の端末IDを中継装置30に転送する。中継装置30はこの端末IDを各通信端末10に同報的に配信するので、各通信端末10は領域1に表示すべき映像データを特定することができる。なお、表示データ制御部22は中継装置30でなく、該当する通信端末10の端末IDを遠隔通信管理システム50に送信してもよい。また、領域2には発話していない側の映像データを表示する。
・「SHARED_MULTI」の場合
領域1には表示データが表示され,他の領域2〜4には映像データが割当てられる配置情報である。2つの通信端末1,2が遠隔通信システム1に接続されている場合は、領域2と領域3に各通信端末10の映像データが表示され、領域4には何も表示されない。
配置情報選択部21は、自機の通信端末10と接続された外部入力装置40から表示データを受信しているか否か、及び、他の通信端末から表示データを受信しているか否かを定めることになる配信イベントに応じて、自機の共有フラグを「SHARED」又は「UNSHARED」に設定する。「SHARED」に設定するとは、共有フラグの値に「SHARED」「1」又は「ON」を代入することを、「UNSHARED」に設定するとは、共有フラグの値に「UNSHARED」「0」又は「OFF」を代入することをいう。
上記のように、配置情報選択部21は共有フラグを更新すると、配置情報管理表23の共有フラグを参照した結果に基づき、画像表示制御部14bに対し映像データ及び表示データの領域1〜4への割り当てを変更する。
図19は、配置情報選択部21が選択する配置情報の状態遷移図の一例である。初期状態が配置情報のNo1かNo2のいずれになるかは、自機である起動直後の通信端末10に表示データが送信されているか否かに応じて変わってくる。図19に示すように、配置情報No1が選択された状態で、配置情報選択部21が共有フラグに「SHARED」をセットした場合、配置情報選択部21は配置情報No2を選択する。配置情報No2が選択された状態で、配置情報選択部21が共有フラグに「UNSHARED」をセットした場合、配置情報選択部21は配置情報No1を選択する。配置情報No1が選択された状態で、配置情報選択部21が共有フラグに「UNSHARED」をセットした場合、配置情報選択部21はそのまま配置情報No1を選択し、配置情報No2が選択された状態で、配置情報選択部21が共有フラグに「SHARED」をセットした場合、配置情報選択部21はそのまま配置情報No2を選択する。
(表示制御フラグ)
表示制御フラグは、外部入力装置40が外部入力装置40の表示装置400に表示するメニュー等の表示を通信端末10が制御するために用いられる。
図20は、中継装置30から送信される配信イベントと、配信イベントに応じて配置情報選択部21が設定する表示フラグ、及び、表示データ制御部22が決定する表示制御フラグの対応の一例(イベントフラグテーブル24)である。
配信イベントには「配信開始イベント」「他からの配信開始イベント」「配信停止イベント」「他からの配信停止イベント」がある。前者2つの配信イベントの共有フラグは、通信端末10が表示データを受信する配信イベントに対応して「SHARED」であり、後者2つの配信イベントの共有フラグは、通信端末10が表示データを受信しない配信イベントに対応して「UNSHAED」である。
また、「配信開始イベント」に対応する表示制御フラグは「SHARED」であり、「他からの配信開始イベント」に対応する表示制御フラグは「SHARED_ANOTHER」であり、「配信開始イベント」と「他からの配信停止イベント」に対応する表示制御フラグは「UNSHARED」である。表示制御フラグについては以下で説明する。外部入力装置40のメニュー制御部44は、表示制御フラグを通信端末10から受信すると、表示装置400に表示するメニューを遷移させる。
図21(a)は、遷移条件テーブル431の一例を模式的に説明する図の一例である。起動直後の表示装置400は、通信端末10が表示データを共有していないという前提で「共有開始」を表示する。「共有開始」は外部入力装置40の表示データを、外部入力装置40に接続された通信端末以外の通信端末10と共有することを開始させるメニューであり、具体的には参加者の操作を受け付ける「共有開始」ボタンである(以下、「共有開始」と「共有開始」ボタンを厳密には使い分けずに用いる。)。
「共有開始」の表示中に、外部入力装置40が表示制御フラグ「SHARED」を受信すると、メニュー制御部44は表示データの共有を解除させるための「共有停止」を表示する。「共有停止」は、当該外部入力装置40が表示している表示データを、当該外部入力装置40と直接接続されていない通信端末10と共有することを停止させるメニューであり、具体的には参加者の操作を受け付ける「共有停止」ボタンである(以下、「共有停止」と「共有停止」ボタンを厳密には使い分けずに用いる。)
「共有停止」の表示中に、外部入力装置40が表示制御フラグ「SHARED」以外(「UNSHARED」、「SHARED_ANOTHER」)を受信すると、メニュー制御部44は表示データの共有を開始できるように「共有開始」を表示する。
なお、外部入力装置40が「共有開始」の表示中に、表示制御フラグ「SHARED」以外を受信した場合、メニューはそのままであり、外部入力装置40が「共有停止」の表示中に表示制御フラグ「SHARED」を受信した場合はメニューはそのままである。
このように、配信イベントに、共有フラグと表示制御フラグが対応づけられていることで、通信端末10がディスプレイ100に表示する表示データ及び映像データの表示態様に応じて、外部入力装置40の表示装置400の表示態様(メニュー)も決定することができる。
そして、外部入力装置40の表示装置400にメニューを表示している間、メニュー制御部44は、表示制御フラグに応じて共有状態を表示する。
図21(b)は、表示制御フラグと共有状態の対応関係の一例を示す図である。このような対応関係は遷移条件テーブル431と共に記憶部43に記憶されている。
この"共有状態"が後述するように、外部入力装置40の画面のメッセージ欄に表示され、参加者は通信端末10の"現在の共有状態"を把握できるようになっている。"共有状態"には、以下の状態がある。
・(a)通信端末10が表示データを共有していない(UNSHARED)
・(b)通信端末10が自機に接続された外部入力装置40が表示している表示データを共有している(SHARED)
・(c)通信端末10が他の通信端末10に接続された外部入力装置40が表示している表示データを共有している(SHARED_ANOTHER)
〔動作手順〕
図22は、通信端末同士がセッションを確立する処理を示すフローチャート図の一例である。参加者が図2に示されている操作ボタン108を押下して通信端末1を選択すると、図4に示されている操作入力受付部12は、通信端末2との遠隔通信を開始する要求を受け付ける。
S1: 通信端末1の送受信部11は、開始要求情報を遠隔通信管理システム50に送信する。開始要求情報には、要求元の通信端末1の端末ID「01aa」、及び、宛先の通信端末2の端末ID「01db」が含まれる。これにより、遠隔通信管理システム50の送受信部51は、開始要求情報を受信すると共に、送信元である通信端末1のIPアドレス「1.2.1.3」を把握することになる。
S2: 遠隔通信管理システム50の端末IPアドレス抽出部56bは、要求元の通信端末1から送られてきた開始要求情報に含まれている要求元の通信端末2の端末ID、及び、宛先の通信端末2の端末IDに基づいて、端末管理テーブル(図10参照)を検索することにより、対応するそれぞれの通信端末1、2のIPアドレスを抽出する。
S3: 次に、遠隔通信管理システム50の送受信部51は、通信ネットワーク2を介して中継装置30へ、中継を開始する旨の要求が示された中継開始要求情報を送信する。この中継開始要求情報には、中継される要求元の通信端末1及び宛先の通信端末2の各IPアドレス(「1.2.1.3」,「1.3.2.4」)が含まれている。これにより、中継装置30は、通信端末1,2の間で、低解像度、中解像度、及び高解像度の3つ画像データ、並びに、音声データを遠隔通信するためのセッションを確立する。これにより、通信端末1,2は、テレビ会議を開始することができる。
S4: 中継装置30は、通信端末1,2の間で、画像データ、並びに、音声データを遠隔通信するためのセッションを確立する。具体的には、通信端末1は中継装置30と通信端末2のIPアドレスを取得し、通信端末2は中継装置30と通信端末1のIPアドレスを取得する。
S5: 通信端末1の送受信部11はセッション確立イベントを外部入力装置40に送信する。セッション確立イベントは、通信端末間でセッションが確立したことを通知する情報である。
図23は、通信端末10間で画像データ及び音声データを送受信する処理を示したシーケンス図の一例である。通信端末10から2つ(通信端末1と通信端末2)を取り出しこの2つの端末間で、テレビ会議を行うために、画像データ及び音声データを送受信する処理を説明する。
まず、通信端末1は、撮像部14aで撮像された被写体の画像データ、及び音声入力部15aで入力された音声の音声データを、送受信部11から通信ネットワーク2を介して中継装置30へ送信する(ステップS81)。なお、本実施形態では、低解像度、中解像度、及び高解像度の3つから成る高画質の画像データ、並びに、音声データを送信している。これにより、中継装置30では、送受信部31で上記3つの解像度の画像データ及び音声データを受信する。そして、データ品質確認部33が、通信端末2のIPアドレス「1.3.2.4」を検索キーとして、変更品質管理テーブル(図7参照)を検索し、対応した中継する画像データの画質を抽出することで、中継する画像データの画像の品質を確認する(ステップS82)。本実施形態では、確認された画像データの画像の画質が「高画質」であり、送受信部31で受信した画像データの画質と同じであるため、そのままの画質の画像データ、及びそのままの音質の音声データで、通信端末2に転送する(ステップS83)。これにより、通信端末2は、送受信部11で画像データ及び音声データを受信し、画像表示制御部14bがディスプレイ100に上記画像データに基づく画像を表示させると共に、音声出力部15bが音声データに基づく音声を出力させることができる。
なお、不図示だが、中継装置30は品質を変更した場合又は品質変更したか否かに関係なく映像データを通信端末1に返送してもよい。こうすることで、通信端末1がディスプレイ100に表示する映像を他の通信端末2と同じ品質にすることができる。
次に、通信端末2の遅延検出部17は、送受信部11で受信された画像データの受信の遅延時間を一定時間毎(例えば、1秒毎)に検出する(ステップS84)。なお、本実施形態では、遅延時間が200(ms)である場合について、以下説明を続ける。
通信端末2の送受信部11は、通信ネットワーク2を介して遠隔通信管理システム50へ、遅延時間「200(ms)」を示す遅延情報を送信する(ステップS85)。
これにより、遠隔通信管理システム50は、遅延時間を把握すると共に、遅延情報の送信元である通信端末2のIPアドレス「1.3.2.4」を把握することができる。
次に、遠隔通信管理システム50の遅延時間管理部60は、上記通信端末2のIPアドレス「1.3.2.4」を検索キーとして、端末管理テーブル(図10参照)を検索することで、対応する端末ID「01db」を抽出し、更に、セッション管理DB5005のセッション管理テーブル(図12参照)において、上記端末ID「01db」のレコードにおける遅延時間のフィールド部分に、上記遅延情報で示されている遅延時間「200(ms)」を記憶して管理する(ステップS86)。
次に、品質決定部58は、上記遅延時間「200(ms)」を検索キーとして、品質管理テーブル(図14参照)を検索し、対応する画像データの画質「中画質」を抽出することで、画質を「中画質」に決定する(ステップS87)。
次に、送受信部51は、セッション管理テーブル(図12参照)において、上記端末ID「01db」に関連付けられている中継装置ID「111a」を検索キーとして、中継装置管理DBテーブル(図8参照)を検索し、対応する中継装置30のIPアドレス「1.2.1.2」を抽出する(ステップS88)。そして、送受信部51は、通信ネットワーク2を介して中継装置30へ、上記ステップS87によって決定された画像データの画質「中画質」を示す品質情報を送信する(ステップS89)。この品質情報には、上記ステップS86において検索キーとして用いた通信端末2のIPアドレス「1.3.2.4」が含まれている。これにより、中継装置30では、変更品質管理部34が、変更品質管理テーブル(図7参照)に、送信先の通信端末10(ここでは、通信端末2)のIPアドレス「1.3.2.4」、及び中継される画像データの画質「中画質」を関連付けて記憶して管理する(ステップS90)。
次に、通信端末1は、引き続き上記ステップS81と同様に、中継装置30へ、低画質、中画質、及び高画質の3つから成る高画質の画像データ、並びに、音声データを送信する(ステップS91)。これにより、中継装置30では、上記ステップS82と同様に、データ品質確認部33が、通信端末2のIPアドレス「1.3.2.4」を検索キーとして、変更品質管理テーブル(図7参照)を検索し、対応した中継する画像データの画質「中画質」を抽出することで、中継される画像データの画像の品質を確認する(ステップS92)。本実施形態では、確認された画像データの画質が「中画質」であり、送受信部31で受信された画像データの画質「高画質」よりも低くなるため、データ品質変更部35は、画像データの画質を「高画質」から「中画質」に抑制することで、画像データの画像の品質を変更する(ステップS93)。そして、送受信部31は、通信ネットワーク2を介して通信端末2へ、上記画像データの画質が「中画質」に変更された画像データ、及び音声の音質が変更されていない音声データを送信する(ステップS94)。このように、画像データを受信する通信端末2で、受信の遅延が生じた場合には、中継装置30は画像の品質を変更し、テレビ会議に参加している人に違和感を与えないようにすることができる。
<表示データの送信>
図24(a)は外部入力装置40から通信端末に表示データを送信する手順のフローチャート図の一例である。
外部入力装置40と通信端末10とが互いに接続されると、外部入力装置40の接続検出部42が通信端末10が接続されたことを検知する(S10)。接続検出部42は、例えば外部装置I/F215が電圧や信号を検知したことから通信端末10とデータの送受信が可能となったことを検出する。
接続検出部42は表示装置400に表示データの共有開始を受け付けるメニューを表示させ、参加者がこのメニューを押下すると、操作入力受付部46が共有開始という操作を受け付ける(S20)。
操作入力受付部46が共有開始という操作を受け付けると、表示データを送信するため表示データ取得部451が表示データを取得する(S30)。表示データはテレビ会議に使用される画像データなので変化するものである。このため、表示データ取得部451は、定期的に(例えば1秒に1回)、又は、画面の画像データの変化を検出して表示データを取得する。
表示データ取得部451が表示データを取得すると、 表示データ送信部452が、表示データ取得部451が取得した表示データを、通信端末1を介して通信端末2に対して送信する(S40)。
テレビ会議に参加している(例えば、宛先リスト管理テーブルに登録されている)各通信端末10と接続された外部入力装置40は全て表示データを送信する可能性があり、上記のような手順で表示データを送信する。
図24(b)は外部入力装置40から通信端末に表示データを送信する手順のフローチャート図の別の一例である。図24(b)では宛先の通信端末2とのセッションが確立していることを確認して表示データを宛先の通信端末に送信する。
外部入力装置40と通信端末10とが互いに接続されると、外部入力装置40の接続検出部42が、通信端末10が接続されたことを検知する(S10)。接続検出部42は、例えば外部装置I/F215が電圧や信号を検知したことから通信端末10とデータの送受信が可能となったことを検出する。
接続検出部42が通信端末10が接続されたことを検知すると、外部入力装置1のメニュー制御部44は、図28(a)に示す画面を表示装置400に表示する(S12)。図28の各画面は外部入力装置1に表示される画面例を示す。図28(a)に示すようにメニュー401には何も文字は表示されず、メニュー402には「会議が行われていません」というメッセージが表示されている。このメッセージは、セッションが確立されていないことを示す。これにより参加者は、会議が行われていないことを把握できる。
メニュー制御部44は通信端末1からセッション確立イベントが通知されているか否かを判定する(S14)。このセッション確立イベントは、図22のS5に対応し,通信端末1,2間でセッションが確立されたことを検知すると通信端末10から外部入力装置40へ通知されるようになっている。
セッション確立イベントが通知されていない場合(S14のNo)、外部入力装置40は図28(a)の画面を維持する。
セッション確立イベントが通知されている場合(S14のYes)、外部入力装置40のメニュー制御部44は図28(b)の画面を表示する(S16)。
図28(b)では、メニュー401として「共有開始」ボタンが、共有状態402として「共有していません」というメッセージが表示されている。図28(b)の画面は、メニュー402に共有が行われていないことを示すと共に、メニュー401に共有開始の操作入力が可能なことを示している。「共有開始」ボタンは参加者がタッチパネルを押下することで直接、又は、キーボード211やマウス212を操作して押下することができる。
操作入力受付部46が共有開始という操作を受け付けると、表示データを送信するため表示データ取得部451が通信端末1から表示データを取得する(S30)。表示データはテレビ会議に使用される画像データなので変化するものである。このため、表示データ取得部451は、定期的に(例えば1秒に1回)、又は、画面の画像データの変化を検出して表示データを取得する。
表示データ取得部451が表示データを取得すると、 表示データ送信部452が、表示データ取得部451が取得した表示データを、通信端末1を介して通信端末2に対して送信する(S40)。
なお、すでにセッションが確立されている状態で、通信端末1に外部入力装置40が接続された場合、接続の直後にセッション確立イベントが外部入力装置40に通知されるので、図28(a)の画面を飛ばして図28(b)の画面が表示される。
図25は、通信端末1で撮像されている映像データ,通信端末2で撮像されている映像データ、及び、通信端末1,2に接続された外部入力装置1,2から送信される表示データの送信のシーケンス図の一例である。なお、音声データは省略したが映像データと共に送受信される。
S1:通信端末1で撮像されている映像データは、いったん、画像表示制御部14bによって送受信部11を介して中継装置30に送信される。
S1-1、S1-2:中継装置30の送受信部31は映像データを受信すると、映像データの品質変更処理を行った後に、送受信部31によって各通信端末1,2に映像データを送信する。
S2:通信端末2が撮像している映像データも同様に、いったん、中継装置30に送信される。
S2-1、S2-2:中継装置30は、映像データの品質変更処理を行った後に、送受信部31によって各通信端末1,2に映像データを送信する。
S3:外部入力装置1から表示データを送信する場合,表示データは,外部入力装置1の表示データ送信部452によって、送受信部41を経由して通信端末1に送信される。(この処理は図24のステップ40の処理に相当する。)
S3-1:通信端末1の外部情報送受信部18で受信された表示データは、映像データと同様にいったん、中継装置30に送信される。
S3-1-1、S3-1-2:中継装置30は、各通信端末1,2に表示データを送信する。
S4:外部入力装置2から表示データを送信する場合も同様に,表示データは,外部入力装置2の表示データ送信部452によって,送受信部41を経由して通信端末2に送信される。
S4-1:通信端末2の外部情報送受信部18で受信された表示データは、映像データと同様にいったん、中継装置30に送信される。
S4-1-1、S4-1-2:中継装置30は、各通信端末1,2に表示データを送信する。
なお、中継装置30は固定でも、複数の中継装置30の選択された1つでもよい。また、図25では、説明を簡単にするために通信端末を2つにしているが,3つ以上でも同様の手順で送信できる。また、外部入力装置1は通信端末2にも接続可能であり、外部入力装置1は表示データを通信端末2側から送信してもよい。
このように、本実施形態の遠隔通信システム1は、外部入力装置40の表示データを通信端末10を経由して送信するので、映像データと共通のネットワーク基盤技術を用意するだけで、表示データを他の通信端末10に送信することができる。
また、表示データがどの外部入力端末40から送信されても、中継装置30を経由することによって、各端末で受信するまでの遅延時間はほぼ同じになる。そのため、説明者が資料のページを変更しても、ほぼ同時期に各拠点の通信端末10の表示内容が変更されるため、拠点間のコミュニケーションが阻害されることが少ない。
<表示データの共有開始処理>
図26は、図25のS3又はS4において外部入力装置1,2が表示データの送信を開始する際の制御手順を示すシーケンス図の一例である。
ところで、上述したように通信端末10が表示データを受信するまでの表示フラグは「UNSHARED」である。したがって、通信端末10のディスプレイ100の画面には、映像データのみが表示される。
図27(a)は、通信端末10が表示データを受信するまでのディスプレイ100の画面の状態を模式的に示す図の一例である。配置情報管理表23の表示フラグが「UNSHARED」であることは、配置情報選択部21が配置情報No1を選択している状態である。このため、図27(a)に示すように、領域1、2は中継装置30から受信した映像データが表示される。配置情報選択部21が、領域1に自機の映像データを表示するか、他機の映像データを表示するかは配置情報管理表23の説明で述べたとおりであるが、参加者の操作により切り替えるように実現してもよい。
また、通信端末10が配信イベントを通知されるまで、表示データ制御部22は何も表示制御フラグを外部入力装置40に送信しないか、又は、「UNSHARED」の表示制御フラグを外部入力装置40へ送信している。外部入力装置40のメニュー制御部44は、起動直後の状態として又は「UNSHARED」の表示制御フラグに応じたメニューを表示装置400に表示する。
図28は外部入力装置40に表示されるいくつかの画面例を示す図である。図28(a)についてはすでに説明した。図28(b)は外部入力装置40に表示されるメニュー401及び共有状態402の一例を示す。図28(b)では、メニュー401として「共有開始」ボタンが、共有状態402として「共有していません」というメッセージが表示されている。「共有開始」ボタンは参加者がタッチパネルを押下することで直接、又は、キーボード211やマウス212を操作して押下することができる。
なお、図28(b)では、外部入力装置40が有する資料の表示データが表示され、その他、状態表示のウィンドウや別の資料の表示データが表示されている。参加者が、外部通信端末40が表示中の表示データを他の通信端末2と共有する場合、「共有開始」ボタンを押下する。これにより、外部入力装置40が表示データの送信を開始する。
図26に戻り、
S1:操作入力受付部46が、参加者による外部入力装置1に表示されている項目「共有開始」ボタンの押下を受け付ける。この処理は図24のS20に相当する。
S2:表示データ送信部452は通信端末1に共有開始を通知し、表示データの送信を開始する。この処理は、図24のS40、図25のS3、S4に相当する。
S2-1:通信端末1の表示データ制御部22は中継装置30に対して配信開始を要求し,表示データを中継装置30に送信する。この処理は、図25のS3-1に相当する。
S3:中継装置30のデータ品質変更部は表示データの品質を変更して「配信開始イベント」を通信端末1に通知し、表示データの配信を開始する。この処理は、図25のS3-1-1、S4-1-1に相当する。
S3-1:通信端末1の配置情報選択部21は「配信開始イベント」を取得すると、イベントフラグテーブル24に従い共有フラグを「SHARED」に設定する。
S3-2:通信端末1の配置情報選択部21は配置情報管理表23に従って配置情報No2を選択して、画像表示制御部14bに、領域1〜4毎に映像データ及び表示データの割り当てを指示する。
これにより、ディスプレイ100の状態は図27(a)から図27(b)の状態に変化する。図27(b)では、領域1に表示データが表示され、領域2と3に映像データが表示されている。
S3-3:ステップS3で通信端末1には「配信開始イベント」が通知されているため、表示データ制御部22イベントフラグテーブル24に従い表示制御フラグを「SHARED」に設定して外部入力装置1に通知する。
S3-3-1:外部入力装置1のメニュー制御部44は、図21(a)の遷移条件テーブル431に従って、表示制御フラグに応じてメニュー401の表示を変更するか否かを判定する。
S3-3-2:図28(b)に示したように「共有開始」ボタンが表示されている状態で、外部入力装置2が表示制御フラグ「SHARED」を受信したため、メニュー制御部44は表示装置400のメニュー401を「共有停止」ボタンへ変更させる。図28(c)は「共有停止」ボタンが表示された表示装置400の画面例を示す。
S3-3-3:また、メニュー制御部44は、表示制御フラグ「SHARED」を受信したため、図28(c)に示すように共有状態402に「この表示を共有しています」と表示する。
S4:中継装置30のデータ品質変更部は表示データの品質を変更して「他からの配信開始イベント」を通信端末2に通知し、表示データの配信を開始する。この処理は、図25のS3-1-2、S4-1-2に相当する。
S4-1:通信端末2の表示データ制御部22は「他からの配信開始イベント」が通知された場合、配信停止を中継装置30に要求するか否かを判定する。この判定は、すでに通信端末2が表示データを共有している場合に、どの表示データを表示するかを判定するために必要となる。この判定方法については後述するが、ここでは共有フラグは「UNSHARED」であるため配信停止要求は行わない。
S4-2:通信端末2の配置情報選択部21は「他からの配信開始イベント」を受信すると、イベントフラグテーブル24に従い配置情報管理表23の共有フラグを「SHARED」にセットする。
S4-3:通信端末2の配置情報選択部21は配置情報管理表23から共有フラグが「SHARED」に設定されたため配置情報No2を選択して、画像表示制御部14bに、領域1〜4毎に映像データ及び表示データの割り当てを指示する。これにより、ディスプレイ100の状態は図27(a)から図27(b)の状態に変化する。
S4-4:通信端末2はステップ4で「他からの配信開始イベント」が通知されているため、表示データ制御部22はイベントフラグテーブル24に従い表示制御フラグを「SHARED_ANOTHER」に設定し外部入力装置2に通知する。
S4-4-1:外部入力装置1のメニュー制御部44は、図21(a)の遷移条件テーブル431に従って、表示制御フラグに応じてメニュー401の表示を変更するか否かを判定する。図28(b)に示したように「共有開始」ボタンが表示されている状態で、外部入力装置2が表示制御フラグ「SHARED_ANOTHER」を受信したため,メニュー制御部44は表示装置400のメニュー401を変更しない。
S4-4-2:メニュー制御部44は表示制御フラグを参照して表示装置400に「他の表示を共有しています」という共有状態402を表示する。
図28(d)は通信端末2が通信端末1の表示データを共有している場合に、外部入力装置2の表示装置400に表示される画面例を示す。図28(d)では、メニュー401が「共有開始」であるが、共有状態402に「他の表示を共有しています」と表示されている。
以上説明したように、外部入力端末1では、メニュー401が「共有開始」ボタンから「共有停止」ボタンに変更され、共有状態402は「共有していません」から「この表示を共有しています」に変更される。また、外部入力端末2では、メニュー401は変更されず、共有状態402が「共有していません」から「他の表示を共有しています」に変更される。したがって、参加者はメニュー401を操作することで、表示データを共有することができ、共有状態402を目視することで、操作対象の通信端末10が自機と接続された外部入力装置40と表示データを共有しているか否かを一目で把握できる。
<共有する表示データの切り替え>
図26の処理の後、外部入力装置2から表示データを送信する際の処理手順について説明する。通信端末1及び2のディスプレイ100には図27(b)が、外部入力装置1の表示装置400には図28(c)が、外部入力装置2の表示装置400には図28(d)がそれぞれ表示されている。
図29は、外部入力装置2が表示データの送信を開始する際の制御手順を示すシーケンス図の一例である。
S1〜S4については、図26において外部入力装置1が外部入力装置2に変わっただけなので説明を省略する。
S4-1:通信端末1の表示データ制御部22は「他からの配信開始イベント」が通知された場合、中継装置30に配信停止を要求するか否かを判定する。
S4-2:後述するように、通信端末1の共有フラグは「SHARED」であるため、表示データ制御部22は中継装置30に配信停止を要求する。中継装置30のデータ品質変更部は、後述する処理を行い、表示データの送信を停止する(図25のS3-1-1、S3-1-2で送信していた表示データの送信を停止する。)。なお、ここでは中継装置30は通信端末2から配信開始が要求されたので、中継装置30が配信している表示データが他にあるため、配信停止イベントは発生しない。
S4-3:通信端末1の表示データ制御部22は、「他からの配信開始イベント」に対応するため、表示データの送信停止を外部入力装置1に要求する。S4-6で次述する、これにより、共有対象の表示データを1つに制限できる。表示制御フラグ「SHARED_ANOTHER」をもって、表示データの送信停止を要求してもよい。
S4-3-1:外部入力装置1の表示データ送信部452は表示データの送信を停止する。この停止により図25のステップ3及び3-1の表示データの送信が停止される。
S4-4:通信端末1の配置情報選択部21は、「他からの配信開始イベント」を受信したため、イベントフラグテーブル24に従い共有フラグを「SHARED」に設定する。
S4-5:通信端末1の配置情報選択部21は配置情報管理表23の配置情報No2を選択して画像表示制御部14bに、領域1〜4と表示データと映像データの対応を指示する。
S4-6:また、通信端末1にはステッS4で「他からの配信開始イベント」が通知されているため、イベントフラグテーブル24に従い表示データ制御部22は表示制御フラグ「SHARED_ANOTHER」を外部入力装置1に通知する。
S4-6-1:外部入力装置1のメニュー制御部44は図21(a)の遷移情報テーブル431に基づき、メニュー401の表示を変更するか否かを判定する。
S4-6-2:メニュー制御部44が「共有停止」を表示している状態で、表示制御フラグ「SHARED_ANOTHER」の通知を受けたため、メニュー制御部44は表示装置400に「共有開始」ボタンを表示させる。
S4-6-3:また、メニュー制御部44は、表示制御フラグ「SHARED_ANOTHER」を参照して表示装置400に共有状態402に「他の表示を共有しています」というメッセージを表示する。S4-6-2とS4-6-3により外部入力装置1の表示装置400は図28(d)のようになる。
S3-1:一方、通信端末2の配置情報選択部21は配信開始イベントを取得すると、イベントフラグテーブル24に従い共有フラグを「SHARED」に設定する。
S3-2:通信端末2の配置情報選択部21は配置情報管理表23に従って配置情報No2を選択して、画像表示制御部14bに領域1〜4毎に映像データ及び表示データを割り当てる。すでに、図26のS4-3で配置情報選択部21は配置情報No2を選択しているので、配置情報No2が再度選択される。
S3-3:ステップS3で通信端末2には配信開始イベントが通知されているため、表示データ制御部22はイベントフラグテーブル24に従い表示制御フラグを「SHARED」に設定して外部入力装置2に通知する。
S3-3-1:外部入力装置2のメニュー制御部44は、図21(a)の遷移情報テーブル431に従って、表示制御フラグに応じてメニュー401の表示を変更するか否かを判定する。
S3-3-2:図28(d)に示したように「共有開始」ボタンが表示されている状態で、外部入力装置2が表示制御フラグ「SHARED」を受信したため,メニュー制御部44は表示装置400のメニュー401を「共有停止」ボタンに変更する。
S3-3-3:また、メニュー制御部44は、表示制御フラグ「SHARED」を受信したため、図28(c)に示すように共有状態402に「この表示を共有しています」と表示する。したがって、表示装置400の画面は図28(c)になる。
以上のように、図29の処理が終了すると、外部入力端末1の表示装置400は図28(d)のようになり、外部入力端末2の表示装置400は図28(c)のようになる。すなわち、外部入力端末1では、メニュー401が「共有停止」から「共有開始」に変更され、共有状態402は「この表示を共有しています」から「他の表示を共有しています」に変更される。また、外部入力端末2では、メニュー401が「共有開始」から「共有停止」に変更され、共有状態402が「他の表示を共有しています」から「この表示を共有しています」に変更される。
S4-3で説明したように、外部入力装置1は中継装置30からの「他からの配信開始イベント」に応じて表示データの送信を停止するので、各通信端末10が表示する表示データを1つに制限できる。
<図26、図29のS4−1の配信停止要求の判定>
図30は、通信端末10が「他からの配信開始イベント」を受信した場合に配信停止を要求するか否かを判定する手順を示すフローチャート図の一例である。
この処理は、通信端末10が他から配信開始イベントを受信すると作動する(S410)。
表示データ制御部22は、「他からの配信開始イベント」を受信すると、共有フラグが「SHARED」に設定されているか否かを判定する(S420)。共有フラグが「SHARED」であることは、自機に接続された外部入力装置1又はそれ以外の外部入力装置2が配信している表示データを共有している状態なので、通信端末10はそのままでは「他からの配信開始イベント」に対応できない。
このため、共有フラグが「SHARED」の場合(S420のYes)、表示データ制御部22は中継装置30に配信停止を要求する(S430)。中継装置30は配信停止を要求した通信端末10に対する表示データの配信を停止する。
<図29のS4−2の判定>
中継装置30は通信端末10からの配信停止の要求に対し、通信端末10の表示フラグや表示制御フラグを更新するため、他の全ての通信端末に「配信停止イベント」又は「他からの配信停止イベント」を通知するか否かを判定する。
図31は、中継装置30の判定手順を示すフローチャート図の一例である。
まず、中継装置30は、配信停止が要求された表示データの配信を停止する(510)。
次に、中継装置30は、配信している表示データがまだあるか否かを判定する(S520)。すなわち、中継装置30にテレビ会議に参加している拠点から表示データが送信されており、それを配信しているか否かを判定する。
配信している表示データがまだある場合(S520のYes)、その表示データを配信するため、中継装置30は通信端末に「配信停止イベント」を一切通知しない。
配信している表示データがもうない場合(S520のNo)、全ての通信端末の表示フラグ及び表示制御フラグを更新するため、中継装置30は、配信停止を要求した通信端末に「配信停止イベント」を通知し、他の通信端末に「他からの配信停止イベント」を通知する(S530)。
こうすることで、配信している表示データがまだある場合には、通信端末1,2は共有フラグが「SHARED」のまま表示データの配信を受け付けることができ、配信している表示データがない場合には、外部入力装置1,2に共有制御フラグ「UNSHARED」を通知できる。
〔表示データの送信停止〕
次に、図32のシーケンス図を用いて図29の処理が終了した状態で、外部入力装置2が表示データの送信を停止する手順を説明する。参加者が自機の外部入力装置2から表示データの送信を停止したい場合、参加者は外部入力装置2に表示されているメニュー401の「共有停止」ボタンを押下する。
S1:外部入力装置2の操作入力受け付け部46は「共有停止」ボタンの押下を受け付ける。
S2:表示データ送信部452は、通信端末2に送信停止を通知する。
S2-1:通信端末2の表示データ制御部22は中継装置30に対して配信停止を要求する。中継装置30のデータ品質変更部は、図31に従って「配信停止イベント」を通知するか否かを判定する。
S3、S4:すでに中継装置30が配信している表示データは通信端末2から送信される表示データだけなので、中継装置30は「配信停止イベント」を通信端末2に(S3)、「他からの配信停止イベント」を通信端末1に配信する(S4、図31のS530)。これにより、図25のS4-1-1、S4-1-2の表示データの配信が停止される。なお、中継装置30は「配信停止イベント」を送信する際、図31のS510の表示データの配信の停止を送信しなくてもよいし、「配信停止イベント」と重複するがS510の表示データの配信の停止を送信してもよい。
S3-1:通信端末2の表示データ制御部22は、「配信停止イベント」を受信すると、表示データの送信停止を外部入力装置2に要求する。
S3-1-1:外部入力装置2の表示データ送信部452は、表示データの送信を停止する。この停止により、図25のS-4、S4-1の表示データの送信が停止する。なお、S2で表示データの送信を停止してもよい。
S3-2:通信端末2の配置情報選択部21は、図20のイベントフラグテーブル24に従って共有フラグを「UNSHARED」に設定する。
S3-3: 通信端末2の配置情報選択部21は、共有フラグの設定に応じて、配置情報管理表23の配置情報No1を選択する。これにより、画像表示制御部14bは図27(a)のように、領域1、2に映像データを割り当てて画面を表示する。
S3-4:また、S3で通信端末2には「配信停止イベント」が通知されているため、表示データ制御部22はイベントフラグテーブル24に基づき、表示制御フラグ「UNSHARED」を外部入力装置2に通知する。
S3-4-1:外部入力装置2のメニュー制御部44は図21(a)の遷移条件テーブル431に従い、メニュー401を変更するか否かを判定する。
S3-4-2:外部入力装置2が「共有停止」を表示している状態で、表示制御フラグ「UNSHARED」を受信したため、メニュー制御部44は表示装置400にメニュー401として「共有開始」ボタンを表示する。
S3-4-3:また、メニュー制御部44は表示制御フラグを参照して表示装置400に共有状態402のメッセージを表示する。表示制御フラグが「UNSHARED」の場合、メッセージは「共有していません」となる。
S4:S4.1〜4.3.1はステップ3.2〜3.4とほぼ同様である。
S4-1:通信端末2の表示データ制御部22は、「他からの配信停止イベント」を受信すると、図20のイベントフラグテーブル24に従って共有フラグを「UNSHARED」に設定する。すでに表示データの送信は停止されているので、表示データの送信停止を外部入力装置1に要求する必要はない。
S4-2:通信端末1の配置情報選択部21は、共有フラグの設定に応じて、配置情報管理表23の配置情報No1を選択する。これにより、画像表示制御部14bは図27(a)のように、領域1、2に映像データを割り当てて画面を表示する。
S4-3:また、S4で通信端末1には「他からの配信停止イベント」が通知されているため、表示データ制御部22はイベントフラグテーブル24に基づき、表示制御フラグ「UNSHARED」を外部入力装置1に通知する。
S4-3-1:外部入力装置1のメニュー制御部44は図21(a)の遷移条件テーブル431に従い、メニュー401を変更するか否かを判定する。
S4-3-2:外部入力装置1が「共有開始」を表示している状態で、表示制御フラグ「UNSHARED」を受信したため、メニュー制御部44はそのまま「共有開始」ボタンの表示を継続する。
S4-3-2:また、メニュー制御部44は表示制御フラグを参照して表示装置400に共有状態402のメッセージを表示する。表示制御フラグが「UNSHARED」の場合、メッセージは「共有していません」となる。
以上の処理が終了したことで、外部入力端末1及び外部入力端末2の表示装置400は、いずれも図28(b)のようになる。外部入力端末1では、メニュー401が「共有開始」のまま変更されないが、共有状態402のメッセージは「他の表示を共有しています」から「共有していません」に変更される。また、外部入力端末2では、メニュー401が「共有停止」から「共有開始」に変更され、共有状態402のメッセージが「この表示を共有しています」から「共有していません」に変更される。
<セッション切断時>
図33は、通信端末同士がセッションを切断する処理を示すフローチャート図の一例である。参加者が図2に示されている操作ボタン108を操作して会議の終了(セッションの切断)を指示すると、図4に示されている操作入力受付部12は、通信端末2との会議の終了要求を受け付ける。操作入力受付部12はセッション切断イベントを外部入力装置40に通知する。この他、参加者が通信端末10と外部入力装置40を接続するUSBケーブルを外した場合、通信端末1の電源を落とした場合も、外部入力装置40はセッション切断イベントを検出又は取得する。
メニュー制御部44は、図28(b)〜(d)の画面を表示中、セッション切断イベントの通知を取得したか否かを判定している(S110)。セッション切断イベントの通知を取得していない場合(S110のNo)、メニュー制御部44は図28(b)〜(d)の画面の表示を維持する。
セッション切断イベントの通知を取得した場合(S110のYes)、メニュー制御部44は図28(a)の画面を表示する(S120)。この画面は会議が行われていないことを参加者に通知する画面である。参加者は「会議が行われていません」というメッセージにより、外部入力装置40を操作する必要がないことを把握できる。
外部入力装置40の表示データ送信部452は、表示データを送信している場合には、通信端末1を介して表示データを通信端末2に送信すること停止する(S130)。
また、表示データ取得部451は通信端末1又は2から表示データを取得することを停止する(S140)。
本実施形態の遠隔通信システム1は、外部入力装置40に表示データを共有開始させるためのメニュー401を表示させることができるので、表示データを他の拠点と共有したいテレビ会議の参加者は「共有開始」ボタンを押下するという簡単な操作で、他の拠点に表示データを表示させることができる。したがって、他の拠点の参加者は共有したい表示データを選択するといったような操作を全く行うことなく、注目すべき表示データを特定することができる。
さらに、外部入力装置40は共有状態402のメッセージを表示するので,会議の参加者は、現在、外部入力装置40が表示装置400に表示している表示データが共有されているか否かを確実に知ることができる。例えば、複数の拠点において、同じ資料を表示した複数の外部入力装置40が通信端末に接続されている場合、参加者はどちらの拠点の資料が共有されているのかを直ちに判別でき、操作性を向上できる。
また、図30の処理のように通信端末10が他からの配信イベントの通知を受けた場合、自機に接続された外部入力装置10に配信停止を要求するので、共有可能な表示データを1つに制限できる。これにより、参加者が複数の表示データの中から注目する表示データを選択する、といった操作が不要になり操作性を向上することができる。
1 遠隔通信システム
10 通信端末
11 送受信部(表示データ送信手段の一例)
12 操作入力受付部
13 ログイン要求部
14a 撮像部
14b 画像表示制御部
15a 音声入力部
15b 音声出力部
16 選択処理部
17 遅延検出部
18 外部情報送受信部(表示データ受信手段の一例)
19 記憶・読出処理部
21 配置情報選択部
22 表示データ制御部
23 配置情報管理表
24 イベントフラグテーブル
30 中継装置
40 外部入力装置
41 送受信部
42 接続検出部
43 記憶部
431 遷移条件テーブル
44 メニュー制御部
451 表示データ取得部
452 表示データ送信部
46 操作入力受付部
49 記憶・読出処理部
50 遠隔通信管理システム
400 表示装置
1000 記憶部(宛先情報記憶手段の一例)
米国特許第6760749号明細書

Claims (19)

  1. ネットワークを介して接続された他の機器に、音声又は映像が含まれる会議データを配信する通信端末と接続された外部入力装置であって、
    画像を表示する第1の表示手段と、
    操作を受け付ける操作受け付け手段と、
    前記画像の画像データを取得する画像データ取得手段と、
    前記通信端末を介して前記画像データを他の機器に送信する画像データ送信手段と、
    前記画像データの共有制御操作を受け付ける共有メニューの遷移条件が、前記通信端末から通知される表示制御情報に応じて登録された遷移情報記憶手段と、
    前記通信端末から取得した前記表示制御情報と前記遷移条件に従い特定した共有メニューを前記第1の表示手段に表示するメニュー制御手段と、
    を有することを特徴とする外部入力装置。
  2. 前記表示制御情報は、前記通信端末が当該外部入力装置の前記画像データを他の機器と共有していることを意味する第1の表示制御情報、他の機器の前記画像データを共有していることを意味する第2の表示制御情報、又は、前記画像データを共有しないことを意味する第3の表示制御情報、のいずれかであることを特徴とする請求項1記載の外部入力装置。
  3. 前記メニュー制御手段は、共有メニューが前記画像データの共有開始を受け付ける状態で、前記第1の表示制御情報を取得した場合、共有停止を受け付ける共有メニューを前記第1の表示手段に表示する、
    ことを特徴とする請求項2記載の外部入力装置。
  4. 前記メニュー制御手段は、共有メニューが前記画像データの共有停止を受け付ける状態で、前記第2の表示制御情報、又は、前記第3の表示制御情報を取得した場合、共有開始を受け付ける共有メニューを前記第1の表示手段に表示する、
    ことを特徴とする請求項2記載の外部入力装置。
  5. 前記表示制御情報に対応づけて前記画像データの共有状態を表す共有状態情報が記憶された共有状態情報記憶手段を有し、
    前記メニュー制御手段は、前記表示制御情報を取得した際、前記表示情報制御手段に対応づけられた前記共有状態情報を共有メニューと共に表示する、
    ことを特徴とする請求項2〜4いずれか1項記載の外部入力装置。
  6. 前記メニュー制御手段は、前記第1の表示制御情報を取得した場合、当該外部入力装置の前記画像データを他の機器と共有している旨の前記共有状態情報を前記第1の表示手段に表示する、
    ことを特徴とする請求項5記載の外部入力装置。
  7. 前記メニュー制御手段は、前記第2の表示制御情報を取得した場合、他の機器の前記画像データを他の機器と共有している旨の前記共有状態情報を前記第1の表示手段に表示する、
    ことを特徴とする請求項5記載の外部入力装置。
  8. 前記メニュー制御手段は、前記第3の表示制御情報を取得した場合、前記画像データを他の機器と共有していない旨の前記共有状態情報を前記第1の表示手段に表示する、
    ことを特徴とする請求項5記載の外部入力装置。
  9. 前記通信端末がネットワークを介して他の機器と通信するための接続情報を取得したことを前記通信端末から取得するまで、前記メニュー制御手段は、前記画像データの共有ができないことを前記第1の表示手段に表示する、
    ことを特徴とする請求項1〜8いずれか1項記載の外部入力装置。
  10. 前記通信端末から他の機器との通信を終了するという通知を取得した場合、前記メニュー制御手段は、前記画像データの共有ができないことを前記第1の表示手段に表示する、
    ことを特徴とする請求項1〜9いずれか1項記載の外部入力装置。
  11. 請求項1〜10いずれか1項に記載の外部入力装置と接続された通信端末であって、
    他の機器から通知される前記画像データの配信イベントに対応づけて、前記表示制御情報が記憶された表示制御情報記憶手段と、
    前記配信イベントに対応づけられた前記表示制御情報を特定して、前記外部入力装置に通知する画像データ制御手段と、
    を有する通信端末。
  12. 前記配信イベントは、前記外部入力装置の前記画像データの配信開始を通知する第1の配信イベント、他の機器の前記画像データの配信開始を通知する第2の配信イベント、前記外部入力装置の前記画像データの配信停止を通知する第3の配信イベント、又は、他の機器の前記画像データの配信停止を通知する第4の配信イベントのいずれかである、
    ことを特徴とする請求項11記載の通信端末。
  13. 前記画像データ制御手段は、前記第1の配信イベントの通知を取得した場合、前記表示制御情報記憶手段にて該通知に対応付けられた、前記通信端末が前記外部入力装置の前記画像データを他の機器と共有していることを意味する第1の表示制御情報、を前記外部入力装置に通知する、
    ことを特徴とする請求項12記載の通信端末。
  14. 前記画像データ制御手段は、前記第2の配信イベントの通知を取得した場合、前記外部入力装置に前記画像データの送信停止を要求し、前記表示制御情報記憶手段にて該通知に対応付けられた、他の機器の前記画像データを共有していることを意味する第2の表示制御情報、を前記外部入力装置に通知する、
    ことを特徴とする請求項12又は13記載の通信端末。
  15. 前記映像の映像データを表示する第2の表示手段と、
    前記配信イベントに対応づけて、前記第2の表示手段を映像データと前記画像データと共有するための共有情報が記憶された共有情報記憶手段と、
    前記共有情報に応じて、前記第2の表示手段の複数の領域と、映像データ及び前記画像データを対応づける配置情報が記憶された配置情報記憶手段と、
    前記共有情報記憶手段にて他の機器から通知された前記配信イベントに対応づけられた前記共有情報を決定し、該共有情報に対応付けられた前記配置情報に基づき、前記領域に映像データ又は前記画像データを表示する画像表示制御手段と、
    を請求項11〜14いずれか1項記載の通信端末。
  16. 前記画像表示制御手段は、前記第1の配信イベントの通知を取得した場合、又は、前記第2の配信イベントの通知を取得した場合、最も大きい前記領域に前記画像データを表示し、その他の前記領域に映像データを表示する、
    請求項15記載の通信端末。
  17. ネットワークを介して接続された他の機器に音声又は映像が含まれる会議データを配信する通信端末と、該通信端末と接続された外部入力装置を有する表示データ共有システムであって、
    画像を表示する第1の表示手段と、
    操作を受け付ける操作受け付け手段と、
    前記画像の画像データを取得する画像データ取得手段と、
    前記通信端末を介して前記画像データを他の機器に送信する画像データ送信手段と、
    前記画像データの共有制御操作を受け付ける共有メニューの遷移条件が、前記通信端末から通知される表示制御情報に応じて登録された遷移情報記憶手段と、
    前記通信端末から取得した前記表示制御情報と前記遷移条件に従い特定した共有メニューを前記第1の表示手段に表示するメニュー制御手段と、
    を有することを特徴とする表示データ共有システム。
  18. ネットワークを介して接続された他の機器に、音声又は映像が含まれる会議データを配信する通信端末と接続された外部入力装置に、
    第1の表示手段に表示された画像の画像データを取得する画像データ取得ステップと、
    前記通信端末を介して前記画像データを他の機器に送信する画像データ送信ステップと、
    前記通信端末から表示制御情報の通知を受信するステップと、
    前記通信端末から受信した前記表示制御情報に基づき、前記表示制御情報に応じて前記第1の表示手段に表示する前記画像データの共有制御操作を受け付けるための共有メニューを特定する遷移条件が登録された遷移情報記憶手段を参照して共有メニューを特定するステップと、
    前記第1の表示手段に共有メニューを表示するメニュー制御ステップと、
    を実行させるプログラム。
  19. 請求項18に記載の外部入力装置と接続された通信端末に、
    他の機器から前記画像データの配信イベントの通知を受信するステップと、
    前記配信イベントに対応づけて前記表示制御情報が記憶された表示制御情報記憶手段から、通知された前記配信イベントに対応づけられた前記表示制御情報を特定するステップと、
    前記外部入力装置に前記表示制御情報を通知するステップと、
    を実行させるプログラム。
JP2011175417A 2010-11-30 2011-08-10 外部入力装置、通信端末、表示データ共有システム、プログラム Active JP5887756B2 (ja)

Priority Applications (8)

Application Number Priority Date Filing Date Title
JP2011175417A JP5887756B2 (ja) 2010-11-30 2011-08-10 外部入力装置、通信端末、表示データ共有システム、プログラム
CA2817947A CA2817947C (en) 2010-11-30 2011-11-16 External input apparatus, communication terminal, display data sharing system and computer readable information recording medium
SG2013037353A SG190291A1 (en) 2010-11-30 2011-11-16 External input apparatus, communication terminal, display data sharing system and computer readable information recording medium
PCT/JP2011/076972 WO2012073768A1 (en) 2010-11-30 2011-11-16 External input apparatus, communication terminal, display data sharing system and computer readable information recording medium
CN201180065653.2A CN103329515B (zh) 2010-11-30 2011-11-16 外部输入装置、通信终端、显示数据共享系统
AU2011337919A AU2011337919B2 (en) 2010-11-30 2011-11-16 External input apparatus, communication terminal, display data sharing system and computer readable information recording medium
EP11844298.7A EP2647197B1 (en) 2010-11-30 2011-11-16 External input apparatus, communication terminal, display data sharing system and computer readable information recording medium
US13/988,062 US9319631B2 (en) 2010-11-30 2011-11-16 External input apparatus, communication terminal, display data sharing system and computer readable information recording medium

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2010267774 2010-11-30
JP2010267774 2010-11-30
JP2011175417A JP5887756B2 (ja) 2010-11-30 2011-08-10 外部入力装置、通信端末、表示データ共有システム、プログラム

Publications (2)

Publication Number Publication Date
JP2012134941A true JP2012134941A (ja) 2012-07-12
JP5887756B2 JP5887756B2 (ja) 2016-03-16

Family

ID=46171710

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011175417A Active JP5887756B2 (ja) 2010-11-30 2011-08-10 外部入力装置、通信端末、表示データ共有システム、プログラム

Country Status (8)

Country Link
US (1) US9319631B2 (ja)
EP (1) EP2647197B1 (ja)
JP (1) JP5887756B2 (ja)
CN (1) CN103329515B (ja)
AU (1) AU2011337919B2 (ja)
CA (1) CA2817947C (ja)
SG (1) SG190291A1 (ja)
WO (1) WO2012073768A1 (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014033263A (ja) * 2012-08-01 2014-02-20 Ricoh Co Ltd 伝送管理システム、伝送システム、及び伝送管理システム用プログラム
WO2014185362A1 (en) 2013-05-16 2014-11-20 Ricoh Company, Ltd. Program, information processing system, and information processing device
JP2015082207A (ja) * 2013-10-22 2015-04-27 キヤノンマーケティングジャパン株式会社 情報処理装置、情報処理システム、その制御方法及びプログラム
US9215415B2 (en) 2013-03-12 2015-12-15 Ricoh Company, Ltd. Communication server, communication system, and communication method
JP2016039553A (ja) * 2014-08-08 2016-03-22 株式会社リコー 通信装置、通信システム、通信方法およびプログラム
US9386279B2 (en) 2012-12-10 2016-07-05 Ricoh Company, Ltd. Information processing apparatus, information processing method, and information processing system
US9519451B2 (en) 2013-06-12 2016-12-13 Ricoh Company, Ltd. Communication system and information processing device
US9565393B2 (en) 2012-10-29 2017-02-07 Ricoh Company, Ltd. Communication terminal, teleconference system, and recording medium
US9779056B2 (en) 2012-09-12 2017-10-03 Ricoh Company, Ltd. Communication server, communication system, program, and communication method
US10740059B2 (en) 2012-03-22 2020-08-11 Ricoh Company, Ltd. Communication system, communication device, and computer program

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6182935B2 (ja) 2013-03-29 2017-08-23 株式会社リコー 通信管理システム、通信管理方法、プログラム、及び通信システム
CN104954149B (zh) * 2014-03-26 2018-10-30 华为技术有限公司 网络会议中进行数据共享的方法、装置及系统
JP6364965B2 (ja) * 2014-03-31 2018-08-01 株式会社リコー 伝送端末、プログラム、伝送方法、伝送システム
JP6476711B2 (ja) * 2014-10-07 2019-03-06 株式会社リコー 伝送システム、通信制御装置、伝送端末、通信方法、送信方法、プログラム
JP6661940B2 (ja) 2015-09-29 2020-03-11 株式会社リコー 通信端末、通信システム、制御方法、及びプログラム
KR102412283B1 (ko) * 2016-02-17 2022-06-23 삼성전자 주식회사 전자 장치 및 전자 장치의 영상 공유 제어 방법
US10511700B2 (en) 2016-02-25 2019-12-17 Ricoh Company, Ltd. Communication terminal with first application displaying status of second application
EP3247112A1 (en) 2016-05-20 2017-11-22 Ricoh Company, Ltd. Information processing apparatus, communication system, and information processing method
US20170346688A1 (en) * 2016-05-26 2017-11-30 Pentair Water Pool And Spa, Inc. Installation Devices for Connecting Pool or Spa Devices to a Local Area Network
US10356361B2 (en) 2016-09-16 2019-07-16 Ricoh Company, Ltd. Communication terminal, communication system, and display method
JP6935673B2 (ja) * 2017-03-22 2021-09-15 コニカミノルタ株式会社 情報処理機器
CN110519553B (zh) * 2018-05-22 2021-02-26 杭州海康威视数字技术股份有限公司 视频流转发控制方法、装置、电子设备及可读存储介质
KR102345503B1 (ko) * 2020-03-03 2022-01-03 주식회사 하이퍼커넥트 중개 방법 및 컴퓨터 판독 가능한 기록매체

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1023383A (ja) * 1996-07-03 1998-01-23 Matsushita Electric Ind Co Ltd テレビ会議システム
JP2000341659A (ja) * 1999-05-31 2000-12-08 Toshiba Corp リモートプレゼンテーションシステム、処理装置、及び記録媒体
JP2003289515A (ja) * 2002-03-28 2003-10-10 Matsushita Electric Ind Co Ltd 講義システム
JP2008234072A (ja) * 2007-03-16 2008-10-02 Ricoh Co Ltd 画面共有システム、画面共有プログラム及びプログラム配信方法
US20080294992A1 (en) * 2007-05-24 2008-11-27 Neil Liang Methods and apparatuses for displaying and managing content during a collaboration session

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3846666B2 (ja) * 1998-09-24 2006-11-15 富士通株式会社 共有画面制御装置
US6760749B1 (en) 2000-05-10 2004-07-06 Polycom, Inc. Interactive conference content distribution device and methods of use thereof
US20040207719A1 (en) * 2003-04-15 2004-10-21 Tervo Timo P. Method and apparatus for exploiting video streaming services of mobile terminals via proximity connections
JP2006018430A (ja) 2004-06-30 2006-01-19 Ricoh Co Ltd 情報処理装置、ネットワークシステム、プログラム、データ構造及び記憶媒体
DE102006001607B4 (de) * 2005-01-14 2013-02-28 Mediatek Inc. Verfahren und Systeme zur Übertragung von Ton- und Bilddaten
KR20090011436A (ko) * 2007-07-26 2009-02-02 삼성전자주식회사 디스플레이장치와, 디스플레이장치의 제어방법 및 이를포함하는 디스플레이시스템
JP5029429B2 (ja) * 2008-03-03 2012-09-19 ブラザー工業株式会社 サーバ装置及びそれを備えたプロジェクタ及び表示システム
JP2011254442A (ja) 2010-05-06 2011-12-15 Ricoh Co Ltd 遠隔通信端末、遠隔通信方法、及び遠隔通信用プログラム
JP5849484B2 (ja) 2010-09-16 2016-01-27 株式会社リコー 伝送端末、表示データ送信方法、プログラム、情報提供装置及び伝送システム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1023383A (ja) * 1996-07-03 1998-01-23 Matsushita Electric Ind Co Ltd テレビ会議システム
JP2000341659A (ja) * 1999-05-31 2000-12-08 Toshiba Corp リモートプレゼンテーションシステム、処理装置、及び記録媒体
JP2003289515A (ja) * 2002-03-28 2003-10-10 Matsushita Electric Ind Co Ltd 講義システム
JP2008234072A (ja) * 2007-03-16 2008-10-02 Ricoh Co Ltd 画面共有システム、画面共有プログラム及びプログラム配信方法
US20080294992A1 (en) * 2007-05-24 2008-11-27 Neil Liang Methods and apparatuses for displaying and managing content during a collaboration session

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10740059B2 (en) 2012-03-22 2020-08-11 Ricoh Company, Ltd. Communication system, communication device, and computer program
US11256464B2 (en) 2012-03-22 2022-02-22 Ricoh Company, Ltd. Communication system, communication device, and computer program
JP2014033263A (ja) * 2012-08-01 2014-02-20 Ricoh Co Ltd 伝送管理システム、伝送システム、及び伝送管理システム用プログラム
US9779056B2 (en) 2012-09-12 2017-10-03 Ricoh Company, Ltd. Communication server, communication system, program, and communication method
US9565393B2 (en) 2012-10-29 2017-02-07 Ricoh Company, Ltd. Communication terminal, teleconference system, and recording medium
US9386279B2 (en) 2012-12-10 2016-07-05 Ricoh Company, Ltd. Information processing apparatus, information processing method, and information processing system
US9215415B2 (en) 2013-03-12 2015-12-15 Ricoh Company, Ltd. Communication server, communication system, and communication method
WO2014185362A1 (en) 2013-05-16 2014-11-20 Ricoh Company, Ltd. Program, information processing system, and information processing device
US10310799B2 (en) 2013-05-16 2019-06-04 Ricoh Company, Ltd. Program, information processing system, and information processing device for automatically setting a language for a display screen when being connected to a transmission terminal
US9519451B2 (en) 2013-06-12 2016-12-13 Ricoh Company, Ltd. Communication system and information processing device
JP2015082207A (ja) * 2013-10-22 2015-04-27 キヤノンマーケティングジャパン株式会社 情報処理装置、情報処理システム、その制御方法及びプログラム
JP2016039553A (ja) * 2014-08-08 2016-03-22 株式会社リコー 通信装置、通信システム、通信方法およびプログラム

Also Published As

Publication number Publication date
SG190291A1 (en) 2013-06-28
AU2011337919B2 (en) 2015-09-03
CN103329515A (zh) 2013-09-25
EP2647197B1 (en) 2019-01-02
CN103329515B (zh) 2017-06-20
US20130242033A1 (en) 2013-09-19
EP2647197A1 (en) 2013-10-09
JP5887756B2 (ja) 2016-03-16
WO2012073768A1 (en) 2012-06-07
EP2647197A4 (en) 2014-07-30
AU2011337919A1 (en) 2013-06-13
CA2817947A1 (en) 2012-06-07
US9319631B2 (en) 2016-04-19
CA2817947C (en) 2017-01-03

Similar Documents

Publication Publication Date Title
JP5887756B2 (ja) 外部入力装置、通信端末、表示データ共有システム、プログラム
JP6260596B2 (ja) 伝送端末、データ伝送方法、及びプログラム
JP5962098B2 (ja) 伝送端末、伝送システム、表示制御方法、及びプログラム
JP5953689B2 (ja) 伝送管理システム、伝送システム、及び伝送管理システム用プログラム
JP5655499B2 (ja) 伝送管理システム、伝送システム、伝送管理用プログラム、プログラム提供システム、及びメンテナンスシステム
JP5811334B2 (ja) 伝送管理システム、伝送管理方法、プログラム、及び伝送システム
JP6171303B2 (ja) 伝送端末、伝送方法、及びプログラム
JP5942364B2 (ja) 伝送管理システム、伝送システム、及びプログラム
JP5983792B2 (ja) 伝送システム、及び伝送方法
JP7264205B2 (ja) 伝送システム、第一の伝送端末、伝送方法、表示方法、及びプログラム
JP5561079B2 (ja) 通話端末、通話システム、通話端末用プログラム、及び通信方法
JP5870557B2 (ja) 伝送管理システム、及び伝送管理用プログラム
JP5621516B2 (ja) 遠隔通信端末、及び遠隔通信プログラム
JP2014072703A (ja) 伝送管理システム、伝送システム、伝送管理方法、及びプログラム
JP2012118751A (ja) 外部入力装置、表示データ作成方法、プログラム
JP6255788B2 (ja) 通信端末、通信システムおよび通信方法並びにプログラム
JP2017212712A (ja) 情報処理装置、伝送システム、プログラム
JP2016171373A (ja) サービス提供装置、通信方法、通信システム、及び、プログラム
JP6593392B2 (ja) 伝送方法、中継装置、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140711

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150901

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151102

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160119

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160201

R151 Written notification of patent or utility model registration

Ref document number: 5887756

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151