次に、本発明を実施するための形態を、以下の実施例に基づき図面を参照しつつ説明する。以下で説明する実施例は一例に過ぎず、本発明が適用される実施の形態は、以下の実施例に限られない。
なお、実施例を説明するための全図において、同一機能を有するものは同一符号を用い、繰り返しの説明は省略する。
<実施例>
<遠隔通信システム>
本実施形態の遠隔通信システム1の概略的な特徴は、以下のようになる。
(1)異なる2つの拠点にある外部入力装置A、Bはそれぞれ表示装置に資料の表示データの共有を開始するためのメニューを表示し、それぞれが表示データを配信できる。一方、例えば、外部入力装置Aと接続された通信端末αが、中継装置経由で外部入力装置Bから表示データの配信が開始されるというイベント通知を受信する。外部入力装置Aはそれまで送信していた表示データの送信を停止し、表示データの共有を開始するためのメニューを再度表示する。また、通信端末αは、外部入力装置Bから受信した表示データを表示する。
したがって、通信端末αが表示する共有の表示データを1つに制限することができ、TV会議の参加者が複数の表示データの中から選択する必要がない。
(2)また、外部入力装置A、Bはイベント通知に応じて表示データの共有状態を示すメッセージを表示する。これにより、参加者は、通信端末α、βが表示している表示データの共有態様を把握することができる。
(3)また、通信端末α、βは、中継装置からのイベント通知に応じて、映像データや表示データを1つの画面に強調して(拡大して)配置するので、参加者が表示データや映像データの表示を切り替えることなく、着目すべき表示データを提供できる。
(4)また、通信端末α、βは、映像データや表示データを共有、同期する際に、送信側が送信した映像データや表示データと受信側が受信した映像データや表示データとを比較し、その差異を一定の基準で判断する。これにより、送信側と受信側の各ユーザは、共有している映像データや表示データの端末間での品質レベルの確認を容易にできる。
<遠隔通信システムの構成>
図1は、遠隔通信システムの構成図の一例である。遠隔通信システムは、一例として地域Aと地域Bに分かれて、各地域に通信端末10が配置されているが、最少、2つの通信端末があれば遠隔通信が可能である。
遠隔通信システム1は、複数の通信端末(10aa,10ab,…,10db)、各通信端末(10aa,10ab,…,10db)用のディスプレイ(100aa,100ab,…,100db)を有する。さらに、遠隔通信システム1は、複数の中継装置(30a,30b,30c,30d)、遠隔通信管理システム50、プログラム提供システム90、および、外部入力装置40を有する。
なお、通信端末(10aa,10ab,…,10db)のうち任意の通信端末を示す場合には「通信端末10」を用いる。ディスプレイ(100aa,100ab,…,100db)のうち任意のディスプレイを示す場合には「ディスプレイ100」を用いる。中継装置(30a,30b,30c,30d)のうち任意の中継装置を示す場合には「中継装置30」を用いる。外部入力装置(40aa,40ab,…,40db)のうち任意の外部入力装置を示す場合には「外部入力装置40」を用いる。
通信端末10は、他の通信端末10との間で、画像データ、音声データ等のコンテンツの送受信を行う。本実施形態では、画像データの画像が動画の場合について説明するが、動画だけでなく静止画であってもよい。また、画像データの画像には、動画と静止画の両方が含まれてもよい。中継装置30は、複数の通信端末10との間で、画像データおよび音声データの中継を行う。遠隔通信管理システム50は、通信端末10および中継装置30を一元的に管理する。
外部入力装置40は、通信端末10と接続され、通信端末10に対して資料データを表示するための表示データを送信する。ここでの資料データとは、たとえば、文書作成ソフトウェア、表計算ソフトウェア、プレゼンテーション用ソフトウェア等を用いて利用されるデータを意味する。
また、図1に示されている複数のルータ(70a,70b,…,70f)は、画像データおよび音声データの最適な経路の選択を行う。なお、本実施形態では、ルータ(70a,70b,…,70f)のうち任意のルータを示す場合には「ルータ70」を用いる。
プログラム提供システム90は、通信端末10に各種機能又は各種手段を実現させるための通信端末用プログラムが記憶された、不図示のHDD(Hard Disk Drive)を備えており、通信端末10に、通信端末用プログラムを送信することができる。また、プログラム提供システム90のHDDには、中継装置30に各種機能又は各種手段を実現させるための中継装置用プログラムも記憶されており、中継装置30に、中継装置用プログラムを送信することができる。更に、プログラム提供システム90のHDDには、遠隔通信管理システム50に各種機能又は各種手段を実現させるための遠隔通信管理用プログラムも記憶されており、遠隔通信管理システム50に、遠隔通信管理用プログラムを送信することができる。
また、通信端末10aa、通信端末10ab、中継装置30a、および、ルータ70aは、LAN2aによって互いに通信可能に接続されている。通信端末10ba、通信端末10bb、中継装置30b、および、ルータ70bは、LAN2bによって互いに通信可能に接続されている。また、LAN2aおよびLAN2bは、ルータ70cが含まれた専用線2abによって通信可能に接続されており、所定の地域A内で構築されている。例えば、地域Aは日本であり、LAN2aは東京の事業所内で構築されており、LAN2bは大阪の事業所内で構築されている。
一方、通信端末10ca、通信端末10cb、中継装置30c、および、ルータ70dは、LAN2cによって互いに通信可能に接続されている。通信端末10da、通信端末10db、中継装置30d、および、ルータ70eは、LAN2dによって互いに通信可能に接続されている。また、LAN2cおよびLAN2dは、ルータ70fが含まれた専用線2cdによって通信可能に接続されており、所定の地域B内で構築されている。例えば、地域Bはアメリカであり、LAN2cはニューヨークの事業所内で構築されており、LAN2dはワシントンD.C.の事業所内で構築されている。
地域Aおよび地域Bは、それぞれルータ(70c,70f)からインターネット2iを介して通信可能に接続されている。
また、遠隔通信管理システム50、および、プログラム提供システム90は、インターネット2iを介して、通信端末10および中継装置30と通信可能に接続されている。遠隔通信管理システム50、およびプログラム提供システム90は、地域A又は地域Bに設置されていてもよいし、これら以外の地域に設置されていてもよい。
なお、本実施形態では、LAN2a、LAN2b、専用線2ab、インターネット2i、専用線2cd、LAN2c、およびLAN2dによって、本実施形態の通信ネットワーク2が構築されている。
また、図1において、各通信端末10、各中継装置30、遠隔通信管理システム50、各ルータ70、および、プログラム提供システム90の下に示されている4組の数字は、一般的なIPv4におけるIPアドレスを簡易的に示している。例えば、通信端末10aaのIPアドレスは「1.2.1.3」である。また、IPv4ではなく、IPv6を用いてもよいが、説明を簡略化するため、IPv4を用いて説明する。
<ハードウェア構成>
次に、各機器のハードウェア構成を説明する。本実施形態では、中継先としての通信端末10で画像データの受信に遅延が生じた場合に、中継装置30によって画像データの画像の解像度を変更してから、中継先としての通信端末10へ画像データを送信する場合について説明する。
図2は、通信端末10のハードウェア構成図の一例である。図2に示されているように、本実施形態の通信端末10は、通信端末10全体の動作を制御するCPU(Central Processing Unit)101、通信端末用プログラムを記憶したROM(Read Only Memory)102を備えている。さらに、通信端末10は、CPU101のワークエリアとして使用されるRAM(Random Access Memory)103、画像データや音声データ等の各種データを記憶するフラッシュメモリ104、CPU101の制御にしたがってフラッシュメモリ104に対する各種データの読み出し又は書き込みを制御するSSD(Solid State Drive)105を備えている。さらに、通信端末10は、フラッシュメモリ等の記録メディア106に対するデータの読み出し又は書き込み(記憶)を制御するメディアドライブ107、通信端末10の宛先を選択する場合などに操作される操作ボタン108、通信端末10の電源のON/OFFを切り換えるための電源スイッチ109を備えている。さらに、通信端末10は、後述の通信ネットワーク2を利用してデータ伝送をするためのネットワークI/F111、CPU101の制御に従って被写体を撮像し画像データを得るCCD(Charge Coupled Device)112、このCCD112の駆動を制御する撮像素子I/F113を備えている。さらに、通信端末10は、音声を入力するマイク114、音声を出力するスピーカ115、CPU101の制御に従ってマイク114およびスピーカ115との間で音声信号の入出力を処理する音声入出力I/F116を備えている。さらに、通信端末10は、CPU101の制御に従って外付けのディスプレイ100に画像データを伝送するディスプレイI/F117、外部の装置と各種データを送受信する外部装置I/F118および上記各構成要素を図2に示されているように電気的に接続するためのアドレスバスやデータバス等のバスライン110を備えている。
なお、記録メディア106は、通信端末10に対して着脱自在な構成となっている。また、CPU101の制御にしたがってデータの読み出し又は書き込みを行う不揮発性メモリであれば、フラッシュメモリ104に限らず、EEPROM(Electrically Erasable and Programmable ROM)等を用いてもよい。更に、CCD112は、光を電荷に変換して被写体の画像(映像)を電子化する固体撮像素子であり、被写体を撮像するものであればCCDに限らず、CMOS(Complementary Metal Oxide Semiconductor)等を用いてもよい。また、ディスプレイ100は、被写体の画像や操作用アイコン等を表示する液晶や有機ELによって構成されている。
更に、上記通信端末用プログラムは、インストール可能な形式又は実行可能な形式のファイルで、上記記録メディア106等の、コンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。
図3は、本発明の一実施形態に係る遠隔通信管理システム50のハードウェア構成図の一例である。遠隔通信管理システム50は、遠隔通信管理システム50全体の動作を制御するCPU201、遠隔通信管理用プログラムを記憶したROM202、CPU201のワークエリアとして使用されるRAM203、各種データを記憶するHD(Hard Disk)204を備えている。さらに、遠隔通信管理システム50は、CPU201の制御にしたがってHD204に対する各種データの読み出し又は書き込みを制御するHDD(Hard Disk Drive)205、フラッシュメモリ等の記録メディア206に対するデータの読み出し又は書き込み(記憶)を制御するメディアドライブ207、カーソル、メニュー、ウィンドウ、文字、又は画像などの各種情報を表示するディスプレイ208を備えている。さらに、遠隔通信管理システム50は、後述の通信ネットワーク2を利用してデータ伝送をするためのネットワークI/F209、文字、数値、各種指示などの入力のための複数のキーを備えたキーボード211を備えている。さらに、遠隔通信管理システム50は、各種指示の選択や実行、処理対象の選択、カーソルの移動などを行うマウス212、着脱可能な記録媒体の一例としてのCD−ROM(Compact Disc Read Only Memory)213に対するデータの読み出し又は書き込みを制御するCD−ROMドライブ214を備えている。さらに、遠隔通信管理システム50は、外部の装置と情報を送受信する外部装置I/F215および、上記各構成要素を図3に示されているように電気的に接続するためのアドレスバスやデータバス等のバスライン210を備えている。
なお、上記遠隔通信管理用プログラムは、インストール可能な形式又は実行可能な形式のファイルで、上記記録メディア206やCD−ROM213等のコンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。
また、外部入力装置40は、上記遠隔通信管理システム50と同様のハードウェア構成が適用できる。但し、ROM202には、外部入力装置40を制御するための外部入力装置用プログラムが記録されている。この場合も、外部入力装置用プログラムは、インストール可能な形式又は実行可能な形式のファイルで、上記記録メディア206やCD−ROM213等のコンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。
また、中継装置30は、上記遠隔通信管理システム50と同様のハードウェア構成を適用できる。但し、ROM202には、中継装置30を制御するための中継装置用プログラムが記録されている。この場合も、中継装置用プログラムは、インストール可能な形式又は実行可能な形式のファイルで、上記記録メディア206やCD−ROM213等のコンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。
更に、プログラム提供システム90は、上記遠隔通信管理システム50と同様のハードウェア構成を適用できる。但し、ROM202には、プログラム提供システム90を制御するためのプログラム提供用プログラムが記録されている。この場合も、プログラム提供用プログラムは、インストール可能な形式又は実行可能な形式のファイルで、上記記録メディア206やCD−ROM213等のコンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。
なお、上記着脱可能な記録媒体の他の例として、CD−R(Compact Disc Recordable)、DVD(Digital Versatile Disk)、ブルーレイディスク等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。
図4は、本実施形態の遠隔通信システム1を構成する各端末、装置およびシステムの機能ブロック図の一例である。図4では、通信端末10、中継装置30、および遠隔通信管理システム50が、通信ネットワーク2を介してデータ通信することができるように接続されている。外部入力装置40は、通信端末10とデータを送受信することができるように、例えばUSBケーブルにより接続されている。図1に示されているプログラム提供システム90は、テレビ会議の通信において直接関係ないため、図4では省略されている。また、図5は、外部入力装置40の機能ブロック図の一例であるが、説明を容易にするため、図4の通信端末10の機能ブロック図を再掲した。
<通信端末の機能構成>
通信端末10は、送受信部11、操作入力受付部12、ログイン要求部13、撮像部14a、画像表示制御部14b、表示画像解析部14c、品質同期判定部14d、音声入力部15a、音声出力部15b、選択処理部16、遅延検出部17、外部情報送受信部18、記憶・読出処理部19、配置情報選択部21、および、表示データ制御部22を有している。これら各部は、図2に示されている各構成要素のいずれかが、ROM202に記憶されているプログラムに従ったCPU201からの命令によって動作することで実現される機能又は手段である。
通信端末10に外部入力装置40が接続されている場合、外部入力装置40は表示データを取得して通信端末10に送信する。通信端末10は表示データを受信すると、通信ネットワーク2を介して中継装置30に送信する。
また、通信端末10は、図2に示されているROM102、RAM103、フラッシュメモリ104のいずれかによって構築される記憶部1000を有している。記憶部1000には配置情報管理表23、イベントフラグテーブル24、資料管理テーブル25、および、品質同期判断基準26が記憶されている。
<通信端末の各機能部>
次に、通信端末の各部を詳細に説明する。通信端末10の送受信部11は、図2に示されているネットワークI/F111によって実現され、通信ネットワーク2を介して他の端末、装置又はシステムと各種データ(情報)の送受信を行う。操作入力受付部12は、図2に示されている操作ボタン108、および電源スイッチ109によって実現され、利用者による各種入力を受け付ける。例えば、利用者が、図2に示されている電源スイッチ109をONにすると、図4に示されている操作入力受付部12が電源ONを受け付けて、電源をONにする。ログイン要求部13は、図2に示されているCPU101からの命令によって実現され、上記電源ONの受け付けを契機として、送受信部11から通信ネットワーク2を介して遠隔通信管理システム50に、ログインを要求する旨を示すログイン要求情報、および通信端末10abの現時点のIPアドレスを自動的に送信する。
撮像部14aは、図2に示されているCCD112、および撮像素子I/F113によって実現され、被写体を撮像して、この撮像して得た画像データを出力する。
画像表示制御部14bは、図2に示されているディスプレイI/F117によって実現され、外付けのディスプレイ100に対して画像データを送信するための制御を行う。画像表示制御部14bは自機である通信端末10および他の通信端末10の撮像部14aで撮像された映像データの他に、自機である通信端末10に接続された外部入力装置40の表示装置400で表示され、キャプチャされた表示データ、他の通信端末10との間で共有する表示データを表示する。画像表示制御部14bは、映像データや表示データの表示領域を制御する機能をもつ。
表示画像解析部14cは、画像表示制御部14bにより表示される他の通信端末10の撮像部14aで撮像された映像データや表示データの品質を解析する。
品質同期判断部14dは、品質同期判断基準26に基づいて、表示画像解析部14cにより品質の解析が行われる他の通信端末10の撮像部14aで撮像された映像データや表示データと、画像表示制御部14bにより表示される映像データや表示データとを比較し、品質の差異に基づいて、品質が同期しているか否かを判断する。
音声入力部15aは、図2に示されているマイク114、および音声入出力I/F116によって実現され、利用者の音声を入力し、この音声を音声信号に変換することで、音声信号に係る音声データを出力する。音声出力部15bは、図2に示されているスピーカ115、および音声入出力I/F116によって実現され、音声データに係る音声信号を音声に変換して出力する。音声入力部15aは音声信号の入力レベルを測定しそれを閾値などと比較することで、音声信号の有無について判定する。
配置情報選択部21は表示データの配信イベントに基づき、イベントフラグテーブル24から共有フラグを選択し配置情報管理表23に設定することで、画像表示制御部14bにディスプレイ100に表示させる画面の配置情報を指示する。配置情報管理表23、イベントフラグテーブル24、および品質同期判断基準26を用いた制御の詳細は後述する。
選択処理部16は、複数の中継装置30から最終的に1つの中継装置30に絞り込む最終絞り込み処理を行う。選択処理部16は、送受信部11によって受信された後述の事前送信情報毎に、送受信部11によって事前送信情報が受信される際の受信日時を計測する。選択処理部16は、受信日時が計測された事前送信情報毎に、この計測された受信時間と、この事前送信情報に含まれている送信日時との差に基づいて、事前送信情報の送信から受信までの所要時間を算出する。選択処理部16は、算出された所要時間のうち最短の所要時間を要した事前送信情報が中継された中継装置30を選択することで、最終的に1つの中継装置30を選択する。
遅延検出部17は、図2に示されているCPU101からの命令によって実現され、他の通信端末10から中継装置30を介して送られて来る画像データ又は音声データの遅延時間(ms)を検出する。また、外部情報送受信部18は、外部装置I/F215により外部入力装置40とデータを送受信する。また、記憶・読出処理部19は、図2に示すSSD105を実体として、記憶部1000に各種データを記憶したり、記憶部1000に記憶された各種データを読み出したりする処理を行う。記憶部1000には、通信端末10を識別するための端末ID(Identification)、およびパスワード、並びに、画像データ、および音声データ、各種データを送信する中継装置30を識別する中継装置ID、宛先端末のIPアドレス等が記憶される。
表示データ制御部22は、外部入力装置40の表示データを取得するものであり、取得した表示データを通信端末10に送信する。表示データとは、表示装置400の画面に表示された画像をJPEG(Joint Photographic Experts Group)やBitmap等の形式にした画像データ、GDI(Graphics Device Interface )等の形式にした描画コマンドを表す。表示データには資料データが含まれる場合も資料データが含まれない単なるデスクトップ画面の場合もある。
また、表示データ制御部22は、外部入力装置40からの要求に応じて、中継装置30に対して表示データの配信開始の要求や配信停止の要求を行う。また、中継装置30からの配信イベントに応じてイベントフラグテーブル24を参照して表示制御フラグの状態を決定し、表示制御フラグを外部入力装置40へ送信する。表示制御フラグについては後述する。
なお、本実施形態の端末ID、および後述の中継装置IDは、それぞれ通信端末10、および中継装置30を一意に識別するために使われる言語、文字、記号、又は各種のしるし等の識別情報を示す。また、端末ID、および中継装置IDは、上記言語、文字、記号、および各種のしるしのうち、少なくとも2つが組み合わされた識別情報であってもよい。また、以下では、テレビ会議の開始を要求する要求元としての通信端末10を「要求元端末10A」とし、要求先である宛先としての通信端末10を「宛先端末10B」として説明する。
<外部入力装置の機能構成>
外部入力装置40は、図5に示されているように、送受信部41、接続検出部42、記憶部43、表示データ取得部451、表示データ送信部452、メニュー制御部44、操作入力受付部46、および、記憶・読出処理部49を有している。これら各部は、図3に示されている各構成要素のいずれかが、ROM202に記憶されているプログラムに従ったCPU201からの命令によって動作することで実現される機能又は手段である。また、外部入力装置40は、図3に示されているディスプレイ208によって構築される表示装置400を有している。また、外部入力装置40は、Windows(登録商標)等のOS(Operating System)を搭載し、これにより、他の装置と接続したときにはプログラムを実行する機能を備えている。
<外部入力装置の各機能部>
次に、外部入力装置40の各部を詳細に説明する。外部入力装置40の送受信部41は、図3に示されているネットワークI/F209によって実現され、通信端末10から各種データ(情報)の送受信を行う。接続検出部42は外部装置I/F215により通信端末10とデータの送受信が可能となったことを検出する。操作入力受付部46は、キーボードやマウスにより実現され利用者の操作による入力を受け付ける。
表示データ取得部451は、表示装置400の画面をキャプチャするなどして外部入力装置40の表示データを取得するものであり、表示データ送信部452は、表示データ取得部451が取得した表示データを通信端末10に送信するものである。
記憶・読出処理部49は、図3に示されているHDD205を実体とし各種データを記憶したり、記憶部43に記憶された各種データを読み出したりする処理を行う。記憶部43は、HDD205を実体とし、資料管理テーブル432や遷移条件テーブル431等が記憶される。表示装置400は、ディスプレイ208によって実現され、画面への表示を行う。メニュー制御部44は、表示制御フラグに従って、メニューの内容や共有の状態を表示装置400に表示させる。
<資料管理テーブル>
外部入力装置40のHDD205には、資料管理テーブル432が記憶される。
図6は資料管理テーブル432の一例を示す図である。資料管理テーブル432では、資料の名称である資料名、資料の大きさを表すサイズ、資料が作成されるために用いられたアプリケーションソフトウェアの名称を表すアプリケーション名、資料が最後に更新された更新日時、資料データ等が関連付けられて管理される。
<中継装置の機能構成>
次に、中継装置30の機能又は手段について説明する。中継装置30は、送受信部31、状態検知部32、データ品質確認部33、変更品質管理部34、データ品質変更部35、および記憶・読出処理部39を有している。これら各部は、図3に示されている各構成要素のいずれかが、ROM202に記憶されているプログラムに従ったCPU201からの命令によって動作することで実現される機能又は手段である。また、中継装置30は、図3に示されているHD204により構築される記憶部3000を有している。
<変更品質管理テーブル>
記憶部3000には、図7に示されているような変更品質管理テーブルによって構成されている変更品質管理DB3001が構築される。変更品質管理テーブルでは、画像データの中継先としての通信端末10のIPアドレス、およびこの中継先に中継装置30が中継する画像データの画質が関連付けられて管理される。
解像度は、例えば、横が160画素、縦が120画素から成り、ベース画像となる低解像度の画像と、横が320画素、縦が240画素から成る中解像度の画像と、横が640画素、縦が480画素から成る高解像度の画像とがある。このうち、狭帯域経路を経由する場合には、ベース画像となる低解像度の画像データのみから成る低画質の画像データが中継される。帯域が比較的広い場合には、ベース画像となる低解像度の画像データ、および中解像度の画像データから成る中画質の画像データが中継される。また、帯域が非常に広い場合には、ベース画質となる低解像度の画像データ、中画解像度の画像データ、および高解像度の画像データから成る高画質の画像データが中継される。例えば、図7に示されている変更品質管理テーブルにおいて、中継装置30が、IPアドレス「1.3.2.4」の宛先端末10dbに対して画像データを中継する場合には、この中継される画像データの画質(画像の品質)は「高品質」である。
<中継装置の各機能部>
次に、中継装置30の各機能構成について詳細に説明する。なお、以下では、中継装置30の各部を説明するにあたって、図2に示されている各構成要素のうち、中継装置30の各部を実現させるための主な構成要素との関係も説明する。
図4に示されている中継装置30の送受信部31は、図3に示されているネットワークI/F209によって実現され、通信ネットワーク2を介して他の端末、装置、又はシステムと各種データ(情報)の送受信を行う。状態検知部32は、図3に示されているCPU201からの命令によって実現され、この状態検知部32を有する中継装置30の稼動状態を検知する。稼動状態としては、「ONライン」、「OFFライン」、又は「故障中」の状態がある。
データ品質確認部33は、図3に示されているCPU201からの命令によって実現される。データ品質確認部33は、宛先端末10BのIPアドレスを検索キーとして、図7の変更品質管理テーブルを検索し、対応した中継される画像データの画質を抽出することで、中継される画像データの画質を確認する。変更品質管理部34は、図3に示されているCPU201からの命令によって実現され、遠隔通信管理システム50から送られて来る、後述の品質情報に基づいて、変更品質管理DB3001の内容を変更する。例えば、端末IDが「01aa」である要求元端末10aaと、端末IDが「01db」である宛先端末10dbとの間で高画質の画像データを送受信することによってテレビ会議を行っている最中に、他のテレビ会議を行う要求元端末bbと宛先端末caが通信ネットワーク2を介してテレビ会議を開始することなどによって、宛先端末10dbで画像データの受信の遅延が生じた場合には、中継装置30は今まで中継していた画像データの画質を、高画質から中画質に下げる必要がある。このような場合に、中画質を示す品質情報に基づいて、中継装置30が中継する画像データの画質を高画質から中画質に下げるように、変更品質管理DB3001の内容が変更される。
データ品質変更部35は、図3に示されているCPU201からの命令によって実現され、送信元端末10から送られて来た画像データの画質を、上記変更された変更品質管理DB3001の内容に基づいて変更する。記憶・読出処理部39は、図3に示されているHDD205によって実現され、記憶部3000に各種データを記憶したり、記憶部3000に記憶された各種データを読み出したりする処理を行う。
<遠隔通信管理システムの機能構成>
次に、遠隔通信管理システム50の機能又は手段について説明する。遠隔通信管理システム50は、送受信部51、端末認証部52、状態管理部53、端末抽出部54、端末状態取得部55、絞込部56、セッション管理部57、品質決定部58、記憶・読出処理部59、および遅延時間管理部60を有している。これら各部は、図3に示されている各構成要素のいずれかが、ROM202に記憶されているプログラムに従ったCPU201からの命令によって動作することで実現される機能又は手段である。また、遠隔通信管理システム50は、図3に示されているHD204により構築される記憶部5000を有している。
<中継装置管理テーブル>
記憶部5000には、図8に示されているような中継装置管理テーブルによって構成されている中継装置管理DB5001が構築されている。この中継装置管理テーブルでは、各中継装置30の中継装置ID毎に、各中継装置30の稼動状態、稼動状態が示される状態情報が遠隔通信管理システム50で受信された受信日時、中継装置30のIPアドレス、および中継装置30における最大データ伝送速度(Mbps)が関連付けられて管理される。例えば、図8に示されている中継装置管理テーブルにおいて、中継装置IDが「111a」の中継装置30aは、稼動状態が「ONライン」で、遠隔通信管理システム50で状態情報が受信された日時が「2009年11月10日の13時00分」で、この中継装置30aのIPアドレスが「1.2.1.2」で、この中継装置30aにおける最大データ伝送速度が100Mbpsであることが示されている。
<端末認証管理テーブル>
更に、記憶部5000には、図9に示されているような端末認証管理テーブルによって構成されている端末認証管理DB5002が構築されている。この端末認証管理テーブルでは、遠隔通信管理システム50によって管理される全ての通信端末10の各端末IDに対して、各パスワードが関連付けられて管理される。例えば、図9に示されている端末認証管理テーブルにおいて、通信端末10aaの端末IDは「01aa」で、パスワードは「aaaa」であることが示されている。
<端末管理テーブル>
また、記憶部5000には、図10に示されているような端末管理テーブルによって構成されている端末管理DB5003が構築されている。この端末管理テーブルでは、各通信端末10の端末ID毎に、各通信端末10の稼動状態、後述のログイン要求情報が遠隔通信管理システム50で受信された受信日時、および通信端末10のIPアドレスが関連付けられて管理される。例えば、図10に示されている端末管理テーブルにおいて、端末IDが「01aa」の通信端末10aaは、稼動状態が「ONライン」で、遠隔通信管理システム50でログイン要求情報が受信された日時が「2009年11月10日の13時40分」で、この通信端末10aaのIPアドレスが「1.2.1.3」であることが示されている。
<宛先リスト管理テーブル>
更に、記憶部5000には、図11に示されているような宛先リスト管理テーブルによって構成されている宛先リスト管理DB5004が構築されている。この宛先リスト管理テーブルでは、テレビ会議の開始を要求する要求元端末10Aの端末IDに対して、宛先端末10Bの候補として登録されている宛先端末10Bの端末IDが全て関連付けられて管理される。例えば、図11に示されている宛先リスト管理テーブルにおいて、端末IDが「01aa」である要求元端末10aaからテレビ会議の開始を要求することができる宛先端末10Bの候補は、端末IDが「01ab」の通信端末10ab、端末IDが「01ba」の通信端末10ba、および端末IDが「01db」の通信端末10dbの3つであることが示されている。この宛先端末10Bの候補は、要求元端末10Aから遠隔通信管理システム50に対する追加又は削除の要請により、追加又は削除されることで更新される。
<セッション管理テーブル>
また、この記憶部5000には、図12に示されているようなセッション管理テーブルによって構成されているセッション管理DB5005が構築されている。このセッション管理テーブルでは、中継装置30を選択するためのセッションの実行に用いられる選択用セッションID毎に、画像データ、音声データおよび表示データの中継に使用される中継装置30の中継装置ID、要求元端末10Aの端末ID、宛先端末10Bの端末ID、宛先端末10Bにおいて画像データが受信される際の受信の遅延時間(ms)、およびこの遅延時間が示されている遅延情報を宛先端末10Bから送られて来て遠隔通信管理システム50で受信された受信日時が関連付けられて管理される。
例えば、図12に示されているセッション管理テーブルにおいて、選択用セッションID「se1」を用いて実行されたセッションで選択された中継装置30a(中継装置ID「111a」)は、端末IDが「01aa」の要求元端末10aaと、端末IDが「01db」の宛先端末10dbとの間で、画像データおよび音声データを中継しており、宛先端末10dbにおいて「2009年11月10日の14時00分」時点における画像データの遅延時間が200(ms)であることが示されている。なお、2つの通信端末10の間でテレビ会議を行う場合には、上記宛先端末10Bではなく要求元端末10Aから送信されてきた遅延情報に基づいて、遅延情報の受信日時を管理してもよい。但し、3つ以上の通信端末10の間でテレビ会議を行う場合には、画像データ、音声データおよび表示データの受信側の通信端末10から送信されてきた遅延情報に基づいて、遅延情報の受信日時を管理する。
<アドレス優先度管理テーブル>
更に、記憶部5000には、図13に示されているようなアドレス優先度管理テーブルによって構成されている優先度管理DB5006が構築されている。このアドレス優先度管理テーブルでは、一般的なIPv4におけるIPアドレスのうちの4組のドットアドレス(Dot Address)部分の同異に応じて、アドレス優先度のポイントが高くなるように関連付けられて管理される。
例えば、図13に示されているアドレス優先度管理テーブルにおいて、ドットアドレスの上位から下位にかけて3つの値が同じIPアドレスの場合には、アドレス優先度のポイントが「5」である。ドットアドレスの上位から下位にかけて2つの値が同じIPアドレスの場合には、アドレス優先度のポイントが「3」である。この場合、最下位のドットアドレスの値が同じであるか否かは優先度に関係ない。ドットアドレスの最上位の値が同じで、上位から2番目の値が異なるIPアドレスの場合には、アドレス優先度のポイントが「1」である。この場合、上位から3番目および最下位のドットアドレスの値が同じであるか否かは優先度には関係ない。ドットアドレスの最上位の値が異なるIPアドレスの場合には、アドレス優先度のポイントが「0」である。この場合、上位から2番目、3番目、および最下位のドットアドレスの値が同じであるか否かは優先度には関係ない。
<伝送速度優先度管理テーブル>
また、記憶部5000に構築されている優先度管理DB5006には、図14に示されているような伝送速度優先度管理テーブルも含まれている。この伝送速度優先度管理テーブルでは、中継装置30における最大データ伝送速度(Mbps)の値に応じて、伝送速度優先度のポイントが高くなるように関連付けられて管理される。
例えば、図14に示されている伝送速度優先度管理テーブルにおいて、中継装置30における最大データ伝送速度が1000Mbps以上の場合には、伝送速度優先度のポイントが「5」である。中継装置30における最大データ伝送速度が100Mbps以上1000Mbps未満の場合には、伝送速度優先度のポイントが「3」である。中継装置30における最大データ伝送速度が10Mbps以上100Mbps未満の場合には、伝送速度優先度のポイントが「1」である。中継装置30における最大データ伝送速度が10Mbps未満の場合には、伝送速度優先度のポイントが「0」である。
<品質管理テーブル>
更に、記憶部5000には、図15に示されているような品質管理テーブルによって構成されている品質管理DB5007が構築されている。この品質管理テーブルでは、要求元端末10A又は宛先端末10Bにおける画像データの遅延時間(ms)に応じて、中継装置30で中継させる画像データの画質(画像の品質)が関連付けられて管理される。
<遠隔通信管理システムの各機能部>
次に、遠隔通信管理システム50の各機能部について詳細に説明する。なお、以下では、遠隔通信管理システム50の各部を説明するにあたって、図3に示されている各構成要素のうち、遠隔通信管理システム50の各部を実現させるための主な構成要素との関係も説明する。
送受信部51は、図3に示されているネットワークI/F209によって実行され、通信ネットワーク2を介して他の端末、装置又はシステムと各種データ(情報)の送受信を行う。端末認証部52は、送受信部51を介して受信されたログイン要求情報に含まれている端末IDおよびパスワードを検索キーとし、記憶部5000の端末認証管理DB5002を検索し、端末認証管理DB5002に同一の端末IDおよびパスワードが管理されているかを判断することによって端末認証を行う。状態管理部53は、ログイン要求してきた要求元端末10Aの稼動状態を管理すべく、端末管理テーブル(図10参照)に、この要求元端末10Aの端末ID、要求元端末10Aの稼動状態、遠隔通信管理システム50でログイン要求情報が受信された受信日時、および要求元端末10AのIPアドレスを関連付けて記憶して管理する。
端末抽出部54は、ログイン要求した要求元端末10Aの端末IDをキーとして、宛先リスト管理テーブル(図11参照)を検索し、要求元端末10Aと遠隔通信することができる宛先端末10Bの候補の端末IDを読み出すことで、端末IDを抽出する。また、端末抽出部54は、ログイン要求してきた要求元端末10Aの端末IDをキーとして、宛先リスト管理テーブル(図11参照)を検索し、上記要求元端末10Aの端末IDを宛先端末10Bの候補として登録している他の要求元端末10Aの端末IDも抽出する。
端末状態取得部55は、上記端末抽出部54によって抽出された宛先端末10Bの候補の端末IDを検索キーとして、端末管理DBテーブル(図10参照)を検索し、上記端末抽出部54によって抽出された端末ID毎に稼動状態を読み出す。これにより、端末状態取得部55は、ログイン要求してきた要求元端末10Aと遠隔通信することができる宛先端末10Bの候補の稼動状態を取得することができる。また、端末状態取得部55は、上記端末抽出部54によって抽出された端末IDを検索キーとして、端末管理テーブル(図10参照)を検索し、ログイン要求してきた要求元端末10Aの稼動状態も取得する。
絞込部56は、複数の中継装置30から最終的に1つの中継装置30に絞り込む最終絞り込み処理を支援するため、最終絞り込み処理前の一次絞り込み処理を行うため、選択用セッションID生成部56a、端末IPアドレス抽出部56b、一次選択部56c、および優先度決定部56dを有している。このうち、選択用セッションID生成部56aは、中継装置30を選択するためのセッションの実行に用いられる選択用セッションIDを生成する。端末IPアドレス抽出部56bは、要求元端末10Aから送られてきた開始要求情報に含まれている要求元端末10Aの端末ID、および宛先端末10Bの端末IDに基づいて、端末管理テーブル(図10参照)を検索することにより、対応するそれぞれの通信端末10のIPアドレスを抽出する。一次選択部56cは、中継装置管理テーブル(図7参照)で管理されている中継装置30のうち、稼動状態が「ONライン」となっている中継装置30の中継装置IDを選択することにより、中継装置30の選択を行う。
また、一次選択部56cは、上記端末IPアドレス抽出部56bによって抽出された、要求元端末10AのIPアドレス、および宛先端末10BのIPアドレスに基づいて、中継装置管理テーブル(図8参照)を検索することにより、上記選択された中継装置30のIPアドレスのドットアドレス毎に、上記要求元端末10Aおよび宛先端末10Bの各IPアドレスにおける各ドットアドレスと同じであるか異なるかを調査する。更に、一次選択部56cは、中継装置毎に、アドレス優先度のポイントにおいて通信端末10に対する高い方のポイントと、伝送速度優先度のポイントを統合した統合ポイントのうち、ポイントが高い上位2つの中継装置30を選択することにより、中継装置30の更なる選択を行う。
なお、本実施形態では、ポイントが高い上位2つの中継装置30を選択することにしているが、これに限られるものではなく、中継装置30を1つでも多く絞り込むことができれば、ポイントが高い上位3つ以上の中継装置30を選択するようにしてもよい。
優先度決定部56dは、優先度管理テーブル(図13参照)を参照して、上記一次選択部56cによって調査された中継装置30毎に、アドレス優先度のポイントを決定する。また、優先度決定部56dは、中継装置管理テーブル(図8参照)で管理されている各中継装置30の最大データ伝送速度に基づいて、伝送速度優先度管理テーブル(図14参照)を検索することにより、上記一次選択部56cによって絞り込まれた中継装置30毎に伝送速度優先度のポイントを決定する。
セッション管理部57は、記憶部5000のセッション管理テーブル(図12参照)に、選択用セッションID生成部56aで生成された選択用セッションID、要求元端末の端末ID、および宛先端末の端末IDを関連付けて記憶して管理する。また、セッション管理部57は、セッション管理テーブル(図11参照)に対して、選択用セッションID毎に、通信端末10の選択処理部16が最終的に1つに選択した中継装置30の中継装置IDを記憶して管理する。
品質決定部58は、上記遅延時間を検索キーとして、品質管理テーブル(図15参照)を検索し、対応する画像データの画質を抽出することで、中継装置30に中継させる画像データの画質を決定する。記憶・読出処理部59は、図3に示されているHDD205によって実行され、記憶部5000に各種データを記憶したり、記憶部5000に記憶された各種データを読み出したりする処理を行う。遅延時間管理部60は、上記宛先端末10BのIPアドレスを検索キーとして、端末管理テーブル(図10参照)を検索することで、対応する端末IDを抽出し、更に、セッション管理テーブル(図12参照)のセッション管理テーブルにおいて、抽出した端末IDが含まれるレコードにおける遅延時間のフィールド部分に、上記遅延情報で示されている遅延時間を記憶して管理する。
〔表示データの表示制御について〕
以下、本実施形態の表示データの表示制御について詳述する。
<配置情報管理表>
図16は、配置情報管理表23の一例を示す図である。配置情報管理表23には、表示データの配置を管理するための情報が登録されている。「配置情報No」はレコードを識別するための識別情報であり、「配置情報」は、映像データおよび表示データをディスプレイ100にどのように配置するかの情報が記憶されている。配置情報には「VIEW_MULTI」と「SHARED_MULTI」がある。これらについては後述するが、「VIEW_MULTI」は映像データだけを表示することを、「SHARED_MULTI」は映像データと表示データを混在させて表示することを、それぞれ意味する。
また、「共有フラグ」は、配置情報選択部21が配信イベントに基づき図20のイベントフラグテーブル24を参照して決定する。「共有フラグ」により「配置情報No」が一意に定まる。通信端末10が表示データを受信する状態には以下の2つがある。
・外部入力装置40が接続された通信端末10で、この外部入力装置40からの表示データを受信している状態
・通信端末10が、他の通信端末10と接続された外部入力装置40から表示データを受信している状態
本実施形態ではこの2つの状態のいずれも「SHARED」と称する。また、通信端末10が全く表示データを受信していない状態を「UNSHARED」と称する。配置情報管理表23は、通信端末10の共有フラグが「SHARED」であれば、配置情報No2の「SHARED_MULTI」の配置情報と結びつけ、共有フラグが「UNSHARED」であれば配置情報No1の「VIEW_MULTI」の配置情報と結びつける。
なお、共有フラグと配置情報の対応付けは一例であり、極端に言えば逆の対応づけも可能である。また、通信端末10が表示データを受信する2つの状態を同じ「SHARED」とするのでなく、2つの受信状態を「SHARED1」「SHARED2」として、それぞれを異なる配置情報に対応づけることもできる。配置情報管理表23の設定は、通信端末の各参加者が行うことができる。
図17は、ディスプレイ100の分割例と分割により生じる領域を示す図の一例である。領域1〜4はそれぞれに異なる映像データ又は表示データを表示することができるので、この例では最大で4つの映像データおよび表示データを表示することができる。図17では、領域1が他の領域2〜4よりも広く割り当てられている。この領域1〜4のどの領域に映像データを表示し、どの領域に表示データを表示するかを定めるのが「配置情報」である。
図18は、配置情報と、各領域1〜4に割り当てられる映像データ又は表示データの関係の一例を示す図である。図18に示すように、配置情報=「VIEW_MULTI」の場合、領域1には映像データ1が、領域2には映像データ2が、それぞれ表示され全ての領域1〜4に映像データが表示される。
配置情報=「SHARED_MULTI」の場合、領域1には表示データが、領域2には映像データ1が、領域3には映像データ2が、それぞれ表示される。
配置情報についてより詳細に説明する。
・「VIEW_MULTI」の場合
領域1から順に各端末で受信している映像データの数だけ映像データが割当てられる配置情報である。例えば、2つの通信端末10が遠隔通信システム1に接続されている場合は領域2まで映像データが表示され,領域3,領域4には何も表示されない。領域1には現在、参加者が注目すべき相手側の映像データを通信端末10は表示するようにして、発話している側の通信端末10の撮像部14aが撮影した映像データとする。この映像データを特定するため、各通信端末の音声入力部15aは音声レベルに基づき発話を検出した場合、表示データ制御部22は、該当する通信端末10の端末IDを中継装置30に転送する。中継装置30はこの端末IDを各通信端末10に同報的に配信するので、各通信端末10は領域1に表示すべき映像データを特定することができる。なお、表示データ制御部22は中継装置30でなく、該当する通信端末10の端末IDを遠隔通信管理システム50に送信してもよい。また、領域2には発話していない側の映像データを表示する。
・「SHARED_MULTI」の場合
領域1には表示データが表示され,他の領域2〜4には映像データが割当てられる配置情報である。2つの通信端末1,2が遠隔通信システム1に接続されている場合は、領域2と領域3に各通信端末10の映像データが表示され、領域4には何も表示されない。
配置情報選択部21は、自機の通信端末10と接続された外部入力装置40から表示データを受信しているか否か、および、他の通信端末から表示データを受信しているか否かを定めることになる配信イベントに応じて、自機の共有フラグを「SHARED」又は「UNSHARED」に設定する。「SHARED」に設定するとは、共有フラグの値に「SHARED」「1」又は「ON」を代入することを、「UNSHARED」に設定するとは、共有フラグの値に「UNSHARED」「0」又は「OFF」を代入することをいう。
上記のように、配置情報選択部21は共有フラグを更新すると、配置情報管理表23の共有フラグを参照した結果に基づき、画像表示制御部14bに対し映像データおよび表示データの領域1〜4への割り当てを変更する。
図19は、配置情報選択部21が選択する配置情報の状態遷移図の一例である。初期状態が配置情報のNo1かNo2のいずれになるかは、自機である起動直後の通信端末10に表示データが送信されているか否かに応じて変わってくる。図19に示すように、配置情報No1が選択された状態で、配置情報選択部21が共有フラグに「SHARED」をセットした場合、配置情報選択部21は配置情報No2を選択する。配置情報No2が選択された状態で、配置情報選択部21が共有フラグに「UNSHARED」をセットした場合、配置情報選択部21は配置情報No1を選択する。配置情報No1が選択された状態で、配置情報選択部21が共有フラグに「UNSHARED」をセットした場合、配置情報選択部21はそのまま配置情報No1を選択し、配置情報No2が選択された状態で、配置情報選択部21が共有フラグに「SHARED」をセットした場合、配置情報選択部21はそのまま配置情報No2を選択する。
<表示制御フラグ>
表示制御フラグは、外部入力装置40が外部入力装置40の表示装置400に表示するメニュー等の表示を通信端末10が制御するために用いられる。
図20は、中継装置30から送信される配信イベントと、配信イベントに応じて配置情報選択部21が設定する表示フラグ、および、表示データ制御部22が決定する表示制御フラグの対応の一例(イベントフラグテーブル24)である。
配信イベントには、「配信開始イベント」、「他からの配信開始イベント」、「配信停止イベント」、「他からの配信停止イベント」がある。前者2つの配信イベントの共有フラグは、通信端末10が表示データを受信する配信イベントに対応して「SHARED」であり、後者2つの配信イベントの共有フラグは、通信端末10が表示データを受信しない配信イベントに対応して「UNSHAED」である。
また、「配信開始イベント」に対応する表示制御フラグは「SHARED」であり、「他からの配信開始イベント」に対応する表示制御フラグは「SHARED_ANOTHER」であり、「配信開始イベント」と「他からの配信停止イベント」に対応する表示制御フラグは「UNSHARED」である。表示制御フラグについては以下で説明する。外部入力装置40のメニュー制御部44は、表示制御フラグを通信端末10から受信すると、表示装置400に表示するメニューを遷移させる。
図21(a)は、遷移条件テーブル431の一例を模式的に説明する図の一例である。起動直後の表示装置400は、通信端末10が表示データを共有していないという前提で「共有開始」を表示する。「共有開始」は外部入力装置40の表示データを、外部入力装置40に接続された通信端末以外の通信端末10と共有することを開始させるメニューであり、具体的には参加者の操作を受け付ける「共有開始」ボタンである(以下、「共有開始」と「共有開始」ボタンを厳密には使い分けずに用いる。)。
「共有開始」の表示中に、外部入力装置40が表示制御フラグ「SHARED」を受信すると、メニュー制御部44は表示データの共有を解除させるための「共有停止」を表示する。「共有停止」は、当該外部入力装置40が表示している表示データを、当該外部入力装置40と直接接続されていない通信端末10と共有することを停止させるメニューであり、具体的には参加者の操作を受け付ける「共有停止」ボタンである(以下、「共有停止」と「共有停止」ボタンを厳密には使い分けずに用いる。)
「共有停止」の表示中に、外部入力装置40が表示制御フラグ「SHARED」以外(「UNSHARED」、「SHARED_ANOTHER」)を受信すると、メニュー制御部44は表示データの共有を開始できるように「共有開始」を表示する。
なお、外部入力装置40が「共有開始」の表示中に、表示制御フラグ「SHARED」以外を受信した場合、メニューはそのままであり、外部入力装置40が「共有停止」の表示中に表示制御フラグ「SHARED」を受信した場合は、メニューはそのままである。
このように、配信イベントに、共有フラグと表示制御フラグが対応づけられていることで、通信端末10がディスプレイ100に表示する表示データおよび映像データの表示態様に応じて、外部入力装置40の表示装置400の表示態様(メニュー)も決定することができる。
そして、外部入力装置40の表示装置400にメニューを表示している間、メニュー制御部44は、表示制御フラグに応じて共有状態を表示する。
図21(b)は、表示制御フラグと共有状態の対応関係の一例を示す図である。このような対応関係は遷移条件テーブル431と共に記憶部43に記憶されている。
この"共有状態"が後述するように、外部入力装置40の画面のメッセージ欄に表示され、参加者は通信端末10の"現在の共有状態"を把握できるようになっている。"共有状態"には、以下の状態がある。
・(a)通信端末10が表示データを共有していない(UNSHARED)
・(b)通信端末10が自機に接続された外部入力装置40が表示している表示データを共有している(SHARED)
・(c)通信端末10が他の通信端末10に接続された外部入力装置40が表示している表示データを共有している(SHARED_ANOTHER)
〔表示データの品質判断について〕
以下、本実施形態の表示データの品質判断について詳述する。
(品質同期判断基準)
図22は、品質同期判断基準26の一例を示す図である。配置情報管理表23には、対象となる品質情報に対して、比較を行うための項目情報が登録されている。「対象品質情報」は対象となる品質などの属性を識別するための識別情報である。対象品質情報には、「コンテンツ自体のキャプチャ」と「OCR(Optical Character Recognition)結果」と「色分布」と「周波数成分」と「エッジ情報」がある。さらに、「コンテンツ自体のキャプチャ」には、「文字主体」と「画面主体」がある。
図23は、文字情報を主体とするコンテンツと図面情報を主体とするコンテンツを示す。通信端末間で共有されるコンテンツは、文字情報を主体とするコンテンツと図面情報を主体とするコンテンツである。文字情報を主体とするコンテンツは、文字主体のコンテンツであり、主にワープロソフトや表計算ソフトにより作成される。図面情報を主体とするコンテンツは、図面主体のコンテンツであり、主にプレゼンテーションソフトや製図ソフトにより作成される。通信端末間で共有されるコンテンツは、通信端末間で共有できるコンテンツであれば、文字情報を主体とするコンテンツや図面情報を主体とするコンテンツに限られない。さらに、通信端末間で共有されるコンテンツは、静止画であってもよいし、動画であってもよい。
文字主体のコンテンツ自体のキャプチャは、表示データの主に文字部分をデータとして保存することを意味する。図面主体のコンテンツ自体のキャプチャは、表示データの主に図面(画像部分)をデータとして保存することを意味する。
図24は、OCR結果の一例を示す。図24において、左図は送受信したコンテンツ自体をキャプチャした情報であり、右図は送受信したコンテンツにOCRを行った情報を示す。OCR結果は、文字認識の結果を意味する。
図25は、「色分布」と「周波数成分」と「エッジ情報」の一例を示す。図25において、左図は送受信したコンテンツ自体をキャプチャした情報であり、右上図は送受信したコンテンツから色分布を抽出した情報を示し、右中図は送受信したコンテンツを周波数成分に変換した情報を示し、右下図は送受信したコンテンツからエッジ部分を抽出した情報を示す。
色分布は、表示データの色の分布を意味する。周波数成分は、画像を空間周波数領域へ変換した場合に得られる周波数成分を意味する。エッジ情報は、表示データから検出されるエッジを意味する。
「判断項目」は対象品質情報に対してどのような比較を行うかを示す情報である。
文字主体のコンテンツ自体のキャプチャの判断項目は、「画像全体での色差」と「画像全体での画素値の差」がある。画像全体での色差は、表示データの文字部分において認識した色の差を意味する。画像全体での画素値の差は、表示データの文字部分の各画素の値の差を意味する。
画面主体のコンテンツ自体のキャプチャの判断項目は、「画像全体での色差」と「画像全体での画素値の差」がある。画像全体での色差は、表示データの画像部分において認識した色の差を意味する。画像全体での画素値の差は、表示データの画像部分の各画素の値の差を意味する。
OCR結果の判断項目は「文字の認識率」と「文字の誤認識率」がある。文字の認識率は、OCRにより認識した文字の認識率を示す。文字の誤認識率は、OCRにより認識した文字の誤認識率を示す。
色分布の判断項目は「分布のずれ(色調の変化)」と「分布の範囲の違い(彩度の変化)」がある。分布のずれは、表示データの色の分布のずれを意味する。分布の範囲の違いは、表示データの色の分布の範囲の差異を意味する。
周波数成分の判断項目は「低周波数成分の変化(エッジ強調・ボケの増減)」と「高周波数成分の変化(エッジ強調・ボケの増減)」がある。低周波数成分の変化は、画像を空間周波数領域へ変換した周波数領域において低周波数部分のエッジ強調の度合い、エッジ部分のボケの増減を意味する。高周波数成分の変化は、画像を空間周波数領域へ変換した周波数領域において高周波数部分のエッジ強調の度合い、エッジ部分のボケの増減を意味する。
エッジ情報の判断項目は「エッジ部分の増減(エッジ強調・ボケの増減)」がある。エッジ部分の増減は、表示データから検出されたエッジ部分のエッジ強調の度合い、エッジ部分のボケの増減を意味する。
「判断基準」は、判断項目に対して、どの程度変化、差があったときに品質が同期していると判断するかを示す情報が記憶されている。
文字主体のコンテンツ自体のキャプチャの判断基準は、「画像全体での色差が500以内である」ことと「画像全体での画素値の差が500以内である」ことがある。画像全体での色差が500以内であることは、表示データの文字部分において認識した色の差が500以内である場合に品質の差が小さいと判断できることを意味する。画像全体での画素値の差が500以内であることは、表示データの文字部分の各画素の値の差が500以内である場合に品質の差が小さいと判断できることを意味する。
画面主体のコンテンツ自体のキャプチャの判断基準は、「画像全体での色差が500以内である」ことと「画像全体での画素値の差が500以内である」ことがある。画面全体での色差が500以内であることは、表示データの画像部分において認識した色の差が500以内である場合に品質の差が小さいと判断できることを意味する。画像全体での画素値の差が500以内であることは、表示データの画像部分の各画素の値の差が500以内である場合に品質の差が小さいと判断できることを意味する。
OCR結果の判断基準は「文字の認識率の差が5%以内である」ことと「文字の誤認識率の差が5%以内である」ことがある。文字の認識率の差が5%以内であることは、OCRにより認識した文字の認識率の差が5%以内である場合に品質の差が小さいと判断できることを意味する。文字の誤認識率の差が5%以内であることは、OCRにより認識した文字の誤認識率の差が5%以内である場合に品質の差が小さいと判断できることを意味する。
色分布の判断基準は「白色点を基準とした主とする色方向に差がない」ことと「白色点を基準とした分布の面積差が小さい」ことがある。白色点を基準とした主とする色方向に差がないことは、表示データの色の分布のずれを判断する際に、白色点を基準として、所定の方向の色分布に差がない場合に品質の差が小さいと判断できることを意味する。白色点を基準とした分布の面積差が小さいことは、表示データの色の分布のずれを判断する際に、白色点を基準として、色分布の面積に差がない場合に品質の差が小さいと判断できることを意味する。
周波数成分の判断基準は「低周波数成分の振幅の差が10%以内である」ことと「高周波数成分の振幅の差が10%以内である」ことがある。低周波数成分の振幅の差が10%以内であることは、画像を空間周波数領域へ変換した周波数領域において低周波数部分の振幅の差が10%以内である場合に品質の差が小さいと判断できることを意味する。高周波数成分の振幅の差が10%以内であることは、画像を空間周波数領域へ変換した周波数領域において高周波数部分の振幅の差が10%以内である場合に品質の差が小さいと判断できることを意味する。
エッジ情報の判断基準は「エッジ情報の画素値の差が100以内」であることがある。エッジ情報の画素値の差が100以内であることは、表示データから検出されたエッジ部分の画素値の差が100以内である場合に品質の差が小さいと判断できることを意味する。
上述した判断基準は一例であり、図22に示した判断基準とは異なる判断基準が設定されてもよい。
外部入力装置40が接続された通信端末10で、この外部入力装置40からの表示データを受信し、他の通信端末へ送信する場合について説明する。
通信端末10は、他の通信端末へ表示データを送信する。
通信端末10の表示画像解析部14cは、対象となる品質情報に対応する項目情報について、他の通信端末へ送信した表示データの品質を解析し、解析結果(第1の解析結果)を得る。対象となる品質情報は予め設定される。
他の通信端末は、通信端末10から表示データを受信する。他の通信端末の表示画像解析部14cは、対象となる品質情報に対応する項目情報について、表示データの品質を解析し、解析結果(第2の解析結果)を得る。対象となる品質情報は予め設定される。他の通信端末は、通信端末10へ、第2の解析結果を送信する。
通信端末10は、他の通信端末から第2の解析結果を受信する。通信端末10の品質同期判断部14dは、他の通信端末からの第2の解析結果と、表示画像解析部14cにより得られる第1の解析結果とを比較し、品質同期判断基準26に基づいて、品質の差が小さいか否かを判断することにより、品質が同期しているか否かについて判断する。
通信端末10は、品質の差が小さいと判断した場合データの送信を継続し、品質の差が大きいと判断した場合所定のアラームを送信する。
〔動作手順〕
図26は、通信端末同士がセッションを確立する処理を示すフローチャート図の一例である。参加者が図2に示されている操作ボタン108を押下して通信端末1を選択すると、図4に示されている操作入力受付部12は、通信端末2との遠隔通信を開始する要求を受け付ける。
S1: 通信端末1の送受信部11は、開始要求情報を遠隔通信管理システム50に送信する。開始要求情報には、要求元の通信端末1の端末ID「01aa」、および、宛先の通信端末2の端末ID「01db」が含まれる。これにより、遠隔通信管理システム50の送受信部51は、開始要求情報を受信すると共に、送信元である通信端末1のIPアドレス「1.2.1.3」を把握することになる。
S2: 遠隔通信管理システム50の端末IPアドレス抽出部56bは、要求元の通信端末1から送られてきた開始要求情報に含まれている要求元の通信端末2の端末ID、および、宛先の通信端末2の端末IDに基づいて、端末管理テーブル(図10参照)を検索することにより、対応するそれぞれの通信端末1、2のIPアドレスを抽出する。
S3: 次に、遠隔通信管理システム50の送受信部51は、通信ネットワーク2を介して中継装置30へ、中継を開始する旨の要求が示された中継開始要求情報を送信する。この中継開始要求情報には、中継される要求元の通信端末1および宛先の通信端末2の各IPアドレス(「1.2.1.3」,「1.3.2.4」)が含まれている。これにより、中継装置30は、通信端末1,2の間で、低解像度、中解像度、および高解像度の3つ画像データ、並びに、音声データを遠隔通信するためのセッションを確立する。これにより、通信端末1,2は、テレビ会議を開始することができる。
S4: 中継装置30は、通信端末1,2の間で、画像データ、並びに、音声データを遠隔通信するためのセッションを確立する。具体的には、通信端末1は中継装置30と通信端末2のIPアドレスを取得し、通信端末2は中継装置30と通信端末1のIPアドレスを取得する。
S5: 通信端末1の送受信部11はセッション確立イベントを外部入力装置40に送信する。セッション確立イベントは、通信端末間でセッションが確立したことを通知する情報である。
図27は、通信端末10間で画像データおよび音声データを送受信する処理を示したシーケンス図の一例である。通信端末10から2つ(通信端末1と通信端末2)を取り出しこの2つの端末間で、テレビ会議を行うために、画像データおよび音声データを送受信する処理を説明する。
まず、通信端末1は、撮像部14aで撮像された被写体の画像データ、および音声入力部15aで入力された音声の音声データを、送受信部11から通信ネットワーク2を介して中継装置30へ送信する(ステップS81)。なお、本実施形態では、低解像度、中解像度、および高解像度の3つから成る高画質の画像データ、並びに、音声データを送信している。これにより、中継装置30では、送受信部31で上記3つの解像度の画像データおよび音声データを受信する。そして、データ品質確認部33が、通信端末2のIPアドレス「1.3.2.4」を検索キーとして、変更品質管理テーブル(図7参照)を検索し、対応した中継する画像データの画質を抽出することで、中継する画像データの画像の品質を確認する(ステップS82)。本実施形態では、確認された画像データの画像の画質が「高画質」であり、送受信部31で受信した画像データの画質と同じであるため、そのままの画質の画像データ、およびそのままの音質の音声データで、通信端末2に転送する(ステップS83)。これにより、通信端末2は、送受信部11で画像データおよび音声データを受信し、画像表示制御部14bがディスプレイ100に上記画像データに基づく画像を表示させると共に、音声出力部15bが音声データに基づく音声を出力させることができる。
なお、不図示だが、中継装置30は品質を変更した場合又は品質変更したか否かに関係なく映像データを通信端末1に返送してもよい。こうすることで、通信端末1がディスプレイ100に表示する映像を他の通信端末2と同じ品質にすることができる。
次に、通信端末2の遅延検出部17は、送受信部11で受信された画像データの受信の遅延時間を一定時間毎(例えば、1秒毎)に検出する(ステップS84)。なお、本実施形態では、遅延時間が200(ms)である場合について、以下説明を続ける。
通信端末2の送受信部11は、通信ネットワーク2を介して遠隔通信管理システム50へ、遅延時間「200(ms)」を示す遅延情報を送信する(ステップS85)。
これにより、遠隔通信管理システム50は、遅延時間を把握すると共に、遅延情報の送信元である通信端末2のIPアドレス「1.3.2.4」を把握することができる。
次に、遠隔通信管理システム50の遅延時間管理部60は、上記通信端末2のIPアドレス「1.3.2.4」を検索キーとして、端末管理テーブル(図10参照)を検索することで、対応する端末ID「01db」を抽出し、更に、セッション管理DB5005のセッション管理テーブル(図12参照)において、上記端末ID「01db」のレコードにおける遅延時間のフィールド部分に、上記遅延情報で示されている遅延時間「200(ms)」を記憶して管理する(ステップS86)。
次に、品質決定部58は、上記遅延時間「200(ms)」を検索キーとして、品質管理テーブル(図14参照)を検索し、対応する画像データの画質「中画質」を抽出することで、画質を「中画質」に決定する(ステップS87)。
次に、送受信部51は、セッション管理テーブル(図12参照)において、上記端末ID「01db」に関連付けられている中継装置ID「111a」を検索キーとして、中継装置管理DBテーブル(図8参照)を検索し、対応する中継装置30のIPアドレス「1.2.1.2」を抽出する(ステップS88)。そして、送受信部51は、通信ネットワーク2を介して中継装置30へ、上記ステップS87によって決定された画像データの画質「中画質」を示す品質情報を送信する(ステップS89)。この品質情報には、上記ステップS86において検索キーとして用いた通信端末2のIPアドレス「1.3.2.4」が含まれている。これにより、中継装置30では、変更品質管理部34が、変更品質管理テーブル(図7参照)に、送信先の通信端末10(ここでは、通信端末2)のIPアドレス「1.3.2.4」、および中継される画像データの画質「中画質」を関連付けて記憶して管理する(ステップS90)。
次に、通信端末1は、引き続き上記ステップS81と同様に、中継装置30へ、低画質、中画質、および高画質の3つから成る高画質の画像データ、並びに、音声データを送信する(ステップS91)。これにより、中継装置30では、上記ステップS82と同様に、データ品質確認部33が、通信端末2のIPアドレス「1.3.2.4」を検索キーとして、変更品質管理テーブル(図7参照)を検索し、対応した中継する画像データの画質「中画質」を抽出することで、中継される画像データの画像の品質を確認する(ステップS92)。本実施形態では、確認された画像データの画質が「中画質」であり、送受信部31で受信された画像データの画質「高画質」よりも低くなるため、データ品質変更部35は、画像データの画質を「高画質」から「中画質」に抑制することで、画像データの画像の品質を変更する(ステップS93)。そして、送受信部31は、通信ネットワーク2を介して通信端末2へ、上記画像データの画質が「中画質」に変更された画像データ、および音声の音質が変更されていない音声データを送信する(ステップS94)。このように、画像データを受信する通信端末2で、受信の遅延が生じた場合には、中継装置30は画像の品質を変更し、テレビ会議に参加している人に違和感を与えないようにすることができる。
<表示データの送信>
図28(a)は外部入力装置40から通信端末に表示データを送信する手順のフローチャート図の一例である。
外部入力装置40と通信端末10とが互いに接続されると、外部入力装置40の接続検出部42が、通信端末10が接続されたことを検知する(S10)。接続検出部42は、例えば外部装置I/F215が電圧や信号を検知したことから通信端末10とデータの送受信が可能となったことを検出する。
接続検出部42は表示装置400に表示データの共有開始を受け付けるメニューを表示させ、参加者がこのメニューを押下すると、操作入力受付部46が共有開始という操作を受け付ける(S20)。
操作入力受付部46が共有開始という操作を受け付けると、表示データを送信するため表示データ取得部451が表示データを取得する(S30)。表示データはテレビ会議に使用される画像データなので変化するものである。このため、表示データ取得部451は、定期的に(例えば1秒に1回)、又は、画面の画像データの変化を検出して表示データを取得する。
表示データ取得部451が表示データを取得すると、表示データ送信部452が、表示データ取得部451が取得した表示データを、通信端末1を介して通信端末2に対して送信する(S40)。
テレビ会議に参加している(例えば、宛先リスト管理テーブルに登録されている)各通信端末10と接続された外部入力装置40は全て表示データを送信する可能性があり、上記のような手順で表示データを送信する。
図28(b)は外部入力装置40から通信端末に表示データを送信する手順のフローチャート図の別の一例である。図28(b)では宛先の通信端末2とのセッションが確立していることを確認して表示データを宛先の通信端末に送信する。
外部入力装置40と通信端末10とが互いに接続されると、外部入力装置40の接続検出部42が、通信端末10が接続されたことを検知する(S10)。接続検出部42は、例えば外部装置I/F215が電圧や信号を検知したことから通信端末10とデータの送受信が可能となったことを検出する。
接続検出部42が、通信端末10が接続されたことを検知すると、外部入力装置1のメニュー制御部44は、図32(a)に示す画面を表示装置400に表示する(S12)。図32の各画面は外部入力装置1に表示される画面例を示す。図32(a)に示すようにメニュー401には何も文字は表示されず、メニュー402には「会議が行われていません」というメッセージが表示されている。このメッセージは、セッションが確立されていないことを示す。これにより参加者は、会議が行われていないことを把握できる。
メニュー制御部44は通信端末1からセッション確立イベントが通知されているか否かを判定する(S14)。このセッション確立イベントは、図26のS5に対応し,通信端末1,2間でセッションが確立されたことを検知すると通信端末10から外部入力装置40へ通知されるようになっている。
セッション確立イベントが通知されていない場合(S14のNo)、外部入力装置40は図32(a)の画面を維持する。
セッション確立イベントが通知されている場合(S14のYes)、外部入力装置40のメニュー制御部44は図32(b)の画面を表示する(S16)。
図32(b)では、メニュー401として「共有開始」ボタンが、共有状態402として「共有していません」というメッセージが表示されている。図32(b)の画面は、メニュー402に共有が行われていないことを示すと共に、メニュー401に共有開始の操作入力が可能なことを示している。「共有開始」ボタンは参加者がタッチパネルを押下することで直接、又は、キーボード211やマウス212を操作して押下することができる。
操作入力受付部46が共有開始という操作を受け付けると、表示データを送信するため表示データ取得部451が通信端末1から表示データを取得する(S30)。表示データはテレビ会議に使用される画像データなので変化するものである。このため、表示データ取得部451は、定期的に(例えば1秒に1回)、又は、画面の画像データの変化を検出して表示データを取得する。
表示データ取得部451が表示データを取得すると、表示データ送信部452が、表示データ取得部451が取得した表示データを、通信端末1を介して通信端末2に対して送信する(S40)。
なお、すでにセッションが確立されている状態で、通信端末1に外部入力装置40が接続された場合、接続の直後にセッション確立イベントが外部入力装置40に通知されるので、図32(a)の画面を飛ばして図32(b)の画面が表示される。
図29は、通信端末1で撮像されている映像データ、通信端末2で撮像されている映像データ、および、通信端末1、2に接続された外部入力装置1、2から送信される表示データの送信のシーケンス図の一例である。なお、音声データは省略したが映像データと共に送受信される。
S1:通信端末1で撮像されている映像データは、いったん、画像表示制御部14bによって送受信部11を介して中継装置30に送信される。
S1-1、S1-2:中継装置30の送受信部31は映像データを受信すると、映像データの品質変更処理を行った後に、送受信部31によって各通信端末1、2に映像データを送信する。
S2:通信端末2が撮像している映像データも同様に、いったん、中継装置30に送信される。
S2-1、S2-2:中継装置30は、映像データの品質変更処理を行った後に、送受信部31によって各通信端末1,2に映像データを送信する。
S3:外部入力装置1から表示データを送信する場合,表示データは,外部入力装置1の表示データ送信部452によって、送受信部41を経由して通信端末1に送信される。(この処理は図28のステップ40の処理に相当する。)
S3-1:通信端末1の外部情報送受信部18で受信された表示データは、映像データと同様にいったん、中継装置30に送信される。
S3-1-1、S3-1-2:中継装置30は、各通信端末1、2に表示データを送信する。
S4:外部入力装置2から表示データを送信する場合も同様に、表示データは、外部入力装置2の表示データ送信部452によって、送受信部41を経由して通信端末2に送信される。
S4-1:通信端末2の外部情報送受信部18で受信された表示データは、映像データと同様にいったん、中継装置30に送信される。
S4-1-1、S4-1-2:中継装置30は、各通信端末1、2に表示データを送信する。
なお、中継装置30は固定でも、複数の中継装置30の選択された1つでもよい。また、図29では、説明を簡単にするために通信端末を2つにしているが、3つ以上でも同様の手順で送信できる。また、外部入力装置1は通信端末2にも接続可能であり、外部入力装置1は表示データを通信端末2側から送信してもよい。
このように、本実施形態の遠隔通信システム1は、外部入力装置40の表示データを通信端末10を経由して送信するので、映像データと共通のネットワーク基盤技術を用意するだけで、表示データを他の通信端末10に送信することができる。
また、表示データがどの外部入力端末40から送信されても、中継装置30を経由することによって、各端末で受信するまでの遅延時間はほぼ同じになる。そのため、説明者が資料のページを変更しても、ほぼ同時期に各拠点の通信端末10の表示内容が変更されるため、拠点間のコミュニケーションが阻害されることが少ない。
<表示データの共有開始処理>
図30は、図29のS3又はS4において外部入力装置1、2が表示データの送信を開始する際の制御手順を示すシーケンス図の一例である。
ところで、上述したように通信端末10が表示データを受信するまでの表示フラグは「UNSHARED」である。したがって、通信端末10のディスプレイ100の画面には、映像データのみが表示される。
図31(a)は、通信端末10が表示データを受信するまでのディスプレイ100の画面の状態を模式的に示す図の一例である。配置情報管理表23の表示フラグが「UNSHARED」であることは、配置情報選択部21が配置情報No1を選択している状態である。このため、図31(a)に示すように、領域1、2は中継装置30から受信した映像データが表示される。配置情報選択部21が、領域1に自機の映像データを表示するか、他機の映像データを表示するかは配置情報管理表23の説明で述べたとおりであるが、参加者の操作により切り替えるように実現してもよい。
また、通信端末10が配信イベントを通知されるまで、表示データ制御部22は何も表示制御フラグを外部入力装置40に送信しないか、又は、「UNSHARED」の表示制御フラグを外部入力装置40へ送信している。外部入力装置40のメニュー制御部44は、起動直後の状態として又は「UNSHARED」の表示制御フラグに応じたメニューを表示装置400に表示する。
図32は外部入力装置40に表示されるいくつかの画面例を示す図である。図32(a)についてはすでに説明した。図32(b)は外部入力装置40に表示されるメニュー401および共有状態402の一例を示す。図32(b)では、メニュー401として「共有開始」ボタンが、共有状態402として「共有していません」というメッセージが表示されている。「共有開始」ボタンは参加者がタッチパネルを押下することで直接、又は、キーボード211やマウス212を操作して押下することができる。
なお、図32(b)では、外部入力装置40が有する資料の表示データが表示され、その他、状態表示のウィンドウや別の資料の表示データが表示されている。参加者が、外部通信端末40が表示中の表示データを他の通信端末2と共有する場合、「共有開始」ボタンを押下する。これにより、外部入力装置40が表示データの送信を開始する。
図30に戻り、
S1:操作入力受付部46が、参加者による外部入力装置1に表示されている項目「共有開始」ボタンの押下を受け付ける。この処理は図28のS20に相当する。
S2:表示データ送信部452は通信端末1に共有開始を通知し、表示データの送信を開始する。この処理は、図28のS40、図29のS3、S4に相当する。
S2-1:通信端末1の表示データ制御部22は中継装置30に対して配信開始を要求し,表示データを中継装置30に送信する。この処理は、図29のS3-1に相当する。
S3:中継装置30のデータ品質変更部は表示データの品質を変更して「配信開始イベント」を通信端末1に通知し、表示データの配信を開始する。この処理は、図29のS3-1-1、S4-1-1に相当する。
S3-1:通信端末1の配置情報選択部21は「配信開始イベント」を取得すると、イベントフラグテーブル24に従い共有フラグを「SHARED」に設定する。
S3-2:通信端末1の配置情報選択部21は配置情報管理表23に従って配置情報No2を選択して、画像表示制御部14bに、領域1〜4毎に映像データおよび表示データの割り当てを指示する。
これにより、ディスプレイ100の状態は図31(a)から図31(b)の状態に変化する。図31(b)では、領域1に表示データが表示され、領域2と3に映像データが表示されている。
S3-3:ステップS3で通信端末1には「配信開始イベント」が通知されているため、表示データ制御部22は、イベントフラグテーブル24に従い表示制御フラグを「SHARED」に設定して外部入力装置1に通知する。
S3-3-1:外部入力装置1のメニュー制御部44は、図21(a)の遷移条件テーブル431に従って、表示制御フラグに応じてメニュー401の表示を変更するか否かを判定する。
S3-3-2:図32(b)に示したように「共有開始」ボタンが表示されている状態で、外部入力装置2が表示制御フラグ「SHARED」を受信したため、メニュー制御部44は表示装置400のメニュー401を「共有停止」ボタンへ変更させる。図32(c)は「共有停止」ボタンが表示された表示装置400の画面例を示す。
S3-3-3:また、メニュー制御部44は、表示制御フラグ「SHARED」を受信したため、図32(c)に示すように共有状態402に「この表示を共有しています」と表示する。
S4:中継装置30のデータ品質変更部は表示データの品質を変更して「他からの配信開始イベント」を通信端末2に通知し、表示データの配信を開始する。この処理は、図29のS3-1-2、S4-1-2に相当する。
S4-1:通信端末2の表示データ制御部22は「他からの配信開始イベント」が通知された場合、配信停止を中継装置30に要求するか否かを判定する。この判定は、すでに通信端末2が表示データを共有している場合に、どの表示データを表示するかを判定するために必要となる。この判定方法については後述するが、ここでは共有フラグは「UNSHARED」であるため配信停止要求は行わない。
S4-2:通信端末2の配置情報選択部21は「他からの配信開始イベント」を受信すると、イベントフラグテーブル24に従い配置情報管理表23の共有フラグを「SHARED」にセットする。
S4-3:通信端末2の配置情報選択部21は配置情報管理表23から共有フラグが「SHARED」に設定されたため配置情報No2を選択して、画像表示制御部14bに、領域1〜4毎に映像データおよび表示データの割り当てを指示する。これにより、ディスプレイ100の状態は図31(a)から図31(b)の状態に変化する。
S4-4:通信端末2はステップ4で「他からの配信開始イベント」が通知されているため、表示データ制御部22はイベントフラグテーブル24に従い表示制御フラグを「SHARED_ANOTHER」に設定し外部入力装置2に通知する。
S4-4-1:外部入力装置1のメニュー制御部44は、図21(a)の遷移条件テーブル431に従って、表示制御フラグに応じてメニュー401の表示を変更するか否かを判定する。図32(b)に示したように「共有開始」ボタンが表示されている状態で、外部入力装置2が表示制御フラグ「SHARED_ANOTHER」を受信したため,メニュー制御部44は表示装置400のメニュー401を変更しない。
S4-4-2:メニュー制御部44は表示制御フラグを参照して表示装置400に「他の表示を共有しています」という共有状態402を表示する。
図32(d)は通信端末2が通信端末1の表示データを共有している場合に、外部入力装置2の表示装置400に表示される画面例を示す。図32(d)では、メニュー401が「共有開始」であるが、共有状態402に「他の表示を共有しています」と表示されている。
以上説明したように、外部入力端末1では、メニュー401が「共有開始」ボタンから「共有停止」ボタンに変更され、共有状態402は「共有していません」から「この表示を共有しています」に変更される。また、外部入力端末2では、メニュー401は変更されず、共有状態402が「共有していません」から「他の表示を共有しています」に変更される。したがって、参加者はメニュー401を操作することで、表示データを共有することができ、共有状態402を目視することで、操作対象の通信端末10が自機と接続された外部入力装置40と表示データを共有しているか否かを一目で把握できる。
<共有する表示データの切り替え>
図30の処理の後、外部入力装置2から表示データを送信する際の処理手順について説明する。通信端末1および2のディスプレイ100には図31(b)が、外部入力装置1の表示装置400には図32(c)が、外部入力装置2の表示装置400には図32(d)がそれぞれ表示されている。
図33は、外部入力装置2が表示データの送信を開始する際の制御手順を示すシーケンス図の一例である。
S1〜S4については、図30において外部入力装置1が外部入力装置2に変わっただけなので説明を省略する。
S4-1:通信端末1の表示データ制御部22は「他からの配信開始イベント」が通知された場合、中継装置30に配信停止を要求するか否かを判定する。
S4-2:後述するように、通信端末1の共有フラグは「SHARED」であるため、表示データ制御部22は中継装置30に配信停止を要求する。中継装置30のデータ品質変更部は、後述する処理を行い、表示データの送信を停止する(図29のS3-1-1、S3-1-2で送信していた表示データの送信を停止する。)。なお、ここでは中継装置30は通信端末2から配信開始が要求されたので、中継装置30が配信している表示データが他にあるため、配信停止イベントは発生しない。
S4-3:通信端末1の表示データ制御部22は、「他からの配信開始イベント」に対応するため、表示データの送信停止を外部入力装置1に要求する。S4-6で次述する、これにより、共有対象の表示データを1つに制限できる。表示制御フラグ「SHARED_ANOTHER」をもって、表示データの送信停止を要求してもよい。
S4-3-1:外部入力装置1の表示データ送信部452は表示データの送信を停止する。この停止により図29のステップ3および3-1の表示データの送信が停止される。
S4-4:通信端末1の配置情報選択部21は、「他からの配信開始イベント」を受信したため、イベントフラグテーブル24に従い共有フラグを「SHARED」に設定する。
S4-5:通信端末1の配置情報選択部21は配置情報管理表23の配置情報No2を選択して画像表示制御部14bに、領域1〜4と表示データと映像データの対応を指示する。
S4-6:また、通信端末1にはステップS4で「他からの配信開始イベント」が通知されているため、イベントフラグテーブル24に従い表示データ制御部22は表示制御フラグ「SHARED_ANOTHER」を外部入力装置1に通知する。
S4-6-1:外部入力装置1のメニュー制御部44は図21(a)の遷移条件テーブル431に基づき、メニュー401の表示を変更するか否かを判定する。
S4-6-2:メニュー制御部44が「共有停止」を表示している状態で、表示制御フラグ「SHARED_ANOTHER」の通知を受けたため、メニュー制御部44は表示装置400に「共有開始」ボタンを表示させる。
S4-6-3:また、メニュー制御部44は、表示制御フラグ「SHARED_ANOTHER」を参照して表示装置400に共有状態402に「他の表示を共有しています」というメッセージを表示する。S4-6-2とS4-6-3により外部入力装置1の表示装置400は図32(d)のようになる。
S3-1:一方、通信端末2の配置情報選択部21は配信開始イベントを取得すると、イベントフラグテーブル24に従い共有フラグを「SHARED」に設定する。
S3-2:通信端末2の配置情報選択部21は配置情報管理表23に従って配置情報No2を選択して、画像表示制御部14bに領域1〜4毎に映像データおよび表示データを割り当てる。すでに、図30のS4-3で配置情報選択部21は配置情報No2を選択しているので、配置情報No2が再度選択される。
S3-3:ステップS3で通信端末2には配信開始イベントが通知されているため、表示データ制御部22はイベントフラグテーブル24に従い表示制御フラグを「SHARED」に設定して外部入力装置2に通知する。
S3-3-1:外部入力装置2のメニュー制御部44は、図21(a)の遷移条件テーブル431に従って、表示制御フラグに応じてメニュー401の表示を変更するか否かを判定する。
S3-3-2:図32(d)に示したように「共有開始」ボタンが表示されている状態で、外部入力装置2が表示制御フラグ「SHARED」を受信したため、メニュー制御部44は表示装置400のメニュー401を「共有停止」ボタンに変更する。
S3-3-3:また、メニュー制御部44は、表示制御フラグ「SHARED」を受信したため、図32(c)に示すように共有状態402に「この表示を共有しています」と表示する。したがって、表示装置400の画面は図32(c)になる。
以上のように、図33の処理が終了すると、外部入力端末1の表示装置400は図32(d)のようになり、外部入力端末2の表示装置400は図32(c)のようになる。すなわち、外部入力端末1では、メニュー401が「共有停止」から「共有開始」に変更され、共有状態402は「この表示を共有しています」から「他の表示を共有しています」に変更される。また、外部入力端末2では、メニュー401が「共有開始」から「共有停止」に変更され、共有状態402が「他の表示を共有しています」から「この表示を共有しています」に変更される。
S4-3で説明したように、外部入力装置1は中継装置30からの「他からの配信開始イベント」に応じて表示データの送信を停止するので、各通信端末10が表示する表示データを1つに制限できる。
<図30、図33のS4−1の配信停止要求の判定>
図34は、通信端末10が「他からの配信開始イベント」を受信した場合に配信停止を要求するか否かを判定する手順を示すフローチャートの一例である。
この処理は、通信端末10が他から配信開始イベントを受信すると作動する(S410)。
表示データ制御部22は、「他からの配信開始イベント」を受信すると、共有フラグが「SHARED」に設定されているか否かを判定する(S420)。共有フラグが「SHARED」であることは、自機に接続された外部入力装置1又はそれ以外の外部入力装置2が配信している表示データを共有している状態なので、通信端末10はそのままでは「他からの配信開始イベント」に対応できない。
このため、共有フラグが「SHARED」の場合(S420のYes)、表示データ制御部22は中継装置30に配信停止を要求する(S430)。中継装置30は配信停止を要求した通信端末10に対する表示データの配信を停止する。
<図33のS4−2の判定>
中継装置30は通信端末10からの配信停止の要求に対し、通信端末10の表示フラグや表示制御フラグを更新するため、他の全ての通信端末に「配信停止イベント」又は「他からの配信停止イベント」を通知するか否かを判定する。
図35は、中継装置30の判定手順を示すフローチャート図の一例である。
まず、中継装置30は、配信停止が要求された表示データの配信を停止する(S510)。
次に、中継装置30は、配信している表示データがまだあるか否かを判定する(S520)。すなわち、中継装置30にテレビ会議に参加している拠点から表示データが送信されており、それを配信しているか否かを判定する。
配信している表示データがまだある場合(S520のYes)、その表示データを配信するため、中継装置30は通信端末に「配信停止イベント」を一切通知しない。
配信している表示データがもうない場合(S520のNo)、全ての通信端末の表示フラグおよび表示制御フラグを更新するため、中継装置30は、配信停止を要求した通信端末に「配信停止イベント」を通知し、他の通信端末に「他からの配信停止イベント」を通知する(S530)。
こうすることで、配信している表示データがまだある場合には、通信端末1、2は共有フラグが「SHARED」のまま表示データの配信を受け付けることができ、配信している表示データがない場合には、外部入力装置1、2に共有制御フラグ「UNSHARED」を通知できる。
〔表示データの送信停止〕
次に、図36のシーケンス図を用いて図33の処理が終了した状態で、外部入力装置2が表示データの送信を停止する手順を説明する。参加者が自機の外部入力装置2から表示データの送信を停止したい場合、参加者は外部入力装置2に表示されているメニュー401の「共有停止」ボタンを押下する。
S1:外部入力装置2の操作入力受け付け部46は「共有停止」ボタンの押下を受け付ける。
S2:表示データ送信部452は、通信端末2に送信停止を通知する。
S2-1:通信端末2の表示データ制御部22は中継装置30に対して配信停止を要求する。
中継装置30のデータ品質変更部は、図35に従って「配信停止イベント」を通知するか否かを判定する。
S3、S4:すでに中継装置30が配信している表示データは通信端末2から送信される表示データだけなので、中継装置30は「配信停止イベント」を通信端末2に(S3)、「他からの配信停止イベント」を通信端末1に配信する(S4、図35のS530)。これにより、図29のS4-1-1、S4-1-2の表示データの配信が停止される。なお、中継装置30は「配信停止イベント」を送信する際、図35のS510の表示データの配信の停止を送信しなくてもよいし、「配信停止イベント」と重複するがS510の表示データの配信の停止を送信してもよい。
S3-1:通信端末2の表示データ制御部22は、「配信停止イベント」を受信すると、表示データの送信停止を外部入力装置2に要求する。
S3-1-1:外部入力装置2の表示データ送信部452は、表示データの送信を停止する。この停止により、図29のS-4、S4-1の表示データの送信が停止する。なお、S2で表示データの送信を停止してもよい。
S3-2:通信端末2の配置情報選択部21は、図20のイベントフラグテーブル24に従って共有フラグを「UNSHARED」に設定する。
S3-3:通信端末2の配置情報選択部21は、共有フラグの設定に応じて、配置情報管理表23の配置情報No1を選択する。これにより、画像表示制御部14bは図31(a)のように、領域1、2に映像データを割り当てて画面を表示する。
S3-4:また、S3で通信端末2には「配信停止イベント」が通知されているため、表示データ制御部22はイベントフラグテーブル24に基づき、表示制御フラグ「UNSHARED」を外部入力装置2に通知する。
S3-4-1:外部入力装置2のメニュー制御部44は図21(a)の遷移条件テーブル431に従い、メニュー401を変更するか否かを判定する。
S3-4-2:外部入力装置2が「共有停止」を表示している状態で、表示制御フラグ「UNSHARED」を受信したため、メニュー制御部44は表示装置400にメニュー401として「共有開始」ボタンを表示する。
S3-4-3:また、メニュー制御部44は表示制御フラグを参照して表示装置400に共有状態402のメッセージを表示する。表示制御フラグが「UNSHARED」の場合、メッセージは「共有していません」となる。
S4:S4.1〜4.3.1はステップ3.2〜3.4を適用できる。
S4-1:通信端末2の表示データ制御部22は、「他からの配信停止イベント」を受信すると、図20のイベントフラグテーブル24に従って共有フラグを「UNSHARED」に設定する。すでに表示データの送信は停止されているので、表示データの送信停止を外部入力装置1に要求する必要はない。
S4-2:通信端末1の配置情報選択部21は、共有フラグの設定に応じて、配置情報管理表23の配置情報No1を選択する。これにより、画像表示制御部14bは図31(a)のように、領域1、2に映像データを割り当てて画面を表示する。
S4-3:また、S4で通信端末1には「他からの配信停止イベント」が通知されているため、表示データ制御部22はイベントフラグテーブル24に基づき、表示制御フラグ「UNSHARED」を外部入力装置1に通知する。
S4-3-1:外部入力装置1のメニュー制御部44は図21(a)の遷移条件テーブル431に従い、メニュー401を変更するか否かを判定する。
S4-3-2:外部入力装置1が「共有開始」を表示している状態で、表示制御フラグ「UNSHARED」を受信したため、メニュー制御部44はそのまま「共有開始」ボタンの表示を継続する。
S4-3-2:また、メニュー制御部44は表示制御フラグを参照して表示装置400に共有状態402のメッセージを表示する。表示制御フラグが「UNSHARED」の場合、メッセージは「共有していません」となる。
以上の処理が終了したことで、外部入力端末1および外部入力端末2の表示装置400は、いずれも図32(b)のようになる。外部入力端末1では、メニュー401が「共有開始」のまま変更されないが、共有状態402のメッセージは「他の表示を共有しています」から「共有していません」に変更される。また、外部入力端末2では、メニュー401が「共有停止」から「共有開始」に変更され、共有状態402のメッセージが「この表示を共有しています」から「共有していません」に変更される。
<セッション切断時>
図37は、通信端末同士がセッションを切断する処理を示すフローチャート図の一例である。参加者が図2に示されている操作ボタン108を操作して会議の終了(セッションの切断)を指示すると、図4に示されている操作入力受付部12は、通信端末2との会議の終了要求を受け付ける。操作入力受付部12はセッション切断イベントを外部入力装置40に通知する。この他、参加者が通信端末10と外部入力装置40を接続するUSBケーブルを外した場合、通信端末1の電源を落とした場合も、外部入力装置40はセッション切断イベントを検出又は取得する。
メニュー制御部44は、図32(b)〜(d)の画面を表示中、セッション切断イベントの通知を取得したか否かを判定している(S110)。セッション切断イベントの通知を取得していない場合(S110のNo)、メニュー制御部44は図32(b)〜(d)の画面の表示を維持する。
セッション切断イベントの通知を取得した場合(S110のYes)、メニュー制御部44は図32(a)の画面を表示する(S120)。この画面は会議が行われていないことを参加者に通知する画面である。参加者は「会議が行われていません」というメッセージにより、外部入力装置40を操作する必要がないことを把握できる。
外部入力装置40の表示データ送信部452は、表示データを送信している場合には、通信端末1を介して表示データを通信端末2に送信することを停止する(S130)。
また、表示データ取得部451は通信端末1又は2から表示データを取得することを停止する(S140)。
本実施形態の遠隔通信システム1は、外部入力装置40に表示データを共有開始させるためのメニュー401を表示させることができるので、表示データを他の拠点と共有したいテレビ会議の参加者は「共有開始」ボタンを押下するという簡単な操作で、他の拠点に表示データを表示させることができる。したがって、他の拠点の参加者は共有したい表示データを選択するといったような操作を全く行うことなく、注目すべき表示データを特定することができる。
さらに、外部入力装置40は共有状態402のメッセージを表示するので,会議の参加者は、現在、外部入力装置40が表示装置400に表示している表示データが共有されているか否かを確実に知ることができる。例えば、複数の拠点において、同じ資料を表示した複数の外部入力装置40が通信端末に接続されている場合、参加者はどちらの拠点の資料が共有されているのかを直ちに判別でき、操作性を向上できる。
また、図34の処理のように通信端末10が他からの配信イベントの通知を受けた場合、自機に接続された外部入力装置40に配信停止を要求するので、共有可能な表示データを1つに制限できる。これにより、参加者が複数の表示データの中から注目する表示データを選択する、といった操作が不要になり操作性を向上することができる。
〔表示データの品質判断について〕
図38は、表示データの品質判断処理の一実施例を示す。
外部入力装置40が接続された通信端末10で、この外部入力装置40からの表示データを受信し、他の通信端末へ送信する場合について説明する。通信端末10で作成した表示データを他の通信端末へ送信する場合についても適用できる。
通信端末10は、他の通信端末へ表示データを送信する。
他の通信端末は、通信端末10から表示データを受信する。他の通信端末の表示画像解析部14cは、対象となる品質情報に対応する項目情報について、表示データの品質を解析し、解析結果(第2の解析結果)を得る。
S3802:他の通信端末の表示画像解析部14cは、第2の解析結果を得る際に、コンテンツの分類を開始する。
S3804:他の通信端末の表示画像解析部14cは、表示データのOCRを実施する。
S3806:他の通信端末の表示画像解析部14cは、表示データの周波数成分抽出を実施する。
S3808:他の通信端末の表示画像解析部14cは、表示データの色分布抽出を実施する。
S3810:他の通信端末の表示画像解析部14cは、S3904によるOCRの実施結果、S3906による色分布抽出の実施結果に基づいて、コンテンツを分類する。
<コンテンツの分類>
図39は、コンテンツの分類の一例を示す。表示画像解析部14cは、表示データの品質判断を行う際に使用するコンテンツ分類テーブルを備える。
「判断対象となるコンテンツの分類」は、品質判断を行うコンテンツの種類情報である。判断対象となるコンテンツの分類には、「文字主体(モノクロ)」と「文字主体(カラー)」と「図面主体(モノクロ)」と「図面主体(カラー)」と「文字+図面(モノクロ)」と「文字+図面(カラー)」とがある。これらは、一例であり、異なるように分類してもよい。
文字主体(モノクロ)は、文字主体のコンテンツであり、かつ表示データが白黒からなるものである。文字主体(カラー)は、文字主体のコンテンツであり、かつ表示データがカラーからなるものである。
図面主体(モノクロ)は、画像情報を主体とするコンテンツであり、かつ表示データが白黒からなるものである。図面主体(カラー)は、画像情報を主体とするコンテンツであり、かつ表示データがカラーからなるものである。
文字+図面(モノクロ)は、文字と画像からなるコンテンツであり、かつ表示データが白黒からなるものである。文字+図面(カラー)は、文字と画像からなるコンテンツであり、かつ表示データがカラーからなるものである。
「OCR結果」は、OCRにより抽出できる文字の有無である。
文字主体(モノクロ)のOCR結果は、「あり」である。文字主体のコンテンツであるため、OCRにより文字を抽出できると想定されるためである。文字主体(カラー)のOCR結果は、「あり」である。文字主体のコンテンツであるため、OCRにより文字を抽出できると想定されるためである。
図面主体(モノクロ)のOCR結果は、「なし」である。画像主体のコンテンツであるため、OCRにより文字を抽出できないと想定されるためである。図面主体(カラー)のOCR結果は、「なし」である。画像主体のコンテンツであるため、OCRにより文字を抽出できないと想定されるためである。
文字+図面(モノクロ)のOCR結果は、「あり」である。文字と画像からなるコンテンツであるため、OCRにより文字を抽出できると想定されるためである。文字+図面(カラー)のOCR結果は、「あり」である。文字と画像からなるコンテンツであるため、OCRにより文字を抽出できると想定されるためである。
「周波数成分の抽出結果」は、周波数成分の分布情報である。
文字主体(モノクロ)の周波数成分の抽出結果は、「高周波数成分のみ」である。文字主体のコンテンツであるため、色の変化が大きく、高周波数成分のみしか得られないと想定されるためである。文字主体(カラー)の周波数成分の抽出結果は、「高周波数成分のみ」である。文字主体のコンテンツであるため、色の変化が大きく、高周波数成分のみしか得られないと想定されるためである。
図面主体(モノクロ)の周波数成分の抽出結果は、「高周波数成分のみ」または「高周波数成分+低周波数成分」である。画像主体のコンテンツであるため、色の変化が大きい部分のみからなる場合と、色の変化が大きい部分と色の変化が小さい部分からなる場合があり得るためである。図面主体(カラー)の周波数成分の抽出結果は、「高周波数成分のみ」または「高周波数成分+低周波数成分」である。画像主体のコンテンツであるため、色の変化が大きい部分のみからなる場合と、色の変化が大きい部分と色の変化が小さい部分からなる場合があり得るためである。
文字+図面(モノクロ)の周波数成分の抽出結果は、「高周波数成分+低周波数成分」である。文字と画像からなるコンテンツであるため、色の変化が大きい部分と色の変化が小さい部分がありうるためである。文字+図面(カラー)の周波数成分の抽出結果は、「高周波数成分+低周波数成分」である。文字と画像からなるコンテンツであるため、色の変化が大きい部分と色の変化が小さい部分があり得るためである。
「色分布抽出結果」は、表示データの色の分布を示す情報である。
文字主体(モノクロ)の色分布の抽出結果は、「分布なし」である。モノクロであるため、色の変化が大きく、色の分布はないと想定されるためである。ただし、輝度情報は得られる場合がある。文字主体(カラー)の色分布の抽出結果は、「分布あり」である。カラーであるため、色の変化があると想定されるためである。
図面主体(モノクロ)の色分布の抽出結果は、「分布なし」である。モノクロであるため、色の変化が大きく、色の分布はないと想定されるためである。ただし、輝度情報は得られる場合がある。図面主体(カラー)の色分布の抽出結果は、「分布あり」である。カラーであるため、色の変化があると想定されるためである。
文字+図面(モノクロ)の色分布の抽出結果は、「分布なし」である。モノクロであるため、色の変化が大きく、色の分布はないと想定されるためである。ただし、輝度情報は得られる場合がある。文字+図面(カラー)の色分布の抽出結果は、「分布あり」である。カラーであるため、色の変化があると想定されるためである。
他の通信端末の表示画像解析部14cは、表示データが、図39に示される文字主体(モノクロ)、文字主体(カラー)、図面主体(モノクロ)、図面主体(カラー)、文字+図面(モノクロ)、文字+図面(カラー)のいずれに該当するかを判断する。
表示画像解析部14cは、コンテンツの分類に応じて、表示データの品質を解析する。
<文字主体(モノクロ)である場合>
図40は、表示データの品質判断処理の一実施例(その1)を示す。
S4002:表示画像解析部14cは、表示データの品質解析を開始する。
S4004:表示画像解析部14cは、判断材料とする品質情報がコンテンツ自体のキャプチャ(文字主体)であるか、OCR結果であるかを判断する。
S4006:表示画像解析部14cは、判断材料とする品質情報がコンテンツ自体のキャプチャ(文字主体)であると判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって画像全体の色差が大きいか小さいかを判断する。
S4008:表示画像解析部14cは、画像全体の色差が小さいと判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって画像全体の画素値差が大きいか小さいかを判断する。
S4010:表示画像解析部14cは、判断材料とする品質情報がOCR結果であると判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって文字の認識率の差が大きいか小さいかを判断する。
S4012:表示画像解析部14cは、文字の認識率の差が小さいと判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって文字の誤認識率の差が大きいか小さいかを判断する。
S4014:表示画像解析部14cは、ステップS4006で画像全体の色差が大きいと判断した場合、ステップS4008で画像全体の画素値差の判断が終了した場合、ステップS4010で文字の認識率が大きいと判断した場合、ステップS4012で文字の誤認識率の判断が終了した場合、判断した結果から表示データの解析結果を作成する。
S4016:表示画像解析部14cは、複数の判断材料を使用するか否かを判断する。複数の判断材料を使用すると判断した場合、ステップS4004に戻る。表示画像解析部14cは、ステップS4016で複数の判断材料を使用すると判断しない場合、終了する。
<文字主体(カラー)である場合>
図41は、表示データの品質判断処理の一実施例(その2)を示す。
S4102:表示画像解析部14cは、表示データの品質解析を開始する。
S4104:表示画像解析部14cは、判断材料とする品質情報がコンテンツ自体のキャプチャ(文字主体)であるか、OCR結果であるか、色分布結果であるかを判断する。
S4106:表示画像解析部14cは、判断材料とする品質情報がコンテンツ自体のキャプチャ(文字主体)であると判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって画像全体の色差が大きいか小さいかを判断する。
S4108:表示画像解析部14cは、画像全体の色差が小さいと判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって画像全体の画素値差が大きいか小さいかを判断する。
S4110:表示画像解析部14cは、判断材料とする品質情報がOCR結果であると判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって文字の認識率の差が大きいか小さいかを判断する。
S4112:表示画像解析部14cは、文字の認識率の差が小さいと判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって文字の誤認識率の差が大きいか小さいかを判断する。
S4114:表示画像解析部14cは、判断材料とする品質情報が色分布結果であると判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって色調の変化の差が大きいか小さいかを判断する。
S4116:表示画像解析部14cは、色調の変化の差が小さいと判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって彩度の差が大きいか小さいかを判断する。
S4118:表示画像解析部14cは、ステップS4106で画像全体の色差が大きいと判断した場合、ステップS4108で画像全体の画素値差の判断が終了した場合、ステップS4110で文字の認識率が大きいと判断した場合、ステップS4112で文字の誤認識率の判断が終了した場合、ステップS4114で色調の変化の差が大きいと判断した場合、ステップS4116で彩度の変化の差の判断が終了した場合、判断した結果から表示データの解析結果を作成する。
S4120:表示画像解析部14cは、複数の判断材料を使用するか否かを判断する。複数の判断材料を使用すると判断した場合、ステップS4104に戻る。表示画像解析部14cは、ステップS4120で複数の判断材料を使用すると判断しない場合、終了する。
<図面主体(モノクロ)である場合>
図42は、表示データの品質判断処理の一実施例(その3)を示す。
S4202:表示画像解析部14cは、表示データの品質解析を開始する。
S4204:表示画像解析部14cは、判断材料とする品質情報がコンテンツ自体のキャプチャ(文字主体)であるか、周波数成分の抽出結果であるか、エッジ検出結果であるかを判断する。
S4206:表示画像解析部14cは、判断材料とする品質情報がコンテンツ自体のキャプチャ(文字主体)であると判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって画像全体の色差が大きいか小さいかを判断する。
S4208:表示画像解析部14cは、画像全体の色差が小さいと判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって画像全体の画素値差が大きいか小さいかを判断する。
S4210:表示画像解析部14cは、判断材料とする品質情報が周波数成分の抽出結果であると判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって高周波数成分の差が大きいか小さいかを判断する。
S4212:表示画像解析部14cは、高周波数成分の差が小さいと判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって低周波数成分の差が大きいか小さいかを判断する。
S4214:表示画像解析部14cは、判断材料とする品質情報がエッジ抽出結果であると判断した場合、記憶部1000に格納された品質同期判断基準26にしたがってエッジ部分の情報量の差が大きいか小さいかを判断する。
S4216:表示画像解析部14cは、ステップS4206で画像全体の色差が大きいと判断した場合、ステップS4208で画像全体の画素値差の判断が終了した場合、ステップS4210で高周波成分の差が大きいと判断した場合、ステップS4212で低周波数成分の判断が終了した場合、ステップS4214でエッジ部分の情報量の差の判断が終了した場合、判断した結果から表示データの解析結果を作成する。
S4218:表示画像解析部14cは、複数の判断材料を使用するか否かを判断する。複数の判断材料を使用すると判断した場合、ステップS4204に戻る。表示画像解析部14cは、ステップS4218で複数の判断材料を使用すると判断しない場合、終了する。
<図面主体(カラー)である場合>
図43は、表示データの品質判断処理の一実施例(その4)を示す。
S4302:表示画像解析部14cは、表示データの品質解析を開始する。
S4304:表示画像解析部14cは、判断材料とする品質情報がコンテンツ自体のキャプチャ(図面主体)であるか、色分布結果であるか、周波数成分の抽出結果であるか、エッジ検出結果であるかを判断する。
S4306:表示画像解析部14cは、判断材料とする品質情報がコンテンツ自体のキャプチャ(文字主体)であると判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって画像全体の色差が大きいか小さいかを判断する。
S4308:表示画像解析部14cは、画像全体の色差が小さいと判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって画像全体の画素値差が大きいか小さいかを判断する。
S4310:表示画像解析部14cは、判断材料とする品質情報が色分布結果であると判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって色調の変化の差が大きいか小さいかを判断する。
S4312:表示画像解析部14cは、色調の変化の差が小さいと判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって彩度の変化の差が大きいか小さいかを判断する。
S4314:表示画像解析部14cは、判断材料とする品質情報が周波数成分の抽出結果であると判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって高周波数成分の差が大きいか小さいかを判断する。
S4316:表示画像解析部14cは、高周波数成分の差が小さいと判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって低周波数成分の差が大きいか小さいかを判断する。
S4318:表示画像解析部14cは、判断材料とする品質情報がエッジ抽出結果であると判断した場合、記憶部1000に格納された品質同期判断基準26にしたがってエッジ部分の情報量の差が大きいか小さいかを判断する。
S4320:表示画像解析部14cは、ステップS4306で画像全体の色差が大きいと判断した場合、ステップS4308で画像全体の画素値差の判断が終了した場合、ステップS4310で色調の変化の差が大きいと判断した場合、ステップS4312で彩度の変化の判断が終了した場合、ステップS4314で高周波数成分の差が大きいと判断した場合、ステップS4316で低周波数成分の判断が終了した場合、ステップS4318でエッジ部分の情報量の差の判断が終了した場合、判断した結果から表示データの解析結果を作成する。
S4322:表示画像解析部14cは、複数の判断材料を使用するか否かを判断する。複数の判断材料を使用すると判断した場合、ステップS4304に戻る。表示画像解析部14cは、ステップS4322で複数の判断材料を使用すると判断しない場合、終了する。
<文字+図面(モノクロ)である場合>
図44は、表示データの品質判断処理の一実施例(その5)を示す。
S4402:表示画像解析部14cは、表示データの品質解析を開始する。
S4404:表示画像解析部14cは、判断材料とする品質情報がコンテンツ自体のキャプチャ(文字主体)であるか、OCR結果であるか、周波数成分の抽出結果であるか、エッジ検出結果であるかを判断する。
S4406:表示画像解析部14cは、判断材料とする品質情報がコンテンツ自体のキャプチャ(文字主体)であると判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって画像全体の色差が大きいか小さいかを判断する。
S4408:表示画像解析部14cは、画像全体の色差が小さいと判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって画像全体の画素値差が大きいか小さいかを判断する。
S4410:表示画像解析部14cは、判断材料とする品質情報がOCR結果であると判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって文字の認識率の差が大きいか小さいかを判断する。
S4412:表示画像解析部14cは、文字の認識率の差が小さいと判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって文字の誤認識率の差が大きいか小さいかを判断する。
S4414:表示画像解析部14cは、判断材料とする品質情報が周波数成分の抽出結果であると判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって高周波数成分の差が大きいか小さいかを判断する。
S4416:表示画像解析部14cは、高周波数成分の差が小さいと判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって低周波数成分の差が大きいか小さいかを判断する。
S4418:表示画像解析部14cは、判断材料とする品質情報がエッジ抽出結果であると判断した場合、記憶部1000に格納された品質同期判断基準26にしたがってエッジ部分の情報量の差が大きいか小さいかを判断する。
S4420:表示画像解析部14cは、ステップS4006で画像全体の色差が大きいと判断した場合、ステップS4008で画像全体の画素値差の判断が終了した場合、ステップS4010で文字の認識率が大きいと判断した場合、ステップS4012で文字の誤認識率の判断が終了した場合、ステップS4414で高周波成分の差が大きいと判断した場合、ステップS4416で低周波数成分の判断が終了した場合、判断した結果から表示データの解析結果を作成する。
S4422:表示画像解析部14cは、複数の判断材料を使用するか否かを判断する。複数の判断材料を使用すると判断した場合、ステップS4404に戻る。表示画像解析部14cは、ステップS4422で複数の判断材料を使用すると判断しない場合、終了する。
<文字+図面(カラー)である場合>
図45は、表示データの品質判断処理の一実施例(その6)を示す。
S4502:表示画像解析部14cは、表示データの品質解析を開始する。
S4504:表示画像解析部14cは、判断材料とする品質情報がコンテンツ自体のキャプチャ(文字主体)であるか、OCR結果であるか、色分布結果であるか、周波数成分の抽出結果であるか、エッジ検出結果であるかを判断する。
S4506:表示画像解析部14cは、判断材料とする品質情報がコンテンツ自体のキャプチャ(文字主体)であると判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって画像全体の色差が大きいか小さいかを判断する。
S4508:表示画像解析部14cは、画像全体の色差が小さいと判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって画像全体の画素値差が大きいか小さいかを判断する。
S4510:表示画像解析部14cは、判断材料とする品質情報がOCR結果であると判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって文字の認識率の差が大きいか小さいかを判断する。
S4512:表示画像解析部14cは、文字の認識率の差が小さいと判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって文字の誤認識率の差が大きいか小さいかを判断する。
S4514:表示画像解析部14cは、判断材料とする品質情報が色分布結果であると判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって色調の変化の差が大きいか小さいかを判断する。
S4516:表示画像解析部14cは、色調の変化の差が小さいと判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって彩度の変化の差が大きいか小さいかを判断する。
S4518:表示画像解析部14cは、判断材料とする品質情報が周波数成分の抽出結果であると判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって高周波数成分の差が大きいか小さいかを判断する。
S4520:表示画像解析部14cは、高周波数成分の差が小さいと判断した場合、記憶部1000に格納された品質同期判断基準26にしたがって低周波数成分の差が大きいか小さいかを判断する。
S4522:表示画像解析部14cは、判断材料とする品質情報がエッジ抽出結果であると判断した場合、記憶部1000に格納された品質同期判断基準26にしたがってエッジ部分の情報量の差が大きいか小さいかを判断する。
S4524:表示画像解析部14cは、ステップS4506で画像全体の色差が大きいと判断した場合、ステップS4508で画像全体の画素値差の判断が終了した場合、ステップS4510で文字の認識率が大きいと判断した場合、ステップS4512で文字の誤認識率の判断が終了した場合、ステップS4514で色調の変化の差が大きいと判断した場合、ステップS4516で彩度の変化の判断が終了した場合、ステップS4518で高周波成分の差が大きいと判断した場合、ステップS4520で低周波数成分の判断が終了した場合、ステップS4522でエッジ部分の情報量の差の判断が終了した場合、判断した結果から表示データの解析結果を作成する。
S4526:表示画像解析部14cは、複数の判断材料を使用するか否かを判断する。複数の判断材料を使用すると判断した場合、ステップS4504に戻る。表示画像解析部14cは、ステップS4526で複数の判断材料を使用すると判断しない場合、終了する。
通信端末10の表示画像解析部14cは、対象となる品質情報に対応する項目情報について、他の通信端末へ送信した表示データの品質を解析し、解析結果(第1の解析結果)を得る。通信端末10の表示画像解析部14cが第1の解析結果を得る際に実行する処理は、図38−図45を適用できる。
他の通信端末は、通信端末10へ、第2の解析結果を送信する。
通信端末10は、他の通信端末から第2の解析結果を受信する。通信端末10の品質同期判断部14dは、他の通信端末からの第2の解析結果と、表示画像解析部14cにより得られる第1の解析結果とを比較し、品質同期判断基準26に基づいて、品質の差が小さいか否かを判断することにより、品質同期について判断する。
通信端末10は、品質の差が小さいと判断した場合データの送信を継続し、品質の差が大きいと判断した場合所定のアラームを送信する。
図46は、本実施例にかかる遠隔通信システムの動作を示すシーケンスチャートである。
ステップS4602では、外部入力装置40から通信端末10の外部情報送受信部18へ、共有コンテンツが入力される。
ステップS4604では、外部情報送受信部18は、送受信部11へ、共有コンテンツを入力する。
ステップS4606では、送受信部11は、通信ネットワーク2を介して、他の通信端末へ、共有コンテンツを送信する。
ステップS4608では、他の通信端末の送受信部11で受信された共有コンテンツは、画像表示制御部14bへ入力される。
ステップS4610では、他の通信端末の画像表示制御部14bは、共有コンテンツを表示する。
ステップS4612では、他の通信端末の画像表示制御部14bは、表示画像解析部14cへ、共有コンテンツを入力する。
ステップS4614では、他の通信端末の表示画像解析部14cは、品質同期判断基準を取得する。
ステップS4616では、他の通信端末の表示画像解析部14cは、表示データの品質を解析する。
ステップS4618では、他の通信端末の表示画像解析部14cは、送受信部へ、第2の解析結果を入力する。
ステップS4620では、他の通信端末の送受信部は、通信ネットワーク2を介して、通信端末10へ、第2の解析結果を送信する。
ステップS4622では、通信端末10の送受信部11は、品質同期判断部14dへ、他の通信端末から受信した第2の解析結果を入力する。
ステップS4624では、外部情報送受信部18は、表示画像解析部14cへ、共有コンテンツを入力する。
ステップS4626では、通信端末10の表示画像解析部14cは、品質同期判断基準を取得する。
ステップS4628では、通信端末10の表示画像解析部14cは、表示データの品質を解析する。
ステップS4630では、通信端末10の表示画像解析部14cは、品質同期判断部14dへ、第1の解析結果を入力する。
ステップS4632では、通信端末10の品質同期判断部14dは、表示データの品質が同期しているか否かを判断する。
ステップS4634では、通信端末10の品質同期判断部14dは、表示データの品質が同期しているか否かの判断結果に基づいて、同期していないと判断した場合フィードバックを送受信部11へ入力する。
ステップS4636では、送受信部11は、通信ネットワーク2を介して、他の通信端末へ、フィードバックを送信する。
ステップS4638では、他の通信端末の送受信部11で受信されたフィードバックは、画像表示制御部14bへ入力される。
ステップS4640では、他の通信端末の画像表示制御部14bは、フィードバックを表示する。
図47は、フィードバックの表示の一例を示す。他の通信端末の画像表示制御部14bは、通信端末10からのフィードバックに基づいて、共有コンテンツ上に、該共有コンテンツに関する説明や、共有コンテンツに対する操作を待つことを促す文言を表示する。例えば、画像表示制御部14bは、送信先との間で品質の同期がとれていないこと、コンテンツの説明や、コンテンツの操作を控えることをユーザに促すメッセージを表示する。ユーザに促すメッセージは、通信端末と他の通信端末との間で共有されるコンテンツの品質の同期の度合いに応じて変更されるのが好ましい。例えば、画像が多少乱れている場合から画像を全く認識できない場合へと同期がとれなくなるまでの間で1または複数の閾値を判断基準に設けて、異なるメッセージを送信する。また、文字が多少乱れている場合から文字を全く認識できない場合へと同期がとれなくなるまでの間で1または複数の閾値を判断基準に設けて、異なるメッセージを送信する。
図46に示されるシーケンスチャートおける順序はこの順序に限られない。例えば、ステップ4604−S4622の処理と、ステップS4624−S4630の処理は逆の順序で行われてもよいし、同時に行われてもよい。
また、通信端末10は、第1の解析結果を他の通信端末へ送信し、他の通信端末は、通信端末10からの第1の解析結果と第2の解析結果とに基づいて、品質同期の判断を行うようにしてもよい。他の通信端末は、品質同期の判断結果に基づいて、同期していないと判断した場合に、共有コンテンツ上に、該共有コンテンツに関する説明や、共有コンテンツに対する操作を待つことを促す文言を表示する。他の通信端末は、品質同期の判断結果を通信端末10へ送信する。このようにすることにより、送信側の処理負荷を低減できる。
図48は、本実施例にかかる遠隔通信システムの効果を示す。
本実施例にかかる遠隔通信システムによれば、共有コンテンツの送信側と受信側との間で、共有するコンテンツの品質の同期を判断できる。例えば、ビデオ/Web会議においてコンテンツを共有し、同期する際に、送信側が送信したコンテンツと受信側が受信したコンテンツを比較し、その差異を一定の基準において判断することができる。
送信側と受信側との間で、共有するコンテンツの品質が同期しているか否かの判断結果をユーザへフィードバックできる。このため、ユーザは、コンテンツの品質が同期しているか否かを容易に判断できる。コンテンツの品質が同期しているか否かを容易に判断できることにより、会議の進行をこれまでよりもスムーズにできる。
本実施形態にかかる遠隔通信システムは、会議の他、教育、医療など離れた地点間で、情報をやり取りする通信システムに適用できる。
本発明は特定の実施例、変形例を参照しながら説明されてきたが、各実施例、変形例は単なる例示に過ぎず、当業者は様々な変形例、修正例、代替例、置換例等を理解するであろう。説明の便宜上、本発明の実施例に従った装置は機能的なブロック図を用いて説明されたが、そのような装置はハードウェアで、ソフトウエアで又はそれらの組み合わせで実現されてもよい。本発明は上記実施例に限定されず、本発明の精神から逸脱することなく、様々な変形例、修正例、代替例、置換例等が包含される。