以下、図面を参照して、本発明の会議端末を実施するための形態について説明する。なお、この実施の形態によって本発明が限定されるものではない。また、図面の記載において、同一部分には同一の符号を付して示している。
(実施の形態)
図1は、本実施の形態におけるビデオ会議システム1の全体構成例を示すブロック図である。図1に示すように、ビデオ会議システム1は、サーバー3と複数の会議端末5(5−1,5−2,5−3,5−4・・・)とを備え、これらがインターネット等のネットワークNを介して接続されて構成される。サーバー3および会議端末5としては、サーバーコンピュータやワークステーション、パソコン等の汎用コンピュータを利用することができる。
サーバー3は、個々の会議端末5との間で通信接続が確立しているか否かを監視する処理や、会議開始時においてビデオ会議に参加する拠点(参加拠点)に設置された会議端末5を呼び出す処理、呼び出しに応答して通信接続が確立した参加拠点の会議端末5からビデオ会議の間に送信される画像データや音声データを相手先(他の参加拠点)の会議端末5に転送する処理等を行う。
会議端末5の各々は、遠隔地にある拠点の会議室等に設置され、ビデオ会議の出席者によって操作される。ビデオ会議中の各参加拠点の会議端末5は、後述するカメラ51によって撮影した会議出席者の画像データやマイク52によって集音した会議出席者の音声データをサーバー3に送信する一方、他の参加拠点の会議端末5から送信されてサーバー3によって転送された画像データや音声データを受信し、表示部54に会議画面として表示出力するとともにスピーカー55から音出力する。
例えば、このビデオ会議システム1において図1に示す3台の会議端末5−1〜5−3が参加するビデオ会議では、会議端末5−1から送信された画像データや音声データはサーバー3の制御によって相手先である会議端末5−2,5−3に転送される一方、会議端末5−4には転送されない。同様に、会議端末5−2,5−3から送信された画像データや音声データはサーバー3の制御によって各々の相手先である会議端末5−1,5−3や会議端末5−1,5−2に転送され、会議端末5−4には転送されない。このようにして、ビデオ会議システム1では、サーバー3との通信接続が確立された2台以上の会議端末5が設置された参加拠点間でビデオ会議が行われる。なお、以下では、サーバー3との通信接続が確立された1つのビデオ会議に参加する各参加拠点の会議端末5を適宜「接続端末5」とも呼ぶ。
図2は、会議端末5の主要内部構成例を示すブロック図である。図2に示すように、会議端末5は、カメラ51と、マイク52と、操作部53と、表示部54と、スピーカー55と、記録装置56と、メモリ57と、LANインターフェース(I/F)部58と、送信フォーマット指定手段、画像送信手段、受信フォーマット指定手段、および画像表示手段としてのCPU59とを備える。
カメラ51は、会議出席者の画像を入力するためのものであり、会議室内の様子を撮影し、生成した画像データを随時CPU59に出力する。このカメラ51は、広角レンズを用いて構成され、その視野範囲(画角)内に会議出席者の全員が含まれるようにビデオ会議の開始前等において会議室内の適所に設置される。マイク52は、会議出席者の音声を入力するためのものであり、集音した会議出席者の音声データを随時CPU59に出力する。
操作部53は、キーボードやマウス、タッチパネル、各種スイッチ等の入力装置によって実現されるものであり、操作入力に応じた入力データをCPU59に出力する。
表示部54は、LCDやELディスプレイ、CRTディスプレイ等の表示装置によって実現されるものであり、CPU59から入力される画像データ(後述する加工画像データ)を表示した会議画面等の各種画面を表示出力する。スピーカー55は、CPU59から入力される音声データを音出力する。
記録装置56は、会議端末5を動作させ、この会議端末5が備える種々の機能を実現するためのプログラムや、これらプログラムの実行中に使用されるデータ等を記録しておくためのものである。この記録装置56は、例えば、更新記録可能なフラッシュメモリ、内蔵あるいはデータ通信端子で接続されたハードディスク、メモリカード等の情報記録媒体およびその読み書き装置等によって実現され、用途に応じた記録装置を適宜採用して用いることができる。
メモリ57は、CPU59の作業用メモリとして用いられるものであり、CPU59が実行するプログラムを展開し、あるいはこのプログラムの実行中に使用されるデータ等を一時的に保持するメモリ領域を備える。
LANI/F部58は、外部(例えばサーバー3)とのデータ通信を行うためのものであり、LANを経由してネットワークNと接続し、相手先の接続端末5との画像データや音声データ等の送受をサーバー3を介して行う。このLANI/F部58は、10Base−T,100Base−TX,1000Base−T等に対応した制御を行いイーサネット(登録商標)に接続するもの(有線LAN)や、802.11a/b/g/nに対応した制御を行うもの(無線LAN)等、接続態様に応じたものを適宜採用して用いることができる。
CPU59は、カメラ51から入力される画像データやマイク52から入力される音声データ、LANI/F部58から入力される相手先の接続端末5からの画像データや音声データ、操作部53から入力される入力データ、記録装置56に記録されるプログラムやデータ等をもとに、会議端末5を構成する各部への指示やデータの転送等を行って会議端末5の動作を統括的に制御する。例えば、CPU59は、サーバー3からの呼び出しを受けてサーバー3との通信接続が確立した後、カメラ51から入力される画像データやマイク52から入力される音声データをサーバー3に送信する処理と、サーバー3から転送される相手先の接続端末5からの画像データや音声データを受信する処理とを並行して繰り返し行う。
具体的には、CPU59は、ビデオ会議中にカメラ51から随時入力される画像データに後述する画像加工処理を行う。そして、CPU59は、画像加工処理後の画像データ(加工画像データ)をマイク52から随時入力される音声データとともにLANI/F部58に出力することで、これらをサーバー3に送信する処理を行う。また、CPU59は、これと並行し、相手先の接続端末5から送信されてサーバー3によって転送された画像データおよび音声データをLANI/F部58を介して受信する。そして、CPU59は、受信した画像データを随時表示部54に出力して会議画面を表示出力する処理を行うとともに、受信した音声データをスピーカー55に出力して音出力する処理を行い、これによって相手先の接続端末5で入力された画像および音声の再生を行う。なお、画像加工処理は、CPU59が行う場合に限らず、専用の画像処理回路を用いて行う構成としてもよい。
本実施の形態の会議端末(接続端末)5は、カメラ51から入力された画像データに対して所定の画像加工処理を行い、その上で相手先の接続端末5とやり取りするものである。画像加工処理は、個々に画像加工処理が定義された画像表示フォーマットとして用意し、記録装置56に予め記録しておく。先ず、この画像表示フォーマットについて説明する。なお、以下では、説明を簡単にするため、2台の接続端末5がサーバー3と通信接続し、2つの参加拠点間でビデオ会議が行われることとして説明する。
ここで、画像表示フォーマットとは、カメラ51から入力された画像データの一部または全体を対象に変形を施す方法を示したものであり、この方法を画像加工処理によって定義したものである。すなわち、画像表示フォーマットとは、画像の見え方を変更させるルールのことである。
図3−1は、ビデオ会議中の一方の参加拠点に設置された接続端末5のカメラ51の視野範囲A1の一例を示す図であり、該当する参加拠点の会議室内で3名の会議出席者P1,P2,P3が並んで着席している様子を示している。また、図3−2は、カメラ51によって図3−1に示す視野範囲A1を撮影処理して得た画像データI1を示す図である。
上記したように、ビデオ会議システム1で用いられるカメラ51は、広角レンズを用いて構成される。このため、カメラ51によってその視野範囲A1を撮影処理すると、広角レンズのレンズ特性が原因となって画像に歪みが生じる。この結果、図3−1に示すように、実際には各会議出席者P1,P2,P3はカメラ51から略等距離の位置に並んでいるにも関わらず、図3−2に示すように、生成される画像データでは中央の会議出席者P1が小さく、反対に両脇の会議出席者P2,P3は大きく見える事態が生じる。したがって、ビデオ会議を違和感なく行うためには、カメラ51によって生成される画像データI1に対して歪み補正処理を行い、画像の歪みを補正して図3−1に示す実際の見た目に近づける必要がある。
そこで、本実施の形態では、会議出席者P1,P2,P3の全員を含む画像表示フォーマット(以下、この画像表示フォーマットを「全体画像」と呼ぶ。)を用意し、画像の歪みを補正する歪み補正処理を画像加工処理として定義しておく。図4は、全体画像の画像加工処理を行った全体画像データI21の一例を示す図である。カメラ51から入力される図3−2の画像データI1は会議出席者P1,P2,P3の全員を含むため、この画像データI1に対して歪み補正処理を行えば、広角レンズを用いたことで生じる画像の歪みが補正された加工画像データとして、該当する参加拠点における会議出席者を含む全体画像データI21(図4)が得られる。この全体画像データI21によれば、広角レンズを用いたカメラ51の画質を担保できる。したがって、相手先の参加拠点の会議出席者は、画像加工処理前の画像データI1と比較して違和感の軽減された実際の会議室内の見た目(図3−1)に近い会議画面を見ながらビデオ会議を行うことができる。
一方で、ビデオ会議においては、主に発言する会議出席者等、特定の会議出席者に注目したい場合があるが、例えば、ビデオ会議において図4中の中央の会議出席者P1に注目したいときに、図4の全体画像データI21では、会議出席者P1が小さく映り表情等が伝わり難い場合がある。そこで、本実施の形態では、中央の会議出席者P1に注目した画像表示フォーマット(以下、この画像表示フォーマットを「一部拡大画像」と呼ぶ。)を用意し、会議出席者P1の領域を抽出して拡大する処理を画像加工処理として定義しておく。図5は、一部拡大画像の画像加工処理を行った一部拡大画像データI23の一例を示す図である。この一部拡大画像データを用いれば、会議出席者P1を拡大表示(ズーム)
した会議画面を見ながらビデオ会議を行うことができ、全体画像データでは発言者が小さいという欠点を解消してスムーズにビデオ会議を進めることが可能となる。なお、中央の会議出席者P1に注目した一部拡大画像に限らず、向かって左側の会議出席者P2や右側の会議出席者P3が主に発言する場合を想定し、左側の会議出席者P2の領域を抽出して拡大処理する画像加工処理を定義した画像表示フォーマットや、右側の会議出席者P3の領域を抽出して拡大処理する画像加工処理を定義した画像表示フォーマットを適宜用意することとしてよい。
次に、実際に接続端末5間で上記した加工画像データをやり取りするための処理手順について説明する。接続端末5は、送信側の接続端末5として上記した加工画像データを送信する処理(画像データ送信処理)と、受信側の接続端末5として上記した加工画像データを受信する処理(画像データ受信処理)とを並行して繰り返し行う。図6は、画像データ送信処理の処理手順を示すフローチャートであり、図7は、画像データ受信処理の処理手順を示すフローチャートである。なお、これら画像データ送信処理および画像データ受信処理の開始に先立ちサーバー3とビデオ会議に参加する各参加拠点の会議端末5との通信接続が確立され、ビデオ会議が開始される。また、ビデオ会議中は、加工画像データのやり取りに加え、音声データのやり取りも行われる。
そして、画像データ送信処理では、図6に示すように、CPU59は先ず、自装置が送信に使用する2種類以上の送信画像表示フォーマットを指定する(ステップS101)。
例えば、CPU59は、送信可能な画像表示フォーマットを表示部54に一覧表示する処理を行い、操作部53を介して2種類以上の画像表示フォーマットの指定操作を受け付ける。そして、CPU59は、受け付けた指定操作に従って2種類以上の画像表示フォーマットを送信画像表示フォーマットとして指定する。
続いて、CPU59は、ステップS101で指定した送信画像表示フォーマットの種類情報を相手先の接続端末5に通知するための処理を行う(ステップS103)。実際の処理としては、CPU59は、送信画像表示フォーマットの種類情報をサーバー3に通知する処理を行い、サーバー3がこれを他の接続端末5に転送する処理を行う。
続いて、CPU59は、カメラ51を駆動して会議出席者の撮影処理を開始し、カメラ51から随時入力される画像データを取得する(ステップS105)。そして、CPU59は、ステップS105で取得した画像データに対し、ステップS101で指定した2種類以上の送信画像表示フォーマットに定義された画像加工処理を個別に行って送信画像表示フォーマット毎の加工画像データを生成する(ステップS107)。
続いて、CPU59は、送信画像表示フォーマット毎の加工画像データを相手先の接続端末5に送信するための処理を行う(ステップS109)。実際の処理としては、CPU59は、送信画像表示フォーマット毎の加工画像データをサーバー3に送信する処理を行い、サーバー3がこれを他の接続端末5に転送する処理を行う。
その後、CPU59は、ビデオ会議が終了したか否かを判定し、ビデオ会議が終了しない間は(ステップS111:No)、ステップS105に戻って上記した処理を繰り返す。ビデオ会議が終了した場合には(ステップS111:Yes)、画像データ送信処理を終える。
例えば、送信側の接続端末5において会議出席者が上記した全体画像および一部拡大画像の2種類の画像表示フォーマットを送信画像表示フォーマットとして指定操作した場合を例に挙げる。この場合、送信側の接続端末5は、全体画像および一部拡大画像を示す種類情報をサーバー3を介して受信側(相手先)の接続端末5に通知する(ステップS101→S103)。そして、送信側の接続端末5は、ステップS105で取得した画像データに対して歪み補正処理を画像加工処理として行い、図4に例示した全体画像データI21を生成するとともに、それとは別にステップS105で取得した画像データから図3−1に示す中央の会議出席者P1の領域を抽出して拡大する処理を画像加工処理として行い、図5に例示した一部拡大画像データI23を生成する(ステップS107)。その後、送信側の接続端末5は、全部画像データおよび一部拡大画像データをサーバー3に送信する(ステップS109)。
一方、画像データ受信処理では、図7に示すように、CPU59は先ず、相手先の接続端末5から送信され、サーバー3によって転送される送信画像表示フォーマットの種類情報を受信する処理を行い(ステップS201)、サーバー3によって転送される送信画像表示フォーマット毎の加工画像データを受信する処理を行う(ステップS203)。
続いて、CPU59は、自装置が会議画面に使用する画像表示フォーマットを受信画像表示フォーマットとして初期設定し(ステップS205)、その後、初期設定した受信画像表示フォーマットの加工画像データを表示部54に出力して会議画面を表示する処理を行う(ステップS207)。ここで、受信画像表示フォーマットの初期設定は、ステップS201で受信した種類情報のうちのいずれか1つを例えば自動的に選出し、選出したものを受信画像表示フォーマットの初期値とすることで行ってもよいし、会議出席者の操作入力を受け付けて行うこととしてもよい。操作入力を受け付ける場合は、後段のステップS211,S213と同様の処理を行うことで実現できる。このとき、CPU59は、初期設定した受信画像表示フォーマットの種類情報をサーバー3に通知する処理を行う。そして、続くステップS207では、CPU59は、ステップS203で受信した送信画像表示フォーマット毎の加工画像データのうち、初期設定した受信画像表示フォーマットの加工画像データを用いた会議画面を表示する。
続いて、CPU59は、ビデオ会議が終了したか否かを判定し、ビデオ会議が終了しない間は(ステップS209:No)、受信画像表示フォーマットの変更操作の有無を判定する。受信画像表示フォーマットの変更操作が入力されなければ(ステップS211:No)、CPU59は、ステップS215に移行する。
一方、受信画像表示フォーマットの変更操作が入力された場合には(ステップS211:Yes)、CPU59は、受信画像表示フォーマットを変更し(ステップS213)、その後ステップS215に移行する。ここでの処理は、例えば次のようにして行う。すなわち先ず、CPU59は、ステップS201で受信した種類情報に従い、相手先の接続端末5が指定した2種類以上の送信画像表示フォーマットを会議画面に使用可能な画像表示フォーマットとして表示部54に一覧表示する処理を行う。そして、CPU59は、操作部53を介して1種類の画像表示フォーマットの指定操作を受け付け、指定操作された1種類の画像表示フォーマットを変更後の受信画像表示フォーマットとして設定する。このとき、CPU59は、変更後の受信画像表示フォーマットの種類情報をサーバー3に通知する処理を行う。
なお、受信画像表示フォーマットの変更操作は、接続端末5が3台以上の場合には、相手先の接続端末5毎に受け付けるようにしてよい。操作入力を受け付けて受信画像表示フォーマットの初期設定を行う場合も同様である。これによれば、3つ以上の参加拠点間でビデオ会議を行う場合に、ある接続端末5に対しては全体画像を指定し、該当する参加拠点の会議出席者全員の様子が見えるようにし、別の接続端末5に対しては一部拡大画像を指定して該当する参加拠点の特定の会議出席者(図3−1の会議出席者P1)に注目するといったことができる。
そして、ステップS215では、CPU59は、受信画像表示フォーマットの加工画像データを受信する処理を行う。上記したように、送信側の接続端末5では、画像データ送信処理において自装置が送信に使用する送信画像表示フォーマットを指定し(図6のステップS101)、指定した送信画像表示フォーマット毎の加工画像データをサーバー3に送信するようになっている(図6のステップS109)。また、受信側の接続端末5では、前段のステップS205で受信画像表示フォーマットの初期設定をした際、およびステップS213で受信画像表示フォーマットを変更した際に受信画像表示フォーマットの種類情報をサーバー3に通知している。そして、サーバー3では、この受信画像表示フォーマットの初期設定通知および変更通知の後は、後述するように、送信側の接続端末5から送信された加工画像データのうちの受信画像表示フォーマットの加工画像データのみを受信側の接続端末5に転送するようになっている(図8のステップS307)。図7のステップS215では、CPU59は、このようにしてサーバー3から転送された加工画像データを受信する。
そして、CPU59は、ステップS215で受信した加工画像データを表示部54に出力して会議画面を表示する処理を行い、変更後の受信画像表示フォーマットの加工画像データを用いた会議画面を表示する(ステップS217)。
その後は、CPU59は、ステップS209に戻ってビデオ会議が終了するまでの間上記した処理を繰り返す。そして、ビデオ会議が終了した場合には(ステップS209:Yes)、画像データ受信処理を終える。
例えば、送信側の接続端末5が上記した全体画像および一部拡大画像の2種類を送信画像表示フォーマットとして指定している場合、受信側の接続端末5では、全体画像データまたは一部拡大画像データを選択して会議画面の表示を行うことができる。すなわち、受信側の接続端末5が全体画像を受信画像表示フォーマットとして初期設定した場合であれば、受信側の接続端末5は、全体画像を示す種類情報をサーバー3に通知し、これに応答してサーバー3から転送される全体画像データを受信する(ステップS205,S215)。この場合の初期設定後のビデオ会議では、図3−1に示す会議出席者P1,P2,P3の全員が表示された会議画面を見ながらビデオ会議を行うこととなる。
また、その後の任意のタイミングで受信側の接続端末5に対して会議出席者が受信画像表示フォーマットを一部拡大画像に変更する操作を入力した場合には、受信側の接続端末5は、受信画像表示フォーマットを一部拡大画像に変更し、一部拡大画像を示す種類情報をサーバー3に通知する(ステップS211(Yes)→S213)。そして、受信側の接続端末5は、これに応答してサーバー3から転送される一部拡大画像データを受信する(ステップS215)。この場合の変更操作後のビデオ会議では、図3−1の中央の会議出席者P1が拡大表示された会議画面を見ながらビデオ会議が進められる。
図8は、サーバー3と接続端末(会議端末)5との間で送受されるデータの流れを示す図である。また、図9は、受信側の接続端末5において受信画像表示フォーマットの変更操作が入力された場合にサーバー3と接続端末(会議端末)5との間で送受されるデータの流れを示す図である。接続端末5間での加工画像データのやり取りは、上記した画像データ送信処理と画像データ受信処理とを並行して繰り返し行う接続端末5の間にサーバー3が介在することで実現される。なお、図8,図9では、一方の接続端末5を送信側とし、他方の接続端末5を受信側として、送信側の接続端末5から受信側の接続端末5に加工画像データを送信する場合のデータの流れを示しているが、実際には、受信側の接続端末5が送信側となり、送信側の接続端末5が受信側となって同様の処理が逆方向にも並行して行われることとなる。
図8に示すように、送信側の接続端末5は、サーバー3に対して送信画像表示フォーマットの種類情報を通知するとともに、加工画像データの送信を開始する(ステップS301)。ここでの処理は、図6のステップS103〜S109の処理に相当する。これに応答してサーバー3は、送信画像表示フォーマットの種類情報を受信側の接続端末5に転送するとともに、この受信側の接続端末5に対する送信画像表示フォーマット毎の加工画像データの転送を開始する(ステップS303)。
一方、受信側の接続端末5は、サーバー3から送信画像表示フォーマットの種類情報が転送されると、受信画像表示フォーマットを初期設定してその種類情報をサーバー3に通知する(ステップS305)。ここでの処理は、図7のステップS205の処理に相当する。サーバー3は、このようにして受信側の接続端末5から受信画像表示フォーマットの初期設定通知を受信した後は、送信側の接続端末5から随時送信されてくる加工画像データのうち、受信画像表示フォーマットの加工画像データのみを受信側の接続端末5に転送する(ステップS307)。実際には、ここでの処理を実現するため、サーバー3は、各接続端末5が指定している送信画像表示フォーマットの一覧と、各接続端末5が指定している受信画像表示フォーマットの一覧とを管理する。そして、サーバー3は、これらを参照することで、送信側の接続端末5から送信された2種類以上の送信画像表示フォーマット毎の加工画像データを選択的に受信側の接続端末5に転送する処理を行う。
また、図9に示すように、受信側の接続端末5は、受信画像表示フォーマットが変更操作された際に、変更後の受信画像表示フォーマットの種類情報をサーバー3に通知する(ステップS401)。ここでの処理は、図7のステップS213の処理に相当する。サーバー3は、このようにして受信側の接続端末5から受信画像表示フォーマットの変更通知を受信した場合には、変更後の受信画像表示フォーマットに切り替えて加工画像データを受信側の接続端末5に転送する(ステップS403)。このとき、サーバー3は、上記した受信画像表示フォーマットの一覧を更新する。
以上説明したように、本実施の形態によれば、会議端末(接続端末)5は、予め個別に画像加工処理を定義した画像表示フォーマットを用意しておき、自装置が送信に使用する2種類以上の画像表示フォーマットを送信画像表示フォーマットとして指定することができる。そして、相手先の接続端末5に対する画像データの送信に際し、送信画像表示フォーマットの画像加工処理を個別に行って送信画像表示フォーマット毎の加工画像データを生成することができる。そして、このようにして生成した画像表示フォーマット毎の加工画像データをサーバー3を介して相手先の接続端末5に送信することができる。一方で、会議端末(接続端末)5は、送信側の接続端末5から画像データを受信するに際し、相手先の接続端末5が送信画像表示フォーマットとして指定している画像表示フォーマットのうちの1つを受信画像表示フォーマットとして初期設定し、あるいは会議出席者の操作入力を受け付けて受信画像表示フォーマットを変更することができる。そして、受信画像表示フォーマットの加工画像データを用いて会議画面を表示することができる。したがって、会議出席者が所望する会議画面を表示することができる。
特に、本実施の形態では、広角レンズを用いて構成されたカメラ51によって会議出席者の全員を含む画像データを随時取得することができる。そして、例えば、取得した画像データに対して歪み補正処理を行い、画像の歪みを補正する画像加工処理を定義した画像表示フォーマット(全体画像)に従って全体画像データを生成するとともに、前述の画像データに対して特定の会議出席者(図3−1の中央の会議出席者P1)の領域を抽出して拡大する画像加工処理を定義した画像表示フォーマット(一部拡大画像)に従って一部拡大画像データを生成し、サーバー3を介して相手先の接続端末5に送信することができる。そして、受信側の接続端末5では、全体画像データまたは一部拡大画像データを選択して用い、会議画面を表示することができる。
また、サーバー3は、送信側の接続端末5から送信画像表示フォーマット毎の加工画像データを受信し、受信側の接続端末5に転送することができる。また、サーバー3は、このようにして送信側の接続端末5から送信画像表示フォーマット毎の加工画像データを受信しているので、受信側の接続端末5から受信画像表示フォーマットの初期設定通知を受信し、あるいは変更通知を受信した後は、指定された受信画像表示フォーマットの加工画像データのみを該当する受信側の接続端末5に転送することができる。したがって、各接続端末5に対し、該当する接続端末5が会議画面に表示する加工画像データのみを転送することができるので、サーバー3と接続端末5との間のデータ通信に使用するネットワーク帯域を低減できる。これによれば、ネットワーク帯域が小さい回線を利用する場合であっても、安定したデータ通信を行うことができる。
なお、上記した実施の形態では、接続端末5が2台の場合について説明したが、3台以上の接続端末5がサーバー3と通信接続し、3つ以上の参加拠点間でビデオ会議を行う場合にも同様に適用が可能である。すなわち、サーバー3は、上記したように更新・管理する各接続端末5の送信画像表示フォーマットや受信画像表示フォーマットの一覧を参照することによって、送信側の接続端末5から送信された送信画像表示フォーマット毎の加工画像データを、受信側の接続端末5のそれぞれに対して選択的に転送する処理を行う。
(変形例1)
上記した実施の形態では、送信側の接続端末5は、送信画像表示フォーマット毎の加工画像データをサーバー3に送信し、サーバー3は、受信側の接続端末5によって指定されている受信画像表示フォーマットの加工画像データのみをその接続端末5に転送する場合を説明した。これに対し、送信側の接続端末5が、受信側の接続端末5によって指定されている受信画像表示フォーマットの加工画像データのみを送信する構成としてもよい。
図10は、変形例1においてサーバー3と接続端末(会議端末)5との間で送受されるデータの流れを示す図である。また、図11は、受信側の接続端末5において受信画像表示フォーマットの変更操作が入力された場合にサーバー3と接続端末(会議端末)5との間で送受されるデータの流れを示す図である。なお、図10および図11において上記した実施の形態と同様の処理工程には同一の符号を付し、説明は省略する。
図10に示すように、サーバー3は、受信側の接続端末5から受信画像表示フォーマットの初期設定通知を受信した際、上記した実施の形態と同様に受信画像表示フォーマットの加工画像データのみを受信側の接続端末5に転送する(ステップS307)が、変形例1では、その後受信した初期設定通知(受信画像表示フォーマットの種類情報)を送信側の接続端末5に転送する(ステップS509)。これに応答し、送信側の接続端末5は、通知された受信画像表示フォーマットの加工画像データのみをサーバー3に送信する(ステップS511)。この場合には、送信側の接続端末5は、受信画像表示フォーマットの加工画像データのみを生成すればよい。その後は、サーバー3は、送信側の接続端末5から送信された加工画像データを受信側の接続端末5に転送する(ステップS513)。
また、図11に示すように、サーバー3は、受信側の接続端末5から受信画像表示フォーマットの変更通知を受信した場合に、受信した変更通知(受信画像表示フォーマットの種類情報)を送信側の接続端末5に転送する(ステップS605)。これに応答し、送信側の接続端末5は、通知された受信画像表示フォーマットの加工画像データのみをサーバー3に送信する(ステップS607)。この場合も図10のステップS511と同様、送信側の接続端末5は、受信画像表示フォーマットの加工画像データのみを生成すればよい。その後は、サーバー3は、送信側の接続端末5から送信された加工画像データを受信側の接続端末5に転送する(ステップS609)。
ここで、変形例1では、受信側の接続端末5で受信画像表示フォーマットが初期設定された以降においては、送信側の接続端末5は、受信側の接続端末5が受信画像表示フォーマットとして指定している加工画像データのみを送信する(図10のステップS511,図11のS607)こととなる。したがって、受信画像表示フォーマットが変更された場合には、送信側の接続端末5は、送信する加工画像データの画像表示フォーマットを変更する必要がある。
また、3台以上の接続端末5がサーバー3と通信接続してビデオ会議が行われる場合では、送信側の接続端末5は、場合によって送信する加工画像データを追加する必要が生じる。例えば、図1の4台の接続端末5−1〜5−4がサーバー3と通信接続してビデオ会議が行われている場合であって、接続端末5−1〜5−3が接続端末5−4に対して全体画像を指定していた場合、接続端末5−4は、全体画像データのみを生成してサーバー3に送信することとなる。この状態で、接続端末5−1が接続端末5−4に対する受信画像表示フォーマットを一部拡大画像に変更すると、接続端末5−4は、全体画像データに加えて新たに一部拡大画像データを生成し、サーバー3に送信する必要が生じる。これに対し、接続端末5−1,5−2が接続端末5−4に対して全体画像を指定し、接続端末5−3が接続端末5−4に対して一部拡大画像を指定していた場合、接続端末5−4は、全体画像データと一部拡大画像データとを生成してサーバー3に送信することとなるが、この状態で、接続端末5−1が接続端末5−4に対する受信画像表示フォーマットを一部拡大画像に変更した場合では、接続端末5−4は新たに別の加工画像データを生成する必要が生じない。接続端末5−4は、既に接続端末5−3のために一部拡大画像データを生成してサーバー3に送信しており、サーバー3がこの一部拡大画像データを接続端末5−1に対しても転送すれば済むためである。
図12は、変形例1において受信側の接続端末5から受信画像表示フォーマットの変更通知を受信した場合にサーバー3が行う受信画像表示フォーマット切替処理の処理手順を示すフローチャートである。
受信画像表示フォーマット切替処理では、図12に示すように、サーバー3は、受信側の接続端末5から送信側の接続端末5を指定して受信画像表示フォーマットの変更通知を受信する(ステップS701)。そして、サーバー3は、変更通知を受信すると、その変更後の受信画像表示フォーマットが他の接続端末5で指定されているか否かを判定する。
上記した実施の形態と同様に、サーバー3は、各接続端末5の送信画像表示フォーマットおよび受信画像表示フォーマットの一覧を管理しており、ここでの判定は、これを参照することによって行う。そして、サーバー3は、変更後の受信画像表示フォーマットが他の接続端末5で指定されている場合には(ステップS703:Yes)、変更後の受信画像表示フォーマットの加工画像データを受信側の接続端末5に転送する(ステップS705)。
一方、変更後の受信画像表示フォーマットが他の接続端末5で指定されていない場合には(ステップS703:No)、受信画像表示フォーマットの変更通知を送信側の接続端末5に転送して加工画像データの送信要求を通知する(ステップS707)。これに応答し、送信側の接続端末5では、変更後の受信画像表示フォーマットの加工画像データを新たに生成してサーバー3に送信する。サーバー3は、このようにして送信側の接続端末5から送信された変更後の受信画像表示フォーマットの加工画像データを受信側の接続端末5に転送する(ステップS709)。
この変形例1では、接続端末5のCPU59は、図6のステップS105の後でサーバー3から初期設定通知および変更通知が転送されたか否かを判定し、これらが転送された後においては、ステップS107,S109の処理にかえて、相手先の接続端末5で指定されている受信画像表示フォーマットの加工画像データのみを生成する処理を行い、生成した加工画像データをサーバー3に送信する処理を行う。また、接続端末5のCPU59は、図7と同様の手順で画像データ受信処理を行う。
以上説明したように、変形例1によれば、上記した実施の形態と同様の効果を奏するとともに、受信画像表示フォーマットが初期設定された後においては、各接続端末5は、自装置が指定している送信画像表示フォーマットの中から相手先の接続端末5が指定した受信画像表示フォーマットの加工画像データのみを生成し、サーバー3に送信することができる。したがって、各接続端末5におけるCPU59の使用率を低減できる。専用の画像処理回路で画像加工処理を行う場合であれば、この画像処理回路の使用率を低減できる。
また、この結果、各接続端末5において消費電力を低減できる。
(変形例2)
上記した実施の形態では、接続端末5側で画像加工処理を行うこととしたが、この画像加工処理は、接続端末5で行う場合に限らず、サーバー3が行ってもよい。
図13は、変形例2においてサーバー3が行う画像データ転送処理の処理手順を示すフローチャートである。なお、これら画像データ送信処理および画像データ受信処理の開始に先立ちサーバー3とビデオ会議に参加する各参加拠点の会議端末5との通信接続が確立され、ビデオ会議が開始される。また、本変形例2では、サーバー3側で画像加工処理を定義した画像表示フォーマットを用意しておく。
そして、画像データ転送処理では、図13に示すように、サーバー3は先ず、受信側の接続端末5から送信される2種類以上の送信画像表示フォーマットの種類情報を受信し(ステップS801)、送信側の接続端末5から送信される画像データを受信する(ステップS803)。
続いて、サーバー3は、ステップS803で受信した画像データに対し、ステップS801で受信した2種類以上の送信画像表示フォーマットに定義された画像加工処理を個別に行って送信画像表示フォーマット毎の加工画像データを生成する(ステップS805)。
続いて、サーバー3は、受信側の接続端末5からの受信画像表示フォーマットの種類情報の受信の有無、すなわち、受信画像表示フォーマットの初期設定通知および変更通知の受信の有無を判定する。そして、サーバー3は、受信側の接続端末5から受信画像表示フォーマットの種類情報を受信しない間は(ステップS807:No)、ステップS805で生成した送信画像表示フォーマット毎の加工画像データを受信側の接続端末5に送信する(ステップS809)。一方、受信側の接続端末5から受信画像表示フォーマットの種類情報を受信している場合には(ステップS807:Yes)、サーバー3は、ステップS805で生成した送信画像表示フォーマット毎の加工画像データのうち、受信画像表示フォーマットの加工画像データのみを受信側の接続端末5に送信する(ステップS811)。なお、各接続端末5は、相手先の接続端末5から受信画像表示フォーマットの種類情報を受信した後は、相手先の接続端末5が指定している受信画像表示フォーマットの加工画像データのみを生成するようにしてもよい。
その後、サーバー3は、ビデオ会議が終了したか否かを判定し、ビデオ会議が終了しない間は(ステップS813:No)、ステップS803に戻って上記した処理を繰り返す。ビデオ会議が終了した場合には(ステップS813:Yes)、画像データ転送処理を終える。
この変形例2では、接続端末5のCPU59は、図6に示す画像データ送信処理においてステップS107の処理は行わず、ステップS109の処理にかえてステップS105で取得した画像データをサーバー3に送信する処理を行う。また、接続端末5のCPU59は、図7と同様の手順で画像データ受信処理を行う。
以上説明したように、変形例2によれば、上記した実施の形態と同様の効果を奏することができるとともに、受信画像表示フォーマットが初期設定された後においては、サーバー3は、各接続端末5が指定している受信画像表示フォーマットに従って必要な加工画像データのみを生成し、接続端末5の各々に送信することができる。
(変形例3)
上記実施形態では、会議開始直後に全ての画像表示フォーマットで画像処理を行っていた。本変形例では、会議開始直後に1つの画像表示フォーマットで画像処理する例を説明する。図14は、本変形例の画像データ送信処理の処理手順を示すフローチャートである。図14は、受信側の接続端末5から表示したい画像表示フォーマットの要求を受けた後、送信側の接続端末5が要求された画像表示フォーマットを画像処理する場合の処理手順を示す。
送信側の接続端末5のCPU59は、送信する画像表示フォーマット(送信画像表示フォーマット)の種類情報を相手先の接続端末5に通知する(ステップS901)。CPU59は、まずデフォルトの画像表示フォーマットで画像処理を行い、ネットワークに送信する(ステップS902)。デフォルトの画像表示フォーマットとは、送信側の接続端末5から送信できる複数の画像表示フォーマットの任意の1つを指す。例えば、予め送信側の接続端末5の記録装置に、いずれのフォーマットをデフォルトにするかが記録されている。
CPU59は、受信側の接続端末5から表示する画像表示フォーマットの変更が要求されたか否かを判定する(ステップS903)。変更が要求された場合(ステップS903:Yes)、CPU59は、要求された画像表示フォーマットで画像処理を行っているか判定する(ステップS904)。
要求された画像表示フォーマットで画像処理を行っていない場合(ステップS904:No)、CPU59は、新たに要求された画像表示フォーマットでの画像処理を、デフォルトの画像表示フォーマットの画像処理に追加して実行し、ネットワークに送信する(ステップS905)。
その後(ステップS903:No、ステップS904:Yes、または、ステップS905の後)、CPU59は、ビデオ会議が終了したか否かを判定し(ステップS906)、ビデオ会議が終了しない間は(ステップS906:No)、ステップS903に戻って上記した処理を繰り返す。ビデオ会議が終了した場合には(ステップS906:Yes)、画像データ送信処理を終える。
図14の例では、受信側の接続端末5から表示する画像表示フォーマットの変更要求があった時点で、画像処理を追加した。逆に、いずれの受信側の接続端末5も表示していない画像表示フォーマットが存在する場合、送信側の接続端末5は、この画像表示フォーマットの画像処理およびネットワーク送信を中止してもよい。
図14のような処理により、送信側の接続端末5は、会議開始直後に複数の画像表示フォーマットをネットワークに送信する必要がなくなる。また、送信側の接続端末5は、受信側の接続端末5が表示していない画像表示フォーマットの画像処理を行う必要がなくなる。
図15は、本変形例においてサーバーと会議端末との間で送受されるデータの流れを示す図である。
会議が開始すると、送信側の接続端末5は、サーバー3に対して送信画像表示フォーマットの種類情報を通知するとともに、デフォルトの画像表示フォーマットの画像送信を開始する(ステップS1001)。サーバー3は、送信側の接続端末5から受け取った画像表示フォーマットの種類情報の通知および加工画像データを各受信側の接続端末5へ転送する(ステップS1002)。
受信側の接続端末5は、現在の画像表示フォーマットとは別の画像表示フォーマットに切り替える場合、表示したい画像表示フォーマット(受信画像表示フォーマット)をサーバー3に通知する(ステップS1003)。サーバー3は、受信側の接続端末5から要求があった画像表示フォーマットを送信側の接続端末5に通知する(ステップS1004)。
送信側の接続端末5は、要求を受けると、要求された画像表示フォーマットをサーバー3に対して送信する(ステップS1005)。サーバー3は、受信側の接続端末5から要求があった画像表示フォーマットの画像のみを、受信側の接続端末5に送信する(ステップS1006)。
なお、表示する画像表示フォーマットの変更が受信側の接続端末5から要求された際、既に送信側の接続端末5が該当の画像表示フォーマットをサーバー3に対して送信している場合がある。このような場合、サーバー3は、送信側の接続端末5に対して変更要求を通知せず、既に受信している該当の表示フォーマットを、要求元の受信側の接続端末5に送信してもよい。例えば複数拠点で会議を実施している場合に、このような状況が生じることが想定される。
(変形例4)
一般に画像処理は接続端末5のCPU59に大きな負荷がかかるため、複数の画像処理を1つの接続端末5で同時に行うことは困難である。そこで1つの接続端末5で同時に実行できる画像処理の数(規定数)を予め出荷段階で設定しておき、規定数より多い画像処理を行う必要がある場合は、サーバー3を利用するように構成してもよい。これにより、複数の画像処理を実行することが可能になる。
図16は、このように構成する変形例4の画像データ送信処理の処理手順を示すフローチャートである。
ステップS1101からステップS1104は、図14のステップS901からステップS904と同様であるため説明を省略する。
ステップS1104で、要求された画像表示フォーマットで画像処理を行っていない場合(ステップS1104:No)、CPU59は、現在、送信側の接続端末5が画像処理を行う画像表示フォーマットの数に、新たな画像表示フォーマットに相当する1を追加した数が、規定数以内であるか否か判定する(ステップS1105)。規定数以内であった場合(ステップS1105:Yes)、CPU59は、要求された画像表示フォーマットでの画像処理を現在の画像処理に追加して実施し、ネットワークに送信する(ステップS1108)。規定数は、例えば予め送信側の接続端末5の記憶装置に保存されているものとする。
規定数を超えた場合(ステップS1105:No)、CPU59は、要求された画像表示フォーマットで画像処理を行うようにサーバー3に要求する(ステップS1106)。CPU59は、サーバー3が画像処理を行うための元画像である、画像処理を行っていない画像をサーバー3に送信する(ステップS1107)。
その後(ステップS1103:No、ステップS1104:Yes、ステップS1107の後、または、ステップS1108の後)、CPU59は、ビデオ会議が終了したか否かを判定し(ステップS1109)、ビデオ会議が終了しない間は(ステップS1109:No)、ステップS1103に戻って上記した処理を繰り返す。ビデオ会議が終了した場合には(ステップS1109:Yes)、画像データ送信処理を終える。
図17は、変形例4のサーバー3による画像処理の処理手順を示すフローチャートである。
会議が開始すると、サーバー3は、送信側の接続端末5から画像処理が要求されたか判定する(ステップS1201)。要求された場合(ステップS1201:Yes)、サーバ3は、送信側の接続端末5から受信した元画像を使用して画像処理を行い、受信側の接続端末5に送信する(ステップS1202)。
その後(ステップS1201:No、または、ステップS1202の後)、サーバー3は、ビデオ会議が終了したか否かを判定し(ステップS1203)、ビデオ会議が終了しない間は(ステップS1203:No)、ステップS1201に戻って上記した処理を繰り返す。ビデオ会議が終了した場合には(ステップS1203:Yes)、画像処理を終える。
図18は、本変形例においてサーバーと会議端末との間で送受されるデータの流れを示す図である。
会議を開始すると、送信側の接続端末5は、サーバー3に対して送信画像表示フォーマットの種類情報を通知するとともに、デフォルトのフォーマットの画像送信を開始する(ステップS1301)。サーバー3は、受信側の接続端末5に対して、送信側の接続端末5から受け取った送信側の接続端末5の送信画像表示フォーマットの種類情報の通知、および、加工画像データの送信を行う(ステップS1302)。
受信側の接続端末5が表示したい画像表示フォーマットを変更する場合、表示したい画像表示フォーマット(受信画像表示フォーマット)をサーバー3に通知する(ステップS1303)。サーバー3は、受信側の接続端末5から要求があった画像表示フォーマットの変更要求を、送信側の接続端末5に送信する(ステップS1304)。
ここで送信側の接続端末5が要求された画像表示フォーマットで画像処理を実行できない場合、送信側の接続端末5は、画像処理要求をサーバー3に通知する(ステップS1305)。続けて送信側の接続端末5は、画像処理前の画像をサーバー3に送信する(ステップS1306)。
サーバー3は、受信した画像を使用して、ステップS1303で受信側の接続端末5から要求された画像表示フォーマットで画像処理を行い、画像処理後の画像を受信側の接続端末5に送信する(ステップS1307)。