JP7124483B2 - 通信端末、データ送信方法、プログラム - Google Patents

通信端末、データ送信方法、プログラム Download PDF

Info

Publication number
JP7124483B2
JP7124483B2 JP2018122368A JP2018122368A JP7124483B2 JP 7124483 B2 JP7124483 B2 JP 7124483B2 JP 2018122368 A JP2018122368 A JP 2018122368A JP 2018122368 A JP2018122368 A JP 2018122368A JP 7124483 B2 JP7124483 B2 JP 7124483B2
Authority
JP
Japan
Prior art keywords
communication terminal
video data
communication
frame
resolution
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018122368A
Other languages
English (en)
Other versions
JP2020005107A (ja
Inventor
翔 永峯
健一郎 森田
洋平 大村
惇平 三神
裕介 鍵和田
尚一郎 兼松
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2018122368A priority Critical patent/JP7124483B2/ja
Publication of JP2020005107A publication Critical patent/JP2020005107A/ja
Application granted granted Critical
Publication of JP7124483B2 publication Critical patent/JP7124483B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、通信端末、データ送信方法、及び、プログラムに関する。
遠隔地にある通信端末が画像と音声を相互に伝送して、画像をディスプレイに表示し音声をスピーカから出力することで、遠隔地の参加者が会議などの遠隔コミュニケーションを可能とする通信システムが知られている。
このような遠隔会議が多拠点で実施される場合があるが、拠点数が多くなるほど各通信端末の性能にばらつきが生じやすくなる。例えば、各拠点のネットワーク環境、及び、各通信端末が通信に使用する機材(カメラ、マイク、スピーカ、ディスプレイなど)などは各拠点で同じでない場合が大多数であり、各拠点間に通信端末の性能の差が発生している。
通信端末の性能の差がある場合(例えば、送信元のカメラの解像度の方が送信先のディスプレイの解像度よりも大きい場合)、映像データの画質が劣化したと感じられる可能性がある。すなわち、参加者が共有したい情報を十分に共有できない可能性がある。
このような不都合に対し、参加者が共有すべき情報を共有しやすくするための技術が考案されている(例えば、特許文献1参照。)。特許文献1には、コンテンツデータの送信側に各拠点の再生表示能力(例えば解像度等)を鑑みた枠を表示し、送信側の通信端末は表示された枠内の情報のみを用いて通信を行う配信システムが開示されている。
しかしながら、従来の技術では、受信側の再生表示能力(例えば解像度等)に応じて決定した送信側の映像データの解像度が、送信側の通信環境にとって遅延なく送信できる解像度よりも大きい場合に、ネットワークの遅延や途切れなどによる映像データの品質の劣化を発生させるおそれがあるという問題がある。このため、送信側の映像データの通信環境が良好でなく、ネットワークの遅延や途切れなどによる映像データの品質の劣化が発生すると、参加者が共有すべき情報が十分な品質で共有されなくなってしまう可能性がある。
本発明は上記課題に鑑み、映像データの品質劣化を抑制する通信端末を提供することを目的とする。
上記課題に鑑み、本発明は、ネットワークを介して接続された他の通信端末に、撮像手段により撮像した映像データを送信する通信端末であって、前記映像データの送信時の通信帯域を取得する通信帯域取得手段と、前記通信帯域取得手段が取得した前記通信帯域で送信可能な前記映像データの画素数を決定する画素数決定手段と、前記画素数決定手段が決定した前記画素数を指し示す枠を前記通信端末の撮像手段が撮像した前記映像データに重ねてディスプレイに表示する表示制御手段と、前記枠内の前記映像データを前記他の通信端末に送信する送信手段と、を有することを特徴する。
映像データの品質劣化を抑制する通信端末を提供することができる。
通信端末がディスプレイに表示する会議中画面の一例を示す図である。 通信システムの概略構成図の一例である。 通信システムにおける通信の概要を示す概念図である。 通信端末のハードウェア構成図の一例である。 管理システムのハードウェア構成図の一例である。 通信端末の機能的な構成の一例を示すブロック図である。 映像符号化部の機能をブロック状に示すブロック図の一例である。 符号化設定部の機能をブロック状に示すブロック図の一例である。 通信端末がセッションを接続するまでの処理を示すシーケンス図の一例である。 映像データの解像感を維持して映像データを送信する処理を説明するシーケンス図の一例である。 撮像部が提供する撮像情報について説明する図の一例である。 通信端末の帯域情報処理部が扱う帯域情報の一例を示す図である。 符号化設定部が符号化設定に関する判断を行う手順を示すフローチャート図の一例である。 符号化設定部が設定する符号化設定の一例を示す図である。 表示制御部がディスプレイに表示する会議中画面と映像データ欄に表示される枠の一例を示す図である。 主に映像符号化部が映像を符号化し中継装置に送信する手順を示すシーケンス図の一例である。 会議中画面の映像データ欄に表示された枠のユーザによる操作を説明する図である。 入力情報の一例を示す図である。 映像符号化部による画像処理について説明する図の一例である。 通信システムの概略図の一例である。 通信システムの概略図の一例である。 通信端末が管理システムへログインする処理を示すシーケンス図の一例である。 通信システムが有する中継装置の機能をブロック状に示す機能ブロック図の一例である。
以下、本発明を実施するための形態の一例として、通信システム、通信端末及び通信端末が行うデータ送信方法について図面を参照しながら説明する。
<本実施形態の通信端末の動作の概略>
まず、図1を用いて本実施形態の通信端末10の動作の概略について説明する。図1は、通信端末10がディスプレイ11に表示する会議中画面301の一例を示す。
(1)通信端末10は、会議中画面301に自拠点の映像データと、他拠点から送信された映像データを表示する。自拠点の映像データは通信端末10のカメラが撮像したものであり、その撮像解像度は既知である。図1では1920×1080であるとする。
(2)通信端末10は映像データの送信時の通信帯域から算出解像度を算出する。算出解像度の詳細は後述されるが算出解像度は現在の通信帯域で遅延や途切れなどの品質の劣化を発生させことなく送信でき、更に好ましくは映像データの解像感を維持して送信できる映像データの解像度である。図1では768×432であるとする。
(3)次に、通信端末10は算出解像度が撮像解像度よりも小さいかどうかを判断する。算出解像度が撮像解像度よりも小さい場合、撮像解像度で映像データを送信すると、映像データの遅延や途切れなどの品質の劣化を発生させるおそれがある。
(4)そこで、通信端末10は算出解像度の枠302を表示すると共に、この枠302の配置(位置の変更)を受け付ける。算出解像度の枠302は、少なくとも映像データの品質の劣化を発生させことなく送信できる映像データの解像度(映像データの画素数)なので、通信端末10は映像データの品質の劣化を発生させことなく送信できる。また、算出解像度の枠302は撮像解像度よりも小さいが、会議の参加者(以下、通信端末のユーザという)が枠302の位置を変更できるので、通信端末10が送信すべき情報を送信することができる。
<用語について>
通信帯域取得手段が取得した通信帯域で送信可能とは、映像データの品質の劣化を発生させことなく送信できること、更に好ましくは見た目の印象に関わる映像データの解像感が損なわれない又は損なわれたとしても気づかない程度しか映像データを劣化しないで送信できることをいう。
映像データの品質が劣化することは映像データの遅延や途切れなどが生じることをいう。映像データの品質が劣化しなくても送信時の符号化により解像感が損なわれるおそれがあるが、解像感が損なわれなければ映像データの品質も劣化しないとみなせる。映像データの品質の劣化を映像データの品質の低下という場合がある。
画素数とは、映像データを構成する画素の数である。画素数が多いと映像のサイズ又は大きさも大きくなるため、映像データのサイズ又は大きさと称してもよい。画素数は解像度により定まる。
解像度とはデジタル画像の細かさを表す度合いのことであり、解像度はデジタル画像を構成する個々の単位点(ドット、ピクセル)の細かさを数値化することによって表現される。解像度を表す単位には一般に「ドット」が用いられる。ディスプレイの場合は、多くの場合「1024×768ドット」のようにヨコ×タテに並んでいる数で表される。
<システム構成例>
図2は、本実施形態の通信システム1の概略構成図であり、図3は、本実施形態の通信システム1における通信の概要を示す概念図である。
本実施形態の通信システムは、図2に示すように、各拠点に設置された複数の通信端末10及びディスプレイ11と、複数の中継装置30と、管理システム40と、プログラム提供サーバ50と、メンテナンスサーバ60と、を備える。
また、通信システム1には、管理システム40を介して一方の通信端末10から他方の通信端末10に一方向でコンテンツデータを伝送するデータ提供システムや、管理システム40を介して複数の通信端末10間で情報や感情等を相互に伝達するコミュニケーションシステムが含まれる。このコミュニケーションシステムは、中継装置30を介して複数のコミュニケーション通信端末(「通信端末10」に相当)間で情報や感情等を相互に伝達するためのシステムであり、テレビ(又はビデオ)会議システムやテレビ電話システム等が例として挙げられる。
本実施形態では、コミュニケーションシステムの一例としてのテレビ会議システムを想定し、コミュニケーション通信端末の一例としての通信端末を想定した上で、通信システム1、管理システム40、及び通信端末10について説明する。すなわち、本実施形態の通信端末10及び管理システム40は、テレビ会議システムに適用されるだけでなく、各種のコミュニケーションシステムにも適用される。以下では、テレビ会議を単に「会議」という場合がある。また、管理システム40は「管理装置」のようにシステムとしても装置(情報処理装置)としても把握できる。
ディスプレイ11は、有線又は無線により通信端末10に接続されていた映像データを表示するための表示装置である。なお、ディスプレイ11は、通信端末10と一体化された構成であってもよい。
通信端末10及び中継装置30は、例えば、LAN(Local Area Network)のノードとしてルータに接続される。ルータは、データ伝送の経路選択を行うネットワーク機器であり、図2に示す例では、LAN2a内のルータ70aと、LAN2b内のルータ70bと、LAN2c内のルータ70cと、LAN2d内のルータ70dと、ルータ70a及びルータ70bと専用回線2eで接続されてインターネット2iに繋がるルータ70eと、ルータ70c及びルータ70dと専用回線2fで接続されてインターネット2iに繋がるルータ70fとを例示している。
なお、LAN2a及びLAN2bは地域X内の別の場所に構築され、LAN2c及びLAN2dは地域Y内の別の場所に構築されていることを想定している。例えば、地域Xは日本、地域Yはアメリカ合衆国であり、LAN2aは東京の事業所内で構築され、LAN2bは大阪の事業所内で構築され、LAN2cはニューヨークの事業所内で構築され、LAN2dはワシントンD.C.の事業所内で構築されている。本実施形態では、LAN2a、LAN2b、専用回線2e、インターネット2i、専用回線2f、LAN2c、及びLAN2dによって、通信ネットワーク2が構築されている。この通信ネットワーク2には、有線だけでなく、WiFi(Wireless Fidelity)やBluetooth(登録商標)などの無線による通信が行われる箇所が含まれていてもよい。
本実施形態の通信システム1では、複数の通信端末10間で中継装置30を介した映像データ及び音声データ(映像データ及び音声データ又はこれらに資料データを加えてコンテンツデータという)の送受信を行う。送受信は伝送ともいい、通信システム1を伝送システムという場合がある。
通信端末10は、通信システム1に専用の端末である場合と、汎用的な端末である場合がある。汎用的な端末は、例えばPC(Personal Computer)、スマートフォン、又は、タブレット端末、等であり、通信システム1に専用のアプリケーションソフトを実行することで、通信端末10として動作する。
図3に示すように、複数の通信端末10間には、管理システム40を介して、各種の管理情報を送受信するための管理情報用セッションSeiが確立される。また、複数の通信端末10間には、中継装置30を介して、映像データ及び音声データの送受信を行うためのデータ用セッションSedが確立される。ここで、特に、データ用セッションSedで送受信される映像データは、スケーラブルに符号化された符号化データであり、例えば、高品質映像の符号化データ、中品質映像の符号化データ、低品質映像の符号化データが、それぞれ別々のチャンネルで送受信される。なお、複数の通信端末10間で管理情報用セッションSeiやデータ用セッションSedを確立する処理は、公知の技術を適用できるため本実施形態では詳細な説明を省略する。必要であれば、例えば特開2012-138893号公報に記載の技術を利用することができるが、この技術に限られるものではない。
管理システム40は、本実施形態の通信システム1の全体を管理するコンピュータ(情報処理装置)である。管理システム40は通信端末10のステータスを管理し、着信があった場合に2つ以上の通信端末でセッションを開始するなどの呼制御を行う呼制御サーバとして機能する。管理システム40はサーバであるので情報処理装置の機能を有する。呼制御とは、通信を開始するための発信、その着信、着信への応答、通信の切断など、電話をかけたり切ったりするための一連の処理をいう。この他、通信端末10の認証、検索、死活の監視なども行う場合が多い。更に、管理システム40は、通信端末10の宛先リスト等、通信システム1の制御に必要なデータベースの管理も行う。宛先リストとは、各通信端末10が遠隔コミュニケーションの開始要求を送信できる(電話をかけられる)宛先の通信端末(又はユーザ)が登録されたデータである。
なお、ステータスとは、通信端末10の通信システム1における状態である。ステータスは主に着信できるかできないかに区分される。この他、管理システム40は、中継装置30の状態管理、通信端末10を使用するユーザのログイン管理、複数の通信端末10間で確立されたデータ用セッションSedの管理などを行う。
プログラム提供サーバ50は、各種のプログラムを通信端末10、中継装置30、管理システム40、メンテナンスサーバ60などに提供するコンピュータである。例えば、プログラム提供サーバ50は、通信端末10に各種機能を実現させるための通信端末用プログラムを格納しており、この通信端末用プログラムを通信端末10に送信することができる。また、プログラム提供サーバ50は、中継装置30に各種機能を実現させるための中継装置30用プログラムを格納しており、この中継装置30用プログラムを中継装置30に送信することができる。また、プログラム提供サーバ50は、管理システム40に各種機能を実現させるための管理システム用プログラムを格納しており、この管理システム用プログラムを管理システム40に送信することができる。また、プログラム提供サーバ50は、メンテナンスサーバ60に各種機能を実現させるためのメンテナンスサーバ用プログラムを格納しており、このメンテナンスサーバ用プログラムをメンテナンスサーバ60に送信することができる。
メンテナンスサーバ60は、通信端末10、中継装置30、管理システム40、及びプログラム提供サーバ50のうちの少なくとも1つの維持、管理、又は保守を行うためのコンピュータである。
<ハードウェア構成例>
次に、本実施形態の通信システム1における通信端末10、中継装置30、管理システム40、プログラム提供サーバ50、及びメンテナンスサーバ60のハードウェア構成について説明する。
<<通信端末のハードウェア構成例>>
図4は、通信端末10のハードウェア構成図の一例を示し、図5は、管理システム40のハードウェア構成の一例を示している。図4の通信端末10は専用の端末が想定されているが、汎用の端末の場合にも適用できる。中継装置30、プログラム提供サーバ50、及びメンテナンスサーバ60は、中継装置30と同様のハードウェア構成を採用できるため、説明を省略する。
通信端末10は、図4に示すように、通信端末10全体の動作を制御するCPU(Central Processing Unit)101、IPL(Initial Program Loader)等のCPU101の駆動に用いられるプログラムを記憶したROM(Read Only Memory)102を備える。また、CPU101のワークエリアとして使用されるRAM(Random Access Memory)103、通信端末用プログラム、映像データ、及び音声データ等の各種データを記憶するフラッシュメモリ104を備える。また、CPU101の制御に従ってフラッシュメモリ104に対する各種データの読み出しや書き込みを制御するSSD(Solid State Drive)105、フラッシュメモリ等の記録メディア106に対するデータの読み出しや書き込み(記憶)を制御するメディアドライブ107を備える。また、通信相手となる他の通信端末10を選択する場合などに操作される操作ボタン108、通信端末10の電源のオン/オフを切り換えるための電源スイッチ109、通信ネットワーク2を利用してデータ伝送をするためのネットワークI/F(Interface)111を備えている。
また、通信端末10は、CPU101の制御に従って被写体を撮像して映像データを得る内蔵型のカメラ112、このカメラ112の駆動を制御する撮像素子I/F113、音声を入力する内蔵型のマイク114、音声を出力する内蔵型のスピーカ115を備える。また、CPU101の制御に従ってマイク114及びスピーカ115との間で音声信号の入出力を処理する音声入出力I/F116を備える。また、CPU101の制御に従ってディスプレイ11に表示映像のデータを伝送するディスプレイI/F117、各種の外部機器を接続するための外部機器接続I/F118、通信端末10の各種機能の異常を知らせるアラームランプ119、及び上記各構成要素を電気的に接続するためのアドレスバスやデータバス等のバスライン110を備えている。
なお、カメラ112、マイク114、スピーカ115は、必ずしも通信端末10に内蔵されている必要はなく、外付けされる構成であってもよい。また、ディスプレイ11は、通信端末10に内蔵された構成であってもよい。また、ディスプレイ11は、液晶パネル等の表示装置を想定するが、これに限らず、プロジェクタ等の投影装置であってもよい。図4に示す通信端末10のハードウェア構成はあくまで一例であり、上記以外の他のハードウェアが追加されていてもよい。
上記したプログラム提供サーバ50から提供される通信端末用プログラムは、例えばフラッシュメモリ104に格納され、CPU101の制御によりRAM103上に読み出されて実行される。なお、通信端末用プログラムを格納するメモリは不揮発性メモリであればよく、フラッシュメモリ104に限らず、EEPROM(Electrically Erasable and Programmable ROM)等を用いてもよい。また、通信端末用プログラムは、インストール可能な形式又は実行可能な形式のファイルによって、コンピュータで読み取り可能な記録メディア106等の記録媒体に記録されて提供されるようにしてもよい。また、通信端末用プログラムは、ROM102等に予め格納された組み込みプログラムとして提供されるようにしてもよい。
<<管理システムのハードウェア構成例>>
管理システム40は、図5に示すように、管理システム40全体の動作を制御するCPU201、IPL等のCPU201の駆動に用いられるプログラムを記憶したROM202、CPU201のワークエリアとして使用されるRAM203、中継装置30用プログラム等の各種データを記憶するHD(Hard Disk)204を備える。また、CPU201の制御に従ってHD204に対する各種データの読み出し又は書き込みを制御するHDD(HD Drive)205、フラッシュメモリ等の記録メディア206に対するデータの読み出しや書き込み(記憶)を制御するメディアドライブ207を備える。また、各種情報を表示するディスプレイ208、通信ネットワーク2を利用してデータ伝送をするためのネットワークI/F209、キーボード211、マウス212、を備える。また、着脱可能な記録媒体の一例としてのCD-ROM(Compact Disc Read Only Memory)213に対する各種データの読み出し又は書き込みを制御するCD-ROMドライブ214、及び上記各構成要素を電気的に接続するためのアドレスバスやデータバス等のバスライン210を備えている。
上記したプログラム提供サーバ50から提供される管理システム用プログラムは、例えばHD204に格納され、CPU201の制御によりRAM203上に読み出されて実行される。また、管理システム用プログラムは、インストール可能な形式又は実行可能な形式のファイルによって、記録メディア206やCD-ROM213等のコンピュータで読み取り可能な記録媒体に記録されて提供されるようにしてもよい。また、管理システム用プログラムは、ROM202等に予め格納された組み込みプログラムとして提供されるようにしてもよい。
<機能について>
図6は、通信端末10の機能的な構成の一例を示すブロック図である。通信端末10は、図6に示すように、送受信部12、操作入力受付部13、撮像部14、音声入力部15、音声出力部16、映像符号化部17、映像復号部18、ログイン要求部19、表示制御部20、記憶・読出処理部21、揮発性記憶部22、不揮発性記憶部23、帯域情報処理部25、及び、符号化設定部26を備える。
送受信部12は、通信ネットワーク2を介して、他の通信端末10、中継装置30、管理システム40等との間で各種データ(又は情報)の送受信を行う。送受信部12は、例えば、図4に示したネットワークI/F111及びCPU101によって実現される。
操作入力受付部13は、通信端末10を使用するユーザによる各種の入力操作を受け付ける。操作入力受付部13は、例えば、図4に示した操作ボタン108、電源スイッチ109、及びCPU101によって実現される。
撮像部14は、通信端末10が設置されている拠点の映像を撮像して映像データを出力する。撮像部14は、例えば、図4に示したカメラ112、撮像素子I/F113、及びCPU101によって実現される。
音声入力部15は、通信端末10が設置されている拠点の音声を入力して音声データを出力する。音声入力部15は、例えば、図4に示したマイク114、音声入出力I/F116、及びCPU101によって実現される。
音声出力部16は、音声データを再生出力する。音声出力部16は、例えば、図4に示したスピーカ115、音声入出力I/F116、及びCPU101によって実現される。
映像符号化部17は、撮像部14から出力される映像データや、音声入力部15から出力される音声データを符号化して、符号化データを生成する。映像符号化部17は、例えば映像データの符号化については、H.264/SVC符号化フォーマットに従って映像データをスケーラブルに符号化する。映像符号化部17は、例えば、図4に示したCPU101が、上記した通信端末用プログラムに含まれる符号化/復号プログラム(映像・音声コーデック)を実行することにより実現される。映像符号化部17の詳細を図7にて説明する。
映像復号部18は、他の通信端末10から中継装置30を介して送信された符号化データを復号し、符号化前の映像データや音声データを出力する。映像復号部18は、例えば、図4に示したCPU101が上記した通信端末用プログラムに含まれる符号化/復号プログラム(映像・音声コーデック)を実行することにより実現される。
ログイン要求部19は、通信端末10が管理システム40にログインするため通信IDとパスワードなどと共にログイン情報を管理システム40に送信する。ログイン要求部19は例えば、図4に示したCPU101が通信端末用プログラムを実行することにより実現される。
表示制御部20は、映像復号部18が復号した映像データを適宜、表示映像に変換してディスプレイ11に表示させる(再生出力する)ための制御を行う。映像復号部18で復号された映像データが複数の拠点の複数の通信端末10から送信された映像データを含む場合、予め定められたレイアウトの設定、あるいはユーザにより指定されたレイアウトの設定に従って、それぞれの映像データを1画面内に含む表示映像を生成する。表示制御部20は、例えば、図4に示したディスプレイI/F117及びCPU101によって実現される。
記憶・読出処理部21は、揮発性記憶部22や不揮発性記憶部23に対して各種データを記憶したり、読み出したりする処理を行う。記憶・読出処理部21は、例えば、図4に示したSSD105及びCPU101によって実現される。揮発性記憶部22は、例えば、図4に示したRAM103によって実現される。不揮発性記憶部23は、例えば、図4に示したフラッシュメモリ104によって実現される。不揮発性記憶部23には解像度ビットレート変換テーブル記憶部29が記憶されている。解像度ビットレート変換テーブル記憶部29が記憶する情報については表1にて説明する。
帯域情報処理部25は、現在の通信ネットワーク2の帯域に関する情報を取得する。本実施形態で使用される帯域情報は、主に映像データの送信速度である。帯域情報処理部25は、例えば、図4に示したネットワークI/F111及びCPU101によって実現される。
符号化設定部26は、通信ネットワーク2の帯域情報と撮像解像度から、少なくとも映像データの品質を劣化させず、好ましくは解像感を維持して映像データを中継装置30に送信できる算出解像度を算出する。符号化設定部26の詳細を図8に示す。
<<映像符号化部>>
図7は、映像符号化部17の機能をブロック状に示すブロック図の一例である。図7に示すように、映像符号化部17はデータ受付部17a、画像処理部17c、符号化部17d、及び入力情報受付部17bを有する。
データ受付部17aは符号化の対象となる映像データを撮像部14から受け付け、符号可能対象となる音声データを音声入力部15から受け付ける。更に、通信端末10間で共有される会議資料がある場合は資料データなどを受け付ける。
入力情報受付部17bは、映像データ欄303に表示された枠302をユーザが適切な位置に配置した場合にこの位置に関する情報(以下、入力情報という)を操作入力受付部13から取得する。
画像処理部17cは、映像データに対し入力情報に基づく画像処理を施す。すなわち、配置された枠302が指し示す映像データの範囲(一部)を切り取る。符号化部17dは、画像処理部17cが画像処理した映像データ、音声データ及び資料データをそれぞれに適した符号化方法で符号化する。
<<映像復号部>>
図8は、符号化設定部26の機能をブロック状に示すブロック図の一例である。図8に示すように、符号化設定部26は撮像情報受付部26a、帯域情報受付部26b及び符号化設定判断部26cを有する。
撮像情報受付部26aは、撮像部14から撮像情報を受け付ける。撮像情報の中に撮像解像度が含まれており、本実施形態で使用される撮像情報は主にこの撮像解像度である。
帯域情報受付部26bは、帯域情報処理部25から帯域情報を受け付ける。データの通信速度が速いことを、「帯域が広い」と表現することがあり、デジタル通信の場合では、伝送速度と同じ意味で用いられることが多い。伝送速度とは、一定時間内に転送することのできるデータの量のことである。1秒間に送ることができるデータ量を示す「bps(bit per second)」や「B/秒」という単位が使われる。1kbpsは1000bps、1Mbpsは1000kbps。1B(バイト)は8ビットにそれぞれ該当する。本実施形態では主に映像データの送信時の帯域情報として、送信速度を取得する。
符号化設定判断部26cは現在の帯域情報で撮像解像度の少なくとも映像データを品質の劣化なく送信できるか否かを判断する。判断に際し符号化設定部26は、解像度ビットレート変換テーブル記憶部29を参照して、少なくとも映像データの品質を劣化させず、好ましくは解像感を維持して映像データを送信できる符号化設定を決定する。符号化設定の一例が算出解像度である。品質の劣化なく送信できないと判断した場合、符号化設定判断部26cは、映像データを品質の劣化なく送信できる符号化設定(算出解像度)で映像データを送信すると判断する。
Figure 0007124483000001
表1は、解像度ビットレート変換テーブル記憶部29に記憶されている解像度ビットレート変換テーブルの一例を示す。解像度ビットレート変換テーブルにはビットレートに対応付けて、解像感を維持して送信できる解像度が登録されている。通信システム1では映像を符号化する際のビットレートによって圧縮率が変わるため、見た目(解像感)も変化する。このため、綺麗に送信することができる映像の解像度はある程度決まっている。
ここでいう綺麗とは、見た目の印象に関わる映像データの解像感が損なわれない又は損なわれたとしても気づかない程度しか映像データが劣化しないで送信できることをいう。
これにより、他の通信端末10のユーザは綺麗な映像データを見ることができる。
表1の例では、例えばビットレートが4000kbpsの場合、映像データの品質を劣化することなく送信できる解像度は1920×1080である。解像度ビットレート変換テーブルに登録されていないビットレートについては、符号化設定部26は解像度ビットレート変換テーブルのビットレートと解像度の対応関係を用いて、少なくとも映像データの品質を劣化させず、好ましくは解像感を維持して映像データを送信できる算出解像度を算出する。
表1の解像度はアスペクト比が一定なので、表1の解像度ビットレート変換テーブルに基づいて算出される算出解像度も同じアスペクト比になる。ここでアスペクト比は、画面の横の画素数Wと縦の画素数Hの比(W:H)を示す。
<全体的な動作の流れ>
<<会議開始までの流れ>>
図9は、通信端末10がセッションを接続するまでの処理を示すシーケンス図の一例である。図9のような接続方法は一例に過ぎず、遠隔地の通信端末10が通信を開始できればよい。なお、図9では一方の通信端末10を通信端末10Aとし、他方の通信端末10を通信端末10Bとする。
S1:まず、通信端末10Aのユーザが電源スイッチをONにしてログインするための操作を行うと、管理システム40にログイン要求を送信する。ログイン要求には、ログイン要求する通信端末10の通信ID及びパスワードが含まれている。通信IDは、通信端末を識別又は特定するための識別情報であるが、通信端末10を使用するユーザを識別又は特定する機能も有している。従って通信IDをユーザIDとみなしてよい。IDはIdentificationの略であり識別子や識別情報という意味である。IDは複数の対象から、ある特定の対象を一意的に区別するために用いられる名称、符号、文字列、数値又はこれらのうち1つ以上の組み合わせをいう。なお、ログイン要求が管理システム40に受信された際に、管理システム40が送信側である通信端末10AのIPアドレスを把握することができる。
S2:管理システム40はログイン要求に含まれている通信ID及びパスワードに基づいて通信端末10を認証する。認証方法は通信ID及びパスワードに基づくものに限らず、ICカードや生体認証情報を用いてもよい。ここでは認証が成立したものとする。
S3:認証が成立したので管理システム40は要求元である通信端末10Aの通信IDに対応付けてステータス(通信しているためオンラインである)を更新する。
S4:次に、管理システム40は、ログイン要求してきた通信端末10Aが通信を開始できる宛先のリスト(宛先候補となる他の通信端末10のリスト)をデータベースから抽出する。これにより、宛先候補の通信端末10Bのステータス(通信を受け付けられる状態かどうか)を判断できる。
S5:次に、管理システム40は、宛先候補の通信端末10Bの通信IDとステータスが含まれる宛先状態情報を要求元の通信端末10Aに送信する。
S6:また、管理システム40は要求元の通信端末10Aのステータスを通信端末10のステータスを管理しているデータベースなどから取得する。
S7:管理システム40は、要求元の通信端末10Aを宛先候補とする通信端末10Bに通信端末10Aの宛先状態情報を送信する。宛先状態情報には要求元の通信端末10Aの通信ID及びステータスが含まれる。これにより、通信端末10Bから通信端末10Aへの通信開始も可能になる。
S8:宛先状態情報を受信した要求元の通信端末10Aの表示制御部20は宛先リスト画面をディスプレイ11に表示する。宛先リスト画面には、通信端末10Bとそのステータスが表示されるので、ユーザは宛先の状態を把握して宛先を選択することで宛先の通信端末10を呼び出すことができる。
S9:通信端末10Aの送受信部12が会議の開始要求を管理システム40に送信する。開始要求には要求元の通信端末10Aの通信IDと宛先の通信端末10Bの通信IDが含まれる。
S10:管理システム40は開始要求を宛先の通信端末10Bに送信する。宛先の通信端末10Bの表示制御部20は要求元の通信端末10Aの拠点名などを含む着信画面を表示する。開始要求には要求元の通信端末10Aの拠点名などが含まれているので、ビデオ会議の開始を受けるか否かを宛先の通信端末10Bを操作するユーザが判断できる。
S11:宛先の通信端末10Bを操作するユーザが応答する操作を行うと、操作入力受付部13がこの操作を受け付け、送受信部12が応答する旨を管理システム40に送信する。管理システム40は応答する旨を受信する際、宛先の通信端末10のIPアドレスを把握する。
S12:管理システム40は要求元の通信端末10Aと宛先の通信端末10Bの通信ID、IPアドレス等を中継装置30に登録し、要求元の通信端末10Aと宛先の通信端末10Bに中継装置30のIPアドレス等を通知する。要求元の通信端末10Aと宛先の通信端末10Bは中継装置30に対し通信の許可等を要求しこれが許可されると、通信端末10Aと通信端末10Bとの間でセッションが接続される。また、管理システム40は会議を識別する会議IDを採番して、要求元の通信端末10Aと宛先の通信端末10Bの通信IDを会議IDに紐付ける。これにより、今後同じ会議に参加する通信端末10は同じコンテンツデータが配信される。
S13:要求元の通信端末10Aの送受信部12は中継装置30に対し映像データ、音声データ、及び資料データを送信する。宛先の通信端末10も同様に映像データ、音声データ、及び資料データの中継装置30への送信を開始する。
S14:中継装置30はこれらコンテンツデータを宛先の通信端末10に転送する。以上のようにして、セッションが接続されて通信端末10Aと通信端末10Bは映像データ、音声データ、及び資料データを送受信できる。
<<映像データの品質劣化が抑制された映像データの送信処理>>
図10を用いて、コンテンツデータの送信時の通信端末の全体的な動作の流れについて説明する。図10は、映像データの解像感を維持して映像データを送信する処理を説明するシーケンス図の一例であり、図11~図15は図10の各処理を詳細に説明する図である。
図10は、通信環境が良好でないことによる遅延や途切れなどの映像データの品質の劣化が発生する可能性がある場合に、ユーザに対しその時点で解像感を維持して通信ができる解像度の枠302を提示する処理を示している。
S21:まず、通信端末10の撮像部14が撮像情報(撮像解像度)を符号化設定部26に送出する。撮像情報の詳細を図11にて説明する。
S22:次に、帯域情報処理部25が帯域情報を符号化設定部26に送出する。帯域情報の詳細を図12にて説明する。
S23:通信端末10の符号化設定部26のうち撮像情報受付部26aは、通信端末10の撮像部14から撮像情報(撮像解像度)を受け付ける。
S24:同じく符号化設定部26のうち帯域情報受付部26bは、通信端末10の帯域情報処理部25から帯域情報を受け付ける。
S25:同じく符号化設定部26のうち符号化設定判断部26cは、符号化設定(算出解像度)を決定する。この処理の詳細を図13、図14にて説明する。
S26:通信端末10の表示制御部20は、取得した符号化設定に基づいて会議中画面301の映像データ欄303に枠302を表示する。会議中画面の映像データ欄303に表示される枠302の一例を図15に示す。
<<撮像情報(撮像解像度)について>>
図11は、撮像部14が提供する撮像情報について説明する図の一例である。撮像情報は、撮像部14が現在、管理している撮像解像度、フレームレート、及び、データフォーマットを有する。図11の例では、撮像解像度が1920×1080、フレームレートが30fps、データフォーマットがI420となっている。撮像解像度は、撮像部14が実際に撮像する映像データの解像度である。フレームレートは映像データの毎秒の撮像数である。I420はYUV色空間において色差成分を間引く方法の種類の1つである。
撮像部14では、撮像手段(カメラ)が映像を取得する際の設定などの情報をまとめて、撮像情報として保持する。
<<帯域情報(映像データの送信速度)について>>
図12は、通信端末10の帯域情報処理部25が扱う帯域情報の一例を示す図である。図12(a)は2つの通信端末10間で送信及び受信されるデータの種類を示す。映像データ、音声データ及び資料データが送受信される。通信帯域などによって中継装置30は映像データの画質を決定しており、図12では高画質と低画質の映像データが送受信される。資料データに関しても画質は変動しうる。資料データは常に送信されるものではないので、1つの回線が送信と受信に使用される(図12(a)では通信端末10Aから通信端末10Bに送信されている)。
図12(b)は1つの通信端末10の帯域情報の一例を示す。帯域情報処理部25は、各種のデータの実際の通信結果から、映像データ、音声データ、資料データ、及び合計の帯域を測定し、これらをまとめて帯域情報として作成する。実際の通信結果とは、受信時であれば、通信端末10がディスプレイ11に表示する映像データを受信した際の通信速度である。送信時であれば、通信端末10が撮像した映像データを送信した際の通信速度である。
図12(b)の受信の帯域情報を例に取ると、受信の帯域情報は大きいので、映像データの受信を適切に行えると判断できる。しかしながら、急激な通信環境の悪化があればこの限りではない。送信速度も比較的大きいが、少なくとも品質の劣化を抑制するために適切な符号化設定が必要となる可能性がある。
また、図12(b)では、実際の通信速度をそのまま利用できる帯域情報とした。実際の通信速度のうち受信時の通信速度は映像データ、音声データ及び資料データのそれぞれについて1秒間に何ビット(bps)を受信したかを帯域情報処理部25が測定することで算出できる。例えば、10回、測定してその平均を算出する。送信時の通信速度は、中継装置30が通信端末10から映像データを受信した時に測定した通信速度を中継装置30から通信端末10が取得すればよい。あるいは、通信端末10と中継装置30が直接、接続されている場合(ルータなどのネットワーク機器を介して接続されていない場合)、通信端末10が1秒間に何ビット(bps)送信したか送信速度としてもよい。
なお、実際に送受信される映像データ、音声データ及び資料データを使用するのでなく、ダミーデータの送受信時の通信速度を利用してもよい。
また、平均でなく、例えばある一定期間内の最大の通信速度を求め、その値を利用できる通信帯域として扱ってもよい。
また、帯域情報処理部25は速度テストを提供しているサーバを利用してもよい。この場合は、サーバから通信端末10にスクリプトが送信され、サーバが送信したダミーデータの受信が完了した時のタイムスタンプと、サーバが送信したタイムスタンプとの差からスクリプトが受信時の通信速度を算出する。送信時の通信速度はこの逆にスクリプトがダミーデータをサーバに送信すればよい。
遅延時間は、一般的に求められている方法で算出すればよい。例えば、中継装置30が映像データと共にタイムスタンプを通信端末10に送り、受信側の通信端末10がタイムスタンプを受信した時刻とタイムスタンプと比較することで帯域情報を計算することができる。
また、例えばRTT(Round Trip Time)値をもとに算出してよい。RTT値は、通信相手に信号やデータを発信してから、応答が帰ってくるまでにかかる時間である。従って、RTTは受信と送信の遅延時間を合わせたものとなる。
また、遅延時間そのものではないが、遅延時間に相関する指標を使ってもよい。例えば、TCP通信をしている場合には一定時間のNACKの数を遅延のパラメータとして使用してもよい。TCPのNACKは通信が否定的な結果に終わったことを意味する。帯域が狭い場合にNACKの数が増えるため、NACKの数が遅延時間と同等の情報を持つ場合がある。
<<符号化設定部の処理>>
図13は符号化設定部26が符号化設定に関する判断を行う手順を示すフローチャート図の一例である。
まず、符号化設定判断部26cが、取得した撮像情報(撮像解像度)と帯域情報に基づいて符号化設定を開始する(S101)。
符号化設定判断部26cは、解像度ビットレート変換テーブルを参照して送信した映像データの画質(見た目)が綺麗となる算出解像度を帯域情報から算出する(S102)。表1の解像度ビットレート変換テーブルを参照して算出解像度の算出例を説明する。まず、帯域情報(映像データの送信速度)は1200kbpsであるとする。1200kbpsに対応付けられた解像度があれば解像度ビットレート変換テーブルにそれを使用する。
1200kbpsに対応付けられた解像度があれば解像度ビットレート変換テーブルになければ以下のように算出する。表1の解像度ビットレート変換テーブルで、1200kbpsに最も近いビットレートは1000kbpsである。1000kbpsとこのビットレートの解像度640×360の対応関係が、1200kbpsと1200kbpsの解像度にも適用できると仮定する。
640×360:算出解像度=1000:1200
従って、算出解像度=(640×360)×1200/1000
=768×432
以上から算出解像度は768×432である。このように、解像度ビットレート変換テーブルに登録されていない帯域の値でも、綺麗に送信できる解像度を算出することができる。なお、上記の算出方法では映像データのアスペクト比を維持する前提で算出されている。
次に、符号化設定判断部26cは、算出解像度と撮像解像度とを比較し、小さい方を特定する(S103)。
撮像解像度の方が小さい場合、映像データをそのまま送信できるので、符号化設定判断部26cは撮像解像度を符号化設定に設定する(S104)。この場合、後述する枠302は表示されなくてよい。映像データ欄303と画素数が同じ枠302を表示する意義は少ないからである。ただし、ユーザに映像データ欄303の全体の映像データが送信されていることを知らせることができるため、ステップS140の場合も映像データ欄303に枠302を表示してよい。
算出解像度の方が小さい場合、算出解像度以下の映像データしか送信できないので、符号化設定判断部26cは算出解像度を符号化設定に設定する(S105)。
このように、算出解像度と撮像解像度のうち小さい方を枠302の画素数に決定できるので、算出解像度を算出した後は枠302を決定するための処理負荷がほとんど必要ない。なお、上記の例でいうと算出解像度は768×432以下であればよい。
また、符号化設定判断部26cは、撮像部14が撮像した映像データの画像処理が必要となるため、画素数変更フラグを"要"とする(S106)。画素数変更フラグは符号化設定に含まれており、映像符号化部17が映像データの一部を切り取るか否かを判断するために参照される。
符号化設定判断部26cは符号化設定に関する判断を終了する(S107)。これにより、符号化設定ができ上がる。符号化設定の一例を図14に示す。
<<符号化設定の一例>>
図14は、符号化設定部26が設定する符号化設定の一例を示す図である。符号化設定部26で扱う符号化設定は、撮像部14から取得した撮像解像度、符号化設定判断部26cが算出した映像データを綺麗に送信できる算出解像度、撮像部14から取得したフレームレート、及び、画素数変更の要否を有する。図14の例では、画素数変更フラグが要となっているため、映像符号化部17が送信される映像データの画素数を算出解像度に変更することが示されている。
<<会議中画面の映像データ欄に表示される枠>>
図15は、表示制御部20がディスプレイ11に表示する会議中画面301と映像データ欄303に表示される枠302の一例を示す。表示制御部20が図14のような符号化設定を受け取ると、まず画素数の変更の要否を確認する。
画素数変更の項目が「要」となっていた場合、会議中画面301上の、送信元の通信端末10が撮像している映像データが表示される映像データ欄303に、表示制御部20は符号化設定の算出解像度と同じ画素数の枠302を表示する。すなわち、画素数に相当するサイズ(大きさ)の枠302を表示する。この枠302は、映像符号化部17が符号化する映像データの範囲を示す。初期状態の枠302は例えば、映像データ欄303の中央であることが好ましいが、枠302は映像データ欄303のどこに配置されてもよい。また、表示制御部20が顔認識を行い、顔を含むように枠302を配置してもよい。
枠302のアスペクト比は映像データ欄303のアスペクト比と同じであってよい。しかし、アスペクト比が変わっても画素数(面積)が同じであれば、通信端末10は少なくとも映像データの品質劣化を抑制して送信できるので、枠302のアスペクト比は映像データ欄303と同じでなくてもよい。
<映像データ送信時の処理>
以上で会議中画面の映像データ欄303に枠302が表示されたので、ユーザによる枠302の操作、画像処理及び映像データの符号化が可能になる。以下では、図16~図19を用いて、ユーザによる枠302の操作、画像処理及び映像データの符号化を説明する。
図16は、主に映像符号化部17が映像を符号化し中継装置30に送信する手順を示すシーケンス図の一例である。図16の処理は図10の処理に続いて実行される。図16は、「コンテンツの送信側の通信環境が悪く、通信環境が良好でないことによる遅延や途切れなどの品質の劣化が発生する可能性がある場合に、その時点で利用できる通信環境で解像感を維持して送信できる解像度の枠302を提示する」処理の続きのシーケンスである。図16では、「実際の通信にはその枠302内の映像データを用いる」処理について記載されている。
S31:まず、ユーザは、通信端末10の会議中画面301に表示された枠302を操作する。通信端末10の操作入力受付部13は、ユーザが操作した結果を入力情報として保持する。この操作とは主に枠302の移動である。ユーザによる枠302の操作については図17にて詳細に説明し、入力情報の一例を図18にて説明する。
S32:通信端末10の撮像部14は撮像で得た映像データを映像符号化部17に送出する。
S33:通信端末10の映像符号化部17のうちデータ受付部17aは、通信端末10の撮像部14から映像データを取得する。
S34:映像符号化部17のうち入力情報受付部17bは操作入力受付部13から入力情報を取得する。
S35:映像符号化部17のうち画像処理部17cは、入力情報に基づいて映像データに対し画像処理を実施する。画像処理については図19にて詳細に説明する。
S36:通信端末10の映像符号化部17は、映像データを符号化する。
S37:通信端末10の送受信部12は、符号化された映像データを中継装置30に送信する。
S38:中継装置30は映像データを通信端末10Bに中継するので、通信端末10Bの送受信部12は映像データを受信する。枠302により映像データの解像度が制限されているので、解像感を維持して映像データを受信できる。
<<ユーザ操作について>>
図17は、会議中画面の映像データ欄303に表示された枠302のユーザによる操作を説明する図である。図17(a)はユーザによる枠302の移動を説明する図の一例である。会議中画面301の映像データ欄303に枠302が表示された場合、ユーザは通信端末10を操作して枠302を任意に移動させることができる。動かせる範囲は映像データ欄303(自分の映像が表示されている範囲)と重なる範囲である。操作入力受付部13はユーザの操作を受け付けて枠302の位置を表示制御部20に伝えるので、表示制御部20はユーザが移動させた位置に枠302を表示する。
ユーザが枠302を動かすための手段としては、ハード上のボタン、キーボード、タッチパネル上の動作などが考えられる。例えば、顔の部分が相手の通信端末10で表示されるように、ユーザが枠302を顔に移動させることができる。また、ユーザが手に持った資料が相手の通信端末10で表示されるように、ユーザが枠302を資料に移動させることができる。また、表示制御部20が顔認識を行い、顔を含むように枠302を追従させてもよい。
また、図17(b)に示すように、操作入力受付部13は枠302の画素数を一定にしたまま枠302のアスペクト比の変更を受け付けてもよい。画素数が一定であれば、少なくとも映像データの送信時の品質劣化が抑制されるためである。例えば、縦長の資料データの映像を他の通信端末10に送信したい場合などに有効である。
なお、操作入力受付部13は枠302の画素数を小さくすることを受け付けてもよい。映像データの画素数が小さくなる分には送信時の品質劣化が抑制される点に変わりはないためである。例えば、映像データの一部を送信したくない場合などに有効である。
また、ユーザが枠302の画素数を大きくすることは禁止(制限)される。つまり、操作入力受付部13は算出解像度よりも枠302が大きくなる操作を受け付けない。ユーザが枠302の画素数を大きくする操作を行った場合、例えば図17(c)に示すように、エラーメッセージが表示される。図17(c)では、「枠を768×432より大きくすることができません。」というメッセージ450が表示されている。これにより、ユーザが枠302を移動する際に誤って枠302を大きくしてしまうことを抑制できる。
<<入力情報>>
図18は、入力情報の一例を示す。入力情報は、自分の映像のどの位置に枠302が配置されたかを示す情報である。図18(a)は会議中画面の映像データ欄303に配置された枠302と共に示された入力情報を示す。
図18では、映像データ欄303の左下コーナーを原点Oとして、枠302の横軸の始点S1と終点E1、枠302の縦軸の始点S2と終点E2を、それぞれ映像データ欄303に対する比率で表す。図18(a)では、横軸の始点S1が原点から40%の位置であり、終点E1が原点Oから80%の位置である。縦軸の始点S2が原点Oから40%の位置であり、終点E2が原点Oから95%の位置である。
図18(b)はこのようにして決定された入力情報を数値で示す図である。原点Oがどこであるが、枠302の横軸の始点S1と終点E1、枠302の縦軸の始点S2と終点E2が、どこであるかが数値で表されている。
<<画像処理>>
図19は、映像符号化部17による画像処理について説明する図の一例である。映像符号化部17が図18のような入力情報を取得した場合、映像符号化部17の画像処理部17cは入力情報の枠302が指し示す映像データの一部を映像データから切り取る。画像データを切り取ることをトリミングという場合がある。
図19(a)は枠302の配置を入力情報で示す会議中画面301であり、図19(b)は、画像処理部17cが映像データから切り取った映像データの一部である。映像を切り取ることが画像処理に相当する。
このように、本実施形態では、映像データ全体に対して目標となる解像度になるようにリサイズ処理(縮小又は圧縮)を行うわけではなく、画像処理部17cが切り取り処理を行うため、少なくとも映像データの品質を劣化させず、好ましくは解像感を維持して映像データのデータサイズを削減することができる。映像符号化部17は、画像処理後の映像データを符号化する。
<まとめ>
以上説明したように、本実施形態の通信システム1は、ユーザが狙いの範囲を指定し、画像処理によりその範囲のみを送信することで、以下の効果を期待できる。
1.通信環境が各拠点で異なっても、映像データのデータサイズ(画素数)の削減により、通信環境が要因となる映像データの遅延や途切れを回避できる。
2.通信環境が悪化しても、映像データのうちユーザが指定した範囲の解像感を変えずに通信端末10Aが他の通信端末10Bに送信することで、ユーザが通信したい情報の品質を維持できる。
本実施例ではシステム構成図の構成例、及び、通信IDの別の例について説明する。
<システム構成図の別の例>
実施例1で説明した図2では管理システムが1台であったが管理システム40は通信システム1内に複数存在してもよい。図20は、本実施形態に係る通信システム1の概略図である。図20では、複数の管理システム40が通信ネットワーク2に接続されている。このように通信システム1に含まれる管理システム40は複数台でもよく、どの管理システム40に機能を備えさせてもよい。
また、本実施形態で説明する通信端末10と管理システム40とが接続されたシステム構成は一例であり、用途や目的に応じて様々なシステム構成例があることは言うまでもない。
また、図21に示すように、管理システム40と中継装置30は1つのサーバ装置80として存在してもよい。図21では地域X、Yにそれぞれサーバ装置80が配置されている。サーバ装置80は、管理システム40の機能と中継装置30の機能を併せ持っている。また、複数の管理システム40が存在する形態でもある。各サーバ装置80の管理システム40に関する機能は互いに通信して通信端末10のステータスなどを同期している。
サーバ装置80はインターネット2iに接続されてもよいし、地域X、Yにそれぞれ1台しかなくてもよく、図示する構成は一例である。
なお、通信端末10は中継装置30による中継なしに他の通信端末10と通信してもよい。
<メールアドレスによるユーザの識別>
本実施形態では通信IDで通信端末10が識別されていたが、通信端末10を識別する識別情報として、ユーザIDが用いられてもよい。また、このユーザIDとしてメールアドレスが用いられてよい。この場合、通信端末10のユーザはメールアドレスで管理システム40にログインする。
図22は、通信端末10が管理システム40へログインする処理を示すシーケンス図の一例である。なお、図22の説明では図9との相違を主に説明する。図22に示すように、ステップS1、S5、S7、S9、S10では通信IDでなく、メールアドレスが送信されている。管理システム40はメールアドレスとパスワードで通信端末10及びユーザを識別する。
<その他の適用例>
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
例えば、通信端末10が行った処理を中継装置30又は管理システム40が行ってもよい。図23は、通信システムが有する中継装置30の機能をブロック状に示す機能ブロック図の一例である。図23では、中継装置30が帯域情報処理部25、符号化設定部26、及び、解像度ビットレート変換テーブル記憶部29を有している。
図23の構成では、中継装置30の帯域情報処理部25が、通信端末10が送信する映像データの帯域情報を測定する。また、符号化設定部26は解像度ビットレート変換テーブルを参照して帯域情報に基づいて算出解像度を算出する。算出解像度は通信端末10に送信されるので、算出解像度が撮像解像度より小さい場合、表示制御部20は算出解像度以下の枠302を表示させ、操作入力受付部13がユーザによる枠302の配置を受け付ける。このように、算出解像度の算出はネットワーク上のサーバが行うことができる。
なお、図23では中継装置30が映像データを中継するために中継装置30が算出解像度を算出したが、管理システム40が映像データを中継する場合には管理システム40が同様の機能を有する。
また、図6などの構成例は、管理システム40、通信端末10、及び中継装置30による処理の理解を容易にするために、主な機能に応じて分割したものである。処理単位の分割の仕方や名称によって本願発明が制限されることはない。管理システム40、通信端末10、及び中継装置30の処理は、処理内容に応じて更に多くの処理単位に分割することもできる。また、1つの処理単位が更に多くの処理を含むように分割することもできる。
上記で説明した実施形態の各機能は、一又は複数の処理回路によって実現することが可能である。ここで、本明細書における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)、SOC(System on a chip)、GPU(Graphics Processing Unit)や従来の回路モジュール等のデバイスを含むものとする。
なお、帯域情報処理部25は通信帯域取得手段の一例であり、符号化設定部26は画素数決定手段の一例であり、送受信部12は送信手段の一例であり、表示制御部20は表示制御手段の一例であり、解像度ビットレート変換テーブルは画素数通信速度変換情報の一例であり、画像処理部17cは画像処理手段の一例であり、操作入力受付部13は操作受付手段の一例である。
1 通信システム
10 通信端末
11 ディスプレイ
30 中継装置
40 管理システム
80 サーバ装置
国際公開第2015/045788号

Claims (8)

  1. ネットワークを介して接続された他の通信端末に、撮像手段により撮像した映像データを送信する通信端末であって、
    前記映像データの送信時の通信帯域を取得する通信帯域取得手段と、
    前記通信帯域取得手段が取得した前記通信帯域で送信可能な前記映像データの画素数を決定する画素数決定手段と、
    前記画素数決定手段が決定した前記画素数を指し示す枠を前記通信端末の撮像手段が撮像した前記映像データに重ねてディスプレイに表示する表示制御手段と、
    前記枠内の前記映像データを前記他の通信端末に送信する送信手段と、
    を有することを特徴する通信端末。
  2. 前記表示制御手段が前記映像データに重ねて表示した前記枠の位置に関する情報を受け付ける操作受付手段と、
    前記操作受付手段が受け付けた前記枠の位置に関する情報に基づき、前記枠内の前記映像データを切り取る画像処理手段と、を有し、
    前記送信手段は、前記画像処理手段が切り取った前記映像データを前記他の通信端末に送信することを特徴する請求項1に記載の通信端末。
  3. 前記画素数決定手段は、前記通信帯域取得手段が取得した前記通信帯域に対応付けられた前記画素数を画素数通信速度変換情報に登録されている前記画素数と前記通信帯域の対応関係に基づいて算出することで、
    前記通信帯域で送信可能な前記映像データの画素数を決定することを特徴する請求項1又は2に記載の通信端末。
  4. 前記画素数決定手段は、前記通信帯域取得手段が取得した前記通信帯域に対応付けられた前記画素数と、前記撮像手段が撮像する前記映像データの画素数のうち、小さい方を前記通信帯域で送信可能な前記映像データの画素数に決定することを特徴する請求項3に記載の通信端末。
  5. 前記操作受付手段は、前記映像データに重ねて表示された前記枠の画素数を維持したままアスペクト比の変更を受け付け、
    前記画像処理手段は前記操作受付手段が変更を受け付けたアスペクト比の枠内の前記映像データを切り取り、前記送信手段は、前記画像処理手段が切り取った前記映像データを前記他の通信端末に送信することを特徴する請求項2に記載の通信端末。
  6. 前記操作受付手段は、前記映像データに重ねて表示された前記枠の面積をユーザが大きくする操作を制限することを特徴する請求項5に記載の通信端末。
  7. ネットワークを介して接続された他の通信端末に、撮像手段により撮像した映像データを送信する通信端末が行うデータ送信方法であって、
    通信帯域取得手段が、前記映像データの送信時の通信帯域を取得するステップと、
    画素数決定手段が、前記通信帯域取得手段が取得した前記通信帯域で送信可能な前記映像データの画素数を決定するステップと、
    表示制御手段が、前記画素数決定手段が決定した前記画素数を指し示す枠を前記通信端末の撮像手段が撮像した前記映像データに重ねてディスプレイに表示するステップと、
    送信手段が、前記枠内の前記映像データを前記他の通信端末に送信するステップと、
    を有することを特徴するデータ送信方法。
  8. ネットワークを介して接続された他の通信端末に、撮像手段により撮像した映像データを送信する通信端末を、
    前記映像データの送信時の通信帯域を取得する通信帯域取得手段と、
    前記通信帯域取得手段が取得した前記通信帯域で送信可能な前記映像データの画素数を決定する画素数決定手段と、
    前記画素数決定手段が決定した前記画素数を指し示す枠を前記通信端末の撮像手段が撮像した前記映像データに重ねてディスプレイに表示する表示制御手段と、
    前記枠内の前記映像データを前記他の通信端末に送信する送信手段、
    として機能させるためのプログラム。
JP2018122368A 2018-06-27 2018-06-27 通信端末、データ送信方法、プログラム Active JP7124483B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018122368A JP7124483B2 (ja) 2018-06-27 2018-06-27 通信端末、データ送信方法、プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018122368A JP7124483B2 (ja) 2018-06-27 2018-06-27 通信端末、データ送信方法、プログラム

Publications (2)

Publication Number Publication Date
JP2020005107A JP2020005107A (ja) 2020-01-09
JP7124483B2 true JP7124483B2 (ja) 2022-08-24

Family

ID=69100631

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018122368A Active JP7124483B2 (ja) 2018-06-27 2018-06-27 通信端末、データ送信方法、プログラム

Country Status (1)

Country Link
JP (1) JP7124483B2 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009260412A (ja) 2008-04-11 2009-11-05 Yamaha Corp 通信システム
JP2010171876A (ja) 2009-01-26 2010-08-05 Yamaha Corp 通信装置及び通信システム
JP2013157905A (ja) 2012-01-31 2013-08-15 Canon Inc 撮影制御装置、撮影制御装置の制御方法およびプログラム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0746553A (ja) * 1993-07-30 1995-02-14 Canon Inc 画像通信装置及びシステム
JPH09116886A (ja) * 1995-10-20 1997-05-02 Ricoh Co Ltd 画像情報通信装置
JPH10178639A (ja) * 1996-12-19 1998-06-30 Matsushita Electric Ind Co Ltd 画像コーデック部および画像データ符号化方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009260412A (ja) 2008-04-11 2009-11-05 Yamaha Corp 通信システム
JP2010171876A (ja) 2009-01-26 2010-08-05 Yamaha Corp 通信装置及び通信システム
JP2013157905A (ja) 2012-01-31 2013-08-15 Canon Inc 撮影制御装置、撮影制御装置の制御方法およびプログラム

Also Published As

Publication number Publication date
JP2020005107A (ja) 2020-01-09

Similar Documents

Publication Publication Date Title
CA2790740C (en) Transmission system and transmitting method
JP6111753B2 (ja) 情報処理装置、伝送システム、プログラム
JP6269610B2 (ja) 情報処理装置、画像表示方法、通信システム、プログラム
US20170171513A1 (en) Remote conference system, communication terminal, and program
JP6432595B2 (ja) 通信装置、通信システム、通信制御方法およびプログラム
US20150058735A1 (en) Relay device, display data sharing system, data control method, and computer-readable storage medium
US10079867B2 (en) Apparatus, system, and method of controlling output of content data, and recording medium
JP2011254442A (ja) 遠隔通信端末、遠隔通信方法、及び遠隔通信用プログラム
US7425979B2 (en) Communication system
JP6349997B2 (ja) 通信装置、通信システム、通信制御方法およびプログラム
JP2014003448A (ja) 伝送システム、外部入力装置、および表示解像度変換用プログラム
JP4331049B2 (ja) データ伝送装置およびデータ伝送方法
JP2014220732A (ja) 情報処理装置、情報処理方法およびプログラム
JP2022133291A (ja) 伝送管理装置
JP2007096974A (ja) テレビ会議端末及び表示位置決定方法
EP3068132A1 (en) Information processing apparatus, information processing system, and information processing method
JP7124483B2 (ja) 通信端末、データ送信方法、プログラム
EP3125538A1 (en) Information processing apparatus, image display method, and communication system
JP6531391B2 (ja) 伝送管理システム、伝送システム、中継装置制御方法、及びプログラム
JP6515436B2 (ja) 伝送システム、伝送端末、及びプログラム
JP2017092647A (ja) 情報処理システム、情報処理装置、情報処理方法及びプログラム
JP6903964B2 (ja) 端末、プログラム、データ送信方法
JP6269781B2 (ja) 伝送システム
JP2017092646A (ja) 情報処理システム、情報処理装置、情報処理方法及びプログラム
JP6213420B2 (ja) 通信装置、通信システム、通信方法およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210208

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20211209

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220125

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220210

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220712

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220725

R151 Written notification of patent or utility model registration

Ref document number: 7124483

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151