JP5228580B2 - テレビ会議用端末装置およびテレビ会議システム - Google Patents
テレビ会議用端末装置およびテレビ会議システム Download PDFInfo
- Publication number
- JP5228580B2 JP5228580B2 JP2008093708A JP2008093708A JP5228580B2 JP 5228580 B2 JP5228580 B2 JP 5228580B2 JP 2008093708 A JP2008093708 A JP 2008093708A JP 2008093708 A JP2008093708 A JP 2008093708A JP 5228580 B2 JP5228580 B2 JP 5228580B2
- Authority
- JP
- Japan
- Prior art keywords
- media data
- mixing
- unit
- video conference
- terminal device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000004891 communication Methods 0.000 claims description 21
- 230000005540 biological transmission Effects 0.000 claims description 14
- 230000008707 rearrangement Effects 0.000 claims description 10
- 238000000034 method Methods 0.000 description 34
- 238000010586 diagram Methods 0.000 description 6
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 230000011664 signaling Effects 0.000 description 1
Images
Landscapes
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Telephonic Communication Services (AREA)
Description
このようなテレビ会議システムにおいて、メディアデータを搭載したメディアパケットを多地点の端末装置へ分配送信する方式としては、MCU方式、マルチキャスト方式、ユニキャスト方式などがある。
これに対し、図6に示すように、MCU装置を用いないシステムにおいては、マルチキャスト方式は、通信ネットワークのマルチキャスト機能を利用して、テレビ会議用端末装置から送信されたマルチキャストアドレス宛のメディアパケットを希望する各テレビ会議用端末装置へ受信を通信ネットワークが分配送信する方式である。また、ユニキャスト方式は、テレビ会議用端末装置から各テレビ会議用端末装置へそれぞれ個別のデータ通信でメディアパケットを送信する方式である。
また、リアルタイムでミキシングするためには、画像通信を行いながらミキシングとエンコードをしなければならないため、CPU(中央処理装置)の処理能力が不足する場合には、正常な処理が行えなくなる可能性があった。
また、リアルタイムではなく、ファイル保存後にミキシングする場合は、デコードする処理が余計に必要になるので、再生に時間がかかるという問題もあった。
その結果、保存されたテレビ会議の様子を専用のアプリケーションを用いなくても迅速に再生できるようになる。
[1.第1の実施の形態]
[1.1. テレビ会議用端末装置の構成]
本発明の第1の実施の形態に係るテレビ会議用端末装置は、その端末装置を用いてテレビ会議に参加する者の映像および音声を取得するカメラおよびマイクロフォンと接続可能であるとともに通信ネットワークと接続可能なコンピュータと、このコンピュータにインストールされて、そのCPUや記憶装置および各種I/F等のハードウェア資源と協働し、このコンピュータをテレビ会議用端末装置としての機能を発揮させるためのコンピュータプログラムとからなる。
なお、カメラおよびマイクロフォンはコンピュータと一体とされていてもよい。また、テレビ会議の映像や音声を出力するモニターやスピーカと接続可能であることはいうまでもない。
まず、カメラおよびマイクロフォン11により取得された映像および音声のデータ(以下、「メディアデータ」という。)をエンコードするエンコーダ12と、エンコードされたメディアデータをメディアパケットに搭載して図示しない他の端末装置に宛てて通信ネットワークに送信する自メディアデータ送信部13と、テレビ会議の相手となる他の端末装置から送出された映像および音声を含むメディアデータ(以下、「相手メディアデータ」という。)を通信ネットワークを介して受信する相手メディアデータ受信部14と、相手メディアデータをデコードするデコーダ15と、デコーダ15によってデコードされた映像および音声を再生するメディア再生部16とを備えている。
なお、圧縮符号化は、例えば、MPEGやH.264など、公知の手法を用いて行えばよいので、詳細な説明は省略する。
相手メディアデータ受信部14によって受信された他の端末装置からの相手メディアデータは、デコーダ15によってデコードされ、図示しないモニター等の表示装置およびスピーカにより再生出力される。
したがって、この端末装置1は、複数のメディアデータを合成して1つのミキシングメディアデータを生成し、これを他の端末装置に宛てて通信ネットワークに送出することができる。
なお、本実施の形態に係る端末装置1は、ミキシングメディアデータをシーケンスナンバーに基づいて並べ替える並び替え部23を備えている。このような並べ替え部23をミキシングファイル記憶部24の前段に設けることによって、ミキシングメディアデータ受信部22においてミキシングメディアデータを順不同で受信した場合であっても、ミキシングファイル記憶部24には、ミキシングメディアデータが時間的に正しい順序で保存されることになる。
より具体的には、ミキシング担当ネゴシエーション部30は、次にミキシング処理を行う他の端末装置に対してミキシング担当要求を、メディアパケットの拡張ヘッダを使用してミキシングメディアデータ送信部21に送信したり、ミキシングメディアデータ受信部22において受信したメディアパケットに含まれた他の端末装置からのミキシング担当要求を受信したりして、次に自装置がミキシング処理を実行すべきか否か、すなわち、ミキシング部18にミキシングメディアデータを生成させるか否かを決定する。
上述したように、ミキシング担当ネゴシエーション部30を備えることにより、ミキシング処理は、特定の端末装置のみで行われるのではなく、テレビ会議に参加している他の端末装置との間で持ち回りで行われる。
図2は、3台の端末装置が参加したテレビ会議システムにおいて、2つの端末装置、端末Aと端末Bとが交互にミキシング処理を行う例を示す図である。
すなわち、図2は、端末A、B、Cからなるテレビ会議システムが、端末Aのみがミキシング処理を行い、他の端末Bおよび端末Cにミキシングメディアデータ(MMD−A1)をそれぞれ配信する「状態1」と、端末Cのみがミキシング処理を行い、他の端末Aおよび端末Bにミキシングメディアデータ(MMD−C1)をそれぞれ配信する「状態2」とを交互にとる様子を示したものである。
[ステップS01:準備]
各端末装置A,B,Cがそれぞれメディアデータの送出を開始する前に、最初にミキシング処理を行う端末を決定する。いずれの端末装置が最初にミキシング処理を行うべきかは、端末装置間のシグナリングにより、例えば、MACアドレスが最も大きな端末装置を最初にミキシング処理を行うべき端末装置とする(図3に示す例では、端末装置Aが最初にミキシング処理を行うべき端末装置とする。)。
各端末装置が他のすべての端末装置に対して、自装置に接続されたカメラおよびマイクロフォン11によって取得された映像および音声を含む自メディアデータを送信を開始する。
[ステップS03:端末装置Aによるミキシング処理]
各端末装置が他のすべての端末装置に対して自メディアデータを送信する中で、最初にミキシング処理を行うべき端末装置として指定された端末装置Aは、時刻T1にミキシング処理とミキシングメディアデータMMD−A1の送信を開始する(図2に示す「状態1」)。このミキシングメディアデータMMD−A1は、カメラおよびマイクロフォン11により取得した自メディアデータと相手メディアデータ受信部14において受信した相手メディアデータとをミキシングしたものである。端末装置Aは、時刻T1から所定の期間τ経過後の時刻T2(T2=T1+τ)までにそれぞれ生成および受信した自メディアデータおよび相手メディアデータとをミキシングしてミキシングメディアデータMMD−A1とする。
あわせて端末装置Aは、端末装置Cに端末装置Aの次にミキシングを行うことを要求する。この要求は、端末装置Aのミキシング担当ネゴシエーション部30の働きにより、ミキシングメディアデータ送信部21から送出するメディアパケットの拡張ヘッダ等を利用して、端末装置Aから、端末装置Cが次にミキシングを行う端末装置として指定された旨および端末装置Aがミキシング処理を開始する時刻(T1)とミキシング処理を行う時間(τ)とを通知することによって行う。
[ステップS05:次にミキシング処理を行う端末装置の確認]
上述した要求を受け取った端末装置Cは、その要求を受け付けたことを端末装置Aに対して通知する(RPY)。この通知は、端末装置CがRTCPパケットの拡張ヘッダ等を使用して他の端末装置にも通知される。
なお、端末装置Cは、自己のCPUの処理能力に余裕がない場合は、要求を拒否または無視したり、次のミキシング処理の時間(τ)の短縮を要求することができる。要求が拒否されたときは、他の端末装置に改めて要求を行う。
[ステップS06:ミキシング処理を行う端末装置の交替(1)]
端末装置Cは、時刻T2になると、自メディアデータと他の端末装置A、Bから受信した相手メディアデータとをミキシング処理してミキシングメディアデータMMD−C1を生成し、これを他の全端末装置A,Bに配信する(図2に示す「状態2」)。
また、端末装置Cは、端末装置Cのミキシング担当ネゴシエーション部30の働きにより、他の端末装置(この実施の形態においては、端末装置A)に端末装置Cの次にミキシングを行うことを要求する。この要求は、上述したステップS05と同様に、端末装置Cから、端末装置Aが次にミキシングを行う端末装置として指定された旨および端末装置Cがミキシング処理を開始する時刻(T1)とミキシング処理を行う時間(τ)を通知することによって行う。この要求を受け取った端末装置Aは、その要求を受け付けたことを端末装置Cに対して通知する(RPY)。
なお、仮にステップS05において端末装置Aからの要求が拒否または無視されて、時刻T2までにミキシング処理を行う端末装置が決まらなかった場合は、時刻T2以降も端末装置Aがさらに(T2−T1)の間、引き続きミキシング処理を行うことになる。
[ステップS07:ミキシングメディアデータの並べ替え(1)]
端末装置Aは、時刻T1から時刻T2までの間に他の端末装置B、Cから受信したメディアデータと自メディアデータとをミキシング処理するが、CPUの処理能力によっては必ずしもリアルタイムでミキシング処理が行えるとは限らない。例えば、ミキシング処理が時刻T2以降の時刻Taまでずれ込んだ場合には、各端末装置は、端末装置Aによって生成されたミキシングメディアデータMMD−A1と端末装置Cから配信されたミキシングメディアデータMMD−C1との双方を扱うことになる。このような場合には、各端末装置の並べ替え部によって、ミキシングメディアデータをシーケンスナンバーに基づいて並べ替えた上で保存する。
[ステップS08:ミキシング処理を行う端末装置の交替(2)]
時刻T3になると、上記ステップS06において予め行ったネゴシエーションの結果に従って、ミキシング処理を行う端末装置が端末装置Cから再び端末装置Aになり、端末装置Aは、時刻T3以降の自メディアデータと相手メディアデータとからミキシングメディアデータMMD−A2を生成し、他の端末装置B、Cに対して配信を開始する。
[ステップS09:ミキシングメディアデータの並べ替え(2)]
ステップS07と同様に、端末装置Cの処理能力によってはリアルタイムでミキシング処理が行えるとは限らない。その場合、端末装置Cは時刻T3以降もミキシング処理を続けることになる。そのような場合には、各端末装置は、受信または生成したミキシングメディアデータをシーケンスナンバーに基づいて並べ替えた上で記録する。
本発明の第2の実施の形態に係るテレビ会議システムの動作の一例を図4に示す。
上述した第1の実施の形態においては、3台の端末装置A、B、Cのうち、2台の端末装置の間で交互にミキシング処理を行う例について説明したが、本実施の形態においては、図4に示すように、3台の端末装置が持ち回りでミキシング処理を行うものである。すなわち、端末装置Aがミキシングと配信を行う「状態1」と、端末装置Bがミキシングと配信を行う「状態2」と、端末装置Cがミキシングと配信を行う「状態3」とを順次とるものとなる。
各端末装置の構成等は、上述した第1の実施の形態において説明したものとほぼ同一であることから、詳細な説明は省略する。
以上、第1および第2の実施の形態に係る端末装置を用いたテレビ会議システムによれば、ミキシング処理を端末装置Aと端末装置Cとの間で持ち回りで行って、それぞれ端末装置Bを含む他の端末装置にミキシングメディアデータを配信するので、CPUに過度の処理負担をかけずにミキシングを行い、ほぼ実時間でミキシングされた会議画像を得ることができる。したがって、保存されたテレビ会議の様子を専用のアプリケーションを用いなくても迅速に再生できるようになる。
Claims (4)
- 自装置に接続されたカメラおよびマイクによって取得された映像および音声を含む自メディアデータを送信する自メディアデータ送信部と、
テレビ会議の相手となる他のテレビ会議用端末装置から送出された映像および音声を含む相手メディアデータを受信する相手メディアデータ受信部と、
自装置に接続された前記カメラおよび前記マイクによって取得された映像および音声を含む前記自メディアデータと、前記相手メディアデータ受信部によって受信した前記相手メディアデータとをミキシングしてミキシングメディアデータを生成するミキシング部と、
このミキシング部によって生成されたミキシングメディアデータを通信ネットワークに送出するミキシングメディアデータ送信部と、
前記他のテレビ会議用端末装置から送出されたミキシングメディアデータを通信ネットワークを介して受信するミキシングメディアデータ受信部と、
前記ミキシング部によって生成された前記ミキシングメディアデータおよび前記ミキシングメディアデータ受信部によって受信された前記ミキシングメディアデータを記録する記録部と、
他装置とのネゴシエーションにより自装置の前記ミキシング部にミキシングメディアデータを生成させるか否かを決定し、前記ミキシング部にミキシングメディアデータを生成させるときは、前記ミキシングメディアデータ送信部に当該ミキシングメディアデータを送出させるとともに、当該ミキシングメディアデータを前記記録部に記録させる一方、前記ミキシング部にミキシングメディアデータを生成させないときは、前記ミキシングメディアデータ受信部により受信した前記ミキシングメディアデータを前記記録部に記録させる制御部と
を備えたことを特徴とするテレビ会議用端末装置。 - 請求項1に記載されたテレビ会議用端末装置において、
前記制御部は、
前記ミキシング部に定期的に所定の期間ミキシングメディアデータを生成させることを特徴とするテレビ会議用端末装置。 - 請求項1または2に記載されたテレビ会議用端末装置において、
前記ミキシング部によって生成されたミキシングメディアデータと前記ミキシングメディアデータ受信部において受信されたミキシングメディアデータとを時間的に並べ替える並び替え部をさらに備え、
前記記録部は、前記ミキシングメディアデータを時間順にしたがって記録する
ことを特徴とするテレビ会議用端末装置。 - 複数のテレビ会議用端末装置と、これらのテレビ会議用端末装置が接続される通信ネットワークとからなるテレビ会議システムにおいて、
前記テレビ会議用端末装置の少なくとも2つは、請求項1乃至3のいずれかに記載されたテレビ会議用端末装置であり、これらのテレビ会議用端末装置のうち1つのテレビ会議用端末装置がの間で持ち回りで前記ミキシング部にミキシングメディアデータを生成させることを特徴とするテレビ会議システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008093708A JP5228580B2 (ja) | 2008-03-31 | 2008-03-31 | テレビ会議用端末装置およびテレビ会議システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008093708A JP5228580B2 (ja) | 2008-03-31 | 2008-03-31 | テレビ会議用端末装置およびテレビ会議システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009246866A JP2009246866A (ja) | 2009-10-22 |
JP5228580B2 true JP5228580B2 (ja) | 2013-07-03 |
Family
ID=41308267
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008093708A Active JP5228580B2 (ja) | 2008-03-31 | 2008-03-31 | テレビ会議用端末装置およびテレビ会議システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5228580B2 (ja) |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0997220A (ja) * | 1995-09-29 | 1997-04-08 | Toshiba Corp | 電子会議システムおよび時系列データの記録再生方法 |
JP2006217149A (ja) * | 2005-02-02 | 2006-08-17 | Canon Inc | 会議システム |
-
2008
- 2008-03-31 JP JP2008093708A patent/JP5228580B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2009246866A (ja) | 2009-10-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8471890B1 (en) | Adaptive video communication channel | |
US6288739B1 (en) | Distributed video communications system | |
US7043528B2 (en) | Systems and methods for connecting video conferencing to a distributed network | |
US6674459B2 (en) | Network conference recording system and method including post-conference processing | |
KR100373323B1 (ko) | 영상회의 시스템에서의 다자간 영상회의 방법 | |
US6453336B1 (en) | Video conferencing with adaptive client-controlled resource utilization | |
JP2005318534A (ja) | ストリーム選択を行う会議開催方法及び装置 | |
JP2005318535A (ja) | 帯域幅制御をして会議を開催する方法及び装置 | |
US8787547B2 (en) | Selective audio combination for a conference | |
KR20050101506A (ko) | 셀룰러 푸쉬 투 토크 다중 세션의 모니터링 시스템 및 방법 | |
JP2003530787A (ja) | ビデオ会議の記録 | |
JP2005534207A5 (ja) | ||
EP3163869B1 (en) | Conference migration method, device and system | |
JP2007072739A (ja) | 多地点会議システム、多地点会議装置およびクライアント端末 | |
US20110137438A1 (en) | Video conference system and method based on video surveillance system | |
JP4741325B2 (ja) | 多地点会議方法及び多地点会議システム | |
AU2004300323B2 (en) | Push to watch: a video person-to-person streaming application | |
CN107493453A (zh) | 用于网状端对端视频会议的系统和方法 | |
JP2007096974A (ja) | テレビ会議端末及び表示位置決定方法 | |
CN101557497A (zh) | 一种实现旁听会议的方法、终端及系统 | |
JP5228580B2 (ja) | テレビ会議用端末装置およびテレビ会議システム | |
JP4917497B2 (ja) | 映像配信装置,配信映像切替え方法,配信映像切替えプログラムおよび配信映像切替えプログラム記録媒体 | |
JP5205900B2 (ja) | テレビ会議システム、サーバ端末、およびクライアント端末 | |
CN110546947A (zh) | 用于进行音频和/或视频会议的方法 | |
JP2004187108A (ja) | 多地点会議方法、端末状態監視サーバ及び端末 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20101227 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120831 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120918 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20121119 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130219 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130304 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20160329 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 5228580 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |