JP2012134874A - Tv会議システム - Google Patents
Tv会議システム Download PDFInfo
- Publication number
- JP2012134874A JP2012134874A JP2010286559A JP2010286559A JP2012134874A JP 2012134874 A JP2012134874 A JP 2012134874A JP 2010286559 A JP2010286559 A JP 2010286559A JP 2010286559 A JP2010286559 A JP 2010286559A JP 2012134874 A JP2012134874 A JP 2012134874A
- Authority
- JP
- Japan
- Prior art keywords
- video
- layer
- unit
- type
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Abstract
【解決手段】従来の構成に、夫々の端末Aにカメラ104により撮影した映像の種類を検知して、この映像の種類に係る情報をサーバー106に送信する映像種類検知部(映像種類検知手段)200を更に備え、サーバー106に映像種類検知部200により検知された映像の種類に基づいて解像度・画質とフレームレートのどちらを優先するかをレイヤー切り出し部102に指示する優先レイヤー指定部(優先レイヤー指定手段)201を更に備えて構成されている。
【選択図】図1
Description
端末A、BのH.264/SVCエンコーダー100は、カメラ104で撮影された自拠点の映像をスケーラブル圧縮符号化し、サーバー106に送信する。H.264/SVCを用いた映像符号化は解像度、フレームレート、画質の情報を粗い情報から細かい情報へと階層化(レイヤー化)して符号化することにより、解像度、フレームレート、画質のスケーラビリティを実現することが知られている。サーバー106はネットワーク状態、受信端末状態検知部103で、受信側のネットワークの状態(使用可能な通信帯域、パケット損失率など)、端末状態(処理性能、現在の稼働率など)を端末A、Bと情報をやりとりし、受信した映像データの調整をする。この調整の際には、レイヤー切り出し部102を用いて、受信した映像データからレイヤーを切り出し、受信側端末B(A)に送信する。端末B(A)は受信した映像データをデコーダー101によって復号化する。これを双方向に行うことにより、互いの映像を送受信している。
このような構成においては、サーバー106でのレイヤー切り出しによる映像データ量の調整は、その映像データの種類を考慮しないため、解像度や画質が重要な映像において、時間レイヤーよりも空間レイヤー、SNRレイヤーを切り出して解像度、画質を下げることで、利用するネットワーク帯域を減らす方法をとるため、その結果、必ずしも最適ではない調整が行われてしまうという問題がある。
本発明は、かかる課題に鑑みてなされたものであり、スケーラブルに符号化された映像データの特徴を用いて行われる送信データ量の調整によるネットワーク帯域制御技術と、送信する映像の種類を検知する画像認識技術を組み合わせることにより、映像の種類にとって最適な解像度/フレームレートにより映像データを送信することが可能なTV会議システムを提供することを目的とする。
本発明の最も大きな特徴は、撮影された映像の種類を検知して、検知された映像の種類に基づいて、解像度・画質とフレームレートのどちらが重要かを判断して、重要である方を残すようにして、ネットワーク状態に基づいた送信可能なデータ量に調整することである。これにより、映像の種類にとって最適な解像度/フレームレートで映像データを送信することができる。
本発明の具体的な構成要件は、従来の端末に撮像手段により撮影した映像の種類を検知して、この映像の種類に係る情報をサーバーに送信する映像種類検知手段を備え、また、サーバーに映像種類検知手段により検知された映像の種類に基づいて解像度・画質とフレームレートのどちらを優先するかをレイヤー切り出し手段に指示する優先レイヤー指定手段を備えたことである。これにより、スケーラブルに符号化された映像データの特徴を用いて行われる送信データ調整によるネットワーク帯域制御技術と、送信する映像の種類を検知する画像認識技術を組み合わせることにより、映像の種類にとって最適な解像度/フレームレートで映像データを送信することができる。
映像種類検知手段では、既存の顔検出技術などの画像認識技術を用いて、撮影した画像の種類を検知する。例えば、顔認識技術を用いて、顔が認識されれば、映像内に人物がいると判断できるため、動きのある映像だということが分かる。このときには、優先レイヤー指定手段はフレームレートが重要であると判断し、優先的に時間レイヤーを残すようにレイヤー切り出し手段に指示する。これにより、画像が人物の場合に、解像度と画質を犠牲にして、その人物の動きを忠実に送信することができる。
映像種類検知手段では、既存の顔検出技術などの画像認識技術を用いて、撮影した画像の種類を検知する。例えば、顔認識技術を用いて、顔が検出されなければ、TV会議の場合、フレームレートよりも解像度、画質の方が重要であると判断し、優先的に空間、SNRレイヤーを残すようにレイヤー切り出し手段に指示する。これにより、画像が人物でない場合に、フレームレートを犠牲にして、解像度、画質が良い画像を忠実に送信することができる。
会議の拠点に夫々備えられて映像を撮影するカメラ(撮像手段)104と、会議の拠点に夫々備えられて復号化された映像を表示するディスプレイ(表示手段)105と、会議の拠点に夫々備えられてカメラ104により撮影された自拠点の映像をスケーラブル圧縮符号化するH.264/SVCエンコーダー(以下、単にエンコーダーと呼ぶ)(エンコーダー)100、及びディスプレイ105に表示するための映像データを復号化するH.264/SVCデコーダー(以下、単にデコーダーと呼ぶ)(デコーダー)101を有する端末A、Bと、エンコーダー100から受信した映像データからレイヤーを切り出して受信端末に送信するレイヤー切り出し部(レイヤー切り出し手段)102、及び受信端末の状態及び使用するネットワークの状態を検知するネットワーク状態、受信端末状態検知部(以下、単に状態検知部と呼ぶ)(状態検知手段)103を有し、夫々の端末A、Bから受信した映像データの中継及び送信データ量の調整を行うサーバー106と、を備えたTV会議システムであって、夫々の端末A、Bにカメラ104により撮影した映像の種類を検知して、この映像の種類に係る情報をサーバー106に送信する映像種類検知部(映像種類検知手段)200を備え、サーバー106に映像種類検知部200により検知された映像の種類に基づいて解像度・画質とフレームレートのどちらを優先するかをレイヤー切り出し部102に指示する優先レイヤー指定部(優先レイヤー指定手段)201を備えて構成されている。
本発明のTV会議における端末と端末間を中継するサーバーの構成の特徴は、従来の構成(図3参照)に加え、端末A、Bに映像種類検知部200を、サーバー106に優先レイヤー指定部201を備えていることである。カメラ104で撮影された映像は、エンコーダー100と映像種類検知部200に入力される。ここで、映像種類検知部200は映像の種類を検知し、解像度と画質またはフレームレートのどちらが映像にとって重要であるものかを特定し、優先的にレイヤーを残すようにサーバーの優先レイヤー指定部201に伝える。優先レイヤー指定部201は送られてきた映像の種類から、この映像コンテンツにとって解像度・画質とフレームレートのどちらが重要であるかを判断し、レイヤー切り出し部102に優先レイヤーを指示する。指示された優先レイヤーを前提に、状態検知部103で得た送信可能データ量から、レイヤー切り出し部102にてレイヤーの切り出しによる送信データ量調整を行う。
即ち、本実施形態の具体的な構成要件は、従来の端末にカメラ104により撮影した映像の種類を検知して、この映像の種類に係る情報をサーバー106に送信する映像種類検知部200を備え、また、サーバー106に映像種類検知部200により検知された映像の種類に基づいて解像度・画質とフレームレートのどちらを優先するかをレイヤー切り出し部102に指示する優先レイヤー指定部201を備えたことである。これにより、スケーラブルに符号化された映像データの特徴を用いて行われる送信データ調整によるネットワーク帯域制御技術と、送信する映像の種類を検知する画像認識技術を組み合わせることにより、映像の種類にとって最適な解像度/フレームレートで映像データを送信することができる。
まず、端末Aは映像種類検知部200により、撮影した映像内に人がいるかどうかを検出する(S1)。映像内に人がいる場合は(S1でYes)、端末Aは撮影した映像をエンコーダー100によりH.264/SVCで符号化する(S2)。そして、端末Aは符号化された映像データと人物検出結果をサーバー106に送信する(S3)。サーバー106の状態検知部103により、受信側端末Bの状態、ネットワークの状態から送信可能なデータ量を検知する(S4)。サーバー106は受信した映像データをレイヤー切り出し部102により、ステップS4で検知した送信可能なデータ量に調整する。そして、フレームレート優先と判断し、空間、SNRレイヤーを切り出して、送信データ量の調整を行う(S5)。サーバー106は端末Bに映像データを送信する(S6)。端末Bは受信した映像データを復号化して(S7)、端末Bは復号化した映像データをディスプレイ105に表示する(S8)。
即ち、映像種類検知部200では、既存の顔検出技術などの画像認識技術を用いて、撮影した画像の種類を検知する。例えば、顔認識技術を用いて、顔が認識されれば、映像内に人物がいると判断できるため、動きのある映像だということが分かる。このときには、優先レイヤー指定部201はフレームレートが重要であると判断し、優先的に時間レイヤーを残すようにレイヤー切り出し部102に指示する。これにより、画像が人物の場合に、解像度と画質を犠牲にして、その人物の動きを忠実に送信することができる。
また、顔認識技術を用いて、顔が検出されなければ、TV会議の場合、フレームレートよりも解像度、画質の方が重要であると判断し、優先的に空間、SNRレイヤーを残すようにレイヤー切り出し部102に指示する。これにより、画像が人物でない場合に、フレームレートを犠牲にして、解像度、画質が良い画像を忠実に送信することができる。
Claims (4)
- 少なくとも2箇所の拠点間の画像データを双方向通信して会議を行うTV会議システムであって、
前記各拠点で撮影された映像の種類を検知して、該検知された映像の種類に基づいて解像度・画質とフレームレートの何れが重要かを判断すると共に、受信端末のネットワーク状態を検知し、前記解像度・画質又はフレームレートを優先的に残して送信可能なデータ量に調整して送信することを特徴とするTV会議システム。 - 前記拠点に夫々備えられて映像を撮影する撮像手段と、
前記拠点に夫々備えられて復号化された映像を表示する表示手段と、
前記拠点に夫々備えられて前記撮像手段により撮影された自拠点の映像をスケーラブル圧縮符号化するエンコーダー、及び前記表示手段に表示するための映像データを復号化するデコーダーを有する端末と、
前記エンコーダーから受信した映像データからレイヤーを切り出して受信端末に送信するレイヤー切り出し手段、及び前記受信端末の状態及び使用するネットワークの状態を検知する状態検知手段を有し、夫々の前記端末から受信した前記映像データの中継及び送信データ量の調整を行うサーバーと、を備えたTV会議システムであって、
夫々の前記端末に前記撮像手段により撮影した映像の種類を検知して、該映像の種類に係る情報を前記サーバーに送信する映像種類検知手段を備え、
前記サーバーに前記映像種類検知手段により検知された映像の種類に基づいて解像度・画質とフレームレートのどちらを優先するかを前記レイヤー切り出し手段に指示する優先レイヤー指定手段を備えたことを特徴とする請求項1に記載のTV会議システム。 - 前記映像種類検知手段に画像認識手段を備え、前記撮像手段により撮影された映像を前記画像認識手段により人物画像であると認識した場合、前記優先レイヤー指定手段はフレームレートが重要であると判断して、優先的に時間レイヤーを残すように前記レイヤー切り出し手段に指示し、前記状態検知手段により得られた送信可能データ量に基づいて、前記レイヤー切り出し手段により指示されたレイヤーを切り出して送信データ量の調整を行うことを特徴とする請求項2に記載のTV会議システム。
- 前記撮像手段により撮影された映像を前記画像認識手段により人物画像でないと認識した場合、前記優先レイヤー指定手段は解像度、画質が重要であると判断して、優先的に空間、及びSNRレイヤーを残すように前記レイヤー切り出し手段に指示し、前記状態検知手段により得られた送信可能データ量に基づいて、前記レイヤー切り出し手段により指示されたレイヤーを切り出して送信データ量の調整を行うことを特徴とする請求項2又は3に記載のTV会議システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010286559A JP5740969B2 (ja) | 2010-12-22 | 2010-12-22 | Tv会議システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010286559A JP5740969B2 (ja) | 2010-12-22 | 2010-12-22 | Tv会議システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2012134874A true JP2012134874A (ja) | 2012-07-12 |
JP5740969B2 JP5740969B2 (ja) | 2015-07-01 |
Family
ID=46649910
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010286559A Expired - Fee Related JP5740969B2 (ja) | 2010-12-22 | 2010-12-22 | Tv会議システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5740969B2 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013048356A (ja) * | 2011-08-29 | 2013-03-07 | Ricoh Co Ltd | Tv会議システム、映像配信装置、及びデータ処理方法 |
KR20140055252A (ko) * | 2012-10-31 | 2014-05-09 | 삼성에스디에스 주식회사 | 다자간 영상 통화 장치 및 이를 이용한 다자간 영상 출력 방법 |
US9609387B2 (en) | 2014-06-17 | 2017-03-28 | Ricoh Company, Ltd. | Communication device, communication system, and communication control method |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10178639A (ja) * | 1996-12-19 | 1998-06-30 | Matsushita Electric Ind Co Ltd | 画像コーデック部および画像データ符号化方法 |
JP2004529597A (ja) * | 2001-06-12 | 2004-09-24 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | モデルベースの符号化と優先順位決定手法を用いたビデオ通信システム |
JP2005341075A (ja) * | 2004-05-26 | 2005-12-08 | Nippon Telegr & Teleph Corp <Ntt> | スケーラブル通信会議システム,サーバ装置,スケーラブル通信会議方法,スケーラブル通信会議制御方法,スケーラブル通信会議制御プログラムおよびそのプログラム記録媒体 |
JP2006155178A (ja) * | 2004-11-29 | 2006-06-15 | Sony Corp | コンテンツ通信システム、通信装置および方法、並びにプログラム |
US20080068446A1 (en) * | 2006-08-29 | 2008-03-20 | Microsoft Corporation | Techniques for managing visual compositions for a multimedia conference call |
US20080211901A1 (en) * | 2005-07-20 | 2008-09-04 | Mehmet Reha Civanlar | System and method for scalable and low-delay videoconferencing using scalable video coding |
JP2009508454A (ja) * | 2005-09-07 | 2009-02-26 | ヴィドヨ,インコーポレーテッド | スケーラブルなビデオ符号化を用いたスケーラブルで低遅延のテレビ会議用システムおよび方法 |
-
2010
- 2010-12-22 JP JP2010286559A patent/JP5740969B2/ja not_active Expired - Fee Related
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10178639A (ja) * | 1996-12-19 | 1998-06-30 | Matsushita Electric Ind Co Ltd | 画像コーデック部および画像データ符号化方法 |
JP2004529597A (ja) * | 2001-06-12 | 2004-09-24 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | モデルベースの符号化と優先順位決定手法を用いたビデオ通信システム |
JP2005341075A (ja) * | 2004-05-26 | 2005-12-08 | Nippon Telegr & Teleph Corp <Ntt> | スケーラブル通信会議システム,サーバ装置,スケーラブル通信会議方法,スケーラブル通信会議制御方法,スケーラブル通信会議制御プログラムおよびそのプログラム記録媒体 |
JP2006155178A (ja) * | 2004-11-29 | 2006-06-15 | Sony Corp | コンテンツ通信システム、通信装置および方法、並びにプログラム |
US20080211901A1 (en) * | 2005-07-20 | 2008-09-04 | Mehmet Reha Civanlar | System and method for scalable and low-delay videoconferencing using scalable video coding |
JP2009508454A (ja) * | 2005-09-07 | 2009-02-26 | ヴィドヨ,インコーポレーテッド | スケーラブルなビデオ符号化を用いたスケーラブルで低遅延のテレビ会議用システムおよび方法 |
US20080068446A1 (en) * | 2006-08-29 | 2008-03-20 | Microsoft Corporation | Techniques for managing visual compositions for a multimedia conference call |
JP2010503280A (ja) * | 2006-08-29 | 2010-01-28 | マイクロソフト コーポレーション | マルチメディア音声会議向け視覚的構成の管理技術 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013048356A (ja) * | 2011-08-29 | 2013-03-07 | Ricoh Co Ltd | Tv会議システム、映像配信装置、及びデータ処理方法 |
KR20140055252A (ko) * | 2012-10-31 | 2014-05-09 | 삼성에스디에스 주식회사 | 다자간 영상 통화 장치 및 이를 이용한 다자간 영상 출력 방법 |
KR101955202B1 (ko) | 2012-10-31 | 2019-03-07 | 삼성에스디에스 주식회사 | 다자간 영상 통화 장치 및 이를 이용한 다자간 영상 출력 방법 |
US9609387B2 (en) | 2014-06-17 | 2017-03-28 | Ricoh Company, Ltd. | Communication device, communication system, and communication control method |
Also Published As
Publication number | Publication date |
---|---|
JP5740969B2 (ja) | 2015-07-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5811641B2 (ja) | Tv会議システム、映像送信方法、及び映像送信装置 | |
US11356638B2 (en) | User-adaptive video telephony | |
WO2010037310A1 (zh) | 多路视频通信方法与系统 | |
JP2007158410A (ja) | 画像符号化装置、画像復号装置、および画像処理システム | |
JP2006333254A (ja) | 動画像リアルタイム通信端末、動画像リアルタイム通信端末の制御方法及び動画像リアルタイム通信端末の制御プログラム | |
JP5891654B2 (ja) | Tv会議システム、映像配信装置、及びデータ処理方法 | |
JP2007208458A (ja) | 通信システム、通信端末および通信方法 | |
JP2008311831A (ja) | 動画像通信装置、動画像通信システムおよび動画像通信用の半導体集積回路 | |
US20130010060A1 (en) | IM Client And Method For Implementing 3D Video Communication | |
US9749542B2 (en) | Decoder and monitor system | |
JP4567646B2 (ja) | 動画像・音声再生携帯端末、及び、動画像・音声配信端末、及び、システム | |
JP4768250B2 (ja) | 送信装置、受信装置、送受信装置、送信方法及び伝送システム | |
JP5740969B2 (ja) | Tv会議システム | |
US11297329B2 (en) | Image encoding method, transmission method, and image encoder | |
JP2016005043A (ja) | 情報処理装置およびプログラム | |
US20120301099A1 (en) | Data processing unit and data encoding device | |
CN110602440A (zh) | 一种音视频数据流的传输方法、装置及终端 | |
JP4799191B2 (ja) | 通信端末、通信システムおよび通信方法 | |
KR20090125556A (ko) | 영상 코덱 방법, 영상 코덱 장치 및 그 영상 서비스 시스템 | |
JP2009118151A (ja) | 通信システム、送信装置、中継装置、受信装置及び送信プログラム | |
JP4455405B2 (ja) | 映像通信装置、映像配信サーバ、双方向映像通信システム、及びプログラム | |
JP5141656B2 (ja) | 通信制御装置、通信制御方法、および通信制御プログラム | |
JP7124483B2 (ja) | 通信端末、データ送信方法、プログラム | |
WO2010117644A1 (en) | Method and apparatus for asynchronous video transmission over a communication network | |
JP4049378B2 (ja) | 双方向画像通信システムにおけるサーバ及びその処理方法並びにプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20131111 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20140825 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140902 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20141030 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20150331 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20150413 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5740969 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
LAPS | Cancellation because of no payment of annual fees |