JP2014045243A - Video data distribution device and bidirectional interactive system including it - Google Patents

Video data distribution device and bidirectional interactive system including it Download PDF

Info

Publication number
JP2014045243A
JP2014045243A JP2012185047A JP2012185047A JP2014045243A JP 2014045243 A JP2014045243 A JP 2014045243A JP 2012185047 A JP2012185047 A JP 2012185047A JP 2012185047 A JP2012185047 A JP 2012185047A JP 2014045243 A JP2014045243 A JP 2014045243A
Authority
JP
Japan
Prior art keywords
video data
information processing
side information
data
transmission
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012185047A
Other languages
Japanese (ja)
Other versions
JP5949326B2 (en
Inventor
Yasuhito Fujita
康仁 藤田
Yoichi Hata
洋一 畑
Yoshimitsu Goto
由光 後藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sumitomo Electric Industries Ltd
Original Assignee
Sumitomo Electric Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sumitomo Electric Industries Ltd filed Critical Sumitomo Electric Industries Ltd
Priority to JP2012185047A priority Critical patent/JP5949326B2/en
Publication of JP2014045243A publication Critical patent/JP2014045243A/en
Application granted granted Critical
Publication of JP5949326B2 publication Critical patent/JP5949326B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a video data distribution device comprising structure that allows a distribution data amount to be reduced while preventing deterioration in quality of video data at each transmission side information processing terminal when the video data from a plurality of transmission side information processing terminals is distributed to one or more reception side information processing terminals.SOLUTION: A video data distribution device distributes video data received from two or more transmission side information processing terminals via a communication interface to at least one reception side information processing terminal. The video data distribution device distributes the received video data to the reception side information processing terminal while changing respective data amounts of the received video data in accordance with data amount variation patterns different from each other along the time axis direction so that the total data amount falls in a range of the maximum bandwidth of the reception side information processing terminal. The video data to be distributed is compressed in a scalable manner at each of the transmission side information processing terminals or at the video data distribution device.

Description

本発明は、所定の伝送手段を介して互いに接続された複数の情報処理端末間の送受信を集中管理する映像データ配信装置と、それを含む双方向対話システムに関するものである。   The present invention relates to a video data distribution apparatus that centrally manages transmission / reception between a plurality of information processing terminals connected to each other via predetermined transmission means, and a bidirectional interactive system including the same.

近年、それぞれが遠隔地(拠点)に配置されたクライアント端末間において双方向対話を実現する通信システム(双方向対話システム)として、例えば特許文献1に開示されたような多地点TV会議システムなどの研究が盛んに行われている。このような特定の情報処理端末間でのデータ授受を可能にするシステムは、インターネットなど、一般に普及した通信ネットワークを利用することで簡易に構築できる一方、システム内で送受信される情報の機密性を確保する必要がある。   In recent years, for example, a multipoint TV conference system disclosed in Patent Document 1 is used as a communication system (bidirectional dialogue system) that realizes a two-way dialogue between client terminals located in remote locations (bases). There is a lot of research. Such a system that enables data exchange between specific information processing terminals can be easily constructed by using a widely used communication network such as the Internet, while the confidentiality of information transmitted and received in the system is reduced. It is necessary to secure.

例えば、最近注目されてきたインターネットVPN(Virtual Private Network)サービスなどは、公衆網であるインターネット(一般のデータ通信回線)上に仮想的に専用回線を構築することで、情報機密性の高いWEB会議システム等を簡易に提供するサービスである。このようなVPNサービスを利用した会議システムは、複数の拠点にそれぞれ設置されたVPNルータをインターネットを介して接続し、複数の情報処理端末をいずれかの拠点に配置されたVPNルータに接続することで構築される。   For example, the Internet VPN (Virtual Private Network) service, which has been attracting attention recently, is a web conference with high information confidentiality by virtually constructing a dedicated line on the Internet (general data communication line) which is a public network. This service provides a simple system. In a conference system using such a VPN service, VPN routers installed at a plurality of locations are connected via the Internet, and a plurality of information processing terminals are connected to a VPN router located at any location. Built in.

特開平09−149396号公報JP 09-149396 A

発明者らは、上述の従来技術について詳細に検討した結果、以下のような課題を発見した。すなわち、上記特許文献1に開示されているように、MCUなどの多地点TV会議装置等において、複数の送信側情報処理端末からの映像データを別の受信側情報処理端末へ配信する場合、図6(a)に示されたように、(送信側の端末数)×(1端末当たりの伝送可能な映像データ量)で規定される通信帯域幅が必要になる。そのため、送信側の端末数が増加すれば、それに応じて必要な通信帯域幅が増加(伝送遅延の発生)してしまうという課題があった。   As a result of examining the above-described prior art in detail, the inventors have found the following problems. That is, as disclosed in the above-mentioned Patent Document 1, in a multipoint TV conference apparatus such as an MCU, when video data from a plurality of transmission side information processing terminals is distributed to another reception side information processing terminal, FIG. As shown in FIG. 6A, a communication bandwidth defined by (number of terminals on the transmission side) × (amount of video data that can be transmitted per terminal) is required. Therefore, if the number of terminals on the transmission side increases, there is a problem that the necessary communication bandwidth increases (occurrence of transmission delay) accordingly.

なお、送信側の端末数増加に対して通信帯域幅を抑える方法としては、例えば、各送信側情報処理端末から送出される映像データの画質を下げる方法や、受信側情報処理端末での表示サイズに応じて送信側情報処理端末から送出される映像データの解像度や画質を調整する方法が行われている。この場合、受信側情報処理端末で表示される映像データの画質劣化が該情報処理端末の操作者(会議参加者)に認識されたり、受信側情報処理端末での映像表示方法が制限されるなどの課題があった。   As a method for suppressing the communication bandwidth against the increase in the number of terminals on the transmission side, for example, a method for reducing the image quality of video data transmitted from each transmission side information processing terminal or a display size on the reception side information processing terminal A method for adjusting the resolution and image quality of the video data transmitted from the transmission-side information processing terminal is performed. In this case, the image quality degradation of the video data displayed on the receiving information processing terminal is recognized by the operator (conference participant) of the information processing terminal, or the video display method on the receiving information processing terminal is restricted. There was a problem.

また、図6(b)に示されたように、各送信側情報処理端末からの映像データを交互に配信する方法では、通信状況に依存して受信側情報処理端末での表示動作に遅延が生じる可能性も十分に考えられる。   In addition, as shown in FIG. 6B, in the method of alternately distributing video data from each transmission-side information processing terminal, the display operation on the reception-side information processing terminal is delayed depending on the communication status. The possibility of occurrence is also fully considered.

本発明は、上述のような課題を解決するためになされたものであり、複数の送信側情報処理端末からの映像データを1以上の受信側情報処理端末へ配信する際、各送信側情報処理端末の映像データの品質劣化を抑えながら、配信データ量を低減することを可能にするための構造を備えた映像データ配信装置、およびそれを含む双方向対話システムを提供することを目的としている。   The present invention has been made in order to solve the above-described problems, and when transmitting video data from a plurality of transmission side information processing terminals to one or more reception side information processing terminals, each transmission side information processing is performed. It is an object of the present invention to provide a video data distribution apparatus having a structure for enabling the amount of distribution data to be reduced while suppressing deterioration in quality of video data of a terminal, and a bidirectional interactive system including the same.

本発明に係る映像データ配信装置は、所定の伝送手段を介して互いに接続された複数の情報処理端末のうち2以上の送信側情報処理端末からの映像データを該送信側情報処理端末とは別の1以上の受信側情報処理端末へ中継する機能を有し、簡易な装置構成により時間軸方向に沿った細かい映像品質の制御を可能にする。ここで、所定の伝送手段は、インターネットなど、有線、無線を問わず、公衆回線、携帯電話回線等の一般的な通信ネットワークの他、構内LAN、家庭内LANも含む概念であり、パケットデータの送受信を行う情報処理装置間に位置する通信経路全般を意味する。また、複数の情報処理端末間で送受信される映像データは、時間軸方向に圧縮されることなく該時間軸に沿ってそれぞれ配置された複数の画像フレームにより構成されてもよく、また、時間軸方向にも圧縮された複数の画像フレームにより構成されてもよい。   The video data distribution apparatus according to the present invention separates video data from two or more transmission-side information processing terminals from a plurality of information-processing terminals connected to each other via predetermined transmission means. The function of relaying to one or more information processing terminals on the receiving side of the above, and enables fine video quality control along the time axis direction with a simple device configuration. Here, the predetermined transmission means is a concept including a local LAN and a home LAN as well as a general communication network such as a public line and a mobile phone line, regardless of wired or wireless, such as the Internet. It means all communication paths located between information processing devices that perform transmission and reception. Further, video data transmitted / received between a plurality of information processing terminals may be composed of a plurality of image frames arranged along the time axis without being compressed in the time axis direction. It may be composed of a plurality of image frames that are also compressed in the direction.

上述の課題を解決するため、本発明に係る映像データ配信装置は、少なくとも、通信インターフェースと、記憶装置と、制御装置と、を備える。通信インターフェースは、複数の情報処理端末のうち2以上の送信側情報処理端末からの映像データを受信する一方、受信した映像データを1以上の受信側情報処理端末に配信する。記憶装置は、通信インターフェースを介して受信した送信側情報処理端末それぞれからの映像データを格納する。制御装置は、送信側情報処理端末からの映像データそれぞれをスケーラブル圧縮していく。なお、記憶装置は、制御装置が実行するスケーラブル圧縮等の作業エリアとしても利用される。   In order to solve the above-described problem, a video data distribution device according to the present invention includes at least a communication interface, a storage device, and a control device. The communication interface receives video data from two or more transmitting information processing terminals among a plurality of information processing terminals, and distributes the received video data to one or more receiving information processing terminals. The storage device stores the video data from each of the transmission side information processing terminals received via the communication interface. The control device performs scalable compression on each video data from the transmission side information processing terminal. The storage device is also used as a work area for scalable compression and the like executed by the control device.

特に、制御装置は、複数の情報処理端末のうち2以上の送信側情報処理端末それぞれから通信インターフェースを介して受信した映像データ(第1および第2の映像データ)を、1以上の受信側情報処理端末に通信インターフェースを介して配信するとき、各送信側情報処理端末からの映像データの品質を時間軸方向に制御し、高画質と低画質の映像データを組み合わせることで、映像品質の劣化を抑えながら伝送量を削減する。   In particular, the control device receives video data (first and second video data) received from each of two or more transmission-side information processing terminals among a plurality of information processing terminals via a communication interface. When distributing to a processing terminal via a communication interface, the quality of video data from each transmitting information processing terminal is controlled in the time axis direction, and video quality is degraded by combining high-quality and low-quality video data. Reduce transmission volume while suppressing.

例えば、複数の情報処理端末のうち第1および第2の送信側情報処理端末それぞれから通信インターフェースを介して第1および第2の映像データを受信したとき、制御装置は、まず、1以上の受信側情報処理端末それぞれに予め割り振られた最大使用帯域幅の範囲内に全データ量が収まるよう時間軸方向に沿って互いに異なるデータ量変動パターンに従って第1および第2の映像データそれぞれのデータ量を個別に変動させながら、これら第1および第2の映像データそれぞれをスケーラブル圧縮していく。その後、制御装置は、時間軸方向に沿って互いに異なるデータ量変動パターンに従ってスケーラブル圧縮された第1および第2の映像データを、通信インターフェースを介して1以上の受信側情報処理端末へ配信する。   For example, when the first and second video data are received via the communication interface from the first and second transmission-side information processing terminals among the plurality of information processing terminals, the control device first receives one or more receptions. The data amount of each of the first and second video data according to different data amount variation patterns along the time axis direction so that the total data amount falls within the range of the maximum use bandwidth allocated in advance to each of the side information processing terminals. Each of the first and second video data is scalable compressed while varying individually. Thereafter, the control device distributes the first and second video data, which are scalable compressed in accordance with different data amount variation patterns along the time axis direction, to one or more reception-side information processing terminals via the communication interface.

なお、スケーラブル圧縮とは、複数の解像度、複数の画質、複数のビットレートなどを1つの圧縮データから取り出せるように、階層的スケーラビリティを持たせて符号化する圧縮方法を意味する。また、複数の送信側情報処理端末からの各映像データに対応付けられたデータ量変動パターンは、時間軸方向に沿ってスケーラブル圧縮される符号量(データ量)を示している。例えば第1および第2の映像データを1以上の受信側情報処理端末に配信する場合、第1の映像データに対応付けられた第1のデータ量変動パターンと第2の映像データに対応付けられた第2のデータ量変動パターンは、スケーラブル圧縮された第1および第2の映像データのデータ量が配信されるべき受信側情報処理端末の最大使用帯域の範囲内において、第1の映像データのデータ量と第2の映像データのデータ量が交互に大きくなるよう設定されている。これは、3以上の送信側情報処理端末からの映像データが受信された場合も同様である。   Note that scalable compression means a compression method for encoding with hierarchical scalability so that a plurality of resolutions, a plurality of image quality, a plurality of bit rates, and the like can be extracted from a single compressed data. A data amount variation pattern associated with each video data from a plurality of transmission-side information processing terminals indicates a code amount (data amount) that is scalable and compressed along the time axis direction. For example, when the first and second video data are distributed to one or more receiving-side information processing terminals, the first data amount variation pattern associated with the first video data and the second video data are associated with each other. In addition, the second data amount variation pattern includes the first video data within the range of the maximum use bandwidth of the receiving information processing terminal to which the data amounts of the first and second video data subjected to scalable compression are to be distributed. The amount of data and the amount of second video data are set to be alternately increased. This is the same when video data from three or more transmitting information processing terminals is received.

本発明によれば、上述のように異なる送信側情報処理端末から受信した複数の映像データそれぞれが時間軸方向に沿って高画質部分と低画質部分で構成されるようスケーラブル圧縮が行われる。このようにスケーラブル圧縮された映像データのうち一方の映像データの高画質部分と他方の映像データの低画質部分を組み合わせることで、組み合わされた映像データそれぞれの映像品質の劣化を抑えながら伝送量が削減可能になる。すなわち、複数の送信側情報処理端末からの映像データそれぞれの、時間軸方向に沿った細かい映像品質制御が、簡易な装置構成で可能にする。   According to the present invention, scalable compression is performed so that each of a plurality of video data received from different transmitting information processing terminals as described above is composed of a high-quality part and a low-quality part along the time axis direction. By combining the high-quality part of one video data and the low-quality part of the other video data in the scalable compressed video data in this way, the transmission amount can be reduced while suppressing deterioration of the video quality of each of the combined video data. It becomes possible to reduce. That is, fine video quality control along the time axis direction of video data from a plurality of information processing terminals on the transmission side can be performed with a simple device configuration.

本発明に係る映像データ配信装置において、少なくとも2つの送信側情報処理端末からの映像データ(第1および第2の映像データ)を通信インターフェースを介して受信する場合、各送信側情報処理端末からの映像データに対応付けられたデータ量変動パターンでは、時間軸方向に沿って少なくとも2以上のデータ量が設定されるのが好ましい。また、少なくとも3つの送信側情報処理端末からの映像データ(第1〜第3の映像データ)を通信インターフェースを介して受信する場合も、時間軸方向に沿って互いに異なるデータ量変動パターンに従って第1〜第3の映像データそれぞれのデータ量を個別に変動させながら、第1〜第3の映像データそれぞれがスケーラブル圧縮される。なお、2以上更には3以上の映像データをスケーラブル圧縮していく場合、いずれかの映像データのデータ量と別の映像データのデータ量の大小関係が時間軸方向に沿って変更されるのが好ましい。   In the video data distribution apparatus according to the present invention, when video data (first and second video data) from at least two transmission-side information processing terminals is received via a communication interface, In the data amount variation pattern associated with the video data, it is preferable that at least two or more data amounts are set along the time axis direction. In addition, when video data (first to third video data) from at least three transmission-side information processing terminals is received via the communication interface, the first data according to different data amount variation patterns along the time axis direction is used. Each of the first to third video data is scalable compressed while individually changing the data amount of each of the third video data. When scalable compression is performed on two or more video data, or three or more video data, the magnitude relationship between the data amount of one of the video data and the data amount of another video data is changed along the time axis direction. preferable.

なお、映像データに対するスケーラブル圧縮は、送信側情報処理端末それぞれにおいて行われてもよい。この場合、制御装置は、送信側情報処理端末からの映像データそれぞれのデータ量を調整していく。具体的に制御装置は、複数の情報処理端末のうち2以上の送信側情報処理端末それぞれから通信インターフェースを介して受信した映像データ(第1および第2の映像データ)を、1以上の受信側情報処理端末に通信インターフェースを介して配信するとき、各送信側情報処理端末からのスケーラブル圧縮された映像データのデータ量を調整することで配信されるべき映像データの品質を時間軸方向に制御し、高画質と低画質の映像データを組み合わせることで、映像品質の劣化を抑えながら伝送量を削減する。   Note that scalable compression for video data may be performed in each of the transmission side information processing terminals. In this case, the control device adjusts the data amount of each video data from the transmission side information processing terminal. Specifically, the control device receives video data (first and second video data) received from each of two or more transmitting information processing terminals through a communication interface among the plurality of information processing terminals. When distributing to the information processing terminal via the communication interface, the quality of the video data to be distributed is controlled in the time axis direction by adjusting the amount of scalable compressed video data from each transmitting side information processing terminal. By combining high-quality and low-quality video data, the transmission volume is reduced while suppressing the deterioration of video quality.

例えば、複数の情報処理端末のうち第1および第2の送信側情報処理端末それぞれから通信インターフェースを介して第1および第2の映像データを受信したとき、制御装置は、まず、1以上の受信側情報処理端末それぞれに予め割り振られた最大使用帯域幅の範囲内に全データ量が収まるよう時間軸方向に沿って互いに異なるデータ量変動パターンに従って第1および第2の映像データそれぞれのデータ量を個別に調整していく。その後、制御装置は、時間軸方向に沿って互いに異なるデータ量変動パターンに従ってそれらデータ量が個別に調整された第1および第2の映像データを、通信インターフェースを介して1以上の受信側情報処理端末へ配信する。   For example, when the first and second video data are received via the communication interface from the first and second transmission-side information processing terminals among the plurality of information processing terminals, the control device first receives one or more receptions. The data amount of each of the first and second video data according to different data amount variation patterns along the time axis direction so that the total data amount falls within the range of the maximum use bandwidth allocated in advance to each of the side information processing terminals. Adjust individually. Thereafter, the control device transmits the first and second video data, whose data amounts are individually adjusted according to different data amount variation patterns along the time axis direction, to one or more receiving side information processing via the communication interface. Deliver to the terminal.

なお、スケーラブル圧縮は、上述のように階層的スケーラビリティを持たせて符号化する圧縮方法である。したがって、スケーラブル圧縮された映像データのデータ量は、各スケーラビリティの階層ごとに取捨選択することにより調整可能である。例えば、送信側情報処理端末それぞれにおいて予めスケーラブル圧縮された第1および第2の映像データを1以上の受信側情報処理端末に配信する場合、第1の映像データに対応付けられた第1のデータ量変動パターンと第2の映像データに対応付けられた第2のデータ量変動パターンは、スケーラブル圧縮された第1および第2の映像データのデータ量が配信されるべき受信側情報処理端末の最大使用帯域の範囲内において、第1の映像データのデータ量と第2の映像データのデータ量が交互に大きくなるよう設定されている。これは、3以上の送信側情報処理端末からの映像データが受信された場合も同様である。   Note that scalable compression is a compression method in which encoding is performed with hierarchical scalability as described above. Therefore, the data amount of the scalable compressed video data can be adjusted by selecting for each scalability layer. For example, in the case where first and second video data that are scalable and compressed in advance at each of the transmission-side information processing terminals are distributed to one or more reception-side information processing terminals, the first data associated with the first video data The second data amount variation pattern associated with the amount variation pattern and the second video data is the maximum of the information processing terminal on the receiving side to which the data amounts of the first and second video data subjected to scalable compression are to be distributed. Within the range of the use band, the data amount of the first video data and the data amount of the second video data are set to be alternately increased. This is the same when video data from three or more transmitting information processing terminals is received.

本発明によれば、上述のように異なる送信側情報処理端末から受信した複数の映像データそれぞれが時間軸方向に沿って高画質部分と低画質部分で構成されるようデータ量調整が行われる。このようにスケーラブル圧縮された映像データのうち一方の映像データの高画質部分と他方の映像データの低画質部分を組み合わせることで、組み合わされた映像データそれぞれの映像品質の劣化を抑えながら伝送量が削減可能になる。すなわち、複数の送信側情報処理端末からの映像データそれぞれの、時間軸方向に沿った細かい映像品質制御が、簡易な装置構成で可能にする。   According to the present invention, the data amount adjustment is performed so that each of the plurality of video data received from different transmission-side information processing terminals as described above is composed of a high-quality part and a low-quality part along the time axis direction. By combining the high-quality part of one video data and the low-quality part of the other video data in the scalable compressed video data in this way, the transmission amount can be reduced while suppressing deterioration of the video quality of each of the combined video data. It becomes possible to reduce. That is, fine video quality control along the time axis direction of video data from a plurality of information processing terminals on the transmission side can be performed with a simple device configuration.

本発明に係る映像データ配信装置において、少なくとも2つの送信側情報処理端末からの映像データ(第1および第2の映像データ)を通信インターフェースを介して受信する場合、各送信側情報処理端末からの映像データに対応付けられたデータ量変動パターンでは、時間軸方向に沿って少なくとも2以上のデータ量が設定されるのが好ましい。また、少なくとも3つの送信側情報処理端末からの映像データ(第1〜第3の映像データ)を通信インターフェースを介して受信する場合も、時間軸方向に沿って互いに異なるデータ量変動パターンに従って第1〜第3の映像データそれぞれのデータ量が個別に調整される。なお、2以上更には3以上のスケーラブル圧縮された映像データのデータ量を調整する場合、いずれかの映像データのデータ量と別の映像データのデータ量の大小関係が時間軸方向に沿って変更されるのが好ましい。   In the video data distribution apparatus according to the present invention, when video data (first and second video data) from at least two transmission-side information processing terminals is received via a communication interface, In the data amount variation pattern associated with the video data, it is preferable that at least two or more data amounts are set along the time axis direction. In addition, when video data (first to third video data) from at least three transmission-side information processing terminals is received via the communication interface, the first data according to different data amount variation patterns along the time axis direction is used. The data amount of each of the third video data is individually adjusted. When adjusting the amount of scalable compressed video data of 2 or more and 3 or more, the magnitude relationship between the data amount of one of the video data and the data amount of another video data is changed along the time axis direction. Preferably it is done.

本発明に係る映像データ配信装置において、複数の情報処理端末間で送受信される映像データは、JPEG2000規格に従った画像フレームにより構成されているのが好ましい。   In the video data distribution apparatus according to the present invention, the video data transmitted / received between a plurality of information processing terminals is preferably composed of image frames in accordance with the JPEG2000 standard.

なお、この発明に係る各実施例は、以下の詳細な説明および添付図面によりさらに十分に理解可能となる。これら実施例は単に例示のために示されるものであって、この発明を限定するものと考えるべきではない。   Each embodiment according to the present invention can be more fully understood from the following detailed description and the accompanying drawings. These examples are given for illustration only and should not be construed as limiting the invention.

また、この発明のさらなる応用範囲は、以下の詳細な説明から明らかになる。しかしながら、詳細な説明および特定の事例はこの発明の好適な実施例を示すものではあるが、例示のためにのみ示されているものであって、この発明の範囲における様々な変形および改良はこの詳細な説明から当業者には自明であることは明らかである。   Further scope of applicability of the present invention will become apparent from the detailed description given below. However, the detailed description and specific examples, while indicating the preferred embodiment of the invention, are presented for purposes of illustration only and various modifications and improvements within the scope of the invention may It will be apparent to those skilled in the art from the detailed description.

本発明によれば、複数の送信側情報処理端末からの映像データを1以上の受信側情報処理端末へ配信する際、各送信側情報処理端末の映像データの品質劣化を抑えながら、配信データ量を低減することが可能になる。また、各送信側情報処理端末の映像データを対応するデータ量変動パターンに従ってスケーラブル圧縮することで、または、各送信側情報処理端末においてスケーラブル圧縮された映像データを対応するデータ量変動パターンに従って個別にデータ量を調整することで、送信側情報処理より簡便な装置を用いて、送信側情報処理端末ごとに時間軸方向の映像品質成分を柔軟に変化させることができる。   According to the present invention, when video data from a plurality of transmission-side information processing terminals is distributed to one or more reception-side information processing terminals, the amount of distribution data is suppressed while suppressing deterioration of the video data quality of each transmission-side information processing terminal. Can be reduced. Also, the video data of each transmitting information processing terminal is scalable compressed according to the corresponding data amount variation pattern, or the video data compressed by each transmitting information processing terminal is individually compressed according to the corresponding data amount variation pattern By adjusting the data amount, it is possible to flexibly change the video quality component in the time axis direction for each transmission-side information processing terminal using a device simpler than the transmission-side information processing.

本発明に係る双方向対話システムの一実施形態として、複数の情報処理端末間において映像データの配信を実現するためのネットワーク構成を示す図である。It is a figure which shows the network structure for implement | achieving delivery of video data between several information processing terminals as one Embodiment of the interactive dialogue system which concerns on this invention. 本発明に係る映像データ配信装置の一実施形態の概略構成を示す図である。It is a figure which shows schematic structure of one Embodiment of the video data delivery apparatus which concerns on this invention. 複数種類の階層的スケーラビリティを有する映像データ(複数の画像フレームで構成されている)もデータ構造を説明するための図である。It is a figure for demonstrating a data structure also about the video data (it consists of several image frames) which has multiple types of hierarchical scalability. プログレッシブ順序(データ優先度)を説明するための概念図である。It is a conceptual diagram for demonstrating progressive order (data priority). 映像データの一配信形態を説明するための図である。It is a figure for demonstrating one delivery form of video data. 従来の映像データの配信動作を説明するための図である。It is a figure for demonstrating the delivery operation | movement of the conventional video data. 本実施形態に係る映像データの配信動作の一例を説明するための図である。It is a figure for demonstrating an example of the delivery operation | movement of the video data which concerns on this embodiment. 本実施形態により配信された映像データ復号化動作を説明するための図である。It is a figure for demonstrating the video data decoding operation | movement delivered by this embodiment.

以下、本発明に係る映像データ配信装置の各実施形態を添付図面を参照しながら詳細に説明する。なお、図面の説明において同一の要素には同一符号を付して重複する説明を省略する。   Hereinafter, embodiments of a video data distribution apparatus according to the present invention will be described in detail with reference to the accompanying drawings. In the description of the drawings, the same elements are denoted by the same reference numerals, and redundant description is omitted.

図1は、本発明に係る双方向対話システムの一実施形態として、複数の情報処理端末間において映像データの配信を実現するためのネットワーク構成を示す図である。図1に示されたネットワーク構成により実現される双方向対話システム、例えばテレビ会議システムは、ネットワーク10を介して接続された複数の拠点20A〜20Cに配置された情報処理端末30A〜30C(PC)を備えるとともに、複数の拠点20A〜20C間において送信側情報処理端末からネットワーク10を介して受信した映像データを、該ネットワーク10を介して受信側情報処理端末へ配信する映像データ配信装置100を備える。なお、各拠点には、複数の情報処理端末を接続するためのルータは配置されてもよい。   FIG. 1 is a diagram showing a network configuration for realizing distribution of video data among a plurality of information processing terminals as an embodiment of the interactive dialogue system according to the present invention. An interactive dialogue system realized by the network configuration shown in FIG. 1, for example, a video conference system, includes information processing terminals 30 </ b> A to 30 </ b> C (PCs) arranged at a plurality of bases 20 </ b> A to 20 </ b> C connected via the network 10. And a video data distribution device 100 that distributes video data received from the transmission side information processing terminal via the network 10 to the reception side information processing terminal via the network 10 between the plurality of bases 20A to 20C. . Note that a router for connecting a plurality of information processing terminals may be arranged at each site.

拠点A(20A)では、上記テレビ会議システムへの参加者のうち拠点Aに所属する参加者が利用する情報処理端末30A(PC)がネットワーク10に接続されている。拠点B(20B)では、上記テレビ会議システムへの参加者のうち拠点Bに所属する参加者が利用する情報処理端末30B(PC)がネットワーク10に接続されている。更に、拠点C(20C)では、上記テレビ会議システムへの参加者のうち拠点Cに所属する参加者が利用する情報処理端末30C(PC)がネットワーク10に接続されている。   In the base A (20A), an information processing terminal 30A (PC) used by a participant belonging to the base A among the participants in the video conference system is connected to the network 10. In the base B (20B), an information processing terminal 30B (PC) used by a participant belonging to the base B among the participants in the video conference system is connected to the network 10. Further, at the base C (20C), an information processing terminal 30C (PC) used by a participant belonging to the base C among the participants in the video conference system is connected to the network 10.

また、図2は、図1に示された映像データ配信装置100の概略構成を示す図である。この図2に示された映像データ配信装置100は、少なくとも、制御手段である制御装置110と、ネットワーク10との間でデータ授受を行う通信手段である通信インターフェース120(通信用I/Oを含む)と、記憶手段であるN個(≧1)の記憶装置130A〜130Nと、周辺機器150との間でデータ授受を行うデバイスインターフェース140(描画装置やデータ送受信用I/Oを含む)を備える。なお、記憶装置130A〜130Nには、情報処理端末としてのPC30A〜30C間で送受信される映像データが一時的に格納される他、制御装置110により実行される会議用プログラム等のアップリケーションデータも格納されている。また、記憶装置130A〜130Nは、制御装置110が実行する符号化(スケーラブル圧縮)等の作業エリアとしても利用可能である。この映像データ配信装置100の基本構成は、図1に示されたPC30A〜30Cの他、ネットワーク10上のネットワーク資源であるNCU(Network Control Unit)などの構成と同じでよい。   FIG. 2 is a diagram showing a schematic configuration of the video data distribution apparatus 100 shown in FIG. The video data distribution apparatus 100 shown in FIG. 2 includes at least a communication device 120 (communication I / O) that is a communication unit that exchanges data between the control unit 110 that is a control unit and a network 10. ) And N (≧ 1) storage devices 130 </ b> A to 130 </ b> N as storage means, and a device interface 140 (including a drawing device and data transmission / reception I / O) for exchanging data with the peripheral device 150. . The storage devices 130A to 130N temporarily store video data transmitted and received between the PCs 30A to 30C as information processing terminals, and also application data such as a conference program executed by the control device 110. Stored. The storage devices 130A to 130N can also be used as a work area for encoding (scalable compression) performed by the control device 110. The basic configuration of the video data distribution apparatus 100 may be the same as the configuration of an NCU (Network Control Unit), which is a network resource on the network 10, in addition to the PCs 30A to 30C shown in FIG.

また、ネットワーク10は、インターネットなど、有線、無線を問わず、公衆回線、携帯電話回線等の一般的な通信ネットワークの他、構内LANや家庭内LANも含む概念であり、パケットデータの送受信を行う情報処理装置30A〜30C間に位置する通信経路全般を意味する。   The network 10 is a concept including a local LAN and a home LAN as well as a general communication network such as the public line and a cellular phone line, such as the Internet, whether wired or wireless, and transmits and receives packet data. It means all communication paths located between the information processing apparatuses 30A to 30C.

周辺機器150には、例えば外部記憶装置、キーボードやポインティングデバイスなどの入力装置、表示装置も含まれる。   The peripheral device 150 includes, for example, an external storage device, an input device such as a keyboard and a pointing device, and a display device.

なお、本実施形態に係る映像データ配信装置100(図2)は、複数種類の階層的スケーラビリティを有する映像データ(複数の画像フレームで構成されている)を配信対象(各画像フレームがスケーラブル圧縮される)としている。以下、簡単のため、階層的スケーラビリティを有するディジタルデータの具体例として、画像圧縮の国際標準であるJPEG2000の各パケットの符号化について説明する。なお、JPEG2000はスケーラビリティの種類に対して優先順位を与えることが可能である。符号化列においてこの順位は、データ単位であるパケットの構成順序(プログレッション順序)として表現される。このプログレッション順序を決定する要素としては、レイヤ(L)、解像度レベル(R)、コンポーネント(C)およびポジション(P)の4種類のスケーラビリティがある。   Note that the video data distribution apparatus 100 (FIG. 2) according to the present embodiment distributes video data (consisting of a plurality of image frames) having a plurality of types of hierarchical scalability (each image frame is scalable and compressed). ). Hereinafter, for the sake of simplicity, encoding of each packet of JPEG 2000, which is an international standard for image compression, will be described as a specific example of digital data having hierarchical scalability. JPEG2000 can give priority to the type of scalability. In the coded sequence, this order is expressed as a packet composition order (progression order) which is a data unit. There are four types of scalability that determine the progression order: layer (L), resolution level (R), component (C), and position (P).

図3は、複数種類の階層的スケーラビリティを有する画像データのデータ構造を説明するための概念図であって、JPEG2000のスケーラビリティのうちアクセス制御対象となるスケーラビリティを、レイヤ(L)および解像度レベル(R)のみに制限したときの(濃淡画像の場合)、JPEG2000におけるパケット符号化列の復号パターンを示す。具体的に、図3において、レイヤ(スケーラビリティL)の階層数Nは3、解像度レベル(スケーラビリティR)の階層数Nは3である。なお、レイヤは、画質レイヤとも言われ、画像再生時におけるSNR(Signal/Noise Ratio)に対応した、ディジタル画像の算術符号化データを意味する。画質への影響が高い情報ほど高位のレイヤに含まれるため、上位レイヤのデータに対して下位レイヤのデータを追加していくことで段階的に再生画像の品質を向上させることができる。 FIG. 3 is a conceptual diagram for explaining the data structure of image data having a plurality of types of hierarchical scalability. Among the scalability of JPEG2000, the scalability that is the object of access control is represented by the layer (L) and the resolution level (R). ) Shows a decoding pattern of a packet coded sequence in JPEG2000 when it is limited to only (in the case of a grayscale image). Specifically, in FIG. 3, the layer number N L of the layer (scalability L) is 3, and the layer number N R of the resolution level (scalability R) is 3. The layer is also referred to as an image quality layer, and means arithmetically encoded data of a digital image corresponding to SNR (Signal / Noise Ratio) at the time of image reproduction. Since information having a higher influence on image quality is included in a higher layer, the quality of a reproduced image can be improved step by step by adding lower layer data to upper layer data.

図3において、Pi,j(i=0,…,NL−1;j=0,…,NR−1;iはスケーラビリティLの階層番号;jはスケーラビリティの階層番号)は、画像情報をもつJPEG2000パケットを表す。ある品質のJPEG2000符号化画像をQL,Rで表すと、QL,Rを得るためには図3の枠Aで囲まれたパケットPi,j(i=0,…,L;j=0,…,R)すべてが復号化される必要がある。ただし、受信側においてパケットPi,j少なくともいずれかが復号化されれば、画像の正常再生には問題はない。したがって、QoS機能などのアクセス制御において階層性を保持するため、パケットPi,jは個別に符号化される(スケーラブル圧縮)。 In FIG. 3, P i, j (i = 0,..., N L-1 ; j = 0,..., N R-1 ; i is a hierarchical number of scalability L; j is a hierarchical number of scalability) is image information. Represents a JPEG2000 packet with Expressing JPEG2000 coded image of a quality Q L, in R, Q L, the packet in order to obtain R is surrounded by the frame A in FIG. 3 P i, j (i = 0, ..., L; j = 0,..., R) all need to be decrypted. However, if at least one of the packets P i, j is decoded on the receiving side, there is no problem in normal reproduction of the image. Therefore, the packets P i, j are individually encoded (scalable compression) in order to maintain the hierarchy in access control such as a QoS function.

上述のようなJPEG2000において、プログレッション順序(データ優先度)には、LRCP、RLCP、RPCL、PCRL、およびCPRLの5種類あり、それぞれ先頭の要素から順に優先される。図4は、図3に示されたJPEG2000パケット符号化列を復号する際の優先順位を示すプログレッシブ順序を説明するための概念図である。特に、図4(a)は、スケーラビリティL(レイヤ)が最優先されたLRCPプログレッション順序における復号順序であり、図4(b)は、スケーラビリティR(解像度レベル)を最優先させたRLCPのプログレッション順序における復号順序である。   In JPEG2000 as described above, there are five types of progression order (data priority): LRCP, RLCP, RPCL, PCRL, and CPRL, each prioritized in order from the first element. FIG. 4 is a conceptual diagram for explaining the progressive order indicating the priority when decoding the JPEG2000 packet coded sequence shown in FIG. 4A is a decoding order in the LRCP progression order in which scalability L (layer) is given the highest priority, and FIG. 4B is an RLCP progression order in which scalability R (resolution level) is given the highest priority. Is the decoding order.

次に、本実施形態に係る映像データ配信装置100が適用された図1のネットワーク構成を有するテレビ会議システムにおける映像データ配信動作を、図5を参照しながら詳細に説明する。なお、以下の例では、当該映像データ中継装置100においてスケーラブル圧縮が行われる実施形態に相当するが、送信側情報処理端末において送信されるべき映像データに対するスケーラブル圧縮が行われてもよい。すなわち、既に送信側情報処理端末でスケーラブル圧縮された映像データを中継する場合、当該映像データ中継装置100では、映像データの階層構造を利用してデータ量調整が可能になる。具体的には、受信側情報処理端末へ送信すべき階層レベルをスケーラビリティごとに選択することで、既に送信側情報処理端末でスケーラブル圧縮された映像データのデータ量調整が可能になる。   Next, the video data distribution operation in the video conference system having the network configuration of FIG. 1 to which the video data distribution apparatus 100 according to the present embodiment is applied will be described in detail with reference to FIG. Although the following example corresponds to an embodiment in which scalable compression is performed in the video data relay apparatus 100, scalable compression may be performed on video data to be transmitted in the transmission-side information processing terminal. That is, when video data that has already been compressed by the transmission side information processing terminal is relayed, the video data relay device 100 can adjust the data amount by using the hierarchical structure of the video data. Specifically, by selecting the hierarchical level to be transmitted to the receiving information processing terminal for each scalability, it is possible to adjust the data amount of the video data that has already been scalable compressed by the transmitting information processing terminal.

例えば、図5には、拠点A(20A)の情報処理端末30Aが映像データAを当該映像データ配信装置100へ送信する送信側情報処理端末となり、拠点B(20B)の情報処理端末30Bが映像データBを当該映像データ配信装置100へ送信する送信側情報処理端末となり、また、拠点C(20C)の情報処理端末30Cが当該映像データ配信装置100から配信された映像データAおよび映像データB(図5では「A+B」で示されている)を受信する受信側情報処理端末となった構成が示されている。   For example, in FIG. 5, the information processing terminal 30A at the site A (20A) becomes a transmission side information processing terminal that transmits the video data A to the video data distribution apparatus 100, and the information processing terminal 30B at the site B (20B) The information processing terminal 30C that transmits the data B to the video data distribution apparatus 100 and the information processing terminal 30C at the base C (20C) distributes the video data A and the video data B ( FIG. 5 shows a configuration of a receiving side information processing terminal that receives “A + B”).

図5の例において、映像データ配信装置100から映像データ(A+B)が拠点Cの受信側情報処理端末30Cに到達すると、受信側情報処理端末30Cは、受信された映像データ(A+B)を、送信側情報処理端末30Aからの映像データAと、送信側情報処理端末30Bからの映像データBに分離する。さらに、受信側情報処理端末30Cは、最終的に受信した映像データAおよび映像データB(映像データ配信装置100の制御装置110により、画像フレームごとにスケーラブル圧縮されている)をそれぞれ復号化する。そして、映像データAおよび/または映像データBの復号化データがモニタ等に表示される(一旦、記録装置に格納されてもよい)。   In the example of FIG. 5, when the video data (A + B) reaches the receiving side information processing terminal 30C at the base C from the video data distribution apparatus 100, the receiving side information processing terminal 30C transmits the received video data (A + B). The video data A from the side information processing terminal 30A and the video data B from the transmission side information processing terminal 30B are separated. Furthermore, the information processing terminal 30C on the receiving side decodes the video data A and the video data B that are finally received (which are scalable compressed for each image frame by the control device 110 of the video data distribution device 100). Then, the decoded data of the video data A and / or the video data B is displayed on a monitor or the like (may be temporarily stored in a recording device).

なお、送信側の端末数は、3以上であってもよい。また、受信側の端末数も2以上であってもよい。   Note that the number of terminals on the transmission side may be three or more. Also, the number of terminals on the receiving side may be two or more.

なお、映像データ配信装置100における映像データ(A+B)の従来の配信動作は、上述のように(図6(a)および図6(b)参照)、受信側情報処理端末に予め割り当てられた使用帯域幅を超えたり、情報処理端末側での表示遅延が生じる可能性が高い。   Note that the conventional distribution operation of the video data (A + B) in the video data distribution apparatus 100 is as described above (see FIGS. 6 (a) and 6 (b)) and is used in advance assigned to the information processing terminal on the receiving side. The possibility of exceeding the bandwidth or causing a display delay on the information processing terminal side is high.

そこで、本実施形態に係る映像データ配信装置100は、複数の情報処理端末のうち2以上の送信側情報処理端末(図5の例では、送信側情報処理端末30A、30B)それぞれから通信インターフェース120を介して受信した映像データAおよび映像データBを、1以上の受信側情報処理端末(図5の例では、受信側情報処理端末30C)に通信インターフェース120を介して配信するとき、図7に示されたように、各送信側情報処理端末30A、30Bからの映像データAおよび映像データBの品質を時間軸方向に制御し、高画質と低画質の画像フレーム(符号化データ)を組み合わせることで、映像品質の劣化を抑えながら伝送量を削減する。具体的には、映像データAの画像フレームのうち高画質の符号化データと映像データBの画像フレームのうち低画質の符号化データとが組み合わされると、次の組み合わせでは、映像データAの低画質の符号化データと映像データBの高画質の符号化データとが組み合わされる。なお、図7は、本実施形態に係る映像データの配信動作の一例を説明するための図である。   Therefore, the video data distribution apparatus 100 according to the present embodiment has a communication interface 120 from each of two or more transmission side information processing terminals (in the example of FIG. 5, transmission side information processing terminals 30A and 30B) among a plurality of information processing terminals. When the video data A and the video data B received via the communication interface 120 are distributed to one or more receiving information processing terminals (the receiving information processing terminal 30C in the example of FIG. 5) via the communication interface 120, FIG. As shown, the quality of the video data A and video data B from each of the transmission-side information processing terminals 30A and 30B is controlled in the time axis direction, and high-quality and low-quality image frames (encoded data) are combined. Therefore, the transmission amount is reduced while suppressing the deterioration of the video quality. Specifically, when the high-quality encoded data in the image frame of the video data A and the low-quality encoded data in the image frame of the video data B are combined, the video data A is reduced in the following combination. The encoded data with the image quality and the encoded data with the high image quality of the video data B are combined. FIG. 7 is a diagram for explaining an example of the video data distribution operation according to the present embodiment.

例えば、図5のネットワーク構成のように、2つの送信側情報処理端末30A、30Bそれぞれから送信された映像データAおよび映像データBを、1つの受信側情報処理端末30Cへ配信する場合を考える。   For example, let us consider a case where video data A and video data B transmitted from two transmission-side information processing terminals 30A and 30B are distributed to one reception-side information processing terminal 30C as in the network configuration of FIG.

このとき、送信側情報処理端末30Aから送信された映像データAには、スケーラブル圧縮後のデータ量が70%→30%→70%→30%→のように変動するデータ量変動パターンが設定される。なお、図7において、A1はデータ量が70%になるようにスケーラブル圧縮された画像フレーム(符号化データ)であり、A2はデータ量が30%になるようにスケーラブル圧縮された画像フレーム(符号化データ)である。一方、送信側情報処理端末30Bから送信された映像データBには、スケーラブル圧縮後のデータ量が30%→70%→30%→70%→のように変動するデータ量変動パターンが設定される。なお、映像データAおよび映像データBの合計データ量が受信側情報処理端末30Cに予め割り振られた最大使用帯域幅の範囲内に収まっている。   At this time, the video data A transmitted from the transmission-side information processing terminal 30A is set with a data amount variation pattern in which the amount of data after scalable compression varies as 70% → 30% → 70% → 30% →. The In FIG. 7, A1 is an image frame (encoded data) that is scalable compressed so that the data amount is 70%, and A2 is an image frame (encoded data) that is scalable compressed so that the data amount is 30%. Data). On the other hand, in the video data B transmitted from the transmission-side information processing terminal 30B, a data amount variation pattern is set in which the data amount after scalable compression varies as 30% → 70% → 30% → 70% →. . Note that the total data amount of the video data A and the video data B is within the range of the maximum usable bandwidth allocated in advance to the receiving side information processing terminal 30C.

一方、図7に示されたように、データ量が交互に変動する映像デーやAおよび映像データBが配信された受信側情報処理端末30Cは、映像データAと映像データBを分離する。   On the other hand, as shown in FIG. 7, the reception-side information processing terminal 30C to which the video data A and the video data B whose data amounts change alternately distributes the video data A and the video data B.

図8は、受信側情報処理端末30Cにおける映像データAの表示動作を説明するための図である。図8に示されたように、当該受信側情報処理端末30Cは、受信映像データ(映像データA+B)から分離した映像データA(画像フレームごとにスケーラブル圧縮された符号化データA)を画像フレームごとに復号化し、これら復号化された画像フレームを表示用サイズに調整し、順次ディスプレイに表示していく。なお、図8に示された画像フレームF1は、データ量が70%になるようにスケーラブル圧縮された符号化データに対応した復号化データであり、表示サイズの調整が少ないため、画質劣化(解像度)は小さい。一方、画像フレームF2は、データ量が30%になるようにスケーラブル圧縮された符号化データに対応した復号化データであり、表示サイズの調整が大きいため、画質劣化(解像度)が大きくなる。このように、受信側情報処理端末30Cでは、高速に更新される画像フレームの中で、高画質フレームの間に低画質フレームが混じった状態で表示される。そのため、ディスプレイ上に低画質の画像フレームが表示されたとしても、観察者の感覚として画質劣化は認識しづらい。以上のように本実施形態によれば、映像データA+Bが配信された受信側情報処理端末30Cでは、配信される映像データ全体のデータ量を従来(図6(a))よりも半減させた状態で、送信側情報処理端末Aからの映像データAおよび送信側情報処理端末Bからの映像データBの双方を、画質劣化を抑えながら同時に見ることが可能になる。   FIG. 8 is a diagram for explaining the display operation of the video data A in the receiving side information processing terminal 30C. As shown in FIG. 8, the receiving side information processing terminal 30C converts the video data A (encoded data A that is scalable compressed for each image frame) separated from the received video data (video data A + B) for each image frame. The decoded image frames are adjusted to the display size and sequentially displayed on the display. Note that the image frame F1 shown in FIG. 8 is decoded data corresponding to encoded data that is scalable and compressed so that the data amount becomes 70%, and there is little adjustment of the display size. ) Is small. On the other hand, the image frame F2 is decoded data corresponding to encoded data that is scalable and compressed so that the data amount is 30%, and the display size is largely adjusted, so that the image quality deterioration (resolution) increases. In this way, in the information processing terminal 30C on the receiving side, the image frames that are updated at high speed are displayed in a state in which the low-quality frames are mixed between the high-quality frames. For this reason, even if a low-quality image frame is displayed on the display, it is difficult to perceive image quality degradation as an observer's feeling. As described above, according to the present embodiment, in the receiving side information processing terminal 30C to which the video data A + B is distributed, the data amount of the entire video data to be distributed is halved compared to the conventional case (FIG. 6A). Thus, both the video data A from the transmission side information processing terminal A and the video data B from the transmission side information processing terminal B can be simultaneously viewed while suppressing image quality deterioration.

なお、時間軸方向に沿って制御する映像品質の成分は、画質であっても解像度成分であってもよい。また、時間軸方向の映像品質の程度の組み合わせは、任意の品質を採用することができ、その品質は、例えば70%→60%→30%のように、段階的に変化しでもよい。   The video quality component controlled along the time axis direction may be image quality or resolution component. Arbitrary quality can be adopted as the combination of the video quality levels in the time axis direction, and the quality may be changed stepwise, for example, 70% → 60% → 30%.

更に、送信側情報処理端末から送信される映像データそれぞれの重要度に応じて、優先される送信側情報処理端末からの映像データの割合(最大使用帯域幅に対するデータ量比率)が、他の送信側情報処理端末よりも大きくなるよう設定されてもよい。   Further, depending on the importance of each video data transmitted from the transmission side information processing terminal, the ratio of the video data from the transmission side information processing terminal to be prioritized (data amount ratio with respect to the maximum used bandwidth) is different from other transmissions. It may be set to be larger than the side information processing terminal.

上述の実施形態では、2つの送信側情報処理端末からの映像データを配信する例が示されているが、3以上の送信側情報処理端末からの映像データを、1以上の受信側情報処理端末へ配信する場合であっても、上述のように(図7参照)、時間軸方向に沿って異なる品質割合(データ量比率)を組み合わせればよい。   In the above-described embodiment, an example in which video data from two transmission-side information processing terminals is distributed is shown. However, video data from three or more transmission-side information processing terminals is converted into one or more reception-side information processing terminals. Even if it is a case where it delivers to, as mentioned above (refer FIG. 7), what is necessary is just to combine a different quality ratio (data amount ratio) along a time-axis direction.

さらに、映像データが時間軸方向に圧縮されている場合であっても、次画像フレームのデータ量が基準データ量(最大使用帯域幅)に満たなければ、前画像フレームに対するスケーラブル圧縮でカットされた画質成分が、次画像フレームの符号化データに充足されることで、該次画像フレームの符号化データと一緒に配信される構成が採用されてもよい。   Furthermore, even when the video data is compressed in the time axis direction, if the data amount of the next image frame does not satisfy the reference data amount (maximum usable bandwidth), it is cut by scalable compression with respect to the previous image frame. A configuration may be employed in which the image quality component is satisfied with the encoded data of the next image frame and distributed together with the encoded data of the next image frame.

以上の本発明の説明から、本発明を様々に変形しうることは明らかである。そのような変形は、本発明の思想および範囲から逸脱するものとは認めることはできず、すべての当業者にとって自明である改良は、以下の請求の範囲に含まれるものである。   From the above description of the present invention, it is apparent that the present invention can be modified in various ways. Such modifications cannot be construed as departing from the spirit and scope of the invention, and modifications obvious to one skilled in the art are intended to be included within the scope of the following claims.

10…ネットワーク、20A〜20C…拠点、30A〜30C…情報処理端末(PC)、100…映像データ配信装置、110…制御装置、120通信インターフェース、130A〜130N…記憶装置。   DESCRIPTION OF SYMBOLS 10 ... Network, 20A-20C ... Base, 30A-30C ... Information processing terminal (PC), 100 ... Image | video data delivery apparatus, 110 ... Control apparatus, 120 communication interface, 130A-130N ... Memory | storage device.

Claims (9)

所定の伝送手段を介して互いに接続された複数の情報処理端末間で送受信される映像データを中継する映像データ配信装置において、
前記複数の情報処理端末との間で前記映像データの送受信を行うための通信インターフェースと、
前記通信インターフェースを介して受信した送信側情報処理端末からの映像データを格納する記憶装置と、
前記送信側情報処理端末からの映像データをスケーラブル圧縮する制御装置と、を備え、
前記制御装置は、
前記複数の情報処理端末のうち少なくとも第1および第2の送信側情報処理端末それぞれから前記通信インターフェースを介して受信した第1および第2の映像データを、1以上の受信側情報処理端末に前記通信インターフェースを介して配信するとき、
前記1以上の受信側情報処理端末それぞれに予め割り振られた最大使用帯域幅の範囲内に全データ量が収まるよう時間軸方向に沿って互いに異なるデータ量変動パターンに従って前記第1および第2の映像データそれぞれのデータ量を個別に変動させながら、前記第1および第2の映像データそれぞれをスケーラブル圧縮していき、
前記時間軸方向に沿って互いに異なるデータ量変動パターンに従ってスケーラブル圧縮された前記第1および第2の映像データを、前記通信インターフェースを介して前記1以上の受信側情報処理端末へ配信する、
ことを特徴とする映像データ配信装置。
In a video data distribution apparatus that relays video data transmitted and received between a plurality of information processing terminals connected to each other via a predetermined transmission means,
A communication interface for transmitting and receiving the video data to and from the plurality of information processing terminals;
A storage device for storing video data from the transmission side information processing terminal received via the communication interface;
A controller for scalable compression of video data from the transmission-side information processing terminal,
The control device includes:
The first and second video data received from each of the plurality of information processing terminals via at least the first and second transmission side information processing terminals via the communication interface are transmitted to the one or more reception side information processing terminals. When delivering via the communication interface,
The first and second videos according to different data amount variation patterns along the time axis direction so that the total data amount falls within the range of the maximum use bandwidth allocated in advance to each of the one or more receiving side information processing terminals. Each of the first and second video data is scalable compressed while varying the amount of each data individually,
Delivering the first and second video data, which are scalable compressed according to different data amount variation patterns along the time axis direction, to the one or more receiving information processing terminals via the communication interface;
A video data distribution apparatus characterized by the above.
所定の伝送手段を介して互いに接続された複数の情報処理端末間で送受信される映像データを中継する映像データ配信装置において、
前記複数の情報処理端末との間で前記映像データの送受信を行うための通信インターフェースと、
前記通信インターフェースを介して受信した送信側情報処理端末からの映像データであって、前記送信側情報処理端末においてスケーラブル圧縮された映像データを格納する記憶装置と、
前記送信側情報処理端末からのスケーラブル圧縮された映像データを、前記通信インターフェースを介して所望の受信側情報処理端末へ配信するための制御装置と、を備え、
前記制御装置は、
前記複数の情報処理端末のうち少なくとも第1および第2の送信側情報処理端末それぞれから前記通信インターフェースを介して受信した、それぞれがスケーラブル圧縮された第1および第2の映像データを、1以上の受信側情報処理端末に前記通信インターフェースを介して配信するとき、
前記1以上の受信側情報処理端末それぞれに予め割り振られた最大使用帯域幅の範囲内に全データ量が収まるよう時間軸方向に沿って互いに異なるデータ量変動パターンに従って前記第1および第2の映像データそれぞれのデータ量を個別に調整していき、
前記時間軸方向に沿って互いに異なるデータ量変動パターンに従ってデータ量が調整された前記第1および第2の映像データを、前記通信インターフェースを介して前記1以上の受信側情報処理端末へ配信する、
ことを特徴とする映像データ配信装置。
In a video data distribution apparatus that relays video data transmitted and received between a plurality of information processing terminals connected to each other via a predetermined transmission means,
A communication interface for transmitting and receiving the video data to and from the plurality of information processing terminals;
A storage device for storing video data received from the transmission side information processing terminal via the communication interface, the video data being scalable compressed in the transmission side information processing terminal;
A controller for delivering scalable compressed video data from the transmission-side information processing terminal to a desired reception-side information processing terminal via the communication interface;
The control device includes:
The first and second video data received from each of the plurality of information processing terminals via at least the first and second transmission side information processing terminals via the communication interface, each of which is scalable and compressed. When delivering to the receiving information processing terminal via the communication interface,
The first and second videos according to different data amount variation patterns along the time axis direction so that the total data amount falls within the range of the maximum use bandwidth allocated in advance to each of the one or more receiving side information processing terminals. Adjust the amount of each data individually,
Delivering the first and second video data, the data amount of which is adjusted according to different data amount variation patterns along the time axis direction, to the one or more receiving information processing terminals via the communication interface;
A video data distribution apparatus characterized by the above.
前記第1および第2の映像データの各データ量変動パターンでは、前記時間軸方向に沿って少なくとも2以上のデータ量が設定されることを特徴とする請求項1または2に記載の映像データ配信装置。   3. The video data distribution according to claim 1, wherein at least two data amounts are set along the time axis direction in each data amount variation pattern of the first and second video data. apparatus. 前記制御装置は、前記第1および第2の送信側情報処理端末とは異なる第3の送信側情報処理端末からの第3の映像データを、前記第1および第2の映像データとともに前記通信インターフェースを介して受信し、
前記時間軸方向に沿って互いに異なるデータ量変動パターンに従って前記第1〜第3の映像データそれぞれのデータ量を個別に変動させながら、前記第1〜第3の映像データそれぞれをスケーラブル圧縮していくことを特徴とする請求項1または3に記載の映像データ配信装置。
The control device transmits, to the communication interface, third video data from a third transmission information processing terminal different from the first and second transmission information processing terminals together with the first and second video data. Received through
Each of the first to third video data is scalable compressed while individually varying the data amount of each of the first to third video data according to different data amount variation patterns along the time axis direction. 4. The video data distribution apparatus according to claim 1, wherein the video data distribution apparatus is a video data distribution apparatus.
前記制御装置は、前記複数の情報処理端末のうち送信側情報処理端末となったいずれかからの映像データのデータ量が他の送信側情報処理端末からの映像データのデータ量よりも多くなるよう、前記第1および第2の映像データそれぞれをスケーラブル圧縮することを特徴とする請求項1、3、4のいずれか一項に記載の映像データ配信装置。   The control device is configured such that the data amount of video data from any one of the plurality of information processing terminals that has become a transmission-side information processing terminal is larger than the data amount of video data from other transmission-side information processing terminals. The video data distribution device according to claim 1, wherein each of the first and second video data is scalable compressed. 前記制御装置は、前記第1および第2の送信側情報処理端末とは異なる第3の送信側情報処理端末からの第3の映像データを、前記第1および第2の映像データとともに前記通信インターフェースを介して受信し、
前記時間軸方向に沿って互いに異なるデータ量変動パターンに従って前記第1〜第3の映像データそれぞれのデータ量を個別に調整することを特徴とする請求項2または3に記載の映像データ配信装置。
The control device transmits, to the communication interface, third video data from a third transmission information processing terminal different from the first and second transmission information processing terminals together with the first and second video data. Received through
4. The video data distribution apparatus according to claim 2, wherein the data amount of each of the first to third video data is individually adjusted according to different data amount variation patterns along the time axis direction.
前記制御装置は、前記複数の情報処理端末のうち送信側情報処理端末となったいずれかからの映像データのデータ量が他の送信側情報処理端末からの映像データのデータ量よりも多くなるよう、前記第1および第2の映像データそれぞれのデータ量を個別に調整することを特徴とする請求項2、3、6のいずれか一項に記載の映像データ配信装置。   The control device is configured such that the data amount of video data from any one of the plurality of information processing terminals that has become a transmission-side information processing terminal is larger than the data amount of video data from other transmission-side information processing terminals. The video data distribution apparatus according to claim 2, wherein the data amount of each of the first and second video data is individually adjusted. 前記複数の情報処理端末間で送受信される映像データは、JPEG2000規格に従った画像フレームにより構成されていることを特徴とする請求項1〜7のいずれか一項に記載の映像データ配信装置。   8. The video data distribution apparatus according to claim 1, wherein the video data transmitted and received between the plurality of information processing terminals is configured by an image frame according to the JPEG2000 standard. 9. 請求項1〜8のいずれか一項に記載の映像データ配信装置を含む双方向対話システム。   An interactive dialogue system including the video data distribution device according to any one of claims 1 to 8.
JP2012185047A 2012-08-24 2012-08-24 Video data distribution apparatus and interactive dialog system including the same Expired - Fee Related JP5949326B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012185047A JP5949326B2 (en) 2012-08-24 2012-08-24 Video data distribution apparatus and interactive dialog system including the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012185047A JP5949326B2 (en) 2012-08-24 2012-08-24 Video data distribution apparatus and interactive dialog system including the same

Publications (2)

Publication Number Publication Date
JP2014045243A true JP2014045243A (en) 2014-03-13
JP5949326B2 JP5949326B2 (en) 2016-07-06

Family

ID=50396243

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012185047A Expired - Fee Related JP5949326B2 (en) 2012-08-24 2012-08-24 Video data distribution apparatus and interactive dialog system including the same

Country Status (1)

Country Link
JP (1) JP5949326B2 (en)

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07273739A (en) * 1994-03-28 1995-10-20 Toshiba Corp Digital signal encoding and multiplexing device
JPH099230A (en) * 1995-06-15 1997-01-10 Oki Electric Ind Co Ltd Resolution controller
JPH0918876A (en) * 1995-06-27 1997-01-17 Sharp Corp Moving image encoding and decoding device
JPH09149396A (en) * 1995-11-27 1997-06-06 Fujitsu Ltd Multi-spot television conference system
JP2001268567A (en) * 2000-03-17 2001-09-28 Sony Corp Bit rate control device, its method and system and method for transmitting program
JP2005341075A (en) * 2004-05-26 2005-12-08 Nippon Telegr & Teleph Corp <Ntt> Scalable communication conference system, server device, scalable communication conference method, scalable communication conference control method, scalable communication conference control program, and medium for recording the program
JP2005341347A (en) * 2004-05-28 2005-12-08 Nippon Telegr & Teleph Corp <Ntt> Multipoint connection device and method
JP2006303980A (en) * 2005-04-21 2006-11-02 Nippon Telegr & Teleph Corp <Ntt> Multipoint distribution system and method therefor
JP2010503280A (en) * 2006-08-29 2010-01-28 マイクロソフト コーポレーション Visual composition management technology for multimedia audio conferencing
WO2010024102A1 (en) * 2008-08-28 2010-03-04 住友電気工業株式会社 Moving-picture image data-distribution method
JP2010161582A (en) * 2009-01-07 2010-07-22 Sony Corp Encoding device, method for adjusting target amount of code and record medium
JP2011077912A (en) * 2009-09-30 2011-04-14 Brother Industries Ltd Communication control device, communication control method, and communication control program

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07273739A (en) * 1994-03-28 1995-10-20 Toshiba Corp Digital signal encoding and multiplexing device
JPH099230A (en) * 1995-06-15 1997-01-10 Oki Electric Ind Co Ltd Resolution controller
JPH0918876A (en) * 1995-06-27 1997-01-17 Sharp Corp Moving image encoding and decoding device
JPH09149396A (en) * 1995-11-27 1997-06-06 Fujitsu Ltd Multi-spot television conference system
JP2001268567A (en) * 2000-03-17 2001-09-28 Sony Corp Bit rate control device, its method and system and method for transmitting program
JP2005341075A (en) * 2004-05-26 2005-12-08 Nippon Telegr & Teleph Corp <Ntt> Scalable communication conference system, server device, scalable communication conference method, scalable communication conference control method, scalable communication conference control program, and medium for recording the program
JP2005341347A (en) * 2004-05-28 2005-12-08 Nippon Telegr & Teleph Corp <Ntt> Multipoint connection device and method
JP2006303980A (en) * 2005-04-21 2006-11-02 Nippon Telegr & Teleph Corp <Ntt> Multipoint distribution system and method therefor
JP2010503280A (en) * 2006-08-29 2010-01-28 マイクロソフト コーポレーション Visual composition management technology for multimedia audio conferencing
WO2010024102A1 (en) * 2008-08-28 2010-03-04 住友電気工業株式会社 Moving-picture image data-distribution method
JP2010161582A (en) * 2009-01-07 2010-07-22 Sony Corp Encoding device, method for adjusting target amount of code and record medium
JP2011077912A (en) * 2009-09-30 2011-04-14 Brother Industries Ltd Communication control device, communication control method, and communication control program

Also Published As

Publication number Publication date
JP5949326B2 (en) 2016-07-06

Similar Documents

Publication Publication Date Title
EP1472845B1 (en) Targeted scalable video multicast based on client bandwidth or capability
JP5265383B2 (en) System and method for conference server architecture for low latency and distributed conferencing applications
US8890930B2 (en) Multi-channel video communication system and method for processing multi-channel video communication
US9338213B2 (en) System and method for a conference server architecture for low delay and distributed conferencing applications
US11297395B2 (en) Methods and systems for video streaming
US8289997B2 (en) Bandwidth sharing in a distributed wireless client application using inverse multiplexing termination
US20090232202A1 (en) Wireless video streaming using single layer coding and prioritized streaming
US20120314948A1 (en) Multiple description coding with plural combined diversity
JP2003244676A (en) Moving picture distribution system, moving picture distributing device and method, recording medium, and program
Zhu et al. Distributed media-aware rate allocation for video multicast over wireless networks
Fiandrotti et al. Traffic prioritization of H. 264/SVC video over 802.11 e ad hoc wireless networks
Singh et al. Optimising QoE for scalable video multicast over WLAN
Radhakrishnan et al. An efficient video adaptation scheme for SVC transport over LTE networks
JP5949326B2 (en) Video data distribution apparatus and interactive dialog system including the same
Ahmed Video transmission over wireless networks review and recent advances
Klaghstan et al. Enhancing video viewing-experience in opportunistic networks based on svc, an experimental study
Luo et al. On using cooperative game theory to solve the wireless scalable video multicasting problem
Hua et al. Multicast scheduling for stereoscopic video in wireless networks
Seeling et al. Video coding with multiple descriptors and spatial scalability for device diversity in wireless multi-hop networks
Chowdhury et al. Quality-aware popularity based bandwidth allocation for scalable video broadcast over wireless access networks
JP2004266502A (en) Video transmission system
Baik et al. Efficient MAC for real-time video streaming over wireless LAN
Luo et al. An end-to-end video transmission framework with efficient bandwidth utilization
Chin et al. Scalable video streaming for multicast in wireless networks
Hsu et al. An adaptive stereoscopic video streaming mechanism using MV-HEVC and 3D-HEVC technologies

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150820

TRDD Decision of grant or rejection written
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160428

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160510

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160523

R150 Certificate of patent or registration of utility model

Ref document number: 5949326

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees