JP6534968B2 - Multipoint connection device, video distribution system, multipoint connection method, and program - Google Patents

Multipoint connection device, video distribution system, multipoint connection method, and program Download PDF

Info

Publication number
JP6534968B2
JP6534968B2 JP2016122285A JP2016122285A JP6534968B2 JP 6534968 B2 JP6534968 B2 JP 6534968B2 JP 2016122285 A JP2016122285 A JP 2016122285A JP 2016122285 A JP2016122285 A JP 2016122285A JP 6534968 B2 JP6534968 B2 JP 6534968B2
Authority
JP
Japan
Prior art keywords
video
video stream
transmission
unit
network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016122285A
Other languages
Japanese (ja)
Other versions
JP2017228866A (en
Inventor
康弘 持田
康弘 持田
勇貴 南
勇貴 南
弘 東條
弘 東條
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2016122285A priority Critical patent/JP6534968B2/en
Publication of JP2017228866A publication Critical patent/JP2017228866A/en
Application granted granted Critical
Publication of JP6534968B2 publication Critical patent/JP6534968B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Telephonic Communication Services (AREA)

Description

本開示は、ネットワークを介して遠隔地と映像や音声をやり取りする映像コミュニケーションのための多地点通信装置、映像配信システム、多地点接続方法、及びプログラムに関する。   The present disclosure relates to a multipoint communication apparatus, video distribution system, multipoint connection method, and program for video communication for exchanging video and audio with a remote place via a network.

ネットワークを介して複数の遠隔地と映像や音声をやり取りするテレビ会議において、全ての拠点間で直接映像と音声を送受信する場合、受信側で必要となるネットワーク負荷と映像音声復号処理負荷が拠点数に伴って増加するため、多数の拠点に対応することは難しい。そこで、多数の地点を接続するテレビ会議では、受信側のネットワーク負荷と復号処理負荷を軽減するために、多地点接続装置を使用することが一般的である。多地点接続装置では、多数の拠点からの映像音声を受信し、複数の映像を一つの映像に合成して受信端末に配信することにより、受信側でのネットワーク負荷と復号処理負荷を映像一本分に軽減することができる。   In a video conference where video and audio are exchanged with multiple remote locations via a network, the network load and video / audio decoding processing load required on the receiving side when transmitting and receiving video and audio directly between all locations are the number of locations. It is difficult to deal with a large number of bases because Therefore, in a video conference connecting many points, it is general to use a multipoint connection device in order to reduce the network load and decoding processing load on the receiving side. The multipoint connection device receives video and audio from multiple locations, combines multiple videos into one video, and distributes it to the receiving terminal, so that the network load and decoding processing load on the receiving side is one video It can be reduced to a minute.

特許文献1には、多地点接続装置において各拠点の映像音声から音声レベル等の物理量を測定し、測定された物理量に基づいて映像の表示形態を動的に変更する技術が記載されている。その実施例として、音量レベルから発言している拠点を特定し、発言拠点の映像を他の拠点の映像よりも拡大表示する方法が記載されている。また、特許文献2には限られたネットワークリソースを発言拠点に対して大きく割り当てる技術が記載されている。実施例として、発言拠点の映像符号化における量子化ステップ数やピクチャグループの構成を動的に変更することで、発言拠点の映像を高精細化する方法が記載されている。   Patent Document 1 describes a technique for measuring physical quantities such as audio levels from video and audio at each site in a multipoint connection device, and dynamically changing the display mode of video based on the measured physical quantities. As a practical example thereof, a method is disclosed in which a speaking base is specified from the volume level, and the video of the speaking base is displayed larger than the video of the other bases. Further, Patent Document 2 describes a technique for largely allocating a limited network resource to a message base. As an embodiment, a method is described in which the video of the utterance base is made higher definition by dynamically changing the number of quantization steps in the video encoding of the utterance base and the configuration of the picture group.

特開平5−103324号公報JP-A-5-103324 特開2005−341347号公報JP 2005-341347

特許文献1と2の方法では、多地点接続装置は全ての拠点から映像音声を受信することを前提としている。そのため、接続する拠点数に応じて多地点接続装置におけるネットワーク負荷と復号処理負荷が増加する。多地点接続装置の利用によって各拠点の受信端末におけるネットワーク負荷と復号処理負荷を軽減できるものの、多地点接続装置では接続拠点数に応じたネットワーク帯域と、復号処理のための計算リソース(CPUや復号回路)が必要となる。   In the methods of Patent Documents 1 and 2, it is premised that the multipoint connection device receives video and audio from all the bases. Therefore, the network load and the decoding processing load in the multipoint connection device increase according to the number of connected points. Although the network load and decoding processing load at the receiving terminals at each site can be reduced by using the multipoint connection apparatus, the network point corresponding to the number of connection sites and the computational resources for decoding processing (CPU and decryption for the multipoint connection apparatus Circuit) is required.

また、一つの拠点から複数台のカメラ映像を送信する場合、当該拠点と多地点接続装置までの間にカメラ映像の本数に応じたネットワーク帯域の空きが必要である。合成映像で使用されない映像の送信を停止することでネットワーク負荷の軽減が可能だが、一旦符号化装置を停止すると送信再開までに時間を要するため、急な映像の切り替えに対応することが困難である。   In addition, when transmitting a plurality of camera images from one site, it is necessary to have an available network bandwidth corresponding to the number of camera images between the site and the multipoint connection device. Although it is possible to reduce the network load by stopping the transmission of video not used in composite video, it is difficult to cope with sudden video switching since it takes time to resume transmission once the coding device is stopped. .

応答性とネットワークトラフィックの観点からは、符号化装置では常に符号化処理を行いながら、合成映像で使用されるときだけIPパケットを送信するよう制御することが望ましい。しかし、そのような制御を行うためには符号化装置が多地点接続装置から通知される情報に基づいてIPパケット送信を制御する仕組みが必要である。故に、予めそのような機能を搭載した符号化装置が必要である。   From the viewpoints of responsiveness and network traffic, it is desirable that the encoding apparatus performs control to transmit an IP packet only when it is used in composite video, while always performing encoding processing. However, in order to perform such control, it is necessary for the coding device to control IP packet transmission based on the information notified from the multipoint connection device. Therefore, a coding device equipped with such a function in advance is required.

つまり、従来の多地点接続装置には、映像切替の応答性改善とネットワーク負荷の低減が課題であった。そこで、本発明は、上記課題を解決すべく、映像切替の応答性を改善し、ネットワーク負荷を低減できる多地点接続装置、映像配信システム、多地点接続方法、及びプログラムを提供することを目的とする。   That is, in the conventional multipoint connection device, the improvement of the responsiveness of the image switching and the reduction of the network load have been problems. Therefore, the present invention has an object to provide a multipoint connection device, a video distribution system, a multipoint connection method, and a program, which can improve the responsiveness of video switching and reduce the network load, in order to solve the above problems. Do.

上記目的を達成するために、本発明に係る多地点接続装置は、いずれの受信端末で使用されていない映像ストリームをネットワーク上で停止することとした。   In order to achieve the above object, the multipoint connection device according to the present invention decides to stop video streams not being used at any receiving terminal on the network.

具体的には、本発明に係る多地点接続装置は、
トラフィックの伝送を制御するネットワーク装置を有するネットワークから複数の映像ストリームを受信する受信部と、
受信端末毎に、前記受信部が受信した前記映像ストリームのうち、任意の前記映像ストリームあるいは任意の複数の前記映像ストリームを合成した合成映像ストリームを配信する配信部と、
前記ネットワーク装置に対して、前記受信端末のいずれにも配信されていない、且つ前記合成映像ストリームのいずれにも合成されていない前記映像ストリームの伝送の停止、並びに伝送を停止された前記映像ストリームの伝送の再開を指示するネットワーク制御部と、
を備える。
Specifically, the multipoint connection apparatus according to the present invention is
A receiver for receiving a plurality of video streams from a network having a network device for controlling transmission of traffic;
A distribution unit for distributing, for each receiving terminal, a composite video stream obtained by combining any one of the video stream or any of a plurality of the video streams among the video streams received by the receiving unit;
Stopping the transmission of the video stream that has not been distributed to any of the receiving terminals and has not been synthesized to any of the composite video streams to the network device, and the video stream whose transmission has been stopped A network control unit instructing resumption of transmission;
Equipped with

また、本発明に係る映像配信システムは、
トラフィックの伝送を制御するネットワーク装置を有するネットワークへ複数の映像ストリームを送信する映像送信装置と、
前記ネットワークから複数の前記映像ストリームを受信する受信部と、
受信端末毎に、前記受信部が受信した前記映像ストリームのうち、任意の前記映像ストリームあるいは任意の複数の前記映像ストリームを合成した合成映像ストリームを配信する配信部と、
前記ネットワーク装置に対して、前記受信端末のいずれにも配信されていない、且つ前記合成映像ストリームのいずれにも合成されていない前記映像ストリームの伝送の停止、並びに伝送を停止された前記映像ストリームの伝送の再開を指示するネットワーク制御部と、
を備える。
Further, the video delivery system according to the present invention is
A video transmission device for transmitting a plurality of video streams to a network having a network device controlling transmission of traffic;
A receiving unit for receiving a plurality of the video streams from the network;
A distribution unit for distributing, for each receiving terminal, a composite video stream obtained by combining any one of the video stream or any of a plurality of the video streams among the video streams received by the receiving unit;
Stopping the transmission of the video stream that has not been distributed to any of the receiving terminals and has not been synthesized to any of the composite video streams to the network device, and the video stream whose transmission has been stopped A network control unit instructing resumption of transmission;
Equipped with

また、本発明に係る多地点接続方法は、
トラフィックの伝送を制御するネットワーク装置を有するネットワークへ複数の映像ストリームを送信する映像送信手順と、
前記ネットワークから複数の前記映像ストリームを受信する受信手順と、
受信端末毎に、前記受信手順で受信した前記映像ストリームのうち、任意の前記映像ストリームあるいは任意の複数の前記映像ストリームを合成した合成映像ストリームを配信する配信手順と、
前記ネットワーク装置に対して、前記受信端末のいずれにも配信されていない、且つ前記合成映像ストリームのいずれにも合成されていない前記映像ストリームの伝送の停止、並びに伝送を停止された前記映像ストリームの伝送の再開を指示するネットワーク制御手順と、
を行う。
Also, the multipoint connection method according to the present invention is
A video transmission procedure for transmitting a plurality of video streams to a network having a network device controlling transmission of traffic;
A reception procedure for receiving a plurality of the video streams from the network;
A delivery procedure for delivering, for each receiving terminal, a composite video stream obtained by combining any of the video stream or any of a plurality of the video streams among the video streams received in the reception procedure;
Stopping the transmission of the video stream that has not been distributed to any of the receiving terminals and has not been synthesized to any of the composite video streams to the network device, and the video stream whose transmission has been stopped A network control procedure that instructs to resume transmission;
I do.

本発明は、映像ストリームを送信する送信装置(符号化装置)に依存せず、ネットワーク上のネットワーク装置で転送を停止する。符号化装置を常時運転させておくことで映像切替の応答性を改善することができる。また、ネットワーク装置で不要な映像ストリームの転送を停止することでネットワーク負荷を軽減できる。従って、本発明は、映像切替の応答性を改善し、ネットワーク負荷を低減できる多地点接続装置、映像配信システム、及び多地点接続方法を提供することができる。   The present invention does not rely on a transmitting apparatus (encoding apparatus) for transmitting a video stream, and stops transfer at a network apparatus on the network. By operating the encoding device all the time, the responsiveness of video switching can be improved. In addition, the network load can be reduced by stopping the transfer of unnecessary video streams in the network device. Therefore, the present invention can provide a multipoint connection device, a video distribution system, and a multipoint connection method capable of improving the responsiveness of video switching and reducing the network load.

本多地点接続装置は、
前記受信端末が表示するレイアウト枠それぞれに相当する順位を基準として、前記映像ストリームを識別する映像識別番号、及び前記配信部が有する映像合成部を識別する合成部識別番号が記載されるテーブルを有するデータベース部と、
前記映像ストリームの送信元から前記映像識別番号を取得し、前記データベース部のテーブルの前記順位毎に前記映像識別番号を排他的に記載する接続管理部と、
をさらに備え、
前記配信部は、前記レイアウト枠の情報に基づいて、前記データベース部のテーブルの、前記受信端末が表示する前記順位に前記合成部識別番号を記載し、
前記ネットワーク制御部は、前記データベース部のテーブルの記載から伝送を停止する前記映像ストリーム及び伝送を再開する前記映像ストリームを判断することとしてもよい。
This multipoint connection device is
It has a table in which a video identification number for identifying the video stream and a combining unit identification number for identifying a video combining unit included in the distribution unit are described based on the order corresponding to each layout frame displayed by the receiving terminal. Database department,
A connection management unit that acquires the video identification number from the transmission source of the video stream and exclusively describes the video identification number for each rank in the table of the database unit;
And further
The distribution unit describes the combining unit identification number in the order displayed by the receiving terminal in the table of the database unit based on the information of the layout frame.
The network control unit may determine the video stream to stop transmission and the video stream to resume transmission from the description of the table of the database unit.

本多地点接続装置の前記データベース部は、前記映像ストリームに前記順位を付す順位決定装置から前記映像ストリームについての前記順位が通知され、前記テーブルに記載された映像識別番号を通知された前記順位へ移動させることを特徴とする。映像ストリーム毎に優先順位を付けることで受信端末では優先順位に応じた表示が可能になる。   The database unit of the present multipoint connection apparatus is notified of the order of the video stream from the order determining apparatus which adds the order to the video stream, and to the order notified of the video identification number described in the table. It is characterized by moving. By giving priority to each video stream, the receiving terminal can perform display according to the priority.

例えば、本多地点接続装置は、前記順位が、前記映像ストリームの送信元の音量に基づいて決定されることを特徴とする。
また、映像の表示形態を決定するための基準として、多地点接続装置に送信された映像音声から抽出された物理量以外の情報、例えば赤外線センサ情報等のメタデータを使用することによって、より利用者の嗜好に適した表示が可能になると期待できる。
For example, the multipoint connection apparatus is characterized in that the order is determined based on the volume of the transmission source of the video stream.
Also, by using information other than the physical quantity extracted from the video and audio transmitted to the multipoint connection device as a reference for determining the display mode of the video, for example, by using metadata such as infrared sensor information It can be expected that the display suitable for the preference of

例えば、本多地点接続装置は、前記順位が、前記映像ストリームの送信元の音量が最大の前記映像ストリームが1位とされ、1位の前記映像ストリームから他の前記映像ストリームへの遷移確率に基づき2位以下が決定されたものであることを特徴とする。
過去の話者交代の履歴を参考にすることで今後発生する話者交代を予測し、順位を決定してもよい。
For example, in the multipoint connection apparatus according to the present invention, the video stream with the highest volume of the transmission source of the video stream is ranked first, and the transition probability from the first video stream to another video stream is determined. It is characterized in that the second place or less is determined based on that.
By referring to the history of speaker changes in the past, it may be possible to predict speaker changes that will occur in the future, and to determine the order.

本発明は、前記多地点接続装置としてコンピュータを機能させるためのプログラムである。本発明に係る多地点接続装置はコンピュータとプログラムによっても実現でき、プログラムを記録媒体に記録することも、ネットワークを通して提供することも可能である。   The present invention is a program for causing a computer to function as the multipoint connection device. The multipoint connection apparatus according to the present invention can be realized by a computer and a program, and the program can be recorded on a recording medium or provided through a network.

本発明は、映像切替の応答性を改善し、ネットワーク負荷を低減できる多地点接続装置、映像配信システム、多地点接続方法、及びプログラムを提供することができる。   The present invention can provide a multipoint connection device, a video distribution system, a multipoint connection method, and a program capable of improving the responsiveness of video switching and reducing the network load.

本発明に係る映像配信システムの構成例を説明する図である。It is a figure explaining the example of composition of the picture distribution system concerning the present invention. 本発明に係る映像配信システムの受信端末が表示する映像レイアウトを説明する図である。レイアウト枠内の数字は「順位」である。It is a figure explaining the video layout which the receiving terminal of the video delivery system concerning this invention displays. The numbers in the layout box are "order". 本発明に係る多地点接続装置が備えるデータベース部のテーブルを説明する図である。例えば、映像合成部の識別番号A、B、C、Dは、それぞれ映像合成部41−1、41−2、41−3、41−4に相当する。It is a figure explaining the table of the database part with which the multipoint connection apparatus based on this invention is equipped. For example, the identification numbers A, B, C, and D of the video combining unit correspond to the video combining units 41-1, 41-2, 41-3, and 41-4, respectively. 本発明に係る多地点接続装置の動作を説明するフローチャートである。It is a flow chart explaining operation of a multipoint connection device concerning the present invention. 本発明に係る映像配信システムの動作を説明するシーケンス図である。It is a sequence diagram explaining operation | movement of the video delivery system concerning this invention. 本発明に係る映像配信システムの順位決定装置が管理する遷移確率表を説明する図である。It is a figure explaining the transition probability table which the order determination apparatus of the imaging | video delivery system which concerns on this invention manages.

添付の図面を参照して本発明の実施形態を説明する。以下に説明する実施形態は本発明の実施例であり、本発明は、以下の実施形態に制限されるものではない。なお、本明細書及び図面において符号が同じ構成要素は、相互に同一のものを示すものとする。   Embodiments of the invention will be described with reference to the accompanying drawings. The embodiments described below are examples of the present invention, and the present invention is not limited to the following embodiments. In the present specification and drawings, components having the same reference numerals denote the same components.

図1は、本実施形態の映像配信システム301を説明する構成図である。映像配信システム301は、
トラフィックの伝送を制御するネットワーク装置25を有するネットワーク20へ複数の映像ストリームを送信する映像送信装置10と、
ネットワーク20から複数の前記映像ストリームを受信する受信部30と、
受信端末51毎に、受信部30が受信した前記映像ストリームのうち、任意の前記映像ストリームあるいは任意の複数の前記映像ストリームを合成した合成映像ストリームを配信する配信部40と、
ネットワーク装置25に対して、受信端末51のいずれにも配信されていない、且つ前記合成映像ストリームのいずれにも合成されていない前記映像ストリームの伝送の停止、並びに伝送を停止された前記映像ストリームの伝送の再開を指示するネットワーク制御部61と、
を備える。
FIG. 1 is a configuration diagram for explaining a video delivery system 301 according to the present embodiment. The video delivery system 301
A video transmission device 10 for transmitting a plurality of video streams to a network 20 having a network device 25 controlling transmission of traffic;
A receiver 30 for receiving a plurality of the video streams from the network 20;
A distribution unit 40 for distributing, for each of the reception terminals 51, a composite video stream obtained by combining an arbitrary video stream or an arbitrary plurality of video streams among the video streams received by the reception unit 30;
Stop of transmission of the video stream which has not been distributed to any of the receiving terminals 51 and not synthesized into any of the composite video stream with respect to the network device 25; A network control unit 61 instructing resumption of transmission;
Equipped with

映像送信装置10は、カメラ(11−1〜11−n;nは自然数)と、各カメラ11が出力する映像信号を符号化してIPパケット(映像ストリーム)として出力する映像符号化装置(12−1〜12−n)と、各カメラ11の周辺の情報を取得してメタデータとして出力するメタデータ生成装置(13−1〜13−n)と、を有する。カメラ11は同じ拠点にあってもそれぞれが異なる拠点にあってもよい。   The video transmission device 10 encodes a camera (11-1 to 11-n; n is a natural number) and a video encoding device (12-) that encodes a video signal output from each camera 11 and outputs it as an IP packet (video stream). 1 to 12-n) and metadata generation devices (13-1 to 13-n) for acquiring information on the periphery of each camera 11 and outputting the information as metadata. The cameras 11 may be at the same site or at different sites.

受信部30は、映像識別番号(宛先ポート番号)毎に映像ストリームを受信し、受信した映像ストリームを復号する映像復号部(32−1〜32−n)を有する。宛先ポート番号とは、例えば、UDP(User Datagram Protocol)ポート番号である。配信部40は、受信側から指定された画面レイアウトになるように復号された映像を合成する映像合成部(41−1〜41−m;mは自然数)と、合成された映像を再度符号化する映像符号化部(42−1〜42−m)と、を有する。受信端末51は複数存在し、ユーザが任意で画面に表示する映像のレイアウトを設定できるレイアウト枠設定装置52が付随する。なお、受信端末51とレイアウト枠設定装置52は必ずしも1対1対応ではない。一つのレイアウトに対して複数の受信端末が同じ映像を受け取ることも可能である。   The receiving unit 30 has a video decoding unit (32-1 to 32-n) that receives a video stream for each video identification number (destination port number) and decodes the received video stream. The destination port number is, for example, a UDP (User Datagram Protocol) port number. The distributing unit 40 re-encodes the synthesized video and a video synthesizing unit (41-1 to 41-m; m is a natural number) that synthesizes the video decoded so as to be the screen layout specified by the receiving side. And a video encoding unit (42-1 to 42-m). There are a plurality of receiving terminals 51, and a layout frame setting device 52 is provided to which the user can optionally set the layout of the video to be displayed on the screen. The receiving terminal 51 and the layout frame setting device 52 are not necessarily in one-to-one correspondence. It is also possible that a plurality of receiving terminals receive the same video for one layout.

多地点接続装置100は、
トラフィックの伝送を制御するネットワーク装置25を有するネットワーク20から複数の映像ストリームを受信する受信部30と、
受信端末51毎に、受信部30が受信した前記映像ストリームのうち、任意の前記映像ストリームあるいは任意の複数の前記映像ストリームを合成した合成映像ストリームを配信する配信部40と、
ネットワーク装置25に対して、受信端末51のいずれにも配信されていない、且つ前記合成映像ストリームのいずれにも合成されていない前記映像ストリームの伝送の停止、並びに伝送を停止された前記映像ストリームの伝送の再開を指示するネットワーク制御部61と、
を備える。
The multipoint connection device 100
A receiver 30 for receiving a plurality of video streams from a network 20 having a network device 25 controlling transmission of traffic;
A distribution unit 40 for distributing, for each of the reception terminals 51, a composite video stream obtained by combining an arbitrary video stream or an arbitrary plurality of video streams among the video streams received by the reception unit 30;
Stop of transmission of the video stream which has not been distributed to any of the receiving terminals 51 and not synthesized into any of the composite video stream with respect to the network device 25; A network control unit 61 instructing resumption of transmission;
Equipped with

多地点接続装置100は、
受信端末51が表示するレイアウト枠それぞれに相当する順位を基準として、前記映像ストリームを識別する映像識別番号(例えば、宛先ポート番号)、及び配信部40が有する映像合成部41を識別する合成部識別番号が記載されるテーブルを有するデータベース部62と、
前記映像ストリームの送信元から前記映像識別番号を取得し、データベース部62のテーブルの前記順位毎に前記映像識別番号を排他的に記載する接続管理部63と、
をさらに備える。
そして、配信部40は、レイアウト枠設定装置52が設定した前記レイアウト枠の情報に基づいて、データベース部62のテーブルの、受信端末51が表示する前記順位に前記合成部識別番号を記載する。ネットワーク制御部61は、データベース部62のテーブルの記載から伝送を停止する前記映像ストリーム及び伝送を再開する前記映像ストリームを判断する。
The multipoint connection device 100
A video identification number (for example, a destination port number) for identifying the video stream and a combining unit identification for identifying the video combining unit 41 included in the distribution unit 40 based on the order corresponding to each layout frame displayed by the receiving terminal 51 A database unit 62 having a table in which numbers are described;
A connection management unit 63 which acquires the video identification number from the transmission source of the video stream, and exclusively describes the video identification number for each rank of the table of the database unit 62;
Further comprising
Then, based on the information on the layout frame set by the layout frame setting device 52, the distribution unit 40 describes the combining unit identification number in the order displayed by the receiving terminal 51 in the table of the database unit 62. The network control unit 61 determines the video stream to stop transmission and the video stream to resume transmission from the description in the table of the database unit 62.

多地点接続装置100は、接続管理部63、映像復号部32、映像合成部41、映像符号化部42、データベース部62、及びネットワーク制御部61から構成される。これらの機能は別々のプロセス、あるいはハードウェア上に分散して実現してもよい。   The multipoint connection device 100 includes a connection management unit 63, a video decoding unit 32, a video combining unit 41, a video coding unit 42, a database unit 62, and a network control unit 61. These functions may be implemented separately on separate processes or hardware.

多地点接続装置100は、各拠点の映像符号化装置12から符号化された映像ストリームを受信し、宛先ポート番号等の情報からストリームを識別して各映像復号部32にIPパケットを振り分ける。多地点接続装置100の接続管理部63と映像符号化装置12は、接続時に上記の映像ストリームを識別するための情報を交換する。なお、この識別情報が事前に取り決められていれば、交換は不要である。以降では映像ストリームの識別に宛先ポート番号を使用する場合について記載する。接続を確立するため、H.323等の標準化されたプロトコルを用いてもよい。   The multipoint connection apparatus 100 receives the video stream encoded from the video encoding apparatus 12 at each site, identifies the stream from the information such as the destination port number, and distributes the IP packet to each video decoding unit 32. The connection management unit 63 of the multipoint connection apparatus 100 and the video encoding apparatus 12 exchange information for identifying the above-mentioned video stream at the time of connection. In addition, if this identification information is previously decided, exchange is unnecessary. In the following, the case of using a destination port number for identification of a video stream will be described. H. to establish a connection. Standardized protocols such as H.323 may be used.

レイアウト枠設定装置52は、多地点接続装置100の映像合成部41に対してレイアウト枠設定情報を送信する。図2にレイアウト枠の設定例を示す。図2(a)は、均等な大きさのレイアウト枠の例、図2(b)と(c)は特定の拠点を拡大表示するレイアウト枠の例である。各レイアウト枠内の数字はユニークに割り当てられた順位である。レイアウト枠は画面内で映像を配置する位置情報と順位を保持する。さらに、透過度等の表示方法を指定するパラメタを追加で保持してもよい。レイアウト枠は時間的に変化するアニメーション表現を備えてもよい。レイアウト枠設定情報では、各レイアウト枠に表示する映像は指定されない。後述する順位決定装置が特定の基準に基づいて、映像の順位を決定することにより、各レイアウト枠に表示される映像が決定される。   The layout frame setting device 52 transmits layout frame setting information to the video synthesizing unit 41 of the multipoint connection device 100. FIG. 2 shows an example of setting a layout frame. FIG. 2 (a) is an example of a layout frame of uniform size, and FIGS. 2 (b) and 2 (c) are examples of a layout frame on which a specific base is enlarged and displayed. The numbers in each layout frame are uniquely assigned orders. The layout frame holds the position information and the order of arranging the video in the screen. Furthermore, a parameter for specifying a display method such as transparency may be additionally held. The layout frame may comprise a time-varying animation representation. In the layout frame setting information, the video to be displayed in each layout frame is not designated. The image displayed in each layout frame is determined by determining the order of the images based on a specific criterion by the order determining device described later.

データベース部62は、宛先ポート番号と順位とこれを使用している映像合成部の合成識別番号から構成されるテーブルを保持する。図3にリレーショナルデータベースによるテーブルの例を示す。図3のテーブルにおいて、「順位」はレイアウト枠に割り当てている順位である。「宛先ポート番号」は、多地点接続装置100の映像復号部32を識別するUDPポート番号であり、入力される映像ストリームを識別する番号でもある。例えば、順位1の映像(5001)は受信端末51−1、受信端末51−2、及び受信端末51−3の3端末で使用され、順位3の映像(5003)は受信端末51−1のみで使用される。一方、順位4の映像(5004)は、いずれの映像端末でも使用されない。なお、図1では、映像合成部と受信端末とは1:1の関係であるが、1つの映像合成部から複数の受信端末へ合成映像が配信されることもある。   The database unit 62 holds a table composed of destination port numbers and ranks, and composite identification numbers of video combining units using them. FIG. 3 shows an example of a relational database table. In the table of FIG. 3, "order" is the order assigned to the layout frame. The “destination port number” is a UDP port number that identifies the video decoding unit 32 of the multipoint connection device 100, and is also a number that identifies the input video stream. For example, the video (5001) of the rank 1 is used by three terminals of the receiving terminal 51-1, the receiving terminal 51-2, and the receiving terminal 51-3, and the video (5003) of the rank 3 is used only by the receiving terminal 51-1. used. On the other hand, the video (5004) of the order 4 is not used in any video terminal. In FIG. 1, the video synthesizing unit and the receiving terminal have a 1: 1 relationship, but a synthesized video may be distributed from one video synthesizing unit to a plurality of receiving terminals.

テーブル更新時のフローチャートを図4に示す。テーブルが更新されるタイミングについては後述する。データベース部62は、テーブルを更新する(ステップS01)と、映像復号部32に対して復号映像を渡すべき映像合成部41の識別番号を通知する(ステップS02)。さらに、ネットワーク制御部61は、データベース部62を監視しており、使用されない映像ストリームが発生した場合(ステップS05において“Yes”)には、当該映像ストリームを伝送するネットワーク装置25に対してコマンドを発行し、当該映像ストリームの転送を停止させる(ステップS06)。ネットワーク装置に対するコマンドはネットワーク装置に固有のコマンドでもよいし、OpenFlowのようなプロトコルに基づくコマンドでもよい。また複数のネットワーク装置を統合して管理する管理プログラムが存在する場合は、その管理プログラムに対して所望の動作を実現する管理プログラム用のコマンドを発行してもよい。   A flowchart at the time of table update is shown in FIG. The timing at which the table is updated will be described later. When the database unit 62 updates the table (step S01), the database unit 62 notifies the video decoding unit 32 of the identification number of the video synthesis unit 41 to which the decoded video should be passed (step S02). Further, the network control unit 61 monitors the database unit 62, and when an unused video stream is generated ("Yes" in step S05), a command is sent to the network device 25 transmitting the video stream. Then, the transfer of the video stream is stopped (step S06). The command to the network device may be a command specific to the network device or a command based on a protocol such as OpenFlow. Further, when there is a management program that integrates and manages a plurality of network devices, a command for the management program may be issued to realize the desired operation to the management program.

映像配信システム301は、上述のようにいずれの受信端末も使用していない映像ストリームをネットワーク上で停止することによって不要なトラフィックを削減する。例えば、図3では、5004番ポート宛の映像ストリームは、映像合成部41が出力するいずれの合成映像でも使用されていないため、ネットワーク制御部61がネットワーク装置25に対して5004番ポート宛の映像ストリームの転送を停止させればよい。反対に、それまで停止されていた映像ストリームが合成映像で新たに使用されるようになった場合(ステップS03にて“Yes”)、ネットワーク制御部61がネットワーク装置25に対してコマンドを発行し、当該映像ストリームの転送を開始させる(ステップS04)。   The video delivery system 301 reduces unnecessary traffic by stopping a video stream not used by any receiving terminal on the network as described above. For example, in FIG. 3, since the video stream addressed to the 5004 port is not used in any composite video output from the video combining unit 41, the network control unit 61 transmits the video addressed to the 5004 port to the network device 25. Stop the stream transfer. On the other hand, when the video stream which has been stopped up to that point is newly used as a composite video (“Yes” in step S03), the network control unit 61 issues a command to the network device 25. The transfer of the video stream is started (step S04).

映像ストリームは宛先ポート番号によって区別されるため、ネットワーク装置25によって転送停止あるいは開始を制御することが可能であり、映像符号化装置12の機能には依存しない。制御するネットワーク装置25は、映像送信装置10から多地点接続装置100までのネットワーク経路中のいずれのネットワーク装置であってもよい。   Since the video stream is distinguished by the destination port number, it is possible to control transfer stop or start by the network device 25 and does not depend on the function of the video encoding device 12. The network device 25 to be controlled may be any network device in the network path from the video transmission device 10 to the multipoint connection device 100.

映像復号部32は、受け取った符号化映像ストリームから映像を復号し、データベース部62から通知された映像合成部41に対して復号映像を渡す。映像合成部41は、1つ又は複数の映像復号部32から復号された映像を受け取り、レイアウト枠設定装置52から通知されたレイアウト枠設定に従って映像を合成し、合成映像を映像符号化部42に渡す。このとき、音声も合成して映像符号化部に渡す。映像符号化部42は、映像合成部41から渡された合成映像を符号化し、受信端末51に向けてIPパケットを送信する。   The video decoding unit 32 decodes the video from the received coded video stream, and passes the decoded video to the video combining unit 41 notified from the database unit 62. The video synthesis unit 41 receives the decoded video from the one or more video decoding units 32, synthesizes the video according to the layout frame setting notified from the layout frame setting device 52, and transmits the synthesized video to the video coding unit 42. hand over. At this time, the voice is also synthesized and passed to the video encoding unit. The video encoding unit 42 encodes the composite video delivered from the video combining unit 41 and transmits an IP packet to the receiving terminal 51.

図1のように一つの多地点接続装置が複数の映像合成部を備え、複数の合成映像を生成してもよい。また、一つの多地点接続装置が1つの映像合成部をそなえ、単一の合成映像を複数の受信端末に送信してもよい。   As shown in FIG. 1, one multipoint connection device may include a plurality of video combining units and generate a plurality of combined videos. Also, one multipoint connection device may be equipped with one video combining unit and transmit a single combined video to a plurality of receiving terminals.

例えば、映像合成部41がレイアウト枠設定装置52からレイアウト枠情報を受信したときをテーブル更新時とすることができる。映像合成部41は、レイアウト枠設定装置52からレイアウト枠情報を受信すると、それが可能なレイアウトであるか確認する。使用される映像の本数が復号可能な映像の本数を上回っている等の理由からレイアウトの実現が不可能である場合には、レイアウト枠設定装置52に対してエラーを返す。可能なレイアウトであると確認した場合には、自身のレイアウト設定を更新し、同時にデータベース部62のテーブルを更新する。   For example, the time when the video synthesis unit 41 receives layout frame information from the layout frame setting device 52 can be set as table update time. When receiving the layout frame information from the layout frame setting device 52, the video combining unit 41 confirms whether the layout is possible. If the layout can not be realized because the number of videos to be used exceeds the number of decodable videos, an error is returned to the layout frame setting device 52. When it is confirmed that the layout is possible, the layout setting of its own is updated, and at the same time, the table of the database unit 62 is updated.

例えば、映像ストリームの順位が変化した時をテーブル更新時とすることができる。
データベース部62は、前記映像ストリームに前記順位を付す順位決定装置14から前記映像ストリームについての前記順位が通知され、前記テーブルに記載された映像識別番号を通知された前記順位へ移動させる。
順位決定装置14は、映像音声だけでなく、各種センサ等のメタデータ生成装置13からメタデータを受け取り、特定の基準に従って映像ストリームに順位付けを行う。例えば、「順位」は、最後の発話を1位としてその前の発話を2位とする順番や、赤外線センサで検出した撮影対象者の動きの大きさが大きい順番等である。順位決定装置14は、映像ストリームの順位を変動した際には、データベース部62のテーブルを更新する。図3のようなテーブルでは、2列目の宛先ポート番号を入れ替えればよい。例えば、宛先ポート番号5003の映像ストリームの順位が3位から1位に変化し、宛先ポート番号5001の映像ストリームの順位が1位から3位に変化した時、順位決定装置14は当該情報をデータベース部62に通知し、データベース部62は現在1位の宛先ポート番号と現在3位の宛先ポート番号とを入れ替える。
For example, the time when the order of the video stream changes can be set as the table update time.
The database unit 62 is notified of the order of the video stream from the order determining device 14 which assigns the order to the video stream, and moves the video identification number described in the table to the notified order.
The order determination device 14 receives not only video and audio but also metadata from the metadata generation device 13 such as various sensors, and ranks the video stream according to a specific criterion. For example, “order” is an order such that the last utterance is first and the preceding utterance is second, and the order in which the magnitude of the movement of the person to be photographed detected by the infrared sensor is large. The order determination device 14 updates the table of the database unit 62 when changing the order of the video stream. In the table as shown in FIG. 3, the destination port numbers in the second column may be exchanged. For example, when the order of the video stream of the destination port number 5003 changes from the third place to the first place and the order of the video stream of the destination port number 5001 changes from the first place to the third place, the order determining device 14 The part 62 is notified, and the database part 62 replaces the current first destination port number with the current third destination port number.

映像の合成を開始するまでのシーケンスを図5に示す。
接続管理部63が宛先ポート番号を映像符号化装置12に通知すると同時にデータベース部62のテーブルに宛先ポート番号のエントリを作成する。初期段階では、「宛先ポート番号」と「順位」との関係が不明であるので、作成した各エントリに重複しないように任意の「順位」を設定してもよい。「順位」の設定については後述する。
The sequence up to the start of video composition is shown in FIG.
At the same time as the connection management unit 63 notifies the video encoding apparatus 12 of the destination port number, an entry of the destination port number is created in the table of the database unit 62. In the initial stage, since the relationship between the “destination port number” and the “order” is unknown, any “order” may be set so as not to overlap each entry created. The setting of the "order" will be described later.

各映像合成部41は、通知されたレイアウト枠設定(使用する「順位」)に基づき、データベース部62のテーブルに作成されたエントリのうち、使用する「順位」のエントリに自身の識別番号を記載する。   Each video synthesizing unit 41 describes its own identification number in the entry of “order” to be used among the entries created in the table of the database unit 62 based on the notified layout frame setting (“order” to be used). Do.

データベース部62は復号映像を渡す映像合成部41の識別番号を映像復号部32に通知する。映像符号化装置12が映像ストリーミングを開始すると、映像符号化装置12から送られてきた映像ストリームを映像復号部32で復号し、テーブルの設定に従って当該映像が使用される映像合成部41に渡される。   The database unit 62 notifies the video decoding unit 32 of the identification number of the video synthesis unit 41 which passes the decoded video. When the video encoding device 12 starts video streaming, the video stream sent from the video encoding device 12 is decoded by the video decoding unit 32, and the video is delivered to the video synthesizing unit 41 where the video is used according to the setting of the table. .

なお、初期段階では、テーブルにおいて「宛先ポート番号」と「順位」との関係が任意であるので、受信端末はレイアウトの各順位の枠に任意の映像ストリームが表示されることになる。所定後は、順位決定装置14が決定する順位やユーザの手動順位設定に従ってテーブルの宛先ポート番号列が更新され、更新されたテーブルの設定に従って映像が映像合成部41に映像が渡される。   In the initial stage, since the relationship between the "destination port number" and the "order" in the table is arbitrary, the receiving terminal displays an arbitrary video stream in each rank of the layout. After predetermined, the destination port number string of the table is updated according to the order determined by the order determining device 14 and the manual order setting of the user, and the image is delivered to the image combining unit 41 according to the updated table setting.

以上のように映像配信システム301は、
トラフィックの伝送を制御するネットワーク装置25を有するネットワーク20へ複数の映像ストリームを送信する映像送信手順と、
ネットワーク20から複数の前記映像ストリームを受信する受信手順と、
受信端末51毎に、前記受信手順で受信した前記映像ストリームのうち、任意の前記映像ストリームあるいは任意の複数の前記映像ストリームを合成した合成映像ストリームを配信する配信手順と、
ネットワーク装置25に対して、受信端末51のいずれにも配信されていない、且つ前記合成映像ストリームのいずれにも合成されていない前記映像ストリームの伝送の停止、並びに伝送を停止された前記映像ストリームの伝送の再開を指示するネットワーク制御手順と、
を行う。
As described above, the video delivery system 301
A video transmission procedure for transmitting a plurality of video streams to a network 20 having a network device 25 controlling transmission of traffic;
A reception procedure for receiving a plurality of the video streams from the network 20;
A distribution procedure for distributing, for each of the reception terminals 51, a composite video stream obtained by combining any of the video stream or any of a plurality of the video streams among the video streams received in the reception procedure;
Stop of transmission of the video stream which has not been distributed to any of the receiving terminals 51 and not synthesized into any of the composite video stream with respect to the network device 25; A network control procedure that instructs to resume transmission;
I do.

(実施例1)
本実施例では、発話の順番に基づいてレイアウトを決定する映像配信システム301の例について説明する。前記順位が、前記映像ストリームの送信元の音量に基づいて決定される。
Example 1
In the present embodiment, an example of the video distribution system 301 that determines a layout based on the order of utterances will be described. The order is determined based on the volume of the transmission source of the video stream.

各拠点に音量計測装置を設置し、順位決定装置に対して各拠点の音量を送信する。音量計測には、遠隔地に送信する音声を分岐して利用してもよい。あるいは、音量計測専用のマイクロホンを用いてもよい。順位決定装置は、全拠点の音量を比較することで現在どの拠点が発話状態であるかを判定する。現話者の順位を1位とし、その前の話者は2位と、最後の発言が古くなるにつれて順位を低くする。例えば、図2(b)のレイアウトを使用する場合、発話状態で順位1位の拠点は最も大きな領域に配置し、以降2位、3位、4位までを画面下部に小さく表示する。5位以降は合成映像に使用しない。これによって、直近に発言のあった拠点を視覚的に把握することができる。
本実施例の映像配信システム301を用いれば、ユーザは合成映像から各拠点の発言状況を把握することができる。
A volume measuring device is installed at each site, and the volume of each site is transmitted to the order determining device. The sound to be transmitted to a remote location may be branched and used for volume measurement. Alternatively, a microphone dedicated to volume measurement may be used. The order determining device determines which site is currently in the speech state by comparing the volumes of all sites. The current speaker is ranked first, and the speaker before that is ranked second, and lowers as the last speech becomes older. For example, when using the layout of FIG. 2B, the first place base is arranged in the largest area in the speech state, and the second, third and fourth places are displayed smaller at the lower part of the screen thereafter. The fifth and subsequent positions are not used for composite video. By this, it is possible to visually grasp the base where the latest speech was made.
By using the video delivery system 301 of this embodiment, the user can grasp the speech situation of each site from the composite video.

(実施例2)
本実施例では、次話者推定に基づいてレイアウトを決定する映像配信システム301の例について説明する。前記順位が、前記映像ストリームの送信元の音量が最大の前記映像ストリームが1位とされ、1位の前記映像ストリームから他の前記映像ストリームへの遷移確率に基づき2位以下が決定されたものである。
(Example 2)
In this embodiment, an example of the video distribution system 301 for determining the layout based on the next speaker estimation will be described. The video stream with the highest volume at the transmission source of the video stream is ranked first, and the second or lower rank is determined based on the transition probability from the first video stream to another video stream. It is.

特許文献1では現話者によって映像レイアウトを決定しているが、発話の検出に要する時間によっては話者が切り替わった後でも映像が切り替わらない状況が発生してしまう場合が考えられる。このような状況を防ぐために、次話者の予測を行い、合成映像上に予め配置しておくことによって、映像切り替えが遅延しても会話の流れを把握しやすくなると期待できる。   In Patent Document 1, the video layout is determined by the current speaker. However, depending on the time required to detect an utterance, there may be a situation where the video is not switched even after the speaker is switched. In order to prevent such a situation, by predicting the next speaker and arranging in advance on the composite video, it can be expected that the flow of conversation can be easily grasped even if the video switching is delayed.

予め過去の会話の記録から、話者交代の順番を記録し、図6に示すような現話者から次話者への遷移確率を計算しておく。各拠点で音量を計算し、結果を順位決定装置に送信する。順位決定装置で各拠点の音量を比較し、最も音量の大きい地点を現話者とする。現話者の順位を1位とし、現話者からの遷移確率が高い順に2位以降を決定する。例えば、図6の遷移確率を利用する場合、現話者がカメラ11−1であるときには宛先ポート番号5001が順位1位、カメラ11−2が2位、カメラ11−3が3位、カメラ11−4が4位となる。図2(c)のレイアウトを使用する場合、大きい領域にカメラ11−1の映像を表示し、小さい領域にカメラ11−2の映像を表示する。   The order of the speaker change is recorded in advance from the record of the past conversation, and the transition probability from the current speaker to the next speaker as shown in FIG. 6 is calculated. The volume is calculated at each location and the result is sent to the ranking device. The order determination device compares the volume of each site, and the point with the largest volume is taken as the current speaker. The current speaker is ranked first, and the second and subsequent ranks are determined in descending order of the transition probability from the current speaker. For example, when using the transition probability of FIG. 6, when the current speaker is the camera 11-1, the destination port number 5001 is the first place, the camera 11-2 is the second place, the camera 11-3 is the third place, the camera 11 -4 is the fourth place. When using the layout of FIG. 2C, the video of the camera 11-1 is displayed in a large area, and the video of the camera 11-2 is displayed in a small area.

次話者予測の方法として、視線センサを用いた視線方向からの推定や、呼吸センサ等を用いた呼吸リズムからの推定を利用してもよい。   As a method of predicting the next speaker, estimation from a gaze direction using a gaze sensor or estimation from a breathing rhythm using a respiration sensor or the like may be used.

(発明の効果)
合成映像に使用される映像のみを多地点接続装置に転送するよう、映像伝送経路中のネットワーク装置を制御することにより、ネットワークトラフィックを削減する効果が期待できる。映像ストリームの転送開始や中止の状態を変更する際に、映像符号化装置の状態を変更する必要が無いため、映像符号化装置の状態を制御する場合に比べて、映像切り替えに対する応答が高速である。また、制御対象がネットワーク装置のみであるため、映像符号化装置がそのような制御機能に対応している必要がない。
(Effect of the invention)
By controlling the network device in the video transmission path so as to transfer only the video used for the composite video to the multipoint connection device, the effect of reducing the network traffic can be expected. Since it is not necessary to change the state of the video encoding device when changing the state of transfer start or stop of the video stream, the response to the video switching is faster than when the state of the video encoding device is controlled. is there. Also, since the control target is only the network device, the video encoding device does not have to support such a control function.

必要な映像ストリームのみを復号処理するため、合成映像に用いる拠点数(カメラ数、映像ストリーム数)が一定であれば、全体の拠点数が増加しても映像合成装置での復号処理量は増加しない。これにより、多数の拠点を扱うことが可能になる。   In order to decode only the necessary video stream, if the number of bases (the number of cameras and the number of video streams) used for the composite video is constant, the amount of decoding processing in the video combining device increases even if the total number of bases increases. do not do. This makes it possible to handle a large number of bases.

テレビ会議映像音声から抽出された物理量以外も、レイアウトを決定する際の基準として利用可能である。センサ情報等の各種メタデータから映像を順位付けする基準を用いてもよい。本特徴によって、受信者の嗜好に応じた合成映像の構成が可能になると期待できる。   Aside from physical quantities extracted from video conference video and audio, they can also be used as a basis for determining the layout. You may use the reference | standard which ranks an image | video from various metadata, such as sensor information. It can be expected that this feature makes it possible to configure a composite video according to the preference of the receiver.

10:映像送信装置
11、11−1、11−2、・・・:カメラ
12、12−1、12−2、・・・:映像符号化装置
13、13−1、13−2、・・・:メタデータ生成装置
14:順位決定装置
20:ネットワーク
25、25−1、25−2、・・・:ネットワーク装置
30:受信部
31、31−1、31−2、・・・:宛先ポート
32、32−1、32−2、・・・:映像復号部
40:配信部
41、41−1、41−2、・・・:映像合成部
42、42−1、42−2、・・・:映像符号化部
51、51−1、51−2、・・・:受信端末
52、52−1、52−2、・・・:レイアウト枠設定装置
61:ネットワーク制御部
62:データベース部
63:接続管理部
100:多地点接続装置
301:映像配信システム
10: Video transmission devices 11, 11-1, 11-2, ...: Cameras 12, 12-1, 12-2, ...: Video coding devices 13, 13-1, 13-2, ... · · · Metadata generation device 14: Rank determination device 20: Network 25, 25-1, 25-2, ...: Network device 30: Receiver 31, 31-1, 31-2, ...: Destination port 32, 32-1, 32-2, ...: Video decoding unit 40: Distribution units 41, 41-1, 41-2, ...: Video combining unit 42, 42-1, 42-2, ... · ·: Video coding unit 51, 51-1, 51-2, ...: Reception terminals 52, 52-1, 52-2, ...: Layout frame setting device 61: Network control unit 62: Database unit 63 : Connection management unit 100: Multipoint connection device 301: Video distribution system

Claims (8)

映像送信装置が常時送信する複数の映像ストリームをネットワーク上のトラフィックの伝送を制御するネットワーク装置を介して受信する受信部と、
受信端末毎に、前記受信部が受信した前記映像ストリームのうち、任意の前記映像ストリームあるいは任意の複数の前記映像ストリームを合成した合成映像ストリームを配信する配信部と、
前記ネットワーク装置に対して、前記受信端末のいずれにも配信されていない、且つ前記合成映像ストリームのいずれにも合成されていない前記映像ストリームの伝送の停止、並びに伝送を停止された前記映像ストリームの伝送の再開を指示するネットワーク制御部と、
を備えることを特徴とする多地点接続装置。
A receiving unit that receives, via a network device that controls transmission of traffic on the network, a plurality of video streams that the video transmission device constantly transmits ;
A distribution unit for distributing, for each receiving terminal, a composite video stream obtained by combining any one of the video stream or any of a plurality of the video streams among the video streams received by the receiving unit;
Stopping the transmission of the video stream that has not been distributed to any of the receiving terminals and has not been synthesized to any of the composite video streams to the network device, and the video stream whose transmission has been stopped A network control unit instructing resumption of transmission;
A multipoint connection device comprising:
前記受信端末が表示するレイアウト枠それぞれに相当する順位を基準として、前記映像ストリームを識別する映像識別番号、及び前記配信部が有する映像合成部を識別する合成部識別番号が記載されるテーブルを有するデータベース部と、
前記映像ストリームの送信元から前記映像識別番号を取得し、前記データベース部のテーブルの前記順位毎に前記映像識別番号を排他的に記載する接続管理部と、
をさらに備え、
前記配信部は、前記レイアウト枠の情報に基づいて、前記データベース部のテーブルの、前記受信端末が表示する前記順位に前記合成部識別番号を記載し、
前記ネットワーク制御部は、前記データベース部のテーブルの記載から伝送を停止する前記映像ストリーム及び伝送を再開する前記映像ストリームを判断する
ことを特徴とする請求項1に記載の多地点接続装置。
It has a table in which a video identification number for identifying the video stream and a combining unit identification number for identifying a video combining unit included in the distribution unit are described based on the order corresponding to each layout frame displayed by the receiving terminal. Database department,
A connection management unit that acquires the video identification number from the transmission source of the video stream and exclusively describes the video identification number for each rank in the table of the database unit;
And further
The distribution unit describes the combining unit identification number in the order displayed by the receiving terminal in the table of the database unit based on the information of the layout frame.
2. The multipoint connection apparatus according to claim 1, wherein the network control unit determines the video stream to stop transmission and the video stream to resume transmission from the description of the table of the database unit.
前記データベース部は、前記映像ストリームに前記順位を付す順位決定装置から前記映像ストリームについての前記順位が通知され、前記テーブルに記載された映像識別番号を通知された前記順位へ移動させることを特徴とする請求項2に記載の多地点接続装置。   The database unit is notified of the rank of the video stream from a rank determination device that ranks the video stream, and moves the video identification number described in the table to the notified rank. The multipoint connection device according to claim 2. 前記順位が、前記映像ストリームの送信元の音量に基づいて決定されることを特徴とする請求項3に記載の多地点接続装置。   The multipoint connection device according to claim 3, wherein the order is determined based on a volume of a transmission source of the video stream. 前記順位が、
前記映像ストリームの送信元の音量が最大の前記映像ストリームが1位とされ、1位の前記映像ストリームから他の前記映像ストリームへの遷移確率に基づき2位以下が決定されたものであることを特徴とする請求項3に記載の多地点接続装置。
The order is
It is assumed that the video stream with the largest volume of the transmission source of the video stream is regarded as the first place, and the second place or less is determined based on the transition probability from the first video stream to the other video stream. A multipoint connection device according to claim 3, characterized in that:
ネットワーク上のトラフィックの伝送を制御するネットワーク装置へ複数の映像ストリームを常時送信する映像送信装置と、多地点接続装置とを備え、
前記多地点接続装置は、
前記ネットワークから前記ネットワーク装置を介して複数の前記映像ストリームを受信する受信部と、
受信端末毎に、前記受信部が受信した前記映像ストリームのうち、任意の前記映像ストリームあるいは任意の複数の前記映像ストリームを合成した合成映像ストリームを配信する配信部と、
前記ネットワーク装置に対して、前記受信端末のいずれにも配信されていない、且つ前記合成映像ストリームのいずれにも合成されていない前記映像ストリームの伝送の停止、並びに伝送を停止された前記映像ストリームの伝送の再開を指示するネットワーク制御部と、
を備えることを特徴とする映像配信システム。
Comprising a video transmitting apparatus for transmitting continuously a plurality of video streams to the network equipment that controls the transmission of traffic on the network, and a multipoint control unit,
The multipoint connection device
A receiving unit that receives a plurality of the video streams from the network via the network device ;
A distribution unit for distributing, for each receiving terminal, a composite video stream obtained by combining any one of the video stream or any of a plurality of the video streams among the video streams received by the receiving unit;
Stopping the transmission of the video stream that has not been distributed to any of the receiving terminals and has not been synthesized to any of the composite video streams to the network device, and the video stream whose transmission has been stopped A network control unit instructing resumption of transmission;
A video delivery system comprising:
映像送信装置が、ネットワーク上のトラフィックの伝送を制御するネットワーク装置へ複数の映像ストリームを常時送信する映像送信手順を行い
多地点接続装置が、
前記ネットワークから前記ネットワーク装置を介して複数の前記映像ストリームを受信する受信手順と、
受信端末毎に、前記受信手順で受信した前記映像ストリームのうち、任意の前記映像ストリームあるいは任意の複数の前記映像ストリームを合成した合成映像ストリームを配信する配信手順と、
前記ネットワーク装置に対して、前記受信端末のいずれにも配信されていない、且つ前記合成映像ストリームのいずれにも合成されていない前記映像ストリームの伝送の停止、並びに伝送を停止された前記映像ストリームの伝送の再開を指示するネットワーク制御手順と、
を行うことを特徴とする多地点接続方法。
Video transmission apparatus performs image transmission step of transmitting a plurality of video streams to the network equipment that controls the transmission of traffic on the network at all times,
The multipoint connection device
A reception procedure for receiving a plurality of the video streams from the network via the network device ;
A delivery procedure for delivering, for each receiving terminal, a composite video stream obtained by combining any of the video stream or any of a plurality of the video streams among the video streams received in the reception procedure;
Stopping the transmission of the video stream that has not been distributed to any of the receiving terminals and has not been synthesized to any of the composite video streams to the network device, and the video stream whose transmission has been stopped A network control procedure that instructs to resume transmission;
A multipoint connection method characterized by performing.
請求項1から5のいずれかに記載の多地点接続装置としてコンピュータを機能させるためのプログラム。   A program for causing a computer to function as the multipoint connection device according to any one of claims 1 to 5.
JP2016122285A 2016-06-21 2016-06-21 Multipoint connection device, video distribution system, multipoint connection method, and program Active JP6534968B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016122285A JP6534968B2 (en) 2016-06-21 2016-06-21 Multipoint connection device, video distribution system, multipoint connection method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016122285A JP6534968B2 (en) 2016-06-21 2016-06-21 Multipoint connection device, video distribution system, multipoint connection method, and program

Publications (2)

Publication Number Publication Date
JP2017228866A JP2017228866A (en) 2017-12-28
JP6534968B2 true JP6534968B2 (en) 2019-06-26

Family

ID=60889358

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016122285A Active JP6534968B2 (en) 2016-06-21 2016-06-21 Multipoint connection device, video distribution system, multipoint connection method, and program

Country Status (1)

Country Link
JP (1) JP6534968B2 (en)

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3202473B2 (en) * 1994-03-18 2001-08-27 富士通株式会社 Video conference system
JP2002218424A (en) * 2001-01-12 2002-08-02 Mitsubishi Electric Corp Video display controller
JP2007243854A (en) * 2006-03-13 2007-09-20 Yamaha Corp Video teleconference terminal
JP4957119B2 (en) * 2006-08-11 2012-06-20 富士通東芝モバイルコミュニケーションズ株式会社 Information processing device
JP5216303B2 (en) * 2007-11-01 2013-06-19 株式会社東芝 Composite video distribution apparatus and method and program thereof
JP2013183293A (en) * 2012-03-01 2013-09-12 Nec Corp Connection device, system, connection method and connection program for multipoint conference
JP6069881B2 (en) * 2012-04-25 2017-02-01 株式会社リコー Relay device, display data sharing system, data control method and program
JP2014050018A (en) * 2012-09-03 2014-03-17 Ricoh Co Ltd Information processing device and video conference system and program
JP2016032128A (en) * 2014-07-25 2016-03-07 株式会社リコー Remote conference system, communication terminal, and program

Also Published As

Publication number Publication date
JP2017228866A (en) 2017-12-28

Similar Documents

Publication Publication Date Title
US7508413B2 (en) Video conference data transmission device and data transmission method adapted for small display of mobile terminals
US7587454B2 (en) Video streaming parameter optimization and QoS
US9088692B2 (en) Managing the layout of multiple video streams displayed on a destination display screen during a videoconference
US8760490B2 (en) Techniques for a rate-adaptive video conference bridge
US20060088092A1 (en) Method and apparatus of controlling a plurality of video surveillance cameras
JP2015154315A (en) Video conference server, video conference system, and video conference method
WO2014161402A2 (en) Distributed video conference method, system, terminal, and audio-video integrated device
KR20150040125A (en) Master device, client device, and method for screen mirroring thereof
JP2007208458A (en) System, terminal, and method for communication
CN111147362B (en) Multi-user instant messaging method, system, device and electronic equipment
WO2014187062A1 (en) Method and device for playing conference signal, video conference terminal and mobile device
JP2012034343A (en) Image processing apparatus and control method thereof
US7453829B2 (en) Method for conducting a video conference
KR101727310B1 (en) Cross-Directional Casting Method
US11431770B2 (en) Method, system, apparatus, and electronic device for managing data streams in a multi-user instant messaging system
JP2010213119A (en) Video transmission system, imaging apparatus and monitoring device
JP6534968B2 (en) Multipoint connection device, video distribution system, multipoint connection method, and program
KR20090037741A (en) Remote surveillance system using a network camera
JP2002149316A (en) Data transmitter, data receiver, data transmission method, and program storage medium
JP2001268078A (en) Communication controller, its method, providing medium and communication equipment
JP2006238017A (en) Remote monitoring system and monitoring controller
JP2020036225A (en) Information processing apparatus, information processing method, and information processing program
JP2005045666A (en) Transcoder
JP2001145103A (en) Transmission device and communication system
JP2003046999A (en) Image monitoring system, monitored image distributing method therefor and camera therefor using network

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180612

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190110

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190122

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190320

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190528

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190530

R150 Certificate of patent or registration of utility model

Ref document number: 6534968

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150