JP6534968B2 - Multipoint connection device, video distribution system, multipoint connection method, and program - Google Patents
Multipoint connection device, video distribution system, multipoint connection method, and program Download PDFInfo
- Publication number
- JP6534968B2 JP6534968B2 JP2016122285A JP2016122285A JP6534968B2 JP 6534968 B2 JP6534968 B2 JP 6534968B2 JP 2016122285 A JP2016122285 A JP 2016122285A JP 2016122285 A JP2016122285 A JP 2016122285A JP 6534968 B2 JP6534968 B2 JP 6534968B2
- Authority
- JP
- Japan
- Prior art keywords
- video
- video stream
- transmission
- unit
- network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
- Telephonic Communication Services (AREA)
Description
本開示は、ネットワークを介して遠隔地と映像や音声をやり取りする映像コミュニケーションのための多地点通信装置、映像配信システム、多地点接続方法、及びプログラムに関する。 The present disclosure relates to a multipoint communication apparatus, video distribution system, multipoint connection method, and program for video communication for exchanging video and audio with a remote place via a network.
ネットワークを介して複数の遠隔地と映像や音声をやり取りするテレビ会議において、全ての拠点間で直接映像と音声を送受信する場合、受信側で必要となるネットワーク負荷と映像音声復号処理負荷が拠点数に伴って増加するため、多数の拠点に対応することは難しい。そこで、多数の地点を接続するテレビ会議では、受信側のネットワーク負荷と復号処理負荷を軽減するために、多地点接続装置を使用することが一般的である。多地点接続装置では、多数の拠点からの映像音声を受信し、複数の映像を一つの映像に合成して受信端末に配信することにより、受信側でのネットワーク負荷と復号処理負荷を映像一本分に軽減することができる。 In a video conference where video and audio are exchanged with multiple remote locations via a network, the network load and video / audio decoding processing load required on the receiving side when transmitting and receiving video and audio directly between all locations are the number of locations. It is difficult to deal with a large number of bases because Therefore, in a video conference connecting many points, it is general to use a multipoint connection device in order to reduce the network load and decoding processing load on the receiving side. The multipoint connection device receives video and audio from multiple locations, combines multiple videos into one video, and distributes it to the receiving terminal, so that the network load and decoding processing load on the receiving side is one video It can be reduced to a minute.
特許文献1には、多地点接続装置において各拠点の映像音声から音声レベル等の物理量を測定し、測定された物理量に基づいて映像の表示形態を動的に変更する技術が記載されている。その実施例として、音量レベルから発言している拠点を特定し、発言拠点の映像を他の拠点の映像よりも拡大表示する方法が記載されている。また、特許文献2には限られたネットワークリソースを発言拠点に対して大きく割り当てる技術が記載されている。実施例として、発言拠点の映像符号化における量子化ステップ数やピクチャグループの構成を動的に変更することで、発言拠点の映像を高精細化する方法が記載されている。
特許文献1と2の方法では、多地点接続装置は全ての拠点から映像音声を受信することを前提としている。そのため、接続する拠点数に応じて多地点接続装置におけるネットワーク負荷と復号処理負荷が増加する。多地点接続装置の利用によって各拠点の受信端末におけるネットワーク負荷と復号処理負荷を軽減できるものの、多地点接続装置では接続拠点数に応じたネットワーク帯域と、復号処理のための計算リソース(CPUや復号回路)が必要となる。
In the methods of
また、一つの拠点から複数台のカメラ映像を送信する場合、当該拠点と多地点接続装置までの間にカメラ映像の本数に応じたネットワーク帯域の空きが必要である。合成映像で使用されない映像の送信を停止することでネットワーク負荷の軽減が可能だが、一旦符号化装置を停止すると送信再開までに時間を要するため、急な映像の切り替えに対応することが困難である。 In addition, when transmitting a plurality of camera images from one site, it is necessary to have an available network bandwidth corresponding to the number of camera images between the site and the multipoint connection device. Although it is possible to reduce the network load by stopping the transmission of video not used in composite video, it is difficult to cope with sudden video switching since it takes time to resume transmission once the coding device is stopped. .
応答性とネットワークトラフィックの観点からは、符号化装置では常に符号化処理を行いながら、合成映像で使用されるときだけIPパケットを送信するよう制御することが望ましい。しかし、そのような制御を行うためには符号化装置が多地点接続装置から通知される情報に基づいてIPパケット送信を制御する仕組みが必要である。故に、予めそのような機能を搭載した符号化装置が必要である。 From the viewpoints of responsiveness and network traffic, it is desirable that the encoding apparatus performs control to transmit an IP packet only when it is used in composite video, while always performing encoding processing. However, in order to perform such control, it is necessary for the coding device to control IP packet transmission based on the information notified from the multipoint connection device. Therefore, a coding device equipped with such a function in advance is required.
つまり、従来の多地点接続装置には、映像切替の応答性改善とネットワーク負荷の低減が課題であった。そこで、本発明は、上記課題を解決すべく、映像切替の応答性を改善し、ネットワーク負荷を低減できる多地点接続装置、映像配信システム、多地点接続方法、及びプログラムを提供することを目的とする。 That is, in the conventional multipoint connection device, the improvement of the responsiveness of the image switching and the reduction of the network load have been problems. Therefore, the present invention has an object to provide a multipoint connection device, a video distribution system, a multipoint connection method, and a program, which can improve the responsiveness of video switching and reduce the network load, in order to solve the above problems. Do.
上記目的を達成するために、本発明に係る多地点接続装置は、いずれの受信端末で使用されていない映像ストリームをネットワーク上で停止することとした。 In order to achieve the above object, the multipoint connection device according to the present invention decides to stop video streams not being used at any receiving terminal on the network.
具体的には、本発明に係る多地点接続装置は、
トラフィックの伝送を制御するネットワーク装置を有するネットワークから複数の映像ストリームを受信する受信部と、
受信端末毎に、前記受信部が受信した前記映像ストリームのうち、任意の前記映像ストリームあるいは任意の複数の前記映像ストリームを合成した合成映像ストリームを配信する配信部と、
前記ネットワーク装置に対して、前記受信端末のいずれにも配信されていない、且つ前記合成映像ストリームのいずれにも合成されていない前記映像ストリームの伝送の停止、並びに伝送を停止された前記映像ストリームの伝送の再開を指示するネットワーク制御部と、
を備える。
Specifically, the multipoint connection apparatus according to the present invention is
A receiver for receiving a plurality of video streams from a network having a network device for controlling transmission of traffic;
A distribution unit for distributing, for each receiving terminal, a composite video stream obtained by combining any one of the video stream or any of a plurality of the video streams among the video streams received by the receiving unit;
Stopping the transmission of the video stream that has not been distributed to any of the receiving terminals and has not been synthesized to any of the composite video streams to the network device, and the video stream whose transmission has been stopped A network control unit instructing resumption of transmission;
Equipped with
また、本発明に係る映像配信システムは、
トラフィックの伝送を制御するネットワーク装置を有するネットワークへ複数の映像ストリームを送信する映像送信装置と、
前記ネットワークから複数の前記映像ストリームを受信する受信部と、
受信端末毎に、前記受信部が受信した前記映像ストリームのうち、任意の前記映像ストリームあるいは任意の複数の前記映像ストリームを合成した合成映像ストリームを配信する配信部と、
前記ネットワーク装置に対して、前記受信端末のいずれにも配信されていない、且つ前記合成映像ストリームのいずれにも合成されていない前記映像ストリームの伝送の停止、並びに伝送を停止された前記映像ストリームの伝送の再開を指示するネットワーク制御部と、
を備える。
Further, the video delivery system according to the present invention is
A video transmission device for transmitting a plurality of video streams to a network having a network device controlling transmission of traffic;
A receiving unit for receiving a plurality of the video streams from the network;
A distribution unit for distributing, for each receiving terminal, a composite video stream obtained by combining any one of the video stream or any of a plurality of the video streams among the video streams received by the receiving unit;
Stopping the transmission of the video stream that has not been distributed to any of the receiving terminals and has not been synthesized to any of the composite video streams to the network device, and the video stream whose transmission has been stopped A network control unit instructing resumption of transmission;
Equipped with
また、本発明に係る多地点接続方法は、
トラフィックの伝送を制御するネットワーク装置を有するネットワークへ複数の映像ストリームを送信する映像送信手順と、
前記ネットワークから複数の前記映像ストリームを受信する受信手順と、
受信端末毎に、前記受信手順で受信した前記映像ストリームのうち、任意の前記映像ストリームあるいは任意の複数の前記映像ストリームを合成した合成映像ストリームを配信する配信手順と、
前記ネットワーク装置に対して、前記受信端末のいずれにも配信されていない、且つ前記合成映像ストリームのいずれにも合成されていない前記映像ストリームの伝送の停止、並びに伝送を停止された前記映像ストリームの伝送の再開を指示するネットワーク制御手順と、
を行う。
Also, the multipoint connection method according to the present invention is
A video transmission procedure for transmitting a plurality of video streams to a network having a network device controlling transmission of traffic;
A reception procedure for receiving a plurality of the video streams from the network;
A delivery procedure for delivering, for each receiving terminal, a composite video stream obtained by combining any of the video stream or any of a plurality of the video streams among the video streams received in the reception procedure;
Stopping the transmission of the video stream that has not been distributed to any of the receiving terminals and has not been synthesized to any of the composite video streams to the network device, and the video stream whose transmission has been stopped A network control procedure that instructs to resume transmission;
I do.
本発明は、映像ストリームを送信する送信装置(符号化装置)に依存せず、ネットワーク上のネットワーク装置で転送を停止する。符号化装置を常時運転させておくことで映像切替の応答性を改善することができる。また、ネットワーク装置で不要な映像ストリームの転送を停止することでネットワーク負荷を軽減できる。従って、本発明は、映像切替の応答性を改善し、ネットワーク負荷を低減できる多地点接続装置、映像配信システム、及び多地点接続方法を提供することができる。 The present invention does not rely on a transmitting apparatus (encoding apparatus) for transmitting a video stream, and stops transfer at a network apparatus on the network. By operating the encoding device all the time, the responsiveness of video switching can be improved. In addition, the network load can be reduced by stopping the transfer of unnecessary video streams in the network device. Therefore, the present invention can provide a multipoint connection device, a video distribution system, and a multipoint connection method capable of improving the responsiveness of video switching and reducing the network load.
本多地点接続装置は、
前記受信端末が表示するレイアウト枠それぞれに相当する順位を基準として、前記映像ストリームを識別する映像識別番号、及び前記配信部が有する映像合成部を識別する合成部識別番号が記載されるテーブルを有するデータベース部と、
前記映像ストリームの送信元から前記映像識別番号を取得し、前記データベース部のテーブルの前記順位毎に前記映像識別番号を排他的に記載する接続管理部と、
をさらに備え、
前記配信部は、前記レイアウト枠の情報に基づいて、前記データベース部のテーブルの、前記受信端末が表示する前記順位に前記合成部識別番号を記載し、
前記ネットワーク制御部は、前記データベース部のテーブルの記載から伝送を停止する前記映像ストリーム及び伝送を再開する前記映像ストリームを判断することとしてもよい。
This multipoint connection device is
It has a table in which a video identification number for identifying the video stream and a combining unit identification number for identifying a video combining unit included in the distribution unit are described based on the order corresponding to each layout frame displayed by the receiving terminal. Database department,
A connection management unit that acquires the video identification number from the transmission source of the video stream and exclusively describes the video identification number for each rank in the table of the database unit;
And further
The distribution unit describes the combining unit identification number in the order displayed by the receiving terminal in the table of the database unit based on the information of the layout frame.
The network control unit may determine the video stream to stop transmission and the video stream to resume transmission from the description of the table of the database unit.
本多地点接続装置の前記データベース部は、前記映像ストリームに前記順位を付す順位決定装置から前記映像ストリームについての前記順位が通知され、前記テーブルに記載された映像識別番号を通知された前記順位へ移動させることを特徴とする。映像ストリーム毎に優先順位を付けることで受信端末では優先順位に応じた表示が可能になる。 The database unit of the present multipoint connection apparatus is notified of the order of the video stream from the order determining apparatus which adds the order to the video stream, and to the order notified of the video identification number described in the table. It is characterized by moving. By giving priority to each video stream, the receiving terminal can perform display according to the priority.
例えば、本多地点接続装置は、前記順位が、前記映像ストリームの送信元の音量に基づいて決定されることを特徴とする。
また、映像の表示形態を決定するための基準として、多地点接続装置に送信された映像音声から抽出された物理量以外の情報、例えば赤外線センサ情報等のメタデータを使用することによって、より利用者の嗜好に適した表示が可能になると期待できる。
For example, the multipoint connection apparatus is characterized in that the order is determined based on the volume of the transmission source of the video stream.
Also, by using information other than the physical quantity extracted from the video and audio transmitted to the multipoint connection device as a reference for determining the display mode of the video, for example, by using metadata such as infrared sensor information It can be expected that the display suitable for the preference of
例えば、本多地点接続装置は、前記順位が、前記映像ストリームの送信元の音量が最大の前記映像ストリームが1位とされ、1位の前記映像ストリームから他の前記映像ストリームへの遷移確率に基づき2位以下が決定されたものであることを特徴とする。
過去の話者交代の履歴を参考にすることで今後発生する話者交代を予測し、順位を決定してもよい。
For example, in the multipoint connection apparatus according to the present invention, the video stream with the highest volume of the transmission source of the video stream is ranked first, and the transition probability from the first video stream to another video stream is determined. It is characterized in that the second place or less is determined based on that.
By referring to the history of speaker changes in the past, it may be possible to predict speaker changes that will occur in the future, and to determine the order.
本発明は、前記多地点接続装置としてコンピュータを機能させるためのプログラムである。本発明に係る多地点接続装置はコンピュータとプログラムによっても実現でき、プログラムを記録媒体に記録することも、ネットワークを通して提供することも可能である。 The present invention is a program for causing a computer to function as the multipoint connection device. The multipoint connection apparatus according to the present invention can be realized by a computer and a program, and the program can be recorded on a recording medium or provided through a network.
本発明は、映像切替の応答性を改善し、ネットワーク負荷を低減できる多地点接続装置、映像配信システム、多地点接続方法、及びプログラムを提供することができる。 The present invention can provide a multipoint connection device, a video distribution system, a multipoint connection method, and a program capable of improving the responsiveness of video switching and reducing the network load.
添付の図面を参照して本発明の実施形態を説明する。以下に説明する実施形態は本発明の実施例であり、本発明は、以下の実施形態に制限されるものではない。なお、本明細書及び図面において符号が同じ構成要素は、相互に同一のものを示すものとする。 Embodiments of the invention will be described with reference to the accompanying drawings. The embodiments described below are examples of the present invention, and the present invention is not limited to the following embodiments. In the present specification and drawings, components having the same reference numerals denote the same components.
図1は、本実施形態の映像配信システム301を説明する構成図である。映像配信システム301は、
トラフィックの伝送を制御するネットワーク装置25を有するネットワーク20へ複数の映像ストリームを送信する映像送信装置10と、
ネットワーク20から複数の前記映像ストリームを受信する受信部30と、
受信端末51毎に、受信部30が受信した前記映像ストリームのうち、任意の前記映像ストリームあるいは任意の複数の前記映像ストリームを合成した合成映像ストリームを配信する配信部40と、
ネットワーク装置25に対して、受信端末51のいずれにも配信されていない、且つ前記合成映像ストリームのいずれにも合成されていない前記映像ストリームの伝送の停止、並びに伝送を停止された前記映像ストリームの伝送の再開を指示するネットワーク制御部61と、
を備える。
FIG. 1 is a configuration diagram for explaining a
A video transmission device 10 for transmitting a plurality of video streams to a
A
A distribution unit 40 for distributing, for each of the reception terminals 51, a composite video stream obtained by combining an arbitrary video stream or an arbitrary plurality of video streams among the video streams received by the
Stop of transmission of the video stream which has not been distributed to any of the receiving terminals 51 and not synthesized into any of the composite video stream with respect to the network device 25; A network control unit 61 instructing resumption of transmission;
Equipped with
映像送信装置10は、カメラ(11−1〜11−n;nは自然数)と、各カメラ11が出力する映像信号を符号化してIPパケット(映像ストリーム)として出力する映像符号化装置(12−1〜12−n)と、各カメラ11の周辺の情報を取得してメタデータとして出力するメタデータ生成装置(13−1〜13−n)と、を有する。カメラ11は同じ拠点にあってもそれぞれが異なる拠点にあってもよい。 The video transmission device 10 encodes a camera (11-1 to 11-n; n is a natural number) and a video encoding device (12-) that encodes a video signal output from each camera 11 and outputs it as an IP packet (video stream). 1 to 12-n) and metadata generation devices (13-1 to 13-n) for acquiring information on the periphery of each camera 11 and outputting the information as metadata. The cameras 11 may be at the same site or at different sites.
受信部30は、映像識別番号(宛先ポート番号)毎に映像ストリームを受信し、受信した映像ストリームを復号する映像復号部(32−1〜32−n)を有する。宛先ポート番号とは、例えば、UDP(User Datagram Protocol)ポート番号である。配信部40は、受信側から指定された画面レイアウトになるように復号された映像を合成する映像合成部(41−1〜41−m;mは自然数)と、合成された映像を再度符号化する映像符号化部(42−1〜42−m)と、を有する。受信端末51は複数存在し、ユーザが任意で画面に表示する映像のレイアウトを設定できるレイアウト枠設定装置52が付随する。なお、受信端末51とレイアウト枠設定装置52は必ずしも1対1対応ではない。一つのレイアウトに対して複数の受信端末が同じ映像を受け取ることも可能である。
The receiving
多地点接続装置100は、
トラフィックの伝送を制御するネットワーク装置25を有するネットワーク20から複数の映像ストリームを受信する受信部30と、
受信端末51毎に、受信部30が受信した前記映像ストリームのうち、任意の前記映像ストリームあるいは任意の複数の前記映像ストリームを合成した合成映像ストリームを配信する配信部40と、
ネットワーク装置25に対して、受信端末51のいずれにも配信されていない、且つ前記合成映像ストリームのいずれにも合成されていない前記映像ストリームの伝送の停止、並びに伝送を停止された前記映像ストリームの伝送の再開を指示するネットワーク制御部61と、
を備える。
The
A
A distribution unit 40 for distributing, for each of the reception terminals 51, a composite video stream obtained by combining an arbitrary video stream or an arbitrary plurality of video streams among the video streams received by the
Stop of transmission of the video stream which has not been distributed to any of the receiving terminals 51 and not synthesized into any of the composite video stream with respect to the network device 25; A network control unit 61 instructing resumption of transmission;
Equipped with
多地点接続装置100は、
受信端末51が表示するレイアウト枠それぞれに相当する順位を基準として、前記映像ストリームを識別する映像識別番号(例えば、宛先ポート番号)、及び配信部40が有する映像合成部41を識別する合成部識別番号が記載されるテーブルを有するデータベース部62と、
前記映像ストリームの送信元から前記映像識別番号を取得し、データベース部62のテーブルの前記順位毎に前記映像識別番号を排他的に記載する接続管理部63と、
をさらに備える。
そして、配信部40は、レイアウト枠設定装置52が設定した前記レイアウト枠の情報に基づいて、データベース部62のテーブルの、受信端末51が表示する前記順位に前記合成部識別番号を記載する。ネットワーク制御部61は、データベース部62のテーブルの記載から伝送を停止する前記映像ストリーム及び伝送を再開する前記映像ストリームを判断する。
The
A video identification number (for example, a destination port number) for identifying the video stream and a combining unit identification for identifying the video combining unit 41 included in the distribution unit 40 based on the order corresponding to each layout frame displayed by the receiving terminal 51 A
A
Further comprising
Then, based on the information on the layout frame set by the layout frame setting device 52, the distribution unit 40 describes the combining unit identification number in the order displayed by the receiving terminal 51 in the table of the
多地点接続装置100は、接続管理部63、映像復号部32、映像合成部41、映像符号化部42、データベース部62、及びネットワーク制御部61から構成される。これらの機能は別々のプロセス、あるいはハードウェア上に分散して実現してもよい。
The
多地点接続装置100は、各拠点の映像符号化装置12から符号化された映像ストリームを受信し、宛先ポート番号等の情報からストリームを識別して各映像復号部32にIPパケットを振り分ける。多地点接続装置100の接続管理部63と映像符号化装置12は、接続時に上記の映像ストリームを識別するための情報を交換する。なお、この識別情報が事前に取り決められていれば、交換は不要である。以降では映像ストリームの識別に宛先ポート番号を使用する場合について記載する。接続を確立するため、H.323等の標準化されたプロトコルを用いてもよい。
The
レイアウト枠設定装置52は、多地点接続装置100の映像合成部41に対してレイアウト枠設定情報を送信する。図2にレイアウト枠の設定例を示す。図2(a)は、均等な大きさのレイアウト枠の例、図2(b)と(c)は特定の拠点を拡大表示するレイアウト枠の例である。各レイアウト枠内の数字はユニークに割り当てられた順位である。レイアウト枠は画面内で映像を配置する位置情報と順位を保持する。さらに、透過度等の表示方法を指定するパラメタを追加で保持してもよい。レイアウト枠は時間的に変化するアニメーション表現を備えてもよい。レイアウト枠設定情報では、各レイアウト枠に表示する映像は指定されない。後述する順位決定装置が特定の基準に基づいて、映像の順位を決定することにより、各レイアウト枠に表示される映像が決定される。
The layout frame setting device 52 transmits layout frame setting information to the video synthesizing unit 41 of the
データベース部62は、宛先ポート番号と順位とこれを使用している映像合成部の合成識別番号から構成されるテーブルを保持する。図3にリレーショナルデータベースによるテーブルの例を示す。図3のテーブルにおいて、「順位」はレイアウト枠に割り当てている順位である。「宛先ポート番号」は、多地点接続装置100の映像復号部32を識別するUDPポート番号であり、入力される映像ストリームを識別する番号でもある。例えば、順位1の映像(5001)は受信端末51−1、受信端末51−2、及び受信端末51−3の3端末で使用され、順位3の映像(5003)は受信端末51−1のみで使用される。一方、順位4の映像(5004)は、いずれの映像端末でも使用されない。なお、図1では、映像合成部と受信端末とは1:1の関係であるが、1つの映像合成部から複数の受信端末へ合成映像が配信されることもある。
The
テーブル更新時のフローチャートを図4に示す。テーブルが更新されるタイミングについては後述する。データベース部62は、テーブルを更新する(ステップS01)と、映像復号部32に対して復号映像を渡すべき映像合成部41の識別番号を通知する(ステップS02)。さらに、ネットワーク制御部61は、データベース部62を監視しており、使用されない映像ストリームが発生した場合(ステップS05において“Yes”)には、当該映像ストリームを伝送するネットワーク装置25に対してコマンドを発行し、当該映像ストリームの転送を停止させる(ステップS06)。ネットワーク装置に対するコマンドはネットワーク装置に固有のコマンドでもよいし、OpenFlowのようなプロトコルに基づくコマンドでもよい。また複数のネットワーク装置を統合して管理する管理プログラムが存在する場合は、その管理プログラムに対して所望の動作を実現する管理プログラム用のコマンドを発行してもよい。
A flowchart at the time of table update is shown in FIG. The timing at which the table is updated will be described later. When the
映像配信システム301は、上述のようにいずれの受信端末も使用していない映像ストリームをネットワーク上で停止することによって不要なトラフィックを削減する。例えば、図3では、5004番ポート宛の映像ストリームは、映像合成部41が出力するいずれの合成映像でも使用されていないため、ネットワーク制御部61がネットワーク装置25に対して5004番ポート宛の映像ストリームの転送を停止させればよい。反対に、それまで停止されていた映像ストリームが合成映像で新たに使用されるようになった場合(ステップS03にて“Yes”)、ネットワーク制御部61がネットワーク装置25に対してコマンドを発行し、当該映像ストリームの転送を開始させる(ステップS04)。
The
映像ストリームは宛先ポート番号によって区別されるため、ネットワーク装置25によって転送停止あるいは開始を制御することが可能であり、映像符号化装置12の機能には依存しない。制御するネットワーク装置25は、映像送信装置10から多地点接続装置100までのネットワーク経路中のいずれのネットワーク装置であってもよい。
Since the video stream is distinguished by the destination port number, it is possible to control transfer stop or start by the network device 25 and does not depend on the function of the
映像復号部32は、受け取った符号化映像ストリームから映像を復号し、データベース部62から通知された映像合成部41に対して復号映像を渡す。映像合成部41は、1つ又は複数の映像復号部32から復号された映像を受け取り、レイアウト枠設定装置52から通知されたレイアウト枠設定に従って映像を合成し、合成映像を映像符号化部42に渡す。このとき、音声も合成して映像符号化部に渡す。映像符号化部42は、映像合成部41から渡された合成映像を符号化し、受信端末51に向けてIPパケットを送信する。
The
図1のように一つの多地点接続装置が複数の映像合成部を備え、複数の合成映像を生成してもよい。また、一つの多地点接続装置が1つの映像合成部をそなえ、単一の合成映像を複数の受信端末に送信してもよい。 As shown in FIG. 1, one multipoint connection device may include a plurality of video combining units and generate a plurality of combined videos. Also, one multipoint connection device may be equipped with one video combining unit and transmit a single combined video to a plurality of receiving terminals.
例えば、映像合成部41がレイアウト枠設定装置52からレイアウト枠情報を受信したときをテーブル更新時とすることができる。映像合成部41は、レイアウト枠設定装置52からレイアウト枠情報を受信すると、それが可能なレイアウトであるか確認する。使用される映像の本数が復号可能な映像の本数を上回っている等の理由からレイアウトの実現が不可能である場合には、レイアウト枠設定装置52に対してエラーを返す。可能なレイアウトであると確認した場合には、自身のレイアウト設定を更新し、同時にデータベース部62のテーブルを更新する。
For example, the time when the video synthesis unit 41 receives layout frame information from the layout frame setting device 52 can be set as table update time. When receiving the layout frame information from the layout frame setting device 52, the video combining unit 41 confirms whether the layout is possible. If the layout can not be realized because the number of videos to be used exceeds the number of decodable videos, an error is returned to the layout frame setting device 52. When it is confirmed that the layout is possible, the layout setting of its own is updated, and at the same time, the table of the
例えば、映像ストリームの順位が変化した時をテーブル更新時とすることができる。
データベース部62は、前記映像ストリームに前記順位を付す順位決定装置14から前記映像ストリームについての前記順位が通知され、前記テーブルに記載された映像識別番号を通知された前記順位へ移動させる。
順位決定装置14は、映像音声だけでなく、各種センサ等のメタデータ生成装置13からメタデータを受け取り、特定の基準に従って映像ストリームに順位付けを行う。例えば、「順位」は、最後の発話を1位としてその前の発話を2位とする順番や、赤外線センサで検出した撮影対象者の動きの大きさが大きい順番等である。順位決定装置14は、映像ストリームの順位を変動した際には、データベース部62のテーブルを更新する。図3のようなテーブルでは、2列目の宛先ポート番号を入れ替えればよい。例えば、宛先ポート番号5003の映像ストリームの順位が3位から1位に変化し、宛先ポート番号5001の映像ストリームの順位が1位から3位に変化した時、順位決定装置14は当該情報をデータベース部62に通知し、データベース部62は現在1位の宛先ポート番号と現在3位の宛先ポート番号とを入れ替える。
For example, the time when the order of the video stream changes can be set as the table update time.
The
The
映像の合成を開始するまでのシーケンスを図5に示す。
接続管理部63が宛先ポート番号を映像符号化装置12に通知すると同時にデータベース部62のテーブルに宛先ポート番号のエントリを作成する。初期段階では、「宛先ポート番号」と「順位」との関係が不明であるので、作成した各エントリに重複しないように任意の「順位」を設定してもよい。「順位」の設定については後述する。
The sequence up to the start of video composition is shown in FIG.
At the same time as the
各映像合成部41は、通知されたレイアウト枠設定(使用する「順位」)に基づき、データベース部62のテーブルに作成されたエントリのうち、使用する「順位」のエントリに自身の識別番号を記載する。
Each video synthesizing unit 41 describes its own identification number in the entry of “order” to be used among the entries created in the table of the
データベース部62は復号映像を渡す映像合成部41の識別番号を映像復号部32に通知する。映像符号化装置12が映像ストリーミングを開始すると、映像符号化装置12から送られてきた映像ストリームを映像復号部32で復号し、テーブルの設定に従って当該映像が使用される映像合成部41に渡される。
The
なお、初期段階では、テーブルにおいて「宛先ポート番号」と「順位」との関係が任意であるので、受信端末はレイアウトの各順位の枠に任意の映像ストリームが表示されることになる。所定後は、順位決定装置14が決定する順位やユーザの手動順位設定に従ってテーブルの宛先ポート番号列が更新され、更新されたテーブルの設定に従って映像が映像合成部41に映像が渡される。
In the initial stage, since the relationship between the "destination port number" and the "order" in the table is arbitrary, the receiving terminal displays an arbitrary video stream in each rank of the layout. After predetermined, the destination port number string of the table is updated according to the order determined by the
以上のように映像配信システム301は、
トラフィックの伝送を制御するネットワーク装置25を有するネットワーク20へ複数の映像ストリームを送信する映像送信手順と、
ネットワーク20から複数の前記映像ストリームを受信する受信手順と、
受信端末51毎に、前記受信手順で受信した前記映像ストリームのうち、任意の前記映像ストリームあるいは任意の複数の前記映像ストリームを合成した合成映像ストリームを配信する配信手順と、
ネットワーク装置25に対して、受信端末51のいずれにも配信されていない、且つ前記合成映像ストリームのいずれにも合成されていない前記映像ストリームの伝送の停止、並びに伝送を停止された前記映像ストリームの伝送の再開を指示するネットワーク制御手順と、
を行う。
As described above, the
A video transmission procedure for transmitting a plurality of video streams to a
A reception procedure for receiving a plurality of the video streams from the
A distribution procedure for distributing, for each of the reception terminals 51, a composite video stream obtained by combining any of the video stream or any of a plurality of the video streams among the video streams received in the reception procedure;
Stop of transmission of the video stream which has not been distributed to any of the receiving terminals 51 and not synthesized into any of the composite video stream with respect to the network device 25; A network control procedure that instructs to resume transmission;
I do.
(実施例1)
本実施例では、発話の順番に基づいてレイアウトを決定する映像配信システム301の例について説明する。前記順位が、前記映像ストリームの送信元の音量に基づいて決定される。
Example 1
In the present embodiment, an example of the
各拠点に音量計測装置を設置し、順位決定装置に対して各拠点の音量を送信する。音量計測には、遠隔地に送信する音声を分岐して利用してもよい。あるいは、音量計測専用のマイクロホンを用いてもよい。順位決定装置は、全拠点の音量を比較することで現在どの拠点が発話状態であるかを判定する。現話者の順位を1位とし、その前の話者は2位と、最後の発言が古くなるにつれて順位を低くする。例えば、図2(b)のレイアウトを使用する場合、発話状態で順位1位の拠点は最も大きな領域に配置し、以降2位、3位、4位までを画面下部に小さく表示する。5位以降は合成映像に使用しない。これによって、直近に発言のあった拠点を視覚的に把握することができる。
本実施例の映像配信システム301を用いれば、ユーザは合成映像から各拠点の発言状況を把握することができる。
A volume measuring device is installed at each site, and the volume of each site is transmitted to the order determining device. The sound to be transmitted to a remote location may be branched and used for volume measurement. Alternatively, a microphone dedicated to volume measurement may be used. The order determining device determines which site is currently in the speech state by comparing the volumes of all sites. The current speaker is ranked first, and the speaker before that is ranked second, and lowers as the last speech becomes older. For example, when using the layout of FIG. 2B, the first place base is arranged in the largest area in the speech state, and the second, third and fourth places are displayed smaller at the lower part of the screen thereafter. The fifth and subsequent positions are not used for composite video. By this, it is possible to visually grasp the base where the latest speech was made.
By using the
(実施例2)
本実施例では、次話者推定に基づいてレイアウトを決定する映像配信システム301の例について説明する。前記順位が、前記映像ストリームの送信元の音量が最大の前記映像ストリームが1位とされ、1位の前記映像ストリームから他の前記映像ストリームへの遷移確率に基づき2位以下が決定されたものである。
(Example 2)
In this embodiment, an example of the
特許文献1では現話者によって映像レイアウトを決定しているが、発話の検出に要する時間によっては話者が切り替わった後でも映像が切り替わらない状況が発生してしまう場合が考えられる。このような状況を防ぐために、次話者の予測を行い、合成映像上に予め配置しておくことによって、映像切り替えが遅延しても会話の流れを把握しやすくなると期待できる。
In
予め過去の会話の記録から、話者交代の順番を記録し、図6に示すような現話者から次話者への遷移確率を計算しておく。各拠点で音量を計算し、結果を順位決定装置に送信する。順位決定装置で各拠点の音量を比較し、最も音量の大きい地点を現話者とする。現話者の順位を1位とし、現話者からの遷移確率が高い順に2位以降を決定する。例えば、図6の遷移確率を利用する場合、現話者がカメラ11−1であるときには宛先ポート番号5001が順位1位、カメラ11−2が2位、カメラ11−3が3位、カメラ11−4が4位となる。図2(c)のレイアウトを使用する場合、大きい領域にカメラ11−1の映像を表示し、小さい領域にカメラ11−2の映像を表示する。
The order of the speaker change is recorded in advance from the record of the past conversation, and the transition probability from the current speaker to the next speaker as shown in FIG. 6 is calculated. The volume is calculated at each location and the result is sent to the ranking device. The order determination device compares the volume of each site, and the point with the largest volume is taken as the current speaker. The current speaker is ranked first, and the second and subsequent ranks are determined in descending order of the transition probability from the current speaker. For example, when using the transition probability of FIG. 6, when the current speaker is the camera 11-1, the
次話者予測の方法として、視線センサを用いた視線方向からの推定や、呼吸センサ等を用いた呼吸リズムからの推定を利用してもよい。 As a method of predicting the next speaker, estimation from a gaze direction using a gaze sensor or estimation from a breathing rhythm using a respiration sensor or the like may be used.
(発明の効果)
合成映像に使用される映像のみを多地点接続装置に転送するよう、映像伝送経路中のネットワーク装置を制御することにより、ネットワークトラフィックを削減する効果が期待できる。映像ストリームの転送開始や中止の状態を変更する際に、映像符号化装置の状態を変更する必要が無いため、映像符号化装置の状態を制御する場合に比べて、映像切り替えに対する応答が高速である。また、制御対象がネットワーク装置のみであるため、映像符号化装置がそのような制御機能に対応している必要がない。
(Effect of the invention)
By controlling the network device in the video transmission path so as to transfer only the video used for the composite video to the multipoint connection device, the effect of reducing the network traffic can be expected. Since it is not necessary to change the state of the video encoding device when changing the state of transfer start or stop of the video stream, the response to the video switching is faster than when the state of the video encoding device is controlled. is there. Also, since the control target is only the network device, the video encoding device does not have to support such a control function.
必要な映像ストリームのみを復号処理するため、合成映像に用いる拠点数(カメラ数、映像ストリーム数)が一定であれば、全体の拠点数が増加しても映像合成装置での復号処理量は増加しない。これにより、多数の拠点を扱うことが可能になる。 In order to decode only the necessary video stream, if the number of bases (the number of cameras and the number of video streams) used for the composite video is constant, the amount of decoding processing in the video combining device increases even if the total number of bases increases. do not do. This makes it possible to handle a large number of bases.
テレビ会議映像音声から抽出された物理量以外も、レイアウトを決定する際の基準として利用可能である。センサ情報等の各種メタデータから映像を順位付けする基準を用いてもよい。本特徴によって、受信者の嗜好に応じた合成映像の構成が可能になると期待できる。 Aside from physical quantities extracted from video conference video and audio, they can also be used as a basis for determining the layout. You may use the reference | standard which ranks an image | video from various metadata, such as sensor information. It can be expected that this feature makes it possible to configure a composite video according to the preference of the receiver.
10:映像送信装置
11、11−1、11−2、・・・:カメラ
12、12−1、12−2、・・・:映像符号化装置
13、13−1、13−2、・・・:メタデータ生成装置
14:順位決定装置
20:ネットワーク
25、25−1、25−2、・・・:ネットワーク装置
30:受信部
31、31−1、31−2、・・・:宛先ポート
32、32−1、32−2、・・・:映像復号部
40:配信部
41、41−1、41−2、・・・:映像合成部
42、42−1、42−2、・・・:映像符号化部
51、51−1、51−2、・・・:受信端末
52、52−1、52−2、・・・:レイアウト枠設定装置
61:ネットワーク制御部
62:データベース部
63:接続管理部
100:多地点接続装置
301:映像配信システム
10: Video transmission devices 11, 11-1, 11-2, ...:
Claims (8)
受信端末毎に、前記受信部が受信した前記映像ストリームのうち、任意の前記映像ストリームあるいは任意の複数の前記映像ストリームを合成した合成映像ストリームを配信する配信部と、
前記ネットワーク装置に対して、前記受信端末のいずれにも配信されていない、且つ前記合成映像ストリームのいずれにも合成されていない前記映像ストリームの伝送の停止、並びに伝送を停止された前記映像ストリームの伝送の再開を指示するネットワーク制御部と、
を備えることを特徴とする多地点接続装置。 A receiving unit that receives, via a network device that controls transmission of traffic on the network, a plurality of video streams that the video transmission device constantly transmits ;
A distribution unit for distributing, for each receiving terminal, a composite video stream obtained by combining any one of the video stream or any of a plurality of the video streams among the video streams received by the receiving unit;
Stopping the transmission of the video stream that has not been distributed to any of the receiving terminals and has not been synthesized to any of the composite video streams to the network device, and the video stream whose transmission has been stopped A network control unit instructing resumption of transmission;
A multipoint connection device comprising:
前記映像ストリームの送信元から前記映像識別番号を取得し、前記データベース部のテーブルの前記順位毎に前記映像識別番号を排他的に記載する接続管理部と、
をさらに備え、
前記配信部は、前記レイアウト枠の情報に基づいて、前記データベース部のテーブルの、前記受信端末が表示する前記順位に前記合成部識別番号を記載し、
前記ネットワーク制御部は、前記データベース部のテーブルの記載から伝送を停止する前記映像ストリーム及び伝送を再開する前記映像ストリームを判断する
ことを特徴とする請求項1に記載の多地点接続装置。 It has a table in which a video identification number for identifying the video stream and a combining unit identification number for identifying a video combining unit included in the distribution unit are described based on the order corresponding to each layout frame displayed by the receiving terminal. Database department,
A connection management unit that acquires the video identification number from the transmission source of the video stream and exclusively describes the video identification number for each rank in the table of the database unit;
And further
The distribution unit describes the combining unit identification number in the order displayed by the receiving terminal in the table of the database unit based on the information of the layout frame.
2. The multipoint connection apparatus according to claim 1, wherein the network control unit determines the video stream to stop transmission and the video stream to resume transmission from the description of the table of the database unit.
前記映像ストリームの送信元の音量が最大の前記映像ストリームが1位とされ、1位の前記映像ストリームから他の前記映像ストリームへの遷移確率に基づき2位以下が決定されたものであることを特徴とする請求項3に記載の多地点接続装置。 The order is
It is assumed that the video stream with the largest volume of the transmission source of the video stream is regarded as the first place, and the second place or less is determined based on the transition probability from the first video stream to the other video stream. A multipoint connection device according to claim 3, characterized in that:
前記多地点接続装置は、
前記ネットワークから前記ネットワーク装置を介して複数の前記映像ストリームを受信する受信部と、
受信端末毎に、前記受信部が受信した前記映像ストリームのうち、任意の前記映像ストリームあるいは任意の複数の前記映像ストリームを合成した合成映像ストリームを配信する配信部と、
前記ネットワーク装置に対して、前記受信端末のいずれにも配信されていない、且つ前記合成映像ストリームのいずれにも合成されていない前記映像ストリームの伝送の停止、並びに伝送を停止された前記映像ストリームの伝送の再開を指示するネットワーク制御部と、
を備えることを特徴とする映像配信システム。 Comprising a video transmitting apparatus for transmitting continuously a plurality of video streams to the network equipment that controls the transmission of traffic on the network, and a multipoint control unit,
The multipoint connection device
A receiving unit that receives a plurality of the video streams from the network via the network device ;
A distribution unit for distributing, for each receiving terminal, a composite video stream obtained by combining any one of the video stream or any of a plurality of the video streams among the video streams received by the receiving unit;
Stopping the transmission of the video stream that has not been distributed to any of the receiving terminals and has not been synthesized to any of the composite video streams to the network device, and the video stream whose transmission has been stopped A network control unit instructing resumption of transmission;
A video delivery system comprising:
多地点接続装置が、
前記ネットワークから前記ネットワーク装置を介して複数の前記映像ストリームを受信する受信手順と、
受信端末毎に、前記受信手順で受信した前記映像ストリームのうち、任意の前記映像ストリームあるいは任意の複数の前記映像ストリームを合成した合成映像ストリームを配信する配信手順と、
前記ネットワーク装置に対して、前記受信端末のいずれにも配信されていない、且つ前記合成映像ストリームのいずれにも合成されていない前記映像ストリームの伝送の停止、並びに伝送を停止された前記映像ストリームの伝送の再開を指示するネットワーク制御手順と、
を行うことを特徴とする多地点接続方法。
Video transmission apparatus performs image transmission step of transmitting a plurality of video streams to the network equipment that controls the transmission of traffic on the network at all times,
The multipoint connection device
A reception procedure for receiving a plurality of the video streams from the network via the network device ;
A delivery procedure for delivering, for each receiving terminal, a composite video stream obtained by combining any of the video stream or any of a plurality of the video streams among the video streams received in the reception procedure;
Stopping the transmission of the video stream that has not been distributed to any of the receiving terminals and has not been synthesized to any of the composite video streams to the network device, and the video stream whose transmission has been stopped A network control procedure that instructs to resume transmission;
A multipoint connection method characterized by performing.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016122285A JP6534968B2 (en) | 2016-06-21 | 2016-06-21 | Multipoint connection device, video distribution system, multipoint connection method, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016122285A JP6534968B2 (en) | 2016-06-21 | 2016-06-21 | Multipoint connection device, video distribution system, multipoint connection method, and program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017228866A JP2017228866A (en) | 2017-12-28 |
JP6534968B2 true JP6534968B2 (en) | 2019-06-26 |
Family
ID=60889358
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016122285A Active JP6534968B2 (en) | 2016-06-21 | 2016-06-21 | Multipoint connection device, video distribution system, multipoint connection method, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6534968B2 (en) |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3202473B2 (en) * | 1994-03-18 | 2001-08-27 | 富士通株式会社 | Video conference system |
JP2002218424A (en) * | 2001-01-12 | 2002-08-02 | Mitsubishi Electric Corp | Video display controller |
JP2007243854A (en) * | 2006-03-13 | 2007-09-20 | Yamaha Corp | Video teleconference terminal |
JP4957119B2 (en) * | 2006-08-11 | 2012-06-20 | 富士通東芝モバイルコミュニケーションズ株式会社 | Information processing device |
JP5216303B2 (en) * | 2007-11-01 | 2013-06-19 | 株式会社東芝 | Composite video distribution apparatus and method and program thereof |
JP2013183293A (en) * | 2012-03-01 | 2013-09-12 | Nec Corp | Connection device, system, connection method and connection program for multipoint conference |
JP6069881B2 (en) * | 2012-04-25 | 2017-02-01 | 株式会社リコー | Relay device, display data sharing system, data control method and program |
JP2014050018A (en) * | 2012-09-03 | 2014-03-17 | Ricoh Co Ltd | Information processing device and video conference system and program |
JP2016032128A (en) * | 2014-07-25 | 2016-03-07 | 株式会社リコー | Remote conference system, communication terminal, and program |
-
2016
- 2016-06-21 JP JP2016122285A patent/JP6534968B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2017228866A (en) | 2017-12-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7508413B2 (en) | Video conference data transmission device and data transmission method adapted for small display of mobile terminals | |
US7587454B2 (en) | Video streaming parameter optimization and QoS | |
US9088692B2 (en) | Managing the layout of multiple video streams displayed on a destination display screen during a videoconference | |
US8760490B2 (en) | Techniques for a rate-adaptive video conference bridge | |
US20060088092A1 (en) | Method and apparatus of controlling a plurality of video surveillance cameras | |
JP2015154315A (en) | Video conference server, video conference system, and video conference method | |
WO2014161402A2 (en) | Distributed video conference method, system, terminal, and audio-video integrated device | |
KR20150040125A (en) | Master device, client device, and method for screen mirroring thereof | |
JP2007208458A (en) | System, terminal, and method for communication | |
CN111147362B (en) | Multi-user instant messaging method, system, device and electronic equipment | |
WO2014187062A1 (en) | Method and device for playing conference signal, video conference terminal and mobile device | |
JP2012034343A (en) | Image processing apparatus and control method thereof | |
US7453829B2 (en) | Method for conducting a video conference | |
KR101727310B1 (en) | Cross-Directional Casting Method | |
US11431770B2 (en) | Method, system, apparatus, and electronic device for managing data streams in a multi-user instant messaging system | |
JP2010213119A (en) | Video transmission system, imaging apparatus and monitoring device | |
JP6534968B2 (en) | Multipoint connection device, video distribution system, multipoint connection method, and program | |
KR20090037741A (en) | Remote surveillance system using a network camera | |
JP2002149316A (en) | Data transmitter, data receiver, data transmission method, and program storage medium | |
JP2001268078A (en) | Communication controller, its method, providing medium and communication equipment | |
JP2006238017A (en) | Remote monitoring system and monitoring controller | |
JP2020036225A (en) | Information processing apparatus, information processing method, and information processing program | |
JP2005045666A (en) | Transcoder | |
JP2001145103A (en) | Transmission device and communication system | |
JP2003046999A (en) | Image monitoring system, monitored image distributing method therefor and camera therefor using network |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180612 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190110 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190122 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190320 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190528 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190530 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6534968 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |