JP2019149700A - Communication device, communication method, communication program, and management device - Google Patents
Communication device, communication method, communication program, and management device Download PDFInfo
- Publication number
- JP2019149700A JP2019149700A JP2018033441A JP2018033441A JP2019149700A JP 2019149700 A JP2019149700 A JP 2019149700A JP 2018033441 A JP2018033441 A JP 2018033441A JP 2018033441 A JP2018033441 A JP 2018033441A JP 2019149700 A JP2019149700 A JP 2019149700A
- Authority
- JP
- Japan
- Prior art keywords
- area information
- communication device
- display area
- distribution
- video
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000004891 communication Methods 0.000 title claims abstract description 145
- 238000000034 method Methods 0.000 title claims description 54
- 238000012545 processing Methods 0.000 claims abstract description 107
- 239000000284 extract Substances 0.000 claims abstract description 8
- 238000007726 management method Methods 0.000 claims description 93
- 230000005540 biological transmission Effects 0.000 claims description 43
- 238000000605 extraction Methods 0.000 claims description 8
- 238000004148 unit process Methods 0.000 claims description 4
- 238000010586 diagram Methods 0.000 description 7
- 238000012384 transportation and delivery Methods 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 6
- 230000011664 signaling Effects 0.000 description 4
- 238000011144 upstream manufacturing Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 230000002411 adverse Effects 0.000 description 2
- 238000012805 post-processing Methods 0.000 description 2
- 230000010076 replication Effects 0.000 description 2
- 240000004050 Pentaglottis sempervirens Species 0.000 description 1
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000012447 hatching Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 239000003973 paint Substances 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
- H04N21/4402—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client
- H04N21/63—Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
- H04N21/64—Addressing
- H04N21/6405—Multicasting
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client
- H04N21/65—Transmission of management data between client and server
- H04N21/658—Transmission by the client directed to the server
- H04N21/6587—Control parameters, e.g. trick play commands, viewpoint selection
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
Description
本発明は、通信装置、通信方法及び通信プログラムに、管理装置関し、例えば、映像情報や音情報等を含むマルチメディアデータを配信元から複数ユーザーへ配信を行う配信システムに適用し得る。 The present invention relates to a communication apparatus, a communication method, and a communication program, and can be applied to a management system, for example, a distribution system that distributes multimedia data including video information and sound information from a distribution source to a plurality of users.
近年、情報通信技術の発達により、遠隔の離れた場所にいる者同士があたかも同じ場所にいるかのようにコミュニケーションしたり、共同作業を行ったりする技術が注目されている。複数の映像や音声等の情報を、複数の場所や複数のユーザーに配信することによりこれら遠隔の複数者間のコミュニケーションを実現している。 In recent years, with the development of information and communication technology, attention has been focused on technologies for communicating as if they were at remote locations as if they were in the same location, and performing collaborative work. By distributing information such as a plurality of images and sounds to a plurality of locations and a plurality of users, communication between these remote multiple persons is realized.
映像や音声等のデータを複数のユーザーに配信する場合、ビデオカメラ等の映像ソースや、マイク等の音声ソースからのマルチメディアデータを持つ配信元から、これらのデータを要求するユーザーに対してIPパケット等を用いたユニキャスト通信で配信する方法が用いられる。 When distributing data such as video and audio to multiple users, IPs are provided to users who request these data from video sources such as video cameras and multimedia sources from audio sources such as microphones. A distribution method using unicast communication using a packet or the like is used.
このようなユニキャスト通信では、同じデータを要求するユーザー数が増加すると、配信サーバーでは、ユーザー数に応じたユニキャスト通信路の数だけ同じデータを複製して配信するため、ネットワークの帯域幅を浪費して十分な数のユーザーに配信できないという問題がある(図2参照)。また、ユニキャスト通信ではなくマルチキャスト通信を用いてデータの複製を配信経路の途中のルーターで行うことによりネットワーク帯域の浪費を防止する方法もあるが、経路上のすべてのルーターがマルチキャスト通信に対応する必要があり、一般には普及していない(図3参照)。 In such unicast communication, if the number of users requesting the same data increases, the distribution server replicates and distributes the same data as many as the number of unicast channels according to the number of users, so the network bandwidth is reduced. There is a problem that it is wasted and cannot be distributed to a sufficient number of users (see FIG. 2). In addition, there is a method to prevent waste of network bandwidth by using multicast communication instead of unicast communication to copy data with a router in the middle of the distribution route, but all routers on the route support multicast communication. It is necessary and is not widely used (see FIG. 3).
このような問題への対策として、アプリケーションレベルマルチキャストと呼ばれる方法が知られている。これは、配信を受けているユーザーが中継ノードとなり、さらに別のユーザーに対して再配信することにより、ユーザーのアプリケーションのみで多数のユーザーへのマルチキャストを実現する方法である(図4参照)。 As a countermeasure against such a problem, a method called application level multicast is known. This is a method of realizing multicast to a large number of users only by the user's application by the user receiving the distribution becoming a relay node and redistributing to another user (see FIG. 4).
このようなアプリケーションレベルマルチキャストでは、配信経路をいかに構築するかがシステム全体の配信性能に大きく影響する。 In such an application level multicast, how the distribution route is constructed greatly affects the distribution performance of the entire system.
特許文献1では、アプリケーションレベルマルチキャストを用いて配信を行う配信ツリーを、配信パスのスループット等を計測することによって、状況に応じて配信ツリーを切り替えてして方法などが開示されている。
このようなアプリケーションレベルマルチキャストを用いて、多数のユーザーに高解像度の映像を配信する場合で、各ユーザーは配信される映像のうち、それぞれが選択した一部分のみを表示しているような用途を想定する。例えば、オフィス全体を俯瞰するような映像を配信し、各ユーザーはそれぞれが興味を持っている部署や人が映った部分のみを表示している場合、あるいは、スポーツの競技場全体の映像が配信されており、各ユーザーは興味のあるプレーや選手の部分を表示している場合、あるいは、360度全方向の映像が配信されており、各ユーザーはそれぞれの視線方向の画角のみを表示している場合などである(図5参照)。 In such a case where high-resolution video is distributed to a large number of users using application-level multicast, it is assumed that each user displays only a selected portion of the distributed video. To do. For example, a video that gives a bird's-eye view of the entire office is distributed, and each user displays only the part of the department or person in which they are interested, or a video of the entire sports stadium. Each user is displaying the play or player's part of interest, or 360 degree omnidirectional video is distributed, and each user displays only the angle of view in their respective line of sight. (See FIG. 5).
このような用途を想定すると、従来のアプリケーションレベルマルチキャスト技術では、全ユーザーに対して、配信映像全体を高解像度に配信することとなり、例えは配信ツリーの末端のユーザーにも、そのユーザーでは表示されない部分を含めて高解像度に配信されることとなり、ネットワーク帯域が浪費されたり、また、ネットワーク品質によっては画質を低下させて配信せざるを得ない状況となるという課題があった。 Assuming such applications, the conventional application-level multicast technology distributes the entire distribution video to all users at a high resolution, and is not displayed to the user at the end of the distribution tree, for example. There is a problem that the network is distributed with high resolution including the portion, the network bandwidth is wasted, and depending on the network quality, the image quality must be lowered and distributed.
本発明は、前記課題を解決するためになされたものであり、次のような構成を採用する。 The present invention has been made to solve the above-described problems, and employs the following configuration.
第1の本発明に係る通信装置は、ツリー構成の配信経路で映像データをマルチキャスト配信する通信装置において、(1)配信経路の下位に位置している1又は複数の下位通信装置のそれぞれの表示領域情報を含む領域情報を受信する領域情報受信部と、(2)領域情報受信部により受信された各下位通信装置の表示領域情報を含む領域情報と、自装置の表示領域情報とを管理する領域情報管理部と、(3)領域情報管理部で管理される各下位通信装置の表示領域情報を含む領域情報と、自装置の表示領域情報とを含む領域情報を、配信経路の上位に位置している上位通信装置に送信する領域情報送信部と、(4)上位通信装置から映像データを受信する受信部と、(5)自装置の表示領域情報に基づいて、受信した映像データから表示領域を抽出して表示データを出力する表示領域抽出部と、(6)領域情報管理部に管理されている各下位通信装置の表示領域情報を含む領域情報に基づいて、映像データを映像加工する映像加工部と、(7)映像加工部により映像加工された加工後映像データを送信する再送信部とを備えることを特徴とする。 A communication apparatus according to a first aspect of the present invention is a communication apparatus that multicasts video data through a tree-structured distribution path. (1) Display of each of one or a plurality of lower-level communication apparatuses positioned at a lower level of a distribution path An area information receiving unit that receives area information including area information, (2) managing area information including display area information of each lower-level communication device received by the area information receiving unit, and display area information of the own device The area information management unit, and (3) area information including the display area information of each lower-level communication device managed by the area information management unit and the area information including the display area information of its own device are positioned above the distribution route. A region information transmission unit that transmits to the upper communication device, (4) a reception unit that receives the video data from the upper communication device, and (5) display from the received video data based on the display region information of the own device. region A display area extraction unit that extracts and outputs display data; and (6) video processing that processes video data based on area information including display area information of each lower-level communication device managed by the area information management unit. And (7) a retransmission unit that transmits the processed video data processed by the video processing unit.
第2の本発明に係る通信装置は、ツリー構成の配信経路で映像データをマルチキャスト配信する配信元の通信装置において、(1)配信経路の下位に位置している1又は複数の下位通信装置のそれぞれの表示領域情報を含む領域情報を受信する領域情報受信部と、(2)領域情報受信部により受信された各下位通信装置の表示領域情報を含む領域情報を管理する領域情報管理部と、(3)領域情報管理部に管理されている各下位通信装置の表示領域情報を含む領域情報に基づいて、配信する映像データを映像加工する映像加工部と、(4)映像加工部により映像加工された加工後映像データを送信する送信部とを備えることを特徴とする。 A communication device according to a second aspect of the present invention is a distribution source communication device that distributes video data by multicast distribution using a tree-structured distribution route, and (1) one or a plurality of lower-order communication devices that are positioned below the distribution route. An area information receiving unit that receives area information including each display area information, and (2) an area information management unit that manages area information including display area information of each lower-level communication device received by the area information receiving unit; (3) A video processing unit that processes video data to be distributed based on region information including display region information of each lower-level communication device managed by the region information management unit, and (4) video processing by the video processing unit. And a transmission unit that transmits the processed video data.
第3の本発明に係る通信方法は、ツリー構成の配信経路で映像データをマルチキャスト配信する通信方法において、(1)領域情報受信部が、配信経路の下位に位置している1又は複数の下位通信装置のそれぞれの表示領域情報を含む領域情報を受信し、(2)領域情報管理部が、領域情報受信部により受信された各下位通信装置の表示領域情報を含む領域情報と、自装置の表示領域情報とを管理し、(3)領域情報送信部が、領域情報管理部で管理される各下位通信装置の表示領域情報を含む領域情報と、自装置の表示領域情報とを含む領域情報を、配信経路の上位に位置している上位通信装置に送信し、(4)受信部が、上位通信装置から映像データを受信し、(5)表示領域抽出部が、自装置の表示領域情報に基づいて、受信した映像データから表示領域を抽出して表示データを出力し、(6)映像加工部が、領域情報管理部に管理されている各下位通信装置の表示領域情報を含む領域情報に基づいて、映像データを映像加工し、(7)再送信部が、映像加工部により映像加工された加工後映像データを送信することを特徴とする。 A communication method according to a third aspect of the present invention is the communication method for multicast distribution of video data through a tree-structured distribution path, wherein (1) one or a plurality of subordinates in which the area information receiving unit is located below the distribution path (2) the area information management unit receives area information including the display area information of each lower-level communication apparatus received by the area information receiving unit; (3) The area information transmission unit includes area information including display area information of each lower-level communication device managed by the area information management unit, and display area information of the own device. (4) The reception unit receives video data from the higher-level communication device, and (5) the display area extraction unit displays the display area information of the own apparatus. Based on the received video (6) the video processing unit outputs video data based on area information including display area information of each lower-level communication device managed by the area information management unit; (7) The retransmitting unit transmits the processed video data processed by the video processing unit.
第4の本発明に係る通信方法は、ツリー構成の配信経路で映像データをマルチキャスト配信する配信元の通信方法において、(1)領域情報受信部が、配信経路の下位に位置している1又は複数の下位通信装置のそれぞれの表示領域情報を含む領域情報を受信し、(2)領域情報管理部が、領域情報受信部により受信された各下位通信装置の表示領域情報を含む領域情報を管理し、(3)映像加工部が、領域情報管理部に管理されている各下位通信装置の表示領域情報を含む領域情報に基づいて、配信する映像データを映像加工し、(4)送信部が、映像加工部により映像加工された加工後映像データを送信することを特徴とする。
A communication method according to a fourth aspect of the present invention is a communication method of a distribution source for multicast distribution of video data through a distribution path having a tree structure, wherein (1) the area information receiving unit is located at a lower position of the
第5の本発明に係る通信プログラムは、ツリー構成の配信経路で映像データをマルチキャスト配信する通信プログラムにおいて、コンピュータを、(1)配信経路の下位に位置している1又は複数の下位通信装置のそれぞれの表示領域情報を含む領域情報を受信する領域情報受信部と、(2)領域情報受信部により受信された各下位通信装置の表示領域情報を含む領域情報と、自装置の表示領域情報とを管理する領域情報管理部と、(3)領域情報管理部で管理される各下位通信装置の表示領域情報を含む領域情報と、自装置の表示領域情報とを含む領域情報を、配信経路の上位に位置している上位通信装置に送信する領域情報送信部と、(4)上位通信装置から映像データを受信する受信部と、(5)自装置の表示領域情報に基づいて、受信した映像データから表示領域を抽出して表示データを出力する表示領域抽出部と、(6)領域情報管理部に管理されている各下位通信装置の表示領域情報を含む領域情報に基づいて、映像データを映像加工する映像加工部と、(7)映像加工部により映像加工された加工後映像データを送信する再送信部として機能させることを特徴とする。 According to a fifth aspect of the present invention, there is provided a communication program for multicast distribution of video data through a tree-structured distribution path, wherein: (1) one or a plurality of lower-level communication devices located at a lower position of the distribution path An area information receiving unit that receives area information including each display area information; (2) area information including display area information of each lower-level communication device received by the area information receiving unit; (3) region information including display region information of each lower-level communication device managed by the region information management unit, and region information including the display region information of the own device. Based on the display area information of its own device, (4) a reception unit for receiving video data from the higher-level communication device, (4) a region information transmission unit for transmission to a higher-level communication device located at a higher level. A display area extracting unit that extracts a display area from output video data and outputs the display data; and (6) a video based on area information including display area information of each lower-level communication device managed by the area information management unit. The video processing unit functions as a video processing unit that processes data, and (7) a retransmission unit that transmits post-processing video data processed by the video processing unit.
第6の本発明に係る通信プログラムは、ツリー構成の配信経路で映像データをマルチキャスト配信する配信元の通信プログラムにおいて、コンピュータを、(1)配信経路の下位に位置している1又は複数の下位通信装置のそれぞれの表示領域情報を含む領域情報を受信する領域情報受信部と、(2)領域情報受信部により受信された各下位通信装置の表示領域情報を含む領域情報を管理する領域情報管理部と、(3)領域情報管理部に管理されている各下位通信装置の表示領域情報を含む領域情報に基づいて、配信する映像データを映像加工する映像加工部と、(4)映像加工部により映像加工された加工後映像データを送信する送信部として機能させることを特徴とする。 A communication program according to a sixth aspect of the present invention is a communication program of a distribution source for multicast distribution of video data through a tree-structured distribution path, wherein (1) one or a plurality of subordinates located at the lower position of the distribution path An area information receiving unit for receiving area information including display area information of each communication device; and (2) area information management for managing area information including display area information of each lower-level communication device received by the area information receiving unit. A video processing unit that processes video data to be distributed based on region information including display region information of each lower-level communication device managed by the region information management unit, and (4) a video processing unit It is made to function as a transmission part which transmits the image data after a process by which image processing was carried out.
第7の本発明に係る管理装置は、ツリー構成の配信経路で映像データをマルチキャスト配信する通信装置を管理する管理装置において、(1)配信元の通信装置と映像データを受信する1又は複数の通信装置との間の配信経路を決定し、当該配信経路を構成する各通信装置に配信パスの通信路の設定を指示する通信路設定部と、(2)各通信装置間の表示領域情報を含む領域情報の送受信を中継する中継部と、(3)各通信装置の表示領域情報を含む領域情報を管理する領域情報管理部とを備え、各通信装置から送信される領域情報は、当該通信装置の表示領域情報を含む領域情報のみとし、領域情報管理部が、各通信装置に通知する子ノード以下の下位の通信装置の表示領域情報を含む領域情報を通知することを特徴とする。 A management device according to a seventh aspect of the present invention is a management device that manages a communication device that multicasts video data via a tree-structured distribution path, and (1) receives one or more video data from a communication device that is a distribution source. A communication path setting unit that determines a distribution path between the communication apparatuses and instructs each communication apparatus that configures the distribution path to set a communication path of the distribution path; and (2) display area information between the communication apparatuses. A relay unit that relays transmission / reception of the region information including the region information management unit, and (3) a region information management unit that manages region information including the display region information of each communication device. Only the area information including the display area information of the apparatus is used, and the area information management unit notifies the area information including the display area information of the lower communication apparatus below the child node notified to each communication apparatus.
本発明によれば、以下のような効果が得られる。 According to the present invention, the following effects can be obtained.
配信元ノードおよび受信ノードの映像加工部において、子ノードやその子孫ノードのいずれにおいても表示領域とならない領域に対してのみ、送信部や再送信部で用いられる映像符号化技術による発生符号量を低減する効果のある映像加工を行うので、各受信ノードで表示される映像については映像加工による悪影響を与えることなく、子ノードに対して送信される送信データや再送信データの情報量を削減することができる。また、ネットワーク帯域に余裕ができるため、より高画質の映像符号化を施すことが可能となり、各受信ノードで出力される表示領域の映像データを高画質化することが可能となる。 In the video processing unit of the distribution source node and the reception node, the generated code amount by the video coding technique used in the transmission unit and the re-transmission unit is applied only to an area that is not a display area in any of the child node and its descendant nodes Reduces the amount of transmission data and retransmission data sent to child nodes without adversely affecting the video displayed on each receiving node because video processing is effective. be able to. In addition, since the network bandwidth can be afforded, it is possible to perform video encoding with higher image quality, and it is possible to improve the image quality of the video data in the display area output from each receiving node.
(A)主たる実施形態
以下では、本発明に係る通信装置、通信方法及び通信プログラム、管理装置の実施形態を、図面を参照しながら詳細に説明する。
(A) Main Embodiments Hereinafter, embodiments of a communication device, a communication method, a communication program, and a management device according to the present invention will be described in detail with reference to the drawings.
(A−1)実施形態の構成
[全体構成]
図6は、実施形態に係る映像配信システムの全体構成の一例を示す全体構成図である。
(A-1) Configuration of Embodiment [Overall Configuration]
FIG. 6 is an overall configuration diagram illustrating an example of the overall configuration of the video distribution system according to the embodiment.
図6において、実施形態に係る映像配信システム1は、映像配信管理サーバー10、配信元ノード20、受信ノード30(30−1〜30−5)を有する。
6, the
実施形態に係る配信システム1は、ツリー構造のネットワークを形成しており、アプリケーションレベルマルチキャストを用いてメディアデータを配信する。
The
以下では、配信ツリーにおいて、配信元ノード20から受信ノード30側へのデータの流れを下流とし、逆に受信ノード30から配信元ノード20側へのデータの流れを上流とする。
In the following, in the distribution tree, the data flow from the
配信ツリーにおいて、ある受信ノード30から上流側に位置しており、直接通信するノード(配信元ノード20あるいは他の受信ノード30)を「親ノード」と呼び、ある受信ノード30から下流側に位置しており直接通信するノード(他の受信ノード30)を「子ノード」と呼ぶ。また、配信ツリーにおいて、自装置30の親ノードのさらに上流側に位置する親ノードを総称して「祖先ノード」とも呼び、自装置30の子ノードのさらに下流側に位置する子ノードを「子孫ノード」とも呼ぶ。
In the distribution tree, a node (
アプリケーションレベルマルチキャストは、複数のノードにデータを配信する手法の1つである。アプリケーションレベルマルチキャストの配信手法は、配信元ノード(もしくはサーバー)の負荷を低減しつつ複数の配信先である受信ノードに配信する方法である。一般にはデータの種類として映像音声を含む多種多様なものをサポートすることができ、またリアルタイムのライブ配信にも蓄積型の配信にも対応することが可能である。 Application level multicast is one of the methods for distributing data to a plurality of nodes. The distribution technique of application level multicast is a method of distributing to a plurality of receiving nodes as distribution destinations while reducing the load on the distribution source node (or server). In general, a wide variety of data including video and audio can be supported as data types, and real-time live distribution and storage-type distribution can be supported.
また、複数のノードにデータを配信する手法として、IPマルチキャスト技術がある。IPマルチキャスト技術は、IP層において配信データの経路制御や複製処理を行う手法である。IPマルチキャスト技術では、配信経路上のルーターがデータの複製処理を行うので、配信先の受信ノードが増えても、配信元ノードの負荷が増大しない。プロトコルとしては、IPv4ではIGMP、IPv6ではMDLv2と呼ばれるものが使われる。欠点としては、配信元ノードから配信先の受信ノードまでの経路上のルーターがすべてこれらの特別なプロトコルを処理できる必要が有ることである。IPマルチキャストを可能にするインフラストラクチャはまだ普及しているとは言えず、特に企業内ネットワークでは普及していない。 As a technique for distributing data to a plurality of nodes, there is an IP multicast technique. The IP multicast technique is a technique for performing distribution data routing control and replication processing in the IP layer. In the IP multicast technology, a router on a distribution path performs data duplication processing, so even if the number of distribution destination receiving nodes increases, the load on the distribution source node does not increase. As a protocol, a protocol called IGMP in IPv4 and a protocol called MDLv2 in IPv6 are used. The disadvantage is that all routers on the path from the distribution source node to the distribution destination receiving node need to be able to handle these special protocols. The infrastructure that enables IP multicasting is not yet widespread, and is not particularly widespread in corporate networks.
アプリケーションレベルマルチキャスト技術は、IPマルチキャストと同様に、経路上の装置がデータを複製することによって配信元端末の負荷増大を抑え、配信先の受信ノード数の増大に対処する手法である。アプリケーションレベルマルチキャスト技術とIPマルチキャスト技術との違いは、データ複製を配信先の受信ノードが行う点である。 Similar to IP multicast, the application level multicast technique is a method of dealing with an increase in the number of receiving nodes of a distribution destination by suppressing an increase in load of a distribution source terminal by copying data on a device on a route. The difference between the application level multicast technology and the IP multicast technology is that the receiving node of the distribution destination performs data replication.
配信元ノード20が配信するメディアデータは、この実施形態では映像情報を含む場合を例示するが、音情報(音声や音響を含む音に関する情報)を含むものであってもよい。
The media data distributed by the
映像配信管理サーバー10は、配信元ノード20と受信ノード30の間の映像配信ツリーの構成を管理する。映像配信管理サーバー10は、ネットワークに新規の受信ノード30が参加するときや受信ノード30が離脱するときなどのように、配信ツリーの再構成が必要なときに、配信元ノード20や各受信ノード30に対して配信ツリーの再構成を指示する。また、後述する受信ノード30や配信元ノード20の間の領域情報の送受信は、直接ノード間で送受信しても良いが、映像配信管理サーバー10が領域情報の送受信の仲介をするような構成としても良い。
The video
映像配信管理サーバー10は、配信ツリーを構成する配信元ノード20と受信ノード30との間の配信ツリーを決定し、各ノード(配信元ノード20、受信ノード30)に対して配信ツリーを構成する各ノード間の配信パスの通信路の設定を指示する通信路設定部と、ノード間の領域情報の送受信を中継する中継部と、各受信ノード30の表示領域情報を含む領域情報を管理する領域情報管理部とを有する。映像配信管理サーバー10は、各受信ノード30から領域情報を取得するが、そのとき各受信ノード30から送信される領域情報には、その受信ノード30の表示領域情報のみが含まれる。また、受信ノード30や配信元ノード20に通知する子ノード以下の領域情報を、映像配信管理サーバー10が通知する。つまり、映像配信管理サーバー10は、受信ノード30や配信元ノード20に対して領域情報を通知するが、その受信ノード30や配信元ノード20の子ノードや孫ノードなどの子孫となるノードの領域情報を、映像配信管理サーバー10が受信ノード30や配信元ノード20に対して通知するようにしてもよい。
The video
配信元ノード20は、配信したい映像のコンテンツデータや、ビデオカメラ等の映像ソースからの映像データ等の映像情報を、各受信ノード30に配信する。配信元ノード20は、映像配信管理サーバー10の指示に応じて、複数の受信ノード30のうち、直接の配信先となる受信ノード30のそれぞれに、配信したい映像情報に対して受信ノード30から通知される領域情報に応じた加工処理を行った映像情報の送信を行う。
The
受信ノード30(30−1〜30−5)は、自装置よりも上流側に位置しているノード(例えば、配信元ノード20、他の受信ノード30)から、通信回線を介して映像情報を受信し、自装置の表示領域情報に従って、受信した映像のフレーム内の表示領域を抽出し、その抽出した表示領域の映像を表示する。また、受信ノード30は、映像配信管理サーバー10の指示に応じて、自装置を親ノードとしている他の受信ノード30(すなわち、自装置の各子ノード)のそれぞれに、受信した映像情報に対して、他の受信ノード30から通知される領域情報に応じた加工処理を行い、加工処理後の映像情報の再配信を行う。受信ノード30は、例えば、スマートフォン、タブレット端末、パーソナルコンピュータ、ウェラブル端末等を適用することができる。
The receiving node 30 (30-1 to 30-5) receives video information from a node (for example, the
なお、図6において、配信元ノード20は複数存在してもよく、映像配信管理サーバー10では配信ツリーをそれぞれの配信元ごと(配信したい映像コンテンツごと)に管理する。例えば、複数の拠点にそれぞれ配信元ノード20を配置し、複数拠点間で双方向に情報を配信しあうことでコミュニケーションを実現するような構成としてもよい。
In FIG. 6, a plurality of
[受信ノード30の内部構成]
図1は、実施形態に係る受信ノード30の内部構成を示す内部構成図である。
[Internal configuration of receiving node 30]
FIG. 1 is an internal configuration diagram illustrating an internal configuration of the receiving
図1において、実施形態に係る受信ノード30は、受信部301、表示領域抽出部302、映像加工部303、再送信部304、領域情報受信部305、領域情報管理部306、領域情報送信部307を備える。
In FIG. 1, the
受信ノード30は、例えば、CPU、ROM、RAM、EEPROM、入出力インタフェース部、通信装置などを備えるものであり、CPUがROMに格納される、あるいは、サーバーからダウンロードされる処理プログラム(通信プログラム)を実行することにより、後述する受信ノード30としての各種機能が実現される。
The
受信部301は、自装置30の親ノード(配信元ノード20若しくは他の受信ノード30)から映像を含む配信データを受信するものである。ツリー構造を構築している映像配信システム1で、配信元ノード20又は配信元ノード20に近い位置にあるノードを親ノードとする。
The receiving unit 301 receives distribution data including video from the parent node (
表示領域抽出部302は、自装置30のユーザーにより指示された表示領域情報が取得されており、受信部301により受信された映像から、ユーザーから指示された表示領域情報に基づいて表示データを抽出し、その表示データを出力する。
The display
映像加工部303は、自装置30が子ノード(他の受信ノード30)に再配信を行う中継ノードとして機能する場合に、領域情報管理部306に保持されている子ノードやその子孫ノードの表示領域情報を含む領域情報を読み出し、その子ノードやその子孫ノードの表示領域情報を含む領域情報に基づいて、映像を加工して子ノードへの配信用映像とし、その配信用映像を再送信部304に与える。
When the
再送信部304は、映像加工部303により加工された子ノードへの配信用映像を、子ノードに配信するものである。
The
領域情報受信部305は、自装置30の子ノードやその子孫ノード(すなわち、ツリー構造の映像配信システム1で子ノード以下のツリーを構成する他の受信ノード30)から表示領域情報を含む領域情報を受信し、その表示領域情報を含む領域情報を領域情報管理部306に与える。
The area
領域情報管理部306は、ユーザーにより指示された自装置30の表示領域情報と、領域情報受信部305により受信された領域情報とを管理する。
The area
領域情報送信部307は、領域情報管理部306で保持されている領域情報から、自装置30の表示領域情報を含む領域情報や、子ノード若しくはその子孫ノードの表示領域情報を含む領域情報を、親ノードに送信する。
The area
[配信元ノード20の内部構成]
図7は、実施形態に係る配信元ノード20の内部構成を示す内部構成図である。
[Internal configuration of distribution source node 20]
FIG. 7 is an internal configuration diagram illustrating an internal configuration of the
図7において、実施形態に係る配信元ノード20は、映像加工部203、送信部204、領域情報受信部205、領域情報管理部206を有する。
In FIG. 7, the
配信元ノード20は、例えば、CPU、ROM、RAM、EEPROM、入出力インタフェース部、通信装置などを備えるものであり、CPUがROMに格納される、あるいは、サーバーからダウンロードされる処理プログラム(通信プログラム)を実行することにより、後述する配信元ノード20としての各種機能が実現される。
The
映像加工部203は、配信したい映像を含む配信データを取得し、領域情報管理部206に保持されている子ノードやその子孫ノードの表示領域情報を含む領域情報に基づいて映像を加工して配信用映像を生成し、自装置20から直接配信を受ける子ノード(受信ノード30)への配信用映像を送信部204に与える。
The
送信部204は、映像加工部203により加工された配信用映像を含む送信データを送信するものである。
The transmission unit 204 transmits transmission data including the distribution video processed by the
領域情報受信部205は、子ノードやその子孫ノード(配信ツリー上の子ノード以下のツリーを構成する受信ノード30)の表示領域情報を含む領域情報を子ノードから受信し、その受信した領域情報を領域情報管理部206に与える。
The area information receiving unit 205 receives area information including display area information of a child node and its descendant nodes (receiving
領域情報管理部206は、領域情報受信部205により受信された子ノードやその子孫ノードから受信した領域情報を管理する。
The area
(A−2)実施形態の動作
次に、実施形態に係る映像配信システム1における映像を含む配信データの配信処理を、図面を参照しながら詳細に説明する。
(A-2) Operation of Embodiment Next, distribution processing of distribution data including video in the
図6に示すように、配信したい映像情報の配信元である配信元ノード20から、映像情報の受信者である(複数の)受信ノード30に対してアプリケーションレベルマルチキャストを用いて映像情報の配信を行う。
As shown in FIG. 6, the distribution of the video information from the
映像情報の配信経路となる配信ツリーの構成状態は映像配信管理サーバー10が管理しており、配信元ノード20や受信ノード30との間で、各ノードに関するノード情報や配信ツリーの構成に関わる情報をやり取りすることにより、動的なノードの追加や離脱に応じた配信ツリーの再構築を行う。具体的な配信ツリーの構成に関わる情報の内容や、具体的な配信パスとなる通信路を設定するためのシグナリング等については任意の方法を用いることができる。例えば映像配信管理サーバー10がノード間の通信路設定のためのシグナリングを中継するシグナリングサーバーを兼務するような構成としても良いし、また例えば、受信ノード30や配信元ノード20の間の領域情報の送受信を行うための通信路の設定のためのシグナリングサーバーを兼務したり、あるいは、ノード間では領域情報を直接送受信せず、ノード間の領域情報の送受信を映像配信管理サーバー10が中継する役割を兼務するような構成としても良い。
The distribution state of the distribution tree serving as the distribution route of the video information is managed by the video
まず、配信元ノード20は、配信したい映像である配信データを入力し、配信元ノードとしてのノード情報を映像配信管理サーバー10に通知する。
First, the
受信ノード30は、例えば、配信を受けたい映像データを特定する情報などを含む、受信ノードとしてのノード情報を映像配信管理サーバー10に通知する。
The receiving
映像配信管理サーバー10は、配信元ノード20や、(1つ以上の)受信ノード30で構成する配信ツリーの構成を決定し、それぞれのノード(配信元ノード20と受信ノード30)に対して配信パスの接続相手に関わる情報を通知する。
The video
配信元ノード20や受信ノード30の各ノードは、配信データを受信するための親ノードとの通信路や、配信データを送信するための子ノードへの通信路を設定し、配信データの送受信を行う。
Each node of the
配信元ノード20や受信ノード30の各ノードは、配信パスに従った接続相手との通信路を確保し、配信元ノード20は自身が持つ映像情報の加工処理後の映像データの送信を、受信ノード30は親ノードからの配信データの受信と、自身が子ノードを持つ場合は、受信した映像データの加工処理後の映像データの再送信を行う。
Each node of the
新規に受信ノード30が配信ツリーに参加する場合は、映像配信管理サーバー10は、新規の受信ノード30から通知されるノード情報にしたがって、配信元となる親ノード(配信元ノード20もしくはすでに配信を受けている受信ノード30)を割り当て、割り当てられた親ノードが、新規受信ノード30への配信を開始することにより、配信ツリーの構築を行う。
When a
配信ツリーに参加している受信ノード30の内の1つのノード装置30が配信ツリーから離脱した場合は、離脱したノードを親ノード(や祖先ノード)としていた受信ノード30への配信が停止してしまうため、配信が停止してしまう受信ノード30に対して新たな親ノードの割り当てを行う。親ノードの再割り当ては、離脱ノードの直接の子ノードに対してのみ行っても良いし、直接の子ノード以外にも、子ノードの子孫のノードに対しても再割り当てを行っても良い。これらの受信ノード30に対して、親ノードの再割り当てを行うことにより、配信ツリーの再構築を行う。
When one
[各受信ノード30における処理動作]
実施形態に係る各受信ノード30における処理動作を、図1を参照して説明する。
[Processing operation in each receiving node 30]
The processing operation in each receiving
受信ノード30では、それぞれの受信ノード30で表示したい領域を示す情報である表示領域情報が入力される。これは、例えば、あらかじめ受信ノード30ごとに設定された領域情報でもよく、また、例えばマウスやタッチ操作などのユーザーインターフェースを介したユーザーからの指示による領域情報でもよい。
In the receiving
受信ノード30は、映像情報の直接の配信元である親ノード(配信元ノード20もしくは他の受信ノード30)からの映像データを受信部301で受信する。受信した映像データは入力される表示領域情報にしたがって、表示領域抽出部302で、映像データの一部分が抽出され、表示データとして出力され、ディスプレイ等に表示される。
The
受信ノード30が子ノード(他の受信ノード30)への再配信を行う中継ノードである場合は、映像加工部303で、子ノードへの配信用に映像を加工し、加工された映像情報を再送信部304からそれぞれの子ノードに対して送信を行う。子ノードが存在しない場合は、加工処理及び再送信処理は行わない。
When the receiving
子ノードからは、子ノードである他の受信ノード30および配信ツリーにおけるその子孫である他の受信ノード30のそれぞれの表示領域情報を含む子ノードからの領域情報が通知され、領域情報受信部305で受信する。
The child node is notified of region information from the child node including the display region information of the other receiving
受信した子ノードからの領域情報と、受信ノード30自身の表示領域情報は、領域情報管理部306に入力され、領域情報管理部306は、これらの領域情報にしたがった映像加工対象領域情報を映像加工部303に供給する。
The received region information from the child node and the display region information of the receiving
また、領域情報管理部306は、子ノードからの領域情報と、自身の表示領域情報を含む領域情報を親ノードに通知するために領域情報送信部307に供給し、領域情報送信部307から親ノードに対して通知を行う。
The area
[配信元ノード20における処理動作]
配信元ノード20の動作を、図7を参照しながら説明する。
[Processing Operation in Distribution Source Node 20]
The operation of the
配信元ノード20には、配信したい映像である配信データが入力されるが、これをそのまま送信するのではなく、子ノードから通知される領域情報に従った映像加工処理を行ったうえで送信を行う。
Distribution data that is a video to be distributed is input to the
入力された配信データである映像データは、映像加工部203で、配信元ノード20から直接配信を受ける子ノード(受信ノード30)への配信用に映像を加工する処理を行う。
The video data that is the input distribution data is processed by the
加工された映像データは、送信部204からそれぞれの子ノードに対して送信される。 The processed video data is transmitted from the transmission unit 204 to each child node.
子ノードからは、子ノードやその子孫ノード(配信ツリー上の子ノード以下のツリーを構成する受信ノード30)の表示領域情報を含む子ノードからの領域情報を、領域情報受信部205で受信する。
From the child node, the region information receiving unit 205 receives the region information from the child node including the display region information of the child node and its descendant node (the receiving
領域情報受信部205で受信した、領域情報は領域情報管理部206に供給され、映像加工部203では領域情報管理部206で保持する子ノードやその子孫ノードの表示領域情報を含む領域情報にしたがって映像を加工する処理を行う。
The region information received by the region information receiving unit 205 is supplied to the region
[領域情報の送受信処理]
以下、受信ノード30や配信元ノード20の間でやり取りされる領域情報の様子を、図8を参照しながら説明する。
[Area information send / receive processing]
Hereinafter, the state of the area information exchanged between the receiving
図8は、実施形態の子ノードから親ノードへの領域情報の送受信処理を説明する説明図である。 FIG. 8 is an explanatory diagram illustrating a transmission / reception process of area information from a child node to a parent node according to the embodiment.
図8では、説明を容易にするために、例えば「ユーザー(30−1)」の表記は配信元ノード20から受信ノード30−1に配信される映像のフレームを示しており、D1は、受信ノード30−1のユーザーが映像フレーム内で選択した表示領域を示している。また、点線で囲んでいるものは、ノード間で授受される領域情報をイメージ化している。
In FIG. 8, for ease of explanation, for example, the notation “user (30-1)” indicates a frame of a video distributed from the
図8において、配信元ノード20から映像配信を受ける各受信ノード30−1〜30−5では、各ユーザーによりそれぞれが表示したい領域である表示領域D1〜D5が指示されている。それぞれの受信ノード30は、子ノードから通知される領域情報に、自装置30においてユーザーに指示された表示領域情報を追加したうえで、親ノードへの領域情報として通知する。
In FIG. 8, in each of the receiving nodes 30-1 to 30-5 that receives video distribution from the
例えば、図8において、受信ノード30−3のユーザー(30−3)は、子ノードであるユーザ(30−2)から表示領域D2を取得すると、その表示領域D2に自装置30−3の表示領域D3を加えたものを領域情報として、親ノードであるユーザー(30−5)に送信する。図8の例では、各受信ノード30でユーザーにより指示された表示領域情報が矩形領域であるものとして説明しているが、表示領域情報は、矩形領域に限定されるものでない。表示領域情報は、映像フレームにおいて表示領域を特定する情報とすることができ、例えば、矩形領域である場合、矩形領域の左上座標値、矩形領域の幅を示す値、高さを示す値等などの情報で領域情報を表現しても良い。
For example, in FIG. 8, when the user (30-3) of the receiving node 30-3 acquires the display area D2 from the user (30-2) as a child node, the display of the own device 30-3 is displayed in the display area D2. The information including the area D3 is transmitted as area information to the user (30-5) as the parent node. In the example of FIG. 8, the display area information instructed by the user at each receiving
各受信ノード30の領域情報管理部306は、子ノードや子孫ノードから収集した領域情報をリスト状で管理するようにしてもよい。具体的には、子ノードや子孫ノードの識別情報(例えば、映像配信管理サーバーから各ノードに付与された識別子情報等)に、子ノードや子孫ノードから収集した表示領域情報を含む領域情報を対応付けて管理する。これにより、子ノードや子孫ノード毎に、表示領域情報を含む領域情報を管理することができる。あるいは、直接の子ノード毎に、その子ノード以下の全ての領域情報のリスト(個々のノードは特定しない)として管理することができる。
The area
また、領域情報管理部306は、自装置30の表示領域情報と、子ノードや子孫ノードの表示領域情報を含む領域情報とに基づいて、包含関係にある領域を統合するようにしてもよい。例えば、図8において、ユーザー(30−3)では、子ノードであるユーザー(30−2)の表示領域D2と、受信ノード30−3の表示領域D3とが一部領域で重なっている。このような場合に、受信ノード30−3の領域情報管理部306は、ユーザー(30−2)の表示領域D2又は受信ノード30−3の表示領域D3のいずれか一方について重複領域を削除し、重複領域を統合するようにしてもよい。これにより、重複領域を省いた領域情報を配信元ノード20や受信ノード30に指示することができるため、親ノードへ通知する領域情報のデータ量を削減することができる。
Further, the area
さらに、領域情報管理部306は、自装置30の表示領域情報と、子ノードや子孫ノードの表示領域情報を含む領域情報とに基づいて、複数の表示領域が重なっている場合に、その全ての領域を覆うような大きな領域に統合するようにしてもよい。例えば、図8において、ユーザー(30−5)では、ユーザー(30−2)の表示領域D2、ユーザー(30−3)の表示領域D3、ユーザー(30−4)の表示領域D4、ユーザー(30−5)の表示領域D5が重なり合っているが、これらすべてを囲うようなより大きな1つの矩形領域に統合してしまい、この1つの領域情報を配信元ノード20に送信する。このように、複数の表示領域が重なり合っており、比較的大きな表示領域の領域情報を送信する場合には、これら表示領域を統合した領域情報を形成したり、又はこれら領域を包含する大きな領域とする領域情報を形成するようにしてもよい。これにより、重複領域を包含する領域情報を配信元ノード20や受信ノード30に指示することができるため、親ノードに通知する領域情報のデータ量を削減することができる。
Furthermore, the area
これらの領域情報は順次経路上の受信ノード30の表示領域が追加されながら親ノードに伝搬し、配信元ノード20まで通知される。
These pieces of area information are sequentially propagated to the parent node while the display area of the receiving
なお、これら領域情報の送受信は、ノード間(受信ノード30や配信元ノード20の間)で直接の通信路を設けてやり取りする構成としても良いが、映像配信管理サーバー10などのサーバーを介した中継により情報交換する構成としても良い。さらに、例えば、映像配信管理サーバー10で中継するような場合には、領域情報送信部307からは自装置の表示領域情報のみを送信し、映像配信管理サーバー10で配信ツリーの構成状態に従った、領域情報の集約を行ったうえで、領域情報受信部305や領域情報受信部205に送信するような構成としても良い。すなわち、領域情報送信部307からは自装置の表示領域情報のみを、映像配信管理サーバー10に送信する。映像配信管理サーバー10はこの領域情報を受け取るべき親ノードや先祖ノードである受信ノード30や配信元ノード20を配信ツリーの構成状態にしたがって特定し、これらのノードに対して、領域情報を送信した受信ノード30を含む配信ツリーのサブツリー(配信ツリー上の子ノード以下のツリーを構成する他の受信ノード30)の全てのノードの領域情報を集約して送信する。領域情報受信部305や領域情報受信部205は、映像配信管理サーバー10から各子ノード以下の配信ツリーのサブツリーの領域情報を受信する。領域の重なり等による領域情報の統合も映像配信管理サーバー10で行うように構成しても良い。
In addition, although transmission / reception of these area | region information is good also as a structure which provides and communicates by providing a direct communication path between nodes (between the receiving
[映像配信処理]
次に、図9を参照しながら、各ノード(配信ノード20および受信ノード30)での映像加工の様子を説明する。
[Video distribution processing]
Next, with reference to FIG. 9, the state of image processing at each node (
図9も、図8と同様に、説明を容易にするために、配信する映像データをイメージ化している。例えば「ユーザー(30−1)」の表記は配信元ノード20から受信ノード30−1に配信される映像のフレームを示しており、D1は、受信ノード30−1のユーザーが映像フレーム内で選択した表示領域を示している。また、点線で囲んでいるものは配信データを示しており、ハッチがかかっている部分が映像加工を施した部分を示しており、白抜き部分が映像加工を施していない部分を示している。
As in FIG. 8, FIG. 9 also visualizes the video data to be distributed for ease of explanation. For example, the notation “user (30-1)” indicates a frame of a video distributed from the
図8に示すように、子ノードからは、子ノードやその子孫ノード(配信ツリー上の子ノード以下のツリーを構成する他の受信ノード30)の表示領域情報を集約した領域情報が通知されている。
As shown in FIG. 8, the child node is notified of area information obtained by collecting display area information of the child node and its descendant nodes (other receiving
各ノード(配信ノード20および受信ノード30)における映像加工部203および映像加工部303では、その配信パス以下のいずれの受信ノード30でも表示領域とならないような領域(図9のハッチで表現した領域)に対して映像加工を行う。配信パス以下のいずれかの受信ノード30で表示領域となる領域(図9の白抜き部分で表現した領域)は映像加工の対象とはしない。
In the
配信元ノード20および受信ノード30の映像加工部203、303では、それぞれの領域情報管理部206、306で保持する子ノードやその子孫ノードの表示領域情報を含む領域情報にしたがって、子ノードやその子孫ノードのいずれにおいても表示領域とならない領域(加工対象領域)に対して、送信部204や再送信部304で用いられる映像符号化技術による発生符号量を低減する効果のある映像加工を行う。
In the
ここで、映像加工部203、303による映像加工の方法の一例を説明する。映像加工部203、303は、例えば、単純には加工対象の領域を単色(灰色など)に塗りつぶすようにしてもよい。あるいは、映像加工部203、303は、ガウスフィルタのようなぼかしフィルタ処理を行うようにしてもよい。送信部204や再送信部304で用いられる映像符号化技術では、例えば離散コサイン変換とエントロピー符号化が用いられるなどしており、複雑なテキスチャの領域や鮮明なエッジのある領域は符号量が発生しやすいが、単色領域や低域通過フィルタ処理された領域は符号量の発生が低減できる。
Here, an example of a video processing method by the
なお、受信ノード30では、そのノードで初めて加工対象領域となる領域(自身の表示領域であるが子ノードからの領域情報には含まれない領域)に対してのみ加工処理を行うことにより処理量を削減するような構成としても良い。例えば、図8において、ユーザー(30−3)で、親ノードであるユーザー(30−5)から映像加工された映像データを受信するが、このとき、ユーザー(30−3)では、子ノードであるユーザー(30−2)の表示領域情報を含む領域情報に基づいて、ユーザー(30−2)の表示領域以外の領域のみを映像加工することになる。これにより、各受信ノード30は、子ノードや子孫ノードの表示領域以外の自身の表示領域のみ、映像加工を行えばよい(それ以外の領域はすでに親ノードで映像加工されている)ので、映像加工に係る処理量を削減することができる。
The receiving
また、表示領域が動的に変化するような場合(ユーザーのマウス操作など)で、かつ、領域情報の送受信による交換と、加工処理のタイミングの同期をとることが困難な場合は、加工対象としない領域をあらかじめある範囲にわたって拡大しておいたり、加工対象としない領域周辺の加工対象領域に対しては弱いフィルタ処理を施すような処理を行っても良い。 Also, if the display area changes dynamically (such as a user's mouse operation) and it is difficult to synchronize the processing timing with the exchange of area information transmission and reception, An area that is not to be processed may be enlarged over a certain range in advance, or a process that performs a weak filter process may be performed on the area to be processed around the area that is not to be processed.
さらに、上記説明(図9の例)では、子ノードが複数ある場合はそれぞれの子ノードごとに、その子ノード以下の配信ツリーにおける領域情報に従った映像加工処理をそれぞれ行う場合について記載したが、例えば、映像加工処理の処理負荷を低減するため、すべての子ノードの領域情報を統合した1種類の加工画像のみを生成する加工処理を行うような構成としても良い(ただし、この場合は子ノード以下では表示領域とならないような領域が加工処理されずに送信される場合も起こり得る)。 Furthermore, in the above description (example of FIG. 9), when there are a plurality of child nodes, each of the child nodes has been described as performing video processing processing according to the area information in the distribution tree below the child nodes. For example, in order to reduce the processing load of the video processing process, it may be configured to perform a processing process that generates only one type of processed image obtained by integrating the region information of all the child nodes (in this case, the child node may be used). In the following, an area that does not become a display area may be transmitted without being processed).
以上のような処理により、アプリケーションレベルマルチキャストを用いた映像情報の配信を行う。 Through the processing as described above, video information is distributed using application level multicast.
(A−3)実施形態の効果
以上のように、本発明の実施形態によれば以下のような効果が得られる。
(A-3) Effect of Embodiment As described above, according to the embodiment of the present invention, the following effect can be obtained.
アプリケーションレベルマルチキャストを用いた映像情報の配信システムにおいて、配信ツリーを構成する、配信元ノードおよび受信ノードの映像加工部において、配信ツリー上の子ノードやその子孫ノードのいずれにおいても表示領域とならない領域に対してのみ、送信部や再送信部で用いられる映像符号化技術による発生符号量を低減する効果のある映像加工を行うので、各受信ノードで表示される映像については映像加工による悪影響を与えることなく、子ノードに対して送信される送信データや再送信データの情報量を削減することができる。 In the video information distribution system using application level multicast, in the video processing unit of the distribution source node and the reception node constituting the distribution tree, an area that does not become a display area in any of the child node and its descendant nodes on the distribution tree Video processing that is effective in reducing the amount of code generated by the video encoding technique used in the transmission unit and the retransmission unit, the video displayed at each receiving node is adversely affected by the video processing. Therefore, it is possible to reduce the information amount of transmission data and retransmission data transmitted to the child node.
また、ネットワーク帯域に余裕ができるため、より高画質の映像符号化を施すことが可能となり、各受信ノードで出力される表示領域の映像データを高画質化することが可能となる。 In addition, since the network bandwidth can be afforded, it is possible to perform video encoding with higher image quality, and it is possible to improve the image quality of the video data in the display area output from each receiving node.
(B)他の実施形態
本発明は上記実施形態に限定されず、その他のさまざまな映像配信システムに利用可能である。
(B) Other Embodiments The present invention is not limited to the above-described embodiments, and can be used for various other video distribution systems.
例えば、映像や音声データ以外に文書やプレゼンテーション等の情報も同時に配信するなど様々なデータ配信に利用可能である。 For example, it can be used for various data distribution such as simultaneous distribution of information such as documents and presentations in addition to video and audio data.
本発明は、上記構成を有するようなシステム、装置として構成する場合や、上記システムを構成する各装置の処理を実現するようなプログラムとしても実施可能である。 The present invention can be implemented as a system or device having the above-described configuration, or as a program that realizes the processing of each device constituting the system.
例えば、配信元ノードや受信ノードの機能を実現するようなダウンロード可能なプログラム(例えばJavaScript(登録商標)プログラム)をサーバー上(Webサーバーや映像配信管理サーバー)に配置し、PCなどにダウンロードして(Webブラウザにダウンロードして)システムを構成するようなサーバー装置(サーバープログラム)として構成することも可能である。 For example, a downloadable program (for example, a JavaScript (registered trademark) program) that realizes the functions of a distribution source node and a reception node is arranged on a server (Web server or video distribution management server) and downloaded to a PC or the like. It can also be configured as a server device (server program) that configures the system (downloaded to a Web browser).
1…映像配信システム、10…映像配信管理サーバー、
20…配信元ノード、203…映像加工部、204…送信部、205…領域情報受信部、206…領域情報管理部、
30(30−1〜30−5)…受信ノード、301…受信部、302…表示領域抽出部、303…映像加工部、304…再送信部、305…領域情報受信部、306…領域情報管理部、307…領域情報送信部。
1 ... Video distribution system, 10 ... Video distribution management server,
20 ... Distribution source node, 203 ... Video processing unit, 204 ... Transmission unit, 205 ... Area information reception unit, 206 ... Area information management unit,
30 (30-1 to 30-5): receiving node, 301: receiving unit, 302 ... display area extracting unit, 303 ... video processing unit, 304 ... retransmitting unit, 305 ... area information receiving unit, 306 ... area information management Part, 307... Area information transmission part.
Claims (16)
前記配信経路の下位に位置している1又は複数の下位通信装置のそれぞれの表示領域情報を含む領域情報を受信する領域情報受信部と、
前記領域情報受信部により受信された各下位通信装置の表示領域情報を含む領域情報と、自装置の表示領域情報とを管理する領域情報管理部と、
前記領域情報管理部で管理される前記各下位通信装置の表示領域情報を含む領域情報と、自装置の表示領域情報とを含む領域情報を、前記配信経路の上位に位置している上位通信装置に送信する領域情報送信部と、
前記上位通信装置から映像データを受信する受信部と、
自装置の表示領域情報に基づいて、受信した映像データから表示領域を抽出して表示データを出力する表示領域抽出部と、
前記領域情報管理部に管理されている各下位通信装置の表示領域情報を含む領域情報に基づいて、前記映像データを映像加工する映像加工部と、
前記映像加工部により映像加工された加工後映像データを送信する再送信部と
を備えることを特徴とする通信装置。 In a communication device that multicasts video data via a tree-structured distribution path,
An area information receiving unit that receives area information including display area information of each of the one or more lower-level communication devices located in the lower level of the distribution path;
A region information management unit that manages the region information including the display region information of each lower-level communication device received by the region information receiving unit, and the display region information of the own device;
Upper-layer communication device in which region information including display region information of each lower-level communication device managed by the region-information management unit and region information including display region information of its own device is positioned above the distribution route An area information transmitter to transmit to
A receiver for receiving video data from the higher-level communication device;
A display area extraction unit that extracts a display area from received video data and outputs display data based on the display area information of the device itself;
A video processing unit that processes the video data based on region information including display region information of each lower-level communication device managed by the region information management unit;
A re-transmission unit that transmits post-processed video data processed by the video processing unit.
前記映像加工部が、前記上位通信装置から受信した前記加工後映像データのうち、当該通信装置で初めて加工対象となる領域について、前記各下位通信装置の表示領域以外の領域のみを映像加工する
ことを特徴とする請求項1に記載の通信装置。 The video data received from the host communication device is processed video data processed by the host communication device,
The video processing unit processes only the area other than the display area of each of the lower-level communication devices in the processed video data received from the higher-level communication device for an area to be processed for the first time in the communication device. The communication apparatus according to claim 1.
前記映像加工部が、前記直接通信する各下位通信装置の表示領域情報を含む領域情報に基づいて、映像加工領域を統合して映像加工し、
前記再送信部が、前記映像加工部により映像加工領域を統合した加工後映像データを、前記直接通信する各下位通信装置に送信する
ことを特徴とする請求項1に記載の通信装置。 When there are multiple subordinate communication devices that communicate directly,
The video processing unit integrates video processing areas and processes video based on area information including display area information of each lower-level communication device that communicates directly,
The communication apparatus according to claim 1, wherein the re-transmission unit transmits post-processed video data obtained by integrating video processing regions by the video processing unit to each lower-level communication device that performs direct communication.
前記配信経路の下位に位置している1又は複数の下位通信装置のそれぞれの表示領域情報を含む領域情報を受信する領域情報受信部と、
前記領域情報受信部により受信された各下位通信装置の表示領域情報を含む領域情報を管理する領域情報管理部と、
前記領域情報管理部に管理されている各下位通信装置の表示領域情報を含む領域情報に基づいて、配信する映像データを映像加工する映像加工部と、
前記映像加工部により映像加工された加工後映像データを送信する送信部と
を備えることを特徴とする通信装置。 In the communication device of the distribution source that multicasts the video data via the distribution path of the tree configuration,
An area information receiving unit that receives area information including display area information of each of the one or more lower-level communication devices located in the lower level of the distribution path;
An area information management unit for managing area information including display area information of each lower-level communication device received by the area information receiving unit;
A video processing unit that processes video data to be distributed based on region information including display region information of each lower-level communication device managed by the region information management unit;
A communication unit comprising: a transmission unit configured to transmit post-processed video data processed by the video processing unit.
前記映像加工部が、前記下位通信装置からの映像加工処理の対象とならない領域を拡大した領域を含む領域情報に基づいて、拡大した領域以外の領域に対して映像加工処理を行う
ことを特徴とする請求項5に記載の通信装置。 The area information transmission unit transmits area information including an area obtained by enlarging an area that is not a target of video processing processing to the host communication device,
The video processing unit performs video processing on an area other than the enlarged area based on area information including an area obtained by enlarging an area that is not a target of video processing from the lower-level communication device. The communication device according to claim 5.
領域情報受信部が、前記配信経路の下位に位置している1又は複数の下位通信装置のそれぞれの表示領域情報を含む領域情報を受信し、
領域情報管理部が、前記領域情報受信部により受信された各下位通信装置の表示領域情報を含む領域情報と、自装置の表示領域情報とを管理し、
領域情報送信部が、前記領域情報管理部で管理される前記各下位通信装置の表示領域情報を含む領域情報と、自装置の表示領域情報とを含む領域情報を、前記配信経路の上位に位置している上位通信装置に送信し、
受信部が、前記上位通信装置から映像データを受信し、
表示領域抽出部が、自装置の表示領域情報に基づいて、受信した映像データから表示領域を抽出して表示データを出力し、
映像加工部が、前記領域情報管理部に管理されている各下位通信装置の表示領域情報を含む領域情報に基づいて、前記映像データを映像加工し、
再送信部が、前記映像加工部により映像加工された加工後映像データを送信する
ことを特徴とする通信方法。 In a communication method for multicast distribution of video data via a tree-structured distribution route,
An area information receiving unit receives area information including display area information of each of one or a plurality of lower-level communication devices located at a lower level of the distribution path;
The area information management unit manages the area information including the display area information of each lower-level communication device received by the area information receiving unit, and the display area information of the own device,
The area information transmission unit positions area information including the display area information of each of the lower-level communication devices managed by the area information management unit and the display area information of the own apparatus at the upper level of the distribution route. To the higher-level communication device
The receiving unit receives the video data from the host communication device,
The display area extraction unit extracts the display area from the received video data based on the display area information of the own device, and outputs the display data.
A video processing unit processes the video data based on region information including display region information of each lower-level communication device managed by the region information management unit,
The retransmitting unit transmits post-processed video data processed by the video processing unit.
領域情報受信部が、前記配信経路の下位に位置している1又は複数の下位通信装置のそれぞれの表示領域情報を含む領域情報を受信し、
領域情報管理部が、前記領域情報受信部により受信された各下位通信装置の表示領域情報を含む領域情報を管理し、
映像加工部が、前記領域情報管理部に管理されている各下位通信装置の表示領域情報を含む領域情報に基づいて、配信する映像データを映像加工し、
送信部が、前記映像加工部により映像加工された加工後映像データを送信する
ことを特徴とする通信方法。 In the communication method of the distribution source that multicasts the video data through the distribution path of the tree configuration,
An area information receiving unit receives area information including display area information of each of one or a plurality of lower-level communication devices located at a lower level of the distribution path;
The area information management unit manages area information including display area information of each lower-level communication device received by the area information receiving unit,
A video processing unit processes video data to be distributed based on region information including display region information of each lower-level communication device managed by the region information management unit,
The communication method, wherein the transmission unit transmits the processed video data processed by the video processing unit.
コンピュータを、
前記配信経路の下位に位置している1又は複数の下位通信装置のそれぞれの表示領域情報を含む領域情報を受信する領域情報受信部と、
前記領域情報受信部により受信された各下位通信装置の表示領域情報を含む領域情報と、自装置の表示領域情報とを管理する領域情報管理部と、
前記領域情報管理部で管理される前記各下位通信装置の表示領域情報を含む領域情報と、自装置の表示領域情報とを含む領域情報を、前記配信経路の上位に位置している上位通信装置に送信する領域情報送信部と、
前記上位通信装置から映像データを受信する受信部と、
自装置の表示領域情報に基づいて、受信した映像データから表示領域を抽出して表示データを出力する表示領域抽出部と、
前記領域情報管理部に管理されている各下位通信装置の表示領域情報を含む領域情報に基づいて、前記映像データを映像加工する映像加工部と、
前記映像加工部により映像加工された加工後映像データを送信する再送信部と
して機能させることを特徴とする通信プログラム。 In a communication program that multicasts video data via a tree-structured distribution route,
Computer
An area information receiving unit that receives area information including display area information of each of the one or more lower-level communication devices located in the lower level of the distribution path;
A region information management unit that manages the region information including the display region information of each lower-level communication device received by the region information receiving unit, and the display region information of the own device;
Upper-layer communication device in which region information including display region information of each lower-level communication device managed by the region-information management unit and region information including display region information of its own device is positioned above the distribution route An area information transmitter to transmit to
A receiver for receiving video data from the higher-level communication device;
A display area extraction unit that extracts a display area from received video data and outputs display data based on the display area information of the device itself;
A video processing unit that processes the video data based on region information including display region information of each lower-level communication device managed by the region information management unit;
A communication program that functions as a re-transmission unit that transmits processed video data processed by the video processing unit.
コンピュータを、
前記配信経路の下位に位置している1又は複数の下位通信装置のそれぞれの表示領域情報を含む領域情報を受信する領域情報受信部と、
前記領域情報受信部により受信された各下位通信装置の表示領域情報を含む領域情報を管理する領域情報管理部と、
前記領域情報管理部に管理されている各下位通信装置の表示領域情報を含む領域情報に基づいて、配信する映像データを映像加工する映像加工部と、
前記映像加工部により映像加工された加工後映像データを送信する送信部と
して機能させることを特徴とする通信プログラム。 In the communication program of the distribution source that multicasts the video data via the distribution path of the tree configuration,
Computer
An area information receiving unit that receives area information including display area information of each of the one or more lower-level communication devices located in the lower level of the distribution path;
An area information management unit for managing area information including display area information of each lower-level communication device received by the area information receiving unit;
A video processing unit that processes video data to be distributed based on region information including display region information of each lower-level communication device managed by the region information management unit;
A communication program that functions as a transmission unit that transmits processed video data processed by the video processing unit.
配信元の通信装置と映像データを受信する1又は複数の通信装置との間の配信経路を決定し、当該配信経路を構成する各通信装置に配信パスの通信路の設定を指示する通信路設定部と、
前記各通信装置間の表示領域情報を含む領域情報の送受信を中継する中継部と、
前記各通信装置の表示領域情報を含む領域情報を管理する領域情報管理部と
を備え、
前記各通信装置から送信される領域情報は、当該通信装置の表示領域情報を含む領域情報のみとし、
前記領域情報管理部が、前記各通信装置に通知する子ノード以下の下位の通信装置の表示領域情報を含む領域情報を通知する
ことを特徴とする管理装置。 In a management device that manages a communication device that multicasts video data via a tree-structured distribution path,
Communication path setting for determining a distribution path between a distribution source communication apparatus and one or a plurality of communication apparatuses that receive video data, and instructing each communication apparatus constituting the distribution path to set the communication path of the distribution path And
A relay unit that relays transmission / reception of area information including display area information between the communication devices;
An area information management unit that manages area information including display area information of each communication device;
The region information transmitted from each communication device is only region information including the display region information of the communication device,
The management apparatus characterized in that the area information management unit notifies area information including display area information of lower-level communication apparatuses below a child node to be notified to each communication apparatus.
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018033441A JP7114927B2 (en) | 2018-02-27 | 2018-02-27 | Communication device, communication method and communication program, management device |
PCT/JP2018/041044 WO2019167348A1 (en) | 2018-02-27 | 2018-11-05 | Communication device, communication method, recording medium, and management device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018033441A JP7114927B2 (en) | 2018-02-27 | 2018-02-27 | Communication device, communication method and communication program, management device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019149700A true JP2019149700A (en) | 2019-09-05 |
JP7114927B2 JP7114927B2 (en) | 2022-08-09 |
Family
ID=67804981
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018033441A Active JP7114927B2 (en) | 2018-02-27 | 2018-02-27 | Communication device, communication method and communication program, management device |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP7114927B2 (en) |
WO (1) | WO2019167348A1 (en) |
-
2018
- 2018-02-27 JP JP2018033441A patent/JP7114927B2/en active Active
- 2018-11-05 WO PCT/JP2018/041044 patent/WO2019167348A1/en active Application Filing
Non-Patent Citations (2)
Title |
---|
AHMADI, H., ET AL.: ""Adaptive Multicast Streaming of Virtual Reality Content to Mobile Users"", PROCEEDINGS OF THE THEMATIC WORKSHOPS'17, JPN6018046150, 27 October 2017 (2017-10-27), pages 170 - 178, XP055634624, ISSN: 0004811482, DOI: 10.1145/3126686.3126743 * |
横関大子郎(外3名): "「画像任意部分適応階層化方式を用いたATM上における映像配送」", 画像符号化シンポジウム 第12回シンポジウム資料 (PCSJ97), JPN6018046152, 6 October 1997 (1997-10-06), JP, pages 39 - 40, ISSN: 0004811483 * |
Also Published As
Publication number | Publication date |
---|---|
WO2019167348A1 (en) | 2019-09-06 |
JP7114927B2 (en) | 2022-08-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8319816B1 (en) | Methods, systems and program products for efficient communication of data between conference servers | |
Munzner et al. | Visualizing the global topology of the MBone | |
JP5255654B2 (en) | Multi-directional peer-to-peer media streaming | |
CN101124566A (en) | End-to-end publish/subscribe intermediate system structure | |
CN109314760A (en) | Video conferencing system, application server, equipment, video-meeting method and the non-transitory computer-readable medium for storing videoconference program | |
TWI618406B (en) | Live Video Matching Method and System | |
Yang et al. | Controllable multicast for adaptive scalable video streaming in software-defined networks | |
Barolli et al. | M3PS: A JXTA‐based multi‐platform P2P system and its web application tools | |
Ha et al. | Design and deployment of low-delay hybrid cdn–p2p architecture for live video streaming over the web | |
Civanlar et al. | Peer-to-peer multipoint videoconferencing on the Internet | |
Wu et al. | Towards multi-site collaboration in tele-immersive environments | |
Coras et al. | Lcast: Software-defined inter-domain multicast | |
WO2019167348A1 (en) | Communication device, communication method, recording medium, and management device | |
Silva et al. | A holistic SDN-capable session-plane tailored for efficient IoMT smart surveillance applications | |
JP2017152991A (en) | Information distribution device, information distribution program, communication terminal, communication processing program and information distribution system | |
Chen et al. | 3DTI amphitheater: Towards 3DTI broadcasting | |
CN115529433A (en) | Cross-domain polling method and device for cascading video conference and electronic equipment | |
JP2011150382A (en) | Content distribution system, method, and program | |
JP3759527B2 (en) | Multicast data communication system and method, client-side gateway, server-side gateway, computer program, and recording medium recording the computer program | |
JP3693978B2 (en) | Multicast data communication method, multicast data communication system, relay device, relay method, relay program, and medium recording the relay program | |
JP5350084B2 (en) | Data distribution apparatus, data distribution method, and program | |
Hosseini et al. | End system multicast routing for multi-party videoconferencing applications | |
Balikhina et al. | Distributed virtual environments-An active future? | |
JP6690291B2 (en) | Information distribution system, information distribution device, information distribution program, and information distribution method | |
JP7314545B2 (en) | Communication node, communication program, communication method, distribution configuration management device, and information distribution system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201111 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220125 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220323 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220628 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220711 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7114927 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |