JP7319340B2 - Distribution server, distribution method and program - Google Patents

Distribution server, distribution method and program Download PDF

Info

Publication number
JP7319340B2
JP7319340B2 JP2021176118A JP2021176118A JP7319340B2 JP 7319340 B2 JP7319340 B2 JP 7319340B2 JP 2021176118 A JP2021176118 A JP 2021176118A JP 2021176118 A JP2021176118 A JP 2021176118A JP 7319340 B2 JP7319340 B2 JP 7319340B2
Authority
JP
Japan
Prior art keywords
video
client
camera
distribution
playlist
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021176118A
Other languages
Japanese (ja)
Other versions
JP2022009636A (en
Inventor
洋平 川崎
翔平 松尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT TechnoCross Corp
Original Assignee
NTT TechnoCross Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from JP2019116711A external-priority patent/JP6970143B2/en
Application filed by NTT TechnoCross Corp filed Critical NTT TechnoCross Corp
Priority to JP2021176118A priority Critical patent/JP7319340B2/en
Publication of JP2022009636A publication Critical patent/JP2022009636A/en
Application granted granted Critical
Publication of JP7319340B2 publication Critical patent/JP7319340B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Stereoscopic And Panoramic Photography (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、配信サーバ、配信方法及びプログラムに関する。 The present invention relates to a distribution server, distribution method and program.

近年、上下左右の全方位360度の映像を撮影可能なカメラが知られており、このようなカメラで撮影された映像はパノラマ映像(又は、「パノラマ動画」や「360度パノラマ映像」、「VR(Virtual Reality)映像」、「VR動画」等とも称される。)として視聴可能である。 In recent years, cameras capable of capturing omnidirectional 360-degree video up, down, left, and right are known, and the video captured by such a camera is a panoramic video (or "panorama video", "360-degree panoramic video", " VR (Virtual Reality) video", "VR video", etc.).

また、例えば、映像配信サーバがパノラマ映像を端末にストリーミング配信等することで、当該端末でパノラマ映像を視聴することも行われている。しかしながら、パノラマ映像では配信に要するデータ量が大きくなる場合が多かった。これに対して、端末に表示される範囲(以降、「視野範囲」とも表す。)を通常の画質で配信し、端末に表示されない範囲は低画質で配信することで、パノラマ映像の配信に要するデータ量を削減する技術が知られている(例えば特許文献1参照)。 Also, for example, a video distribution server streams a panoramic video to a terminal so that the panoramic video can be viewed on the terminal. However, in many cases, panoramic video requires a large amount of data to be distributed. On the other hand, the range displayed on the terminal (hereinafter also referred to as "field of view") is distributed with normal image quality, and the range not displayed on the terminal is distributed with low image quality. Techniques for reducing the amount of data are known (see Patent Document 1, for example).

また、映像配信サーバが映像を端末(クライアント)にストリーミング配信等するためのプロトコルとして、HLS(HTTP Live Streaming)が知られている。HLSでは、カメラで撮影した映像と音声とをMPEG-2 TS(Transport Stream)形式の複数のセグメントファイルに分割した上で映像配信サーバに格納すると共に、各セグメントファイルの所在や再生時間、再生順序等を記録したプレイリストファイルを生成して所定の場所に設置する。クライアントは、当該プレイリストファイルを映像配信サーバから取得することで、所望のセグメントファイルの取得及び再生を行うことができる。 Also, HLS (HTTP Live Streaming) is known as a protocol for a video distribution server to perform streaming distribution of video to terminals (clients). HLS divides the video and audio captured by the camera into multiple segment files in MPEG-2 TS (Transport Stream) format and stores them in the video distribution server. Create a playlist file that records such as, and install it in a predetermined place. By acquiring the playlist file from the video distribution server, the client can acquire and reproduce a desired segment file.

特開2016-15705号公報JP 2016-15705 A

ここで、例えば、コンサートやスポーツ競技等では、複数のカメラをそれぞれ複数の地点に設置等した上で、これらの複数のカメラのそれぞれでパノラマ映像を撮影することが行われている。このとき、ユーザは、複数のカメラのそれぞれで撮影されたパノラマ映像を切り替えて端末に表示させることができるのが一般的である。 Here, for example, in concerts, sports competitions, etc., a plurality of cameras are installed at a plurality of points, respectively, and panorama images are captured by each of the plurality of cameras. At this time, it is common for the user to be able to switch between the panorama images taken by each of the plurality of cameras and display them on the terminal.

しかしながら、HLSでパノラマ映像が配信されている場合、端末に表示させるパノラマ映像を切り替える都度(つまり、端末に表示させるパノラマ映像のカメラを切り替える都度)、切り替え後のカメラに対応するプレイリストファイルを取得する必要がある。このため、パノラマ映像の再生に遅延が発生する場合がある。 However, when panoramic video is distributed by HLS, each time the panoramic video displayed on the terminal is switched (that is, each time the camera for the panoramic video displayed on the terminal is switched), a playlist file corresponding to the camera after switching is acquired. There is a need to. For this reason, a delay may occur in playback of the panoramic video.

本発明の実施形態は、上記の点に鑑みてなされたもので、複数のカメラでそれぞれ撮影されたパノラマ映像の切り替えに伴う再生遅延の発生を防止することを目的とする。 The embodiments of the present invention have been made in view of the above points, and it is an object of the present invention to prevent the occurrence of playback delay due to switching of panorama images shot by a plurality of cameras.

上記目的を達成するため、本発明の実施形態に係る配信サーバは、HTTP Live Streamingによって複数のカメラの各々で撮影されたパノラマ映像をクライアントに配信する配信サーバであって、前記パノラマ映像の配信要求を前記クライアントから受信すると、前記パノラマ映像を再生するためのプレイリストと前記パノラマ映像とを前記クライアントに配信する第1の映像配信手段と、再生対象のパノラマ映像の切替要求を受信すると、切替後の再生対象のパノラマ映像を前記クライアントに配信する第2の映像配信手段と、を有する、ことを特徴とする。 In order to achieve the above object, a distribution server according to an embodiment of the present invention is a distribution server for distributing panoramic video captured by each of a plurality of cameras by HTTP Live Streaming to a client, wherein the panoramic video distribution request from the client, a first video distribution means for distributing a playlist for reproducing the panoramic video and the panoramic video to the client; and second video distribution means for distributing the panoramic video to be played back to the client.

複数のカメラでそれぞれ撮影されたパノラマ映像の切り替えに伴う再生遅延の発生を防止することができる。 It is possible to prevent the occurrence of playback delay due to switching of panorama images shot by a plurality of cameras.

パノラマ映像の一例を説明するための図である。FIG. 4 is a diagram for explaining an example of a panorama video; FIG. HLSを説明するための図である。FIG. 4 is a diagram for explaining HLS; HLSによるパノラマ映像配信の一例を説明するための図である。FIG. 4 is a diagram for explaining an example of panoramic video distribution by HLS; 複数のカメラが存在する場合にカメラを切り替えた際のパノラマ映像配信の一例を説明するための図である。FIG. 10 is a diagram for explaining an example of panorama video distribution when switching between cameras when a plurality of cameras are present; 本実施形態に係る映像配信システムの全体構成の一例を示す図である。It is a figure showing an example of the whole composition of the video distribution system concerning this embodiment. 映像コンテンツのデータ構成の一例を説明するための図(その1)である。1 is a diagram (1) for explaining an example of a data configuration of video content; FIG. 映像コンテンツのデータ構成の一例を説明するための図(その2)である。FIG. 2 is a diagram (part 2) for explaining an example of the data configuration of video content; 本実施形態に係るパノラマ映像配信処理の一例を示すシーケンス図である。FIG. 5 is a sequence diagram showing an example of panorama video distribution processing according to the embodiment; 本実施形態に係るプレイリスト取得に関する通信処理の一例を示すシーケンス図である。FIG. 10 is a sequence diagram showing an example of communication processing related to playlist acquisition according to the present embodiment;

以下、本発明の実施形態(以降、「本実施形態」とも表す。)について説明する。本実施形態では、複数のカメラでそれぞれ撮影されたパノラマ映像の切り替えに伴う再生遅延の発生を防止することができる映像配信システム1について説明する。 Hereinafter, embodiments of the present invention (hereinafter also referred to as "present embodiments") will be described. In this embodiment, a video distribution system 1 capable of preventing the occurrence of playback delay due to switching of panorama video captured by a plurality of cameras will be described.

<従来技術の説明>
まず、本実施形態に係る映像配信システム1の説明に必要な従来技術等について説明する。
<Explanation of prior art>
First, the related art and the like necessary for explaining the video distribution system 1 according to the present embodiment will be explained.

(パノラマ映像)
上述したように、パノラマ映像は、「パノラマ動画」や「360度パノラマ映像」、「VR映像」、「VR動画」等とも称される。パノラマ映像は、例えば、図1に示すように、全天周投影球で表現される。全天周投影球で表現されるパノラマ映像では、全天周投影球の中心を観測位置として、この観測位置にある疑似的なカメラが所定の画角で撮影した範囲が視野範囲(つまり、端末に表示される範囲)となる。また、全天周投影球で表現されるパノラマ映像は、垂直角度θが0~π、水平角度φが0~2πの正距円筒図法で表現することができる。このとき、例えば、上記の特許文献1に記載されている技術では、正距円筒図法で表現されたパノラマ映像の視野範囲を含む部分領域データを「高解像度タイル」、パノラマ映像全体を圧縮したデータを「低解像度タイル」として端末に配信する。言い換えれば、視野範囲を含む部分領域は高ビットレートの高解像度タイルとして、パノラマ映像全体はビットレートを下げた低ビットレートの低解像度タイルとして端末に配信する。
(Panorama image)
As described above, a panoramic video is also called a “panorama video,” a “360-degree panoramic video,” a “VR video,” a “VR video,” and the like. A panorama image is represented by an omnidirectional projection sphere, for example, as shown in FIG. In a panoramic image represented by an omnidirectional projection sphere, the center of the omnidirectional projection sphere is taken as the observation position, and the range captured by the pseudo camera at this observation position at a predetermined angle of view is the field of view (that is, the terminal range). A panoramic image represented by an omnidirectional projection sphere can be represented by an equirectangular projection with a vertical angle θ of 0 to π and a horizontal angle φ of 0 to 2π. At this time, for example, in the technology described in Patent Document 1 above, the partial area data including the viewing range of the panorama image represented by the equirectangular projection is a "high-resolution tile", and the entire panorama image is compressed data. are delivered to the terminal as "low resolution tiles". In other words, the partial area including the viewing range is delivered to the terminal as a high-bitrate high-resolution tile, and the entire panoramic video is delivered to the terminal as a low-bitrate low-resolution tile with a reduced bitrate.

これにより、パノラマ映像の配信に要するデータ量を削減させることができると共に、視野範囲では高画質な映像が視聴可能であり、かつ、視野範囲を移動させた場合であっても映像が途切れることなく視聴可能とさせることができる。なお、圧縮とは、画像サイズの縮小を意味するものとする。 As a result, it is possible to reduce the amount of data required for distribution of panoramic video, and it is possible to view high-quality video within the viewing range, and the video is not interrupted even when the viewing range is moved. can be made viewable. It should be noted that compression means reduction in image size.

本実施形態に係る映像配信システム1でも、上記の特許文献1に記載されている技術を利用し、高解像度タイルと低解像度タイルとを端末(クライアント)に配信することで、このクライアント上でパノラマ映像を再生するものとする。 In the video distribution system 1 according to the present embodiment as well, the technology described in Patent Document 1 is used to distribute high-resolution tiles and low-resolution tiles to a terminal (client). A video shall be played.

(HLS)
上述したように、HLSとは、配信サーバが映像をクライアントにストリーミング配信等するためのプロトコルである。例えば、図2に示すように、カメラから出力された映像信号がエンコードされてエンコード映像が作成され、配信サーバは、このエンコード映像を複数のセグメントファイルに分割すると共に、プレイリストファイルを生成して所定の場所に設置(格納)する。なお、セグメントファイルは「.ts」形式(つまり、MPEG-2 トランスポートストリーム形式)のファイルであり、プレイリストファイルは「.m3u8」形式のファイルである。図2では、一例として、エンコード映像が「TS-00.ts」~「TS-NN.ts」に分割された場合を示している。
(HLS)
As described above, HLS is a protocol for a distribution server to perform streaming distribution of video to a client. For example, as shown in FIG. 2, a video signal output from a camera is encoded to create encoded video, and the distribution server divides this encoded video into a plurality of segment files and generates a playlist file. Install (store) in a specified location. Note that the segment file is a file in the ".ts" format (that is, MPEG-2 transport stream format), and the playlist file is a file in the ".m3u8" format. As an example, FIG. 2 shows a case where the encoded video is divided into 'TS-00.ts' to 'TS-NN.ts'.

このとき、HLSでは、クライアントはプレイリストファイルを配信サーバから取得することで、所望のセグメントファイルの取得及び再生を行うことができるようになる。 At this time, in HLS, the client can acquire and reproduce a desired segment file by acquiring a playlist file from the distribution server.

(HLSによるパノラマ映像配信)
HLSによりパノラマ映像を配信する場合、配信サーバでは、所定の時間単位t毎に、低解像度タイルと、所定の複数の視野範囲毎の高解像度タイルとをセグメントファイルとして格納している。例えば、図3に示すように、t毎の低解像度タイルLT、第1の視野範囲におけるt毎の高解像度タイルHT1、第2の視野範囲におけるt毎の高解像度タイルHT2、第3の視野範囲におけるt毎の高解像度タイルHT3等が格納されている。ここで、図3に示す例では、第1の視野範囲は視野範囲の左上の座標が(0,0)となる範囲、第2の視野範囲は視野範囲の左上の座標が(S,0)となる範囲、第3の視野範囲は視野範囲の左上の座標が(2S,0)となる範囲である。Sは予め決められた水平角度(x軸方向)のシフト量である。
(Panorama video distribution by HLS)
When a panorama video is distributed by HLS, the distribution server stores low-resolution tiles and high-resolution tiles for each of a plurality of predetermined viewing ranges as segment files for each predetermined time unit tc . For example, as shown in FIG. 3, a low resolution tile LT per tc , a high resolution tile HT1 per tc in the first viewing range, a high resolution tile HT2 per tc in the second viewing range, a third high-resolution tiles HT3 and the like are stored for each tc in the visual field range of . Here, in the example shown in FIG. 3, the first visual field range is a range whose upper left coordinates are (0, 0), and the second visual field range is a range whose upper left coordinates are (S x , 0). ), and the third visual field range is a range in which the upper left coordinates of the visual field range are (2S x , 0). Sx is a shift amount of a predetermined horizontal angle (x-axis direction).

なお、垂直角度(y軸方向)のシフト量Sも予め決められ、高解像度タイルは、p=0,・・・,P、q=0,・・・,Qとして、一般に、視野範囲の左上の座標が(p×S,q×S)である範囲毎に格納されている。以降では、M=P×Qとして、t毎に、M個の視野範囲それぞれの高解像度タイルが格納されるものとする。 Note that the shift amount Sy of the vertical angle (y-axis direction) is also predetermined, and the high-resolution tile is set to p=0, . . . , P, q=0, . It is stored for each range whose upper left coordinates are (p×S x , q×S y ). Hereinafter, it is assumed that M=P×Q and high-resolution tiles for each of M viewing ranges are stored for each tc .

このように、パノラマ映像では、t毎の低解像度タイルと、予め決められた複数の視野範囲におけるt毎の高解像度タイルとがセグメントファイルとして配信サーバに格納されている。 In this way, in the panorama video, low-resolution tiles for each tc and high-resolution tiles for each tc in a plurality of predetermined visual field ranges are stored as segment files in the distribution server.

そして、パノラマ映像を再生する際には、クライアントは、プレイリストを配信サーバから取得することで、低解像度タイルと所望の視野範囲の高解像度タイルとを取得することができる。これにより、クライアントは、当該低解像度タイルと当該高解像度タイルとを用いて、パノラマ映像を再生することができる。 Then, when playing back the panoramic video, the client can acquire the low-resolution tiles and the high-resolution tiles of the desired viewing range by acquiring the playlist from the distribution server. As a result, the client can reproduce the panorama video using the low resolution tiles and the high resolution tiles.

例えば、クライアントの視野範囲が3t毎に水平角度にS分だけ移動した場合、図3に示すように、当該クライアントには、最初の3t間ではLT1~LT3とHT1-1~HT1-3とがそれぞれ順に配信され、次の3t間ではLT4~LT6とHT2-4~HT2-6とがそれぞれ順に配信され、更に次の3t間ではLT7~LT9とHT3-7~HT3-9とがそれぞれ順に配信される。 For example, if the client's visual range moves by Sx in the horizontal angle every 3tc , the client will have LT1 to LT3 and HT1-1 to HT1- for the first 3tc , as shown in FIG. 3 are distributed in order, and during the next 3tc , LT4 to LT6 and HT2-4 to HT2-6 are distributed in order, and further during the next 3tc , LT7 to LT9 and HT3-7 to HT3-9 are distributed. are delivered in order.

なお、tは任意に設定されるが、例えば、0.5[秒]程度とすることが考えられる。また、S及びSはパノラマ映像の画素数等に応じて任意に設定されるが、例えば、正距円筒図法で表現されたパノラマ映像が4000×2000画素である場合にはS=100、S=50等とすることが考えられる。S及びSが大きいほど配信サーバで保持する高解像度タイル数を削減することができるが、視野範囲を切り替えた場合の滑らかさが低下する(つまり、ユーザの視聴品質が低下する。)。一方で、S及びSが小さいほど配信サーバで保持する高解像度タイル数は増加するが、視野範囲を切り替えた場合の滑らかさが向上する(つまり、ユーザの視聴品質が向上する。)。 Although tc can be set arbitrarily, it is conceivable to set it to about 0.5 [seconds], for example. S x and S y are arbitrarily set according to the number of pixels of the panorama image. , S y =50, and so on. As S x and S y are larger, the number of high-resolution tiles held by the distribution server can be reduced, but the smoothness when switching the viewing range decreases (that is, the user's viewing quality decreases). On the other hand, as Sx and Sy become smaller, the number of high-resolution tiles held by the distribution server increases, but the smoothness when switching the viewing range improves (that is, the user's viewing quality improves).

(複数のカメラが存在する場合におけるHLSによるパノラマ映像配信)
例えば、コンサートやスポーツ競技等では、複数のカメラをそれぞれ複数の地点に設置等した上で、これらの複数のカメラのそれぞれでパノラマ映像を撮影することが行われている。このとき、クライアントでは、これら複数のカメラのそれぞれで撮影されたパノラマ映像を切り替え可能に表示することができるのが一般的である。
(Panorama video distribution by HLS when there are multiple cameras)
For example, in concerts, sports competitions, etc., a plurality of cameras are installed at a plurality of points, and panorama images are captured by each of the cameras. At this time, it is common for the client to be able to switchably display the panorama video captured by each of the plurality of cameras.

このとき、HLSによりパノラマ映像を配信する場合、配信サーバには、カメラ毎に、プレイリストとセグメントファイルとが格納される。例えば、図4に示すように、カメラ1~カメラNのN台のカメラが存在する場合、配信サーバには、カメラ1で撮影されたパノラマ映像(つまり、カメラ1の映像信号がエンコードされたエンコード映像)を示すカメラ1コンテンツ、カメラ2で撮影されたパノラマ映像を示すカメラ2コンテンツ、・・・、カメラNで撮影されたパノラマ映像を示すカメラNコンテンツが格納される。すなわち、配信サーバには、カメラ毎に、このカメラで撮影されたパノラマ映像を再生するためのプレイリスト及びセグメントファイルが格納されている。 At this time, when a panorama video is distributed by HLS, the distribution server stores a playlist and a segment file for each camera. For example, as shown in FIG. 4, when there are N cameras from camera 1 to camera N, the distribution server stores a panorama image captured by camera 1 (that is, an encoded video signal of camera 1) camera 1 content showing a panoramic video), camera 2 content showing a panoramic video shot by camera 2, . . . , camera N content showing a panoramic video shot by camera N are stored. That is, the distribution server stores, for each camera, a playlist and a segment file for playing back the panorama video captured by this camera.

したがって、図4に示すように、クライアントは、カメラ1で撮影されたパノラマ映像を再生する際には、カメラ1コンテンツ用のプレイリストを取得して、カメラ1コンテンツの低解像度タイル(LT:Low-resolution Tile)とカメラ1コンテンツの高解像度タイル(HT:High-resolution Tile)とを取得する。同様に、クライアントは、カメラNで撮影されたパノラマ映像を再生する際には、カメラNコンテンツ用のプレイリストを取得して、カメラNコンテンツの低解像度タイルとカメラNコンテンツの高解像度タイルとを取得する。 Therefore, as shown in FIG. 4, when playing back the panorama video captured by camera 1, the client acquires the playlist for the camera 1 content and uses the low resolution tiles (LT: Low -resolution Tile) and the High-resolution Tile (HT) of the camera 1 content. Similarly, when playing back panoramic video captured by camera N, the client acquires a playlist for camera N content, and stores the low resolution tiles of camera N content and the high resolution tiles of camera N content. get.

すなわち、クライアントは、再生するパノラマ映像のカメラを切り替える都度、このカメラに対応するプレイリストファイルを取得する必要がある。このため、クライアントは、再生するパノラマ映像のカメラを切り替える都度、配信サーバと通信を行う必要があり、パノラマ映像の再生に遅延が発生する場合がある。 In other words, the client needs to acquire the playlist file corresponding to this camera each time the camera for the panorama video to be reproduced is switched. For this reason, the client needs to communicate with the distribution server each time the camera for the panoramic video to be played back is switched, which may cause a delay in playback of the panoramic video.

そこで、以降で説明する本実施形態に係る映像配信システム1では、クライアントで再生するパノラマ映像のカメラを切り替えた場合における通信(プレイリスト取得のための通信)を無くすことで、パノラマ映像の再生に遅延が発生することを防止する。 Therefore, in the video distribution system 1 according to the present embodiment, which will be described later, by eliminating the communication (communication for acquiring the playlist) when switching the camera of the panoramic video to be played back on the client, the panoramic video can be played back. Prevent delays from occurring.

<映像配信システム1の全体構成>
本実施形態に係る映像配信システム1の全体構成について、図5を参照しながら説明する。図5は、本実施形態に係る映像配信システム1の全体構成の一例を示す図である。
<Overall Configuration of Video Distribution System 1>
The overall configuration of the video distribution system 1 according to this embodiment will be described with reference to FIG. FIG. 5 is a diagram showing an example of the overall configuration of the video distribution system 1 according to this embodiment.

図5に示すように、本実施形態に係る映像配信システム1には、配信サーバ10と、クライアント20と、複数のカメラ30と、エンコード装置40とが含まれる。カメラ30とエンコード装置40との間、エンコード装置40と配信サーバ10との間、及び配信サーバ10とクライアント20との間は任意の通信ネットワークを介して通信可能に接続されている。 As shown in FIG. 5, the video distribution system 1 according to this embodiment includes a distribution server 10, a client 20, a plurality of cameras 30, and an encoding device 40. FIG. The camera 30 and the encoding device 40, the encoding device 40 and the distribution server 10, and the distribution server 10 and the client 20 are communicably connected via an arbitrary communication network.

配信サーバ10は、HLSによりパノラマ映像をクライアント20に配信するコンピュータ又はコンピュータシステムである。このとき、配信サーバ10は、複数のカメラ30でそれぞれ撮影されたパノラマ映像のうち、クライアント20が所望するカメラ30で撮影されたパノラマ映像を当該クライアント20に配信する。 The distribution server 10 is a computer or computer system that distributes panoramic video to the client 20 by HLS. At this time, the distribution server 10 distributes to the client 20 the panorama video shot by the camera 30 desired by the client 20 among the panorama videos shot by the plurality of cameras 30 .

クライアント20は、HLSによりパノラマ映像を配信サーバ10から受信(取得)して、このパノラマ映像を再生するコンピュータである。クライアント20は、複数のカメラ30の中から1つ以上のカメラ30を選択して、選択したカメラ30のパノラマ映像を再生することができる(つまり、クライアント20では再生するパノラマ映像のカメラ30を切り替えることができる。)。 The client 20 is a computer that receives (obtains) panoramic video from the distribution server 10 by HLS and reproduces this panoramic video. The client 20 can select one or more cameras 30 from a plurality of cameras 30 and reproduce the panoramic video of the selected camera 30 (that is, the client 20 can switch the camera 30 of the panoramic video to be reproduced). be able to.).

なお、クライアント20としては、例えば、PC(パーソナルコンピュータ)、スマートフォン、タブレット端末、ヘッドマウントディスプレイ(HMD:Head Mounted Display)、ウェアラブルデバイス、ゲーム機器等を用いることが可能である。 As the client 20, for example, a PC (personal computer), a smart phone, a tablet terminal, a head mounted display (HMD), a wearable device, a game machine, etc. can be used.

カメラ30は、所定の地点又は位置に設置等されている撮像装置である。したがって、複数のカメラ30は、複数の地点又は位置にそれぞれ設置等されている。なお、以降では、カメラ30の総数をN(ただし、Nは2以上の整数)として、複数のカメラ30の各々を区別する場合には、「カメラ30」、「カメラ30」、・・・、「カメラ30」等と表す。 The camera 30 is an imaging device installed at a predetermined point or position. Therefore, the plurality of cameras 30 are installed at a plurality of spots or positions. In the following description, the total number of cameras 30 is defined as N (where N is an integer equal to or greater than 2), and when each of the plurality of cameras 30 is distinguished, it will be referred to as “camera 30 1 ”, “camera 30 2 ”, . , “camera 30 N ” and the like.

エンコード装置40は、カメラ30の映像信号をエンコードしてエンコード映像を作成するコンピュータである。エンコード装置40で作成されたエンコード映像は、配信サーバ10に送信される。 The encoding device 40 is a computer that encodes the video signal of the camera 30 to create an encoded video. The encoded video created by the encoding device 40 is transmitted to the distribution server 10 .

ここで、本実施形態に係る配信サーバ10は、配信処理部110と、記憶部120とを有する。配信処理部110は、配信サーバ10にインストールされた1以上のプログラムが、CPU(Central Processing Unit)等のプロセッサに実行させる処理により実現される。また、記憶部120は、例えば、HDD(Hard Disk Drive)やSSD(Solid State Drive)等の補助記憶装置を用いて実現可能である。なお、記憶部120は、配信サーバ10と通信ネットワークを介して接続される記憶装置等を用いて実現されていてもよい。 Here, the distribution server 10 according to this embodiment has a distribution processing unit 110 and a storage unit 120 . The distribution processing unit 110 is realized by processing that one or more programs installed in the distribution server 10 cause a processor such as a CPU (Central Processing Unit) to execute. Also, the storage unit 120 can be implemented using an auxiliary storage device such as a HDD (Hard Disk Drive) or an SSD (Solid State Drive). Note that the storage unit 120 may be implemented using a storage device or the like connected to the distribution server 10 via a communication network.

配信処理部110は、クライアント20からの要求に応じて、該当のカメラ30のコンテンツ(つまり、低解像度タイル及び高解像度タイル)を当該クライアント20に配信する。 The distribution processing unit 110 distributes the contents of the corresponding camera 30 (that is, the low-resolution tile and the high-resolution tile) to the client 20 in response to a request from the client 20 .

記憶部120には、複数のカメラ30で撮影されたパノラマ映像を示す映像コンテンツが記憶されている。ここで、映像コンテンツには、全てのカメラ30のコンテンツで共通のプレイリストと、各カメラ30のコンテンツ(つまり、「カメラ1コンテンツ」、「カメラ2コンテンツ」、・・・、「カメラNコンテンツ」)とが含まれる。また、各カメラ30のコンテンツには、セグメントファイルとして、t毎の低解像度タイルと、予め決められた複数の視野範囲におけるt毎の高解像度タイルとが含まれる。なお、n=1,・・・,Nとして、カメラnコンテンツは、カメラ30で撮影されたパノラマ映像を示すコンテンツである。 The storage unit 120 stores image content showing panoramic images captured by the plurality of cameras 30 . Here, the video content includes a playlist common to the content of all the cameras 30 and the content of each camera 30 (that is, “camera 1 content”, “camera 2 content”, . . . , “camera N content”). ) and are included. Also, the content of each camera 30 includes, as segment files, low-resolution tiles for each tc and high-resolution tiles for each tc in a plurality of predetermined viewing ranges. Note that, where n=1, .

このように、本実施形態に係る配信サーバ10の記憶部120には、カメラ30(n=1,・・・,N)のカメラnコンテンツで共通のプレイリストと、カメラ30(n=1,・・・,N)のカメラnコンテンツ(低解像度タイル及び高解像度タイル)とが記憶されている。このため、クライアント20はプレイリストを1度取得した後は、カメラ30を切り替えたとしも、再度プレイリストを取得する必要がなくなり、プレイリスト取得のための通信を削減することができる。なお、映像コンテンツのデータ構成の詳細については後述する。 In this way, the storage unit 120 of the distribution server 10 according to the present embodiment stores a common playlist for camera n contents of the cameras 30 n (n=1, . . . , N) and 1, . . . , N) of camera n contents (low resolution tiles and high resolution tiles) are stored. For this reason, once the client 20 has acquired the playlist, even if the camera 30 is switched, the client 20 does not need to acquire the playlist again, and communication for acquiring the playlist can be reduced. The details of the data configuration of the video content will be described later.

また、本実施形態に係るクライアント20は、視聴処理部210を有する。視聴処理部210は、クライアント20にインストールされた1以上のプログラムが、CPU等のプロセッサに実行させる処理により実現される。 Further, the client 20 according to this embodiment has a viewing processing unit 210 . The viewing processing unit 210 is implemented by processing that one or more programs installed in the client 20 cause a processor such as a CPU to execute.

視聴処理部210は、配信サーバ10に対して各種要求(例えば、映像の配信要求等)を送信すると共に、該当のカメラ30のコンテンツ(低解像度タイル及び高解像度タイル)を配信サーバ10から受信して、当該コンテンツによってパノラマ映像を再生する。 The viewing processing unit 210 transmits various requests (for example, video distribution requests, etc.) to the distribution server 10, and receives content (low-resolution tiles and high-resolution tiles) of the corresponding camera 30 from the distribution server 10. Then, the panorama video is reproduced by the content.

なお、図1に示す映像配信システム1の全体構成は一例であって、他の構成であってもよい。例えば、エンコード装置40は配信サーバ10と一体となっていてもよい。この場合、映像信号は、配信サーバ10でエンコードされる。 Note that the overall configuration of the video distribution system 1 shown in FIG. 1 is an example, and other configurations may be used. For example, the encoding device 40 may be integrated with the distribution server 10 . In this case, the video signal is encoded by the distribution server 10 .

<映像コンテンツのデータ構成>
次に、本実施形態に係る配信サーバ10の記憶部120に記憶されている映像コンテンツのデータ構成について説明する。
<Data structure of video content>
Next, the data configuration of video content stored in the storage unit 120 of the distribution server 10 according to this embodiment will be described.

(実施例1)
実施例1における映像コンテンツのデータ構成について、図6を参照しながら説明する。図6は、映像コンテンツのデータ構成の一例を説明するための図(その1)である。
(Example 1)
A data structure of video content in Example 1 will be described with reference to FIG. FIG. 6 is a diagram (part 1) for explaining an example of the data configuration of video content.

図6に示すように、実施例1では、コンテンツフォルダの直下にプレイリスト(これを「Content.m3u8」とも表す。)と、Confフォルダと、Mediaフォルダとが配置される。また、Confフォルダ内には、メタデータリスト(これを「Play.ini」とも表す。)と、配置情報(これを「Rendering.ini」とも表す。)とが配置されている。 As shown in FIG. 6, in Example 1, a playlist (which is also expressed as "Content.m3u8"), a Conf folder, and a Media folder are arranged directly under the content folder. Also, in the Conf folder, a metadata list (also referred to as "Play.ini") and layout information (also referred to as "Rendering.ini") are arranged.

一方で、Mediaフォルダ内には、カメラ1コンテンツが格納される各フォルダ(0フォルダ、1フォルダ、2フォルダ、・・・、Mフォルダ)、カメラ2コンテンツが格納される各フォルダ(M+1フォルダ、M+2フォルダ、・・・、2M+1フォルダ)、・・・、カメラNコンテンツが格納される各フォルダとが配置される。 On the other hand, in the Media folder, each folder (0 folder, 1 folder, 2 folder, . . . , 2M+1 folder), .

ここで、i=,・・・,M-1として、M(n-1)+i+n-1フォルダには、カメラ30の第iの視野範囲の高解像度タイルが配置されている。具体的には、例えば、0フォルダには、カメラ30の第1の視野範囲におけるt毎の高解像度タイルが配置されている。図6に示す例では、最初のt間における当該高解像度タイル「0.ts」、次のt間における当該高解像度タイル「1.ts」、更に次のt間における当該高解像度タイル「2.ts」等が配置されている。同様に、1フォルダには、カメラ30の第2の視野範囲におけるt毎の高解像度タイルが配置されている。 Here, i = 0 , . Specifically, for example, in the 0 folder, high-resolution tiles for every tc in the first field-of-view range of the camera 30-1 are arranged. In the example shown in FIG. 6, the high resolution tile "0.ts" during the first tc , the high resolution tile "1.ts" during the next tc , and the high resolution tile "1.ts" during the next tc "2.ts" and the like are arranged. Similarly, one folder contains high-resolution tiles for every t c in the second field of view of camera 302 .

一方で、i=Mとして、M(n-1)+M+n-1フォルダには、カメラ30のt毎の低解像度タイルが配置されている。具体的には、例えば、Mフォルダには、カメラ30のt毎の低解像度タイルが配置されている。図6に示す例では、最初のt間における低解像度タイル「0.ts」、次のt間における低解像度タイル「1.ts」、更に次のt間における低解像度タイル「2.ts」等が配置されている。また、M(n-1)+M+n-1フォルダには、メディア用のプレイリスト(これを「LT.m3u8」とも表す。)も配置されている。

On the other hand, with i=M, the M(n-1)+M+n-1 folder contains low-resolution tiles for every t c of camera 30 n . Specifically, for example, in the M folder, low-resolution tiles for each tc of the camera 30-1 are arranged. In the example shown in FIG. 6, the low resolution tile "0.ts" during the first tc , the low resolution tile "1.ts" during the next tc , and the low resolution tile "2.ts" during the next tc . ts” and the like are arranged. The M(n−1)+M+n−1 folder also contains a playlist for media (also referred to as “LT.m3u8”).

このように、実施例1における映像コンテンツでは、Mediaフォルダ内に、カメラ30毎のコンテンツが格納されている。 Thus, in the video content in the first embodiment, content for each camera 30 is stored in the Media folder.

なお、Content.m3u8で表されるプレイリストをメディア用のプレイリストと区別するため、以降では、「コンテンツ用プレイリスト」とも表す、コンテンツ用プレイリストには、例えば、通信セッション情報、セグメントファイルを送信するための必須情報等が記述されている。 Note that Content. In order to distinguish the playlist represented by m3u8 from the playlist for media, hereinafter also referred to as "playlist for content", the playlist for content includes, for example, communication session information, segment file transmission Required information etc. are described.

一方で、メディア用のプレイリスト(LT.m3u8)は「メディア用プレイリスト」とも表す。メディア用プレイリストには、例えば、各セグメントファイルの長さ(再生時間)等が記述されている。 On the other hand, the playlist for media (LT.m3u8) is also referred to as "playlist for media". The media playlist describes, for example, the length (playback time) of each segment file.

また、メタデータリストには、コーデックに関する情報、各タイルのサイズの情報、カメラ30の台数情報等が記述されている。より具体的には、メタデータリストには、カメラ30の台数情報と、カメラ30毎のコーデックに関する情報やカメラ30毎のタイルのサイズの情報等が記述されている。 The metadata list also describes information on codecs, information on the size of each tile, information on the number of cameras 30, and the like. More specifically, the metadata list describes information on the number of cameras 30, information on the codec for each camera 30, information on the size of tiles for each camera 30, and the like.

更に、配置情報には、高解像度タイルの配置に関する情報(つまり、高解像度タイル毎の視野範囲の座標に関する情報)等が記述されている。より具体的には、配置情報には、カメラ30毎の高解像度タイルの配置に関する情報等が記述されている。 Further, the layout information describes information about the layout of the high-resolution tiles (that is, information about the coordinates of the viewing range for each high-resolution tile). More specifically, the arrangement information describes information regarding the arrangement of high-resolution tiles for each camera 30, and the like.

(実施例2)
実施例2における映像コンテンツのデータ構成について、図7を参照しながら説明する。図7は、映像コンテンツのデータ構成の一例を説明するための図(その2)である。
(Example 2)
A data structure of video content in Example 2 will be described with reference to FIG. FIG. 7 is a diagram (part 2) for explaining an example of the data configuration of video content.

図7に示すように、実施例2では、コンテンツフォルダの直下にコンテンツ用プレイリストと、Confフォルダと、カメラ30毎のMediaフォルダ(つまり、Media_1フォルダ、Media_2フォルダ、・・・、Media_Nフォルダ)とが配置されている。Confフォルダ内には、実施例1と同様に、メタデータリストと、配置情報とが配置されている。 As shown in FIG. 7, in the second embodiment, a content playlist, a Conf folder, and a Media folder for each camera 30 (that is, Media_1 folder, Media_2 folder, . . . , Media_N folder) are directly under the content folder. are placed. As in the first embodiment, the Conf folder contains a metadata list and location information.

n=1,・・・,Nとして、Media_nフォルダ内には、カメラnコンテンツが格納される。すなわち、Media_nフォルダには0フォルダ、1フォルダ、・・・、Mフォルダがそれぞれ配置されており、i=0,・・・,M-1として、iフォルダには、カメラ30の第i+1の視野範囲の高解像度タイルが配置されている。具体的には、例えば、Media_1フォルダの0フォルダには、カメラ30の第1の視野範囲におけるt毎の高解像度タイルが配置されている。図7に示す例では、最初のt間における当該高解像度タイル「0.ts」、次のt間における当該高解像度タイル「1.ts」、更に次のt間における当該高解像度タイル「2.ts」等が配置されている。同様に、Media_1フォルダの1フォルダには、カメラ30の第2の視野範囲におけるt毎の高解像度タイルが配置されている。 With n=1, . . . , N, the contents of camera n are stored in the Media_n folder. That is, 0 folder, 1 folder, . A high-resolution tile of the field of view is placed. Specifically, for example, in the 0 folder of the Media_1 folder, high-resolution tiles for each tc in the first visual field range of the camera 30-1 are arranged. In the example shown in FIG. 7, the high resolution tile "0.ts" during the first tc , the high resolution tile "1.ts" during the next tc , and the high resolution tile "1.ts" during the next tc "2.ts" and the like are arranged. Similarly, in one folder of the Media — 1 folder, high-resolution tiles for each tc in the second field of view range of the camera 30-1 are arranged.

一方で、Media_nフォルダのMフォルダには、カメラ30のt毎の低解像度タイルが配置されている。具体的には、例えば、Media_1フォルダのMフォルダには、カメラ30のt毎の低解像度タイルが配置されている。図7に示す例では、最初のt間における低解像度タイル「0.ts」、次のt間における低解像度タイル「1.ts」、更に次のt間における低解像度タイル「2.ts」等が配置されている。また、Mフォルダには、メディア用のプレイリストも配置されている。 On the other hand, in the M folder of the Media_n folder, low-resolution tiles for each tc of the camera 30 n are arranged. Specifically, for example, in the M folder of the Media_1 folder, low-resolution tiles for each tc of the camera 30-1 are arranged. In the example shown in FIG. 7, the low resolution tile "0.ts" during the first tc , the low resolution tile "1.ts" during the next tc , and the low resolution tile "2.ts" during the next tc . ts” and the like are arranged. The M folder also contains playlists for media.

このように、実施例2における映像コンテンツでは、コンテンツフォルダ直下に、カメラ30毎のMediaフォルダが配置されており、それぞれのMediaフォルダ内に該当のカメラ30のコンテンツが格納されている。 As described above, in the video content in the second embodiment, the Media folder for each camera 30 is arranged directly under the content folder, and the content of the corresponding camera 30 is stored in each Media folder.

<パノラマ映像配信処理>
次に、本実施形態に係るパノラマ映像配信処理について、図8を参照しながら説明する。図8は、本実施形態に係るパノラマ映像配信処理の一例を示すシーケンス図である。なお、以降では、カメラ30を特定する情報をカメラ番号として、カメラ番号n=1のカメラ30をデフォルトのカメラ30とする。そして、クライアント20でパノラマ映像を再生する際には、デフォルトのカメラ30のパノラマ映像が最初に再生されるものとする。
<Panorama video distribution processing>
Next, panorama video distribution processing according to this embodiment will be described with reference to FIG. FIG. 8 is a sequence diagram showing an example of panorama video distribution processing according to this embodiment. In the following description, the camera number is used as information for specifying the camera 30 , and the camera 301 with the camera number n=1 is the default camera 30 . It is assumed that when the client 20 reproduces the panoramic video, the default panoramic video of the camera 301 is reproduced first.

まず、クライアント20の視聴処理部210は、パノラマ映像の再生を開始すると、映像の配信要求を配信サーバ10に送信する(ステップS101)。ここで、当該映像の配信要求には、デフォルトのカメラ30のカメラ番号n=1が含まれる。また、当該映像の配信要求には、現在時刻又はユーザによって指定された時刻も含まれる。以降では、現在時刻又はユーザによって指定された時刻を「再生時刻」とも表す。なお、例えば、ライブ配信等の場合には再生時刻として現在時刻が含まれる場合が多く、オンデマンド配信等の場合には再生時刻としてユーザによって指定された時刻が含まれる場合が多い。 First, when the viewing processing unit 210 of the client 20 starts reproducing the panorama video, it transmits a video distribution request to the distribution server 10 (step S101). Here, the video distribution request includes the camera number n=1 of the default camera 301 . The video distribution request also includes the current time or the time specified by the user. Hereinafter, the current time or the time specified by the user will also be referred to as "playback time". For example, in the case of live distribution, etc., the current time is often included as the playback time, and in the case of on-demand distribution, etc., the time specified by the user is often included as the playback time.

本実施形態では、上記のステップS101で送信される要求を「映像の配信要求」としたが、この要求は、例えば、「映像の配信開始要求」等と称されてもよい。 In the present embodiment, the request transmitted in step S101 is referred to as a "video distribution request", but this request may also be referred to as, for example, a "video distribution start request".

次に、配信サーバ10及びクライアント20は、プレイリスト取得に関する通信処理(すなわち、コンテンツ用プレイリストやメディア用プレイリスト等を配信サーバ10からクライアント20に送信する処理)を行う(ステップS102)。これにより、クライアント20は、コンテンツ用プレイリストやメディア用プレイリスト等を取得することができる。このプレイリスト取得に関する通信処理の詳細については後述する。 Next, the distribution server 10 and the client 20 perform communication processing related to playlist acquisition (that is, processing for transmitting a content playlist, media playlist, etc. from the distribution server 10 to the client 20) (step S102). Thereby, the client 20 can acquire a content playlist, a media playlist, and the like. The details of the communication processing regarding this playlist acquisition will be described later.

次に、配信サーバ10の配信処理部110は、カメラ1コンテンツの低解像度タイル及び高解像度タイルのうち、再生時刻に対応する低解像度タイルと、デフォルトの視野範囲における再生時刻に対応する高解像度タイルとを記憶部120から読み出す(ステップS103)。なお、再生時刻に対応する低解像度タイル及び高解像度タイルとは、例えば、当該低解像度タイル及び当該高解像度タイルの再生時間に再生時刻が含まれるタイルのことである。 Next, the distribution processing unit 110 of the distribution server 10 selects the low-resolution tile corresponding to the playback time and the high-resolution tile corresponding to the playback time in the default visual field range from among the low-resolution tiles and high-resolution tiles of the camera 1 content. are read from the storage unit 120 (step S103). Note that the low-resolution tile and high-resolution tile corresponding to the playback time are, for example, tiles whose playback time is included in the playback time of the low-resolution tile and high-resolution tile.

そして、配信サーバ10の配信処理部110は、上記のステップS103で読み出した低解像度タイル及び高解像度タイルをクライアント20に配信(送信)する(ステップS104)。 Then, the distribution processing unit 110 of the distribution server 10 distributes (transmits) the low-resolution tiles and high-resolution tiles read in step S103 to the client 20 (step S104).

クライアント20の視聴処理部210は、低解像度タイル及び高解像度タイルを受信すると、これらの低解像度タイル及び高解像度タイルを合成する(ステップS105)。すなわち、視聴処理部210は、例えば、上記のステップS102で取得した配置情報に基づいて、当該低解像度タイルの該当の領域に当該高解像度タイルを重畳させることで、これらの低解像度タイル及び高解像度タイルを合成する。これにより、視野範囲が高解像度で、かつ、視野範囲以外の領域は低解像度のパノラマ映像が作成される。 Upon receiving the low-resolution tile and high-resolution tile, the viewing processing unit 210 of the client 20 synthesizes these low-resolution tile and high-resolution tile (step S105). That is, the viewing processing unit 210 superimposes the high-resolution tile on the corresponding area of the low-resolution tile based on the arrangement information acquired in step S102 described above, for example. Combine tiles. As a result, a panorama image is created in which the viewing range has a high resolution and the area outside the viewing range has a low resolution.

そして、クライアント20の視聴処理部210は、上記のステップS105で低解像度タイル及び高解像度タイルを合成することで作成されたパノラマ映像を再生する(ステップS106)。視聴処理部210は、例えば、メタデータリストに記述されているコーデックに関する情報に従ってパノラマ映像を再生する。 Then, the viewing processing unit 210 of the client 20 reproduces the panorama video created by synthesizing the low-resolution tiles and the high-resolution tiles in step S105 (step S106). The viewing processing unit 210 reproduces the panorama video according to the codec-related information described in the metadata list, for example.

以降のステップS107~ステップS111では、カメラ30のパノラマ映像を再生している場合に、クライアント20の視野範囲が変更されたときの処理について説明する。クライアント20では、例えば、ジャイロセンサ等により視線方向の変更が検出されることで、この視線方向の変更に応じて視野範囲も変更される。ただし、視線方向の変更は、ジャイロセンサ等によって検出される場合に限られず、例えば、クライアント20のタッチパネルをユーザの指で操作すること等によって視線方向が変更されてもよい。 In subsequent steps S107 to S111, processing when the visual field range of the client 20 is changed while the panorama image of the camera 30n is being reproduced will be described. In the client 20, for example, a gyro sensor or the like detects a change in the line-of-sight direction, and the visual field range is also changed according to the change in the line-of-sight direction. However, the line-of-sight direction is not limited to being detected by a gyro sensor or the like, and the line-of-sight direction may be changed by, for example, operating the touch panel of the client 20 with a user's finger.

クライアント20の視聴処理部210は、変更後の視線方向を示す視線方向情報を配信サーバ10に送信する(ステップS107)。なお、このとき、視聴処理部210は、再生時刻もあわせて配信サーバ10に送信してもよい。 The viewing processing unit 210 of the client 20 transmits line-of-sight direction information indicating the changed line-of-sight direction to the distribution server 10 (step S107). At this time, the viewing processing unit 210 may transmit the reproduction time to the distribution server 10 as well.

配信サーバ10の配信処理部110は、視線方向情報を受信すると、カメラnコンテンツの低解像度タイル及び高解像度タイルのうち、再生時刻(つまり、現在時刻又はユーザによって指定された時刻)に対応する低解像度タイルと、当該視線方向情報が示す視線方向の視野範囲における再生時刻に対応する高解像度タイルとを記憶部120から読み出す(ステップS108)。なお、視野範囲は、例えば、パノラマ映像を全天周投影球で表現した場合に、観測位置にある疑似的なカメラを視線方向に向けて撮影した範囲として特定される。 When the distribution processing unit 110 of the distribution server 10 receives the line-of-sight direction information, the distribution processing unit 110 selects one of the low-resolution tiles and the high-resolution tiles of the camera n content corresponding to the playback time (that is, the current time or the time specified by the user). The resolution tile and the high resolution tile corresponding to the playback time in the viewing range in the viewing direction indicated by the viewing direction information are read out from the storage unit 120 (step S108). Note that the field of view range is specified as a range photographed by a pseudo camera at the observation position directed in the direction of the line of sight, for example, when a panoramic image is represented by an omnidirectional projection sphere.

そして、配信サーバ10の配信処理部110は、上記のステップS108で読み出した低解像度タイル及び高解像度タイルをクライアント20に配信(送信)する(ステップS109)。 Then, the distribution processing unit 110 of the distribution server 10 distributes (transmits) the low-resolution tiles and high-resolution tiles read in step S108 to the client 20 (step S109).

クライアント20の視聴処理部210は、低解像度タイル及び高解像度タイルを受信すると、上記のステップS105と同様に、これらの低解像度タイル及び高解像度タイルを合成する(ステップS110)。 Upon receiving the low-resolution tile and high-resolution tile, the viewing processing unit 210 of the client 20 synthesizes these low-resolution tile and high-resolution tile (step S110) in the same manner as in step S105.

そして、クライアント20の視聴処理部210は、上記のステップS110で低解像度タイル及び高解像度タイルを合成することで作成されたパノラマ映像を再生する(ステップS111)。 Then, the viewing processing unit 210 of the client 20 reproduces the panorama video created by synthesizing the low-resolution tiles and the high-resolution tiles in step S110 (step S111).

以降のステップS112~ステップS116では、クライアント20で再生するパノラマ映像を切り替えた場合(つまり、カメラ30を切り替えた場合)の処理について説明する。クライアント20のユーザは、所定の操作(例えば、カメラ切り替えボタンを押下する等)を行うことで、当該クライアント20で再生するパノラマ映像を切り替えることができる。一例として、カメラ番号n=kのカメラ30で撮影されたパノラマ映像に切り替える場合について説明する。 In subsequent steps S112 to S116, processing when the panorama video to be played back on the client 20 is switched (that is, when the camera 30 is switched) will be described. The user of the client 20 can switch the panorama video played on the client 20 by performing a predetermined operation (for example, pressing a camera switching button). As an example, a case of switching to a panorama image captured by camera 30 k with camera number n=k will be described.

クライアント20の視聴処理部210は、カメラ番号n=kのカメラ30で撮影されたパノラマ映像に切り替える操作が行われると、映像の配信要求を配信サーバ10に送信する(ステップS112)。ここで、当該映像の配信要求には、カメラ番号n=kが含まれる。なお、このとき、視聴処理部210は、再生時刻もあわせて配信サーバ10に送信してもよい。本実施形態では、このステップS112で送信される要求を「映像の配信要求」としたが、この要求は、例えば、「カメラの切替要求」や「パノラマ映像の切替要求」等と称されてもよい。 The viewing processing unit 210 of the client 20 transmits a video distribution request to the distribution server 10 when an operation to switch to the panorama video captured by the camera 30 k with camera number n=k is performed (step S112). Here, the video distribution request includes the camera number n=k. At this time, the viewing processing unit 210 may transmit the reproduction time to the distribution server 10 as well. In the present embodiment, the request transmitted in step S112 is a "video distribution request," but this request may also be called a "camera switching request," a "panoramic video switching request," or the like. good.

配信サーバ10の配信処理部110は、カメラkコンテンツの低解像度タイル及び高解像度タイルのうち、再生時刻に対応する低解像度タイルと、デフォルトの視野範囲における再生時刻に対応する高解像度タイルとを記憶部120から読み出す(ステップS113)。 The distribution processing unit 110 of the distribution server 10 stores the low-resolution tile corresponding to the reproduction time and the high-resolution tile corresponding to the reproduction time in the default visual field range among the low-resolution tiles and high-resolution tiles of the camera k content. It is read out from the unit 120 (step S113).

そして、配信サーバ10の配信処理部110は、上記のステップS113で読み出した低解像度タイル及び高解像度タイルをクライアント20に配信(送信)する(ステップS114)。 Then, the distribution processing unit 110 of the distribution server 10 distributes (transmits) the low-resolution tile and the high-resolution tile read in step S113 to the client 20 (step S114).

クライアント20の視聴処理部210は、低解像度タイル及び高解像度タイルを受信すると、上記のステップS105と同様に、これらの低解像度タイル及び高解像度タイルを合成する(ステップS115)。 Upon receiving the low-resolution tile and high-resolution tile, the viewing processing unit 210 of the client 20 synthesizes these low-resolution tile and high-resolution tile (step S115) in the same manner as in step S105.

そして、クライアント20の視聴処理部210は、上記のステップS115で低解像度タイル及び高解像度タイルを合成することで作成されたパノラマ映像を再生する(ステップS116)。 Then, the viewing processing unit 210 of the client 20 reproduces the panorama video created by synthesizing the low-resolution tiles and the high-resolution tiles in step S115 (step S116).

このように、本実施形態に係る映像配信システム1では、クライアント20で再生するパノラマ映像を撮影するカメラ30が切り替わった場合であっても、上記のステップS102でプレイリストを一度取得していれば、再度プレイリストを取得する必要がない。このため、再度プレイリスト取得に関する通信処理を行う必要がないため、パノラマ映像の再生遅延を防止することが可能となる。 As described above, in the video distribution system 1 according to the present embodiment, even when the camera 30 for capturing the panoramic video to be played back on the client 20 is switched, if the playlist is acquired once in step S102, , no need to get the playlist again. Therefore, since it is not necessary to perform the communication processing related to acquiring the playlist again, it is possible to prevent the playback delay of the panorama video.

なお、本実施形態では、カメラ30に切り替えた後のパノラマ映像の視野範囲は、当該カメラ30のデフォルトの視野範囲であるものとした(上記のステップS113)が、これに限られない。例えば、切り替え後の視野範囲を特定するための座標を、切り替え前の視野範囲を特定するための座標と同一としてもよい。 In this embodiment, the viewing range of the panorama image after switching to the camera 30 k is assumed to be the default viewing range of the camera 30 k (step S113 above), but is not limited to this. For example, the coordinates for identifying the visual field range after switching may be the same as the coordinates for identifying the visual field range before switching.

また、例えば、切り替え前の視野範囲内に或る対象(例えば、コンサートであれば或る特定の歌手、スポーツであれば或る特定の選手等)が含まれている場合に、同一の対象が含まれる範囲を切り替え後の視野範囲としてもよい。これにより、ユーザは、複数のカメラ30を切り替えることで、例えば、異なる角度や異なる位置等から撮影された同一の対象を視聴することが可能となる。 Further, for example, when a certain object (for example, a certain singer in the case of a concert, a certain athlete in the case of sports, etc.) is included in the visual field range before switching, the same object The included range may be set as the visual field range after switching. Accordingly, by switching between the plurality of cameras 30, the user can view the same object photographed from different angles or different positions, for example.

また、例えば、パノラマ映像の再生時刻や内容に応じて、カメラ30毎に着目する視野範囲を予め指定されていてもよい。具体的には、例えば、再生時刻が「0:00」~「5:00」の間は、カメラ30に切り替わったときは視野範囲1、カメラ30に切り替わったときは視野範囲3、カメラ30に切り替わったときは視野範囲2等と予め設定することが考えられる。同様に、例えば、パノラマ映像の内容(コンテンツ)が「コンサート」の場合に、カメラ30に切り替わったときは視野範囲2、カメラ30に切り替わったときは視野範囲2、カメラ30に切り替わったときは視野範囲1等とする一方で、パノラマ映像の内容が「スポーツ」である場合に、カメラ30に切り替わったときは視野範囲1、カメラ30に切り替わったときは視野範囲1、カメラ30に切り替わったときは視野範囲3等と予め設定することが考えられる。これにより、パノラマ映像の再生時刻や内容に応じて、切り替え後のカメラ30で指定された視野範囲を視聴することが可能となる。 Further, for example, the visual field range to be focused on may be designated in advance for each camera 30 according to the playback time and content of the panorama video. Specifically, for example, when the playback time is between "0:00" and "5:00", when switching to the camera 301 , the viewing range is 1, and when switching to the camera 302 , the viewing range is 3, and the camera When switching to 30 3 , it is conceivable to set the visual field range 2 or the like in advance. Similarly, for example, when the content of the panorama video is "concert", when switching to the camera 30-1 , the viewing range is 2, when switching to the camera 30-2 , the viewing range is 2, and when switching to the camera 30-3 When the content of the panoramic video is "sports", the viewing range is set to 1 when switching to the camera 30-1 , and when switching to the camera 30-2 , the viewing range is set to 1 and the camera 30-2. When switching to 3 , it is conceivable to set the visual field range to 3 or the like in advance. As a result, it is possible to view the range of field of view specified by the camera 30 after switching according to the playback time and content of the panorama video.

ここで、上記のステップS102におけるプレイリスト取得に関する通信処理の詳細について、図9を参照しながら説明する。図9は、本実施形態に係るプレイリスト取得に関する通信処理の一例を示すシーケンス図である。 Here, the details of the communication processing regarding the playlist acquisition in step S102 will be described with reference to FIG. FIG. 9 is a sequence diagram showing an example of communication processing regarding playlist acquisition according to the present embodiment.

まず、クライアント20の視聴処理部210は、Master Playlist要求を配信サーバ10に送信する(ステップS201)。なお、Master Playlist要求とは、コンテンツ用プレイリストを取得するための要求である。 First, the viewing processing unit 210 of the client 20 transmits a Master Playlist request to the distribution server 10 (step S201). Note that the Master Playlist request is a request for acquiring a content playlist.

配信サーバ10の配信処理部110は、Master Playlist要求を受信すると、コンテンツ用プレイリストを記憶部120から読み出す(ステップS202)。 Upon receiving the Master Playlist request, the distribution processing unit 110 of the distribution server 10 reads the content playlist from the storage unit 120 (step S202).

そして、配信サーバ10の配信処理部110は、上記のステップS202で読み出したコンテンツ用プレイリスト(つまり、Content.m3u8)をクライアント20に送信する(ステップS203)。これにより、クライアント20は、コンテンツ用プレイリストを取得することができる。 Then, the distribution processing unit 110 of the distribution server 10 transmits the content playlist (that is, Content.m3u8) read in step S202 to the client 20 (step S203). Thereby, the client 20 can acquire the content playlist.

クライアント20の配信処理部110は、コンテンツ用プレイリストを受信すると、Media Playlist要求を配信サーバ10に送信する(ステップS204)。なお、Media Playlist要求とは、メディア用プレイリスト等を取得するための要求である。 Upon receiving the content playlist, the distribution processing unit 110 of the client 20 transmits a Media Playlist request to the distribution server 10 (step S204). Note that the Media Playlist request is a request for acquiring a media playlist or the like.

配信サーバ10の配信処理部110は、Media Playlist要求を受信すると、メディア用プレイリスト(つまり、LT.m3u8)と、メタデータリスト(つまり、Play.ini)と、配置情報(つまり、Rendering.ini)とを記憶部120から読み出す(ステップS205)。 When the distribution processing unit 110 of the distribution server 10 receives the Media Playlist request, the media playlist (that is, LT.m3u8), the metadata list (that is, Play.ini), the layout information (that is, Rendering.ini ) are read from the storage unit 120 (step S205).

そして、配信サーバ10の配信処理部110は、上記のステップS205で読み出したメディア用プレイリストとメタデータリストと配置情報とをクライアント20に送信する(ステップS206)。これにより、クライアント20は、メディア用プレイリストとメタデータリストと配置情報とを取得することができる。 Then, the distribution processing unit 110 of the distribution server 10 transmits the media playlist, the metadata list, and the arrangement information read in step S205 to the client 20 (step S206). Thereby, the client 20 can acquire the media playlist, the metadata list, and the arrangement information.

本発明は、具体的に開示された上記の実施形態に限定されるものではなく、特許請求の範囲から逸脱することなく、種々の変形や変更、組み合わせ等が可能である。 The invention is not limited to the specifically disclosed embodiments described above, but various modifications, alterations, combinations, etc. are possible without departing from the scope of the claims.

1 映像配信システム
10 配信サーバ
20 クライアント
30 カメラ
40 エンコード装置
110 配信処理部
120 記憶部
210 視聴処理部
1 video distribution system 10 distribution server 20 client 30 camera 40 encoding device 110 distribution processing unit 120 storage unit 210 viewing processing unit

Claims (7)

HTTP Live Streamingによって複数のカメラの各々で撮影されたパノラマ映像をクライアントに配信する配信サーバであって、
前記パノラマ映像の配信要求を前記クライアントから受信した場合HTTP Live Streamingによって前記パノラマ映像を再生するためのプレイリストであって、かつ、前記複数のカメラの各々で撮影されたすべてのパノラマ映像で共通のプレイリストと、前記配信要求で要求されたカメラで撮影されたパノラマ映像とを前記クライアントに配信する第1の映像配信手段と、
再生対象のパノラマ映像の切替要求を受信した場合、切替後の再生対象のパノラマ映像を前記クライアントに配信する第2の映像配信手段と、を有する、ことを特徴とする配信サーバ。
A distribution server that distributes panoramic video shot by each of a plurality of cameras to a client by HTTP Live Streaming,
A playlist for playing back the panoramic video by HTTP Live Streaming when a distribution request for the panoramic video is received from the client , the playlist being common to all the panoramic videos captured by each of the plurality of cameras. and a first video distribution means for distributing to the client the playlist of and the panorama video taken by the camera requested in the distribution request ;
and a second video distribution means for distributing a panoramic video to be reproduced after switching to the client when a switching request of the panoramic video to be reproduced is received.
前記第2の映像配信手段は、
前記プレイリストを前記クライアントに送信しない、ことを特徴とする請求項1に記載の配信サーバ。
The second video distribution means is
2. The distribution server according to claim 1, wherein said playlist is not transmitted to said client.
前記第1の映像配信手段は、
前記複数のカメラのうち、デフォルトとして設定されているカメラで撮影されたパノラマ映像を前記クライアントに配信する、ことを特徴とする請求項1又は2に記載の配信サーバ。
The first video distribution means is
3. The distribution server according to claim 1, wherein a panorama image captured by a camera set as a default among the plurality of cameras is distributed to the client.
前記カメラ毎に、該カメラで撮影されたパノラマ映像のコンテンツをセグメントファイルとして記憶する記憶手段を有し、
前記第1の映像配信手段及び前記第2の映像配信手段は、
再生対象のパノラマ映像のセグメントファイルを前記クライアントに配信する、ことを特徴とする請求項1乃至3の何れか一項に記載の配信サーバ。
Each camera has storage means for storing, as a segment file, contents of a panoramic video shot by the camera,
The first video distribution means and the second video distribution means are
4. The distribution server according to any one of claims 1 to 3, wherein the distribution server distributes a segment file of a panorama video to be played back to the client.
前記セグメントファイルには、所定の時間幅のパノラマ映像を低解像度に圧縮したデータを示す低解像度データと、前記時間幅の前記パノラマ映像に含まれる所定の画像領域を示す高解像度データとが含まれる、ことを特徴とする請求項4に記載の配信サーバ。 The segment file includes low-resolution data representing data obtained by compressing a panorama video of a predetermined duration to low resolution, and high-resolution data representing a predetermined image area included in the panorama video of the duration. 5. The distribution server according to claim 4, characterized by: HTTP Live Streamingによって複数のカメラの各々で撮影されたパノラマ映像をクライアントに配信するコンピュータが、
前記パノラマ映像の配信要求を前記クライアントから受信した場合HTTP Live Streamingによって前記パノラマ映像を再生するためのプレイリストであって、かつ、前記複数のカメラの各々で撮影されたすべてのパノラマ映像で共通のプレイリストと、前記配信要求で要求されたカメラで撮影されたパノラマ映像とを前記クライアントに配信する第1の映像配信手順と、
再生対象のパノラマ映像の切替要求を受信した場合、切替後の再生対象のパノラマ映像を前記クライアントに配信する第2の映像配信手順と、を実行する、ことを特徴とする配信方法。
A computer that distributes panoramic images shot by each of multiple cameras to clients by HTTP Live Streaming,
A playlist for playing back the panoramic video by HTTP Live Streaming when a distribution request for the panoramic video is received from the client , the playlist being common to all the panoramic videos captured by each of the plurality of cameras. and a first video distribution procedure for distributing to the client the playlist of and the panoramic video captured by the camera requested in the distribution request ;
and a second video distribution procedure for distributing the panoramic video to be played after switching to the client when a switching request of the panoramic video to be played is received.
コンピュータを、請求項1乃至5の何れか一項に記載の配信サーバとして機能させるためのプログラム。 A program for causing a computer to function as the distribution server according to any one of claims 1 to 5.
JP2021176118A 2019-06-24 2021-10-28 Distribution server, distribution method and program Active JP7319340B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021176118A JP7319340B2 (en) 2019-06-24 2021-10-28 Distribution server, distribution method and program

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2019116711A JP6970143B2 (en) 2019-06-24 2019-06-24 Distribution server, distribution method and program
JP2021176118A JP7319340B2 (en) 2019-06-24 2021-10-28 Distribution server, distribution method and program

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2019116711A Division JP6970143B2 (en) 2019-06-24 2019-06-24 Distribution server, distribution method and program

Publications (2)

Publication Number Publication Date
JP2022009636A JP2022009636A (en) 2022-01-14
JP7319340B2 true JP7319340B2 (en) 2023-08-01

Family

ID=87469727

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021176118A Active JP7319340B2 (en) 2019-06-24 2021-10-28 Distribution server, distribution method and program

Country Status (1)

Country Link
JP (1) JP7319340B2 (en)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017123503A (en) 2016-01-04 2017-07-13 日本電信電話株式会社 Video distribution apparatus, video distribution method and computer program
JP2017220703A (en) 2016-06-03 2017-12-14 キヤノン株式会社 Communication device, communication control method, and communication system
JP2019033362A (en) 2017-08-07 2019-02-28 日本放送協会 Distribution apparatus, reception apparatus, and program

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017123503A (en) 2016-01-04 2017-07-13 日本電信電話株式会社 Video distribution apparatus, video distribution method and computer program
JP2017220703A (en) 2016-06-03 2017-12-14 キヤノン株式会社 Communication device, communication control method, and communication system
JP2019033362A (en) 2017-08-07 2019-02-28 日本放送協会 Distribution apparatus, reception apparatus, and program

Also Published As

Publication number Publication date
JP2022009636A (en) 2022-01-14

Similar Documents

Publication Publication Date Title
EP3459252B1 (en) Method and apparatus for spatial enhanced adaptive bitrate live streaming for 360 degree video playback
US10880522B2 (en) Hybrid media viewing application including a region of interest within a wide field of view
JP7029562B2 (en) Equipment and methods for providing and displaying content
JP6309749B2 (en) Image data reproducing apparatus and image data generating apparatus
US20160277772A1 (en) Reduced bit rate immersive video
US11539983B2 (en) Virtual reality video transmission method, client device and server
WO2009141951A1 (en) Image photographing device and image encoding device
JP2015187797A (en) Image data generation device and image data reproduction device
JP2013183209A (en) System and method for viewing multi-viewpoint video stream
KR101964126B1 (en) The Apparatus And Method For Transferring High Definition Video
WO2007061068A1 (en) Receiver and line video distributing device
KR102133207B1 (en) Communication apparatus, communication control method, and communication system
JP6541309B2 (en) Transmission apparatus, transmission method, and program
KR20210019017A (en) Content processing method and device
Podborski et al. Virtual reality and DASH
JP2017123503A (en) Video distribution apparatus, video distribution method and computer program
JP5915604B2 (en) Information processing apparatus, program, and information processing method
JP2020524450A (en) Transmission system for multi-channel video, control method thereof, multi-channel video reproduction method and device thereof
CN112188219A (en) Video receiving method and device and video transmitting method and device
JP7319340B2 (en) Distribution server, distribution method and program
JP6970143B2 (en) Distribution server, distribution method and program
JP2019033362A (en) Distribution apparatus, reception apparatus, and program
US11134236B2 (en) Image processing device and system
JP5940999B2 (en) VIDEO REPRODUCTION DEVICE, VIDEO DISTRIBUTION DEVICE, VIDEO REPRODUCTION METHOD, VIDEO DISTRIBUTION METHOD, AND PROGRAM
Seo et al. Bandwidth-Efficient Transmission Method for User View-Oriented Video Services

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211028

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221027

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221122

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20230123

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230322

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230620

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230720

R150 Certificate of patent or registration of utility model

Ref document number: 7319340

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150