JP2012222399A - Video playback system, video playback method, and video playback device and program - Google Patents

Video playback system, video playback method, and video playback device and program Download PDF

Info

Publication number
JP2012222399A
JP2012222399A JP2011082781A JP2011082781A JP2012222399A JP 2012222399 A JP2012222399 A JP 2012222399A JP 2011082781 A JP2011082781 A JP 2011082781A JP 2011082781 A JP2011082781 A JP 2011082781A JP 2012222399 A JP2012222399 A JP 2012222399A
Authority
JP
Japan
Prior art keywords
panoramic
free viewpoint
video data
viewpoint video
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2011082781A
Other languages
Japanese (ja)
Inventor
Toshiaki Takeda
利明 武田
Hideaki Kimata
英明 木全
Nobuhiko Matsuura
宣彦 松浦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2011082781A priority Critical patent/JP2012222399A/en
Publication of JP2012222399A publication Critical patent/JP2012222399A/en
Pending legal-status Critical Current

Links

Images

Abstract

PROBLEM TO BE SOLVED: To realize a free movement of a focused zone and scaling thereof for multiple screens within a single large panoramic video, and realize a temporal synchronization of a focused zone in multiple screens within the single large panoramic video.SOLUTION: A video playback system includes control means that determines whether panoramic free viewpoint video data to be displayed is retained by a common reception buffer when an operation to change a view point is performed by operation means, and reads the panoramic free viewpoint video data to be displayed, from the common reception buffer, if the data is retained, to output the read data to decoding means synchronously with panoramic free viewpoint video data of another zone, while, obtaining panoramic free viewpoint video data to be displayed, from a panoramic free viewpoint video server, if the data is not retained, to output the read date to the decoding means synchronously with panoramic free viewpoint video data of another zone.

Description

本発明は、ネットワークに接続して、パノラマ映像情報をサーバから再生する装置において、自由視点映像を複数表示し、多画面の注視領域の時間同期を行う映像再生システム、映像再生方法、映像再生装置及びプログラムに関するものである。   The present invention relates to a video playback system, a video playback method, and a video playback device that display a plurality of free viewpoint videos and time-synchronize a multi-screen gaze area in an apparatus that connects to a network and plays back panoramic video information from a server. And programs.

従来から、1個のハイビジョン映像に対応した1画面の規格H.264映像情報をネットワークを介して伝送する技術が知られている(例えば、非特許文献1参照)。   Conventionally, one screen standard H.264 corresponding to one high-definition video. A technique for transmitting H.264 video information via a network is known (see, for example, Non-Patent Document 1).

「ハイビジョン伝送システムIP−9500のグローバル展開」、富士通、2009.1月、Vol.60、ページ69−75“Global Deployment of Hi-Vision Transmission System IP-9500”, Fujitsu, 2009.01, Vol. 60, pages 69-75

しかしながら、非特許文献1に記載の技術においては、複数の表示装置を並べてパノラマ化した場合、各々の装置に対応する各々の映像が送られてくるだけのパノラマ固定映像であり、注視領域の自由な動きや拡大縮小などのいわゆる自由視点映像を再生することができないという問題がある。また、複数の表示装置を並べてパノラマ化したい場合、特に公衆ネットワークなどの遅延やゆらぎが発生している状況では、映像の時刻同期が問題となり、映像の時刻同期装置や制御装置を持せなければならないという問題がある。   However, in the technique described in Non-Patent Document 1, when a plurality of display devices are arranged in a panorama, the panorama fixed image is such that each image corresponding to each device is sent, and the gaze area is free. There is a problem that it is not possible to reproduce so-called free-viewpoint images such as simple movement and enlargement / reduction. Also, when you want to panoramic multiple display devices side by side, especially in situations where delays or fluctuations occur in public networks, video time synchronization becomes a problem, and you must have a video time synchronization device or control device. There is a problem of not becoming.

本発明は、このような事情に鑑みてなされたもので、1つの大きなパノラマ映像の中での多画面において、注視領域の自由な動きや拡大縮小を実現できるともに、1つの大きなパノラマ映像の中の多画面の注視領域の時間同期を実現することができる映像再生システム、映像再生方法、映像再生装置及びプログラムを提供することを目的とする。   The present invention has been made in view of such circumstances, and can realize free movement and enlargement / reduction of a gaze area on a multi-screen in one large panoramic image, and can also be performed in one large panoramic image. An object of the present invention is to provide a video playback system, a video playback method, a video playback device, and a program capable of realizing time synchronization of a multi-screen gaze area.

本発明は、1つのパノラマ映像が複数に領域分けされたパノラマ自由視点映像データを保持するパノラマ自由視点映像サーバと、映像を表示する複数の表示装置と、前記領域分けされた複数の前記パノラマ自由視点映像データを再生し、前記複数の表示装置に表示することにより、前記1つのパノラマ映像を再生する再生装置と、前記パノラマ自由視点映像サーバと前記再生装置とを接続するネットワークとを備える映像再生システムであって、前記再生装置は、前記パノラマ自由視点映像サーバから配信された前記パノラマ自由視点映像データを前記ネットワークを介して受信する映像データ受信手段と、前記受信手段により受信した前記パノラマ自由視点映像データを保持する共通受信バッファと、前記複数に領域分けされた前記パノラマ自由視点映像データのそれぞれを復号して前記表示装置へ出力する複数の復号手段と、前記パノラマ映像の視点を変える操作を行う操作手段と、前記操作手段によって、視点を変える操作が行われた場合に、表示するべき前記パノラマ自由視点映像データが前記共通受信バッファに保持されているか否かを判定し、保持されている場合には、前記共通受信バッファから表示するべき前記パノラマ自由視点映像データを読み出して、他の領域の前記パノラマ自由視点映像データと同期させて、前記復号手段に出力し、保持されていない場合には、前記パノラマ自由視点映像サーバから前記表示するべき前記パノラマ自由視点映像データを取得して、他の領域の前記パノラマ自由視点映像データと同期させて、前記復号手段に出力する制御手段とを備えることを特徴とする。   The present invention provides a panoramic free viewpoint video server that holds panoramic free viewpoint video data in which a single panoramic video is divided into a plurality of areas, a plurality of display devices that display video, and the plurality of panoramic freedoms that are divided into areas. Video playback comprising: a playback device that plays back one video image by playing back viewpoint video data and displaying it on the plurality of display devices; and a network connecting the panorama free viewpoint video server and the playback device The playback apparatus includes: a video data receiving unit that receives the panoramic free viewpoint video data distributed from the panoramic free viewpoint video server via the network; and the panoramic free viewpoint received by the receiving unit. A common reception buffer for holding video data, and the panorama divided into the plurality of areas. When a plurality of decoding means for decoding each of the free viewpoint video data and outputting to the display device, an operation means for performing an operation for changing the viewpoint of the panoramic video, and an operation for changing the viewpoint by the operation means Determining whether the panoramic free viewpoint video data to be displayed is held in the common reception buffer, and if so, the panoramic free viewpoint video data to be displayed from the common reception buffer. The panoramic free viewpoint video data to be displayed from the panoramic free viewpoint video server when it is read out, synchronized with the panoramic free viewpoint video data of the other area, and output to the decoding means. And a control means for outputting to the decoding means in synchronization with the panoramic free viewpoint video data of other areas Characterized in that it comprises a.

本発明は、1つのパノラマ映像が複数に領域分けされたパノラマ自由視点映像データを保持するパノラマ自由視点映像サーバと、映像を表示する複数の表示装置と、前記領域分けされた複数の前記パノラマ自由視点映像データを再生し、前記複数の表示装置に表示することにより、前記1つのパノラマ映像を再生する映像再生装置と、前記パノラマ自由視点映像サーバと前記再生装置とを接続するネットワークとを備える映像再生システムにおける映像再生方法であって、前記映像再生装置は、前記パノラマ自由視点映像サーバから配信された前記パノラマ自由視点映像データを前記ネットワークを介して受信する映像データ受信手段と、前記受信手段により受信した前記パノラマ自由視点映像データを保持する共通受信バッファと、前記複数に領域分けされた前記パノラマ自由視点映像データのそれぞれを復号して前記表示装置へ出力する複数の復号手段と、前記パノラマ映像の視点を変える操作を行う操作手段と、制御手段とを備え、前記制御手段が、前記操作手段によって、視点を変える操作が行われた場合に、表示するべき前記パノラマ自由視点映像データが前記共通受信バッファに保持されているか否かを判定し、保持されている場合には、前記共通受信バッファから表示するべき前記パノラマ自由視点映像データを読み出して、他の領域の前記パノラマ自由視点映像データと同期させて、前記復号手段に出力し、保持されていない場合には、前記パノラマ自由視点映像サーバから前記表示するべき前記パノラマ自由視点映像データを取得して、他の領域の前記パノラマ自由視点映像データと同期させて、前記復号手段に出力することを特徴とする。   The present invention provides a panoramic free viewpoint video server that holds panoramic free viewpoint video data in which a single panoramic video is divided into a plurality of areas, a plurality of display devices that display video, and the plurality of panoramic freedoms that are divided into areas. A video comprising a video playback device for playing back the one panoramic video by playing back the viewpoint video data and displaying it on the plurality of display devices, and a network connecting the panorama free viewpoint video server and the playback device. A video playback method in a playback system, wherein the video playback device receives the panoramic free viewpoint video data distributed from the panoramic free viewpoint video server via the network, and the receiving means. A common reception buffer for holding the received panoramic free viewpoint video data; A plurality of decoding means for decoding each of the panoramic free viewpoint video data divided into regions and outputting the decoded data to the display device, an operating means for performing an operation for changing the viewpoint of the panoramic video, and a control means, When the control means determines whether or not the panoramic free viewpoint video data to be displayed is held in the common reception buffer when the operation means is operated to change the viewpoint. If the panoramic free viewpoint video data to be displayed is read from the common reception buffer, and is output to the decoding means in synchronization with the panoramic free viewpoint video data in another area, if not held. The panorama free viewpoint video data to be displayed is acquired from the panorama free viewpoint video server, and the panorama of another area is acquired. In synchronization with the derived viewpoint video data, and outputs to the decoding means.

本発明は、1つのパノラマ映像が複数に領域分けされたパノラマ自由視点映像データを保持するパノラマ自由視点映像サーバと、映像を表示する複数の表示装置と、前記領域分けされた複数の前記パノラマ自由視点映像データを再生し、前記複数の表示装置に表示することにより、前記1つのパノラマ映像を再生する映像再生装置と、前記パノラマ自由視点映像サーバと前記再生装置とを接続するネットワークとを備える映像再生システムにおける映像再生装置であって、前記パノラマ自由視点映像サーバから配信された前記パノラマ自由視点映像データを前記ネットワークを介して受信する映像データ受信手段と、前記受信手段により受信した前記パノラマ自由視点映像データを保持する共通受信バッファと、前記複数に領域分けされた前記パノラマ自由視点映像データのそれぞれを復号して前記表示装置へ出力する複数の復号手段と、前記パノラマ映像の視点を変える操作を行う操作手段と、前記操作手段によって、視点を変える操作が行われた場合に、表示するべき前記パノラマ自由視点映像データが前記共通受信バッファに保持されているか否かを判定し、保持されている場合には、前記共通受信バッファから表示するべき前記パノラマ自由視点映像データを読み出して、他の領域の前記パノラマ自由視点映像データと同期させて、前記復号手段に出力し、保持されていない場合には、前記パノラマ自由視点映像サーバから前記表示するべき前記パノラマ自由視点映像データを取得して、他の領域の前記パノラマ自由視点映像データと同期させて、前記復号手段に出力する制御手段とを備えることを特徴とする。   The present invention provides a panoramic free viewpoint video server that holds panoramic free viewpoint video data in which a single panoramic video is divided into a plurality of areas, a plurality of display devices that display video, and the plurality of panoramic freedoms that are divided into areas. A video comprising a video playback device for playing back the one panoramic video by playing back the viewpoint video data and displaying it on the plurality of display devices, and a network connecting the panorama free viewpoint video server and the playback device. A video playback apparatus in a playback system, wherein the panorama free viewpoint video data distributed from the panorama free viewpoint video server is received via the network, and the panorama free viewpoint received by the receiving means. A common reception buffer for holding video data, and A plurality of decoding means for decoding each panoramic free viewpoint video data and outputting it to the display device, an operating means for changing the viewpoint of the panoramic video, and an operation for changing the viewpoint by the operating means. In this case, it is determined whether or not the panoramic free viewpoint video data to be displayed is held in the common reception buffer, and if held, the panoramic free viewpoint video data to be displayed from the common reception buffer. Is output to the decoding means in synchronization with the panoramic free viewpoint video data of another area, and if not held, the panoramic free viewpoint video to be displayed from the panoramic free viewpoint video server Acquire data, synchronize with the panoramic free viewpoint video data of other areas, and output to the decoding means Characterized in that it comprises a control means.

本発明は、1つのパノラマ映像が複数に領域分けされたパノラマ自由視点映像データを保持するパノラマ自由視点映像サーバと、映像を表示する複数の表示装置と、前記領域分けされた複数の前記パノラマ自由視点映像データを再生し、前記複数の表示装置に表示することにより、前記1つのパノラマ映像を再生する映像再生装置と、前記パノラマ自由視点映像サーバと前記再生装置とを接続するネットワークとを備える映像再生システムにおける映像再生装置上のコンピュータに映像再生処理を行わせる映像再生プログラムであって、前記映像再生装置は、前記パノラマ自由視点映像サーバから配信された前記パノラマ自由視点映像データを前記ネットワークを介して受信する映像データ受信手段と、前記受信手段により受信した前記パノラマ自由視点映像データを保持する共通受信バッファと、前記複数に領域分けされた前記パノラマ自由視点映像データのそれぞれを復号して前記表示装置へ出力する複数の復号手段と、前記パノラマ映像の視点を変える操作を行う操作手段とを備え、前記操作手段によって、視点を変える操作が行われた場合に、表示するべき前記パノラマ自由視点映像データが前記共通受信バッファに保持されているか否かを判定し、保持されている場合には、前記共通受信バッファから表示するべき前記パノラマ自由視点映像データを読み出して、他の領域の前記パノラマ自由視点映像データと同期させて、前記復号手段に出力し、保持されていない場合には、前記パノラマ自由視点映像サーバから前記表示するべき前記パノラマ自由視点映像データを取得して、他の領域の前記パノラマ自由視点映像データと同期させて、前記復号手段に出力する制御ステップを前記コンピュータに行わせることを特徴とする。   The present invention provides a panoramic free viewpoint video server that holds panoramic free viewpoint video data in which a single panoramic video is divided into a plurality of areas, a plurality of display devices that display video, and the plurality of panoramic freedoms that are divided into areas. A video comprising a video playback device for playing back the one panoramic video by playing back the viewpoint video data and displaying it on the plurality of display devices, and a network connecting the panorama free viewpoint video server and the playback device. A video playback program for causing a computer on a video playback device in a playback system to perform video playback processing, wherein the video playback device receives the panoramic free viewpoint video data distributed from the panoramic free viewpoint video server via the network. Receiving the video data and the panorama received by the receiving means. A common reception buffer for holding free-viewpoint video data, a plurality of decoding means for decoding each of the plurality of panoramic free-viewpoint video data divided into a plurality of regions and outputting the decoded data to the display device, and a viewpoint of the panoramic video An operation means for performing a change operation, and when the operation means changes the viewpoint, it is determined whether or not the panoramic free viewpoint video data to be displayed is held in the common reception buffer. If it is held, the panoramic free viewpoint video data to be displayed is read from the common reception buffer, and is output to the decoding means in synchronization with the panoramic free viewpoint video data of other areas, and held. If not, the panoramic free viewpoint video data to be displayed is acquired from the panoramic free viewpoint video server. And, in synchronization with the panoramic images synthesized data of the other regions, characterized in that to perform control step of outputting to the decoding means to the computer.

本発明によれば、各々の装置を並べてパノラマ化した場合、パノラマ固定映像になってしまう問題を解決し、1つの大きなパノラマ映像の中での多画面で注視領域の自由視点映像とすることができるという効果が得られる。また、各々の装置の映像の時間同期でなく、1つの大きなパノラマ映像の中の多画面の注視領域の時間同期させることができるというという効果も得られる。   According to the present invention, when each device is panoramad side by side, the problem of being a panorama fixed image is solved, and a free viewpoint image of a gaze area can be obtained on multiple screens in one large panorama image. The effect that it can be obtained. In addition, there is an effect that the time synchronization of the gaze area of the multi-screen in one large panoramic image can be synchronized instead of the time synchronization of the video of each device.

本発明の一実施形態の構成を示すブロック図である。It is a block diagram which shows the structure of one Embodiment of this invention. パノラマ自由視点映像の画面構成(全領域ストリームとタイル構成)を示す説明図である。It is explanatory drawing which shows the screen structure (all area stream and tile structure) of a panoramic free viewpoint image | video. パノラマ自由視点映像の画面構成(全領域ストリームとタイル構成と多画面注視領域)を示す説明図である。It is explanatory drawing which shows the screen structure (all area | region stream, tile structure, and multiscreen gaze area | region) of a panoramic free viewpoint image | video. 図1に示す共通受信バッファ135の構成を示す説明図である。FIG. 2 is an explanatory diagram illustrating a configuration of a common reception buffer 135 illustrated in FIG. 1. 図1に示す再生装置13の処理動作を示すシーケンス図である。It is a sequence diagram which shows the processing operation of the reproducing | regenerating apparatus 13 shown in FIG. 図1に示す再生装置13の処理動作を示すシーケンス図である。It is a sequence diagram which shows the processing operation of the reproducing | regenerating apparatus 13 shown in FIG. 図1に示す再生装置13の処理動作を示すシーケンス図である。It is a sequence diagram which shows the processing operation of the reproducing | regenerating apparatus 13 shown in FIG. 図1に示す再生装置13の処理動作を示すシーケンス図である。It is a sequence diagram which shows the processing operation of the reproducing | regenerating apparatus 13 shown in FIG.

以下、図面を参照して、本発明の一実施形態による映像再生システムを説明する。図1は同実施形態の構成を示すブロック図である。この図において、符号11は、パノラマ自由視点映像サーバである。符号12は、ネットワークである。符号13は、映像の再生を行う再生装置である。符号14、15は、再生装置13において再生された映像を表示する表示装置である。ここでは、2台の表示装置A、Bを接続した例を示しているが、必要に応じて、3台以上の表示装置が接続される。   Hereinafter, a video playback system according to an embodiment of the present invention will be described with reference to the drawings. FIG. 1 is a block diagram showing the configuration of the embodiment. In this figure, reference numeral 11 denotes a panoramic free viewpoint video server. Reference numeral 12 denotes a network. Reference numeral 13 denotes a playback device that plays back video. Reference numerals 14 and 15 are display devices for displaying the video reproduced by the reproduction device 13. Here, an example in which two display devices A and B are connected is shown, but three or more display devices are connected as necessary.

符号131は、再生装置13内部の通信バスである。符号132は、再生装置13を統括して動作を制御する制御部である。符号133は、手動の操作を行う操作部である。符号134は、ネットワーク12を介して、パノラマ自由視点映像サーバ11との間で情報の送受信を行う送受信部である。符号135は、映像データを蓄積する共通受信バッファである。符号136、137は、GOP(Group Of Picture)単位の映像データの復号処理を行う復号部である。符号138、139は、2台の表示装置A14、B15を接続するためにインタフェースである。復号部とインタフェースは、少なくとも表示装置の数と同じ数だけ備えられる。   Reference numeral 131 denotes a communication bus inside the playback apparatus 13. Reference numeral 132 denotes a control unit that controls the operation of the playback apparatus 13. Reference numeral 133 denotes an operation unit that performs a manual operation. Reference numeral 134 denotes a transmission / reception unit that transmits / receives information to / from the panoramic free viewpoint video server 11 via the network 12. Reference numeral 135 denotes a common reception buffer for accumulating video data. Reference numerals 136 and 137 denote decoding units that perform decoding processing of video data in GOP (Group Of Picture) units. Reference numerals 138 and 139 are interfaces for connecting the two display devices A14 and B15. Decoding units and interfaces are provided at least as many as the number of display devices.

次に、図2を参照して、パノラマ自由視点映像の画面構成(全領域ストリームとタイル構成)を説明する。図2は、パノラマ自由視点映像サーバ11が保持しているパノラマ自由視点映像データの画面構成(全領域ストリームとタイル構成)を示す図である。全領域映像21は、タイル22の映像データで構成される。タイル22は、規格H.264などの映像データであり、各々タイムコードを持っている。一般的なパノラマ自由視点映像の注視領域23は、1つの表示装置を対応させて表示する。   Next, with reference to FIG. 2, the screen configuration of the panoramic free viewpoint video (all region stream and tile configuration) will be described. FIG. 2 is a diagram showing a screen configuration (all area stream and tile configuration) of panoramic free viewpoint video data held by the panoramic free viewpoint video server 11. The entire area video 21 is composed of video data of the tile 22. The tile 22 is a standard H.264 standard. H.264 video data, each having a time code. A general panoramic free viewpoint video gaze area 23 is displayed in association with one display device.

次に、図3を参照して、パノラマ自由視点映像の画面構成(全領域ストリームとタイル構成と多画面注視領域)を説明する。図3は、パノラマ自由視点映像の画面構成(全領域ストリームとタイル構成と多画面注視領域)を示す図である。全領域映像21は、パノラマ自由視点映像サーバ11が保持している映像データである。タイル22は、規格H.264などの映像データであり、各々タイムコードを持っている。表示Aの注視領域31は、再生装置13の表示装置A14で表示される映像である。表示Bの注視領域32は、再生装置13の表示装置B15で表示される映像である。表示Aの注視領域31や表示Bの注視領域32は、操作部133により自由な動きや拡大縮小いわゆる自由視点映像とすることができる。注視領域は、復号部A136や復号部B137において、タイル番号、再生領域値により復号されて生成される。   Next, the screen configuration of the panoramic free viewpoint video (all region stream, tile configuration, and multi-screen gaze region) will be described with reference to FIG. FIG. 3 is a diagram illustrating a screen configuration of the panoramic free viewpoint video (all region stream, tile configuration, and multi-screen gaze region). The all-region video 21 is video data held by the panoramic free viewpoint video server 11. The tile 22 is a standard H.264 standard. H.264 video data, each having a time code. The gaze area 31 of the display A is a video displayed on the display device A14 of the playback device 13. The gaze area 32 of the display B is a video displayed on the display device B15 of the playback device 13. The gazing area 31 of the display A and the gazing area 32 of the display B can be set as free movement or enlargement / reduction so-called free viewpoint video by the operation unit 133. The gaze area is generated by decoding the tile number and the reproduction area value in the decoding unit A136 and the decoding unit B137.

再生領域情報はタイル番号、再生領域値は注視領域の縦横領域値であり、操作部133において指示した再生領域情報や再生領域値がない場合は、制御部132において保持している初期値が優先される。例えば、表示Aのみ注視領域31の自由な動きや拡大縮小などができる。また、表示Bのみ注視領域32の自由な動きや拡大縮小などができる。ネットワーク帯域が、映像配信に対し、十分大きい場合は、全部のタイルを配信する全配信が行える。ネットワーク帯域が、映像配信に対し、十分大きくない場合は、タイルの一部配信のみの配信となる。   The reproduction area information is the tile number, and the reproduction area value is the vertical and horizontal area values of the gaze area. If there is no reproduction area information or reproduction area value specified by the operation unit 133, the initial value held in the control unit 132 has priority. Is done. For example, only the display A can freely move and enlarge / reduce the gaze area 31. Further, only the display B can freely move and enlarge / reduce the gaze area 32. If the network bandwidth is sufficiently large for video distribution, all distributions that distribute all tiles can be performed. If the network bandwidth is not large enough for video distribution, only partial tile distribution is performed.

次に、図4を参照して、図1に示す共通受信バッファ135の構成を説明する。図4は、パノラマ自由視点映像の共通受信バッファ135の構成を示す図である。共通受信バッファ135は、図2に示す全領域映像21と、タイル22の規格H.264などの映像をタイムコードをもとに、GOP単位で同期されたタイルの映像データを保持している。GOP内のIBPピクチャは役割があり、Iピクチャは、1枚の画面のみを圧縮したものである。Bピクチャは、2つの別画面(例えば過去・未来)の画像サンプルを用いた予想により符号化したものである。Pピクチャは、1つの別画面(例えば過去)の画像サンプルを用いた予想により符号化したものである。従って、映像データがない状態においては、GOPの途中から再生はできない。操作後、直ちに自由な動きや拡大縮小などを表示するには、共通受信バッファ135に注視領域の周りのタイルの映像データも蓄積しておいて、復号部A131、復号部B137へ送り、周りのタイルの映像データも復号しておく。そして、再生領域値の注視領域の映像を切り出し、表示装置で表示する。   Next, the configuration of the common reception buffer 135 shown in FIG. 1 will be described with reference to FIG. FIG. 4 is a diagram showing the configuration of the common reception buffer 135 for panoramic free viewpoint video. The common reception buffer 135 includes the all-region video 21 shown in FIG. The video data of tiles synchronized in units of GOP based on the time code of the video such as H.264 is held. The IBP picture in the GOP has a role, and the I picture is obtained by compressing only one screen. The B picture is encoded by prediction using image samples of two different screens (for example, past and future). The P picture is encoded by prediction using an image sample of one different screen (for example, the past). Accordingly, in a state where there is no video data, playback cannot be performed from the middle of the GOP. In order to immediately display free movement, enlargement / reduction, and the like after the operation, the video data of the tiles around the gaze area is also stored in the common reception buffer 135, and sent to the decoding unit A131 and the decoding unit B137. The video data of the tile is also decoded. Then, the video of the gaze area of the reproduction area value is cut out and displayed on the display device.

こうすることで、従来の固定映像の時間同期ではなく、1つの大きなパノラマ映像の中の多画面の注視領域の時間同期を行うことができる。また、共通受信バッファ135を設けることで、1つの大きなパノラマ映像の中での多画面で注視領域の自由視点映像とすることができる。また、操作部133により、注視領域を操作時、映像データがある場合、直ちに次のGOPの画面Aの映像データを直ちに取得でき、画面B再生時、注視領域の映像データがある場合、次のGOPの画面Bの映像データを直ちに取得できるようになる。   By doing this, it is possible to perform time synchronization of a multi-screen gaze area in one large panoramic image instead of time synchronization of a conventional fixed image. In addition, by providing the common reception buffer 135, it is possible to obtain a free viewpoint video of the gaze area on multiple screens in one large panoramic video. In addition, when there is video data when operating the gaze area with the operation unit 133, the video data of the screen A of the next GOP can be immediately acquired, and when the video data of the gaze area is present when playing the screen B, the next The video data of the screen B of the GOP can be acquired immediately.

次に、図5を参照して、図1に示す再生装置13の動作を説明する。図5は、復号部B137の再生開始時に、共通受信バッファ135内に表示するべき映像データがある場合の動作を示すシーケンス図である。まず、パノラマ自由視点映像サーバ11からストリーム配信された(ステップS1)映像データを、送受信部134を介して受信し、共通受信バッファ135に蓄積する。共通受信バッファ135において、映像データのタイムコードをもとにGOP単位で同期調整されて、共通受信バッファ135からストリーム配信される(ステップS2)。ストリーム配信された映像データは、復号部A131に送られて、インタフェース138を介して、表示装置A14において再生表示される。ステップS1において、ストリーム配信された映像データは、ネットワーク12によるゆらぎ遅延などの影響を受けているが、ステップS2において共通受信バッファ135からストリーム配信される映像データは、同期調整がされている。   Next, the operation of the playback apparatus 13 shown in FIG. 1 will be described with reference to FIG. FIG. 5 is a sequence diagram showing an operation when there is video data to be displayed in the common reception buffer 135 at the start of reproduction of the decoding unit B137. First, video data stream-distributed from the panoramic free viewpoint video server 11 (step S <b> 1) is received via the transmission / reception unit 134 and stored in the common reception buffer 135. In the common reception buffer 135, the synchronization is adjusted in units of GOP based on the time code of the video data, and the stream is distributed from the common reception buffer 135 (step S2). The streamed video data is sent to the decoding unit A131 and reproduced and displayed on the display device A14 via the interface 138. In step S1, the video data stream-distributed is affected by fluctuation delay or the like by the network 12, but the video data stream-distributed from the common reception buffer 135 in step S2 is adjusted for synchronization.

次に、操作部133から注視領域Bの再生開始要求の操作が行われると、操作部133は制御部132に対して、再生開始要求を送る(ステップS3)。制御部132は、復号部B137に対して、タイル番号の再生領域情報と、注視領域の縦横ポイントの再生領域値を含んだ再生準備通知を送る(ステップS4)。これを受けて復号部B137は、デコーダを起動し、再生準備完了通知を制御部132に送る(ステップS5)。続いて、制御部132は、共通受信バッファ135に対して、復号部A131のGOPのフレーム番号要求と再生領域情報と再生領域値を含んだ映像データ要求を送る(ステップS6)。共通受信バッファ135は、要求された映像データがある場合、制御部132に対して、映像データありを示す情報を送る(ステップS7)。そして、共通受信バッファ135において、復号部A131のフレーム番号に合わせてGOP再生を行って、復号部A131と復号部B137の同期したストリーム配信を行う(ステップS8)。これにより、表示装置B15にストリーム配信された映像データが再生表示されることになる。   Next, when a reproduction start request operation for the gaze area B is performed from the operation unit 133, the operation unit 133 sends a reproduction start request to the control unit 132 (step S3). The control unit 132 sends a reproduction preparation notification including the reproduction area information of the tile number and the reproduction area values of the vertical and horizontal points of the gaze area to the decoding unit B137 (step S4). Receiving this, the decoding unit B137 activates the decoder and sends a reproduction preparation completion notification to the control unit 132 (step S5). Subsequently, the control unit 132 sends a video data request including the frame number request of the GOP of the decoding unit A131, the playback region information, and the playback region value to the common reception buffer 135 (step S6). If there is requested video data, the common reception buffer 135 sends information indicating the presence of video data to the control unit 132 (step S7). Then, in the common reception buffer 135, GOP reproduction is performed in accordance with the frame number of the decoding unit A131, and the synchronized stream distribution between the decoding unit A131 and the decoding unit B137 is performed (step S8). As a result, the video data stream-distributed on the display device B15 is reproduced and displayed.

次に、図6を参照して、図1に示す再生装置13の動作を説明する。図6は、復号部B137の再生開始時、共通受信バッファ135内に表示するべき映像データがない場合の動作を示すシーケンス図である。まず、パノラマ自由視点映像サーバ11からストリーム配信された(ステップS11)映像データを、送受信部134を介して受信し、共通受信バッファ135に蓄積する。共通受信バッファ135において、映像データのタイムコードをもとにGOP単位で同期調整されて、共通受信バッファ135からストリーム配信される(ステップS12)。ストリーム配信された映像データは、復号部A131に送られて、インタフェース138を介して、表示装置A14において再生表示される。ステップS1において、ストリーム配信された映像データは、ネットワーク12によるゆらぎ遅延などの影響を受けているが、共通受信バッファ135からストリーム配信される映像データは、同期調整がされている。   Next, the operation of the playback apparatus 13 shown in FIG. 1 will be described with reference to FIG. FIG. 6 is a sequence diagram showing an operation when there is no video data to be displayed in the common reception buffer 135 at the start of reproduction of the decoding unit B137. First, video data stream-distributed from the panoramic free viewpoint video server 11 (step S11) is received via the transmission / reception unit 134 and stored in the common reception buffer 135. In the common reception buffer 135, the synchronization is adjusted in units of GOP based on the time code of the video data, and the stream is delivered from the common reception buffer 135 (step S12). The streamed video data is sent to the decoding unit A131 and reproduced and displayed on the display device A14 via the interface 138. In step S1, the video data stream-distributed is affected by fluctuation delay or the like by the network 12, but the video data stream-distributed from the common reception buffer 135 is synchronously adjusted.

次に、操作部133から注視領域Bの再生開始要求の操作が行われると、操作部133は制御部132に対して、再生開始要求を送る(ステップS13)。制御部132は、復号部B137に対して、タイル番号の再生領域情報と、注視領域の縦横ポイントの再生領域値を含んだ再生準備通知を送る(ステップS14)。これを受けて復号部B137は、デコーダを起動し、再生準備完了通知を制御部132に送る(ステップS15)。続いて、制御部132は、共通受信バッファ135に対して、復号部A131のGOPのフレーム番号要求と再生領域情報と再生領域値を含んだ映像データ要求を送る(ステップS16)。   Next, when a reproduction start request operation for the gaze area B is performed from the operation unit 133, the operation unit 133 sends a reproduction start request to the control unit 132 (step S13). The control unit 132 sends a reproduction preparation notification including the reproduction area information of the tile number and the reproduction area values of the vertical and horizontal points of the gaze area to the decoding unit B137 (step S14). Receiving this, the decoding unit B137 activates the decoder and sends a reproduction preparation completion notification to the control unit 132 (step S15). Subsequently, the control unit 132 sends a video data request including the frame number request of the GOP of the decoding unit A131, the playback region information, and the playback region value to the common reception buffer 135 (step S16).

次に、共通受信バッファ135は、要求された映像データがない場合、制御部132に対して、映像データなしを示す情報を送る(ステップS17)。これを受けて、制御部132は、送受信部134を介して、パノラマ自由視点映像サーバ11に対し、復号部A131のGOPのフレーム番号要求と、タイル番号の再生領域情報と、注視領域の縦横ポイントの再生領域値を含んだ再生開始要求を送る(ステップS18)。パノラマ自由視点映像サーバ11は、制御部132に対し、再生準備完了通知を送り(ステップS19)、送受信部134を介して、共通受信バッファ135に対し、復号部A131のフレーム番号に合わせてGOPのストリーム配信を行う(ステップS20)。共通受信バッファ135は、復号部A131のフレーム番号に合わせてGOPのストリーム配信を行い(ステップS21)、復号部A131と復号部B137において同期されたストリーム配信が行われて、表示装置B137に再生表示されることになる。   Next, when there is no requested video data, the common reception buffer 135 sends information indicating no video data to the control unit 132 (step S17). In response to this, the control unit 132 sends the frame number request of the GOP of the decoding unit A131, the reproduction area information of the tile number, and the vertical and horizontal points of the gaze area to the panoramic free viewpoint video server 11 via the transmission / reception unit 134. A reproduction start request including the reproduction area value is sent (step S18). The panoramic free viewpoint video server 11 sends a reproduction preparation completion notification to the control unit 132 (step S19), and sends a GOP to the common reception buffer 135 via the transmission / reception unit 134 in accordance with the frame number of the decoding unit A131. Stream distribution is performed (step S20). The common reception buffer 135 performs GOP stream distribution in accordance with the frame number of the decoding unit A131 (step S21), and synchronized stream distribution is performed in the decoding unit A131 and the decoding unit B137, which is reproduced and displayed on the display device B137. Will be.

次に、図7を参照して、図1に示す再生装置13の動作を説明する。図7は、復号部A136、復号部B137の再生中に画面操作が行われた時、共通受信バッファ135内に映像がある場合の動作を示すシーケンス図である。まず、パノラマ自由視点映像サーバ11からストリーム配信された(ステップS31)映像データを、送受信部134を介して受信し、共通受信バッファ135に蓄積する。共通受信バッファ135において、映像データのタイムコードをもとにGOP単位で同期調整されて、共通受信バッファ135から復号部A131と復号部B137に対してストリーム配信される(ステップS32、S33)。ストリーム配信された映像データは、それぞれインタフェース138、139を介して、表示装置A14と表示装置B15において再生表示される。   Next, the operation of the playback device 13 shown in FIG. 1 will be described with reference to FIG. FIG. 7 is a sequence diagram showing an operation when there is a video in the common reception buffer 135 when a screen operation is performed during playback of the decoding unit A136 and the decoding unit B137. First, video data stream-distributed from the panoramic free viewpoint video server 11 (step S31) is received via the transmission / reception unit 134 and stored in the common reception buffer 135. In the common reception buffer 135, synchronization adjustment is performed in units of GOP based on the time code of the video data, and the stream is delivered from the common reception buffer 135 to the decoding unit A131 and the decoding unit B137 (steps S32 and S33). The streamed video data is reproduced and displayed on the display device A14 and the display device B15 via the interfaces 138 and 139, respectively.

次に、操作部133から移動、拡大縮小の操作が行われると、操作部133は制御部132に対して、操作情報を送る(ステップS34)。制御部132は、復号部B137に対して、タイル番号の再生領域情報と、注視領域の縦横ポイントの再生領域値を含んだ操作情報を送る(ステップS35)。続いて、制御部132は、共通受信バッファ135に対して、復号部A131のGOPのフレーム番号要求と再生領域情報と再生領域値を含んだ映像データ要求を送る(ステップS36)。共通受信バッファ135は、要求された映像データがある場合、制御部132に対して、映像データありを示す情報を送る(ステップS37)。そして、共通受信バッファ135において、復号部A131のフレーム番号に合わせてGOP再生を行って、復号部A131と復号部B137の同期したストリーム配信を行う(ステップS38)。これにより、表示装置B15にストリーム配信された映像データが再生表示されることになる。   Next, when a movement or enlargement / reduction operation is performed from the operation unit 133, the operation unit 133 sends operation information to the control unit 132 (step S34). The control unit 132 sends operation information including the reproduction area information of the tile number and the reproduction area values of the vertical and horizontal points of the gaze area to the decoding unit B137 (step S35). Subsequently, the control unit 132 sends a video data request including the frame number request of the GOP of the decoding unit A131, the playback region information, and the playback region value to the common reception buffer 135 (step S36). If there is requested video data, the common reception buffer 135 sends information indicating the presence of video data to the control unit 132 (step S37). Then, in the common reception buffer 135, GOP reproduction is performed in accordance with the frame number of the decoding unit A131, and synchronized stream distribution between the decoding unit A131 and the decoding unit B137 is performed (step S38). As a result, the video data stream-distributed on the display device B15 is reproduced and displayed.

次に、図8を参照して、図1に示す再生装置13の動作を説明する。図8は、復号部A136、復号部B137の再生中に画面操作が行われた時、共通受信バッファ135内に映像がない場合の動作を示すシーケンス図である。まず、パノラマ自由視点映像サーバ11からストリーム配信された(ステップS41)映像データを、送受信部134を介して受信し、共通受信バッファ135に蓄積する。共通受信バッファ135において、映像データのタイムコードをもとにGOP単位で同期調整されて、共通受信バッファ135から復号部A131と復号部B137に対してストリーム配信される(ステップS42、S43)。ストリーム配信された映像データは、それぞれインタフェース138、139を介して、表示装置A14と表示装置B15において再生表示される。   Next, the operation of the playback device 13 shown in FIG. 1 will be described with reference to FIG. FIG. 8 is a sequence diagram illustrating an operation when there is no video in the common reception buffer 135 when a screen operation is performed during playback of the decoding unit A136 and the decoding unit B137. First, the video data stream-distributed from the panoramic free viewpoint video server 11 (step S41) is received via the transmission / reception unit 134 and stored in the common reception buffer 135. In the common reception buffer 135, the synchronization is adjusted in units of GOP based on the time code of the video data, and the stream is delivered from the common reception buffer 135 to the decoding unit A131 and the decoding unit B137 (steps S42 and S43). The streamed video data is reproduced and displayed on the display device A14 and the display device B15 via the interfaces 138 and 139, respectively.

次に、操作部133から移動、拡大縮小の操作が行われると、操作部133は制御部132に対して、操作情報を送る(ステップS44)。制御部132は、復号部B137に対して、タイル番号の再生領域情報と、注視領域の縦横ポイントの再生領域値を含んだ操作情報を送る(ステップS45)。続いて、制御部132は、共通受信バッファ135に対して、復号部A131のGOPのフレーム番号要求と再生領域情報と再生領域値を含んだ映像データ要求を送る(ステップS46)。共通受信バッファ135は、要求された映像データがない場合、制御部132に対して、映像データなしを示す情報を送る(ステップS47)。これを受けて、制御部132は、送受信部134を介して、パノラマ自由視点映像サーバ11に対し、復号部A131のGOPのフレーム番号要求と、タイル番号の再生領域情報と、注視領域の縦横ポイントの再生領域値を含んだ再生開始要求を送る(ステップS48)。パノラマ自由視点映像サーバ11は、制御部132に対し、再生準備完了通知を送り(ステップS49)、送受信部134を介して、共通受信バッファ135に対し、復号部A131のフレーム番号に合わせてGOPのストリーム配信を行う(ステップS50)。共通受信バッファ135は、復号部A131のフレーム番号に合わせてGOPのストリーム配信を行い(ステップS51)、復号部A131と復号部B137において同期されたストリーム配信が行われて、表示装置B137に再生表示されることになる。   Next, when a movement or enlargement / reduction operation is performed from the operation unit 133, the operation unit 133 sends operation information to the control unit 132 (step S44). The control unit 132 sends operation information including the reproduction area information of the tile number and the reproduction area values of the vertical and horizontal points of the gaze area to the decoding unit B137 (step S45). Subsequently, the control unit 132 sends a video data request including the frame number request of the GOP of the decoding unit A131, the playback region information, and the playback region value to the common reception buffer 135 (step S46). When there is no requested video data, the common reception buffer 135 sends information indicating no video data to the control unit 132 (step S47). In response to this, the control unit 132 sends the frame number request of the GOP of the decoding unit A131, the reproduction area information of the tile number, and the vertical and horizontal points of the gaze area to the panoramic free viewpoint video server 11 via the transmission / reception unit 134. A reproduction start request including the reproduction area value is sent (step S48). The panoramic free viewpoint video server 11 sends a reproduction preparation completion notification to the control unit 132 (step S49), and sends the GOP to the common reception buffer 135 via the transmission / reception unit 134 according to the frame number of the decoding unit A131. Stream distribution is performed (step S50). The common reception buffer 135 performs GOP stream distribution in accordance with the frame number of the decoding unit A131 (step S51), and synchronized stream distribution is performed between the decoding unit A131 and the decoding unit B137, which is reproduced and displayed on the display device B137. Will be.

前述した説明において、図7、図8に示す処理動作は、復号部A136、復号部B137再生中に画面操作した時、表示Bを操作した場合の処理動作を示したものであるが、表示Aを操作した場合も、同様な処理動作となる。また、前述した説明においては、2台の表示装置に表示した場合の例について説明したが、3台以上の表示装置がある場合においても同様である。また、図2において、タイルが縦4×横10の例を示したが、タイルの数を変えても同様である。また、図3において、注視領域の縦横領域値の例を示したが、横縦の領域を自由に変えられるようにしてもよい。また、図3において、注視領域の縦横領域値の例を示したが、縦横に自由に移動できるようにしてもよい。   In the above description, the processing operation shown in FIGS. 7 and 8 shows the processing operation when the display B is operated when the screen is operated during playback of the decoding unit A136 and the decoding unit B137. The same processing operation is performed when is operated. In the above description, an example of displaying on two display devices has been described. However, the same applies to the case where there are three or more display devices. In FIG. 2, an example in which the tiles are 4 × 10 in the vertical direction is shown, but the same applies even if the number of tiles is changed. Moreover, although the example of the vertical and horizontal area values of the gaze area is shown in FIG. 3, the horizontal and vertical areas may be freely changed. Moreover, although the example of the vertical / horizontal area value of the gaze area is shown in FIG. 3, the gaze area may be freely movable vertically and horizontally.

以上説明したように、表示装置を並べてパノラマ化した場合、パノラマ固定映像になってしまう問題を解決するために、1つの大きなパノラマ映像の中での多画面で注視領域の自由視点映像とすることが可能となる。表示装置の映像の時間同期でなく、1つの大きなパノラマ映像の中の多画面の注視領域の時間同期を行うことが可能となる。   As described above, in order to solve the problem of panorama fixed video when display devices are arranged in a panorama, a free viewpoint video of a gaze area is set on multiple screens in one large panoramic video. Is possible. It is possible to perform time synchronization of a multi-screen gaze area in one large panoramic image instead of time synchronization of the video on the display device.

なお、図1における再生装置13の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより映像再生処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータシステム」は、ホームページ提供環境(あるいは表示環境)を備えたWWWシステムも含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(RAM)のように、一定時間プログラムを保持しているものも含むものとする。上記コンピュータには、インターネット接続機能を有するゲーム機やネットTV(当該機能を有するアダプタを外付けする場合も含む)が含まれる。   1 is recorded on a computer-readable recording medium, and the program recorded on the recording medium is read into a computer system and executed, thereby executing video reproduction processing. May be performed. Here, the “computer system” includes an OS and hardware such as peripheral devices. The “computer system” includes a WWW system having a homepage providing environment (or display environment). The “computer-readable recording medium” refers to a storage device such as a flexible medium, a magneto-optical disk, a portable medium such as a ROM and a CD-ROM, and a hard disk incorporated in a computer system. Further, the “computer-readable recording medium” refers to a volatile memory (RAM) in a computer system that becomes a server or a client when a program is transmitted via a network such as the Internet or a communication line such as a telephone line. In addition, those holding programs for a certain period of time are also included. The computer includes a game machine having an Internet connection function and a net TV (including an external adapter having the function).

また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。また、上記プログラムは、前述した機能の一部を実現するためのものであってもよい。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。   The program may be transmitted from a computer system storing the program in a storage device or the like to another computer system via a transmission medium or by a transmission wave in the transmission medium. Here, the “transmission medium” for transmitting the program refers to a medium having a function of transmitting information, such as a network (communication network) such as the Internet or a communication line (communication line) such as a telephone line. The program may be for realizing a part of the functions described above. Furthermore, what can implement | achieve the function mentioned above in combination with the program already recorded on the computer system, what is called a difference file (difference program) may be sufficient.

ネットワークに接続して、パノラマ映像情報をサーバから再生する装置において、自由視点映像を複数表示し、多画面の注視領域の時間同期を行うことが不可欠な用途に適用できる。   In an apparatus that connects to a network and reproduces panoramic video information from a server, it can be applied to an indispensable use in which a plurality of free viewpoint videos are displayed and time synchronization of a multi-screen gaze area is performed.

11・・・パノラマ自由視点映像サーバ、12・・・ネットワーク、13・・・再生装置、31・・・内部通信バス、132・・・制御部、133・・・操作部、134・・・送受信部、135・・・共通受信バッファ、136・・・復号部A、137・・・復号部B、138 ・・・インタフェースA、139・・・インタフェースB、14・・・表示装置A、15・・・表示装置B   DESCRIPTION OF SYMBOLS 11 ... Panorama free viewpoint video server, 12 ... Network, 13 ... Playback apparatus, 31 ... Internal communication bus, 132 ... Control part, 133 ... Operation part, 134 ... Transmission / reception 135, common reception buffer, 136 ... decoding unit A, 137 ... decoding unit B, 138 ... interface A, 139 ... interface B, 14 ... display device A, 15 ..Display device B

Claims (4)

1つのパノラマ映像が複数に領域分けされたパノラマ自由視点映像データを保持するパノラマ自由視点映像サーバと、
映像を表示する複数の表示装置と、
前記領域分けされた複数の前記パノラマ自由視点映像データを再生し、前記複数の表示装置に表示することにより、前記1つのパノラマ映像を再生する再生装置と、
前記パノラマ自由視点映像サーバと前記再生装置とを接続するネットワークとを備える映像再生システムであって、
前記再生装置は、
前記パノラマ自由視点映像サーバから配信された前記パノラマ自由視点映像データを前記ネットワークを介して受信する映像データ受信手段と、
前記受信手段により受信した前記パノラマ自由視点映像データを保持する共通受信バッファと、
前記複数に領域分けされた前記パノラマ自由視点映像データのそれぞれを復号して前記表示装置へ出力する複数の復号手段と、
前記パノラマ映像の視点を変える操作を行う操作手段と、
前記操作手段によって、視点を変える操作が行われた場合に、表示するべき前記パノラマ自由視点映像データが前記共通受信バッファに保持されているか否かを判定し、保持されている場合には、前記共通受信バッファから表示するべき前記パノラマ自由視点映像データを読み出して、他の領域の前記パノラマ自由視点映像データと同期させて、前記復号手段に出力し、保持されていない場合には、前記パノラマ自由視点映像サーバから前記表示するべき前記パノラマ自由視点映像データを取得して、他の領域の前記パノラマ自由視点映像データと同期させて、前記復号手段に出力する制御手段とを備える
ことを特徴とする映像再生システム。
A panoramic free viewpoint video server that holds panoramic free viewpoint video data in which one panoramic video is divided into a plurality of regions;
A plurality of display devices for displaying images;
A playback device for playing back the one panoramic video by playing back the plurality of panoramic free viewpoint video data divided into the regions and displaying the data on the plurality of display devices;
A video playback system comprising a network connecting the panoramic free viewpoint video server and the playback device,
The playback device
Video data receiving means for receiving the panoramic free viewpoint video data distributed from the panoramic free viewpoint video server via the network;
A common reception buffer for holding the panoramic free viewpoint video data received by the receiving means;
A plurality of decoding means for decoding each of the panoramic free viewpoint video data divided into the plurality of regions and outputting the decoded data to the display device;
Operation means for performing an operation of changing the viewpoint of the panoramic image;
When an operation for changing the viewpoint is performed by the operation means, it is determined whether or not the panoramic free viewpoint video data to be displayed is held in the common reception buffer. Read the panoramic free viewpoint video data to be displayed from the common reception buffer, synchronize with the panoramic free viewpoint video data of other areas, output to the decoding means, and if not held, the panorama free viewpoint video data Control means for obtaining the panoramic free viewpoint video data to be displayed from a viewpoint video server, synchronizing with the panoramic free viewpoint video data of another area, and outputting the data to the decoding means. Video playback system.
1つのパノラマ映像が複数に領域分けされたパノラマ自由視点映像データを保持するパノラマ自由視点映像サーバと、映像を表示する複数の表示装置と、前記領域分けされた複数の前記パノラマ自由視点映像データを再生し、前記複数の表示装置に表示することにより、前記1つのパノラマ映像を再生する映像再生装置と、前記パノラマ自由視点映像サーバと前記再生装置とを接続するネットワークとを備える映像再生システムにおける映像再生方法であって、
前記映像再生装置は、前記パノラマ自由視点映像サーバから配信された前記パノラマ自由視点映像データを前記ネットワークを介して受信する映像データ受信手段と、前記受信手段により受信した前記パノラマ自由視点映像データを保持する共通受信バッファと、前記複数に領域分けされた前記パノラマ自由視点映像データのそれぞれを復号して前記表示装置へ出力する複数の復号手段と、前記パノラマ映像の視点を変える操作を行う操作手段と、制御手段とを備え、
前記制御手段が、前記操作手段によって、視点を変える操作が行われた場合に、表示するべき前記パノラマ自由視点映像データが前記共通受信バッファに保持されているか否かを判定し、保持されている場合には、前記共通受信バッファから表示するべき前記パノラマ自由視点映像データを読み出して、他の領域の前記パノラマ自由視点映像データと同期させて、前記復号手段に出力し、保持されていない場合には、前記パノラマ自由視点映像サーバから前記表示するべき前記パノラマ自由視点映像データを取得して、他の領域の前記パノラマ自由視点映像データと同期させて、前記復号手段に出力する
ことを特徴とする映像再生方法。
A panoramic free viewpoint video server that holds panoramic free viewpoint video data in which one panoramic video is divided into a plurality of regions, a plurality of display devices that display video, and a plurality of the panoramic free viewpoint video data that are divided into regions. Video in a video playback system comprising: a video playback device that plays back and displays the one panoramic video by playing back and displaying on the plurality of display devices; and a network connecting the panorama free viewpoint video server and the playback device A playback method,
The video reproduction apparatus holds video data receiving means for receiving the panoramic free viewpoint video data distributed from the panoramic free viewpoint video server via the network, and holds the panoramic free viewpoint video data received by the receiving means. A common receiving buffer, a plurality of decoding means for decoding each of the plurality of panoramic free viewpoint video data divided into a plurality of regions and outputting the decoded data to the display device, and an operating means for performing an operation of changing the viewpoint of the panoramic video And control means,
The control means determines whether or not the panoramic free viewpoint video data to be displayed is held in the common reception buffer when the operation means is operated to change the viewpoint. In this case, the panoramic free viewpoint video data to be displayed is read out from the common reception buffer, and is output to the decoding means in synchronization with the panoramic free viewpoint video data in another area. The panorama free viewpoint video data to be displayed is acquired from the panorama free viewpoint video server, and is synchronized with the panoramic free viewpoint video data of another area and output to the decoding means. Video playback method.
1つのパノラマ映像が複数に領域分けされたパノラマ自由視点映像データを保持するパノラマ自由視点映像サーバと、映像を表示する複数の表示装置と、前記領域分けされた複数の前記パノラマ自由視点映像データを再生し、前記複数の表示装置に表示することにより、前記1つのパノラマ映像を再生する映像再生装置と、前記パノラマ自由視点映像サーバと前記再生装置とを接続するネットワークとを備える映像再生システムにおける映像再生装置であって、
前記パノラマ自由視点映像サーバから配信された前記パノラマ自由視点映像データを前記ネットワークを介して受信する映像データ受信手段と、
前記受信手段により受信した前記パノラマ自由視点映像データを保持する共通受信バッファと、
前記複数に領域分けされた前記パノラマ自由視点映像データのそれぞれを復号して前記表示装置へ出力する複数の復号手段と、
前記パノラマ映像の視点を変える操作を行う操作手段と、
前記操作手段によって、視点を変える操作が行われた場合に、表示するべき前記パノラマ自由視点映像データが前記共通受信バッファに保持されているか否かを判定し、保持されている場合には、前記共通受信バッファから表示するべき前記パノラマ自由視点映像データを読み出して、他の領域の前記パノラマ自由視点映像データと同期させて、前記復号手段に出力し、保持されていない場合には、前記パノラマ自由視点映像サーバから前記表示するべき前記パノラマ自由視点映像データを取得して、他の領域の前記パノラマ自由視点映像データと同期させて、前記復号手段に出力する制御手段とを備える
ことを特徴とする映像再生装置。
A panoramic free viewpoint video server that holds panoramic free viewpoint video data in which one panoramic video is divided into a plurality of regions, a plurality of display devices that display video, and a plurality of the panoramic free viewpoint video data that are divided into regions. Video in a video playback system comprising: a video playback device that plays back and displays the one panoramic video by playing back and displaying on the plurality of display devices; and a network connecting the panorama free viewpoint video server and the playback device A playback device,
Video data receiving means for receiving the panoramic free viewpoint video data distributed from the panoramic free viewpoint video server via the network;
A common reception buffer for holding the panoramic free viewpoint video data received by the receiving means;
A plurality of decoding means for decoding each of the panoramic free viewpoint video data divided into the plurality of regions and outputting the decoded data to the display device;
Operation means for performing an operation of changing the viewpoint of the panoramic image;
When an operation for changing the viewpoint is performed by the operation means, it is determined whether or not the panoramic free viewpoint video data to be displayed is held in the common reception buffer. Read the panoramic free viewpoint video data to be displayed from the common reception buffer, synchronize with the panoramic free viewpoint video data of other areas, output to the decoding means, and if not held, the panorama free viewpoint video data Control means for obtaining the panoramic free viewpoint video data to be displayed from a viewpoint video server, synchronizing with the panoramic free viewpoint video data of another area, and outputting the data to the decoding means. Video playback device.
1つのパノラマ映像が複数に領域分けされたパノラマ自由視点映像データを保持するパノラマ自由視点映像サーバと、映像を表示する複数の表示装置と、前記領域分けされた複数の前記パノラマ自由視点映像データを再生し、前記複数の表示装置に表示することにより、前記1つのパノラマ映像を再生する映像再生装置と、前記パノラマ自由視点映像サーバと前記再生装置とを接続するネットワークとを備える映像再生システムにおける映像再生装置上のコンピュータに映像再生処理を行わせる映像再生プログラムであって、
前記映像再生装置は、
前記パノラマ自由視点映像サーバから配信された前記パノラマ自由視点映像データを前記ネットワークを介して受信する映像データ受信手段と、
前記受信手段により受信した前記パノラマ自由視点映像データを保持する共通受信バッファと、
前記複数に領域分けされた前記パノラマ自由視点映像データのそれぞれを復号して前記表示装置へ出力する複数の復号手段と、
前記パノラマ映像の視点を変える操作を行う操作手段とを備え、
前記操作手段によって、視点を変える操作が行われた場合に、表示するべき前記パノラマ自由視点映像データが前記共通受信バッファに保持されているか否かを判定し、保持されている場合には、前記共通受信バッファから表示するべき前記パノラマ自由視点映像データを読み出して、他の領域の前記パノラマ自由視点映像データと同期させて、前記復号手段に出力し、保持されていない場合には、前記パノラマ自由視点映像サーバから前記表示するべき前記パノラマ自由視点映像データを取得して、他の領域の前記パノラマ自由視点映像データと同期させて、前記復号手段に出力する制御ステップを前記コンピュータに行わせる
ことを特徴とする映像再生プログラム。
A panoramic free viewpoint video server that holds panoramic free viewpoint video data in which one panoramic video is divided into a plurality of regions, a plurality of display devices that display video, and a plurality of the panoramic free viewpoint video data that are divided into regions. Video in a video playback system comprising: a video playback device that plays back and displays the one panoramic video by playing back and displaying on the plurality of display devices; and a network connecting the panorama free viewpoint video server and the playback device A video playback program for causing a computer on a playback device to perform video playback processing,
The video playback device
Video data receiving means for receiving the panoramic free viewpoint video data distributed from the panoramic free viewpoint video server via the network;
A common reception buffer for holding the panoramic free viewpoint video data received by the receiving means;
A plurality of decoding means for decoding each of the panoramic free viewpoint video data divided into the plurality of regions and outputting the decoded data to the display device;
Operation means for performing an operation of changing the viewpoint of the panoramic video,
When an operation for changing the viewpoint is performed by the operation means, it is determined whether or not the panoramic free viewpoint video data to be displayed is held in the common reception buffer. Read the panoramic free viewpoint video data to be displayed from the common reception buffer, synchronize with the panoramic free viewpoint video data of other areas, output to the decoding means, and if not held, the panorama free viewpoint video data Obtaining the panoramic free viewpoint video data to be displayed from the viewpoint video server, synchronizing the panoramic free viewpoint video data of another area with the panoramic free viewpoint video data, and outputting the data to the decoding unit. Feature video playback program.
JP2011082781A 2011-04-04 2011-04-04 Video playback system, video playback method, and video playback device and program Pending JP2012222399A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011082781A JP2012222399A (en) 2011-04-04 2011-04-04 Video playback system, video playback method, and video playback device and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011082781A JP2012222399A (en) 2011-04-04 2011-04-04 Video playback system, video playback method, and video playback device and program

Publications (1)

Publication Number Publication Date
JP2012222399A true JP2012222399A (en) 2012-11-12

Family

ID=47273515

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011082781A Pending JP2012222399A (en) 2011-04-04 2011-04-04 Video playback system, video playback method, and video playback device and program

Country Status (1)

Country Link
JP (1) JP2012222399A (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015222861A (en) * 2014-05-22 2015-12-10 日本電信電話株式会社 Video distribution device, video reproducing device, video distribution method, video reproducing method, video distribution program and video reproducing program
KR20170006588A (en) * 2015-07-08 2017-01-18 주식회사 케이티 Method for providing high-definition panorama video via set-top box, device and system
CN107484004A (en) * 2017-07-24 2017-12-15 北京奇艺世纪科技有限公司 A kind of method for processing video frequency and device
JP2020519094A (en) * 2017-04-28 2020-06-25 華為技術有限公司Huawei Technologies Co.,Ltd. Video playback method, device, and system

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003140636A (en) * 2001-08-01 2003-05-16 Stmicroelectronics Inc Method and apparatus using two-dimensional circular data buffer for scrollable image display
JP2003224846A (en) * 2002-01-29 2003-08-08 Matsushita Electric Ind Co Ltd Image processing apparatus, decoding apparatus, encoding apparatus, image processing system, image processing method, and encoding method
JP2005223821A (en) * 2004-02-09 2005-08-18 Seiko Epson Corp Multistream reproduction system
JP2007189357A (en) * 2006-01-11 2007-07-26 Matsushita Electric Ind Co Ltd Device and method for distributing arbitrary-viewpoint video
JP2008263528A (en) * 2007-04-13 2008-10-30 Univ Nagoya Image information processing method and image information processing system
WO2008147561A2 (en) * 2007-05-25 2008-12-04 Google Inc. Rendering, viewing and annotating panoramic images, and applications thereof
JP2009200939A (en) * 2008-02-22 2009-09-03 Sony Corp Image processing apparatus, image processing method, and image processing system
JP2010192971A (en) * 2009-02-16 2010-09-02 Nippon Telegr & Teleph Corp <Ntt> Selected-area encoded video data distributing method, encoded video data decoding method, distribution server, reproduction terminal, program, and recording medium

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003140636A (en) * 2001-08-01 2003-05-16 Stmicroelectronics Inc Method and apparatus using two-dimensional circular data buffer for scrollable image display
JP2003224846A (en) * 2002-01-29 2003-08-08 Matsushita Electric Ind Co Ltd Image processing apparatus, decoding apparatus, encoding apparatus, image processing system, image processing method, and encoding method
JP2005223821A (en) * 2004-02-09 2005-08-18 Seiko Epson Corp Multistream reproduction system
JP2007189357A (en) * 2006-01-11 2007-07-26 Matsushita Electric Ind Co Ltd Device and method for distributing arbitrary-viewpoint video
JP2008263528A (en) * 2007-04-13 2008-10-30 Univ Nagoya Image information processing method and image information processing system
WO2008147561A2 (en) * 2007-05-25 2008-12-04 Google Inc. Rendering, viewing and annotating panoramic images, and applications thereof
JP2009200939A (en) * 2008-02-22 2009-09-03 Sony Corp Image processing apparatus, image processing method, and image processing system
JP2010192971A (en) * 2009-02-16 2010-09-02 Nippon Telegr & Teleph Corp <Ntt> Selected-area encoded video data distributing method, encoded video data decoding method, distribution server, reproduction terminal, program, and recording medium

Non-Patent Citations (8)

* Cited by examiner, † Cited by third party
Title
CSND201100141005; 'NTT研究所における画像メディア通信技術への取組み 見たいところが自由に選べるインタラクティブ・パノ' 月刊ビジネスコミュニケーション 第48巻、第4号, 20110401, p.41-43, 株式会社ビジネスコミュニケーション社 *
CSNG201000509004; 木全 英明、石橋 聡: '超臨場感コミュニケーションの近未来像特集 2-5 インタラクティブ・パノラマ映像システム' 電子情報通信学会誌 第93巻、第5号, 201005, p.387-391, 社団法人電子情報通信学会 *
CSNG201000809006; 井上 雅之、外3名: 'インタラクティブ・パノラマ映像配信システムにおける配信方式の検討' 情報処理学会研究報告[CD-ROM]オーディオビジュアル複合情報処理(AVM) 第2010-AVM-69巻、第9号, 20100908, p.1-6, 一般社団法人情報処理学会 *
CSNG201100024008; 井上 雅之、外3名: 'インタラクティブ・パノラマ映像配信システムにおけるマルチ解像度配信方式の一検討' 情報処理学会研究報告[CD-ROM]オーディオビジュアル複合情報処理(AVM) 第2010-AVM-70巻、第8号, 20101101, p.1-6, 一般社団法人情報処理学会 *
JPN6014019635; 'NTT研究所における画像メディア通信技術への取組み 見たいところが自由に選べるインタラクティブ・パノ' 月刊ビジネスコミュニケーション 第48巻、第4号, 20110401, p.41-43, 株式会社ビジネスコミュニケーション社 *
JPN6014019636; 木全 英明、石橋 聡: '超臨場感コミュニケーションの近未来像特集 2-5 インタラクティブ・パノラマ映像システム' 電子情報通信学会誌 第93巻、第5号, 201005, p.387-391, 社団法人電子情報通信学会 *
JPN6014019638; 井上 雅之、外3名: 'インタラクティブ・パノラマ映像配信システムにおける配信方式の検討' 情報処理学会研究報告[CD-ROM]オーディオビジュアル複合情報処理(AVM) 第2010-AVM-69巻、第9号, 20100908, p.1-6, 一般社団法人情報処理学会 *
JPN6014019639; 井上 雅之、外3名: 'インタラクティブ・パノラマ映像配信システムにおけるマルチ解像度配信方式の一検討' 情報処理学会研究報告[CD-ROM]オーディオビジュアル複合情報処理(AVM) 第2010-AVM-70巻、第8号, 20101101, p.1-6, 一般社団法人情報処理学会 *

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015222861A (en) * 2014-05-22 2015-12-10 日本電信電話株式会社 Video distribution device, video reproducing device, video distribution method, video reproducing method, video distribution program and video reproducing program
KR20170006588A (en) * 2015-07-08 2017-01-18 주식회사 케이티 Method for providing high-definition panorama video via set-top box, device and system
KR101909254B1 (en) * 2015-07-08 2018-10-17 주식회사 케이티 Method for providing high-definition panorama video via set-top box, device and system
US10129606B2 (en) 2015-07-08 2018-11-13 Kt Corporation Facilitating high-definition panoramic videos
JP2020519094A (en) * 2017-04-28 2020-06-25 華為技術有限公司Huawei Technologies Co.,Ltd. Video playback method, device, and system
US11159848B2 (en) 2017-04-28 2021-10-26 Huawei Technologies Co., Ltd. Video playing method, device, and system
JP7110234B2 (en) 2017-04-28 2022-08-01 華為技術有限公司 Video playback methods, devices and systems
CN107484004A (en) * 2017-07-24 2017-12-15 北京奇艺世纪科技有限公司 A kind of method for processing video frequency and device
CN107484004B (en) * 2017-07-24 2020-01-03 北京奇艺世纪科技有限公司 Video processing method and device

Similar Documents

Publication Publication Date Title
JP6316538B2 (en) Content transmission device, content transmission method, content reproduction device, content reproduction method, program, and content distribution system
US20110229106A1 (en) System for playback of ultra high resolution video using multiple displays
JP6172610B2 (en) Video conferencing system
JP2013255210A (en) Video display method, video display device and video display program
KR20150029461A (en) Method of synchronizing tiled image in a streaming service providing system of panoramic image
JP6270555B2 (en) Image processing system, imaging apparatus, and control method thereof
JP4586389B2 (en) Multi-screen video playback device and video playback method in multi-screen video playback device
JP2012222399A (en) Video playback system, video playback method, and video playback device and program
JP2009296081A (en) Video image reproducer
US20090214179A1 (en) Display processing apparatus, control method therefor, and display processing system
JP2014116922A (en) Video playback device and video distribution device
JP2020524450A (en) Transmission system for multi-channel video, control method thereof, multi-channel video reproduction method and device thereof
KR101430985B1 (en) System and Method on Providing Multi-Dimensional Content
JP2010212947A (en) Information processing device and method, information processing system, and program
JP6987567B2 (en) Distribution device, receiver and program
KR101796226B1 (en) System for outputting multiple videos simultaneously
JP5940999B2 (en) VIDEO REPRODUCTION DEVICE, VIDEO DISTRIBUTION DEVICE, VIDEO REPRODUCTION METHOD, VIDEO DISTRIBUTION METHOD, AND PROGRAM
JP2007201816A (en) Video image display system and video image receiver
JP6481937B2 (en) Communication device for video conference
JP6324829B2 (en) Video providing system and program
KR101652095B1 (en) Realtime remote monitoring and playing system using digital video recoder, and method thereof
KR102392908B1 (en) Method, Apparatus and System for Providing of Free Viewpoint Video Service
KR20140104121A (en) System, Method and File on Providing Multi-Dimensional Content
US11470395B2 (en) Content distribution system and content distribution method
JP2013247582A (en) Video composition method, video recording method, video composition device, video recording device, and video display system

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20130606

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20130726

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130807

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140414

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140520

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140707

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20150203