WO2012039404A1 - 映像ビットストリームの伝送システム - Google Patents

映像ビットストリームの伝送システム Download PDF

Info

Publication number
WO2012039404A1
WO2012039404A1 PCT/JP2011/071416 JP2011071416W WO2012039404A1 WO 2012039404 A1 WO2012039404 A1 WO 2012039404A1 JP 2011071416 W JP2011071416 W JP 2011071416W WO 2012039404 A1 WO2012039404 A1 WO 2012039404A1
Authority
WO
WIPO (PCT)
Prior art keywords
video
viewpoint movement
movement information
transmission
information
Prior art date
Application number
PCT/JP2011/071416
Other languages
English (en)
French (fr)
Inventor
笠井 裕之
直史 宇地原
Original Assignee
株式会社Gnzo
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社Gnzo filed Critical 株式会社Gnzo
Priority to CN2011800456447A priority Critical patent/CN103190156A/zh
Priority to KR1020137007401A priority patent/KR20130108311A/ko
Priority to JP2012535043A priority patent/JP5544426B2/ja
Priority to EP11826849.9A priority patent/EP2621167A4/en
Priority to US13/825,973 priority patent/US20130223537A1/en
Priority to SG2013021191A priority patent/SG188630A1/en
Publication of WO2012039404A1 publication Critical patent/WO2012039404A1/ja

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/65Transmission of management data between client and server
    • H04N21/658Transmission by the client directed to the server
    • H04N21/6587Control parameters, e.g. trick play commands, viewpoint selection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/23439Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements for generating different versions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/4728End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for selecting a Region Of Interest [ROI], e.g. for requesting a higher resolution version of a selected region
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234327Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by decomposing into layers, e.g. base layer and one or more enhancement layers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/251Learning process for intelligent management, e.g. learning user preferences for recommending movies
    • H04N21/252Processing of multiple end-users' preferences to derive collaborative data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/65Transmission of management data between client and server
    • H04N21/654Transmission by server directed to the client
    • H04N21/6543Transmission by server directed to the client for forcing some client operations, e.g. recording

Definitions

  • the viewpoint movement information can be automatically determined on the system side by various factors. For example, it is possible to automatically determine the viewpoint movement based on the physical position and surrounding situation of the client terminal, the operation history of the user, the profile, and the like.
  • First embodiment example in which viewpoint movement information is determined by a client and the information is sent to a video distribution server
  • Second Embodiment Example in which viewpoint moving information is determined by the video distribution server, the information is transmitted to the client, and the client sends a reply to the video distribution server
  • Third Embodiment Example in which viewpoint movement information is determined by the video distribution server and the information is directly used by the video distribution server
  • the server 1 can transmit video corresponding to the entire area (hereinafter referred to as the entire area Aw) composed of one or more videos. And a video (hereinafter referred to as viewing area video) determined corresponding to a specific area (hereinafter referred to as viewing area Av) designated by the viewpoint movement information. Then, the server 1 transmits the viewing area video to the client 2.
  • the client 2 displays all or part of the transmitted viewing area video in the display area (hereinafter referred to as display area Ad) in the client 2. The relationship between these regions is shown in FIG.
  • the entire area Aw is configured by a set of divided areas (described later) indicated by small squares in the drawing. The same applies to the viewing area Av.
  • the display area Ad is determined by the display capability of the client 2, it is determined regardless of the division of the divided areas.
  • the transmission state information is transmitted separately from the viewing area video bitstream packet.
  • the transmission state information is stored in the header portion of the video bitstream packet and transmitted to the client 2.
  • the form to do is also possible.
  • not the client status management unit 70 but the single stream transmission unit 90 sends the transmission status information to the client 2 together with the single stream.
  • the video stream receiving unit 201 of the client 2 extracts the transmission state information from the header part and sends it to the viewpoint movement information determining unit 209 (see FIG. 3).
  • the client 2 also includes a transmission status information receiving unit 208, a viewpoint movement information determining unit 209, a viewpoint information transmitting unit 210, a video display control unit 212, a video display unit 213, a user / terminal information management unit 230, including.
  • the client 2 transmits the received viewpoint movement information to the return server 1 (step SB10).
  • the viewpoint movement information determination unit 150 determines viewpoint movement information and outputs it to the client status management unit 70.

Abstract

【課題】視聴領域を自由に移動することが可能な高精細な映像信号の配信において,ユーザの操作に依存することなく視点移動を決定し制御することを実現する。 【解決手段】入力映像信号の映像領域を所定数の領域に分割し,かつ、前記分割により得られた各分割領域に対応する複数の領域分割映像信号を生成する映像領域分割処理ステップと,前記複数の領域分割映像信号を符号化して複数の映像ビットストリームを生成する符号化処理ステップと,前記符号化処理ステップで生成された複数の映像ビットストリームを蓄積する映像ビットストリーム群蓄積部に蓄積するステップと,前記視点移動情報決定ステップで生成された視点移動情報に基づいて,前記映像ビットストリームを前記映像ビットストリーム群蓄積部から抽出して,伝送用の映像ビットストリームを生成する伝送用ビットストリーム生成ステップと,前記伝送用ビットストリーム生成ステップで生成された前記伝送用の映像ビットストリームを受信装置に送信する映像ビットストリーム送信ステップとを備える。前記視点移動情報決定ステップでは、前記映像領域の中から、視聴対象の領域を特定するための視点移動情報を決定する。さらに、前記視点移動情報決定では、既定のデータに基づいて、ユーザの指定によらずに、自動的に前記視点情報を決定する。

Description

映像ビットストリームの伝送システム
 本発明は,映像ビットストリームの伝送システムに関するものである。特に,本発明は、任意の視聴領域に対応する映像を,送信装置から受信装置に配信するための技術に関するものである。
 動画像情報の高解像度化,広視野化,高機能化に対して,数多くの研究開発が行われてきた。例えば,下記非特許文献1は,複数のビデオカメラや全方位カメラから取得される映像を複数の領域に分割及び符号化し,ユーザが要求する視点位置の領域映像だけを復号及び表示するシステムを提案している。さらに下記非特許文献2は,H.264/AVCの拡張規格であるMulti-View Codingに基づき複数のビデオカメラから得られた高解像度パノラマ映像に対するアクセスを実現するシステム提案している。この技術においても,入力映像を分割して符号化を行い,ユーザ(クライアント)が要求する視聴領域に応じて複数の符号化ストリームを伝送し,復号,表示を行っている。
 しかしながら,下記非特許文献1及び2は、いずれも、クライアントにおいて複数ストリームの同時復号及び同期表示が必要となる。さらに、非特許文献1では,伝送方式については言及していないものの,非特許文献2においては、複数ストリームの同時取得のための複数セッション制御も必要となる。これらは,クライアントにおける処理の複雑性を増加させるため,特にスマートフォン等の、計算資源の限られた環境においては,マルチビジョンサービスの利用が困難になる。
 そこで,複数ストリームの伝送を行わず,サーバ側で複数ストリームを結合後,単一ストリームの伝送を行うシステム(下記非特許文献3及び特許文献1)が提案されている。この技術では,クライアントは配信サーバから取得した単一ストリームのみを復号及び表示するため,複数ストリームの同時復号,復号された映像信号の同期表示というような複雑な処理を回避することが可能となる。これにより,クライアントでは,従来からの映像再生システムを利用して,複数映像を同時再生することが可能となる。
 これらの従来のシステムでは,表示される映像に対してユーザが視聴領域位置を自由に移動,設定することが可能となる。これにより,近年のインターネット上でのオンデマンド型のビデオストリーミング技術のような,再生,一時停止,巻き戻し,早送りなどの映像制御に限らず、映像領域で、縦方向あるいは横方向に視聴領域位置を移動させる操作が可能となる。
[1]S.Heymann, A. Smolic, K. Muller, Y. Guo, J. Rurainski, P.Eisert, and T.Wiegand,'Representaion, Coding and Interactive Rendering or High-Resolution Panoramic Images and Video using MPEG-4,' Proc.Panoramic Photogrammetry Workshop, Berlin, Germany, Feb. 2005. [2]H.Kimata, S. Shimizu, Y Kunita, M.Isogai and Y.Ohtani,'Panorama video coding for user-driven interactive video application,'IEEE International Symposium on Consumer Electronics, Kyoto, 2009. [3]N.Uchihara, H. Kasai, 'Fast stream joiner for next-generation interactive video,' IEEE International Conference on Consumer Electronics (ICCE), 2011, pp.319-320, 9-12 Jan. 2011. [4]特開2011-24018号公報
 しかしながら,前記した各従来技術は、視聴ユーザが映像の視聴領域を主体的に選択することを前提としており,映像視聴端末であるクライアント端末もしくはクライアント端末に接続されたコントローラ機器からのユーザ操作により決定される視点移動情報をもとに,視聴領域が決定されていた。ところが,従来のテレビ視聴のように受動的に映像を視聴するユーザは、必ずしも積極的に視点移動しないことも想定される。したがって、これらの従来技術では、自由な視点移動機能が十分活用されない場合があると考えられる。
 さらに,映像の配信側が,広告等の映像を効果的に配信したいという要求から,視聴ユーザが視聴する映像領域を積極的に制御したいという要求も存在する。しかしながら,これまでの仕組みの中では,視聴ユーザの視点移動操作が起点となるため,そのような要求を実現することはできないという問題があった。
 本発明はかかる点に鑑みてなされたものであり,ユーザの明示的な視点移動操作無しに,視聴領域を決定する視点移動情報を決定し,配信される映像の構成に反映することを目的とする。
 上記課題を解決するために,本発明は,視点移動情報を決定する処理を,クライアント上のユーザインタフェースから分離させるようにした。さらに,前記の決定を行なう処理器のシステム上の配置を,クライアントに限らず,映像配信サーバ,あるいは外部の独立サーバに配置できるようにした。
 このように構成したことにより,視点移動情報の決定に際して,ユーザの操作に依存すること無しに決定することが可能となるため,様々な視点移動の制御が可能となる。
 なお、本発明において、視点移動情報を決定するための処理部は、受信装置及び送信装置のいずれに組み込まれていてもよく、これら以外の他のサーバに組み込まれていてもよい。
 本発明によれば,視点移動情報を様々な要因によりシステム側で自動的に決定することが可能となる。例えば,クライアント端末の物理的な位置や周辺状況,ユーザのこれまでの操作履歴,プロファイル等により,自動的に視点移動を決定することが可能となる。
 さらに,配信サーバで視点移動情報を決定することが可能となり,複数のユーザの視聴履歴と当該視聴ユーザの視聴履歴を考慮した細かな制御が可能となる。
 また,明示的あるいは暗黙的な広告映像への視点移動を積極的に制御することが可能となり,新たな映像広告モデルビジネスを構築することが可能となる。
本発明の第1の実施の形態による伝送システムの概要を示す概要図である。 本発明の第1の実施の形態によるサーバ(送信装置)の構成例を示す概要図である。 本発明の第1の実施の形態によるクライアント(受信装置)の構成例を示す概要図である。 本発明の第1の実施の形態によるフローチャートを示す概要図である。 本発明の第2の実施の形態によるサーバの構成例を示す概要図である。 本発明の第2の実施の形態によるクライアントの構成例を示す概要図である。 本発明の第2の実施の形態によるフローチャートを示す概要図である。 本発明の第3の実施の形態によるサーバの構成例を示す概要図である。 本発明の第3の実施の形態によるクライアントの構成例を示す概要図である。 本発明の第3の実施の形態によるフローチャートを示す概要図である。 全体領域と視聴領域と表示領域との関係を示す説明図である。 視点の移動に伴う視聴領域の変化を説明するための説明図である。
 以下,発明を実施するための形態について説明する。なお,説明は以下の順序で行う。
1.第1の実施の形態(クライアントで視点移動情報を決定し,その情報を映像配信サーバへ送る例)
2.第2の実施の形態(映像配信サーバで視点移動情報を決定し,その情報をクライアントに送信し,クライアントから映像配信サーバへ返信する例)
3.第3の実施の形態(映像配信サーバで視点移動情報を決定し,その情報を映像配信サーバで直接利用する例)
<1.第1の実施の形態>
 本実施の形態(以下,本例とも称する)では,本発明の送信装置をサーバに適用し,本発明の受信装置を携帯電話端末に適用した例を説明する。ただし,本発明の受信装置は,携帯電話端末に限らず,例えばPDA(Personal Digital Assistants)やパーソナルコンピュータ,音響再生装置やゲーム端末等,通信機能及び表示部に映像を表示させる機能を有する様々な装置に適用可能である。
 なお,説明は以下の順序で行う。
(1)伝送システムの概要
(2)サーバの構成例
(3)クライアントの構成例
(4)伝送システムの動作例
[伝送システムの概要]
 まず,図1を参照して本例の伝送システムの概要について説明する。
 図1は,本実施の形態の伝送システムの概要を示すものである。図1に示す伝送システムは,映像の配信を行うサーバ1(送信装置の一例に相当)とクライアント2(受信装置の一例に相当)とにより構成される。サーバ1とクライアント2とは,ネットワーク3を介して接続されている。なお,図1においてはクライアント2を1つのみ表示してあるが,実際には,複数のクライアント2がネットワーク3を通してサーバ1にアクセスできるように構成されている。
 サーバ1には図示せぬ撮像装置より構成される映像信号入力部が接続してあり,映像信号入力部で得られた映像がサーバ1に入力される。
 クライアント2内部で決定した視点移動情報をサーバ1に送信することで,サーバ1は,1つ以上の映像から構成される全体の領域(以下,全体領域Awと称する)に対応する映像(以下,全体領域映像と称する)と,視点移動情報により指定される特定の領域(以下,視聴領域Avと称する)に対応して決定される映像(以下,視聴領域映像と称する)とを生成する。そしてサーバ1は、視聴領域映像をクライアント2へ送信する。クライアント2では、クライアント2での表示領域(以下,表示領域Adと称する)に、送信された視聴領域映像の全部又は一部を表示する。これらの各領域間の関係を図11に示す。なお、全体領域Awは、図中において小さい四角形で示した分割領域(後述)の集合により構成されている。視聴領域Avも同様である。ただし、表示領域Adは、クライアント2でのディスプレイ能力によって決まるので、分割領域の区分けとは無関係に決まることになる。
 さらに,この視点移動情報は、視聴領域映像中での上下左右方向の視点移動の情報だけでなく,視聴領域映像の解像度を拡大又は縮小する情報も含む。この視点移動情報を用いて視聴領域Avを決定することより、クライアント2において,画面内の特定の領域の映像をより高解像度で視聴したり,より低い解像度でオリジナルの映像の全体像や複数の映像を一度に俯瞰することができるようになる。
 このように、視聴領域映像の大きさや位置を決定し、あるいは,視聴領域映像の拡大又は縮小を行うための視点移動情報は,この実施形態においては、クライアント2内の視点移動情報決定部で決定される。決定においては,例えば、過去の当該ユーザの視聴履歴,他のユーザの視聴履歴,視聴ユーザプロファイル,複数の映像間の関連性,映像提供者による各映像への重み,映像内のオブジェクトの動き情報,あるいは現在の物理的な位置や場所情報など,様々な要因を用いることができる。この点についての例示を伴う詳しい説明は後述する。 
 このような機能を実現するため,サーバ1においては,まず,映像信号入力部から入力されたオリジナルの非圧縮の映像から,映像符号化ビットストリーム(以下,単にビットストリームとも称する)を生成する処理を行う。
 この映像符号化ビットストリームは,オリジナルの映像の映像領域を1つ以上の領域に分割して得られる,各分割領域単位で生成する。以下の説明では,分割領域毎に生成したビットストリームを,分割領域映像ビットストリームと称する。
 サーバ1は,このような分割領域映像ビットストリームを予め生成し,例えばHDD(Hard Disk Drive)等の記憶装置で構成される映像ビットストリーム群蓄積部40に蓄積しておく。
 さらに,サーバ1では,この分割領域映像ビットストリームを,複数の解像度に対応させて生成することを行う。そして,このように生成した各解像度に対応する分割領域映像ビットストリームを映像ビットストリーム群蓄積部40内に蓄積しておく。ここで、図1に示されるように、視聴領域映像ビットストリームは、低、中、高のそれぞれの解像度で蓄積される(図1参照)。この点は前記した非特許文献3及び特許文献1と同様である。
 そして,サーバ1は、上下左右の位置や解像度情報を含む視点移動情報により特定される視聴領域Avに対応する分割領域映像ビットストリームを抽出して,それらにより構成されるビットストリーム(以下,視聴領域映像ビットストリームと称する)をクライアント2に送信する。なお、視聴領域映像ビットストリームは、本実施形態では、後述するように、シングルストリームとして構成される。
 これにより,複数のクライアント2から,上下左右の位置や解像度が異なる様々な視点移動情報が送信された場合にも,サーバ1は,視点移動情報により特定される領域及び解像度に対応するビットストリームを抽出してクライアント2に送信することができる。なお、本実施形態におけるネットワーク3は、例えばインターネットであるが、使用されるプロトコルは特に制約されない。
[サーバの構成例]
 次に,図2を参照して,サーバ1の構成例について説明する。図2は,サーバ1の内部構成例を示したブロック図である。サーバ1には,映像信号入力部10が接続されている。また,サーバ1には,映像領域分割処理部20と,部分領域符号化処理部30と,映像ビットストリーム群蓄積部40と,マルチストリーム情報蓄積部50とが含まれる。
 映像信号入力部10は,サーバ1に映像信号を入力するものであり,例えば放送用のカメラ、監視カメラ又はテレビ会議等に用いられるカメラで構成できるが、これらに制約されるものではない。映像信号入力部10は、例えばネットワークを介してサーバ1に接続されたものであってもよい。映像領域分割処理部20は,映像信号入力部10から入力される映像信号よりなる映像領域を,1つ又はそれ以上の解像度を有する1つ又はそれ以上の領域に分割する。
 部分領域符号化処理部30は,映像領域分割処理部20によって生成された各解像度レベルにおける各分割領域の映像信号を符号化して,分割領域映像ビットストリームを生成する。ここで行う符号化は,各分割領域間で,動きベクトル、量子化係数及び量子化パラメータ等の符号化情報についての予測関係を持たせない形で行う。符号化方式としては,例えば,MPEG-2やMPEG-4 SP,H.263,H.264等を用いることができるが、これらに限定されるものではない。
 映像ビットストリーム群蓄積部40は,部分領域符号化処理部30で生成された複数の分割領域映像ビットストリームを,解像度のレベル毎に分類して蓄積する(図1参照)。
 マルチストリーム情報蓄積部50は,部分領域符号化処理部30で生成された各分割領域映像ビットストリームの符号化処理や品質に関する情報と,各分割領域が全体領域Awの中のどの位置に属しているかを示す位置情報とを管理する。さらに,マルチストリーム情報蓄積部50は,後述する映像メタ情報を保存管理する。なお、映像メタ情報は、本実施形態のシステムで利用可能な場所に保存されていればよく、その保存場所は特に制約されない。
 次に,クライアント2から送信される視点移動情報について説明する。本実施形態の視点移動情報には,以下の情報が含まれる。
 ・全体領域Awに対する視点の位置情報,または位置の変化情報;
 ・解像度情報,または解像度の変化情報。
 再び図2に戻って説明を続けると,サーバ1には,視点情報受信部60と,クライアントステータス管理部70と,シングルストリーム生成部80と,シングルストリーム送信部90とが含まれる。
 視点情報受信部60は,ネットワーク3を介してクライアント2から送信された視点移動情報を受信して,クライアントステータス管理部70に供給する。
 クライアントステータス管理部70は,視点情報受信部60が受信した視点移動情報の管理や,音響や動画像などをストリーミング配信する際にクライアント2との間でやりとりする制御データ(ストリーミングプロトコル準拠メッセージ)の送受信等を行う。
 クライアントステータス管理部70は,送信状態情報としてクライアント2の送信状態情報受信部208に以下の情報のいずれか又は全てを送信する処理を行う:
・送信される視聴領域映像ビットストリームに含まれる視聴領域Avの、全体領域Aw内における位置を示す視聴領域情報;
・全体領域Awや視聴領域Avに含まれる映像についての映像メタ情報。
 送信状態情報の内,視聴領域情報は、シングルストリーム生成部80内部で決定されるものであって、この視聴領域情報は、前記したように、全体領域Awに対する視聴領域Avの相対位置情報を含む。以下,この相対位置情報の生成方法について説明する。全体領域Awは,複数の分割領域映像により構成されるため,送信される視聴領域Avの映像は,全体領域Awを構成する複数の分割領域映像の一部により構成される。従って,視聴領域Avの取りうる位置は,全体領域Awの内,分割領域の境界線により区切られる位置である(図11参照)。一方,視点移動情報により決定される表示領域Adは全体領域Awに対して自由に特定される。このため、視聴領域Avは,全体領域Awを構成する分割領域の一部により構成される部分的な領域のうち,最適な領域を特定する情報となる。ここで最適とは,例えば,視点移動情報により決定される表示領域Adと重なる面積が最も大きくなる場合を指す。
 一方,送信状態情報の内,映像メタ情報とは,クライアント側で視点移動情報の決定に利用される情報であり,これは、映像そのものに関わる情報や映像の視聴履歴に関わる情報を含む。映像メタ情報の例を以下に示す。
・全体領域Aw内のどの位置にどのような映像があるかを示す情報、例えば,全体映像Awが一つの映像から構成される場合には,各位置にどのようなオブジェクト(建物や車,製品,人など)が含まれるかを示す情報。
・全体映像Awが複数の異なる映像から構成される場合は,各映像のジャンル情報、出演者情報,タイトル情報,映像作成者情報,言語情報,映像が撮影された位置の情報、内容に関連する位置の情報。
・全体領域Aw内のどの映像領域に対して,現在又は過去に,どのようなユーザがどの程度視聴しているかを示す頻度情報,また各ユーザによる映像への評価情報(例:5段階)。
・クライアント2の視聴ユーザに関係する複数のユーザ(いわゆるソーシャル関係ユーザ)が,現在または過去にどの程度その映像を視聴したかを示す頻度情報。
・映像が広告である場合には,広告対象物のジャンルや製品情報,対象年齢又は対象性別情報などの情報。これはさらに,広告に対するユーザの視聴履歴情報を含んでも良い。
 クライアントステータス管理部70は,さらに,クライアント2のストリーミングクライアント処理部203(後述)との間で,ストリーミングプロトコルに準拠したメッセージのやりとりを行う。ストリーミングプロトコルに準拠したメッセージとは,例えば,映像信号の送信や一時停止,停止等を要求する制御メッセージや,セッションの維持を行うためのメッセージ等である。
 なお,本例では送信状態情報を、視聴領域映像ビットストリームのパケットとは別に送信する構成を例に挙げたが,送信状態情報を映像ビットストリームのパケットのヘッダ部分に格納してクライアント2に送信する形態も可能である。この場合は、クライアントステータス管理部70ではなく、シングルストリーム送信部90から、シングルストリームと共に、クライアント2に送信状態情報を送ることになる。対応して、クライアント2の映像ストリーム受信部201は、ヘッダ部分から送信状態情報を取り出して、視点移動情報決定部209(図3参照)に送ることになる。
 再び図2に戻って説明を続ける。シングルストリーム生成部80は,視点情報受信部60が受信した視点移動情報によって特定される視聴領域Avを構成する複数の分割領域映像ビットストリーム(分割領域毎の、特定解像度のビットストリーム)を,映像ビットストリーム群蓄積部40から読み出す。そして,読み出した複数のビットストリームをシングルストリームとして再構成して出力する。この再構成の方法としては、前記した非特許文献3又は特許文献1の技術を利用できるので、これ以上具体的な説明は省略する。
 シングルストリーム送信部90は,シングルストリーム生成部80で生成されたシングルストリームをパケット化して,パケット化されたシングルストリームをクライアント2に送信する。
 また、本実施形態のサーバ1は、音響信号入力部100-1~nと、音響符号化処理部110と、メタ情報入力部120と、音響符号化ビットストリーム・音響メタ情報蓄積部130と、音響ビットストリーム抽出・ミキサ処理部140と、音響ビットストリーム送信部150とを備えている。これらについては、前記した非特許文献3又は特許文献1の技術を利用できるので、これ以上具体的な説明は省略する。
[クライアントの構成例]
 次に,クライアント2の内部構成例について,図3のブロック図を参照して説明する。クライアント2には,映像ストリーム受信部201と,映像復号部202と,ストリーミングクライアント処理部203と,クライアント管理部204と,音響ストリーム受信部205と,音響復号部206と,音響出力部207とが含まれる。これらの構成要素は、例えば特許文献1に記載した技術と同様に構成できるので、詳しい説明は省略する。
 また,クライアント2は,送信状態情報受信部208と,視点移動情報決定部209と,視点情報送信部210と,映像表示制御部212と,映像表示部213と,ユーザ・端末情報管理部230とを含む。
 送信状態情報受信部208は,サーバ1から送信された送信状態情報,すなわち視聴領域Avの全体領域Awに対する位置情報を受信して,視点移動情報決定部209に出力する。視点移動情報決定部209は,送信状態情報受信部208が受信した送信状態情報に含まれる映像メタ情報や,ユーザ・端末情報管理部230から入力されたユーザ・端末情報に基づいて,ユーザインタフェースを使ってユーザが指定することなく、視点移動情報を自動的に生成する。そして,視点移動情報決定部209は、生成した視点移動情報を視点情報送信部210に出力する。決定方法の例としては,以下が考えられる。
(1)[画面内オブジェクトの位置や移動に基づいた視点移動]
 この場合は、全体領域Aw内のどの位置にどのような映像があるかを示す情報を用いて視点移動情報を決定する。ここで,映像内で着目する情報としては,例えば,全体映像Awが一つの映像から構成される場合において,各位置にどのようなオブジェクト(建物や車,製品,人など)が含まれるかを示す情報である。さらに具体的な例を説明すると,サッカー映像の配信サービスにおいて,競技場全体を俯瞰した映像を配信する定点映像配信サービスを想定した場合,全体領域Awの画面内では,複数のプレイヤーがプレーしている。画面内での各プレイヤーとサッカーボールには、それぞれ位置情報が付与されており,その位置情報に応じて,特定のプレイヤーやボールを中心とした映像が視聴領域Avの中心となるように視点移動情報を自動的に決定することができる。あるいは,オブジェクトの位置情報が無い場合においても,クライアント内でオブジェクトの位置を自動検出することで,検出されたオブジェクトの位置に基づいて,視点異動情報を決定することが可能である。受信映像からの高速なオブジェクト認識技術としては,Wei Zeng, Jun Du, Wen Gao, 'Qingming Huang. Robust moving object segmentation on H.264/AVC compressed video using the block-based MRF model,'Real-Time Imaging, pp.290-299, 2005などに示されたものを使用できるので、これについての詳しい説明は省略する。
(2)[映像カテゴリーや出演者情報に基づいた視点移動]
 全体映像Awが複数の異なる映像から構成される場合,メタ情報は、全体映像Awを構成する各映像のジャンル情報や出演者情報,タイトル情報,映像作成者情報,言語情報を有することができる。例えば,ドラマ映像配信サービスや音楽楽曲のプロモーション映像配信サービスなどのサービスを想定する。この場合,送信状態情報としてサーバ1からクライアント2に送信されたユーザ視聴履歴情報やプロファイル情報,またはクライアント2に蓄積されたユーザ履歴情報やプロファイル情報を元に,ユーザが好むドラマカテゴリーやアーティストの順に視点移動情報を決定することができる。なお,この順位付けは,(a)これまでの蓄積した視聴履歴に含まれる各カテゴリーやアーティストに対する視聴頻度情報から単純に映像毎にソートすることによるもの,あるいは(b)カテゴリーやアーティストの属性情報によりクラスタリングしグループ化した後で,映像のグループ毎にソーティングすることにより得られるものとすることができる。この順位付けの実現方式としては,コンテンツベースフィルタリング(content-based filtering)技術により実現するのが一般的である(参照:Collaborative and Content-based Filtering for Item Recommendation on Social Bookmarking Websites. T. Bogers and A. Van den Bosch. In: Proceedings of the ACM RecSys '09 workshop on Recommender Systems and the Social Web, pages 9-16, 2009.)。
(3)[位置情報に基づいた視点移動]
 全体映像Awが複数の異なる映像により構成されており,且つ各映像が撮影位置情報を有する映像サービスを想定する。この映像サービスは,たとえば,ユーザ投稿型の映像共有サービスや,旅番組に代表される映像配信サービス,あるいは,自治体が配信する観光映像配信サービスにおいて用いられる。GPSなどを使用して自動取得可能なクライアント2の現在の位置情報をキーとして,全体映像Awを構成する映像の位置情報とクライアント2の物理的な位置との関係を考慮して,視聴領域Avを移動するための視点移動情報を決定する。クライアント2の現在位置からの距離が近い順に映像群をソートし,その順に従って映像間を移動するために、視点移動情報を決定することができる。 
(4)[他ユーザの視聴頻度に基づいた視点移動]
 全体領域Aw内の各映像領域(分割映像)を,現在又は過去に,クライアント2のユーザ以外のユーザがどの程度視聴しているかを示す頻度情報と,各ユーザによる映像への評価情報(例:5段階)とが付与されているとする。この場合,視聴頻度と評価情報を考慮することで,分割映像の順位を算出し,視聴すべき映像を自動で特定することができる。例えば,視聴頻度と評価情報を単純に掛け合わせることで,分割映像毎の順位を特定する指標を算出することが可能である。さらに,クライアント2の視聴ユーザに関係する複数のユーザ(ソーシャル関係ユーザ)が,現在どの映像を視聴しているか,または過去にどの程度視聴したかを示す頻度を利用することで,最適な移動経路を決定することが可能となる。これにより視点移動情報を決定することができる。
(5)[広告映像を含む映像配信サービスにおける視点移動]
 上記で述べた各種映像配信サービスやシステムにおいて,広告映像を含めた映像配信サービスを想定する。この場合,広告対象物のジャンルや製品情報,対象年齢,対象性別情報などと,視聴ユーザのプロファイルとに基づき,視点移動情報を決定することが可能である。
 なお,上記のケース(1)~(5)に共通して,視点移動情報を決定する場合は,視聴領域Avを構成する分割映像のそれぞれに対する「尤もらしさ」(例えば,位置の例で言えば,映像が撮影された物理的位置と,クライアント2が現在存在する物理的な位置との近さ)と,全体映像Aw内での分割映像の近さ,つまり画面内での移動距離を考慮して,最も効率よく映像間を移動することが必要となる。本課題は,従来より,巡回セールスマン問題として検討されており,多数のアルゴリズムが提案されている(例えば,Hassin, R.; Rubinstein, S. (2000), 'Better approximations for max TSP', Information Processing Letters 75: pp.181-186を参照)。
 ここで,ユーザ・端末情報管理部230から入力するユーザ・端末情報とは,例えば、過去の当該ユーザの視聴履歴や,ユーザプロファイルなどのユーザ情報や,現在のクライアントが動作する端末の物理的な位置や場所情報,使用中のCPU情報などの情報であるが、これらに制約されない。
 視点情報送信部210は,視点移動情報決定部209で決定した視点移動情報を,サーバ1に送信する。
 視点移動情報決定部209は,視点移動情報決定部209内部で決定した視点移動情報と,サーバ1からの送信状態情報を構成する視聴領域Avの全体領域Awに対する位置情報を示す視聴領域情報とを,表示制御部212へ出力する。
 表示制御部212には,映像復号部202で復号された、視聴領域映像ビットストリームの復号映像信号(以下,視聴領域復号信号と称する)が入力される。また、表示制御部212には、この視聴領域復号信号の位置を示す視聴領域情報が、視点移動情報決定部209から入力される。表示制御部212は、視聴領域情報と視点移動情報とを用いて、視聴領域復号信号を、表示領域Ad内での位置に換算して,表示位置の調整を行なう。その後、表示制御部212は、表示位置が調整された復号映像信号(以下,表示領域復号信号と称する)を表示部213に出力する。
 表示部213は,例えばLCD(Liquid Crystal Display)や有機EL(Electro Luminescence)パネル等で構成され,表示制御部212から供給された表示領域復号信号を画像として表示画面上に表示する。
 このような処理を行うことにより,ユーザがインタフェースなどを通じて意識的に視聴領域を移動しなくても,映像の視聴領域や解像度が自動的に変更されるため,受動的な様々な映像の視聴を通じながらも,新たな映像の発見が可能となる。
[伝送システムによる動作例]
 次に,本例の伝送システムのサーバ1とクライアント2とによる処理の例について,図4のフローチャートを参照して説明する。まず,サーバ1が映像信号入力部10から出力された映像信号を取得する(ステップSA1)。続いて,映像領域分割処理部20が,ステップSA1で取得した映像を1つ以上の領域に分割する(ステップSA2)。そして,部分領域符号化処理部30が,分割された各領域を構成する映像信号から解像度の異なる複数のビットストリームを生成し,映像ビットストリーム群蓄積部40に蓄積する(ステップSA3)。
 次に,クライアント2が,ビットストリームを送信するようにサーバ1に対して要求するための送信要求と初期の視点移動情報とを送信する(ステップSA4)。
 サーバ1のクライアントステータス管理部70が,送信要求を受信し,視点情報受信部60が初期視点移動情報を受信すると(ステップSA5),シングルストリーム生成部80が映像ビットストリーム群蓄積部40からビットストリームを抽出する。そして抽出したビットストリームを,シングルストリーム送信部90がクライアント2に送信する(ステップSA6)。初期視点移動情報に基づいて特定される表示領域Adの例を図12(a)に示す。この例では、初期の表示領域Adの範囲に対応して、それを囲む視聴領域Avをシングルストリーム生成部80が特定する。この視聴領域Avは、前記したように、複数の分割領域により構成される。そこで、シングルストリーム生成部80は、各分割領域に対応する映像ビットストリームを特定し、それらを連結することにより、送信されるべきシングルストリームを生成することができる。
 クライアント2では,映像ストリーム受信部201がビットストリームを受信し,映像復号部202がビットストリームを復号して,復号して得られた表示領域復号信号を,表示制御部212が画像として表示部213に表示する(ステップSA7)。
 ここで,クライアント2における視点移動情報決定部209が新たな視点移動情報を生成したときは(ステップSA8),生成された視点移動情報を視点情報送信部210がサーバ1に送信する(ステップSA9)。
 その後,サーバ1の視点情報受信部60で視点情報が受信されると,同様にしてシングルストリームを生成し,クライアント2への送信を行うことができる。そして、クライアント2は、受信したストリームをユーザに呈示し続けることができる(ステップSA6~ステップS9)。図12(b)では、視点移動により表示領域Adが視聴領域Avの範囲内で移動している。しかし、この段階では、表示領域Adは視聴領域Avの範囲内なので、視聴領域Avに対応する視聴領域映像ビットストリームを更新する必要はない。一方、図12(c)では、視点移動により、表示領域Adが視聴領域Avの範囲外で移動している。この状態では、表示領域Adは視聴領域Avの範囲外なので、新たな視聴領域Avを設定し、それに対応して、視聴領域映像ビットストリームを更新する。
[第1の実施の形態による効果]
 上述した第1の実施の形態によれば,ユーザがインタフェースなどを通じて意識的に視聴領域を移動しなくても,映像の視聴領域や解像度が自動的にクライアント2内部で変更されるため,受動的な様々な映像の視聴を通じながらも,新たな映像の発見が可能となる。また,本制御をクライアント2の内部で閉じた形で実現することで,これまでのサーバ構造や動作,サーバ・クライアント間の信号,制御,クライアント構造の大部分に影響を与えることなく,前記の効果を得ることができる。
<2.第2の実施の形態>
 次に,本発明の第2の実施の形態について説明する。本実施の形態では,視点移動情報の決定をサーバで実施し、その情報をクライアント経由でサーバに戻す例を説明する。本実施形態の説明においては、前記した第1実施形態と基本的に共通する要素については、同一符号を付することにより、説明の煩雑を避ける。
 なお,説明は以下の順序で行う。
(1)伝送システムの概要
(2)サーバの構成例
(3)クライアントの構成例
(4)伝送システムの動作例
[伝送システムの概要]
 まず,図1との対比で本例の伝送システムの概要について説明する。
 図1では,視点移動情報はクライアント2からサーバ1へ送付されている。これに対して、本実施形態では,サーバ1で視点移動情報を決定し,その情報をクライアント2へ送信する。その後の処理は前記した第1実施形態と同様である。
 サーバ1は内部に視点移動情報決定部を有し,この決定部において視点移動情報を決定して,クライアント2へ送付する。視点移動情報の決定は、前記した第1実施形態と同様に行うことができる。さらに、この第2実施形態では、サーバ内で視点移動情報を決定することにより、視点移動情報を効率的に実現することが可能になる。例えば,サーバ内で視点移動情報を決定する場合には、大量ユーザの大量の視聴履歴を解析して,同じ嗜好を持つユーザ間の特性を利用するという協調フィルタリング(collaborative filtering)技術(参照:Collaborative and Content-based Filtering for Item Recommendation on Social Bookmarking Websites. T. Bogers and A. Van den Bosch. In: Proceedings of the ACM RecSys '09 workshop on Recommender Systems and the Social Web, pages 9-16, 2009.)を使用可能である。
 クライアント2では,サーバ1から受信した視点移動情報をもとに表示制御を行い、クライアント2において、表示領域Adに対応する画像を表示すると同時に,この視点移動情報をサーバ1へ返信する。それ以降のサーバ1の処理は実施例1と同様である。
[サーバの構成例]
 次に,図5を参照して,サーバ1の構成例について説明する。図5は,サーバ1の内部構成例を示したブロック図である。本実施形態のサーバ1は、視点移動情報決定部150をさらに備える点で、前記した第1実施形態と相違する。
 視点移動情報決定部150で決定した視点移動情報は,視点移動情報送信部160を介して,クライアント2へ送出される。
[クライアントの構成例]
 次に,図6を参照して,クライアント2について説明する。クライアント2には,送信状態情報受信部208と,視点領域管理部2209と,視点情報送信部210と,表示制御部212と,表示部213,視点移動情報受信部220とが含まれるが、このクライアント2は、第1実施形態と異なり、視点移動情報決定部を備えない。
 送信状態情報受信部208は,サーバ1から送信された送信状態情報,すなわち視聴領域Avの全体領域Awに対する相対位置情報である視聴領域情報を受信して,視点領域管理部2209に出力する。
 視点移動情報受信部220は,サーバ1から視点移動情報を受信し,視点領域管理部2209へ出力する。
 視点領域管理部2209は,視点移動情報受信部220からの視点移動情報を視点情報送信部210に出力する。
 視点情報送信部210は,視点領域管理部2209が受信した視点移動情報を,サーバ1に送信する。
 視点領域管理部2209は,送信状態情報受信部208が受信した送信状態情報に含まれる視聴領域情報と,視点移動情報受信部220を介して受信したサーバからの視点移動情報とを,表示制御部212に出力する。
[伝送システムによる動作例]
 次に,本例の伝送システムのサーバ1とクライアント2とによる処理の例について,図7のフローチャートを参照して説明する。まず,サーバ1が映像信号入力部10から出力された映像信号を取得する(ステップSB1)。続いて,映像領域分割処理部20が,ステップSB1で取得した映像を1つ以上の領域に分割する(ステップSB2)。そして,部分領域符号化処理部30が,分割された各領域を構成する映像信号から解像度の異なる複数のビットストリームを生成し,映像ビットストリーム群蓄積部40に蓄積する(ステップSB3)。 
 次に,クライアント2が,ビットストリームを送信するようにサーバ1に対して送信要求を送信する(ステップSB4)。
 サーバ1のクライアントステータス管理部70は,送信要求を受信すると(ステップSB5),シングルストリーム生成部80が、映像ビットストリーム群蓄積部40から、初期視点移動領域により特定されるビットストリームを抽出し,抽出した視聴領域映像ビットストリームを,シングルストリーム送信部90がクライアント2に送信する(ステップSB6)。
 クライアント2では,映像ストリーム受信部201が視聴領域映像ビットストリームを受信し,映像復号部202がビットストリームを復号して,復号して得られた表示領域復号信号を,表示制御部212が画像として表示部213に表示する(ステップSB7)。
 ここで,サーバ1の視点移動情報決定部150が視点移動情報を生成した場合には(ステップSB8),サーバ1の視点移動情報送信部160を介して,視点移動情報をクライアント2へ送出する(ステップSB9)。視点移動情報決定部150が視点移動情報を生成しないならば,現在のビットストリーム(シングルストリーム)を送信し続ける(ステップ12)。
 クライアント2は,受信した視点移動情報を、折り返しサーバ1へ送信する(ステップSB10)。
 サーバ1の視点情報受信部60で視点移動情報が受信されると,視点移動情報により特定される複数のビットストリームが,映像ビットストリーム群蓄積部40からシングルストリーム生成部80によって抽出され(ステップSB11),視聴領域映像ビットストリームが生成され,さらにシングルストリーム送信部90によりクライアント2へ送信される(ステップSB12)。
 クライアント2では,映像ストリーム受信部201が受信したシングルストリームを,映像復号部202が復号し,復号して得られた視聴領域復号信号を,表示制御部212が位置調整を行ない表示領域復号信号として表示部213に表示する(ステップSB7)。
 サーバ1では,以上同様にして視点移動情報生成があるかを検知するためにステップSB8へ遷移する(ステップSB12→ステップSB8)。
[第2の実施の形態による効果]
 上述した第2の実施の形態によれば,ユーザがインタフェースなどを通じて意識的に視聴領域を移動しなくても,映像の視聴領域や解像度が自動的にクライアント2内部で変更されるため,受動的な様々な映像の視聴を通じながらも,新たな映像の発見が可能となる。特に,サーバ側で視点移動情報を決定できることから,他のユーザの視聴履歴や映像情報の特性など,多様な大量の情報を元に考慮した細かな移動制御を簡易に実現できる。また,この情報をクライアントへ送付し、それ以降は前記した第1実施形態と同様に動作するため,サーバやクライアントの主要な構造や動作,サーバ・クライアント間の信号や制御に大きな変更を与えることなく,前記の効果を得ることができる。
 なお、第2実施形態における他の動作及び利点は、前記した第1実施形態と基本的に共通するので、これ以上詳しい説明は省略する。
 また、この第2の実施形態では、視点移動情報決定部をサーバ1に含めたが、サーバ1以外の他のサーバに視点移動情報決定部を含める構成も可能である。この場合の構成及び動作は、前記から理解できるので詳しい説明は省略する。
<3.第3の実施の形態>
 次に,本発明の第3の実施の形態について説明する。本実施の形態では,視点移動情報の決定をサーバで実施し,その情報を、クライアント2に送らずに、サーバ内のビットストリーム抽出処理に使用する例を説明する。本実施形態の説明においては、前記した第1実施形態と基本的に共通する要素については、同一符号を付することにより、説明の煩雑を避ける。
 なお,説明は以下の順序で行う。
(1)伝送システムの概要
(2)サーバの構成例
(3)クライアントの構成例
(4)伝送システムの動作例
[伝送システムの概要]
 まず,図1との対比で本例の伝送システムの概要について説明する。
 図1では,視点移動情報はクライアント2からサーバ1へ送付されている。これに対して、この第3実施形態では,サーバ1で視点移動情報を決定し,その情報をサーバ1内のシングルストリーム生成部で直接使用する。クライアント2とサーバ1間で視点移動情報の送受信は行わない。
 サーバ1は内部に視点移動情報決定部を有する。この視点情報決定部の構成は、前記した第2実施形態と同様とすることができる。
 サーバ1で決定した視点移動情報は,クライアントステータス管理部を介してシングルストリーム生成部へ出力され,該当するビットストリームが抽出された後,視聴領域映像ビットストリームが生成され,クライアント2へ送付される。
[サーバの構成例]
 次に,図8を参照して,サーバ1の構成例について説明する。図8は,サーバ1の内部構成例を示したブロック図である。本実施形態のサーバ1は視点移動情報決定部150をさらに備える点で、前記した第1実施形態と相違している。
 視点移動情報決定部150は,視点移動情報を決定し,クライアントステータス管理部70へ出力する。
 クライアントステータス管理部70は,視点移動情報をシングルストリーム生成部80へ出力する。それ以後の処理は,第1及び第2実施形態と同様である。
 ただし,本実施形態においては、クライアントステータス管理部70がクライアント2へ送信する送信状態情報には,視聴領域Avの全体領域Awに対する相対位置情報である視聴領域情報だけでなく,視点移動情報も含まれる。
[クライアントの構成例]
 次に,図9を参照して,クライアント2について説明する。クライアント2には,送信状態情報受信部208と,視点領域管理部3209,表示制御部212と,表示部213とが含まれるが,視点移動情報を送付する処理部は存在しない。
 クライアント2の送信状態情報受信部208は,サーバ1から送信された送信状態情報,すなわち視聴領域Avの全体領域Awに対する相対位置情報と視点移動情報を受信して,視点領域管理部3209に出力する。
 視点領域管理部3209は,送信状態情報受信部208が受信した視聴領域Avの全体領域Awに対する位置情報を示す視聴領域情報と同じく視点移動情報を表示制御部212に出力する。また、表示制御部212には、この視聴領域復号信号の位置を示す視聴領域情報が、視点移動情報決定部209から入力される。表示制御部212は、視聴領域情報と視点移動情報とを用いて、視聴領域復号信号を、表示領域Ad内での位置に換算して,表示位置の調整を行なう。その後、表示制御部212は、表示位置が調整された復号映像信号(以下,表示領域復号信号と称する)を表示部213に出力する。
[伝送システムによる動作例]
 次に,本例の伝送システムのサーバ1とクライアント2とによる処理の例について,図10のフローチャートを参照して説明する。まず,サーバ1が映像信号入力部10から出力された映像信号を取得する(ステップSC1)。続いて,映像領域分割処理部20が,ステップSC1で取得した映像を1つ以上の領域に分割する(ステップSC2)。そして,部分領域符号化処理部30が,分割された各領域を構成する映像信号から解像度の異なる複数のビットストリームを生成し,映像ビットストリーム群蓄積部40に蓄積する(ステップSC3)。
 次に,クライアント2が,ビットストリームを送信するようにサーバ1に対して送信要求を送信する(ステップSC4)。
 ここで,サーバ1において,既定の初期視点移動情報をもとに特定されるビットストリームの抽出を行い,シングルストリーム生成部80によりシングルストリームを構成し,シングルストリーム送信部90によりクライアント2へ送信する(ステップSC6)。
 クライアント2では,映像ストリーム受信部201が受信したシングルストリームを,映像復号部202が復号し,復号して得られた視聴領域復号信号を,表示制御部212が位置調整を行ない表示領域復号信号として表示部213に表示する(ステップSC7)。
 ここで,サーバ1の視点移動情報決定部150が視点移動情報を生成し(ステップSC8),視点移動情報により特定される複数のビットストリームが,映像ビットストリーム群蓄積部40からシングルストリーム生成部80によって抽出され(ステップSC9),視聴領域映像ビットストリームが生成され,さらにシングルストリーム送信部90によりクライアント2へ送信される(ステップSC10)。
 さらに,上記映像の表示中において,視点移動情報決定部150が視点移動情報を随時生成し,シングルストリーム生成部80の動作に反映される(ステップSC10→ステップSC8)。
[第3の実施の形態による効果]
 上述した第3の実施の形態によれば,ユーザがインタフェースなどを通じて意識的に視聴領域を移動しなくても,映像の視聴領域や解像度が自動的にクライアント2内部で変更されるため,受動的な様々な映像の視聴を通じながらも,新たな映像の発見が可能となる。特に,視点移動情報については,サーバ,クライアント間で送受信することなく,すべてサーバ側で決定し,視聴領域映像へ反映されるため,従来のテレビ放送のように,クライアント側の処理が簡易化される。
 なお、本発明は、前記した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変更を加え得るものである。
 例えば、本実施形態では、視点移動情報決定部により視点移動情報を自動的に決定するものとしたが、これと併用して、クライアント上のユーザインタフェースから視点移動情報を操作できる構成とすることも可能である。における他の構成及び利点は、前記した第1実施形態又は第2実施形態と同様なので、詳しい説明は省略する。

Claims (8)

  1.  送信装置と視点移動情報決定部とを備えた伝送システムであって、
     前記送信装置は、
     入力映像信号の映像領域を所定数の領域に分割し,かつ、前記分割により得られた各分割領域に対応する複数の領域分割映像信号を生成する映像領域分割処理部と,
     前記複数の領域分割映像信号を符号化して複数の映像ビットストリームを生成する符号化処理部と,
     前記符号化処理部で生成された複数の映像ビットストリームを蓄積する映像ビットストリーム群蓄積部と,
     前記視点移動情報決定部で生成された視点移動情報に基づいて,前記映像ビットストリームを前記映像ビットストリーム群蓄積部から抽出して,伝送用の映像ビットストリームを生成する伝送用ビットストリーム生成部と,
     前記伝送用ビットストリーム生成部で生成された前記伝送用の映像ビットストリームを前記受信装置に送信する映像ビットストリーム送信部と
     を備えており,
     前記視点移動情報決定部は、前記映像領域の中から、視聴対象の領域を特定するための視点移動情報を決定する構成とされており,
     さらに、前記視点移動情報決定部は、既定のデータに基づいて、ユーザの指定によらずに、自動的に前記視点情報を決定する構成とされている
     伝送システム。
  2.  さらに受信装置を備えており、
     前記視点移動情報決定部は、前記受信装置に含まれており、
     前記視点移動情報決定部は、決定された視点移動情報を前記送信装置に送る構成となっている
     請求項1に記載の伝送システム。
  3.  前記視点移動情報決定部は、前記送信装置に含まれている
     請求項1に記載の伝送システム。
  4.  前記視点移動情報決定部は、前記送信装置以外の他のサーバの一部として含まれている
     請求項1に記載の伝送システム。
  5.  前記既定のデータは、過去の当該ユーザの視聴履歴,他のユーザの視聴履歴,視聴ユーザプロファイル,複数の領域分割映像間の関連性,映像提供者により付与された各領域分割映像への重み,前記映像領域内でのオブジェクトの動き情報,ユーザの現在の物理的な位置、又は、前記位置に付随する情報のいずれかである
     請求項1~4のいずれか1項に記載の伝送システム。
  6.  入力映像信号の映像領域を所定数の領域に分割し,かつ、前記分割により得られた各分割領域に対応する複数の領域分割映像信号を生成する映像領域分割処理部と,
     前記複数の領域分割映像信号を符号化して複数の映像ビットストリームを生成する符号化処理部と,
     前記符号化処理部で生成された複数の映像ビットストリームを蓄積する映像ビットストリーム群蓄積部と,
     前記映像領域の中から、視聴対象の領域を特定するための視点移動情報を決定する前記視点移動情報決定部と,
     前記視点移動情報決定部で生成された視点移動情報に基づいて,前記映像ビットストリームを前記映像ビットストリーム群蓄積部から抽出して,伝送用の映像ビットストリームを生成する伝送用ビットストリーム生成部と,
     前記伝送用ビットストリーム生成部で生成された前記伝送用の映像ビットストリームを前記受信装置に送信する映像ビットストリーム送信部と
     を備えており,
     さらに、前記視点移動情報決定部は、既定のデータに基づいて、ユーザの指定によらずに、自動的に前記視点情報を決定する構成とされている
     送信装置。
  7.  入力映像信号の映像領域を所定数の領域に分割し,かつ、前記分割により得られた各分割領域に対応する複数の領域分割映像信号を生成する映像領域分割処理ステップと,
     前記複数の領域分割映像信号を符号化して複数の映像ビットストリームを生成する符号化処理ステップと,
     前記符号化処理ステップで生成された複数の映像ビットストリームを蓄積する映像ビットストリーム群蓄積部に蓄積するステップと,
     前記視点移動情報決定ステップで生成された視点移動情報に基づいて,前記映像ビットストリームを前記映像ビットストリーム群蓄積部から抽出して,伝送用の映像ビットストリームを生成する伝送用ビットストリーム生成ステップと,
     前記伝送用ビットストリーム生成ステップで生成された前記伝送用の映像ビットストリームを受信装置に送信する映像ビットストリーム送信ステップと
     を備えており,
     前記視点移動情報決定ステップでは、前記映像領域の中から、視聴対象の領域を特定するための視点移動情報を決定する構成とされており,
     さらに、前記視点移動情報決定では、既定のデータに基づいて、ユーザの指定によらずに、自動的に前記視点情報を決定する構成とされている
     伝送方法。
  8. 請求項7に記載の方法をコンピュータで実行させるためのコンピュータプログラム。
PCT/JP2011/071416 2010-09-24 2011-09-21 映像ビットストリームの伝送システム WO2012039404A1 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
CN2011800456447A CN103190156A (zh) 2010-09-24 2011-09-21 视频比特流的传输系统
KR1020137007401A KR20130108311A (ko) 2010-09-24 2011-09-21 영상 비트 스트림의 전송 시스템
JP2012535043A JP5544426B2 (ja) 2010-09-24 2011-09-21 映像ビットストリームの伝送システム
EP11826849.9A EP2621167A4 (en) 2010-09-24 2011-09-21 SYSTEM FOR TRANSMITTING A VIDEO BIT TRAIN
US13/825,973 US20130223537A1 (en) 2010-09-24 2011-09-21 Video Bit Stream Transmission System
SG2013021191A SG188630A1 (en) 2010-09-24 2011-09-21 Video bit stream transmission system

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US38623410P 2010-09-24 2010-09-24
US61/386,234 2010-09-24

Publications (1)

Publication Number Publication Date
WO2012039404A1 true WO2012039404A1 (ja) 2012-03-29

Family

ID=45873888

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2011/071416 WO2012039404A1 (ja) 2010-09-24 2011-09-21 映像ビットストリームの伝送システム

Country Status (7)

Country Link
US (1) US20130223537A1 (ja)
EP (1) EP2621167A4 (ja)
JP (1) JP5544426B2 (ja)
KR (1) KR20130108311A (ja)
CN (1) CN103190156A (ja)
SG (1) SG188630A1 (ja)
WO (1) WO2012039404A1 (ja)

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014022833A (ja) * 2012-07-13 2014-02-03 Nippon Telegr & Teleph Corp <Ntt> 映像視聴履歴解析方法、映像視聴履歴解析装置及び映像視聴履歴解析プログラム
JP2014075743A (ja) * 2012-10-05 2014-04-24 Nippon Telegr & Teleph Corp <Ntt> 映像視聴履歴解析装置、映像視聴履歴解析方法及び映像視聴履歴解析プログラム
WO2014132987A1 (ja) * 2013-02-27 2014-09-04 ブラザー工業株式会社 情報処理装置及び情報処理方法
JP2014165840A (ja) * 2013-02-27 2014-09-08 Brother Ind Ltd 端末装置、プログラム、及び情報処理装置
JP2015015583A (ja) * 2013-07-04 2015-01-22 ブラザー工業株式会社 端末装置、及びプログラム
JP2015015582A (ja) * 2013-07-04 2015-01-22 ブラザー工業株式会社 端末装置、及びプログラム
JP2015097343A (ja) * 2013-11-15 2015-05-21 日本電信電話株式会社 映像配信システム、映像配信装置及び映像配信プログラム
JP2016105593A (ja) * 2014-11-26 2016-06-09 ソニー株式会社 ライブ選択的適応帯域幅
JP2016167699A (ja) * 2015-03-09 2016-09-15 日本電信電話株式会社 映像配信方法、映像配信装置及び映像配信プログラム
JP2016534674A (ja) * 2013-09-13 2016-11-04 ヴォーク, インク.Voke, Inc. 映像生成物共有装置及び方法
WO2016178340A1 (ja) * 2015-05-01 2016-11-10 株式会社電通 自由視点映像データ配信システム
JP2016201714A (ja) * 2015-04-13 2016-12-01 キヤノン株式会社 表示制御装置および表示制御方法
JP6037354B1 (ja) * 2015-06-03 2016-12-07 独立行政法人日本スポーツ振興センター 動画伝送サーバ
WO2018070092A1 (ja) * 2016-10-11 2018-04-19 ソニー株式会社 情報提供装置と情報提供方法および情報再生装置と情報再生方法
CN110602506A (zh) * 2019-09-25 2019-12-20 咪咕视讯科技有限公司 视频处理方法、网络设备及计算机可读存储介质
CN110798707A (zh) * 2018-08-02 2020-02-14 华为技术有限公司 传输媒体数据的方法、客户端和服务器
JP2020123962A (ja) * 2016-06-30 2020-08-13 株式会社ソニー・インタラクティブエンタテインメント 注視追跡のための装置及び方法
JP2020170903A (ja) * 2019-04-01 2020-10-15 日本電信電話株式会社 情報処理システム、コンテンツ生成装置、コンテンツ提示装置、コンテンツ生成方法、コンテンツ提示方法およびプログラム

Families Citing this family (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11019258B2 (en) 2013-08-21 2021-05-25 Verizon Patent And Licensing Inc. Aggregating images and audio data to generate content
US9451162B2 (en) 2013-08-21 2016-09-20 Jaunt Inc. Camera array including camera modules
US9911454B2 (en) 2014-05-29 2018-03-06 Jaunt Inc. Camera array including camera modules
US10204658B2 (en) 2014-07-14 2019-02-12 Sony Interactive Entertainment Inc. System and method for use in playing back panorama video content
US11108971B2 (en) 2014-07-25 2021-08-31 Verzon Patent and Licensing Ine. Camera array removing lens distortion
US10368011B2 (en) 2014-07-25 2019-07-30 Jaunt Inc. Camera array removing lens distortion
US10701426B1 (en) 2014-07-28 2020-06-30 Verizon Patent And Licensing Inc. Virtual reality system including social graph
US10186301B1 (en) 2014-07-28 2019-01-22 Jaunt Inc. Camera array including camera modules
US10440398B2 (en) 2014-07-28 2019-10-08 Jaunt, Inc. Probabilistic model to compress images for three-dimensional video
US9363569B1 (en) * 2014-07-28 2016-06-07 Jaunt Inc. Virtual reality system including social graph
US9774887B1 (en) 2016-09-19 2017-09-26 Jaunt Inc. Behavioral directional encoding of three-dimensional video
CN105635749B (zh) * 2014-10-31 2017-03-22 广州市动景计算机科技有限公司 产生视频帧集合的方法和设备
JP2017022529A (ja) 2015-07-09 2017-01-26 キヤノン株式会社 通信システム、通信装置、通信方法、及び、プログラム
US9824723B1 (en) * 2015-08-27 2017-11-21 Amazon Technologies, Inc. Direction indicators for panoramic images
US11032588B2 (en) * 2016-05-16 2021-06-08 Google Llc Method and apparatus for spatial enhanced adaptive bitrate live streaming for 360 degree video playback
US10681341B2 (en) 2016-09-19 2020-06-09 Verizon Patent And Licensing Inc. Using a sphere to reorient a location of a user in a three-dimensional virtual reality video
US11032535B2 (en) 2016-09-19 2021-06-08 Verizon Patent And Licensing Inc. Generating a three-dimensional preview of a three-dimensional video
US11032536B2 (en) 2016-09-19 2021-06-08 Verizon Patent And Licensing Inc. Generating a three-dimensional preview from a two-dimensional selectable icon of a three-dimensional reality video
EP3520414A1 (en) * 2016-09-29 2019-08-07 Koninklijke Philips N.V. Image processing
US10499066B2 (en) 2017-04-14 2019-12-03 Nokia Technologies Oy Method and apparatus for improving efficiency of content delivery based on consumption data relative to spatial data
US10694167B1 (en) 2018-12-12 2020-06-23 Verizon Patent And Licensing Inc. Camera array including camera modules
US20230060691A1 (en) * 2020-02-10 2023-03-02 Sony Group Corporation Image processing apparatus, image processing method, and program
JP7438835B2 (ja) * 2020-04-21 2024-02-27 株式会社東芝 サーバ装置、通信システム、プログラムおよび情報処理方法
CN111711859A (zh) * 2020-06-28 2020-09-25 北京奇艺世纪科技有限公司 一种视频图像处理方法、系统及终端设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004134914A (ja) * 2002-10-09 2004-04-30 Matsushita Electric Ind Co Ltd 動画像符号化方法および動画像符号化装置
JP2005221983A (ja) * 2004-02-09 2005-08-18 Sanyo Electric Co Ltd 画像符号化装置および画像復号装置、ならびにそれらを利用可能な画像表示装置および方法
JP2011024018A (ja) 2009-07-16 2011-02-03 Gunzoo Inc 送信装置、受信装置、送信方法、受信方法及び伝送システム

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1655620B (zh) * 2004-02-09 2010-09-22 三洋电机株式会社 图像显示装置
JP4603947B2 (ja) * 2004-09-03 2010-12-22 キヤノン株式会社 画像通信システム、サーバ装置およびその制御方法、並びにコンピュータプログラム
US20060078046A1 (en) * 2004-10-13 2006-04-13 Aegison Corp. Method and system for multi-path video delivery and distribution
US8977063B2 (en) * 2005-03-09 2015-03-10 Qualcomm Incorporated Region-of-interest extraction for video telephony
CN101167365A (zh) * 2005-03-09 2008-04-23 高通股份有限公司 用于视频电话的感兴趣区域处理
US7653252B2 (en) * 2005-09-22 2010-01-26 Compressus, Inc. Method and apparatus for boundary-based image compression
US20090300701A1 (en) * 2008-05-28 2009-12-03 Broadcom Corporation Area of interest processing of video delivered to handheld device
WO2010004711A1 (en) * 2008-07-11 2010-01-14 Sanyo Electric Co., Ltd. Image processing apparatus and image pickup apparatus using the image processing apparatus
US9036693B2 (en) * 2009-01-08 2015-05-19 Sri International Method and system for providing region-of-interest video compression
US8755441B2 (en) * 2010-05-10 2014-06-17 Canon Kabushiki Kaisha Region of interest-based video transfer

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004134914A (ja) * 2002-10-09 2004-04-30 Matsushita Electric Ind Co Ltd 動画像符号化方法および動画像符号化装置
JP2005221983A (ja) * 2004-02-09 2005-08-18 Sanyo Electric Co Ltd 画像符号化装置および画像復号装置、ならびにそれらを利用可能な画像表示装置および方法
JP2011024018A (ja) 2009-07-16 2011-02-03 Gunzoo Inc 送信装置、受信装置、送信方法、受信方法及び伝送システム

Non-Patent Citations (10)

* Cited by examiner, † Cited by third party
Title
H.KIMATA; S.SHIMIZU; Y KUNITA; M.ISOGAI; Y.OHTANI: "Panorama video coding for user-driven interactive video application", IEEE INTERNATIONAL SYMPOSIUM ON CONSUMER ELECTRONICS, KYOTO, 2009
HASSIN, R.; RUBINSTEIN, S.: "Better approximations for max TSP", INFORMATION PROCESSING LETTERS, vol. 75, 2000, pages 181 - 186
N.UCHIHARA; H.KASAI: "Fast stream joiner for next-generation interactive video", IEEE INTERNATIONAL CONFERENCE ON CONSUMER ELECTRONICS (ICCE), 2011, 9 January 2011 (2011-01-09), pages 319 - 320, XP031921251, DOI: doi:10.1109/ICCE.2011.5722604
NAOFUMI UCHIHARA ET AL.: "A Study on Video Delivery System with Free View-Area and Multiple Resolution Access for Multiple Users", IEICE TECHNICAL REPORT, vol. 109, no. 398, 21 January 2010 (2010-01-21), pages 89 - 94, XP008169220 *
S.HEYMANN; A.SMOLIC; K.MULLER; Y.GUO; J.RURAINSKI; P.EISERT; T.WIEGAND: "Representation, Coding and Interactive Rendering or High-Resolution Panoramic Images and Video using MPEG-4", PROC.PANORAMIC PHOTOGRAMMETRY WORKSHOP, BERLIN, GERMANY, February 2005 (2005-02-01)
See also references of EP2621167A4 *
T. BOGERS; A. VAN DEN BOSCH: "Collaborative and Content-based Filtering for Item Recommendation on Social Bookmarking Websites", PROCEEDINGS OF THE ACM RECSYS '09 WORKSHOP ON RECOMMENDER SYSTEMS AND THE SOCIAL WEB, 2009, pages 9 - 16
T. BOGERS; A. VAN DEN BOSCH: "Collaborative and Content-based Filtering for Item Recommendation on Social Bookmarking Websites.", PROCEEDINGS OF THE ACM RECSYS '09 WORKSHOP ON RECOMMENDER SYSTEMS AND THE SOCIAL WEB, 2009, pages 9 - 16
UCHIHARA, N. ET AL.: "Fast H.264/AVC Stream Joiner for Interactive Free View-Area Multivision Video", IEEE TRANSACTIONS ON CONSUMER ELECTRONICS, vol. 57, no. 3, August 2011 (2011-08-01), pages 1311 - 1319, XP011386575 *
WEI ZENG; JUN DU; WEN GAO: "Qingming Huang. Robust moving object segmentation on H.264/AVC compressed video using the block-based MRF model", REAL-TIME IMAGING, 2005, pages 290 - 299

Cited By (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014022833A (ja) * 2012-07-13 2014-02-03 Nippon Telegr & Teleph Corp <Ntt> 映像視聴履歴解析方法、映像視聴履歴解析装置及び映像視聴履歴解析プログラム
JP2014075743A (ja) * 2012-10-05 2014-04-24 Nippon Telegr & Teleph Corp <Ntt> 映像視聴履歴解析装置、映像視聴履歴解析方法及び映像視聴履歴解析プログラム
US9531984B2 (en) 2013-02-27 2016-12-27 Brother Kogyo Kabushiki Kaisha Terminal device, information processing device, and computer-readable medium
WO2014132987A1 (ja) * 2013-02-27 2014-09-04 ブラザー工業株式会社 情報処理装置及び情報処理方法
JP2014165841A (ja) * 2013-02-27 2014-09-08 Brother Ind Ltd 情報処理装置及び情報処理方法
JP2014165840A (ja) * 2013-02-27 2014-09-08 Brother Ind Ltd 端末装置、プログラム、及び情報処理装置
JP2015015582A (ja) * 2013-07-04 2015-01-22 ブラザー工業株式会社 端末装置、及びプログラム
JP2015015583A (ja) * 2013-07-04 2015-01-22 ブラザー工業株式会社 端末装置、及びプログラム
JP2016534674A (ja) * 2013-09-13 2016-11-04 ヴォーク, インク.Voke, Inc. 映像生成物共有装置及び方法
US10812781B2 (en) 2013-09-13 2020-10-20 Intel Corporation Video production sharing apparatus and method
JP2015097343A (ja) * 2013-11-15 2015-05-21 日本電信電話株式会社 映像配信システム、映像配信装置及び映像配信プログラム
JP2016105593A (ja) * 2014-11-26 2016-06-09 ソニー株式会社 ライブ選択的適応帯域幅
JP2016167699A (ja) * 2015-03-09 2016-09-15 日本電信電話株式会社 映像配信方法、映像配信装置及び映像配信プログラム
JP2016201714A (ja) * 2015-04-13 2016-12-01 キヤノン株式会社 表示制御装置および表示制御方法
JPWO2016178340A1 (ja) * 2015-05-01 2017-08-10 株式会社電通 自由視点映像データ配信システム
US10462497B2 (en) 2015-05-01 2019-10-29 Dentsu Inc. Free viewpoint picture data distribution system
WO2016178340A1 (ja) * 2015-05-01 2016-11-10 株式会社電通 自由視点映像データ配信システム
JP6037354B1 (ja) * 2015-06-03 2016-12-07 独立行政法人日本スポーツ振興センター 動画伝送サーバ
JP2020123962A (ja) * 2016-06-30 2020-08-13 株式会社ソニー・インタラクティブエンタテインメント 注視追跡のための装置及び方法
WO2018070092A1 (ja) * 2016-10-11 2018-04-19 ソニー株式会社 情報提供装置と情報提供方法および情報再生装置と情報再生方法
CN110798707A (zh) * 2018-08-02 2020-02-14 华为技术有限公司 传输媒体数据的方法、客户端和服务器
CN110798707B (zh) * 2018-08-02 2023-06-16 华为技术有限公司 传输媒体数据的方法、客户端和服务器
JP2020170903A (ja) * 2019-04-01 2020-10-15 日本電信電話株式会社 情報処理システム、コンテンツ生成装置、コンテンツ提示装置、コンテンツ生成方法、コンテンツ提示方法およびプログラム
JP7280495B2 (ja) 2019-04-01 2023-05-24 日本電信電話株式会社 情報処理システム、コンテンツ生成装置、コンテンツ提示装置、コンテンツ生成方法、コンテンツ提示方法およびプログラム
CN110602506A (zh) * 2019-09-25 2019-12-20 咪咕视讯科技有限公司 视频处理方法、网络设备及计算机可读存储介质
CN110602506B (zh) * 2019-09-25 2023-04-28 咪咕视讯科技有限公司 视频处理方法、网络设备及计算机可读存储介质

Also Published As

Publication number Publication date
SG188630A1 (en) 2013-04-30
EP2621167A4 (en) 2015-04-29
EP2621167A1 (en) 2013-07-31
JP5544426B2 (ja) 2014-07-09
KR20130108311A (ko) 2013-10-02
CN103190156A (zh) 2013-07-03
JPWO2012039404A1 (ja) 2014-02-03
US20130223537A1 (en) 2013-08-29

Similar Documents

Publication Publication Date Title
JP5544426B2 (ja) 映像ビットストリームの伝送システム
US11683540B2 (en) Method and apparatus for spatial enhanced adaptive bitrate live streaming for 360 degree video playback
Gaddam et al. Tiling in interactive panoramic video: Approaches and evaluation
CN109155873B (zh) 改进虚拟现实媒体内容的流传输的方法、装置和计算机程序
JP5089658B2 (ja) 送信装置及び送信方法
WO2019202207A1 (en) Processing video patches for three-dimensional content
KR101528863B1 (ko) 파노라마 영상의 스트리밍 서비스 제공 시스템에서 타일링 영상 동기화 방법
JP2005533433A (ja) 2次元および3次元立体ビデオ信号の適応変換装置およびその方法
US10931930B2 (en) Methods and apparatus for immersive media content overlays
CN103916699A (zh) 用于使用mvc产生360度视频记录的系统及方法
KR101964126B1 (ko) 고화질 동영상의 스트리밍 전송 장치 및 방법
WO2019064853A1 (ja) 情報処理装置、情報提供装置、制御方法、及びプログラム
KR101593780B1 (ko) 상이한 디바이스들에 걸친 콘텐츠의 끊김 없는 네비게이션을 위한 방법 및 시스템
KR102133207B1 (ko) 통신장치, 통신 제어방법 및 통신 시스템
US10313728B2 (en) Information processing apparatus and information processing method
WO2019107175A1 (ja) 送信装置、送信方法、受信装置および受信方法
US20200404241A1 (en) Processing system for streaming volumetric video to a client device
JP2019083555A (ja) 情報処理装置、コンテンツ要求方法およびコンピュータプログラム
JP2017123503A (ja) 映像配信装置、映像配信方法及びコンピュータプログラム
JP5734699B2 (ja) 配信映像の超解像化装置
Laghari et al. The state of art and review on video streaming
CA3057924A1 (en) System and method to optimize the size of a video recording or video transmission by identifying and recording a region of interest in a higher definition than the rest of the image that is saved or transmitted in a lower definition format
KR101944601B1 (ko) 기간들에 걸쳐 오브젝트들을 식별하기 위한 방법 및 이에 대응하는 디바이스
US11375171B2 (en) System and method for preloading multi-view video
KR101979432B1 (ko) 360도 vr 콘텐츠 내의 음원 위치 정보를 이용한 사용자의 시점 예측 장치 및 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 11826849

Country of ref document: EP

Kind code of ref document: A1

DPE1 Request for preliminary examination filed after expiration of 19th month from priority date (pct application filed from 20040101)
REEP Request for entry into the european phase

Ref document number: 2011826849

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 2011826849

Country of ref document: EP

ENP Entry into the national phase

Ref document number: 2012535043

Country of ref document: JP

Kind code of ref document: A

ENP Entry into the national phase

Ref document number: 20137007401

Country of ref document: KR

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

WWE Wipo information: entry into national phase

Ref document number: 13825973

Country of ref document: US