JP6843655B2 - 送信装置、受信装置、情報処理方法及びプログラム - Google Patents
送信装置、受信装置、情報処理方法及びプログラム Download PDFInfo
- Publication number
- JP6843655B2 JP6843655B2 JP2017044710A JP2017044710A JP6843655B2 JP 6843655 B2 JP6843655 B2 JP 6843655B2 JP 2017044710 A JP2017044710 A JP 2017044710A JP 2017044710 A JP2017044710 A JP 2017044710A JP 6843655 B2 JP6843655 B2 JP 6843655B2
- Authority
- JP
- Japan
- Prior art keywords
- area information
- segment
- video area
- information
- request
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/21—Server components or server architectures
- H04N21/218—Source of audio or video content, e.g. local disk arrays
- H04N21/21805—Source of audio or video content, e.g. local disk arrays enabling multiple viewpoints, e.g. using a plurality of cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/60—Network streaming of media packets
- H04L65/61—Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio
- H04L65/611—Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio for multicast or broadcast
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/60—Network streaming of media packets
- H04L65/61—Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio
- H04L65/612—Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio for unicast
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/60—Network streaming of media packets
- H04L65/70—Media network packetisation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/60—Network streaming of media packets
- H04L65/75—Media network packet handling
- H04L65/762—Media network packet handling at the source
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/60—Network streaming of media packets
- H04L65/75—Media network packet handling
- H04L65/764—Media network packet handling at the destination
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/02—Protocols based on web technology, e.g. hypertext transfer protocol [HTTP]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/161—Encoding, multiplexing or demultiplexing different image signal components
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/172—Processing image signals image signals comprising non-image signal components, e.g. headers or format information
- H04N13/178—Metadata, e.g. disparity information
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/194—Transmission of image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/235—Processing of additional data, e.g. scrambling of additional data or processing content descriptors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/25—Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
- H04N21/266—Channel or content management, e.g. generation and management of keys and entitlement messages in a conditional access system, merging a VOD unicast channel into a multicast channel
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
- H04N21/462—Content or additional data management, e.g. creating a master electronic program guide from data received from the Internet and a Head-end, controlling the complexity of a video stream by scaling the resolution or bit-rate based on the client capabilities
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/83—Generation or processing of protective or descriptive data associated with content; Content structuring
- H04N21/845—Structuring of content, e.g. decomposing content into time segments
- H04N21/8456—Structuring of content, e.g. decomposing content into time segments by decomposing the content in the time domain, e.g. in time segments
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/85—Assembly of content; Generation of multimedia applications
- H04N21/854—Content authoring
- H04N21/85406—Content authoring involving a specific file format, e.g. MP4 format
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
Description
スマートフォンやタブレットのような端末の普及により、様々な端末装置でいつでもどこでもストリーミングコンテンツを楽しみたいという需要が高まって来ている。この要求を実現するために端末装置の能力や端末装置が置かれる通信状況に応じて、動的に取得するストリームを変更する技術(MPEG−DASH、Http Live Streaming等)が注目されている。これらの技術では映像データを細かい時間単位のセグメントに分割し、セグメントを取得するためのURL(Uniform Resource Locator)をプレイリストと呼ばれるファイルに記述する。受信装置は初めにこのプレイリストを取得し、プレイリストに記述されている情報を用いて所望の映像データを取得する。プレイリスト中に複数のバージョンの映像データセグメントに対するURLを記載することで、受信装置が自身の能力や通信環境に応じて、最適なバージョンの映像データセグメントを取得することができる。
一方で、近年全天周撮像装置により撮像された全天周映像データを、ユーザにリアルタイムに配信する配信システムが提供されている。特許文献1では、HTTPストリーミング技術を活用して、360度の全天周映像データの配信を行うシステムが記載されている。
つまり、カメラの向きの変化にかかわらず同一の方向を視聴していたいユーザにとっては、カメラの向きなどの変化に応じて配信映像が変化すると不都合である。一方、カメラの向きなどの変化に応じて映像を変化させたいユーザにとっては、常に同じ範囲の映像が表示されると不都合である。
本発明は上記の問題点に鑑みてなされたものであり、その目的は、カメラの撮像映像の配信中に当該カメラの撮像範囲が変化する場合においても、ユーザが意図する映像を配信されやすくすることである。
図1は、全天周映像データ及びその投影方式の一例を示す図である。全天周映像は、図1(a)の1101に示すように、原点O(1103)を中心とした、周囲(方位角φ=0°〜360°、仰角θ=−90°〜90°)の範囲を撮像した映像である。全周囲映像は、全方位映像、Virtual Reality(VR)映像、360°映像や、その他異種の呼び方があるが、これらの呼び方に関わらず、本実施形態の構成は適用可能である。本実施形態では三次元空間の全方位に画像を有する全天周画像として、映像(動画)を配信する例を説明するが、静止画像を配信するようにしてもよい。
また、本実施形態の構成が適用することができる映像の範囲は、1101で示されるような、方位角φ=0°〜360°、仰角θ=−90°〜90°の映像に限定されない。例えば、方位角φ=0°〜360°、仰角θ=0°〜90°の半球や、その他の任意の方位角、仰角の値を取る映像に対しても、本実施形態の構成は適用可能である。また、右目用データ、左目用データ、立体視用データ等の全天周映像データに対しても、本実施形態の構成は適用することができる。
タイル分割された全天周映像は、動画コンテナフォーマットに格納される際に、複数の動画ファイルに分割されるセグメント化が行われる。本実施形態において、後述する送信装置101に格納されている映像データは、複数のファイルにセグメント化されているが、これに限らず単一のファイルに格納されていてもよい。単一のファイルに格納されている場合、後述する受信装置102は、そのファイルの特定の範囲(バイトレンジ)を指定してセグメントの取得を行う。また、二次元平面上に投影した全天周映像データを、複数の領域に分割し、それぞれの領域毎に、符号化、動画コンテナへの格納、及び、セグメント化を行ってもよい。セグメントとは、映像データを空間的又は時間的に分割した映像データの単位をいう。
映像領域情報とは、タイル分割された全天周映像について、その映像の領域の特徴に関する情報である。視点情報、FOV(Field Of View)、視点移動情報、視点座標情報、観測位置情報が映像領域情報に当てはまるが、これらに限定されない。これらの情報のうち、少なくても一種類、又は複数種類の組み合わせを映像領域情報として扱う。
FOVとは、全天周映像における映像の領域を表す情報である。FOVは分割された映像領域の二つの観測角度からなる。例えば図1(b)の部分領域1111におけるFOVは四角で示している領域1113であるが、この領域を示す水平FOV角度1114と垂直FOV角度1115とが二つの観測角度にあたる。FOVは対角FOV角度等、別の値を用いてもよい。
視点移動情報とは、視点情報がどのように移動するかを表す情報である。図1(c)は視点移動情報についての例を示している。あるセグメントの映像を撮影する際に、撮影中のカメラ1121が1122の視点0から1123の視点1へ時刻t1からT1時間かけて撮影方向を移動させ、その後1124の視点2へ時刻t2からT2時間かけて撮影方向を移動させたとする。この例の場合、視点の始点、移動開始時刻、移動にかかる時間、視点の終点が分かるように視点移動情報1125を
"(視点0),(移動開始時刻,移動時間),(視点1),(移動開始時刻,移動時間),(視点2)=(yaw0,pitch0,roll0),(t1,T1),(yaw1,pitch1,roll1),(t2,T2),(yaw2,pitch2,roll2)"
というように表す。視点の移動する点と移動開始時刻及び移動時間を表せるならば、ベクトルを用いた式で視点の軌跡を表す等、別の方法で視点移動情報を表してもよい。
観測位置情報とは、全天周映像におけるタイル分割された映像の観測を行っている位置である。カメラで撮影している映像の場合、撮影をしているカメラの位置が観測位置情報である。観測位置情報は経度と緯度で表すが、高度を含める等、この方法に限定されない。
図2は、情報処理システムのシステム構成の一例を示す図である。送信装置101は、ネットワーク103を介して、受信装置102と接続される。送信装置101、受信装置102はそれぞれ複数存在してもよい。
送信装置101は、コンテンツの送信機能を備え、ユーザからの入力を受け付ける機能を備えてもよい。送信装置101のより具体的な例としては、カメラ装置、ビデオカメラ装置、スマートフォン装置、PC装置、携帯電話等が挙げられるが、前述の機能を備えるものであればこれに限定されない。
受信装置102は、コンテンツの再生・表示機能、通信機能を備え、ユーザからの入力を受け付ける機能を備えてもよい。受信装置102のより具体的な例は、スマートフォン装置、PC装置、テレビ、携帯電話、等が挙げられるが、前述の機能構成を満たすものであればこれに限定されない。
ネットワーク103は、有線LAN(Local Area Network)、又は無線LAN(Wireless LAN)である。本実施形態ではネットワーク103として有線LAN、又は無線LANを利用しているが、これに限らず、WAN(Wide Area Network)、PAN(Personal Area Network)等でもよい。
図3は、送信装置101のハードウェア構成の一例を示す図である。
中央処理装置(以下、CPUと称す)401は、送信装置101の全体を制御し、データの計算・加工を行う装置である。CPU401は、後述するROM402に格納されたプログラムを後述するRAM403に展開して実行する。CPU401がプログラムを実行することによって、後述する図5の符号化部202、プレイリスト生成部203、セグメント生成部204、送信データ決定部205、映像領域情報管理部206及び通信制御部207が実現される。また、CPU401がプログラムを実行することによって、後述する送信装置101のフローチャートの処理、後述する図9〜図11のシーケンス図の送信装置101の処理が実現される。
ROM402は、一度書き込まれた情報を読み出すための記憶装置である。ROM402は、例えば、CPU401が実行するプログラム等を記憶する。
RAM403は、一時的にデータの書き込みと読み出すための記憶装置である。RAM403は、例えば、CPU401がプログラムを実行する際に用いられる値等を記憶する。
内蔵メモリ404及び外部メモリ405は、アプリケーションのコンテンツを記憶しておく外部記憶装置である。
入力装置406は、電源ボタンや音量ボタン、ホームボタン等、ボタン等として実装される入力装置である。入力装置406は、送信装置101に複数実装することができる。
ネットワークI/F407は、ネットワーク103を介してデータの送受信をするための装置である。後述する図5の通信制御部207は、ネットワークI/F407及びネットワーク103を介した受信装置102との通信を制御する。
電源408は、送信装置101に電源を供給・充電する装置であり、電池と充電装置とを含む。
カメラ409は、送信用コンテンツを撮影する装置である。カメラ409は、後述する図5の撮像部201を実現した装置である。カメラ409は、地磁気センサー410、ジャイロセンサー411、GPSセンサー412といった映像領域情報のためのセンサーを持つ。カメラ409は、410から412までのセンサーの内、一部のみを持つ構成でもよいし、又は410から412までのセンサー以外のセンサーを持ってもよい。
図4は、受信装置102のハードウェア構成の一例を示す図である。
中央処理装置(以下、CPUと称す)501は、受信装置102の全体を制御し、データの計算・加工を行う装置である。CPU501は、後述するROM502に格納されたプログラムを後述するRAM503に展開して実行する。CPU501がプログラムを実行することによって、後述する図6の復号化部302、プレイリスト解析部303、映像領域情報取得指示部306、取得セグメント決定部307、通信制御部308が実現される。
ROM502は、一度書き込まれた情報を読み出すための記憶装置である。ROM502は、例えば、CPU501が実行するプログラム等を記憶する。
RAM503は、一時的にデータの書き込みと読み出すための記憶装置である。RAM503は、例えば、CPU501がプログラムを実行する際に用いられる値等を記憶する。
内蔵メモリ504及び外部メモリ506は、アプリケーションのコンテンツを記憶しておく外部記憶装置である。後述する図6のバッファ304は、内蔵メモリ504に実装される。入力装置505は、電源ボタンや音量ボタン、ホームボタン等、ボタン等として実装される入力装置である。
入力装置505は、受信装置102に複数実装することができる。
スピーカー507及びディスプレイ508は、送信装置101から受信したコンテンツを再生することができる。
ネットワークI/F509は、ネットワーク103を介してデータの送受信をするための装置である。後述する図6の通信制御部308は、ネットワークI/F509及びネットワーク103を介した送信装置101との通信を制御する。
電源510は、受信装置102に電源を供給・充電する装置であり、電池と充電装置とを含む。電源510は、ACアダプタにより実現してもよい。
図5は、送信装置101の機能構成の一例を示す図である。送信装置101は、撮像部201で撮影した映像データを符号化し、また映像領域情報を生成する。撮像部201は、送信装置101の外部にあって映像データ及び映像領域情報を送信装置101に提供してもよい。セグメント生成部204は、符号化部202で符号化された映像データから映像データの送信単位であるセグメントを生成する。本実施形態におけるセグメントのファイルフォーマットとしてはISOBMFF(Base Media File Format)を利用するが、これに限らずMPEG2TS等でもよい。プレイリスト生成部203は、セグメント生成部204が作成したセグメントへのアクセスを可能とするURLを記載したプレイリストを生成する。プレイリストのフォーマットとしてMPEG−DASHで規定されているMPD(Media Presentation Description)がある。Http Livestreamingにおけるプレイリストの記述方法等、これと同等の機能を有するものでもよい。送信データ決定部205は、受信装置102へ送信するセグメント及び映像領域情報を決定し通信制御部207へ渡し送信させる。通信制御部207は、生成されたプレイリスト、送信すると決定された映像領域情報及びセグメントを、ネットワーク103越しに受信装置102に送信する。映像領域情報管理部206は、撮像部201から取得する映像領域情報の管理や受信装置102への映像領域情報送信設定の管理を行う。
図6は、受信装置102の機能構成の一例を示す図である。受信装置102は、ネットワーク103越しに受信する映像データを出力制御部301で再生する。出力制御部301は、受信装置102の外部にあって映像データを外部の表示部へ提供してもよい。通信制御部308は、ネットワーク103越しにセグメント、映像領域情報及びプレイリストを受信し、セグメントと映像領域情報とはバッファ304へ、プレイリストはプレイリスト解析部303へ渡す。復号化部302は、バッファ304に蓄積されているセグメントと映像領域情報とを基に映像データを復号化する。取得セグメント決定部307は、ユーザインタフェイス部305からの入力に基づき、プレイリスト解析部303からの解析結果を基に取得するセグメントを決定するが、これに限らずネットワーク103の状況に応じて決定する等、他の方法でもよい。映像領域情報取得指示部306は、ユーザインタフェイス部305からの入力に基づき映像領域情報の要求及び不要要求の送信有無を決定するが、これに限らずネットワーク103の状況に応じて決定する等、他の方法でもよい。
図7を用いて実施形態における送信装置101の情報処理について説明する。
図7は、映像領域情報の要求又は不要要求の受信から映像領域情報の送信を行うまでにおける、送信装置101による情報処理の一例を示すフローチャートである。
S614の処理については後述する。
S601において、通信制御部207は、ストリーム映像領域情報要求を受信したか否かを判定する。通信制御部207は、ストリーム映像領域情報要求を受信した場合(S601においてYES)、S602へ遷移し、ストリーム映像領域情報要求を受信していない場合(S601においてNO)、S603へ遷移する。ここで、ストリームとは時間的に連続性があり送信装置101と受信装置102との間でやり取りされるセグメントの集まりのことを意味する。ストリーム映像領域情報要求とは、ストリームを構成する各セグメントの映像領域情報を継続して送信するように要求することである。ストリーム映像領域情報要求は明示的に不要要求を送信するまで継続して映像領域情報を送信する要求でもよいし、"セグメント100個まで映像領域情報を送信して欲しい"というような限定した要求でもよい。またストリーム映像領域情報要求では送信して欲しい映像領域情報の種類を指定してもよい。視点座標情報を指定する場合は、座標情報を取得したい観測方向をストリーム映像領域情報要求に含めてもよい。
S602において、映像領域情報管理部206は、ストリーム映像領域情報送信設定を有効にする。ストリーム映像領域情報送信設定とは、ストリームを構成する各セグメントの映像領域情報を送信するかの設定値である。ストリーム映像領域情報送信設定は有効と無効との値を持つ。ストリーム映像領域情報送信設定は、以前に送信した映像領域情報から変化があったときに映像領域情報を送信するという設定値を持ってもよい。本実施形態においてストリーム映像領域情報送信設定のデフォルト値は有効としているが、デフォルト値を無効としてもよい。
S604において、映像領域情報管理部206は、ストリーム映像領域情報送信設定を無効にする。
S601からS602までの処理とS603からS604までの処理との順番は逆でもよい。即ち、送信装置101は、S603を先に行い、S603でNOの場合にS601へ遷移するという処理を行うようにしてもよい。また、送信装置101は、S601(S603)でYESの場合にもS603(S601)を処理するようにしてもよい。
送信装置101は、ストリーム映像領域情報要求及び不要要求をサポートせず、後述するセグメント映像領域情報要求及び不要要求のみをサポートするようにしてもよい。ストリーム映像領域情報要求及び不要要求のサポートをしない場合、送信装置101は、S601、S602、S603、S604はスキップする。
S606において、映像領域情報管理部206は、S605で受信したセグメント映像領域情報要求を基に、該当するセグメントのセグメント映像領域情報送信設定を有効にする。セグメント映像領域情報送信設定とは、各セグメントの映像領域情報を送信するかの設定であり、セグメント毎に管理される値である。本実施形態においてセグメント映像領域情報送信設定は有効、無効、未設定の値を持つが、未設定の値は無くてもよい。本実施形態においてセグメント映像領域情報送信設定のデフォルト値は未設定としているが、デフォルト値を有効又は無効としてもよい。
本実施形態においては、ストリーム映像領域情報送信設定の値に関わらずセグメント映像領域情報送信設定の値が優先して映像領域情報の送信有無に反映される。しかし、セグメント映像領域情報送信設定の値よりもストリーム映像領域情報送信設定の値の方が優先されるようにしてもよい。例えば、ストリーム映像領域情報送信設定が無効であればセグメント映像領域情報送信設定が有効だとしても該当するセグメントの映像領域情報は送信しない、等である。
S608において、映像領域情報管理部206は、S605で受信したセグメント映像領域情報要求を基に、該当するセグメントのセグメント映像領域情報送信設定を無効にする。
S605からS606までの処理とS607からS608までの処理との順番は逆でもよい。即ち、送信装置101は、S607を先に行い、S607でNOの場合にS605へ遷移するという処理を行うようにしてもよい。また、送信装置101は、S605(S607)でYESの場合にもS607(S605)を処理するようにしてもよい。
送信装置101は、セグメント映像領域情報要求及び不要要求をサポートせず、ストリーム映像領域情報要求及び不要要求のみのサポートでもよい。送信装置101がセグメント映像領域情報要求及び不要要求のサポートをしない場合、S605、S606、S607、S608はスキップする。
S610において、通信制御部207は、映像領域情報管理部206のセグメント映像領域情報送信設定が無効ではない、即ち有効か未設定であるか否かを判定する。通信制御部207は、セグメント映像領域情報送信設定が有効か未設定である場合(S610においてYES)、S612へ遷移し、セグメント映像領域情報送信設定が無効である場合(S610においてNO)、S613へ遷移する。
S611において、通信制御部207は、映像領域情報管理部206のセグメント映像領域情報が有効であるか否かを判定する。通信制御部207は、セグメント映像領域情報が有効である場合(S611においてYES)、S612へ遷移し、セグメント映像領域情報が有効ではない、即ち無効か未設定である場合(S611においてNO)、S613へ遷移する。
S612において、通信制御部207は、送信可能となったセグメントの映像領域情報を送信する。ストリーム映像領域送信要求及びセグメント映像領域送信要求で送信する映像領域情報の種類が指定されている場合は、通信制御部207は、指定された種類の映像領域情報を送信する。以前のS612にて送信した映像領域情報と内容が同じである場合、通信制御部207は、セグメントの映像領域情報は送信しなくてもよい。
S614において、プレイリスト生成部203は、MPDファイルに映像領域関連情報を記載する。そして、通信制御部207は、生成されたMPDファイルを送信する。送信装置101は、MPDに限定せず、Http Livestreamingにおけるプレイリストの記述方法等、MPDと同等の機能を有するものを用いてもよい。映像領域関連情報とは映像領域情報を取得可能かどうか、映像領域情報の種類、映像領域情報を取得する為のプロトコル情報、映像領域情報を特定するためのURL等のことである。映像領域関連情報をMPEG−DASH以外のプロトコルで事前に通知する等、異なる方法により送信装置101と受信装置102との間で映像領域関連情報を共有する場合はMPDファイルに映像領域関連情報を記載しなくてもよい。送信装置101はS614を、一度行っていれば再度行わなくてもよいし、複数回行ってもよい。MPDファイルは、セグメントへのアクセスを可能とする情報を記載したデータの一例である。
図8を用いて実施形態における受信装置102の情報処理について説明する。
図8は、映像領域情報の要求又は不要要求の送信から映像領域情報の受信を行うまでにおける、受信装置102による情報処理の一例を示すフローチャートである。
S710の処理については後述する。
S701において、映像領域情報取得指示部306は、ストリームを構成する各セグメントの映像領域情報を継続して受信したいか否かを判定する。映像領域情報取得指示部306は、ストリームを構成する各セグメントの映像領域情報を継続して受信したい場合(S701においてYES)、S702へ遷移する。また、映像領域情報取得指示部306は、ストリームを構成する各セグメントの映像領域情報を継続して受信したくない場合(S701においてNO)、S703へ遷移する。
S702において、通信制御部308は、映像領域情報取得指示部306からの指示に基づき、ストリーム映像領域情報要求を送信する。例えば、映像領域情報取得指示部306は、ストリーム映像領域情報要求を、明示的に不要要求を送信するまで継続して映像領域情報を送信する要求とするよう指示してもよい。また、例えば、映像領域情報取得指示部306は、ストリーム映像領域情報要求を、"セグメント100個まで映像領域情報を送信して欲しい"というような限定した要求としてもよい。例えば、映像領域情報取得指示部306は、ストリーム映像領域情報要求に送信して欲しい映像領域情報の種類を指定してもよい。また、例えば、映像領域情報取得指示部306は、視点座標情報を指定する場合に、座標情報を取得したい観測方向をストリーム映像領域情報要求に含めるよう指示してもよい。また、例えば、映像領域情報取得指示部306は、ストリーム映像領域情報要求を、映像領域情報の内容が変化したときにのみ映像領域情報を送信するよう要求とするよう指示してもよい。受信装置102は、既にストリーム映像領域情報要求を送信装置101に送信し、送信装置101のストリーム映像領域情報送信設定が有効になっている場合は、再度、ストリーム映像領域情報要求を送信しなくてもよい。また、受信装置102は、ストリーム映像領域情報要求を送信していなくても送信装置101のストリーム映像領域情報送信設定のデフォルト値が有効である場合等、既にストリーム映像領域情報送信設定が有効である場合、送信しなくてもよい。
S703において、通信制御部308は、映像領域情報取得指示部306からの指示に基づき、ストリーム映像領域情報不要要求を送信する。受信装置102は、既にストリーム映像領域情報不要要求を送信装置101に送信し、送信装置101のストリーム映像領域情報送信設定を無効にしている場合は再度、ストリーム映像領域情報不要要求を送信しなくてもよい。また、受信装置102は、ストリーム映像領域情報不要要求を送信していなくても送信装置101のストリーム映像領域情報送信設定のデフォルト値が無効である場合等、既にストリーム映像領域情報送信設定が無効であるならば送信しなくてもよい。
送信装置101がストリーム映像領域情報要求及び不要要求をサポートしていない場合、受信装置102は、S701、S702、S703はスキップする。
S705において、通信制御部308は、取得セグメント決定部307で映像領域情報を取得したいと判断されたセグメントに対応するセグメント映像領域情報要求を送信する。例えば、取得セグメント決定部307は、セグメント映像領域情報要求で送信して欲しい映像領域情報の種類を指定するようにしてもよい。視点座標情報を指定する場合、取得セグメント決定部307は、座標情報を取得したい観測方向をセグメント映像領域情報要求に含めるようにしてもよい。受信装置102は、S702でストリーム映像領域情報取得要求を送信し送信装置101のストリーム映像領域情報送信設定を有効にしている場合、セグメント映像領域情報要求を送信しなくてもよい。又は、受信装置102は、ストリーム映像領域情報取得要求を送信していなくても送信装置101のストリーム映像領域情報送信設定のデフォルト値が有効である場合等、既にストリーム映像領域情報送信設定が有効であるならばセグメント映像領域情報要求を送信しなくてもよい。
S706において、取得セグメント決定部307は、送信装置101に対し特定のセグメントの映像領域情報の送信を禁止するか否かを判定する。取得セグメント決定部307は、送信装置101に対し特定のセグメントの映像領域情報の送信を禁止する場合(S706においてYES)、S707へ遷移する。また、取得セグメント決定部307は、送信装置101に対し特定のセグメントの映像領域情報の送信を禁止しない場合(S706においてNO)、S708へ遷移する。
S707において、通信制御部308は、取得セグメント決定部307からの指示に基づきS705で映像領域情報の送信を禁止するセグメントに対応するセグメント映像領域情報不要要求を送信する。送信装置101のストリーム映像領域情報送信設定が無効であるならば受信装置102は、セグメント映像領域情報不要要求を送信しなくてもよい。
送信装置101がセグメント映像領域情報要求及び不要要求をサポートしていない場合、受信装置102は、S704、S705、S706、S707はスキップする。
S708にて、送信装置101がセグメントの映像領域情報を送ってきた場合、通信制御部308は、セグメントの映像領域情報を受信する。
S710において、通信制御部308は、MPDファイルを受信する。そして、プレイリスト解析部303は、MPDファイルから映像領域関連情報を取得する。受信装置102は、MPDに限定せず、Http Livestreamingにおけるプレイリストの記述方法等、MPDと同等の機能を有するものを用いてもよい。映像領域関連情報をMPEG−DASH以外のプロトコルで事前に取得する等、異なる方法により送信装置101と受信装置102との間で映像領域関連情報を共有する場合はMPDファイルから映像領域関連情報を取得しなくてもよい。受信装置102はS710を、一度行っていれば再度行わなくてもよいし、複数回行ってもよい。
セグメント毎に、セグメントリクエストと合わせて映像領域情報を要求する例について、送信装置101と受信装置102との間のやり取りを表したシーケンスを、図9を用いて説明する。
M801にて、受信装置102の通信制御部308は、送信装置101へMPDファイルリクエストを送信する。
S614により、802にて、送信装置101のプレイリスト生成部203は、MPDファイルに映像領域関連情報を記載する。
M803にて、送信装置101の通信制御部207は、MPDファイルを送信する。
S710により、M803にて、受信装置102の通信制御部308は、送信装置101からMPDファイルを受信し、MPDファイルから映像領域関連情報を把握する。動作例1では、受信装置102は、セグメントリクエストのHTTPヘッダーとしてセグメント映像領域情報要求を送信する。そして送信装置101は、セグメントレスポンスのHTTPヘッダーとして映像領域情報を送信するものとする。セグメント映像領域情報要求は、セグメントリクエスト時のURLにパラメータとして送信する等別の方法でもよい。映像領域情報は、moof(Movie Fragment Box)といったセグメントデータのメタデータとして送信する等、別の方法でもよい。
送信装置101はストリーム映像領域情報要求及び不要要求に対応していないため、受信装置102は、S701、S702、S703をスキップし、また送信装置101は、S601、S602、S603、S604をスキップする。
まず受信装置102がセグメントの映像領域情報を求める場合804の説明を行う。
S704により、受信装置102の取得セグメント決定部307は、ある1セグメントの映像領域情報を取得したいものとし、S705へ遷移する。
S705により、M805にて、受信装置102の通信制御部308は、取得セグメント決定部307からの指示に基づき、セグメントリクエストと共にセグメント映像領域情報要求としてrequire−regioninfoヘッダーに"yes"という値を入れて送信装置101へ送信する。require−regioninfoヘッダーはセグメント映像領域情報に要求及び不要要求を送信する際に使用するヘッダーとし、要求の場合は"yes"、不要要求の場合は"no"の値をとるものとする。本実施形態では、セグメント映像領域情報は、送信装置101が持つすべての種類の映像領域情報の要求とするが、送信して欲しい映像領域情報の種類を指定するパラメータを追加し、送信して欲しい映像領域情報の種類を指定してもよい。視点座標情報を指定する場合、通信制御部308は、取得セグメント決定部307からの指示に基づき、座標情報を取得したい観測方向のパラメータを含めてもよい。require−regioninfoヘッダーがとる値は"on"、"off"というような別の値としてもよい。受信装置102は、セグメント映像領域情報要求及び不要要求を送信する際に別のヘッダーを使用してもよい。
S606により、送信装置101の映像領域情報管理部206は、リクエストを受けたセグメントに該当するセグメント映像領域情報送信設定を有効にする。
S609により、送信装置101の通信制御部207は、映像領域情報管理部206のストリーム映像領域情報送信設定は無効であるとし、S611へ遷移する。
S611により、送信装置101の通信制御部207は、映像領域情報管理部206のセグメント映像領域情報送信設定が有効であるとし、S612へ遷移する。
S612により、M806にて、送信装置101の通信制御部207は、セグメントレスポンスと共にregioninfoヘッダーに映像領域情報を含め送信する。regioninfoヘッダーはセグメントの映像領域情報を送信する際に使用するヘッダーとする。通信制御部207は、regioninfoヘッダーを、映像領域情報送信しないことを明示的に示すために送信してもよく、この場合は"none"という値をとる。通信制御部207は、regioninfoヘッダーではなく別のヘッダーを使用してもよい。
S708により、M806にて、受信装置102の通信制御部308は、regioninfoヘッダーの値として映像領域情報を含むセグメントレスポンスを受信する。
S704により、受信装置102の取得セグメント決定部307は、ある1セグメントの映像領域情報を取得したいわけではないとし、S706へ遷移する。
S706により、受信装置102の取得セグメント決定部307は、送信装置101からある1セグメントの映像領域情報の送信を禁止するとし、S707へ遷移する。
S707により、M806にて、受信装置102の通信制御部308は、セグメントリクエストと共にセグメント映像領域情報不要要求としてrequire−regioninfoヘッダーに"no"という値を入れて送信装置101へ送信する。
受信装置102の取得セグメント決定部307は、送信装置101からのセグメントの映像領域情報の送信を禁止しない場合は、S706にてS708へ遷移する。この場合M808では受信装置102の通信制御部308は、セグメントリクエストにrequire−regioninfoヘッダーを含めずに送信する。
S605により、送信装置101の通信制御部207は、値が"yes"であるrequire−regioninfoヘッダーを含むセグメントリクエストを受信していないためS607へ遷移する。
S607により、送信装置101の通信制御部207は、値が"no"であるrequire−regioninfoヘッダーを含むセグメントリクエストを受信しているためS608へ遷移する。S706にて708へ遷移している場合は、送信装置101は、S606へ遷移する。
S608により、送信装置101の映像領域情報管理部206は、リクエストを受けたセグメントに該当するセグメント映像領域情報送信設定を無効にする。
S609により、送信装置101の通信制御部207は、映像領域情報管理部206のストリーム映像領域情報送信設定は無効であるとし、S611へ遷移する。
S611により、送信装置101の映像領域情報管理部206は、セグメント映像領域情報送信設定が有効ではないとし、S613へ遷移する。
M809にて、送信装置101の通信制御部207は、セグメントレスポンスと共に値が"null"であるregioninfoヘッダーを含め送信する。そして受信装置102の通信制御部308は、これを受信する。送信装置101の通信制御部207は、セグメントレスポンスにはregioninfoヘッダーを含めなくてもよい。
送信装置101と受信装置102とは、ストリームの送受信を終了するまではS613からS601へ、S709からS701へ遷移し、804又は807の処理を繰り返す。
セグメント毎に、セグメントリクエストとは別に映像領域情報を要求する例について、送信装置101と受信装置102との間のやり取りを表したシーケンスを、図10を用いて説明する。
M901及び902はM801及び802と同様であるため説明は省略する。
S710により、M903にて、受信装置102の通信制御部308は、送信装置101からMPDファイルを受信し、MPDファイルから映像領域関連情報を取得し、把握する。動作例2では、セグメントとは別にHTTP GETリクエストにより映像領域情報の送受信を行うものとする。但し、送信装置101と受信装置102とは、セグメント毎にRTPプロトコルを用いて映像領域情報をやり取りする等、別の方法でもよい。
まず受信装置102がセグメントの映像領域情報を求める場合904の説明を行う。
S704により、受信装置102の取得セグメント決定部307は、ある1セグメントの映像領域情報を取得したいものとし、S705へ遷移する。
S705により、M905にて、受信装置102の通信制御部308は、セグメント映像領域情報要求としてHTTP GETリクエストを送信装置101へ送信する。本実施形態では送信装置101が持つ映像領域情報の内すべての種類の情報を送信してもらう要求とする。しかし、通信制御部308は、取得セグメント決定部307で決定された送信して欲しい映像領域情報の種類を指定するパラメータをURLに追加する等し、送信して欲しい映像領域情報の種類を指定してもよい。視点座標情報を指定する場合する場合は、通信制御部308は、座標情報を取得したい観測方向のパラメータを含めてもよい。
S605により、送信装置101の通信制御部207は、セグメント映像領域情報要求であるHTTP GETリクエストを受信したためS606へ遷移する。
S606により、送信装置101の映像領域情報管理部206は、受信したセグメント映像領域情報要求に該当するセグメント映像領域情報送信設定を有効にする。
S609により、送信装置101の通信制御部207は、映像領域情報管理部206のストリーム映像領域情報送信設定は無効であるとし、S611へ遷移する。
S611により、送信装置101の通信制御部207は、映像領域情報管理部206のセグメント映像領域情報送信設定が有効であるとし、S612へ遷移する。
S612により、M906にて、送信装置101の通信制御部207は、HTTP GETリクエストのレスポンスとして映像領域情報を送信する。
M907にて、受信装置102の通信制御部308は、M906で受信した映像領域情報に対応するセグメントリクエストを送信する。そして送信装置101の通信制御部207は、セグメントリクエストを受信する。
M908にて、送信装置101の通信制御部207は、セグメントレスポンスを送信する。そして受信装置102の通信制御部308は、セグメントレスポンスを受信する。
送信装置101と受信装置102とは、セグメント映像領域情報要求の送受信後、セグメントリクエストの送受信を行い、その後、セグメントの映像領域情報とセグメントとの送受信を行うようにしてもよい。即ち、送信装置101と受信装置102とは、M905、M906、M907、M908は図10の順とは異なる順で行ってもよい。
また送信装置101と受信装置102とは、複数のセグメントの映像領域情報の送受信をした後にセグメントの送受信を行うというように、M905とM906とを複数回やり取りした後でM907とM908とをやり取りしてもよい。
S704により、受信装置102の取得セグメント決定部307は、ある1セグメントの映像領域情報を取得したいわけではないとし、S706へ遷移する。
S706により、受信装置102の取得セグメント決定部307は、送信装置101からある1セグメントの映像領域情報の送信を禁止しないとし、S708へ遷移する。
受信装置102は、送信装置101からのセグメントの映像領域情報の送信を禁止する場合は、S706にてS707へ遷移する。そしてM905のセグメント映像領域情報要求のように通信制御部308は、セグメント映像領域不要要求を送信する。そして受信装置102の通信制御部207は、セグメント映像領域不要要求を受信する。
S605により、送信装置101の通信制御部207は、セグメント映像領域情報要求を受信していないためS607へ遷移する。
S607により、送信装置101の通信制御部207は、セグメント映像領域情報不要要求を受信していないためS609へ遷移する。
S609により、送信装置101の通信制御部207は、映像領域情報管理部206のストリーム映像領域情報送信設定は無効であるとし、S611へ遷移する。
S611により、送信装置101の通信制御部207は、映像領域情報管理部206はセグメント映像領域情報送信設定が有効ではないとし、S613へ遷移する。
M910にて、受信装置102の通信制御部308は、セグメントリクエストを送信する。送信装置101の通信制御部207は、セグメントリクエストを受信する。
M911にて、送信装置101の通信制御部207は、セグメントレスポンスを送信する。受信装置102の通信制御部308は、セグメントレスポンスを受信する。
送信装置101と受信装置102とは、ストリームの送受信を終了するまではS613からS601へ、S709からS701へ遷移し、904又は909の処理を繰り返す。
ストリームに対し継続して映像領域情報を送信するように要求する例について、送信装置101と受信装置102との間のやり取りを表したシーケンスを、図11を用いて説明する。
M1001及び1002はM801及び802と同様であるため説明は省略する。
S710により、M1003にて、受信装置102の通信制御部308は、送信装置101からMPDファイルを受信し、MPDファイルから映像領域関連情報を取得し、把握する。動作例3では、ストリームを構成するセグメントの映像領域情報をHTTP PUSHで送受信を行うものとする。但し、送信装置101と受信装置102とは、セグメントレスポンスにヘッダー情報やメタデータとして添付して送信する方法や、RTPプロトコルにより各セグメントの映像領域情報が準備できる度に送信する方法等、別の方法でもよい。
S701により、受信装置102の映像領域情報取得指示部306は、ストリームで継続して映像領域情報を取得したいとし、S702へ遷移する。
S702により、M1004にて、受信装置102の通信制御部308は、送信装置101へストリーム映像領域情報要求としてPUSH送信リクエストを送信する。本実施形態では送信装置101が持つ映像領域情報の内、すべての種類の情報を送信してもらう要求とする。しかし、通信制御部308は、映像領域情報取得指示部306からの指示に基づき、送信して欲しい映像領域情報の種類を指定するパラメータをPUSH送信リクエスト時のヘッダーに追加し、送信して欲しい映像領域情報の種類を指定してもよい。視点座標情報を指定する場合、通信制御部308は、映像領域情報取得指示部306からの指示に基づき、座標情報を取得したい観測方向のパラメータを含めてもよい。
S601により、M1004にて、送信装置101の通信制御部207は、ストリーム映像領域情報要求であるPUSH送信リクエストを受信し、S602へ遷移する。
S602より、送信装置101の通信制御部207は、ストリーム映像領域情報設定を有効にする。
まず送信装置101からの各セグメントの映像領域情報を受信装置102がキャンセルせずに受信する場合1005の説明を行う。
S704により、受信装置102の取得セグメント決定部307は、ある1セグメントの映像領域情報を取得したいものとし、S705へ遷移する。
受信装置102は送信装置101へストリーム映像領域情報要求を送信し送信装置101のストリーム映像領域情報送信設定を有効にしているため、通信制御部308は、S705ではセグメント映像領域情報要求を送信せずにS708へ遷移する。
S605により、送信装置101の通信制御部207は、セグメント映像領域情報要求を受信していないためS607へ遷移する。
S607により、送信装置101の通信制御部207は、セグメント映像領域情報不要要求を受信していないためS609へ遷移する。
S609により、送信装置101の通信制御部207は、映像領域情報管理部206のストリーム映像領域情報送信設定が有効であるためS610へ遷移する。
S610により、送信装置101の通信制御部207は、映像領域情報管理部206のセグメント領域情報送信設定は無効ではないためS612へ遷移する。
S612により、M1006にて、送信装置101の通信制御部207は、受信装置102へセグメントの映像領域情報をPUSH送信する。
M1008にて、送信装置101の通信制御部207は、セグメントレスポンスを送信する。受信装置102の通信制御部308は、セグメントレスポンスを受信する。
送信装置101と受信装置102とは、セグメントリクエストの送受信後にセグメント映像領域情報のPUSH送受信を行い、その後セグメントの送受信と行うようにしてもよい。即ち、送信装置101と受信装置102とは、M1006、M1007、M1008は図11の順とは異なる順で行ってもよい。
また送信装置101と受信装置102とは、複数のセグメントの映像領域情報のPUSH送受信をした後にセグメントの送受信を行うというように、M1006を複数回やり取りした後でM1007とM1008とを行ってもよい。
S704により、受信装置102の取得セグメント決定部307は、ある1セグメントの映像領域情報を取得したいわけではないとし、S706へ遷移する。
S706により、受信装置102の取得セグメント決定部307は、送信装置101からある1セグメントの映像領域情報の送信を禁止するとし、S707へ遷移する。
S707により、M1010にて、受信装置102の通信制御部308は、送信装置101へセグメント映像領域情報不要要求としてPUSHキャンセルを送信する。
S605により、送信装置101の通信制御部207は、セグメント映像領域情報要求を受信していないためS607へ遷移する。
S607により、送信装置101の通信制御部207は、セグメント映像領域情報不要要求を受信しているためS608へ遷移する。
S608により、送信装置101の映像領域情報管理部206は、PUSHキャンセルを受けた映像領域情報に該当するセグメント映像領域情報送信設定を無効にする。
S609により、送信装置101の通信制御部207は、映像領域情報管理部206のストリーム映像領域情報送信設定は有効であるとし、S610へ遷移する。
S610により、送信装置101の通信制御部207は、映像領域情報管理部206のセグメント映像領域情報送信設定は無効であるとし、S613へ遷移する。
M1010にて、受信装置102の通信制御部308は、セグメントリクエストを送信する。送信装置101の通信制御部207は、セグメントリクエストを受信する。
M1011にて、送信装置101の通信制御部207は、セグメントレスポンスを送信する。受信装置102の通信制御部308は、セグメントレスポンスを受信する。
送信装置101と受信装置102とは、ストリームの送受信を終了するまではS613からS601へ、S709からS701へ遷移し、1005又は1009の処理を繰り返す。この繰り返し中、受信装置102は、ストリームに対し継続した映像領域情報の送信を終了したい場合はS701からS703に遷移する。そしてS703にて通信制御部207は、すべての映像領域情報のPUSH送信キャンセルを送信装置101へ送信する。送信装置101は、S603にてS604に遷移する。そしてS604にて映像領域情報管理部206は、ストリーム映像領域送信設定を無効にし、映像領域情報の送信を停止する。
また本実施形態によれば、セグメント毎にセグメントリクエストのヘッダー情報として映像領域情報を要求しセグメントレスポンスのヘッダー情報として映像領域情報の送受信をすることができる。またセグメント毎にセグメントリクエスト―レスポンスとは別のトランザクションとして映像領域情報の要求及び映像領域情報の送受信をすることができる。またストリームに対し継続し映像領域情報を送信するよう要求をすることができる。
また、本実施形態では、全天周映像データの一部が送信装置101から受信装置102へ送信される場合の例を中心に説明したが、全天周映像データに限らない。つまり、送信装置101が保持する映像データのうち、一部又は全部の範囲の映像データが受信装置102へ送信されるシステムにおいて本実施形態の構成は適用できる。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給する。そして、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読み出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
よって、送信装置101のカメラ409の向きの変化に対応可能とすることができる。また、カメラの撮像映像の配信中に当該カメラの撮像範囲が変化する場合において、ユーザの意図する映像を配信されやすくすることができる。
102 受信装置
401 CPU
501 CPU
Claims (13)
- 全天周映像を分割することにより得られたセグメントを受信装置に送信する送信装置であって、
前記全天周映像に対する、視点情報、FOV(Field Of View)、視点移動情報、視点座標情報、観測位置情報のうち、少なくとも一種類を含む映像領域情報の種類に関する情報、及びセグメントにアクセスするための情報を記載したデータを生成する生成手段と、
前記生成手段により生成された映像領域情報の種類に関する情報及びセグメントにアクセスするための情報を記載したデータを前記受信装置に送信する通信制御手段と、
を有し、
前記通信制御手段は、前記受信装置において指定されたセグメントのリクエスト及び指定された映像領域情報の種類のリクエストを受信した場合、前記リクエストに対応するセグメント及び映像領域情報を前記受信装置に送信する送信装置。 - 前記映像は、三次元空間の全方位に画像を有する全天周画像の映像である請求項1記載の送信装置。
- 前記通信制御手段は、前記セグメントのメタデータとして前記映像領域情報を前記受信装置に送信する請求項1又は2記載の送信装置。
- 前記通信制御手段は、前記セグメントを送信する際のヘッダーに前記映像領域情報を含めて前記受信装置に送信する請求項1乃至3何れか1項記載の送信装置。
- 前記生成手段により生成されたデータは、セグメントへのアクセスを可能とするURLが記載されたプレイリストが記述されたMPDファイルである請求項1乃至4何れか1項記載の送信装置。
- 前記生成手段は、前記映像領域情報を特定するためのURLを前記MPDファイルに記載する請求項5記載の送信装置。
- 前記生成手段は、前記映像領域情報を送信するプロトコル情報を前記MPDファイルに記載する請求項5記載の送信装置。
- 全天周映像を分割することにより得られたセグメントを送信装置から受信する受信装置であって、
前記全天周映像に対する、視点情報、FOV(Field Of View)、視点移動情報、視点座標情報、観測位置情報のうち、少なくとも一種類を含む映像領域情報の種類に関する情報、及びセグメントにアクセスするための情報を記載したデータを受信し、また指定されたセグメントのリクエスト及び指定された映像領域情報の種類のリクエストを送信する通信制御手段と、
前記通信制御手段が送信するリクエストに対応するセグメント及び映像領域情報に基づいて前記映像を復号化する復号化手段と、
前記復号化手段により復号化された前記映像を出力する出力制御手段と、
を有する受信装置。 - 前記映像は、三次元空間の全方位に画像を有する全天周画像の映像である請求項8記載の受信装置。
- 全天周映像を分割することにより得られたセグメントを受信装置に送信する送信装置が実行する情報処理方法であって、
前記全天周映像に対する、視点情報、FOV(Field Of View)、視点移動情報、視点座標情報、観測位置情報のうち、少なくとも一種類を含む映像領域情報の種類に関する情報、及びセグメントにアクセスするための情報を記載したデータを生成する生成工程と、
前記生成工程により生成された映像領域情報の種類に関する情報及びセグメントにアクセスするための情報を記載したデータを前記受信装置に送信する第1の送信工程と、
前記受信装置において指定されたセグメントのリクエスト及び映像領域情報の種類のリクエストを受信する受信工程と、
前記リクエストに対応するセグメント及び映像領域情報を前記受信装置に送信する第2の送信工程と、
を含む情報処理方法。 - 全天周映像を分割することにより得られたセグメントを送信装置から受信する受信装置が実行する情報処理方法であって、
前記全天周映像に対する、視点情報、FOV(Field Of View)、視点移動情報、視点座標情報、観測位置情報のうち、少なくとも一種類を含む映像領域情報の種類に関する情報、及びセグメントにアクセスするための情報を記載したデータを受信する受信工程と、
指定されたセグメントのリクエスト及び映像領域情報の種類のリクエストを送信する送信工程と、
前記送信装置より受信した前記リクエストに対応するセグメント及び映像領域情報に基づいて前記映像を復号化する復号化工程と、
前記復号化工程により復号化された前記映像を出力する出力制御工程と、
を含む情報処理方法。 - コンピュータを、請求項1乃至7何れか1項記載の送信装置の各手段として機能させるためのプログラム。
- コンピュータを、請求項8又は9記載の受信装置の各手段として機能させるためのプログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017044710A JP6843655B2 (ja) | 2017-03-09 | 2017-03-09 | 送信装置、受信装置、情報処理方法及びプログラム |
PCT/JP2018/007034 WO2018163891A1 (ja) | 2017-03-09 | 2018-02-26 | 送信装置、受信装置、情報処理方法及びプログラム |
US16/562,301 US11044289B2 (en) | 2017-03-09 | 2019-09-05 | Sending device, receiving device, information processing method for sending or receiving content divided into segments using MPEG-DASH protocol |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017044710A JP6843655B2 (ja) | 2017-03-09 | 2017-03-09 | 送信装置、受信装置、情報処理方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018148515A JP2018148515A (ja) | 2018-09-20 |
JP6843655B2 true JP6843655B2 (ja) | 2021-03-17 |
Family
ID=63447546
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017044710A Active JP6843655B2 (ja) | 2017-03-09 | 2017-03-09 | 送信装置、受信装置、情報処理方法及びプログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US11044289B2 (ja) |
JP (1) | JP6843655B2 (ja) |
WO (1) | WO2018163891A1 (ja) |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007150747A (ja) * | 2005-11-28 | 2007-06-14 | Matsushita Electric Ind Co Ltd | 受信装置及び本線映像配信装置 |
JP5921852B2 (ja) * | 2011-10-21 | 2016-05-24 | シャープ株式会社 | 配信装置 |
WO2015008538A1 (ja) * | 2013-07-19 | 2015-01-22 | ソニー株式会社 | 情報処理装置および情報処理方法 |
GB2524531B (en) * | 2014-03-25 | 2018-02-07 | Canon Kk | Methods, devices, and computer programs for improving streaming of partitioned timed media data |
US10694192B2 (en) * | 2014-06-27 | 2020-06-23 | Koninklijke Kpn N.V. | HEVC-tiled video streaming |
US20160150212A1 (en) | 2014-11-26 | 2016-05-26 | Sony Corporation | Live selective adaptive bandwidth |
JPWO2016199608A1 (ja) * | 2015-06-12 | 2018-03-29 | ソニー株式会社 | 情報処理装置および情報処理方法 |
US9386230B1 (en) * | 2015-06-12 | 2016-07-05 | Google Inc. | Day and night detection based on one or more of illuminant detection, lux level detection, and tiling |
US10491711B2 (en) * | 2015-09-10 | 2019-11-26 | EEVO, Inc. | Adaptive streaming of virtual reality data |
JP6574974B2 (ja) * | 2015-09-29 | 2019-09-18 | Run.Edge株式会社 | 動画像再生装置、動画像配信サーバ、動画像再生方法、動画像配信方法、動画像再生プログラム、及び動画像配信プログラム |
US10075323B2 (en) * | 2015-10-14 | 2018-09-11 | Intel IP Corporation | Interleaving and deinterleaving source data for single carrier modulation and coding schemes |
JP6624958B2 (ja) * | 2016-02-03 | 2019-12-25 | キヤノン株式会社 | 通信装置、通信システム、通信制御方法およびコンピュータプログラム |
KR20180109889A (ko) * | 2016-02-09 | 2018-10-08 | 소니 주식회사 | 송신 장치, 송신 방법, 수신 장치 및 수신 방법 |
-
2017
- 2017-03-09 JP JP2017044710A patent/JP6843655B2/ja active Active
-
2018
- 2018-02-26 WO PCT/JP2018/007034 patent/WO2018163891A1/ja active Application Filing
-
2019
- 2019-09-05 US US16/562,301 patent/US11044289B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US11044289B2 (en) | 2021-06-22 |
US20190394249A1 (en) | 2019-12-26 |
WO2018163891A1 (ja) | 2018-09-13 |
JP2018148515A (ja) | 2018-09-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6805861B2 (ja) | 画像処理装置、画像処理システム、画像処理方法及びプログラム | |
JP5965708B2 (ja) | 無線通信装置、メモリ装置、無線通信システム、無線通信方法、およびプログラム | |
JP5920057B2 (ja) | 送信装置、画像共有システム、送信方法、及びプログラム | |
CN107592549B (zh) | 基于双向通信的全景视频播放拍照系统 | |
JP2019062390A (ja) | 情報処理装置、情報提供装置、制御方法、及びプログラム | |
KR20140066547A (ko) | 위치기반의 컨텐츠 제공방법 및 그 장치 | |
JP2018082298A (ja) | 画像表示システム、通信システム、画像表示方法、及びプログラム | |
CN107707830B (zh) | 基于单向通信的全景视频播放拍照系统 | |
KR20200136393A (ko) | 정보 처리 장치, 정보 처리 방법 및 프로그램 | |
JP6952456B2 (ja) | 情報処理装置、制御方法、及びプログラム | |
JP6843655B2 (ja) | 送信装置、受信装置、情報処理方法及びプログラム | |
JP6011117B2 (ja) | 受信装置、画像共有システム、受信方法、及びプログラム | |
JP6304300B2 (ja) | 送信装置、通信方法、プログラムおよび受信装置 | |
JP2016194783A (ja) | 画像管理システム、通信端末、通信システム、画像管理方法、及びプログラム | |
JP7326774B2 (ja) | 画像処理システム、撮像装置、情報処理装置、画像処理方法及びプログラム | |
JP2018026642A (ja) | 画像管理システム、画像通信システム、画像管理方法、及びプログラム | |
KR100853379B1 (ko) | 위치기반 이미지 파일 변환 서비스 방법 및 서비스 서버 | |
JP6735644B2 (ja) | 情報処理装置及びその制御方法、コンピュータプログラム | |
US20180343473A1 (en) | Method for providing content service and system thereof | |
KR20200136394A (ko) | 정보 처리 장치, 정보 처리 방법 및 프로그램 | |
JP5942637B2 (ja) | 付加情報管理システム、画像共有システム、付加情報管理方法、及びプログラム | |
JP2021064822A (ja) | 通信装置、通信装置の制御方法およびプログラム | |
JP2014165639A (ja) | 情報端末装置、通信システム及び方法 | |
JP5682170B2 (ja) | 表示制御装置、画像配信サーバ、表示端末、画像配信システム、及び、プログラム | |
JP2021033354A (ja) | 通信装置およびその制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200304 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200707 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200907 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210126 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210224 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6843655 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |