JP2013534747A - フラグメント基盤のマルチメディアストリーミングサービス提供方法とその装置、並びにフラグメント基盤のマルチメディアストリーミングサービス受信方法とその装置 - Google Patents

フラグメント基盤のマルチメディアストリーミングサービス提供方法とその装置、並びにフラグメント基盤のマルチメディアストリーミングサービス受信方法とその装置 Download PDF

Info

Publication number
JP2013534747A
JP2013534747A JP2013514117A JP2013514117A JP2013534747A JP 2013534747 A JP2013534747 A JP 2013534747A JP 2013514117 A JP2013514117 A JP 2013514117A JP 2013514117 A JP2013514117 A JP 2013514117A JP 2013534747 A JP2013534747 A JP 2013534747A
Authority
JP
Japan
Prior art keywords
video
information
fragment
current
stereoscopic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013514117A
Other languages
English (en)
Other versions
JP6088968B2 (ja
Inventor
キム,ヒ−ジン
キム,ギル−ユン
キム,ナム−グッ
ジョン,ド−ヨン
リュー,ガ−ヒョン
パク,テ−ソン
キム,キュ−ホン
キム,ジョン−ハン
リー,ジャン−ウォン
ソ,ドク−ヨン
パク,グァン−フン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of JP2013534747A publication Critical patent/JP2013534747A/ja
Application granted granted Critical
Publication of JP6088968B2 publication Critical patent/JP6088968B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/161Encoding, multiplexing or demultiplexing different image signal components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/178Metadata, e.g. disparity information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/194Transmission of image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/23614Multiplexing of additional data and video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4348Demultiplexing of additional data and video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/816Monomedia components thereof involving special video data, e.g 3D video
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/845Structuring of content, e.g. decomposing content into time segments
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/845Structuring of content, e.g. decomposing content into time segments
    • H04N21/8456Structuring of content, e.g. decomposing content into time segments by decomposing the content in the time domain, e.g. in time segments
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/85406Content authoring involving a specific file format, e.g. MP4 format
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/24Systems for the transmission of television signals using pulse code modulation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Security & Cryptography (AREA)
  • Library & Information Science (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本発明は、ネットワークを用いてマルチメディアを伝送するストリーミングサービスの提供方法を開示する。
2次元ビデオ及び3次元ビデオのうち少なくとも一つを含むビデオの符号化されたデータをフラグメント単位に分割し、フラグメントごとに3次元シグナリング情報と、ビデオが他のビデオを参照するための関係情報のうち少なくとも一つを含む属性情報を定め、フラグメントについての属性情報及び符号化されたビデオデータを含むフラグメントを連続的に伝送するマルチメディアストリーミングサービス提供方法を開示する。

Description

本発明は、マルチメディアコンテンツを伝送するためのデータストリームの生成及び受信に関する。
一般的に、一つのマルチメディアコンテンツは、オーディオ、ビデオ、イメージ、メタデータなどの互いに異なる属性を持つ要素の組み合わせからなる。これらのデータはそれぞれ符号化して、要素の関係及びそれぞれの要素を復号化して再生するための情報と共に、マルチメディアコンテンツのためのデータ構造に収録されて活用される。
かかるマルチメディアコンテンツのデータ構造のために、国際標準機構であるMPEG(Moving Picture Experts Group)では、多様なアプリケーションに共通に適用できる基本的なファイルフォーマット、すなわち、ISO基盤のメディアファイルフォーマットを定義した。ISO基盤のメディアファイルフォーマットを用いて、マルチメディアコンテンツの符号化された要素及び要素に係る構成情報などの補助データが、複数のコンテナに階層的に保存される。基本的にISO基盤のメディアファイルフォーマットは、単一マルチメディアファイルにそれぞれのマルチメディア要素を効率的に保存するための基本構造を定義している。
本発明は、2次元ビデオまたは3次元ビデオを伝送するマルチメディアストリーミングサービスを提供する方法とその装置、マルチメディアストリーミングサービスを受信する方法とその装置を開示する。
一実施形態によって、ネットワークを用いてマルチメディアを伝送するストリーミングサービス提供方法は、2次元ビデオ及び3次元ビデオのうち少なくとも一つを含むビデオの符号化されたデータをフラグメント単位に分割する段階と、前記フラグメントごとに現在ビデオを2次元再生または3次元再生するための情報を含む3次元シグナリング情報と、前記ビデオが一つ以上の他のビデオを参照するための関係情報のうち少なくとも一つを含む属性情報を定める段階と、前記フラグメントについての属性情報を含む補助データ領域と、前記符号化されたビデオデータを含むメディアデータ領域とで構成されたフラグメントを連続的に伝送する段階と、を含む。
一実施形態によるマルチメディアストリーミングサービス提供装置のブロック図である。 一実施形態によるマルチメディアストリーミングサービス受信装置のブロック図である。 一実施形態によるフラグメント単位で伝送されるストリーミングファイルフォーマットと、フラグメントごとに伝送される3次元シグナリング情報とを含むmfsiボックスを示す図面である。 一実施形態によるmfsiボックス及びscdiボックスに含まれた3次元シグナリング情報のシンタックスを示す図面である。 一実施形態によるフラグメント単位で伝送されるストリーミングファイルフォーマットと、フラグメントごとに伝送される3次元シグナリング情報とを含むsvfiボックスを示す図面である。 一実施形態によるsvfiボックスに含まれた3次元シグナリング情報のシンタックスを示す図面である。 一実施形態によるsvfiボックスに含まれた3次元シグナリング情報のシンタックスを示す図面である。 一実施形態によるフラグメント単位で伝送されるストリーミングファイルフォーマットで、ファイルに対して設定された3次元シグナリング情報のシンタックスを示す図面である。 一実施形態によるフラグメント単位で伝送されるストリーミングファイルフォーマットで、サンプルに対して設定された3次元シグナリング情報のシンタックスを示す図面である。 一実施形態によって、ステレオスコピックビデオの左視点ビデオ及び右視点ビデオをそれぞれ伝送するための2個のストリーミングファイルフォーマットを示す図面である。 一実施形態によって、ファイルに含まれたステレオスコピックビデオに対して設定される参照情報を示す図面である。 一実施形態によって、2個のストリーミングファイルでステレオスコピックビデオを伝送する場合、ファイル内部で設定される一つの関係情報を示す図面である。 一実施形態によって、2個のストリーミングファイルでステレオスコピックビデオを伝送する場合、ファイル内部で設定される複数の関係情報を示す図面である。 一実施形態によって、2個のストリーミングファイルでステレオスコピックビデオを伝送する場合、複数の参照ビデオに関する関係情報を含むトラック情報のシンタックスを示す図面である。 一実施形態によって、2個のストリーミングファイルでステレオスコピックビデオを伝送する場合、ファイル内部で設定される関係情報のシンタックスを示す図面である。 一実施形態によって、2個のストリーミングファイルでステレオスコピックビデオを伝送する場合、ファイル外部のインデックスファイルを用いて設定される関係情報を示す図面である。 一実施形態によって、ステレオスコピックビデオの左視点ビデオ及び右視点ビデオを伝送するための1個のストリーミングファイルフォーマットを示す図面である。 一実施形態によって、ステレオスコピックビデオの左視点ビデオ及び右視点ビデオを伝送するための1個のストリーミングファイルフォーマットを示す図面である。 一実施形態によって、1個のストリーミングファイルでステレオスコピックビデオを伝送する場合、ファイル外部のインデックスファイルを用いて参照ビデオを定める方式を示す図面である。 一実施形態によって、1個のストリーミングファイルでステレオスコピックビデオを伝送する場合、ファイル外部のインデックスファイルを用いて参照ビデオを定める方式を示す図面である。 適応的ストリーミングサービスのために、一実施形態によるマルチチャネルビデオグループの関係情報を含むafgpボックスのシンタックスを示す図面である。 適応的ストリーミングサービスのために、ファイル外部のインデックスファイルを用いて一実施形態によるマルチチャネルビデオグループ間の関係情報を設定する場合を示す図面である。 一実施形態によるマルチメディアストリーミングサービス提供方法のフローチャートである。 一実施形態によるマルチメディアストリーミングサービス受信方法のフローチャートである。
一実施形態によって、ネットワークを用いてマルチメディアを伝送するストリーミングサービス提供方法は、2次元ビデオ及び3次元ビデオのうち少なくとも一つを含むビデオの符号化されたデータをフラグメント単位に分割する段階と、前記フラグメントごとに、現在ビデオを2次元再生または3次元再生するための情報を含む3次元シグナリング情報と、前記ビデオが一つ以上の他のビデオを参照するための関係情報のうち少なくとも一つを含む属性情報を定める段階と、前記フラグメントについての属性情報を含む補助データ領域と、前記符号化されたビデオデータを含むメディアデータ領域とで構成されたフラグメントを連続的に伝送する段階と、を含む。
一実施形態によって、ネットワークを用いてマルチメディアを受信するストリーミングサービス受信方法は、複数のフラグメントを連続的に受信する段階と、前記フラグメントごとにメディアデータ領域から、2次元ビデオ及び3次元ビデオのうち少なくとも一つを含むビデオの符号化されたデータを、フラグメント単位に分割された形態で抽出する段階と、前記フラグメントごとに補助データ領域から属性情報をパージングし、前記フラグメントのビデオの2次元再生または3次元再生のための3次元シグナリング情報と、前記ビデオが一つ以上の他のビデオを参照するための関係情報のうち少なくとも一つを抽出して読み取る段階と、前記フラグメントごとに前記属性情報から読み取られた情報に基づいて、前記フラグメントの前記符号化されたデータを2次元ビデオまたは3次元ビデオに復元する段階と、を含む。
一実施形態によって、ネットワークを用いてマルチメディアを伝送するストリーミングサービス提供装置は、2次元ビデオ及び3次元ビデオのうち少なくとも一つを含むビデオの符号化されたデータをフラグメント単位に分割するフラグメントビデオデータ生成部と、前記フラグメントごとに現在ビデオを2次元再生または3次元再生するための情報を含む3次元シグナリング情報と、前記ビデオが一つ以上の他のビデオを参照するための関係情報のうち少なくとも一つを含む属性情報を定めるフラグメント属性情報決定部と、前記フラグメントについての属性情報を含む補助データ領域と、前記符号化されたビデオデータを含むメディアデータ領域とで構成されたフラグメントを連続的に伝送するストリーミング部と、を備える。
一実施形態によって、ネットワークを用いてマルチメディアを受信するストリーミングサービス受信装置は、複数のフラグメントを連続的に受信する受信部と、前記フラグメントごとにメディアデータ領域から、2次元ビデオ及び3次元ビデオのうち少なくとも一つを含むビデオの符号化されたデータをフラグメント単位に分割された形態で抽出するフラグメントビデオデータ抽出部と、前記フラグメントごとに補助データ領域から属性情報をパージングし、前記フラグメントのビデオの2次元再生または3次元再生のための3次元シグナリング情報と、前記ビデオが一つ以上の他のビデオを参照するための関係情報のうち少なくとも一つを抽出して読み取るフラグメント属性情報抽出部と、前記フラグメントごとに前記属性情報から読み取られた情報に基づいて、前記フラグメントの前記符号化されたデータを2次元ビデオまたは3次元ビデオに復元する復元部と、を備える。
本発明は、一実施形態によるマルチメディアストリーミングサービス提供方法を演算プロセッサーで具現するためのプログラムが記録されたコンピュータで読み取り可能な記録媒体を含む。一実施形態によるマルチメディアストリーミングサービス受信方法を演算プロセッサーで具現するためのプログラムが記録されたコンピュータで読み取り可能な記録媒体を含む。
図1は、一実施形態によるマルチメディアストリーミングサービス提供装置のブロック図である。
一実施形態によるマルチメディアストリーミングサービス提供装置100は、一実施形態によってフラグメント単位で伝送されるストリーミングファイルフォーマットを用いて、ネットワークを用いて2次元ビデオ、3次元ビデオまたは2次元ビデオと3次元ビデオとの混合ビデオのビデオデータを伝送しつつ、ファイル、フラグメント、サンプル別に該当ビデオデータに関する3次元シグナリング情報と、複数のビデオ間の参照関係に関する関係情報のうち少なくとも一つを含む属性情報を伝送できる。
一実施形態によるマルチメディアストリーミングサービス提供装置100は、フラグメントビデオデータ生成部110、フラグメント属性情報決定部120及びストリーミング部130を備える。
一実施形態によるフラグメントビデオデータ生成部110、フラグメント属性情報決定部120及びストリーミング部130は、マルチメディアストリーミングサービス提供装置100の内部または外部に位置している中央演算装置またはプロセッサーの制御によって、互いにデータを交換しつつ有機的に作動できる。または、一実施形態によるフラグメントビデオデータ生成部110、フラグメント属性情報決定部120及びストリーミング部130のうち少なくとも一つの構成要素は、自体的に搭載されたプロセッサーによって作動し、他の構成要素と有機的に作動するように制御される。
一実施形態によるフラグメントビデオデータ生成部110は、2次元ビデオデータ及び3次元ビデオデータのうち少なくとも一つを含むビデオデータを、フラグメント単位で伝送するためにフラグメントビデオデータに分割する。
フラグメントは、ネットワークを用いてデータをストリーミングするためのパッケージ単位である。フラグメントは、メディアデータを伝送するためのメディアデータ領域と、メディアデータ領域のメディアデータのコンテンツに関する情報及び構造関連情報などの属性情報を伝送するための補助データ領域とで構成される。一つ以上のフラグメントが順次に伝送されつつストリーミングデータが伝送される。
例えば、ISO基盤のメディアファイルフォーマットによるストリーミングファイルの場合、フラグメントは、メディアデータを含むmdat領域と、mdat領域のメディアデータに関する各種属性情報を含むmoof領域とで構成される。
一実施形態によるマルチメディアストリーミングサービス提供装置100は、圧縮符号化されたビデオデータを受信し、ストリーミングのためにフラグメント単位に分割できる。または、一実施形態によるマルチメディアストリーミングサービス提供装置100は、無圧縮ビデオデータを受信した後、自体的に搭載された符号化器を用いてビデオデータを符号化した後、フラグメント単位に分割してもよい。
一実施形態によるフラグメント属性情報決定部120は、フラグメントごとに、ビデオの2次元再生または3次元再生のための情報を含む3次元シグナリング情報を定める。
一実施形態によるフラグメント属性情報決定部120は、フラグメントの補助データ領域を通じて伝送される3次元シグナリング情報を定める。3次元シグナリング情報は、現在ビデオが2次元ビデオであるか、または3次元ビデオであるかによって設定される各種情報を含む。また、3次元シグナリング情報は、復号化器がビデオを復元して2次元再生または3次元再生するために必要な各種情報を含む。
3次元シグナリング情報がフラグメントごとに伝送される場合、フラグメントごとに現在ビデオに関する2次元ビデオ/3次元ビデオ関連情報が伝送される。
一実施形態によるフラグメント属性情報決定部120は、現在ビデオを含む複数のビデオ間に互いに参照するための関係情報を定める。関係情報として、現在ファイル内に位置する他のビデオに関する参照情報及び位置情報が伝送される。また、関係情報として、現在ファイルの外部ファイルに位置する一つ以上の他のビデオを参照するための位置情報及びインデックス情報が伝送される。
一実施形態によるストリーミング部130は、フラグメント属性情報決定部120によって定められた3次元シグナリング情報及び関係情報のうち少なくとも一つを含む属性情報と、フラグメントに分割されたビデオデータを含むフラグメントとを連続的に伝送する。フラグメントが連続的に伝送されることでビデオデータと、3次元シグナリング情報または関係情報がストリーミングされる。
フラグメントごとに、補助データ領域を通じて現在フラグメントのビデオに関する3次元シグナリング情報及び関係情報が伝送され、メディアデータ領域を通じて現在フラグメントの符号化されたビデオデータが伝送される。
一実施形態によるフラグメント属性情報決定部120は、フラグメントごとに、現在ビデオに関する3次元構成情報及び左右順序情報を定める。一実施形態による3次元構成情報は、左視点映像及び右視点映像が現在ビデオのステレオスコピック映像を構成する形態を示す。一実施形態による左右順序情報は、ステレオスコピック映像における左視点映像及び右視点映像の順序を示す。
一実施形態によるフラグメント属性情報決定部120は、フラグメントごとに、現在ビデオに対するモノスコピックビデオ区間とステレオスコピックビデオ区間との変更回数を示すステレオモノ区間変更回数情報を定める。
フラグメントは、モノスコピック映像シーケンスで構成されたモノスコピックビデオ区間を含むか、またはステレオスコピック映像シーケンスで構成されたステレオスコピックビデオ区間を含む。また、フラグメントは、モノスコピックビデオ区間及びステレオスコピックビデオ区間の混合ビデオ区間を含んでもよい。
一実施形態によるフラグメント属性情報決定部120は、現在区間が、モノスコピックビデオ区間であるか、またはステレオスコピックビデオ区間であるかを示すステレオ確認情報を定める。
サンプルとは、一連の時連続的なビデオフレーム、または時連続的な圧縮オーディオセクションのうちそれぞれのフレームを示すデータ単位である。すなわち、一実施形態によるマルチメディアストリーミングサービス提供装置100で、フラグメントのサンプルはビデオフレームと類似した用語として使われる。
現在フラグメントのモノスコピックビデオ区間またはステレオスコピックビデオ区間を区分するために、それぞれの区間を構成するサンプルの数が用いられる。一実施形態によるフラグメント属性情報決定部120は、現在区間を構成するサンプルの数を示す区間サンプル数情報を定める。
一実施形態によるフラグメント属性情報決定部120は、現在フラグメントのステレオスコピックビデオ区間ごとに、現在ステレオスコピックビデオ区間を構成するサンプルに関する3次元構成情報及び左右順序情報を定める。
実施形態によるフラグメント属性情報決定部120は、現在フラグメントのステレオスコピックビデオ区間ごとに、テレオスコピックカメラ情報とステレオスコピックディスプレイ情報のうち少なくとも一つを定める。
一実施形態によるステレオスコピックカメラ情報は、現在ステレオスコピックビデオ区間を構成するサンプルを獲得したステレオスコピックカメラに関する情報を含む。 一実施形態によるステレオスコピックディスプレイ情報は、サンプルを安全に3次元再生するためのディスプレイ規格に関する情報を含む。
ステレオスコピックビデオ区間中で、ステレオスコピックカメラディスプレイ情報が適用されるアイテムを識別するために、それぞれのアイテムを構成するサンプルの数が用いられる。一実施形態によるフラグメント属性情報決定部120は、現在フラグメントの現在ステレオスコピックビデオ区間中で、ステレオスコピックカメラディスプレイ情報が適用されるアイテムの数を示す情報を定める。
また一実施形態によるフラグメント属性情報決定部120は、それぞれのアイテムで参照される現在ステレオスコピックカメラディスプレイ情報の識別情報と、現在ステレオスコピックカメラディスプレイ情報が適用される区間の長さに関する情報のうち少なくとも一つを定める。現在ステレオスコピックカメラディスプレイ情報の適用される区間の長さに関する情報は、現在ステレオスコピックカメラディスプレイ情報が参照される現在アイテムを構成するサンプルの数で表現される。
一実施形態によるフラグメント属性情報決定部120は、ファイル単位で3次元シグナリング情報を定めてもよい。一実施形態によるフラグメント属性情報決定部120は、現在ファイルのステレオスコピックビデオに関する3次元構成情報及び左右順序情報を定める。
一実施形態によるフラグメント属性情報決定部120は、現在ファイルのビデオのうち、モノスコピックビデオ区間で構成されたモノーフラグメントと、ステレオスコピックビデオ区間で構成されたステレオフラグメントとの変更回数を示すステレオモノーフラグメント変更回数情報を定める。
一実施形態によるストリーミング部130は、現在ファイルの3次元構成情報と左右順序情報、ステレオモノーフラグメント変更回数情報を伝送しつつ、現在ファイルのフラグメントごとに、ステレオモノ区間変更回数情報、区間サンプル数情報及びステレオ確認情報のうち少なくとも一つをさらに伝送してもよい。
一実施形態によるフラグメント属性情報決定部120は、現在フラグメントの一つ以上のステレオスコピックビデオ区間中で、それぞれのステレオスコピックビデオ区間に関する識別情報を定めてもよい。
一実施形態によるフラグメント属性情報決定部120は、現在ビデオを含む複数のビデオ間に互いに参照関係を構成する場合、複数のビデオを参照するための関係情報を定める。一実施形態による関係情報は、参照ビデオのインデックス情報、位置情報などを含む。
一実施形態によるフラグメント属性情報決定部120は、現在ファイルのビデオに関する、ステレオスコピックビデオを構成するために参照する参照ビデオの位置情報を定める。一実施形態による参照ビデオの位置情報は、現在ファイル内の参照ビデオ識別情報、現在ファイル以外の遠隔位置情報、URL(Uniform Resource Locator)情報、URN(Uniform Resource Name)情報のうち少なくとも一つを用いて定められる。
一実施形態によるフラグメント属性情報決定部120は、現在ファイルのビデオが複数のビデオを参照する場合、参照ビデオ数情報を定める。一実施形態によるフラグメント属性情報決定部120は、複数の参照ビデオを識別する参照インデックス情報と、それぞれの参照ビデオに関する位置情報のうち少なくとも一つをさらに定める。
一実施形態によるマルチメディアストリーミングサービス提供装置100は、ネットワーク状態によってマルチメディアコンテンツを安全にストリーミングサービスで伝送するために、ビデオ画質によって差動的に符号化されたビデオを提供できる。一実施形態によるマルチメディアストリーミングサービス提供装置100は、同じビデオをビデオ画質によって差動符号化して、複数チャネルのビデオを含むマルチチャネルビデオグループを生成できる。
一実施形態によるフラグメント属性情報決定部120は、現在ファイルのビデオを取り替えられる他のチャネルのビデオ数を示すマルチチャネル数情報を定める。また、一実施形態によるフラグメント属性情報決定部120は、マルチチャネルビデオグループのうち他のチャネルのビデオの位置を示す参照情報を定めることもできる。
図2は、一実施形態によるマルチメディアストリーミングサービス受信装置のブロック図である。
一実施形態によるマルチメディアストリーミングサービス受信装置200は、ネットワークを用いてストリーミングデータのフラグメントを受信して、ファイル、フラグメント、サンプルごとに3次元シグナリング情報及び関係情報のうち少なくとも一つを含む属性情報を抽出して該当ビデオデータを抽出し、2次元ビデオ、3次元ビデオまたは2次元ビデオと3次元ビデオとの混合ビデオを復元する。
一実施形態によるマルチメディアストリーミングサービス受信装置200は、受信部210、ビデオデータ抽出部220、フラグメント属性情報抽出部230及び復元部240を備える。
一実施形態による受信部210、ビデオデータ抽出部220、フラグメント属性情報抽出部230及び復元部240は、マルチメディアストリーミングサービス受信装置200の内部または外部に位置している中央演算装置またはプロセッサーの制御によって、互いにデータを交換して有機的に作動する。または、一実施形態による受信部210、ビデオデータ抽出部220、フラグメント属性情報抽出部230及び復元部240のうち少なくとも一つの構成要素は、自体的に搭載されたプロセッサーによって作動し、他の構成要素と有機的に作動するように制御される。
一実施形態による受信部210は、ネットワークストリーミングを通じて、複数のフラグメントを連続的に受信する。
一実施形態によるビデオデータ抽出部220は、受信部210で受信されたフラグメントごとにメディアデータ領域から、2次元ビデオ及び3次元ビデオのうち少なくとも一つを含むビデオの符号化されたデータをフラグメント単位に分割された形態で抽出する。
一実施形態によるフラグメント属性情報抽出部230は、受信部210で受信されたフラグメントごとに補助データ領域から属性情報をパージングする。一実施形態によるフラグメント属性情報抽出部230は、パージングされた属性情報からフラグメントのビデオを2次元または3次元で再生するための情報、コンテンツ関連特性、データ構造、複数のビデオ間の関係情報などの属性情報を読み取る。
一実施形態による復元部240は、フラグメント属性情報抽出部230でフラグメントごとに属性情報から読み取られた3次元シグナリング情報または関係情報に基づいて、フラグメントの符号化されたビデオデータを復号化し、2次元ビデオまたは3次元ビデオに復元する。
一実施形態によるフラグメント属性情報抽出部230は、フラグメントごとに現在ビデオに関して設定された3次元構成情報、左右順序情報及びステレオモノ区間変更回数情報のうち少なくとも一つを抽出する。
一実施形態によるフラグメント属性情報抽出部230は、現在フラグメントの3次元構成情報から、左視点映像及び右視点映像が現在フラグメントのステレオスコピック映像を構成する形態を読み取る。
一実施形態によるフラグメント属性情報抽出部230は、現在フラグメントの左右順序情報から、現在フラグメントのステレオスコピック映像で左視点映像及び右視点映像の順序を読み取る。
一実施形態によるフラグメント属性情報抽出部230は、現在フラグメントのステレオモノ区間変更回数情報から、現在フラグメントのモノスコピックビデオ区間とステレオスコピックビデオ区間との変更回数を読み取る。
現在フラグメントのモノスコピックビデオ区間またはステレオスコピックビデオ区間は、それぞれの区間を構成するサンプルの数を用いて検出される。一実施形態によるフラグメント属性情報抽出部230は、フラグメントごとにステレオ確認情報及び区間サンプル数情報のうち少なくとも一つを抽出する。
一実施形態によるフラグメント属性情報抽出部230は、現在フラグメントのステレオ確認情報から、現在フラグメントのうち現在区間がモノスコピックビデオ区間であるか、またはステレオスコピックビデオ区間であるかを読み取る。
一実施形態によるフラグメント属性情報抽出部230は、現在フラグメントの区間サンプル数情報から、現在区間を構成するサンプルの数を読み取る。
一実施形態によるフラグメント属性情報抽出部230は、現在フラグメントのステレオスコピックビデオ区間ごとに、3次元構成情報及び左右順序情報のうち少なくとも一つを抽出する。
一実施形態によるフラグメント属性情報抽出部230は、フラグメントの現在ステレオスコピックビデオ区間の3次元構成情報から、現在ステレオスコピックビデオ区間を構成するサンプルに関する3次元構成情報を読み取る。
一実施形態によるフラグメント属性情報抽出部230は、フラグメントの現在ステレオスコピックビデオ区間の左右順序情報から、現在ステレオスコピックビデオ区間を構成するサンプルに関する左右順序情報を読み取る。
一実施形態によるフラグメント属性情報抽出部230は、現在フラグメントビデオデータのステレオスコピックビデオ区間ごとに、ステレオスコピックカメラディスプレイ情報を抽出する。
一実施形態によるフラグメント属性情報抽出部230は、現在ステレオスコピックビデオ区間のステレオスコピックカメラディスプレイ情報から、現在ステレオスコピックビデオ区間を構成するサンプルを獲得したステレオスコピックカメラに関する情報と、サンプルを用いて安全に3次元再生するためのディスプレイ規格に関する情報とを読み取る。
一実施形態によるフラグメント属性情報抽出部230は、ステレオスコピックビデオ区間のうちそれぞれのアイテムを構成するサンプルの数を用いて、ステレオスコピックカメラディスプレイ情報が適用されるアイテムを検出する。
一実施形態によるフラグメント属性情報抽出部230は、現在フラグメントの現在ステレオスコピックビデオ区間中で、ステレオスコピックカメラディスプレイ情報が適用されるアイテムの数を示す情報、それぞれのアイテムで参照される現在ステレオスコピックカメラディスプレイ情報の識別情報、そして現在ステレオスコピックカメラディスプレイ情報が適用される区間の長さに関する情報のうち少なくとも一つを抽出して読み取る。
一実施形態によるフラグメント属性情報抽出部230は、抽出された情報を用いて現在ステレオスコピックビデオ区間中では、現在ステレオスコピックカメラディスプレイ情報が適用されるアイテムを検出する。
一実施形態によるフラグメント属性情報抽出部230は、現在ファイルのビデオに関する3次元構成情報、左右順序情報及びステレオモノーフラグメント変更回数情報のうち少なくとも一つを抽出する。
一実施形態によるフラグメント属性情報抽出部230は、現在ファイルの3次元構成情報から、現在ファイルのビデオにおいて、左視点映像及び右視点映像が現在ファイルのステレオスコピック映像を構成する形態を読み取る。一実施形態によるフラグメント属性情報抽出部230は、現在ファイルのビデオに関する左右順序情報から、現在ファイルのステレオスコピック映像を構成する左視点映像及び右視点映像の順序を読み取る。
一実施形態によるフラグメント属性情報抽出部230は、現在ファイルのステレオモノーフラグメント変更回数情報から、現在ファイルのビデオのうち、モノスコピックビデオ区間で構成されたモノーフラグメントと、ステレオスコピックビデオ区間で構成されたステレオフラグメントとの変更回数を読み取る。
一実施形態によるフラグメント属性情報抽出部230は、現在ファイルのビデオに関する3次元構成情報、左右順序情報及びステレオモノーフラグメント変更回数情報のうち少なくとも一つを抽出し、現在ファイルのフラグメントごとに、現在フラグメントのビデオに関するステレオモノ区間変更回数情報、区間サンプル数情報及びステレオ確認情報のうち少なくとも一つをさらに抽出して読み取ってもよい。
また一実施形態によるフラグメント属性情報抽出部230は、現在フラグメントビデオデータの一つ以上のステレオスコピックビデオ区間中で、それぞれのステレオスコピックビデオ区間に関する識別情報を抽出して読み取る。読み取られたステレオスコピックビデオ区間に関する識別情報を用いて、現在ステレオスコピックビデオ区間が検出される。
一実施形態によるフラグメント属性情報抽出部230は、現在ファイルのビデオが一つ以上のビデオを参照する場合、複数のビデオ間の参照関係を示す関係情報を抽出して読み取る。
一実施形態によるフラグメント属性情報抽出部230は、現在ファイルのステレオスコピックビデオを構成するために参照する他の一つのビデオに関して、参照ビデオの位置情報、参照ビデオ識別情報、現在ファイル以外での遠隔位置情報、URL情報、URN情報のうち少なくとも一つを抽出して読み取る。一実施形態による復元部240は、読み取られた情報を用いて参照される他の一つのビデオを検出することで、現在ファイルのステレオスコピック映像を復元できる。
一実施形態によるフラグメント属性情報抽出部230は、現在ファイルのビデオデータが複数のビデオを参照する場合、現在ファイルから参照ビデオ数情報、複数の参照ビデオを識別するための参照インデックス情報、そしてそれぞれの参照ビデオに関する位置情報のうち少なくとも一つを抽出して読み取る。一実施形態による復元部240は、読み取られた情報を用いて参照されるビデオを選択的に検出することで、現在ファイルのビデオを所望の形態で復元できる。
一実施形態によるマルチメディアストリングサービス受信装置200は、ネットワーク状態によってマルチメディアコンテンツを安全にストリーミングサービスで受信するために、ビデオ画質によって差動的に符号化された複数のチャネルのビデオを含むマルチチャネルビデオグループに基づいた適応的ストリーミングサービスを提供される。一実施形態によるマルチメディアストリングサービス受信装置200は、ビデオ画質によって複数のチャネルに差動されたビデオのうち、ネットワーク状態によって選択的に所定チャネルのビデオを受信する。
一実施形態によるフラグメント属性情報抽出部230は、現在ファイルのビデオの他のチャネルのビデオ数を示すマルチチャネル数情報と、他のチャネルのビデオ位置を示す参照情報のうち少なくとも一つを抽出して読み取る。一実施形態による復元部240は、抽出されたマルチチャネル数情報及び参照情報を用いて、選択受信された他のチャネルのビデオを組み合わせてビデオを復元する。
一実施形態によるマルチメディアストリーミングサービス受信装置200は、フラグメントごとに3次元シグナリング情報または関係情報から読み取られた情報に基づいて、復元部240によって復元された2次元ビデオまたは3次元ビデオを2次元または3次元に再生する。
図3は、一実施形態によるフラグメント単位で伝送されるストリーミングファイルフォーマットと、フラグメントごとに伝送される3次元シグナリング情報とを含むmfsiボックスを示す。
一実施形態によるマルチメディアストリーミングサービス伝送装置100は、2次元ビデオまたは3次元ビデオの符号化されたビデオデータと、伝送されるビデオに関する各種特性情報を含む補助データとを、一実施形態によるストリーミングファイルフォーマット300によるデータストリームを収録して伝送する。
一実施形態によるストリーミングファイルフォーマット300は、ftypボックス、moovボックス350、sidxボックスと、複数のフラグメント310、312、314とで構成されている。それぞれのフラグメント310、320、330は、moofボックス320、340、360とmdatボックス330、350、370とで構成されている。
一実施形態によるストリーミングファイルフォーマット300に、ステレオスコピックコンテンツの符号化されたビデオデータが含まれて伝送される。ftypボックスは、一実施形態によるストリーミングファイルフォーマット300による現在ファイルのファイルタイプ情報を含む。sidxボックスは、現在ファイルのうちそれぞれのセグメントを検索するためのセグメントインデックス情報を含む。
moovボックス350は、現在ファイルのビデオに関する時間的情報及び空間的情報、データ構造などに関する情報を含む。一実施形態によるストリーミングファイルフォーマット300のmoovボックス350は、svmiボックス360及びscdiボックス370を備える。
svmiボックス360は、ストリーミングファイルフォーマット300による現在ファイルを通じて伝送されるステレオスコピックビデオのステレオスコピックビジュアルタイプ情報、2次元/3次元コンテンツの混合コンテンツ、フラグメント関連情報などの各種情報を含む。例えば、フラグメント関連情報は、フラグメントの数、連続的なサンプルの数、現在サンプルがステレオスコピックデータであるかどうかに関する情報を含む。
scdiボックス370は、ストリーミングファイルフォーマット300による現在ファイルを通じて伝送されるステレオスコピックビデオに関するステレオスコピックカメラ、ディスプレイ規格及び視覚安全性のための各種情報を含む。
一実施形態によるマルチメディアストリーミングサービス提供装置100は、ストリーミングファイルフォーマット300によって、現在ビデオの符号化されたデータをフラグメント単位に分割して伝送する。それぞれのフラグメント310、312、314のmdatボックス330、350、370に、フラグメント単位に分割されたビデオデータが含まれる。例えば、mdatボックス330は、2次元ビデオ335の分割されたデータを含み、mdatボックス350は、2次元ビデオ352と3次元ビデオ354との混合ビデオの分割されたデータを含み、mdatボックス350は、3次元ビデオ372と2次元ビデオ374との混合ビデオの分割されたデータを含む。
それぞれのフラグメント310、312、314のmoofボックス320、340、360には、該当フラグメント310、312、314のmdatボックス350、360、370に挿入されるビデオに関する時間的情報及び空間的情報、データ構造などに関する情報を含む。
例えば、moofボックス340は、現在フラグメント312のmdatボックス340に挿入される現在ビデオ352、354に関する3次元シグナリング情報を含む。
例えば、moofボックス340は、mfsiボックス380及びscdiボックス390を備える。一実施形態によるmfsiボックス380及びscdiボックス390は、現在フラグメント312のmdatボックス340に挿入される現在ビデオ352、354に関する3次元シグナリング情報を含む。
一実施形態によるマルチメディアストリーミングサービス受信装置200は、一実施形態によるストリーミングファイルフォーマット300によるデータストリームを受信してパージングすることで、2次元ビデオまたは3次元ビデオの符号化されたビデオデータと、受信されたビデオに関する各種特性情報を含む補助データとを抽出する。
一実施形態によるマルチメディアストリーミングサービス受信装置200は、一実施形態によるストリーミングファイルフォーマット300によるデータストリームのmfsiボックス380及びscdiボックス390からビデオに関する3次元シグナリング情報を抽出して、2次元ビデオまたは3次元ビデオを復元する。
図4は、一実施形態によるmfsiボックス及びscdiボックスに含まれた3次元シグナリング情報のシンタックスを示す。
一実施形態によるmfsiボックスは、現在フラグメントに挿入されたビデオに関する3次元シグナリング情報として、ステレオスコピックビジュアルタイプ情報を含む。
一実施形態によるステレオスコピックビジュアルタイプ情報は、現在フラグメントのビデオに関して、3次元構成情報‘stereoscopic_composition_type’、左右順序情報‘is_left_first’と、ステレオモノ区間変更回数情報‘stereo_mono_change_count’を含む。
一実施形態による3次元構成情報‘stereoscopic_composition_type’は、現在フラグメントのビデオで左視点映像及び右視点映像がステレオスコピック映像を構成する形態を示す。一実施形態によるステレオスコピック映像の3次元構成情報によって識別されるステレオスコピック映像タイプは、一枚のステレオスコピック映像内で左視点映像及び右視点映像が左右に配列されたサイド・バイ・サイド(Side−by−side)タイプ、上下に配列されたトップ・アンド・ボトム(Top−and−bottom)タイプ、左視点映像及び右視点映像が一枚ずつ交互に伝送されるフィールド(フレーム)シーケンシャルタイプ、そして左視点映像シーケンス及び右視点映像シーケンスがそれぞれ伝送されるタイプなどを含む。
一実施形態による左右順序情報‘is_left_first’は、現在フラグメントのステレオスコピック映像で左視点映像及び右視点映像が配列された順序を示す。例えば、左右順序情報‘is_left_first’を用いて、サイド・バイ・サイドタイプであるステレオスコピック映像内部の左/右領域に、左視点映像及び右視点映像の順序または右視点映像及び左視点映像の順序に配置されるか、またはトップ・アンド・ボトムタイプであるステレオスコピック映像内部の上/下領域に、左視点映像及び右視点映像の順序または右視点映像及び左視点映像の順序に配置されるかが確認される。
一実施形態によるステレオモノ区間変更回数情報‘stereo_mono_change_count’は、現在フラグメントがモノスコピックビデオ区間またはステレオスコピックビデオ区間の連続的な区間で構成されたビデオを含む場合、モノスコピックビデオ区間とステレオスコピックビデオ区間の変更回数を示す。
現在フラグメントに対して、モノスコピックビデオまたはステレオスコピックビデオか示すステレオ確認情報‘stereo_flag’が伝送される。一実施形態によるステレオスコピックビジュアルタイプ情報は、現在フラグメントのビデオ区間ごとに、モノスコピックビデオ区間またはステレオスコピックビデオ区間を示すためのステレオ確認情報‘stereo_flag’を含む。
また、一実施形態によるステレオスコピックビジュアルタイプ情報は、現在フラグメントのビデオ区間ごとに、現在区間を構成するサンプルの数を示す区間サンプル数情報‘sample_count’を含む。
また、一実施形態によるステレオスコピックビジュアルタイプ情報は、現在フラグメントのうち、ステレオスコピックビデオ区間に関する3次元構成情報‘stereoscopic_composition_type’情報、左右順序情報‘is_left_first’を含む。
したがって、現在フラグメントのうち、ステレオスコピックビデオ区間ごとに、左視点映像及び右視点映像がステレオスコピック映像を構成する形態に関する3次元構成情報と、左視点映像及び右視点映像が配列された順序に関する左右順序情報とが伝送される。
一実施形態による3次元シグナリング情報として、現在フラグメントのステレオスコピックビデオ区間ごとに、ステレオスコピックカメラ情報とステレオスコピックディスプレイ情報のうち少なくとも一つを含むscdiボックスが伝送される。
図4のmfsiボックスのシンタックスのように、一実施形態によるscdiボックスは、一実施形態によるmfsiボックスに含まれて伝送される。図3のように、現在フラグメントビデオデータに関するmfsiボックス380とscdiボックス390とがそれぞれ伝送される。
一実施形態によるステレオスコピックビジュアルタイプ情報は、現在フラグメントのうち、ステレオスコピックビデオ区間に関する‘scdi_item_count’情報を含む。
‘scdi_item_count’情報は、ステレオスコピックカメラディスプレイ情報が適用されるアイテムの数を示す。例えば、ステレオスコピックカメラディスプレイ情報が適用されるアイテムとは、3次元ビデオデータが含まれた区間を示す。この場合、‘scdi_item_count’情報は、現在フラグメントに含まれた3次元ビデオデータ区間であるアイテムまたはサンプルの数を示す。
一実施形態によるscdiボックスは、現在ステレオスコピックカメラディスプレイ情報の識別情報‘scdi_ID’を含む。
一実施形態によるステレオスコピックカメラディスプレイ情報は、moovボックス350のscdiボックス370のステレオスコピックカメラディスプレイ情報、またはmoofボックス320、340、360の他のscdiボックスのステレオスコピックカメラディスプレイ情報を参照できるので、‘scdi_ID’を用いて参照対象であるscdiボックスが検索される。
ステレオスコピックカメラディスプレイ情報が適用されるアイテムまたはサンプルごとに、‘scdi_ID’情報と‘scdi_duration’情報とが伝送される。‘scdi_duration’情報は、現在ステレオスコピックカメラディスプレイ情報が適用されるアイテムまたはサンプルの長さを示す。したがって、現在フラグメントに関する現在ステレオスコピックカメラディスプレイ情報が、ステレオスコピックビデオ区間を構成するアイテムまたはサンプル単位で伝送される。
したがって、図3による事実施形態によるマルチメディアストリーミングファイルフォーマット300と、図4のmsfiボックス及びscdiボックスのシンタックスとに基づいて、モノスコピックビデオまたはステレオスコピックビデオを含むビデオがフラグメント単位で送受信され、フラグメントごとにビデオに関する3次元シグナリング情報が送受信される。
また、フラグメント内のモノスコピックビデオ区間またはステレオスコピックビデオ区間に対して、それぞれの区間を構成するサンプルの数を示す情報が送受信される。また、フラグメントのビデオに関するステレオスコピックカメラディスプレイ情報がアイテムまたはサンプル単位で伝送される。
図5は、一実施形態によるフラグメント単位で伝送されるストリーミングファイルフォーマットと、フラグメントごとに伝送される3次元シグナリング情報とを含むsvfiボックスを示す。
一実施形態によるマルチメディアストリーミングサービス伝送装置100は、2次元ビデオまたは3次元ビデオの符号化されたビデオデータと、伝送されるビデオに関する各種特性情報を含む補助データとを、一実施形態によるストリーミングファイルフォーマット500によるデータストリームに収録して伝送する。
一実施形態によるストリーミングファイルフォーマット500は、ftypボックスとmoovボックス510、そしてmoofボックス520、540とmdatボックス530、550とで構成された複数のフラグメント501、502、mfraボックスで構成されている。
moovボックス510に含まれるtrakボックスは、プレゼンテーション(presentation)のうち一つのトラック(track)を検索するための情報を含む。プレゼンテーションとは、オーディオと結合できる一つ以上のモーションシーケンスを示し、トラックとは、互いに関連するサンプルの集まり、例えば、ビデオのうち映像シーケンスを示す。
trakボックスに含まれるtkhdボックスは、現在トラックに関するあらゆる情報を含むトラックヘッダーであり、mdiaボックスは、現在トラックのメディアに関する宣言情報を含む。mdiaボックスに含まれるminfボックスは、現在メディアに関する特性情報を宣言するあらゆる客体を含み、stblボックスは、現在トラックのサンプルを検索するためのサンプルの時間、データ、位置などのインデクシング情報を含む。stblボックスのsvmiボックスは、現在トラックの現在メディアに対するステレオスコピックビデオに関する情報を含む。
moovボックス510に含まれるmvexボックスは、現在ファイルを通じてビデオのフラグメントが伝送されることを知らせる情報を含む。mvexボックスに含まれるtrexボックスは、フラグメント501、502で使われるサンプルに関する基本値情報を含む。
フラグメント501、502のmdatボックス530、550を通じて、モノスコピックビデオ、ステレオスコピックビデオまたは混合ビデオの符号化されたデータが伝送される。moofボックス530、550に含まれるmfhdボックスは、現在ファイルでそれぞれのフラグメントに対する一連番号に関する情報を含む。
moofボックス530、550に含まれるtrafボックスは、現在フラグメントのうちそれぞれのトラックを構成する一つ以上のトラックフラグメントを含む。それぞれのトラックフラグメントは、一連のサンプルを記述する一つ以上のトラックランを含む。trafボックスに含まれるtrunボックスは、現在トラックランに関する情報を含む。
mfraボックスは、それぞれのフラグメントにランダムに近付くためにランダムアクセスポイント情報を含む。trfaボックスは、ランダムアクセスの可能なサンプルの位置情報及び再生時間情報を含む。
一実施形態によるマルチメディアストリーミングサービス提供装置100は、フラグメント単位で伝送されるストリーミングファイルフォーマット500を通じて、フラグメントごとに伝送される3次元シグナリング情報を含むsvfiボックス525、545を伝送する。
一実施形態によるsvfiボックス525、545に、それぞれ現在フラグメント501、502のmdatボックス530、550に挿入されたビデオ535、555に関する3次元シグナリング情報が収録される。
例えば、マルチメディアストリーミングサービス提供装置100は、moofボックス530、550の下位ボックスであるtrafボックスにsvfiボックスを挿入して伝送してもよい。
一実施形態によるマルチメディアストリーミングサービス受信装置200は、一実施形態によるストリーミングファイルフォーマット500によるデータストリームを受信してパージングすることで、2次元ビデオまたは3次元ビデオの符号化されたビデオデータと、受信されたビデオデータに関する各種特性情報を含む補助データとを抽出する。
一実施形態によるマルチメディアストリーミングサービス受信装置200は、一実施形態によるストリーミングファイルフォーマット500によるデータストリームのsvfiボックス525、545、svmiボックスなどから、ビデオデータに関する3次元シグナリング情報を抽出して2次元ビデオまたは3次元ビデオを復元する。
図6及び図7は、一実施形態によるsvfiボックスに含まれた3次元シグナリング情報のシンタックスを示す。
一実施形態によるsvfiボックスを通じて、現在フラグメントを通じて伝送されるビデオに関する3次元シグナリング情報が送受信される。
図6及び図7に示したsvfiボックスの3次元シグナリング情報は、現在フラグメントのビデオに関するステレオモノ区間変更回数情報‘stereo_mono_change_count’を含む。ステレオモノ区間変更回数情報‘stereo_mono_change_count’を通じて現在フラグメントのうち、モノスコピックビデオ区間とステレオスコピックビデオ区間とが検索される。一実施形態によるsvfiボックスの3次元シグナリング情報は、現在フラグメントのうち、ステレオスコピックビデオ区間に対する区間サンプル数情報‘sample_count’、ステレオ確認情報‘stereo_flag’を含む。
図7に示したsvfiボックスの3次元シグナリング情報は、ステレオスコピックビデオ区間を識別するための情報‘stereo_section_ID’をさらに含む。現在フラグメントが複数のステレオスコピックビデオ区間を含む場合、ステレオセクション識別情報‘stereo_section_ID’を用いて、それぞれのステレオスコピックビデオ区間が区別される。
図8は、一実施形態によるフラグメント単位で伝送されるストリーミングファイルフォーマットにおいて、ファイルに対して設定された3次元シグナリング情報のシンタックスを示す。
一実施形態によるマルチメディアストリーミングサービス提供装置100は、ストリーミングファイルフォーマット500のファイルチャネルから3次元構成情報及び左右順序情報を伝送できる。moovボックスに含まれたsvmiボックスに、現在ファイルのビデオに関する3次元構成情報‘stereoscopic_composition_type’及び左右順序情報‘is_left_first’が挿入される。
一実施形態によるマルチメディアストリーミングサービス受信装置200は、ストリーミングファイルフォーマット500のmoovボックスに含まれたsvmiボックスをパージングして、‘stereoscopic_composition_type’フィールド及び‘is_left_first’フィールドを抽出し、ストリーミングファイルフォーマット500を通じて受信された現在ファイルのビデオに対してステレオスコピック映像を構成する形態と、ステレオスコピック映像における左視点映像及び右視点映像の順序に関する情報とを読み取る。
図9は、一実施形態によるフラグメント単位で伝送されるストリーミングファイルフォーマットにおいて、サンプルに対して設定された3次元シグナリング情報のシンタックスを示す。
一実施形態によるマルチメディアストリーミングサービス提供装置100は、ストリーミングファイルフォーマット500のトラック、フラグメントまたはサンプルチャネルからステレオ確認情報を伝送する。
図9のシンタックスは、moovボックスに含まれたtrexボックス、moofボックスに含まれたtfhdボックスまたはtrunボックスのシンタックスに、一実施形態によるステレオ確認情報‘stereo_flag’が追加された形態である。
すなわち、moovボックスに含まれたtrexボックスに、現在トラックのビデオに関するステレオ確認情報z‘stereo_flag’が挿入されて伝送される。moofボックスに含まれたtfhdボックスに、現在フラグメントのビデオに関するステレオ確認情報‘stereo_flag’が挿入されて伝送される。またはmoofボックスに含まれたtrunボックスに、現在フラグメントを構成するサンプルのビデオに関するステレオ確認情報‘stereo_flag’が挿入されて伝送される。
一実施形態によるマルチメディアストリーミングサービス受信装置200は、ストリーミングファイルフォーマット500のmoovボックスに含まれたtrexボックス、moofボックスに含まれたtfhdボックスまたはtrunボックスをパージングして‘stereo_flag’を抽出し、ストリーミングファイルフォーマット500を通じて受信された現在トラック、現在フラグメントまたは現在サンプルのビデオがモノスコピックタイプであるか、またはステレオスコピックタイプであるかを読み取る。
図10は、一実施形態によってステレオスコピックビデオの左視点ビデオ及び右視点ビデオをそれぞれ伝送するための2個のストリーミングファイルフォーマットを示す。
一実施形態によるマルチメディアストリーミングサービス提供装置100は、ステレオスコピックビデオを構成する左視点ビデオと右視点ビデオとをそれぞれ含む左視点ESストリーム(Elementary Stream)と右視点ESストリームとに伝送する。また、一実施形態によるマルチメディアストリーミングサービス提供装置100は、ストリーミングファイルフォーマット500に基づいた左視点ビデオファイル‘test_1644_L.mp4’1010に左視点ESストリームを挿入し、右視点ESストリームを個別的に、右視点ビデオファイル‘test_1644_R.mp4’1020に右視点ESストリームを挿入して伝送する。
すなわち、一実施形態によるマルチメディアストリーミングサービス提供装置100は、ステレオスコピックビデオを伝送するために2個のESストリームを2ファイルのストリーミングを通じて伝送する。
一実施形態によるマルチメディアストリーミングサービス提供装置100は、現在ファイルのステレオスコピックビデオを構成するために参照する他の一つのビデオに関する参照情報及び位置情報を含む関係情報を伝送する。例えば、一実施形態によるマルチメディアストリーミングサービス提供装置100は、moovボックス1030の下位ボックスであるtrakボックス1040に参照ビデオに関する参照タイプ、位置情報などを挿入して伝送する。
一実施形態によるマルチメディアストリーミングサービス提供装置100は、受信された左視点ビデオファイルをパージングして、現在ファイルのステレオスコピックビデオを構成するために参照する他のビデオに関する参照タイプ及び位置情報を抽出して読み取る。
一実施形態によるマルチメディアストリーミングサービス受信装置200は、読み取られた情報を用いて参照される他の一つのビデオが受信されたストリーミングファイルを検出することで、2つのストリーミングファイルから抽出されたビデオを組み合わせてステレオスコピック映像を復元する。
図11は、一実施形態によってファイルに含まれたステレオスコピックビデオについて設定される関係情報を示す。
一実施形態によるマルチメディアストリーミングサービス提供装置100は、一実施形態によるストリーミングファイルフォーマット500のmoovボックスの下位ボックスであるtrakボックスに含まれるtrefボックス1110に、ステレオスコピックビデオを構成するために他のビデオを検索するための関係情報を挿入する。
一実施形態によってtrakボックスに含まれるトラックレファレンスタイプボックス1120は、ファイルのトラックごとに、現在トラックのビデオに対する参照ビデオが含まれたトラックを示すための参照トラック識別情報‘track_ID’を含む。
また、一実施形態によってtrakボックスに含まれるトラックレファレンスタイプURLボックス1130は、ファイルのトラックごとに現在トラックに対する複数の参照ビデオの位置を示すために、参照ビデオ数を示す情報‘entry_count’を含み、参照ビデオごとに位置情報‘location’を含む。
一実施形態による位置情報‘location’は、UTF−8などの言語に符号化された文字列であって、参照ビデオの遠隔位置を示す。したがって、一実施形態によるマルチメディアストリーミングサービス受信装置200は、受信されたストリーミングファイルからmoovボックス、trakボックス、trefボックス1110を順次にパージングして、トラックレファレンスタイプURLボックス1130から、現在ファイルの外部ファイルに位置するビデオを検出して参照してもよい。
図12は、一実施形態によって2個のストリーミングファイルでステレオスコピックビデオを伝送する場合、ファイル内部で設定される一つの関係情報を示す。
一実施形態によるマルチメディアストリーミングサービス提供装置100は、ストリーミングファイルフォーマット500に基づいた左視点ビデオファイル‘test_1644_L.mp4’1010のmoovボックス1030に含まれるtrakボックス1040のminfボックス1050の下位ボックスであるdinfボックス1060に、現在トラックのビデオが参照する一つのビデオに関する関係情報を挿入して伝送する。
一実施形態によるdinfボックス1060は、関係情報を伝送するためのdrefボックス1070を備え、drefボックス1070は、現在トラックの参照トラックの遠隔位置情報を示す参照URL情報1080を含む。
一実施形態による参照URL情報1080は、URL情報‘location’だけでなく参照フラッグ‘flags’を含む。一実施形態による参照フラッグ‘flags’を通じて、現在ビデオは、ステレオスコピックビデオのうち左視点ビデオまたは基本時点ビデオであり、現在ファイル内に含まれていることが記述され、参照対象である右視点ビデオまたは付加時点ビデオは、‘location’が示す位置に含まれていると記述される。
すなわち、参照URL情報1080のURL情報‘location’は、右視点ビデオファイル‘test_1644_R.mp4’1020の遠隔位置を示す。参照URL情報1080の‘flags’は、現在ビデオは、現在左視点ビデオファイル‘test_1644_L.mp4’1010を通じて伝送され、現在ビデオの参照ビデオは、‘location’が示す位置である右視点ビデオファイル‘test_1644_R.mp4’1020を通じて伝送されていることを示す。
一実施形態によって、左視点ビデオファイル‘test_1644_L.mp4’1010のみに関係情報が収録される場合には、基準時点ビデオが位置する左視点ビデオファイル‘test_1644_L.mp4’1010のフラグメントが要請される時、付加時点ビデオが位置する右視点ビデオファイル‘test_1644_R.mp4’1020のうち対応するフラグメントも一緒に要請されると認識される。
図13は、一実施形態によって2個のストリーミングファイルでステレオスコピックビデオを伝送する場合、ファイル内部で設定される複数の関係情報を示す。
一実施形態によるマルチメディアストリーミングサービス提供装置100は、ストリーミングファイルフォーマット500に基づいた左視点ビデオファイル‘test_1644_L.mp4’1010のmoovボックス1310に含まれるdinfボックス1360に、現在ビデオが参照する複数のビデオに関する参照情報を挿入して伝送する。
例えば、dinfボックス1360のdrefボックス1370は、現在ビデオの2個の参照ビデオの遠隔位置情報を示す2個の参照URL情報1380、1390を含む。
一実施形態によるdrefボックス1370に含まれた第1参照URL情報1380は、左視点ビデオファイル‘test_1644_L.mp4’1010の現在ビデオの第1フラグメント1320が参照する、右視点ビデオファイル‘test_1644_R.mp4’1020の第3フラグメント1340を示すための情報を含む。
類似した方式で、一実施形態によるdrefボックス1370に含まれた第2参照URL情報1390は、左視点ビデオファイル‘test_1644_L.mp4’1010の現在ビデオの第2フラグメント1330が参照する、右視点ビデオファイル‘test_1644_R.mp4’1020の第4フラグメント1350を示すための情報を含む。
一実施形態によるマルチメディアストリーミングサービス受信装置200は、左視点ビデオファイル‘test_1644_L.mp4’1010を受信し、moovボックス1310、dinfボックス1360、drefボックス1370を順にパージングして、第1参照URL情報1380及び第2参照URL情報1390を抽出する。
一実施形態によるマルチメディアストリーミングサービス受信装置200は、第1参照URL情報1380の‘flags’に基づいて、現在トラックの第1フラグメント1320は現在左視点ビデオファイル‘test_1644_L.mp4’1010を通じて伝送され、現在トラックの第1フラグメント1320の参照トラックは、‘location’のURL情報が示す位置である右視点ビデオファイル‘test_1644_R.mp4’1020の第3フラグメント1340を通じて伝送されていると読み取れる。
類似した方式で、一実施形態によるマルチメディアストリーミングサービス受信装置200は、第2参照URL情報1390の‘flags’に基づいて、現在トラックの第2フラグメント1330は、現在左視点ビデオファイル‘test_1644_L.mp4’1010を通じて伝送され、現在トラックの第2フラグメント1330の参照トラックは、‘location’のURL情報が示す位置である右視点ビデオファイル‘test_1644_R.mp4’1020の第4フラグメント1350を通じて伝送されていると読み取れる。
図14は、一実施形態によって2個のストリーミングファイルでステレオスコピックビデオを伝送する場合、複数の参照ビデオに関する関係情報を含むトラック情報のシンタックスを示す。
一実施形態によるマルチメディアストリーミングサービス提供装置100は、ファイルの現在トラックに対する参照ビデオが複数である場合、参照ビデオ数とそれぞれの参照ビデオの位置とを連関させて、参照ビデオの位置情報のインデックスを示す情報を伝送できる。
例えば、dinfボックスの下位ボックスであるdrefボックスのうち参照ビデオ数を示す情報‘entry_count’と、それぞれの参照ビデオの位置情報‘location’とを連動して、参照ビデオの位置情報のインデックスを示す‘data_reference_index’情報がdrefボックスを通じて伝送される。
図15は、一実施形態によって2個のストリーミングファイルでステレオスコピックビデオを伝送する場合、ファイル内部で設定される関係情報のシンタックスを示す。
一実施形態によるマルチメディアストリーミングサービス提供装置200は、現在ビデオの参照ビデオを知らせるために、参照ビデオ位置ボックス1510、参照ビデオ名称ボックス1520及び参照エントリーボックス1530を用いる。
例えば、参照ビデオ位置ボックス1510は、参照ビデオの位置情報‘location’として、http、ftp基盤の位置情報を含む。一実施形態による参照ビデオ名称ボックス1520は、参照ビデオのURN情報‘name’及び位置情報‘location’を含む。
一実施形態による参照エントリーボックス1530を通じて、参照エントリー数情報‘entry_count’と、参照エントリーごとにエントリータイプを示す情報‘entry_flags’とに基づいて定められる参照情報‘data_entry’が伝送される。
例えば、‘entry_flags=0x000001’は、現在ファイル内に現在ビデオが挿入されていることを示す。一実施形態によるエントリーフラッグがentry_flags=0x000002’の場合、現在ビデオは、ステレオスコピックビデオのうち左視点ビデオまたは基本時点ビデオであり、現在ファイル内に含まれていることが記述され、参照対象である右視点ビデオまたは付加時点ビデオは、‘location’が示す位置に含まれていると記述される。
図16は、一実施形態によって2個のストリーミングファイルでステレオスコピックビデオを伝送する場合、ファイル外部のインデックスファイルを用いて設定される関係情報を示す。
一実施形態によるマルチメディアストリーミングサービス提供装置100は、外部ファイルに関するインデックス情報を記述する外部インデックスファイルを用いて、現在ビデオの参照ビデオを示すための関係情報を伝送してもよい。
一実施形態による外部インデックスファイルSMILを通じて、一つのコンテンツのための複数のコンポネントに関する情報が共に伝送される。すなわち、一実施形態による外部インデックスファイルSMILは、現在ファイルのためのインデックス情報1010と現在ファイルの参照ファイルのためのインデックス情報1020とをいずれも含む。
一実施形態によるマルチメディアストリーミングサービス受信装置200は、受信されたストリーミングファイルから、現在ファイルのビデオがステレオスコピックビデオを構成するために参照する参照ビデオに関する関係情報を抽出して、参照ビデオ数、複数の参照ビデオを識別するための参照インデックス、そしてそれぞれの参照ビデオに対する位置などを読み取る。一実施形態によるマルチメディアストリーミングサービス受信装置200は、参照ビデオを検出して現在ビデオと組み合わせてステレオスコピックビデオを復元する。
また、一実施形態によるマルチメディアストリーミングサービス受信装置200は、外部インデックスファイルを用いて、現在ビデオに対する参照ビデオを検出して現在ビデオと組み合わせて、ステレオスコピックビデオを復元する。
図17及び図18は、一実施形態によってステレオスコピックビデオの左視点ビデオ及び右視点ビデオを伝送するための1個のストリーミングファイルフォーマットを示す。
一実施形態によるマルチメディアストリーミングサービス提供装置100は、ステレオスコピックビデオのための左視点ESストリームと右視点ESストリームとを、1個のフラグメント基盤のストリーミングファイルを通じて伝送する。
一実施形態によるマルチメディアストリーミングサービス提供装置100は、一実施形態によるストリーミングファイルフォーマット500に基づいたストリーミングファイル1700、1800に、左視点ESストリーム及び右視点ESストリームをいずれも挿入して伝送する。
一実施形態によるマルチメディアストリーミングサービス提供装置100は、現在ファイルのステレオスコピックビデオを構成するために参照する他のビデオに関する関係情報を伝送する。例えば、一実施形態によるマルチメディアストリーミングサービス提供装置100は、moovボックス1710、1810の下位ボックスであるtrakボックス1712、1714、1812、1814に関係情報を挿入して伝送する。
一実施形態によるマルチメディアストリーミングサービス提供装置100は、受信された左視点ビデオファイルをパージングして、現在ファイルのステレオスコピックビデオを構成するために参照する他のビデオに関する関係情報を抽出して読み取る。
一実施形態によるマルチメディアストリーミングサービス受信装置200は、読み取られた関係情報を用いて参照される他の一つのビデオを含むストリーミングファイルを検出することで、2つのストリーミングファイルから抽出されたビデオを組み合わせてステレオスコピック映像を復元する。
先ず図17を参照すれば、ストリーミングファイル1700のそれぞれのフラグメントごとに、第1トラックである左視点ビデオと、第2トラックである右視点ビデオとをいずれも含む。すなわち、第1フラグメント1720を通じて左視点ビデオ1722及び右視点ビデオ1724が伝送され、第2フラグメント1730を通じて左視点ビデオ1732及び右視点ビデオ1734が伝送される。
moovボックス1710はトラック別に、第1トラックに対する第1trakボックス1712と、第2トラックに係る第2trakボックス1714とを備える。ステレオスコピックビデオのうち、付加時点ビデオのための右視点ビデオが伝送される第2トラックに係る第2trakボックス1714のtrefボックス1715に、一実施形態による関係情報が挿入されて伝送される。一実施形態による関係情報は、trefボックス1715は、参照タイプ情報‘reference_type’及び基本時点トラック識別情報‘track_ID’を含む。
図18を参照すれば、ストリーミングファイル1800のそれぞれのフラグメントごとに、第1トラックである左視点ビデオと、第2トラックである右視点ビデオとが個別的に挿入される。すなわち、第1フラグメント1820を通じて左視点ビデオ1822が伝送され、第2フラグメント1830を通じて右視点ビデオ1832が伝送され、第3フラグメント1840を通じて左視点ビデオ1842が伝送され、第4フラグメント1850を通じて右視点ビデオ1852が伝送される。
図18の場合、一実施形態による関係情報は、左視点ビデオが参照する右視点ビデオを含むフラグメントに関するオフセット情報を含んでもよい。
もし関係情報として、右視点ビデオが伝送されるフラグメントに関するオフセット情報が別途に伝送されなければ、相応する左視点ビデオのフラグメント1820、1840と、右視点ビデオのフラグメント1830、1850とが、ストリーミングファイル1800内で順次に挿入されて伝送されることが望ましい。これにより、一実施形態によるマルチメディアストリーミングサービス受信装置200は、ストリーミングファイル1800を受信しつつ、左視点ビデオのフラグメント1820、1840の直後に、相応する右視点ビデオのフラグメント1830、1850を受信する。
moovボックス1710はトラック別に、第1トラックに対する第1trakボックス1712と、第2トラックに係る第2trakボックス1714とを備える。ステレオスコピックビデオのうち、付加時点ビデオのための右視点ビデオが伝送される第2トラックに係る第2trakボックス1714のtrefボックス1715に、一実施形態による関係情報が挿入されて送信される。一実施形態による参照情報は、trefボックス1715は、参照タイプ情報‘reference_type’と、基本時点トラック識別情報‘track_ID’とを含む。
一実施形態によるマルチメディアストリーミングサービス受信装置200は、受信されたストリーミングファイル1700、1800のmoovボックス1710、1810、trakボックス1712、1714、1812、1814を順次にパージングして、trefボックス1715、1815が抽出される第2trakボックス1714、1814に対応する第2トラックに、付加時点ビデオである右視点ビデオが含まれていることを読み取る。また、trefボックス1715、1815の参照タイプ情報‘reference_type’及び基本時点トラック識別情報‘track_ID’に基づいて、第2トラックが第1トラックに属すると読み取られるので、第1trakボックス1712、1812に対応する第1トラックのフラグメントから左視点ビデオが抽出され、第2trakボックス1714、1814に対応する第2トラックのフラグメントから右視点ビデオが抽出される。
mfraボックス1760、1860の下位ボックスであるtfraボックス1762、1862は、ステレオスコピックビデオの再生時間からフラグメントまでの距離を示すフラグメントオフセット情報を含む。ステレオスコピックビデオの左視点ビデオ及び右視点ビデオに対する再生時間は同一であるので、第1トラックに対するtfraボックス1762、1862のみに、ストリーミングファイル1700のステレオスコピックビデオを抽出するためのフラグメントオフセット情報が提供される。
図19及び図20は、1個のストリーミングファイルでステレオスコピックビデオを伝送する場合、ファイル外部のインデックスファイルを用いて参照ビデオを定める方式を示す。
一実施形態によるマルチメディアストリーミングサービス提供装置100は、外部インデックスファイルを用いて現在ビデオの参照ビデオを示すための関係情報を伝送してもよい。
一実施形態による外部インデックスファイルSMILを通じて、一つのコンテンツのための複数のコンポネントに関する情報が共に伝送される。すなわち、一実施形態による外部インデックスファイルSMILは、現在ファイル“test_1644.mp4”を通じて伝送される左視点ビデオトラックのためのインデックス情報と、右視点ビデオトラックのためのインデックス情報とをいずれも含む。
図19を参照すれば、ファイル外部のインデックスファイルは、現在ストリーミングファイルに含まれた左視点ビデオトラックと右視点ビデオトラックとを識別するために、トラック識別情報‘trackID’及びステレオスコピックタイプ‘stereotype’を含む。
図20を参照すれば、ファイル外部のインデックスファイル及びファイル内部のtrefボックスを用いて参照ビデオが検索される。ファイル外部のインデックスファイルは、現在ストリーミングファイルに含まれた基本時点ビデオトラックを識別するためのトラック識別情報‘trackID’及びステレオスコピックタイプ‘stereotype’のみを含む。
図20の場合、一実施形態によるマルチメディアストリーミングサービス受信装置200は、一実施形態によるマルチメディアストリーミングサービス受信装置200は、受信されたストリーミングファイルのmoovボックスのtrakボックスのうち、trefボックスを含むtrakボックスに対応するトラックが、付加時点ビデオトラックであると読み取れる。したがって、ファイル外部のインデックスファイルが示すトラックのフラグメントから基本時点ビデオが抽出され、trefボックスを含むtrakボックスに対応するトラックのフラグメントから付加時点ビデオが抽出される。
一実施形態によるマルチメディアストリーミングサービス受信装置200は、受信されたストリーミングファイルから、ステレオスコピックビデオを構成する基本時点ビデオ及び付加時点ビデオを抽出し、現在ストリーミングファイルの基本時点ビデオ及び付加時点ビデオに対するインデックス情報を抽出して、基本時点ビデオ及び付加時点ビデオの参照関係などを読み取る。一実施形態によるマルチメディアストリーミングサービス受信装置200は、現在ストリーミングファイルから抽出された基本時点ビデオと付加時点ビデオとを組み合わせて、ステレオスコピックビデオを復元する。
また、一実施形態によるマルチメディアストリーミングサービス受信装置200は、外部インデックスファイルを用いて、現在ストリーミングファイルの基本時点ビデオと付加時点ビデオとの関係を読み取って、基本時点ビデオと付加時点ビデオとを組み合わせてステレオスコピックビデオを復元してもよい。
以上、図10ないし図20を参照して前述された、フラグメント基盤のストリーミングファイルを通じて送受信されるステレオスコピックビデオを再生するためには、左視点ビデオ及び右視点ビデオが同期化されねばならない。左視点ビデオ及び右視点ビデオは、対応する左視点サンプルと右視点サンプルとの間に同じ再生時間と、同じサンプル持続時間(sample duration)とを持つことで同期化される。
以下、図21及び図22を参照して、適応的ストリーミングサービスのためのマルチチャネルビデオグループに対して、一実施形態によるマルチチャネルビデオグループを構成するビデオデータ間の関係情報を用いる方式が詳述される。
マルチメディアの適応的ストリーミングサービスのために、ビデオ画質またはビットレートによって差動的に符号化されたビデオを提供するようにマルチチャネルビデオグループが提供される。マルチチャネルビデオグループから選択されたチャネルの符号化されたビデオデータが送受信される。
一実施形態によるマルチメディアストリーミングサービス受信装置200は、ネットワーク環境、現在状態、ケーパビリティなどを考慮して、マルチチャネルビデオグループのうち所定チャネルのビデオをマルチメディアストリーミングサービス提供装置100に要請する。
一実施形態によるマルチメディアストリーミングサービス提供装置100は、マルチメディアストリーミングサービス受信装置100がマルチチャネルビデオグループのうち所望の形式のビデオを選択できるように、マルチチャネルビデオグループを構成するビデオの関係情報を伝送する。
一実施形態によるマルチメディアストリーミングサービス受信装置200は、一実施形態によるマルチチャネルビデオグループの関係情報を用いて、所望のチャネルのビデオを選択し、要請して受信する。一実施形態によるマルチメディアストリーミングサービス受信装置200は、受信された所定チャネルのビデオを用いてビデオを復元する。
図21は、適応的ストリーミングサービスのために、一実施形態によるマルチチャネルビデオグループの関係情報を含むafgpボックスのシンタックスを示す。
一実施形態によるマルチメディアストリーミングサービス提供装置100は、マルチメディアストリーミングファイルフォーマット300、500にafgpボックスを追加して、現在ストリーミングファイルを通じて伝送するビデオに係る、マルチチャネルビデオグループに関する関係情報を伝送する。
一実施形態によるafgpボックスは、ftypボックス、moovボックスなどと同じチャネルに構成される。
一実施形態によるafgpボックスは、現在ビデオと係るマルチチャネルビデオグループのうち、現在ビデオを取り替えられる他のビデオに関する関係情報を含む。一実施形態によるafgpボックスは、マルチチャネルビデオグループを構成するビデオ数情報‘entry_count’及び他のビデオの位置情報‘file_location’を含む。
一実施形態によるafgpボックスの位置情報‘file_location’は、他のビデオの遠隔位置、URLなどを示す。すなわち、一実施形態によるafgpボックスは、現在ストリーミングファイルだけでなく、外部ファイルに位置するビデオに関する位置情報を伝送する。
位置情報‘file_location’は、UTF−8のような言語に符号化された文字列である。位置情報‘file_location’が示す外部ファイルと現在ファイルとは、同じマルチチャネルビデオグループであると示すためにマルチチャネルビデオグループ名称情報‘alternate_group’の値を共有することで、現在ファイルと外部ファイルとの取り替え関係が表現される。
例えば、afgpボックスを含む現在ファイルのビデオの‘alternate_group’値と、afgpボックスの‘file_locations’によって記述される所定外部ファイルに含まれたビデオの‘alternate_group’値とが0ではない同じ値ならば、現在ファイルのビデオと所定外部ファイルのビデオとは、マルチチャネルビデオグループを構成する互いに取り替え可能なビデオであることを示す。
一実施形態によるマルチメディアストリーミングサービス受信装置200は、受信されたストリーミングファイルから一実施形態によるafgpボックスをパージングして、マルチチャネルビデオグループを構成するビデオ数及び位置情報を読み取る。
一実施形態によるマルチメディアストリーミングサービス受信装置200は、afgpボックスから読み取られたマルチチャネルビデオグループを構成するビデオのうち所望のチャネルのビデオを選択し、現在受信されたファイルまたは外部ファイルに位置しているビデオを要請して受信する。
図22は、適応的ストリーミングサービスのために、ファイル外部のインデックスファイルを用いて一実施形態によるマルチチャネルビデオグループ間の関係情報を設定する場合を示す。
一実施形態によるマルチメディアストリーミングサービス提供装置100は、外部インデックスファイルを用いて、マルチチャネルビデオグループを構成する複数のビデオとの関係情報が共に伝送される。例えば、一実施形態による外部インデックスファイルSMILは、マルチチャネルビデオグループのビデオ別に、第1ファイルに関するインデックス情報2210と第2ファイルに関するインデックス情報2220とをいずれも含む。
一実施形態による外部インデックスファイルSMILは、マルチチャネルビデオグループを構成するビデオ別に、ビデオ位置情報test_1644.mp4、test_3288.mp4、ビットレート情報1644000または3288000と、現在マルチチャネルビデオグループを識別するためのグループ名称情報alternate_groupとを含む。
一実施形態による外部インデックスファイルは、マルチチャネルビデオグループに含まれるビデオデータに関する位置情報として、現在受信されたファイルまたは外部ファイルの遠隔位置情報またはURL情報を含む。
また、第1ファイル“test_1644.mp4”が現在受信されたファイル内部のビデオトラックならば、一実施形態による外部インデックスファイルSMILは、トラック識別情報trackIDをさらに含んでもよい。
したがって、一実施形態によるマルチメディアストリーミングサービス受信装置200は、受信されたストリーミングファイルの外部インデックスファイルから、現在ビデオが属するマルチチャネルビデオグループのビデオの位置情報及び特性情報などを読み取る。一実施形態によるマルチメディアストリーミングサービス受信装置200は、外部インデックスファイルから読み取られたマルチチャネルビデオグループのうち取り替えビデオを選択し、現在受信されたファイルまたは外部ファイルに位置しているビデオを要請して受信する。
図23は、一実施形態によるマルチメディアストリーミングサービス提供方法のフローチャートを示す。段階2310で、2次元ビデオデータ及び3次元ビデオデータのうち少なくとも一つを含むビデオの符号化されたデータが、フラグメント単位に分割される。
一実施形態によってフラグメントは、モノスコピックビデオ区間、ステレオスコピックビデオ区間、及びモノスコピックビデオ区間とステレオスコピックビデオ区間との混合ビデオ区間のうち一つを含む。
段階2320で、フラグメントごとに、3次元シグナリング情報及び関係情報のうち少なくとも一つを含む属性情報が定められる。
一実施形態によってフラグメントごとに、3次元構成情報、左右順序情報及びステレオモノ区間変更回数情報のうち少なくとも一つが定められる。
一実施形態によってフラグメントの区間別に、ステレオ確認情報及び区間サンプル数情報のうち少なくとも一つが定められる。フラグメントのステレオスコピックビデオ区間別に、サンプルの3次元構成情報及び左右順序情報が定められる。
一実施形態によってフラグメントのステレオスコピックビデオ区間別に、サンプルに関するステレオスコピックカメラディスプレイ情報が定められる。一実施形態によるステレオスコピックカメラディスプレイ情報は、ステレオスコピックカメラディスプレイ情報が適用されるアイテムを用いて表現される。
一実施形態によって現在ファイルのビデオに対して、3次元構成情報、左右順序情報、及びステレオモノーフラグメント変更回数情報のうち少なくとも一つが定められる。ファイルに関する3次元構成情報、左右順序情報、及びステレオモノーフラグメント変更回数情報と共に、フラグメントごとにステレオモノ区間変更回数情報、区間サンプル数情報及びステレオ確認情報のうち少なくとも一つがさらに定められる。一実施形態によって、現在フラグメントのステレオスコピックビデオ区間ごとにステレオスコピックビデオ区間識別情報が定められる。
一実施形態によって、現在ファイルのビデオが、ステレオスコピックビデオを構成する参照ビデオを検索するための関係情報として、現在ファイル内の参照ビデオの位置情報だけでなく、現在ファイル外部に位置する参照ビデオの遠隔位置情報、URL情報、URN情報のうち少なくとも一つが用いられる。
一実施形態によって現在ファイルのビデオが複数のビデオを参照する場合、参照ビデオ数情報、複数の参照ビデオを識別するための参照インデックス情報及び位置情報のうち少なくとも一つが定められる。
一実施形態によって適応的ストリーミングサービスのために、ビデオ画質によって差動的に複数チャネルのビデオを提供するマルチチャネルビデオグループが生成される。この場合、マルチチャネルビデオグループを構成するビデオ数情報及び他のチャネルのビデオ位置を示す参照情報のうち少なくとも一つが定められる。特に、マルチチャネルビデオグループを構成するビデオの位置情報は、現在ファイル外部のファイルに存在するビデオの位置を示すこともある。
段階2330で、フラグメントの分割されたビデオについての属性情報と符号化されたビデオデータとを含むフラグメントが連続的に伝送される。フラグメントについての属性情報は、フラグメントの補助データ領域に挿入されて伝送され、フラグメント単位に分割された符号化されたビデオデータは、フラグメントのメディアデータ領域に挿入されて伝送される。
図24は、一実施形態によるマルチメディアストリーミングサービス受信方法のフローチャートを示す。段階2410で、複数のフラグメントが連続的に受信される。段階2420で、フラグメントごとにメディアデータ領域から、2次元ビデオ区間または3次元ビデオ区間で構成されたフラグメントの符号化されたビデオデータが抽出される。
段階2430で、フラグメントごとに補助データ領域から属性情報がパージングされ、フラグメントビデオデータの2次元再生または3次元再生のための3次元シグナリング情報、及び複数のビデオ間の参照のための関係情報のうち少なくとも一つが抽出されて読み取られる。
一実施形態によってフラグメントの3次元構成情報が抽出され、左視点映像及び右視点映像が現在フラグメントのステレオスコピック映像を構成する形態が読み取られる。一実施形態によってフラグメントの左右順序情報が抽出され、現在フラグメントのステレオスコピック映像で左視点映像及び右視点映像の順序が読み取られる。
一実施形態によってフラグメントのステレオモノ区間変更回数情報が抽出され、現在フラグメントのモノスコピックビデオ区間及びステレオスコピックビデオ区間の変更回数が読み取られる。
一実施形態によって、フラグメントのステレオ確認情報及び区間サンプル数情報のうち少なくとも一つが抽出され、フラグメントのモノスコピックビデオ区間またはステレオスコピックビデオ区間が区別される。
一実施形態によって、フラグメントのステレオスコピックビデオ区間ごとに、3次元構成情報及び左右順序情報のうち少なくとも一つが抽出されて、現在ステレオスコピックビデオ区間を構成するサンプルに関する3次元構成情報が読み取られ、左右順序情報が読み取られる。
一実施形態によって、フラグメントのステレオスコピックビデオ区間ごとに、ステレオスコピックカメラディスプレイ情報が抽出されて、現在ステレオスコピックビデオ区間を構成するサンプルを獲得したステレオスコピックカメラ及びディスプレイ規格に関する情報が読み取られる。一実施形態によるステレオスコピックカメラディスプレイ情報は、適用される対象アイテムを基準に読み取る。
一実施形態によって、現在ファイルのビデオデータに関する3次元構成情報、左右順序情報及びステレオモノーフラグメント変更回数情報のうち少なくとも一つが抽出され、現在ファイルのフラグメントごとに、フラグメントのビデオに関するステレオモノ区間変更回数情報、区間サンプル数情報及びステレオ確認情報のうち少なくとも一つがさらに抽出されて読み取られる。
一実施形態によって、フラグメントの一つ以上のステレオスコピックビデオ区間のうち、それぞれのステレオスコピックビデオ区間に関する識別情報が抽出されてステレオスコピックビデオ区間が区別される。
一実施形態によって参照ビデオの位置情報、参照ビデオ識別情報、現在ファイル外部に位置している参照ビデオの遠隔位置情報、URL情報、URN情報のうち少なくとも一つが抽出されて読み取られることで、現在ファイルのビデオデータと参照される他の一つのビデオとが検索される。
一実施形態によって、現在ファイルのビデオが複数のビデオを参照する場合、参照ビデオ数、参照インデックス、位置のうち少なくとも一つが読み取られ、参照されるビデオが選択的に検出される。
一実施形態によって適応的ストリーミングサービスを受信するために、ビデオ画質によって複数のチャネルに差動符号化されたビデオを提供するマルチチャネルビデオグループに関する関係情報が受信される。一実施形態によるマルチチャネルビデオグループに関する関係情報が受信され、取り替えビデオに関する関係情報及び位置情報に基づいて、所望の取り替えビデオが選択的に要請されて受信される。取り替えビデオに関する位置情報は、現在ファイル内部のビデオに関する識別情報だけでなく、現在ファイル外部に存在するビデオの位置情報を含むこともある。
段階2440で、フラグメントごとに3次元シグナリング情報または関係情報から読み取られた情報に基づいて、フラグメントごとに抽出されたビデオデータを復号化して組み合わせて2次元ビデオまたは3次元ビデオに復元される。一実施形態による3次元シグナリング情報または関係情報を用いて、復元されたビデオが2次元または3次元に再生されることもある。
一実施形態によるマルチメディアストリーミングサービス提供装置100、及び一実施形態によるマルチメディアストリーミングサービス受信装置200は、一実施形態によるフラグメント基盤のストリーミングファイルフォーマットを通じて、ファイル単位、フラグメント単位またはサンプル単位でステレオスコピックビデオの3次元シグナリング情報を送受信する。
また、一実施形態によるフラグメント基盤のストリーミングファイルフォーマットに基づいた一つ以上のストリーミングファイルを通じて、ステレオスコピックの基本時点ビデオ及び付加時点ビデオのように、複数のビデオ間の参照情報、特性情報などの関係情報が送受信される。
これによって既存に生成されたファイルまたは他の位置に存在するファイルを参照できるので、参照ビデオを伝送するためのファイルを再生成するか、または物理的制約なしに複数のビデオを連関または組み合わせるマルチメディアサービスが提供される。
HTTP(HyperText Transfer Protocol)を用いた適応的ストリーミング(HTTP Adaptive Streaming)サービスのために、一実施形態によるストリーミングファイルフォーマットを用いてISO基盤のメディアファイルフォーマットと互換するように統一化された形態で、ステレオスコピックビデオを構成する複数のビデオ間の関係情報及び3次元シグナリング情報が提供される。複数のチャネルの品質に符号化されたビデオ、オーディオなどのマルチメディアだけでなくステレオスコピックマルチメディアが、一つ以上のマルチメディアファイルに積載して提供され、送信帯域幅や端末装置の性能に合わせて適応的に可変的品質のマルチメディアが使用者に切れ目なく提供される。
本発明で開示されたブロック図は、本発明の原理を具現するための回路を概念的に表現した形態であると当業者に解釈される。類似して、任意のフローチャート、状態遷移図、擬似コードなどはコンピュータで読み取り可能な媒体で実質的に表現されて、コンピュータまたはプロセッサーが明示的に図示されるやいなや、かかるコンピュータまたはプロセッサーによって行われる多様なプロセスを示すということが当業者に認識される。したがって、前述した本発明の実施形態はコンピュータで行われるプログラムに作成でき、コンピュータで読み取り可能な記録媒体を用いて前記プログラムを動作させる汎用デジタルコンピュータで具現される。前記コンピュータで読み取り可能な記録媒体は、マグネチック記録媒体(例えば、ROM、フロッピー(登録商標)ディスク、ハードディスクなど)、光学的判読媒体(例えば、CD−ROM、DVDなど)などの記録媒体を含む。
図面に示した多様な要素の機能は適宜なソフトウェアに関して、ソフトウェアを行えるハードウェアだけではなく専用ハードウェアの利用により提供される。プロセッサーによって提供される時、かかる機能は、単一専用プロセッサー、単一共有プロセッサー、または一部が共有される複数の個別プロセッサーによって提供される。また、用語“プロセッサー”または“制御部”の明示的な利用は、ソフトウェアを行えるハードウェアを排他的に称すると解釈されてはならず、制限なしに、デジタル信号プロセッサー(DSP)ハードウェア、ソフトウェアを保存するための判読専用メモリ(ROM)、ランダムアクセスメモリ(RAM)、及び不揮発性保存装置を暗黙的に含む。
本明細書の請求項で、特定機能を行うための手段として表現された要素は特定機能を行う任意の方式を含み、これらの要素は、特定機能を行う回路要素の組み合わせ、または特定機能を行うためのソフトウェアを行うのに好適な回路と結合された、ファームウエア、マイクロコードなどを含む任意の形態のソフトウェアを含む。
本明細書で、本発明の原理の‘一実施形態’と、かかる表現の多様な変形の指称はこの実施形態に係って、特定特徴、構造、特性などが本発明の原理の少なくとも一実施形態に含まれるということを意味する。したがって、表現‘一実施形態’と、本明細書の全体にわたって開示された任意の他の変形例とは、必ずしもいずれも同じ実施形態を称するものではない。
本明細書で、‘AとBのうち少なくとも一つ’の場合に‘〜のうち少なくとも一つ’の表現は、最初のオプション(A)の選択のみ、または2番目に挙げられたオプション(B)の選択のみ、または両オプション(AとB)の選択を包括するために使われる。追加的な例として、‘A、B、及びCのうち少なくとも一つ’の場合は、最初に挙げられたオプション(A)の選択のみ、または2番目にに挙げられたオプション(B)の選択のみ、または3番目に挙げられたオプション(C)の選択のみ、または最初と2番目に挙げられたオプション(AとB)の選択のみ、または2番目と3番目に挙げられたオプション(BとC)の選択のみ、またはすべての3個のオプションの選択(AとBとC)を含む。さらに多い項目が挙げられる場合にも、当業者に明らかに拡張解釈される。以上、本発明についてその望ましい実施形態を中心として説明した。
本明細書を通じて開示されたすべての実施形態及び条件付き例示は、当業者が、読者の本発明の原理及び概念の理解を助けるための意図で記述されたものであり、当業者は、本発明が本発明の本質的な特性から逸脱しない範囲で変形された形態に具現できるということを理解できるであろう。したがって、開示された実施形態は限定的な観点ではなく説明的な観点で考慮されねばならない。本発明の範囲は前述した説明ではなく特許請求の範囲に示されており、それと同等な範囲内にいるすべての差異は本発明に含まれていると解釈されねばならない。

Claims (15)

  1. ネットワークを用いてマルチメディアを伝送するストリーミングサービス提供方法において、
    2次元ビデオ及び3次元ビデオのうち少なくとも一つを含むビデオの符号化されたデータをフラグメント単位に分割する段階と、
    前記フラグメントごとに、現在ビデオを2次元再生または3次元再生するための情報を含む3次元シグナリング情報と、前記ビデオが一つ以上の他のビデオを参照するための関係情報のうち少なくとも一つを含む属性情報を定める段階と、
    前記フラグメントについての属性情報を含む補助データ領域と、前記符号化されたビデオデータを含むメディアデータ領域とで構成されたフラグメントを連続的に伝送する段階と、を含むことを特徴とするマルチメディアストリーミングサービス提供方法。
  2. 前記フラグメント毎の属性情報決定段階は、
    前記フラグメントごとに、左視点映像及び右視点映像がステレオスコピック映像を構成する形態を示す3次元構成情報、前記ステレオスコピック映像で前記左視点映像及び前記右視点映像の順序を示す左右順序情報、及びモノスコピックビデオ区間とステレオスコピックビデオ区間との変更回数を示すステレオモノ区間変更回数情報のうち少なくとも一つを定める段階と、
    現在区間が、前記モノスコピックビデオ区間であるか、または前記ステレオスコピックビデオ区間であるかを示すステレオ確認情報、及び前記現在区間を構成するサンプルの数を示す区間サンプル数情報のうち少なくとも一つを定める段階と、を含むことを特徴とする請求項1に記載のマルチメディアストリーミングサービス提供方法。
  3. 前記フラグメント毎の属性情報決定段階は、
    現在フラグメントのステレオスコピックビデオ区間ごとに、現在ステレオスコピックビデオ区間を構成するサンプルに関する前記3次元構成情報、前記左右順序情報、前記現在フラグメントの一つ以上のステレオスコピックビデオ区間のうちそれぞれのステレオスコピックビデオ区間に関する識別情報、及び現在テレオスコピックビデオ区間を構成するサンプルを獲得したステレオスコピックカメラに関する情報と、前記サンプルを用いて安全に3次元再生するためのディスプレイ規格に関する情報と、を含むステレオスコピックカメラディスプレイ情報のうち少なくとも一つを定める段階を含み、
    前記ステレオスコピックカメラディスプレイ情報は、現在フラグメントの現在ステレオスコピックビデオ区間中で、前記ステレオスコピックカメラディスプレイ情報が適用されるアイテムの数を示す情報、それぞれのアイテムで参照される現在ステレオスコピックカメラディスプレイ情報の識別情報、及び前記現在ステレオスコピックカメラディスプレイ情報が適用される区間の長さに関する情報のうち少なくとも一つを含むことを特徴とする請求項2に記載のマルチメディアストリーミングサービス提供方法。
  4. 前記フラグメント毎の属性情報決定段階は、
    現在ファイルのビデオに対して、ステレオスコピックビデオを構成するために参照する参照ビデオの位置情報を、前記現在ファイル内の前記参照ビデオ識別情報、前記現在ファイル外部の遠隔位置情報、URL(Uniform Resource Locator)情報、URN(Uniform Resource Name)情報のうち少なくとも一つを用いて定める段階と、
    前記現在ファイルのビデオが複数のビデオを参照する場合、前記参照ビデオ数情報、複数の参照ビデオを識別するための参照インデックス情報、及びそれぞれの参照ビデオに関する前記位置情報のうち少なくとも一つを定める段階と、を含むことを特徴とする請求項1に記載のマルチメディアストリーミングサービス提供方法。
  5. 前記マルチメディアストリングサービス提供方法は、
    ビデオをビデオ画質によって差動符号化した複数チャネルのビデオを生成する段階をさらに含み、
    前記フラグメント毎の属性情報決定段階は、現在ファイルのビデオの他のチャネルのビデオ数を示すマルチチャネル数情報、及び前記他のチャネルのビデオの位置を示す参照情報のうち少なくとも一つを定める段階を含むことを特徴とする請求項1に記載のマルチメディアストリーミングサービス提供方法。
  6. ネットワークを用いてマルチメディアを受信するストリーミングサービス受信方法において、
    複数のフラグメントを連続的に受信する段階と、
    前記フラグメントごとにメディアデータ領域から、2次元ビデオ及び3次元ビデオのうち少なくとも一つを含むビデオの符号化されたデータを、フラグメント単位に分割された形態で抽出する段階と、
    前記フラグメントごとに補助データ領域から属性情報をパージングし、前記フラグメントのビデオの2次元再生または3次元再生のための3次元シグナリング情報と、前記ビデオが一つ以上の他のビデオを参照するための関係情報のうち少なくとも一つを抽出して読み取る段階と、
    前記フラグメントごとに前記属性情報から読み取られた情報に基づいて、前記フラグメントの前記符号化されたデータを2次元ビデオまたは3次元ビデオに復元する段階と、を含むことを特徴とするマルチメディアストリーミングサービス受信方法。
  7. 前記属性情報抽出段階は、
    前記フラグメントごとに前記フラグメントビデオデータに対して設定された、左視点映像及び右視点映像がステレオスコピック映像を構成する形態を示す3次元構成情報、前記ステレオスコピック映像で前記左視点映像及び前記右視点映像の順序を示す左右順序情報、及び前記モノスコピックビデオ区間と前記ステレオスコピックビデオ区間との変更回数を示すステレオモノ区間変更回数情報のうち少なくとも一つを抽出して読み取る段階と、
    前記フラグメントごとに、現在区間が前記モノスコピックビデオ区間であるか、または前記ステレオスコピックビデオ区間であるかを示すステレオ確認情報、及び前記現在区間を構成するサンプルの数を示す区間サンプル数情報のうち少なくとも一つを抽出して読み取る段階と、を含むことを特徴とする請求項6に記載のマルチメディアストリーミングサービス受信方法。
  8. 前記属性情報抽出段階は、
    現在フラグメントのステレオスコピックビデオ区間ごとに設定された、現在ステレオスコピックビデオ区間を構成するサンプルに関する前記3次元構成情報、前記左右順序情報、前記現在フラグメントの一つ以上のステレオスコピックビデオ区間のうちそれぞれのステレオスコピックビデオ区間に関する識別情報、及び現在ステレオスコピックビデオ区間を構成するサンプルを獲得したステレオスコピックカメラに関する情報と、前記サンプルを用いて安全に3次元再生するためのディスプレイ規格に関する情報と、を含むステレオスコピックカメラディスプレイ情報のうち少なくとも一つを抽出して読み取る段階を含み、
    前記ステレオスコピックカメラディスプレイ情報は、現在フラグメントの現在ステレオスコピックビデオ区間中で、前記ステレオスコピックカメラディスプレイ情報が適用されるアイテムの数を示す情報、それぞれのアイテムで参照される現在ステレオスコピックカメラディスプレイ情報の識別情報、及び前記現在ステレオスコピックカメラディスプレイ情報が適用される区間の長さに関する情報のうち少なくとも一つを含むことを特徴とする請求項7に記載のマルチメディアストリーミングサービス受信方法。
  9. 前記属性情報抽出段階は、
    現在ファイルのビデオに対して設定された、ステレオスコピックビデオを構成するために参照する参照ビデオの位置情報を抽出して、前記現在ファイル内の前記参照ビデオ識別情報、前記現在ファイル外部の遠隔位置情報、URL情報、URN情報のうち少なくとも一つを読み取る段階と、
    前記現在ファイルのビデオが複数のビデオを参照する場合、前記参照ビデオ数情報、複数の参照ビデオを識別するための参照インデックス情報、及びそれぞれの参照ビデオに関する前記位置情報のうち少なくとも一つを抽出して読み取る段階と、を含むことを特徴とする請求項6に記載のマルチメディアストリーミングサービス受信方法。
  10. 前記マルチメディアストリングサービス受信方法は、
    ビデオ画質によって差動符号化された複数のチャネルのビデオのうち、選択的に所定チャネルのビデオを受信する段階をさらに含み、
    前記属性情報抽出段階は、現在ファイルのビデオの他のチャネルのビデオ数を示すマルチチャネル数情報、及び前記他のチャネルのビデオの位置を示す参照情報のうち少なくとも一つを抽出して読み取る段階を含むことを特徴とする請求項6に記載のマルチメディアストリーミングサービス受信方法。
  11. 前記マルチメディアストリングサービス受信方法は、
    前記フラグメントごとに前記3次元シグナリング情報から読み取られた情報に基づいて、前記復元された2次元ビデオまたは3次元ビデオを再生する段階をさらに含むことを特徴とする請求項6に記載のマルチメディアストリーミングサービス受信方法。
  12. ネットワークを用いてマルチメディアを伝送するストリーミングサービス提供装置において、
    2次元ビデオ及び3次元ビデオのうち少なくとも一つを含むビデオの符号化されたデータをフラグメント単位に分割するフラグメントビデオデータ生成部と、
    前記フラグメントごとに現在ビデオを2次元再生または3次元再生するための情報を含む3次元シグナリング情報と、前記ビデオが一つ以上の他のビデオを参照するための関係情報のうち少なくとも一つを含む属性情報を定めるフラグメント属性情報決定部と、
    前記フラグメントについての属性情報を含む補助データ領域と、前記符号化されたビデオデータを含むメディアデータ領域とで構成されたフラグメントを連続的に伝送するストリーミング部と、を備えることを特徴とするマルチメディアストリーミングサービス提供装置。
  13. ネットワークを用いてマルチメディアを受信するストリーミングサービス受信装置において、
    複数のフラグメントを連続的に受信する受信部と、
    前記フラグメントごとにメディアデータ領域から、2次元ビデオ及び3次元ビデオのうち少なくとも一つを含むビデオの符号化されたデータをフラグメント単位に分割された形態で抽出するフラグメントビデオデータ抽出部と、
    前記フラグメントごとに補助データ領域から属性情報をパージングし、前記フラグメントのビデオの2次元再生または3次元再生のための3次元シグナリング情報と、前記ビデオが一つ以上の他のビデオを参照するための関係情報のうち少なくとも一つを抽出して読み取るフラグメント属性情報抽出部と、
    前記フラグメントごとに前記属性情報から読み取られた情報に基づいて、前記フラグメントの前記符号化されたデータを2次元ビデオまたは3次元ビデオに復元する復元部と、を備えることを特徴とするマルチメディアストリーミングサービス受信装置。
  14. 請求項1に記載のマルチメディアストリーミングサービス提供方法を演算プロセッサーで具現するためのプログラムが記録されたコンピュータで読み取り可能な記録媒体。
  15. 請求項6に記載のマルチメディアストリーミングサービス受信方法を演算プロセッサーで具現するためのプログラムが記録されたコンピュータで読み取り可能な記録媒体。
JP2013514117A 2010-06-09 2011-06-09 フラグメント基盤のマルチメディアストリーミングサービス提供方法とその装置、並びにフラグメント基盤のマルチメディアストリーミングサービス受信方法とその装置 Expired - Fee Related JP6088968B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US35289510P 2010-06-09 2010-06-09
US61/352,895 2010-06-09
US36627910P 2010-07-21 2010-07-21
US61/366,279 2010-07-21
PCT/KR2011/004230 WO2011155776A2 (ko) 2010-06-09 2011-06-09 프래그먼트 기반의 멀티미디어 스트리밍 서비스 제공 방법과 그 장치, 그리고 프래그먼트 기반의 멀티미디어 스트리밍 서비스 수신 방법과 그 장치

Publications (2)

Publication Number Publication Date
JP2013534747A true JP2013534747A (ja) 2013-09-05
JP6088968B2 JP6088968B2 (ja) 2017-03-01

Family

ID=45098538

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013514117A Expired - Fee Related JP6088968B2 (ja) 2010-06-09 2011-06-09 フラグメント基盤のマルチメディアストリーミングサービス提供方法とその装置、並びにフラグメント基盤のマルチメディアストリーミングサービス受信方法とその装置

Country Status (7)

Country Link
US (1) US9674502B2 (ja)
EP (1) EP2582142B1 (ja)
JP (1) JP6088968B2 (ja)
KR (1) KR101830881B1 (ja)
CN (1) CN103069812B (ja)
BR (1) BR112012031218B1 (ja)
WO (1) WO2011155776A2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020522166A (ja) * 2017-05-25 2020-07-27 クゥアルコム・インコーポレイテッドQualcomm Incorporated 魚眼ビデオデータのための高レベルシグナリング
JP2020537367A (ja) * 2017-10-12 2020-12-17 キヤノン株式会社 メディアコンテンツを生成および処理するための方法、装置、およびコンピュータプログラム

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9716920B2 (en) 2010-08-05 2017-07-25 Qualcomm Incorporated Signaling attributes for network-streamed video data
US9219929B2 (en) * 2012-02-27 2015-12-22 Fritz Barnes Enhanced startup and channel change for fragmented media stream delivery
CN103916440B (zh) * 2013-01-05 2018-03-06 尼尔森网联媒介数据服务有限公司 一种远程升级的方法及其装置
CN104219537B (zh) * 2013-05-31 2018-11-06 腾讯科技(北京)有限公司 视频数据处理的方法、装置及系统
CN103428462A (zh) * 2013-08-29 2013-12-04 中安消技术有限公司 一种多通道音视频处理方法和装置
ES2613978T3 (es) * 2013-12-26 2017-05-29 Telefonica Digital España, S.L.U. Un método y un sistema para la transmisión por secuencias suave de contenidos de medios en una red de entrega de contenidos distribuida
CN104980712A (zh) * 2015-07-14 2015-10-14 济南中维世纪科技有限公司 视频监控数据恢复后的智能索引方法
CN105451073B (zh) * 2015-11-16 2018-11-02 深圳Tcl数字技术有限公司 Mp4视频源的传送方法和装置
CN105447168B (zh) * 2015-12-04 2019-03-22 四川效率源信息安全技术股份有限公司 Mp4格式的碎片文件恢复与重组的方法
KR102553886B1 (ko) 2015-12-24 2023-07-11 삼성전자주식회사 전자 장치 및 전자 장치의 이미지 제어 방법
TWI559753B (zh) * 2016-03-16 2016-11-21 晶睿通訊股份有限公司 傳輸隨選影音檔案的方法
US10567461B2 (en) * 2016-08-04 2020-02-18 Twitter, Inc. Low-latency HTTP live streaming
KR102546152B1 (ko) * 2017-02-15 2023-06-22 한국전자통신연구원 고정/이동방송 융합형 3DTV에서 화질 개선을 위한 부가 데이터(Video Enhancement Information, VEI) 시그널링 방법 및 장치
CN115643442A (zh) * 2022-10-25 2023-01-24 广州市保伦电子有限公司 一种音视频合流录制播放方法、装置、设备及存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004228743A (ja) * 2003-01-21 2004-08-12 Nec Fielding Ltd 立体画像システム
WO2008156318A2 (en) * 2007-06-19 2008-12-24 Electronics And Telecommunications Research Institute Metadata structure for storing and playing stereoscopic data, and method for storing stereoscopic content file using this metadata
JP2011082666A (ja) * 2009-10-05 2011-04-21 Sony Corp 信号伝送方法、信号送信装置及び信号受信装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100397511B1 (ko) 2001-11-21 2003-09-13 한국전자통신연구원 양안식/다시점 3차원 동영상 처리 시스템 및 그 방법
JP2006510301A (ja) * 2002-12-13 2006-03-23 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ Mdc/スケーラブル符号化の切り換え方法
EP1595405B1 (en) 2003-02-18 2019-12-04 Nokia Technologies Oy Method and device for transmitting media data in nal units over rtp
KR100987775B1 (ko) * 2004-01-20 2010-10-13 삼성전자주식회사 영상의 3차원 부호화 방법
KR100585966B1 (ko) * 2004-05-21 2006-06-01 한국전자통신연구원 3차원 입체 영상 부가 데이터를 이용한 3차원 입체 디지털방송 송/수신 장치 및 그 방법
CN101120590B (zh) * 2005-02-18 2010-10-13 皇家飞利浦电子股份有限公司 现场提交数字信号的方法
EP1713285B1 (en) * 2005-04-15 2015-09-09 Thomson Licensing Method and device for recording digital data
KR100657322B1 (ko) * 2005-07-02 2006-12-14 삼성전자주식회사 로컬 3차원 비디오를 구현하기 위한 인코딩/디코딩 방법 및장치
WO2008054100A1 (en) 2006-11-01 2008-05-08 Electronics And Telecommunications Research Institute Method and apparatus for decoding metadata used for playing stereoscopic contents
KR100962696B1 (ko) 2007-06-07 2010-06-11 주식회사 이시티 부호화된 스테레오스코픽 영상 데이터 파일의 구성방법
KR101506217B1 (ko) 2008-01-31 2015-03-26 삼성전자주식회사 스테레오스코픽 영상의 부분 데이터 구간 재생을 위한스테레오스코픽 영상 데이터스트림 생성 방법과 장치, 및스테레오스코픽 영상의 부분 데이터 구간 재생 방법과 장치
KR100972792B1 (ko) * 2008-11-04 2010-07-29 한국전자통신연구원 스테레오스코픽 영상을 동기화하는 장치 및 방법과 이를 이용한 스테레오스코픽 영상 제공 장치 및 방법

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004228743A (ja) * 2003-01-21 2004-08-12 Nec Fielding Ltd 立体画像システム
WO2008156318A2 (en) * 2007-06-19 2008-12-24 Electronics And Telecommunications Research Institute Metadata structure for storing and playing stereoscopic data, and method for storing stereoscopic content file using this metadata
JP2011082666A (ja) * 2009-10-05 2011-04-21 Sony Corp 信号伝送方法、信号送信装置及び信号受信装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020522166A (ja) * 2017-05-25 2020-07-27 クゥアルコム・インコーポレイテッドQualcomm Incorporated 魚眼ビデオデータのための高レベルシグナリング
JP7035088B2 (ja) 2017-05-25 2022-03-14 クゥアルコム・インコーポレイテッド 魚眼ビデオデータのための高レベルシグナリング
JP2020537367A (ja) * 2017-10-12 2020-12-17 キヤノン株式会社 メディアコンテンツを生成および処理するための方法、装置、およびコンピュータプログラム

Also Published As

Publication number Publication date
CN103069812B (zh) 2015-12-16
CN103069812A (zh) 2013-04-24
US9674502B2 (en) 2017-06-06
BR112012031218B1 (pt) 2021-11-23
KR101830881B1 (ko) 2018-04-05
EP2582142A4 (en) 2014-04-02
EP2582142B1 (en) 2017-03-15
WO2011155776A2 (ko) 2011-12-15
BR112012031218A2 (pt) 2016-10-25
KR20110134857A (ko) 2011-12-15
EP2582142A2 (en) 2013-04-17
JP6088968B2 (ja) 2017-03-01
US20130147914A1 (en) 2013-06-13
WO2011155776A3 (ko) 2012-03-15

Similar Documents

Publication Publication Date Title
JP6088968B2 (ja) フラグメント基盤のマルチメディアストリーミングサービス提供方法とその装置、並びにフラグメント基盤のマルチメディアストリーミングサービス受信方法とその装置
KR101276605B1 (ko) 스테레오스코픽 데이터의 저장 및 재생을 위한 메타데이터구조 및 이를 이용하는 스테레오스코픽 콘텐츠 파일의 저장방법
KR101398168B1 (ko) 스테레오스코픽 데이터의 저장 및 재생을 위한 메타데이터구조 및 이를 이용하는 스테레오스코픽 콘텐츠 파일의 저장방법
JP5705250B2 (ja) ステレオスコピック映像の部分データ区間の再生のためのステレオスコピック映像データストリーム生成方法及び装置、ステレオスコピック映像の部分データ区間の再生方法及び装置
RU2462771C2 (ru) Устройство и способ для генерации и отображения медиа-файлов
EP2088789A2 (en) Apparatus and method for generating and displaying media files
CN101562036A (zh) 用于生成和播放用于幻灯片的图像文件的系统和方法
KR101480186B1 (ko) 2d 영상과 3d 입체영상을 포함하는 영상파일을 생성 및재생하기 위한 시스템 및 방법
JP2011223481A (ja) データ構造、画像処理装置、画像処理方法、およびプログラム
KR101591085B1 (ko) 영상 파일 생성 및 재생 장치 및 방법
WO2018180511A1 (ja) 画像生成装置および画像生成方法、並びに画像再生装置および画像再生方法
KR101382618B1 (ko) 콘텐츠 정보 생성 방법 및 콘텐츠 정보를 이용한 콘텐츠처리 장치
KR20080108882A (ko) 2차원/3차원 재생 모드 전환이 가능한 입체 영상비트스트림 생성 방법 및 이를 구현하기 위한 입체 영상비트스트림 재생 방법 및 장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140606

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150715

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150818

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20151118

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151217

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20160705

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161107

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20161219

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170117

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170206

R150 Certificate of patent or registration of utility model

Ref document number: 6088968

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees