JP2015503281A - スケーラビリティ及びビュー情報を提供するストリーミングサービスのための方法及び装置 - Google Patents
スケーラビリティ及びビュー情報を提供するストリーミングサービスのための方法及び装置 Download PDFInfo
- Publication number
- JP2015503281A JP2015503281A JP2014543422A JP2014543422A JP2015503281A JP 2015503281 A JP2015503281 A JP 2015503281A JP 2014543422 A JP2014543422 A JP 2014543422A JP 2014543422 A JP2014543422 A JP 2014543422A JP 2015503281 A JP2015503281 A JP 2015503281A
- Authority
- JP
- Japan
- Prior art keywords
- view
- video
- scalable
- information
- mmt
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000000034 method Methods 0.000 title claims abstract description 42
- 230000005540 biological transmission Effects 0.000 claims description 87
- 238000012545 processing Methods 0.000 claims description 53
- 230000002123 temporal effect Effects 0.000 claims description 47
- 239000012634 fragment Substances 0.000 claims description 18
- 230000006855 networking Effects 0.000 claims description 15
- 230000006978 adaptation Effects 0.000 description 26
- 230000008569 process Effects 0.000 description 16
- 238000010586 diagram Methods 0.000 description 14
- 238000003780 insertion Methods 0.000 description 11
- 230000037431 insertion Effects 0.000 description 11
- 239000000284 extract Substances 0.000 description 7
- 230000003044 adaptive effect Effects 0.000 description 6
- 238000012546 transfer Methods 0.000 description 5
- 238000005538 encapsulation Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 230000002776 aggregation Effects 0.000 description 1
- 238000004220 aggregation Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 208000012160 familial progressive hyperpigmentation with or without hypopigmentation Diseases 0.000 description 1
- 239000012530 fluid Substances 0.000 description 1
- 238000013467 fragmentation Methods 0.000 description 1
- 238000006062 fragmentation reaction Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000001343 mnemonic effect Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000011664 signaling Effects 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/236—Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
- H04N21/23614—Multiplexing of additional data and video streams
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
- H04N21/234327—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by decomposing into layers, e.g. base layer and one or more enhancement layers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/236—Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/60—Network streaming of media packets
- H04L65/70—Media network packetisation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
- H04N21/23439—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements for generating different versions
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/236—Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
- H04N21/23605—Creation or processing of packetized elementary streams [PES]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/24—Monitoring of processes or resources, e.g. monitoring of server load, available bandwidth, upstream requests
- H04N21/2402—Monitoring of the downstream path of the transmission network, e.g. bandwidth available
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/25—Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
- H04N21/258—Client or end-user data management, e.g. managing client capabilities, user preferences or demographics, processing of multiple end-users preferences to derive collaborative data
- H04N21/25808—Management of client data
- H04N21/25825—Management of client data involving client display capabilities, e.g. screen resolution of a mobile phone
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/25—Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
- H04N21/266—Channel or content management, e.g. generation and management of keys and entitlement messages in a conditional access system, merging a VOD unicast channel into a multicast channel
- H04N21/2662—Controlling the complexity of the video stream, e.g. by scaling the resolution or bitrate of the video stream based on the client capabilities
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Databases & Information Systems (AREA)
- Computer Networks & Wireless Communication (AREA)
- Computer Security & Cryptography (AREA)
- Computer Graphics (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Information Transfer Between Computers (AREA)
Abstract
スケーラビリティ及びビュー情報を提供するストリーミングサービスのための方法及び装置が提供される。スケーラブルビデオまたはマルチビュービデオがMPEG−2システムによって送信されるとき、ペイロードに存在するスケーラブルビデオまたはマルチビュービデオに対するスケーラビリティ情報またはビュー情報を用いてもよい。スケーラビリティ情報またはビュー情報を用いることによって、パケット化されたスケーラブルビデオまたはマルチビュービデオが様々な性能の端末、様々なネットワーク特性、及び特定のユーザ選好度などに効率的に適応できる。
Description
下記の実施形態はストリーミングサービスのための方法及び装置に関する。
スケーラビリティ及びビュー情報を含むストリームを提供する装置及び方法が開示される。
MPEG−2システムは、ビデオパート及びオーディオパートで生成した基礎ストリーム(Element Stream;ES)を格納または送信するためにパケット化して多重化する過程を行う。
その過程は大きく2種類に区別される。
第1に、格納媒体に格納されるプログラムストリーム(Program Stream;PS)を作る過程である。
第2に、ネットワークで送信したり放送するための送信ストリーム(Transport Stream;TS)を作る過程である。
スケーラブルビデオがMPEG−2システムのTSを介して送信されるとき、TSレベルでの効率的なスケーラビリティ(scalability)がサポートされる必要がある。
従来の方法によると、プログラム付加情報(Program Specific Information;PSI)によってTSのペイロードにあるスケーラブルビデオのスケーラビリティ情報が把握される。
このような方法を利用する場合、MPEG−2システムはスケーラビリティ情報を用いるため周期的にPSI情報と同期化を行わなければならず、PSI情報を毎回分析しなければならない。
また、スケーラブルビデオで提供する様々なスケーラブル階層が効率よく用いられるためには、パケット化された基礎ストリーム(Packetized Elementary Stream;PES)のオーバーヘッド及びPSI情報の増加は避けられない。
また、TSからプログラム付加情報(Program Specific Information;PSI)を介して、TSのペイロードにあるスケーラブルビデオのスケーラビリティ情報はパケット識別子(Packet Identifier;PID)によって提供される。
したがって、TSレベルで識別しようとするスケーラブル階層ごとに別途のESが構成されなければならず、PIDが割り当てられなければならない。
様々なスケーラブル階層をTSレベルで識別しようとする場合、複数のESが構成されなければならない。複数のESが構成されることでTSジェネレータ(すなわち、マルチプレクサ)及びTSデマルチプレクサの構造を複雑にする。
したがって、TSレベルで効率よくスケーラビリティ情報を用いる方法が導入される必要がある。
また、デジタル放送は、現在のステレオ3Dビデオ放送で超高鮮明(Ultra High Definition;UHD)放送、マルチビュー3Dビデオ放送などで発展するものと予想される。このような予想により、デジタル放送において多い送信量が求められる。
従来のMPEG−2送信ストリーム(Transport Stream;TS)のパケットは、188バイトの制限されたサイズを有する。したがって、MPEG−2TSのパケットとして、新しい送信パケットが定義される必要がある。既存のMPEG−2TSより効果的な送信フォーマットに対する研究が求められる。前記研究として、従来のMPEG−2TSを代替するMPEGメディア送信(MPEG Media Transport;MMT)に対する標準化が行われている。
したがって、今後MMTでも効率的なスケーラビリティ及びマルチビュービデオ情報の提供を可能にする方法が導入される必要がある。
一実施形態には、MPEG−2TSを介してスケーラブルビデオ及びマルチビュービデオの情報を提供する装置及び方法を提供する。
実施形態は、MMTを介してスケーラブルビデオ及びマルチビュービデオの情報を提供するストリーミング装置及び方法を提供する。
一実施形態によると、MPEG−2送信ストリームパケットを生成するパケット生成部と、前記MPEG−2送信ストリームパケットを用いてMPEG−2送信ストリームを送信する送信部とを含み、前記MPEG−2送信ストリームは、スケーラブルビデオストリームを含み、前記MPEG−2送信ストリームパケットのヘッダは、前記スケーラブルビデオストリームのスケーラビリティ情報を含むストリーミングサーバが提供される。
前記スケーラブルビデオストリームは、前記MPEG−2送信ストリームパケットのペイロード(payload)内に分割して存在してもよい。
前記スケーラビリティ情報は、前記ヘッダのプライベート送信データ(Transport Private Data)内に存在してもよい。
前記プライベート送信データは、前記ヘッダの適応フィールド(Adaptation Field)内の付加的フィールド(Optional Field)内に存在してもよい。
前記ヘッダは、前記スケーラビリティ情報の有無を示すスケーラビリティ情報フラグ及び前記スケーラブルビデオストリームのビュー(view)情報の有無を示すビュー情報フラグを含んでもよい。
前記ヘッダは、前記スケーラビリティ情報フラグ及び前記ビュー情報フラグの有無を示すプライベートデータフラグを含んでもよい。
前記スケーラビリティ情報は、前記スケーラブルビデオの空間的スケーラビリティ情報、前記スケーラブルビデオの時間的スケーラビリティ情報及び前記スケーラブルビデオ画質的スケーラビリティ情報を含んでもよい。
前記ビュー情報は、前記ヘッダのプライベート送信データ内に存在してもよい。
前記パケット生成部は、マルチ−ビュービデオコーディング(Multi−view Video Coding;MVC)のネットワーク抽象化階層ユニット(Network Abstraction Layer Unit;NALU)ヘッダ内の第2ビュー情報を用いて前記ビュー情報を生成してもよい。
前記パケット生成部は、スケーラブルビデオコーディング(Scalable Video Coding;SVC)のネットワーク抽象化階層ユニットヘッダ内の第2スケーラビリティ情報を用いて前記スケーラビリティ情報を生成してもよい。
前記パケット生成部は、前記MPEG−2送信ストリームパケット内に前記ネットワーク抽象化階層ユニットヘッダのデータが存在する場合のみ、前記スケーラビリティ情報を生成してもよい。
前記パケット生成部は、同一のパケット識別子( Packet Identifier;PID)を有する1つ以上のMPEG−2送信ストリームパケットのうち、前記ネットワーク抽象化ユニットヘッダのデータが存在する前記MPEG−2送信ストリームパケット内にのみ前記スケーラビリティ情報を生成してもよい。
前記パケット生成部は、前記MPEG−2送信ストリームパケット内に前記スケーラビリティ情報を挿入するスケーラビリティ情報挿入部を含んでもよい。
他の一実施形態によると、MPEG−2送信ストリームを受信する受信部と、前記MPEG−2送信ストリーム内のMPEG−2送信ストリームパケットを処理するパケット処理部とを含み、前記MPEG−2送信ストリームはスケーラブルビデオストリームを含み、前記MPEG−2送信ストリームパケットのヘッダは、前記スケーラブルビデオストリームのスケーラビリティ情報を含むストリーミングクライアントが提供される。
前記パケット処理部は、前記ヘッダ内のビュー情報フラグに基づいて前記パケット内の前記スケーラビリティ情報の有無及びビュー情報の有無を判断してもよい。
前記パケット処理部は、前記スケーラビリティ情報に基づいてスケーラブルビデオコーディングのネットワーク抽象化階層ユニットヘッダ内のスケーラビリティ情報を生成してもよい。
前記パケット処理部は、前記MPEG−2送信ストリームパケット内に前記ネットワーク抽象化階層ユニットヘッダのデータが存在する場合のみ、前記スケーラビリティ情報を抽出してもよい。
前記パケット処理部は、同一のパケット識別子を有する1つ以上のMPEG−2送信ストリームパケットのうちネットワーク抽象化ユニットヘッダのデータが存在する前記MPEG−2送信ストリームパケットでのみ前記スケーラビリティ情報を抽出してもよい。
前記パケット処理部は、前記同一のパケット識別子を有する前記1つ以上のMPEG−2送信ストリームのパケットのうち前記スケーラビリティ情報を含む前記送信ストリームパケットと最も近い以前時間の第2MPEG−2送信ストリームパケットから前記MPEG−2送信ストリームパケットのスケーラビリティ情報を抽出してもよい。
更なる一実施形態によると、MPEG−2送信ストリームパケットを生成するパケット生成動作と、前記MPEG−2送信ストリームパケットを使用することによって生成されたMPEG−2送信ストリームを送信する送信動作を含み、前記MPEG−2送信ストリームは、スケーラブルビデオストリームを含み、前記MPEG−2送信ストリームパケットのヘッダは、前記スケーラブルビデオストリームのスケーラビリティ情報を含むストリーミングサービス方法が提供される。
前記スケーラブルビデオ情報、マルチビュービデオ情報、またはスケーラブルマルチビュービデオ情報は、前記MFUヘッダで選択的に存在してもよい。
前記ヘッダは、前記階層タイプの情報に基づいてスケーラブルビデオ情報、マルチビュービデオ情報、そしてスケーラブルマルチビュービデオのコンバインドスケーラビリティ(combined scalability)情報を含んでもよい。
更なる一実施形態によると、MPEGメディア送信(MPEG Media Transport;MMT)パケットを生成する処理部と、前記MMTパケットを用いてMMTストリームを送信するネットワーキング部を含み、前記MMTパケットは、マルチビュービデオ、スケーラブルビデオ、及びスケーラブルマルチビュービデオのうち1つ以上を含むストリーミングサーバが提供される。
前記MMTパケット内のメディアフラグメントユニット(Media Fragment Unit;MFU)は、前記スケーラブルビデオ、前記マルチビュービデオ、及び前記スケーラブルマルチビュービデオの1つ以上を含んでもよい。
前記MFUのヘッダは、優先順位識別子(identifier;ID)を含んでもよい。
前記優先順位IDは、前記MFU内に含まれた前記マルチビュービデオの前記複数のビュー階層の優先順位を示してもよい。
前記MFUのヘッダは、ビューID、ビュー間予測フラグ及びアンカーピクチャーフラグを含んでもよい。
前記ビューIDは、前記マルチビュービデオの固有のIDを示してもよい。
前記ビュー間予測フラグは、現在のビューコンポーネントが現在のアクセスユニット(Access Unit;AU)内の他のビューコンポーネントによって予測できるか否かを示してもよい。
前記アンカーピクチャーフラグは、前記マルチビュービデオへのランダムアクセス(random access)のために用いてもよい。
前記MFUのヘッダは、優先順位IDを含んでもよい。
前記優先順位IDは、前記MFU内に含まれる前記スケーラブルビデオの前記スケーラブル階層の優先順位を示してもよい。
前記MFUのヘッダは、空間的ID、時間的ID、画質的IDを含んでもよい。
前記空間的IDは、前記スケーラブルビデオの空間的レベルを示してもよい。
前記時間的IDは、前記スケーラブルビデオの時間的レベルを示してもよい。
前記画質的IDは、前記スケーラブルビデオの画質的レベルを示してもよい。
前記MFUのヘッダは、優先順位IDを含んでもよい。
前記優先順位IDは、前記MFU内に含まれた前記マルチビュースケーラブルビデオの優先順位を示してもよい。
前記MFUのヘッダは、ビューID、空間的ID、時間的ID、画質的IDを含んでもよい。
前記ビューIDは、前記スケーラブルマルチビュービデオの固有のIDを示してもよい。
前記空間的IDは、前記スケーラブルマルチビュービデオの空間的レベルを示してもよい。
前記時間的IDは、前記スケーラブルマルチビュービデオの時間的レベルを示してもよい。
前記画質的IDは、前記スケーラブルマルチビュービデオの画質的レベルを示してもよい。
前記MFUのヘッダは、階層情報フラグを含んでもよい。
前記階層情報フラグは、前記スケーラブルビデオ、前記マルチビュービデオ、及び前記スケーラブルマルチビュービデオの1つ以上の情報の有無を示してもよい。
前記ヘッダは、前記階層情報フラグを介して前記ヘッダスケーラブルビデオ、前記マルチビュービデオ、及び前記スケーラブルマルチビュービデオの1つ以上の階層のタイプの情報を含んでもよい。
前記ヘッダは、前記階層のタイプの情報に応じて前記マルチビュービデオの情報、前記スケーラブルビデオの情報、及び前記マルチビュースケーラブルビデオの情報の1つ以上を含んでもよい。
前記スケーラブルビデオ、前記マルチビュービデオ、及び前記スケーラブルマルチビュービデオのうちの1つ以上は、前記MMTパケット内のMFUペイロード(payload)に分割して存在してもよい。
更なる実施形態によると、MPEGメディア送信(MPEG Media Transport;MMT)パケットを生成するステップと、前記MMTパケットを用いてMMTストリームを送信するステップとを含み、前記MMTパケットは、マルチビュービデオ、スケーラブルビデオ、及びスケーラブルマルチビュービデオの1つ以上を含むストリーミングサービス方法が提供される。
更なる実施形態によると、MPEGメディア送信(MPEG Media Transport;MMT)ストリームを受信するネットワーキング部と、前記MMTストリーム内のMMTパケットを処理する処理部とを含み、前記MMTパケットは、マルチビュービデオ、スケーラブルビデオ、及びスケーラブルマルチビュービデオの1つ以上を含むストリーミングクライアントが提供される。
前記MMTパケット内のメディアフラグメントユニット(Media Fragment Unit;MFU)は、前記スケーラブルビデオ、前記マルチビュービデオ、及び前記スケーラブルマルチビュービデオの1つ以上を含んでもよい。
前記MFUのヘッダは、優先順位識別子(identifier; ID)を含んでもよい。
前記優先順位IDは、前記MFU内に含まれた前記マルチビュービデオの前記マルチビュー階層の優先順位を示してもよい。
前記MFUのヘッダは、ビューID、ビュー間予測フラグ、及びアンカーピクチャーフラグを含んでもよい。
前記ビューIDは、前記マルチビュービデオの固有のIDを示してもよい。
前記ビュー間予測フラグは、現在のビューコンポーネントが現在のアクセスユニット(Access Unit;AU)内の他のビューコンポーネントによって予測できるか否かを示してもよい。
前記アンカーピクチャーフラグは、前記マルチビュービデオへのランダムアクセス(random access)のために使用してもよい。
前記MFUのヘッダは、優先順位IDを含んでもよい。
前記優先順位IDは、前記MFUに含まれる前記スケーラブルビデオの前記スケーラブル階層の優先順位を示してもよい。
前記MFUのヘッダは、空間的ID、時間的ID、及び画質的IDを含んでもよい。
前記空間的IDは、前記スケーラブルビデオの空間的レベルを示してもよい。
前記時間的IDは、前記スケーラブルビデオの時間的レベルを示してもよい。
前記画質的IDは、前記スケーラブルビデオの画質的レベルを示してもよい。
前記MFUのヘッダは、優先順位のIDを含んでもよい。
前記優先順位IDは、前記MFU内に含まれた前記マルチビュースケーラブルビデオの優先順位を示してもよい。
更なる実施形態によると、MPEGメディア送信(MPEG Media Transport;MMT)ストリームを受信するステップと、前記MMTストリーム内のMMTパケットを処理するステップとを含み、前記MMTパケットは、マルチビュービデオ、スケーラブルビデオ、及びスケーラブルマルチビュービデオの1つ以上を含むストリーミングサービス方法が提供される。
TSヘッダを拡張し、スケーラビリティ情報を拡張されたTSヘッダに挿入することによって、TSレベルでのスケーラビリティ情報を提供することができる。
従来の構文及び意味を変化しないまま、TSヘッダを用いてスケーラビリティ情報及びビュー情報を送信することができる。
NALUヘッダが存在するTSパケットヘッダにのみスケーラビリティ情報を挿入することによって、TSヘッダのオーバーヘッドが減少し得る。
MMTパケットのMFUヘッダにスケーラブルビデオ情報及びマルチビュービデオ情報を挿入することによって、MMTでスケーラビリティ情報、ビュー情報、ビュー間予測フラグ情報、及び任意アクセスのためのアンカーピクチャーフラグ情報を提供することができる。
以下、実施形態を添付する図面を参照しながら詳細に説明する。しかし、本発明が実施形態によって制限されたり限定されることはない。各図面に提示された同一の参照符号は同一の部材を示す。
図1は、一例に係るTSヘッダ112の拡張構成図である。
TSパケットストリーム100はTSパケット110で構成される。
TSパケットは、ヘッダ(Header)(すなわち、TSヘッダ)112及びペイロード(Payload)114を構成する。
TSパケット110の長さは固定長として188バイトである。
ヘッダ112は、シンクバイト(Sync Byte)122、送信エラーインジケータ(Transport Error Indicator)124、ペイロードユニットスタートインジケータ(Payload Unit Start Indicator)126、送信優先順位(Transport Priority)128、パケット識別子(Packet Identifier;PID)130、送信スクランブリングコントロール(Transport Scrambling Control)132、適応フィールドコントロール(Adaptation Field Control)134、連続性カウンタ(Continuity Counter)136及び適応フィールド(Adaptation Field)138を含む。
各フィールドの長さ(すなわち、各フィールドを構成するビット)がフィールドの下段に数字として表示されている。例えば、シンクバイト122は8ビットである。
シンクバイト122はバイト整列されている。したがって、バイト整列によってTSストリーム100でシンクバイト122が検索されれば、TSパケット110が抽出される。
各TSパケット110は、相異なるペイロード114を含んでいる。相異なるペイロード114を区別するために、PID130がヘッダ112内に存在する。
また、ペイロードの存在有無を示すための適応フィールドコントロール134がヘッダ112内に存在する。適応フィールドコントロール134は適応フィールド138の存在有無を示す。適応フィールドコントロール134はTSパケット110のペイロード114内にある。
適応フィールド138は、適応フィールド長(Adaptation Field Length)142、不連続インジケータ(Discontinuity Indicator)144、ランダムアクセスインジケータ(Random Access Indicator)146、基礎ストリーム優先順位インジケータ(Elementary Stream Priority Indicator)148、5個のフラグ(5Flags)150、付加的フィールド(Optional Field)152、及びスタッフィングバイト(Stuffing Bytes)154を含む。
適応フィールド138内にある5個のフラグ150を用いて、付加的フィールド152内にある様々な情報の存在有無を示す。
図2は、一例に係る付加的フィールド152の構成図である。
付加的フィールド152は、プログラム時刻基準参照値(Program Clock Reference;PCR)212、オリジナルプログラム時刻基準参照値(Original Program Clock Reference;OPCR)214、スプライスカウントダウン(Splice Countdown)216、プライベート送信データ長(Transport Private Data Length)218、プライベート送信データ(Transport Private Data)220、適応フィールド拡張長(Adaptation Field Extension Length)222、3個のフラグ(3Flags)224、及び付加的フィールド(Optional Field)226を含む。
5個のフラグ150に対する付加的フィールド152内に、標準にて定義されていないデータを送信するためのプライベート送信データ220がある。
スケーラブルビデオが送信されるとき、スケーラビリティ情報がプライベート送信データ220に挿入される。
前述した5個のフラグ150を用いてプライベート送信データ220の存在有無を示すことで、スケーラブルビデオがペイロード114内にあるかを表す。
付加的フィールド226は、リーガルタイムウィンドウ(Legal Time Window;LTW)有効フラグ(ltw_valid flag)232、リーガルタイムウィンドウオフセット(LTW Offset)234、予約された部分(Reserved)236、ピースワイズ比率(Piecewise Rate)238、スプライスタイプ(Splice Type)240及び復号化タイムスタンプ(Decoding Time Stamp;DTS)_next_au(DTS_next_au)242を含む。
図3は、一例に係るスケーラビリティ情報を送信するためのTSヘッダ112のプライベート送信データ220を拡張した構文を示す。
図3において、プライベート送信データ220に対する拡張された構文(syntax)、フィールドそれぞれのビット個数、及びニーモニック(mnemonic)を開示する。
スケーラブルビデオまたはマルチビュー(multi−view)ビデオで、プライベートデータフィールドにスケーラビリティ及びビュー情報が含まれる場合に従来のプライベートデータフィールド構文とセマンティックスがそのまま用いられ、プライベートデータフィールドのみが、図3に示すように拡張して定義される。
したがって、送信側及び受信側において、プライベートデータを用いることによってスケーラビリティ情報及びビュー情報を挿入する規定が要求される。
送信プライベートデータフラグ(transport_private_data_flag)300は、送信プライベートデータ長(transport_private_data_length)310、ビュー情報フラグ(view_info_flag)320、及びスケーラブル情報フラグ(scalable_info_flag)330が存在することを示す。
ビュー情報フラグ320は、ビュー情報が存在することを示すために用いられる。
スケーラブル情報フラグ330は、スケーラビリティ情報が存在することを示す。
ビュー情報フラグ320及びスケーラブル情報フラグ330の値によってどのような情報を送信するかが決定され、どのような情報が含まれているかを判別する。
ビュー情報フラグ320及びスケーラブル情報フラグ330の値が全て「1」である場合、ビュー情報(view_id)340、空間的スケーラビリティ情報(spatial_scalability)(または、spatial_id)350、時間的スケーラビリティ情報(temporal_scalability)(または、temporal_id)360、画質的スケーラビリティ情報(quality_scalability)(または、quality_id)370が送信され、2ビットが確保される。
ビュー情報フラグ320の値のみが「1」である場合、ビュー情報340及び時間的スケーラビリティ情報が送信されてもよい。
スケーラブル情報フラグ330の値のみが「1」である場合、空間的スケーラビリティ情報(spatial_id)350、時間的スケーラビリティ情報(temporal_id)360、画質的スケーラビリティ情報370が送信されてもよく、4ビットが確保される。
ビュー情報フラグ320及びスケーラブル情報フラグ330の値が全て「1」ではない場合、6ビットが確保される。
図4は、一実施形態に係るプライベート送信データ220が存在する適応フィールド138の構造図である。
TSヘッダ112は一般的に4バイトの大きさを有し、必要に応じて適応フィールド138を用いることで必要な情報を送信する。
適応フィールド138内では、適応フィールド長142が適応フィールド138全体の長さを示す。
適応フィールド138内に存在するプライベート送信データ220フィールドを用いるため5個のフラグ412を用いることで、5個のフラグ412の後に存在するオプションフィールド414の使用有無を決定する。
5個のフラグ412のうちプライベート送信データフラグの値が「1」である場合、オプションフィールド414内の2個のフラグ422がプライベート送信データ220フィールドを介してビュー情報、スケーラビリティ情報、及びプライベートデータ424を送信するか否かを決定する。
ビュー情報フラグ320の値が「1」である場合、ビュー情報340が送信される。
スケーラブル情報フラグ330の値が「1」である場合、空間的スケーラビリティ350の情報、時間的スケーラビリティ360の情報、及び画質的スケーラビリティ情報370が送信される。
このような構造を有するTSヘッダ112が用いられることによって従来の構文及び意味が変化しないままスケーラビリティ情報及びビュー情報が送信される。
図5は、一例に係るスケーラブルビデオコーディング(Scalable Video Coding;SVC)のネットワーク抽象化階層ユニット(Network Abstraction Layer Unit;NALU)ヘッダ内に存在するスケーラビリティ情報を用いることによってスケーラビリティ情報をTSヘッダ112内に挿入する方法を示す。
SVCはスケーラブルビデオ標準の1つである。
スケーラビリティ情報540は、依存度識別子(dependency_id)、時間的識別子(temporal_id)及び画質的識別子(quality_id)を含む。依存度識別子は、順序に応じてD1及びD2などに表示される。時間的識別子は、順序に応じてT1及びT2などに表示される。画質的識別子は順序に応じてQ1及びQ2などに表示される。
1つのNALUはPES510にパケット化される。
PES510は、同一のPIDを有する数個のTSパケット520にパケット化されてもよい。
1つのNALUが数個のTSパケット110に分割されてパケット化されるとき、各TSパケット110のヘッダ112ごとに当該NALUのスケーラビリティ情報が挿入されてもよい。
しかし、全てのTSパケット110にスケーラビリティ情報が挿入されれば、TSヘッダ112のオーバーヘッドが増加し、1つのNALUに対する重複的な情報が挿入される。
したがって、全てのTSパケット110のヘッダ112にスケーラビリティ情報を挿入する代わり、同一のPIDを有するTSパケットのうちNALUヘッダ530が存在するTSパケットヘッダにのみスケーラビリティ情報が挿入されてもよく、TSヘッダ112のオーバーヘッドが減少し得る。
したがって、NALUヘッダ530がTSパケットのペイロード114に挿入されたTSパケット110のヘッダ112にのみ当該NALUのスケーラビリティ情報540が挿入され得る。
前述したNALUのスケーラビリティ情報540に対する説明はNALUのビュー情報についても適用されてもよい。ここで、NALUは、マルチビュービデオコーディング(Multi−view Video Coding;MVC)のNALUであってもよい。
例えば、1つのNALUが数個のTSパケット110に分割されてパケット化されるとき、各TSパケット110のヘッダ112ごとに当該NALUのビュー情報が挿入されてもよい。また、NALUヘッダ530がTSパケットのペイロード114に挿入されたTSパケット110のヘッダ112にのみ当該NALUのビュー情報が挿入されてもよい。
図6は、一実施形態に係るストリーミングサーバ600の構造図である。
ストリーミングサーバ600は、MPEG−2TSを生成するMPEG−2TS生成装置を示す。
ストリーミングサーバ600は、パケット生成部610及び送信部620を含む。
パケット生成部610は、前述したTSパケット110を生成する。
送信部620は、TSパケット110を用いてTSストリーム100を送信する。TSストリーム100は、スケーラブルビデオストリームを含む。スケーラブルビデオストリームは、TSパケット110のペイロード114内に分割されて存在してもよい。すなわち、TSストリーム100を構成する1つ以上のTSパケット110は、ペイロード114内にスケーラブルビデオストリームを含む。
送信部620は、ネットワークインターフェース部630を介してTSストリーム100をビデオプレーヤーのような他のストリーミングクライアント700に送信してもよい。
送信部620は、TSストリーム100をストリーミングサーバ600の内部の格納部640に格納してもよい。
TSパケット110のヘッダ112は、スケーラブルビデオストリームのスケーラビリティ情報を含む。
パケット生成部610は、スケーラビリティ情報挿入部650を含む。
スケーラビリティ情報挿入部650は、すでに生成されたTSパケット110内にスケーラビリティ情報を挿入(または、追加)する。
したがって、前述されたスケーラビリティ情報はパケット生成部610によって生成されてもよく、スケーラビリティ情報挿入部650によってTSパケット110内に挿入されてもよい。
スケーラビリティ情報は、プライベート送信データ220内に存在してもよい。すなわち、パケット生成部610は、プライベート送信データ220内にスケーラビリティ情報を生成してもよい。また、スケーラビリティ情報挿入部650は、TSパケット110内にスケーラビリティ情報を挿入するためにプライベート送信データ220及びこれに関するTSパケット110内の他の部分を変更してもよい。
パケット生成部610は、スケーラビリティ情報の有無を示すスケーラビリティ情報フラグ330及びスケーラブルビデオストリームのビュー情報の有無を示すビュー情報フラグ320を含む。パケット生成部610は、ヘッダ112内にスケーラビリティ情報フラグ330及びビュー情報フラグ320を生成してもよい。スケーラビリティ情報挿入部650は、スケーラビリティ情報の有無に応じてスケーラビリティ情報フラグ330の値をセットしてもよく、ビュー情報の有無に応じてビュー情報フラグ320の値をセットしてもよい。
スケーラビリティ情報は、TSヘッダ112のプライベート送信データ220内の適応フィールド138内に存在してもよい。また、スケーラビリティ情報は、適応フィールド138内の付加的フィールド152内に存在してもよい。
ビュー情報は、TSヘッダ112のプライベート送信データ220内の適応フィールド138内に存在してもよい。また、スケーラビリティ情報は、適応フィールド138内の付加的フィールド152内に存在してもよい。
TSヘッダ112の送信プライベートデータフラグ310は、スケーラビリティ情報フラグ330及びビュー情報フラグ320の有無を示す。パケット生成部610は、ヘッダ112内にプライベートデータフラグ310を生成してもよい。スケーラビリティ情報挿入部650は、スケーラビリティ情報フラグ330及びビュー情報フラグ320の有無に応じてプライベートデータフラグ310の値をセットしてもよい。
スケーラビリティ情報は、スケーラブルビデオの空間的スケーラビリティ情報350、時間的スケーラビリティ情報360、及び画質的スケーラビリティ情報370のうちの1つ以上を含む。
パケット生成部610は、MVCのNALUヘッダ530内のビュー情報を用いてビュー情報を生成してもよい。または、スケーラビリティ情報挿入部650は、マルチビュービデオコーディングのNALUヘッダ530内のビュー情報を用いてビュー情報をTSヘッダ112内に挿入してもよい。
また、パケット生成部610は、SVCのNALUヘッダ530内のスケーラビリティ情報を用いてスケーラビリティ情報を生成してもよい。または、スケーラビリティ情報挿入部650は、SVCのNALUヘッダ530内のスケーラビリティ情報を用いてスケーラビリティ情報をTSヘッダ112内に挿入してもよい。
パケット生成部610は、TSパケット110内にNALUヘッダ530のデータが存在する場合のみスケーラビリティ情報を生成してもよい。スケーラビリティ情報挿入部650は、NALUヘッダ530のデータを有するTSパケット110にのみスケーラビリティ情報を挿入してもよい。
同一のPIDを有する1つ以上のMPEG−2送信ストリームパケットが存在してもよい。
パケット生成部610は、同一のPIDを有する1つ以上のMPEG−2送信ストリームパケットのうち、NALUヘッダ530のデータが存在するTSパケット110内にのみスケーラビリティ情報を生成してもよい。スケーラビリティ情報挿入部650は、同一のPIDを有する1つ以上のMPEG−2送信ストリームパケットのうち、NALUヘッダ530のデータが存在するTSパケット110内にのみスケーラビリティ情報を挿入してもよい。
前述の図1ないし図5を参照して説明した実施形態に係る技術的な内容が本実施形態にもそのまま適用されてもよい。したがって、より詳細な説明は以下で省略することにする。
図7は、一実施形態に係るストリーミングクライアント700の構造図である。
ストリーミングクライアント700は、ストリーミングサーバ600によって生成されたMPEG−2TSを処理するMPEG−2TS処理装置であってもよい。
ストリーミングクライアント700は、前述されたストリーミングサーバ600によって生成されたTSストリーム100を受信して処理する装置である。TSストリーム100はスケーラブルビデオストリームを含み、TSパケット110のヘッダはスケーラブルビデオストリームのスケーラビリティ情報を含む。
ストリーミングクライアント700は、受信部710及びパケット処理部720を含む。
受信部710は、TSストリーム100を受信する。
パケット処理部720は、TSストリーム100内のTSパケット110を処理する。
パケット処理部720の動作は、パケット生成部610の動作に対応する。
例えば、パケット処理部720は、TSヘッダ112内のビュー情報フラグ320に基づいてTSパケット110内のスケーラビリティ情報及びビュー情報の有無を判断してもよい。
また、パケット処理部720は、スケーラビリティ情報に基づいてSVCのNALUヘッダ530内のスケーラビリティ情報を生成してもよい。
パケット処理部720は、TSパケット110内にNALUヘッダ530のデータが存在する場合にのみスケーラビリティ情報を抽出してもよい。
パケット処理部720は、同一のPID130を有する1つ以上のTSパケット110のうち、NALUヘッダ530のデータが存在するTSパケット110でのみスケーラビリティ情報を抽出してもよい。
また、特定のTSパケットはスケーラビリティ情報を含まないことがある。このような場合、パケット処理部720は、前記の特定のTSパケットと同一のPID130を有する1つ以上のTSパケット110のうち、(1)スケーラビリティ情報を含む、(2)前記の特定のTSパケットと最も近い以前時間のTSパケットからスケーラビリティ情報を抽出してもよく、抽出されたスケーラビリティ情報を前記の特定のTSパケットのスケーラビリティ情報として用いてもよい。
前述の図1ないし図6を参照して説明した一実施形態に係る技術的な内容が本実施形態にもそのまま適用されてもよい。したがって、より詳細な説明は以下で省略することにする。
図8は、一実施形態に係るストリーミングサービス方法800のフローチャートである。
ストリーミングサービス方法800は、図6を参照して前述したMPEG−2TSを処理するための方法であってもよい。
動作810において、例えば、ストリーミングサーバ600のパケット生成部610によってTSパケット110が生成される。
動作820において、例えば、ストリーミングサーバ600の送信部620によってTSパケット110を用いることで、生成されたTSストリーム100が送信される。
TSストリーム100はスケーラブルビデオストリームを含み、TSパケット110のヘッダは、スケーラブルビデオストリームのスケーラビリティ情報を含む。
動作830において、例えば、ストリーミングクライアント700の受信部710によってTSストリーム100が受信される。
動作840において、例えば、ストリーミングクライアント700の処理部720によってTSストリーム100内のTSパケット110が処理される。
前述の図1ないし図7を参照して説明した一実施形態に係る技術的な内容が本実施形態にもそのまま適用されてもよい。したがって、より詳細な説明は以下で省略することにする。
前述したストリーミングサーバ600、ストリーミングクライアント700及びストリーミングサービス方法800に基づいて従来のMPEG−2システムが拡張されてもよい。また、TSパケット110によって多重化されたスケーラブルビデオは、様々な端末性能、ネットワーク状態、及びユーザ選好度などに適する形態に適応してもよい。このようなTSパケット110はTSストリーム100から効率的に抽出され得る。
下記は、MMTでスケーラブルビデオ及びマルチビュービデオを提供するための装置及び方法を説明する。図1〜図8を参照して説明した実施形態または例はMMTで適用されてもよい。例えば、図1ないし図8を参照して説明したMPEG2TSは、MMTまたはMMTストリームに代替されてもよい。
スケーラブルビデオ情報及びマルチビュービデオ情報は、MMTパケットを構成する最も小さい単位のメディアフラグメントユニット(Media Fragment Unit;MFU)ヘッダに挿入されてもよい。
MFUヘッダを介してスケーラブルビデオ及びマルチビュービデオに関する情報の有無を示す階層情報フラグ(layer info flag)を置くことによって、選択的に階層情報を提供することができる。
スケーラブルビデオ及びマルチビュービデオは、MFUペイロード内に分割されて存在してもよい。したがって、各ビデオに対する階層タイプ(layer type)情報を区分することによって、スケーラブルビデオ情報、マルチビュービデオ情報、及びスケーラブルマルチビュービデオ情報を提供してもよい。
スケーラブルビデオに対して提供される情報は、空間的、時間的、及び画質的側面でのスケーラビリティ情報を含む。また、スケーラブルビデオに対する階層の優先順位情報が提供されてもよい。
マルチビュービデオに対して提供される情報は、ビュー情報及び時間的な側面でのスケーラビリティ情報を含む。また、マルチビュービデオに対する階層の優先順位情報が提供されてもよい。また、マルチビュービデオの特徴の、ビュー間予測を許容するフラグ情報及び任意アクセスのためのアンカーピクチャーフラグ情報が提供されてもよい。
スケーラブルマルチビュービデオに対して提供される情報は、ビュー情報のみではなく、空間−ビュースケーラビリティ(spatial−view scalability)などのような統合されたスケーラビリティ(combined scalability)情報を含む。
上述した情報を用いることによって、MMTパケット化されたスケーラブルビデオ及びマルチビュービデオが様々な性能の端末、様々なネットワーク特性、及び特定のユーザ選好度などに効率的に適応できる。
下記は、図9ないし図を参照して、MMTパケットを生成する過程が説明される。
図9は、一例に係るメディアフラグメントユニット(Media Fragment Unit)を説明する。
MFU900は、メディアフラグメント(media fragment)のように略述されてもよい。
MFU900は、特定のコーデックに独立的かつ包括的なコンテナフォーマットであってもよい。MFU900はコード化された(media)メディアデータを含む。コード化されたメディアデータは、メディアデコーダによって独立的に消費されてもよい。コード化されたメディアデータはコード化されたデータのように略述されてもよい。MFU900は、完全あるいは部分的なアクセスユニット(Access Unit;AU)を含んでもよく、伝達階層によって活用される情報を含む。
AUは、タイミング情報を属性に有し得る最も小さいデータ個体(entity)であってもよい。
MFU900は、MFUの境界で適応的な伝達を行うためにアクセスユニット(Access Unit;AU)のフラグメントをカプセル化(encapsulate)するためのフォーマットを定義してもよい。MFU900は、フラグメントが独立的にデコード化されたり廃棄させ得るためにコード化されたメディアの数個のタイプを運び得る(carry)。
MFU900は、メディアフラグメントユニットヘッダ(Media Fragment Unit Header;MFUH)910及びコード化されたデータ920を含む。
MFUH910は、フラグメント911及び共通912を含む。MFU900は、1つのMFUを異なるMFUから区分される識別子を含んでもよく、単一なAU内のMFUの間の一般化された関係情報を含む。フラグメント911は前記の識別子であってもよい。共通912は前記の一般化された関係情報であってもよい。
フラグメント−生成エンコーダはMFU900を生成してもよい。
図10は、一例に係るM−ユニットの単一M−ユニットケースを示す。
M−ユニットは、特定のコーデックに独立的かつ包括的なコンテナフォーマットであってもよい。M−ユニットは1つ以上のAUを運んでもよい。M−ユニットは1つ以上のMFUを含む。M−ユニットは時間に合わされたデータ(timed data)または時間に合わされないデータ(non−timed data)を含む。M−ユニットは、MFU900のデータ及び追加的な情報を含む。追加的な情報は、同期化のためのタイムスタンプ(timestamp)であってもよい。M−ユニットは、MMTカプセル化機能を処理するためのデータ個体であってもよい。
時間に合わされたデータは、復号化及びプレゼンテーション(presentation)において特定の時刻と関連するデータ要素であってもよい。時間に合わせられていないデータは非特定時刻に消費されるデータ要素である。時間に合わせられていないデータは実行またはランチされることにおいてデータが利用した時の時間範囲を有する。
単一M−ユニットケースのM−ユニット1000は、M−ユニットヘッダ(M−Unit Header;MUH)1010及びMFU900を含む。
図11は、一例に係るM−ユニットのフラグメントされたM−ユニットケースを示す。
フラグメントされたM−ユニットケースのM−ユニット1100は1つ以上のMFUを含む。図11において、フラグメントされたM−ユニットケースのM−ユニット1100は、3個のMFU及び3個のMFUにそれぞれ対応する3個のMUHを含む。
M−ユニット生成エンコーダはM−ユニットを生成してもよい。
図12は、一例に係るMMTアセット(asset)を示す。
MMTアセット1200は、同一のMMTアセットIDを有する1つ以上のメディアプロセシングユニット(Media Processing Unit;MPU)を含む論理的なデータ個体であってもよい。MMTアセット1200は、同一の構成情報及び送信特性が加えられる最も大きいデータ単位であってもよい。
MPUは、特定のメディアコーデックに独立的な、時間に合わされたデータまたは時間に合わせられないデータに対する包括的なコンテナであってもよい。MPUは時間に合わせられたデータのための1つ以上のAUを含む。MPUは、時間に合わせられていないデータのためのAU境界がないデータの部分を含む。MPUは、追加的な伝達及び消費関連情報を含む。MPUは、完全で独立的に処理されるコード化されたメディアデータユニットであってもよい。このような文脈において、処理はMMTパッケージへのカプセル化または伝達のためのパケット化を意味する。
MMTアセット1200は、1つ以上のM−ユニットを含むデータ個体であってもよい。MMTアセット1200は、構成情報及び送信特性が定義されるデータユニットであってもよい。
MMTアセット1200は、アセット情報1210及び1つ以上のM−ユニットを含む。1つ以上のM−ユニットとして、第1M−ユニット1220、第2M−ユニット1230、及び第3M−ユニット1230が示されている。1つ以上のM−ユニットは、それぞれ単一M−ユニットケースのM−ユニット1000またはフラグメントされたM−ユニットケースのM−ユニット1100であってもよい。または、MMTアセット1200は、アセット情報1210及び1つ以上のMFUを含む。1つ以上のMFUは、それぞれMFU900であってもよい。
アセット情報1210は、アセット−特定情報であってもよい。アセット情報1210は、ストリーミングでは伝えられないことがある。
アセット情報1210は、能力交換及び/または下位階層内での資源の(再)割当のために用いられてもよい。
図13は、一例に係るMMTパッケージを示す。
MMTパッケージ1300は、データの論理的に構造化されたコレクションであってもよい。MMTパッケージ1300は、1つ以上のMMTアセット、MMT構成情報、及びMMTアセット伝達特性及び説明的な情報を含む。
MMT資産伝達特性は、MMTアセットの伝達に対する要求されるサービス品質(Quality of Service;QoS)に対する説明を含む。MMT資産伝達特性は、特定伝達環境に対しては不可知であるパラメータによって表現されてもよい。
MMTパッケージ1300は、パッケージ情報1310を含む。
MMTパッケージ1300は、構成情報1320を含む。構成情報は、MMT構成情報に対応する。MMT構成情報は、MMT資産の間の空間的及び時間的な関係の説明であってもよい。
MMTパッケージ1300は、送信特性(Transport Characteristics;Tx.Char.)1330を含む。
MMTパッケージ1300は1つ以上のアセットを含む。1つ以上のアセットはそれぞれ図12を参照して前述したMMTアセット1200であってもよい。1つ以上のアセットとして、第1アセット1340、第2アセット1350及び第3アセット1360が示されている。
MMTパッケージ1300内の1つ以上のアセットはマルチプレックス(multiplex)されたり、連鎖されてもよい。
MMTパッケージ1300は、アーカイビング(achiving)のために用いられてもよい。例えば、MMTパッケージ1300は格納のための単位であってもよい。
下記では、図14〜図16を参照してMMTペイロードフォーマット(MMT PayLoad Format;MMT PL−Format)を説明することにする。
MMTペイロードは、MMTプロトコルまたはインターネットアプリケーション階層プロトコルを用いて、MMTパッケージまたはMMTシグナリングメッセージを運ぶデータのフォーマットされた単位であってもよい。インターネットアプリケーション階層プロトコルはRTPであってもよい。
MMTプロトコルは、インターネットプロトコル(Internet Protocol;IP)ネットワークを介してMMTペイロードを伝達するためのアプリケーション階層プロトコルであってもよい。
MMTペイロードフォーマットは、MMTアプリケーションプロトコルまたは他の存在するアプリケーション送信プロトコルによる消費のために、MMTアセット及び他の情報を運ぶための包括的なペイロードフォーマットであってもよい。例えば、他の存在するアプリケーション送信プロトコルは、リアルタイム送信プロトコル(Realtime Transport Protocol;RTP)であってもよい。
MMTペイロードフォーマットは、MFU900のフラグメントを含む。MMTペイロードフォーマットは、MFU900のフラグメントと共にアプリケーション階層転向誤り訂正(Application Layer Forward Error Correction;AL−FEC)のような他の情報を含んでもよい。
図14は、一例に係る制御タイプのパケットのためのMMT−PLフォーマットを示す。
制御タイプのパケットのための第1MMT−PLフォーマット1400は、ペイロードヘッダ(payload header;PLH)1410及び構成情報1420を含む。構成情報1420は、図13を参照して前述したMMTパッケージ1300の構成情報1320に対応する。
図15は、一例に係るメディアタイプのパケットのためのMMT−PLフォーマットを示す。
メディアタイプのパケットのための第2MMT−PLフォーマット1520及びメディアタイプのパケットのため第3MMT−PLフォーマット1530には、MTU1510パケット−レベルの集成(aggregation)及び/またはプレグメンテイション(fragmentation)が適用されてもよい。
M−ユニット1510のデータは、第2MMT−PLフォーマット1520及び第3MMT−PLフォーマット1530に分割されてもよい。M−ユニット1510は、MFU900、単一M−ユニットケースのM−ユニット1000、フラグメントされたM−ユニットケースのM−ユニット1100またはMMTアセット1200のM−ユニットに対応する。
第2MMT−PLフォーマット1520は、PLH1522及びM−ユニットの一部1524を含む。M−ユニットの一部1524は、MUH、MFUM、及びコード化されたデータの一部を含む。
第3MMT−PLフォーマット1530は、PLH1532及びM−ユニットの一部1534を含む。M−ユニットの一部1534は、コード化されたデータの一部を含む。
図16は、一例に係る制御タイプのパケットのためのMMT−PLフォーマットを示す。
制御タイプのパケットのため第4MMT−PLフォーマット1600は、PLH1610及び制御情報1620を含む。
下記、図17及び図18を参照してMMTパケットを説明することにする。
MMTパケットは、MMTプロトコルによって生成または消費されるデータのフォーマットされたユニットであってもよい。
MMTパケットは、MMT送信パケットであってもよい。MMT送信パケットは、MMTのためのアプリケーション送信プロトコルによって用いられるデータフォーマットであってもよい。
図17は、一例に係る第1MMTパケットを示す。
第1MMTパケット1700は、リアルタイム送信パケットヘッダ(Realtime Transport Protocol Header)1720、PLH1720及びM−ユニットの一部1730を含む。M−ユニットの一部1730は、図15を参照して前述したM−ユニットの一部1524に対応する。M−ユニットの一部1730は、MUH1732、MFUH1734及びコード化されたデータ1736を含む。
PLM1720及びM−ユニットの一部1730は、図15を参照して前述した第2MMT−PLフォーマット1520に対応する。PLM1720及びM−ユニットの一部1730は、第2MMT−PLフォーマット1520のデータであってもよい。
図18は、一例に係る第2MMTパケットを示す。
第2MMTパケット1800は、MMPパケットヘッダ(MMP Packet Header;MMTPH)1810、PLH1820及びM−ユニットの一部1830を含む。M−ユニットの一部1830は、図15を参照して前述したM−ユニットの一部1524に対応する。M−ユニットの一部1830は、MUH1832、MFUH1834及びコード化されたデータ1836を含む。
PLM1820及びM−ユニットの一部1830は、図15を参照して前述した第2MMT−PLフォーマット1520に対応する。PLM1820及びM−ユニットの一部1830は、第2MMT−PLフォーマット1520のデータであってもよい。
図9〜図18を参照して前述したデータまたはユニットのためにMMTパケットが生成されてもよい。図9〜図18は、MFU900を含むMMTパケット920を生成するパケット化過程を示す。MFU900は、MMTパケットを構成する最も小さい単位であってもよい。
MMTパケットはアーカイビングまたはストリーミング用で生成されてもよい。MFU900は、スケーラブルビデオ及びマルチビュービデオのような複数の階層を含むビデオ情報が存在する場合、各階層の単位をペイロードできるユニットであってもよい。MFU900のヘッダにはスケーラブルビデオまたはマルチビュービデオのNALUヘッダに存在するヘッダ情報が存在してもよい。
MFU900のペイロードには、スケーラブルビデオ及びマルチビュービデオのデータが分割して存在してもよい。また、MFU900のペイロードには、スケーラブルマルチビュービデオのデータが分割して存在してもよい。
図19は、一実施形態に係るスケーラブルビデオまたはマルチビュービデオ情報を提供するための構文(syntax)を説明する。
MMTのMFU900のヘッダは、MVC及びSVC符号化されたデータのための階層情報を提供する。また、マルチビュービデオの視点と時間的、空間的及び品質的にスケーラブルなビデオを用いる組合わせられたスケーラビリティが提供されてもよい。
MMTはケース文書を用いてもよい。ケース文書は、適応可能なコンテンツ消費に対するケースシナリオを含む。適応可能なコンテンツ消費は、端末能力に基づいたネットワーク状態及び/またはユーザ選好に基づく。
下記は、効率的なビューポイント適応及びスケーラブルな階層化されたビデオ適応のためのMFU900のヘッダフィールドを説明する。MVCの視点適応情報及びSVCのスケーラブル階層情報は独立的に用いられてもよく、スケーラブルマルチビュービデオのために組合わせられたモードで用いられてもよい。
MMTにおいて、MFU900は最も小さい復号化できるデータユニットであってもよい。MFU900はE.3階層であってもよい。図10に示す構文は、E.3階層ヘッダフィールドに適用されてもよい。E.3階層ヘッダは視点情報を含む。また、E.3階層ヘッダは、階層化されたコード化されたデータの時間的、空間的、及び品質的階層情報を提供してもよい。
図19に示す構文のデータは、スケーラブルビデオの情報及びマルチビュービデオの情報のうちの1つ以上を提供してもよい。構文のデータは、MFU900のヘッダに選択的に存在してもよい。
スケーラブルビデオの情報及びマルチビュービデオの情報のうちの1つ以上は、MFU900ヘッダに選択的に存在してもよい。言い換えれば、MFU900のヘッダは、下記で説明される構文のフラグのうちの1つ以上を含む。MFU900は、MMTパケットを構成する最も小さい単位であってもよい。
階層情報フラグ1910は、MFU900のペイロード内にスケーラブルビデオまたはマルチビュービデオの存在するか否かを示すフラグであってもよい。階層情報フラグ1910の値が「1」であることは前記のペイロードがMVC、SVCまたは組合わせられたMVC/SVCに符号化された階層化されたビデオデータを含むことを示す。
階層情報フラグ1910が存在する場合、階層タイプ1920によってスケーラブルビデオ及びマルチビュービデオまたはスケーラブルマルチビュービデオが区分される。
階層タイプ1920の値が0であれば、マルチビュービデオに関する情報が提供される。階層タイプ1920の値が1であれば、スケーラブルビデオに関する情報が提供される。階層タイプ1920の値が2であれば、スケーラブルマルチビュービデオに関する情報が提供される。
階層タイプ1920の値が0であるマルチビュービデオに対するレイヤmbined scalability video)810alc)1720文法的要素は下記と通りである。例えば、階層タイプ1920が0の値を有する場合、下記のようなマルチビュービデオに関する情報が提供される。
マルチビュービデオに関する情報として、現在MFU900内に存在するマルチビュービデオ階層の優先順位を示す優先順位ID(priority id)1931、マルチビュービデオのビューの固有IDを示すビューID(view id)1932、時間ID(temporal id)1933、ビュー間予測フラグ(interview prediction flag)1934及び任意アクセスのためのアンカーピクチャーフラグ(anchor picture flag)1935が存在してもよい。
下記においてマルチビュー階層または階層は、マルチビュービデオのマルチビュー階層を示してもよい。マルチビュービデオはMVCビデオであってもよい。
優先順位ID1931は、マルチビュービデオのMFUペイロード内に存在する各階層の優先順位情報であってもよい。
優先順位ID1931は、現在MFU900内に含まれたマルチビュー階層の優先順位を示してもよい。優先順位ID1931の低い値は高い優先順位を示す。
ビューID1932は、MVCビデオの固有のビューIDを示す。
時間的ID1933は、MVCビデオの時間的レベルを示す。
ビュー間予測フラグ1934の値「1」は、現在ビューコンポーネントが現在AU内の異なるビューコンポーネントによって予測されることを示す。ビューコンポーネントは、単一アクセスユニット内のビューのコード化された表現(representation)であってもよい。
アンカーピクチャーフラグ1935の値「1」は、現在のAUがアンカーAUであることを示す。
ビュー間予測フラグ1934は、現在ビューコンポーネントが現在AU内の異なるビューコンポーネントによって予測可能であるか否かを示す。ビュー間予測フラグ1934はビュー間予測を許容してもよい。
アンカーピクチャーフラグ1935は、前記MVCビデオでの任意アクセスのために用いられてもよい。
階層タイプ1920の値が1であるマルチビュービデオに対するレイヤmbined scalability video)810alc)1720文法的要素は下記の通りである。例えば、階層タイプ1920が1の値を有する場合、下記のようなスケーラブルビデオに関する情報が提供される。下記において、スケーラブル階層または階層はスケーラブルビデオのスケーラブル階層を示してもよい。スケーラブルビデオはSVCビデオであってもよい。
スケーラブルビデオに関する情報として、現在MFU900内に存在するスケーラブルビデオ階層の優先順位を示す優先順位ID(priority id)1941、空間的ID(spatial id)1942、時間的ID(temporal id)1943、画質的ID(quality id)1944が存在してもよい。
優先順位ID1941は、スケーラブルビデオのMFUペイロード内に存在する各階層の優先順位情報であってもよい。
優先順位ID1941は、現在MFU900内に含まれたスケーラブル階層の優先順位を示す。優先順位IDの低い値は高い優先順位を示す。
空間的ID1942はSVCビデオの空間的レベルを示す。
時間的ID1943はSVCビデオの時間的レベルを示す。
画質的ID1944はSVCビデオの画質的レベルを示す。
階層タイプ1920の値が2であるスケーラブルマルチビュービデオに対するレイヤmbined scalability video)810alc)1720文法的要素は下記の通りである。例えば、階層タイプ1920が2の値を有する場合、下記のようなスケーラブルマルチビュービデオに関する情報が提供されてもよい。スケーラブルマルチビュービデオは、情報は統合された(combined)スケーラビリティ情報として提供されてもよい。
スケーラブルマルチビュービデオに関する情報として、現在MFU900内に存在するスケーラブルマルチビュービデオ階層の優先順位を示す優先順位ID(priority id、1951)、ビューID(view id)1952、空間的ID(spatial id、1953)、時間的ID(temporal id)1954、画質的ID(quality id)1955が存在してもよい。
優先順位ID1951は、現在MFU900内に含まれたスケーラブルマルチビュービデオの優先順位を示す。優先順位IDの低い値は高い優先順位を示す。
ビューID1952は、スケーラブルマルチビュービデオの固有のビューIDを示す。
空間的ID1953は、スケーラブルマルチビュービデオの空間的レベルを示す。
時間的ID1954は、スケーラブルマルチビュービデオの時間的レベルを示す。
画質的ID1955は、スケーラブルマルチビュービデオの画質的レベルを示す。
優先順位識別子1931、優先順位識別子1941及び優先順位識別子1951の用途は各アプリケーションによって定義される。
図20は、一実施形態に係るストリーミングサーバの構造図である。
ストリーミングサーバ2000は、処理部2010、ネットワーキング部2020及び格納部2030を含む。
処理部2010は、図6を参照して前述したパケット生成部610に対応する。ネットワーキング部2020は、図6を参照して前述した送信部620及びネットワークインターフェース部630に対応する。格納部2030は、図6を参照して前述した格納部640に対応する。
処理部2010はパケットを生成する。パケットは、MPEG−2TSパケットまたはMMTパケットであってもよい。ネットワーキング部2020は、生成されたパケットを用いてストリームを送信する。ストリームは、MPEG−2TSストリームまたはMMTストリームであってもよい。MMTストリームは、MMTパケットを用いるストリームであってもよい。
ストリームは、マルチビュービデオストリーム、スケーラブルビデオストリーム、及びマルチビュースケーラブルビデオストリームのうちの1つ以上を含む。
パケットのヘッダは、スケーラブルビデオストリームのスケーラビリティ情報を含む。スケーラブルビデオストリームは、パケットのペイロード内に分割されて存在してもよい。
スケーラビリティ情報は、ヘッダのプライベート送信データ(Transport Private Data)内に存在してもよい。プライベート送信データは、ヘッダの適応フィールド(Adaptation Field)内の付加的フィールド(Optional Field)内に存在してもよい。ヘッダは、スケーラビリティ情報の有無を示すスケーラビリティ情報フラグ及びスケーラブルビデオストリームのビュー情報の有無を示すビュー情報フラグを含む。
ヘッダは、スケーラビリティ情報フラグ及びビュー情報フラグの有無を示すプライベートデータフラグを含む。
スケーラビリティ情報は、スケーラブルビデオの空間的スケーラビリティ情報、スケーラブルビデオの時間的スケーラビリティ情報、及びスケーラブルビデオの画質的スケーラビリティ情報を含む。
ビュー情報は、ヘッダのプライベート送信データ内に存在してもよい。
処理部2010は、マルチビュービデオコーディング(Multi−view Video Coding;MVC)のネットワーク抽象化階層ユニット(Network Abstraction Layer Unit;NALU)ヘッダ内の第2ビュー情報を用いてビュー情報を生成してもよい。
処理部2010は、スケーラブルビデオコーディング(Scalable Video Coding;SVC)のネットワーク抽象化階層ユニットヘッダ内の第2スケーラビリティ情報を用いてスケーラビリティ情報を生成してもよい。
処理部2010は、ストリームパケット内にネットワーク抽象化階層ユニットヘッダのデータが存在する場合にのみスケーラビリティ情報を生成してもよい。
処理部2010は、同一のパケット識別子(Packet Identifier;PID)を有する1つ以上のストリームパケットのうち、ネットワーク抽象化ユニットヘッダのデータが存在するストリームパケット内にのみスケーラビリティ情報を生成してもよい。
処理部2010は、ストリームパケット内にスケーラビリティ情報を挿入するスケーラビリティ情報挿入部を含む。
処理部2010は、MPEGメディア送信(MPEG Media Transport;MMT)パケットを生成してもよい。
処理部2010は、図9〜図18を参照して前述したMFU、M−ユニット、MMTアセット、MMTパッケージ及びMMTパケットを生成してもよい。
処理部2010は、MFU、M−ユニット、MMTアセット、MMTパッケージ及びMMTパケットを格納部2030内に格納してもよい。
ネットワーキング部2020は、MMTパケットを用いてMMTストリームを送信してもよい。MMTストリームは1つ以上のMMTパケットを含む。MMTパケットは、マルチビュービデオ、スケーラブルビデオ、及びスケーラブルマルチビュービデオのうちの1つ以上を含む。
ネットワーキング部2020は、ストリームをビデオプレーヤーのような他のストリーミングクライアント2100に送信してもよい。
MMTパケット内のメディアフラグメントユニット(Media Fragment Unit;MFU)は、スケーラブルビデオ、マルチビュービデオ、及びスケーラブルマルチビュービデオのうちの1つ以上を含む。
MMTパケット内のメディアフラグメントユニット(Media Fragment Unit;MFU)は、スケーラブルビデオ、マルチビュービデオ、及びスケーラブルマルチビュービデオのうちの1つ以上を含む。
MFUのヘッダは、優先順位識別子(identifier;ID)を含む。優先順位IDは、MFU内に含まれたマルチビュービデオのマルチビュー階層の優先順位を示してもよい。
MFUのヘッダは、ビューID、ビュー間予測フラグ、及びアンカーピクチャーフラグを含む。ビューIDは、マルチビュービデオの固有のIDを示してもよい。ビュー間予測フラグは、現在ビューコンポーネントが現在のアクセスユニット(Access Unit;AU)内の異なるビューコンポーネントによって予測可能であるか否かを示す。アンカーピクチャーフラグはマルチビュービデオへの任意アクセスのために用いられてもよい。
優先順位IDは、MFU内に含まれたスケーラブルビデオのスケーラブル階層の優先順位を示す。MFUのヘッダは、空間的ID、時間的ID及び画質的IDを含む。空間的IDはスケーラブルビデオの空間的レベルを示す。時間的IDはスケーラブルビデオの時間的レベルを示す。
画質的IDは、前記スケーラブルビデオの画質的レベルを示す。
優先順位IDは、MFU内に含まれたマルチビュースケーラブルビデオの優先順位を示す。MFUのヘッダは、ビューID、空間的ID、時間的ID及び画質的IDを含む。ビューIDは、スケーラブルマルチビュービデオの固有のIDを示す。空間的IDは、スケーラブルマルチビュービデオの空間的レベルを示す。時間的IDは、スケーラブルマルチビュービデオの時間的レベルを示す。画質的IDは、スケーラブルマルチビュービデオの画質的レベルを示す。
MFUのヘッダは階層情報フラグを含む。階層情報フラグは、ヘッダスケーラブルビデオ、マルチビュービデオ、及びスケーラブルマルチビュービデオのうちの1つ以上に関する情報の有無を示す。ヘッダは、階層情報フラグを介してスケーラブルビデオ、マルチビュービデオ、及びスケーラブルマルチビュービデオのうちの1つ以上の階層のタイプの情報を含んでもよい。
ヘッダは、階層のタイプの情報によりマルチビュービデオの情報、スケーラブルビデオの情報、及びマルチビュースケーラブルビデオの情報のうちの1つ以上を含む。スケーラブルビデオ、マルチビュービデオ、及びスケーラブルマルチビュービデオのうちの1つ以上は、MMTパケット内のMFUペイロード内に分割して存在してもよい。
前述の図1ないし図19を参照して説明した実施形態に係る技術的な内容が本実施形態にもそのまま適用されてもよい。したがって、より詳細な説明は以下で省略することにする。
図21は、一実施形態に係るストリーミングクライアントの構造図である。
ストリーミングクライアント2100は、処理部2110及びネットワーキング部2120を含む。ネットワーキング部2120は図7を参照して前述した受信部710に対応する。処理部2110は図7を参照して前述したパケット処理部720に対応する。
ネットワーキング部2120は、ストリームを受信してもよい。ストリームはMPEG−2TSストリームまたはMMTストリームであってもよい。MMTストリームは、MMTパケットを用いるストリームであってもよい。
処理部2110は、ストリームのパケットを処理する。パケットは、MPEG−2TSパケットまたはMMTパケットであってもよい。
ストリームは、スケーラブルビデオストリームを含む。ストリームパケットのヘッダはスケーラブルビデオストリームのスケーラビリティ情報を含む。
処理部2110は、ヘッダ内のスケーラビリティ情報フラグ及びビュー情報フラグに基づいてパケット内の前記スケーラビリティ情報の有無及びスケーラブルビデオストリームのビュー情報の有無を判断してもよい。
処理部2110は、スケーラビリティ情報に基づいてスケーラブルビデオコーディングのネットワーク抽象化階層ユニットヘッダ内のスケーラビリティ情報を生成してもよい。
処理部2110は、ストリームパケット内に前記ネットワーク抽象化階層ユニットヘッダのデータが存在する場合にのみスケーラビリティ情報を抽出してもよい。
処理部2110は、同一のパケット識別子を有する1つ以上のストリームパケットのうち、ネットワーク抽象化ユニットヘッダのデータが存在するストリームパケットのみで前記スケーラビリティ情報を抽出してもよい。
処理部2110は、同一のパケット識別子を有する1つ以上のストリームパケットのうち、スケーラビリティ情報を含むパケットと最も近い以前時間のパケットからパケットのスケーラビリティ情報を抽出してもよい。
ネットワーキング部2120は、MMTストリームを受信してもよい。
処理部2210は、図9〜図18を参照して前述したMFU、M−ユニット、MMTアセット、MMTパッケージ、及びMMTパケットを処理してもよい。処理部2210は、MFU、M−ユニット、MMTアセット、MMTパッケージ、及びMMTパケットを処理することによってMMTストリームのコンテンツを再生してもよい。
前述の図1ないし図20を参照して説明した実施形態に係る技術的な内容が本実施形態にもそのまま適用されてもよい。したがって、より詳細な説明は以下で省略することにする。
図22は、一実施形態に係るストリーミングサービス方法のフローチャートである。
ステップ2210において、ストリーミングサーバ2000の処理部2010はパッケージを生成する。パッケージはMMTパッケージであってもよい。
ステップ2220において、処理部2010はパケットを生成する。パケットはMMTパケットであってもよい。
ステップ2230において、ストリーミングサーバ2000のネットワーキング部2020はストリームを送信する。ストリームはビットストリームであってもよい。ストリームはMMTストリームであってもよい。
ステップ2240において、ストリーミングクライアント2100のネットワーキング部2120はストリームを受信する。
ステップ2250において、ストリーミングクライアント2100の処理部2110はストリーム内のパケットを処理する。
前述の図1ないし図21を参照して説明した実施形態に係る技術的な内容が本実施形態にもそのまま適用されてもよい。したがって、より詳細な説明は以下で省略することにする。
図23は、一例に係る組合わせられたスケーラビリティを示す。
図23において、x軸は空間的IDを示し、軸はビューIDを示す。V0はベースビューを示してもよい。
図23において、MVCは3個のビューを提供し、SVCは3レベル空間的拡張性を提供する。図23は、ビュー及び空間的スケーラビリティを通した組合わせられたスケーラビリティを図示する。図23において、優先順位IDはP0ないしP3の値を有する。前記の優先順位IDの値は、予め定義された優先順位割当政策を有するオペレーターによって独断的に割り当てられてもよい。組合わせられたスケーラビリティオプションは、スクリーン大きさ及び視点においてユーザにさらに流動的な適応シナリオを提供し得る。
一実施形態に係る方法は、多様なコンピュータ手段を介して様々な処理を実行することができるプログラム命令の形態で実現され、コンピュータ読取可能な記録媒体に記録されてもよい。コンピュータ読取可能な媒体は、プログラム命令、データファイル、データ構造などのうち1つまたはその組合せを含んでもよい。媒体に記録されるプログラム命令は、本発明の目的のために特別に設計されて構成されたものでもよく、コンピュータソフトウェア分野の技術を有する当業者にとって公知のものであり、使用可能なものであってもよい。コンピュータ読取可能な記録媒体の例としては、ハードディスク、フロッピー(登録商標)ディスク及び磁気テープのような磁気媒体、CD−ROM、DVDのような光記録媒体、光ディスクのような光磁気媒体、及びROM、RAM、フラッシュメモリなどのようなプログラム命令を保存して実行するように特別に構成されたハードウェア装置が含まれてもよい。プログラム命令の例には、コンパイラによって作られるような機械語コードだけでなく、インタープリタなどを用いてコンピュータによって実行できる高級言語コードが含まれる。前記したハードウェア装置は、本発明の動作を行うために1つ以上のソフトウェアモジュールとして作動するように構成されてもよく、その逆も同様である。
上述したように、本発明を限定された実施形態と図面によって説明したが、本発明は、上記の実施形態に限定されることなく、本発明が属する分野における通常の知識を有する者であれば、このような実施形態から多様な修正及び変形が可能である。
したがって、本発明の範囲は、開示された実施形態に限定されるものではなく、特許請求の範囲だけではなく特許請求の範囲と均等なものなどによって定められるものである。
600:ストリーミングサーバ
700:ストリーミングクライアント
2000:ストリーミングサーバ
2100:ストリーミングクライアント
700:ストリーミングクライアント
2000:ストリーミングサーバ
2100:ストリーミングクライアント
Claims (20)
- MPEGメディア送信(MPEG Media Transport;MMT)パケットを生成する処理部と、
前記MMTパケットを用いてMMTストリームを送信するネットワーキング部と、
を含み、
前記MMTパケットは、マルチビュービデオ、スケーラブルビデオ、及びスケーラブルマルチビュービデオのうちの1つ以上を含むことを特徴とするストリーミングサーバ。 - 前記MMTパケット内のメディアフラグメントユニット(Media Fragment Unit;MFU)は、前記スケーラブルビデオ、前記マルチビュービデオ、及び前記スケーラブルマルチビュービデオのうちの1つ以上を含むことを特徴とする請求項1に記載のストリーミングサーバ。
- 前記MFUのヘッダは、優先順位識別子(identifier;ID)を含み、
前記優先順位IDは、前記MFU内に含まれた前記マルチビュービデオの前記マルチビュー階層の優先順位を示すことを特徴とする請求項2に記載のストリーミングサーバ。 - 前記MFUのヘッダは、ビューID、ビュー間予測フラグ、及びアンカーピクチャーフラグを含み、
前記ビューIDは、前記マルチビュービデオの固有のIDを示し、
前記ビュー間予測フラグは、現在ビューコンポーネントが現在のアクセスユニット(Access Unit;AU)内の異なるビューコンポーネントによって予測可能であるか否かを示し、
前記アンカーピクチャーフラグは、前記マルチビュービデオへの任意アクセス(random access)のために用いられることを特徴とする請求項3に記載のストリーミングサーバ。 - 前記MFUのヘッダは優先順位IDを含み、
前記優先順位IDは、前記MFU内に含まれた前記スケーラブルビデオの前記スケーラブル階層の優先順位を示すことを特徴とする請求項2に記載のストリーミングサーバ。 - 前記MFUのヘッダは、空間的ID、時間的ID及び画質的IDを含み、
前記空間的IDは、前記スケーラブルビデオの空間的レベルを示し、
前記時間的IDは、前記スケーラブルビデオの時間的レベルを示し、
前記画質的IDは、前記スケーラブルビデオの画質的レベルを示すことを特徴とする請求項5に記載のストリーミングサーバ。 - 前記MFUのヘッダは優先順位IDを含み、
前記優先順位IDは、前記MFU内に含まれた前記マルチビュースケーラブルビデオの優先順位を示すことを特徴とする請求項2に記載のストリーミングサーバ。 - 前記MFUのヘッダは、ビューID、空間的ID、時間的ID及び画質的IDを含み、
前記ビューIDは、前記スケーラブルマルチビュービデオの固有のIDを示し、
前記空間的IDは、前記スケーラブルマルチビュービデオの空間的レベルを示し、
前記時間的IDは、前記スケーラブルマルチビュービデオの時間的レベルを示し、
前記画質的IDは、前記スケーラブルマルチビュービデオの画質的レベルを示すことを特徴とする請求項7に記載のストリーミングサーバ。 - 前記MFUのヘッダは階層情報フラグを含み、
前記階層情報フラグは、前記スケーラブルビデオ、前記マルチビュービデオ、及び前記スケーラブルマルチビュービデオのうちの1つ以上に関する情報の有無を示し、
前記ヘッダは、前記階層情報フラグを介して前記ヘッダスケーラブルビデオ、前記マルチビュービデオ、及び前記スケーラブルマルチビュービデオのうちの1つ以上の階層のタイプの情報を含むことを特徴とする請求項2に記載のストリーミングサーバ。 - 前記ヘッダは、前記階層のタイプの情報により前記マルチビュービデオの情報、前記スケーラブルビデオの情報、及び前記マルチビュースケーラブルビデオの情報のうちの1つ以上を含むことを特徴とする請求項9に記載のストリーミングサーバ。
- 前記スケーラブルビデオ、前記マルチビュービデオ、及び前記スケーラブルマルチビュービデオのうちの1つ以上は、前記MMTパケット内のMFUペイロード内に分割して存在することを特徴とする請求項1に記載のストリーミングサーバ。
- MPEGメディア送信(MPEG Media Transport;MMT)パケットを生成するステップと、
前記MMTパケットを用いてMMTストリームを送信するステップと、
を含み、
前記MMTパケットは、マルチビュービデオ、スケーラブルビデオ、及びスケーラブルマルチビュービデオのうちの1つ以上を含むことを特徴とするストリーミングサービス方法。 - MPEGメディア送信(MPEG Media Transport;MMT)ストリームを受信するネットワーキング部と、
前記MMTストリーム内のMMTパケットを処理する処理部と、
を含み、
前記MMTパケットは、マルチビュービデオ、スケーラブルビデオ、及びスケーラブルマルチビュービデオのうちの1つ以上を含むことを特徴とするストリーミングクライアント。 - 前記MMTパケット内のメディアフラグメントユニット(Media Fragment Unit;MFU)は、前記スケーラブルビデオ、前記マルチビュービデオ、及び前記スケーラブルマルチビュービデオのうちの1つ以上を含むことを特徴とする請求項13に記載のストリーミングクライアント。
- 前記MFUのヘッダは、優先順位識別子(identifier;ID)を含み、
前記優先順位IDは、前記MFU内に含まれた前記マルチビュービデオの前記マルチビュー階層の優先順位を示すことを特徴とする請求項14に記載のストリーミングクライアント。 - 前記MFUのヘッダは、ビューID、ビュー間予測フラグ、及びアンカーピクチャーフラグを含み、
前記ビューIDは、前記マルチビュービデオの固有のIDを示し、
前記ビュー間予測フラグは、現在ビューコンポーネントが現在のアクセスユニット(Access Unit;AU)内の異なるビューコンポーネントによって予測可能であるか否かを示し、
前記アンカーピクチャーフラグは、前記マルチビュービデオへの任意アクセスのために用いられることを特徴とする請求項15に記載のストリーミングクライアント。 - 前記MFUのヘッダは優先順位IDを含み、
前記優先順位IDは、前記MFU内に含まれた前記スケーラブルビデオの前記スケーラブル階層の優先順位を示すことを特徴とする請求項14に記載のストリーミングクライアント。 - 前記MFUのヘッダは、空間的ID、時間的ID、及び画質的IDを含み、
前記空間的IDは、前記スケーラブルビデオの空間的レベルを示し、
前記時間的IDは、前記スケーラブルビデオの時間的レベルを示し、
前記画質的IDは、前記スケーラブルビデオの画質的レベルを示すことを特徴とする請求項17に記載のストリーミングクライアント。 - 前記MFUのヘッダは優先順位IDを含み、
前記優先順位IDは、前記MFU内に含まれた前記マルチビュースケーラブルビデオの優先順位を示すことを特徴とする請求項14に記載のストリーミングクライアント。 - MPEGメディア送信(MPEG Media Transport;MMT)ストリームを受信するステップと、
前記MMTストリーム内のMMTパケットを処理するステップと、
を含み、
前記MMTパケットは、マルチビュービデオ、スケーラブルビデオ、及びスケーラブルマルチビュービデオのうちの1つ以上を含むことを特徴とするストリーミングサービス方法。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR20110122994 | 2011-11-23 | ||
KR10-2011-0122994 | 2011-11-23 | ||
PCT/KR2012/009978 WO2013077670A1 (ko) | 2011-11-23 | 2012-11-23 | 스케일러빌리티 및 뷰 정보를 제공하는 스트리밍 서비스를 위한 방법 및 장치 |
KR10-2012-0133477 | 2012-11-23 | ||
KR1020120133477A KR102003925B1 (ko) | 2011-11-23 | 2012-11-23 | 스케일러빌리티 및 뷰 정보를 제공하는 스트리밍 서비스를 위한 방법 및 장치 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015503281A true JP2015503281A (ja) | 2015-01-29 |
Family
ID=48665138
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014543422A Withdrawn JP2015503281A (ja) | 2011-11-23 | 2012-11-23 | スケーラビリティ及びビュー情報を提供するストリーミングサービスのための方法及び装置 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20140344470A1 (ja) |
JP (1) | JP2015503281A (ja) |
KR (3) | KR102003925B1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016136470A1 (ja) * | 2015-02-27 | 2016-09-01 | ソニー株式会社 | 送信装置、送信方法、受信装置および受信方法 |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9813350B2 (en) * | 2012-01-31 | 2017-11-07 | Sharp Kabushiki Kaisha | Generation device, reproduction device, data structure, generation method, reproduction method, control program, and recording medium |
JP6330804B2 (ja) * | 2013-06-07 | 2018-05-30 | ソニー株式会社 | 送信装置、伝送ストリームの送信方法および処理装置 |
US9807452B2 (en) * | 2013-10-07 | 2017-10-31 | Samsung Electronics Co., Ltd. | Practical delivery of high quality video using dynamic adaptive hypertext transport protocol (HTTP) streaming (DASH) without using HTTP in a broadcast network |
US9930086B2 (en) * | 2013-10-28 | 2018-03-27 | Samsung Electronics Co., Ltd. | Content presentation for MPEG media transport |
KR102191970B1 (ko) * | 2013-12-31 | 2020-12-17 | 삼성전자주식회사 | 데이터 전송 디바이스 및 그 전송 방법 |
KR101868628B1 (ko) * | 2014-04-30 | 2018-06-18 | 엘지전자 주식회사 | 방송 신호 송신 장치, 방송 신호 수신 장치, 방송 신호 송신 방법, 및 방송 신호 수신 방법 |
CA2967245C (en) * | 2014-11-26 | 2022-08-30 | Sony Corporation | Transmission device, transmission method, reception device, and reception method |
KR102346747B1 (ko) | 2015-05-07 | 2022-01-04 | 에스케이플래닛 주식회사 | 클라우드 스트리밍 서비스 시스템, 리사이즈 기반의 멀티뷰 화면을 제공하는 클라우드 스트리밍 서비스 방법 및 이를 위한 장치 |
KR102519209B1 (ko) * | 2015-06-17 | 2023-04-07 | 한국전자통신연구원 | 스테레오스코픽 비디오 데이터를 처리하기 위한 mmt 장치 및 방법 |
KR102303777B1 (ko) | 2016-03-25 | 2021-09-17 | 에스케이텔레콤 주식회사 | 다중 경로 스트리밍 서비스 제공 방법, 이를 위한 컴퓨터 판독 가능한 기록 매체 및 컴퓨터 프로그램 |
WO2017200319A1 (ko) * | 2016-05-18 | 2017-11-23 | 에스케이텔레콤 주식회사 | 적응형 스트리밍 서비스 제공 방법 및 이를 위한 장치 |
KR20170130253A (ko) | 2016-05-18 | 2017-11-28 | 에스케이텔레콤 주식회사 | 적응형 스트리밍 서비스 제공 방법 및 이를 위한 장치 |
Family Cites Families (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6275507B1 (en) * | 1997-09-26 | 2001-08-14 | International Business Machines Corporation | Transport demultiplexor for an MPEG-2 compliant data stream |
KR100397511B1 (ko) * | 2001-11-21 | 2003-09-13 | 한국전자통신연구원 | 양안식/다시점 3차원 동영상 처리 시스템 및 그 방법 |
EP1503299A1 (en) * | 2003-07-31 | 2005-02-02 | Alcatel | A method, a hypermedia communication system, a hypermedia server, a hypermedia client, and computer software products for accessing, distributing, and presenting hypermedia documents |
US7742524B2 (en) * | 2006-11-17 | 2010-06-22 | Lg Electronics Inc. | Method and apparatus for decoding/encoding a video signal using inter-layer prediction |
CN101543018B (zh) * | 2007-01-12 | 2012-12-26 | 庆熙大学校产学协力团 | 网络提取层单元的分组格式、使用该格式的视频编解码算法和装置以及使用该格式进行IPv6标签交换的QoS控制算法和装置 |
US20080270913A1 (en) * | 2007-04-26 | 2008-10-30 | Howard Singer | Methods, Media, and Devices for Providing a Package of Assets |
GB2465959B (en) * | 2007-09-25 | 2012-04-25 | Ericsson Telefon Ab L M | Method and arrangement relating to a media structure |
JP6159507B2 (ja) * | 2009-02-19 | 2017-07-05 | トムソン ライセンシングThomson Licensing | 3d映像フォーマット |
US8411746B2 (en) * | 2009-06-12 | 2013-04-02 | Qualcomm Incorporated | Multiview video coding over MPEG-2 systems |
JP5512038B2 (ja) * | 2010-04-20 | 2014-06-04 | サムスン エレクトロニクス カンパニー リミテッド | メディアデータを送受信するためのインターフェース装置及び方法 |
US20120079541A1 (en) * | 2010-09-25 | 2012-03-29 | Yang Pan | One-Actuation Control of Synchronization of a Television System Terminal and a Mobile Device Display |
CA2816264C (en) * | 2010-10-16 | 2017-04-11 | Lg Electronics Inc. | Digital receiver and method for processing 3d contents in digital receiver |
KR20120083820A (ko) * | 2011-01-18 | 2012-07-26 | 삼성전자주식회사 | 컨텐츠 전송 시스템에서 컨텐츠 전송 방법 및 장치 |
KR20120084234A (ko) * | 2011-01-19 | 2012-07-27 | 삼성전자주식회사 | Mpeg media transport(mmt)에서 mmt au를 전송하는 방법 |
KR20120138319A (ko) * | 2011-06-14 | 2012-12-26 | 삼성전자주식회사 | 멀티미디어 데이터 특징 정보를 이용하여 멀티미디어 서비스 데이터 패킷을 송신하는 방법 및 장치 |
WO2013033596A1 (en) * | 2011-08-31 | 2013-03-07 | Dolby Laboratories Licensing Corporation | Multiview and bitdepth scalable video delivery |
US9319721B2 (en) * | 2011-10-13 | 2016-04-19 | Electronics And Telecommunications Research Institute | Method of configuring and transmitting an MMT transport packet |
US11290510B2 (en) * | 2012-11-29 | 2022-03-29 | Samsung Electronics Co., Ltd. | Method and apparatus for encapsulation of motion picture experts group media transport assets in international organization for standardization base media files |
-
2012
- 2012-11-23 JP JP2014543422A patent/JP2015503281A/ja not_active Withdrawn
- 2012-11-23 KR KR1020120133477A patent/KR102003925B1/ko active IP Right Grant
- 2012-11-23 US US14/360,174 patent/US20140344470A1/en not_active Abandoned
-
2019
- 2019-07-19 KR KR1020190087649A patent/KR102149048B1/ko active IP Right Grant
-
2020
- 2020-08-21 KR KR1020200105628A patent/KR102274513B1/ko active IP Right Grant
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016136470A1 (ja) * | 2015-02-27 | 2016-09-01 | ソニー株式会社 | 送信装置、送信方法、受信装置および受信方法 |
JPWO2016136470A1 (ja) * | 2015-02-27 | 2017-12-07 | ソニー株式会社 | 送信装置、送信方法、受信装置および受信方法 |
US10791364B2 (en) | 2015-02-27 | 2020-09-29 | Sony Corporation | Transmitting device, transmitting method, receiving device, and receiving method |
JP2022125084A (ja) * | 2015-02-27 | 2022-08-26 | ソニーグループ株式会社 | 受信装置 |
US11627367B2 (en) | 2015-02-27 | 2023-04-11 | Sony Corporation | Transmitting device, transmitting method, receiving device, and receiving method |
JP7375857B2 (ja) | 2015-02-27 | 2023-11-08 | ソニーグループ株式会社 | 受信装置 |
Also Published As
Publication number | Publication date |
---|---|
US20140344470A1 (en) | 2014-11-20 |
KR102003925B1 (ko) | 2019-10-02 |
KR102274513B1 (ko) | 2021-07-08 |
KR20130057404A (ko) | 2013-05-31 |
KR20190088947A (ko) | 2019-07-29 |
KR102149048B1 (ko) | 2020-08-28 |
KR20200102406A (ko) | 2020-08-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102149048B1 (ko) | 스케일러빌리티 및 뷰 정보를 제공하는 스트리밍 서비스를 위한 방법 및 장치 | |
US10542065B2 (en) | Method and apparatus for transmitting/receiving media contents in multimedia system | |
CN107925781B (zh) | 发送方法、接收方法、发送装置以及接收装置 | |
JP6040282B2 (ja) | 拡張されたビデオストリームを復号するための方法および装置 | |
US9967582B2 (en) | Hybrid delivery method and reception method for MMT packaged SVC video contents | |
US9553912B2 (en) | Method and apparatus for transmitting media content via a single port or multiple ports | |
JP5591932B2 (ja) | ファイルフォーマットトラック選択のためのメディアエクストラクタトラック | |
US20130212291A1 (en) | Method and apparatus for streaming a service for providing scalability and view information | |
JP7054780B2 (ja) | 送信方法、受信方法、送信装置及び受信装置 | |
JP7080929B2 (ja) | ステレオスコピックビデオデータを処理するためのmmt装置および方法 | |
US10630745B2 (en) | MMT apparatus and MMT method for processing media data | |
KR102153997B1 (ko) | Gfd 설명자를 이용한 gfd 모드 설정 방법 | |
JP4815530B2 (ja) | 大容量メディアデータを受容するための拡張されたsafパケット構造 | |
KR20130119888A (ko) | 상호 의존관계를 가지는 비디오 데이터를 처리하는 장치 | |
Kordelas et al. | Transport Protocols for 3D Video | |
KR20210051033A (ko) | Mmt 기반 mpu 전송 장치가 컨텐츠를 전송하는 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150826 |
|
A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20160314 |