CN105191324A - 通信设备、通信数据生成方法、以及通信数据处理方法 - Google Patents
通信设备、通信数据生成方法、以及通信数据处理方法 Download PDFInfo
- Publication number
- CN105191324A CN105191324A CN201480013818.5A CN201480013818A CN105191324A CN 105191324 A CN105191324 A CN 105191324A CN 201480013818 A CN201480013818 A CN 201480013818A CN 105191324 A CN105191324 A CN 105191324A
- Authority
- CN
- China
- Prior art keywords
- data
- packet
- gop
- media
- communication
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 150
- 230000006854 communication Effects 0.000 title claims description 169
- 238000004891 communication Methods 0.000 title claims description 168
- 238000003672 processing method Methods 0.000 title claims description 13
- 230000005540 biological transmission Effects 0.000 claims abstract description 34
- 230000008569 process Effects 0.000 claims description 109
- 238000012545 processing Methods 0.000 claims description 84
- 238000003860 storage Methods 0.000 claims description 10
- 239000000470 constituent Substances 0.000 abstract 1
- AWSBQWZZLBPUQH-UHFFFAOYSA-N mdat Chemical compound C1=C2CC(N)CCC2=CC2=C1OCO2 AWSBQWZZLBPUQH-UHFFFAOYSA-N 0.000 description 61
- 239000012634 fragment Substances 0.000 description 35
- 238000010586 diagram Methods 0.000 description 31
- 239000003550 marker Substances 0.000 description 22
- 238000009826 distribution Methods 0.000 description 18
- 230000011218 segmentation Effects 0.000 description 8
- 230000006978 adaptation Effects 0.000 description 6
- 238000009499 grossing Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 5
- 238000012546 transfer Methods 0.000 description 4
- 230000015572 biosynthetic process Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000013467 fragmentation Methods 0.000 description 3
- 238000006062 fragmentation reaction Methods 0.000 description 3
- 238000011084 recovery Methods 0.000 description 3
- 241001269238 Data Species 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 230000033001 locomotion Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 230000011664 signaling Effects 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- FMYKJLXRRQTBOR-UBFHEZILSA-N (2s)-2-acetamido-4-methyl-n-[4-methyl-1-oxo-1-[[(2s)-1-oxohexan-2-yl]amino]pentan-2-yl]pentanamide Chemical group CCCC[C@@H](C=O)NC(=O)C(CC(C)C)NC(=O)[C@H](CC(C)C)NC(C)=O FMYKJLXRRQTBOR-UBFHEZILSA-N 0.000 description 1
- 240000007594 Oryza sativa Species 0.000 description 1
- 235000007164 Oryza sativa Nutrition 0.000 description 1
- 241000209140 Triticum Species 0.000 description 1
- 235000021307 Triticum Nutrition 0.000 description 1
- 230000002730 additional effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000012010 growth Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 235000009566 rice Nutrition 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 239000010902 straw Substances 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/236—Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
- H04N21/23605—Creation or processing of packetized elementary streams [PES]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/60—Network streaming of media packets
- H04L65/75—Media network packet handling
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/02—Protocols based on web technology, e.g. hypertext transfer protocol [HTTP]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/238—Interfacing the downstream path of the transmission network, e.g. adapting the transmission rate of a video stream to network bandwidth; Processing of multiplex streams
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/438—Interfacing the downstream path of the transmission network originating from a server, e.g. retrieving encoded video stream packets from an IP network
- H04N21/4383—Accessing a communication channel
- H04N21/4384—Accessing a communication channel involving operations to reduce the access time, e.g. fast-tuning for reducing channel switching latency
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client
- H04N21/63—Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
- H04N21/64—Addressing
- H04N21/6405—Multicasting
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client
- H04N21/63—Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
- H04N21/643—Communication protocols
- H04N21/64322—IP
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client
- H04N21/63—Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
- H04N21/643—Communication protocols
- H04N21/6437—Real-time Transport Protocol [RTP]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/83—Generation or processing of protective or descriptive data associated with content; Content structuring
- H04N21/84—Generation or processing of descriptive data, e.g. content descriptors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/83—Generation or processing of protective or descriptive data associated with content; Content structuring
- H04N21/845—Structuring of content, e.g. decomposing content into time segments
- H04N21/8455—Structuring of content, e.g. decomposing content into time segments involving pointers to the content, e.g. pointers to the I-frames of the video stream
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/83—Generation or processing of protective or descriptive data associated with content; Content structuring
- H04N21/845—Structuring of content, e.g. decomposing content into time segments
- H04N21/8456—Structuring of content, e.g. decomposing content into time segments by decomposing the content in the time domain, e.g. in time segments
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/85—Assembly of content; Generation of multimedia applications
- H04N21/854—Content authoring
- H04N21/8543—Content authoring using a description language, e.g. Multimedia and Hypermedia information coding Expert Group [MHEG], eXtensible Markup Language [XML]
Landscapes
- Engineering & Computer Science (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Computer Security & Cryptography (AREA)
- Computer Networks & Wireless Communication (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Television Signal Processing For Recording (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本发明的目的是提供允许以通过分割GOP获得的数据块的形式执行内容递送并且允许在接收设备一侧执行GOP重构和重放的设备和方法。发送设备生成作为存储在数据包中的数据的媒体数据和其中存储对应于媒体数据的元数据的子GOP媒体段,媒体数据仅包括GOP(画面组)的组成数据的一部分,并且发送设备进一步生成和发送其中记录GOP内位置标识符作为添加至数据包的信息的数据包,GOP内位置标识符为存储在子GOP媒体段中的数据并且指示媒体数据的GOP内位置。接收设备参考设置在接收的相应数据包中的GOP内位置标识符,来布置分割存储在接收的相应数据包中的媒体数据块,从而重构GOP,并且解码重构的GOP。
Description
技术领域
本公开涉及通信设备、通信数据生成方法、以及通信数据处理方法。更具体地,例如,本公开涉及经由广播波或者网络执行数据发送或者接收的通信设备、通信数据生成方法、以及通信数据处理方法。
背景技术
OTT(OverTheTop)已知为数据分发系统,其实现诸如图像数据和音频数据等内容的分发,而不管每个电信载体的服务机制如何。通过OTT分发的内容被称为OTT内容,并且使用OTT的图像(视频)数据分发服务被称为OTT视频或者OTT-V(OverTheTopVideo)。
例如,使用HTTP动态自适应流(DASH)作为与OTT-V兼容的数据流分发的基础技术。DASH是用于使用超文本传输协议(HTTP)协议的自适应流技术的标准。
在自适应流中,内容分发服务器创建并且保持具有不同位速率的视频内容的碎片文件以及存储属性信息及其URL的清单文件,以使各个客户端能够再生分发的内容。
客户端从服务器获得清单文件、选择对于其自身设备的显示单元的大小和可用通信带具有最佳位速率的内容、并且接收和再现选择的内容。位速率可随着网络带的波动而动态的变化。因此,在客户端上,根据情形可以改变所接收的最佳内容,并且实现具有降低的图像间断性的视频内容再现。例如,在专利文献1(JP2011-87103A)中公开了自适应流。
已经将MPEG-DASH标准开发为设置用于根据上述所述DASH执行运动图像专家组(MPEG)编码视频和音频数据的流分发的规范的标准。
MPEG-DASH标准包括下列两组标准:
(a)关于用于写入元数据(其是用于视频文件和音频文件的控制信息)的清单文件(MPD:媒体演示描述)的标准;和
(b)关于用于视频内容传输的文件格式(段格式)的标准。
在根据DASH执行MPEG数据的流分发的情况下,根据MPEG-DAH标准执行处理。
然而,DASH(其是用于自适应流技术的标准)基于用于一对一通信处理的点对点HTTP流技术。
因此,在可能被大量客户端同时观看的的内容(节目)(诸如实况体育广播)的流分发的情况下,则需要内容分发网络的支持。
然而,为了使用CDN构造点对点HTTP流,存在与成本有关的限制,并且难以实现与广播传送兼容的可测量性。如上所述,DASH使用基于HTTP的流协议并且在广播传送时不适于分发由大量客户端端同时观看的内容。
现有技术文献
专利文献
专利文献1:特开2011-87103号
发明内容
本发明解决的问题
本公开旨在提供通信设备、通信数据生成方法、以及通信数据处理方法,该通信设备、通信数据生成方法、以及通信数据处理方法使用基于HTTP的流协议在内容分发中将内容同时提供大量客户端并且在每个客户端出实现实时再现而无较长的延迟。
问题的解决方案
本公开的第一方面在于通信设备包括:
数据处理单元,生成子GOP媒体段作为分组存储数据,子GOP媒体段存储仅包括作为编码数据的处理单位的画面组(GOP)的组成数据的一部分的媒体数据以及对应于媒体数据的元数据;并且
生成具有GOP内位置标识符的数据包,GOP内位置标识符在数据包中被记录为数据包附加信息,GOP内位置标识符指示子GOP媒体段中存储的媒体数据的GOP内位置;以及
通信单元,传输由数据处理单元生成的数据包。
而且,在本公开的通信设备的实施方式中,数据处理单元生成子GOP媒体段作为分组存储数据,子GOP媒体段存储包括一个或多个NAL单元的媒体数据和对应于媒体数据的元数据,该一个或者多个NAL单元是GOP的组成数据。
而且,在本公开的通信设备的实施方式中,数据处理单元生成具有被记录为数据包附加信息的段标识信息的数据包,段标识信息能够确定分组存储段是否是不存储媒体数据的初始化段或者分组存储段是否是存储媒体数据的媒体段。
而且,在本公开的通信设备的实施方式中,数据处理单元生成GOP内位置标识符作为数据包附加信息,GOP内位置标识符能够确定子GOP媒体段中存储的媒体数据位于GOP中的起始位置、中间位置、以及结束位置中的哪一个中。
而且,在本公开的通信设备的实施方式中,数据处理单元将附加信息记录在生成的数据包的HTTP报头中。
而且,在本公开的通信设备的实施方式中,数据处理单元将附加信息记录在生成的数据包的扩展报头中。
而且,在本公开的通信设备的实施方式中,数据处理单元将附加信息记录在生成的数据包的LCT报头中。
而且,在本公开的通信设备的实施方式中,通信单元通过经由广播波的广播传送或者通过组播传送传输由数据处理单元生成的数据包。
而且,本公开的第二方面在于通信设备包括:
通信单元,处理作为分组存储数据的子GOP媒体段,子GOP媒体段存储仅包括作为编码数据的处理单位的画面组(GOP)的组成数据的一部分的媒体数据以及对应于媒体数据的元数据;并且
接收具有GOP内位置标识符的数据包,GOP内位置标识符在数据包中被记录为数据包附加信息,GOP内位置标识符指示子GOP媒体段中存储的媒体数据的GOP内位置;以及
数据处理单元,输入通过通信单元接收的数据包并且执行处理。
而且,在本公开的通信设备的实施方式中,数据处理单元通过参考接收数据包中记录的GOP内位置标识符布置散布和存储在接收数据包中的GOP组成数据并且重构GOP数据。
而且,在本公开的通信设备的实施方式中,
通信单元接收存储子GOP媒体段的数据包,子GOP媒体段存储包括一个或者多个NAL单元的媒体数据和对应于媒体数据的元数据,该一个或者多个NAL单元是GOP的组成数据;并且
数据处理单元从接收数据包中获取包括一个或者多个NAL单元的媒体数据,并且通过参考接收数据包中记录的GOP内位置标识符布置散布和存储在接收数据包中的NAL单元并且重构GOP数据。
而且,在本公开的通信设备的实施方式中,
通信单元接收具有段标识信息的数据包,段标识信息在数据包中被记录为数据包附加信息,段标识信息能够确定分组存储段是否是不存储媒体数据的初始化段或者分组存储段是否是包含媒体数据的媒体段;并且
数据处理单元从接收数据包中记录的附加信息获取段标识信息,确定接收数据包中存储的段的类型,并且根据确定的结果执行处理。
而且,在本公开的通信设备的实施方式中,
通信单元接收具有GOP内位置标识符的数据包,GOP内位置标识符被设置为数据包附加信息,GOP内位置标识符能够确定子GOP媒体段中存储的媒体数据位于GOP中的起始位置、中间位置、以及结束位置中的哪一个中;并且
数据处理单元基于接收数据包中记录的GOP内位置标识符确定子GOP媒体段中存储的媒体数据位于GOP中的起始位置、中间位置、以及结束位置中的哪一个中。
而且,在本公开的通信设备的实施方式中,
通信单元接收具有记录在HTTP报头中的数据包附加信息的数据包;并且
数据处理单元从接收数据包的HTTP报头获取数据包附加信息。
而且,在本公开的通信设备的实施方式中,
通信单元接收具有记录在扩展报头中的数据包附加信息的数据包;并且
数据处理单元从接收数据包的扩展报头获取数据包附加信息。
而且,在本公开的通信设备的实施方式中,
通信单元接收具有记录在LCT报头中的数据包附加信息的数据包;并且
数据处理单元从接收数据包的LCT报头获取数据包附加信息。
而且,在本公开的通信设备的实施方式中,通信单元经由广播波接收数据包。
而且,本公开的第三方面在于在数据发送设备中实施的通信数据生成方法,
通信数据生成方法包括:
生成子GOP媒体段作为分组存储数据,子GOP媒体段存储仅包括作为编码数据的处理单位的画面组(GOP)的组成数据的一部分的媒体数据以及对应于媒体数据的元数据;并且
生成具有GOP内位置标识符的数据包,GOP内位置标识符被记录为数据包附加信息,GOP内位置标识符指示子GOP媒体段中存储的媒体数据的GOP内位置;
通过数据处理单元执行子GOP媒体段的生成和数据包的生成。
而且,本公开的第四方面在于在数据接收设备中实施的通信数据处理方法,
通信数据处理方法包括:
处理作为分组存储数据的子GOP媒体段,子GOP媒体段存储仅包括作为编码数据的处理单位的画面组(GOP)的组成数据的一部分的媒体数据以及对应于媒体数据的元数据,通过通信单元执行子GOP媒体段的处理;
接收具有GOP内位置标识符的数据包,GOP内位置标识符在数据包中被记录为数据包附加信息,GOP内位置标识符指示子GOP媒体段中存储的媒体数据的GOP内位置,通过通信单元执行数据包的接收;并且
输入通过通信单元接收的数据包并且执行处理,通过数据处理单元进行数据包的输入和处理的执行。
通过下面描述的本公开的实施方式以及参考所附附图的细节描述,本公开的其他目标、特征、以及优点将变得显而易见。在该说明书中,系统是设备的逻辑组装,并且不一定指其中不同结构的集成到一个外壳中的设备。
本发明的效果
通过本公开的实施方式的结构,实现了通过分割GOP、以及在接收设备端上的GOP重构和再现来实现数据单元生成的内容分发的设备和方法。
具体地,发送设备生成子GOP媒体段作为分组存储数据,子GOP媒体段存储仅包括作为编码数据的处理单位的画面组(GOP)的组成数据的一部分的媒体数据以及对应于媒体数据的元数据,并且生成和发送具有GOP内位置标识符(其在数据包中被记录为数据包附加信息)的数据包,GOP内位置标识符指示子GOP媒体段中存储的媒体数据的GOP内位置。接收设备通过参考接收数据包中存储的GOP内位置标识符而布置散布和存储在数据包中的媒体数据并且重构和解码GOP。
通过该结构,实现了通过分割GOP、接收设备端上的GOP重构和再现来实现数据单元生成的内容分发的设备和方法。
本说明书中描述的有利效果仅是实施例,并且本技术的有利效果不局限于此并且可包括附加效果。
附图说明
图1是用于说明根据本公开的执行处理的通信系统的示例性配置的示图。
图2是用于说明从发送设备发送的数据的示图。
图3是用于说明DASH段的示例性结构的示图。
图4是用于说明碎片生成过程序列的示图。
图5是用于说明其中碎片中的媒体数据(mdat)不是一个GOP的数据、而是一个GOP的碎片数据的示例性结构的示图。
图6是用于说明分别具有在子GOP媒体段中设置的HTTP报头的HTTP数据包的示例性结构的示图。
图7是用于说明媒体段HTTP数据包的HTTP报头中记录的信息的示图。
图8是用于说明在媒体段HTTP数据包的HTTP报头中记录的信息的示图。
图9是用于说明在初始化段HTTP数据包的HTTP报头中记录的信息的示图。
图10是用于说IP数据包的示例性结构的示图。
图11是用于说明发送设备和接收设备的协议栈的示图。
图12是用于说明接收设备的协议栈的示图。
图13是用于说明由发送设备执行的过程序列的示图。
图14是用于说明由接收设备执行的过程序列的示图。
图15是用于对其中将附加信息记录在扩展报头中的实施方式进行说明的示图。
图16是用于对根据FLUTE协议设置的LCT报头的示例性结构进行说明的示图。
图17是用于对LCT报头的报头扩展部分中记录的数据的结构进行说明的示图。
图18是用于对LCT报头的报头扩展部分中记录的数据进行说明的示图。
图19是用于对HEVC编码数据的结构进行说明的示图。
图20是用于对通信设备的示例性硬件配置进行说明的示图。
具体实施方式
下面是参考附图对根据本公开的通信设备、通信数据生成方法、以及通信数据处理方法的细节描述。将按照下列顺序进行说明。
1.通信系统的示例性配置
2.同时型内容分发中的问题
3.传输数据碎片化处理的细节
4.将附加信息记录在HTTP报头中的实施方式
5.数据包的结构
6.发送设备和接收设备的结构及由其执行的过程
7.发送设备和接收设备的过程序列
8.将附加信息记录在扩展报头中的实施方式
9.将附加信息记录在LCT报头中的实施方式
10.HEVC编码数据的示例性应用
11.接收设备的示例性硬件配置
12.本公开的结构的总结
[1.通信系统的示例性配置]
首先,参考图1,描述根据本公开的执行处理的通信系统的示例性配置。
如图1所示,通信系统10包括发送设备20和接收设备30,发送设备20作为发送诸如图像数据和音频数据等内容的通信设备,并且接收设备30作为接收从发送设备20发送的内容的通信设备。
具体地,发送设备20是提供内容一侧的设备,诸如广播站21和内容服务器22。
具体地,例如,接收设备30由电视接收器31、PC32、或者移动终端33构成的普通用户客户端设备。
经由诸如互联网的网络作为双向通信、和/或使用广播波等的单向通信执行发送设备20与接收设备30之间的数据通信。
根据MPEG-DASH标准执行自发送设备20至接收设备30的内容传输,MPEG-DASH标准是自适应流技术标准。
如上所述,MPEG-DASH标准包括下列两组标准:
(a)关于用于写入元数据(其是用于视频文件和音频文件的控制信息)的清单文件(MPD:媒体演示描述)的标准;和
(b)关于用于视频内容传输的文件格式(段格式)的标准。
根据上述MPEG-DASH标准执行自发送设备20至接收设备30的内容分发。
发送设备20将内容数据编码并且生成包含编码数据和编码数据的元数据的数据文件。例如,根据MPEG中规定的MP4文件格式执行编码过程。在发送设备20生成MP4数据文件的情况下,编码数据的文件被称为“mdat”,并且元数据被称为“moov”、“moof”等。
后面将详细描述这些编码数据。
通过发送设备20提供至接收设备30的内容可以是音乐数据、电影的视频数据、电视节目、视频、照片、文件、图片、或者图表、或者诸如游戏或软件等其他各种类型的数据。
现参考图2,描述了从发送设备20发送的数据。
如图2所示,根据MPEG-DASH标准执行数据发送的发送设备20将包含在数据包中的初始化段(InitializationSegment)50和媒体段(MediaSegment)60发送至接收设备30。这些段中的每个均被称为DASH段。
媒体段60中的每个均是存储被分割的MPEG编码内容数据的段。
初始化段50是存储当在接收设备30一侧使媒体段60中的内容再现时所需的诸如编解码器设置信息的初始化信息的段。
发送设备20将电影的内容或者电视节目分割成多个媒体段60并且存储该多个媒体段60、并且然后依次传输该内容。
发送设备20将图2中所示的初始化段50和媒体段60存储在HTTP数据包中。发送设备20进一步生成存储HTTP数据包的IP数据包,然后,发送IP数据包。后面将详细描述发送数据包的结构。
首先,图2中所示的接收设备30接收单个初始化段50并且根据初始化段中包含的设置信息对编解码器等执行设置等。随后接收设备30依次接收媒体段60并且通过按照再现顺序将数据解码而执行再现。
[2.同时型内容分发的问题]
如上所述,DASH(其是自适应流技术标准)基于点对点HTTP流并且不适于允许大量客户端同时观看相同内容的同时型内容分发。
然而,结合多播或者广播(MC/BC)认为可以将内容同时提供给多个客户端(接收设备)而没有延迟。
可被应用于多播或者广播(MC/BC)流的传输协议的实例包括实时传输协议(RTP)和文件单向传输交付(FLUTE)。
现参考图3,描述了在根据基于HTTP流的DASH标准执行使用FLUTE协议的内容流分发的情况下使用的DASH段的示例性结构。
如上参考图2所述的,DASH段分类成两种类型:(a)初始化段(InitializationSegment)、和(b)媒体段(MediaSegment)。
(a)初始化段(InitializationSegment)是存储在执行内容再现时所需的诸如设置信息的初始化数据的段,其中包括接收设备30中的解码器设置等。
(b)媒体段(MediaSegment)是存储被再现的编码内容的段。
如图3所示,(a)初始化段包含下列信息:
(a1)由关于段等的文件类型信息构成的报头信息(dash);和
(a2)包括诸如关于媒体数据(mdat)的编解码器(编码模式)信息的初始化信息的元数据(moov),即,利用媒体段传输的编码内容。
同时,(b)媒体段包含如图3所示的下列信息:
(b1)由关于段的文件类型信息等构成的报头信息(msdh);
(b2)指示关于媒体段中存储的子段(Sub-Segment)的边界信息、媒体数据(mdat)的随机访问点(即,存储在媒体段中的编码内容)等的访问信息(sidx);以及
(b3)子段(Sub-Segment)70。
子段((Sub-Segment)70由一个或者多个碎片(Fragment)80构成。
碎片(Fragment)80包含下列数据:
被编码成再现的内容的媒体数据(mdat);和
对应于媒体数据(mdat)的元数据(moof)。
根据DASH,被记录在(b)媒体段的访问信息(sidx)中的随机访问点被称为SAP(流访问点)。
例如,SAP指示图像序列中的第一图片的第一字节的位置,该位置可重置将流解码时所需的所有状态。具体地,例如,SAP是指示MPEG数据的I图片的位置的信息。
作为关于存储在碎片等中的媒体数据(mdat)的再现时间信息的呈现时间被记录在对应于存储在碎片(Fragment)80中的媒体数据(mdat)的元数据(moof)中。
存储在一个碎片80中的媒体数据(mdat)通常被设置在由DASH在呈现时间时进行控制的内容流的处理单元(大块)中。处理单元(大块)是作为运动图像专家组(MPEG)编码中的处理单元的画面组(GOP)。
在许多情况下,GOP被操作为具有近似0.5秒至2秒的再现时间的数据。
当存储在一个碎片80中的媒体数据(mdat)是一个GOP单元的数据时,在数据分发或者再现过程中可能发生延迟,并且在实时再现时可能出现一些问题。
例如,在分发直播图像的情况下,发送设备20对从照相机输入的直播图像数据执行编码过程,并且依次生成媒体段60。在存储在媒体段60的各个碎片80中的媒体数据(mdat)是GOP单元的编码数据的情况下,发送设备30生成媒体数据(mdat)(即,GOP单元的编码数据),并且之后,生成其中写入诸如生成媒体数据(mdat)的呈现时间等的属性信息的元数据(moof)。
因此,如果按照该序列产生相应组的数据,则不能生成各个GOP的元数据(moof),直至确定各个GOP的编码数据的数据范围之后。
鉴于此,在确定媒体数据(mdat)的数据范围之后执行元数据(moof)生成,并且生成各组元数据(moof)的过程必须等待,直至已过去等效于一个GOP单元的时间(0.5秒至2秒)的时间。
现参考图4,描述在存储在构成媒体段60的碎片80中的媒体数据(mdat)是GOP单元的编码数据的情况下的碎片生成序列。
图4中所示的实例是根据MPEG中规定的MP4文件格式(编码格式)存储媒体段60中存储的媒体数据(mdat)的情况下的示例性序列。
MP4文件格式的数据部分被分割成样本作为基本存储单元。而且,每个样本均由一个或者多个NAL单元构成。例如,NAL单元是MPEG编码数据的切片单元的碎片数据。
如图4(a)所示,对应于一个GOP的编码数据的集合由NAL单元构成。
图4示出了(a)构成附图的上半部分的GOP的NAL单元,和(b)下半部分中的碎片生成处理序列。
在(b)碎片生成处理序列的最低水平处,示出了时间轴。时间自左经过至右,并且发送设备20通过根据时间轴执行相应的过程而生成碎片。
发送设备生成存储生成碎片的媒体段,然后,生成存储媒体段的HTTP数据包,进一步生成存储HTTP数据包的IP数据包,并且传输IP数据包。
现描述图4(b)中所示的碎片生成处理序列。
在下面描述的序列中,发送设备20生成存储与MP4文件格式相符的编码数据的碎片。
自t0至t1的时间:生成存储GOP的NAL单元的样本1。
自t2至t3的时间:生成存储GOP的NAL单元的样本2。
自t4至t5的时间:生成存储GOP的NAL单元的样本3。
此时,完成存储构成一个GOP的所有NAL单元的样本的生成。
这些样本1至3被设置为媒体段的碎片中的媒体数据(mdat)。
自t6至t7的时间:生成元数据(moof)(其是关于存储在样本1至3中的GOP编码数据的属性信息)。
自t8至t9的时间:通过将由样本1至样本3构成的媒体数据(mdat)与样本1至3的元数据(moof)组合而生成碎片。
之后,发送设备20生成包含通过上述所述过程而产生的碎片的媒体段、生成包含作为有效载荷的媒体段的数据包、并且将数据包发送至接收设备30。
当生成碎片时,发送设备20需要检查存储在碎片中的各个GOP的媒体数据(mdat)的再现时间等、生成GOP数据的各个组的属性信息(诸如,对应于再现时间的呈现时间等)、并且记录元数据(moof)中的属性信息。
目前,被分发的图像数据主要是与Hi-Vision兼容的图像数据。然而,随着图像质量将来被进一步改善,预测包含诸如4K图像等大量的数据的数据分发将增加。为了处理该大容量数据分发,流中的位速率可能变得更高。
因为数据量随着图像质量的改善而增加,所以各个GOP的数据量也增加。因此,通过如上所述参考图4依次产生并且传输GOP的碎片的结构,传输端上的处理间隔变得更长。每个传输数据单元的数据量也变得更大。因此,在不能确保足够的通信频带的情况下,网络传输中可能发生传输延迟。
接收设备一侧的数据包接收间隔也变得更长,每个数据包的接收数据的量增加,并且接收设备端所需的缓冲数据的量也增加。而且,当发生包接收错误时,如果执行重新传输过程,则延迟量明显增加,并且实时再现失败的可能性变得更高。
[3.传输数据碎片过程的细节]
为了解决上述问题,将从发送设备20发送至接收设备30的数据碎片化,以使得一个发送数据包或者每个单元的传输数据的量减少。下面描述了该结构的实施例。
在图4中所示的碎片生成序列中,在碎片中的媒体数据(mdat)组是一个GOP的数据,并且生成对应于一个GOP的媒体数据(mdat)的元数据(moof)。即,元数据(moof)的每个组均是对应于一个GOP的媒体数据(mdat)的元数据。
在图4中所示的序列中,根据一个GOP的数据的量确定生成元数据(moof)的时间。因此,如果一个GOP中包含的数据的量变大,则生成元数据(moof)的时间延迟,从而在碎片生成过程、媒体段生成过程、以及传输数据包生成过程中产生延迟。这种结果也致使每个包的数据量增加以及分发延迟的可能性变高。
在用于防止该情形的结构中,碎片中的媒体数据(mdat)不是一个GOP的数据,而是一个GOP的碎片化数据。现参考图5,描述了该结构的实施例。
图5示出了其中存储在碎片中的媒体数据(mdat)不是一个GOP的数据、而是一个GOP的碎片数据、或者更具体地一个GOP的组成数据的一个或者多个NAL单元的实施例。
与图4(a)相似,图5(a)示出了构成GOP的NAL单元。
图5(b1)至图5(b3)是存储作为该单个GOP的组成数据的NAL单元的媒体段,NAL单元被散布成媒体数据(mdat)。
如图5(b1)至图5(b3)所示,在下文中,存储由一个或者多个NAL单元(其是GOP数据的碎片数据)构成的媒体数据(mdat)的媒体段被称为子GOP媒体段。
尽管将一个GOP的数据存储在图5中所示的实施例的三个子GOP媒体段中,然而,只要子GOP媒体段的数目是两个或者更大,则存储一个GOP的数据的子GOP媒体段的数目可以是任意数目。
在图5(b1)至图5(b3)的子GOP媒体段的每个中,将媒体数据(mdat)设置为NAL单元。然而,可仅将媒体数据(mdat)设置为单个NAL单元。
发送设备20生成图5(b1)至图5(b3)中所示的子GOP媒体段、将各个生成的子GOP媒体段设置在独立HTTP数据包的有效载荷中、并且经由网络或者广播波传输HTTP数据包。
存储在图5(b1)至图5(b3)中的子GOP媒体段中的元数据(moof)是由对应于存储在相应子GOP媒体段中的媒体数据(mdat)的属性信息构成的元数据。
通过这种设置,经由网络或者广播波传输的每个数据包的数据量变小,并且在发送设备一侧生成一个数据包的过程所需的时间缩短。此外,数据包延迟的可能性降低,并且在数据包丢失时的重新传输过程延迟变得更短。因此,实现了接收设备30中没有错误的实时再现。
现参考图6,描述了在子GOP媒体段中分别具有HTTP报头设置的HTTP数据包的示例性结构。
图6示出了两个HTTP数据包的示例性结构。
图6中的(a)和(b)所示的数据包之间的差异是[sidx]存储随机访问信息等的存在性/非存在性。
如上参考图3所述的,sidx是指示关于存储在媒体段中的子段(Sub-Segment)的边界信息、媒体数据(mdat)的随机访问点(即,存储在媒体段中的编码内容)等的访问信息。根据DASH,访问信息被称为流访问点(SAP)。例如,SAP指示图像序列中的第一图片的第一字节的位置,该位置可重置将流解码时所需的所有状态。具体地,例如,SAP对应于MPEG数据的I图片的位置。
图6(b)中所示的HTTP数据包是不包含sidx的数据包。图6(b)中所示的HTTP数据包不具有用作存储在该数据包中的媒体数据(mdat)中包含的访问点的图片数据。
如果存储在数据包中的媒体数据(mdat)中不包含用作访问点的数据,则指示访问点的数据也是不必要的。因此,在图6(b)所示的HTTP数据包中未设置sidx。
另一方面,如图6(a)所示,在包含存储包括用作访问点的数据的媒体数据(mdat)的子GOP媒体段的数据包中,设置了sidx。
如上所述,参考图5和图6,在该实施方式中,将一个GOP的组成数据分割成数据包并且然后传输数据包。
接收设备30依次接收这些数据包并且获得被分割并存储在相应包中的GOP组成数据。如果对一个GOP执行解码过程,则需要收集存储在包中的所有GOP组成数据,并且需要按照正确顺序布置GOP的组成数据(NAL单元),以便重构GOP数据。
在下面的描述中,描述用于接收设备一侧的平滑处理的附加信息(诸如,GOP重构过程中所使用的信息)的设置的实施例。
[4.将附加信息记录在HTTP报头中的实施方式]
首先,描述了其中将用于接收设备一侧的平滑处理的附加信息(诸如,GOP重构过程中使用的信息等)记录在HTTP数据包的HTTP报头中的实施方式。
参考图7和图8,描述被记录在HTTP报头中的信息。
如同上面参考图5描述的示例性情况,图7示出了其中将一个GOP的数据分割并且存储在三个子GOP媒体段中的HTTP数据包的示例性结构。
如图7所示,两种标识信息
(1)段标识符(内容位置)和
(2)GOP内位置标识信息(X-(Start/Middle/End)ofGOP)
被记录在三个HTTP数据包中的每个的HTTP报头中。
(1)段标识符是包括关于存储在HTTP数据包中的段的内容位置信息、段的类型、以及关于存储在包中的媒体数据(mdat)所属的GOP的标识信息的数据。具体地,应记录关于GOP数据的位置信息(诸如,URL等访问信息)。
接收数据包的接收设备30可确定其中记录有相同段标识符(Content-Location)的HTTP数据包是存储属于相同GOP的媒体数据(mdat)的HTTP数据包。
(2)GOP内位置标识信息是指示其中存储在HTTP数据包中的媒体数据(mdat)位于一个GOP中的哪个位置的数据。
具有作为GOP内位置标识信息的X-StartofGOP的数据包是将NAL单元存储在作为媒体数据(mdat)的GOP数据的第一区域内的数据包。
具有作为GOP内位置标识信息的X-MiddleofGOP的数据包是将NAL单元存储在作为媒体数据(mdat)的GOP数据的中间区域中的数据包。
具有作为GOP内位置标识信息的X-EndofGOP的数据包是将NAL单元存储在作为媒体数据(mdat)的GOP数据的最后区域中的数据包。
在将一个GOP的数据分割成四个或者更多个子GOP媒体段的情况下,生成具有作为GOP内位置标识信息的X-MiddleofGOP的两个或更多个数据包。从除HTTP报头之外的数据包报头信息可以确定存储在这些数据包中的媒体数据(mdat)的GOP内数据布置。
例如,参考存储HTTP数据包的LCT数据包的LCT报头中所记录的数据包序列号可以确定GOP内数据布置。后面将详细描述传输数据包的结构和LCT报头的结构。
因此,例如,在传输存储在LCT数据包中的HTTP数据包的结构中,设置在HTTP报头中的GOP内位置标识信息仅可识别将第一区域的数据存储在GOP中的数据包。即,仅可将X-StartofGOP记录为GOP内位置标识信息,并且之后,可根据LCT报头中记录的序列号布置GOP数据。
图8示出了存储媒体段的HTTP数据包的HTTP报头的示例性数据结构。
如图8所示,下面示出为实施例的HTTP报头信息被记录在HTTP报头中。
“…
HTTP/1.1206PartialContent
Date:Fri,04Oct201311:14:20GMT
Content-type:application/mp4
Content-Location:http://a.com/x.mp4
X-StartOfGOP
…”
在上述HTTP报头信息中,段标识符是“Content-Location:http://a.com/x.mp4”。
该段标识符包含关于存储在HTTP数据包中的媒体数据(mdat)所属的GOP的标识信息。具体地,标识信息是关于GOP数据的位置信息(访问信息)。
可以确定其中记录有相同段标识符(Content-Location)的HTTP数据包是存储属于相同GOP的媒体数据(mdat)的HTTP数据包。
在上述HTTP报头信息中,GOP内位置标识信息是“X-StartOfGOP”。GOP内位置标识信息是指示存储在HTTP数据包中的媒体数据(mdat)位于一个GOP中的哪个位置的数据。
如果存储在HTTP数据包中的媒体数据(mdat)放置在GOP的第一区域中,则将“X-StartOfGOP”记录为HTTP报头中的GOP内位置标识信息。
如果存储在HTTP数据包中的媒体数据(mdat)放置在GOP的中间区域中,则将“X-MiddleOfGOP”记录为HTTP数据包中的GOP内位置标识信息。
如果存储在HTTP数据包中的媒体数据(mdat)放置在GOP的最后区域中,则将“X-EndOfGOP”记录为HTTP报头中的GOP内位置标识信息。
现参考图9,描述了被记录在存储初始化段的HTTP数据包的HTTP报头中的信息。
指示HTTP数据包是存储初始化段的数据包的段标识信息被记录在存储初始化段的HTTP数据包的HTTP报头中。
图9示出了存储初始化段的HTTP数据包的HTTP报头的示例性数据结构。
如图9所示,下面示出为实施例的HTTP报头信息被记录在HTTP报头中。
“…
HTTP/1.1206PartialContent
Date:Fri,04Oct201311:14:20GMT
Content-type:application/mp4
Content-Location:http://a.com/x-init.mp4”
X-InitializationSegment
…”
在上述HTTP报头信息中,段标识符是“Content-Location:http://a.com/x-init.mp4”。
在该段标识符中,应记录诸如初始化段的URL的访问信息。
在上述HTTP报头信息中,段标识信息是“X-InitializationSegment”。
段标识信息是指示存储在HTTP数据包中的段是初始化段的信息。
段标识信息被记录在存储初始化段的HTTP报头中。
[5.数据包的结构]
接着,将描述从发送设备传输至接收设备的数据包的示例性结构。
图10示出了下列两个IP数据包的示例性结构:
(1)存储初始化段的IP数据包;和
(2)存储媒体段的IP数据包。
存储初始化段的IP数据包具有下列所示的结构:
IP报头,
UDP报头,
LCT报头,
HTTP报头,
初始化段组成数据[dash],以及
初始化段组成数据[moov]。
IP报头、UDP报头、LCT报头、以及HTTP报头分别是根据下列通信协议设置的报头信息:IP协议、UDP协议、FLUTE协议、以及HTTP协议。
同时,存储媒体段的(2)IP数据包具有下列所示的结构:
IP报头,
UDP报头,
LCT报头,
HTTP报头,
媒体段组成数据[msdh]
媒体段组成数据[sidx]
媒体段组成数据[moof],以及
媒体段组成数据[mdat]。
IP报头、UDP报头、LCT报头、以及HTTP报头分别是根据下列通信协议设置的报头信息:IP协议、UDP协议、FLUTE协议、以及HTTP协议。
如上所述,在包含可用于随机访问的媒体数据(mdat)的包中设置,但不需要在其他包中设置,媒体段组成数据[sidx]。
发送设备20生成图10中所示的IP数据包,然后,将IP数据包传输至接收设备30。
接收设备30从接收设备20接收图10中所示的相应数据包、对相应条目的报头信息进行分析、提取段、并且根据存储在段中的数据执行初始化和内容再现。
[6.发送设备和接收设备的结构及由其执行的过程]
现参考图11以及之后所示的附图,描述发送设备和接收设备的结构及由其执行的过程。
首先,参考图11,描述发送设备20和接收设备30的结构以及协议栈。
生成并且传输上面参考图10所描述的IP数据包的发送设备20包括如图11所示的数据处理单元21和通信单元22。
数据处理单元21执行传输数据包生成过程。
具体地,例如,存储包含画面组(GOP)(其是如上所述的编码数据的处理单位)的组成数据的一部分的媒体数据(mdat)和对应于媒体数据的元数据(moof)的子GOP媒体段生成为分组存储数据。生成诸如指示存储在子GOP媒体段中的媒体数据的GOP内位置的GOP内位置标识符的数据包附加信息并且将数据包附加信息记录在HTTP报头中。通过这种方式,生成数据包。
通信单元22传输通过数据处理单元21生成的数据包。
通信单元22经由广播波或者诸如互联网等网络执行通过数据处理单元21生成的数据包的广播传送或者组播传送。
数据处理单元21和通信单元22执行数据包生成过程并且根据由下面所述层构成的协议栈传输生成的数据包。下面描述了发送设备20的协议栈的层结构。发送设备20的协议栈具有下列层结构,范围从最上层至最下层:
(1)DASH服务器:根据DASH标准执行诸如段生成的过程的应用层;
(2)视频/音频/子标题等:生成并且获取被传输的内容的应用层;
(3)FragmentedMP4:根据MP4文件格式生成编码数据并且生成段的应用层;
(4)HTTP:根据HTTP协议生成分别具有HTTP报头的HTTP数据包的层;
(5)FLUTE/ALC(LCT):根据FLUTE协议生成分别具有LCT报头的FLUTE数据包的层;
(6)UDP:根据UDP协议生成分别具有UDP报头的UDP数据包的层;
(7)IP:根据IP协议生成分别具有IP报头的IP数据包的层;以及
(8)PHY:由生成IP数据包或者存储IP数据包的MAC帧的通信单元等构成的物理层。
接收上面参考图10描述的IP数据包的接收设备30包括如图11所示的数据处理单元31和通信单元32。
通信单元32接收从发送设备20传输的数据包,并且数据处理单元31输入通过通信单元31接收的数据包并且执行数据处理。
数据处理单元31和通信单元32根据由下面所描述的层构成的协议栈接收数据包并且对数据包进行分析。接收设备30的协议栈具有下列层结构,范围从最上层至最低层:
(1)DASH客户端:根据DASH标准执行诸如段的分析的过程的应用层;
(2)视频/音频/子标题等:获取接收的内容并且执行再现过程等的应用层;
(3)FragmentedMP4:根据MP4文件格式对编码数据执行解码过程等的应用层;
(4)HTTP:根据HTTP协议对分别具有HTTP报头的HTTP数据包进行分析的层;
(5)FLUTE/ALC(LCT):根据FLUTE协议对分别具有LCT报头的FLUTE数据包进行分析的层;
(6)UDP:根据UDP协议对分别具有UDP报头的UDP数据包进行分析的层;
(7)IP:根据IP协议对分别具有IP报头的IP数据包进行分析的层;以及
(8)PHY:由接收IP数据包或者存储IP数据包的MAC帧的通信单元等构成的物理层。
如上所述,当执行IP数据包的广播传输或者多播传输时,发送设备20经由网络执行传输或者经由广播波执行传输、或者使用这两种传输路径执行并行传输。
接收设备30经由广播波或者诸如互联网的网络的通信路径、或者经由广播波和网络两种通信路径执行数据包接收过程。
通过图11中所示的TCP层而非FLUTE/ALC(LCT)层和UDP层可经由诸如互联网等网络执行传输/接收数据包的生成和分析。
现参考图12,描述通过在经由广播波接收的IP数据包与经由诸如互联网等网络接收的IP数据包之间适当地切换而执行处理的接收设备30的协议栈的实施例。
图12中所示的接收设备30的协议栈具有与下列两种通信系统兼容的协议栈的层结构:
(1)广播系统;和
(2)网络通信系统。
(1)广播系统具有上面参考图11描述的层结构。
(2)网络通信系统具有其中使用TCP层替代广播系统层的FLUTE/ALC(LCT)层和UDP层的结构。
TCP层对分别具有TCP报头的TCP数据包进行分析。
信令(Signaling)层是用于控制通信系统之间的切换的层。
使用在广播系统与网络通信系统之间适当切换的层,接收设备30选择性地使用经由广播波接收的数据包和经由诸如互联网等网络接收的数据包并且获取存储在数据包中的内容,以执行再现过程。
例如,如果在从网络接收数据包时发生延迟,则将通信路径切换至广播系统,并且经由广播波接收对应于相同内容的数据包,以使得可以继续内容再现。
上面描述的段标识符和GOP内位置标识符也被记录在经由网络通信系统与广播系统的任一通信路径分布的各个数据包中,并且通过参考标识信息可以重构GOP数据。因此,实现了无错解码过程和无错内容再现。
[7.发送设备与接收设备的过程序列]
现参考图13和图14中所示的流程图,描述由发送设备和接收设备执行的过程序列。
首先,参考图13中所示的流程图,描述由发送设备20执行的过程序列。
图13中所示的流是用于对生成和传输存储媒体段的IP数据包的过程中的序列进行说明的流。
由发送设备20的数据处理单元执行该过程。例如,数据处理单元包括具有程序执行功能的CPU并且通过执行存储在存储单元中的程序而根据图13中所示的流执行该过程。
下面顺次描述了相应步骤中的过程。
(步骤S101)
首先,发送设备的数据处理单元执行对被传输的内容进行编码的过程。例如,执行根据MP4文件格式的编码过程。
(步骤S102)
接着,发送设备生成被存储在媒体段的碎片中的媒体数据(mdat)。该过程是生成被存储在上述参考图5和其他描述的子GOP媒体段中的媒体数据(mdat)的过程。此处,生成包含组成数据(即,作为MP4编码数据的GOP数据的一部分)或者构成GOP的一个或者多个NAL单元的媒体数据(mdat)。
(步骤S103)
接着,发送设备生成元数据(moof),元数据是与在步骤S102中生成的媒体数据(mdat)对应的属性信息。
(步骤S104)
接着,发送设备生成存储在步骤S102中生成的媒体数据(mdat)和在步骤S103中生成的元数据(moof)的碎片。
(步骤S105)
接着,发送设备生成存储在步骤S104中生成的碎片的媒体段。即,上述参考图5和其他描述的子GOP媒体段。即,这是不存储整个GOP数据、而是存储作为媒体数据(mdat)的GOP组成数据的一部分的NAL单元的媒体段。
(步骤S106和步骤S107)
接着,发送设备生成段标识信息和GOP内位置标识信息(其是存储在媒体段中的媒体数据的属性信息)并且生成其中设置存储上述标识信息的HTTP报头的HTTP数据包。
上述标识信息是上述参考图7和图8描述的标识信息。
(步骤S108和步骤S109)
接着,发送设备设置HTTP数据包中的LCT报头、UDP报头、以及IP报头并且生成和传输IP数据包。经由诸如互联网的通信网络或者广播波、或者经由网络和广播波两种通信路径执行传输过程。
图13中所示的流是用于对生成并且传输存储媒体段的IP数据包的过程中的序列进行说明的流。当生成存储初始化段的数据包时,在生成初始化段的组成数据之后,进一步执行记录指示该段是HTTP报头中的初始化段的段标识信息的过程。该过程的其他方面与图13中所示的流的程序大致相同。
现参考图14中所示的流程图,描述接收设备中执行的自数据包接收至内容再现的过程序列。
通过接收设备30的数据处理单元执行该过程。例如,数据处理单元包括具有程序执行功能的CPU并且通过执行存储在存储单元中的程序根据图14中所示的流执行该过程。
下面顺次描述相应步骤中的过程。
(步骤S201)
首先,在步骤S201中,接收设备输入关于由用户指定的再现内容的信息。例如,在显示单元上显示诸如之前从发送设备接收的节目列表的内容列表,并且响应显示信息基于用户输入的信息确定被再现的内容。
(步骤S202)
然后,接收设备接收包含与被选择为再现内容的内容对应的初始化段的数据包并且获取初始化段。
如上参考图9所述,段标识信息被记录在存储初始化段的GTTP数据包的HTTP报头中,并且通过参考标识信息可以确认该包是存储初始化段的HTTP数据包。
(步骤S203)
接收设备根据存储在接收的初始化段中的数据执行接收设备初始化。具体地,获取存储在初始化段中的编解码器设置参数等,并且根据获取的参数执行编解码器设置等。
(步骤S204)
然后,接收设备依次接收存储对应于在步骤S201中选择的内容的媒体段的数据包。如上参考图5和其他所述,每个数据包均是存储作为有效载荷的子GOP媒体段的数据包,子GOP媒体段存储更小单元的数据、而非一个GOP的数据。接收设备依次接收存储该子GOP媒体段的数据包。
(步骤S205)
接着,接收设备从HTTP数据包的子GOP媒体段的HTTP报头获取诸如段标识符和GOP内位置标识信息的标识信息。
如上参考图7和图8所述,段标识符是包括关于存储在HTTP数据包中的段的内容位置信息、段的类型、以及关于存储在包中的媒体数据(mdat)所属的GOP的标识信息的数据。
GOP内位置标识信息是指示存储在HTTP数据包中的媒体数据(mdat)位于一个GOP中的哪个位置的数据。例如,具有作为GOP内位置标识信息的X-StartofGOP的数据包是将NAL单元存储在作为媒体数据(mdat)的GOP数据的第一区域中的数据包。
(步骤S206)
接着,接收设备根据从HTTP报头获取的标识信息重新布置存储在HTTP数据包的子GOP媒体段中的NAL单元,以重构一个GOP的数据。
(步骤S207和步骤S208)
接着,接收设备对重构GOP数据执行解码过程并且执行使解码数据再现的过程。
(步骤S209)
接着,接收设备确定是否结束数据再现过程,如果否,则返回步骤S204并且重复步骤S204及其之后的过程。
如果在步骤S209中确定再现过程已经结束,则该过程结束。
例如,如果在随机访问再现中仅使位于特定再现位置的图像再现,则仅对具有作为设置在子GOP媒体段中的随机访问点信息的sidx数据的段执行该过程。
在这种情况下,仅可选择位于随机访问点处的数据并且使该数据再现,而无需重新布置全部GOP数据。
[8.将附加信息记录在扩展报头中的实施方式]
在上述所述实施方式中,用于在接收设备一侧的平滑处理的附加信息(诸如,GOP重构过程中使用的信息等)被记录在HTTP数据包中。
然而,不一定必须将附加信息记录在HTTP报头中,并且可以将附加信息记录在各个其他报头中。
在下面描述中,描述了将附加信息记录在扩展报头中的实施方式。
现参考图15,描述了将附加信息记录在扩展报头中的实施方式。
图15中所示的实施例是将新的扩展报头插入在HTTP报头与子GOP媒体段之间并且将附加信息记录在可扩展的报头中的实施例。
图15示出了下列两种类型的HTTP数据包:
(1)初始化段HTTP数据包;和
(2)子GOP媒体段HTTP数据包。
在每个包的HTTP报头中,设置下面描述的扩展报头。
在该扩展报头中,存储(a)段标识信息和(b)GOP内位置标识信息。
例如,(a)段标识信息是8位数据。在初始化段的情况下,设置为“1”。在任一其他段的情况下,设置为“0”。
在媒体段的情况下,将记录在HTTP报头中的内容位置信息(ContentLocation)设置为关于GOP的数据的位置信息。通过这种方式,通过参考该内容位置信息可以识别各个GOP的数据。
(b)GOP内位置标识信息是8位数据,并且下面所示的示例性位值被设置成:
GOP中的起始位置的数据(StartofGOP)=1;
GOP中的中间位置的数据(MiddleofGOP)=2;并且
GOP中的结束位置的数据(EndofGOP)=3。
发送设备设置该扩展报头并且将扩展报头传输至接收设备。反过来,接收设备参考该扩展报头中的段标识信息并且确定存储在数据包中的段是否是初始化段、或者存储在数据包中的段是否是子GOP媒体段。如果将包识别为子GOP媒体段包,则接收设备进一步参考扩展报头中的GOP内位置标识信息,从而确定与存储在子GOP媒体段中的媒体数据(mdat)对应的数据位于GOP中的哪个位置。
[9.将附加信息记录在LCT报头中的实施方式]
如上所述,可被应用于多播或者广播(MC/BC)流的传输协议的实施例包括实时传输协议(RTP)和文件单向传输交付(FLUTE)。
在根据FLUTE协议设置的数据包中,根据FLUTE协议设置用作报头信息的LCT报头。
即,这种LCT报头是上述参考图10描述的IP数据包中的LCT报头。
在下面描述中,描述将用于接收设备一侧的平滑处理的附加信息(诸如,GOP再现过程中使用的信息等)记录在该LCT报头中的实施方式。
图16示出了根据FLUTE协议设置的LCT报头的示例性结构。
例如,LCT报头中设置的主要数据字段包括下列字段:
拥塞控制信息(CCI):记录相应字段的长度、拥塞控制信息等的字段;
传输会话标识符(TSI):记录关于数据包传输的会话信息的字段;
传输对象标识符(TOI):记录数据包传输序列等的字段;以及
报头扩展部分(报头扩展):记录各种扩展数据的字段。
如上参考图7所述,通过参考上述TOI而非GOP内位置信息可检查数据传输顺序。
如上所述,如同作为被记录在HTTP报头等中的附加信息的GOP内位置信息,可仅记录指示起始位置的X-StartofGOP,并且通过参考LCT报头中的TOI按照GOP中的数据的顺序获取数据包序列,以使得可以根据数据包序列按照正确顺序布置GOP中的NAL单元。
如图16所示,其中可记录各种数据的报头扩展部分(报头扩展)设置在LCT报头中。在该报头扩展部分中,可记录用于接收设备一侧的平滑处理的附加信息,诸如,GOP重构过程中使用的信息等。
现参考图17,描述记录在LCT报头的报头扩展部分中的数据的结构。
存在用于将数据记录在LCT报头的报头扩展部分中的两种类型的格式。
图17(1)示出了可任意设置记录信息的长度的格式。
图17(2)示出了固定记录信息的长度的格式。
在报头扩展类型(HET)中,记录指示扩展报头的类型的扩展报头标识信息(数字值)。在图17(1)所示的格式中可以使用127或者更小的值,并且在图17(2)所示的格式中可以设置128或者更大的值。
在报头扩展长度(HET)中,记录扩展报头的长度。
报头扩展内容(HEC)是记录扩展报头内容的字段,并且也是可以记录任意扩展信息的字段。
图18示出了在其中使用图17(2)中所示的具有固定记录信息的长度的格式的情况下记录的数据的示例性结构,并且记录用于接收设备一侧的平滑处理的附加信息,诸如,GOP再现过程中使用的信息等。
如图18所示,(a)扩展报头标识信息(HET)是8位数据,并且例如[200]被记录为新的信息标识值。
而且,在扩展信息记录部分(HEC)中,记录诸如(b)段标识信息和(c)GOP内位置标识信息的标识信息。
例如,(b)段标识信息是8位数据。在初始化段的情况中,设置“1”。在任意其他段的情况下,设置“0”。
在媒体段的情况下,将HTTP报头中记录的内容位置信息(ContentLocation)设置为关于GOP的数据的位置信息。通过这种方式,通过参考该内容位置信息可识别每个GOP的数据。
(c)GOP内位置标识信息是8位数据,并且下面所示的示例性位值被设置成:
GOP的起始位置中的数据(StartofGOP)=1;
GOP的中间位置中的数据GOP(MiddleofGOP)=2;以及
GOP的结束位置中的数据GOP(EndofGOP)=3。
发送设备设置包含这种扩展报头信息的LCT报头并且将LCT报头传输至接收设备。反之,接收设备参考该LCT报头中的扩展报头信息中的段标识信息并且确定存储在数据包中的段是否是初始化段、或者存储在数据包中的段是否是子GOP媒体段。如果数据包被识别为子GOP媒体段数据包,则接收设备进一步参考LCT报头中的扩展报头信息中记录的GOP内位置识别信息,以确定对应于存储在子GOP媒体段中的媒体数据(mdat)的数据位于GOP中的哪个位置。
[10.HEVC编码数据的示例性应用]
尽管在上述实施方式中描述了根据MPEG编码技术对MP4编码数据执行的示例性过程,然而,根据本公开的过程还可应用于其他编码数据。例如,可以将本公开应用于根据高效视频编码(HEVC)的编码数据。
现参考图19,描述HEVC编码数据的结构。
如图19所示,通过HEVC编码过程生成的HEVC流包括序列(CVS:编码视频序列)和序列结束NAL单元(EoB)。
作为HEVC流的组成元素的每个CVS由GOP和序列结束NAL单元(EoS)构成。
每一个GOP包括内部随机访问点(IRAP)访问单元(其是作为第一数据的随机访问点)、前导图片(LP)访问单元、以及尾部图片(TP)访问单元。
LP访问单元和TP访问单元是可通过参考某种类型的参考图片而解码的访问单元。
然而,在从IRAP访问单元开始解码的情况下,还可对TPAU执行正常解码和再现。
每个访问单元(AU)由网络抽象层单元(NAL)单元构成,并且始终包括一个或者多个切片段NAL单元。
如图19所示,在通过HEVC编码过程生成的编码数据中也设置作为编码处理单位的GOP,并且将每个GOP进一步分割成NAL单元。
这是其中作为设置在HEVC编码数据中的GOP的组成数据的一个或者多个NAL单元存储在上述参考图5描述的子GOP媒体段中的结构。
通过这种方式,还可为HEVC编码数据生成存储通过分割GOP数据而生成的NAL单元的媒体数据(mdat)的碎片。因此,可以生成上述参考图5和其他描述的子GOP媒体段,并且可以执行根据本公开的过程。
应注意,根据本公开的过程不仅可应用于MP4和HEVC,而且,还可应用于具有与GOP等同的编码处理单位并且包括通过分割GOP数据而生成的单元(NAL)的任意编码结构。
[11.相应设备的示例性硬件配置]
最后,参考图20描述执行上述所述过程的相应设备的示例性硬件配置。
图20示出了可用作发送设备20或者接收设备30的通信设备的示例性硬件配置。
中央处理单元(CPU)201用作根据存储在只读存储器(ROM)202或者存储单元208中的程序执行各种过程的数据处理单元。例如,执行根据上述实施方式中描述的序列的过程。由CPU201执行的程序和数据存储在随机访问存储器(RAM)203中。CPU201、ROM202、以及RAM203通过总线204连接至彼此。
CPU201经由总线204连接至输入/输出接口205,并且由各种开关、键盘、鼠标、麦克风等形成的输入单元206、和由显示器、扬声器等形成的输出单元207也连接至输入/输出接口205。例如,CPU201根据通过输入单元206输入的指令执行各种过程并且将处理结果输出至输出单元207。
例如,连接至输入/输出接口205的存储单元208由硬盘形成并且存储由CPU201执行的程序和各种数据。通信单元209用作用于经由诸如互联网或者局域网等网络的数据通信的发送/接收单元,进一步用作广播波发送/接收单元并且与外部设备通信。
连接至输入/输出接口205的驱动器210驱动可移除介质211(其是磁盘、光盘、磁光盘、诸如内存卡的半导体存储器等)以记录或者读取数据。
应注意,通过用作数据处理单元的CPU201可执行作为处理的数据编码或者解码,但是,编解码器可被设置为用于执行编码过程或者解码过程的专用硬件。
[12.本公开的结构的总结]
至今,已经通过具体实施方式描述了本公开的实施方式。然而,显而易见,本领域技术人员可在不背离本公开的范围的情况下对实施方式做出修改和替换。即,以实施例方式公开了本发明,并且不得以限制性方式解释上述描述。在理解本公开的主题时,应考虑权利要求。
本说明书中公开的技术还可体现为下面描述的结构。
(1)一种通信设备,包括:
数据处理单元,生成作为分组存储数据的子GOP媒体段,子GOP媒体段存储仅包括作为编码数据的处理单位的画面组(GOP)的组成数据的一部分的媒体数据、和对应于媒体数据的元数据;并且
生成具有GOP内位置标识符的数据包,GOP内位置标识符在数据包中被记录为数据包附加信息,GOP内位置标识符指示子GOP媒体段中存储的媒体数据的GOP内位置;以及
通信单元,通信单元传输由数据处理单元生成的数据包。
(2)根据(1)所述的通信设备,其中,数据处理单元生成作为分组存储数据的子GOP媒体段,子GOP媒体段存储包括一个或者多个NAL单元的媒体数据和对应于媒体数据的元数据,一个或者多个NAL单元是GOP的组成数据。
(3)根据(1)或(2)所述的通信设备,其中,数据处理单元生成具有段标识信息的数据包,段标识信息在数据包中被记录为数据包附加信息,段标识信息能够确定分组存储段是否是不存储媒体数据的初始化段或者分组存储段是否是存储媒体数据的媒体段。
(4)根据(1)至(3)中任一项所述的通信设备,其中,数据处理单元生成作为数据包附加信息的GOP内位置标识符,GOP内位置标识符能够确定存储在子GOP媒体段中的媒体数据位于GOP中的起始位置、中间位置、以及结束位置中的哪一个中。
(5)根据(1)至(4)中任一项所述的通信设备,其中,数据处理单元将附加信息记录在生成的数据包的HTTP报头中。
(6)根据(1)至(4)中任一项所述的通信设备,其中,数据处理单元将附加信息记录在生成的数据包的扩展报头中。
(7)根据(1)至(4)中任一项所述的通信设备,其中,数据处理单元将附加信息记录在生成的数据包的LCT报头中。
(8)根据(1)至(7)中任一项所述的通信设备,其中,通信单元通过经由广播波的广播传送或者通过组播传送传输由数据处理单元生成的数据包。
(9)一种通信设备,包括:
通信单元,处理作为分组存储数据的子GOP媒体段,子GOP媒体段存储媒体数据和对应于媒体数据的元数据,所述媒体数据仅包括作为编码数据的处理单位的画面组(GOP)的组成数据的一部分;并且
接收具有GOP内位置标识符的数据包,GOP内位置标识符在数据包中被记录为数据包附加信息,GOP内位置标识符指示存储在子GOP媒体段中的媒体数据的GOP内位置;以及
数据处理单元,输入由通信单元接收的数据包并且执行处理。
(10)根据(9)所述的通信设备,其中,数据处理单元通过参考记录在所接收的数据包中的GOP内位置标识符,布置散布和存储在多个接收的数据包中的GOP组成数据并且重构GOP数据。
(11)根据(9)或(10)所述的通信设备,其中,
通信单元接收存储子GOP媒体段的数据包,子GOP媒体段存储包括一个或者多个NAL单元的媒体数据和对应于媒体数据的元数据,该一个或者多个NAL单元是GOP的组成数据;并且
数据处理单元从接收的数据包中获取包括一个或者多个NAL单元的媒体数据,并且通过参考记录在接收的数据包中的GOP内位置标识符布置散布和存储在多个接收的数据包中的NAL单元并且重构GOP数据。
(12)根据(9)至(11)中任一项所述的通信设备,其中,
通信单元接收具有段标识信息的数据包,段标识信息在数据包中被记录为数据包附加信息,段标识信息能够确定分组存储段是否是不存储媒体数据的初始化段或者分组存储段是否是包含媒体数据的媒体段;并且
数据处理单元从记录在接收的数据包中的附加信息获取段标识信息,确定存储在接收的数据包中的段的类型,并且根据确定的结果执行处理。
(13)根据(9)至(12)中任一项所述的通信设备,其中,
通信单元接收具有被设置为数据包附加信息的GOP内位置标识符的数据包,GOP内位置标识符能够确定存储在子GOP媒体段中的媒体数据位于GOP中的起始位置、中间位置、以及结束位置中的哪一个中;并且
数据处理单元基于记录在接收数据包中的GOP内位置标识符确定子GOP媒体段中存储的媒体数据位于GOP中的起始位置、中间位置、以及结束位置中的哪一个中。
(14)根据(9)至(13)中任一项所述的通信设备,其中,
通信单元接收具有记录在HTTP报头中的数据包附加信息的数据包;并且
数据处理单元从接收的数据包的HTTP报头获取数据包附加信息。
(15)根据(9)至(13)中任一项所述的通信设备,其中,
通信单元接收具有记录在扩展报头中的数据包附加信息的数据包;并且
数据处理单元从接收数据包的扩展报头获取数据包附加信息。
(16)根据(9)至(13)中任一项所述的通信设备,其中,
通信单元接收具有记录在LCT报头中的数据包附加信息的数据包;并且
数据处理单元从接收的数据包的LCT报头获取数据包附加信息。
(17)根据(9)至(16)中任一项所述的通信设备,其中,通信单元经由广播波接收数据包。
(18)一种在数据发送设备中实施的通信数据生成方法,
通信数据生成方法包括:
生成作为分组存储数据的子GOP媒体段,子GOP媒体段存储媒体数据和对应于媒体数据的元数据,媒体数据仅包括作为编码数据的处理单位的画面组(GOP)的组成数据的一部分;并且
生成具有GOP内位置标识符的数据包,GOP内位置标识符在数据包中被记录为数据包附加信息,GOP内位置标识符指示存储在子GOP媒体段中的媒体数据的GOP内位置;
通过数据处理单元执行子GOP媒体段的生成和数据包的生成。
(19)一种在数据接收设备中实施的通信数据处理方法,
通信数据处理方法包括:
处理作为分组存储数据的子GOP媒体段,子GOP媒体段存储媒体数据和对应于媒体数据的元数据,媒体数据仅包括作为编码数据的处理单位的画面组(GOP)的组成数据的一部分,通过通信单元执行子GOP媒体段的处理;
接收具有GOP内位置标识符的数据包,GOP内位置标识符在数据包中被记录为数据包附加信息,GOP内位置标识符指示存储在子GOP媒体段中的媒体数据的GOP内位置,通过通信单元执行数据包的接收;并且
输入由通信单元接收的数据包并且执行处理,通过数据处理单元执行数据包的输入和处理的执行。
可通过硬件、软件、或者硬件与软件的组合执行本说明书中描述的一系列过程。在由软件执行过程的情况下,可将其中记录过程序列的程序安装在结合至计算机的专用硬件中的存储器中,或者可安装至可执行各种过程的通用计算机中。例如,可预先将程序记录到记录介质中。可从记录介质将程序安装在计算机中,或者可以经由诸如局域网(LAN)和互联网的网络接收程序并且将程序安装在诸如内部硬盘的记录介质中。
可不按照根据描述的时间顺序执行本说明书中描述的相应过程,而是,可根据执行过程的设备的配置/能力或者根据需要彼此并行或者彼此独立地执行相应过程。在本说明书中,系统是设备的逻辑组装并且并不一定指具有集成到一个外壳中的不同结构的设备。
工业适用性
如目前所述,利用本公开的实施方式的结构,实现了通过分割GOP、以及接收设备一侧的GOP重构和再现支持生成的数据单元的内容分发的设备和方法。
具体地,发送设备生成作为分组存储数据的子GOP媒体段,子GOP媒体段存储媒体数据和对应于媒体数据的元数据,媒体数据仅包括为编码数据的处理单位的画面组(GOP)的组成数据的一部分,并且发送设备生成且传输具有GOP内位置标识符(其在数据包中被记录为数据包附加信息)的数据包,GOP内位置标识符指示存储在子GOP媒体段中的媒体数据的GOP内位置。接收设备通过参考存储在接收数据包中的GOP内位置标识符布置散布和存储在数据包中的媒体数据并且重构和解码GOP。
通过该结构,实现了通过分割GOP、以及接收设备一侧的GOP重构和再现支持生成的数据单元的内容分发的设备和方法。
符号说明
10通信系统
20发送设备
21数据处理单元
22通信单元
30接收设备
31数据处理单元
32通信单元
50初始化段
60媒体段
201CPU
202ROM
203RAM
204总线
205输入/输出接口
206输入单元
207输出单元
208存储单元
209通信单元
210驱动器
211可移除介质
Claims (19)
1.一种通信设备,包括:
数据处理单元,被配置为生成作为分组存储数据的子画面组媒体段,所述子画面组媒体段存储媒体数据和对应于所述媒体数据的元数据,所述媒体数据仅包括作为编码数据的处理单位的画面组(GOP)的组成数据的一部分;并且
生成具有画面组内位置标识符的数据包,所述画面组内位置标识符在所述数据包中被记录为数据包附加信息,所述画面组内位置标识符指示存储在所述子画面组媒体段中的所述媒体数据的画面组内位置;以及
通信单元,被配置为发送由所述数据处理单元生成的所述数据包。
2.根据权利要求1所述的通信设备,其中,所述数据处理单元生成作为分组存储数据的子画面组媒体段,所述子画面组媒体段存储包括一个或多个NAL单元的媒体数据和对应于所述媒体数据的元数据,所述一个或多个NAL单元是所述画面组的组成数据。
3.根据权利要求1所述的通信设备,其中,所述数据处理单元生成具有段标识信息的数据包,所述段标识信息在所述数据包中被记录为所述数据包附加信息,所述段标识信息能够确定分组存储段是否是不存储所述媒体数据的初始化段或者所述分组存储段是否是存储所述媒体数据的媒体段。
4.根据权利要求1所述的通信设备,其中,所述数据处理单元生成画面组内位置标识符作为所述数据包附加信息,所述画面组内位置标识符能够确定存储在所述子画面组媒体段中的所述媒体数据位于所述画面组的起始位置、中间位置、以及结束位置中的哪一个中。
5.根据权利要求1所述的通信设备,其中,所述数据处理单元将所述附加信息记录在所生成的数据包的HTTP报头中。
6.根据权利要求1所述的通信设备,其中,所述数据处理单元将所述附加信息记录在所生成的数据包的扩展报头中。
7.根据权利要求1所述的通信设备,其中,所述数据处理单元将所述附加信息记录在所生成的数据包的LCT报头中。
8.根据权利要求1所述的通信设备,其中,所述通信单元通过经由广播波的广播传送或者通过组播传送传输由所述数据处理单元生成的所述数据包。
9.一种通信设备,包括:
通信单元,被配置为处理作为分组存储数据的子画面组媒体段,所述子画面组媒体段存储媒体数据和对应于所述媒体数据的元数据,所述媒体数据仅包括作为编码数据的处理单位的画面组(GOP)的组成数据的一部分;并且
接收具有画面组内位置标识符的数据包,所述画面组内位置标识符在所述数据包中被记录为数据包附加信息,所述画面组内位置标识符指示存储在所述子画面组媒体段中的所述媒体数据的画面组内位置;以及
数据处理单元,被配置为输入由所述通信单元接收的所述数据包并且执行处理。
10.根据权利要求9所述的通信设备,其中,所述数据处理单元通过参考记录在所接收的数据包中的所述画面组内位置标识符,来布置散布和存储在多个接收的数据包中的所述画面组的组成数据并且重构画面组数据。
11.根据权利要求9所述的通信设备,其中,
所述通信单元接收存储子画面组媒体段的数据包,所述子画面组媒体段存储包括一个或多个NAL单元的媒体数据和对应于所述媒体数据的元数据,所述一个或多个NAL单元是所述画面组的组成数据;并且
所述数据处理单元从所接收的数据包中获取包括所述一个或多个NAL单元的所述媒体数据,并且通过参考记录在所接收的数据包中的所述画面组内位置标识符来布置散布和存储在多个接收的数据包中的NAL单元并且重构画面组数据。
12.根据权利要求9所述的通信设备,其中,
所述通信单元接收具有段标识信息的数据包,所述段标识信息在所述数据包中被记录为所述数据包附加信息,所述段标识信息能够确定分组存储段是否是不存储所述媒体数据的初始化段或者所述分组存储段是否是包含所述媒体数据的媒体段;并且
所述数据处理单元从记录在所接收的数据包中的所述附加信息获取所述段标识信息、确定存储在所接收的数据包中的段的类型、并且根据所述确定的结果执行处理。
13.根据权利要求9所述的通信设备,其中,
所述通信单元接收具有被设置为所述数据包附加信息的画面组内位置标识符的数据包,所述画面组内位置标识符能够确定存储在所述子画面组媒体段中的所述媒体数据位于所述画面组中的起始位置、中间位置、以及结束位置中的哪一个中;并且
所述数据处理单元基于记录在所接收的数据包中的所述画面组内位置标识符,来确定存储在所述子画面组媒体段中的所述媒体数据位于所述画面组中的所述起始位置、所述中间位置、以及所述结束位置中的哪一个中。
14.根据权利要求9所述的通信设备,其中,
所述通信单元接收具有记录在HTTP报头中的所述数据包附加信息的数据包;并且
所述数据处理单元从所接收的数据包的所述HTTP报头中获取所述数据包附加信息。
15.根据权利要求9所述的通信设备,其中,
所述通信单元接收具有记录在扩展报头中的所述数据包附加信息的数据包;并且
所述数据处理单元从所接收的数据包的所述扩展报头中获取所述数据包附加信息。
16.根据权利要求9所述的通信设备,其中,
所述通信单元接收具有记录在LCT报头中的所述数据包附加信息的数据包;并且
所述数据处理单元从所接收的数据包的所述LCT报头中获取所述数据包附加信息。
17.根据权利要求9所述的通信设备,其中,所述通信单元经由广播波接收所述数据包。
18.一种在数据发送设备中实施的通信数据生成方法,
所述通信数据生成方法包括:
生成作为分组存储数据的子画面组媒体段,所述子画面组媒体段存储媒体数据和对应于所述媒体数据的元数据,所述媒体数据仅包括作为编码数据的处理单位的画面组(GOP)的组成数据的一部分;并且
生成具有画面组内位置标识符的数据包,所述画面组内位置标识符在所述数据包中被记录为数据包附加信息,所述画面组内位置标识符指示存储在所述子画面组媒体段中的所述媒体数据的画面组内位置;
通过数据处理单元执行所述子画面组媒体段的生成和所述数据包的生成。
19.一种在数据接收设备中实施的通信数据处理方法,
所述通信数据处理方法包括:
处理作为分组存储数据的子画面组媒体段,所述子画面组媒体段存储媒体数据和对应于所述媒体数据的元数据,所述媒体数据仅包括作为编码数据的处理单位的画面组(GOP)的组成数据的一部分,通过通信单元执行所述子画面组媒体段的处理;
接收具有画面组内位置标识符的数据包,所述画面组内位置标识符在所述数据包中被记录为数据包附加信息,所述画面组内位置标识符指示存储在所述子画面组媒体段中的所述媒体数据的画面组内位置,通过所述通信单元执行所述数据包的接收;并且
输入由所述通信单元接收的所述数据包,并且执行处理,通过数据处理单元执行所述数据包的输入和所述处理的执行。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014006879A JP2015136057A (ja) | 2014-01-17 | 2014-01-17 | 通信装置、通信データ生成方法、および通信データ処理方法 |
JP2014-006879 | 2014-01-17 | ||
PCT/JP2014/081713 WO2015107784A1 (ja) | 2014-01-17 | 2014-12-01 | 通信装置、通信データ生成方法、および通信データ処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105191324A true CN105191324A (zh) | 2015-12-23 |
CN105191324B CN105191324B (zh) | 2020-05-05 |
Family
ID=53542688
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201480013818.5A Active CN105191324B (zh) | 2014-01-17 | 2014-12-01 | 通信设备、通信数据生成方法、以及通信数据处理方法 |
Country Status (8)
Country | Link |
---|---|
US (1) | US10924524B2 (zh) |
EP (1) | EP3096524B1 (zh) |
JP (1) | JP2015136057A (zh) |
KR (1) | KR102247976B1 (zh) |
CN (1) | CN105191324B (zh) |
CA (1) | CA2904959A1 (zh) |
MX (1) | MX342827B (zh) |
WO (1) | WO2015107784A1 (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107465962A (zh) * | 2017-09-05 | 2017-12-12 | 成都索贝数码科技股份有限公司 | 一种非实时视音频文件传输的方法 |
CN112236753A (zh) * | 2018-04-04 | 2021-01-15 | Netapp股份有限公司 | 使用基于索引节点编号的依赖图更快地重放元数据和数据操作 |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105451073B (zh) * | 2015-11-16 | 2018-11-02 | 深圳Tcl数字技术有限公司 | Mp4视频源的传送方法和装置 |
US10666961B2 (en) * | 2016-01-08 | 2020-05-26 | Qualcomm Incorporated | Determining media delivery event locations for media transport |
WO2017147250A1 (en) * | 2016-02-23 | 2017-08-31 | Level 3 Communications, Llc | Systems and methods for content server rendezvous in a dual stack protocol network |
US11509972B2 (en) * | 2019-07-09 | 2022-11-22 | Dolby International Ab | Method and device for personalization of media data for playback |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102316315A (zh) * | 2010-06-29 | 2012-01-11 | 中国科学院软件研究所 | 一种实时视频传输方法 |
WO2012046090A1 (en) * | 2010-10-04 | 2012-04-12 | Thomson Licensing | System and method for error detection and data replacement in broadcast services |
US20120320925A1 (en) * | 2011-06-14 | 2012-12-20 | Samsung Electronics Co. Ltd. | Method and apparatus for transmitting/receiving media contents in multimedia system |
US20130091251A1 (en) * | 2011-10-05 | 2013-04-11 | Qualcomm Incorporated | Network streaming of media data |
Family Cites Families (53)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3330797B2 (ja) * | 1995-10-02 | 2002-09-30 | 富士通株式会社 | 動画像データ格納方式および動画像データ復号方式 |
US5724515A (en) * | 1996-03-06 | 1998-03-03 | E. F. Johnson Company | Packet radio communication system |
US5802051A (en) * | 1996-06-10 | 1998-09-01 | Telefonaktiebolaget Lm Ericsson | Multiplexing of voice and data minicells |
US6965646B1 (en) * | 2000-06-28 | 2005-11-15 | Cisco Technology, Inc. | MPEG file format optimization for streaming |
US20020194589A1 (en) * | 2001-05-08 | 2002-12-19 | Cristofalo Michael | Technique for optimizing the delivery of advertisements and other programming segments by making bandwidth tradeoffs |
US7831990B2 (en) * | 2002-04-29 | 2010-11-09 | Sony Corporation | Generic adaptation layer for JVT video |
US20040006575A1 (en) * | 2002-04-29 | 2004-01-08 | Visharam Mohammed Zubair | Method and apparatus for supporting advanced coding formats in media files |
WO2007010779A1 (ja) * | 2005-07-15 | 2007-01-25 | Matsushita Electric Industrial Co., Ltd. | パケット送信装置 |
MX2008009754A (es) * | 2006-01-30 | 2008-10-09 | Clearplay Inc | Sincronizacion de metadatos de filtro con una presentacion multimedia. |
US9432433B2 (en) * | 2006-06-09 | 2016-08-30 | Qualcomm Incorporated | Enhanced block-request streaming system using signaling or block creation |
US20090300673A1 (en) * | 2006-07-24 | 2009-12-03 | Nds Limited | Peer- to- peer set-top box system |
JP2009135686A (ja) * | 2007-11-29 | 2009-06-18 | Mitsubishi Electric Corp | 立体映像記録方法、立体映像記録媒体、立体映像再生方法、立体映像記録装置、立体映像再生装置 |
KR101581354B1 (ko) * | 2008-03-07 | 2015-12-30 | 엘지전자 주식회사 | 방송 신호 수신 방법 및 방송 신호 수신 장치 |
MX2010012117A (es) * | 2008-05-07 | 2010-12-01 | Digital Fountain Inc | Manipulacion de canal rapida y proteccion de corriente de alta calidad sobre un canal de difusion. |
CN101459693A (zh) * | 2008-12-29 | 2009-06-17 | 中兴通讯股份有限公司 | 一种流媒体下载方法及系统 |
CN103957448B (zh) * | 2009-04-09 | 2017-05-17 | 瑞典爱立信有限公司 | 生成媒体容器文件的方法、媒体内容服务器、以及媒体处理方法和媒体处理服务器 |
EP2434769B1 (en) * | 2009-05-19 | 2016-08-10 | Panasonic Intellectual Property Management Co., Ltd. | Recording method and playback method |
DK2453661T3 (en) * | 2009-07-10 | 2017-10-30 | Panasonic Ip Man Co Ltd | PLAYBACK, RECORDING PROCEDURE AND SYSTEM, INCLUDING A RECORDING MEDIUM AND PLAYBACK |
US8751677B2 (en) * | 2009-10-08 | 2014-06-10 | Futurewei Technologies, Inc. | System and method to support different ingest and delivery schemes for a content delivery network |
JP2011087103A (ja) * | 2009-10-15 | 2011-04-28 | Sony Corp | コンテンツ再生システム、コンテンツ再生装置、プログラム、コンテンツ再生方法、およびコンテンツサーバを提供 |
KR101777347B1 (ko) * | 2009-11-13 | 2017-09-11 | 삼성전자주식회사 | 부분화에 기초한 적응적인 스트리밍 방법 및 장치 |
KR101750049B1 (ko) * | 2009-11-13 | 2017-06-22 | 삼성전자주식회사 | 적응적인 스트리밍 방법 및 장치 |
KR101786051B1 (ko) * | 2009-11-13 | 2017-10-16 | 삼성전자 주식회사 | 데이터 제공 방법 및 장치와 데이터 수신 방법 및 장치 |
JP6029805B2 (ja) * | 2010-01-15 | 2016-11-24 | 富士通株式会社 | 配信装置、配信プログラムおよび配信方法 |
US8416755B2 (en) * | 2010-05-18 | 2013-04-09 | Lg Electronics Inc. | Digital broadcasting system and method for transmitting and receiving digital broadcast signal |
US9485546B2 (en) * | 2010-06-29 | 2016-11-01 | Qualcomm Incorporated | Signaling video samples for trick mode video representations |
US8918533B2 (en) * | 2010-07-13 | 2014-12-23 | Qualcomm Incorporated | Video switching for streaming video data |
US9185439B2 (en) * | 2010-07-15 | 2015-11-10 | Qualcomm Incorporated | Signaling data for multiplexing video components |
US8930562B2 (en) * | 2010-07-20 | 2015-01-06 | Qualcomm Incorporated | Arranging sub-track fragments for streaming video data |
US9769230B2 (en) * | 2010-07-20 | 2017-09-19 | Nokia Technologies Oy | Media streaming apparatus |
US9131033B2 (en) * | 2010-07-20 | 2015-09-08 | Qualcomm Incoporated | Providing sequence data sets for streaming video data |
US9596447B2 (en) * | 2010-07-21 | 2017-03-14 | Qualcomm Incorporated | Providing frame packing type information for video coding |
US9226045B2 (en) * | 2010-08-05 | 2015-12-29 | Qualcomm Incorporated | Signaling attributes for network-streamed video data |
US8806050B2 (en) * | 2010-08-10 | 2014-08-12 | Qualcomm Incorporated | Manifest file updates for network streaming of coded multimedia data |
US20120057633A1 (en) * | 2010-09-02 | 2012-03-08 | Fang Shi | Video Classification Systems and Methods |
EP2685742A4 (en) * | 2011-04-07 | 2014-03-05 | Huawei Tech Co Ltd | METHOD, DEVICE AND SYSTEM FOR SENDING AND PROCESSING MEDIA CONTENT |
JP2013038766A (ja) * | 2011-07-12 | 2013-02-21 | Sharp Corp | 送信装置、送信装置の制御方法、制御プログラム、及び記録媒体 |
US9635355B2 (en) * | 2011-07-28 | 2017-04-25 | Qualcomm Incorporated | Multiview video coding |
US9674525B2 (en) * | 2011-07-28 | 2017-06-06 | Qualcomm Incorporated | Multiview video coding |
US9590814B2 (en) * | 2011-08-01 | 2017-03-07 | Qualcomm Incorporated | Method and apparatus for transport of dynamic adaptive streaming over HTTP (DASH) initialization segment description fragments as user service description fragments |
US10237565B2 (en) * | 2011-08-01 | 2019-03-19 | Qualcomm Incorporated | Coding parameter sets for various dimensions in video coding |
WO2013028565A1 (en) * | 2011-08-19 | 2013-02-28 | General Instrument Corporation | Encoder-aided segmentation for adaptive streaming |
US9445136B2 (en) * | 2011-09-21 | 2016-09-13 | Qualcomm Incorporated | Signaling characteristics of segments for network streaming of media data |
CN104205819B (zh) * | 2012-02-01 | 2017-06-30 | 诺基亚技术有限公司 | 用于视频编码的方法和装置 |
US10205961B2 (en) * | 2012-04-23 | 2019-02-12 | Qualcomm Incorporated | View dependency in multi-view coding and 3D coding |
JP6214235B2 (ja) * | 2012-07-02 | 2017-10-18 | キヤノン株式会社 | ファイル生成方法、ファイル生成装置、及びプログラム |
US20140019635A1 (en) * | 2012-07-13 | 2014-01-16 | Vid Scale, Inc. | Operation and architecture for dash streaming clients |
US9432426B2 (en) * | 2013-02-04 | 2016-08-30 | Qualcomm Incorporated | Determining available media data for network streaming |
US9094737B2 (en) * | 2013-05-30 | 2015-07-28 | Sonic Ip, Inc. | Network video streaming with trick play based on separate trick play files |
CN105230024B (zh) * | 2013-07-19 | 2019-05-24 | 华为技术有限公司 | 一种媒体表示自适应方法、装置及计算机存储介质 |
US10841375B2 (en) * | 2013-11-01 | 2020-11-17 | Hewlett Packard Enterprise Development Lp | Protocol agnostic storage access in a software defined network topology |
CN105723718B (zh) * | 2014-01-03 | 2019-04-16 | Lg 电子株式会社 | 发送广播信号的设备、接收广播信号的设备、发送广播信号的方法和接收广播信号的方法 |
EP3175624A4 (en) * | 2014-07-31 | 2018-02-28 | LG Electronics Inc. | Apparatus and method for transmitting/receiving processes of a broadcast signal |
-
2014
- 2014-01-17 JP JP2014006879A patent/JP2015136057A/ja active Pending
- 2014-12-01 CA CA2904959A patent/CA2904959A1/en not_active Abandoned
- 2014-12-01 EP EP14878449.9A patent/EP3096524B1/en active Active
- 2014-12-01 MX MX2015012247A patent/MX342827B/es active IP Right Grant
- 2014-12-01 US US14/770,150 patent/US10924524B2/en active Active
- 2014-12-01 WO PCT/JP2014/081713 patent/WO2015107784A1/ja active Application Filing
- 2014-12-01 KR KR1020157022754A patent/KR102247976B1/ko active IP Right Grant
- 2014-12-01 CN CN201480013818.5A patent/CN105191324B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102316315A (zh) * | 2010-06-29 | 2012-01-11 | 中国科学院软件研究所 | 一种实时视频传输方法 |
WO2012046090A1 (en) * | 2010-10-04 | 2012-04-12 | Thomson Licensing | System and method for error detection and data replacement in broadcast services |
US20120320925A1 (en) * | 2011-06-14 | 2012-12-20 | Samsung Electronics Co. Ltd. | Method and apparatus for transmitting/receiving media contents in multimedia system |
US20130091251A1 (en) * | 2011-10-05 | 2013-04-11 | Qualcomm Incorporated | Network streaming of media data |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107465962A (zh) * | 2017-09-05 | 2017-12-12 | 成都索贝数码科技股份有限公司 | 一种非实时视音频文件传输的方法 |
CN112236753A (zh) * | 2018-04-04 | 2021-01-15 | Netapp股份有限公司 | 使用基于索引节点编号的依赖图更快地重放元数据和数据操作 |
Also Published As
Publication number | Publication date |
---|---|
MX342827B (es) | 2016-10-14 |
KR102247976B1 (ko) | 2021-05-06 |
EP3096524A4 (en) | 2017-07-05 |
US20160315987A1 (en) | 2016-10-27 |
JP2015136057A (ja) | 2015-07-27 |
KR20160111016A (ko) | 2016-09-23 |
WO2015107784A1 (ja) | 2015-07-23 |
US10924524B2 (en) | 2021-02-16 |
EP3096524B1 (en) | 2020-02-05 |
CN105191324B (zh) | 2020-05-05 |
CA2904959A1 (en) | 2015-07-23 |
EP3096524A1 (en) | 2016-11-23 |
MX2015012247A (es) | 2015-12-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6426259B2 (ja) | 放送システムにおける制御情報を受信する方法 | |
US9854375B2 (en) | Selection of coded next generation audio data for transport | |
CN105900436B (zh) | 通信设备、通信数据生成方法、以及通信数据处理方法 | |
CN105230006B (zh) | 保存方法、再现方法、保存装置及再现装置 | |
CN105191324A (zh) | 通信设备、通信数据生成方法、以及通信数据处理方法 | |
US11284135B2 (en) | Communication apparatus, communication data generation method, and communication data processing method | |
KR20170141677A (ko) | 수신 장치, 송신 장치 및 데이터 처리 방법 | |
JP6610019B2 (ja) | 受信装置、送信装置、及び、データ処理方法 | |
KR102137858B1 (ko) | 송신 장치, 송신 방법, 수신 장치, 수신 방법 및 프로그램 | |
KR20170000312A (ko) | 디지털 방송 서비스 방법 및 장치 | |
CN105900437B (zh) | 通信设备、通信数据生成方法和通信数据处理方法 | |
WO2015064384A1 (ja) | 送信装置、送信方法、受信装置、及び、受信方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |