CN105900446B - 通信装置、通信数据生成方法和通信数据处理方法 - Google Patents

通信装置、通信数据生成方法和通信数据处理方法 Download PDF

Info

Publication number
CN105900446B
CN105900446B CN201480072676.XA CN201480072676A CN105900446B CN 105900446 B CN105900446 B CN 105900446B CN 201480072676 A CN201480072676 A CN 201480072676A CN 105900446 B CN105900446 B CN 105900446B
Authority
CN
China
Prior art keywords
data
grouping
nal unit
unit
segment
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201480072676.XA
Other languages
English (en)
Other versions
CN105900446A (zh
Inventor
山岸靖明
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of CN105900446A publication Critical patent/CN105900446A/zh
Application granted granted Critical
Publication of CN105900446B publication Critical patent/CN105900446B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/23605Creation or processing of packetized elementary streams [PES]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/238Interfacing the downstream path of the transmission network, e.g. adapting the transmission rate of a video stream to network bandwidth; Processing of multiplex streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/643Communication protocols
    • H04N21/64322IP
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/643Communication protocols
    • H04N21/6437Real-time Transport Protocol [RTP]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/845Structuring of content, e.g. decomposing content into time segments
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/845Structuring of content, e.g. decomposing content into time segments
    • H04N21/8456Structuring of content, e.g. decomposing content into time segments by decomposing the content in the time domain, e.g. in time segments
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/85406Content authoring involving a specific file format, e.g. MP4 format
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/8543Content authoring using a description language, e.g. Multimedia and Hypermedia information coding Expert Group [MHEG], eXtensible Markup Language [XML]

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Security & Cryptography (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

本发明的目的是提供其中可以基于逐包确定存储在通信分组中的编码数据是否为基于随机访问的编码数据的数据的配置。传输装置生成存储NAL单元(其每一个是编码数据的组成部分)的分组,或存储通过进一步分割NAL单元获得的NAL单元片段的分组。然后该传输装置设置访问点信息作为附加信息,所述访问点信息指示作为分组存储数据的源数据的NAL单元是否包括作为随机访问点的数据,并且传输分组。接收装置参考分组的附加信息来确定分组存储数据是否为基于随机访问的编码数据生成的数据。

Description

通信装置、通信数据生成方法和通信数据处理方法
技术领域
本公开涉及一种通信装置、一种通信数据生成方法和一种通信数据处理方法。更具体来说,本公开涉及能够例如通过广播波或网络执行数据的传输或接收的一种通信装置、一种通信数据生成方法和一种通信数据处理方法。
背景技术
过顶(OTT)被称为能够传递内容(诸如图像数据或音频数据)而不管电信运营商的服务形式的数据传递方案。基于OTT的传递内容被称为“OTT内容”,并且使用OTT的图像(视频)数据的传递服务被称为“OTT视频”或“过顶视频(OTT-V)”。
例如,通过HTTP的动态自适应流(DASH)被用作根据OTT-V的数据流传递的基础技术。DASH为使用超文本传送协议(HTTP)的自适应流技术的标准。
在自适应流中,为了使各种客户端能够再现传递内容,内容传递服务器创建和保持多个比特率的运动图像内容的区段文件以及描述属性信息或其URL的清单文件。
客户端从服务器获取清单文件、根据其自身设备的显示单元的大小或可用的通信频带选择最优比特率内容,并且接收和再现所选内容。也可能根据网络频带的变化动态改变比特率,并且在客户端侧,可能根据情况在必要时切换和接收最佳内容,并且实施其中视频中断的发生减少的运动图像内容再现。在例如专利文献1(日本专利申请公开号2011-87103)中公开自适应流。
MPEG-DASH标准被称为指定一个规范的标准,这个规范用于根据DASH执行由运动图像专家组(MPEG)编码的运动图像或音频数据的流传递。
MPEG-DASH标准包括以下两个标准:
(a)与清单文件(媒体呈现描述(MPD))相关的标准,所述清单文件描述作为运动图像或音频文件的管理信息的元数据;以及
(b)与运动图像内容传输的文件格式(段格式)相关的标准。
当根据DASH执行MPEG数据的流传递时,根据MPEG-DASH标准执行处理。
然而,作为自适应流技术的标准的DASH是基于作为一对一通信处理的点对点式HTTP流技术。
因此,例如,当DASH应用于很可能被多个客户端同时查看的内容(程序)(诸如体育转播)的流传递时,内容传递网络(CDN)的支持是必要的。
然而,有用于建构CDN被应用的点对点HTTP流的成本限制,并且很难实施相当于广播传递的可扩展性。如上所述,DASH使用基于HTTP的流协议,并且有一个问题是,不足以提供使能够被多个客户端同时查看的内容传递(诸如广播传递)。
引文列表
专利文献
专利文献1:日本专利申请特许公开号2011-87103
发明内容
本发明要解决的问题
本公开的目的是提供一种通信装置、一种通信数据生成方法和一种通信数据处理方法,其能够基于HTTP使用流协议在内容传递时将内容同时提供给多个客户端,并且在每个客户端以很少延迟实施实时再现。
问题的解决方案
本公开的第一方面是一种通信装置,包括:
数据处理单元,其生成存储编码数据的分组;以及
通信单元,其传输由数据处理单元生成的分组,
其中数据处理单元生成存储NAL单元或NAL单元片段的分组,NAL单元构成作为编码数据的处理单位的图片组(GOP),NAL单元片段是通过进一步分割NAL单元来获得,以及
数据处理单元生成分组,其中指示存储在分组中的NAL单元或作为NAL单元片段的分割源的NAL单元是否包括作为随机访问点的数据的访问点信息被设置为分组的附加信息,并且通过通信单元传输生成的分组。
此外,在本公开的通信装置的实施方案中,访问点信息是指示分组存储数据是否为基于NAL单元生成的数据的信息,所述NAL单元包括由流访问点(SAP)指定的编码数据。
此外,在本公开的通信装置的实施方案中,数据处理单元生成媒体数据和子GOP媒体段作为分组存储数据,所述媒体数据包括作为GOP的构成数据的一个或多个NAL单元,所述子GOP媒体段存储对应于媒体数据的元数据。
此外,在本公开的通信装置的实施方案中,数据处理单元生成通过进一步分割NAL单元获得的NAL单元片段,所述NAL单元将GOP配置成生成存储NAL单元片段的多个分组和存储对应于NAL单元的元数据的分组。
此外,在本公开的通信装置的实施方案中,数据处理单元生成存储分区数据的分组,通过将作为传输目标的编码数据分成等于或小于在通信路径上指定的最大数据传送单位(最大传送单位(MTU))的数据来生成分区数据。
此外,在本公开的通信装置的实施方案中,数据处理单元生成HTTP分组,并且将附加信息记录在生成的分组的HTTP报头中。
此外,在本公开的通信装置的实施方案中,数据处理单元将附加信息记录在生成的分组的扩展报头中。
此外,在本公开的通信装置的实施方案中,数据处理单元将附加信息记录在生成的分组的LCT报头中。
此外,在本公开的通信装置的实施方案中,通信单元通过广播波执行由数据处理单元生成的分组的广播传递或多播传递。
本公开的第二方面是一种通信装置,包括:
通信单元,其接收由传输装置传输的编码数据存储分组;以及
数据处理单元,其接收由通信单元接收的分组,并且执行处理,
其中由通信单元接收的每个编码数据存储分组为存储NAL单元或NAL单元片段的分组,NAL单元构成作为编码数据的处理单位的图片组(GOP),NAL单元片段是通过进一步分割NAL单元来获得;以及分组,其中指示存储在分组中的NAL单元或作为NAL单元片段的分割源的NAL单元是否包括作为随机访问点的数据的访问点信息被设置为附加信息。
此外,在本公开的通信装置的实施方案中,数据处理单元执行参考作为记录在接收的分组中的附加信息的访问点信息来确定存储在接收的分组中的数据是否为基于NAL单元生成的数据的处理,所述NAL单元包括由流访问点(SAP)指定的编码数据。
此外,在本公开的通信装置的实施方案中,数据处理单元参考作为记录在接收的分组中的附加信息的访问点信息来选择和获取包括访问点的数据,并且执行解码和再现处理。
此外,在本公开的通信装置的实施方案中,通信单元接收包括其中记录附加信息的HTTP报头的HTTP分组,并且数据处理单元从接收的分组的HTTP报头获取附加信息。
此外,在本公开的通信装置的实施方案中,通信单元接收包括其中记录附加信息的扩展报头的分组,并且数据处理单元从接收的分组的扩展报头获取附加信息。
此外,在本公开的通信装置的实施方案中,通信单元接收包括其中记录附加信息的LCT报头的分组,并且数据处理单元从接收的分组的LCT报头获取附加信息。
此外,在本公开的通信装置的实施方案中,通信单元通过广播波接收分组。
本公开的第三方面是一种在数据传输装置中执行的通信数据生成方法,包括:
通过数据处理单元生成存储NAL单元或NAL单元片段的分组,NAL单元构成作为编码数据的处理单位的图片组(GOP),NAL单元片段是通过进一步分割NAL单元来获得;
通过数据处理单元生成分组,其中指示存储在分组中的NAL单元或作为NAL单元片段的分割源的NAL单元是否包括作为随机访问点的数据的访问点信息被设置为分组的附加信息,并且通过通信单元传输生成的分组。
本公开的第四方面是一种在数据接收装置中执行的通信数据处理方法,包括:
通信单元接收由传输装置传输的编码数据存储分组的步骤;以及
数据处理单元接收由通信单元接收的分组并且执行处理的数据处理步骤,
其中由通信单元接收的每个编码数据存储分组为存储NAL单元或NAL单元片段的分组,NAL单元构成作为编码数据的处理单位的图片组(GOP),NAL单元片段是通过进一步分割NAL单元来获得;以及分组,其中指示存储在分组中的NAL单元或作为NAL单元片段的分割源的NAL单元是否包括作为随机访问点的数据的访问点信息被设置为附加信息,以及
数据处理步骤包括接收其中由通信单元接收的访问点信息被设置的分组并且执行处理的步骤。
本公开的其他目的、特征和优点将通过后面描述的本公开的实施方案和基于附图的详细描述显而易见。在本说明书中,系统是指多个装置的逻辑聚合配置并且不限于其中各自的配置的装置被布置在相同的外壳中的配置。
本发明的效果
根据本公开的实施方案的配置,实施其中可以基于逐包确定存储在通信分组中的编码数据是否为基于随机访问的编码数据的数据的配置。
具体来说,传输装置生成存储NAL单元(其是编码数据的组成部分)的分组,或存储通过进一步分割NAL单元获得的NAL单元片段的分组,设置访问点信息作为附加信息,所述访问点信息指示作为分组存储数据的源数据的NAL单元是否包括作为随机访问点的数据,并且传输分组。接收装置参考分组的附加信息来确定分组存储数据是否为基于随机访问的编码数据生成的数据。
使用这种配置,实施其中可以基于逐包确定存储在通信分组中的编码数据是否为基于随机访问的编码数据的数据的配置。
在本说明书中所述的效果仅仅是实例并且不一定受限,并且可能包括额外的效果。
附图说明
图1是用于描述根据本公开的执行处理的通信系统的示例性配置的图解。
图2是用于描述传输装置的传输数据的图解。
图3是用于描述DASH段的示例性配置的图解。
图4是用于描述片段生成顺序的图解。
图5是用于描述其中片段中的媒体数据(mdat)被设置为通过分割除了一个GOP单元的数据以外的一个GOP获得的数据的示例性配置的图解。
图6是用于描述其中HTTP报头被设置为子GOP媒体段的HTTP分组的示例性配置的图解。
图7是用于描述媒体段HTTP分组的HTTP报头的记录信息的图解。
图8是用于描述媒体段HTTP分组的HTTP报头的记录信息的图解。
图9是用于描述初始化段HTTP分组的HTTP报头的记录信息的图解。
图10是用于描述IP分组的示例性配置的图解。
图11是用于描述传输装置和接收装置的协议栈的图解。
图12是用于描述接收装置的协议栈的图解。
图13是用于描述媒体段HTTP分组的HTTP报头的记录信息的图解。
图14是用于描述媒体段HTTP分组的HTTP报头的记录信息的图解。
图15是用于描述MAC帧的配置的图解。
图16是用于描述NAL单元片段对应HTTP分组的图解。
图17是用于描述记录在元数据存储类型的NAL单元片段对应HTTP分组的HTTP报头中的附加信息的图解。
图18是用于描述记录在媒体数据存储类型的NAL单元片段对应HTTP分组的HTTP报头中的附加信息的图解。
图19是图示用于描述由传输装置执行的处理顺序的流程图的图解。
图20是图示用于描述由接收装置执行的处理顺序的流程图的图解。
图21是图示用于描述由接收装置执行的处理顺序的流程图的图解。
图22是用于描述扩展报头中的附加信息的实例的图解。
图23是用于描述附加信息被记录在扩展报头中的实施方案的图解。
图24是用于描述根据FLUTE协议设置的LCT报头的示例性配置的图解。
图25是用于描述LCT报头的报头扩展部分上的数据记录配置的图解。
图26是用于描述记录在LCT报头的报头扩展部分中的数据的图解。
图27是用于描述HEVC编码数据的配置的图解。
图28是用于描述通信装置的示例性硬件配置的图解。
具体实施方式
实施本发明的模式
在下文中,将参照附图详细地描述根据本公开的通信装置、通信数据生成方法和通信数据处理方法。描述将进行以下项目。
1.通信系统的示例性配置
2.同时传递类型的内容传递的问题
3.传输数据的分割处理配置
4.附加信息被记录在HTTP报头中的实施方案
5.分组的配置
6.传输装置和接收装置的配置和处理
7.添加用于识别存储在分组中的NAL单元是否包括流访问点(SAP)的访问点信息的配置
8.使用通过进一步分割NAL单元获得的NAL单元片段存储分组的通信处理配置
9.传输装置和接收装置的处理顺序
10.附加信息被记录在扩展报头中的实施方案
11.附加信息被记录在LCT报头中的实施方案
12.HEVC编码数据的应用实例
13.各自的装置的示例性硬件配置
14.本公开的配置的结论
[1.通信系统的示例性配置]
首先,将参照图1描述根据本公开的执行处理的通信系统的示例性配置。
通信系统10包括传输装置20,其作为传输内容(诸如图像数据或音频数据)的通信装置;以及接收装置30,其作为接收如图1中所示的传输装置20的传输内容的通信装置。
具体来说,传输装置20是在内容提供侧的装置,诸如广播电台21或内容服务器22。
同时,接收装置30是一般用户的客户端装置,并且具体来说被配置具有例如电视31、PC 32或移动终端33。
传输装置20与接收装置30之间的数据通信被执行为经由网络(诸如,互联网)的双向通信、使用广播波等的单向通信,或使用这两种通信的通信。
根据作为自适应流技术的标准的MPEG-DASH标准执行从传输装置20到接收装置30的内容传输。
如上所述,MPEG-DASH标准包括以下两个标准:
(a)与清单文件(媒体呈现描述(MPD))相关的标准,所述清单文件描述作为运动图像或音频文件的管理信息的元数据;以及
(b)与运动图像内容传输的文件格式(段格式)相关的标准。
根据MPEG-DASH标准执行从传输装置20到接收装置30的内容传递。
传输装置20编码内容数据,并且生成包括编码数据和编码数据的元数据的数据文件。例如,根据在MPEG中指定的MP4文件格式执行编码处理。此外,当传输装置20生成MP4格式的数据文件时,编码数据的文件被称为“mdat”,并且元数据被称为“moov”、“moof”等。
将在后面详细地描述编码数据。
从传输装置20提供到接收装置30的内容的实例包括音乐数据、视频数据,诸如电影、电视节目、视频、照片、文件、绘画或图表、游戏和软件。
将参照图2描述传输装置20的传输数据。
根据MPEG-DASH标准执行数据传输的传输装置20分别将初始化段50和媒体段60存储在分组中,并且将所得分组传输到如图2中所示的接收装置30。每个段被称为“DASH段”。
每个媒体段60为其中通过分割MPEG编码的内容数据获得的数据被存储的段。
初始化段50为其中在接收装置30侧再现媒体段60的存储内容(例如,编解码器等的设置信息)时所需的初始设置信息被存储的段。
例如,传输装置20分割内容(诸如一个电影或一个程序)、将分割的内容存储在多个媒体段60中,并且按顺序传输多个媒体段60。
传输装置20将图2中所示的初始化段50和媒体段60存储在HTTP分组中、生成存储HTTP分组的IP分组,并且传输IP分组。将在后面详细地描述传输分组的配置。
图2中所示的接收装置30首先接收一个初始化段50,并且根据存储在初始化段中的设置信息执行例如编解码器的设置处理。然后,接收装置30按顺序接收媒体段60、根据再现顺序解码媒体段60,并且执行再现处理。
[2.同时传递类型的内容传递的问题]
如上所述,作为自适应流技术的标准的DASH是基于点对点HTTP流,并且有一个问题是,不足以提供使能够被多个客户端同时查看的同时传递类型的内容传递。
然而,通过一起使用多播和广播(MC/BC),认为可以将内容同时提供给多个客户端(接收装置)而没有任何延迟。
适用于多播/广播(MC/BC)类型的流的传送协议的实例包括实时传送协议(RTP)和通过单向传送的文件传递(FLUTE)。
将参照图3描述在使用FLUTE协议根据基于HTTP流的DASH标准执行内容流传递时可用的DASH段的示例性配置。
如上文参照图2所述,DASH段分为两种类型:
(a)初始化段;以及
(b)媒体段。
(a)初始化段为其中在执行内容再现(诸如接收装置30中的解码器的设置)时所需的初始化数据(诸如设置信息)被存储的段。
(b)媒体段为其中作为再现目标的编码内容被存储的段。
如图3中所示,(a)初始化段包括以下信息:
(a1)报头信息(dash),其包括段的文件类型信息;以及
(a2)元数据(moov),其包括初始化信息,诸如作为通过媒体段传输的编码内容的媒体数据(mdat)的编解码器(编码形式)信息。
同时,如图3中所示,(b)媒体段包括以下信息:
(b1)报头信息(msdh),其包括段的文件类型信息等;
(b2)存储在媒体段中的多个子段的边界信息,或指示例如作为存储在媒体段中的编码内容的媒体数据(mdat)的随机访问点的访问信息(sidx);以及
(b3)多个子段70。
多个子段70中的每个包括一个或多个片段80。
片段80包括以下数据:
作为编码内容的媒体数据(mdat),所述编码内容作为再现目标;以及
对应于媒体数据(mdat)的元数据(moof)。
记录在(b)媒体段的访问信息(sidx)中的随机访问点被称为DASH中的“SAP”。
例如,SAP指示其中解码流所需的所有状态可以被重设的图像序列的第一图片的第一字节位置。具体来说,例如,其是指示例如MPEG数据的帧内图片的位置的信息。
例如,作为片段存储媒体数据(mdat)的再现时间信息的表示时间被记录在对应于存储在片段80中的媒体数据(mdat)的元数据(moof)中。
目前,存储在一个片段80中的媒体数据(mdat)通常设置为作为DASH的控制目标的内容流的处理单元(块)。处理单元(块)为例如作为运动图像专家组(MPEG)编码的处理单位的图片组(GOP)。
GOP通常设置为具有约0.5秒至2秒的再现时段的数据并被操作。
然而,如果一个GOP单元的数据被用作存储在一个片段80中的媒体数据(mdat),则延迟可能在数据传递或再现处理中发生,并且麻烦可能在实时再现中发生。
例如,当传递实况转播图像时,传输装置20对从相机输入的实时图像数据执行编码处理,并且按顺序生成媒体段60。当存储在媒体段60的每个片段80中的媒体数据(mdat)为GOP单元的编码数据时,传输装置30生成作为GOP单元的编码数据的媒体数据(mdat),并且生成描述属性信息(诸如生成的媒体数据(mdat)的表示时间)的元数据(moof)。
因此,当按这个顺序生成每一块数据时,很难生成GOP的元数据(moof),除非相应的GOP单元的每个编码数据的数据范围被决定。
因此,在媒体数据(mdat)的数据范围被决定之后生成元数据(moof),并且必须在对应于一个GOP单元的时段(0.5秒至2秒)的时段内执行每个元数据(moof)的生成处理。
将参照图4描述在存储在配置媒体段60的片段80中的媒体数据(mdat)被用作GOP单元的编码数据时的片段生成顺序。
图4中所示的实例为在根据在MPEG中指定的MP4文件格式(编码格式)存储在媒体段60中存储的媒体数据(mdat)时的顺序实例。
MP4文件格式的数据部分被分为作为基本存储单元的样本。每个样本被配置具有一个或多个网络抽象层(NAL)单元。NAL单元为MPEG编码数据的分段数据,例如,切片单元的分段数据。
对应于一个GOP的编码数据被配置具有如图4(a)中所示的多个NAL单元。
图4图示
(a)在上部的配置GOP的NAL单元,以及
(b)在下部的片段生成处理顺序。
在(b)片段生成处理顺序的底部图示时间轴。时间从左到右流逝,并且传输装置20执行每个处理,并根据时间轴生成片段。
传输装置生成存储生成的片段的媒体段,然后生成存储媒体段的HTTP分组、生成存储HTTP分组的IP分组,并且传输IP分组。
将描述在图4(b)中所示的片段生成处理顺序。
传输装置20根据MP4文件格式按以下顺序生成存储编码数据的片段。
时段t0至t1:生成存储配置GOP的多个NAL单元的样本1。
时段t2至t3:生成存储配置GOP的多个NAL单元的样本2。
时段t4至t5:生成存储配置GOP的多个NAL单元的样本3。
因此,存储配置一个GOP的所有NAL单元的样本的生成完成。
样本1至3被设置为媒体段的片段中的媒体数据(mdat)。
时段t6至t7:生成作为存储在样本1至3中的GOP编码数据的属性信息的元数据(moof)。
时段t8至t9:生成其中被配置具有样本1至3的媒体数据(mdat)与样本1至3的元数据(moof)组合的片段。
此后,传输装置20生成包括根据上述处理生成的片段的媒体段、生成具有媒体段作为有效载荷的分组,并且将生成的分组传输到接收装置30。
在生成片段时,传输装置20需要检查例如存储在片段中的GOP单元的媒体数据(mdat)的再现时段、根据再现时段生成GOP数据单元的属性信息(诸如表示时间),并且将属性信息记录在元数据(moof)中。
目前,进行数据传递的图像数据主要是高清晰度支持的图像数据,但在未来,随着图像质量的提高,例如,具有大数据量(诸如4K图像)的数据传递预期增加。有一种可能性,即流的比特率将增加以便支持这种大容量的数据传递。
随着数据量由于图像质量的提高而增加,每个GOP单元的数据量也增加。因此,如果如上文参照图4所述按顺序生成和传输一个GOP单元的片段,则传输侧的处理间隔增加。每单位的传输数据的数据量也增加。因此,当很难确保足够的通信频带时,在网络传输中传输延迟的发生概率增加。
另外,接收装置侧的分组接收间隔增加,每个分组的数据接收量增加,并且在接收装置侧所需的数据缓冲量也增加。此外,当分组接收错误发生从而执行重发处理时,延迟量急剧增加,并且实时再现很可能崩溃。
[3.传输数据的分割处理配置]
下文将描述示例性配置,其中通过分割从传输装置20传输到接收装置30的传输数据使每个传输分组的传输数据量(即,每单位的传输数据量)减少以便解决上述问题。
在图4中所示的片段生成顺序中,设置为片段的媒体数据(mdat)被用作一个GOP单元的数据,并且生成对应于一个GOP单元的媒体数据(mdat)的元数据(moof)。换句话说,每个元数据(moof)是对应于一个GOP单元的媒体数据(mdat)的元数据。
在图4中所示的顺序中,根据一个GOP的数据量决定元数据(moof)的生成定时。因此,当包括在一个GOP中的数据量增加时,元数据(moof)的生成定时被延迟,并且片段的生成处理、媒体段的生成处理和传输分组的生成处理也被延迟。因此,每个分组的数据量增加,传递延迟的概率增加。
作为用于防止这种情况的配置,将参照图5描述其中通过分割除了一个GOP单元的数据以外的一个GOP获得的数据被设置为片段中的媒体数据(mdat)的示例性配置。
图5图示实例,其中通过分割除了一个GOP单元的数据以外的一个GOP,具体来说,作为一个GOP的构成数据的一个或多个NAL单元而获得的数据被设置为片段中的媒体数据(mdat)。
类似于图4(a),图5(a)图示配置GOP的NAL单元。
图5(b1)至图5(b3)图示其中作为一个GOP的构成数据的NAL单元以分布式的方式被存储为媒体数据(mdat)的多个媒体段。
如图5(b1)至图5(b3)中所示,其中被配置具有作为GOP数据的分段数据的一个或多个NAL单元的媒体数据(mdat)被存储的媒体段在下文中被称为“子GOP媒体段”。
在图5中,一块GOP数据被存储在三个子GOP媒体段中,但用于存储一个GOP数据的子GOP媒体段的数量可以被设置为2或更多的任意数。
在图5(b1)至图5(b3)的所有子GOP媒体段中,多个NAL单元被设置为媒体数据(mdat),但一个NAL单元可以被设置为媒体数据(mdat)。
传输装置20生成图5(b1)至图5(b3)中所示的子GOP媒体段、将每个生成的子GOP媒体段设置为个别HTTP分组的有效载荷,并且通过网络或广播波传输HTTP分组。
存储在图5(b1)至图5(b3)的子GOP媒体段中的元数据(moof)为包括对应于存储在个别子GOP媒体段中的媒体数据(mdat)的属性信息的元数据。
通过执行这种设置,通过网络或广播波传输的每个分组的数据量减少,并且在传输装置侧在一个分组生成处理中所需的时段减少。另外,分组延迟的概率减少,并且在分组丢失时的重发处理延迟也减少。因此,在接收装置30中实施具有小错误的实时再现。
将参照图6描述其中HTTP报头被设置为子GOP媒体段的HTTP分组的示例性配置。
图6图示两个HTTP分组配置实例。
图6(a)和图6(b)中所示的分组之间的差异在于是否有存储随机访问信息等的[sidx]。
sidx是存储在媒体段中的多个子段的边界信息,或指示例如作为存储在媒体段中的编码内容的媒体数据(mdat)的随机访问点的访问信息,如上文参照图3所述。在DASH中,访问信息被称为SAP。例如,SAP指示其中解码流所需的所有状态可以被重设的图像序列的第一图片的第一字节位置。具体来说,例如,其对应于MPEG数据的帧内图片的位置。
图6(b)中所示的HTTP分组为不包括sidx的分组。图6(b)中所示的HTTP分组不包括作为存储在分组中的媒体数据(mdat)的访问点的图片数据。
当作为访问点的数据不包括在分组存储媒体数据(mdat)中时,指示访问点的数据是不必要的。因此,sidx不设置为图6(b)中所示的HTTP分组。
另一方面,sidx设置为包括子GOP媒体段的分组,在子GOP媒体段中包括作为访问点的数据的媒体数据(mdat)被存储,如图6(a)中所示。
在本实施方案中,如上文参照图5和图6所述,一个GOP的构成数据被分配给多个分组并被传输。
接收装置30按顺序接收多个分组,并且获取以分布式的方式存储在分组中的GOP的构成数据。当执行GOP单元的解码处理时,必须收集存储在多个分组中的GOP的所有构成数据,并且以正确的顺序布置GOP的构成数据(NAL单元)来重新配置GOP数据。
下文将描述用于在接收装置侧顺利执行处理的附加信息(诸如应用于GOP重新配置处理的信息)的设置实例。
[4.附加信息被记录在HTTP报头中的实施方案]
首先,将描述用于在接收装置侧顺利执行处理的附加信息(诸如应用于GOP重新配置处理的信息)被记录在HTTP分组的HTTP报头中的实施方案。
将参照图7和图8描述HTTP报头的记录信息。
类似于上文参照图5所述的实例,图7图示其中一个GOP数据以分布式的方式存储在三个子GOP媒体段中的HTTP分组的示例性配置。
以下两条标识信息被记录在三个HTTP分组的HTTP报头中,如图7中所示:
(1)段标识符(Content-Location);以及
(2)GOP内位置标识信息(X-(Start/Middle/End)ofGOP)。
(1)段标识符是包括存储在HTTP分组中的段的内容位置信息、段的类型,以及存储在分组中的媒体数据(mdat)所属的GOP的标识信息的数据。具体来说,可以记录GOP数据的位置信息(诸如URL等的访问信息)。
接收分组的接收装置30可以确定其中记录相同段标识符(Content-Location)的HTTP分组是存储属于相同GOP的媒体数据(mdat)的HTTP分组。
(2)GOP内位置标识信息是指示其中存储在HTTP分组中的媒体数据(mdat)位于一个GOP中的位置的数据。
GOP内位置标识信息是X-StartofGOP的分组是将NAL单元存储在作为媒体数据(mdat)的GOP数据的头部区域中的分组。
GOP内位置标识信息是X-MiddleofGOP的分组是将NAL单元存储在作为媒体数据(mdat)的GOP数据的中间区域中的分组。
GOP内位置标识信息是X-EndofGOP的分组是将NAL单元存储在作为媒体数据(mdat)的GOP数据的尾部区域中的分组。
此外,当一个GOP数据分配给四个或更多个子GOP媒体段时,生成其中GOP内位置标识信息=X-MiddleofGOP被设置的多个分组。基于除HTTP报头之外的分组报头信息可以确定存储在分组中的媒体数据(mdat)在GOP数据内的布置。
例如,参考存储HTTP分组的LCT分组的LCT报头中所记录的分组序列号可以确定媒体数据(mdat)在GOP数据内的布置。后面将描述传输分组的特定配置和LCT报头的特定配置。
因此,例如,在HTTP分组被存储在LCT分组中并被传输的配置中,设置为HTTP报头的GOP内位置标识信息仅可以被设置用于其中GOP位置是头部区域的存储数据的分组。换句话说,仅可以记录GOP内位置标识信息=X-StartofGOP,并且可以参考LCT报头的序列号布置随后的GOP数据。
图8图示存储媒体段的HTTP分组的HTTP报头的示例性数据配置。
例如,如图8中所示,以下HTTP报头信息被记录在HTTP报头中:
“...
HTTP/1.1 206Partial Content
Date:Fri,04Oct 2013 11:14:20GMT
Content-type:application/mp4
Content-Location:http://a.com/x.mp4
X-StartOfGOP
...”
在HTTP报头信息中,
段标识符是
“Content-Location:http://a.com/x.mp4”。
段标识符包括存储在HTTP分组中的媒体数据(mdat)所属的GOP的标识信息。具体来说,段标识符是GOP数据的位置信息(访问信息)。
可以确定其中记录相同段标识符(Content-Location)的HTTP分组是存储属于相同GOP的媒体数据(mdat)的HTTP分组。
在HTTP报头信息中,
GOP内位置标识信息是
“X-StartOfGOP”。
GOP内位置标识信息是指示存储在HTTP分组中的媒体数据(mdat)位于一个GOP中的位置的数据。
以下数据中的任何一个作为GOP内位置标识信息被记录在HTTP报头中:
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的头部区域中时,则“X-StartOfGOP”;
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的中间区域中时,则“X-MiddleOfGOP”;以及
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的尾部区域中时,则“X-EndOfGOP”。
接着,将参照图9描述存储初始化段的HTTP分组的HTTP报头的记录信息。
指示HTTP分组是存储初始化段的分组的段标识信息被记录在存储初始化段的HTTP分组的HTTP报头中。
图9图示存储初始化段的HTTP分组的HTTP报头的示例性数据配置。
例如,如图9中所示,以下HTTP报头信息被记录在HTTP报头中:
“...
HTTP/1.1 206Partial Content
Date:Fri,04Oct 2013 11:14:20GMT
Content-type:application/mp4
Content-Location:http://a.com/x-init.mp4
X-InitializationSegment
...”
在HTTP报头信息中,
段标识符是
“Content-Location:http://a.com/x-init.mp4”。
访问信息(诸如初始化段的URL)可以被记录为段标识符。
在HTTP报头信息中,
段标识信息是
“X-InitializationSegment”。
段标识信息是指示存储在HTTP分组中的段是初始化段的信息。
段标识信息被记录在存储初始化段的HTTP报头中。
[5.分组的配置]
接着,将描述从传输装置传输到接收装置的分组的示例性配置。
图10图示以下两个IP分组的示例性配置:
(1)初始化段存储IP分组;以及
(2)媒体段存储IP分组。
(1)初始化段存储IP分组具有以下配置:
IP报头;
UDP报头;
LCT报头;
HTTP报头;
初始化段构成数据[dash];以及
初始化段构成数据[moov]。
IP报头、UDP报头、LCT报头和HTTP报头分别是根据IP协议、UDP协议、FLUTE协议和HTTP协议的通信协议设置的报头信息。
同时,(2)媒体段存储IP分组具有以下配置:
IP报头;
UDP报头;
LCT报头;
HTTP报头;
媒体段构成数据[msdh];
媒体段构成数据[sidx];
媒体段构成数据[moof];以及
媒体段构成数据[mdat]。
IP报头、UDP报头、LCT报头和HTTP报头分别是根据IP协议、UDP协议、FLUTE协议和HTTP协议的通信协议设置的报头信息。
如上所述,在具有适用于随机访问的媒体数据(mdat)的分组中设置,但不在其他分组中设置媒体段构成数据[sidx]。
传输装置20生成图10中所示的IP分组,并且将生成的IP分组传输到接收装置30。
接收装置30接收图10中所示的从接收装置20接收的分组、分析报头信息、获取段,并且根据段存储数据执行初始设置或内容再现。
[6.传输装置和接收装置的配置和处理]
接着,将参照图11和随后的附图描述传输装置和接收装置的配置和处理。
首先,将参照图11描述传输装置20和接收装置30以及协议栈的配置。
生成并传输上文参照图10所述的IP分组的传输装置20包括如图11中所示的数据处理单元21和通信单元22。
数据处理单元21执行传输分组的生成处理。
具体来说,例如,如上所述,只包括图片组(GOP)(其作为编码数据的处理单元)的构成数据的一部分的媒体数据(mdat)和存储对应于媒体数据的元数据(moof)的子GOP媒体段被生成为分组存储数据。此外,生成其中额外的分组信息(诸如GOP内位置标识符,其用于识别作为子GOP媒体段的存储数据的媒体数据的GOP内位置)被生成并记录在HTTP报头中的分组。
通信单元22传输由数据处理单元21生成的分组。
通信单元22通过广播波或网络(诸如互联网)执行由数据处理单元21生成的分组的广播传递或多播传递。
数据处理单元21和通信单元22执行分组生成处理并且根据包括以下各层的协议栈传输生成的分组。下文将描述传输装置20的协议栈的层配置。传输装置20的协议栈具有从上层到下层的以下层配置:
(1)DASH服务器:根据DASH标准执行诸如段生成的处理的应用层;
(2)视频/音频/子标题等:执行生成并且获取传输目标内容的应用层;
(3)分段的MP4:根据MP4文件格式生成编码数据并且生成段的应用层;
(4)HTTP:根据HTTP协议生成包括HTTP报头的HTTP分组的层;
(5)FLUTE/ALC(LCT):根据FLUTE协议生成包括LCT报头的FLUTE分组的层;
(6)UDP:根据UDP协议生成包括UDP报头的UDP分组的层;
(7)IP:根据IP协议生成包括IP报头的IP分组的层;以及
(8)PHY:被配置具有例如生成并传输IP分组或存储IP分组等的MAC帧的通信单元的物理层。
接收上文参照图10所述的IP分组的接收装置30包括如图11中所示的数据处理单元31和通信单元32。
通信单元32接收由传输装置20传输的分组,并且数据处理单元31接收由通信单元31接收的分组并且对分组执行数据处理。
数据处理单元31和通信单元32根据包括以下各层的协议栈执行分组的接收和分析。接收装置30的协议栈具有从上层到下层的以下层配置:
(1)DASH客户端:根据DASH标准执行诸如段的分析的处理的应用层;
(2)视频/音频/子标题等:例如执行接收内容的获取和再现处理的应用层;
(3)分段的MP4:例如根据MP4文件格式执行编码数据的解码处理的应用层;
(4)HTTP:根据HTTP协议分析包括HTTP报头的HTTP分组的层;
(5)FLUTE/ALC(LCT):根据FLUTE协议分析包括LCT报头的FLUTE分组的层;
(6)UDP:根据UDP协议分析包括UDP报头的UDP分组的层;
(7)IP:根据IP协议分析包括IP报头的IP分组的层;以及
(8)PHY:被配置具有例如接收IP分组或存储IP分组的MAC帧的通信单元的物理层。
如上所述,当IP分组是广播或多播时,传输装置20经由网络使用传输执行传输处理,使用广播波执行传输处理,或使用这两个传输的通信路径执行并行传输处理。
接收装置30使用广播波和网络(诸如互联网)中的任一个的通信路径或这两个通信路径来执行分组接收处理。
通过用TCP层代替图11中所示的FLUTE/ALC(LCT)层和UDP层,可以执行经由网络(诸如互联网)传输或接收的分组的生成和分析。
将参照图12描述执行适当地切换通过广播波接收的IP分组和经由网络(诸如互联网)接收的IP分组的处理的接收装置30的协议栈的实例。
在图12中所示的接收装置30的协议栈中,图示对应于以下两个通信系统的协议栈的层配置。
(1)广播系统;以及
(2)网络通信系统。
(1)广播系统具有上文参照图11所述的层配置。
(2)网络通信系统具有其中用TCP层代替广播系统层的FLUTE/ALC(LCT)层和UDP层的配置。
在TCP层中,分析包括TCP报头的TCP分组。
信令层是用于执行通信系统的切换控制的层。
通过适当地切换并使用广播系统与网络通信系统的层,接收装置30可以选择性地使用通过广播波接收的分组或经由网络(诸如互联网)接收的分组来获取分组存储内容,并且执行再现处理。
例如,当从网络的分组接收发生延迟时,执行切换到广播系统,通过广播波接收对应于相同内容的分组,因此可以继续内容再现。
段标识符和GOP内位置标识符被记录在通过网络通信系统和广播系统中的任一个传递的分组中,因此可以参考标识信息来重建GOP数据,并且实施了无错解码处理和无错内容再现。
[7.添加用于识别存储在分组中的NAL单元是否包括流访问点(SAP)的访问点信息的配置]
接着,作为用于实施接收装置的高效处理的示例性配置,将描述添加用于识别SAP(访问点数据)是否包括在NAL单元中的标识信息的配置,所述NAL单元作为存储在分组中的NAL单元片段的分割源。
如上文参照包括图3的附图所述,流访问点(SAP)是作为随机访问点的数据的存储位置信息。在DASH中,随机访问点被称为SAP。例如,SAP指示其中解码流所需的所有状态可以被重设的图像序列的第一图片的第一字节位置。具体来说,例如,其是指示例如MPEG数据的帧内图片的位置的信息。
如上文参照图3(b)所述,SAP被存储在作为媒体段的元信息的[sidx]中。
接收装置侧可以在由SAP指示的数据位置获取编码数据,并且通过对获取的数据执行解码处理来执行再现。
因此,当执行特殊的再现处理时,例如,当从内容中间执行再现时,SAP成为重要和必要的数据。例如,通过获取由SAP指定的编码数据而没有布置所有GOP数据和解码编码数据,随机访问点的图像可以减少。
此外,例如,当由于传递延迟等没有及时接收GOP单元的所有编码数据的分组时,可以优先处理由SAP指定的随机访问点数据。通过选择、解码和再现随机访问点数据,图像可以连续显示在显示单元上。如上所述,即使当确定处理优先级时,SAP也成为重要的数据。
当然在一个GOP单元数据中有随机访问点。然而,如上文参照图5至图10所述,在用于存储一个或多个NAL单元(一个分组的存储数据的一个GOP而不是一个GOP单元的数据被分割成这些NAL单元)的分组中,随机访问点可以或可以不被包括在存储在分组中的NAL单元中。
在上文参照图5至图10所述的配置中,包括作为元数据的“sidx”的分组和不包括作为元数据的“sidx”的分组被设置为子GOP媒体段HTTP分组,例如,如图7中所示。
当对应于随机访问点的数据被包括在存储于子GOP媒体段HTTP分组中的NAL单元中时,设置存储SAP的[sidx]。
然而,[sidx]不仅是作为媒体数据的随机访问点信息的SAP,而且也是包括其他数据的边界信息的元数据,并且很难根据[sidx]的存在或不存在确定作为访问点的数据是否被包括在分组存储数据中。
因此,在使用子GOP媒体段HTTP分组的编码数据传递配置中,接收装置侧很难确定访问点数据是否被包括在以接收的分组为单位的分组中。
下文将描述使接收装置侧能够确定访问点数据是否被包括在以接收的分组为单位的分组中以便解决上述问题的配置。
将参照图13和随后的附图描述在使用子GOP媒体段HTTP分组的编码数据传递配置中,使接收装置侧能够确定访问点数据是否被包括在以分组为单位的分组中的配置。
类似于上述图5和图7的实例,图13图示其中一个GOP数据以分布式的方式存储在三个子GOP媒体段中的HTTP分组的示例性配置。
上文参照图7所述的以下附加信息被记录在三个HTTP分组的HTTP报头中:
(1)段标识符(Content-Location);以及
(2)GOP内位置标识信息(X-(Start/Middle/End)ofGOP)。
此外,在图13中所示的实例中,以下附加信息被另外记录在HTTP报头中:
(3)访问点信息(X-SAP)。
记录这三条信息。
(1)段标识符是包括存储在HTTP分组中的段的内容位置信息、段的类型,以及存储在分组中的媒体数据(mdat)所属的GOP的标识信息的数据。具体来说,可以记录GOP数据的位置信息(诸如URL等的访问信息)。
接收分组的接收装置30可以确定其中记录相同段标识符(Content-Location)的HTTP分组是存储属于相同GOP的媒体数据(mdat)的HTTP分组。
(2)GOP内位置标识信息是指示其中存储在HTTP分组中的媒体数据(mdat)位于一个GOP中的位置的数据。
GOP内位置标识信息是X-StartofGOP的分组是将NAL单元存储在作为媒体数据(mdat)的GOP数据的头部区域中的分组。
GOP内位置标识信息是X-MiddleofGOP的分组是将NAL单元存储在作为媒体数据(mdat)的GOP数据的中间区域中的分组。
GOP内位置标识信息是X-EndofGOP的分组是将NAL单元存储在作为媒体数据(mdat)的GOP数据的尾部区域中的分组。
此外,当一个GOP数据分配给四个或更多个子GOP媒体段时,生成其中GOP内位置标识信息=X-MiddleofGOP被设置的多个分组。基于除HTTP报头之外的分组报头信息可以确定存储在分组中的媒体数据(mdat)在GOP数据内的布置。
例如,参考存储HTTP分组的LCT分组的LCT报头中所记录的分组序列号可以确定媒体数据(mdat)在GOP数据内的布置。后面将描述传输分组的特定配置和LCT报头的特定配置。
因此,例如,在HTTP分组被存储在LCT分组中并被传输的配置中,设置为HTTP报头的GOP内位置标识信息仅可以被设置用于其中GOP位置是头部区域的存储数据的分组。换句话说,仅可以记录GOP内位置标识信息=X-StartofGOP,并且可以参考LCT报头的序列号布置随后的GOP数据。
(3)访问点信息(X-SAP)是指示作为随机访问点的数据是否被包括在编码数据中的信息,所述编码数据被包括在存储于HTTP分组中的媒体数据(mdat)中。
接收装置可以立即确定存储在HTTP分组中的媒体数据中的NAL单元是否包括参考访问点信息(X-SAP)的访问点数据。
因此,例如,仅当优先解码和再现访问点数据时,可以参考记录在HTTP报头中的访问点信息(X-SAP)来选择处理目标分组。换句话说,仅可以选择和处理其中记录在HTTP报头中的访问点信息(X-SAP)指示访问点被包括在分组存储数据(NAL单元)中的分组。
在图13中所示的实例中,对图13(b1)至图13(b3)的所有HTTP分组设置访问点信息(X-SAP),并且访问点信息(X-SAP)指示作为随机访问点的数据是否被包括在编码数据中,所述编码数据被包括在存储于每个HTTP分组中的媒体数据(mdat)中。
除了这种配置,例如,仅当作为随机访问点的数据被包括在编码数据中时,所述编码数据被包括在存储于HTTP分组中的媒体数据(mdat)中,访问点信息(X-SAP)可以被记录在HTTP分组的HTTP报头中。换句话说,当作为随机访问点的数据不被包括在编码数据中时,所述编码数据被包括在存储于HTTP分组中的媒体数据(mdat)中,访问点信息(X-SAP)不被记录在HTTP报头中。例如,当作为随机访问点的数据不被包括在图13(b2)和图13(b3)中所示的HTTP分组中时,访问点信息(X-SAP)不被记录在HTTP报头中。
在这种设置的情况下,接收装置根据访问点信息(X-SAP)是否被记录在HTTP报头中确定作为随机访问点的数据是否被包括在编码数据中,所述编码数据被包括在存储于HTTP分组中的媒体数据(mdat)中。
访问点信息(X-SAP)是识别以分组为单位的随机访问的数据的存在或不存在的信息。接收装置侧可以参考每个分组的访问点信息(X-SAP)来识别存储随机访问的数据的分组。例如,通过优先处理存储随机访问的数据的分组,接收装置可以从随机访问点快速执行例如数据再现处理。
图14图示存储媒体段的HTTP分组的HTTP报头的示例性数据配置。
例如,如图14中所示,以下HTTP报头信息被记录在HTTP报头中:
“...
HTTP/1.1 206Partial Content
Date:Fri,04Oct 2013 11:14:20GMT
Content-type:application/mp4
Content-Location:http://a.com/x.mp4
X-StartOfGOP
X-SAP
...”
在HTTP报头信息中,段标识符“Content-Location:http//:a.com/x.mp4”和GOP内位置标识信息“X-StartOfGOP”是与上文参照图8所述的信息相同的信息。
换句话说,段标识符是GOP数据的位置信息(访问信息),所述GOP数据作为存储在HTTP分组中的媒体数据(mdat)所属的GOP的标识信息。
GOP内位置标识信息是指示其中存储在HTTP分组中的媒体数据(mdat)位于一个GOP中的位置的数据。
以下数据中的任何一个作为GOP内位置标识信息被记录在HTTP报头中:
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的头部区域中时,则“X-StartOfGOP”;
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的中间区域中时,则“X-MiddleOfGOP”;以及
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的尾部区域中时,则“X-EndOfGOP”。
在图14中所示的HTTP报头信息中,
访问点信息“X-SAP”是指示作为随机访问点的数据是否被包括在编码数据中的信息,所述编码数据被包括在存储于HTTP分组(NAL)中的媒体数据(mdat)中。
接收装置可以参考访问点信息(X-SAP)立即确定访问点是否被包括在以接收的分组为单位的分组存储媒体数据中的NAL单元中。
接收装置可以只选择包括访问点的分组并且优先解码和再现分组的存储数据。例如,当由于传递延迟等没有及时接收GOP单元的所有编码数据的分组时,通过优先解码和再现随机访问点数据,图像可以连续显示在显示单元上。
[8.使用通过进一步分割NAL单元获得的NAL单元片段存储分组的通信处理配置]
如上所述,通过使用包括作为GOP的分区数据的一个或多个NAL单元的分组来传输和接收数据,网络上的每个传送分组的数据量减少。
然而,例如,对于作为高质量图像数据的具有大数据量(诸如4K内容或8K内容)的图像数据,由大容量图像数据的编码处理生成的NAL单元的数据量增加。换句话说,考虑一个NAL单元的数据量是非常大的情况。
在IP层中的数据传送处理中,例如,当经由以太网(注册商标)执行数据传送时,必须使用等于或小于在以太网(注册商标)中指定的最大数据传送单位(最大传送单位(MTU))的MAC帧来生成和传送IP分组。
换句话说,当经由其中指定最大数据传送单位(MTU)的网络传送分组时,必须执行将具有MTU的数据量或更多的IP分组分成具有由MTU指定的数据量或更少的分区数据的分段处理,以及生成和传送多个MAC帧的处理,每个MAC帧存储分区数据。
例如,在以太网(注册商标)中指定的MAC帧的帧单元的最大数据传送量(MTU)是约1,500字节。
MAC帧具有例如图15中所示的配置,即,其中MAC报头被设置为上文参照图10所述的IP分组的报头的配置。例如,在图15中所示的MAC帧中,必须将IP报头的数据量设置为作为MAC帧的有效载荷的媒体数据mdat,使得MTU是1,500字节或更少。
当执行从传输装置20到接收装置30的分组传输时,根据MTU的破碎化,即,分组分割处理和分区数据重新配置处理可能在传输装置20与接收装置30之间的通信或传输装置20与接收装置30之间的中继装置等中被反复执行。
如果这种情况发生,则增加了一种可能性,即从传输装置20中的内容输入到接收装置30中的内容再现的时段将被延迟,并且内容再现延迟将发生在接收装置30中。
下文将描述用于防止这种情况的配置。
在下文将描述的实施方案中,传输装置20在分组生成处理的阶段在HTTP层中将分组的数据大小设置为预定大小或更小。具体来说,分组的数据大小被设置为等于或小于在通信路径中假设的最大数据传送单位(MTU)的数据大小。具体来说,例如,生成和传输用于存储通过进一步分割一个NAL单元获得的NAL单元片段的分组。
如上所述,例如,在以太网(注册商标)中指定的MAC帧的帧单元的一般最大数据传送量(MTU)是约1,500字节。
传输装置20的数据处理单元在HTTP分组生成的阶段基于MTU执行分组生成。例如,执行分组生成,使得存储HTTP分组的MAC帧的帧大小是1,500字节或更少。
通过使用传输装置20的数据处理单元,基于通信路径中的最大数据传送量(MTU)执行分组生成处理,在传输装置、中继装置或接收装置的IP层中根据MTU的作为分组分割处理的破碎化是不必要的,并且可以顺利执行数据传送。
如上所述,传输装置20的数据处理单元在HTTP分组生成的阶段执行将分组存储数据设置为等于或小于在通信路径中指定的MTU的片段的处理。通过这个处理,例如,在通信路径的IP层中由破碎化处理引起的开销减少。
在上文参照包括图5的附图所述的实例中,一个或多个NAL单元被用作媒体数据(mdat)并且与作为属性数据的元数据(moof)结合以生成一个片段,并且生成用于存储包括片段的子GOP媒体段的HTTP分组。
在下文将描述的实施方案中,生成用于存储通过分割作为媒体数据(mdat)的一个NAL单元获得的NAL单元片段(NALf)的HTTP分组。
此外,对应于NAL单元的属性数据(moof)被存储在与媒体数据(mdat)存储分组不同的独立分开的HTTP分组中并且被传递。
将参照图16描述本实施方案中的HTTP分组的示例性配置。
图16(a)图示上文参照图5至图7等所述的子GOP媒体段。换句话说,子GOP媒体段是其中作为通过分割GOP获得的数据的一个或多个NAL单元被存储为媒体数据(mdat)的段。
然而,图16(a)中所示的子GOP媒体段是只有一个NAL单元被存储为媒体数据(mdat)的实例。NAL单元的数量不限于1,并且可以存储多个NAL单元。
在本实施方案中,通过进一步分割图16(a)中所示的子GOP媒体段来生成多个HTTP分组。基于通信路径中的最大数据传送量(MTU)执行分割处理。例如,当生成存储分割的HTTP分组的MAC帧时,执行分割处理使得数据量等于或小于在MAC帧中所允许的最大数据传送单位(MTU)。
在分割处理时,执行分割一个或多个NAL单元的NAL单元分割处理。在下文中,通过分割NAL单元获得的数据被称为“NAL单元片段(NALf)”。
此外,通过分割子GOP媒体段的构成数据生成的HTTP分组被称为“NAL单元片段对应HTTP分组”。
在图16中所示的实例中,图16(a)中所示的子GOP媒体段的构成数据被分成四个HTTP分组(b1)至(b4)。
在图16(b1)至图16(b4)中所示的四个NAL单元片段对应HTTP分组中的每个中,当HTTP分组具有图15中所示的MAC帧配置时,不包括MAC报头的数据部分的数据量被设置为1,500字节或更少。
图16(b1)中所示的NAL单元片段对应HTTP分组是存储图16(a)中所示的子GOP媒体段的元数据区域(即,诸如msdh(stype)、sidx和moof的元数据)的HTTP分组。换句话说,图16(b1)中所示的NAL单元片段对应HTTP分组是元数据存储类型的NAL单元片段对应HTTP分组。
图16(b2)至图16(b4)中所示的NAL单元片段对应HTTP分组是存储通过分割图16(a)中所示的子GOP媒体段的媒体数据(mdat)区域中的NAL单元生成的NAL片段(NALf)的HTTP分组。换句话说,图16(b2)至图16(b4)中所示的NAL单元片段对应HTTP分组是媒体数据存储类型的NAL单元片段对应HTTP分组。
只有一个NAL单元被存储在图16(a)中所示的子GOP媒体段中,但有一个NAL单元被存储在如图16(a)中所示的子GOP媒体段中的情况和两个或更多个NAL单元被存储在子GOP媒体段中的情况。NAL单元片段的构成数据不限于一个NAL单元,并且可以是包括多个NAL单元的数据。例如,前一个NAL单元的后半部分可以与随后NAL单元的头部结合以设置一个NAL单元片段。
传输装置20通过分割如上所述的一个子GOP媒体段来生成多个HTTP分组、从HTTP分组中生成IP分组,并且按顺序传输IP分组。
然而,当如上所述分割和传递一个原始NAL单元和其属性信息时,必须重建NAL单元和其属性信息使得接收装置30侧执行解码处理和再现处理。
此处理所需的信息作为附加信息被记录在HTTP报头中。
以下附加信息被记录在图16(b1)中所示的元数据存储类型的NAL单元片段对应HTTP分组的HTTP报头中:
*NAL单元片段报头[X-NALUFragmentSubSegmentHeader];
*电影片段序列号[X-MovieFragmentSequenceNumber];以及
*访问点信息[X-SAP]。
NAL单元片段报头是用于识别HTTP分组是元数据存储类型的NAL单元片段对应HTTP分组还是媒体数据存储类型的NAL单元片段对应HTTP分组的标识信息。
电影片段序列号是在分割之前被记录在子GOP媒体段的元数据(moof)中的序列号,并且作为存储在子GOP媒体段中的NAL单元的布置信息。作为序列号,在分割之前被记录在子GOP媒体段的元数据(moof)中的序列号被无变化地复制并被记录。
访问点信息是指示作为随机访问点的数据是否被包括在存储于子GOP段(图16(a)的子GOP媒体段)中的NAL单元中的信息,所述子GOP段作为HTTP分组的生成源。
接收装置可以参考访问点信息(X-SAP)立即确定HTTP分组是否是基于子GOP段的构成数据生成的数据,所述子GOP段包括作为随机访问点的NAL单元。
当被记录在图16(b1)的元数据存储类型的NAL单元片段对应HTTP分组的HTTP报头中的访问点信息(X-SAP)指示访问点数据被包括在分组生成源的子GOP段中时,可能参考元数据[sidx]获取SAP,即,随机访问点的编码数据的位置。
同时,以下附加信息被记录在图16(b2)至图16(b4)中所示的媒体数据存储类型的NAL单元片段对应HTTP分组的HTTP报头中。
*电影片段序列号[X-MovieFragmentSequenceNumber];
*NAL内单元位置标识信息[X-NALUFragmentIndicator];以及
*访问点信息[X-SAP]。
电影片段序列号是在分割之前被记录在子GOP媒体段的元数据(moof)中的序列号,并且作为存储在如上所述的子GOP媒体段中的NAL单元的布置信息。作为序列号,在分割之前被记录在子GOP媒体段的元数据(moof)中的序列号被无变化地复制并被记录。
NAL内单元位置标识信息是指示在分割之前存储在分组中的NAL单元片段(NALf)所对应的NAL单元的位置的信息。
NAL内单元位置标识信息是X-StartNALUFragmentSubSegment的分组是在分割之前NAL单元的头部区域中的NAL单元片段(NALf)被存储为媒体数据(mdat)的分组。
NAL内单元位置标识信息是X-MiddleNALUFragmentSubSegment的分组是在分割之前NAL单元的中间区域中的NAL单元片段(NALf)被存储为媒体数据(mdat)的分组。
NAL内单元位置标识信息是X-EndNALUFragmentSubSegment的分组是在分割之前NAL单元的尾部区域中的NAL单元片段(NALf)被存储为媒体数据(mdat)的分组。
当存储在一个子GOP媒体段中的NAL单元被分成四个或更多个媒体数据存储类型的NAL单元片段对应HTTP分组时,生成其中NAL内单元位置标识信息=X-MiddleNALUFragmentSubSegment被设置的多个分组。基于除HTTP报头之外的分组报头信息可以确定存储在分组中的媒体数据(mdat)的NAL单元片段(NALf)的布置。
例如,参考存储HTTP分组的LCT分组的LCT报头中所记录的分组序列号可以确定存储在分组中的媒体数据(mdat)的NAL单元片段(NALf)的布置。将在后面描述传输分组的特定配置和LCT报头的特定配置。
因此,例如,在将HTTP分组存储在LCT分组中并且传输所得LCT分组的配置中,设置为HTTP报头的NAL内单元位置标识信息可以被设置为只识别其中位置是头部区域的存储数据的分组。换句话说,仅可以记录NAL内单元位置标识信息=X-StartNALUFragmentSubSegment,并且可以参考LCT报头的序列号布置随后的数据。
访问点信息是指示作为随机访问点的数据是否被包括在存储于子GOP段(图16(a)的子GOP媒体段)中的NAL单元中的信息,所述子GOP段作为HTTP分组的生成源。
接收装置可以参考访问点信息(X-SAP)立即确定HTTP分组是否是基于子GOP段的构成数据生成的数据,所述子GOP段包括作为随机访问点的NAL单元。
图17图示元数据存储类型的NAL单元片段对应HTTP分组的配置和HTTP报头的示例性数据配置。
如图17中所示,例如,以下HTTP报头信息被记录在HTTP报头中:
“...
HTTP/1.1 206Partial Content
Date:Fri,04Oct2013 11:14:20GMT
Content-type:application/mp4
X-NALUFragmentSubSegmentHeader
X-MovieFragmentSequenceNumber:234567
X-SAP
...”
在HTTP报头信息中,
NAL单元片段报头是
“X-NALUFragmentSubSegmentHeader”。
NAL单元片段报头被记录为指示HTTP分组是元数据存储类型的NAL单元片段对应HTTP分组的信息。
在HTTP报头信息中,
电影片段序列号是
“X-MovieFragmentSequenceNumber”。
电影片段序列号是在分割之前被记录在子GOP媒体段的元数据(moof)中的序列号,并且作为存储在如上所述的子GOP媒体段中的NAL单元的布置信息。作为序列号,在分割之前被记录在子GOP媒体段的元数据(moof)中的这个序列号被无变化地复制并被记录。
在HTTP报头信息中,访问点信息是“X-SAP”。
访问点信息是指示作为随机访问点的数据是否被包括在存储于子GOP段中的NAL单元中的信息,所述子GOP段作为HTTP分组的生成源。
接着,将参照图18描述存储媒体数据的媒体数据存储类型的NAL单元片段对应HTTP分组的配置和HTTP报头的示例性数据配置。
如图18中所示,例如,以下HTTP报头信息被记录在HTTP报头中。
“...
HTTP/1.1 206Partial Content
Date:Fri,04Oct 2013 11:14:20GMT
Content-type:application/mp4
X-StartOfGOP
X-MovieFragmentSequenceNumber:234567
X-StartNALUFragmentSubSegment
X-SAP
...”
在HTTP报头信息中,
GOP内位置标识信息是
“X-StartOfGOP”。
GOP内位置标识信息是指示其中存储在HTTP分组中的媒体数据(mdat)位于一个GOP中的位置的数据。
以下数据中的任何一个作为GOP内位置标识信息被记录在HTTP报头中:
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的头部区域中时,则“X-StartOfGOP”;
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的中间区域中时,则“X-MiddleOfGOP”;以及
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的尾部区域中时,则“X-EndOfGOP”。
在HTTP报头信息中,
电影片段序列号是
“X-MovieFragmentSequenceNumber”。
电影片段序列号是在分割之前被记录在子GOP媒体段的元数据(moof)中的序列号,并且作为存储在如上所述的子GOP媒体段中的NAL单元的布置信息。作为序列号,在分割之前被记录在子GOP媒体段的元数据(moof)中的序列号被无变化地复制并被记录。
在HTTP报头信息中,
NAL内单元位置标识信息是
“X-StartNALUFragmentSubSegment”。
NAL内单元位置标识信息是指示在分割之前存储在分组中的NAL单元片段(NALf)所对应的NAL单元的位置的信息。
NAL内单元位置标识信息是X-StartNALUFragmentSubSegment的分组是在分割之前NAL单元的头部区域中的NAL单元片段(NALf)被存储为媒体数据(mdat)的分组。
NAL内单元位置标识信息是X-MiddleNALUFragmentSubSegment的分组是在分割之前NAL单元的中间区域中的NAL单元片段(NALf)被存储为媒体数据(mdat)的分组。
NAL内单元位置标识信息是X-EndNALUFragmentSubSegment的分组是在分割之前NAL单元的尾部区域中的NAL单元片段(NALf)被存储为媒体数据(mdat)的分组。
在HTTP报头信息中,访问点信息是“X-SAP”。
访问点信息是指示作为随机访问点的数据是否被包括在存储于子GOP段中的NAL单元中的信息,所述子GOP段作为HTTP分组的生成源。
[9.传输装置和接收装置的处理顺序]
接着,将参照图19和图20中所示的流程图描述由传输装置和接收装置执行的处理顺序。
首先,将参照图19中所示的流程图描述由传输装置20执行的处理顺序。
图19中所示的流程是用于描述生成和传输基于子GOP媒体段生成的元数据存储类型的NAL单元片段对应HTTP分组或例如上文参照图16所述的图16(a)中所示的媒体数据存储类型的NAL单元片段对应HTTP分组的处理的流程。
这个处理由传输装置20的数据处理单元执行。数据处理单元包括具有程序执行功能的CPU,并且根据存储在存储单元中的程序执行根据图19中所示的流程的处理。
在下文中,将按顺序描述各自的步骤的处理。
(步骤S101)
首先,传输装置的数据处理单元对作为传输目标的内容执行编码处理。例如,执行根据MP4文件格式的编码处理。
(步骤S102)
然后,传输装置生成对应于子GOP媒体段的媒体数据(mdat)。这个处理是生成存储在上文参照包括图5的附图所述的子GOP媒体段中的媒体数据(mdat)的处理。生成包括作为MP4编码数据的GOP数据的一部分(其是配置GOP作为构成数据的一个或多个NAL单元)的媒体数据(mdat)。
(步骤S103)
然后,传输装置生成元数据(moof),元数据(moof)作为对应于在步骤S102中生成的媒体数据(mdat)的属性信息。
(步骤S104)
然后,传输装置生成msdh和sidx,其作为对应于子GOP媒体段的元数据。msdh和sidx是存储在上文参照包括图5的附图所述的子GOP媒体段中的元数据。
(步骤S105)
接着,传输装置分割用于存储子GOP媒体段的元数据(mdat)以生成NAL单元片段(NALf)。执行分割处理使得例如根据MAC帧的一般MTU,MAC帧的有效载荷是约1,500字节或更少。
(步骤S106)
接着,传输装置生成存储NAL单元片段的元数据存储类型的NAL单元片段对应HTTP分组和媒体数据存储类型的NAL单元片段对应HTTP分组的分组报头。
这是上文参照图16、图17和图18所述的HTTP报头信息生成处理。
以下信息被记录在元数据存储类型的NAL单元片段对应HTTP分组的HTTP报头中。
首先,记录指示HTTP分组是元数据存储类型的NAL单元片段对应HTTP分组的NAL单元片段报头。
此外,记录对应于存储在子GOP媒体段中的NAL单元的布置信息的电影片段序列号。作为序列号,在分割之前被记录在子GOP媒体段的元数据(moof)中的序列号被无变化地复制并被记录。
此外,记录访问点信息“X-SAP”。
访问点信息是指示作为随机访问点的数据是否被包括在存储于子GOP段中的NAL单元中的信息,所述子GOP段作为HTTP分组的生成源。
同时,以下信息被记录在媒体数据存储类型的NAL单元片段对应HTTP分组的分组报头中。
GOP内位置标识信息是指示其中存储在HTTP分组中的媒体数据(mdat)位于一个GOP中的位置的数据。
以下数据中的任何一个作为GOP内位置标识信息被记录在HTTP报头中:
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的头部区域中时,则“X-StartOfGOP”;
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的中间区域中时,则“X-MiddleOfGOP”;以及
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的尾部区域中时,则“X-EndOfGOP”。
电影片段序列号是在分割之前被记录在子GOP媒体段的元数据(moof)中的序列号,并且作为存储在子GOP媒体段中的NAL单元的布置信息。作为序列号,在分割之前被记录在子GOP媒体段的元数据(moof)中的序列号被无变化地复制并被记录。
NAL内单元位置标识信息是指示在分割之前存储在分组中的NAL单元片段(NALf)所对应的NAL单元的位置的信息。
访问点信息“X-SAP”:访问点信息是指示作为随机访问点的数据是否被包括在存储于子GOP段中的NAL单元中的信息,所述子GOP段作为HTTP分组的生成源。
在步骤S106中,传输装置以上述方式生成存储NAL单元片段的元数据存储类型的NAL单元片段对应HTTP分组和媒体数据存储类型的NAL单元片段对应HTTP分组的分组报头。
(步骤S107)
接着,在步骤S107中,传输装置生成在步骤S106中生成的HTTP报头被设置的以下HTTTP分组:
元数据存储类型的NAL单元片段对应HTTP分组;以及
媒体数据存储类型的NAL单元片段对应HTTP分组。
(步骤S108和S109)
然后,传输装置通过将LCT报头、UDP报头和IP报头设置为生成的HTTP分组来生成IP分组,并且传输IP分组。通过通信网络(诸如互联网)和广播波中的任一个或这两个通信路径执行传输处理。
图19中所示的流程是用于描述基于媒体段生成的分组的生成/传输处理的流程。当基于初始化段生成分组时,在生成初始化段的构成数据之后,例如,执行将指示初始化段的段标识符记录在HTTP报头中的处理。
接着,将参照图20和图21中所示的流程图描述在接收装置中执行的从分组接收到内容再现的处理顺序。
这个处理由接收装置30的数据处理单元执行。数据处理单元包括具有程序执行功能的CPU,并且根据存储在存储单元中的程序执行根据图20和图21中所示的流程的处理。
在下文中,将按顺序描述各自的步骤的处理。
(步骤S201)
首先,在步骤S201中,接收装置接收来自用户的指定再现内容的信息。例如,内容列表(诸如先前从传输装置接收的程序表)显示在显示单元上,并且基于关于显示信息的用户输入信息决定再现内容。
(步骤S202)
然后,接收装置接收包括对应于被选择为再现目标的所选内容的初始化段的分组,并且获取初始化段。
如上文参照图9所述,段标识信息被记录在存储初始化段的HTTP分组的HTTP报头中,因此有可能参考标识信息来检查存储初始化段的HTTP分组。
(步骤S203)
接收装置根据接收的初始化段的存储数据执行初始化接收装置的处理。具体来说,接收装置获取存储在初始化段中的编解码器设置参数,并且根据获取的参数执行例如编解码器设置。
(步骤S204)
接着,接收装置接收以下分组,这些分组是对应于在步骤S201中选择的所选内容的子GOP媒体段的分割的分组:
存储元数据存储类型的NAL单元片段对应HTTP分组的IP分组;以及
存储媒体数据存储类型的NAL单元片段对应HTTP分组的IP分组。
(步骤S205)
然后,接收装置从接收的分组的HTTP报头获取存储在分组中的数据的以下属性信息:
*NAL单元片段报头;
*GOP内位置标识信息;
*电影片段序列号;
*NAL内单元位置标识信息;以及
*访问点信息。
如上所述,NAL单元片段报头是指示HTTP分组是元数据存储类型的NAL单元片段对应HTTP分组的信息。
GOP内位置标识信息是指示其中存储在HTTP分组中的媒体数据(mdat)位于一个GOP中的位置的数据。
电影片段序列号是在分割之前被记录在子GOP媒体段的元数据(moof)中的序列号,并且作为存储在子GOP媒体段中的NAL单元的布置信息。
NAL内单元位置标识信息是指示在分割之前存储在分组中的NAL单元片段(NALf)所对应的NAL单元的位置的信息。
访问点信息“X-SAP”是指示作为随机访问点的数据是否被包括在存储于子GOP段中的NAL单元中的信息,所述子GOP段作为HTTP分组的生成源。
(步骤S206)
然后,在步骤S206中,接收装置确定是否执行其中将优先解码和再现访问点数据的特殊的再现。
例如,确定是否执行特殊的再现处理,诸如从内容中间的再现处理(诸如随机访问再现处理)。基于用户的输入信息等决定这个确定处理。
当执行特殊的再现处理时,处理进入步骤S207。当执行正常的再现处理时,处理进入步骤S208。
(步骤S207)
当确定在步骤S206中执行特殊的再现处理(诸如随机访问再现处理)时,处理进入步骤S207。在步骤S207中,选择其中记录在分组的HTTP报头中的访问点信息[X-SAP]指示具有访问点的数据的分组。换句话说,指示作为随机访问点的数据被包括在存储于子GOP段(其作为HTTP分组的生成源)中的NAL单元中的分组被选择为解码目标,并且执行解码处理和再现处理。
在这种情况下,可以在不布置所有GOP的情况下执行解码处理和再现。
在步骤S207的处理之后,处理进入步骤S211。
(步骤S208)
另一方面,当在步骤S206中确定不执行特殊的再现处理(诸如随机访问再现处理)但执行正常的再现处理时,处理进入步骤S208。在步骤S208中,接收装置根据从HTTP报头获取的标识信息,重新布置存储在多个接收的媒体数据存储类型的NAL单元片段对应HTTP分组中的NAL单元片段,并且重建GOP单元数据。
(步骤S209和S210)
然后,接收装置对重建的GOP数据执行解码处理,并且对解码数据执行再现处理。
(步骤S211)
然后,接收装置确定数据再现处理是否结束,并且当数据再现处理不结束时,处理返回到步骤S204,并且重复执行步骤S204和随后的处理。
当在步骤S211中确定再现处理结束时,处理结束。
此外,例如,当如在随机访问再现等中仅使位于特定再现位置的图像再现时,可以参考作为元数据存储类型的NAL单元片段对应HTTP分组中的随机访问点信息的sidx数据,使用从作为处理目标的sidx数据计算的一个或多个NAL单元片段(NALf)来执行处理。换句话说,例如,执行选择、解码和再现对应于帧内图片的仅编码的图像数据的处理。
在这种情况下,可能仅选择和再现随机访问点的数据,而无需执行重新布置GOP的所有数据的处理。
[10.附加信息被记录在扩展报头中的实施方案]
在上述实施方案中,在HTTP分组中设置用于在接收装置侧顺利执行处理的附加信息,诸如NAL单元片段(NALf)的布置信息、应用于GOP重新配置处理的信息,以及访问点信息。
然而,附加信息的记录目的地不限于HTTP报头,并且可以设置各种记录目的地。
下文将描述附加信息被记录在扩展报头中的实施方案。
将参照图22和图23描述附加信息被记录在扩展报头中的实施方案。
图22和图23中所示的实例是将新的扩展报头插入到在HTTP报头之后的分组区域中,并且将附加信息记录在扩展报头中的实例。
图22图示记录在扩展报头中的附加信息的列表,并且图23图示具有扩展报头的三种类型的HTTP分组的实例。
图23图示以下三种类型的HTTP分组:
(1)初始化段HTTP分组;
(2)基于媒体段的元数据存储类型的NAL单元片段对应HTTP分组;以及
(3)基于媒体段的媒体数据存储类型的NAL单元片段对应HTTP分组。
在每个分组的HTTP报头之后设置扩展报头。
根据图22中所示的列表的附加信息被记录在扩展报头中。将参照图22描述要被记录的附加信息的实例。如图22中所示,附加信息被配置具有以下信息:
(a)段标识信息(初始化段标识符);
(b)GOP内位置标识信息(子GOP指示符);
(c)电影片段序列号(电影片段序列号);
(d)NAL单元片段报头(NALU片段子段报头);
(e)NAL内单元位置标识信息(NALU片段标识符);以及
(f)访问点信息(SAPIndicator)。
例如,(a)段标识信息是8位数据,并且在初始化段的情况下设置为“1”,并且在其他段的情况下设置为“0”。
在媒体段的情况下,当记录在HTTP报头中的内容位置信息(ContentLocation)被设置为GOP单元数据的位置信息时,可能参考内容位置信息来辨别每个GOP数据。
(b)GOP内位置标识信息是8位数据,并且例如其位值被设置为如下:
GOP的头部位置的数据(StartofGOP)=1;
GOP的中间位置的数据(MiddleofGOP)=2;以及
GOP的尾部位置的数据(EndofGOP)=3。
(c)电影片段序列号是32位数据,并且记录在分割之前记录在子GOP媒体段的元数据(moof)中的序列号。电影片段序列号是存储在子GOP媒体段中的NAL单元的布置信息。
(d)NAL单元片段报头是8位数据,并且在元数据存储类型的NAL单元片段对应分组的情况下记录为“1”,并且在其他分组的情况下记录为“0”。
(e)NAL内单元位置标识信息是8位数据,并且信息指示在分割之前存储在分组中的NAL单元片段(NALf)所对应的NAL单元的位置。位值被设置和记录为如下:
在分割之前NAL单元的头部位置(StarNALUnitFragmentSubSegment)=1;
在分割之前NAL单元的中间位置(MiddleNALUnitFragmentSubSegment)=2;以及
在分割之前NAL单元的尾部位置(EndNALUnitFragmentSubSegment)=3。
(f)访问点信息(SAPIndicator)是与被描述为HTTP报头的记录信息的[X-SAP]相同的数据,并且使用8位数据。在分组是从包括访问点的NAL单元存储段生成的分组时记录为[1],并且在分组是其他分组时记录为[0]。
图23图示图22中所示的(a)至(f)的各自的附加信息被设置为以下三种类型的HTTP分组的扩展报头的实例:
(1)初始化段HTTP分组;
(2)基于媒体段的元数据存储类型的NAL单元片段对应HTTP分组;以及
(3)基于媒体段的媒体数据存储类型的NAL单元片段对应HTTP分组。
传输装置设置扩展报头,并且将设置的扩展报头传输到接收装置。接收装置参考扩展报头的段标识信息来确定存储初始化段的HTTP分组、元数据存储类型的NAL单元片段对应HTTP分组,或媒体数据存储类型的NAL单元片段对应HTTP分组中的哪个是存储在分组中的段。
此外,当分组被确定为媒体数据存储类型的NAL单元片段对应HTTP分组时,接收装置可以参考扩展报头的GOP内位置标识信息或NAL内单元位置标识信息来重新布置NAL单元片段(NALf)并且重建GOP。
此外,可能参考访问点信息(SAPIndicator)来确定分组是否是从包括访问点的NAL单元存储段生成的分组。
[11.附加信息被记录在LCT报头中的实施方案]
如上所述,适用于多播/广播(MC/BC)类型的流的传送协议的实例包括RTP(实时传送协议)协议和FLUTE(通过单向传送的文件传递)协议。
在根据FLUTE协议设置的分组中,根据FLUTE协议设置作为报头信息的LCT报头。
换句话说,LCT报头是上文参照图10所述的IP分组中的LCT报头。
接着,将描述用于在接收装置侧顺利执行处理的附加信息(诸如应用于NAL单元片段(NALf)的重新布置和GOP重新配置处理的信息)被记录在LCT报头中的实施方案。
图24图示根据FLUTE协议设置的LCT报头的示例性配置。
例如,以下主要的数据字段被设置为LCT报头:
CCI(拥塞控制信息):记录每个字段的长度、拥塞控制信息等的字段;
TSI(传送会话标识符):记录分组传送会话信息的字段;
TOI(传送对象标识符):记录分组传送序列等的字段;以及
报头扩展部分(报头扩展):可以记录各种扩展数据的字段。
如上文参照图7所述,可能参考TOI而非GOP内位置信息来检查数据传输顺序。
如上所述,例如,仅指示头部位置的X-StartofGOP可以被记录用于作为记录在HTTP报头等中的附加信息的GOP内位置信息,参考LCT报头中的TOI可以获取分组序列作为其他GOP中数据的排列顺序,并且可以根据分组序列按照正确的顺序布置GOP中的NAL单元。
类似地,可能参考作为NAL单元片段(NALf)的布置信息的TOI来检查数据传输顺序并且执行重新布置。例如,作为记录在HTTP报头等中的附加信息的NAL内单元位置标识信息被记录在仅针对存储头部位置的NAL单元片段的分组的HTTP报头中。可能从LCT报头的TOI中分析分组序列并且布置随后的NAL单元片段。
如图24中所示,其中可以记录各种数据的报头扩展部分(报头扩展)被设置为LCT报头。用于在接收装置侧顺利执行处理的附加信息(诸如应用于NAL单元片段的重新布置和GOP重新配置处理的信息)可以被记录在报头扩展部分中。
将参照图25描述LCT报头的报头扩展部分的数据记录配置。
当数据被记录在LCT报头的报头扩展部分中时,存在两种类型的格式。
图25(1)图示可以自由设置记录信息的长度的格式。
图25(2)图示记录信息的长度是固定的格式。
指示扩展报头的类型的扩展报头标识信息(数值)被记录在HET(报头扩展类型)中。指定图25(1)的格式可以使用多达127的值,并且图25(2)的格式可以使用128或更多的值。
扩展报头的长度被记录在HET(报头扩展长度)中。
HEC(报头扩展内容)是记录扩展报头内容的字段,并且可以记录任意扩展信息。
图26图示在使用图25(2)的格式(其中记录信息的长度是固定的)记录用于在接收装置侧顺利执行处理的附加信息(诸如应用于NAL单元片段的重新布置和GOP重新配置处理的信息)时的记录数据的示例性配置。
如图26中所示,(a)扩展报头标识信息(HET)是8位数据,并且例如[200]被记录为新的信息的标识值。
以下标识信息被记录在扩展信息记录部分(HEC)中:
(b)段标识信息;
(c)GOP内位置标识信息;
(d)电影片段序列号;
(e)NAL单元片段报头;
(f)NAL内单元位置标识信息;以及
(g)访问点信息。
例如,(b)段标识信息是8位数据,并且在初始化段的情况下设置为“1”,并且在其他段的情况下设置为“0”。
在媒体段的情况下,当记录在HTTP报头中的内容位置信息(ContentLocation)被设置为GOP单元数据的位置信息时,可能参考内容位置信息来辨别每个GOP数据。
(c)GOP内位置标识信息是8位数据,并且例如其位值被设置为如下:
GOP的头部位置的数据(StartofGOP)=1;
GOP的中间位置的数据(MiddleofGOP)=2;以及
GOP的尾部位置的数据(EndofGOP)=3。
(d)电影片段序列号是32位数据,并且记录在分割之前被记录在子GOP媒体段的元数据(moof)中的序列号。电影片段序列号是存储在子GOP媒体段中的NAL单元的布置信息。
(e)NAL单元片段报头是8位数据,并且在元数据存储类型的NAL单元片段对应分组的情况下被记录为“1”,并且在其他分组的情况下被记录为“0”。
(f)NAL内单元位置标识信息是8位数据,并且信息指示在分割之前存储在分组中的NAL单元片段(NALf)所对应的NAL单元的位置。位值被设置和记录为如下:
在分割之前NAL单元的头部位置(StarNALUnitFragmentSubSegment)=1;
在分割之前NAL单元的中间位置(MiddleNALUnitFragmentSubSegment)=2;以及
在分割之前NAL单元的尾部位置(EndNALUnitFragmentSubSegment)=3。
(g)访问点信息(SAPIndicator)是与被描述为HTTP报头的记录信息的[X-SAP]相同的数据,并且使用8位数据。在分组是从包括访问点的NAL单元存储段生成的分组时记录为[1],并且在分组是其他分组时记录为[0]。
传输装置设置包括扩展报头信息的LCT报头,并且将设置的LCT报头传输到接收装置。接收装置参考LCT报头中的扩展报头信息的段标识信息来确定初始化段存储分组、元数据存储类型的NAL单元片段对应分组和媒体数据存储类型的NAL单元片段对应分组中的哪个是接收的分组。此外,当分组被识别为媒体数据存储类型的NAL单元片段对应分组时,接收装置可以参考记录在LCT报头的扩展报头信息中的NAL内单元位置标识信息或GOP内位置标识信息,执行正确布置NAL单元片段(NALf)(其作为存储在各自的分组中的媒体数据(mdat))的重新布置和GOP的重新配置。
此外,可能参考访问点信息(SAPIndicator)来确定分组是否是从包括访问点的NAL单元存储段生成的分组。
[12.HEVC编码数据的应用实例]
尽管结合根据MPEG编码方案对MP4编码数据执行的处理实例来描述上述实施方案,但是根据本公开的处理可以应用于任何其他编码数据。例如,可以将根据本公开的处理应用于根据高效视频编码(HEVC)的编码数据。
将参照图27描述HEVC编码数据的配置。
如图27中所示,由HEVC编码处理生成的一个HEVC流包括多个序列(编码视频序列(CVS))和序列结束NAL单元(EoB)。
作为HEVC流的元素的CVS被配置具有多个GOP和序列结束NAL单元(EoS)。
GOP具有帧内随机访问点(IRAP)访问单元(其是作为主要数据的随机访问点),并且包括多个前导图片(LP)访问单元和多个尾部图片(TP)访问单元。
LP访问单元和TP访问单元是可以参考某一参考图片而解码的访问单元。
然而,当解码从IRAP访问单元开始时,甚至可以对TPAU执行正常的解码和再现。
访问单元(AU)被配置具有多个网络抽象层(NAL)单元,并且访问单元(AU)必然包括一个或多个切片段NAL单元。
如图27中所示,作为编码处理单元的GOP甚至被设置到由HEVC编码处理生成的编码数据,并且GOP被进一步分成多个NAL单元。
作为设置在HEVC编码数据中的GOP的构成数据的一个或多个NAL单元存储在如上文参照图5所述的子GOP媒体段中。
此外,如上文参照包括图16的附图所述,通过进一步分割NAL单元获得的NAL单元片段(NALf)可以被生成并且以分布式的方式存储在HTTP分组中。
如上所述,即使对于存储HEVC编码数据的分组,也可以生成通过进一步分割作为GOP数据的分区数据的NAL单元获得的NAL单元片段(NALf)。因此,可以执行参照包括图16的附图所述的处理,并且可以应用本公开的处理。
本公开的处理不限于MP4和HEVC,并且可以应用于其中提供对应于GOP的编码处理单元的任何编码配置,并且设置通过分割GOP数据获得的单元(NAL)。
[13.各自的装置的示例性硬件配置]
最后,将参照图28描述执行上述处理的各自的装置的示例性硬件配置。
图28图示适用于传输装置20和接收装置30的通信装置的示例性硬件配置。
中央处理单元(CPU)201用作根据存储在只读存储器(ROM)202或存储单元208中的程序执行各种处理的数据处理单元。例如,CPU 201根据上述实施方案中描述的顺序执行处理。由CPU 201执行的程序、数据等被存储在随机访问存储器(RAM)203中。CPU 201、ROM 202和RAM 203经由总线204连接到彼此。
CPU 201经由总线204连接到输入/输出接口205,并且输入单元206(包括各种开关、键盘、鼠标、麦克风等)和输出单元207(包括显示器、扬声器等)连接到输入/输出接口205。CPU 201根据从输入单元206输入的命令执行各种处理,并且将处理结果输出到例如输出单元207。
连接到输入/输出接口205的存储单元208包括例如硬盘等,并且存储由CPU 201执行的程序和各种数据。通信单元209用作经由诸如互联网或局域网(LAN)的网络传输和接收数据通信的收发单元,以及传输和接收广播波并且执行与外部装置的通信的收发单元。
连接到输入/输出接口205的驱动器210驱动可移动介质211(诸如磁盘、光盘、磁光盘)或半导体存储器(诸如存储卡),并且记录或读取数据。
此外,数据的编码或解码可以作为用作数据处理单元的CPU 201的处理来执行,但可以提供用作用于执行编码处理或解码处理的专用硬件的编解码器。
[14.本公开的配置的结论]
已参照特定实例详细描述本公开的实施方案。然而,显而易见,本领域技术人员可以在不脱离本公开的主旨的范围的情况下修改或替换实施方案。换句话说,本发明以示例性形式被公开并且并不旨在以有限的方式来解释。为了确定本公开的主旨,需要考虑本文中陈述的权利要求。
本说明书中公开的技术可以具有以下配置。
(1)
一种通信装置,包括:
数据处理单元,其生成存储编码数据的分组;以及
通信单元,其传输由所述数据处理单元生成的所述分组,
其中所述数据处理单元生成存储NAL单元或NAL单元片段的分组,所述NAL单元构成作为编码数据的处理单位的图片组(GOP),所述NAL单元片段是通过进一步分割所述NAL单元来获得,以及
所述数据处理单元生成分组,其中指示存储在所述分组中的所述NAL单元或作为所述NAL单元片段的分割源的NAL单元是否包括作为随机访问点的数据的访问点信息被设置为所述分组的附加信息,并且通过所述通信单元传输所述生成的分组。
(2)
根据(1)所述的通信装置,其中所述访问点信息是指示分组存储数据是否为基于NAL单元生成的数据的信息,所述NAL单元包括由流访问点(SAP)指定的编码数据。
(3)
根据(1)或(2)所述的通信装置,其中所述数据处理单元生成媒体数据和子GOP媒体段作为所述分组存储数据,所述媒体数据包括作为所述GOP的构成数据的一个或多个NAL单元,所述子GOP媒体段存储对应于所述媒体数据的元数据。
(4)
根据(1)或(2)所述的通信装置,其中所述数据处理单元生成通过进一步分割NAL单元获得的NAL单元片段,以生成存储所述NAL单元片段的多个分组和存储对应于所述NAL单元的元数据的分组,所述NAL单元构成所述GOP。
(5)
根据(1)至(4)中任一项所述的通信装置,其中所述数据处理单元生成存储分区数据的分组,通过将作为传输目标的编码数据分成等于或小于在通信路径上指定的最大数据传送单位(最大传送单位(MTU))的数据来生成所述分区数据。
(6)
根据(1)至(5)中任一项所述的通信装置,其中所述数据处理单元生成HTTP分组,并且将所述附加信息记录在所述生成的分组的HTTP报头中。
(7)
根据(1)至(5)中任一项所述的通信装置,其中所述数据处理单元将所述附加信息记录在所述生成的分组的扩展报头中。
(8)
根据(1)至(5)中任一项所述的通信装置,其中所述数据处理单元将所述附加信息记录在所述生成的分组的LCT报头中。
(9)
根据(1)至(8)中任一项所述的通信装置,其中所述通信单元通过广播波执行由所述数据处理单元生成的所述分组的广播传递或多播传递。
(10)
一种通信装置,包括:
通信单元,其接收由传输装置传输的编码数据存储分组;以及
数据处理单元,其接收由所述通信单元接收的所述分组,并且执行处理,
其中由所述通信单元接收的每个所述编码数据存储分组为存储NAL单元或NAL单元片段的分组,所述NAL单元构成作为编码数据的处理单位的图片组(GOP),所述NAL单元片段是通过进一步分割所述NAL单元来获得;以及分组,其中指示存储在所述分组中的所述NAL单元或作为所述NAL单元片段的分割源的NAL单元是否包括作为随机访问点的数据的访问点信息被设置为附加信息。
(11)
根据(10)所述的通信装置,其中所述数据处理单元执行参考作为记录在所述接收的分组中的所述附加信息的所述访问点信息来确定存储在所述接收的分组中的数据是否为基于NAL单元生成的数据的处理,所述NAL单元包括由流访问点(SAP)指定的编码数据。
(12)
根据(10)或(11)所述的通信装置,其中所述数据处理单元参考作为记录在所述接收的分组中的所述附加信息的所述访问点信息来选择和获取包括访问点的数据,并且执行解码和再现处理。
(13)
根据(10)至(12)中任一项所述的通信装置,其中所述通信单元接收包括其中记录所述附加信息的HTTP报头的HTTP分组,并且所述数据处理单元从所述接收的分组的所述HTTP报头获取所述附加信息。
(14)
根据(10)至(12)中任一项所述的通信装置,其中所述通信单元接收包括其中记录所述附加信息的扩展报头的分组,并且所述数据处理单元从所述接收的分组的所述扩展报头获取所述附加信息。
(15)
根据(10)至(12)中任一项所述的通信装置,其中所述通信单元接收包括其中记录所述附加信息的LCT报头的分组,并且所述数据处理单元从所述接收的分组的所述LCT报头获取所述附加信息。
(16)
根据(10)至(15)中任一项所述的通信装置,其中所述通信单元通过广播波接收所述分组。
(17)
一种在数据传输装置中执行的通信数据生成方法,包括:
通过数据处理单元生成存储NAL单元或NAL单元片段的分组,所述NAL单元构成作为编码数据的处理单位的图片组(GOP),所述NAL单元片段是通过进一步分割所述NAL单元来获得;
通过所述数据处理单元生成分组,其中指示存储在所述分组中的所述NAL单元或作为所述NAL单元片段的分割源的NAL单元是否包括作为随机访问点的数据的访问点信息被设置为所述分组的附加信息,并且通过通信单元传输所述生成的分组。
(18)
一种在数据接收装置中执行的通信数据处理方法,包括:
通过通信单元接收由传输装置传输的编码数据存储分组的步骤;以及
通过数据处理单元接收由所述通信单元接收的所述分组并且执行处理的数据处理步骤,
其中由所述通信单元接收的每个所述编码数据存储分组为存储NAL单元或NAL单元片段的分组,所述NAL单元构成作为编码数据的处理单位的图片组(GOP),所述NAL单元片段是通过进一步分割所述NAL单元来获得;以及分组,其中指示存储在所述分组中的所述NAL单元或作为所述NAL单元片段的分割源的NAL单元是否包括作为随机访问点的数据的访问点信息被设置为附加信息,以及
所述数据处理步骤包括接收其中由所述通信单元接收的所述访问点信息被设置的分组并且执行处理的步骤。
可以通过硬件、软件或其组合配置执行本说明书中描述的一系列处理。当通过软件执行处理时,记录处理顺序的程序可以被安装在并入专用硬件的计算机的存储器中并且被执行,程序可以被安装在能够执行各种处理的通用计算机中并且被执行。例如,可以预先将程序记录在记录介质中。可以从记录介质将程序安装在计算机中,但可以经由网络(诸如局域网(LAN)或互联网)接收程序并且将程序安装在记录介质(诸如内部硬盘)中。
此外,本说明书中描述的各种处理可以按所描述的顺序按时间顺序被执行,或可以根据执行处理的装置的处理能力或必要时被并行或单独执行。在本说明书中,系统是指多个装置的逻辑聚合配置并且不限于其中各自的配置的装置被布置在相同的外壳中的配置。
如上所述,根据本公开的实施方案的配置,实施其中可以基于逐包确定存储在通信分组中的编码数据是否为基于随机访问的编码数据的数据的配置。
具体来说,传输装置生成存储NAL单元(其是编码数据的组成部分)的分组,或存储通过进一步分割NAL单元获得的NAL单元片段的分组,设置访问点信息作为附加信息,所述访问点信息指示作为分组存储数据的源数据的NAL单元是否包括作为随机访问点的数据,并且传输分组。接收装置参考分组的附加信息来确定分组存储数据是否为基于随机访问的编码数据生成的数据。
使用这种配置,实施其中可以基于逐包确定存储在通信分组中的编码数据是否为基于随机访问的编码数据的数据的配置。
参考符号列表
10 通信系统
20 传输装置
21 数据处理单元
22 通信单元
30 接收装置
31 数据处理单元
32 通信单元
50 初始化段
60 媒体段
201 CPU
202 ROM
203 RAM
204 总线
205 输入/输出接口
206 输入单元
207 输出单元
208 存储单元
209 通信单元
210 驱动器
211 可移动介质。

Claims (18)

1.一种通信装置,包含:
数据处理单元,其生成存储编码数据的分组;以及
通信单元,其传输由所述数据处理单元生成的所述分组,
其中所述数据处理单元生成存储NAL单元或NAL单元片段的分组,所述NAL单元构成作为编码数据的处理单位的图片组(GOP),所述NAL单元片段是通过进一步分割一个或多个所述NAL单元来获得,其中两个或更多分组一起存储所述图片组,以及
所述数据处理单元生成分组,其中指示存储在所述分组中的所述NAL单元或作为所述NAL单元片段的分割源的NAL单元是否包括作为随机访问点的数据的访问点信息被设置为针对所述分组的附加信息,并且通过所述通信单元传输所述生成的分组,所述访问点信息是分组存储数据所属的NAL单元。
2.根据权利要求1所述的通信装置,其中所述访问点信息是指示分组存储数据是否为基于NAL单元生成的数据的信息,所述NAL单元包括由流访问点(SAP)指定的编码数据。
3.根据权利要求1所述的通信装置,其中所述数据处理单元生成媒体数据和子图片组媒体段作为所述分组存储数据,所述媒体数据包括作为所述图片组的构成数据的一个或多个NAL单元,所述子图片组媒体段存储对应于所述媒体数据的元数据。
4.根据权利要求1所述的通信装置,其中所述数据处理单元生成通过进一步分割NAL单元获得的NAL单元片段,以生成存储所述NAL单元片段的多个分组和存储对应于所述NAL单元的元数据的分组,所述NAL单元构成所述图片组。
5.根据权利要求1所述的通信装置,其中所述数据处理单元生成存储分区数据的分组,通过将作为传输目标的编码数据分成等于或小于在通信路径上指定的最大数据传送单位的数据来生成所述分区数据。
6.根据权利要求1所述的通信装置,其中所述数据处理单元生成HTTP分组,并且将所述附加信息记录在所述生成的分组的HTTP报头中。
7.根据权利要求1所述的通信装置,其中所述数据处理单元将所述附加信息记录在所述生成的分组的扩展报头中。
8.根据权利要求1所述的通信装置,其中所述数据处理单元将所述附加信息记录在所述生成的分组的LCT报头中。
9.根据权利要求1所述的通信装置,其中所述通信单元通过广播波执行由所述数据处理单元生成的所述分组的广播传递或多播传递。
10.一种通信装置,包含:
通信单元,其接收由传输装置传输的编码数据存储分组;以及
数据处理单元,其接收由所述通信单元接收的分组,并且执行处理,
其中两个或更多分组一起存储图片组(GOP),由所述通信单元接收的每个所述编码数据存储分组为存储NAL单元或NAL单元片段的分组,所述NAL单元构成作为编码数据的处理单位的所述图片组,所述NAL单元片段是通过进一步分割一个或多个所述NAL单元来获得;以及分组,其中指示存储在所述分组中的所述NAL单元或作为所述NAL单元片段的分割源的NAL单元是否包括作为随机访问点的数据的访问点信息被设置为附加信息,所述访问点信息是分组存储数据所属的NAL单元。
11.根据权利要求10所述的通信装置,其中所述数据处理单元执行参考作为记录在所述接收的分组中的所述附加信息的所述访问点信息来确定存储在所述接收的分组中的数据是否为基于NAL单元生成的数据的处理,所述NAL单元包括由流访问点(SAP)指定的编码数据。
12.根据权利要求10所述的通信装置,其中所述数据处理单元参考作为记录在所述接收的分组中的所述附加信息的所述访问点信息来选择和获取包括访问点的数据,并且执行解码和再现处理。
13.根据权利要求10所述的通信装置,
其中所述通信单元接收包括其中记录所述附加信息的HTTP报头的HTTP分组,以及
所述数据处理单元从所述接收的分组的所述HTTP报头获取所述附加信息。
14.根据权利要求10所述的通信装置,
其中所述通信单元接收包括其中记录所述附加信息的扩展报头的分组,以及
所述数据处理单元从所述接收的分组的所述扩展报头获取所述附加信息。
15.根据权利要求10所述的通信装置,
其中所述通信单元接收包括其中记录所述附加信息的LCT报头的分组,以及
所述数据处理单元从所述接收的分组的所述LCT报头获取所述附加信息。
16.根据权利要求10所述的通信装置,其中所述通信单元通过广播波接收所述分组。
17.一种在数据传输装置中执行的通信数据生成方法,包含:
数据处理单元生成存储NAL单元或NAL单元片段的分组,所述NAL单元构成作为编码数据的处理单位的图片组(GOP),所述NAL单元片段是通过进一步分割一个或多个所述NAL单元来获得,其中两个或更多分组一起存储图片组(GOP);
所述数据处理单元生成分组,其中指示存储在所述分组中的所述NAL单元或作为所述NAL单元片段的分割源的NAL单元是否包括作为随机访问点的数据的访问点信息被设置为针对所述分组的附加信息,并且通过通信单元传输所述生成的分组,所述访问点信息是分组存储数据所属的NAL单元。
18.一种在数据接收装置中执行的通信数据处理方法,包含:
通信单元接收由传输装置传输的编码数据存储分组的步骤;以及
数据处理单元接收由所述通信单元接收的所述分组并且执行处理的数据处理步骤,
其中两个或更多分组一起存储图片组(GOP),由所述通信单元接收的每个所述编码数据存储分组为存储NAL单元或NAL单元片段的分组,所述NAL单元构成作为编码数据的处理单位的所述图片组,所述NAL单元片段是通过进一步分割一个或多个所述NAL单元来获得;以及分组,其中指示存储在所述分组中的所述NAL单元或作为所述NAL单元片段的分割源的NAL单元是否包括作为随机访问点的数据的访问点信息被设置为附加信息,以及
所述数据处理步骤包括接收其中由所述通信单元接收的所述访问点信息被设置的分组并且执行处理的步骤,所述访问点信息是分组存储数据所属的NAL单元。
CN201480072676.XA 2014-01-17 2014-12-01 通信装置、通信数据生成方法和通信数据处理方法 Active CN105900446B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014-006881 2014-01-17
JP2014006881A JP2015136059A (ja) 2014-01-17 2014-01-17 通信装置、通信データ生成方法、および通信データ処理方法
PCT/JP2014/081715 WO2015107786A1 (ja) 2014-01-17 2014-12-01 通信装置、通信データ生成方法、および通信データ処理方法

Publications (2)

Publication Number Publication Date
CN105900446A CN105900446A (zh) 2016-08-24
CN105900446B true CN105900446B (zh) 2019-11-05

Family

ID=53542690

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201480072676.XA Active CN105900446B (zh) 2014-01-17 2014-12-01 通信装置、通信数据生成方法和通信数据处理方法

Country Status (8)

Country Link
US (3) US10178417B2 (zh)
EP (1) EP3096533B1 (zh)
JP (1) JP2015136059A (zh)
KR (1) KR102103054B1 (zh)
CN (1) CN105900446B (zh)
CA (1) CA2936164C (zh)
MX (2) MX2016008985A (zh)
WO (1) WO2015107786A1 (zh)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3036883B3 (en) 2014-02-24 2021-11-24 LG Electronics Inc. Apparatus for transmitting broadcast signals and method for transmitting broadcast signals
US10304467B2 (en) 2015-04-24 2019-05-28 Sony Corporation Transmission device, transmission method, reception device, and reception method
US10079919B2 (en) * 2016-05-27 2018-09-18 Solarflare Communications, Inc. Method, apparatus and computer program product for processing data
US10116970B1 (en) * 2017-04-28 2018-10-30 Empire Technology Development Llc Video distribution, storage, and streaming over time-varying channels
US10862940B1 (en) * 2018-07-31 2020-12-08 Glance Networks, Inc. Low latency live video on a communication session
CN111641565B (zh) * 2019-03-01 2022-05-13 华为技术有限公司 一种以太网报文的传输方法、装置及系统
CN113365140B (zh) * 2021-06-21 2022-12-23 北京百度网讯科技有限公司 Mp4在线播放方法、装置、设备、存储介质及程序产品

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5963202A (en) * 1997-04-14 1999-10-05 Instant Video Technologies, Inc. System and method for distributing and managing digital video information in a video distribution network
EP1271953A2 (en) * 2001-06-28 2003-01-02 Microsoft Corporation Improved startup methods and apparatuses for use in streaming content
CN1409547A (zh) * 2001-09-12 2003-04-09 汤姆森特许公司 改变接收的流式内容信道的方法和装置
CN1681324A (zh) * 2004-03-26 2005-10-12 美国博通公司 快速通道改变
CN101371312A (zh) * 2005-12-08 2009-02-18 维德约股份有限公司 用于视频通信系统中的差错弹性和随机接入的系统和方法
JP2009519619A (ja) * 2005-09-27 2009-05-14 クゥアルコム・インコーポレイテッド サービス取得(serviceacquisition)のための方法および装置
WO2011038013A2 (en) * 2009-09-22 2011-03-31 Qualcomm Incorporated Enhanced block-request streaming system using signaling or block creation
CN102625125A (zh) * 2012-03-15 2012-08-01 天津大学 一种实时传输高分辨率多视点立体视频的方法
WO2013077670A1 (ko) * 2011-11-23 2013-05-30 한국전자통신연구원 스케일러빌리티 및 뷰 정보를 제공하는 스트리밍 서비스를 위한 방법 및 장치
CN103329530A (zh) * 2011-01-26 2013-09-25 高通股份有限公司 视频译码中的子切片
WO2013162292A1 (ko) * 2012-04-24 2013-10-31 한국전자통신연구원 네트워크 적응적인 계층적 비디오 전송을 위한 mmt 패킷의 전송 방법 및 장치
CN103404140A (zh) * 2011-01-19 2013-11-20 瑞典爱立信有限公司 指示比特流子集
CN104396258A (zh) * 2012-07-06 2015-03-04 株式会社Ntt都科摩 动态图像预测编码装置、动态图像预测编码方法、动态图像预测编码程序、动态图像预测解码装置、动态图像预测解码方法、动态图像预测解码程序

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6882637B1 (en) 1999-10-14 2005-04-19 Nokia Networks Oy Method and system for transmitting and receiving packets
EP1349285A1 (en) 2002-03-28 2003-10-01 Matsushita Electric Industrial Co., Ltd. Method for making efficient use of the bits allocated to the sequence number when transmitting compressed header data
EP2304955B1 (en) * 2008-07-26 2017-03-29 Thomson Licensing A real-time transport protocol (rtp) packetization method for fast channel change applications using scalable video coding (svc)
JP2010245970A (ja) * 2009-04-08 2010-10-28 Sony Corp 再生装置、再生方法、およびプログラム
US20110031771A1 (en) 2009-08-10 2011-02-10 Yi Ding Storage trunk in the front of a vehicle
JP2011087103A (ja) 2009-10-15 2011-04-28 Sony Corp コンテンツ再生システム、コンテンツ再生装置、プログラム、コンテンツ再生方法、およびコンテンツサーバを提供
US9049497B2 (en) * 2010-06-29 2015-06-02 Qualcomm Incorporated Signaling random access points for streaming video data
KR101803970B1 (ko) * 2011-03-16 2017-12-28 삼성전자주식회사 컨텐트를 구성하는 장치 및 방법
US9357275B2 (en) * 2011-09-06 2016-05-31 Qualcomm Incorporated Network streaming of coded video data
US9843844B2 (en) 2011-10-05 2017-12-12 Qualcomm Incorporated Network streaming of media data
CN103843342B (zh) * 2012-06-12 2017-04-12 Lg电子株式会社 图像解码方法
US9161039B2 (en) * 2012-09-24 2015-10-13 Qualcomm Incorporated Bitstream properties in video coding
US20140092995A1 (en) * 2012-09-28 2014-04-03 Sharp Laboratories Of America, Inc. Electronic devices for signaling a random access point picture message
US9525883B2 (en) * 2013-07-15 2016-12-20 Qualcomm Incorporated Cross-layer alignment of intra random access point pictures
JP6652320B2 (ja) * 2013-12-16 2020-02-19 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 送信方法、受信方法、送信装置及び受信装置
US9699229B2 (en) * 2014-01-16 2017-07-04 Qualcomm Incorporated Robust live operation of dash
JP2015136060A (ja) * 2014-01-17 2015-07-27 ソニー株式会社 通信装置、通信データ生成方法、および通信データ処理方法
EP3175624A4 (en) * 2014-07-31 2018-02-28 LG Electronics Inc. Apparatus and method for transmitting/receiving processes of a broadcast signal

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5963202A (en) * 1997-04-14 1999-10-05 Instant Video Technologies, Inc. System and method for distributing and managing digital video information in a video distribution network
EP1271953A2 (en) * 2001-06-28 2003-01-02 Microsoft Corporation Improved startup methods and apparatuses for use in streaming content
CN1409547A (zh) * 2001-09-12 2003-04-09 汤姆森特许公司 改变接收的流式内容信道的方法和装置
CN1681324A (zh) * 2004-03-26 2005-10-12 美国博通公司 快速通道改变
JP2009519619A (ja) * 2005-09-27 2009-05-14 クゥアルコム・インコーポレイテッド サービス取得(serviceacquisition)のための方法および装置
CN101371312A (zh) * 2005-12-08 2009-02-18 维德约股份有限公司 用于视频通信系统中的差错弹性和随机接入的系统和方法
WO2011038013A2 (en) * 2009-09-22 2011-03-31 Qualcomm Incorporated Enhanced block-request streaming system using signaling or block creation
CN103404140A (zh) * 2011-01-19 2013-11-20 瑞典爱立信有限公司 指示比特流子集
CN103329530A (zh) * 2011-01-26 2013-09-25 高通股份有限公司 视频译码中的子切片
WO2013077670A1 (ko) * 2011-11-23 2013-05-30 한국전자통신연구원 스케일러빌리티 및 뷰 정보를 제공하는 스트리밍 서비스를 위한 방법 및 장치
CN102625125A (zh) * 2012-03-15 2012-08-01 天津大学 一种实时传输高分辨率多视点立体视频的方法
WO2013162292A1 (ko) * 2012-04-24 2013-10-31 한국전자통신연구원 네트워크 적응적인 계층적 비디오 전송을 위한 mmt 패킷의 전송 방법 및 장치
CN104396258A (zh) * 2012-07-06 2015-03-04 株式会社Ntt都科摩 动态图像预测编码装置、动态图像预测编码方法、动态图像预测编码程序、动态图像预测解码装置、动态图像预测解码方法、动态图像预测解码程序

Also Published As

Publication number Publication date
US11284135B2 (en) 2022-03-22
WO2015107786A1 (ja) 2015-07-23
JP2015136059A (ja) 2015-07-27
US20210029388A1 (en) 2021-01-28
EP3096533A1 (en) 2016-11-23
EP3096533A4 (en) 2017-07-05
CN105900446A (zh) 2016-08-24
CA2936164A1 (en) 2015-07-23
EP3096533B1 (en) 2020-11-04
KR20160111021A (ko) 2016-09-23
CA2936164C (en) 2021-06-01
KR102103054B1 (ko) 2020-04-21
US20190075334A1 (en) 2019-03-07
US10820024B2 (en) 2020-10-27
MX2019009888A (es) 2019-10-22
MX2016008985A (es) 2016-10-04
US10178417B2 (en) 2019-01-08
US20160330491A1 (en) 2016-11-10

Similar Documents

Publication Publication Date Title
CN105900446B (zh) 通信装置、通信数据生成方法和通信数据处理方法
US10326811B2 (en) Communication apparatus, communication data generation method, and communication data processing method
US8031623B2 (en) System and method for creating multiple transportation streams of streaming media network test traffic in packet-based networks
EP3096524B1 (en) Communication apparatus, communication data generation method, and communication data processing method
CA2934905C (en) Communication apparatus, communication data generation method, and communication data processing method

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information

Address after: Tokyo, Japan

Applicant after: Sony Corp

Address before: Japan's Tokyo port harbor 1-7-1

Applicant before: Sony Corp

COR Change of bibliographic data
GR01 Patent grant
GR01 Patent grant