CN104488262A - 文件生成设备、文件生成方法、文件再现设备和文件再现方法 - Google Patents

文件生成设备、文件生成方法、文件再现设备和文件再现方法 Download PDF

Info

Publication number
CN104488262A
CN104488262A CN201480001936.4A CN201480001936A CN104488262A CN 104488262 A CN104488262 A CN 104488262A CN 201480001936 A CN201480001936 A CN 201480001936A CN 104488262 A CN104488262 A CN 104488262A
Authority
CN
China
Prior art keywords
hdr
track
tmi
information
file
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201480001936.4A
Other languages
English (en)
Other versions
CN104488262B (zh
Inventor
高桥辽平
内村幸一
服部忍
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of CN104488262A publication Critical patent/CN104488262A/zh
Application granted granted Critical
Publication of CN104488262B publication Critical patent/CN104488262B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/98Adaptive-dynamic-range coding [ADRC]
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B20/00Signal processing not specific to the method of recording or reproducing; Circuits therefor
    • G11B20/10Digital recording or reproducing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/184Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/485End-user interface for client configuration
    • H04N21/4854End-user interface for client configuration for modifying image parameters, e.g. image brightness, contrast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/85406Content authoring involving a specific file format, e.g. MP4 format
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0117Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Computer Security & Cryptography (AREA)
  • Computer Graphics (AREA)
  • Television Signal Processing For Recording (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Picture Signal Circuits (AREA)
  • Television Systems (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)

Abstract

本技术涉及能够使得用户享用HDR图像的文件生成设备、文件生成方法、文件再现设备和文件再现方法。从存储包括HDR信息的流的轨道和包括HDR指定信息的目标轨道的文件获取由HDR指定信息指定的HDR信息,HDR信息被配置有特征信息和转换信息,特征信息表示具有比STD(标准)图像的动态范围更高的动态范围的HDR(高动态范围)图像的亮度的特征,转换信息表示将STD图像和HDR图像中的一个图像转换成另一图像的转换规则,HDR指定信息指定轨道的HDR信息中的要被应用于关注的目标轨道的HDR信息。本技术可以应用于如下情况:获取要被应用于存储在例如MP4文件中的字幕等的图像的HDR信息。

Description

文件生成设备、文件生成方法、文件再现设备和文件再现方法
技术领域
本技术涉及文件生成设备、文件生成方法、文件再现设备和文件再现方法,并且更具体地涉及能够增加用户享用作为具有高动态范围的图像的HDR(高动态范围)图像的可能性的文件生成设备、文件生成方法、文件再现设备和文件再现方法。
背景技术
近年来,如下设备已经普及:为了高效地发送或存储信息的目的,该设备将图像处理为数字信号,并且通过利用使用对图像而言唯一的冗余通过正交变换(如离散余弦变换和运动补偿)执行压缩的编码方案来对图像进行压缩编码。作为该编码方案,例如,存在MPEG(运动图片专家组)、H.264、MPEG-4部分10(高级视频编码,其在下文中被称作AVC)等。
目前,为了相比H.264/AVC进一步提高编码效率,JCTVC(视频编码联合合作组)促成了被称作HEVC(高效视频编码)的编码方案的标准,JCTVC是与ITU-T和ISO/IEC合作的标准化组织。
目前,在HEVC的草案(非专利文献1)中,在“D 2.15色调映射信息SEI消息语法”和“D.3.15色调映射信息SEI消息语义”中,规定:通过使用SEI(补充增强信息)发送tone_mapping_info(色调_映射_信息)作为关于HDR(高动态范围)图像(其是具有高动态范围的图像)的HDR信息。
另外,除了HEVC以外,还已经将tone_mapping_info引入到AVC。
[引用列表]
非专利文献
非专利文献1:Berijamin Bross等人,“High efficiency video coding(HEVC)text specification draft 10(for FDIS &Last Call)(高效视频编码(HEVC)文本规范草案10(关于FDIS和最后呼叫)),ITU-T SG 16WP3和ISO/IEC JTC 1/SC 29/WG 11的视频编码联合合作组(JCT-VC),第12次会议,日内瓦,瑞士,2013年1月14至23日(文献:JCTVC-L1003_v34,日期:2013年3月19日)
发明内容
本发明要解决的问题
目前,捕获HDR图像的相机或显示HDR图像的显示器已经普及。在这样的情况下,要求通过便于将HDR信息引入到除了HEVC或AVC格式以外的文件格式或数据格式来增加用户享用HDR图像的可能性。
本技术用于增加用户享用HDR图像的可能性。
问题的解决方案
根据本技术,提供了一种文件生成设备,该设备包括:文件生成单元,生成存储包括HDR信息的流的轨道和包括HDR指定信息的目标轨道的文件,HDR信息被配置有特征信息和转换信息,特征信息表示具有比STD(标准)图像的动态范围更高的动态范围的HDR(高动态范围)图像的亮度的特征,转换信息表示将STD图像和HDR图像中的一个图像转换成另一图像的转换规则,以及HDR指定信息指定轨道的HDR信息中的要被应用于所关注的目标轨道的HDR信息。
根据本技术,提供了一种文件生成方法,该方法包括:生成存储包括HDR信息的流的轨道和包括HDR指定信息的目标轨道的文件,HDR信息被配置有特征信息和转换信息,特征信息表示具有比STD(标准)图像的动态范围更高的动态范围的HDR(高动态范围)图像的亮度的特征,转换信息表示将STD图像和HDR图像中的一个图像转换成另一图像的转换规则,以及HDR指定信息指定轨道的HDR信息中的要被应用于所关注的目标轨道的HDR信息。
在根据本技术的文件生成设备和文件生成方法中,生成存储包括HDR信息的流的轨道和包括HDR指定信息的目标轨道的文件,HDR信息被配置有特征信息和转换信息,特征信息表示具有比STD(标准)图像的动态范围更高的动态范围的HDR(高动态范围)图像的亮度的特征,转换信息表示将STD图像和HDR图像中的一个图像转换成另一图像的转换规则,以及HDR指定信息指定轨道的HDR信息中的要被应用于所关注的目标轨道的HDR信息。
根据本技术,提供了一种文件再现设备,该设备包括:获取单元,从存储包括HDR信息的流的轨道和包括HDR指定信息的目标轨道的文件中获取由HDR指定信息指定的HDR信息,HDR信息被配置有特征信息和转换信息,特征信息表示具有比STD(标准)图像的动态范围更高的动态范围的HDR(高动态范围)图像的亮度的特征,转换信息表示将STD图像和HDR图像中的一个图像转换成另一图像的转换规则,以及HDR指定信息指定轨道的HDR信息中的要被应用于所关注的目标轨道的HDR信息。
根据本技术,提供了一种文件再现方法,该方法包括:从存储包括HDR信息的流的轨道和包括HDR指定信息的目标轨道的文件中获取由HDR指定信息指定的HDR信息,HDR信息被配置有特征信息和转换信息,特征信息表示具有比STD(标准)图像的动态范围更高的动态范围的HDR(高动态范围)图像的亮度的特征,转换信息表示将STD图像和HDR图像中的一个图像转换成另一图像的转换规则,以及HDR指定信息指定轨道的HDR信息中的要被应用于所关注的目标轨道的HDR信息。
在根据本技术的文件再现设备和文件再现方法中,从存储包括HDR信息的流的轨道和包括HDR指定信息的目标轨道的文件中获取由HDR指定信息指定的HDR信息,HDR信息被配置有特征信息和转换信息,特征信息表示具有比STD(标准)图像的动态范围更高的动态范围的HDR(高动态范围)图像的亮度的特征,转换信息表示将STD图像和HDR图像中的一个图像转换成另一图像的转换规则,以及HDR指定信息指定轨道的HDR信息中的要被应用于所关注的目标轨道的HDR信息。
另外,文件生成设备或文件再现设备可以是独立的设备,或者可以是构成一个设备的内部块。
另外,可以通过经由传输介质发送文件或通过将文件记录在记录介质中来提供文件。
发明的效果
根据本技术,可以增加用户享用HDR图像的可能性。
另外,本文中所描述的效果不必限于本公开内容中所描述的效果中的任何效果,而是可以是本公开内容中所描述的效果中的任何效果。
附图说明
图1是示出了利用本技术的信号处理系统的实施方式的配置示例的图。
图2是示出了由信号处理系统执行的模式-i(mode-i)的信号处理的示例的图。
图3是示出了从将原版(master)的HDR数据输入到生成设备1的时间到从再现设备2输出数据的时间模式-i的信号处理的流程的图。
图4是示出了由信号处理系统执行的模式-ii(mode-ii)的信号处理的示例的图。
图5是示出了从将原版的HDR数据输入到生成设备1的时间到从再现设备2输出数据的时间模式-ii的信号处理的流程的图。
图6是示出了HEVC方案访问单元的配置的图。
图7是示出了根据HEVC方案规定的tone_mapping_info(色调映射信息)的语法的图。
图8是示出了针对其每个值被设置为tone_map_model_id(色调映射模型id)的TMI与转换信息和特征信息之间的关系的图。
图9是示出了作为由具有tone_map_model_id=0作为转换信息的tone_mapping_info表示的转换规则的色调曲线的示例的图。
图10是示出了作为由具有tone_map_model_id=2作为转换信息的TMI表示的转换规则的阶跃函数的示例的图。
图11是示出了作为由具有tone_map_model_id=3作为转换信息的TMI表示的转换规则的折线函数的示例的图。
图12是示出了包括在特征信息中的每条信息的示例的图。
图13是示出了MP4文件的影片的示例的图。
图14是示出了MP4文件中的媒体数据(影片)的逻辑布置的示例的图。
图15是示出了MP4文件的数据结构的图。
图16是示出了存储媒体数据的MP4文件的数据结构的示例的图。
图17是示出了分片段的影片的MP4文件的示例和非分片段的影片的MP4文件的示例的图。
图18是描述了DECE(数字娱乐内容生态系统)CFF(通用文件格式)的图。
图19是示出了SMPTE-TT的ST的数据的示例的图。
图20是示出了生成设备1的第一配置示例的框图。
图21是示出了由生成设备1生成的MP4文件的示例的图。
图22是示出了tref盒的定义的图。
图23是示出了作为vtmi盒的TrackReferenceTypeBox(轨道参考类型盒)的定义的示例的图。
图24是示出了tirf盒的定义的示例的图。
图25是示出了由生成设备1生成的MP4文件的另一示例的图。
图26是示出了编码处理单元22的配置示例的框图。
图27是示出了用于由转换单元33将HDR数据转换成STD数据的转换处理的示例的图。
图28是示出了色调映射的示例的图。
图29是用于描述由生成设备1执行的文件生成处理的示例的流程图。
图30是用于描述在步骤S2中执行的模式-i的编码处理的示例的流程图。
图31是用于描述在步骤S3中执行的模式-ii的编码处理的示例的流程图。
图32是用于描述在步骤S4中执行的报头信息生成处理的示例的流程图。
图33是示出了再现设备2的第一配置示例的框图。
图34是用于描述由再现设备2执行的再现处理的示例的流程图。
图35是用于描述在步骤S43中执行的模式-i的解码处理的示例的流程图。
图36是用于描述在步骤S44中执行的模式-ii的解码处理的示例的流程图。
图37是示出了显示设备3的配置示例的框图。
图38是用于描述由显示设备3执行的显示处理的示例的流程图。
图39是示出了生成设备1的第二配置示例的框图。
图40是由生成设备1生成的第二MP4文件的示例的图。
图41是示出了tinf盒的定义的示例的图。
图42是示出了ToneMapInfo(色调映射信息)的语法的第一示例的图。
图43是示出了ToneMapInfo的语法的第二示例的图。
图44是示出了ToneMapInfo的语法的第三示例的图。
图45是示出了由生成设备1生成的第二MP4文件的另一示例的图。
图46是示出了编码处理单元122的配置示例的框图。
图47是用于描述由生成设备1执行的文件生成处理的示例的流程图。
图48是用于描述在步骤S112中执行的模式-i的编码处理的示例的流程图。
图49是用于描述在步骤S113中执行的模式-ii的编码处理的示例的流程图。
图50是用于描述在步骤S114中执行的报头信息生成处理的示例的流程图。
图51是示出了再现设备2的第二配置示例的框图。
图52是用于描述由再现设备2执行的再现处理的示例的流程图。
图53是用于描述在步骤S153中执行的模式-i的解码处理的示例的流程图。
图54是用于描述在步骤S154中执行的模式-ii的解码处理的示例的流程图。
图55是示出了生成设备1的第三配置示例的框图。
图56是示出了由生成设备1生成的第三MP4文件的示例的图。
图57是示出了作为tmpi盒的TrackReferenceTypeBox的定义的示例的图。
图58是示出了作为存储在第三MP4文件中所存储的TMI(色调映射轨道)的mdat盒中的实际数据的TMI的样本(ToneMapSample,色调映射样本)的语法的示例的图。
图59是示出了TMI的样本(ToneMapSample)的数据结构的示例的图。
图60是示出了由生成设备1生成的第三MP4文件的另一示例的图。
图61是示出了编码处理单元202的配置示例的框图。
图62是用于描述由生成设备1执行的文件生成处理的示例的流程图。
图63是用于描述在步骤S202中执行的模式-i的编码处理的示例的流程图。
图64是用于描述在步骤S203中执行的模式-ii的编码处理的示例的流程图。
图65是用于描述在步骤S204中执行的报头信息生成处理的示例的流程图。
图66是示出了再现设备2的第三配置示例的框图。
图67是用于描述由再现设备2执行的再现处理的示例的流程图。
图68是用于描述在步骤S253中执行的模式-i的解码处理的示例的流程图。
图69是用于描述在步骤S254中执行的模式-ii的解码处理的示例的流程图。
图70是示出了生成设备1的第四配置示例的框图。
图71是示出了编码处理单元302的配置示例的框图。
图72是示出了HDR存储元素的示例的图。
图73是示出了toneMapRef属性的定义的示例和hdrInfoRef属性的定义的示例的图。
图74是示出了新的TT数据的第一示例的图。
图75是示出了新的TT数据的第二示例的图。
图76是示出了新的TT数据的第三示例的图。
图77是示出了新的TT数据的第四示例的图。
图78是用于描述由生成设备1执行的文件生成处理的示例的流程图。
图79是用于描述在步骤S302中执行的模式-i的编码处理的示例的流程图。
图80是用于描述在步骤S303中执行的模式-ii的编码处理的示例的流程图。
图81是示出了再现设备2的第四配置示例的框图。
图82是用于描述在再现设备2中执行的再现处理的示例的流程图。
图83是用于描述在步骤S333中执行的模式-i的编码处理的示例的流程图。
图84是用于描述在步骤S334中执行的模式-ii的编码处理的示例的流程图。
图85是示出了利用本技术的计算机的实施方式的配置示例的框图。
具体实施方式
<利用本技术的信号处理系统的实施方式>
图1是示出了利用本技术的信号处理系统的实施方式的配置示例的图。
图1的信号处理系统被配置成包括生成设备1、再现设备2和显示设备3。再现设备2和显示设备3通过诸如HDMI(注册商标)(高清晰度多媒体接口)的线缆4彼此连接。再现设备2和显示设备3可以通过另一标准的线缆彼此连接,并且再现设备2和显示设备3可以通过无线通信彼此连接。
生成设备1生成内容的流并且提供该流。再现设备2根据由生成设备1提供的流来再现内容。
生成设备1可以例如不经变化地提供流。另外,生成设备1可以例如以将流存储在预定的包(如IP包)中的状态来提供流,或者可以例如以将流存储在预定的文件(如ISO/IEC 14496-14中规定的MP4文件)中的状态来提供流。
另外,在生成设备1中,可以例如以将流记录在记录介质11如蓝光(注册商标)盘中的状态来提供流,或者可以例如以通过传输介质12如地面波(terrestrial wave)或因特网发送流的方式来提供流。
在本文中,在生成设备1中,在将流存储在文件中的情况下,除了MP4文件以外,可以将例如ISO/IEC 14496-12中规定的文件(ISO基本媒体文件格式的文件)、ISO/IEC 14496-15中规定的文件、QuickTime格式的文件、具有盒结构的文件或不具有盒结构的文件用作存储流的文件。
HDR(高动态范围)图像被输入至生成设备1,HDR图像是具有比STD(标准)图像的动态范围更高的动态范围的图像,STD(标准)图像是具有可以由具有标准亮度的监视器显示的预定动态范围(亮度范围)的图像。标准亮度为例如100cd/m2(=100nit)。另外,不特别限定STD图像和HDR图像。也就是说,STD图像和HDR图像是仅在动态范围方面彼此相同的图像,并且表示具有如下关系的图像:其中根据稍后描述的转换信息将一个图像转换成另一图像。因此,STD图像是仅动态范围比HDR图像的动态范围低(窄)的图像,而HDR图像是仅动态范围比STD图像的动态范围高(宽)的图像。
在本文中,图像包括视频、图形、背景(背景图像)、字幕或其他可显示的媒体。另外,字幕(多个字幕、隐藏式字幕等)的数据格式可以是文本和图像中的任一种。
例如,多个视频或多个HDR图像,如一个或更多个视频以及一个或更多个图形被输入至生成设备1。
在下文中,为了简化描述,假定HDR图像中的一个(序列)HDR图像的视频(在下文中,有时被称为HDR视频)和HDR图像中的一个(序列)图像的字幕(在下文中,有时被称为HDR ST(HDR字幕))被输入至生成设备1。
然而,作为输入至生成设备1的数据,可以利用任何图像,如视频和图形的组合,视频、图形和字幕的组合,图形和字幕的组合,或仅图形。另外,输入至生成设备1的视频、字幕等的同一类型的媒体的图像不限于一个图像(一个序列),而是可以使用多个图像(序列)。
另外,如果不特别需要区分,则HDR视频和HDR ST有时被统称为HDR数据。
另外,下述STD图像的视频和ST(字幕)有时被分别称为STD视频和STD ST:其中HDR视频和HDR ST的动态范围被压缩成可以由具有标准亮度的监视器显示的预定动态范围。
另外,如果不特别需要区分,则有时STD视频和STD ST被统称为STD数据。
如果将STD数据的动态范围视为例如0%至100%,则将HDR数据的动态范围表示成0%至101%或更大,例如0%至500%、0%至1000%等的范围。
生成设备1对例如不经变化的原版的输入HDR数据进行编码,并且将编码数据存储在例如MP4文件中。
可替选地,生成设备1将原版的输入HDR数据转换成STD数据,并且执行编码,此后,将编码数据存储在例如MP4文件中。
除了存储HDR数据或STD数据以外,MP4文件还存储表示原版的HDR数据的亮度的特征的特征信息和表示将HDR数据和STD数据中的一种数据转换成另一种数据的转换规则的转换信息。
在本文中,例如,可以将水平×垂直分辨率为4096×2160像素、3840×2160像素等的所谓的4K分辨率视频用作HDR视频和STD视频。
另外,例如,可以将HEVC方案、AVC方案或其他任意方案用作视频编码方案。也就是说,视频编码(解码)方案不限于HEVC方案、AVC方案等。
如果例如根据HEVC方案将表示HDR图像的亮度的特征的特征信息和表示将HDR图像和STD图像中的一种图像转换成另一种图像的转换规则的转换信息视为HDR信息,则将tone_mapping_info规定为HDR信息。另外,根据HEVC方案,规定了以将tone_mapping_info包括在SEI中的状态来发送作为HDR信息的tone_mapping_info。
再现设备2通过线缆4执行与显示设备3的通信,以获取关于显示设备3的显示性能的信息。再现设备2识别显示设备3是作为能够显示HDR数据的监视器的HDR监视器,还是作为能够仅显示STD数据的监视器的STD监视器。
另外,再现设备2通过读取记录在记录介质11中的MP4文件来获取MP4文件或通过接收经由传输介质12发送的MP4文件来获取MP4文件,并且再现存储在MP4文件中的数据。
也就是说,再现设备2对作为存储在MP4文件中的视频的流的视频流以及作为ST(字幕)的流的ST流进行解码。
接下来,例如,在通过解码所获得的数据为HDR数据并且显示设备3被配置成包括HDR监视器的情况下,再现设备2将通过解码所获得的HDR数据输出到显示设备3。在这种情况下,再现设备2将存储在MP4文件中的特征信息连同HDR数据一起输出到显示设备3。
另一方面,在通过解码所获得的数据为HDR数据而显示设备3被配置成包括STD监视器的情况下,再现设备2将通过解码所获得的HDR数据转换成STD数据并且输出STD数据。通过使用存储在MP4文件中的转换信息来执行HDR数据到STD数据的转换。
在通过解码所获得的数据为STD数据而显示设备3被配置成包括HDR监视器的情况下,再现设备2将通过解码所获得的STD数据转换成HDR数据,并且将HDR数据输出到显示设备3。通过使用存储在MP4文件中的转换信息来执行STD数据到HDR数据的转换。在这种情况下,再现设备2将存储在MP4文件中的特征信息连同HDR数据一起输出到显示设备3。
另外,在通过解码所获得的数据为STD数据并且显示设备3被配置成包括STD监视器的情况下,再现设备2将通过解码所获得的STD数据输出到显示设备3。
显示设备3接收从再现设备2发送的STD数据或HDR数据,并且基于STD数据或HDR数据在监视器上显示与STD数据或HDR数据对应的STD图像或HDR图像。
例如,在发送特征信息的情况下,显示设备3识别到从再现设备2发送的数据连同特征信息为HDR数据。如上所述,将特征信息连同HDR数据发送至被配置成包括HDR监视器的显示设备3。
在这种情况下,显示设备3显示与对应于由特征信息指定的特征的HDR数据对应的HDR图像。也就是说,在包括在显示设备3中的监视器是具有0%至500%的动态范围的监视器并且由特征信息指定HDR数据的动态范围为0%至500%的预定的特征的情况下,显示设备3根据预定的特征在0%至500%的范围内调整亮度以显示HDR图像。
通过允许指定原版的HDR数据的亮度的特征,内容的创作者可以以想要的亮度显示图像。
通常,显示设备如TV(电视机)将外部输入数据识别为具有0%至100%的动态范围的数据。另外,在显示设备的监视器具有比上面提到的动态范围宽(高)的动态范围的情况下,显示设备可以独自根据监视器的特性来扩大亮度以显示图像。通过指定亮度的特征和根据所指定的特征来调节HDR数据的亮度,可以防止在显示设备侧执行创作者的不想要的亮度调整。
另外,通常,将数据输出到显示设备如TV的再现设备根据传输线的特性来转换亮度,之后输出数据。接收数据的显示设备根据监视器的特性来转换所接收的数据的亮度以显示图像。再现设备2不执行亮度的转换,并且将HDR数据不经变化地从再现设备2输出到显示设备3,使得可以减少亮度转换处理的数目,并且可以在显示设备3上显示具有接近于原版的亮度的亮度的图像。
另一方面,在不发送特征信息的情况下,显示设备3识别到从再现设备2发送的数据为STD数据并且显示与STD数据对应的STD图像。如果从再现设备2发送STD数据,则显示设备3表示包括STD监视器的设备。
另外,在生成设备1将音频数据存储在MP4文件中的情况下,再现设备2再现音频数据并且将音频数据发送至显示设备3。显示设备3基于从再现设备2发送的音频数据输出与音频数据对应的声音。
在下文中,以保持动态范围的状态将原版的HDR数据存储在MP4文件中的处理模式被称为模式-i,而将原版的HDR数据转换成STD数据并且将STD数据存储在MP4文件中的处理模式被称为模式-ii。
<模式-i的信号处理>
图2是示出了由图1的信号处理系统执行的模式-i的信号处理的示例的图。
被表示成由实线L1包围的左侧的处理表示由生成设备1执行的编码处理,而被表示成由实线L2包围的右侧的处理表示由再现设备2执行的解码处理。
在输入原版的HDR数据的情况下,如由箭头#1所指示的,生成设备1检测原版的HDR数据的亮度并且生成特征信息。另外,如由箭头#2-1所指示的,生成设备1例如根据HEVC方案对原版的HDR视频进行编码以生成编码数据,并且如由箭头#2-2所指示的,生成设备1对原版的HDRST进行编码以生成作为ST的流的ST流。
如由箭头#3所指示的,生成设备1将原版的HDR数据转换成STD数据。在监视器(未示出)上显示与通过转换所获得的STD数据对应的STD图像。通过调整转换参数适当地执行HDR数据到STD数据的转换,同时创作者视觉上检查与所转换的STD数据对应的STD图像。
如由箭头#4所指示的,生成设备1基于由创作者执行的调整来生成转换信息。
转换信息表示将比标准动态范围较宽的0%至400%等的高动态范围内的每个亮度值和作为标准动态范围的0%至100%的动态范围内的每个亮度值中的一个亮度值转换成另一亮度值的转换规则,使得转换信息表示亮度值之间的对应关系。
如由箭头#5所指示的,生成设备1将特征信息和转换信息作为SEI插入到HDR视频的编码数据中以生成视频流。如由箭头#11所指示的,生成设备1将所生成的视频流和HDR ST的ST流存储在MP4文件中,并且将MP4文件提供给再现设备2。
以这种方式,将HDR视频和HDR ST的特征信息和转换信息以通过使用SEI被插入到视频流中的形式提供给再现设备2。
如由箭头#20所指示的,再现设备2从MP4文件读取ST流,并且对ST流进行解码以生成HDR ST。
另外,如由箭头#21和#22所指示的,再现设备2从MP4文件读取视频流以从视频流的SEI提取特征信息和转换信息。
另外,如由箭头#23所指示的,再现设备2根据HEVC方案对包括在视频流中的编码数据进行解码以生成HDR视频。在显示设备3被配置成包括HDR监视器的情况下,再现设备2如由箭头#24所指示将特征信息添加到通过解码所获得的HDR数据,并且如由箭头#25所指示将添加有特征信息的HDR数据输出到显示设备3。
另一方面,在显示设备3被配置成包括STD监视器的情况下,如由箭头#26所指示的,再现设备2通过使用从视频流提取的转换信息将通过解码所获得的HDR数据转换成STD数据。如由箭头#27所指示的,再现设备2将通过转换所获得的STD数据输出到显示设备3。
以这种方式,通过解码所获得的HDR数据连同特征信息被输出至被配置成包括HDR监视器的显示设备3。可替选地,在将通过解码所获得的HDR数据转换成STD数据之后,将所转换的数据输出至被配置成包括STD监视器的显示设备3。
图3是示出了从将原版的HDR数据输入至生成设备1的时间到从再现设备2输出数据的时间模式-i的信号处理的流程的图。
如由白色箭头#51所指示的,将原版的HDR数据连同由生成设备1基于原版的HDR数据所生成的特征信息和转换信息提供给再现设备2。特征信息包括例如表示动态范围被扩展至0%至400%的范围的信息。
在显示设备3被配置成包括HDR监视器的情况下,在再现设备2中,如由箭头#52和#53所指示的,将特征信息添加到通过解码所获得的HDR数据。另外,如由箭头#54所指示的,将添加有特征信息的HDR数据输出到显示设备3。
另一方面,在显示设备3被配置成包括STD监视器的情况下,在再现设备2中,如由箭头#55和#56所指示的,通过使用转换信息将通过解码所获得的HDR数据转换成STD数据。另外,如由箭头#57所指示的,将通过转换所获得的STD数据输出到显示设备3。在图3中,表示HDR数据的波形的幅值和表示STD数据的波形的幅值表示相应的动态范围。
以这种方式,在模式-i下,以HDR数据的状态将原版的HDR数据存储在MP4文件中。另外,根据要作为输出目的地的显示设备3的性能,进行转变:是将通过解码所获得的HDR数据不经变化地添加到要输出的特征信息,还是将通过解码所获得的HDR数据转换成要输出的STD数据。
<模式-ii的信号处理>
图4是示出了由图1的信号处理系统执行的模式-ii的信号处理的示例的图。
在输入原版的HDR数据的情况下,如由箭头#71所指示的,生成设备1检测原版的HDR数据的亮度以生成特征信息。
如由箭头#72所指示的,生成设备1将原版的HDR数据转换成STD数据。在监视器(未示出)上显示与通过转换所获得的STD数据对应的STD图像。
如由箭头#73所指示的,生成设备1基于创作者的调整来生成转换信息。
另外,如由箭头#74-1所指示的,生成设备1根据HEVC方案对通过原版的HDR视频的转换所获得的STD视频进行编码以生成编码数据。另外,如由箭头#74-2所指示的,生成设备1对通过原版的HDR ST的转换所获得的STD ST进行编码以生成ST流。
如由箭头#75所指示的,生成设备1将特征信息和转换信息作为SEI插入到编码数据中以生成视频流。如由箭头#91所指示的,生成设备1将所生成的视频流和ST流存储在MP4文件中,并且将视频流和ST流提供给再现设备2。
如由箭头#101和#102所指示的,再现设备2从MP4文件读取视频流并且从视频流的SEI提取特征信息和转换信息。
另外,再现设备2如由箭头#103-1所指示根据HEVC方案对包括在视频流中的编码数据进行解码以生成STD视频并且如由箭头#103-2所指示对ST流进行解码以生成STD ST。在显示设备3被配置成包括STD监视器的情况下,如由箭头#104所指示的,再现设备2将通过解码所获得的STD数据输出到显示设备3。
另一方面,在显示设备3被配置成包括HDR监视器的情况下,如由箭头#105所指示的,再现设备2通过使用从视频流提取的转换信息将通过解码所获得的STD数据转换成HDR数据。再现设备2如由箭头#106所指示将特征信息添加到通过转换所获得的HDR数据,并且如由箭头#107所指示将添加有特征信息的HDR数据输出到显示设备3。
以这种方式,在将通过解码所获得的SRD数据转换成HDR数据之后,将所转换的数据连同特征信息一起输出至包括HDR监视器的显示设备3。此外,通过解码所获得的STD数据不经变化地输出到包括STD监视器的显示设备3。
图5是示出了从将原版的HDR数据输入至生成设备1的时间到从再现设备2输出数据的时间模式-ii的信号处理的流程的图。
如由白色箭头#121所指示的,在将原版的HDR数据转换成STD数据之后,将所转换的数据连同由生成设备1基于原版的HDR数据所生成的特征信息和转换信息一起提供给再现设备2。
在显示设备3被配置成包括HDR监视器的情况下,在再现设备2中,如由箭头#122和#123所指示的,通过使用转换信息将通过解码所获得的STD数据转换成HDR数据。另外,如由箭头#124和#125所指示的,将特征信息添加到通过STD数据的转换所获得的HDR数据,如由箭头#126所指示的,将添加有特征信息的HDR数据输出到显示设备3。
另一方面,在显示设备3被配置成包括STD监视器的情况下,在再现设备2中,如由箭头#127所指示的,将通过解码所获得的STD数据输出到显示设备3。
以这种方式,在模式-ii下,将原版的HDR数据转换成STD数据,并且将STD数据存储在MP4文件中。另外,根据要作为输出目的地的显示设备3的性能,进行转变:是将通过解码所获得的STD数据转换成HDR数据并且添加有要输出的特征信息,还是不经变化地输出STD数据。
稍后将详细描述前述生成设备1和再现设备2的配置和操作。
<HEVC方案中的访问单元的配置>
图6是示出了根据HEVC方案的访问单元的配置的图。
根据HEVC方案的视频流被配置有访问单元,每个访问单元是一组NAL(网络提取层)单元。一个访问单元包括例如一个图片的视频数据。
如图6中所示,一个访问单元被配置有AU分隔符(访问单元分隔符),VPS(视频参数集)、SPS(序列参数集)、PPS(图片参数集)、SEI、VCL(视频编码层)、EOS(序列结束)以及EOS(流结束)。
AU分隔符表示访问单元的开头。VPS包括表示比特流的内容的元数据。SPS包括诸如由HEVC解码器通过序列解码处理需要参考的图片大小和CTB(编码树块)大小的信息。PPS包括由HEVC解码器为执行图片解码处理需要参考的信息。
SEI是包括每个图片的计时信息或关于随机访问的信息等的辅助信息。根据HEVC方案的视频流可以包括特征信息和转换信息作为是SEI之一的tone_mapping_info。tone_mapping_info被分配有tone_map_id(色调_映射_id)作为识别tone_mapping_info的识别信息。
VCL是一个图片的编码数据。EOS(序列结束)表示序列的结束位置,而EOS(流结束)表示流的结束位置。
<tone_mapping_info>
图7是示出了根据HEVC方案规定的tone_mapping_info的语法的图。
根据作为图像的输出目的地的监视器的性能通过使用tone_mapping_info对通过解码所获得的图像的亮度或颜色进行转换。另外,图7的左侧中的行数和冒号(:)不构成语法。
在第2行中,tone_map_id是tone_mapping_info的识别信息。在第8行中,tone_map_model_id(色调_映射_模式_id)表示要用于转换的色调映射的模型(转换规则)。
关于tone_mapping_info的语法,tone_map_model_id的值可以为0、1、2、3、4。
tone_map_model_id的值为0、1、2、3中任一个的tone_mapping_info(在下文中,适当地缩写成TMI)对应于转换信息,而tone_map_model_id的值为4的TMI对应于特征信息。
另外,根据HEVC方案,对于作为转换信息的TMI,可以允许tone_map_model_id具有0、2或3。在本实施方式中,假定作为转换信息的TMI的tone_map_model_id的值为0、2、3中任一个。
生成设备1将HDR信息,即,转换信息和特征信息两者包括在MP4文件中。因此,在生成设备1中,生成tone_map_model_id的值为0、2、3中任一个的TMI中至少之一作为转换信息,并且生成tone_map_model_id的值为4的TMI中至少之一作为特征信息。
图7中的第9行至第11行是用于tone_map_model_id=0的描述。在tone_map_model_id=0的情况下,描述min_value(最小值)和max_value(最大值)。
图7中的第15行至第17行是用于tone_map_model_id=2的描述。在tone_map_model_id=2的情况下,描述具有与max_target_data(最大目标数据)的数目相同的数目且表示阶跃函数的start_of_coded_interval[i]。
图7中的第18行至第23行是用于tone_map_model_id=3的描述。在tone_map_model_id=3的情况下,描述具有由num_pivots指定的数目且表示折线函数的coded_pivot_value[i]和target_pivot_value[i]。
图7中的第24行至第39行是用于tone_map_model_id=4的描述。在关于tone_map_model_id=4的信息中,例如,ref_screen_luminance_white、extended_range_white_level、nominal_black_level_code_value、nominal_white_level_code_value和extended_white_level_code_value是构成特征信息的参数。
图8是示出了设置每个值作为tone_map_model_id的TMI与转换信息和特征信息之间的关系的图。
如图8中所示,设置值0、2、3中任一个作为tone_map_model_id的TMI对应于转换信息,而设置值4作为tone_map_model_id的TMI对应于特征信息。
图9是示出了作为由作为转换信息的具有tone_map_model_id=0的tone_mapping_info表示的转换规则的色调曲线的示例的图。
图9中的水平轴表示coded_data(编码_数据)(转换之前的RGB值),垂直轴表示target_data(目标_数据)(转换之后的RGB值)。在使用图9的色调曲线的情况下,如由白色箭头#151所指示的,低于值D1的RGB值被转换成由min_value表示的RGB值。另外,如由白色箭头#152所指示的,等于或高于值D2(>D1)的RGB值被转换成由max_value表示的RGB值。
在使用具有tone_map_model_id=0的TMI的转换中,虽然不存在超过max_value的亮度和min_value之下的亮度(由RGB值表示的亮度),但是降低了转换处理的负荷。
图10是示出了作为由作为转换信息的具有tone_map_model_id=2的TMI表示的转换规则的阶跃函数的示例的图。
在使用图10的阶跃函数的情况下,例如,coded_data(编码_数据)=5被转换成target_data(目标_数据)=3。
虽然具有tone_map_model_id=2的TMI具有大的数据量,但是降低了转换处理的负荷。
图11是示出了作为由作为转换信息的具有tone_map_model_id=3的TMI表示的转换规则的折线函数的示例的图。
在使用图11的折线函数的情况下,例如,coded_data(编码_数据)=D11被转换成target_data(目标_数据)=D11',并且coded_data(编码_数据)=D12被转换成target_data(目标_数据)=D12'。
图12是示出了包括在特征信息中的每条信息的示例的图。
图12中的水平轴表示亮度值。在位长度为10位的情况下,亮度值的值为0至1023。图12中的垂直轴表示亮度。曲线L11表示亮度值与具有标准亮度的监视器的亮度之间的关系。具有标准亮度的监视器的动态范围为0%至100%。
ref_screen_luminance_white(图7)表示标准监视器的亮度(STD图像的最大亮度)(cd/m2)。extended_range_white_level表示扩展的动态范围的亮度(HDR图像的最大亮度)。在图12的示例的情况下,把400设置作为extended_range_white_level的值。
nominal_black_level_code_value表示黑色(亮度0%)的亮度值,而nominal_white_level_code_value表示具有标准亮度的监视器的白色(亮度100%)的亮度值。extended_white_level_code_value表示在扩展的动态范围内白色的亮度值。
在图12的示例的情况下,如由白色箭头#161所指示的,根据extended_range_white_level的值,将0%至100%的动态范围扩展至0%至400%的动态范围。另外,由extended_white_level_code_value表示对应于400%的亮度的亮度值。
对于HDR数据的亮度的特征,nominal_black_level_code_value的值、nominal_white_level_code_value的值和extended_white_level_code_value的值分别变成由采用亮度0%、100%和400%的曲线L12表示的特征。
以这种方式,设置值4作为tone_map_model_id的TMI表示原版的HDR数据的亮度的特征。
<MP4文件>
图13是示出了MP4文件的影片的示例的图。
在本文中,在ISO/IEC(标准化国际组织/国际电工委员会)14496-12中规定MP4文件的细节。
在MP4文件中,将一组媒体数据如作为再现对象的视频、音频或ST(字幕)称作影片,并且影片被配置有一个或更多个轨道。
作为再现对象的视频、ST等中的独立的一种的媒体数据(数据流(例如,es(基本流)))可以构成一个轨道,并且可以同时再现包括在影片中的一个或更多个轨道。
在图13中,影片被配置有三个轨道#1、#2、#3。另外,轨道#1被配置有视频的数据流;轨道#2被配置有伴随视频的一通道音频的数据流;以及轨道#3被配置有与视频叠加的一通道ST的数据流。
每个轨道的媒体数据被配置有样本。
在访问MP4文件中的媒体数据的情况下,样本表示第一单元(访问单元)。因此,不可以以比样本更详细的单元访问MP4文件中的媒体数据。
对于视频的媒体数据,例如,1个帧(或1个字段)等变成1个样本。另外,对于音频的媒体,例如,由音频的媒体数据的标准定义的1个音频帧等变成1个样本。
图14是示出了媒体数据(影片)在MP4文件中的逻辑布置的示例的图。
以均称作组块(chunk)的单元来布置媒体数据。
在多种数据,即例如视频的数据流、音频的数据流和ST的数据流这三种数据流作为影片的媒体数据而存在的情况下,以多种数据以组块为单位交织的状态来布置多种媒体数据。
在本文中,组块是被布置在逻辑上连续的地址处的一个或更多个样本的集合。
图15是示出了MP4文件的数据结构的图。
MP4文件以称作盒的单位被配置为存储数据的容器,并且具有称作盒结构的结构。
盒包括4字节的‘大小’(盒大小)、4字节的‘类型’(盒类型)和实际数据(data)。
‘大小’表示整个盒的大小,而‘类型’表示盒中的实际数据的类型。
例如,可以利用上述媒体数据本身和其他盒的数据作为实际数据。
也就是说,盒可以包括作为实际数据的盒。因此,可以构造层级结构。
图16是示出了存储在媒体数据中的MP4文件的数据结构的示例的图。
在图16中,MP4文件被配置有ftyp盒(文件类型兼容(File TypeCompatibility)盒)、moov盒(影片(Movie)盒)和mdat盒(媒体数据(Media Data)盒)。
ftyp盒包括文件格式的信息,即,例如文件为MP4文件的信息、盒的版本、制造MP4文件的制造商的名称等。
moov盒包括元数据如时间轴或用于管理媒体数据的地址。
mdat盒包括媒体数据(AV数据)。
图17是示出了分片段的影片的MP4文件的示例和非分片段的影片的MP4文件的示例的图。
分片段的影片的MP4文件被配置成包括moov盒(影片盒)(MovieBox)、moof盒(影片分段盒)(MovieFragmentBox)、mdat盒(媒体数据盒)(MediaDataBox)。
非分片段的影片的MP4文件被配置成包括moov盒和mdat盒。
在本文中,在图17中,moov盒包括trak盒(轨道盒)(TrackBox),而moof盒包括traf盒(轨道分段盒)(TrackFragmentBox)。
在moov盒和moof盒中存储再现存储在mdat盒中的视频、音频、ST等的媒体数据(实际数据)所需要的信息(例如,显示时间等)。
在trak盒和traf盒中存储轨道的数据(视频、音频、ST等的数据)中的每种的独立数据序列信息(例如,显示大小等)等。
在mdat盒中存储媒体数据(实际数据),如视频、音频和ST。
moof盒和mdat盒的集合被称作片段。分片段的影片的MP4文件被配置有moov盒以及一个或更多个片段,并且适于流送。
另一方面,非分片段的影片的MP4文件不具有片段,如上所述,MP4文件包括moov盒和mdat盒。
图18是用于描述DECE(数字娱乐内容生态系统)CFF(通用文件格式)的图。
DECE CFF是基于MP4文件且由DECE规定的文件格式,并且利用分片段的影片的MP4文件。
在分片段的影片的MP4文件中,可以将多种es(基本流)存储在一个片段的mdat盒中。然而,在DECE CFF中,将一个es存储在一个片段的mdat盒中。
另外,在DECE CFF中,在分片段的影片的MP4文件中被复用的es可以被限制。
在DECE CFF中,具有例如AVC音频:MPEG4(运动图像专家组)-ACC(高级音频编码)和杜比AC-3,作为可以在分片段的影片中被复用的音频的es;以及具有例如SMPTE(电影与电视工程师协会)-TT(定时文本),作为ST(字幕)的es。
图19是示出了SMPTE-TT的ST的数据的示例的图。
SMPTE-TT是如下标准:将PNG显示函数添加到具有由W3C标准化的XML(可扩展标记语言)的规范并且规定向XML提供时间概念的ST的数据格式的TTML(定时文本标记语言)。
根据图19的SMPTE-TT的数据(文档),例如,在元素1001中,在从时间“00:00:05:05”到时间“00:00:10:05”的时间间隔中显示文本“subtitle#1 is presented(呈现字幕#1)”作为ST。
另外,例如,在元素1002中,在从时间“00:00:10:05”到时间“00:00:15:05”的时间间隔中显示文本“subtitle #2 is presented(呈现字幕#2)”作为ST。
在本实施方式中,虽然利用SMPTE-TT作为ST的数据(格式),但是除了XML以外,可以利用使用除了HTML(超文本标记语言)以外的标记语言的格式或其他任意格式作为ST的数据。
<生成设备1的第一配置示例>
图20是示出了图1的生成设备1的第一配置示例的框图。
在图20中,生成设备1被配置成包括控制器21、编码处理单元22和文件生成单元23。
在图20的生成设备1中,原版的HDR数据被输入至编码处理单元22。
控制器21被配置成包括CPU(中央处理单元)、ROM(只读存储器)、RAM(随机存取存储器)等。控制器21通过执行预定的程序来控制生成设备1的整体操作。
在控制器21中,执行预定的程序,使得实现报头信息生成单元21A。
报头信息生成单元21A生成moof盒和moov盒作为报头信息,并且将该报头信息提供给文件生成单元23,moof盒包括存储由编码处理单元22提供作为tone_mapping_info_id_ref的tone_map_id的tirf盒(ToneMappingInformationReferenceBox),moov盒包括vtmi盒(reference_type是“vtmi”的TrackReferenceTypeBox)。
可替选地,报头信息生成单元21A生成tirf盒和moov盒作为报头信息,并且将报头信息提供给文件生成单元23,tirf盒存储由编码处理单元22提供作为tone_mapping_info_id_ref的tone_map_id,moov盒包括vtmi盒。
稍后将描述tirf盒和vtmi盒。
编码处理单元22通过对原版的HDR数据进行编码来生成视频流和ST流,并且将视频流和ST流输出至文件生成单元23。
另外,编码处理单元22将要被应用于视频或ST的TMI(tone_mapping_info)的tone_map_id提供给控制器21(其报头信息生成单元21A)。
文件生成单元23生成存储由控制器21(其报头信息生成单元21A)提供的报头信息以及由编码处理单元22提供的视频流和ST流的MP4文件,并且输出MP4文件。
图21是示出了由图1的生成设备1生成的MP4文件的示例的图。
图21的MP4文件是包括片段的分片段的影片的MP4文件,并且moov盒包括视频的trak盒、音频的trak盒以及ST的trak盒。
因此,图21的MP4文件被配置成包括视频的轨道、音频的轨道以及ST的轨道。
在本文中,存储在MP4文件中的视频流是通过例如根据HEVC方案对视频进行编码所获得的流,并且如果视频流是包括TMI的流,则TMI被包括在视频的轨道中。
可以将图21的MP4文件(稍后描述的图25的MP4文件是相同的)应用于以下情况:其中将包括TMI(包括相同的HDR信息(特征信息和转换信息)作为TMI)的视频流,诸如除了根据HEVC方案被编码的视频流以外的根据例如AVC方案被编码的视频流,被存储在MP4文件中。
图20的生成设备1例如根据除了视频的轨道以外的ST的轨道,通过参考包括在视频的轨道中的TMI来生成可以有用地应用于ST的轨道的MP4文件。
因此,moov盒的ST(字幕)的trak盒包括tref盒(TrackReferenceBox),tref盒包括vtmi盒。
tref盒可以包括TrackReferenceTypeBox,然而vtmi盒是最新被定义为一种TrackReferenceTypeBox的盒。
现在,如果将包括vtmi盒的ST的轨道视为所关注的目标轨道,则包括要被应用于目标轨道的TMI(HDR信息)的轨道(即在本文中为视频的轨道)的track_id(稍后描述的表示track_id的track_IDs[])作为指定视频的轨道的轨道指定信息被存储在作为目标轨道的ST的轨道中包括的vtmi盒中。
因此,被称作包括要被应用于目标轨道的TMI的轨道的参考轨道可以由存储在作为目标轨道的ST的轨道中包括的vtmi盒中的track_id识别。
另外,如果将包括TMI的视频的轨道视为目标轨道,则作为目标轨道的视频的轨道变成被称作包括要被应用于视频的轨道的TMI的轨道。
以这种方式,在目标轨道是包括要被应用于目标轨道的TMI的参考轨道的情况下,对于目标轨道,可以省略在moov盒的目标盒的trak盒中存储包括存储有参考轨道的track_id的vtmi盒的tref盒。
在这种情况下,在包括vtmi盒的tref盒不存在于moov盒的目标盒的trak盒中的情况下,可以识别出目标轨道是参考轨道。
在图21中,包括vtmi盒的tref盒没有存储在moov盒的视频的trak盒中,因此,对于视频的轨道,将视频的轨道识别为参考轨道。
在本文中,甚至在目标轨道是包括要被应用于目标轨道的TMI的参考轨道的情况下,包括存储有参考轨道的track_id的vtmi盒的tref盒可以被存储在moov盒的目标盒的trak盒中。
也就是说,例如,在图21中,对于视频的轨道,类似于ST的轨道,包括存储有作为参考轨道的视频的轨道的track_id的vtmi盒的tref盒可以被存储在moov盒的视频的trak盒中。
另外,通过确定预先变成参考轨道的轨道的track_id,可以省略包括vtmi盒的tref盒。
在图21的MP4文件中,视频和ST的每个轨道的moof盒包括traf盒,traf盒包括存储有将tone_map_id表示为指定要被应用于轨道的TMI的HDR指定信息的tone_mapping_info_id_ref的tirf盒。
通过参考存储在目标盒的tirf盒中的tone_mapping_info_id_ref,将具有由tone_mapping_info_id_ref表示的tone_map_id的TMI识别为要被应用于目标轨道的TMI。
另外,分片段的影片的MP4文件包括每个片段的moof盒。具有由存储在片段的moof盒中包括的tirf盒中的tone_mapping_info_id_ref表示的tone_map_id的TMI当中的有效TMI被应用于某些片段的数据。
有效TMI是例如完成解码(所获取的)的TMI当中的最新的TMI。
如图21中所示,在分片段的影片的MP4文件中,将存储表示要被应用于视频的轨道的TMI的tone_map_id的tone_mapping_info_id_ref的tirf盒B#2存储包括在包括TMI的视频的轨道的moof盒中的traf盒中。
另外,对于参考包括在视频的轨道中的TMI的ST的轨道,将存储有作为参考轨道的视频的轨道的track_id的vtmi盒B#1存储在moov盒的ST(字幕)的轨道的trak盒的tref盒中。
另外,对于ST的轨道,将存储有表示要被应用于ST的轨道的TMI(包括在作为参考轨道的视频的轨道中的TMI)的tone_map_id的tone_mapping_info_id_ref的tirf盒B#3存储在包括在ST的轨道的moof盒中的traf盒中。
因此,根据图21的MP4文件,例如,如果视频的轨道被视为目标轨道,则由于moov盒的视频的trak盒不包括包含vtmi盒的tref盒,所以可以识别到:作为目标轨道的视频的轨道是包括要被应用于视频的轨道的TMI的参考轨道。
另外,可以识别到:包括在参考轨道中的TMI当中的具有由存储在为目标轨道的视频的轨道的moof/tarf/tirf盒B#2(tirf盒包括在tarf盒中,tarf盒包括在moof盒中)中的tone_mapping_info_id_ref表示的tone_map_id的TMI是要被应用于目标轨道的TMI。
另外,根据图21的MP4文件,例如,如果ST的轨道被视为目标轨道,则可以通过存储在moov盒的ST的trak/tref/vtmi盒B#1(vtmi盒包括在tref盒,tref盒包括在trak盒中)中的track_id识别到:视频的轨道是包括要被应用于ST的轨道的TMI的参考轨道。
另外,可以识别到:包括在参考轨道中的TMI当中的具有由存储在作为目标轨道的ST的轨道的moof/tarf/tirf盒B#3中的tone_mapping_info_id_ref表示的tone_map_id的TMI是要被应用于目标轨道的TMI。
图22是示出了tref盒的定义的图。
如参照图21所述,tref盒可以包括TrackReferenceTypeBox。
对于TrackReferenceTypeBox,TrackReferenceTypeBox的reference_type可以任意地被定义成根据TrackReferenceTypeBox的用途被使用。
在本实施方式中,“vtmi”最新被定义为表示TrackReferenceTypeBox要用于存储包括TMI的视频的轨道的track_id的reference_type,并且reference_type变成“vtmi”的TrackReferenceTypeBox用作存储包括TMI的视频的轨道的track_id的vtmi盒。
图23是示出了作为vtmi盒的TrackReferenceTypeBox的定义的示例的图。
vtmi盒包括(存储)表示track_id的track_IDs[]。
track_IDs[]是阵列变量并且可以存储多个track_id。因此,根据vtmi盒,可以将多个轨道指定为包括要被应用于ST的轨道的TMI的轨道。
图24是示出了tirf盒的定义的示例的图。
tirf盒(色调映射信息参考盒)(ToneMappingInformationReferenceBox)是最新被定义为存储表示要被应用于包括tirf盒的轨道的TMI的tone_map_id的tone_mapping_info_id_ref的盒,并且tirf盒被存储在trak盒(其中存储stbl盒(样本表格盒))或traf盒中。
在图24中,sample_count等于存储在stsz盒、stz2盒或trun盒中的sample_count,并且表示样本的数量。
在图24中,对于每个样本,可以存储在tirf盒中的tone_mapping_info_id_ref的数量仅是number_of_tone_mapping_info_id_ref。
因此,根据tirf盒,对于一个样本,可以被指定为要被应用于一个样本的具有由tone_mapping_info_id_ref表示的tone_map_id的TMI的数量仅是number_of_tone_mapping_info_id_ref。
图25是示出了由图20的生成设备1生成的MP4文件的另一示例的图。
图25的MP4文件是不包括任何片段的非分片段的影片的MP4文件,并且moov盒包括视频的trak盒、音频的trak盒以及ST的trak盒。
因此,图25的MP4文件被配置成包括视频的轨道、音频的轨道以及ST的轨道。
类似于图21,在图25中,视频的轨道还包括TMI,并且包括在视频的轨道中的TMI可以应用于例如除了视频的轨道以外的ST的轨道。
也就是说,在非分片段的影片的MP4文件中,如图25所示,存储表示要被应用于视频的轨道的TMI的tone_map_id的tone_mapping_info_id_ref的tirf盒B#11被存储在stbl盒中,stbl盒包括在包括moov盒的TMI的视频的轨道的trak盒中。
另外,对于ST的轨道,参考包括在视频的轨道中的TMI,存储表示作为参考轨道的视频的轨道的track_id的track_IDs[](图23)的vtmi盒B#12被存储在tref盒中,tref盒包括在moov盒的ST的轨道的trak盒中。
另外,对于ST的轨道,存储表示要被应用于ST的轨道的TMI(TMI包括在作为参考轨道的视频的轨道中)的tone_map_id的tone_mapping_info_id_ref的tirf盒B#13被存储在stbl盒中,stbl盒包括在moov盒的ST的轨道的trak盒中。
因此,根据图25的MP4文件,如果视频的轨道被视为目标轨道,则由于moov盒的视频的trak盒不包括包括vtmi盒的tref盒,则可以认识到为要被应用于目标轨道的TMI的视频的轨道是包括视频的轨道的参考轨道。
另外,由于moov盒的视频的trak/stbl盒(stbl盒包括在trak盒中)包括tirf盒B#11,则可以认识到包括在参考盒(在本文中,视频的轨道)中的TMI中的具有由存储在视频的trak/stbl/tirf盒B#11(tirf盒包括在stbl盒中,stbl盒包括在trak盒中)中的tone_mapping_info_id_ref表示的tone_map_id的TMI是要被应用于目标轨道的TMI。
另外,在图25中,例如,如果ST的轨道被视为目标轨道,则由于存在moov盒的ST的trak/tref/vtmi盒B#12,所以可以由包括在trak/tref/vtmi盒B#12中的track_id认识到:视频的轨道是包括要被应用于ST的轨道的TMI的参考轨道。
另外,由于存在为moov盒的目标盒的ST的轨道的tark/stbl/tirf盒B#13,则可以认识到:包括在参考轨道中的TMI中的具有由存储在为目标轨道的ST的轨道的tark/stbl/tirf盒B#13中的tone_mapping_info_id_ref表示的tone_map_id的TMI是要被应用于目标轨道的TMI。
另外,在非分片段的影片的MP4文件中,具有由存储在目标轨道的tirf盒中的tone_mapping_info_id_ref表示的tone_map_id的TMI中的有效TMI被应用于目标轨道。
如上所述,有效TMI是例如完成其解码(所需要的)的TMI中的最新的TMI。
如上所述,在图20的生成设备1中,由于生成了存储包括作为HDR信息的TMI的视频的轨道以及包括作为执行要被应用于包括在视频的轨道中的TMI中的ST的轨道的TMI的HDR指定信息的tone_mapping_info_id_ref的ST的轨道的MP4文件,所以可以将包括在视频的轨道中的TMI转用于ST,使得不需要单独将TMI添加到ST。
因此,在不单独将TMI添加到ST的情况下,可以将包括具有存储在例如蓝光(注册商标)盘中的m2ts格式的TMI以及与视频一起被再现的ST的视频转换成MP4文件。
结果,便于TMI到MP4文件的引入,使得可以增加用户享用HDR图像如HDR视频或HDR ST的可能性。
<编码处理单元22的配置示例>
图26是示出了图20的编码处理单元22的配置示例的框图。
编码处理单元22被配置成包括特征信息生成单元31、编码器32、转换单元33、转换信息生成单元34、编码器35以及流生成单元36。
特征信息生成单元31检测输入到编码处理单元22的原版的HDR数据的亮度,以生成TMI(tone_mapping_info)作为包括参照图12所描述的信息的特征信息。特征信息生成单元31将所生成的TMI作为特征信息提供给流生成单元36。
另外,特征信息生成单元31检测例如原版的HDR数据中的HDR视频的亮度,以生成TMI作为视频(HDR视频)的特征信息。另外,例如,对于HDR ST,特征信息生成单元31将作为与原版的HDR数据中的HDRST同时显示的HDR视频的特征信息的TMI用作作为ST(HDR ST)的特征信息的TMI。
在处理模式为模式-i的情况下,编码器32例如根据HEVC方案对原版的输入HDR视频进行编码。另外,在处理模式是模式-ii的情况下,编码器32根据HEVC方案对由转换单元33提供的STD视频进行编码。编码器32将HDR视频的编码数据或STD视频的编码数据提供给流生成单元36。另外,视频编码方案不限于HEVC方案。
转换单元33将输入到编码处理单元22的原版的HDR数据转换成STD数据。根据由创作者输入的转换参数适当地执行转换单元33的转换。转换单元33将表示输入数据与输出数据之间的关系的信息输出至转换信息生成单元34,其中,将HDR数据的RGB信号设置成输入数据,而将STD数据的RGB信号设置成输出数据。
另外,在处理模式是模式-ii的情况下,转换单元33将通过HDR视频的转换所获得的STD视频提供给编码器32,并且将通过HDR ST的转换所获得的STD ST提供给编码器35。
转换信息生成单元34基于由转换单元33提供的信息来生成TMI作为转换信息。
例如,在使用tone_map_model_id=0的情况下,转换信息生成单元34生成包括图9的min_value和max_value的值的TMI(tone_mapping_info)作为转换信息。
另外,在使用tone_map_model_id=2的情况下,转换信息生成单元34生成包括图10的start_of_coded_interval[i]的TMI作为转换信息。
另外,在使用tone_map_model_id=3的情况下,转换信息生成单元34生成包括由图11的num_pivots指定的数量的coded_pivot_value[i]和target_pivot_value[i]的TMI作为转换信息。
另外,例如,转换信息生成单元34对于视频生成TMI作为转换信息,而对于ST将作为与ST一起同时显示的值的转换信息的TMI用作作为ST的转换信息的TMI。
在处理模式是模式-i的情况下,编码器35将输入至编码处理单元22的原版的HDR ST编码成具有SMPTE-TT格式的ST的数据。另外,在处理模式是模式-ii的情况下,编码器35将由转换单元33提供的STD ST编码成具有SMPTE-TT格式的ST的数据。编码器35将作为编码的结果而获得的ST的数据提供给流生成单元36。
流生成单元36将由特征信息生成单元31提供作为视频和ST的特征信息的TMI的tone_map_id提供给控制器21(图20)。
另外,流生成单元36将由转换信息生成单元34提供作为视频和ST的转换信息的TMI的tone_map_id提供给控制器21。
另外,流生成单元36将视频的TMI(也是ST的TMI)作为SEI插入由编码器32提供的视频的编码数据中以生成视频流。
另外,流生成单元36将由编码器35提供的ST的数据作为ST流连同视频流提供给图20的文件生成单元23。
图27是示出了通过图26的转换单元33将HDR数据转换成STD数据的转换处理的示例的图。
如由箭头#201所指示的,转换单元33将输入至编码处理单元22的原版的HDR数据的YCrCb信号转换成RGB(红、绿、蓝)信号,并且执行将作为转换对象的RGB的相应信号转换(色调映射)成STD数据的RGB的相应信号。
转换单元33将表示作为输入数据的HDR数据的RGB信号与作为输出数据的STD数据的RGB信号之间的关系的信息输出至转换信息生成单元34。如由箭头#202所示,输出至转换信息生成单元34的信息用于生成转换信息。
另外,如由箭头#203所指示的,转换单元33将STD数据的RGB信号转换成YCrCb信号并且输出YCrCb信号。
图28是示出了色调映射的示例的图。
例如,如图28中所示,通过对高亮度分量进行压缩以扩展中间范围或低范围亮度分量来将HDR数据的RGB信号转换成STD数据的RGB信号。转换信息生成单元34生成与将图28中示出的HDR数据的RGB信号与STD数据的RGB信号映射的函数F对应的信息作为转换信息。
另外,与图28中示出的函数F对应的转换信息对应于具有用参照图11所描述的折线函数表示coded_data与target_data之间的关系的tone_map_model_id=3的TMI。
<生成设备1的文件生成处理>
图29是用于描述由图20的生成设备1执行的文件生成处理的示例的流程图。
如果将原版的HDR数据输入至生成设备1,则在步骤S1中,生成设备1的控制器21确定处理模式是否是模式-i。处理模式由例如创作者来设置。
在步骤S1中确定处理模式是模式-i的情况下,该过程进行至步骤S2,编码处理单元22执行模式-i的编码处理。将通过模式-i的编码处理所生成的视频流和ST流从编码处理单元22提供给文件生成单元23。
另一方面,在在步骤S1中确定处理模式是模式-ii的情况下,该过程进行至步骤S3,编码处理单元22执行模式-ii的编码处理。将通过模式-ii的编码处理所生成的视频流和ST流从编码处理单元22提供给文件生成单元23。
在步骤S2或S3之后,该过程进行至步骤S4,报头信息生成单元21A执行报头信息生成处理。将在报头信息生成处理中所生成的报头信息从报头信息生成单元21A提供给文件生成单元23,然后该过程进行至步骤S5。
在步骤S5中,文件生成单元23生成并输出图21或图25的存储由编码处理单元22提供的视频流和ST流以及由报头信息生成单元21A提供的报头信息的MP4文件,然后结束文件生成处理。
图30是用于描述在图29的步骤S2中执行的模式-i的编码处理的示例的流程图。
在步骤S11中,编码处理单元22(图26)的特征信息生成单元31检测原版的HDR数据的亮度以生成TMI作为视频和ST的特征信息,并且将该TMI提供给流生成单元36,然后该过程进行至步骤S12。
在步骤S12中,编码器32根据HEVC方案对原版的HDR视频进行编码以生成HDR视频的编码数据,并且将该编码数据提供给流生成单元36,然后该过程进行至步骤S13。另外,视频编码方案不限于HEVC方案。
在步骤S13中,编码器35对原版的HDR ST进行编码以生成具有SMPTE-TT格式的ST的数据,并且将ST的数据提供至流生成单元36,并且该过程进行至步骤S14。
在步骤S14中,转换单元33将原版的输入HDR数据转换成STD数据,并且将表示输入数据与输出数据之间的关系的信息提供给转换信息生成单元34,其中,HDR数据的RGB信号是输入数据,STD数据的RGB信号是输出数据。
此后,该过程从步骤S14进行至步骤S15,转换信息生成单元34基于从转换单元33提供的信息来生成TMI作为视频和ST的转换信息,并且将该TMI提供给流生成单元36。该过程进行至步骤S16。
在步骤S16中,流生成单元36将由特征信息生成单元31提供作为特征信息的TMI和由转换信息生成单元34提供作为转换信息的TMI作为编码数据的SEI插入到由编码器32提供的编码数据中,以生成视频流。
接下来,流生成单元36将由编码器35提供的ST的数据作为ST流连同视频流一起提供给文件生成单元23(图20)。
另外,流生成单元36将视频的TMI(要被应用于视频的TMI)的tone_map_id和ST的TMI(要被应用于ST的TMI)的tone_map_id提供给控制器21(图20),并且结束(返回)模式-i的编码处理。
图31是用于描述在图29的步骤S3中执行的模式-ii的编码处理的示例的流程图。
在步骤S21中,编码处理单元22的特征信息生成单元31检测原版的HDR数据的亮度以生成TMI作为视频和ST的特征信息,并且将该TMI提供给流生成单元36。
此后,在步骤S22中,转换单元33将原版的输入HDR数据转换成STD数据,并且转换单元33将STD数据当中的STD视频提供给编码器32并且将STD ST提供给编码器35。
另外,转换单元33将表示输入数据与输出数据之间的关系的信息提供给转换信息生成单元34,其中,HDR数据的RGB信号是输入数据,STD数据的RGB信号是输出数据,然后该过程从步骤S22进行至步骤S23。
在步骤S23中,转换信息生成单元34基于由转换单元33提供的信息来生成TMI作为视频和ST的转换信息,并且将该TMI提供给流生成单元36,并且该过程进行至步骤S24。
在步骤S24中,编码器32根据HEVC方案对从转换单元33提供的STD视频进行编码以生成STD视频的编码数据,并且将该编码数据提供给流生成单元36。另外,视频编码方案不限于HEVC方案。
之后,在步骤S25中,编码器25对由转换单元33提供的STD ST进行编码以生成具有SMPTE-TT格式的ST的数据,并且将ST的数据提供给流生成单元36。
接下来,在步骤S26中,流生成单元36将由特征信息生成单元31提供作为特征信息的TMI和由转换信息生成单元34提供作为转换信息的TMI作为编码数据的SEI插入到由编码器32提供的编码数据中,以生成视频流。
另外,流生成单元36将由编码器35提供的ST的数据作为ST流连同视频流一起提供给文件生成单元23(图20)。
另外,流生成单元36将视频的TMI的tone_map_id和ST的TMI的tone_map_id提供给控制器21(图20),并且结束(返回)模式-ii的编码处理。
图32是用于描述在图29的步骤S4中执行的报头信息生成处理的示例的流程图。
在步骤S31中,控制器21(图20)的报头信息生成单元21A生成存储有表示由编码处理单元22(其流生成单元36(图26))提供的视频的TMI(要被应用于视频的TMI)的tone_map_id的tone_mapping_info_id_ref的tirf盒(图21、图24、图25)。
另外,报头信息生成单元21A生成存储有表示由编码处理单元22提供的ST的TMI(要被应用于ST的TMI)的tone_map_id的tone_mapping_info_id_ref的tirf盒(图21、图24、图25)。
另外,报头信息生成单元21A生成存储有表示包括要被应用于ST的TMI的视频流的轨道的track_id的track_IDs[]的vtmi盒(图21、图23、图25),并且该过程从步骤S31进行至步骤S32。
在步骤S32中,报头信息生成单元21A产生包括vtmi盒的moov盒以及包括tirf盒的moof盒,或产生包括vtmi盒和tirf盒的moov盒,并且将所产生的盒作为报头信息提供给文件生成单元23(图20),并且结束报头信息生成处理。
也就是说,在文件生成单元23中,在生成分片段的影片的MP4文件的情况下,如图21中所示,报头信息生成单元21A生成在ST的轨道的trak/tref盒中的包括vtmi盒的moov盒。
另外,如图21中所示,报头信息生成单元21A生成在视频的轨道的traf盒中包括tirf盒的moof盒以及在ST的轨道的traf盒中包括tirf盒的moof盒。
另一方面,在文件生成单元23中,在生成非分片段的影片的MP4文件的情况下,如图25中所示,报头信息生成单元21A生成如下moov盒:在视频的轨道的trak盒中包括的stbl盒中包tirf盒,在ST的轨道的trak/tref盒中包括vtmi盒,以及在ST的轨道的trak盒中包括的stbl盒中包括tirf盒。
<再现设备2的第一配置示例>
图33是示出了图1的再现设备2的第一配置示例的框图。
在图33中,再现设备2被配置成包括文件获取单元51、分解单元52、操纵输入单元53、控制器54、解码处理单元55和组合输出单元56。
文件获取单元51从记录介质11或传输介质12(图1)获取MP4文件,并且将该MP4文件提供给分解单元52。
分解单元52从由文件获取单元51提供的MP4文件提取(获取)moov盒或moof盒作为报头信息,并且将moov盒或moof盒提供给控制器54。
另外,分解单元52从由文件获取单元51提供的MP4文件提取(获取)视频流或ST流作为存储在mdat盒中的实际数据,并且将视频流或ST流提供给解码处理单元55。
操纵输入单元53被配置有接收信号,如从诸如按钮、按键或触摸板或预定的远程控制器的输入装置发送的红外信号的接收单元,以接收用户的操纵。接下来,操纵输入单元53将与用户的操纵对应的操作信号提供给控制器54。
控制器54被配置成包括CPU、ROM、RAM等。控制器54通过执行预定的程序来控制再现设备2的整体操作。
例如,控制器54将存储在由分解单元52提供的moov盒中包括的vtmi盒中的track_IDs[](图21、图23、图25)以及存储在tirf盒中的tone_mapping_info_id_ref(图21、图24、图25)提供给解码处理单元55。另外,例如,控制器54将存储在由分解单元52提供的moof盒中包括的tirf盒中的tone_mapping_info_id_ref提供给解码处理单元55。
解码处理单元55被配置成包括解码器55A和解码器55B。
解码器55A用作将视频的轨道识别为参考轨道(被称作包括要应用的TMI的轨道的轨道)的获取单元,并且从由分解单元52提供的视频的轨道的视频流的SEI获取作为特征信息和转换信息的TMI(tone_mapping_info),以作为包括在参考轨道中的TMI。
另外,解码器55A根据HEVC方案对包括在由分解单元52提供的视频流中的编码数据进行解码。
另外,解码器55A从包括在作为参考轨道的视频的轨道中的TMI中获取具有由存储在视频的轨道的tirf盒中且由控制器54提供的tone_mapping_info_id_ref表示的tone_map_id的TMI,以作为要被应用于视频的TMI。
接下来,如果需要,解码器55A基于作为转换信息要被应用于视频的TMI来将作为解码的结果而获得的HDR视频或STD视频转换成STD视频或HDR视频,并且将STD视频或HDR视频输出至组合输出单元56。
在输出HDR视频的情况下,解码器55A将作为特征信息要被应用于视频的TMI连同HDR视频一起输出至组合输出单元56。
解码器55B对由分解单元52提供的ST流进行解码。
另外,解码器55B用作下述获取单元:其将具有由存储在ST的轨道的vtmi盒中且由控制器54提供的track_IDs[]表示的track_id的轨道(即在本实施方式中为视频的轨道)识别为参考轨道,并且获取包括在参考轨道中的TMI。
更具体地,解码器55B从作为参考轨道的视频的轨道的视频流的SEI获取由分解单元52提供作为特征信息和转换信息的TMI,以作为包括在参考轨道中的TMI。
另外,解码器55B从包括在作为参考轨道的视频的轨道中的TMI中获取具有由存储在ST的轨道的tirf盒中且由控制器54提供的tone_mapping_info_id_ref表示的tone_map_id的TMI,以作为要被应用于ST的TMI。
接下来,如果需要,解码器55B基于作为转换信息要被应用于ST的TMI来将作为解码的结果而获得的HDR ST或STD ST转换成STD ST或HDR ST,并且将STD ST或HDR ST输出至组合输出单元56。
在解码器55B输出HDR ST的情况下,解码器55B将作为特征信息要被应用于ST的TMI连同HDR ST一起输出至组合输出单元56。
组合输出单元56通过线缆4(图1)执行与显示设备3的通信。例如,组合输出单元56获取关于包括在显示设备3中的监视器的性能的信息,并且将该信息输出至控制器54。
另外,组合输出单元56将由解码器55A提供的HDR视频或STD视频以及由解码器55B提供的HDR ST或STD ST,如果需要的话在其组合之后,输出到显示设备3。
另外,组合输出单元56将由解码器55A和解码器55B提供的TMI作为特征信息输出到显示设备3。
<再现设备2的再现处理>
图34是用于描述由图33的再现设备2执行的再现处理的示例的流程图。
另外,假定:在再现设备2中,在开始再现处理之前,控制器54控制组合输出单元56与显示设备3通信以获取例如EDID(扩展显示识别数据)作为表示显示设备3的性能的信息。
在步骤S41中,文件获取单元51获取由生成设备1生成的MP4文件,并且将该MP4文件提供给分解单元52。
分解单元52从由文件获取单元51提供的MP4文件读取moov盒或moof盒作为报头信息,并且读取视频流或ST流作为存储在mdat盒中的实际数据。
接下来,分解单元52将moov盒或moof盒作为报头信息提供给控制器54,并且将视频流或ST流提供给解码处理单元55。
另外,控制器54将存储在由分解单元52提供的moov盒中包括的vtmi盒中的track_IDs[]以及存储在tirf盒中的tone_mapping_info_id_ref提供给解码处理单元55。另外,控制器54将存储在由分解单元52提供的moof盒中包括的tirf盒中的tone_mapping_info_id_ref提供给解码处理单元55。
此后,该过程从步骤S41进行至步骤S42,控制器54确定由文件获取单元51获取的MP4文件的处理模式是模式-i还是模式-ii,即,由文件获取单元51获取的MP4文件是通过模式-i的编码处理所获得的文件还是通过模式-ii的编码处理所获得的文件。
在本文中,允许表示MP4文件的处理模式的信息作为报头信息包括在moov盒中,并且可以例如基于该信息执行在步骤S42中控制器54对处理模式的确定。
在步骤S42中确定处理模式是模式-i的情况下,该过程进行至步骤S43,并且解码处理单元55执行模式-i的解码处理。
另一方面,在步骤S42中确定处理模式是模式-ii的情况下,该过程进行至步骤S44,并且解码处理单元55执行模式-ii的解码处理。
在步骤S43或步骤S44中执行解码处理之后,结束再现处理。
图35是用于描述图34的步骤S43中的模式-i的解码处理的流程图。
在步骤S61中,解码器55A将视频的轨道识别为参考轨道,并且从由分解单元52提供的视频的轨道的视频流的SEI获取作为特征信息和转换信息的TMI,以作为包括在参考轨道中的TMI。
另外,在步骤S61中,解码器55B将作为具有由存储在ST的轨道的vtmi盒中且由控制器54提供的track_IDs[]表示的track_id的轨道(由作为轨道指定信息的track_IDs[]指定的轨道)的视频的轨道识别为参考轨道,并且获取包括在参考轨道中的TMI。
也就是说,类似于解码器55A,解码器55B从由分解单元52提供作为参考轨道的视频的轨道的视频流的SEI获取作为特征信息和转换信息的TMI,以作为包括在参考轨道中的TMI。
此后,该过程从步骤S61进行至步骤S62,解码器55A根据HEVC方案对包括在从分解单元52提供的视频流中的编码数据进行解码,以生成HDR视频,并且该过程进行至步骤S63。另外,视频解码(编码)方案不限于HEVC方案。
在步骤S63中,解码器55B将由分解单元52提供的ST流,即例如具有SMPTE-TT格式的ST的数据的流解码成HDR ST,并且该过程进行至步骤S64。
在步骤S64中,控制器54确定包括在显示设备3中的监视器是否是HDR监视器。
在本文中,如参照图34所描述的,控制器54从显示设备3获取EDID作为表示显示设备3的性能的信息,并且基于EDID确定包括在显示设备3中的监视器是否是HDR监视器。
在步骤S64中确定包括在显示设备3中的监视器是HDR监视器的情况下,该过程进行至步骤S65。
在步骤S65中,解码器55A从包括在作为参考轨道的视频的轨道中的TMI中获取具有由存储在视频的轨道的tirf盒中且由控制器54提供的tone_mapping_info_id_ref表示的tone_map_id的TMI(由作为HDR指定信息的tone_mapping_info_id_ref指定的TMI),以作为要被应用于视频的TMI。
另外,解码器55B从包括在作为参考轨道的视频的轨道中的TMI中获取具有由存储在ST的轨道的tirf盒中且由控制器54提供的tone_mapping_info_id_ref表示的tone_map_id的TMI(由作为HDR指定信息的tone_mapping_info_id_ref指定的TMI),以作为要被应用于ST的TMI。
此后,该过程从步骤S65进行至步骤S66,解码器55A将HDR视频连同作为特征信息要被应用于视频的TMI一起提供给组合输出单元56。另外,解码器55B将HDR ST连同作为特征信息要被应用于ST的TMI一起提供给组合输出单元56。
在组合输出单元56中,如果需要,将HDR视频和HDR ST组合以与作为特征信息的TMI一起提供(发送)给显示设备3(图1)。
另一方面,在步骤S64中确定包括在显示设备3中的监视器不是HDR监视器而是STD监视器,该过程进行至步骤S67。
在步骤S67中,解码器55A从包括在作为参考轨道的视频的轨道中的TMI中获取具有由存储在视频的轨道的tirf盒中且由控制器54提供的tone_mapping_info_id_ref表示的tone_map_id的TMI(由作为HDR指定信息的tone_mapping_info_id_ref指定的TMI),以作为要被应用于视频的TMI。
另外,解码器55B从包括在作为参考轨道的视频的轨道中的TMI中获取具有由存储在ST的轨道的tirf盒中且由控制器54提供的tone_mapping_info_id_ref表示的tone_map_id的TMI(由作为HDR指定信息的tone_mapping_info_id_ref指定的TMI),以作为要被应用于ST的TMI。
此后,该过程从步骤S67进行至步骤S68,解码器55A基于作为转换信息要被应用于视频的TMI将作为解码的结果而获得的HDR视频转换成STD视频。
另外,解码器55B基于作为转换信息要被应用于ST的TMI将作为解码的结果而获得的HDR ST转换成STD ST。
接下来,该过程从步骤S68进行至步骤S69,解码器55A将STD视频提供给组合输出单元56。另外,解码器55B将STD ST提供给组合输出单元56。
在组合输出单元56中,如果需要,将STD视频和STD ST组合以提供(发送)给显示设备3(图1)。
在步骤S66或S69之后,该过程进行至步骤S70,控制器54确定是否结束再现。
在步骤S70中确定不结束再现的情况下,该处理返回至步骤S61,并且重复执行相同的处理。另一方面,在步骤S70中确定结束再现的情况下,结束模式-i的解码处理。
图36是用于描述图34的步骤S44中的模式-ii的解码处理的流程图。
在步骤S81中,类似于图35的步骤S61,解码器55A和55B获取包括在参考轨道中的TMI。
也就是说,解码器55A将视频的轨道识别为参考轨道,并且从由分解单元52提供的视频的视频流的SEI获取作为特征信息和转换信息的TMI,以作为包括在参考轨道中的TMI。
解码器55B将作为具有由存储在ST的轨道的vtmi盒中且由控制器54提供的track_IDs[]表示的track_id的轨道(由作为轨道指定信息的track_IDs[]指定的轨道)的视频的轨道识别为参考轨道,并且从由分解单元52提供作为参考轨道的视频的轨道的视频流的SEI获取作为特征信息和转换信息的TMI,以作为包括在参考轨道中的TMI。
此后,该过程从步骤S81进行至步骤S82,解码器55A根据HEVC方案对包括在从分解单元52提供的视频流中的编码数据进行解码以生成STD视频。该过程进行至步骤S83。另外,视频解码(编码)方案不限于HEVC方案。
在步骤S83中,解码器55B将ST流,即例如SMPTE-TT格式下的ST的数据的流解码成STD ST,并且该过程进行至步骤S84。
在步骤S84中,例如,类似于图35的步骤S64,控制器54确定包括在显示设备3中的监视器是否是HDR监视器。
在步骤S84中确定包括在显示设备3中的监视器是HDR监视器的情况下,该过程进行至步骤S85。
在步骤S85中,解码器55A从包括在作为参考轨道的视频的轨道中的TMI中获取具有由存储在视频的轨道的tirf盒中且由控制器54提供的tone_mapping_info_id_ref表示的tone_map_id的TMI(由作为HDR指定信息的tone_mapping_info_id_ref指定的TMI),以作为要被应用于视频的TMI。
另外,解码器55B从包括在作为参考轨道的视频的轨道中的TMI中获取具有由存储在ST的轨道的tirf盒中且由控制器54提供的tone_mapping_info_id_ref表示的tone_map_id的TMI(由作为HDR指定信息的tone_mapping_info_id_ref指定的TMI),以作为要被应用于ST的TMI。
此后,该过程从步骤S85进行至步骤S86,解码器55A基于作为转换信息要被应用于视频的TMI将作为解码的结果而获得的STD视频转换成HDR视频。另外,解码器55B基于将作为转换信息要被应用于ST的TMI将作为解码的结果而获得的STD ST转换成HDR ST。
接下来,该过程从步骤S86进行至步骤S87,解码器55A将HDR视频连同作为特征信息要被应用于视频的TMI一起提供给组合输出单元56。另外,解码器55B将HDR ST连同作为特征信息要被应用于ST的TMI一起提供给组合输出单元56。
在组合输出单元56中,如果需要,将HDR视频和HDR ST组合以与作为特征信息的TMI一起提供给显示设备3(图1)。
另一方面,在步骤S84中确定包括在显示设备3中的监视器是STD监视器,该过程进行至步骤S88,解码器55A将通过步骤S82的解码所获得的STD视频提供给组合输出单元56。另外,解码器55B将通过步骤S83的解码所获得的STD ST提供给组合输出单元56。
在组合输出单元56中,如果需要,将STD视频和STD ST组合以提供给显示设备3(图1)。
在步骤S87或S88之后,该过程进行至步骤S89,控制器54确定是否结束再现。
在步骤S89中确定不结束再现的情况下,该过程返回至步骤S81,并且重复执行相同的处理。另一方面,在步骤S89中确定结束再现的情况下,结束模式-ii的解码处理。
<显示设备3的配置示例>
图37是示出了图1的显示设备3的配置示例的框图。
显示设备3被配置成包括控制器101、通信单元102、信号处理单元103和监视器104。控制器101被配置成包括存储器101A,存储器101A存储例如表示监视器104的性能的EDID(扩展显示识别数据)等。
控制器101被配置成包括CPU、ROM、RAM等。控制器101通过执行预定的软件来控制显示设备3的整体操作。
例如,在执行关于再现设备2的认证时,控制器101将存储在存储器101A中的EDID输出至通信单元102,并且允许EDID被发送至再现设备2。再现设备2基于EDID指定显示设备3的监视器104的性能。
通信单元102通过线缆4(图1)执行与再现设备2的通信。通信单元102接收从再现设备2发送的HDR数据或STD数据,并且将HDR数据或STD数据输出至信号处理单元103。另外,通过单元102将由控制器101提供的EDID发送至再现设备2。
信号处理单元103对由通信单元102提供的HDR数据或STD数据执行处理,并且在监视器104上显示图像。
<显示设备3的显示处理>
图38是用于描述图37的显示设备3的显示处理的示例的流程图。
在本文中,将对包括在显示设备3中的监视器104是HDR监视器的情况进行描述。将添加有特征信息的HDR数据从再现设备2发送至包括HDR监视器的显示设备3。
在步骤S101中,显示设备3的通信单元102接收从再现设备2发送的HDR数据和特征信息,并且该过程进行至步骤S102。
在步骤S102中,控制器101参照特征信息来确定是否可以不经变化地显示从再现设备2发送的HDR数据。特征信息包括原版的HDR数据,即作为表示从再现设备2发送的HDR数据的亮度的特征的特征信息的TMI。通过将由作为特征信息的TMI指定的HDR数据的亮度的特征与监视器104的显示性能进行比较来执行步骤S102的确定。
例如,在由作为特征信息的TMI指定的HDR数据的动态范围为0%至400%而监视器104的动态范围为0%至500%(例如,500cd/m2,如果100%的亮度为100cd/m2的话)的情况下,确定可以不经变化地显示HDR数据。另一方面,在由作为特征信息的TMI指定的HDR数据的动态范围为0%至400%而监视器104的动态范围为0%至300%的情况下,确定不能够不经变化地显示HDR数据。
在步骤S102中确定可以不经变化地显示HDR数据的情况下,该过程进行至步骤S103,信号处理单元103根据由作为特征信息的TMI指定的亮度在监视器104上显示与HDR数据对应的HDR图像。例如,在由图12的曲线L12表示的亮度的特征由作为特征信息的TMI指定的情况下,每个亮度值表示由曲线L12表示的0%至400%的范围内的亮度。
另一方面,在步骤S102中确定不允许不经变化地显示HDR数据的情况下,该过程进行至步骤S104,信号处理单元103根据监视器104的显示性能来调整HDR数据的亮度,并且显示与调整亮度的HDR数据对应的HDR图像。例如,在由图12的曲线L12表示的亮度的特征由特征信息指定并且监视器104的动态范围为0%至300%的情况下,执行压缩,使得每个亮度值表示0%至300%的范围内的亮度。
另外,在步骤S103中,当在步骤S104中显示与HDR数据对应的HDR图像之后,该过程进行至步骤S105,控制器101确定是否结束显示。在确定不结束显示的情况下,重复步骤S101之后的处理。在步骤S105中确定结束显示的情况下,显示处理结束。
由于上述一系列处理,生成设备1以HDR数据的状态将原版的HDR数据存储在MP4文件中,允许HDR数据在再现设备2中被再现,并且允许在显示设备3上显示与HDR数据对应的HDR图像。
另外,生成设备1将原版的HDR数据转换成STD数据以将STD数据存储在MP4文件中,使得能够在再现设备2中将STD数据恢复成HDR数据,并且使得能够在显示设备3上显示与HDR数据对应的HDR图像。
在HDR数据的再现期间,允许原版的HDR数据的亮度的特征由作为特征信息的TMI指定,使得内容的创作者可以用想要的亮度显示与HDR数据对应的HDR图像。
另外,生成设备1将包括TMI的视频(其流)的轨道和ST(其流)的轨道作为HDR信息(特征信息和转换信息)存储在MP4文件中。
因此,ST的轨道可以包括vtmi盒和tirf盒,vtmi盒存储track_IDs[]作为指定包括要被应用于ST的轨道的TMI的视频的轨道的轨道指定信息,tirf盒存储tone_mapping_info_id_ref作为指定要被应用于ST的轨道的TMI的HDR指定信息。
结果,再现设备2从由存储在ST的轨道中包括的vtmi盒中的track_IDs[]表示的包括在视频的轨道中的TMI(具有track_id)中获取由存储在ST的轨道中包括的tirf盒中的tone_mapping_info_id_ref指定的TMI(具有tone_map_id),以作为要被应用于ST的TMI,并且可以将该TMI用于ST的处理。
因此,在图20的第一配置示例的生成设备1中生成的MP4文件(在下文中,有时被称作第一MP4文件)中,由于可以将包括在视频的轨道中的TMI转用于ST,所以不需要单独地将TMI添加到ST。
另外,在上述情况下,在第一MP4文件的生成期间,对于ST,由于将与ST同时显示的视频的TMI用作ST的TMI,所以ST的TMI依赖于视频的TMI。
然而,对于视频和ST,单独地生成TMI,除了视频的TMI以外,ST的TMI包括在视频的流中,使得可以防止ST的TMI依赖于视频的TMI。
<生成设备1的第二配置示例>
图39是示出了图1的生成设备1的第二配置示例的框图。
另外,在该图中,与图20的情况相对应的部件由相同的附图标记来表示,在下文中将适当地省略其描述。
在图39中,生成设备1被配置成包括控制器21、文件生成单元23和编码处理单元122。
因此,图39的生成设备1与图20的情况的生成设备的相同之处在于生成设备1被配置成包括控制器21和文件生成单元23,而生成设备1与图20的情况的生成设备的不同之处在于安装编码处理单元122来代替编码处理单元22。
另外,图39的生成设备1与图20的情况的生成设备的不同之处在于控制器21被配置成包括报头信息生成单元121A来代替报头信息生成单元21A。
在图39的生成设备1中,原版的HDR数据被输入至编码处理单元22。
类似于图20的报头信息生成单元21A,报头信息生成单元121A生成存储由编码处理单元122提供的tone_map_id作为tone_mapping_info_id_ref的tirf盒(图24)。
另外,报头信息生成单元121A生成存储由编码处理单元122提供的TMI(tone_mapping_info)作为ToneMapInfo(类对象)的tinf盒(ToneMappingInformationBox)。
接下来,报头信息生成单元121A生成包括tirf盒和tinf盒的moov盒或moof盒作为报头信息,并且将该报头信息提供给文件生成单元23。
稍后将描述tinf盒。
类似于图20的编码处理单元22,编码处理单元122通过对原版的HDR数据执行编码来生成视频流和ST流,并且将视频流和ST流输出至文件生成单元23。
另外,类似于图20的编码处理单元22,编码处理单元122将要被应用于视频或ST的TMI(tone_mapping_info)的tone_map_id提供给控制器21(其报头信息生成单元121A)。
另外,编码处理单元122将要被应用于视频和ST的TMI提供给控制器21(其报头信息生成单元121A)。
图40是示出了由图39的生成设备1生成的MP4文件(在下文中,有时被称作第二MP4文件)的示例的图。
图40的第二MP4文件是具有片段的分片段的影片的MP4文件,并且moov盒包括视频、音频和ST的trak盒。
因此,图40的第二MP4文件包括视频的轨道、音频的轨道和ST的轨道。
在本文中,在第一MP文件(图21、图25)中,由于TMI包括在视频的轨道中而不包括在ST的轨道中,所以将包括在视频的轨道中的TMI转用于ST。然而,在第二MP文件中,要被应用于媒体的TMI被包括在每种媒体如视频或ST的轨道中。
也就是说,图39的生成设备1生成将要被应用于媒体的TMI包括在媒体的轨道中的MP4文件,作为每种媒体的第二MP4文件。
因此,在图40中,每种媒体的moof/traf盒包括tirf盒和tinf盒(ToneMappingInformationBox)(色调映射信息盒)。
如参照图21所描述的,tirf盒是最新被定义成指定要被应用于关注的目标轨道的TMI并且存储表示tone_map_id的tone_mapping_info_id_ref的盒。
tinf盒是最新被定义成存储TMI(tone_mapping_info)的盒。
在分片段的影片的MP4文件中,如图40中所示,在视频的轨道的moof/traf盒中存储tinf盒B#22和tirf盒B#21,tinf盒B#22存储要被应用于视频(其轨道)的TMI,tirf盒B#21存储表示存储在tinf盒B#22中的TMI当中的要被应用于视频的TMI的tone_map_id的tone_mapping_info_id_ref。
类似地,在ST的轨道的moof/traf盒中存储tinf盒B#2和tirf盒B#23,tinf盒B#2存储要被应用于ST(其轨道)的TMI,tirf盒B#23存储表示存储在tinf盒B#24中的TMI中的要被应用于ST的TMI的tone_map_id的tone_mapping_info_id_ref。
因此,根据图40的第二MP4文件,例如,如果视频的轨道被视为目标轨道,则可以认识到存储在目标轨道的moof/traf/tinf盒B#22中的TMI中的具有由存储在目标轨道的moof/tarf/tirf盒B#21中的tone_mapping_info_id_ref表示的tone_map_id的TMI是要被应用于目标轨道的TMI。
另外,根据图40的MP4文件,例如,如果ST的轨道被视为目标轨道,则还可以认识到存储在目标轨道的moof/traf/tinf盒B#24中的TMI中的由存储在目标轨道的moof/tarf/tirf盒B#23中的tone_mapping_info_id_ref表示的tone_map_id的TMI是要被应用于目标轨道的TMI。
另外,尽管分片段的影片的MP4文件包括每个片段的moof盒,但是具有由存储在片段的moof/traf/tirf盒中的tone_mapping_info_id_ref表示的tone_map_id的TMI中的有效TMI被应用于一些片段的数据。
图41是示出了tinf盒的定义的示例的图。
tinf盒(ToneMappingInformationBox)(色调映射信息盒)是最新被定义为存储要被应用于包括tinf盒作为ToneMapInfo(类对象tonemap)的轨道的TMI的盒,并且tinf盒被存储在trak盒(其中存储stbl盒)或traf盒中。
图42是示出了ToneMapInfo的语法的第一示例的图。
除了插入用于字节对准的padding_value以外,图42的ToneMapInfo具有与图7的TMI(tone_mapping_info)相同的配置。
图43是示出了ToneMapInfo的语法的第二示例的图。
除了最新定义的component_idc以外,图43的ToneMapInfo具有与图42的情况相同的配置。
在component_idc为例如0的情况下,由图43的ToneMapInfo表示的TMI通常被应用于例如作为构成图像的多个分量的所有分量R、G、B。
另外,在component_idc为例如1的情况下,由图43的ToneMapInfo表示的TMI通常被应用于例如为构成图像的分量R、G、B之一的仅R。
另外,在component_idc为例如2的情况下,由图43的ToneMapInfo表示的TMI通常被应用于例如为构成图像的分量R、G、B之一的仅G。另外,在component_idc为例如3的情况下,由图43的ToneMapInfo表示的TMI通常被应用于例如为构成图像的分量R、G、B之一的仅B。
根据图43的ToneMapInfo,要被应用的TMI可以以分量为单位来变化。
图44是示出了ToneMapInfo的语法的第三示例的图。
除了最新定义num_of_components之外,图44的ToneMapInfo具有与图42的情况相同的配置。
在num_of_components为例如0的情况下,由图44的ToneMapInfo表示的TMI通常被应用于例如作为构成图像的多个分量的所有分量R、G、B。
另外,在num_of_components为例如3的情况下,在图43的ToneMapInfo中例如按该顺序对被应用于构成图像的分量R、G、B的R的TMI、G的TMI以及B的TMI进行描述。
根据图43或图44的ToneMapInfo,对于构成图像的每个分量,可以独立地描述要被应用于分量的TMI。
图45是示出了由图39的生成设备1生成的第二MP4文件的另一示例的图。
图45的第二MP4文件是不包括任何片段的非分片段的影片的MP4文件,并且moov盒包括视频的trak盒、音频的trak盒以及ST的trak盒。
因此,图45的第二MP4文件被配置成包括视频的轨道、音频的轨道以及ST的轨道。
类似于图40的情况,在图45的第二MP4文件中,在相应的媒体如视频或ST的轨道中包括要被应用于媒体的TMI。
即,在非分片段的影片的MP4文件中,如图45中所示,对于视频的轨道,在moov盒的视频的轨道的trak/stbl盒中存储tinf盒B#32和tirf盒B#31,tinf盒B#32存储要被应用于视频(其轨道)的TMI,tirf盒B#31存储表示要被应用于视频的TMI的tone_map_id的tone_mapping_info_id_ref。
类似地,对于ST的轨道,在moov盒的ST的轨道的trak/stbl盒中存储tinf盒B#34和tinf盒B#33,tinf盒B#34存储要被应用于ST(其轨道)的TMI,tinf盒B#33存储表示要被应用于ST的TMI的tone_map_id的tone_mapping_info_id_ref。
因此,根据图45的第二MP4文件,例如,如果视频的轨道被视为目标轨道,则可以认识到存储在包括在moov盒的目标轨道(在本文中,视频的轨道)的trak盒中包括的stbl盒中的tinf盒B#32中的TMI中的具有由存储在stbl盒中包括的tirf盒B#31中的tone_mapping_info_id_ref表示的tone_map_id的TMI是要被应用于目标轨道的TMI。
另外,例如,如果ST的轨道被视为目标轨道,类似于视频的情况,可以认识到存储在包括在moov盒的目标轨道(在本文中,ST的轨道)的trak盒中的stbl盒中包括的tinf盒B#34中的TMI中的具有由存储在stbl盒中包括的tirf盒B#33中的tone_mapping_info_id_ref表示的tone_map_id的TMI是要被应用于目标轨道的TMI。
另外,在非分片段的影片中,存储在目标轨道的tinf盒中的TMI中的有效TMI被应用于目标轨道。
如上所述,在图39的生成设备1中,由于生成存储包括作为HDR信息的TMI(存储TMI的tinf盒)以及作为指定TMI中的被应用于关注的目标轨道的TMI的HDR指定信息的tone_mapping_in fo_id_ref(存储tone_mapping_info_id_ref的tirf盒)的目标轨道的第二MP4文件,所以可以将要被应用于每种媒体的TMI独立地添加到每种媒体如视频或ST。
另外,在对视频进行编码的情况下,例如,根据HEVC方案,尽管生成将视频的TMI插入到SEI中的视频流,在第二MP4文件中,可以将要被应用于媒体的TMI独立于要被插入到SEI中的TMI添加到除了视频以外的媒体。
因此,在不将要被应用于ST的TMI独立添加到ST的情况下,将包括记录在例如蓝光(注册商标)盘中的具有m2ts格式的TMI的视频以及与TMI一起再现的ST转换成MP4文件。
因此,便于TMI到MP4文件的引入,使得可以增加用户享用HDR图像如HDR视频或HDR ST的可能性。
另外,在对视频进行编码的情况下,例如,根据HEVC方案,由于生成将视频的TMI插入到SEI中的视频流,在第二MP4文件中,被插入到SEI中的TMI以及存储在视频的轨道中包括的tinf盒中的TMI作为视频的TMI而存在。
在这种情况下,在再现设备2(图1)中,可以例如预先确定或根据用户的操纵来选择被插入到SEI中的TMI和被存储在视频的轨道中包括的tinf盒中的TMI之一用作要被应用于视频的TMI。
在该实施方式中,假定:对于第二MP4文件,例如,被插入到SEI中的TMI以及被存储在视频的轨道中包括的tinf盒中的TMI中的存储在tinf盒中的TMI用作要被应用于视频的TMI。
在本文中,根据具有SMPTE-TT格式的ST的数据,尽管ST的多个显示屏可以包括在为对MP4文件进行访问的单元的一个样本中,但是在第二MP4文件中,在ST的多个显示屏包括在一个样本中的情况下,要被应用于包括在一个样本中的ST的多个显示屏中的每个的TMI是同一TMI,从而难以改变每个显示屏的要被应用的TMI。
<编码处理单元122的配置示例>
图46是图39的编码处理单元122的配置示例。
另外,在图中与图26的编码处理单元22对应的部件由相同的附图标记来表示,从而在下文中将适当地省略其描述。
编码处理单元122被配置成包括编码器32、转换单元33、转换信息生成单元34、编码器35、特征信息生成单元131、转换信息生成单元132和流生成单元133。
因此,图46的编码处理单元122与图26的编码处理单元22相同之处在于:编码处理单元122被配置成包括编码器32、转换单元33和编码器35。
然而,图46的编码处理单元122与图26的编码处理单元22不同之处在于:安装特征信息生成单元131、转换信息生成单元132和流生成单元133代替特征信息生成单元31、转换信息生成单元34和流生成单元36。
类似于图26的特征信息生成单元31,特征信息生成单元131检测被输入到编码处理单元122的原版的HDR数据的亮度以生成TMI作为特征信息并且将该TMI提供给流生成单元133。
然而,特征信息生成单元131对于原版的HDR数据中的HDR视频和HDR ST独立地生成TMI作为特征信息。
另外,类似于图26的特征信息生成单元31,在特征信息生成单元131中,对于HDR视频,可以生成作为HDR视频的特征信息的TMI;而对于HDR ST,可以将作为与HDR ST同时显示的HDR视频的特征信息的TMI用作作为ST(HDR ST)的特征信息的TMI。
类似于图26的转换信息生成单元34,转换信息生成单元132基于由转换单元33提供的信息来生成TMI作为转换信息。
然而,转换信息生成单元132对于原版的HDR数据中的HDR视频和HDR ST生成TMI作为转换信息,并且将TMI提供给流生成单元133。
另外,类似于图26的转换信息生成单元34,对于HDR视频,转换信息生成单元132可以生成TMI作为HDR视频的转换信息,并且对于HDR ST,转换信息生成单元132可以将作为与HDR ST一起同时显示的HDR视频的转换信息的TMI用作作为ST(HDR ST)的转换信息的TMI。
流生成单元133将由特征信息生成单元131提供作为视频和ST的特征信息的TMI的tone_map_id以及由转换信息生成单元132提供作为视频和ST的转换信息的TMI的tone_map_id提供给控制器21(图39)。
此外,流生成单元133执行与图26的流生成单元36的处理相同的处理。
也就是说,流生成单元133将由特征信息生成单元131提供作为视频和ST的特征信息的TMI的tone_map_id和由转换信息生成单元132提供作为视频和ST的转换信息的TMI的tone_map_id提供给控制器21。
另外,流生成单元133将视频的TMI作为SEI插入到由编码器32提供的视频的编码数据中以生成视频流。
另外,流生成单元133将由编码器35提供的ST的数据作为ST流连同视频流一起提供给图39的文件生成单元23。
另外,在流生成单元133中,不将视频的TMI插入到由编码器32提供的视频的编码数据中,但是可以将编码数据不经变化地用作视频流。
<生成设备1的文件生成处理>
图47是用于描述由图39的生成设备1执行的文件生成处理的示例的流程图。
如果将原版的HDR数据输入至生成设备1,类似于图29的步骤S1,在步骤S111中,生成设备1的控制器21确定处理模式是否是模式-i。
在在步骤S111中确定处理模式是模式-i的情况下,该过程进行至步骤S112,编码处理单元122执行模式-i的编码处理。将通过模式-i的编码处理所生成的视频流和ST流从编码处理单元122提供至文件生成单元23。
另一方面,在在步骤S111中确定模式处理是模式-ii的情况下,该过程进行至步骤S113,编码处理单元122执行模式-ii的编码处理。将通过模式-ii的编码处理所生成的视频流和ST流从编码处理单元122提供至文件生成单元23。
在步骤S112或S113之后,该过程进行至步骤S114,报头信息生成单元121A执行报头信息生成处理。将在报头信息生成处理中所生成的报头信息从报头信息生成单元121A提供至文件生成单元23,然后该过程进行至步骤S115。
在步骤S115中,文件生成单元23生成和输出图40或图45的存储由编码处理单元122提供的视频流和ST流以及由报头信息生成单元121A提供的报头信息的第二MP4文件,然后结束文件生成处理。
图48是用于描述在图47的步骤S112中执行的模式-i的编码处理的示例的流程图。
在步骤S121中,编码处理单元122(图46)的特征信息生成单元131检测原版的HDR数据的亮度以生成TMI作为视频和ST的特征信息,并且将该TMI提供给流生成单元133,然后该过程进行至步骤S122。
在步骤S122中,编码器32根据HEVC方案对原版的HDR进行编码以生成HDR视频的编码数据,并且将该编码数据提供给流生成单元133,然后该过程进行至步骤S123。另外,视频编码方案不限于HEVC方案。
在步骤S123中,编码器35对原版的HDR ST进行编码以生成具有SMPTE-TT格式的ST的数据,并且将ST的数据提供给流生成单元133,然后该过程进行至步骤S124。
在步骤S124中,转换单元33将原版的输入HDR数据转换成STD数据,并且将表示HDR数据与STD数据之间的关系的信息(表示输入数据与输出数据之间的关系的信息,其中,将HDR数据的RGB信号设置成输入数据,而将STD数据的RGB信号设置成输出数据)提供给转换信息生成单元132。
之后,该过程从步骤S124进行至步骤S125,转换信息生成单元132基于由转换单元33提供的信息来生成TMI作为视频和ST的转换信息,并且将该TMI提供给流生成单元133,然后该过程进行至步骤S126。
在步骤S126中,流生成单元133将由特征信息生成单元131提供作为特征信息的TMI以及由转换信息生成单元132提供作为转换信息的TMI作为编码数据的SEI插入到由编码器32提供的编码数据中以生成视频流。
接下来,流生成单元133将由编码器35提供的ST的数据作为ST流连同视频流一起提供给文件生成单元23(图39)。
另外,流生成单元133将视频的TMI(要被应用于视频的TMI)以和该TMI的tone_map_id以及ST的TMI(要被应用于ST的TMI)和该TMI的tone_map_id提供给控制器21(图39),然后结束模式-i的编码处理。
图49是用于描述在图47的步骤S113中执行的模式-ii的编码处理的示例的流程图。
在步骤S131中,编码处理单元122的特征信息生成单元131检测原版的HDR数据的亮度以生成TMI作为视频和ST的特征信息,并且将该TMI提供给流生成单元133。
之后,在步骤S132中,转换单元33将原版的输入HDR数据转换成STD数据,并且转换单元33将STD数据中的STD视频提供给编码器32而将STD ST提供给编码器35。
另外,转换单元33将表示HDR数据与STD数据之间的关系的信息提供给转换信息生成单元132,从而该过程从步骤S132进行至步骤S133。
在步骤S113中,转换信息生成单元132基于由转换单元33提供的信息生成TMI作为视频和ST的转换信息,并且将该TMI提供给流生成单元133,从而该过程进行至步骤S134。
在步骤S134中,编码器32根据HEVC方案对由转换单元33提供的STD视频进行编码以生成STD视频的编码数据,并且将该编码数据提供给流生成单元133。另外,视频编码方案不限于HEVC方案。
之后,在步骤S135中,编码器35对由转换单元33提供的STD ST进行编码以生成具有SMPTE-TT格式的ST的数据,并且将ST的数据提供给流生成单元133。
接下来,在步骤S136中,流生成单元133将由特征信息生成单元131提供作为特征信息的TMI以及由转换信息生成单元132提供作为转换信息的TMI作为编码数据的SEI插入到由编码器32提供的编码数据中以生成视频流。
另外,流生成单元133将由编码器35提供的ST的数据作为ST流连同视频流一起提供给文件生成单元23(图39)。
另外,流生成单元133将视频的TMI(要被应用于视频的TMI)和该TMI的tone_map_id以及ST的TMI(要被应用于ST的TMI)和该TMI的tone_map_id提供给控制器21(图39),然后结束模式-ii的编码处理。
图50是用于描述在图47的步骤S114中执行的报头信息生成处理的示例的流程图。
在步骤S141中,控制器21(图39)的报头信息生成单元121A生成存储由编码处理单元122(其流生成单元133(图46))提供的视频的TMI(要被应用于视频的TMI)的tinf盒(图40、图41、图45)。
另外,报头信息生成单元121A生成存储由编码处理单元122(其流生成单元133(图46))提供的ST的TMI(要被应用于ST的TMI)的tinf盒(图40、图41、图45)。
另外,报头信息生成单元121A生成存储表示由编码处理单元122提供的视频的TMI的tone_map_id的tone_mapping_info_id_ref的tirf盒(图24、图10、图45)。
另外,报头信息生成单元121A生成存储表示由编码处理单元122提供的ST的TMI的tone_map_id的tone_mapping_info_id_ref的tirf盒,然后该过程从步骤S141进行至步骤S142。
在步骤S142中,报头信息生成单元121A产生包括tinf盒和tirf盒的moov盒或moof盒,并且将所产生的盒作为报头信息提供给文件生成单元23(图39),然后结束报头信息生成处理。
也就是说,在文件生成单元23中,在生成分片段的影片的MP4文件的情况下,如图40所示,报头信息生成单元121A生成其中tirf盒和tinf盒包括在视频的轨道的traf盒的moof盒以及其中tirf盒和tinf盒包括在ST的轨道的traf盒中的moof盒。
另一方面,在文件生成单元23中,在生成非分片段的影片的MP4文件的情况下,如图45中所示,报头信息生成单元121A生成如下moov盒:其中tirf盒和tinf盒包括在视频的轨道的trak盒中包括的stbl盒中,以及其中tirf盒和tinf盒包括在ST的轨道的trak盒中包括的stbl盒中。
<再现设备的第二配置示例>
图51是示出了图1的再现设备2的第二配置示例的框图。
另外,在图中与图33的情况对应的部件由相同的附图标记来表示,从而在下文中将适当地省略其描述。
在图51中,再现设备2被配置成包括文件采集单元51、分解单元52、操纵输入单元53、组合输出单元56、控制器141和解码处理单元142。
因此,图51的再现设备2与图33的情况的再现设备2相同之处在于:再现设备2被配置成包括文件采集单元51、分解单元52、操纵输入单元53和组合输出单元56。
然而,图51的再现设备2与图33的情况的再现设备2不同之处在于:安装控制器141和解码处理单元142代替控制器54和解码处理单元55。
控制器141被配置有CPU、ROM、RAM等,并且通过执行预定的程序来控制再现设备2的整体操作。
例如,控制器141将作为ToneMapInfo存储在由分解单元52提供的moov盒(图45)中包括的tinf盒中的TMI(tone_mapping_info)或存储在tirf盒中的tone_mapping_info_id_ref提供给解码处理单元142。另外,例如,控制器141将作为ToneMapInfo存储在由分解单元52提供的moof盒(图40)中包括的tinf盒中的TMI或存储在tirf盒中的tone_mapping_info_id_ref提供给解码处理单元142。
解码处理单元142被配置成包括解码器142A和解码器142B。
解码器142A用作如下采集单元:其获取作为ToneMapInfo存储在视频的TMI中包括的tinf盒中且由控制器141提供的TMI作为要被应用于视频的TMI,并且获取视频的TMI中的具有由存储在视频的轨道中包括的tirf盒中且由控制器141提供的tone_mapping_info_id_ref表示的tone_map_id的TMI作为视频。
另外,解码器142A根据HEVC方案对包括在由分解单元52提供的视频流中的编码数据进行解码。
接下来,如果需要,解码器142A基于作为转换信息要被应用于视频的TMI将作为解码的结果而获得的HDR视频或STD视频转换成STD视频或HDR视频,并且将STD视频或HDR视频输出至组合输出单元56。
在解码器142A输出HDR视频的情况下,解码器142A将作为特征信息要被应用于视频的TMI连同HDR视频一起输出至组合输出单元56。
解码器142B对由分解单元52提供的ST流进行解码。
另外,解码器142B用作如下采集单元:其获取作为ToneMapInfo存储在ST的轨道中包括的tinf盒中且由控制器141提供的TMI作为要被应用于ST的TMI,并且获取ST的TMI中的具有由存储在ST的轨道中包括的tirf盒中且由控制器141提供的tone_mapping_info_id_ref表示的tone_map_id的TMI作为ST的TMI。
接下来,如果需要,解码器142B基于作为转换信息要被应用于ST的TMI将作为解码的结果而获得的HDR ST或STD ST转换成STD ST或HDR ST,并且将STD ST或HDR ST输出至组合输出单元56。
在解码器142B输出HDR ST的情况下,解码器142B将作为转换信息要被应用于ST的TMI连同HDR ST一起输出至组合输出单元56。
<再现设备2的再现处理>
图52是用于描述由图51的再现设备2执行的再现处理的示例的流程图。
在步骤S151中,文件采集单元51获取由图39的生成设备1生成的第二MP4文件,并且将该第二MP4文件提供给分解单元52。
分解单元52从文件采集单元51的第二MP4文件采集moov盒或moof盒作为报头信息,同时读取视频流或ST流作为存储在mdat盒中的实际数据。
接下来,分解单元52将moov盒或moof盒作为报头信息提供给控制器141,并且将视频流或ST流提供给解码处理单元142。
另外,控制器141将作为ToneMapInfo存储在由分解单元52提供的moov盒或moof盒中包括的tinf盒中的TMI或存储在tirf盒中的tone_mapping_info_id_ref提供给解码处理单元142。
之后,该过程从步骤S151进行至步骤S152,并且类似于图34的步骤S42的情况,控制器141确定由文件采集单元51获取的第二MP4文件的处理模式是模式-i还是模式-ii。
在在步骤S152中确定处理模式是模式-i的情况下,该过程进行至步骤S153,解码处理单元142执行模式-i的解码处理。
另一方面,在在步骤S152中确定处理模式是模式-ii的情况下,解码处理单元142执行模式-ii的解码处理。
在在步骤S153或步骤S154中执行解码处理之后,结束再现处理。
图53是用于描述图52的步骤S153中的模式-i的解码处理的流程图。
在步骤S161中,解码器142A获取作为ToneMapInfo存储在视频的轨道中包括的tinf盒中且由控制器141提供的TMI作为视频的TMI。
另外,解码器142B获取作为ToneMapInfo存储在ST的轨道中包括的tinf盒中且由控制器141提供的TMI作为ST的TMI,然后该过程进行至步骤S162。
在步骤S162至S164中,执行与图35的步骤S62至S64的处理相同的处理。
也就是说,在步骤S162中,解码器142A对包括在从分解单元52提供的视频流中的编码数据进行解码以生成HDR视频。在步骤S163中,解码器142B将由分解单元52提供的具有SMPTE-TT格式的ST的数据的ST流转换成HDR ST。
接下来,在步骤S164中,控制器141确定包括在显示设备3中的监视器是否是HDR监视器。
在在步骤S164中确定包括在显示设备3的监视器是HDR监视器的情况下,该过程进行至步骤S165。
在步骤S165中,解码器142A获取在步骤S161中获取的视频的TMI中的具有由存储在视频的轨道中包括的tirf盒中且由控制器141提供的tone_mapping_info_id_ref表示的tone_map_id的TMI作为要被应用于视频的TMI。
另外,解码器142B获取在步骤S161中获取的ST的TMI中的具有由存储在ST的轨道中包括的tirf盒中且由控制器141提供的tone_mapping_info_id_ref表示的tone_map_id的TMI作为要被应用于ST的TMI。
之后,该过程从步骤S165进行至步骤S166,然后在步骤S166和步骤S170中执行与图35的步骤S66和S70的处理相同的处理。
另一方面,在在步骤S164中确定包括在显示设备3的监视器不是HDR监视器而是STD监视器的情况下,该过程进行至步骤S167。
在步骤S167中,类似于步骤S165,解码器142A获取在步骤S161中获取的视频的TMI中的具有由存储在视频的轨道中包括的tirf盒中且由控制器141提供的tone_mapping_info_id_ref表示的tone_map_id的TMI作为要被应用于视频的TMI。
另外,类似于步骤S165,解码器142B获取在步骤S161中获取的ST的TMI中的具有由存储在ST的轨道中包括的tirf盒中且由控制器141提供的tone_mapping_info_id_ref表示的tone_map_id的TMI作为要被应用于ST的TMI。
之后,该过程从步骤S167进行至步骤S168,从而在下文中,在步骤S168至S170中,执行与图35的步骤S38至S70的处理相同的处理。
图54是用于描述图52的步骤S154中的模式-ii的解码处理的流程图。
在步骤S181中,类似于图53的步骤S161,解码器142A和55B分别获取视频的TMI和ST的TMI。
也就是说,解码器142A获取作为ToneMapInfo存储在视频的轨道中包括的tinf盒中且由控制器141提供的TMI作为视频的TMI。
另外,解码器142B获取作为ToneMapInfo存储在ST的轨道中包括的tinf盒中且由控制器141提供的TMI作为ST的TMI,然后该过程进行至步骤S182。
在步骤S182至步骤S184中,执行与图36的步骤S82至步骤S84的处理相同的处理。
也就是说,在步骤S182中,解码器142A对包括在从分解单元52提供的视频流中的编码数据进行解码以生成STD视频。在步骤S183中,解码器142B将由分解单元52提供的具有SMPTE-TT格式的ST的数据的ST流解码成STD ST。
接下来,在步骤S182中,控制器141确定包括在显示设备3中的监视器是否是HDR监视器。
在在步骤S184中确定包括在显示设备3中的监视器是HDR监视的情况下,该过程进行至步骤S185。
在步骤S185中,解码器142A获取在步骤S181中获取的视频的TMI中的具有由存储在视频的轨道中包括的tirf盒中且由控制器141提供的tone_mapping_info_id_ref表示的tone_map_id的TMI作为要被应用于视频的TMI。
另外,解码器142B获取在步骤S181中获取的ST的TMI中的具有由存储在ST的轨道中包括的tirf盒中且由控制器141提供的tone_mapping_info_id_ref表示的tone_map_id的TMI作为要被应用于ST的TMI。
之后,该过程从步骤S185进行至步骤S186,然后在步骤S186至S189中执行与图36的步骤S86至S89的处理相同的处理。
如上所述,第二配置示例的生成设备1将视频(其流)的轨道和ST(其流)的轨道存储在第二MP4文件中。
因此,每种媒体的轨道可以包括将要被应用于媒体(其轨道)的TMI存储为ToneMapInfo的tinf盒以及将tone_mapping_info_id_ref存储为指定存储在tinf盒中的TMI中的要被应用于媒体的TMI的HDR指定信息的tirf盒。
因此,再现设备2可以对于每种媒体获取存储在媒体的轨道中包括的tinf盒中的TMI中的由存储在tirf盒中的tone_mapping_info_id_ref指定的TMI(具有tone_map_id)作为要被应用于媒体的TMI,并且可以使用该TMI用于媒体的处理。
<生成设备1的第三配置示例>
图55是示出了图1的生成设备1的第三配置示例的框图。
另外,在图中与图20的情况对应的部件由相同的附图标记来表示,从而在下文中将适当地省略其描述。
在图55中,生成设备1被配置成包括控制器21、解码处理单元202和文件生成单元203。
因此,图55的生成设备1与图20的情况的生成设备1相同之处在于:生成设备1被配置成包括控制器21。
然而,图55的生成设备1与图20的情况的生成设备1不同之处在于:安装编码处理单元202和文件生成单元203代替编码处理单元22和文件生成单元23。
另外,图55的生成设备1与图20的情况的生成设备1不同之处在于:控制器21被配置成包括报头信息单元201A代替报头信息生成单元21A。
在图55的生成设备1中,原版的HDR数据被输入至编码处理单元202。
报头信息生成单元201A生成包括存储由编码处理单元202提供的tone_map_id作为tone_mapping_info_id_ref的tirf盒(图24)的moof盒以及包括tmpi盒(reference_type是“tmpi”的TrackReferenceTypeBox)的moov盒作为报头信息,并且将该报头信息提供给文件生成单元203。
可替代地,报头信息生成单元201A生成存储由编码处理单元202提供的tone_map_id作为tone_mapping_info_id_ref的tirf盒以及包括tmpi的moov盒作为报头信息,并且将该报头信息提供给文件生成单元203。
下文将描述tmpi盒。
类似于图20的编码处理单元22,编码处理单元202通过对原版的HDR数据执行编码来生成视频流和ST流,并且将视频流和ST流输出至文件生成单元203。
另外,编码处理单元202生成TMI的es(基本流)(在下文中,有时称作TMI流)作为要被应用于视频或ST的HDR信息,并且将该es输出至文件生成单元203。
另外,编码处理单元202将要被应用于视频或ST的TMI的tone_map_id提供给控制器21(其报头信息生成单元201A)。
文件生成单元203生成存储由控制器21(其报头信息生成单元201A)提供的报头信息以及由编码处理单元202提供的视频流、ST流和TMI流的MP4文件,并且输出该MP4文件。
图56是示出了由图55的生成设备1生成的MP4文件(在下文中,有时称作第三MP4文件)的示例的图。
图56的第三MP4文件是具有片段的分片段的影片的MP4文件,并且moov盒包括视频、ST和TMI(色调映射基本流)的trak盒。
因此,图56的MP4文件包括视频的轨道、ST的轨道以及TMI的轨道。
图55的生成设备1生成通过参照其他轨道可以应用包括在TMI的轨道(在下文中,有时称作TMI轨道)中的TMI的MP4文件作为第三MP4文件。
因此,在第三MP4文件中,TMI轨道(色调映射轨道)的madt盒包括TMI的样本(ToneMapSample)作为实际数据。
另外,除了moov盒的TMI之外,媒体的trak盒,即,视频或ST(字幕)的trak盒包括tref盒,tref盒包括tmpi盒(TrackReferenceBox)。
在下文中,如参照图21和图22所描述的,尽管tref盒可以包括TrackReferenceTypeBox,但是tmpi盒是最新被定义为TrackReferenceTypeBox的一种的盒。
现在,例如,如果包括tmpi盒的ST的轨道被视为关注的目标轨道,则在包括在为目标轨道的ST的轨道中的tmpi盒中存储作为指定要被应用于目标轨道的TMI的TMI轨道(HDR信息)的轨道指定信息的TMI轨道的track_id(其track_IDs[]表示)。
因此,要被应用于目标轨道的TMI的TMI轨道可以由存储在作为目标轨道的ST的轨道中包括的tmpi盒中的track_id识别。
类似地,如果包括tmpi盒的视频的轨道被视为关注的目标轨道,则在作为目标轨道的视频的轨道中包括的tmpi盒中存储作为指定要被应用于目标轨道的TMI的TMI轨道的轨道指定信息的TMI轨道的track_id。
因此,要被应用于目标轨道的TMI的TMI轨道可以由存储在包括在作为目标轨道的视频的轨道中的tmpi盒中的track_id识别。
另外,通过确定预先变成TMI轨道的轨道的track_id,可以省略包括tmpi盒的tref盒。
在图56的第三MP4文件中,视频和ST的每个轨道的moof盒包括traf盒,traf盒包括tirf盒,tirf盒存储表示tone_map_id的tone_mapping_info_id_ref作为指定要被应用于轨道的TMI的HDR指定信息。
通过参照存储在目标盒的tirf盒中的tone_mapping_info_id_ref,具有由存储在tirf盒中的tone_mapping_info_id_ref表示的tone_map_id的TMI可以被识别为具有存储在tmpi盒中的track_id的TMI轨道的TMI中的要被应用于目标轨道的TMI。
另外,尽管分片段的影片的MP4文件包括每个片段的moof盒,但是由存储在片段的moof盒中包括的tirf盒中的tone_mapping_info_id_ref表示的tone_map_id的TMI中的有效TMI被应用于一些片段的数据。
另外,可以将多个轨道作为TMI轨道(色调映射轨道)存储在第三MP4文件中。
另外,在第三MP4文件中,例如,要被应用于视频的TMI轨道以及要被应用于ST的TMI的TMI轨道可以是同一TMI轨道或其他TMI轨道。
如图56中所示,除了视频和ST以外,将TMI轨道存储在分片段的影片的MP4文件中。
因此,对于视频的轨道,存储要被应用于ST的TMI的TMI轨道的track_id的tmpi盒B#41被存储在moov盒的视频的轨道的trak/tref盒中。
另外,对于视频的轨道,存储表示要被应用于视频的TMI(包括在具有存储在tmpi盒B#41中的track_id的TMI轨道中的TMI)的tone_map_id的tone_mapping_info_id_ref的tirf盒B#44被存储在视频的轨道的moof/traf盒中。
因此,根据图56的第三MP4文件,例如,如果视频的轨道被视为目标轨道,则要被应用于视频的TMI的TMI轨道可以由存储在moov盒的视频的trak/tref/tmpi盒B#41中的track_id识别。
另外,可以认识到包括在TMI轨道中的TMI中的具有由存储在为目标轨道的视频的轨道的moof/tarf/tirf盒B#44中的tone_mapping_info_id_ref表示的tone_map_id的TMI是要被应用于目标轨道的TMI。
另一方面,对于ST的轨道,存储要被应用于ST的TMI的TMI轨道的track_id的tmpi盒B#42被存储在moov盒的ST的轨道的trak/tref盒中。
另外,对于ST的轨道,存储表示要被应用于ST的TMI(包括在具有存储在tmpi盒中的track_id的TMI轨道中的TMI)的tone_map_id的tone_mapping_info_id_ref的tirf盒B#43被存储在ST的轨道的moof/traf盒中。
因此,根据图56的第三MP4文件,例如,如果ST的轨道被视为目标轨道,则要被应用于ST的TMI的TMI轨道可以由存储在moov盒的ST的trak/tref/tmpi盒B#42中的track_id识别。
另外,可以认识到包括在TMI轨道中的TMI中的具有由存储在为目标轨道的ST的轨道的moof/tarf/tirf盒B#43中的tone_mapping_info_id_ref表示的tone_map_id的TMI是要被应用于目标轨道的TMI。
图57是示出了作为tmpi盒的TrackReferenceTypeBox的定义的示例的图。
在该实施方式中,“tmpi”被最新定义为表示TrackReferenceTypeBox用于存储TMI轨道的track_id的refernce_type,并且refernce_type变成“tmpi”的TrackReferenceTypeBox用作存储TMI轨道的track_id的tmpi盒。
tmpi盒包括(存储)表示track_id的track_IDs[]。
track_IDs[]是阵列变量,并且可以存储多个track_id。因此,根据tmpi盒,可以将多个轨道指定为要被应用于媒体的TMI的TMI轨道。
图58是示出了作为实际数据存储在第三MP4文件中所存储的TMI轨道(色调映射轨道)的mdat盒中的TMI的样本(ToneMapSample)的语法的示例的图。
TMI的一个样本可以包括0组或更多组表示ToneMapInfo的长度的ToneMapInfoLength以及ToneMapInfo,ToneMapInfo表示TMI。
因此,TMI的一个样本可以包括多组ToneMapInfoLength和theToneMapInfo。
另外,Length=表示TMI的样本的长度的sample_size不存在于TMI的样本中,并且参照例如stsz盒、stz2盒和trun盒中所描述的每个样本的大小信息。
可以将例如图42至图44中所示的语法的ToneMapInfo等用作ToneMapInfo。
图59是示出了TMI的样本(ToneMapSample)的数据结构的示例的图。
如图59中所示,TMI的样本可以重复包括一组ToneMapInfoLength和ToneMapInfo。
图60是示出了由图55的生成设备1生成的第三MP4文件的另一示例的图。
图60的第三MP4文件是不包括任何片段的非分片段的影片的MP4文件,并且moov盒包括视频的trak盒、ST的trak盒以及TMI(色调映射基本流)的(两个)trak盒。
因此,图60的第三MP4文件被配置成包括视频的轨道、ST的轨道以及TMI的轨道。
类似于图56,在图60中,视频的轨道和ST的轨道分别包括tmpi盒和tirf盒,另外,mdat盒包括视频的样本、ST的样本和TMI的样本(色调映射样本)。
在本文中,所非分片段的影片的MP4文件中,如图60中所示,存储表示要被应用于视频的TMI轨道的track_id的track_IDs[](图57)的tmpi盒B#51被存储在moov盒的视频的trak/tref盒中。
另外,存储表示要被应用于视频的TMI的tone_map_id的tone_mapping_info_id_ref的tirf盒B#52被存储在moov盒的视频的轨道的trak中包括的stbl盒中。
类似于视频的轨道,ST的轨道可以包括tmpi盒B#53和tirf盒B#54。
也就是说,存储表示要被应用于视频的TMI的TMI轨道的track_id的track_IDs[]的tmpi盒B#53被存储在moov盒的ST的轨道的trak/tref盒中。
另外,存储表示要被应用于ST的TMI的tone_map_id的tone_mapping_info_id_ref的tirf盒B#54被存储在moov盒的ST的轨道的trak盒中包括的stbl盒中。
因此,根据图60的第三MP4文件,例如,如果ST的轨道被视为目标轨道,则要被应用于为目标轨道的ST的轨道的TMI的TMI轨道可以由存储在moov盒的ST的trak/tref/tmpi盒B#53中的track_id识别。
另外,可以认识到:TMI轨道的TMI中的具有由存储在为moov盒的目标轨道的ST的轨道的tark/stbl/tirf盒B#54中的tone_mapping_info_id_ref表示的tone_map_id的TMI是要被应用于目标轨道的TMI。
对于视频,以类似的方式,可以识别要被应用于视频的TMI。
另外,在非分片段的影片的MP4文件中,具有由存储在目标轨道的tirf盒中的tone_mapping_info_id_ref表示的tone_map_id的TMI中的有效TMI被应用于目标轨道。
另外,要被应用于视频的TMI的TMI轨道和要被应用于ST的TMI的TMI轨道可以是同一TMI轨道或可以是不同的TMI轨道。
如上所述,在图55的生成设备1中,由于生成如下第三MP4文件:存储TMI的TMI轨道作为HDR信息和存储track_IDs[]作为指定TMI轨道中包括的TMI中的要被应用于关注的目标轨道的TMI的TMI轨道的轨道指定信息以及存储tone_mapping_info_id_ref作为指定要被应用于目标轨道的TMI的HDR指定信息,所以可以独立地将要被应用于每种媒体的TMI添加到媒体如视频或ST。
另外,在对视频进行编码的情况下,例如,根据HEVC方案,虽然生成将视频的TMI插入到SEI中的视频流,但是在第三MP4文件中,可以独立于要被插入到SEI中的TMI将要被应用于每种媒体的TMI添加到除了视频以外的媒体。
因此,在不将要被应用于ST的TMI独立添加到ST的情况下,将包括记录在例如蓝光(注册商标)盘中的具有m2ts格式的TMI的视频以及与TMI一起再现的ST转换成MP4文件。
因此,便于TMI到MP4文件的引入,使得可以增加用户享用HDR图像如HDR视频或HDR ST的可能性。
另外,在对视频进行编码的情况下,例如,根据HEVC方案,由于生成将视频的TMI插入到SEI中的视频流,所以在第二MP4文件中,被插入到SEI中的TMI以及TMI轨道的TMI作为视频的TMI而存在。
在这种情况下,在再现设备2(图1)中,例如,可以预先确定或根据用户的操纵来确定被插入到SEI中的TMI和TMI轨道的TMI之一用作要被用作视频的TMI。
在本实施方式中,假定:对于第三MP4文件,例如,被插入到SEI中的TMI中的TMI轨道的TMI以及TMI轨道的TMI用作要被应用于视频的TMI。
在本文中,根据具有SMPTE-TT格式的ST的数据,尽管ST的多个显示屏可以包括在为对MP4文件进行访问的单元的一个样本中,但是在第三MP4文件中,在ST的多个显示屏包括在一个样本中的情况下,通过根据包括在一个样本中的ST的多个显示屏的显示时间,可以对于包括在一个样本中的ST的多个显示屏中的每个显示屏选择(改变)要被应用于显示屏的TMI。
另外,在第三MP4文件中,由于除了媒体的轨道以外存储TMI轨道,所以增加生成设备1和再现设备2的处理负荷。然而,增加程度不是很大。
<编码处理单元202的配置示例>
图61是示出了图55的编码处理单元202的配置示例的框图。
另外,在图中与图26的编码处理单元22或图46的编码处理单元122对应的部件由相同的附图标记来表示,从而在下文中将适当地省略其描述。
图61的编码处理单元202被配置成包括编码器32、转换单元33、编码器35、特征信息生成单元131、转换信息生成单元132和流生成单元211。
因此,图61的编码处理单元202与图46的编码处理单元122相同之处在于:编码处理单元202被配置成包括编码器32、转换单元33、编码器35、特征信息生成单元131和转换信息生成单元132。
然而,图61的编码处理单元202与图46的编码处理单元122不同之处在于:安装流生成单元211代替流生成单元133。
流生成单元211执行与图26的流生成单元36的处理相同的处理。
也就是说,流生成单元211将由特征信息生成单元131提供的TMI的tone_map_id作为视频和ST的特征信息提供给控制器21(图55)。
另外,流生成单元211将由转换信息生成单元132提供的TMI的tone_map_id作为视频和ST的转换信息提供给控制器21。
另外,流生成单元211将视频的TMI作为SEI插入到由编码器32提供的视频的编码数据中以生成视频流。
另外,流生成单元211将由编码器35提供的ST的数据作为ST流连同视频流一起提供给图55的文件生成单元203。
以这种方式,除了执行与图26的流生成单元36的处理相同的处理以外,流生成单元211还通过使用由特征信息生成单元131提供作为视频和ST的特征信息的TMI和由转换信息生成单元132提供作为视频和ST的转换信息的TMI来生成TMI的TMI流(es(基本流)),并且将该TMI流提供给图55的文件生成单元203。
另外,在流生成单元211中,可以不将视频的TMI插入到由编码器32提供的视频的编码数据中,从而可以将编码数据不经变化地视为视频流。
<生成设备1的文件生成处理>
图62是用于描述由图55的生成设备1执行的文件生成处理的示例的流程图。
如果将原版的HDR数据输入到生成设备1,则类似于图29的步骤S1,在步骤S201中,生成设备1的控制器21确定处理模式是否是模式-i。
在步骤S1中确定处理模式是模式-i的情况下,该过程进行至步骤S202,编码处理单元202执行模式-i的编码处理。将通过模式-i的编码处理所生成的视频流、ST流和TMI流从编码处理单元202提供至文件生成单元203。
另一方面,在在步骤S201中确定处理模式是模式-ii的情况下,该过程进行至步骤S203,编码处理单元202执行模式-ii的编码处理。将通过模式-ii的编码处理所生成的视频流、ST流和TMI流从编码处理单元202提供至文件生成单元203。
在步骤S202或S203之后,该过程进行至步骤S204,报头信息生成单元201A执行报头信息生成处理。将报头信息生成处理中的报头信息从报头信息生成单元201A提供至文件生成单元203,然后该过程进行至步骤S205。
在步骤S205之后,文件生成单元203生成和输出图56或图60的第三MP4文件,该第三MP4文件存储由编码处理单元202提供的视频流、ST流和TMI流以及由报头信息生成单元201A提供的报头信息,然后结束文件生成处理。
图63是用于描述在图62的步骤S202中执行的模式-i的编码处理的示例的流程图。
在步骤S211至S215中,编码处理单元202(图61)执行与图48的步骤S121至S125的处理相同的处理。
接下来,在步骤S215之后,该过程进行至步骤S216,流生成单元211将由特征信息生成单元131提供作为特征信息的TMI和由转换信息生成单元132提供作为转换信息的TMI作为编码数据的SEI插入到由编码器32提供的编码数据中以生成视频流。
另外,流生成单元211提供由编码器35提供的ST的数据作为ST流,然后该过程从步骤S216进行至步骤S217。
在步骤S217中,流生成单元211根据视频的TMI和ST的TMI生成TMI的TMI流,并且将该TMI流连同视频流和ST流一起提供给文件生成单元203(图55)。
接下来,流生成单元211将视频的TMI的tone_map_id和ST的TMI的tone_map_id提供给控制器21(图55),然后结束模式-i的编码处理。
图64是用于描述在图62的步骤S203中执行的模式-ii的编码处理的示例的流程图。
在步骤S221至S225中,编码处理单元202(图61)执行与图49的步骤S131至S135的处理相同的处理。
接下来,在步骤S226和S227中,执行与图63的步骤S216和S217的处理相同的处理,然后结束模式-ii的编码处理。
图65是用于描述在图62的步骤S204中执行的报头信息生成处理的示例的流程图。
在步骤S231中,控制器21(图55)的报头信息生成单元201A生成tirf盒(图24、图56、图60),该tirf盒存储表示由编码处理单元202(其流生成单元211(图61))提供的视频的TMI(要被应用于视频的TMI)的tone_map_id的tone_mapping_info_id_ref。
另外,报头信息生成单元201A生成tirf盒,该tirf盒存储表示由编码处理单元202提供的ST的TMI(要被应用于ST的TMI)的tone_map_id的tone_mapping_info_id_ref。
另外,报头信息生成单元201A生成tmpi盒(图56、图57、图60),该tmpi盒存储表示要被应用于视频的TMI的TMI流的轨道的track_id的track_IDs[]。
另外,报头信息生成单元201A生成tmpi盒,该tmpi盒存储表示要被应用于ST的TMI的TMI流的轨道的track_id的track_IDs[],然后该过程从步骤S231进行至步骤S232。
在步骤S232中,报头信息生成单元201A产生包括tmpi盒的moov盒和包括tirf盒的moof盒或者产生包括tmpi盒和tirf盒的moov盒,并且将所产生的盒作为报头信息提供给文件生成单元203(图55),然后结束报头信息生成处理。
也就是说,在文件生成单元203中,在生成分片段的影片的MP4文件的情况下,如图56中所示,报头信息生成单元201A生成如下moov盒:在视频和ST的轨道的相应的trak/tref盒中包括tmpi盒。
另外,如图56中所示,报头信息生成单元201A生成如下moof盒:在视频和ST的轨道的相应的traf盒中包括tirf盒。
另一方面,在文件生成单元203中,在生成非分片段的影片的MP4文件的情况下,如图60中所示,报头信息生成单元201A生成如下moov盒:在视频和ST的轨道的相应的trak/tref盒中包括tmpi盒且在视频和ST的轨道的相应的trak盒/stbl盒中包括tirf盒。
<再现设备2的第三配置示例>
图66是示出了图1的再现设备2的第三配置示例的框图。
另外,在图中与图33或图51的情况对应的部件由相同的附图标记来表示,从而在下文将适当地省略其描述。
在图66中,再现设备2被配置成包括文件采集单元51、操纵输入单元53、组合输出单元56、分解单元231、控制器232和解码处理单元233。
因此,图66的再现设备2与图33的情况的再现设备2相同之处在于:再现设备2被配置成包括文件采集单元51、操纵输入单元53和组合输出单元56。
然而,图66的再现设备2与图33的情况的再现设备2不同之处在于:安装分解单元231、控制器232和解码处理单元233代替分解单元52、控制器54和解码处理单元55。
类似于图33的分解单元52,分解单元231从文件采集单元51的第三MP4文件提取(获取)moov盒和moof盒作为报头信息,并且将moov盒或moof盒提供给控制器232。
另外,分解单元231从文件采集单元51的第三MP4文件提取(获取)视频流、ST流和TMI流作为存储在mdat盒中的实际数据,并且将视频流、ST流和TMI流提供给解码处理单元233。
控制器232被配置有CPU、ROM、RAM等。控制器232通过执行预定的程序来控制再现设备2的整体操作。
例如,控制器232将存储在由分解单元231提供的moov盒中包括的tmpi盒中的track_IDs[](图56、图57、图60)或存储在tirf盒中的tone_mapping_info_id_ref(图24、图56、图60)提供给解码处理单元233。另外,例如,控制器232将存储在由分解单元231提供的moof盒中包括的tirf盒中的tone_mapping_info_id_ref提供给解码处理单元233。
解码处理单元233被配置成包括解码器233A和解码器233B。
解码器233A用作如下采集单元:其获取由分解单元231提供的流(在本文中,视频流、ST流和TMI流)中的包括在TMI轨道的TMI流中的TMI作为视频的TMI,TMI轨道具有由存储在由控制器232提供的视频的轨道的tmpi盒中的track_IDs[]表示的track_id。
另外,解码器233A根据HEVC方案对包括在由分解单元231提供的视频流中的编码数据进行解码。
另外,解码器233A获取视频的TMI中的具有由存储在视频的轨道的tirf盒中且由控制器232提供的tone_mapping_info_id_ref表示的tone_map_id的TMI作为要被应用于视频的TMI。
接下来,如果需要,解码器233A基于作为转换信息要被应用于视频的TMI将作为解码的结果而获得的HDR视频或STD视频转换成STD视频或HDR视频,并且将STD视频或HDR视频输出至组合输出单元56。
在解码器233A输出HDR视频的情况下,解码器233A将作为特征信息要被应用于视频的TMI连同HDR视频一起输出至组合输出单元56。
解码器233B对由分解单元231提供的ST流进行解码。
另外,解码器233B用作如下采集单元:其获取由分解单元231提供的流(在本文中,视频流、ST流和TMI流)中的包括在TMI轨道的TMI流中的TMI作为ST的TMI,TMI轨道具有由存储在ST的轨道的tmpi盒中且由控制器232提供的track_IDs[]表示的track_id。
另外,解码器233B获取ST的TMI中的具有由存储在ST的轨道的tirf盒中且由控制器232提供的tone_mapping_info_id_ref表示的tone_map_id的TMI作为要被应用于ST的TMI。
接下来,如果需要,解码器233B基于作为转换信息要被应用于ST的TMI将作为解码的结果而获得的HDR ST或STD ST转换成STD ST或HDR ST,并且将STD ST或HDR ST输出至组合输出单元56。
在解码器233B输出HDR ST的情况下,解码器233B将作为特征信息要被应用于ST的TMI连同HDR ST一起输出至组合输出单元56。
<再现设备2的再现处理>
图67是用于描述由图66的再现设备2执行的再现处理的示例的流程图。
在步骤S251中,文件采集单元51生成由生成设备1生成的第三MP4文件,并且将第三MP4文件提供给分解单元231。
分解单元231从由文件采集单元51提供的MP4文件读取moov盒或moof盒作为报头信息,并且读取视频流、ST流和TMI流作为存储在mdat盒中的实际数据。
接下来,分解单元231将moov盒或moof盒作为报头信息提供给控制器232,并且将视频流、ST流和TMI流提供给解码处理单元233。
另外,控制器232将存储在由分解单元231提供的moov盒中包括的tmpi盒中的track_IDs[]和存储在tirf盒中的tone_mapping_info_id_ref提供给解码处理单元233。另外,控制器232将存储在由分解单元231提供的moof盒中包括的tirf盒中的tone_mapping_info_id_ref提供给解码处理单元233。
之后,该过程从步骤S251进行至步骤S252,并且类似于图34的步骤S42的情况,控制器232确定由文件采集单元51获取的第三MP4文件的处理模式是模式-i还是模式-ii。
在在步骤S252中确定处理模式是模式-i的情况下,该过程进行至步骤S253,解码处理单元233执行模式-i的解码处理。
另一方面,在在步骤S252中确定处理模式是模式-ii的情况下,该过程进行至步骤S254,解码处理单元233执行模式-ii的解码处理。
在在步骤S253或步骤S254中执行解码处理之后,结束再现处理。
图68是用于描述图67的步骤S253中的模式-i的解码处理的流程图。
在步骤S261中,解码器233A获取由分解单元231提供的流中的具有由存储在视频的轨道的tmpi盒中且由控制器232提供的的track_IDs[]表示的track_id的TMI轨道,并且获取包括在TMI流中的TMI作为视频的TMI。
另外,解码器233B获取由分解单元231提供的流中的具有由存储在ST的轨道的tmpi盒中且由控制器232提供的track_IDs[]表示的track_id的TMI轨道,并且获取包括在TMI流中的TMI作为ST的TMI。
之后,该过程从步骤S261进行至步骤S262,解码器233A根据HEVC方案对包括在由分解单元231提供的视频流中的编码数据进行解码以生成HDR视频,然后该过程进行至步骤S263。另外,视频解码(编码)方案不限于HEVC方案。
在步骤S263中,解码器233B将由分解单元231提供的ST流,即,例如具有SMPTE-TT格式的ST的数据的流解码成HDR ST,然后该过程进行至步骤S264。
在步骤S264中,类似于图35的步骤S64,控制器232确定包括在显示设备3中的监视器是否是HDR监视器。
在在步骤S264中确定包括在显示设备3中的监视器是HDR监视器的情况下,该过程进行至步骤S265。
在步骤S265中,解码器233A获取在步骤S261中获取的视频的TMI中的具有由存储在视频的轨道的tirf盒中且由控制器232提供的tone_mapping_info_id_ref表示的tone_map_id的TMI(由tone_mapping_info_id_ref指定为HDR指定信息的TMI)作为要被应用于视频的TMI。
另外,解码器233B获取在步骤S261中获取的ST的TMI中的具有由存储在ST的轨道的tirf盒中且由控制器232提供的tone_mapping_info_id_ref表示的tone_map_id的TMI(由tone_mapping_info_id_ref指定为HDR指定信息的TMI)作为要被应用于ST的TMI。
之后,该过程从步骤S265进行至步骤S266。在下文中,在步骤S266和S270中,执行与图35的步骤S66和S70的处理相同的处理。
另一方面,在在步骤S264中确定包括在显示设备3中的监视器不是HDR监视器而是STD监视器的情况下,该过程进行至步骤S267。
在步骤S267中,类似于步骤S265,解码器233A和233B分别获取要被应用于视频和ST的TMI。
之后,该过程从步骤S267进行至步骤S268,然后在下文中,在步骤S268至S270中执行与图35的步骤S68至S70的处理相同的处理。
图69是用于描述图7的步骤S254中的模式-ii的解码处理的流程图。
在步骤S281中,类似于图68的步骤S261,解码器233A和233B获取TMI。
也就是说,解码器233A获取由分解单元231提供的流中的具有由存储在视频的轨道的tmpi盒中且由控制器232提供的track_IDs[]表示的track_id的TMI轨道,并且获取包括在TMI流中的TMI作为视频的TMI。
另外,解码器233B获取由分解单元231提供的流中的具有由存储在ST的轨道的tmpi盒中且由控制器232提供的track_IDs[]表示的track_id的TMI轨道,并且获取包括在TMI流中的TMI作为ST的TMI。
之后,该过程从步骤S281进行至步骤S282,在步骤S282至S284中执行与图36的步骤S82至S84的处理相同的处理。
也就是说,在步骤S282中,解码器233A对包括在由分解单元231提供的视频流中的编码数据进行解码以生成STD视频。在步骤S283中,解码器233B将由分解单元231提供的具有SMPTE-TT格式的ST的数据的ST流解码成STD ST。
接下来,在步骤S284中,控制器232确定包括在显示设备3中的监视器是否是HDR监视器。
在在步骤S284中确定包括在显示设备3中的监视器是HDR监视器的情况下,该过程进行至步骤S285。
在步骤S285中,解码器233A获取在步骤S281中获取的视频的TMI中的具有由存储在视频的轨道的tirf盒中且由控制器232提供的的tone_mapping_info_id_ref表示的tone_map_id的TMI作为要被应用于视频的TMI。
另外,解码器233B获取在步骤S281中获取的ST的TMI中的具有由存储在ST的轨道的tirf盒中且由控制器232提供的tone_mapping_info_id_ref表示的tone_map_id的TMI作为要被应用于ST的TMI。
之后,该过程从步骤S285进行至步骤S286,然后在步骤S286至S289中执行与图36的步骤S86至S89的处理相同的处理。
如上所述,第三配置示例的生成设备1将为除了视频(其流)的轨道和ST(其流)的轨道以外的TMI(其流)的轨道的TMI轨道存储在第三MP4文件中。
另外,每种媒体的轨道可以包括tmpi盒和tirf盒,tmpi盒存储将track_id表示为指定要被应用于媒体(其轨道)的TMI的TMI轨道的轨道指定信息的track_IDs[],tirf盒存储tone_mapping_info_id_ref作为指定TMI轨道的TMI中的要被应用于媒体的TMI的HDR指定信息。
因此,对于每种媒体,再现设备2获取指定存储在媒体的轨道中包括的tmpi盒中的track_IDs[]中的TMI轨道(其track_id)的TMI中的由存储在tirf盒中的tone_mapping_info_id_ref指定的TMI(具有tone_map_id)作为要被应用媒体的TMI,并且可以将该TMI用于媒体的处理。
<生成设备1的第四配置示例>
图70是示出了图1的生成设备1的第四配置示例的框图。
另外,在图中与图20的情况对应的部件由相同的附图标记来表示,从而在下文中将适当地省略其描述。
在图70中,生成设备1被配置成包括控制器21、文件生成单元23和解码处理单元302。
因此,图70的生成设备1与图20的情况的生成设备1相同之处在于:生成设备1被配置成包括控制器21和文件生成单元23,而图70的生成设备1与图20的情况的生成设备1不同之处在于:安装编码处理单元302代替编码处理单元22。
另外,图70的生成设备1与图20的情况的生成设备1不同之处在于:控制器21被配置成包括报头信息单元301A代替报头信息生成单元21A。
在图70的生成设备1中,原版的HDR数据被输入至编码处理单元302。
报头信息生成单元301A生成由文件生成单元23生成的MP4文件的moov以及必要的moof作为报头信息,并且将该报头信息提供给文件生成单元23。
类似于图20的编码处理单元22,编码处理单元302通过对原版的HDR数据执行编码来生成视频流和ST流,并且将视频流和ST流输出至文件生成单元203。
然而,在该实施方式中,HDR存储元素被最新定义为存储TMI作为HDR信息的XML的元件,以及对于ST,编码处理单元302使得存储TMI作为HDR信息的HDR存储元素能够作为XML的元件被包括在作为对ST编码的结果而获得的具有SMPTE-TT格式的ST的数据中以生成ST流。
因此,由于存储TMI作为HDR信息的HDR存储元素包括在作为由编码处理单元302生成的ST流的具有SMPTE-TT格式的ST的数据中,所以可以通过仅使用具有SMPTE-TT格式的ST的数据来执行通过将TMI用作HDR信息显示HDR ST等。
也就是说,对于要被应用于作为存储在上述第一至第三MP4文件中的ST流的具有SMPTE-TT格式的ST的数据的TMI,由于允许TMI存储在tinf盒中或者允许参照(使用)除了ST的轨道以外的轨道中的TMI,所以在将存储在第一至第三MP4文件中的ST流不经变化地存储在具有除了MP4文件的格式以外的容器格式的文件或数据的情况下,难以通过将TMI用作HDR信息来执行显示HDR ST等。
相反,由于存储TMI作为HDR信息的HDR存储元素包括在作为由编码处理单元302生成的ST流的具有SMPTE-TT格式的ST的数据(在下文中,有时称作新的TT数据)中,所以可以通过使用仅新的TT数据来执行通过将TMI用作HDR信息来显示HDR ST等。
因此,虽然以任何容器格式以及MP4文件提供新的TT数据,但是可以执行通过将TMI用作HDR信息来显示HDR ST等。
也就是说,在图70的生成设备1中,虽然以将数据存储在MP4文件中的状态提供新的TT数据,但是可以例如以将数据存储在例如IP包或除了将数据存储在MP4文件中的状态以外的具有任何其他任意容器格式的文件或数据中的状态提供新的TT数据。
另外,即使在单独提供或以将数据与其他数据如视频复用的状态提供新的TT数据的情况下,也可以执行通过将TMI用作HDR信息来显示HDR ST等。
因此,根据新的TT数据,便于TMI到具有SMPTE-TT格式的ST的数据的引入,使得可以增加用户享用HDR ST的可能性。
<编码处理单元302的配置示例>
图71是示出了图70的编码处理单元302的配置示例的框图。
另外,在图中与图26的编码处理单元22对应的部件由相同的附图标记来表示,从而在下文中将适当地省略其描述。
编码处理单元302被配置成包括特征信息生成单元31、编码器32、转换单元33、转换信息生成单元34、编码器35和流生成单元311。
因此,编码处理单元302与图26的编码处理单元22相同之处在于:编码处理单元302被配置成包括特征信息生成单元31、编码器32、转换单元33、转换信息生成单元34和编码器35。
然而,编码处理单元302与图26的编码处理单元122不同之处在于:安装流生成单元311代替流生成单元36。
流生成单元311将由特征信息生成单元31和转换信息生成单元34提供的视频的TMI作为SEI插入到由编码器32提供的视频的编码数据中以生成视频流,并且将该视频流提供给文件生成单元23(图70)。
另外,流生成单元311生成存储由特征信息生成单元31和转换信息生成单元34提供的ST的TMI的HDR存储元素。
另外,流生成单元311将HDR存储元素等插入到由编码器35提供的具有SMPTE-TT格式的ST的编码数据中以生成新的TT数据,并且将新的TT数据的流(ST流)提供给文件生成单元23。
另外,类似于图46的特征信息生成单元131,在图71中,对于HDR视频和HDR ST,特征信息生成单元31可以单独地生成TMI作为特征信息;对于HDR视频,特征信息生成单元31可以生成TMI作为HDR视频的特征信息;而对于HDR ST,特征信息生成单元31可以将作为与HDRST同时显示的HDR视频的特征信息的TMI用作作为ST(HDR ST)的特征信息的TMI。
另外,类似于图46的转换信息生成单元132,在图71中,对于HDR视频和HDR ST,转换信息生成单元34可以单独地生成TMI作为转换信息;对于HDR视频,转换信息生成单元34可以生成TMI作为HDR视频的转换信息;而对于HDR ST,转换信息生成单元34可以将作为与HDRST同时显示的HDR视频的转换信息的TMI用作作为ST(HDR ST)的转换信息的TMI。
<HDR存储元素>
图72是示出了HDR存储元素的示例的图。
存在存储TMI作为转换信息的ToneMap元素以及存储TMI作为特征信息的HdrInfo元素作为HDR存储元素。
图72的A、图72的B以及图72的C表示ToneMap元素的示例,以及图72的D表示HdrInfo元素的示例。
当tone_map_id为0时,图72的ToneMap A对应于图7的TMI;当tone_map_id为2时,图72的ToneMap B对应于图7的TMI;以及当tone_map_id为3时,图72的ToneMap C对应于图7的TMI。
当tone_map_id为4时,图72的ToneMap D对应于图7的TMI。
另外,图72的ToneMap元素和HdrInfo元素(其中存储TMI)由作为识别信息的xml:id识别。
在图72中,将数字用作ToneMap元素和HdrInfo元素的xml:id。然而,可以将任意字符(字符串)(包括数字)用作xml:id。
可以例如以作为XML的预定的元素的tt、head、body、region、div、p、span或set元素来布置(描述)ToneMap元素和HdrInfo元素。
图73是示出了toneMapRef属性和hdrInfoRef属性的定义的示例的图。
toneMapRef属性是在预定的名称空间(例如,下文将描述的名称空间hdr)之后最新定义为指定存储要被应用于ST的TMI的ToneMap元素的属性的指定属性。
在某个元素具有toneMapRef属性的情况下,获取存储在由toneMapRef属性指定的ToneMap元素中的TMI,并且将其用作要被应用于具有toneMapRef属性的元素中所描述的ST的TMI。
hdrInfoRef属性是在在预定的名称空间(例如,下文将描述的名称空间hdr)之后最新定义为指定存储要被应用于ST的TMI的HdrInfo元素的属性的指定属性。
在某个元素具有hdrInfoRef属性的情况下,获取存储在由hdrInfoRef属性指定的HdrInfo元素中的TMI,并且将其用作要被应用于具有hdrInfoRef属性的元素中所描述的ST的TMI。
可以例如以作为XML的预定的元素的body、div、p、region、span或set元素来描述toneMapRef属性和hdrInfoRef属性。
图74是示出了新的TT数据的第一示例的图。
在图74的新的TT数据中,在描述n1中,定义关于作为HDR信息的TMI的名称空间hdr。
另外,描述n2和n3为ToneMap元素。描述n2的ToneMap元素由xml:id=“A”识别;以及描述n3的ToneMap元素由xml:id=“B”识别。
另外,描述n2和n3的ToneMap元素分别对应于图72的ToneMap元素B和图72的ToneMap元素C。
另外,对于图74的描述n2和n3的ToneMap元素,省略(omit)了一部分描述。
描述n4是p元素,并且具有hdr:toneMapRef=“A”作为toneMapRef属性。
根据n4的p元素,根据作为toneMapRef属性的hdr:toneMapRef=“A”,获取存储在由xml:id=“A”识别的描述n2的ToneMap元素中的TMI,并且将其用作要被应用于作为在描述n4的p元素中所描述的ST的文本“this subtitle references ToneMap whose id is A(id是A的该字幕参考ToneMap)”的TMI。
描述n5是p元素,并且具有hdr:toneMapRef=“B”作为toneMapRef属性。
根据n5的p元素,根据作为toneMapRef属性的hdr:toneMapRef=“B”,获取存储在由xml:id=“B”识别的描述n3的ToneMap元素中的TMI,并且将其用作要被应用于作为在描述n5的p元素中所描述的ST的文本“this subtitle references ToneMap whose id is B(id是B的该字幕参考ToneMap)”的TMI。
另外,在图74中,以body元素布置描述n2和n3的ToneMap元素。然而,可以将ToneMap元素布置在其他位置处。
另外,在图74中,在同一文件中对具有指定ToneMap元素的toneMapRef属性的描述n2或n3的ToneMap元素以及描述n4或n5的p元素进行描述。
图75是示出了新的TT数据的第二示例的图。
在图75的新的TT数据中,类似于图74的描述n1,在描述n11中,定义关于作为HDR信息的TMI的名称空间hdr。
另外,描述n12和n13为HdrInfo元素。描述n12的HdrInfo元素由xml:id=“AA”识别;以及描述n13的HdrInfo元素由xml:id=“BB”识别。
描述n12和n13的所有HdrInfo元素对应于图72的HdrInfo元素D。
另外,对于图75的描述n12和n13的所有HdrInfo元素,省略(omit)了一部分描述。
描述n14是p元素,并且具有hdr:hdrInfoRef=“AA”作为hdrInfoRef属性。
根据n14的p元素,根据作为hdrInfoRef属性的hdr:hdrInfoRef=“AA”,获取存储在由xml:id=“AA”识别的描述n12的HdrInfo元素中的TMI,并且将其用作要被应用于作为在描述n14的p元素中所描述的ST的文本“this subtitle references HdrInfo whose id is AA(id是AA的该字幕参考HdrInfo)”的TMI。
描述n15是p元素,并且具有hdr:hdrInfoRef=“BB”作为hdrInfoRef属性。
根据n15的p元素,根据作为hdrInfoRef属性的hdr:hdrInfoRef=“BB”,获取存储在由xml:id=“BB”识别的描述n13的HdrInfo元素中的TMI,并且将其用作要被应用于作为在描述n15的p元素中所描述的ST的文本“this subtitle references HdrInfo whose id is BB(id是BB的该字幕参考HdrInfo)”的TMI。
另外,在图75中,以body元素布置描述n12和n13的HdrInfo元素。然而,可以将HdrInfo元素布置在其他位置处。
另外,在图75中,在同一文件中对具有指定HdrInfo元素的hdrInfoRef属性的描述n12或n13的HdrInfo元素以及描述n14或n15的p元素进行描述。
另外,在图74和图75中,以新的TT数据描述ToneMap元素和HdrInfo元素仅之一。然而,可以以新的TT数据描述ToneMap元素和HdrInfo元素两者
另外,在图74和图75中,以p元素指定toneMapRef属性和hdrInfoRef属性仅之一。可以在一个元素中指定toneMapRef属性和hdrInfoRef属性两者。
图76是示出了新的TT数据的第三示例的图。
在本文中,在图74的新的TT数据的第一示例中,存储要被应用于ST的TMI的ToneMap元素由toneMapRef属性指定。然而,在图76的新的TT数据的第三示例中,不使用toneMapRef属性,但是指定存储要被应用于ST的TMI的ToneMap元素。
也就是说,在图76的新的TT数据的第三示例中,通过在显示ST的元素中布置存储要被应用于ST的ToneMap元素,布置在显示ST的元素中的ToneMap元素被指定为存储要被应用于ST的TMI的ToneMap元素。
在图76的新的TT数据中,类似于图74的描述n1,在描述n21中,定义关于作为HDR信息的TMI的名称空间hdr。
另外,在图76中,等于图74的描述n2的描述n23的ToneMap元素被布置在描述n22的div元素中。
另外,将文本“this subtitle references ToneMaps whose identifiers areA(id是A的该字幕参考ToneMap)”显示为ST的描述n24的p元素被布置在描述n22的div元素中。
因此,对于被布置在描述n22的div元素中的描述n24的p元素,获取存储在被布置在描述n22的div元素中的描述n23的ToneMap元素中的TMI,并且将其用作被应用于作为描述n24的p元素中所描述的ST的文本“this subtitle references ToneMaps whose identifiers are A”的TMI。
另外,在图76中,等于图74的描述n3的描述n26的ToneMap元素被布置在描述n25的div元素中。
另外,文本“this subtitle references ToneMaps whose identifiers are B(id是B的该字幕参考ToneMap)”被显示为ST的描述n27的p元素被布置在描述n25的div元素中。
因此,对于被布置在描述n25的div元素中的描述n27的p元素,存获取存储在被布置在描述n25的div元素中的描述n26的ToneMap元素中的TMI,并且将其用作要被应用于作为描述n27的p元素中所描述的ST的文本“this subtitle references ToneMaps whose identifiers are B”的TMI。
图77是示出了新的TT数据的第四示例的图。
在本文中,在图75的新的TT数据的第二示例中,存储在要被应用于ST的TMI中的HdrInfo元素由hdrInfoRef属性指定。然而,在图76的新的TT数据的第四示例中,不使用hdrInfoRef属性,但是指定存储要被应用于ST的TMI的HdrInfo元素。
也就是说,在图77的新的TT数据的第四示例中,类似于图76的情况,通过在显示ST的元素中布置存储要被应用于ST的HdrInfo元素,布置在显示ST的元素中的HdrInfo元素被指定为存储要被应用于ST的TMI的HdrInfo元素。
在图77的新的TT数据中,类似于图74的描述n1,在描述n31中,定义关于作为HDR信息的TMI的名称空间hdr。
另外,在图77中,等于图75的描述n12的描述n33的HdrInfo元素被布置在描述n32的div元素中。
另外,将文本“this subtitle references HdrInfo whose identifiers areAA(id是AA的该字幕参考HdrInfo)”显示为ST的描述n34的p元素被布置在描述n32的div元素中。
因此,对于被布置在描述n32的div元素中的描述n34的p元素,获取存储在被布置在描述n32的div元素中的描述n33的HdrInfo元素中的TMI,并且将其用作被应用于作为描述n34的p元素中所描述的ST的文本“this subtitle references HdrInfo whose identifiers are AA”的TMI。
另外,在图77中,等于图75的描述n13的描述n36的HdrInfo元素被布置在描述n35的div元素中。
另外,文本“this subtitle references HdrInfo whose identifiers are BB(id是BB的该字幕参考HdrInfo)”被显示为ST的描述n37的p元素被布置在描述n35的div元素中。
因此,对于被布置在描述n35的div元素中的描述n37的p元素,存获取存储在被布置在描述n35的div元素中的描述n36的HdrInfo元素中的TMI,并且将其用作要被应用于作为描述n37的p元素中所描述的ST的文本“this subtitle references HdrInfo whose identifiers are BB”的TMI。
在图76和图77中,以新的TT数据描述ToneMap元素和HdrInfo元素仅之一。然而,可以以新的TT数据描述ToneMap元素和HdrInfo元素两者。
<生成设备1的文件生成处理>
图78是用于描述由图70的生成设备1执行的文件生成处理的示例的流程图。
如果将原版的HDR数据输入到生成设备1,则类似于图29的步骤S1,在步骤S301中,生成设备1的控制器21确定处理模式是否是模式-i。
在在步骤S301中确定处理模式是模式-i的情况下,该过程进行至步骤S302,编码处理单元302执行模式-i的编码处理。将通过模式-i的编码处理所生成的视频流和ST流(es)从编码处理单元302提供至文件生成单元23。
另一方面,在在步骤S301中确定处理模式是模式-ii的情况下,该过程进行至步骤S303,编码处理单元302执行模式-ii的编码处理。将通过模式-ii的编码处理所生成的视频流和ST流(es)从编码处理单元302提供至文件生成单元23。
在步骤S302或S303之后,该过程进行至步骤S304,报头信息生成单元301A执行报头信息生成处理。将在报头信息生成处理中所生成的moov和必要的moof作为报头信息从报头信息生成单元301A提供至文件生成单元23,然后该过程进行至步骤S305。
在步骤S305之后,文件生成单元23生成和输出MP4文件,该MP4文件存储由编码处理单元302提供的视频流和ST流以及由报头信息生成单元301A提供的报头信息,然后结束文件生成处理。
图79是用于描述在图78的步骤S302中执行的模式-i的编码处理的示例的流程图。
在步骤S311至S315中,执行与图30的步骤S11至S15的处理相同的处理。
之后,在步骤S316中,编码处理单元302(图71)的流生成单元311将由特征信息生成单元31提供作为特征信息的TMI和由转换信息生成单元34提供作为转换信息的TMI作为编码数据的SEI插入到由编码器32提供的编码数据中以生成视频流,然后该过程进行至步骤S317。
在步骤S317中,流生成单元311生成存储由特征信息生成单元31提供作为特征信息的ST的TMI的HdrInfo元素以及存储由转换信息生成单元34提供作为转换信息的ST的TMI的ToneMap元素。
另外,流生成单元311将HdrInfo元素、ToneMap元素、必要的toneMapRef属性和hdrInfoRef属性插入到由编码器35提供的具有SMPTE-TT格式的ST的数据中以生成新的TT数据。
接下来,流生成单元311将为新的TT数据的流的ST流连同视频流一起提供给文件生成单元23(图70),然后结束(返回)模式-i的编码处理。
图80是用于描述在图78的步骤S303中执行的模式-ii的编码处理的示例的流程图。
在步骤S321至S325中,执行与图31的步骤S21至S25的处理相同的处理。
接下来,在步骤S326和S327中,执行与图79的步骤S316和S317的处理相同的处理。
<再现设备2的第四配置示例>
图81是示出了图1的再现设备2的第四配置示例的框图。
另外,在该图中,与图33的情况对应的部件由相同的附图标记来表示,在下文将适当地省略其描述。
在图81中,再现设备2被配置成包括文件获取单元51、分解单元52、操纵输入单元53、组合输出单元56、控制器321和解码处理单元322。
因此,图81的再现设备2与图33的情况的再现设备的相同之处在于再现设备2被配置成包括文件获取单元51、分解单元52、操纵输入单元53和组合输出单元56。
然而,图81的再现设备2与图33的情况的再现设备的不同之处在于:安装控制器321和解码处理单元322来代替控制器54和解码处理单元55。
控制器321被配置有CPU、ROM、RAM等。控制器321通过执行预定的程序来控制再现设备2的整体操作。
例如,控制器321根据由分解单元52提供的moov盒或moof盒来控制解码处理单元322。
解码处理单元322被配置成包括解码器322A和解码器322B。
解码器322A从由分解单元52提供的视频流的SEI获取作为特征信息和转换信息的TMI(tone_mapping_info),以作为要被应用于视频的TMI。
另外,解码器322A根据HEVC方案对包括在由分解单元52提供的视频流中的编码数据进行解码。
接下来,如果需要,解码器322A基于作为转换信息要被应用于视频的TMI将作为解码的结果而获得的HDR视频或STD视频转换成STD视频或HDR视频,并且将STD视频或HDR视频输出至组合输出单元56。
在解码器322A输出HDR视频的情况下,解码器322A将作为特征信息要被应用于视频的TMI连同HDR视频一起输出至组合输出单元56。
解码器322B对由分解单元52提供的ST流进行解码。
另外,解码器322B用作如下获取单元:其获取存储在ST流中所包括的ToneMap元素和HdrInfo元素(在ToneMap元素或HdrInfo元素由toneMapRef属性或hdrInfoRef属性指定的情况下,由toneMapRef属性或hdrInfoRef属性指定的ToneMap元素或HdrInfo元素)中的TMI,作为要被应用于ST的TMI。
因此,如果需要,解码器322B基于作为转换信息要被应用于ST的TMI将作为解码的结果而获得的HDR ST或STD ST转换成STD ST和HDR ST,并且将STD ST或HDR ST输出至组合输出单元56。
在解码器322B输出HDR ST的情况下,解码器322B将作为特征信息要被应用于ST的TMI连同HDR ST一起输出至组合输出单元56。
<再现设备2的再现处理>
图82是用于描述由图81的再现设备2执行的再现处理的示例的流程图。
在步骤S331中,文件获取单元51获取由生成设备1生成的MP4文件,并且将该MP4文件提供给分解单元52。
分解单元52从由文件获取单元51提供的MP4文件读取moov盒或moof盒作为报头信息,并且读取视频流或ST流作为存储在mdat盒中的实际数据。
接下来,分解单元52将moov盒或moof盒作为报头信息提供给控制器321,并且将视频流或ST流提供给解码处理单元322。
此后,该过程从步骤S331进行至步骤S332,并且类似于图34的步骤S42,控制器321确定由文件获取单元51获取的MP4文件的处理模式是模式-i还是模式-ii。
在步骤S332中确定处理模式是模式-i的情况下,该过程进行至步骤S333,解码处理单元322执行模式-i的解码处理。
另一方面,在步骤S332中确定处理模式是模式-ii的情况下,该过程进行至步骤S334,解码处理单元322执行模式-ii的解码处理。
当在步骤S333或步骤S334中执行解码处理之后,结束再现处理。
图83是用于描述图82的步骤S333中的模式-i的解码处理的流程图。
在步骤S341中,解码器322A从自分解单元52提供的视频流的SEI获取TMI作为特征信息和转换信息。
此后,该过程从步骤S341进行至步骤S342,解码器322A根据HEVC方案对包括在从分解单元52提供的视频流中的编码数据进行解码以生成HDR视频,该过程进行至步骤S343。另外,视频解码(编码)方案不限于HEVC方案。
在步骤S343中,解码器322B获取存储在由分解单元52提供的ST流(新的TT数据)中的ToneMap元素中包括的TMI以及存储在HdrInfo元素中的TMI,该过程进行至步骤S344。
在步骤S344中,解码器322B对HDR ST中的从分解单元52提供的ST流进行解码,该过程进行至步骤S345。
在步骤S345中,类似于图35的步骤S64,控制器321确定包括在显示设备3中的监视器是否是HDR监视器。
在步骤S345中确定包括在显示设备3中的监视器是HDR监视器的情况下,该过程进行至步骤S346。
在步骤S346中,解码器322A从在步骤S341中所获取的TMI中获取要被应用于视频的TMI。在本文中,作为获取要被应用于MP4文件中所存储的视频的TMI的方法,例如,可以利用在生成设备1和再现设备2的第一配置示例中所描述的方法等。
另外,解码器322B从在步骤S343中所获取的TMI获取要被应用于ST的TMI(在ToneMap元素或HdrInfo元素由toneMapRef属性或hdrInfoRef属性指定的情况下,存储在由toneMapRef属性或hdrInfoRef属性指定的ToneMap元素或HdrInfo元素中的TMI)。
之后,该过程从步骤S346进行至步骤S347。在下文中,在步骤S347和S351之后,执行与图35的步骤S66和S70的处理相同的处理。
另一方面,在在步骤S345中确定包括在显示设备3中的监视器不是HDR监视器而是STD监视器的情况下,该过程进行至步骤S348。
在步骤S348中,类似于步骤S346,解码器322A和322B获取要被应用于视频和ST的TMI。
之后,在步骤S349至S351中,执行与图35的步骤S68至S69的处理相同的处理。
图84是用于描述图82的步骤S334中的模式-ii的解码处理的流程图。
在步骤S361中,类似于图83的步骤S341,解码器322A获取从由分解单元52提供的视频的SEI获取TMI作为特征信息和转换信息。
之后,该过程从步骤S361进行至步骤S362,,在步骤S362中,解码器322A根据HEVC方案对包括在从分解单元52提供的视频流中的编码数据进行解码以生成STD视频,然后该过程进行至步骤A363。另外,视频解码(编码)方案不限于HEVC方案。
在步骤S363中,类似于图83的步骤S343,解码器322B获取存储在由分解单元52提供的ST流(新的TT数据)中包括的ToneMap元素中的TMI以及存储在HdrInfo元素中的TMI,然后该过程进行至步骤S364。
在步骤S364中,解码器322B对STD ST中的从分解单元52提供ST流进行解码,然后该过程进行至步骤S365。
在步骤S365中,类似于图83的步骤S345,控制器321确定包括在显示设备3中的监视器是否是HDR监视器。
在在步骤S365中确定包括在显示设备3中的监视器是HDR监视器的情况下,该过程进行至步骤S366。
在步骤S366中,类似于图83的步骤S346,解码器322A和322B获取要被应用于视频和ST的TMI。
也就是说,在步骤S366中,解码器322A从在步骤S361中所获取的TMI获取要被应用于视频的TMI。
另外,解码器322B从在步骤S363中所获取的TMI获取要被应用于ST的TMI(存储在由toneMapRef属性或hdrInfoRef属性指定的HdrInfo元素或ToneMap元素中的TMI,在HdrInfo元素或ToneMap元素由toneMapRef属性或hdrInfoRef属性指定的情况下)。
之后,该过程从步骤S366进行至步骤S367,然后在步骤S367至S370中执行与图36的步骤S86至S89的处理相同的处理。
如上所述,第四配置示例的生成设备1生成XML的新的TT数据,XML包括HdrInfo元素或ToneMap元素作为HDR存储元素,HDR存储元素存储作为HDR信息的TMI作为XML的元素。
因此,再现设备2从新的TT数据获取要被应用于ST的TMI,并且可以将TMI用于ST的处理。
另外,HdrInfo元素或ToneMap元素或toneMapRef属性或hdrInfoRef属性可以应用于除了由使用XML的SMPTE-TT显示ST的情况以外的使用任意标记语言来显示除了ST以外的任意图像的情况。
<利用本技术的计算机的描述>
接下来,上述一系列处理可以由硬件或软件来执行。在一系列处理由软件执行的情况下,将构成软件的程序安装在通用计算机等中。
图85示出了安装有执行上述一系列处理的程序的计算机的实施方式的配置示例。
可以将程序预先记录在作为内置在计算机中的记录介质的硬盘405或ROM 403中。
可替选地,可以将程序存储(记录)在可拆卸记录介质411中。可以将可拆卸记录介质411提供为所谓的包软件。在本文中,作为可拆卸记录介质411,存在例如软盘、CD-ROM(致密盘只读存储器)、MO(磁光)盘、DVD(数字通用盘)、磁盘、半导体存储器等。
另外,除了如上所述将程序从可拆卸记录介质411安装到计算机中以外,可以通过通信网络或广播网络将程序下载到计算机以安装在内置硬盘405中。也就是说,可以以无线方式例如通过用于数字卫星广播的人造卫星将程序从下载站发送到计算机,或可以以通过网络如LAN(局域网)或因特网的有线方式将程序发送至计算机。
计算机包括CPU(中央处理单元)402,并且输入/输出接口410经由总线401连接至CPU 402。
如果操纵输入单元407的用户通过输入/输出接口410输入命令,则CPU 402根据该命令执行存储在ROM(只读存储器)403中的程序。可替选地,CPU 402将存储在硬盘405中的程序加载到RAM(随机存取存储器)404上以执行程序。
因此,CPU 402根据上述流程图或通过上述框图的配置执行的处理来执行处理。接下来,如果需要,CPU 402通过例如输入/输出接口410从输出单元406输出处理的结果,从通信单元408发送处理的结果,或将处理的结果记录在硬盘405中。
另外,输入单元407被配置有键盘、鼠标、麦克风等。另外,输出单元406被配置成包括LCD(液晶显示器)、扬声器等。
在本文中,在本说明书中,由计算机根据程序执行的处理不一定以根据流程图中所描述的顺序以时间序列来执行。也就是说,由计算机根据程序所执行的处理还包括并行或单独执行的处理(例如,并行处理或通过对象的处理)
另外,程序可以意在由单个计算机(处理器)处理,或可以经受多个计算机的分布式处理。另外,程序还可以意在被发送至远程计算机以被执行。
另外,在本说明书中,系统表示一组多个组件(设备、模块(部分)等),所有组件是否存在于同一壳体内并不重要。因此,容纳在分立的壳体内且经由网络彼此连接的多个设备以及多个模块容纳在单个壳体内的单个设备为系统。
另外,本技术的实施方式不限于上述实施方式,但是在不偏离本技术的精神的范围内可得到各种变化。
例如,本技术可以具有一个功能经由网络由多个设备共享以协作地被处理的云计算的配置。
另外,上述流程图中所描述的每个步骤可以由单个设备执行或可以由多个设备共享以被执行。
另外,在多个处理包括在一个步骤中的情况下,包括在一个步骤中的多个处理可以由单个设备执行,或可以由多个设备共享以被执行。
另外,本说明书中所描述的效果是示例性的效果,但不限于此,从而可以获取其他效果。
另外,本技术可以具有下面的配置。
<1>一种文件生成设备,包括:文件生成单元,所述文件生成单元生成存储包括HDR信息的流的轨道和包括HDR指定信息的目标轨道的文件,所述HDR信息被配置有特征信息和转换信息,所述特征信息表示具有比STD(标准)图像的动态范围更高的动态范围的HDR(高动态范围)图像的亮度的特征,所述转换信息表示将所述STD图像和所述HDR图像中的一个图像转换成另一图像的转换规则,以及所述HDR指定信息指定所述轨道的HDR信息中的要被应用于所关注的目标轨道的HDR信息。
<2>根据<1>公开的文件生成设备,其中,所述目标轨道还包括轨道指定信息,所述轨道指定信息指定包括要被应用于所述目标轨道的HDR信息的所述轨道。
<3>根据<2>公开的文件生成设备,其中,所述文件是具有盒结构的文件。
<4>根据<3>公开的文件生成设备,其中,所述文件是ISO/IEC14496-14中规定的MP4文件。
<5>根据<4>公开的文件生成设备,其中,其中,所述目标轨道包括被定义为存储所述HDR指定信息的盒的tirf盒(ToneMappingInformationReferenceBox,色调映射信息参考盒)。
<6>根据<4>或<5>公开的文件生成设备,其中,所述目标轨道包括轨道参考类型盒TrackReferenceTypeBox,其中,vtmi被定义为所述TrackReferenceTypeBox的参考类型reference_type,并且vtmi表示包含在TrackReferenceBox中的所述TrackReferenceTypeBox用于存储所述轨道指定信息,所述vtmi变成所述reference_type。
<7>一种文件生成方法,包括:生成存储包括HDR信息的流的轨道和包括HDR指定信息的目标轨道的文件,所述HDR信息被配置有特征信息和转换信息,所述特征信息表示具有比STD(标准)图像的动态范围更高的动态范围的HDR(高动态范围)图像的亮度的特征,所述转换信息表示将所述STD图像和所述HDR图像中的一个图像转换成另一图像的转换规则,以及所述HDR指定信息指定所述轨道的HDR信息中的要被应用于所关注的目标轨道的HDR信息。
<8>一种文件再现设备,包括:获取单元,所述获取单元从存储包括HDR信息的流的轨道和包括HDR指定信息的目标轨道的文件中获取由所述HDR指定信息指定的所述HDR信息,所述HDR信息被配置有特征信息和转换信息,所述特征信息表示具有比STD(标准)图像的动态范围更高的动态范围的HDR(高动态范围)图像的亮度的特征,所述转换信息表示将所述STD图像和所述HDR图像中的一个图像转换成另一图像的转换规则,以及所述HDR指定信息指定所述轨道的HDR信息中的要被应用于所关注的目标轨道的HDR信息。
<9>根据<8>公开的文件再现设备,其中,所述目标轨道还包括轨道指定信息,所述轨道指定信息指定包括要被应用于所述目标轨道的HDR信息的所述轨道,以及所述获取单元从由所述轨道指定信息指定的所述轨道中包括的所述HDR信息中获取由所述HDR指定信息指定的HDR信息。
<10>根据<9>公开的文件再现设备,其中,所述文件是具有盒结构的文件。
<11>根据<10>公开的文件再现设备,其中,所述文件是ISO/IEC14496-14中规定的MP4文件。
<12>根据<11>公开的文件再现设备,其中,所述目标轨道包括被定义为存储所述HDR指定信息的盒的tirf盒(ToneMappingInformationReferenceBox,色调映射信息参考盒),以及所述获取单元获取由在所述目标轨道中包括的所述tirf盒中存储的所述HDR指定信息指定的HDR信息。
<13>根据<11>或<12>公开的文件再现设备,其中,所述目标轨道包括轨道参考类型盒TrackReferenceTypeBox,其中,vtmi被定义为所述TrackReferenceTypeBox的参考类型reference_type,并且vtmi表示包含在TrackReferenceBox中的所述TrackReferenceTypeBox用于存储所述轨道指定信息,所述vtmi变成所述reference_type,以及所述获取单元从由在所述reference_type变成所述vtmi的所述TrackReferenceTypeBox中存储的所述轨道指定信息指定的所述轨道中包括的所述HDR信息中获取由所述HDR指定信息指定的HDR信息。
<14>一种文件再现方法,包括:从存储包括HDR信息的流的轨道和包括HDR指定信息的目标轨道的文件中获取由所述HDR指定信息指定的所述HDR信息,所述HDR信息被配置有特征信息和转换信息,所述特征信息表示具有比STD(标准)图像的动态范围更高的动态范围的HDR(高动态范围)图像的亮度的特征,所述转换信息表示将所述STD图像和所述HDR图像中的一个图像转换成另一图像的转换规则,以及所述HDR指定信息指定所述轨道的HDR信息中的要被应用于所关注的目标轨道的HDR信息。
附图标记列表
1 生成设备
2 再现设备
3 显示设备
4 线缆
11 记录介质
12 传输介质
21 控制器
21A 报头信息生成单元
22 编码处理单元
23 文件生成单元
31 特征信息生成单元
32 编码器
33 转换单元
34 转换信息生成单元
35 编码器
36 流生成单元
51 文件获取单元
52 分解单元
53 操纵输入单元
54 控制器
55 解码处理单元
55A,55B 解码器
56 组合输出单元
101 控制器
101A 存储器
102 通信单元
103 信号处理单元
104 监视器
121A 报头信息生成单元
122 编码处理单元
131 特征信息生成单元
132 转换信息生成单元
133 流生成单元
141 控制器
142 解码处理单元
142A,142B 解码器
201A 报头信息生成单元
202 编码处理单元
203 文件生成单元
211 流生成单元
231 分解单元
232 控制器
233 解码处理单元
233A,233B 解码器
301A 报头信息生成单元
302 编码处理单元
311 流生成单元
321 控制器
322 解码处理单元
322A,322B 解码器
401 总线
402 CPU
403 ROM
404 RAM
405 硬盘
406 输出单元
407 输入单元
408 通信单元
409 驱动器
410 输入/输出接口
411 可拆卸记录介质
1001,1002 元素

Claims (14)

1.一种文件生成设备,包括:
文件生成单元,所述文件生成单元生成存储包括HDR信息的流的轨道和包括HDR指定信息的目标轨道的文件,所述HDR信息被配置有特征信息和转换信息,所述特征信息表示具有比STD(标准)图像的动态范围更高的动态范围的HDR(高动态范围)图像的亮度的特征,所述转换信息表示将所述STD图像和所述HDR图像中的一个图像转换成另一图像的转换规则,以及所述HDR指定信息指定所述轨道的HDR信息中的要被应用于所关注的目标轨道的HDR信息。
2.根据权利要求1所述的文件生成设备,
其中,所述目标轨道还包括轨道指定信息,所述轨道指定信息指定包括要被应用于所述目标轨道的HDR信息的所述轨道。
3.根据权利要求2所述的文件生成设备,
其中,所述文件是具有盒结构的文件。
4.根据权利要求3所述的文件生成设备,
其中,所述文件是ISO/IEC 14496-14中规定的MP4文件。
5.根据权利要求4所述的文件生成设备,
其中,所述目标轨道包括被定义为存储所述HDR指定信息的盒的tirf盒(ToneMappingInformationReferenceBox,色调映射信息参考盒)。
6.根据权利要求5所述的文件生成设备,
其中,所述目标轨道包括轨道参考类型盒TrackReferenceTypeBox,其中,vtmi被定义为所述TrackReferenceTypeBox的参考类型reference_type,并且vtmi表示包含在TrackReferenceBox中的所述TrackReferenceTypeBox用于存储所述轨道指定信息,所述vtmi变成所述reference_type。
7.一种文件生成方法,包括:
生成存储包括HDR信息的流的轨道和包括HDR指定信息的目标轨道的文件,所述HDR信息被配置有特征信息和转换信息,所述特征信息表示具有比STD(标准)图像的动态范围更高的动态范围的HDR(高动态范围)图像的亮度的特征,所述转换信息表示将所述STD图像和所述HDR图像中的一个图像转换成另一图像的转换规则,以及所述HDR指定信息指定所述轨道的HDR信息中的要被应用于所关注的目标轨道的HDR信息。
8.一种文件再现设备,包括:
获取单元,所述获取单元从存储包括HDR信息的流的轨道和包括HDR指定信息的目标轨道的文件中获取由所述HDR指定信息指定的所述HDR信息,所述HDR信息被配置有特征信息和转换信息,所述特征信息表示具有比STD(标准)图像的动态范围更高的动态范围的HDR(高动态范围)图像的亮度的特征,所述转换信息表示将所述STD图像和所述HDR图像中的一个图像转换成另一图像的转换规则,以及所述HDR指定信息指定所述轨道的HDR信息中的要被应用于所关注的目标轨道的HDR信息。
9.根据权利要求8所述的文件再现设备,
其中,所述目标轨道还包括轨道指定信息,所述轨道指定信息指定包括要被应用于所述目标轨道的HDR信息的所述轨道,以及
所述获取单元从由所述轨道指定信息指定的所述轨道中包括的所述HDR信息中获取由所述HDR指定信息指定的HDR信息。
10.根据权利要求9所述的文件再现设备,
其中,所述文件是具有盒结构的文件。
11.根据权利要求10所述的文件再现设备,
其中,所述文件是ISO/IEC 14496-14中规定的MP4文件。
12.根据权利要求11所述的文件再现设备,
其中,所述目标轨道包括被定义为存储所述HDR指定信息的盒的tirf盒(ToneMappingInformationReferenceBox,色调映射信息参考盒),以及
所述获取单元获取由在所述目标轨道中包括的所述tirf盒中存储的所述HDR指定信息指定的HDR信息。
13.根据权利要求12所述的文件再现设备,
其中,所述目标轨道包括轨道参考类型盒TrackReferenceTypeBox,其中,vtmi被定义为所述TrackReferenceTypeBox的参考类型reference_type,并且vtmi表示包含在TrackReferenceBox中的所述TrackReferenceTypeBox用于存储所述轨道指定信息,所述vtmi变成所述reference_type,以及
所述获取单元从由在所述reference_type变成所述vtmi的所述TrackReferenceTypeBox中存储的所述轨道指定信息指定的所述轨道中包括的所述HDR信息中获取由所述HDR指定信息指定的HDR信息。
14.一种文件再现方法,包括:
从存储包括HDR信息的流的轨道和包括HDR指定信息的目标轨道的文件中获取由所述HDR指定信息指定的所述HDR信息,所述HDR信息被配置有特征信息和转换信息,所述特征信息表示具有比STD(标准)图像的动态范围更高的动态范围的HDR(高动态范围)图像的亮度的特征,所述转换信息表示将所述STD图像和所述HDR图像中的一个图像转换成另一图像的转换规则,以及所述HDR指定信息指定所述轨道的HDR信息中的要被应用于所关注的目标轨道的HDR信息。
CN201480001936.4A 2013-07-19 2014-07-10 文件生成设备、文件生成方法、文件再现设备和文件再现方法 Expired - Fee Related CN104488262B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2013-150436 2013-07-19
JP2013150436 2013-07-19
PCT/JP2014/068378 WO2015008683A1 (ja) 2013-07-19 2014-07-10 ファイル生成装置、ファイル生成方法、ファイル再生装置、及び、ファイル再生方法

Publications (2)

Publication Number Publication Date
CN104488262A true CN104488262A (zh) 2015-04-01
CN104488262B CN104488262B (zh) 2019-01-25

Family

ID=52346146

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201480001936.4A Expired - Fee Related CN104488262B (zh) 2013-07-19 2014-07-10 文件生成设备、文件生成方法、文件再现设备和文件再现方法

Country Status (6)

Country Link
US (1) US9788020B2 (zh)
EP (1) EP2869565B1 (zh)
JP (1) JP6402633B2 (zh)
CN (1) CN104488262B (zh)
TW (1) TWI630821B (zh)
WO (1) WO2015008683A1 (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104509094A (zh) * 2013-07-19 2015-04-08 索尼公司 文件生成设备、文件生成方法、文件再现设备及文件再现方法
CN109417650A (zh) * 2016-07-11 2019-03-01 夏普株式会社 视频信号转换装置、视频信号转换方法、视频信号转换系统、控制程序以及记录介质
CN113014930A (zh) * 2016-01-13 2021-06-22 索尼公司 信息处理设备、信息处理方法和计算机可读记录介质

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9264683B2 (en) * 2013-09-03 2016-02-16 Sony Corporation Decoding device and decoding method, encoding device, and encoding method
CN106464966B (zh) * 2014-05-12 2020-12-08 索尼公司 通信装置、通信方法和计算机可读存储介质
CN111901599B (zh) * 2014-06-27 2024-05-14 松下知识产权经营株式会社 再现装置
EP3261339B1 (en) * 2015-02-16 2022-01-05 Sony Group Corporation Information processing device, information recording medium and information processing method, and program
JP6610019B2 (ja) * 2015-06-16 2019-11-27 ソニー株式会社 受信装置、送信装置、及び、データ処理方法
US10477176B2 (en) * 2015-08-24 2019-11-12 Sharp Kabushiki Kaisha Reception device, broadcast system, reception method, and program
WO2017047466A1 (ja) * 2015-09-18 2017-03-23 シャープ株式会社 受信装置、受信方法、プログラム
EP3375194A1 (en) * 2015-11-09 2018-09-19 Thomson Licensing Method and device for adapting the video content decoded from elementary streams to the characteristics of a display
US10230812B1 (en) * 2016-01-29 2019-03-12 Amazon Technologies, Inc. Dynamic allocation of subtitle packaging
CN112075083B (zh) * 2018-06-25 2023-04-04 华为技术有限公司 一种包含字幕的高动态范围视频处理的方法及装置
IL280223B2 (en) 2018-07-20 2024-02-01 Interdigital Vc Holdings Inc Method and apparatus for processing a dynamic medium range video signal in the SL-HDR2 format
US11284134B2 (en) 2018-08-08 2022-03-22 Comcast Cable Communications, Llc Media content enhancement based on content importance
US11354789B2 (en) 2018-09-03 2022-06-07 Canon Kabushiki Kaisha Image processing apparatus and control method thereof

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1667156A1 (en) * 2003-09-09 2006-06-07 Sony Corporation File recording device, file reproducing device, file recording method, program of file recording method, recording medium containing therein program of file recording method, file reproducing method, program of file reproducing method, and recording medium containing therein program of file reproduc
US20070223813A1 (en) * 2006-03-24 2007-09-27 Segall Christopher A Methods and Systems for Tone Mapping Messaging
US20080310501A1 (en) * 2004-04-23 2008-12-18 Brightside Technologies Inc. Apparatus and methods for encoding, decoding and representing high dynamic range images
CN101371583A (zh) * 2006-01-23 2009-02-18 马普科技促进协会 高动态范围编解码器
WO2010132237A1 (en) * 2009-05-11 2010-11-18 Dolby Laboratories Licensing Corporation Light detection, color appearance models, and modifying dynamic range for image display

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5690267B2 (ja) 2008-08-22 2015-03-25 トムソン ライセンシングThomson Licensing コンテンツ配信のための方法およびシステム
US8724007B2 (en) 2008-08-29 2014-05-13 Adobe Systems Incorporated Metadata-driven method and apparatus for multi-image processing
US8606009B2 (en) * 2010-02-04 2013-12-10 Microsoft Corporation High dynamic range image generation and rendering
JP6068329B2 (ja) 2010-04-01 2017-01-25 トムソン ライセンシングThomson Licensing 立体表示用のサブタイトルを生成する方法及びシステム
TWI479898B (zh) * 2010-08-25 2015-04-01 Dolby Lab Licensing Corp 擴展影像動態範圍
EP4375982A2 (en) 2011-05-10 2024-05-29 Koninklijke Philips N.V. High dynamic range image signal generation and processing
US9417479B2 (en) * 2011-05-13 2016-08-16 Samsung Display Co., Ltd. Method for reducing simultaneous contrast error
WO2013090120A1 (en) 2011-12-15 2013-06-20 Dolby Laboratories Licensing Corporation Backwards-compatible delivery of digital cinema content with extended dynamic range
GB201201230D0 (en) 2012-01-25 2012-03-07 Univ Delft Tech Adaptive multi-dimensional data decomposition
US9129445B2 (en) * 2012-03-14 2015-09-08 Dolby Laboratories Licensing Corporation Efficient tone-mapping of high-bit-depth video to low-bit-depth display
JP2015005878A (ja) * 2013-06-20 2015-01-08 ソニー株式会社 再生装置、再生方法、および記録媒体
TWI630820B (zh) 2013-07-19 2018-07-21 新力股份有限公司 File generation device, file generation method, file reproduction device, and file reproduction method
TWI632810B (zh) 2013-07-19 2018-08-11 新力股份有限公司 Data generating device, data generating method, data reproducing device, and data reproducing method

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1667156A1 (en) * 2003-09-09 2006-06-07 Sony Corporation File recording device, file reproducing device, file recording method, program of file recording method, recording medium containing therein program of file recording method, file reproducing method, program of file reproducing method, and recording medium containing therein program of file reproduc
US20080310501A1 (en) * 2004-04-23 2008-12-18 Brightside Technologies Inc. Apparatus and methods for encoding, decoding and representing high dynamic range images
CN101371583A (zh) * 2006-01-23 2009-02-18 马普科技促进协会 高动态范围编解码器
US20070223813A1 (en) * 2006-03-24 2007-09-27 Segall Christopher A Methods and Systems for Tone Mapping Messaging
WO2010132237A1 (en) * 2009-05-11 2010-11-18 Dolby Laboratories Licensing Corporation Light detection, color appearance models, and modifying dynamic range for image display
US20120051635A1 (en) * 2009-05-11 2012-03-01 Dolby Laboratories Licensing Corporation Light Detection, Color Appearance Models, and Modifying Dynamic Range for Image Display

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
MARTIN WINKEN 等: "Bit-Depth Scalable Video Coding", 《ICIP2007》 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104509094A (zh) * 2013-07-19 2015-04-08 索尼公司 文件生成设备、文件生成方法、文件再现设备及文件再现方法
CN113014930A (zh) * 2016-01-13 2021-06-22 索尼公司 信息处理设备、信息处理方法和计算机可读记录介质
CN113014930B (zh) * 2016-01-13 2024-04-26 索尼公司 信息处理设备、信息处理方法和计算机可读记录介质
CN109417650A (zh) * 2016-07-11 2019-03-01 夏普株式会社 视频信号转换装置、视频信号转换方法、视频信号转换系统、控制程序以及记录介质

Also Published As

Publication number Publication date
TW201524202A (zh) 2015-06-16
JP6402633B2 (ja) 2018-10-10
WO2015008683A1 (ja) 2015-01-22
EP2869565B1 (en) 2018-10-24
EP2869565A1 (en) 2015-05-06
US20150208102A1 (en) 2015-07-23
TWI630821B (zh) 2018-07-21
CN104488262B (zh) 2019-01-25
EP2869565A4 (en) 2016-02-24
US9788020B2 (en) 2017-10-10
JPWO2015008683A1 (ja) 2017-03-02

Similar Documents

Publication Publication Date Title
CN104488262B (zh) 文件生成设备、文件生成方法、文件再现设备和文件再现方法
TWI632810B (zh) Data generating device, data generating method, data reproducing device, and data reproducing method
CN104509094B (zh) 文件生成设备、文件生成方法、文件再现设备及文件再现方法
CN105409208B (zh) 再现方法及再现装置
US8504591B2 (en) Data generating device and data generating method, and data processing device and data processing method
CN105981396A (zh) 传输方法、再现方法及再现装置
CN105393549A (zh) 数据输出装置、数据输出方法及数据生成方法
CN106165403A (zh) 数据输出装置、数据输出方法以及数据生成方法
CN105556606A (zh) 再现设备、再现方法以及记录介质
CN108476346B (zh) 信息处理装置和信息处理方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20190125