CN102172033A - 用于再生3d影像的信息记录媒体及再生装置 - Google Patents

用于再生3d影像的信息记录媒体及再生装置 Download PDF

Info

Publication number
CN102172033A
CN102172033A CN2010800027752A CN201080002775A CN102172033A CN 102172033 A CN102172033 A CN 102172033A CN 2010800027752 A CN2010800027752 A CN 2010800027752A CN 201080002775 A CN201080002775 A CN 201080002775A CN 102172033 A CN102172033 A CN 102172033A
Authority
CN
China
Prior art keywords
stream
visual field
mentioned
video
file
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2010800027752A
Other languages
English (en)
Other versions
CN102172033B (zh
Inventor
佐佐木泰治
矢羽田洋
小川智辉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Publication of CN102172033A publication Critical patent/CN102172033A/zh
Application granted granted Critical
Publication of CN102172033B publication Critical patent/CN102172033B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/44Receiver circuitry for the reception of television signals according to analogue transmission standards
    • H04N5/445Receiver circuitry for the reception of television signals according to analogue transmission standards for displaying additional information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/19Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier
    • G11B27/28Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording
    • G11B27/30Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording on the same track as the main recording
    • G11B27/3027Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording on the same track as the main recording used signal is digitally coded
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/183On-screen display [OSD] information, e.g. subtitles or menus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/189Recording image signals; Reproducing recorded image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • H04N5/92Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
    • H04N9/8227Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal the additional signal being at least another television signal
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B2220/00Record carriers by type
    • G11B2220/20Disc-shaped record carriers
    • G11B2220/25Disc-shaped record carriers characterised in that the disc is based on a specific recording technology
    • G11B2220/2537Optical discs
    • G11B2220/2541Blu-ray discs; Blue laser DVR discs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/775Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television receiver
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/84Television signal recording using optical recording
    • H04N5/85Television signal recording using optical recording on discs or drums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/7921Processing of colour television signals in connection with recording for more than one processing mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/8042Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/806Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components with processing of the sound signal
    • H04N9/8063Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components with processing of the sound signal using time division multiplex of the PCM audio and PCM video signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
    • H04N9/8211Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal the additional signal being a sound signal

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Television Signal Processing For Recording (AREA)

Abstract

提高与立体视影像一起显示字幕时的画面的利用效率。按照字幕设定视频移位模式,在将立体视影像再生的情况下,通过根据字幕的视频移位模式将影像平面向上方向或下方向移位并裁剪,使处于上下的黑框向上或下集中,来确保字幕的显示区域。

Description

用于再生3D影像的信息记录媒体及再生装置
技术领域
本发明涉及属于3D影像及2D影像的再生技术的技术领域的发明。
背景技术
所谓2D影像,是将显示装置的显示画面作为X-Y平面掌握、用该X-Y平面上的像素表现的图像,也称作平面视图像。相对照,所谓3D影像,是对显示装置的画面中的X-Y平面上的像素添加了Z轴方向的进深后的图像。
3D影像将应由左眼视听的左视野影像和应由右眼视听的右视野影像一起再生,并用这些左视野影像、右视野影像发挥立体视效果,由此供用户视听。用户将3D影像的像素中的、具有正的Z轴坐标的像素感觉为处于比显示装置的画面靠近侧,将具有负的Z轴坐标的像素感觉为存在于比画面靠里侧。
在将3D影像保存到光盘中的情况下,要求与仅能够将保存有2D影像的光盘再生的再生装置(以下称作“2D再生装置”)的再生兼容性。在对于保存有3D影像的光盘、2D再生装置不能将3D影像作为2D影像再生的情况下,需要将相同的内容制作3D用盘和2D用盘这两种,成本变高。由此,要求保存有3D影像的光盘在2D再生装置中作为2D影像再生,而在能够再生2D影像和3D影像的再生装置(以下称作“2D/3D再生装置”)中能够作为2D影像或3D影像再生。
作为确保保存有3D影像的光盘中的再生兼容性的技术的先行技术,有以下的专利文献1中记载的技术。
先行技术文献
专利文献
专利文献1:特许第3935507号公报
发明概要
发明要解决的问题
然而,在电影作品等中,字幕数据保存在光盘中,在再生时将字幕通常与运动图像合成而显示。这里,如果剧中的台词或解说词较长,则字幕字符在画面上占用许多显示区域。并且,在字幕占用画面上的许多显示区域的状态下,如果进行跃出程度较大的视频再生,则字幕与视频的立体显示重叠,再生出非常难于观看的立体视影像。这里,也可以考虑通过使字幕字符的配置位置靠近画面的端部来使得视频的立体显示与字幕不重叠,但在很多情况下,视频根据在视频流的时间轴中的多个再生区间的哪里被再生而立体视效果大为不同,此外字幕字符根据语言而字符量大为变化,所以如果将画面的某个端部一律固定为字幕显示区域,则画面的利用效率下降。这样,即使自费购买了昂贵的大画面3D电视机,也会出现用户不能尽情地享受立体视效果的情况。
发明内容
本发明的目的是提供一种能够避免因画面的利用效率下降而造成的立体视效果下降的记录媒体。
用于解决问题的手段
本发明的记录媒体,是记录有构成立体视图像的视频流、播放列表信息、以及多个字幕流的记录媒体,其特征在于,播放列表信息包括流选择表和附加信息;流选择表将在平面视再生模式中应许可再生的字幕流的流号码与流入口及流属性建立对应表示;附加信息被与流选择表中的流号码建立对应,包括区域确保标志;区域确保标志表示再生装置被设定为立体视再生模式的情况下的字幕的显示区域是视频平面的上端或者是下端;在由区域确保标志表示字幕的显示区域是视频平面上端的情况下,将视频流通过再生装置向视频平面的下方向移位来描绘;在由区域确保标志表示字幕的显示区域是视频平面下端的情况下,将视频流通过再生装置向视频平面的上方向移位来描绘。
发明效果
由于包括规定字幕的显示区域确保的区域确保标志的附加信息被与流号码建立对应而记载在每个再生区间的流选择表中,所以在再生区间变化时或流变更请求发生时执行流选择过程,在将对应于装置侧的语言设定的流号码设定在流号码寄存器中的情况下,将由对应于该新的流号码的附加信息指示的区域确保标志提供给再生装置。通过这样,能够实现在某个再生区间中在上端确保字幕的显示区域而在别的再生区间中在下端确保字幕的显示区域的控制。
特别是,电影作品的影像中,一般是宽银幕尺寸(1∶2.35)的纵横比,在将影像保存到BD-ROM等光盘中的情况下,一般不变更纵横比而将正编影像配置在16∶9的HD影像的中央、在画面上下插入黑框。因此,根据上述结构,能够在将处于影像的上下的黑框向视频平面之上或之下集中而得到的较宽的字幕显示区域中显示字幕,所以能够提高画面的利用效率,能够提高立体视效果。
(追加的技术问题)
在通过主视野影像与副视野影像的视差实现立体视效果的3D影像中,由于对应于显示装置的画面尺寸而视差变化,所以因画面尺寸的差异,图像的进深也发生差异。因此,如果将设想画面尺寸较大的显示装置中的视听而制作的3D影像用画面尺寸较小的显示装置视听,则成为比制作者的本意缺乏进深感的没有感染力的影像。反之,如果将设想画面尺寸较小的显示装置中的视听而制作的3D影像用画面尺寸较大的显示装置视听,则有可能产生过度的进深感而引起眼睛疲劳。
本发明的目的是提供一种能够防止用与制作时的设想不同的画面尺寸视听3D影像带来的不良影响的记录媒体。
能够解决上述问题的记录媒体,是记录有主视野视频流、副视野视频流、以及元数据的记录媒体,其特征在于,上述主视野视频流包括构成立体视影像的主视野的图片数据;上述副视野视频流包括构成立体视影像的副视野的图片数据;上述元数据包括与多个显示装置的画面尺寸信息对应的偏移修正值;上述偏移修正值规定使描绘构成上述主视野的图片数据的主视野视频平面以及描绘构成上述副视野的图片数据的副视野视频平面中的至少一个向水平坐标的右方向及左方向移动的偏移。
通过对图片数据赋予由对应于显示的画面尺寸的画面尺寸信息规定的偏移而使其移动,能够对立体视影像赋予对应于画面尺寸的适当的视差。因此,根据上述结构,能够防止用与制作时的设想不同的画面尺寸视听3D影像带来的不良影响。
附图说明
图1表示由作为包媒体的记录媒体、作为播放器设备的再生装置、显示装置、眼镜构成的家庭影院系统。
图2表示将用户的脸描绘在左侧,在右侧描绘从左眼看到作为对象物的恐龙的骨骼的情况的例子、以及从右眼看到作为对象物的恐龙的骨骼的情况的例子。
图3表示用于立体视的基础视野视频流、从属视野视频流的内部结构的一例。
图4是说明将正编影像中没有使用的黑框集中到上下而将字幕数据显示在该黑框中的概念的图。
图5表示有关第1实施方式的记录媒体的内部结构。
图6表示主TS及副TS的内部结构。
图7表示播放列表信息的内部结构。
图8表示基本流选择表的一例。
图9表示扩展流选择表的内部结构。
图10表示扩展流选择表中的流登录列。
图11表示video_shift_mode(视频移位模式)被设定为Keep(保持)的情况下的平面合成。
图12中(a)表示video_shift_mode被设定为Up(上)的情况下的平面合成,(b)表示video_shift_mode被设定为Down(下)的情况下的平面合成。
图13是说明将视频移位模式追加到扩展流选择表中的情况下的、图形流向流选择表的登录顺序的限制的图。
图14表示通过基本流选择表、扩展流选择表从主TS、副TS多路分离了怎样的ES。
图15表示2D输出模式、3D输出模式中的流号码的分配变化。
图16表示再生装置的内部结构。
图17表示PG解码器的内部结构。
图18表示文本字幕解码器的内部结构。
图19表示IG解码器的解码器模组。
图20表示用于将解码器模组的输出合成并以3D-LR方式输出的电路结构。
图21表示用于将这些解码器模组的输出合成并以1plane+Offset(1平面+偏移)模式方式输出的电路结构。
图22表示用于将解码器模组的输出合成并以上端侧2D字幕再生模式方式及下端侧2D字幕再生模式方式输出的电路结构。
图23是描绘了寄存器组203的内部结构和再生控制部的图。
图24表示PSR24的位分配。
图25表示PSR32的位分配。
图26表示播放列表再生次序。
图27是表示关于PGtestST流的在再生条件改变时的过程的处理次序的流程图。
图28是表示上下端再生类型决定处理次序的流程图。
图29是表示对当前播放项目选择最优的PG_文本字幕流的处理次序的流程图。
图30是表示在通过设置立体视流命令(SetstreamSSCommand)请求了流变化的情况下应执行的在请求流改变时的过程的处理次序的流程图。
图31是表示通过设置流命令、或请求流号码变更的用户操作而请求了流变化的情况下应执行的在请求流改变时的过程的处理次序的流程图。
图32是表示当前IG流的决定及当前IG流的再生类型决定的处理次序的流程图。
图33表示通过结合流登录列将怎样的包识别符输出给多路分离部。
图34表示通过结合流登录列将怎样的包识别符输出给多路分离部。
图35表示有关第1实施方式的变形例的扩展流选择表的流登录列。
图36表示用于将解码器模组的输出合成并以上端侧2D字幕再生模式方式及下端侧2D字幕再生模式方式输出的电路结构。
图37是说明表示各平面的纵轴方向的移位量的系统参数的图。
图38是说明根据视频移位模式将PG平面移位并裁剪的方法的图。
图39是说明用于在没有被上端侧2D字幕再生模式及下端侧2D字幕再生模式下的平面合成切掉的区域中放置字幕数据的限制条件的图。
图40是说明电视机的画面尺寸带来的进深间的影响的输出偏移修正值的作用的图。
图41是说明保存在播放列表文件中的电视机的英寸数与输出偏移修正值的表的图。
图42是用最优的尺寸以上的电视机显示影像的情况下的画面例。
图43是说明用于使用输出偏移修正值的2D/3D再生装置的结构的图。
图44是说明使用输出偏移修正值和输出偏移修正值α的结构的图。
图45表示区段与文件2D/文件基础、文件从属的对应。
图46表示立体视交错流文件与文件2D/文件基础的关系。
图47表示立体视交错流文件、文件2D、文件基础的相互关系。
图48表示2D播放列表、3D播放列表。
图49表示片断信息文件的内部结构。
图50表示片断信息文件、播放列表、以及立体视交错流文件之间的关系。
图51是表示片断基础信息、片断从属信息的内部结构的图。
图52是表示基本入口映射和扩展入口映射的图。
图53表示在扩展入口映射中不被容许的入口。
图54表示播放项目的再生次序。
图55表示从立体视交错流文件构成的数据块怎样恢复ATC序列。
图56是表示怎样进行ATC序列的恢复的图。
图57表示基础视野片断信息中的区段开始点信息的一例、以及从属视野片断信息中的区段开始点信息的一例。
图58是用于说明ATC序列1、2中的任意的数据块的源包号码的图。
图59表示ATC序列恢复次序。
图60是说明2D/3D再生装置的再生环境的图。
图61是说明根据3D影像通过2D影像的再生在不发生帧率切换的条件下输出单方的影像的状况的图。
图62是说明在BD等中使用的字幕·菜单用流的相关情况的图。
图63是说明用于实现更平滑的2D/3D影像显示的处理的图。
图64表示光盘的记录方法。
图65是表示编辑工序的处理次序的流程图。
图66表示AV文件写入工序的处理次序。
图67是表示基本入口映射、扩展入口映射的制作次序的流程图。
图68是表示BD-J应用、BD-J对象、电影对象、索引表的制作次序的流程图。
图69表示多层化的光盘的内部结构。
图70表示以文件系统为前提的光盘的应用格式。
图71表示2D/3D再生装置的结构。
图72是表示关于有关本发明的记录媒体的使用行为的形态、BD-ROM的内部结构、索引文件的内部结构的图。
图73是示意地表示AV片断的结构、各流被怎样多路复用在AV片断中的图。
图74是更详细地表示在PES包列中怎样保存视频流及音频流并表示AV片断中的TS包和源包构造的图。
图75是表示PMT的数据结构、片断信息文件的内部结构的图。
图76是表示流属性信息的内部结构、入口映射的内部结构的图。
图77是表示播放列表的内部结构、播放项目的内部结构的图。
图78是说明2D再生装置的内部结构、播放器变量的图。
图79是表示系统目标解码器的内部结构的图。
图80是立体视的说明图。
图81是说明呈现图形流的数据构造的图。
图82是说明呈现图形流的解码处理的图。
图83是说明视频上移动时移位值和视频下移动时移位值的播放列表的保存方法的图。
图84是说明进行将黑框上下集中的视频移位的情况下的2D/3D再生装置内的平面合成的结构的图。
图85是说明将视频移位模式追加到流选择信息的流附加信息中的播放列表的结构的图。
图86是说明将视频移位模式追加到流选择信息的流附加信息中的情况下的平面合成的方法的图。
图87中上段是说明将正编影像不是配置在正中间而是配置在稍上侧而制作视频流的方法的图,下段是说明动态变更PG的流的透明色而制作黑框的方法的图。
图88是说明规定为在各区段中有一个以上的入口点的情况下的结构的图。
图89是说明将偏移元数据保存到AV流信息文件中的方法的图。
图90是说明将偏移元数据按照每个入口点保存的方法的图。
图91是说明将偏移元数据保存到播放列表中的方法的图。
图92是说明在将偏移元数据保存到播放列表中的情况下、在与之前的播放项目相同时不保存偏移元数据的方法的图。
图93是说明在将偏移元数据保存到播放列表中的情况下、用于使得对于具有相同的偏移元数据的播放项目仅有一个偏移元数据就足够的保存方法的图。
图94是表示将以播放项目单位循环的头与偏移元数据分开保存的播放列表的图。
图95是说明将2平面L/R方式的图形的左眼用字幕作为2D显示用字幕显示的情况的图。
图96是说明用于将2D显示用字幕及1plane+Offset方式字幕、与2平面L/R方式的左眼用PG共用化的2平面L/R方式用的PG的偏移值的图。
图97是说明为了跳跃再生的高速化而将2D/3D再生路径分离的结构的图。
图98是表示用于将立体视影像再生的BD-ROM中的索引文件的一例的图。
图99表示BD程序文件的程序中的2D播放列表和3D播放列表的选择流程。
图100是将2D/3D再生装置使用集成电路实现的结构例。
图101是表示流处理部的代表性的结构的功能模块图。
图102是切换部是DMAC的情况下的切换部53周边的概念图。
图103是表示AV输出部的代表性的结构的功能模块图。
图104是详细地表示AV输出部或再生装置的数据输出部分的结构例。
图105是表示集成电路中的控制总线及数据总线的配置的图。
图106是表示集成电路中的控制总线及数据总线的配置的图。
图107是将显示装置使用集成电路实现的结构例。
图108是表示显示装置中的AV输出部的代表性的结构的功能模块图。
图109是简单地表示再生装置的动作次序的流程图。
图110是详细地表示再生装置的动作次序的流程图。
具体实施方式
具备上述问题解决手段的记录媒体可以作为用于将内容进行店面销售的包媒体实现。此外,对应于该记录媒体的再生装置可以作为用于将包媒体再生的播放器设备实现,对应于该记录媒体的集成电路可以作为装入到该播放器设备中的系统LSI实现。
图1表示由作为包媒体的记录媒体、作为播放器设备的再生装置、显示装置、眼镜构成的家庭影院系统。如图1(a)所示,上述作为包媒体的记录媒体100、作为播放器设备的再生装置200与显示装置300、3D眼镜400、遥控器500一起构成家庭影院系统,供用户使用。
记录媒体100对上述家庭影院系统供给例如电影作品。在该电影作品中,有构成立体视影像的作品。这里,立体视影像由至少两个视点影像构成。所谓视点影像,是具有某种偏向性的影像,上述两个视点影像由主视野影像和副视野影像构成。在记录媒体100中,如图1所示,存在盘型、存储卡型等各种各样的类型,但只要没有特别说明,设以后说明中所述的“记录媒体”是盘媒体。
再生装置200与显示装置300连接,将记录媒体100再生。再生装置为了将表示主视野影像的主视野视频流、表示副视野影像的副视野视频流再生,是具备2D输出模式、3D输出模式这两个输出模式并能够进行它们的相互切换的2D/3D再生装置(播放器)。
显示装置300是电视机,通过显示电影作品的再生影像、或显示菜单等,对用户提供对话性的操作环境。本实施方式的显示装置300通过用户佩戴3D眼镜400而实现立体视,但如果显示装置300是双凸透镜方式,则不需要3D眼镜400。
3D眼镜400具备液晶开闭器,使用户视听基于继时分离方式或偏光眼镜方式的视差图像。所谓视差图像,是由进入到右眼中的影像、以及进入到左眼中的影像构成的一组影像,使得仅对应于各个眼睛的图片进入到用户的眼中来进行立体视。图1(b)表示左眼用影像的显示时。在画面上显示有左眼用的影像的瞬间,上述3D眼镜400使对应于左眼的液晶开闭器为透过、对应于右眼液晶开闭器遮光。图1(c)表示右眼用影像的显示时。在画面上显示有右眼用的影像的瞬间,与前面相反,使对应于右眼的液晶开闭器成为透光、对应于左眼的液晶开闭器遮光。
遥控器500是用于受理用于AV再生的操作项目的设备。此外,遥控器500是用于从用户受理对层级化的GUI的操作的设备,为了该操作受理,遥控器500具备调出构成GUI的菜单的菜单键、使构成菜单的GUI零件的焦点移动的箭头键、对构成菜单的GUI零件进行确定操作的决定键、用于使层级化的菜单返回到更上位的菜单的返回键、数值键。
在图1的家庭影院系统中,将使显示装置300进行3D输出模式下的图像显示的再生装置的输出模式称作“3D输出模式”。将使显示装置300进行2D输出模式下的图像显示的再生装置的输出模式称作“2D输出模式”。
以上是对记录媒体及再生装置的使用形态的说明。
(第1实施方式)
第1实施方式的特征在于,将是否能够实现使用右眼用的图形流、左眼用的图形流的立体视的能力设定在再生装置的寄存器中。
在以后的说明中,设主视野及副视野实现视差图像方式。视差图像方式(称作3D-LR模式)是分别准备进入到右眼中的影像以及进入到左眼中的影像来使得仅对应的图片进入到各个眼睛中而进行立体视的方法。图2表示将用户的脸描绘在左侧、在右侧描绘从左眼看到作为对象物的恐龙的骨骼的情况的例子、以及从右眼看到作为对象物的恐龙的骨骼的情况的例子。如果重复右眼及左眼的透光、遮光,则用户的脑内,因眼睛的残像反应而进行左右的场景的叠合,能够识别为在脸的中央的延长线上存在立体影像。
作为用于实现这样的立体视的视频流的编码方式,使用基于MPEG4-MVC方式的方式。在以后的说明中,设MPEG4-MVC中的“基础视野视频流”是主视野视频流、MPEG4-MVC中的“从属视野视频流”是副视野视频流。
MPEG-4MVC基础视野视频流是view_id为0的副比特流,是view_id为0的视野组件的序列。MPEG-4MVC基础视野视频流遵守MPEG-4AVC视频流的限制。
MPEG-4MVC从属视野视频流是view_id为1的副比特流,是view_id为1的视野组件的序列。
所谓视野组件,是指在一个帧期间中、为了立体视再生而同时再生的多个图片数据中的每一个图片数据。利用视点间的相关性的压缩编码使用基础视野视频流及从属视野视频流的视野组件作为图片数据,实现利用图片间的相关性的压缩编码来完成。对1个帧期间分配的基础视野视频流的视野组件和从属视野视频流的视野组件的组构成1个访问单元,能够以该访问单元的单位进行随机访问。
基础视野视频流及从属视野视频流都具有将各个视野组件作为“图片”的GOP构造,由封闭GOP、开放GOP构成。封闭GOP由IDR图片、接在该IDR图片之后的B图片、以及P图片构成。开放GOP由Non-IDR I图片、接在Non-IDR I图片之后的B图片、以及P图片构成。
将Non-IDR I图片、P图片、B图片基于与其他图片的帧相关性进行压缩编码。所谓B图片,是指由Bidirectionally predictive(双向预测)(B)形式的片数据构成的图片,所谓P图片,是指由Predictive(预测)(P)形式的片数据构成的图片。在B图片中,有refrenceB(参照B)(Br)图片和nonrefrenceB(非参照B)(B)图片。
封闭GOP将IDR图片配置在开头。在显示顺序中IDR图片不为开头,但IDR图片以外的其他图片(B图片、P图片)不能与存在于比封闭GOP靠前的GOP中的图片具有依存关系。这样,封闭GOP具有使依存关系完结的作用。
图3表示用于立体视的基础视野视频流、从属视野视频流的内部结构的一例。
本图的第2段表示基础视野视频流的内部结构。在该流中,包括图片类型是I1、P2、Br3、Br4、P5、Br6、Br7、P9的视野组件。这些视野组件被按照Decode Time Stamp(DTS;解码时间戳)解码。第1段表示左眼图像。通过将这样解码后的视野组件I1、P2、Br3、Br4、P5、Br6、Br7、P9按照PTS、以I1、Br3、Br4、P2、Br6、Br7、P5的顺序再生,将左眼图像再生。
第4段表示从属视野视频流的内部结构。该从属视野视频流包含有P1、P2、B3、B4、P5、B6、B7、P8的图片类型的视野组件。将这些视野组件按照DTS解码。第3段表示右眼图像。通过将这样解码后的视野组件P1、P2、B3、B4、P5、B6、B7、P8按照PTS、以P1、B3、B4、P2、B6、B7、P5的顺序再生,将右眼图像再生。
第5段表示使3D眼镜400的状态怎样变化。如该第5段所示,可知在左眼图像的视听时将右眼的开闭器关闭、在右眼图像的视听时将左眼的开闭器关闭。
将在1/48秒的显示周期中将基础视野视频流的视频帧和从属视野流的视频帧如“B”-“D”-“B”-“D”那样交替地输出的模式称作“B-D呈现模式”。
进而,在B-D呈现模式中,除了使用L图像、R图像实现立体视效果的3D-LR方式以外,还有使用2D图像和深度信息实现立体视效果的3D-Depth方式。
将不是将基础视野视频流的视频帧和从属视野流的视频帧交替地输出、而是进行在将输出模式维持为3D模式的状态下、将相同的视频帧重复输出2次以上的处理的再生类型称作B-B呈现模式。在B-B呈现模式中,仅将能够单独再生的基础视野视频流的视频帧如“B”-“B”-“B”-“B”那样重复输出。
以上的B-D呈现模式、B-B呈现模式为再生装置的输出模式的基础,除了这些模式以外,在再生装置中还存在1plane+Offset模式、上端侧2D字幕再生模式、下端侧2D字幕再生模式的输出模式。
1plane+Offset模式(也称作3D-Offset模式)是将移位部装入到平面存储器的后段、通过使移位部发挥功能而实现立体视的输出模式。平面偏移部在左视野期间及右视野期间的各自中,使平面存储器中的行单位的像素的坐标向左方向或右方向移位,通过使右眼视线及左眼视线的成像点向近侧方向、或里侧方向变位而使进深感变化。具体而言,如果使像素坐标在左视野期间中向左方向、在右视野期间中向右方向变化,则两眼的视线的成像点成为近侧,如果使像素坐标在左视野期间中向右方向、在右视野期间中向左方向变化,则两眼的视线的成像点成为近侧。
在该平面移位中,用于立体视的平面存储器用1个平面就足够,所以适合于简单地制作立体视影像。在该平面移位中,只不过是产生平面的影像来到近侧、或进入到里侧的立体视影像,所以虽然适合于菜单或字幕的立体视效果,但为了实现角色或物体的立体视效果并不够。这是因为不能将角色的脸的坑洼或凹凸等再生。
在支持1plane+Offset模式的情况下,再生装置的结构成为以下这样。为了图形的再生,在再生装置中存在平面存储器、CLUT部、合成部,在该CLUT部、合成部之间装入移位部。并且,移位部使用装入在从属视野视频流的访问单元构造中的偏移序列的偏移,实现上述那样的像素的坐标变化。通过这样,1plane+Offset模式中的像素的跃出程度与MVC视频流精密地同步。在该1plane+Offset模式之中,有1plane+Zero Offset(1平面+0偏移)模式。1plane+Zero Offset模式是在弹出菜单是开启的情况下将偏移值设为零、仅给弹出菜单带来立体视效果的显示模式。
作为偏移序列的移位控制的对象的平面存储器是构成规定的层模型的多个平面存储器。所谓平面存储器,是将通过将基本流解码而得到的一画面量的像素数据以行单位保存、用于按照水平同步信号、垂直同步信号输出这些像素数据的存储器。各个平面存储器将通过视频解码器、PG解码器、IG解码器的解码得到的1画面量的像素数据保存。
规定的层模型由左眼视频平面及右眼视频平面的层级、PG平面的层级、IG/BD-J平面的层级构成,是意味着将各层级的平面存储器的保存内容以视频平面→PG平面→IG/BD-J平面的顺序进行层合成。
上述层合成在平面存储器的层模型中,通过对层模型中的两个层级的全部组合执行使保存在两个层级的平面存储器中的像素数据的像素值叠加的处理来进行。以下,对各层级的平面存储器进行叙述。
左眼视频平面是能够保存通过将视野组件解码而得到的一画面量的像素数据中的、构成左眼用的图片数据的像素数据的平面存储器。右眼视频平面是能够保存通过将视野组件解码而得到的一画面量的像素数据中的、构成右眼用的图片数据的像素数据的平面存储器。
所谓呈现图形(PG)平面,是用于以流水线式动作的图形解码器通过进行解码处理而得到的图形的保存的平面存储器。所谓IG/BD-J平面,是在某个动作模式中作为IG平面发挥功能、在别的动作模式中作为BD-J平面发挥功能的平面存储器。所谓交互图形(IG)平面,是用于以对话性的处理为前提动作的图形解码器通过进行解码而得到的图形的保存的平面存储器。BD-J平面是能够用于通过面向对象的编程语言的应用进行描绘处理而得到的描绘图像图形的保存的平面存储器。IG平面和BD-J平面是排他性的,在利用某一个的情况下不能利用另一个,所以在IG平面和BD-J平面中兼使用1个平面存储器。
在上述层模型中,关于视频平面,存在基础视野用的视频平面和从属视野用的视频平面,但关于IG/BD-J平面、PG平面,并不是对基础视野用、从属视野用分别存在平面存储器。由此,IG/BD-J平面、PG平面成为移位控制的对象。
上端侧2D字幕再生模式是通过将移位部装入到视频平面存储器的后段中、使移位部发挥功能而在视频帧的上端确保2D字幕的显示区域的输出模式,下端侧2D字幕再生模式是通过使移位部发挥功能而在视频流的下端确保2D字幕的显示区域的输出模式。平面偏移部在上端侧2D字幕再生模式中,在左视野期间及右视野期间的各自中,使保存在视频平面存储器中的图片数据的像素的坐标向下方移位,在下端侧2D字幕再生模式中,在左视野期间及右视野期间的各自中使保存在视频平面存储器中的图片数据的像素的坐标向上方移位。
在支持上端侧2D字幕再生模式、下端侧2D字幕再生模式的情况下,再生装置的结构为以下这样。为了视频帧及图形的再生,在再生装置中存在平面存储器和合成部,在视频平面存储器与合成部之间装入移位部。并且,移位部使用装入在图形流的流登录列中的偏移,实现上述那样的像素的坐标变化。
适合于上端侧2D字幕再生模式、下端侧2D字幕再生模式下的使用的视频帧如图4(a)所示,是在纵横比16∶9、分辨率1920×1080像素的画面中央配置纵横比2.35∶1、分辨率1920×818像素的宽银幕尺寸的图像并在宽银幕尺寸的图像的上下配置1920×131像素的黑框的帧。在保存有这样的视频帧的视频平面存储器中,通过使像素的坐标向上方或下方移位并在通过移位而产生的空白区域中保存黑色的数据,如图4(b)、图4(c)所示,将存在于原来的视频帧的上下端的黑框集中到上端或下端。通过这样,能够准备足够显示字幕的大小的黑框。
以上是对3D输出模式的说明。接着,对有关本实施方式的记录媒体的内部结构进行说明。
图5表示有关第1实施方式的记录媒体的内部结构。如图5(a)所示,在有关第1实施方式的记录媒体中,记录有“索引表”、“动作模式对象的程序文件”、“播放列表信息文件”、“流信息文件”、“流文件”。
<索引表>
索引表是关于记录媒体整体的管理信息,在向再生装置插入记录媒体后,通过将索引表最先读出,能够在再生装置中唯一地识别记录媒体。
<程序文件>
动作模式对象的程序文件保存有用于使再生装置动作的控制程序。在该程序中,有通过命令记述的程序、以及通过面向对象的编译语言记述的程序。前者的程序在基于命令的动作模式中,将多个导航命令作为批处理任务供给到再生装置中,基于这些导航命令使再生装置动作。将该基于命令的动作模式称作“HDMV模式”。
后者的程序在基于面向对象型的编译语言的动作模式中,将作为类构造体的实例的字节码应用供给到再生装置中,基于该实例使再生装置动作。在类构造体的实例中,可以使用作为字节码应用之一的Java(TM)应用。将基于面向对象型编译语言的动作模式称作“BD-J模式”。
<流文件>
流文件保存有通过将视频流、1个以上的音频流、图形流多路复用而得到的传输流。在流文件中,有2D专用的文件、以及2D-3D兼用的文件。2D专用的流文件是通常的传输流形式,2D-3D兼用的流文件具有立体视交错流文件的文件形式。
所谓立体视交错流文件形式,是将包含基础视野流的主传输流(主TS)的区段、以及包含从属视野视频流的副传输流(副TS)的区段以交错形式交替配置的形式。
保存在流文件中的主TS作为用于管理、控制多种PES流的信息而具备由欧洲数字广播标准规定的包管理信息(PCR、PMT、PAT)。
PCR(Program_Clock_Reference;程序参照时钟)为了取得作为ATS的时间轴的ATC(Arrival Time Clock;到达时间时钟)与作为PTS、DTS的时间轴的STC(System Time Clock;系统时间时钟)的同步而具有与该PCR包被转送给解码器的ATS对应的STC时间的信息。
PMT(Program_map_table;程序映射)具有包含在流文件中的影像、声音、图形等各流的PID和对应于各PID的流的属性信息,还具有关于TS的各种描述符。在描述符中,有指示许可/不许可流文件的复制的复制控制信息等。
PAT(Program Association Table;程序关联表)表示在TS中使用的PMT的PID是什么,以PAT自身的PID排列登录。
这些PCR、PMT、PAT在欧洲数字广播标准中具有规定构成一个广播节目(Program)的局部TS的作用,再生装置在欧洲数字广播标准中,能够如处理构成一个广播节目的局部TS那样、将TS供解码器处理。这意味着欧洲数字广播标准的终端装置与记录媒体再生装置的兼容性。
主TS中的区段及副TS中的区段的组被设定为在再生时不使双缓冲器下溢的数据尺寸,再生装置能够将这些区段的组不中断而读入。
以上是对流文件的说明。
<流信息文件>
流信息文件是保障对流文件中的传输流内的任意的源包的随机访问、以及与其他传输流的无中断再生的流信息文件。通过经由该流信息文件,将流文件作为“AV片断”管理。流信息文件由于具有将AV片断中的流的编码形式、帧率、比特率、分辨率等信息、及GOP的开头位置的源包号码与帧期间的呈现时间戳建立对应表示的基本入口映射,所以只要在流文件的访问之前将该流信息文件装载到存储器中,就能够掌握要访问的流文件中的传输流是怎样的,所以能够保障随机访问的执行。在流信息文件中,有2D流信息文件和3D流信息文件,3D流信息文件包括用于基础视野的片断信息(片断基础信息)、用于从属视野的片断信息(片断从属信息)、以及立体视用的扩展入口映射。
片断基础信息包括用于基础视野的区段开始点信息,片断从属信息包括用于从属视野的区段开始点信息。用于基础视野的区段开始点信息由多个源包号码构成。各个源包号码表示主TS中的区段的分割位置存在于第几个包中。用于从属视野的区段开始点信息也由多个源包号码构成,表示副TS中的分割位置存在于哪个包中。通过使用这些区段开始点信息,立体视交错流文件被分割为构成主TS的ATC序列1、以及构成副TS的ATC序列2。所谓“ATC序列”,是源包的排列,是指在该Arrival_Time_Stamp参照的Arrival_Time_Clock中不存在不连续点(no arrival time-base discontinutiy)。ATC序列是ATC的时间戳连续的源包列,所以在对再生装置的到达时间时钟计时的时钟计时器进行计时的期间中,将构成ATC序列的各源包提供给连续的源包解包处理、以及连续的包过滤处理。
ATC序列是源包的排列,相对于此,将STC时间轴上的时间戳连续的TS包的排列称作STC序列。所谓“STC序列”,是指是TS包的排列且不具有作为TS的系统基准时刻的STC(System Time Clock)的不连续点(system time-base discontinuity)的序列。所谓STC的不连续点,是传送解码器为了得到STC而参照的PCR(Program Clock Reference)的PCR包的不连续信息(discontinuity_indicator)是ON(开启)的点。STC序列是STC的时间戳连续的TS包列,所以在对再生装置的系统时间时钟计时的时钟计时器进行计时的期间中,将构成STC序列的各TS包提供给存在于再生装置内的解码器的连续的解码处理。扩展入口映射与表示GOP开头的帧期间的呈现时间戳建立对应而表示从属视野视频流中的作为GOP开头的视野组件的开头位置的访问单元分界符的源包号码。
另一方面,3D流信息文件中的基本入口映射具有与2D流信息文件的兼容性,并且对应于表示GOP开头的帧期间的呈现时间戳而表示基础视野视频流中的作为GOP开头的视野组件的开头位置的访问单元分界符的源包号码。
<播放列表信息文件>
播放列表信息文件是保存有用于使再生装置再生播放列表的信息的文件。所谓“播放列表”,是通过在传输流(TS)的时间轴上规定再生区间、并且在逻辑上指定该再生区间彼此的再生顺序而规定的再生路径,具有规定将TS中的哪个再生哪部分、以怎样的顺序将场景展开的作用。播放列表信息定义该播放列表的“类型”。由播放列表信息定义的再生路径是所谓的“多路径”。所谓多路径,是将对主要的TS定义的再生路径(主路径)、与对从属的流定义的再生路径(副路径)汇总而成的。只要在该多路径中规定基础视野视频流的再生路径、在副路径中规定从属视野视频流的再生路径,就能够适当地规定用于再生立体视的视频流的组合。
基于面向对象的编程语言的应用通过命令将该播放列表信息再生的框架播放器实例的生成,能够开始通过多路径的AV再生。所谓框架播放器实例,是基于媒体框架播放器类在虚拟机的堆存储器上生成的实际的数据。此外,基于命令的程序也可以通过发出用自变量指令了该播放列表信息的再生命令而开始通过多路径的再生。
播放列表信息包括1个以上的播放项目信息。所谓播放项目信息,是将视频流的再生时间轴中的、作为In_Time时刻与作为Out_Time的时刻的组定义1个以上的再生区间信息。
播放列表信息具有播放项目信息-流信息-传输流的层级构造,关于传输流及流信息的组与播放项目信息的比率,为一对多的关系,能够从多个播放项目信息多重参照1个传输流。由此,通过采用为了某个播放列表而制作的传输流作为Bank Film(库影像)、将其从多个播放列表信息文件的播放项目信息参照,能够高效率地制作电影作品的变形(另外,所谓Bank Film,是电影业的用语,是被在多个场景中普遍使用的影像内容)。
一般而言,从用户无法识别播放列表这样的单位,所以将从流文件派生的多个变形(例如剧场公开版或电视放映版)识别为播放列表。
在播放列表信息中有2D播放列表信息和3D播放列表信息,它们的差异是在3D播放列表信息内存在基础视野指示符和立体视流号码表。
“立体视流号码表”,是将应仅由3D输出模式再生的基本流的流入口及流属性与流号码建立对应而表示的表。
“基础视野指示符”,是表示应将作为利用视点间的相关性的压缩编码的基础的基础视野视频流作为左眼及右眼的哪个显示的信息。通过使该播放列表信息中的基础视野指示符变化,能够使基础视野视频流在播放列表的等级上改变设为左眼及右眼用的哪个的分配。
由于能够在不取决于流的构造的播放列表的等级上使上述分配变化,所以在存在图像中的物体的位置及角度如基础视野=左眼、从属视野=右眼用那样设定的播放列表的情况下,作为与该播放列表不同的版本,可以制作如基础视野=右眼用、从属视野=左眼那样设定的播放列表。
如果在播放列表的等级上使左眼、右眼用针对基础视野、从属视野的的分配反转,则能够使立体视效果反转。例如,在已经制作了想要达到对象物出现在画面的近侧那样的立体视效果的播放列表的情况下,能够与该播放列表另外地制作想要达到对象物出现在画面的里侧那样的立体视效果的播放列表。由此,在3D播放列表中,起到能够简单地制作立体视效果不同的播放列表的变形的效果。
图5(b)表示主TS的内部结构,图5(c)表示副TS的内部结构。如图5(b)所示,主TS包括1条基础视野视频流、32条左眼PG流、32条左眼用IG流、32条音频流。如图5(c)所示,副TS包括1条从属视野视频流、32条右眼PG流、32条右眼用IG流。
接着,对TS的内部结构进行说明。
多路复用在TS中的基本流(ES)有视频流、音频流、呈现图形流、交互图形流。
·视频流
基础视野视频流构成画中画应用中的主要视频流。画中画应用除了该主要视频流以外还由次要视频流构成。所谓主要视频流,是由在画中画应用中作为母画面的图片数据构成的视频流。与其对照,所谓次要视频流,是由在画中画中作为子画面嵌入到母画面的一部分中的图片数据构成的视频流。
在将构成主要视频流的图片数据、以及构成次要视频流的图片数据解码后,保存到各自的平面存储器中。在保存构成次要视频流的图片数据的平面存储器的前段中,存在进行构成次要视频流的图片数据的缩放比例变更及显示坐标的定位的构成单元(Scalling&Positioning)。
·音频流
在音频流中,有主要音频流、次要音频流这两种。主要音频流是在进行混合再生的情况下应作为主声音的音频流,次要音频流是在进行混合再生的情况下应作为副声音的音频流。次要音频流存在用于该混合的向下采样的信息、用于增益控制的信息。
·呈现图形流(PG流)
PG流通过在解码器中采用流水线,能够实现与影像的精密的同步,是适合于字幕显示的图形流,有2D PG流和立体视PG流这两个种类。在立体视PG流中有左眼PG流及右眼PG流这两种。
2D PG流最大可以定义32条,左眼PG流最大可以定义32条,右眼PG流也最大可以定义32条。对这些PG流分别赋予了不同的包识别符,通过对多路分离部指示应再生的包识别符,将这些PG流中的想要的流提供给再生。
通过基于流水线实现解码动作,能够实现与运动图像的精密的同步,所以PG流的用途并不限定于字幕那样的字符再生。如果是显示电影作品的吉祥物角色并使其一边与运动图像同步一边动作等、需要精密的同步的图形再生,不论是怎样的用途,都能够作为PG流的再生对象而采用。
虽然没有多路复用到流文件中,但在表示字幕的流中,除了PG流以外还有文本字幕(textST)流。textST流是将字幕的内容用字符码表示的流。
PG流、文本字幕流不区别它们的种类而作为相同的流种类,将这些PG流及文本字幕流登录到相同的流登录列中。并且,在执行流选择的过程时,按照流登录列中的流登录的位次决定应再生的PG流或文本字幕流。由于将PG流、文本字幕流不区别流类别而对流选择的过程供给,所以将这些PG流及文本字幕流作为1个流类别、即“PG_文本字幕流(也有简称作字幕流的情况)”的类别处理。
2D用的PG_文本字幕流被在1plane+Offset模式、上端侧2D字幕再生模式、下端侧2D字幕再生模式下再生。
·交互图形(IG)流
IG流是通过具备对话操作的信息从而能够随着视频流的再生进行而显示菜单、或能够按照用户操作而显示弹出菜单的图形流。
IG流也与PG流同样,有2D IG流和立体视IG流这两个种类。IG流的控制信息(称作对话控制段)具有规定用户界面模组的信息(User_interface_model),编辑者通过设定该用户界面模组信息,能够指定是随着视频流的再生进行而显示菜单(称作Always开启(总是开启))、还是按照用户操作而显示弹出菜单(弹出菜单开启)的哪个。
IG流具有对话操作的信息的意义如以下这样。在Java虚拟机根据来自应用的请求而对作为再生控制的主体的再生控制引擎指示播放列表再生的开始的情况下,Java虚拟机在对再生控制引擎命令再生后,将开始播放列表再生的应答返回给应用。即,在通过再生控制引擎的播放列表再生持续的期间中,Java虚拟机不等待执行结束。这是因为,Java虚拟机是所谓的事件驱动型的动作主体,在再生控制引擎进行播放列表的再生的期间中也能够进行动作。
另一方面,在HDMV模式中,在命令解释器对再生控制引擎命令播放列表再生的情况下,等待该播放列表再生的执行结束,直到播放列表再生结束。在通过再生控制引擎进行的再生持续的期间中,命令执行部不能执行对话性的处理。代替该命令解释器,图形解码器进行对话性的动作。为了使图形解码器进行对话性的动作,在IG流中装入了规定使用按钮部件的对话性的操作的控制信息。
·在各流类别中容许的显示模式
容许3D显示模式的哪个根据流类别而不同。在主要视频流的3D显示模式中,容许B-D呈现模式、B-B呈现模式这两个输出模式。在主要视频流中容许B-B呈现模式的只是弹出菜单为开启的情况。将以B-D呈现模式再生的情况下的主要视频流的类型称作“立体视B-D再生类型”。将以B-B呈现模式再生的情况下的主要视频流的类型称作立体视B-B再生类型。
在PG流的3D显示模式中,容许B-D呈现模式、1plane+Offset模式、1plane+Zero Offset模式、上端侧2D字幕再生模式、下端侧2D字幕再生模式这五个输出模式。在PG流中容许1plane+Zero Offset模式的只是弹出菜单为开启的情况。将以B-D呈现模式再生的情况下的PG流的类型称作“立体视再生类型”。将以1plane+Offset模式再生的情况下的PG流、PG_文本字幕流的类型称作1plane+Offset类型。将以1plane+Zero Offset模式再生的情况下的PG流、PG_文本字幕流的类型称作1plane+Zero Offset类型。将以上端侧2D字幕再生模式再生的情况下的PG流、PG_文本字幕流的类型称作“上端侧2D字幕再生类型”。将以下端侧2D字幕再生模式再生的情况下的PG流、PG_文本字幕流的类型称作“下端侧2D字幕再生类型”。
在文本字幕流的3D显示模式中,容许1plane+Offset模式、1plane+Zero Offset模式、上端侧2D字幕再生模式、下端侧2D字幕再生模式这四个输出模式。在文本字幕流中容许1plane+Zero Offset模式的只是弹出菜单为开启的情况。
在IG流的3D显示模式中,容许B-D呈现模式、1plane+Offset模式、1plane+Zero Offset模式这三个输出模式。在IG流中容许1plane+Zero Offset模式的只是弹出菜单为开启的情况。在以后的说明中,只要没有特别说明,就设为在3D输出模式执行时不能使用画中画。这是因为,画中画及3D输出模式都需要两个用于保存非压缩的图片数据的视频平面。此外,只要没有特别说明,就设为在3D输出模式中也不能使用声音混合。
接着,对主TS及副TS的内部结构进行说明。图6表示主TS及副TS的内部结构。
图6(a)表示主TS的内部结构。主TS由以下的源包构成。
具有0x0100的包ID的源包构成Program_Map_Table,具有0x1001的包ID的TS包构成PCR。
具有0x1011的包ID的源包列构成主要视频流。
到具有从0x1200到0x121F的包ID的源包列为止,构成32条2D PG流。
到具有从0x1400到0x141F的包ID的源包列为止,构成32条2D IG流。
从具有0x1100的包识别符的源包列到具有0x111F的包识别符的源包列构成主要音频流。
通过将这些源包的包识别符指示给多路分离部,能够将多路复用在主TS中的多个ES中的想要的ES分离而提供给解码器。
图6(b)表示副TS的内部结构。副TS由以下的源包构成。
具有0x1012的包识别符的源包列构成从属视野视频流。
从具有0x1220的包识别符的源包列到具有0x123F的包ID的源包列构成32条左眼PG流。
从具有0x1240的包识别符的源包列到具有0x125F的包识别符的源包列构成32条右眼PG流。
从具有0x1420的包识别符的源包列到具有0x143F的包ID的源包列构成32条左眼用IG流。
从具有0x1440的包识别符的源包列到具有0x145F的包识别符的源包列构成32条右眼用IG流。
以上是对流文件的说明。接着,对播放列表信息的详细情况进行说明。
为了定义上述那样的多路径而具有图7那样的内部结构。图7表示播放列表信息的内部结构。如图7(a)所示,播放列表信息包括“主路径信息”、“副路径信息”、“播放列表标记信息”、“扩展数据”。以下,对这些构成单元进行说明。
1)主路径信息由1个以上的主要的再生区间信息构成。图7(b)是表示主路径信息及副路径信息的内部结构的图,如本图所示,主路径信息由1个以上的主要的再生区间信息构成。副路径信息由1个以上的从属的再生区间信息构成。
主要的再生区间信息称作播放项目信息,是通过将TS的再生时间轴中的、作为In_Time的时刻和作为Out_Time的时刻的组定义一个以上来定义逻辑的再生区间的信息。在再生装置中,包括保存当前的播放项目的号码的播放项目号码寄存器,多个播放列表信息中的、保存在该播放项目号码寄存器中的播放列表信息为当前的再生对象。
图7(c)表示播放项目信息的内部结构。如本图所示,包括“流参照信息”、“进入时间退出时间信息”、“连接状态信息”、“基本流选择表”。
流参照信息包括表示将构成播放项目的传输流作为“AV片断”管理的流信息文件的“流信息文件名信息(clip_information_file_name)”、表示该TS的编码方式的“片断编码方式识别符(Clip_codec_indentifier)”、表示在该TS的STC序列中设定了进入时间及退出时间的STC序列是哪个的“STC识别符参照(STC_ID_referrence)”。
以上是对播放项目信息的说明。
2)从属的再生区间信息称作副路径信息,由多个副播放项目信息构成。图7(d)表示副播放项目的内部结构。如本图所示,副播放项目信息是通过在STC序列的时间轴上规定进入时间和退出时间的组、来定义构成副路径的再生区间的信息,包括“流参照信息”、“进入时间退出时间信息”、“同步播放项目参照”、“同步开始时刻信息”。
“流参照信息”与播放项目信息同样,包括“流信息文件名信息”、“片断编码方式识别符”、“STC识别符参照”。
“进入时间退出时间信息(SubPlayItem_In_Time、SubPlayItem_Out_Time)”表示STC序列时间轴上的副播放项目的起点、以及STC序列时间轴上的副播放项目的终点。
“同步播放项目参照(Sync_PlayItem_Id)”是唯一地指定播放项目中的、应与本副播放项目同步的播放项目的信息。副播放项目进入时间存在于由该同步播放项目参照符指定的播放项目的再生时间轴上。
“同步开始时刻信息(Sync_Start_PTS_of_PlayItem)”表示由同步播放项目参照符指定的播放项目的STC序列的时间轴中的、由副播放项目进入时间指定的副播放项目的起点被映射到哪个时刻。
3)播放列表标记信息是定义再生区间固有的标记点的信息,包括表示再生区间的参照符、表示在数字流的时间轴中标记点处于何处的时间戳、以及表示标记点的属性的属性信息,
上述属性信息表示由播放列表标记信息定义的标记点是链接点还是入口标记。
链接点是能够通过链接命令进行链接、不作为由用户进行章节跳过操作的情况下的选择对象的标记点。
入口标记是能够通过链接命令进行链接、并且作为由用户进行章节跳过操作的情况下的选择对象的标记点。
装入到IG流的按钮信息内的链接命令以经由播放列表标记信息的间接参照的形式指定起点定位位置。
<基本流选择表(STreamNumber_table)>
上述基本流选择表是在构成播放列表的多个播放项目中的、包含有该基本流选择表的播放项目成为当前播放项目时,按照多个流类别规定许可多路复用在由多路径的主路径参照的AV片断中的ES、以及多路复用在由多路径的副路径参照的AV片断中的ES中的哪个的再生的表。这里的流类别,是指画中画中的主要视频流、画中画中的次要视频流、声音混合中的主要音频流、声音混合中的次要音频流、PG_文本字幕流、IG流等类别,基本流选择表能够按照这些流类别登录应许可再生的流。具体而言,基本流选择表由流登录的排列构成。这里所谓流登录,是当基本流选择表归属的播放项目成为当前播放项目时、将应许可再生的ES是怎样的流与该流号码建立对应而表示,流登录为将流入口及流属性的组合与逻辑的流号码建立对应的数据构造。
流登录中的流号码用1、2、3那样的整数值表现,流号码的最大数为对应的流类别的流条数。
在再生装置中,按照该流类别而存在流号码寄存器,由保存在这里的流号码指示的ES为作为当前再生对象的ES、即当前流。
在该流入口内,记述有应再生的ES的包识别符。由于在流入口内能够记述应再生的ES的包识别符,所以将流登录中的流号码保存到再生装置的流号码寄存器中,使再生装置基于流登录中的流入口内的包识别符由再生装置的PID过滤器执行包过滤。通过这样,将在基本流选择表中被许可再生的ES的TS包输出给解码器,进行ES的再生。
基本流选择表中的这些流登录按照流号码的顺序排列,基于流号码的顺序的流登录的位次在满足“再生装置能够再生”、“流的语言属性与再生装置的语言设定一致”的条件的流存在多个的情况下,通过流登录列中的流号码的位次决定作为选择对象的流。
通过这样,在基本流选择表中的流登录之中存在再生装置不能再生的流的情况下,将该流从再生中除外,此外,在满足“再生装置能够再生”、“流的语言属性与再生装置的语言设定一致”的条件的流存在多个的情况下,编辑者能够对再生装置传达应将它们中的哪个优先地选择的方针。
将是否存在满足“再生装置能够再生”、“流的语言属性与再生装置的语言设定一致”的条件的流的判断、以及选择满足“能够再生”、“流的语言属性与再生装置的语言设定一致”的条件的流的哪个的选择次序称作流选择过程。流选择过程在当前播放项目切换为新的播放项目时、此外在从用户请求了流切换时执行。
将在当前播放项目切换为新的播放项目等、发生再生装置的状态变化时进行上述那样的判断及选择来将流号码设定到再生装置的流号码寄存器中的一系列的次序称作“在状态变化时应执行的过程”。由于流号码寄存器按照流类别而存在,所以上述过程按照流类别执行。
将在由用户进行了流切换请求的情况下、进行上述那样的判断及选择来将流号码设定到再生装置的流号码寄存器中的一系列的次序称作“请求了流变化时的过程”。
将在装填了盘时、将流号码寄存器设定为流登录列中的初始值的步骤称作“初始化”。
基本流选择表中的流登录列由于对由副播放项目信息指定的流、以及由播放项目信息指定的流一律赋予优先顺序,所以即使是不与视频流多路复用的流,也只要由副播放项目信息指定,就成为在应与视频流同步再生的流的选择时的选择对象。
并且,在再生装置能够将由副播放项目信息指定的流再生、而且由副播放项目信息指定的流的优先顺序比与视频流多路复用的图形流的优先顺序高的情况下,能够代替与视频流多路复用的流而将由副播放项目信息指定的流提供给再生。
说明基本流选择表中的流号码的用途。记载在基本流选择表中的流号码可以用于设置流命令的操作数。
所谓设置流命令,是将由操作数指定的流号码作为当前流号码设定到流号码寄存器中来对再生装置命令当前流的切换的命令,在基于命令的程序使再生装置执行流的切换时使用。
此外,也可以用于流改变UO的自变量或设置流API的自变量。所谓流改变UO,是将由自变量指定的流号码作为当前流号码设定到流号码寄存器中来对再生装置命令当前流的切换的用户操作事件。
所谓设置流API,是将由自变量指定的流号码作为当前流号码设定到流号码寄存器中来对再生装置命令当前流的切换的API,在基于面向对象的编程语言的程序中使再生装置执行流切换时使用。
图8表示基本流选择表的一例。图8(a)表示在流类别中存在主要视频流、次要视频流、PG流、IG流、次要视频流、次要音频流等类别的情况下、设在基本流选择表中的多个流登录列。图8(b)表示由基本流选择表从主TS、副TS分离了怎样的ES。该图左侧表示主TS、副TS,正中间表示基本流选择表和多路分离部。右侧表示基于基本流选择表分离的主要视频流、主要音频流、PG流、IG流、次要视频流、次要音频流。
接着,对扩展数据的详细情况进行说明。
在播放列表信息参照MVC视频流的情况下,必须将扩展流选择表保存到播放列表信息文件的扩展数据的数据块中。
在播放列表信息参照盘上的MVC视频流的情况下,必须将副路径信息的扩展信息(副路径块扩展)保存到播放列表信息文件中的扩展数据的数据块中。
2D再生装置在遇到播放列表文件中的扩展数据时,必须忽视未知的扩展数据。
<扩展流选择表(STreamNumber_table_StereoScopic(SS))>
扩展流选择表是仅在立体视输出模式中与流选择表一起使用的流选择表,定义在播放项目的再生、及与其关联的副路径被再生时能够选择的ES。
上述扩展流选择表表示应仅在立体视输出模式中许可再生的ES,包括流登录列。流登录列中的各个流登录信息包括流号码、对应于该流号码的流入口、以及流属性。由于扩展流选择表意味着立体视输出模式固有的扩展,所以将对各播放项目信息关联了扩展流选择表(STN_table_SS)后的播放列表称作“3D播放列表”。
扩展流选择表中的流入口表示在再生装置被设定为立体视输出模式的情况下、当对应的流号码被设定到再生装置的流号码寄存器中时再生装置应在多路分离中使用的包识别符。这里,与基本流选择表的差异是,扩展流选择表中的流登录列不成为流选择过程的对象。即,基本流选择表的流登录列中的流登录信息被解释为各个ES的优先顺序,某个流登录信息内的流号码被写入到流号码寄存器中。但是,扩展流选择表中的流登录列不成为流选择过程的对象,扩展流选择表中的流登录信息仅在某个流号码被保存到流号码寄存器中时用于将对应于该流号码的流入口及流属性取出的目的。
在从2D输出模式向3D输出模式切换输出模式时,因为作为对象的流选择表从基本流选择表切换为扩展流选择表,所以如果执行了流选择过程,则不能维持流号码的同一性,甚至有可能丧失语言属性的同一性。
为了在从2D输出模式向3D输出模式的切换时维持以语言属性为代表的流属性的同一性,也将扩展流选择表的用途局限于上述用途。
说明扩展流选择表中的流号码的用途。记载在扩展流选择表中的流号码可以在设置流命令及设置立体视流命令的操作数中使用。
所谓设置立体视流命令,是将由操作数指定的用于立体视的流号码作为当前流号码设定到流号码寄存器中来对再生装置命令当前流的切换的命令,将基于命令的程序在使再生装置执行向立体视流的切换时使用。
此外,也能够在流改变UO的自变量及设置流API的自变量中使用。
上述扩展流选择表由从属视野视频流的流登录列、PG流的流登录列、IG流的流登录列构成。
扩展流选择表中的流登录列被结合到流选择表中的相同的流类别的流登录列中。该结合通过在流选择表的主要视频流的流登录列中结合扩展流选择表的从属视野视频流的流登录列、在流选择表的PG流的流登录列中结合扩展流选择表的PG流的流登录列、在IG流的流登录列中结合扩展流选择表的IG流的流登录列来进行。
如果进行了上述的结合,则对结合后的流选择表中的、基本流选择表的流登录列执行上述过程。
图9表示扩展流选择表的内部结构。扩展流选择表由扩展流选择表的整体长(length)、弹出期间固定偏移(Fixed_offset_during_Popup)、对应于各播放项目的各自的流类别的流登录列构成。
这里,在存在播放项目#1~#N这N个播放项目的情况下,将分别对应于播放项目#1~#N的流登录列设置在扩展流选择表中。对应于各播放项目的流登录列是从属视野流登录列、PG流登录列、IG流登录列。
“Fixed_offset_during_Popup”是弹出期间固定偏移,在IG流的弹出菜单被设定为开启的情况下,控制视频及PG_文本字幕流的再生类型。该“Fixed_offset_during_Popup”场在IG流中的user_interface_model场被设定为开启、即弹出菜单的用户界面被设定为开启的情况下被设定为开启。在IG流中的user_interface_model场被设定为关闭、即被设定为Always ON(总是开启)的用户界面的情况下被设定为关闭。
在弹出期间固定偏移“=0”、即在IG流的用户界面中弹出菜单被设定为关闭的情况下,视频流为B-D呈现模式。立体视PG流为立体视再生类型。在1plane+Offset模式的再生时,PG_文本字幕流为1plane+Offset模式。在弹出期间固定偏移“1”、即IG流的弹出菜单是开启的情况下,视频流为B-B呈现模式。立体视PG流为1plane+Offset模式,将1plane+Offset用的PG流作为1plane+Zero offset再生类型再生。
在1plane+Offset模式中,PG_文本字幕流为1plane+Zero offset。
图10表示扩展流选择表中的流登录列。
图10(a)表示从属视野视频流的流登录列的内部结构。从属视野流的流登录列由v(x)个SS_dependet_view_block构成。这里,所谓v(x),是在播放项目信息#x的基本流选择表中被许可再生的主要视频流的条数。图中的引出线将从属视野流的流登录列的内部结构特写表示。如引出线所示,SS_dependet_view_block由流号码、流入口、流属性、以及偏移序列数(number_of_offset_sequence)构成。
流入口包括指定从属视野视频流的再生路径归属的副路径的副路径识别符参照(ref_to_Subpath_id)、指定保存有从属视野视频流的流文件的流文件参照(ref_to_subClip_entry_id)、以及该流文件中的从属视野视频流的包识别符(ref_to_stream_PID_subclip)。
“流属性”包括从属视野视频流的语言属性。
“偏移序列数(number_of_offset_sequence)”表示存在于从属视野视频流内的偏移的条数。
“偏移序列条数信息(图中的number_of_offset_sequence)”表示从属视野流中的偏移序列的个数。
扩展流选择表中的该值与包含在从属视野流中的偏移序列的个数相同。
在图10(a)中,从属视野视频流的流登录列在数据构造上设有关于多个从属视野视频流的流登录信息。通常,由于基础视野视频流的条数是1,所以从属视野视频流中的流登录信息的个数也为唯一的。
图10(b)表示PG流的流登录列的内部结构。PG流的流登录列由P(x)个流登录信息构成。这里,所谓P(x),是在播放项目信息#x的基本流选择表中被许可再生的PG流的条数。
图中的引出线将流登录列的共通的内部结构特写表示。
“PG_文本字幕偏移序列ID参照信息(PGtextST_offset_sequence_id_ref)”是PG_文本字幕流偏移序列参照信息,指示关于1plane+Offset模式的PG_文本字幕流的偏移序列。
偏移元数据由从属视野视频流的访问单元供给。再生装置必须将由该场提供的偏移用在1plane+Offset模式类型的呈现图形(PG)平面中。
在该场是不定值(FF)的情况下,再生装置不对PG流平面存储器使用该偏移。
“立体视PG存在与否标志(is_SS_PG)”指示PG流中的左眼用IG的流入口、右眼用IG的流入口、流属性的有效性、以及存在。在不存在立体视PG流中的构造的情况下,必须将该场设定为0。在存在立体视PG流中的构造的情况下,必须将该场设定为1。
“左眼流入口”包括指定左眼PG流的再生路径归属的副路径的副路径识别符参照(ref_to_Subpath_id)、指定保存有左眼PG流的流文件的流文件参照(ref_to_subClip_entry_id)、以及该流文件中的左眼PG流的包识别符(ref_to_stream_PID_subclip)。
“右眼流入口”包括指定右眼PG流的再生路径归属的副路径的副路径识别符参照(ref_to_Subpath_id)、指定保持有右眼PG流的流文件的流文件参照(ref_to_subClip_entry_id)、以及该流文件中的右眼PG流的包识别符(ref_to_stream_PID_subclip)。在由扩展流选择表的流登录信息中的stream_entry_for_depentdent_view参照的流文件与由基本流选择表的流入口参照的流文件不同的情况下,必须将保存有右眼PG流的流文件重新读出。
“共通流属性”包括左眼PG流及从属PG流的语言属性。
“立体视PG_文本字幕偏移序列参照信息(SS_PG_textST_offset_sequence_id_ref)”是用于参照PG_文本字幕流用的偏移序列的参照信息,指示用于PG_文本字幕流的偏移序列。再生装置必须将由该场提供的偏移用于PG平面中。
在该场是不定值(FF)的情况下,再生装置不对PG流平面存储器使用该偏移。
“视频移位模式(video_shift_mode)”是规定字幕的显示区域的确保处理的区域确保标志,指示是否将字幕的显示区域确保在视频平面的上端或下端、以及字幕的显示区域是视频平面的上端及下端的哪一个。在不将字幕的显示区域确保在视频平面的上端或下端的情况下,将视频移位模式设定为“Keep(保持)”。在将video_shift_mode设定为Keep的情况下,如图11所示,不使保存在视频平面存储器中的图片数据沿上下方向移位而原样与保存在PG流平面存储器中的字幕合成。
如果PG_文本字幕流的字幕显示区域是视频平面的下端,则将视频移位模式设定为“Up(上)”,如果PG_文本字幕流的字幕显示区域是视频平面的上端,则将视频移位模式设定为“Down(下)”。
video_shift_mode被设定为Up的PG流由于通过解码得到的字幕存在于画面的下端,所以如图12(a)所示,通过使保存在视频平面存储器中的图片数据向上方移位、与保存在PG流平面存储器中的字幕合成,能够防止字幕嵌入显示到立体视影像中。video_shift_mode被设定为Down的PG流由于通过解码得到的字幕存在于画面的上端,所以如图12(b)所示,通过使保存在视频平面存储器中的图片数据向下方移位、与保存在PG流平面存储器中的字幕合成,能够防止字幕嵌入显示到立体视影像中。
图10(c)表示IG流的流登录列的内部结构。IG流的流登录列由I (x)个流登录信息构成。这里,所谓I(x),是在播放项目信息#x的基本流选择表中被许可再生的IG流的条数。图中的引出线将流登录列的共通的内部结构特写表示。
“IG偏移序列ID参照信息(IG_offset_sequence_id_ref)”是交互图形偏移序列参照,是1plane+Offset模式的IG流的序列ID的参照。该值指示对偏移序列定义的偏移序列ID。如上所述,将偏移元数据通过从属视野视频流供给。再生装置必须将由该场提供的偏移用在1plane+Offset模式类型的IG流中。
在该场是不定值(FF)的情况下,再生装置不对交互图形平面使用该偏移。
“B-B模式时的偏移方向信息(IG_Plane_offset_direction_during_BB_video)”在B-B呈现模式中是弹出菜单的用户界面,在将IG流再生的期间中,指示1plane+Offset模式的交互图形(IG)平面中的偏移方向。
用值“0”进行前设定,即,平面存储器存在于电视机与视听者之间,在左视野期间中将平面向右方向、在右视野期间中将平面向左方向移位。
用值“=1”进行后设定,即,平面存储器存在于电视机或屏幕的背后,将左平面向左方向、将右平面向右方向移位。
“B-B模式时的偏移值信息(IG_Plane_offset_value_during_BB_video)”在B-B呈现模式中通过弹出菜单的用户界面再生IG流的期间中,以像素单位指示1plane+Offset模式下的IG平面的偏移值。
“立体视IG存在与否标志(is_SS_IG)”指示IG流中的左眼用IG的流入口、右眼用IG的流入口、流属性的有效性、以及存在。在不存在立体视IG流的数据构造的情况下,必须将该场设定为值0。在被许可再生的IG流是立体视IG流的情况下,必须将该场设定为值1。
“左眼流入口”包括指定左眼用IG流的再生路径归属的副路径的副路径识别符参照(ref_to_Subpath_id)、指定保存有左眼用IG流的流文件的流文件参照(ref_to_subClip_entry_id)、以及该流文件中的左眼用IG流的包识别符(ref_to_stream_PID_subclip)。
“右眼流入口”包括指定右眼用IG流的再生路径归属的副路径的副路径识别符参照(ref_to_Subpath_id)、指定保存有右眼用IG流的流文件的流文件参照(ref_to_subClip_entry_id)、以及该流文件中的右眼用IG流的包识别符(ref_to_stream_PID_subclip)。在由扩展流选择表的流登录信息中的stream_entry_for_depentdent_view参照的流文件与由基本流选择表的流入口参照的流文件不同的情况下,必须将保存有右眼用IG流的流文件重新读出。
“共通流属性”包括左眼用IG流及右眼IG流的语言属性。
“立体视IG偏移序列参照信息”是用于立体视类型的IG流的偏移序列ID的参照,指示从属视野视频流的偏移元数据中的偏移序列。再生装置必须将由该场提供的偏移应用到立体视类型的IG平面中。
在该场是不定值(FF)的情况下,再生装置不对IG平面使用该偏移。
由于PG_文本字幕流用的偏移序列的参照信息及IG流用的偏移序列的参照信息与流号码建立对应而记载在流登录信息中,所以在装置状态变化时及流变更请求发生时执行流选择过程,在对应于装置侧的语言设定的流号码被设定在流号码寄存器中的情况下,由对应于该新的流号码的参照指示的偏移序列被从视频解码器供给到移位部中。通过这样,将对应于再生装置中的语言设定的、最优的偏移序列供给到移位部中,所以能够使1plane+Offset模式中的图形的进深成为对应于再生装置的语言设定的最优的进深。
对扩展流选择表中的制限进行说明。
立体视从属视野块的流入口在播放列表中不允许变化。
如果立体视从属视野块的流入口的类型是由副路径使用的ES类型(流类型=2),则副路径ID参照和副片断入口ID参照(ref_to_subclip_entry_id)在播放列表中不变化。
作为流入口、用于基础视野的流入口、用于从属视野的流入口的类型而许可的ES的类型只是由播放项目使用的AV片断内的ES(流类型“=1”)、由副路径使用的AV片断内的ES(流类型=2)这两个类型。
立体视从属视野块中的流属性的流编码方式被设定为“0x20”。
图14表示由基本流选择表、扩展流选择表从主TS、副TS多路分离出怎样的ES。
在本图的正中间表示多路分离部,在其上侧表示基本流选择表和扩展流选择表的组。在左侧表示主TS、副TS,在右侧表示被多路分离的基础视野视频流、从属视野视频流、左眼PG流、右眼PG流、左眼用IG流、右眼用IG流、主要音频流。
图15表示2D输出模式、3D输出模式中的流号码的分配变化。
纵栏表示主要视频流#1这样的流号码、主要音频流#1、#2这样的流号码、PG_文本字幕流#1、#2、#3这样的流号码、IG流#1、#2这样的流号码。
仅被左侧的虚线框包围的ES是仅在2D输出模式中作为多路分离的对象的ES,表示由流选择表(STN_table)许可再生的ES。
被右侧的虚线框包围的ES是在3D输出模式中作为多路分离的对象的ES,表示由扩展流选择表(STN_table_SS)许可再生的ES。
被左侧及右侧的虚线框的两者包围的ES表示在3D输出模式中作为多路分离的对象的ES。
如果仅着眼于视频流#1这样的流号码,则由于MPEG4-MVC基础视野视频流被左右两者的虚线框包围,所以可知在2D输出模式及3D输出模式两者中作为再生对象。但是,由于MPEG4-MVC从属视野视频流仅被右侧的虚线框包围,所以可知仅在3D输出模式中被再生。
如果着眼于主要音频流#1、#2这样的流号码,则由于音频流被左右两者的虚线框包围,所以可知在2D输出模式及3D输出模式两者中作为再生对象。
如果着眼于PG_文本字幕流,则PG流#1、PG流#2是2D PG流,被左右的虚线框包围。由此可知PG流#1、PG流#2在2D输出模式、3D输出模式两者中作为再生对象。另一方面,由于左眼PG流、右眼PG流仅被右侧的虚线框包围,所以可知仅在3D输出模式中被再生。
此外,如果着眼于IG流,则IG流#1、IG流#2是2D IG流,被左右的虚线框包围。由此可知IG流#1、IG流#2仅在2D输出模式中作为再生对象。另一方面,由于左眼IG流、右眼IG流仅被右侧的虚线框包围,所以可知仅在3D输出模式中被再生。
通过以上可知,在3D输出模式中,在视频流这样的流类别中,添加了从属视野视频流作为再生对象。
此外可知,在3D输出模式中,在PG流这样的流类别中,再生对象被追加了左眼PG流及右眼PG流,在3D输出模式中,在IG流这样的流类别中追加了左眼IG流及右眼IG流。将左眼PG流及右眼PG流作为再生对象添加是为了在3D输出模式中使用左眼PG流及右眼PG流实现立体视再生。将左眼IG流及右眼IG流作为再生对象添加是为了在3D输出模式中使用左眼IG流及右眼IG流实现立体视再生。
以上是对记录媒体的说明。接着,对再生装置的详细情况进行说明。
图16表示再生装置的内部结构。如本图所示,再生装置由读出部201、存储器202、寄存器组203、解码器204、多路分离部205、平面存储器组206、移位部207、层合成部208、收发部209、再生控制部210构成。本图的内部结构只不过是记述了用于实施具备技术方案的再生装置的所需最低限度的构成单元。关于更详细的内部结构,在后段的实施方式中进行说明。
读出部201从记录媒体读出索引表、程序文件、播放列表信息文件、流信息文件、流文件。读出部201在立体视交错流文件的读出时,进行使用3D流信息文件中的片断基础信息内的区段开始点信息、以及片断从属信息内的区段开始点信息来将立体视交错流文件分割为对应于主TS的ATC序列1、以及对应于副TS的ATC序列2并将ATC序列1和ATC序列2保存到各自的读缓冲器中的处理。该分割通过反复进行从立体视交错流文件将源包取出片断从属信息中的区段开始点信息所示的源包号码的包数并追加到ATC序列1中的处理、以及从立体视交错流文件将源包取出片断基础信息中的区段开始点信息所示的源包号码的包数并追加到ATC序列2中的处理来进行。
存储器202将通过将包含在播放列表信息中的基本流选择表与扩展流选择表结合而得到的结合流登录列保存。
寄存器组203由用于再生装置进行动作的各种寄存器构成。
各流类别的解码器204由视频解码器211、PG解码器212、IG解码器213、音频解码器214构成。
多路分离部205具备将源包变换为TS包的源包解包器、执行包过滤的PID过滤器,将具有记述在3D播放列表信息的基本流选择表的流入口中的包识别符的源包变换为TS包后输出给解码器,将具有记述在3D播放列表信息的立体视流选择表的流入口中的包识别符的源包变换为TS包后输出给解码器。具有基本流选择表的多个入口及扩展流选择表的多个入口中的哪个的包识别符根据播放器状态寄存器中的流号码寄存器的设定。所谓流号码寄存器,是保存有当前的流号码的寄存器。
平面存储器组206由多个平面存储器构成。
这些平面存储器构成了层模型,将各个平面存储器的保存内容提供给层合成。平面存储器组包括左眼用平面存储器、右眼用平面存储器,将通过将各个访问单元的基础视野的视野组件解码而得到的非压缩的图片数据、通过将从属视野的视野组件解码而得到的非压缩的图片数据写入到这些左眼用平面存储器、右眼用平面存储器中。该写入在各个访问单元的呈现时间戳所示的再生开始时刻到来时进行。
将解码后的图片数据写入到左眼用的平面存储器、右眼用平面存储器中的哪个中根据播放列表信息的基础视野指示符。如果基础视野指示符指定基础视野视频流为“左眼用”,则将作为基础视野视频流的视野组件的图片数据写入到左眼用平面存储器中,将作为从属视野视频流的视野组件的图片数据写入到右眼用的平面存储器中。
如果基础视野指示符指定基础视野视频流为“右眼用”,则将作为基础视野视频流的视野组件的图片数据写入到右眼用平面存储器中,将作为从属视野视频流的视野组件的图片数据写入到左眼用的平面存储器中。并且,将这些视野组件依次输出给显示装置。具体而言,在一个帧期间中,将左眼用平面存储器的图片数据和右眼用平面存储器的图片数据同时输出。
移位部207执行像素的坐标的移位。
层合成部208进行多个平面存储器的层合成。
收发部209在与家庭影院系统中的其他设备经由接口进行了连接时,经过协商阶段转移到数据传送阶段而进行数据传送。
该协商阶段掌握对方侧设备的能力(包括解码能力、再生能力、显示频率)并设定到播放器设定寄存器中来决定用于以后的传送的传送方式,包括互相确认相互的装置的正当性的相互认证阶段。经过该协商阶段,将进行了层合成的图片数据的一行量的非压缩·平文形式的像素数据按照显示装置的水平同步期间向显示装置以较高的转送速率转送。另一方面,在显示装置的水平回扫期间及垂直回扫期间中,对与再生装置连接的其他装置(不仅是显示装置,还包括放大器、扬声器)转送非压缩·平文形式的音频数据。通过这样,显示装置、放大器、扬声器等设备能够获取非压缩·平文形式的图片数据、非压缩·平文形式的音频数据,能够实现再生输出。此外,在对方侧设备中存在解码能力的情况下,可以进行视频流、音频流的透传传送。在透传传送中,能够将视频流、音频流以压缩·加密形式原样传送。
再生控制部210执行从视频流的时间轴上的任意的时刻的随机访问。具体而言,在被命令了从视频流的时间轴上的任意的时刻的再生的情况下,使用3D流信息文件中的基本入口映射和扩展入口映射,搜索对应于该任意的时刻的访问单元的源包号码。该访问单元是包括基础视野视频流的视野组件及从属视野视频流的视野组件的组的单元,通过上述搜索,确定保存有关于该访问单元的访问单元分界符的源包的源包号码。通过执行从该源包号码起的读出及解码而进行随机访问。在3D播放列表再生时,通过使用由3D播放列表信息的主路径信息规定的进入时间、退出时间、以及由副路径信息规定的进入时间、退出时间对主TS、副TS分别执行随机访问,开始播放列表再生。
视频解码器211是解码器组204的解码器中的代表性的解码器,在将构成从属视野视频流的视野组件预装载后,将位于基础视野视频流内的封闭GOP的开头的意味着解码器刷新的图片类型(IDR类型)的视野组件解码。在该解码时,将编解码数据缓冲器、解码数据缓冲器全部清空。在这样将IDR类型的视野组件解码后,将基于与该视野组件的相关性压缩编码的基础视野视频流的后续的视野组件、以及从属视野视频流的视野组件解码。如果通过解码得到关于该视野组件的非压缩的图片数据,则保存到解码数据缓冲器中,将该图片数据作为参照图片。
使用该参照图片,对基础视野视频流的后续的视野组件、以及从属视野视频流的视野组件进行运动补偿。如果通过运动补偿对基础视野视频流的后续的视野组件及从属视野视频流的视野组件得到非压缩的图片数据,则将它们保存到解码数据缓冲器中而作为参照图片。以上的解码在各个访问单元的解码时间戳所示的解码开始时刻到来时进行。
以下,对PG解码器212、文本字幕解码器213、IG解码器214、以及作为这些解码器的解码的对象的流的内部结构进行说明。
PG流的解码器的结构在采用1plane+Offset方式的情况下为1解码器+1平面结构。在采用3D-LR方式的情况下为2解码器+2平面结构。
同样,IG流的解码器结构在采用3D-LR方式的情况下为2解码器+2平面结构。另一方面,在采用1plane+Offset方式的情况下为1解码器+1平面结构。
在文本字幕流的解码器结构中,不存在3D-LR方式,在是1plane+Offset模式的情况下为1解码器+1平面结构。
首先,对PG流的内部结构、以及将PG流解码的PG解码器的内部结构进行说明。
左眼用PG流、右眼用PG流都包括多个显示集。所谓显示集,是构成一个画面显示的功能段的集合。功能段被保存在约2K字节的PES包的有效负载中而对解码器供给,是使用DTS、PTS进行再生控制的处理单位。
在显示集中有以下的类型。
A、篇章开始的显示集
所谓篇章开始的显示集,是将图形解码器中的组成缓冲器、代码数据缓冲器、图形平面复位来开始存储器管理的功能段的集合,包括全部画面构成所需要的功能段。
B、通常情况的显示集
所谓通常情况的显示集,是在原样继续图形解码器中的组成缓冲器、代码数据缓冲器、图形平面的存储器管理的状态下进行画面构成的显示集,包括作为与先行的显示集的差的功能段。
C、获取点的显示集
所谓获取点的显示集,是包括全部画面构成所需要的功能段的显示集,是不使图形解码器的组成缓冲器、代码数据缓冲器、图形平面的存储器管理复位的显示集。在该获取点的显示集中,也可以不存在与前面的显示集不同的内容的功能段。
D、篇章继续的显示集
所谓篇章继续的显示集,表示在许可PG流的再生的播放项目与其之前的播放项目的连接形态是伴随着突然中断的无缝连接(CC=5)的情况下、使再生装置中的组成缓冲器、代码数据缓冲器、对象缓冲器、图形平面中的存储器管理原样继续。此时,在对象缓冲器、图形平面上得到的图形对象不被丢弃而在对象缓冲器、图形平面上存续。
在左眼用和右眼用中,对于STC序列中的再生时间轴的同一时刻分配这些显示集的起点、终点。并且,在左眼用PG流和右眼用PG流中,存在于时间轴上的相同时刻的显示集的类型为相同。即,如果左眼用侧的显示集是篇章开始的显示集,则在STC序列的时间轴中相同时刻的右眼用侧的显示集为篇章开始的显示集。
此外,如果左眼用侧的显示集是获取点的显示集,则在STC序列的时间轴中相同时刻的右眼用侧的获取点的显示集也为篇章开始的显示集。
各显示集包括多个功能段。在该多个功能段中有以下的段。
(1)对象定义段
对象定义段是定义图形对象的功能段。图形定义段通过使用代码值和该代码值的游程长来定义图形对象。
(2)调色板定义段
调色板定义段包括各代码值与表示亮度、红色差·蓝色差的对应关系的调色板数据。在左眼用图形流的调色板定义段和右眼用图形流的调色板定义段中,将代码值与亮度及色差的对应关系设定为相同的内容。
(3)窗口定义段
窗口定义段是在用于将非压缩的图形对象展开到画面上的平面存储器中、定义称作窗口的矩形框的功能段。图形对象的描绘被限制在该平面存储器的内部中,在该窗口的外部不能进行图形对象的描绘。
由于将平面存储器的一部分指定为用于图形的显示的窗口,所以再生装置不需要进行平面整体的图形描绘。只要对某个有限的大小的窗口进行图形描绘就可以。由于能够省去显示用的平面中的、窗口以外的部分的描绘,所以再生装置侧的软件的负担显著变轻。
(4)画面构成段
画面构成段是规定使用图形对象的画面构成的功能段,包括对图形解码器的组成控制器的多个控制项目。画面构成段是规定图形流的显示集的详细情况、并且规定使用图形对象的画面构成的功能段。在该画面构成中,有Cut-In/Out、Fade-In/Out、Color Change、Scroll、Wipe-In/Out等,通过伴随着由画面构成段进行的画面构成,能够实现一边将某个字幕逐渐消除而一边显示下一字幕的显示效果。
(5)结束段
是位于属于1个显示集的多个功能段的最末尾的功能段。再生装置将从画面构成段到该结束段解释为构成1个显示集的功能段。
在PG流中,显示集的开始时刻由保存有画面构成段的PES包的DTS确定,显示集的结束时刻由保存有画面构成段的PES包的PTS确定。
左眼用图形流及右眼用图形流是打包基本流(PES),画面构成段保存在PES包中,保存有画面构成段的PES包的PTS表示何时执行通过画面构成段所属的显示集的显示。
保存有画面构成段的PES包的PTS的值在左眼用视频流和右眼用视频流中为相同的内容。
·PG解码器的解码器模组
PG解码器包括保存能够从PG流读出的功能段的“编解码数据缓冲器”、将画面构成段解码而得到图形对象的“流图形处理器”、将通过解码得到的图形对象保存的“对象缓冲器”、保存画面构成段的“组成缓冲器”、以及将保存在组成缓冲器中的画面构成段解读来基于这些画面构成段中的控制项目使用对象缓冲器中得到的图形对象在图形平面上进行画面构成的“组成控制器”。
在该图形平面的前段,存在用于调节构成功能段的TS包的输入速度的传输缓冲器。
在图形解码器的后段,存在图形平面、基于调色板定义段将构成保存在图形平面中的图形对象的像素代码变换为亮度·色差的CLUT部、以及用于平面移位的移位部。
PG流的流水线通过同时执行图形解码器将属于某个显示集的对象定义段解码并将图形对象写入到对象缓冲器中的处理、以及将通过将属于先行的显示集的对象定义段解码而得到的图形对象从对象缓冲器写入到平面存储器中的处理来进行。
图17表示PG解码器的内部结构。图17(a)是用于以1plane+Offset模式方式显示的解码器模组。图17(b)是显示LR方式的数据的情况下的解码器模组。
在本图中,对应于PG解码器的主体的部分被用黑框包围,对应于图形解码器后段的部分用单点划线包围。
在图17(a)中PG解码器为1解码器结构,图形平面也为1平面结构。但是,图形平面的输出被分别区分为左眼用、右眼用,对各个左眼用输出、右眼用输出附加了移位部。
在图17(b)中,存在两组传输缓冲器-图形解码器-图形平面-CLUT部,能够将左眼用流、右眼用流分别独立地处理。
偏移序列包含在右眼用视频流中,所以在平面偏移形式中,图形解码器为1解码器结构,将该1个图形解码器的输出切换为左眼用和右眼用。
PG解码器的2D/3D切换时的动作如以下这样。
1、在1plane+Offset模式与2D模式的相互切换时,无缝地进行切换。这通过将Offset无效化来进行。
2、在3D-LR模式和2D模式中,由于伴随着PID切换,所以一端字幕消失。这与流切换是相同的。
以上是对PG解码器的说明。接着,对文本字幕解码器的详细情况进行说明。
·文本字幕解码器的解码器模组
文本字幕流由多个字幕记述数据构成。
文本字幕解码器包括从字幕记述数据分离文本代码和控制信息的“字幕处理器”、将从字幕记述数据分离的文本代码保存的“管理信息缓冲器”、使用字体数据将管理信息缓冲器内的文本代码展开到位图中的“文本描绘器”、将通过展开得到的位图保存的“对象缓冲器”、以及使用从字幕记述数据分离后的控制信息来执行沿着时间轴的文本字幕再生的控制的“描绘控制部”。
在文本字幕解码器的前段,存在进行字体数据的预装载的“字体预装载缓冲器”、调节构成文本字幕流的TS包的输入速度的“TS缓冲器”、用于在播放项目的再生之前预装载文本字幕流的“字幕预装载缓冲器”。
在图形解码器的后段,存在“图形平面”、基于调色板定义段将构成保存在图形平面中的图形对象的像素代码变换为亮度·色差的“CLUT部”、以及用于平面移位的移位部。
图18表示文本字幕解码器的内部结构。图18(a)表示1plane+Offset模式下的文本字幕解码器的解码器模组,图18(b)表示3D-LR方式下的文本字幕解码器的解码器模组。在本图中,将对应于文本字幕解码器主体的部分用黑框包围,对应于文本字幕解码器后段的部分用单点划线包围。将处于文本字幕解码器前段的部分用虚线框包围。
在图18(a)中,图形平面的输出被分别区分为左眼用、右眼用,对各个左眼用输出、右眼用输出附加移位部。
在图18(b)中,存在左眼用的图形平面和右眼用的图形平面,将由文本字幕解码器展开的位图写入到这些各个图形平面中。
文本字幕流与PG流不同,不是将图形数据作为位图传送的,而通过将字体数据和字符码传送从而由绘制引擎生成字幕,因此通过1plane+Offset模式实现字幕的立体视。
以上是对文本字幕流及文本字幕解码器的说明。接着,对IG流的内部结构和IG解码器的结构进行说明。
·IG流
左眼用IG流、右眼用IG流都包括多个显示集,各显示集包括多个功能段。在显示集中,与PG流同样,存在篇章开始的显示集、通常情况的显示集、获取点的显示集、篇章继续的显示集。
在属于这些显示集的多个功能段中有以下的种类。
(1)对象定义段
该对象定义段与PG流的该段是相同的,但是IG流的图形对象定义页的进入效果、退出效果、按钮部件的通常状态、被选择状态、活动状态。对象定义段将定义按钮部件的相同的状态的段彼此、构成相同的效果影像的段彼此分组。将汇集了定义相同的状态的对象定义段的组称作图形数据集合。
(2)调色板定义段
调色板定义段与PG流的该段是相同的。
(3)对话控制段
对话控制段包括多个页信息,多个页信息是规定多页菜单的画面构成的信息,各页信息包括效果序列、多个按钮信息、以及调色板识别符的参照值。
按钮信息是通过将图形对象作为按钮部件的一个状态显示、在构成多页菜单的各页上实现对话性的画面构成的信息。
效果序列使用图形对象构成在对应于页信息的页的显示之前再生的进入效果、或者在该页的显示后再生的退出效果,包括效果信息。
效果信息是规定将进入效果或退出效果再生时的各个画面构成的信息,包括规定在由图形平面上的窗口定义段定义的窗口(部分区域)中应执行怎样的画面构成的画面构成对象、以及表示与该区域中的下个画面构成的时间间隔的效果期间信息。
效果序列中的画面构成对象规定与PG流的画面构成段同样的控制内容。对象定义段中的、定义在上述进入效果中使用的图形对象的段在图形数据列中配置在比定义在按钮部件中使用的图形对象的对象定义段靠前。
页信息中的各按钮信息是通过使图形对象作为按钮部件的一个状态显示而在构成多页菜单的各页上实现对话性的画面构成的信息。上述按钮信息包括设置按钮页命令,设置按钮页命令是当对应的按钮部件为活动状态时、使再生装置进行将首页以外的其他页设定为当前页的处理的命令。
在IG流的再生时,在想要使平面移位中的偏移按页变更的情况下,在按钮信息中装入变更偏移的导航命令,在对应的按钮信息中规定导航命令的自动激活。由此,能够自动地变更由IG流的流登录信息规定的偏移的值及方向。
(4)结束段
是位于属于1个显示集的多个功能段的最末尾的功能段。将从对话控制段到该结束段解释为是构成1个显示集的功能段。
在左眼用图形流和右眼用图形流中,在相同的对话控制段的控制项目中,有按钮接近信息、选择超时时间戳、用户超时延迟、组成超时信息。
1、按钮接近信息
按钮接近信息是在某个按钮成为被选择状态而有指示上下左右方向的某个的键操作的情况下、指示应将哪个按钮设为被选择状态的信息。
2、选择超时时间戳
选择超时时间戳表示用于将当前页中的按钮部件自动地激活、使再生装置执行设置按钮页命令的超时时间。
3、用户超时延迟
用户超时延迟表示用于使当前页回到首页、成为仅显示首页的状态的超时时间。
4、组成超时信息
组成超时信息表示使对话控制段进行的对话性的画面显示结束的时间。在IG流中,显示集的开始时刻由保存有对话控制段的PES包的DTS确定,显示集的结束时刻由对话控制段的组成超时时刻确定。在左眼用、右眼用中,将这些DTS和组成超时时刻设定为相同的时刻。
·IG解码器的解码器模组
IG解码器包括保存能够从IG流读出的功能段的“编解码数据缓冲器”、将画面构成段解码而得到图形对象的“流图形处理器”、将通过解码得到的图形对象保存的“对象缓冲器”、将画面构成段保存的“组成缓冲器”、以及将保存在组成缓冲器中的画面构成段解读并基于这些画面构成段中的控制项目来使用在对象缓冲器中得到的图形对象在图形平面上进行画面构成的“组成控制器”。
在该图形平面的前段,存在用于调节构成功能段的TS包的输入速度的“传输缓冲器”。
在图形解码器的后段,存在“图形平面”、基于调色板定义段将构成保存在图形平面中的图形对象的像素代码变换为亮度·色差的“CLUT部”、以及用于平面移位的“移位部”。
图19表示IG解码器的解码器模组。在本图中,将对应于IG解码器主体的部分用黑框包围,对应于图形解码器后段的部分用单点划线包围。将对应于IG解码器前段的部分用虚线框。图19(a)是用于将2D形式的IG流通过1plane+Offset模式方式以LR形式显示的解码器模组。图19(b)是IG流的解码器模组,是显示LR方式的数据的情况下的解码器模组。
在这些解码器中,为了从程序控制菜单图形的深度信息而包括用于将系统参数的值反映到偏移中的电路。
图19(b)是2解码器模组,能够通过命令进行offset值的变更。由此,能够将菜单的深度信息通过命令改变。Offset值也给出左右不同的值。另一方面,在Depth方式的情况下Offset为无效。
图形解码器中的组成控制器通过将存在于对话画面中的按钮部件中的作为当前按钮的按钮部件使用对应于被选择状态的图形数据集合的图形数据显示、将其以外的按钮部件使用对应于通常状态的图形数据集合显示,实现对话画面的初始显示。
在有指定上下左右的4方向的某个的用户操作的情况下,将位于当前按钮的周边的通常状态的按钮部件中的、存在于通过用户操作指定的方向上的按钮部件的号码写入到按钮号码寄存器中,通过该写入,使新成为当前按钮的按钮部件从通常状态变化为被选择状态。
在对话画面中有使成为被选择状态的按钮部件变化为活动状态的用户操作的情况下,通过将构成该活动状态的图形数据从图形数据集合中取出并提供给显示,实现对话画面的更新。
这些对话画面的更新由于需要在左眼用、右眼用中共通地执行,所以在2解码器模组中,优选的是使组成控制器在左眼用的图形解码器和右眼用的图形解码器中共通化。
在此情况下,通过使立体视IG流中的左眼用、右眼用的导航命令相同并使3D用和2D用的图形对象的按钮结构相同,实现相互切换。
在2D IG流和立体视IG流中,如果导航命令及按钮信息的属性、数量等相同,则能够仅对图形对象的显示进行切换。在从3D-LR模式向仅L图像的切换中,能够不进行再装载而切换,但显示位置有可能偏倚。优选的是,将采用哪个的标题制作者的意图用标志表示,再生装置基于该标志进行切换。
以下,总结模式切换时的注意事项。
·在1plane+Offset模式与2D模式的切换中不发生再装载。这是因为,不需要IG流的装载,仅为Offset的无效化。
·在3D-LR模式与2D模式的切换中,由于流不同,所以发生再装载。
以上是对IG流及IG解码器的说明。接着,对平面存储器的详细情况进行说明。
对1plane+Offset模式方式中的平面存储器结构进行说明。
平面存储器的层合成在平面存储器的层模型中,通过对层模型的层级间的全部的组合进行使保存在执行层级间的平面存储器中的像素数据的像素值叠加的处理来进行。通过合成部208的层合成在平面存储器的层模型中,通过对层模型的两个层级的全部的组合执行使保存在两个层级的平面存储器中的像素数据的像素值叠加的处理来进行。
层级间的叠加,是对位于某个层级中的平面存储器的行单位的像素值乘以透过率α作为权重、并且对位于其下位层级的平面存储器的行单位的像素值乘以(1-透过率α)的权重来将这些进行了亮度的加权后的像素值彼此相加、将相加结果作为该层级中的行单位的像素的像素值的处理。通过在位于层模型的相邻的两个层级中的行单位的像素彼此中反复执行该层级间的叠加,实现上述层合成。
平面存储器后段除了上述那样的CLUT部、移位部以外,还为了实现层合成而包括用于对各个像素值乘以等价率的乘法部、以及用于进行像素彼此的相加的加法部。
图20表示用于将解码器模组的输出合成并以3D-LR方式输出的电路结构。视频平面、PG平面、IG平面的层模型用黑框包围,对应于平面存储器后段的部分用单点划线包围。由本图可知,上述那样的层模型存在两组。此外,可知对应于平面存储器后段的部位也存在两组。
通过层模型、平面存储器后段存在两组,在3D-LR方式的平面存储器结构中,视频平面、PG平面、IG平面分别被区分为左眼用和右眼用,将这些平面存储器的输出和层合成分别对左眼用、右眼用执行。
图21表示用于将这些解码器模组的输出合成并以1plane+Offset模式方式输出的电路结构。
左眼视频平面、右眼视频平面、PG平面、IG平面的层模型用黑框包围,对应于平面存储器后段的部分用单点划线包围。由本图可知,上述那样的层模型仅存在1组。此外,对应于平面存储器后段的部位存在两组。
在1plane+Offset模式方式中,将视频平面准备左眼用和右眼用的视频平面。关于PG平面、IG平面,不分别区分为左眼用、右眼用,而仅存在左眼用、右眼用共通的1个的平面存储器。并且,对这些左眼用输出、右眼用输出分别进行上述那样的层合成。
图22表示用于将解码器模组的输出合成并以上端侧2D字幕再生模式方式及下端侧2D字幕再生模式方式输出的电路结构。
在上端侧2D字幕再生模式方式及下端侧2D字幕再生模式方式中,将视频平面准备左眼用、以及右眼用的视频平面。关于PG平面、IG平面,不分别区分为左眼用、右眼用,而仅存在左眼用、右眼用共通的1个的平面存储器。并且,对这些左眼用输出、右眼用各自的视频平面,在根据表示后述的再生装置的视频移位模式的寄存器(PSR32)的设定而将像素向上方或下方移位131像素后,将PG平面的左眼用输出、右眼用输出分别进行层合成。
再生装置需要支持B-D呈现模式、1plane+Offset模式、上端侧2D字幕再生模式、下端侧2D字幕再生模式的全部,所以作为再生装置的硬件结构,基本上为2解码器+2平面的结构,当再生装置切换为1plane+Offset模式、2D输出模式、上端侧2D字幕再生模式、及下端侧2D字幕再生模式时,使1解码器+1平面的组中的1个无效化,成为1解码器+1平面结构。
将以上的解码器模组做成1解码器结构还是做成2解码器结构、将平面模组做成1平面结构还是做成2平面结构,可以由制造再生装置的制造商自由地决定。当然,在设计上,通过在做成2解码器结构、2平面结构而作为高级机种销售的情况下设定为有立体视PG的再生能力、有立体视IG的再生能力,在作为廉价机种销售的情况下设定为无立体视PG的再生能力、无立体视IG的再生能力,能够实现产品线的充实。这样的立体视PG的再生能力有无的设置、立体视IG的再生能力有无的设置存在于寄存器组中。
以下,对寄存器组进行说明。
寄存器组由多个播放器状态寄存器、多个播放器设定寄存器构成。各个播放器状态寄存器、播放器设定寄存器都是字长为32位的寄存器,对32位长的寄存器分别赋予寄存器号码,使用该寄存器号码确定应访问的寄存器。
将构成各寄存器的一个字(32位)的各位数据的位位置称作b0~b31。将最高位称作b31、将最低位称作b0。并且,将32位中的、从第bx位的位位置到第by位的位位置的位范围用[bx:by]的表述来表现。
将保存在规定的寄存器号码的播放器设定寄存器/播放器状态寄存器中的32位长的位列且任意的位范围[bx:by]的位列的值作为程序进行动作时的动作系统的环境变量(称作系统参数或播放器变量)处理。进行再生控制的程序能够通过系统属性及应用编程接口(API)取得系统参数。此外,只要没有特别禁止,程序就能够改写这些播放器状态寄存器、播放器设定寄存器的值。关于基于面向对象的编程语言的程序,对系统参数的取得及改写被赋予正当权限为必要条件。
播放器状态寄存器是在再生装置的MPU进行算术运算或位运算时、用于保存作为其被运算数的数值的硬件资源,是在装填光盘时被设定为初始值、此外在当前播放项目的变更等再生装置的状态变化时判断该保存值的有效性的寄存器。作为该保存值,有当前的标题号码、当前的播放列表号码、当前的播放项目号码、当前的流号码、当前的章节号码等。由于在光盘的装填时保存初始值,所以该保存值是临时性的,如果光盘被弹出、或再生装置的电源被切断,则该保存值丧失有效性。
播放器设定寄存器在实施了断电保护这一点上与播放器状态寄存器不同。由于实施了断电保护,所以在再生装置的电源切断时,将其保存值保存到非易失性的存储器中,在再生装置的电源投入时,将其保存值恢复。在播放器设定寄存器中设定有再生装置的制造主体(制造商)在再生装置的出厂时设定的再生装置的各种设置、用户按照安装次序设定的各种设置、以及在将再生装置与电视机系统、音响、放大器等家庭影院系统的设备连接时通过与作为连接对方的设备的协商判断出的对方侧设备的能力。
图23是描绘寄存器组203的内部结构和再生控制部的图。
在本图的左侧表示寄存器组203的内部结构。在右侧表示再生控制部的内部结构。
表示被分配了各个寄存器号码的播放器状态寄存器、播放器设定寄存器是怎样的寄存器。
PSR0是用于IG流的流号码寄存器,保存当前的IG流号码。
PSR2是用于PG流的流号码寄存器,保存当前的PG流号码。
PSR24是“Player Capability for 3D(播放器的3D能力)”的设定。它表示在再生装置中是否存在执行立体视再生的能力。
另一方面,再生控制部存在参照寄存器组203中的PSR24、以及存储器中的当前播放列表信息的流选择表来唯一地决定当前播放列表中的当前PG流号码、当前IG流号码的流选择过程。该流选择过程存在“Initialization(初始化)”、“Procedure when playback condition changed(再生条件改变时的过程)”。
图25表示PSR32的位分配。PSR32表示再生装置的视频移位模式。该值通过BD程序的API或命令设定,并且从扩展流选择表中的流登录信息取得关于通过流切换选择的当前的PG流的video_shift_mode来设定。
图24表示PSR24的位分配。PSR24表示再生装置的3D能力。记录媒体中的程序不能使PSR24的值变化。
b0表示立体视1280×72050p视频显示能力。立体视1280×72050p视频显示能力在被设定为“0”时表示再生装置不具有显示1280×720/50Hz逐行视频的处理能力。在被设定为“1”时表示再生装置具有显示1280×720/50Hz逐行视频的处理能力。
b2表示立体视PG能力。立体视PG能力通过被设定为“0”而表示再生装置不具有再生立体视PG的能力。通过被设定为“1”而表示再生装置具有再生立体视PG的能力。
b3表示立体视IG能力。立体视IG能力通过被设定为“0”而表示再生装置不具有再生立体视IG的能力。通过被设定为“1”而表示再生装置具有再生立体视IG的能力。
b5表示3D输出模式中的BD-J模式的能力。在该b5被设定为“1”的情况下,表示在3D输出模式中再生装置能够处理BD-J模式。在b5被设定为“0”的情况下,表示在3D输出模式中再生装置能够处理BD-J模式。关于PSR24的b5的用法,由于从本实施方式的主要着眼点偏离,所以留到后段的实施方式中进行说明。
在该PSR24中,由于能够对IG、PG分别设定能否立体视再生,所以能够将IG解码器、PG解码器分别用2解码器构成、将IG、PG分别进行立体视对应的设置,此外,也可以将IG、PG做成2解码器结构并进行仅使IG的为立体视对应、PG局限于1plane+Offset对应的设置。反之,可以进行仅使PG为立体视对应、IG局限于1plane+Offset对应的设置。
进而,为了将再生装置作为低价格机种销售,也可以将IG解码器、PG解码器分别用2解码器构成、但进行使IG、PG分别局限于1plane+Offset对应的设置。由于用2解码器模组的共通结构构成并根据机种的等级而变更能否进行IG的立体视否、能否进行PG的立体视,所以制造商能够实现将再生装置产品化时的产品线的充实。
此外,将PG、IG的两者或某一个用1解码器构成的情况下,通过明示能否立体视再生,即使应再生的是立体视对应的播放列表,也能够防止将再生类型误设定为立体视PG、立体视IG。
以上的再生控制可以通过将图26到图32的流程图所示的处理次序用面向对象型编译语言记述并使计算机执行来实现。
图26表示播放列表再生次序。本流程图构成在步骤S1中将当前播放项目号码设定为1后、重复步骤S2~步骤S6的处理的循环。在该循环中,将通过再生条件改变时的过程决定流号码(步骤S2)、将保存有对应于流号码的ES的流文件打开而读出源包列(步骤S3)、指示所读出的源包列中的、对应于流号码的源包列的多路分离(步骤S4)、对解码器命令将所读出的源包从播放项目的进入时间到退出时间、从副播放项目的进入时间到退出时间进行再生(步骤S5)的处理反复进行,直到当前播放项目号码成为最终号码。这里,如果不是最终号码(步骤S6中否),则将当前播放项目号码增加,转移到步骤S2。
此时,在步骤S7中判断是否有流选择请求,如果有请求,则将被请求的流号码设为x,执行在请求流改变时的过程(步骤S8)。如果是最终号码,则结束处理(步骤S6中是)。
<当前PG流的决定及当前PG流的再生类型决定>
由PSR2的PG_文本字幕流号码参照的PG_文本字幕流使用输出模式(PSR22)、PSR24中的立体视PG能力、以及is_SS_PG来选择。
图27是表示对PGtestST流的关于再生条件改变时的过程的处理次序的流程图。本流程图中的步骤S11~步骤S22的处理为3D输出模式及2D输出模式的共通处理。步骤S23~步骤S28为3D输出模式特有的处理。
在步骤S11中,从PSR2取得当前PG_文本字幕流号码,在步骤S12中,判断当前PG_文本字幕流号码是关于PG流的还是关于文本字幕流的。步骤S13检查对应于当前PG_文本字幕流号码的PG流是否满足条件(A)、条件(B)。
这里,条件(A)、条件(B)如以下这样规定。
条件(A):在再生装置中存在将由当前PG_文本字幕流号码确定的PG流解码的能力。
条件(B):在再生装置中存在将所确定的语言再生的能力。
另一方面,在步骤S14中,检查对应于当前PG_文本字幕流号码的文本字幕流是否满足条件(A)、条件(B)。
条件(A):在再生装置中存在将当前PG_文本字幕流号码的文本字幕流的文字代码展开到位图中的能力。该再生能力由PSR组23中的PSR30表示。
条件(B):在再生装置中存在支持当前PG_文本字幕流号码的文本字幕流的语言特性的能力。
这里,在将某个语言的字幕用文本字幕流表现的情况下,为了可以说“能够解码”该语言的文本字幕流,需要在再生装置中存在将该语言的字符码展开到位图中的能力、以及支持该语言的特性的支持能力。
以英语、日语、阿拉伯语为例,英语的字幕显示支持“横向书写”、“字距调整”、“合字·连字”的功能,才能够判断为支持语言特性。
日语的字幕显示支持“横向书写”、“纵向书写”、“行末禁止规则”“注音假名”的功能,才能够判断为支持语言特性。
阿拉伯语的字幕显示支持“从右向左的描绘”、“合字·连字”的功能,才能够判断为支持语言特性。
在能够将某种语言的文本字幕流展开到位图中并能够支持该语言的特性的情况下,能够满足上述条件(A)、条件(B)。在能够将该语言的文本字幕流展开到位图中、但不能支持该语言的特性的情况下,不满足上述条件(B)而仅能够满足条件(A)。
各语言的支持能力在寄存器组的PSR48~61的各位中按照语言而设定。具体而言,在PSR48~61中,存在分别对应于由ISO639-2/T规定的3字节的语言代码的标志,在这些标志中设定有无对应于各语言代码的文本字幕的显示能力。
在由ISO639-2/T规定的3字节的语言代码中,“ita”的3字节的代码表示意大利语,“jpn”的3字节的代码表示日语。“jav”的3字节的代码表示爪洼语。由ISO639-2/T规定的语言代码通过这样的3字节的代码网罗了430种语言,所以在当前PG_文本字幕流的决定中,在是否能够将记载在流号码表中的文本字幕流解码的判断时,参照该PSR48~61中的标志。通过这样,即使是小语种的语言,也能够适当地判断是否能够解码。
在经过以上的判断后,执行步骤S15。步骤S15是再生装置判断是否满足条件(Z)的步骤。
这里,所谓条件(Z),是用户想要将不支持语言特性的不支持语言的字幕再生,该意图由寄存器组中的PSR30表示。
然后,执行步骤S16的判断步骤。它是判断当前播放项目的流选择表中的PG_文本字幕流的条数是否=0的步骤。在流选择表中不存在许可再生的PG_文本字幕流的情况下,维持PSR2中的PG_文本字幕流的号码(步骤S17)。
在当前流选择表中至少存在一个被许可再生的PG_文本字幕流的情况下,执行步骤S18。它是查询当前PG_文本字幕流号码的有效性的步骤,判断当前PG_文本字幕流号码是否是流选择表中的stream_entry的总数以下、并且满足条件(A)、条件(B)。
如果在步骤S18中判断为不满足,则执行步骤S20的判断。它是判断是否当前PG_文本字幕流号码为流选择表中的stream_entry的总数以下、并且满足条件(A)(Z)。如果满足,则由于在PSR2中设定了不支持语言的文本字幕的PG_文本字幕流号码,而用户想要进行不支持语言的再生,所以不使PSR2变化(步骤S21)。如果在步骤S20中判断为不满足,则选择对当前播放项目最优的流(步骤S22)。
以后的步骤S23~步骤S28是3D输出模式特有的处理。具体而言,在3D输出模式中,首先执行上下端再生类型决定处理(步骤S23)。在上下端再生类型决定处理中,在再生类型被设定为上端侧2D字幕再生及下端侧2D字幕再生的某个类型的情况下(步骤S24:否),从扩展流选择表中的流登录信息取得由PSR2的PG流号码确定的PG流的is_SS_PG(步骤S25),判断是否所取得的is_SS_PG标志是“1”、并且PSR24中的b2的立体视PG能力是“1”(步骤S26)。如果步骤S26为是,则将再生类型设为使用左眼PG流及右眼PG流的立体视PG(步骤S27)。
在将再生类型设为立体视PG的情况下,使用扩展流选择表中的多个流登录信息中的、对应于保存在PSR2中的当前流的流号码的流登录信息的右眼流入口及左眼流入口内的包识别符参照进行立体视再生。具体而言,使多路分离部进行由对应于保存在PSR2中的当前流的流号码的流登录信息的右眼流入口及左眼流入口内的包识别符参照指示的包识别符的TS包的多路分离。
如果步骤S26是否,则将再生类型设为1plane+Offset(步骤S28)。在将再生类型设为1plane+OffsetPG的情况下,使用由扩展流选择表的多个流登录信息中的、对应于保存在PSR2中的当前流的流号码的流登录信息的PG_文本字幕偏移序列ID参照信息指示的偏移序列,执行1plane+Offset模式下的PG再生。
这里,对偏移序列进行说明。在1plane+Offset模式中使用的偏移序列在从属视野视频流的视频访问单元内存在多个。
从属视野视频流的视频访问单元通过将视频访问单元分界符、序列参数集、图片参数集、MVC可缩放嵌入SEI消息、初始视野组件、序列终端代码、流终端代码排列而构成。并且,在该MVC可缩放嵌入SEI消息之中存在用户数据存放部。用户数据存放部是未注册用户数据(未登录用户数据),有隐藏字幕信息、GOP构造映射、偏移元数据这三种。是这些种类中的哪个由存放部中的type_indeicator明示。
偏移元数据是用于PG平面、IG平面、BD-J平面的序列列表,在立体视再生模式中用于将呈现图形_文本字幕、IG/BD-J平面以1plane+Offset模式再生的期间中的偏移设定。具体而言,表示将应与图片数据合成的图形以1plane+Offset模式再生的情况下的对PG平面、IG平面、BD-J平面的偏移控制。
偏移元数据必须保存在从属视野访问单元的编码顺序中的各GOP的开头的视频组件的MVC可缩放嵌入SEI消息中。在偏移元数据的内部中存在上述多个偏移序列。偏移序列是按照图片组的帧期间表示将属于图片组的各图片数据与图形合成的情况下的控制参数的参数序列,由number_of_displayed_frames_in_GOP所示的个数的控制参数构成。该控制参数由平面偏移方向信息和平面偏移值构成。
平面偏移方向信息(Plane_offset_direction)指示平面中的偏移方向。用值“0”表示前设定,即,平面存储器存在于电视机与视听者之间,在左视野期间中将平面向右方向、在右视野期间中将平面向左方向移位。用值=1表示后设定,即,平面存储器存在于电视机或屏幕的背后,在左视野期间中将平面向左方向、在右视野期间中将平面向右方向移位。在平面偏移方向信息表示前设定的情况下,三维坐标系中的控制参数的Z轴坐标为正的坐标。在平面偏移方向信息表示后设定的情况下,三维坐标系中的控制参数的Z轴坐标为负的坐标。
平面偏移值(Plane_offset_value)是构成图形的像素的水平方向的变位量的指定,以像素单位指示平面的偏移值。
如果将PG的再生类型设定为1plane+OffsetPG,则将保存在从属视野视频流的SEI消息中的多个偏移序列中的、由当前流号码的流登录信息内的PG_文本字幕偏移序列ID参照信息指示的偏移序列从视频解码器取出,向移位部供给。
以上是对PG_文本字幕流中的再生条件改变时的过程的说明。
图28是表示上下端再生类型决定处理次序的流程图。
在上下端再生类型决定处理中,从扩展流选择表中的流登录信息取得由PSR2的PG流号码确定的PG流的video_shift_mode(步骤S101),判断是否所取得的video_shift_mode是“Down”、并且PSR32中的再生装置的视频移位模式是“Down”(步骤S102)。
如果步骤S102为是,则将再生类型设为上端侧2D字幕再生(步骤S103)。在将再生类型设为上端侧2D字幕再生的情况下,执行上端侧2D字幕再生模式下的PG再生。具体而言,使多路分离部进行由对应于保存在PSR2中的当前流的流号码的流入口内的包识别符参照指示的包识别符的TS包的多路分离,并且使移位部将保存在右眼用及左眼用的视频平面中的图片数据向下方移位131像素。
如果步骤S102是否,则判断是否在步骤S101中取得的video_shift_mode是“Up”、并且PSR32中的再生装置的视频移位模式是“Up”(步骤S104)。如果步骤S104为是,则将再生类型设为下端侧2D字幕再生(步骤S105)。在将再生类型设为下端侧2D字幕再生的情况下,执行下端侧2D字幕再生模式下的PG再生。在下端侧2D字幕再生模式中,使移位部将保存在右眼用及左眼用的视频平面中的图片数据向上方移位131像素。
以上是关于上下端再生类型决定处理的说明。
图29是表示对当前播放项目选择最优的PG_文本字幕流的处理次序的流程图。
在步骤S30中,对全部的PG_文本字幕流检查是否满足条件(a)~条件(c)。
在设作为检查对象的PG流为PG流i的情况下,如以下这样规定条件(a)~条件(c)。
条件(a):在再生装置中存在将PG流i解码的能力。
条件(b):PG流i的PG_language_code与再生装置中的语言设定一致。这里,再生装置中的语言设定由寄存器组中的PSR17表示。
在设作为检查对象的文本字幕流为文本字幕流i的情况下,如以下这样规定条件(a)~条件(c)。
条件(a):在再生装置中存在将文本字幕流i的文字代码展开到位图中的能力。
条件(b):在再生装置中存在支持文本字幕流i的语言属性的能力。
条件(c):文本字幕流i的textST_language_code与再生装置中的语言设定一致。
在经过以上的检查后,在步骤S31中,再生装置判断是否满足由前面的流程图叙述的条件(Z)(:不支持语言的再生)。在不满足的情况下,在步骤S32中,判断是否存在满足条件(a)~条件(c)的PG_文本字幕流。如果存在,则选择满足条件(a)~条件(c)的PG_文本字幕流中的、对应的流入口在流选择表中位于开头位次的PG_文本字幕流,将所选择的PG_文本字幕流号码设定到PSR2中(步骤S33)。
如果不存在满足条件(a)~条件(c)的PG_文本字幕流,则在步骤S34中,判断是否满足放松的条件的PG_文本字幕流。所谓放松的条件,是满足条件(a)、条件(b),在步骤S34中判断是否满足它的PG_文本字幕流。如果存在,则选择满足条件(a)、条件(b)的PG_文本字幕流中的、对应的流入口在流选择表中位于开头位次的PG_文本字幕流,将所选择的PG_文本字幕流号码设定到PSR2中(步骤S36)。
如果不存在,则将作为0xFFF的PG_文本字幕流号码设定在PSR2中(步骤S35)。在步骤S31中,如果判断为满足条件(Z),则在步骤S37中,判断是否存在满足其他放松的条件的PG_文本字幕流。所谓其他的放松的条件,是满足条件(a)、条件(c),在步骤S37中,判断是否存在满足它们的PG_文本字幕流。
如果存在,则选择满足条件(a)、条件(c)的PG_文本字幕流中的、对应的流入口位于流选择表的最初的PG_文本字幕流,将所选择的PG_文本字幕流的PG_文本字幕流号码设定到PSR2中(步骤S38)。
在不存在的情况下,在步骤S39中,判断是否存在满足条件(a)的PG_文本字幕流。在存在的情况下,选择满足条件(a)的PG_文本字幕流中的、对应的流入口在流选择表中位于开头位次的PG_文本字幕流,将所选择的PG_文本字幕流的PG_文本字幕流号码设定到PSR2中(步骤S40)。在不存在的情况下,将0xFFF设定到PSR2中(步骤S35)。
以上是关于最优的PG_文本字幕流的选择次序的说明。
图30是表示在通过设置立体视流命令(SetstreamSSCommand)请求了流变化的情况下应执行的在请求流改变时的过程的处理次序的流程图。
在步骤S41中,在设置立体视流命令中,判断由操作数指定的号码X意味着关于PG流的流号码、还是意味着关于文本字幕流的流号码。步骤S42检查对应于号码X的PG流(PGx)是否满足以下的条件(A)、条件(B)。
条件(A):在再生装置中存在将根据号码X确定的PG流解码的能力。
条件(B):作为所确定的PG流的属性的语言与再生装置的语言属性一致。
步骤S43检查对应于号码X的文本字幕流(textSTx)是否满足以下的条件(A)、条件(B)。
条件(A):在再生装置中存在将对应于号码X的文本字幕流X的文字代码展开到位图中的能力。
条件(B):在再生装置中存在支持对应于号码X的文本字幕流X的语言属性的能力。
在步骤S44中,再生装置检查是否满足条件(Z),进行步骤S45的判断。该判断是判断是否号码为流选择表中的stream_entry的总数以下、并且满足条件(A)(B)。如果满足,则选择对应于号码X的PG_文本字幕流号码的PG_文本字幕流,设定到PSR2中(步骤S46)。
如果在步骤S45中判断为不满足,则执行步骤S47的判断。该判断是判断是否号码为流选择表中的stream_entry的总数以下、并且满足条件(A)(Z)。如果满足,则选择对应于号码X的PG_文本字幕流,将其PG_文本字幕流号码设定到PSR2中(步骤S48)。
如果不满足,则进行步骤S49的判断。该判断是判断号码X是否是0xFFF。如果不是,则在流选择表中不存在被许可再生的PG_文本字幕流,维持PSR2的值(步骤S50)。
如果是0xFFF,则对当前播放项目选择最优的PG_文本字幕流(步骤S51)。该最优的PG_文本字幕流的选择与图29所示是相同的。
以后的步骤S52~步骤S57是3D输出模式特有的处理。具体而言,执行上下端再生类型决定处理(步骤S52)。在上下端再生类型决定处理中,在再生类型没有被设定为上端侧2D字幕再生及下端侧2D字幕再生的某个类型的情况下(步骤S53:否),从扩展流选择表中的流登录信息取得由PG流号码X确定的PG流X的is_SS_PG(步骤S54),判断是否所取得的is_SS_PG标志是“1”、并且PSR24中的立体视PG能力是“1”(步骤S55)。如果步骤S55为是,则将再生类型设为立体视PG(步骤S56)。如果步骤S55是否,则将再生类型设为1plane+Offset(步骤S57)。
图31是表示在通过设置流命令、或者请求流号码变更的用户操作请求了流变化的情况下应执行的在请求流改变时的过程的处理次序的流程图。在本流程图中,在步骤S58中,在将由设置流命令的操作数指定的流号码、或通过请求流号码变更的用户操作指定的流号码设定为号码X之后,执行步骤S41~步骤S57的处理。该步骤S41~步骤S57的处理内容与图30是相同的,所以赋予相同的标号而省略其说明。
<当前IG流的决定及当前IG流的再生类型决定>
由PSR0的IG流号码参照的IG流使用PSR22中的输出模式、PSR24中的立体视PG能力、以及is_SS_IG进行选择。
图32是表示当前IG流的决定及当前IG流的再生类型决定的处理次序的流程图。
图32(a)表示播放项目变化、再生装置的再生状态变化的情况下的用于当前IG流决定的再生条件改变时的过程。本流程图中的步骤S61~步骤S65是2D输出模式及3D输出模式共通的步骤,步骤S64~步骤S67是3D输出模式特有的步骤。
步骤S61是流选择表中的entry(入口)数是否是0的判断,如果是0,则维持PSR0的值(步骤S64)。
步骤S62是在流选择表中的entry数不是0的情况下、判断流选择表的entry数是否比PSR0多的步骤。如果步骤S62为是,则维持PSR0(步骤S65)。如果在PSR1的值比entry数大的情况下,在PSR0中设定1(步骤S63)。以后的步骤S64~步骤S67是3D输出模式特有的步骤。在3D输出模式中,从扩展流选择表的流登录信息中取得由PSR0的IG流号码确定的IG流的is_SS_IG(步骤S64),判断是否所取得的is_SS_IG标志是“1”、并且由PSR24中的b3表示的立体视IG能力是“1”(步骤S65)。如果步骤S65为是,则将再生类型设为立体视IG(步骤S66)。在将再生类型设为立体视IG的情况下,使用扩展流选择表的多个流登录信息中的、对应于保存在PSR0中的当前流的流号码的流登录信息的右眼流入口及左眼流入口内的包识别符参照,进行立体视再生。具体而言,使多路分离部进行由对应于保存在PSR0中的当前流的流号码的流登录信息的右眼流入口及左眼流入口内的包识别符参照指示的包识别符的TS包的多路分离。
如果步骤S65是否,则将再生类型设为1plane+Offset(步骤S67)。
在将再生类型设为1plane+OffsetIG的情况下,使用由扩展流选择表的多个流登录信息中的、对应于保存在PSR0中的当前流的流号码的流登录信息的立体视IG偏移序列ID参照信息指示的偏移序列,执行1plane+Offset模式下的IG再生。具体而言,将保存在从属视野流的SEI消息中的多个偏移序列中的、由立体视IG偏移序列ID参照信息指示的偏移序列从视频解码器取出,供给到移位部中。
图32(b)是表示通过设置立体视流命令(SetstreamSSCommand)、设置流命令、以及请求流号码变更的用户操作请求了流变化的情况下的PSR0的设定次序的流程图。
在通过设置立体视流命令(SetstreamSSCommand)、设置流命令、以及请求流号码变更的用户操作请求了流变化的情况下,将由命令的操作数或用户操作指定的流号码设为号码X。
本流程图中的步骤S71是判断流选择表的entry数是否比号码X多的步骤。如果X满足该条件,则将X设定到PSR0中(步骤S74)。如果在X比entry数大的情况下,将1设定到PSR0中(步骤S72)。在3D输出模式中,从扩展流选择表的流登录信息中取得由PSR0的IG流号码确定的IG流的is_SS_IG(步骤S73),判断是否所取得的is_SS_IG标志是“1”、并且PSR24中的立体视IG能力是“1”(步骤S74)。如果步骤S74为是,则将再生类型设为立体视IG(步骤S75)。如果步骤S74是否,则将再生类型设为1plane+Offset(步骤S76)。
图33表示通过结合流登录列将怎样的包识别符输出给多路分离部。
图33(a)表示作为动作例的题材使用的结合流登录列。结合流登录列是由基本流选择表中的3个流登录信息、以及扩展流选择表中的3个流登录信息构成的。基本流选择表中的3个流登录信息分别具有流号码“1”、“2”、“3”的流号码,3个流登录信息中的流属性具有英语、日语、汉语的语言属性。
扩展流选择表中的3个流登录信息分别具有流号码“1”、“2”、“3”的流号码,3个流登录信息中的流属性具有英语、日语、汉语的语言属性。在基本流选择表中的流登录信息和扩展流选择表中的流登录信息中,流入口的包识别符不同,扩展流选择表中的流登录信息包括用于B-D呈现模式的左眼PG流用的包识别符、以及右眼PG流用的包识别符。
图33(b)表示在对语言设定是汉语、输出模式被设定为2D输出模式的再生装置供给该结合流登录列的情况下的流号码的设定和包识别符的输出。
图中的带有a1、a2、a3的箭头示意性地表示语言设定的一致判断、向流号码寄存器的流号码的设定、向多路分离部的包识别符的输出。
在过程中,在流号码=3的流登录信息中,判断再生装置侧的语言设定与流属性的一致,将包含在该流号码=3的流登录信息中的流号码写入到流号码寄存器中。此时,将基本流选择表中的流入口的包识别符对多路分离部输出。通过这样,将由基本流选择表中的流号码=3的流登录信息的流入口的包识别符确定的TS包对解码器输出。
图33(c)表示对语言设定是汉语、再生类型被设定为立体视PG的再生装置供给该结合流登录列的情况下的流号码的设定和包识别符的输出。
图中的带有a4、a5、a6的箭头示意性地表示语言设定的一致判断、向流号码寄存器的流号码的设定、向多路分离部的包识别符的输出。
在流选择过程中,在流号码=3的流登录信息中,判断再生装置侧的语言设定与流属性的一致,将包含在该流号码=3的流登录信息中的流号码写入到流号码寄存器中。此时,将基本流选择表中的流入口的包识别符对多路分离部输出。通过这样,将由扩展流选择表中的流号码=3的流登录信息的流入口中保存的包识别符的组确定的两个系统的TS包对解码器输出。
图34表示通过结合流登录列将怎样的包识别符对多路分离部输出。
图34(a)表示作为动作例的题材使用的结合流登录列。结合流登录列是由基本流选择表中的3个流登录信息、以及扩展流选择表中的3个流登录信息构成的。基本流选择表中的3个流登录信息分别具有流号码“1”、“2”、“3”的流号码,3个流登录信息中的流属性都具有汉语的语言属性。
扩展流选择表中的3个流登录信息分别具有流号码“1”、“2”、“3”的流号码,3个流登录信息中的流属性也都具有汉语的语言属性。在基本流选择表中的流登录信息和扩展流选择表中的流登录信息中,流入口的包识别符不同,扩展流选择表中的流登录信息包括用于B-D呈现模式的左眼PG流用的包识别符、以及右眼PG流用的包识别符。
图34(b)表示在对语言设定是汉语、输出模式被设定为2D输出模式的再生装置供给该结合流登录列的情况下的流号码的设定和包识别符的输出。
图中的带有a1、a2、a3的箭头示意性地表示语言设定的一致判断、流号码的设定、包识别符的输出。
在流选择过程中,在流号码=3的流登录信息中,判断再生装置侧的语言设定与流属性的一致,将流号码=“1”写入到流号码寄存器中。此时,将基本流选择表中的流入口的包识别符对多路分离部输出。通过这样,将由基本流选择表中的流号码“1”的流登录信息的流入口的包识别符确定的TS包对解码器输出。
图34(c)表示对语言设定是汉语、再生类型被设定为1plane+Offset类型的再生装置供给该结合流登录列的情况下的流号码的设定和包识别符的输出。
图中的带有a4、a5、a6的箭头示意性地表示语言设定的一致判断、流号码的设定、包识别符的输出。
在过程中,在流号码“1”的流登录信息中,判断再生装置侧的语言设定与流属性的一致,将包含在该流号码“1”的流登录信息中的流号码写入到流号码寄存器中。此时,将基本流选择表中的流入口的包识别符对多路分离部输出。通过这样,将由扩展流选择表中的流号码“1”的流登录信息的流入口中保存的包识别符的组确定的两个系统的TS包对解码器输出。
如以上这样,根据本实施方式,由于规定字幕的显示区域确保的视频移位模式与流号码建立对应而记载在扩展流选择表中,所以在再生区间变化时或流变更请求发生时执行流选择过程,在将新的流号码设定到流号码寄存器中的情况下,将对应于该新的流号码的视频移位模式提供给再生装置。通过这样,能够实现在某个再生区间中在上端确保字幕的显示区域、在别的再生区间中在下端确保字幕的显示区域的控制。
特别是,在电影作品的影像中,一般是宽银幕尺寸(1∶2.35)的纵横比,在将影像保存到BD-ROM等的光盘中的情况下,一般不变更纵横比而将正编影像配置到16∶9的HD影像的中央,在画面上下插入黑框。因此,根据上述结构,能够在将处于正编影像的上下的黑框集中到视频平面的上端或下端而形成的较宽的字幕显示区域中显示字幕,所以能够提高画面的利用效率,能够提高立体视效果。
(变形例)
作为本实施方式的变形例,对在将图片数据与字幕时、不仅对于保存在视频平面存储器中的图片数据、而且对于保存在PG平面存储器中的字幕也使其向上方或下方移位的方法进行说明。
图35表示有关本变形例的扩展流选择表的流登录列。图35(b)表示PG流的流登录列的内部结构。
在本变形例中,对PG流的流登录信息追加了“视频上移动时PG移位值(PG_v_shift_value_for_Up)”、以及“视频下移动时PG移位值(PG_v_shift_value_for_Down)”。
“视频上移动时PG移位值(PG_v_shift_value_for_Up)”是在视频移位模式被设定为“Up”而在视频平面的下端确保PG_文本字幕流的字幕显示区域的情况下使保存在PG平面存储器中的字幕数据向下方移位的移位量。
“视频下移动时PG移位值(PG_v_shift_value_for_Down)”是在视频移位模式被设定为“Down”而在视频平面的上端确保PG_文本字幕流的字幕显示区域的情况下使保存在PG平面存储器中的字幕数据向上方移位的移位量。
这些值被设定在图37所示的PSR33中。在PSR33中,按照平面准备了视频向上方移位的情况下的平面移位量、以及视频向下方移位的情况下的平面移位量。例如,对于PG平面,准备了PG_shift_value_for_UP、PG_shift_value_for_Down。该值是从扩展流选择表的流登录信息中取得由流切换选择的关于当前的PG流的PG_v_shift_value_for_Up、PG_v_shift_value_for_Down而设定的。
图36表示用于将解码器模组的输出合成、以上端侧2D字幕再生模式方式及下端侧2D字幕再生模式方式输出的电路结构。在本变形例中,在上端侧2D字幕再生模式方式及下端侧2D字幕再生模式方式中,对左眼用、右眼用的各自的视频平面根据PSR32的设定而将像素向上方或下方移位131像素,并且对于PG平面的左眼用输出、右眼用输出也分别按照设定在PSR33中的PG_shift_value_for_Up或PG_shift_value_for_Down的值将像素向下方或上方移位并分别进行层合成。
具体而言,在PSR32的video_shift_mode被设定为Up的情况下,如图38的(a)所示,将从视频平面存储器输出的图片向上方移位131像素,将从PG平面输出的字幕向下方移位在PSR33的PG_shift_value_for_Up中设定的像素数,将它们进行层合成。另一方面,在PSR32的video_shift_mode被设定为Down的情况下,如图38的(b)所示,将从视频平面存储器输出的图片向下方移位131像素,将从PG平面输出的字幕向下方移位设定在PSR33的PG_shift_value_for_Down中的像素数,将它们进行层合成。
此时,在本变形例中,如图39所示,在video_shift_mode是Up、Down的情况下,通过将平面移位,产生被切除的区域,所以可以进行限制以使被切除的区域中不存在字幕数据。即,如图39的右侧所示,除了由点线包围的区域以外都有可能被切除,所以限制PG的显示位置以使得在这里不显示字幕数据。区域的坐标用(0,PG_v_shfit_value_for_Down)、(0,height+PG_v_sfhit_value_for_Up)、(width,PG_v_shfit_value_for_Down)、(width,height+PG_v_sfhit_value_for_Up)表示。如果例如PG_v_sfhit_value_for_Up为-a、例如PG_v_sfhit_value_for_Down为+b,则区域成为(0,b)、(0,height-a)、(width,b)、(width,height-a)。作为PG的限制,由显示位置不超过上述区域、对显示位置加上显示的对象的尺寸后的位置不超过上述区域、窗口的显示位置不超过上述区域、对窗口的显示位置加上窗口尺寸后的位置不超过上述区域等。通过这样限制,能够防止字幕被缺失地显示。
(第2实施方式)
接着,对本发明的第2实施方式进行说明。
在本实施方式中,对用于根据连接在2D/3D再生装置上的电视机的画面尺寸实现具有适当的进深的3D影像的方法进行说明。
在利用视差图像的3D影像的情况下,如图40的左侧所示,画面尺寸对3D影像的进深感带来影响。这是因为,左眼用影像与右眼用影像的差值根据电视机画面的尺寸而变化。例如,如图40的左侧中记述那样,在制作左眼用影像和右眼用影像以得到最适于50英寸的进深的情况下,虽然在50英寸下能够进行最优的视听,但在比50英寸小的电视机中,由于左眼用影像与右眼用影像的差值变小,所以成为没有感染力的没有进深感的影像。反之,在比50英寸大的电视机中,左眼用影像与右眼用影像的差值变得过大,成为眼睛疲劳的原因。所以,如图40的右侧所示,优选的是对于向电视机输出的左眼用平面和右眼用平面使用用于修正画面尺寸的偏移值。例如,在如图40那样最适于50英寸的情况下,在32英寸的情况下在增加进深感的方向上添加偏移值而对电视机输出,在100英寸的情况下在减小进深感的方向上添加偏移值而对电视机输出。另外,所谓对平面添加偏移值,是指对平面与1平面+偏移方式同样、将从播放器输出的最终平面通过偏移值沿水平方向移位并进行裁剪。将对该最终的播放器的输出平面采用的偏移值作为输出偏移修正值。以下对具体的方法进行说明。
首先,对数据构造进行说明。数据构造的基本部分与在到此为止的实施方式中说明的用于保存3D影像的数据构造是相同的,所以以扩展或不同的部分为中心进行说明。
在索引文件、播放列表文件、AV流信息文件等文件中,保存有图41(a)所示那样的表。在该表中,登录有电视机的英寸数和输出偏移修正值成对的多个画面尺寸信息。另外,在图41(a)中,将英寸数按照10英寸划分,但按照几英寸划分既可以由规定的标准等决定,也可以是用户设定。另外,也可以将图41(a)那样的表按照标准准备几个,在索引文件、播放列表文件、AV流信息文件等中仅登录该表的参照ID。另外,如图41(b)所示,也可以准备根据英寸数决定输出偏移值的函数。
另外,除了电视机的英寸数和输出偏移修正值成对的表以外,也可以放入表示对应的内容是以几英寸为目标制作的最优电视机尺寸(assumed_TV_size_when_authoring)的值。为了使用该值能够进行各种各样的修正处理。例如,在用最优的尺寸以上的电视机显示的情况下,如图42所示,可以进行用该最优的尺寸使影像显示在画面中央、在用斜线表示的周围的区域中显示黑框等的处理。
接着,对有关本实施方式的再生装置进行说明。再生装置如图43所示,具有保存输出偏移修正值的系统参数PSR35、以及输出偏移修正值应用部。由再生控制部取得经由HDMI线缆等连接的电视机的画面尺寸(英寸数),基于在图41中说明的表确定对应于该画面尺寸的输出偏移修正值而保存到PSR35中。输出偏移修正值应用部参照PSR35的值,对由平面加法部合成后的左眼影像和右眼影像的平面以PSR35的值添加偏移。
另外,设为在PSR35中保存输出偏移修正值,但也可以在PSR35中保存画面尺寸而输出偏移修正值应用部参照在图41中说明的表来确定输出偏移修正值。
另外,也可以根据观看的人来调节输出偏移修正值。例如,在较小的儿童的情况下,由于左右的眼睛的间隔较窄,所以左眼影像与右眼影像的差值较小是优选的。所以,准备用于修正输出偏移修正值的“输出偏移修正值α”。输出偏移修正值应用部用对输出偏移修正值乘以“输出偏移修正值α”而得到的值执行偏移修正处理。具体通过图44所示那样的结构实现。在图44中,准备了保存输出偏移修正值α的值的PSR36。再生控制部或程序执行手段对PSR36通过菜单画面或播放器的OSD画面等设定值。例如,在为儿童的视听用而想要减弱进深的情况下,如果设定比1大的值则减弱进深。输出偏移修正值应用部参照PSR35和PSR36,用将输出偏移修正值与输出偏移修正值α的值相乘后的值对平面应用偏移。通过这样,能够匹配于用户的偏好而调节进深感。
另外,也可以将菜单构成为,使得通过BD程序的菜单画面对于3D的进深从“较弱”、“普通”、“较强”模式中选择、来设定“输出偏移修正值α”的值。
另外,“输出偏移修正值α”也可以按照视频流的SEI消息、PMT包的描述符、播放项目等保存并根据场景来改变值。由此,在进深较大的场景中能够进行增大“输出偏移修正值α”等的应对。
另外,在本实施方式中,根据电视机的画面尺寸改变输出偏移量修正值,但也可以根据视听距离来改变输出偏移修正值或输出偏移修正值α。在此情况下,也可以是,在3D视听中使用的眼镜测量与画面的距离,电视机取得该距离,从电视机经由HDMI线缆对再生装置通知。
另外,在本实施方式中,根据电视机的画面尺寸改变输出偏移量修正值,但在投影机中,由于不知道画面尺寸,所以投影机也可以如以下这样测量电视机尺寸。第一个方法是,也可以从投影机向屏幕输出红外线等的激光、通过从屏幕的弹回来测量距离,根据透镜的光学系统参数计算画面尺寸。另一个方法是,也可以显示作为投影机的尺寸的“线段”,用户测量投影在屏幕上的该线段的长度,通过投影机的OSD输入该测量出的线段的长度。投影机能够根据投影在屏幕上的线段的大小来计算画面尺寸。
以上,根据本实施方式,通过根据显示影像的画面尺寸实施使左眼用影像与右眼用影像的差值变化的偏移处理,能够得到对应于画面尺寸的最优的立体视效果。
(第3实施方式)
在本实施方式中,对立体视交错流文件进行了内部构造的改良。
作为前提事项,对UDF文件系统中的文件简单地说明。UDF中的文件由通过文件入口管理的多个区段构成。“文件入口”包括“记述符标签”、“ICB标签”、以及“分配记述符”。
“记述符标签”是表示自身是文件入口的标签。在标签中,有文件入口记述符、空间位图记述符等类别,但在文件入口的情况下,作为记述符标签而记述有表示文件入口的“261”。
“ICB标签”表示关于文件入口自身的属性信息。
“分配记述符”包括表示构成处于某个目录的属下的下位文件的区段的记录位置的逻辑块号码(LBN)。分配记述符包括表示区段长的数据、以及表示区段的记录位置的逻辑块号码。其中,通过将表示区段长的数据的上位2位设定为“0”,表示是已分配且已记录的区段,通过设定为“1”,表示是已分配且未记录区段。通过设定为“0”,表示是接在分配识别符之后的区段。在将处于某个目录的属下的下位文件分割为多个区段的情况下,文件入口按照区段而具有多个分配记述符。
通过参照上述那样的文件入口的分配识别符,能够知道构成流文件的区段的地址。
接着,对在本实施方式中设想的文件的类别进行说明。
<立体视交错流文件(FileSS)>
立体视交错流文件(FileSS)是使2TS为交错形式的流文件(2TS交错文件),通过5位的整数值、以及表示是立体视再生用的交错形式文件的扩展名(ssif)识别。立体视交错流文件由区段SS[n]构成,区段SS[n](EXTSS[n])由索引号码n确定。索引号码n是从立体视交错流文件的开头起逐一增加的号码。
区段SS[n]构成为从属视野数据块与基础视野数据块的组。
构成区段SS[n]的基础视野数据块、从属视野数据块为从文件2D、文件基础、文件从属的交叉参照的对象。所谓交叉参照,是指将记录在记录媒体中的1个数据客体作为多个文件的区段登录到文件入口中。在本实施方式中,在文件2D的文件入口、文件基础的文件入口、文件从属的文件入口中,登录基础视野数据块、从属视野数据块的开头地址及连续长。
<文件基础(FileBase)>
文件基础(FileBase)是设为“保存”由对应于文件2D的片断信息中的区段开始点信息指示的主TS的虚拟的流文件,由至少1个区段1[i](称作EXT1[i])构成。区段1[i]是文件基础中的第i个区段,i是区段的索引号码,设文件基础的开头为0而增加。文件基础是用于将作为2TS文件的立体视交错流文件作为1TS文件处理的虚拟的流文件,通过在再生装置的存储器上构建其文件入口而虚拟地生成。
在实际的读出时,文件基础通过使用该立体视交错流文件的文件名进行文件打开来确定。具体地讲,再生装置的中间件在被调用使用立体视交错流文件的文件名的文件打开的情况下,在存储器上生成确定文件基础的区段的文件入口,将文件基础虚拟地打开。立体视交错流文件可以看作“仅包含1TS”,能够将2TS的立体视交错流文件作为1TS的文件基础从记录媒体读出。
在B-B呈现模式中,在想要仅将基础视野数据块读出的情况下,仅构成该文件基础的区段成为读出的对象。即使有从B-B呈现模式向B-D呈现模式的模式变更,也只要将读出范围从构成文件基础的区段的记录范围扩大到构成立体视交错流文件的区段的记录区域,就能够将基础视野数据块、从属视野数据块的两者读出,所以不会使文件读出的效率下降。
<文件从属(FileDependent)>
文件从属(FileDependent)是设为“保存”副TS的流文件,由区段2[i](EXT2[i])构成。EXT2[i]是文件从属中的第i个区段,i是区段的索引号码,设文件从属的开头为0而增加。文件从属是用于将作为2TS文件的立体视交错流文件作为保存有副TS的1TS文件处理的虚拟的流文件,通过将其文件入口在再生装置的存储器上构建而虚拟地生成。
从属视野视频流被赋予对作为立体视交错流文件的文件名的5位号码加上1后的号码作为文件名。使用该文件名进行访问。在记录媒体中记录有伪文件,将作为从属视野视频流的识别号码、“加上1后的号码”赋予给该伪文件。所谓伪文件,是仅存在文件名、不存在作为实体的区段的文件,将从属视野视频流作为保存到该伪文件中而处理。
<文件2D(File2D)>
文件2D是保存有在2D输出模式中被再生的主TS的1TS的流文件,由区段2D构成。文件2D由5位的整数值、以及表示是立体视再生用的交错形式文件的扩展名(ssif)识别。
图45表示区段与文件2D/文件基础、文件从属的对应。
第1段表示作为文件2D/文件基础、文件从属的00001.m2ts、00002.m2ts,第2段表示保存有基础视野数据块的区段、保存有从属视野数据块的区段。第3段表示作为立体视交错流文件的00001.ssif。
虚线的箭头h1、h2、h3、h4表示区段EXT1[i]、EXT2[i]归属于哪个文件的基于分配识别符的归属关系。根据箭头h1、h2所示的归属关系可知,区段EXT1[i]、EXT1[i+1]被作为是文件基础的00001.m2ts的区段登录。
根据箭头h3、h4所示的归属关系可知,区段EXT2[i]、EXT2[i+1]被作为是文件从属的00002.m2ts的区段登录。
根据箭头h5、h6、h7、h8所示的归属关系可知,区段EXT1[i]、EXT2[i]、EXT1[i+1]、EXT2[i+1]被作为00001.ssif的区段登录。通过以上可知,区段EXT1[i]、EXT1[i+1]具有在归属于00001.ssif的同时归属于00001.m2ts的二重性。该“ssif”的扩展名取StereoScopic Interleave File的首字符,表示为了立体视再生而为交错形式。
这里,将作为构成文件基础的区段和构成文件从属的区段的组且由相同的区段识别符确定的组称作“交错区段单元”。在该图45的例中,由区段识别符=i确定的EXT1[i]和EXT2[i]的对为交错区段单元[i],由区段识别符=i+1确定的EXT1[i+1]和EXT2[i+1]的对为交错区段单元[i+1]。在对立体视交错流文件的随机访问时,必须保障将由该区段识别符确定的交错区段单元一次从记录媒体读出。
图46表示立体视交错流文件与文件2D/文件基础的关系。
图46(a)的第3段表示交错流文件的内部结构。立体视交错流文件通过将保存有基础视野数据块的区段EXT1[1]、EXT1[2]、与保存有从属视野数据块的区段EXT2[1]、EXT2[2]分别交替配置而构成。
第1段表示文件2D及文件基础的内部结构。文件2D/文件基础仅由构成第3段的交错流文件的区段中的、保存有基础视野数据块的区段EXT1[1]、EXT1[2]构成。文件2D的文件名与交错流文件的文件名相同,但扩展名不同。
第2段表示文件从属的内部结构。文件从属仅由构成第3段的交错流文件的区段中的、保存有从属视野数据块的区段EXT2[1]、EXT2[2]、EXT2[2]构成。文件从属的文件名为对交错流文件的文件名加上1后的名,此外扩展名不同。
即使是包含3D影像的光盘,也由于并不一定所有的再生装置都对应于3D再生方式,所以支持2D下的再生是优选的。但是,仅对应于2D再生的再生装置不能判别在3D中扩展的数据构造等。2D再生装置需要能够通过以往的2D再生方式原来的判别方法仅对2D播放列表及2D流访问,所以对于基础视野视频流,以2D方式的再生装置能够识别的文件形式保存。
第1个方法是上述那样的播放列表信息的参照、即主TS使用与2D再生方式相同的文件名以便即使在2D再生中也能够利用而交错形式的流文件将扩展名改变的方法。图46(b)中的00001.m2ts及00001.ssif一个是2D方式、另一个是3D方式,但通过相同的文件名“00001”关联。
播放列表仅参照主TS的AV片断,所以在已有的2D再生装置中仅再生文件2D。3D对应的再生装置虽然播放列表仅参照主TS中装入的文件2D,但在存在具有相同的识别号码、仅扩展名不同的文件的情况下,找到该文件,判断为是用于3D影像的交错形式的流文件,将主TS和副TS输出。
第2个方法是区分文件夹的方法。主TS保存在具有已有的文件夹名(例如STREAM)的文件夹内,而副TS以相同的文件名“00001”保存在具有3D特有的名称的文件夹(例如SSIF)中。在播放列表参照文件时,在2D再生装置中仅参照“STREAM”文件夹内的文件,但在3D再生装置的情况下,通过从“STREAM”和“SSIF”文件夹中同时参照相同的名称的文件,能够将主TS与副TS建立关联。
第3个方法是通过识别号码的方法。是在文件2D/文件基础的识别号码是“00001”的情况下、对文件从属的识别号码赋予如图46(c)所示那样对该文件2D的识别号码加上“1”后的号码即“0002”的识别号码等、按照一定的规则建立关联的方法。但是,在记录媒体的文件系统中,将以上述的规则命名的文件从属只不过作为没有实体的伪文件处理。这是因为文件从属的实体只不过是立体视交错流文件。将这样建立了关联的文件名记述到基本流选择表中的流登录信息、以及扩展流选择表中的流登录信息的流入口的副片断入口ID参照(ref_to_subclip_entry_id)中。另一方面,对于再生装置,执行将对记述在副片断入口ID参照中的识别号码加“1”后的识别号码的文件名认证为伪文件的文件名、将文件从属虚拟地打开的处理。这样,在流选择过程中,能够将进行了上述那样的关联的文件从属可靠地从记录媒体读出。
对于片断信息文件也能够以同样的规则识别。
以上是对文件2D、文件基础、文件从属的说明。
以下,对数据块的详细情况进行说明。
<基础视野数据块>
基础视野数据块(B[i])是主TS的第i个数据块。这里,所谓主TS,是经由当前播放项目信息的片断信息文件名信息(片断信息文件名信息)被指定为主路径的基轴的TS。B[i]的“i”是设文件基础的开头的数据块为0而增加的索引号码。
在基础视野数据块中,有在文件基础和文件2D中共用的块、以及在文件基础和文件2D中不共用的块。
在文件2D及文件基础中共用的基础视野数据块、以及文件2D固有的基础视野数据块是作为文件2D的区段的数据块,设定为不发生再生装置的缓冲器下溢的长度。并且,将其开头的扇区地址记述在文件2D的文件入口的分配记述符中。
不与文件2D共用的文件基础固有的基础视野数据块不作为文件2D的区段,所以并不设定为不使再生装置的单缓冲器发生下溢的长度。设定为更小的尺寸、即不使再生装置的双缓冲器下溢的长度。
此外,文件基础固有的基础视野数据块的开头扇区地址没有记述在文件入口的分配记述符中。代之而通过对应于主TS的片断信息文件的片断信息内的区段开始点信息指向基础视野数据块中的开头源包的源包。因此,文件基础固有的基础视野数据块的开头扇区地址需要使用立体视交错流文件的文件入口的分配记述符、以及片断信息内的区段开始点信息导出。
<从属视野数据块>
从属视野数据块(D[i])是副TS的第i个数据块。所谓副TS,是在对应于当前播放项目信息的扩展流选择表的流登录列的流入口中被指定为副路径的基轴的TS。D[i]的“i”是设文件从属的开头的数据块为0而增加的索引号码。
从属视野数据块是作为文件从属的区段的数据块,设定为不发生再生装置的双缓冲器的下溢的长度。
此外,在记录媒体的连续区域上,将从属视野数据块配置在应在相同的再生时间再生的基础视野数据块靠前。因此,在立体视交错流文件的读出时,从属视野数据块必定比基础视野数据块更先被读出。
从属视野数据块不与文件2D共用,所以其开头扇区地址不记述在文件2D的文件入口的分配记述符中。代之而通过片断信息内的区段开始点信息指向从属视野数据块中的开头源包的源包。因此,从属视野数据块的开头扇区地址需要使用文件2D的文件入口的分配记述符和片断信息内的区段开始点信息导出。
<区段的类型>
如上所述,在文件2D的区段中,有与文件基础的区段共用的区段、以及不与文件基础共用的区段。
设文件2D的区段由B[0]、B[1]、B[2]、B[3]2D、B[4]2D构成、文件基础的区段由B[0]、B[1]、B[2]、B[3]ss、B[4]ss构成。B[0]、B[1]、B[2]是与文件基础共用的基础视野数据块。B[3]2D、B[4]2D是不与文件基础共用的、文件2D固有的基础视野数据块。
此外,B[3]ss、B[4]ss是不与文件2D共用的、文件基础固有的基础视野数据块。
B[3]2D中的数据与B[3]ss的数据具有bit-for-bit(位对位)的相同性。B[4]2D中的数据与B[4]ss的数据具有bit-for-bit的相同性。
这些文件2D中的数据块B[2]、B[3]2D、B[4]2D在发生长跳跃的地方之前构成连续长较大的区段(大区段)。文件2D由于能够在长跳跃之前形成大区段,所以即使在将立体视交错流文件以2D输出模式再生的情况下,也不需要担心读缓冲器的下溢。
文件2D及文件基础虽然区段有一部分不同,但由于具有相同性,所以将这些文件2D及文件基础一起称作“文件2D/文件基础”。
图47表示立体视交错流文件、文件2D、文件基础的相互关系。第1段表示文件2D,第2段表示记录媒体上的数据块,第3段表示立体视交错流文件,第4段表示文件基础,第5段表示文件从属。
第2段的数据块是上述的D[1]、B[1]、D[2]、B[2]、D[3]、B[3]ss、D[4]、B[4]ss、B[3]2D、B[4]2D。并且,箭头ex1、ex2、ex3、ex4表示数据块中的、B[1]、B[2]、B[3]2D、B[4]2D构成文件2D的区段的归属关系。
箭头ex5、ex6表示数据块中的、D[1]、B[1]、D[2]、B[2]、D[3]、B[3]ss、D[4]、B[4]ss构成立体视交错流文件的区段的归属关系。
第4段表示构成该立体视交错流文件的数据块中的B[1]、B[2]、B[3]ss、B[4]ss为文件基础的区段,第5段表示构成立体视交错流文件的数据块中的D[1]、D[2]、D[3]、D[4]为文件从属的区段。
图48表示2D播放列表、3D播放列表。第1段是2D播放列表信息,第2段表示基础数据块,第3段表示3D播放列表,第4段表示从属视野数据块。
箭头rf1、rf2、rf3表示通过将记述在2D播放列表信息的播放项目信息的clip_information_file_name中的文件名00001与扩展名m2ts组合而实现的再生路径。在此情况下,由数据块B[1]、B[2]、B[3]2D构成基础视野侧的再生路径。
箭头rf4、rf5、rf6、rf7表示由3D播放列表信息的播放项目信息指定的再生路径。在此情况下,使用B[1]、B[2]、B[3]ss、B[4]ss构成基础视野侧的再生路径。
箭头rf8、rf9、rf10、rf11表示由3D播放列表信息的副播放项目信息指定的再生路径。在此情况下,使用D[1]、D[2]、D[3]、D[4]构成从属视野侧的再生路径。构成由这些播放项目信息、副播放项目信息指定的再生路径的数据块可以通过将记述在播放项目信息的clip_information_file_name中的文件名与扩展名ssif组合进行文件打开来读出。
本图的3D播放列表中的片断信息文件名信息、2D播放列表中的片断信息文件名信息记述有共用的文件名,所以在记述定义这些3D播放列表、2D播放列表的播放列表信息时,用共用的记述就足够(参照标号df1、df2)。由此,如果预先记述实现该3D播放列表那样的播放列表信息,则在再生装置的输出模式是立体视输出模式时作为3D播放列表发挥功能,在再生装置的输出模式是2D输出模式时作为2D播放列表发挥功能。本图的2D播放列表、3D播放列表通过记述1个播放列表信息,根据解释它的再生装置的输出模式而被解释为2D播放列表、3D播放列表,所以能够减轻进行编辑的人的工作量。
在立体视交错流文件中保存主TS、副TS的情况下,2D播放列表的播放项目信息中的clip_information_file_name记述文件2D的文件名。3D播放列表的播放项目信息中的clip_information_file_name记述文件基础的文件名。文件基础是虚拟的文件,其文件名与立体视交错流文件相同,所以只要将立体视交错流文件的文件名记述到播放项目信息中的clip_information_file_name中就可以。扩展流选择表的流登录信息中的ref_to_subclip_entry_id记述文件从属的文件名。文件从属的文件名是对立体视交错流文件的识别号码加1后的文件名。
如以上这样,能够在将基础视野数据块和从属视野数据块保存到1个立体视交错流文件中并且将立体视交错流文件作为文件2D、文件基础、以及文件从属中的某个文件打开,所以在解码器侧能够将立体视交错流文件与通常的流文件同样地处理。由此,能够在基础视野视频流、从属视野视频流的保存方式中积极地引入立体视交错流文件。
接着,对片断信息文件的详细的内部构造进行说明。
图49表示片断信息文件的内部结构。
图49(a)表示2D的片断信息文件,图49(b)表示3D用的片断信息文件。这些片断信息文件包括“片断信息”、“序列信息”、“程序信息”、“特征点信息”。
“片断信息”按照ATC序列表示保存在流文件中的源包列分别是怎样的AV片断。
“序列信息”为按照ATC序列表示保存在流文件中的一个或多个源包列是怎样的ATC序列的信息(ATC序列信息)的结构。ATC序列信息包括用源包号码表示作为ATC的开始点的源包存在于哪里的信息、STC序列识别符-ATC序列识别符间的偏移、以及关于多个STC序列各自的STC序列信息。STC序列信息包括保存有该STC序列的PCR的源包的包号码、表示在该ATC序列中的哪里存在作为STC序列的开始点的源包的信息、STC序列的再生开始时刻、再生结束时刻。
“程序信息”是表示由片断信息文件作为是“AV片断”而管理的主TS、副TS的程序结构的信息,表示AV片断多路复用了怎样的ES。具体而言,表示多路复用在AV片断中的ES具有怎样的包识别符、是怎样的编码方式。在该程序信息内明示视频流被使用MPEG2-video、MPEG4-AVC等中的哪个编码方式压缩编码。
“特征点信息”是按照ES表示多路复用在AV片断中的多个ES的特征点存在于哪里的信息。将表示各ES的特征点的信息称作基本入口映射。
什么为特征点按照流的类别而不同。在基础视野视频流、从属视野视频流的情况下,表示位于开放GOP、封闭GOP的开头的I图片类型的视野组件的开头的访问单元分界符为特征点。在音频流的情况下,以每隔1秒等、每隔一定期间存在的表示音频帧的开头位置的访问单元分界符为特征点,在PG流、IG流的情况下,表示图形流的显示集中的、具备显示所需要的全部功能段者(篇章开始的显示集、获取点的显示集)的开头位置的访问单元分界符为特征点。
此外,怎样表示特征点在ATC序列、STC序列中分别不同。在ATC序列中,将特征点用源包号码表现。在STC序列中,将相同的特征点使用表示STC时间轴上的时刻的PTS表现。
鉴于上述差异,各ES的基本入口映射由多个入口点构成。具体地讲,构成入口映射的各个入口点将表示ATC序列中的特征点的所在的源包号码与表示STC序列中的特征点的所在的PTS建立对应,具备表示是否能够进行向该特征点的角度切换的标志(is_angle_change标志)、以及表示存在于GOP开头的内图片的尺寸的信息(I_size)。由于位于构成多角度区间的交错单元的开头的源包能够进行角度切换,所以插入交错单元的开头源包的入口点的is_angle_change标志必定被设定为开启。此外,插入交错单元的开头源包的入口点通过入口点与播放项目信息中的In_Time建立了对应。
由于各ES的入口映射将这些各流类别的特征点的源包号码与PTS建立对应表示,所以通过参照该入口映射,能够从STC序列中的任意的时刻导出表示最接近于该时刻的各ES的特征点的所在的源包号码。
以上是对2D用的片断信息文件的说明。接着,对3D用的片断信息文件的详细情况进行说明。3D用的片断信息文件为图49(b)的内部结构,除了作为通常的片断信息(管理信息)的“文件2D用的片断信息”以外,还存在作为文件从属用的片断信息的“片断从属信息(基础视野管理信息)”、作为文件基础用的片断信息的“片断基础信息(基础视野管理信息)”。这基于以下的理由。如上所述,为了避免立体视交错流文件与通常的流文件的混淆,将立体视交错流文件保存到与流文件不同的目录中。因此,不能将片断信息文件与立体视交错流文件建立对应。所以,将片断从属信息及片断基础信息保存到对应于文件2D的片断信息文件中。
2D用的片断信息与片断基础信息及片断从属信息的差异是在片断基础信息及片断从属信息的内部中存在包括区段开始点列的元数据这一点。
在图49(b)中,片断从属信息包括区段开始点列,片断基础信息也包括区段开始点列。特征点信息包括扩展入口映射,扩展数据包括扩展入口映射。
在3D输出模式中,片断信息文件被分割为片断基础信息文件和片断从属信息文件。
图49(c)表示基于片断基础信息文件生成的片断基础信息文件。由片断基础信息和基本入口映射构成。片断基础信息包括区段开始点信息。
图49(d)中,片断从属信息文件包括片断从属信息和扩展入口映射。片断从属信息包括区段开始点信息。
在片断信息文件用的目录(CLPI目录)中,存在2D输出模式的片断信息文件。片断基础信息文件在3D输出模式中由片断信息文件生成,被作为保存在该2D输出模式的片断信息文件中来处理。
在片断信息文件用的目录(CLPI目录)中,存在伪片断信息文件,对于该伪片断信息文件,赋予了对应于文件从属的号码、即对文件2D/文件基础的识别号码加上“1”后的号码的文件名。片断从属信息文件在3D输出模式中由对应于文件2D的片断信息文件生成,被作为保存在该伪片断信息文件中来处理。这里,如果2D输出模式的片断信息文件是00001.clpi,则在3D输出模式中,将片断基础信息文件作为保存在00001.clpi中的文件处理,在3D输出模式中,将片断从属信息文件作为保存在00002.clpi中的文件处理。
<区段开始点>
对区段开始点进行说明。
如上所述,立体视交错流文件由两个片断AV流(BDAV MPEG2传输流)构成。区段开始点信息的对带来将立体视交错流文件分割为两个AV流的途径。区段开始点信息被如以下这样供给。
(1)将区段开始点信息表保存到由包括副路径类型=8的副路径的播放列表的播放项目参照的片断信息中而对再生装置供给。所谓副路径类型=8的副路径,是在盘类型的Out-of-MUX从属视野视频流再生路径。
(2)将其他区段开始点信息表保存到通过包括副路径类型=8的副路径的播放列表的副播放项目参照的片断信息中而对再生装置供给。
在播放项目信息中,表示构成了多角度区间、存在多角度区间的标志(flag_is_multi-angel_flag)被设定为“开启”的情况下,将区段开始点信息表的对分别保存到由角度ID值参照的片断信息、以及由副片断入口ID值参照的片断信息中,对再生装置供给。
对片断信息文件中的区段开始点信息的数据构造进行说明。ext_data_entry()内的扩展数据中的ID1值和ID2值必须分别设定为0x0002、0x0004。
具有区段开始点信息的片断信息文件需要满足以下两个条件。
(a)必须由包括副路径类型=8的副路径的播放列表的播放项目参照。
(b)必须由副路径类型=8的副路径的副播放项目参照。这里,所谓副路径类型=8,是指在盘类型的Out-of-MUX从属视野视频流再生路径。
图50表示片断信息文件、播放列表、以及立体视交错流文件的关系。右侧表示立体视交错流文件,左侧表示片断信息文件。正中间在第1段表示文件基础,在第2段表示片断信息文件,在第3段表示3D播放列表,在第4段表示片断从属信息文件,在第5段表示文件从属。
箭头bk1、bk2表示通过将右侧的流文件分割、得到文件基础、文件从属。
左侧的片断信息文件包括特征点信息、扩展数据、片断基础信息、片断从属信息。箭头bk3、bk4示意地表示片断基础信息中的区段开始点信息、片断从属信息中的区段开始点信息带来将立体视交错流文件分割的途径。
对区段开始点进行说明。
在片断信息文件的区段开始点信息中,ext_data_entry()内的扩展数据中的ID1值和ID2值必须分别设定为0x0002、0x0004。
具有区段开始点信息的片断信息文件需要满足以下两个条件。
i、必须由包括副路径类型=8的副路径的播放列表的播放项目参照。
ii、必须由副路径类型=8的副路径的副播放项目参照。这里,所谓副路径类型=8,是指在盘类型的Out-of-MUX从属视野视频流再生路径。
立体视交错流文件由两个片断AV流(BDAV MPEG2传输流)构成。区段开始点信息的对带来将立体视交错流文件分割为两个AV流的途径。区段开始点信息被如以下这样供给。
(1)将区段开始点信息表保存到由包括副路径类型=8的副路径的播放列表的播放项目参照的片断信息中,对再生装置供给。
(2)将其他区段开始点信息表保存到由包括副路径类型=8的副路径的播放列表的副播放项目参照的片断信息中,对再生装置供给。
假如在播放项目中的是多角度标志被设定为1的情况下,将区段开始点信息表的对分别保存到由角度ID值参照的片断信息、以及由副片断入口ID值参照的片断信息中,对再生装置供给。
图51是表示片断基础信息、片断从属信息的内部结构的图。如图51(a)所示,片断基础信息、片断从属信息由表示对应的AV片断属于怎样的流的类型的“片断流类型信息”、表示由对应的AV片断构成的应用属于电影应用、基于时间的幻灯片播放应用、可浏览幻灯片播放应用等、怎样的类型的“应用类型”、表示在再生装置中在源包通过源包解包器后将AV片断中的TS包以怎样的转送速率转送的“TS记录速率”、表示构成对应的AV片断的源包数的“源包数”、以及作为与构成之前的AV片断的ATC序列之间的ATC的差的“ATC差值”构成。
图51(b)表示区段开始点信息表的内部结构。如该图所示,区段开始点信息表由number_pf_extent_start_points、以及number_pf_extent_start_points个SPN_start_point构成。
number_pf_extent_start_points表示归属于关联的AV流文件的区段的个数。在片断基础信息中的区段开始点信息和片断从属信息中的区段开始点信息的对中,number_pf_extent_start_points为相同的值。
SPN_extent_start(SPN_extent_start[0]~SPN_extent_start[number_of_extent_start_point])由number_of_extent_start_point+1个SPN_extent_start构成。SPN_extent_start被由区段识别符[extent_id]旨示,是表示AV流文件中的第extent_id个区段开始的源包的源包号码的32位的值。
接着,对片断信息文件的扩展数据进行说明。在扩展数据中,存在扩展入口映射。扩展入口映射与基本入口映射同样,由多个入口点构成。具体地讲,构成扩展入口映射的各个入口点将表示ATC序列中的特征点的所在的源包号码与表示STC序列中的特征点的所在的PTS建立对应,具备表示是否能够进行向该特征点的角度切换的标志(is_angle_change标志)、以及表示存在于GOP开头的内图片的尺寸的信息(I_size)。但是,在扩展入口映射中,对扩展入口映射施加了以下的制限这一点不同。
在扩展入口映射内存在用于MPEG4-MVC视野组件的入口的情况下,在扩展入口映射中必须存在对应于与扩展入口映射中的PTS相同的视野组件的入口。
在存在作为应用类型为1、8这两个片断信息文件且对应于立体视交错流文件的文件的情况下,必须满足以下的条件。即,在由应用类型“=1”的片断信息(是称作主要视频流的应用类型的片断信息)的区段ID值指示的区段具有由基础视野视频流的PTS_EP_Start参照的源包的情况下,由应用类型=8的片断信息的相同的区段ID值指示的区段必须包含由从属视野流的相同的值的PTS_EP_Start参照的源包。
图52是表示基本入口映射和扩展入口映射的图。在本图中,第5段表示从属视野数据块与基础视野数据块的多个组。第4段表示构成从属视野数据块及基础视野数据块的源包列。第1段表示由PTS确定的视野组件。并且,第2段表示基本入口映射,第3段表示扩展入口映射。
在由区段ID=1的区段开始点指示的区段[1]具有由基础视野视频流的PTS_EP_Start=t1的入口参照的SPN=n1的源包[n1]的情况下,由作为应用类型=8的片断信息的相同的区段ID的、区段ID=1的区段开始点指示的区段[1]是从属视野流的相同的值的入口,包括由PTS_EP_Start=t1的入口参照的SPN=n11的源包[n11]。
如以上这样,在位于基础视野视频流的GOP(i)的开头的源包和位于从属视野视频流的GOP(i)的开头的源包属于同一个交错区段单元的情况下,将指向基础视野视频流的GOP(i)开头的源包、以及从属视野视频流的GOP(i)的开头源包的入口追加到基本入口映射及扩展入口映射的两者中。由此,在此情况下,只要使用基本入口映射及扩展入口映射的两者,就能够保障基础视野视频流的GOP(i)、以及从属视野视频流的GOP(i)的连续读出。
图53表示在扩展入口映射中不被容许的入口。
假设由基础视野视频流的PTS_EP_Start=x的入口参照的SPN=x的源包[x]存在于由区段ID=x参照的文件基础区段的开头,由PTS_EP_Start=x的入口参照的SPN=y的源包[y]存在于由区段ID“=j”参照的文件从属区段的开头,i和j不同。
由于不能说由区段ID=i的片断从属的区段开始点指示的区段[i]包括由作为基础视野视频流的相同的值的入口的、PTS_EP_Start=x的入口参照的SPN=x的源包,所以在扩展入口映射中不能追加PTS_EP_Start=x的入口。
在位于基础视野视频流的GOP(i)的开头的源包和位于从属视野视频流的GOP(i)的开头的源包属于不同的交错区段单元的情况下,在基本入口映射及扩展入口映射的哪个中都不追加指向GOP(i)开头的源包的入口。在此情况下,由于从随机访问的访问目标中排除了基础视野视频流的GOP(i)及从属视野视频流的GOP(i),所以能够防止访问性能的下降。
图54表示播放项目的再生次序。
步骤S201是当前输出模式是否是3D输出模式的判断,如果当前输出模式是2D输出模式,则执行步骤S203~步骤S206。
在步骤S203中,将由在当前播放项目的Clip_Information_file_name中记述的“XXXXX”、以及扩展名“m2ts”指定的流文件打开,在步骤S204中,使用对应于视频流的包ID的入口点,将当前PlayItem.In_Time及当前PlayItem.Out_Time变换为Start_SPN[i]及End_SPN[i]。
在步骤S205中,确定属于用于从Start_SPN[i]到End_SPN[i]读出包ID[i]的TS包[i]的读出范围[i]的区段,在步骤S206中,对记录媒体的驱动器指示,以使其将属于读出范围[i]的区段连续地读出。
如果当前输出模式是立体视输出模式,则转移到步骤S300~步骤S60的循环。
在步骤S300中,将由在当前播放项目的Clip_Information_file_name中记述的“XXXXX”、以及扩展名“ssif”指定的流文件打开,在步骤S301中,按照当前播放项目信息的基础视野指示符,将基础视野视频流分配给左视野视频平面及右视野视频平面的某一个,将从属视野视频流分配给左视野视频平面及右视野视频平面的另一个。
在步骤S302中,使用对应于基础视野视频流的基本入口映射,将当前PlayItem.In_Time及当前PlayItem.Out_Time变换为Start_SPN[i]及End_SPN[i]。
在步骤S303中,使用对应于从属视野视频流的扩展入口映射,将SubPlayItemIn_Time、SubPlayItemOut_Time变换为Start_SPN[j]、End_SPN[j](步骤S304)。
确定属于用于从Start_SPN[i]到End_SPN[i]读出构成基础视野视频流的TS包[i]的读出范围[i]的区段(步骤S305),确定属于用于从Start_SPN[j]到End_SPN[j]读出包ID[j]的TS包[j]的读出范围的区段(步骤S306)。并且,在步骤S307中,将属于读出范围[i]、[j]的区段以地址的升序排序,在步骤S308中,对驱动器指示,以使其使用排序后的地址将属于读出范围[i]、[j]的区段连续地读出。然后,如果读出了源包列,则在步骤S309中将基础视野的ATC序列、从属视野的ATC序列分别恢复,送入到基础视野用的PID过滤器、从属视野用的PID过滤器中。
如以上这样,根据本实施方式,在上述记录媒体中,在将主TS的GOP及副TS的GOP记录到记录媒体中时,扩展入口映射中的入口是从属视野图片数据且仅指向通过基本入口映射的入口指向应在相同的再生时刻被再生的基础视野图片数据。
由于由基本入口映射的入口指向的图片数据、以及由扩展入口映射的入口指向的图片数据存在于相同的区段的对中,所以只要以基本入口映射、扩展入口映射为线索访问区段,就能够将基础视野的GOP、从属视野的GOP一起再生。由此,能够消除再生开始延迟。
另外,也可以如图88(a)所示那样规定在各区段中存在1个以上的入口点。通过这样规定,能够防止如图88(b)那样从入口点到下个入口点的间隔变长,能够抑制跳跃再生等处理延迟的量。
(第4实施方式)
本实施方式关于用于从构成立体视交错流文件的数据块恢复ATC序列的改良。图55表示从构成立体视交错流文件的数据块怎样恢复ATC序列。
第4段表示构成立体视交错流文件的多个数据块,第3段表示多路复用在主TS、副TS中的源包列。
第2段表示构成从属视野的STC序列2、入口映射、构成从属视野的ATC序列2的组,第1段表示构成基础视野的STC序列1、入口映射、构成基础视野的ATC序列1的组。从第3段朝向第2段、第1段的箭头示意地表示从交错化在立体视交错流文件中的两个TS(主TS、副TS)的数据块恢复ATC序列1、ATC序列2。这些ATC序列通过片断信息中的入口映射取得与STC序列的对应。
以上是对有关本实施方式的记录媒体的说明。接着,对再生装置的详细情况进行说明。
本实施方式的再生装置的读出部为受理来自两个记录媒体的源包输入的结构,包括用于分别访问两个记录媒体的两个驱动器、以及用于将从两个驱动器输入的源包临时保存并向解码器输出的两个读缓冲器。并且,在两个驱动器与两个读缓冲器之间存在ATC序列恢复部。该ATC序列恢复部是由从1个记录媒体读出的交错流文件内的源包中分离构成基础视野的ATC序列和构成从属视野流的ATC序列、分别写入到两个读缓冲器中的单元。通过这样,再生装置能够将构成基础视野视频流的ATC序列、构成从属视野流的ATC序列如分别从不同的记录媒体读出那样处理。
图56是表示怎样进行ATC序列的恢复的图。图56(a)表示具备ATC序列恢复部的读出部的内部结构。如上所述,在两个驱动器与两个读缓冲器之间介有ATC序列恢复部。图中的箭头B0象征性地表示来自1个驱动器的源包输入,箭头B1示意性地表示构成基础视野视频流的ATC序列1的写入,箭头D1示意性地表示构成从属视野流的ATC序列2的写入。
图56(b)表示怎样处理由ATC序列恢复部得到的两个ATC序列。在图中正中间表示存在于多路分离部内的PID过滤器。左侧表示由ATC序列恢复部得到的两个ATC序列。右侧表示通过将这两个ATC序列多路分离而得到的基础视野视频流、从属视野视频流、左眼PG流、右眼PG流、基础视野IG流、从属视野IG流。
图57表示基础视野片断信息中的区段开始点信息的一例、以及从属视野片断信息中的区段开始点信息的一例。图57(a)表示基础视野片断信息的区段开始点信息和从属视野片断信息的区段开始点信息。
图57(b)表示构成ATC序列1的基础视野数据块B[0]、B[1]、B[2]…·B[n]、构成ATC序列2的从属视野数据块D[0]、D[1]、D[2]…·D[n]。图57(c)表示从属视野数据块的源包数、基础视野数据块的源包数。
图57(d)表示包含在立体视交错流文件中的多个数据块。
如图57(b)所示,如果设ATC序列2由从属视野数据块D[0]、D[1]、D[2]…·D[n]构成,则作为ATC序列2中的、从属视野数据块D[0]、D[1]、D[2]…·D[n]的相对源包数的0、b1、b2、b3、b4…bn记载在文件从属的区段开始点信息的SPN_extent_start中。
如果设ATC序列1由基础视野数据块B[0]、B[1]、B[2]…·B[n]构成,则作为基础视野数据块的相对源包数的0、a1、a2、a3、a4···an记载在文件基础的区段开始点信息的SPN_extent_start中。
图57(c)是立体视交错流文件中的任意的从属视野数据块D[x]、任意的基础视野数据块b[x]的源包数。在从属视野数据块D[x]的开头源包号码是bx、从属视野数据块D[x+1]的开头源包号码是bx+1的情况下,构成D[x]的源包数为bx+1-bx
同样,在基础视野数据块B[x]的开头源包号码是ax、基础视野数据块B[x+1]的开头源包号码是ax+1的情况下,构成B[n]的源包数为ax+1-ax
在立体视交错流文件中的最后的基础视野数据块B[n]的开头源包号码是an、ATC序列1中的源包的个数是number_of_source_packet1的情况下,构成B[n]的源包数为number_of_source_packet1-an。
在立体视交错流文件中的最后的基础视野数据块D[n]的开头源包号码是bn、ATC序列2中的源包的个数是number_of_source_packet2的情况下,构成D[n]的源包数为number_of_source_packet2-bn。
这样,从属视野数据块的开头源包号码、基础视野数据块的开头源包号码成为图57(d)所示那样。
在立体视交错流文件中,D[0]的开头SPN为“0”,B[0]的开头SPN为“b1”。
关于D[1]的开头SPN,由于为先行的D[0]的源包数b1与B[0]的源包数a1的和,所以为“b1+a1”。
关于B[1]的开头SPN,由于为先行的D[0]的源包数b1、B[0]的源包数a1、以及先行的D[1]的源包数b2-b1的和,所以为“b2+a1(=b1+a1+b2-b1)”。
关于D[2]的开头SPN,由于为先行的D[0]的源包数b1、B[0]的源包数a1、先行的D[1]的源包数b2-b1、以及B[1]的源包数a2-a1的和,所以为“b2+a2(=b1+a1+b2-b1+a2-a1)”。
关于B[2]的开头SPN,由于为先行的D[0]的源包数b1、B[0]的源包数a1、先行的D[1]的源包数b2-b1、B[1]的源包数a2-a1、以及D[2]的源包数b3-b2的和,所以为“b3+a2(=b1+a1+b2-b1+a2-a1+b3-b2)”。
图58是用于说明ATC序列1、2中的任意的数据块的源包号码的图。
考虑在图58(a)的ATC序列2中、求出存在于bx的源包号码中的D[x]的立体视交错流文件中的源包号码的情况。在此情况下,D[x]的开头源包号码为D[0]、B[0]、D[1]、B[1]、D[2]、B[2]…·D[x-1]、B[x-1]的相对源包数的源包数的总和,所以如图58(b)所示那样为“bx+ax”。
考虑在图58(a)的ATC序列1中、求出存在于ax的源包号码的B[x]的立体视交错流文件中的源包号码的情况。在此情况下,如图58(b)所示,B[x]的开头源包号码为D[0]、B[0]、D[1]、B[1]、D[2]、B[2]…·D[x-1]、B[x-1]、D[x]的相对源包数的源包数的总和,所以为“bx+1+ax”。
图58(c)表示将上述基础视野数据块作为区段的文件基础、以及将上述从属视野数据块作为区段的文件从属。
将作为对应于B[x]的文件基础的区段的EXT1[x]的开头LBN及连续长、以及作为对应于D[x]的文件从属的区段的EXT2[x]的开头LBN及连续长如以下这样求出。
为了由D[x]的开头源包号码求出LBN,通过((bx+ax)*192/2048)的计算将源包变换为LBN。同样,为了由B[x]的开头源包号码求出LBN,通过((bx+1+ax)*192/2048)的计算将源包变换为LBN。这里,“192”是将源包尺寸用字节数表示的值,“2048”是将扇区尺寸(逻辑块尺寸)用字节数表示的值。最接近于这些LBN的立体视交错流文件的区段的LBN通过将由上述变换得到的LBN用在作为函数SSIF_LBN(file_offset)的自变量的file_offset中来计算。函数SSIF_LBN是从file_offset按照SSIF的分配记述符、返回对应于file_offset的LBN的函数。
通过这样,EXT2[x]的开头LBN为SSIF_LBN((bx+ax)*192/2048),EXT1[x]的开头LBN为SSIF_LBN((bx+1+ax)*192/2048)。
另一方面,EXT2[x]的连续长为(SSIF_LBN((bx+1+ax)*192/2048)-SSIF_LBN((bx+ax)*192/2048))。EXT1[x]的连续长为(SSIF_LBN((bx+1+ax+1)*192/2048)-SSIF_LBN((bx+1+ax)*192/2048))。如果在存储器上生成表示这些开头LBN及连续长的文件入口,则能够虚拟地得到文件基础、文件从属。
通过这两个PID过滤器进行的多路分离基于第1实施方式所示的基本流选择表、扩展流选择表。该ATC序列恢复部通过制作使硬件资源执行图59的处理的程序来实现。图59表示ATC序列恢复次序。
步骤S91将基础视野用的ATC序列作为ATC序列1、将从属视野用的ATC序列作为ATC序列2。在步骤S92中,将变量x初始化为1。该变量x指示从属视野数据块、基础视野数据块。然后,重复步骤S94~步骤S96的循环。
判断由变量x指示的源包号码bx是否是由基础视野数据块的最后的数值n指示的源包号码bn(步骤S93),如果不是,则重复将从由源包号码bx+ax指示的源包(bx+ax)到由bx+1+ax指示的源包(bx+1+ax)之前的包追加到ATC序列2中(步骤S94)、将从源包(bx+1+ax)到源包(bx+1+ax+1)之前的包追加到ATC序列1中(步骤S95)、将变量x增加(步骤S96)的处理,直到判断步骤S93为是。
如果判断步骤S93为是,则从源包号码bn起将(number_of_source_packet2-bn)个源包追加到ATC序列2中(步骤S97),从源包号码an起将(number_of_source_packet1-an)个源包追加到ATC序列1中(步骤S98)。
如以上这样,如果将ATC序列1、2恢复,则在存储器上生成用扇区数表示基础视野数据块的开头LBN及连续长的文件入口,将文件基础虚拟地打开(步骤S99)。同样,在存储器上生成用扇区数表示从属视野数据块的开头LBN及连续长的文件入口,将文件从属虚拟地打开(步骤S100)。
<将文件基础打开的技术意义>
这里,在进行从任意的时刻的随机访问时,需要进行流文件内的扇区搜索。所谓扇区搜索,是在进行从任意的时刻的随机访问时、确定对应于该时刻的源包的源包号码、从包括该源包号码的源包的扇区进行文件读取的处理。
立体视交错流文件由于一个区段较大,所以扇区搜索的探索范围较大,在被命令了从任意的时刻的随机访问时,在作为读出目标的扇区的确定中需要相当长的处理时间。
这是因为,交错流文件将构成基础视野视频流的数据块和构成从属视野流的数据块交错配置而构成一条较长的区段,交错流文件的文件入口的分配记述符只不过是表示该较长的区段的开头地址的。
相对于此,文件基础由长度较短的多个区段构成,各个区段的开头地址由分配记述符表示,所以扇区搜索时的探索范围较窄,在被命令了从任意的时刻的随机访问时,作为读出目标的扇区的确定在短时间内完成。
即,构成基础视野视频流的数据块被作为文件基础的区段管理,由于数据块的开头地址由对应于文件基础的文件入口的分配记述符明确记述,所以只要从包含有随机访问位置的区段的开头地址开始扇区搜索,就能够迅速地到达包括作为随机访问位置的源包的扇区。
这样,通过将构成基础视野视频流的数据块作为文件基础的区段管理、将各区段的开头地址及连续长表示在关于文件基础的文件入口的分配记述符中,从基础视野视频流中的任意的时刻的随机访问变得高速。
具体的扇区搜索的次序为以下的次序。通过使用对应于基础视野视频流的入口映射,导出作为对应于任意的时刻的随机访问位置的源包号码。
接着,通过使用对应于基础视野视频流的片断信息内的区段开始点信息,确定包含有作为随机访问位置的源包号码的区段是哪个。
进而,只要参照对应于文件基础的文件入口的分配记述符,就能够确定包含有作为随机访问位置的源包号码的区段的开头扇区地址。通过对该开头扇区地址设定文件指针、进行文件读取并执行对所读出的源包的包解析,确定作为随机访问位置的源包号码的源包。并且,将所确定的源包号码的源包读出。由此,高效率地执行对主TS的随机访问。副TS也是同样的。
如以上这样,根据本实施方式,基于区段开始点信息,将交错流文件中的基础视野视频流的区段、从属视野视频流的区段基于区段开始点信息排列后对多路分离部、解码器供给,所以解码器及程序能够设为在记录媒体中体虚拟地存在保存有基础视野视频流的文件基础和保存有从属视野视频流的文件从属这两个文件而进行处理。
由于能够将用于立体视的基础视野视频流、从属视野视频流作为交错流文件记录到记录媒体中并且进行基础视野视频流及从属视野视频流的单体访问,所以能够提高再生装置的处理的效率。
(第5实施方式)
在本实施方式中,对将保存在BD-ROM中的3D内容再生方面的HDIM输出的问题、超分辨率方法、高帧率化方法进行说明。
(HDMI输出)首先,使用图60对3D显示/眼镜方式识别进行说明。在能够进行3D显示的播放器上连接有多个电视机的情况下,优选的是经由HDMI那样的I/F向播放器通知是否各个电视机为了3D视听而需要眼镜、此外在需要的情况下需要哪种方式的眼镜。例如,在BD播放器中,也可以进行编程,以使得如果能够直到连接目标的电视机在3D视听中需要带有主动开闭器的眼镜、则在3D再生开始前将需要带有主动开闭器的眼镜的消息通知给视听者。因此,HDMI那样的I/F优选的是能够在与通过E-EDID或InfoFrame等连接的设备间共享,以便能够将用于识别电视机在以3D显示时是否需要眼镜、此外在需要的情况下需要哪种方式的眼镜(补色型的、圆偏振型的、还是主动开闭器型的等)的信息通知给播放器。另外,如果有电视机与眼镜间的通信功能,则也可以通过将眼镜的位置信息(具体而言,是从电视机画面中央延伸的垂直线与眼镜的水平/垂直角度和距离)返回给播放器而使3D影像按照各用户适当地变更。另外,在TV-1是2D专用电视机、TV-2是3D对应电视机的情况下,作为朝向TV-1的输出,优选的是仅将向TV-2输出的右眼影像或左眼影像抽取而输出、或者显示“由TV-2进行3D再生中”、或“通过TV-1不能进行3D视听”等的通过TV-1不能进行3D视听的消息。另外,如图61所示,在将3D影像在再生中切换为2D影像的情况下,优选的是以3D影像的帧率的原状、将一方的影像双重输出。这是因为,如果发生帧率的变更则需要HDMI的认证等发生延迟。但是,在显示3D影像的情况下,考虑到因眼镜而使用户的视野变暗而电视机提高了影像的亮度,有可能为了显示2D影像而没有进行适当的处理。所以,在如图61的记作2D转录再生的区间那样将一方的影像双重输出的情况下,在将影像输出到HDMI上时,同时将意味着该影像想要进行2D影像的再生的标志转送给电视机。由此,在电视机侧能够判断出转送来的影像是2D影像,所以能够进行适合于2D影像再生的图像处理等控制。接着,使用图62说明在BD等中使用的字幕·菜单用流的相关部分。在播放器需要同时进行2D输出和3D输出的情况下,在BD-ROM中使用的Presentation Graphics(简称作PG,字幕用的流)、Interactive Graphics stream(简称作IG,菜单用的流)由于在2D影像用、3D影像用中为不同的图案,所以需要赋予单独的PID、单独地解码。但是,为了使得视听者一边观看2D显示的电视机一边操作、还是一边观看3D显示的电视机一边操作并没有差别,优选的是使显示面向2D的流(C)和面向3D的左眼/右眼用的流(L、R)的全部除了显示的图案和该图案的显示位置以外、全部的信息都一致。例如,如果是PG,则优选的是记录流以使得在C、L、R间在相同的显示时间显示相同的字幕(在C、L、R间仅字幕的图案和显示位置不同)。此外,关于IG,优选的是记录流以使得是菜单的页结构、按钮间的变迁、执行时的按钮命令等相同的菜单(在C、L、R间仅按钮的图案和显示位置不同),以便能够在对应的C、L、R的流间实现相同的菜单操作。这是为了TV-1的2D视听者及TV-2的3D视听者能够观看相同的字幕、菜单,并且从哪个电视机都能够控制菜单而需要的。播放器在2D/3D的同时输出时,也可以如图62那样将L、R、C分别合成、生成面向2D的影像输出和面向3D的影像输出。另外,在图中仅记载了IG解码器,但关于PG解码器也是同样的。此外,在2D影像输出中使用3D中的L影像,但也可以使用R影像。
(超分辨率)接着,使用图63对用于实现更平滑的2D/3D影像显示的处理进行说明。在基于以L1、R1、L2、R2、...接续的左眼(Ln)、右眼(Rn)影像连续的输入进行2D显示的电视机中,仅将L1、L2、L3、...的左眼用影像、或仅将R1、R2、R3、...的右眼用影像、仅将某一方显示。因而,到此为止,在将右眼、左眼影像同时摄影的情况下,以往只是将L2的影像使用比其在时间上靠前的影像(L1)和在时间上靠后的影像(L3)高画质化。但是,可以想到L2的影像有与L1、L3等相比相反侧的眼睛的影像R1、R2、R3包含关联性更高的影像的情况。因而,即使在2D显示的情况下,也能够通过参照不显示的一侧的影像而更好地高画质化。关于高画质化的方法这里并不关注,但一边进行2D显示一边在高画质化处理中利用不显示的一侧的单眼影像(结果是两眼影像)对于精度较高的高画质化是很重要的。在此情况下,虽然对于视听者是2D显示,但播放器与电视机之间需要作为3D连接。在HDMI那样的I/F中也需要作为3D连接认证、切换控制L/R的两眼影像以使播放器输出。另外,在基于L1、R1、L2、R2、...这样左眼(Ln)、右眼(Rn)影像连续的输入进行3D显示的电视机中,也可以想到在将各个影像高画质化时利用两眼影像是有效的。另外,还能够通过将L/R的摄像机的光学参数(摄像机间的角度、焦点距离等)记录到流中而高精度地预测进行高画质化处理的帧。
(高帧率化)接着,继续使用图63对用于实现更平滑的2D/3D影像显示的处理进行说明。特别是,在3D显示中,以分时显示方式将右眼、左眼的影像交替地显示的情况也较多,引起因显示的帧率较低带来的眼精疲劳的情况较多。进而,在因最近的电视机大画面化而影像素材自身的帧间的影像变化量较大的情况下,容易发生低帧率造成的疲劳。因此,在以3D再生的情况下,一般以影像素材的2倍、3倍的帧率进行显示。但是,即使将显示设为倍速、3倍速驱动,显示的影像自身也是相同的,依然在大画面视听时留有帧间的影像变化量造成的问题。例如,在进行倍速显示的情况下,以L1、R1、L1、R1、L2、R2、L2、R2、...进行各2次显示,但在第2次的L1、R1的显示中,通过显示通过经由高画质化电路而提高了时间分辨率的影像(L1、L2的中间影像、以及R1、R2的中间影像),能够减轻上述疲劳。换言之,通过以比素材影像的采样频率(帧率)高的采样频率生成中间影像并进行3D显示,即使在大画面下的3D视听中也能够减轻眼精疲劳而视听。
另外,在需要通过显示右眼·左眼的两眼视差进行立体显示的、视听者需要眼镜的电视机的情况下,如果右眼·左眼的视差影像比视听者的两眼间隔大,则不再作为立体成像,所以有引起视听者的眼精疲劳或3D眩晕的问题。因此,作为电视机的显示处理,优选的是将右眼·左眼的整体影像向左右移位而显示,以使右眼·左眼的视差影像不会偏差被使用的眼镜之中最小的眼镜即在视听者中最小的两眼间隔以上。也可以通过由BD的交互菜单画面使视听者输入或选择视听者的年龄或立体强度等,播放器侧在影像输出时将右眼·左眼的整体影像向左右移位而输出处理,以便能够显示适当的两眼视差。
(第6实施方式)
在本实施方式中,对在到目前为止的实施方式中表示的记录媒体的制作方式、即记录方法的形态进行说明。
有关本实施方式的记录方法能够作为实时地制作作为流文件的AV文件、作为流文件以外的文件的非AV文件来直接写入到记录媒体中的AV数据记录区域、非AV数据记录区域中的实时记录来实现。不仅如此,还包括事前制作应记录到卷区域中的比特流的整体像并基于该比特流制作母盘,压制该母盘从而量产光盘的预先格式记录。有关本实施方式的记录媒体也有还通过实时记录的记录方法、以及预先格式记录的记录方法确定的。
在通过实时记录技术实现记录方法的情况下,执行该记录方法的记录装置实时地制作AV片断,记录到BD-RE或BD-R、硬盘、半导体存储卡中。
在此情况下,AV片断既可以是记录装置通过将模拟输入信号实时编码得到的TS,也可以是记录装置通过将数字输入的TS局部化而得到的TS。执行实时记录的记录装置具备将视频信号编码而得到视频流的视频编码器、将音频信号编码而得到音频流的音频编码器、将视频流、音频流等多路复用而得到MPEG2-TS的多路复用器、以及将构成MPEG2-TS形式的数字流的TS包变换为源包的源包打包器,将变换为源包形式的MPEG2数字流保存到AV片断文件中并写入到BD-RE、BD-R等中。进行数字流的写入,并且记录装置的控制部进行在存储器上生成片断信息及播放列表信息的处理。具体而言,在由用户请求了录像处理时,控制部在BD-RE、BD-R上建立AV片断的流文件及片断信息文件。
并且,如果由从装置外部输入的TS中检测到视频流中的GOP的开头位置、或者由编码器生成了视频流的GOP,则记录装置的控制部在该GOP中,取得位于开头的帧内图片的PTS、以及保存有该GOP的开头部分的源包的包号码,将该PTS及包号码的组作为EP_PTS入口及EP_SPN入口的组,追加到片断信息文件的入口映射中。以后,每当生成GOP,就将EP_PTS入口及EP_SPN入口的组追加到片断信息文件的入口映射中。此时,在GOP的开头是IDR图片的情况下,将设定为“开启”的is_angle_change标志追加到EP_PTS入口及EP_SPN入口的组中。在GOP的开头不是IDR图片的情况下,将设定为“关闭”的is_angle_change标志追加到EP_PTS入口及EP_SPN入口的组中。
此外,关于片断信息文件中的流的属性信息,按照应记录的流的属性进行设定。如果如以上那样生成AV片断、片断信息并写入到BD-RE、BD-R中,则经由该片断信息内的基本入口映射生成定义再生路径的播放列表信息,写入到BD-RE、BD-R中。通过在实时记录技术中执行这样的处理,能够在BD-RE、BD-R上得到AV片断-片断信息-播放列表信息的层级构造。
以上是执行实时记录的记录方法的记录装置。接着,对预先格式记录的记录方法进行说明。
预先格式记录的记录方法为包括编辑工序那样的光盘的制造方法。
图64表示光盘的记录方法。图64(a)是表示预先格式记录的记录方法的流程图,表示光盘的制造方法的处理次序。光盘的制造方法包括编辑步骤、签名步骤、媒体密钥取得步骤、媒体密钥加密步骤、物理格式化步骤、识别符嵌入步骤、母盘制作步骤、复制步骤。
编辑步骤S201制作表示光盘的卷区域的整体像的比特流。
签名步骤S202在光盘的制造时对AACS LA进行签名请求。具体而言,抽取比特流的一小段,发送给AACS LA。这里,AACS LA是管理关于下一代数字家电设备中的著作物保护技术的认证的团体。使用编辑装置进行光盘的编辑的编辑站点、以及使用母盘制作装置执行母盘制作的母盘制作站点从AACS LA接受认证的提供。此外,管理媒体密钥、无效化信息。并且,从AACS LA取得被签名的比特流的一部分。
媒体密钥取得步骤S203从AACS LA取得媒体密钥。媒体密钥并不是总使用固有的密钥,如果到此为止制造出的光盘的片数达到一定片数,则更新为新的密钥。通过将媒体密钥更新,能够将特定的厂商及设备排除,即使万一加密密钥被破解,也通过使用无效化信息能够使其自身无效化。
媒体密钥加密步骤S204使用通过媒体密钥取得步骤取得的媒体密钥,将在比特流的加密中使用的密钥加密。
物理格式化步骤S205对比特流执行物理格式化。
识别符嵌入步骤S206对收录在光盘中的比特流,作为电子水印而嵌入不能由一般的设备检测到的唯一的识别符。由此,能够防止通过不正当的母盘制作进行的盗版的量产。
母盘制作步骤S207制作光盘的母盘。首先,在玻璃基板上形成光敏抗蚀剂层,对该光敏抗蚀剂层对应于希望的沟或坑而照射激光并曝光、实施显影处理。该沟或坑是表示8-16调制后的比特流的各位值的。然后,基于通过这样的激光切削形成了对应于沟或坑的凹凸的光敏抗蚀剂,制作光盘的母盘。
复制步骤S208使用光盘的母盘大量地生产作为其复制品的光盘。
图64(b)表示不是将光盘大量生产而是一般用户使用PC在BD-R、BD-RE等中记录在到目前为止的实施方式中叙述的各种文件的情况下的通过预格式记录的记录方法的处理次序。与图64(a)相比,在图64(b)的记录方法中,不存在物理格式化(步骤S205)、母盘制作(步骤S207)、复制(步骤S208),代之而存在各文件的写入工序(步骤S209)。
接着,对编辑工序进行说明。
图65是表示编辑工序的处理次序的流程图。
在步骤S101中,定义关于主TS及副TS的卷集。所谓“卷”,是保存有作为基本流的素材的数据的文件,在编辑系统中,存在于本地网络上的驱动器上。将由3D摄像机摄影的L图像或R图像、在摄影时录音的声音、通过然后的后期录音收录的声音、各语言的字幕、菜单数据化后的文件对应于这些卷。所谓“卷集”,是表示应多路复用到1个TS中的基本流的集合的、向素材文件的链接群。这里,对主TS、副TS分别定义卷集。
在步骤S102中,定义播放项目、副播放项目的原型,通过定义播放项目、副播放项目的再生顺序,定义主路径、副路径的原型。播放项目的原型的定义,通过经由GUI受理在平面视输出模式中在该播放项目中应许可再生的卷的指定、以及In_Time/Out_Time的指定来进行。副播放项目的原型的定义,通过经由GUI受理在立体视输出模式中在对应于该副播放项目的播放项目中应许可再生的卷的指定、以及In_Time/Out_Time的指定来进行。
应许可再生的卷的指定由通过复选框检查卷集中的素材文件的链接中的应许可再生的链接的GUI构成。此时,与各卷建立对应而显示数值输入栏。并且,通过该数值输入栏受理关于各卷的优先位次,将其作为对应于卷的优先位次。根据以上的应许可再生的卷的设定、以及优先位次的设定,生产流选择表、扩展流选择表。
In_Time及Out_Time的指定通过记录装置执行在GUI上将基础视野视频流或从属视野视频流的时间轴图形化而显示、在图形化的时间轴中使滑动条移动、从用户受理该滑动条的位置设定的处理来进行。
播放项目、副播放项目的再生顺序的定义通过记录装置在GUI上将播放项目的In_Time的图片缩略图化显示、从用户受理对该缩略图设定的再生顺序的操作来进行。
在步骤S103中,通过将由卷集指定的素材文件编码而得到多个基本流。这些多个基本流有基础视野视频流、从属视野视频流、以及应与这些基础视野视频流、从属视野视频流多路复用的音频流、PG流、IG流。
在步骤S104中,通过将由编码得到的基本流中的、与基础视野视频流属于相同的卷集的基本流与该基础视野视频流多路复用,得到1个主TS。
在步骤S105中,通过将由编码得到的基本流中的、与从属视野视频流属于相同的卷集的基本流与该从属视野视频流多路复用,得到1个副TS。
在步骤S106中,基于在编码及多路复用时设定的参数,生成片断信息文件的原型。
在步骤S107中,基于播放项目的原型生成播放项目信息、副播放项目信息,通过对这些播放项目信息、副播放项目信息定义再生顺序而生成主路径信息、副路径信息,定义播放列表信息。
在播放项目信息的制作中,在播放项目信息内生成流选择表,以将多路复用在主TS中的基本流中的、在播放项目的基本构造中被规定为应以平面视输出模式再生的基本流设定为可再生。此外,为了规定基础视野视频流的再生区间,将在上述编辑作业中规定的In_Time、Out_Time记载到播放项目信息中。
在副播放项目信息的制作中,在播放列表信息的扩展数据内生成扩展流选择表,以将多路复用在副TS中的基本流中的、在播放项目的基本构造中被规定为应以立体视输出模式再生的基本流设定为可再生。播放项目信息、副播放项目信息由于被基于片断信息文件内的信息定义,所以基于片断信息文件的原型设定。
在步骤S108中,将主TS、副TS、片断信息文件的原型、播放列表信息的原型变换为遵循规定的应用格式的目录文件组。
如果经过以上的过程生成主TS、副TS、片断信息、播放项目信息、副播放项目信息,则通过将主TS、副TS变换为分别独立的流文件,将片断信息变换为片断信息文件,将播放项目信息及副播放项目信息变换为播放列表信息文件,得到应记录到记录媒体中的一系列的文件集。
然后,在执行视频流的编码行程时,如果将在上述变换中得到的平面偏移值、偏移方向信息记载到各GOP的元数据中,则能够在编码的过程中制作偏移序列。
图66表示AV文件写入工序的处理次序。在实时记录的记录方法、或伴随着母盘制作、复制的记录方法的实施中,通过本图的流程图实现AV文件的写入。
在步骤S401中,建立xxxxx.ssif,在记录装置的存储器上制作文件入口。步骤S402是对能否确保空闲的连续扇区区域的判断,如果能够确保,则在步骤S403中,在空闲的连续扇区区域中将构成从属视野数据块的源包列仅写入EXT2[i],然后,执行步骤S404~步骤S408。在不能确保的情况下,在由步骤S409进行例外处理后,结束记录方法。
步骤S404~步骤S408构成了重复步骤S404~步骤S406、步骤S408的处理直到判断步骤S407为否的循环。
步骤S405在空闲的连续扇区区域中将构成基础视野数据块的源包列仅写入EXT1[i]。步骤S406将表示源包列被写入的开头地址及连续长的分配识别符追加到文件入口中,作为区段登录。随之,将指示被写入的源包列的开头源包号码的区段开始点信息追加到片断基础信息、片断从属信息内的元数据中。
步骤S407规定循环的结束条件,进行在基础视野数据块、从属视野数据块中是否存在未写入的源包的判断。如果存在,则转移到步骤S408而继续循环。如果不存在,则转移到步骤S410。
步骤S408判断是否存在连续扇区区域,如果存在,则转移到步骤S403,如果不存在,则回到步骤S402。
在步骤S410中,将xxxxx.ssif关闭,将文件入口写入到记录媒体中。在步骤S411中,建立xxxxx.m2ts,在存储器中生成xxxxx.m2ts的文件入口。在步骤S412中,将表示在文件2D中为固有的基础视野数据块的开头地址及连续长的分配记述符追加到xxxxx.m2ts的文件入口中。在步骤S413中,将xxxxx.m2ts关闭,将文件入口写入。
步骤S404是在EXTSS+EXT2D的范围内是否存在长跳跃的发生地点的判断。这里的长跳跃的发生地点设为是层边界。在EXTSS+EXT2D的范围内存在层边界的情况下,在步骤S420中,将基础视野数据块复制,将基础视野数据块B[i]ss和基础视野数据块B[i]2D写入到长跳跃发生地点之前,然后转移到步骤S406。它们为文件2D的区段、文件基础的区段。
以下,说明EXT2D、EXT1[n]、EXT2[n]、EXTSS[n]的具体的值。
决定EXT2D的下限值,以使得在2D输出模式的再生时在从各基础视野数据块到下个基础视野数据块的跳跃期间中不发生再生装置的读缓冲器的缓冲器下溢。
当从第n个基础视野数据块到第(n+1)个基础视野数据块的跳跃需要时间Tjump2D(n)、各基础视野数据块被以速度Rud2D读出到读缓冲器中、并且上述基础视野数据块被从读缓冲器向视频解码器以平均速度Rbext2D转送时,EXT2D的下限值用以下的条件1的式子表示。
<条件1>
EXT2D的下限值≥(Rud2D×Rbext2D)/(Rud2D-Rbext2D)×Tjump2D(n)
设对应于基础视野数据块B[n]ss的区段是EXT1[n]。在此情况下,决定EXT1[n]的下限值,以使得在B-D呈现模式的再生时在从各基础视野数据块到下个从属视野数据块的跳跃期间、以及从该从属视野数据块到下个基础视野数据块的跳跃期间中不发生双缓冲器的下溢。
设这里的双缓冲器由读缓冲器1、读缓冲器2构成。读缓冲器1与2D再生装置的读缓冲器是同一个。
在B-D呈现模式的再生中,设从第n个基础视野数据块到第p个从属视野数据块的跳跃需要时间TFjump3D(n),从第p个从属视野数据块到第(n+1)个基础视野数据块的跳跃需要时间TBjump3D(n)。
并且,当将各基础视野数据块向读缓冲器1以速度Rud3D读出、将各从属视野数据块向读缓冲器2以速度Rud3D读出、并且将上述基础视野数据块从读缓冲器1向视频解码器以平均速度Rbext3D转送时,EXT1[n]的下限值用以下的条件2的式子表示。将大区段的连续长设定为该下限值、或者超过该下限值的值。
<条件2>
EXT1[n]的下限值≥(Rud3D×Rbext3D)/(Rud3D-Rbext3D)×(TFjump3D(n)+EXT2[n]/(Rud3D+TBjump3D(n)))
决定EXT2的下限值,以使得在B-D呈现模式的再生时在从各从属视野区段到下个基础视野区段的跳跃期间、以及从该基础视野区段到下个从属视野区段的跳跃期间中在再生装置的双缓冲器中不发生下溢。
当从第(n+1)个基础视野数据块到第(p+1)个从属视野数据块的跳跃需要时间TFjump3D(n+1)、并且将上述从属视野流文件从读缓冲器2向解码器以平均速度Rdext3D转送时,EXT2[n]的下限值用以下的条件3的式子表示。
<条件3>
EXT2[n]的下限值≥(Rud3D×Rbext3D)/(Rud3D-Rdext3D)×(TBjump3D(n)+EXT1[n+1]/(Rud3D+TFjump3D(n+1)))
<EXTSS的具体的值>
在从某个区段的读出向下个区段跳跃时,该跳跃之前的缓冲器占用量必须是充分的。这样,在立体视交错流文件的读出时,读缓冲器需要被1个区段填充,必须避免缓冲器下溢的发生。
但是,EXTSS不仅是基于从区段向区段的跳跃期间Tjump,还需要基于Tdiff决定。这里,Tdiff是指伴随着EXTss中的从属视野数据块的预装载、以及EXTssnext中的从属视野数据块的预装载的延迟时间。以下对Tdiff的意义进行解释,在立体视交错流文件的读出时,在预装载开头的从属视野数据块的期间中不能开始再生。
在EXTss中,由于再生延迟了该从属视野数据块的预装载所需要的期间,所以在EXTss中在开头的从属视野的数据块的预装载中需要的时间成为再生相应地延迟的“延迟期间”。
相反,在EXTssnext中,在从EXTss向EXTssnext的跳跃之后进行开头的从属视野数据块的预装载,所以视频解码器的再生开始也可以延迟该期间。即,在EXTssnext的再生时,进行开头的从属视野数据块的预装载的期间成为将视频解码器再生开始延期的“延期期间”。
遵循以上,Tdiff被作为从从属视野数据块的延期期间减去延迟期间后的值导出。具体而言,进行计算以使其满足以下的式子。
Tdiff=ceil[((S1stEXT1[i]EXTSSnext]-S1stEXT1[i]EXTSS)×1000×8)/Rud72]
这里,Tdiff意味着S1stEXT2[i]EXTss的读出期间与S1stEXT2[i]EXTssnext的读出期间的差,S1stEXT2[i]EXTss是位于EXTss的最开头的EXT2[i]的尺寸,S1stEXT2[i]EXTssNEXT是位于EXTssNEXT的最开头的EXT2[i]的尺寸。EXTssnext是立体视交错流文件的区段,位于EXTss之后,与EXTss无缝再生。
如果使用该Tdiff和向EXTssnext的跳跃时间(Tjump),则可以将作为基于各区段的平均比特率的最小区段尺寸的Sextss作为满足以下的条件4的值计算。
<条件4>
SextSS[Byte]≥ceil[(Tjump+Tdiff×Rud72)/(1000×8))×(Rextss×192)/(Rud72×188-Rextss×192)]
这里,Rud72是立体视输出模式下的从BD-ROM驱动器的数据速率。
Rextss是EXTss的平均比特率,从以下的式子导出。
Rextss=ceil[Nsp×188×8/(ATCDextss/27000000)]
ATCDextss=ATCstart_extssnext-ATCstart_extss
ATCDextss=ATClast_extss-ATCstart_extss+ceil(27000000×188×8/min(Rts1,Rts2))
ATCDextss是EXTss的ATC期间。
ATCstart_EXTSS是由EXTss中的源包列的ATC场指示的最小的ATC值。
ATCstart_EXTssnext是由EXTssnext中的源包列的ATC场指示的最小的ATC值。
ATClast_EXTSS是由EXTss中的源包列的ATC场指示的最大的ATC值。
Nsp是作为主TS、副TS中的源包且具有与处于ATCDexss的范围内的ATC对应的ATC值的源包的个数。
Rts1是主TS的TS记录速率的值,其最大值是48Mbps。
Rts2是副TS的TS记录速率的值,其最大值是48Mbps。
在存在将两个播放项目连续再生的情况下,EXTss包括由Previous(之前)播放项目(播放项目1)使用的ATC序列的最初的数据字节。
·EXTss具有在条件4中定义的最小区段尺寸以上的尺寸。
·在EXTss是由Previous播放项目使用的ATC序列的最初的数据字节的情况下,Previous播放项目的连接条件信息不能设定为=5、=6。在此情况下,也可以不满足EXTss的尺寸。
EXTss包括由当前播放项目(播放项目2)使用的ATC序列的数据字节。
·EXTss具有在条件4中定义的最小区段尺寸以上的尺寸。
·在EXTss是由播放项目2使用的ATC序列的最后的数据字节的情况下,播放项目2的连接条件信息不能设定为=5、=6。在此情况下,也可以不满足EXTss的尺寸。
<基础视野数据块、从属视野数据块的记录的详细情况>
在将主TS的GOP及副TS的GOP记录到记录媒体中时,扩展入口映射中的扩展入口映射的入口是从属视野图片数据,应在相同的再生时刻被再生的基础视野图片数据仅指向由基本入口映射的入口指向的对象。
为了进行这样的指向,如以下这样进行记录处理。
在记录处理时,尝试从属视野数据块及基础视野数据块的边界、与从属视野GOP及基础视野GOP的边界的一致。该边界一致通过将副TS的GOP(i)的开头视频访问单元的访问单元分界符作为从属视野数据块的边界进行分割、将主TS的GOP(i)的开头视频访问单元的访问单元分界符作为基础视野数据块的边界进行分割来进行。在该分割时,必须满足上述区段长的限制。
在分割时,在基础视野数据块、从属视野数据块中的某个不满足不使再生装置的双缓冲器下溢那样的区段长的限制的情况下,通过在副TS的GOP(i)的开头视频访问单元的访问单元分界符之前或主TS的GOP(i)的开头视频访问单元的访问单元分界符之前插入填补包来尝试上述边界一致。
在通过上述的方法成功进行了边界一致的情况下,将指向保存有从属视野GOP的开头访问单元的访问单元分界符的源包的源包号码的入口追加到扩展入口映射中。而且,将指向保存有基础视野GOP的开头访问单元的访问单元分界符的源包的源包的入口追加到基本入口映射中。
在通过填补包插入进行的边界一致不成功、保存有从属视野GOP的开头访问单元的访问单元分界符的源包位于从属视野数据块的中途的情况下,不将指向该源包的入口追加到扩展入口映射中。同样,在保存有基础视野GOP的开头访问单元的访问单元分界符的源包位于基础视野数据块的中途的情况下,不将指向该源包的入口追加到扩展入口映射中。
通过将这样的入口从扩展入口映射中排除,能够保障基础视野、从属视野的组必定由基本入口映射、扩展入口映射的入口指向。
在基础视野数据块、从属视野数据块的记录后生成入口映射的处理通过从记录的立体视交错流文件中检测GOP开头、将指向该GOP开头的入口追加到入口映射中的处理来实现。参照图58说明通过GOP开头检测及入口追加来制作基本入口映射、扩展入口映射的次序。
图67是表示基本入口映射及扩展入口映射的制作次序的流程图。
在步骤S601中,在存储器上生成基本入口映射及扩展入口映射的雏形,转移到步骤S602~步骤S610的循环。在该循环中,变量x是指示GOP的,在该循环中,将变量x初始化为1(步骤S602),确定GOP(x)的开头(步骤S603),确定对应于GOP的开头PTS(x)的SPN(x)(步骤S604)。然后,执行步骤S605、步骤S607的判断。步骤S605是SPN(x)是否是EXT1[i]的开头的判断,如果不是开头,则将步骤S606~步骤S609跳过。如果是开头,则在步骤S606中确定在开头中具有对应于PTS(x)的SPN(y)的EXT2[j]。
步骤S607是确定EXT1[i]的变量i是否与确定EXT2[j]的变量j一致的判断,如果不一致,则将以后的处理跳过。如果一致,则将表示PTS(x)-SPN(x)的组的EP_entry(x)追加到基本入口映射中(步骤S608),将表示PTS(x)-SPN(y)的组的EP_entry(x)追加到扩展入口映射中(步骤S609)。
步骤S610判断变量x是否指示最后的GOP,如果不是最后,则将变量x增加而转移到步骤S603。
<索引表的生成方法>
第3实施方式所述的索引表可以如以下这样生成。在图59的流程图中,通过制作基础视野视频流、从属视野视频流、片断信息文件、播放列表信息文件,判明应记录到记录媒体中的各播放列表的显示频率。将它们中的、由起始播放标题使用的播放列表的分辨率·显示频率、或者由标题号码0~999指示的标题的播放列表的分辨率·显示频率设定为索引表的BDMV应用信息中的视频格式信息及帧率信息。通过这样,将在播放列表再生时应采用的分辨率·显示频率设定在索引表中。
图68是表示BD-J应用、BD-J对象、电影对象、索引表的制作次序的流程图。步骤S701通过面向对象的编程制作对再生装置命令关于播放列表的播放器实例的生成的源程序,在步骤S702中,进行这样制作的源程序的编译及档案化,制作BD-J应用。
步骤S703是BD-J对象的制作工序,步骤S704使用命令播放列表再生的命令记述电影对象。在步骤S705中,通过记述标题号码与BD-J对象的对应而制作索引表,在步骤S706中选择作为起始播放标题的播放列表。在步骤S707中,制作表示起始播放标题中的播放列表的视频格式、视频速率的BDMV应用信息,在步骤S708中制作包括标题索引、BDMV应用信息的索引表。在步骤S709中,将BD-J对象、BD-J应用、电影对象、索引表写入到记录媒体中。
对通过以上的记录制作成的记录媒体进行说明。
图69表示多层化的光盘的内部结构。
第1段表示多层化的光盘的一例,第2段是将存在于各记录层上的螺旋轨道沿水平方向拉伸来描绘的图。这些记录层中的螺旋轨道被作为1个连续的卷区域处理。卷区域由位于最内周的导入区、位于最外周的导出区、以及存在于其之间的第1记录层的记录区域、第2记录层的记录区域、第3记录层的记录区域构成。这些第1记录层的记录区域、第2记录层的记录区域、第3记录层的记录区域构成1个连续的逻辑地址空间。
卷区域从开头起以访问光盘的单位被分配连续号码,将该号码称作逻辑地址。从光盘的数据的读出通过指定逻辑地址来进行。这里,在BD-ROM那样的只读盘的情况下,基本上逻辑地址连续的扇区在光盘上的物理的配置中也连续。即,逻辑地址连续的扇区的数据能够不进行搜寻而读出。但是,在记录层的边界,即使逻辑地址连续,也不能进行连续的读出。因此,将层边界的逻辑地址预先登录到记录装置中。
卷区域在导入区域之后记录文件系统管理信息,接着,存在由文件系统管理信息管理的分区区域。所谓文件系统,是将盘上的数据用称作目录或文件的单位表现的机制,在BD-ROM的情况下通过UDF(Universal Disc Format)进行记录。在日常使用的PC(个人计算机)的情况下,也通过经由称作FAT或NTFS的文件系统、用目录或文件的构造将记录在硬盘中的数据在计算机上表现,提高了使用性。通过该文件系统,能够与通常的PC同样将记录的逻辑数据使用目录、文件构造读出。
第4段表示由文件系统管理的文件系统区域的区域分配。在文件系统区域中的内周侧,存在非AV数据记录区域。在非AV数据记录区域之后存在AV数据记录区域。第5段表示这些非AV数据记录区域及AV数据记录区域的记录内容。在AV数据记录区域中存在构成AV文件的区段。在非AV数据记录区域中,存在构成AV文件以外的非AV文件的区段。
图70表示以文件系统为前提的光盘的应用格式。
BDMV目录是记录有用BD-ROM处理的TS及管理信息等的数据的目录。在BDMV目录的属下,存在称作“PLAYLIST目录”、“CLIPINF目录”、“STREAM目录”、“BDJO目录”、“JAR目录”的5个子目录,在BDMV目录中,配置有“index.bdmv”、“MovieObject.bdmv”这两种文件。
“index.bdmv(文件名固定)”保存有索引表。
“MovieObject.bdmv(文件名固定)”保存有1个以上的电影对象。电影对象是在以命令解释器为控制主体的动作模式(HDMV模式)中、规定再生装置应进行的控制次序的程序文件,包括1个以上的命令、以及在由用户进行了对GUI的菜单调用、标题调用的情况下规定是否屏蔽这些调用的屏蔽标志。
在“BDJO目录”中,存在被赋予了扩展名bdjo的程序文件(xxxxx.bdjo[“xxxxx”可变,扩展名“bdjo”固定])。该程序文件保存有规定在BD-J模式中再生装置应进行的控制次序的BD-J对象。
对应于该Java(注册商标)应用的实体的,是保存在BDMV目录属下的JAR目录中的Java(注册商标)档案文件(YYYYY.jar)。
应用例如是Java(注册商标)应用,由装载在虚拟机的堆区域(也称作工作存储器)中的1个以上的xlet程序构成。由装载在该工作存储器中的xlet程序及数据构成应用。
在“PLAYLIST目录”中,存在被赋予了扩展名mpls的播放列表信息文件(xxxxx.mpls[“xxxxx”可变、扩展名“mpls”固定])。
在“CLIPINF目录”中,存在被赋予了扩展名clpi的片断信息文件(xxxxx.clpi[“xxxxx”可变、扩展名“clpi”固定])。
构成存在于以上的目录中的文件的区段被记录到非AV数据区域中。
“STREAM目录”是保存有流文件的目录,在本目录中,以xxxxx.m2ts([“xxxxx”可变、扩展名“m2ts”固定])的形式保存有流文件。
上述那样的文件在分区区域中形成在物理上连续的多个扇区上。分区区域由“记录有文件集记述符的区域”、“记录有终端记述符的区域”、“ROOT目录区域”、“BDMV目录区域”、“JAR目录区域”、“BDJO目录区域”、“PLAYLIST目录区域”、“CLIPINF目录区域”、“STREAM目录区域”构成,通过文件系统访问的区域。以下对这些区域进行说明。
“文件集记述符”包括指示目录区域中的、记录有ROOT目录的文件入口的扇区的逻辑块号码(LBN)。“末端记述符”表示文件集记述符的末端。
接着,对目录区域的详细情况进行说明。上述那样的多个目录区域都具有共通的内部结构。即,“目录区域”由“文件入口”、“目录文件”、以及“关于下位文件的文件记录区域”构成。
“文件入口”包括“记述符标签”、“ICB标签”、以及“分配记述符”。
“记述符标签”是表示自身是文件入口的标签。
“ICB标签”表示关于文件入口自身的属性信息。
“分配记述符”包括表示目录文件的记录位置的逻辑块号码(LBN)。以上是对文件入口的说明。接着,对目录文件的详细情况进行说明。
“目录文件”包括“关于下位目录的文件识别记述符”、以及“下位文件的文件识别记述符”。
“下位目录的文件识别记述符”是用于访问处于自身的属下的下位目录的参照信息,由表示该下位目录的识别信息、该下位目录的目录名的长度、表示下位目录的文件入口记录在哪个逻辑块号码中的文件入口地址、以及该下位目录的目录名构成。
“下位文件的文件识别记述符”是用于访问处于自身的属下的文件的参照信息,由表示该下位文件的识别信息、该下位文件名的长度、表示关于下位文件的文件入口记录在哪个逻辑块号码中的文件入口地址、以及下位文件的文件名构成。
想这些目录的目录文件飞文件识别记述符中,表示了下位目录及下位文件的文件入口记录在哪个逻辑块中,所以只要沿着该文件识别记述符,就能够从ROOT目录的文件入口到达BDMV目录的文件入口,此外能够从BDMV目录的文件入口到达PLAYLIST目录的文件入口。同样,也能够到达JAR目录、BDJO目录、CLIPINF目录、STREAM目录的文件入口。
所谓“下位文件的文件记录区域”,是记录有处于某个目录的属下的下位文件的实体的区域,记录有关于该下位文件的“文件入口”、以及1个以上的“区段”。
作为本申请的主要着眼点的流文件是存在于该文件归属的目录的目录区域内的文件记录区域,通过沿着目录文件的文件识别记述符、以及文件入口中的分配识别符能够进行访问。
(第7实施方式)
在本实施方式中,对综合了在到目前为止的实施方式中说明的再生装置的功能的、2D/3D再生装置的内部结构进行说明。
图71表示2D/3D再生装置的结构。2D/3D再生装置由BD-ROM驱动器1、读缓冲器2a、读缓冲器2b、开关3、系统目标解码器4、平面存储器组5a、平面合成部5b、HDMI收发部6、再生控制部7、存储器、寄存器组203、程序执行部11、程序存储器12、HDMV模组13、BD-J平台14、中间件15、模式管理模组16、用户事件处理部17、本地存储设备18、非易失性存储器19构成。
BD-ROM驱动器1与2D再生装置同样基于来自再生控制部7的请求从BD-ROM盘读出数据,但将从BD-ROM盘读出的AV片断转送给读缓冲器2a或读缓冲器2b。
在将3D影像再生时,从再生控制部7发出指示将基础视野数据块和从属视野数据块以区段单位交替地读出的读出请求。BD-ROM驱动器1将构成基础视野数据块的区段读出到读缓冲器2a中,将构成从属视野数据块的区段读出到读缓冲器2b中。在将3D影像再生时,由于需要将基础视野数据块和从属视野数据块的两者同时读入,所以被要求2D再生装置的BD-ROM驱动器以上的速度性能。
读缓冲器2a是将BD-ROM驱动器1读入的基础视野数据块的数据保存的由双通道存储器等构成的缓冲器。
读缓冲器2b是将BD-ROM驱动器1读入的从属视野数据块的数据保存的由双通道存储器等构成的缓冲器。
开关3是用于将对读缓冲器的数据输入源切换为BD-ROM驱动器1或本地存储设备18的某个的开关。
系统目标解码器4对被读出到读缓冲器2a中的源包和被读出到读缓冲器2b中的源包进行多路分离处理,进行流的解码处理。
平面存储器组5a由多个平面存储器构成。在平面存储器中,有左视野视频平面、右视野视频平面、次要视频平面、IG平面、PG平面等。
平面合成部5b进行在到目前为止的实施方式中说明的平面合成。在向电视机等的输出的情况下,进行匹配于3D的方式的输出。在需要利用开闭器眼镜交替地再生左眼图像·右眼图像的情况下原样进行输出,在向例如双凸透镜的电视机输出的情况下准备临时的缓冲器,将先转送来的左眼图像保存到临时缓冲器中,在转送来右眼图像后同时输出。
HDMI收发部6通过例如HDMI规格(HDMI:High Definition Multimedia Interface)执行第1实施方式中所述的协商阶段。在协商阶段中,能够从电视机获取关于是否对应于立体视显示的信息、关于能够进行平面显示的分辨率的信息、关于能够进行立体显示的分辨率的信息。
再生控制部7包括再生引擎7a、再生控制引擎7b,如果被从程序执行部11等命令3D播放列表的再生,则在3D播放列表之中确定作为再生对象的播放项目的基础视野数据块,确定与该播放项目同步再生的3D用的副路径的副播放项目的从属视野数据块。然后,解释对应的片断信息文件的入口映射,基于表示从哪个区段开始先配置区段的区段开始类型,对BD-ROM驱动器1请求,以使其从再生开始地点起将基础视野数据块的区段和从属视野数据块的区段交替地读出。在再生开始时,在将最初的区段读出到读缓冲器2a或读缓冲器2b中之后,从读缓冲器2a和读缓冲器2b向系统目标解码器4开始转送。
再生引擎7a执行AV再生功能。所谓AV再生功能,是从DVD再生装置、CD再生装置沿袭的功能群,是再生开始、再生停止、暂停、暂停的解除、静止图像功能的解除、以直接值指定再生速度的快进、以直接值指定再生速度的回退、声音切换、次要视频用的图片数据切换、角度切换等处理。
再生控制引擎7b根据从作为HDMV模式的动作主体的命令解释器、作为BD-J模式的动作主体的Java平台的函数调用,执行播放列表的再生功能。所谓播放列表再生功能,是指将上述AV再生功能中的、再生开始及再生停止按照构成当前播放列表的当前播放列表信息、当前片断信息进行。
存储器是用于保存当前播放列表信息及当前片断信息的存储器。所谓当前播放列表信息,是指能够从BD-ROM或内建媒体驱动器、可移除媒体驱动器访问的多个播放列表信息中的、作为当前处理对象的播放列表信息。所谓当前片断信息,是指能够从BD-ROM或内建媒体驱动器、可移除媒体驱动器访问的多个片断信息中的、作为当前处理对象的片断信息。
再生状态/设定寄存器(Player Status/Setting Register)组10除了在到目前为止的实施方式中叙述的再生状态寄存器、再生设定寄存器以外,还包括能够保存程序文件利用的任意的信息的通用寄存器。
程序执行部11是执行保存在BD程序文件中的程序的处理器。按照所保存的程序进行动作,进行以下这样的控制。(1)对再生控制部7命令播放列表再生。(2)对系统目标解码器转送用于菜单或游戏的图形的PNG、JPEG,显示在画面上。这些可以根据程序的制作而自由地进行,怎样控制由编辑工序的BD-J应用的编程工序决定。
程序存储器12是保存当前动态脚本、对作为HDMV模式的动作主体的HDMV模组、作为BD-J模式的动作主体的Java平台的处理提供的存储器。所谓当前动态脚本,是指记录在BD-ROM中的Index.bdmv、BD-J对象、电影对象中的作为当前执行对象的数据。此外,程序存储器12包括堆存储器。
堆存储器是配置系统应用的字节码、BD-J应用的字节码、系统应用利用的系统参数、BD-J应用利用的应用参数的堆栈区域。
HDMV模组13具备命令解释器,通过将构成电影对象的导航命令解读并执行,执行HDMV模式的控制。
BD-J平台14是作为BD-J模式的动作主体的Java平台,将Java2Micro_Edition(J2ME)Personal Basis Profile(PBP 1.0)、以及Globally Executable MHP specification(GEM1.0.2)for package media targets完全安装,由类装载器、字节码解释器、应用管理器构成。
类装载器是系统应用之一,通过从存在于JAR档案文件中的类文件读出字节码、保存到堆存储器31中,进行BD-J应用的装载。
字节码解释器是所谓的Java虚拟机,将保存在堆存储器中的构成BD-J应用的字节码、构成系统应用的字节码变换为本机码,使MPU执行。
应用管理器是系统应用之一,基于BD-J对象内的应用管理表而起动BD-J应用或结束BD-J应用等,进行BD-J应用的应用信号传递。以上,结束对BD-J平台部的内部结构的说明。
中间件15是用于装入软件的的操作系统,由内核、设备驱动器构成。内核根据来自BD-J应用的应用编程接口(API)的调用,对BD-J应用提供再生装置特有的功能。此外,实现通过中断信号起动中断处理部等的硬件控制。
模式管理模组16保持从BD-ROM或内建媒体驱动器、可移除媒体驱动器读出的Index.bdmv,进行模式管理及分支控制。模式管理模组进行的模式管理,是使BD-J平台22、HDMV模组的哪个执行动态脚本的、模组的分配。
用户事件处理部17应答于通过遥控器的用户操作,对程序执行部16或再生控制部7委托处理的执行。例如,在遥控器上按下了按钮的情况下,对程序执行部16委托以使其执行包含在该按钮中的命令。例如,在遥控器上按下了快进/回退按钮的情况下,对再生控制部7命令对于当前再生中的播放列表的AV片断的快进/回退处理的执行。
本地存储设备18具备用于访问硬盘的内建媒体驱动器、用于访问半导体存储卡的可移除媒体驱动器,用于下载的追加内容及应用使用的数据等的保存。追加内容的保存区域被按照BD-ROM划分,此外,应用能够用于数据的保持的区域被按照应用划分。
非易失性存储器19是可读写的存储器等的记录媒体,是即使不被供给电源也能够保持记录内容的媒体、例如闪存存储器、FeRAM等。它用于寄存器组203的存储内容的备份。
(第8实施方式)
以下的实施方式是用于实施与作为本申请的优先权主张的基础的专利申请的申请书中附带的说明书及附图所示的发明相同的发明(以下称作本发明)的方式。
首先,说明关于有关本发明的记录媒体的实施行为中的使用行为的形态。图72(a)是表示关于有关本发明的记录媒体的使用行为的形态的图。在本图中,有关本发明的记录媒体是BD-ROM101。该BD-ROM101用于对由再生装置102、电视机103、遥控器104形成的家庭影院系统供给电影作品的用途。
以上是关于有关本发明的记录媒体的使用形态的说明。
接着,对作为有关本发明的记录媒体的BD-ROM的、用于保存2D影像的数据构造进行说明。
图72(b)是表示BD-ROM的结构的图。
在本图的第4段中表示BD-ROM101,在第3段中表示BD-ROM上的轨道。本图的轨道将从BD-ROM101的内周朝向外周以螺旋状形成的轨道沿横方向伸展来描绘。BD-ROM101与其他光盘、例如DVD或CD等同样,从其内周朝向外周以螺旋状具有记录区域,在内周的导入区与外周的导出区之间具有能够记录逻辑数据的卷区域。卷区域从开头起以访问光盘的单位被分配连续号码,将该号码称作逻辑地址。从光盘的数据的读出通过指定逻辑地址来进行。这里,逻辑地址定义为在光盘上的物理的配置中也连续。即,逻辑地址连续的数据能够不进行搜寻而读出。此外,在导入区的内侧具有称作BCA(Burst Cutting Area)的仅能够由驱动器读出的特别的区域。由于该区域不能被应用读出,所以经常被用于例如著作权保护技术等。
在卷区域中,从开头起记录有文件系统的卷信息,接着记录有影像数据等的应用数据。所谓文件系统,是将盘上的数据用称作目录或文件的单位表现的机制,在BD-ROM101的情况下通过UDF(Universal Disc Format)进行记录。在日常使用的PC(个人计算机)的情况下,也通过经由称作FAT或NTFS的文件系统,用称作目录或文件的构造将记录在硬盘中的数据在计算机上表现,提高了使用性。通过该文件系统,能够与通常的PC同样将记录的逻辑数据使用目录、文件构造读出。
在BD-ROM101上的目录、文件构造中,在根目录(ROOT)之下放置有BDMV目录。BDMV目录是记录有由BD-ROM101处理的AV内容及管理信息等的数据的目录。在BDMV目录的属下,存在定义构成标题的索引表的索引文件(index.bdmv)、PLAYLIST目录、CLIPINF目录、STREAM目录、BDJO目录、JAR目录。多路复用并保存有影像、声音等AV内容的AV片断(XXX.M2TS)、保存有AV片断的管理信息的片断信息文件(XXX.CLPI)、定义AV片断的逻辑的再生路径的播放列表文件(YYY.MPLS)、保存有用于定义动态脚本的程序的BD程序文件(AAA.PROG)分别被配置在上述STREAM目录、CLIPINF目录、PLAYLIST目录之下。
以下,对置于BDMV目录属下的各文件的数据构造进行说明。
首先,对索引文件(Index.bdmv)进行说明。索引文件具有图72(c)所示的索引表。索引表是定义保存在BD-ROM中的全部标题、顶层菜单、FirstPlay等标题结构的最上位层的表。在该表中,指定了全部的标题、顶层菜单、从FirstPlay最先执行的程序文件。BD-ROM的再生机每当调用标题或菜单时参照索引表而执行规定的BD程序文件。这里,所谓FirstPlay,是由内容提供商设定的,设定了在盘投入时被自动执行的BD程序文件。此外,顶层菜单指定了当通过用遥控器的用户操作执行了“返回菜单”那样的命令时被调用的电影对象、BDJ对象。
BD程序文件(AAA.PRG)保存有被从标题指定、执行的程序。程序的文件有多个,前缀(AAA)被用于识别程序。这里使用的程序在蓝光盘的情况下使用称作命令导航的独立规格的解释器方式的程序,但语言方式并不是本发明的本质,所以也可以是Java或JavaScrip那样的通用的编程语言。指定通过该程序再生的播放列表。
接着,对AV片断(XXX.M2TS)和片断信息文件(XXX.CLPI)进行说明。
AV片断是MPEG-2传输流形式的数字流。
图73(a)是表示AV片断的结构的图。如本图所示,AV片断可以通过将视频流、音频流、呈现图形流(PG)、交互图像流中的1个以上多路复用而得到。视频流表示电影的主影像及副影像,音频流(IG)表示电影的主声音部分和与该主声音混合的副声音,呈现图形流表示电影的字幕。这里,所谓主影像,表示显示在画面中的通常的影像,所谓副影像,是在主影像之中用较小的画面显示的影像。此外,交互图形流表示通过在画面上配置GUI零件而制作的对话画面。视频流被使用MPEG-2、MPEG-4AVC、或、SMPTE VC-1等的方式进行编码记录。音频流被用杜比AC-3、Dolby Digital Plus、MLP、DTS、DTS-HD、或线性PCM的等的方式压缩编码记录。
对视频流的结构进行说明。在MPEG-2、MPEG-4AVC、SMPTE VC-1等的动画压缩编码中,利用运动图像的空间方向及时间方向的冗余性进行数据量的压缩。作为利用时间方向的冗余性的方法,使用图片间预测编码。在图片间预测编码中,在将某个图片编码时,将在显示时间顺序上处于前方或后方的图片作为参照图片。并且,检测从该参照图片运动量,通过对进行了运动补偿的图片与编码对照的图片的差值去除空间方向的冗余度而进行数据量的压缩。
这里,将不具有参照图片而仅使用编码对象图片进行图片内预测编码的图片称作I图片。所谓图片,是包括帧及场两者的1个编码的单位。此外,将参照已处理的1张图片进行图片间预测编码的图片称作P图片,将同时参照已处理的两张图片进行图片间预测编码的图片称作B图片,在B图片之中,将被从其他图片参照的图片称作Br图片。此外,这里将帧构造的情况下的帧、场构造的场称作视频访问单元。
包含在AV片断中的各流通过PID识别。例如,分别对用于电影的影像的视频流分配排列x1011,对音频流分配排列x1100到0x111F,对呈现图形分配排列x1200到0x121F,对交互图形流分配排列x1400到0x141F,对用于电影的副影像的视频流分配排列x1B00到0x1B1F,对用于与主声音混合的副声音的音频流分配排列x1A00到0x1A1F。
图73(b)是示意地表示AV片断被怎样多路复用的图。首先,将由多个视频帧构成的视频流501、由多个音频帧构成的音频流504分别变换为PES包列502及505、变换为TS包503及506。同样,将呈现图形流507及交互图形510的数据分别变换为PES包列508及511、再变换为TS包509及512。AV片断S513通过将这些TS包多路复用到1条流中而构成。
图74(a)更详细地表示在PES包列中怎样保存视频流。本图的第1段表示视频流的视频帧列。第2段表示PES包列。如本图的箭头yy1、yy2、yy3、yy4所示,视频流中的多个作为Video Presentation Unit的I图片、B图片、P图片被按照图片分割,保存到PES包的有效负载中。各PES包具有PES头,在PES头中,保存有作为图片的显示时刻的PTS(Presentation Time-Stamp)、以及作为图片的解码时刻的DTS(Decoding Time-Stamp)。
图74(b)表示最终被写入到AV片断中的TS包的形式。TS包是由具有识别流的PID等的信息的4Byte的TS头、以及保存数据的184Byte的TS有效负载构成的188Byte固定长的包,在上述中说明的PES包被分割而保存到TS有效负载中。在BD-ROM的情况下,对TS包赋予4Byte的TP_Extra_Header,构成192Byte的源包,写入到AV片断中。在TP_Extra_Header中记载ATS(Arrival_Time_Stamp)等的信息。ATS表示该TS包的向后述的系统目标解码器1503的PID过滤器的转送开始时刻。在AV片断中如图74(b)下段所示那样排列源包,将从AV片断的开头起增加的号码称作SPN(源包编号)。
此外,在包含在AV片断中的TS包中,除了影像、声音、字幕等的各流以外,还有PAT(Program Association Table)、PMT(Program Map Table)、PCR(Program Clock Reference)等。PAT表示在AV片断中利用的PMT的PID是什么,以PAT自身的PID排列登录。PMT具有包含在AV片断中的影像、声音、字幕等的各流的PID和对应于各PID的流的属性信息,还具有关于AV片断的各种描述符。在描述符中有指示许可/不许可AV片断的复制的复制控制信息等。PCR为了取得作为ATS的时间轴的ATC(Arrival Time Clock)与作为PTS、DTS的时间轴的STC (System Time Clock)的同步而具有对应于该PCR包被向解码器转送的ATS的STC时间的信息。
图75(a)是详细地说明PMT的数据构造的图。在PMT的开头,配置有记述有包含在该PMT中的数据的长度等的PMT头。在其之后配置有多个关于AV片断的描述符。将上述复制控制信息等作为描述符记载。在描述符之后,配置有多个关于包含在AV片断中的各流的流信息。流信息由用于识别流的压缩编解码器等的流类型、流的PID、记载有流的属性信息(帧率、纵横比等)的流描述符构成。流描述符以存在于AV片断中的流的数量存在。
片断信息文件如图75(b),是AV片断的管理信息,与AV片断一一对应,由片断信息、流属性信息和入口映射构成。
片断信息如图75(b)所示,由系统速率、再生开始时刻、再生结束时刻构成。系统速率表示AV片断的、向后述的系统目标解码器的PID过滤器的最大转送速率。设定包含在AV片断中的ATS的间隔,以使其为系统速率以下。再生开始时刻是AV片断的开头的视频帧的PTS,再生结束时刻设定为对AV片断的末端的视频帧的PTS加上1帧的再生间隔后的值。
流属性信息如图76(a)所示,按照PID登录有关于包含在AV片断中的各流的属性信息。属性信息按照视频流、音频流、呈现图形流、交互图形流而具有不同的信息。视频流属性信息具有该视频流被怎样的压缩编解码器压缩、构成视频流的各个图片数据的分辨率是多少、纵横比是多少、帧率是多少等的信息。音频流属性信息具有该音频流被怎样的压缩编解码器压缩、包含在该音频流中的声道数是多少、对应于哪种语言、采样频率是多少等的信息。这些信息被用于播放器进行再生之前的解码器的初始化等。
入口映射如图76(b)所示,是记载有入口映射头信息1101、表示包含在AV片断内的视频流的各I图片的显示时刻的PTS、以及各I图片开始的AV片断的SPN的表信息。这里,将用表的1行表示的成对的PTS和SPN的信息称作入口点。此外,将设开头为0而按照各入口点增加的值称作入口点ID(以下记作EP_ID)。通过使用该入口映射,再生机能够确定对应于视频流的时间轴上的任意的地点的AV片断的文件位置。例如,在快进/回退的特殊再生时,通过确定选择登录在入口映射中的I图片并再生,能够不解析AV片断而高效率地进行处理。此外,将入口映射按照多路复用在AV片断内的各视频流制作、通过PID管理。此外,在入口映射中,在开头保存入口映射头信息1101,在这里保存对应的入口映射指示的视频流的PID及入口点数等的信息。
接着,对播放列表文件(YYY.MPLS)进行说明。
播放列表是表示AV片断的再生路径的。如图77(a)所示,播放列表由1个以上的播放项目1201构成,各播放项目表示对于AV片断的再生区间。各播放项目1201分别用播放项目ID识别,在播放列表内以应被再生的顺序记述。此外,播放列表包含有表示再生开始点的入口标记1202。入口标记1202能够对由播放项目定义的再生区间内赋予,如图77(a)所示,对播放项目添加在有可能成为再生开始点的位置,用于起点定位再生。例如,在电影标题中,通过将入口标记1202赋予在作为章节的开头的位置,能够进行章节再生。另外,这里将一系列的播放项目的再生路径定义为主路径1205。
使用图77(b)对播放项目的内容进行说明。在播放项目中,包括再生的片断信息1301、再生开始时刻1302及再生结束时刻1303、连接条件1310、流选择表1305。再生开始时刻和再生结束时刻是时间信息,所以再生机参照片断信息文件的入口映射,取得对应于被指定的再生开始时刻及再生结束时刻的SPN,确定读出开始位置而进行再生处理。
连接条件1310表示前方播放项目和连接类型。在播放项目的连接条件1310是“1”的情况下,表示不能保证播放项目指示的AV片断与该播放项目之前的播放项目指示的AV片断无缝连接。在播放项目的连接条件1310是“5”或“6”的情况下,能够保证播放项目指示的AV片断与该播放项目之前的播放项目指示的AV片断无缝连接。在连接条件1310是“5”的情况下,在播放项目间STC的连续性也可以中断,即,与连接前播放项目的AV片断终端的视频显示时刻相比,连接后播放项目的AV片断开头的视频显示时刻开始时刻可以不连续。但是,需要将AV片断制作为,使得在将连接前播放项目的AV片断输入到后述的系统目标解码器1503的PID过滤器中之后、接着将连接后播放项目的AV片断输入到系统目标解码器1503的PID过滤器中而再生时、系统目标解码器1503的解码不会失败。此外,有连接前播放项目的AV片断的音频的末端帧与连接后播放项目的音频的开头帧在再生时间轴上必须重叠等的限制条件。此外,在连接条件1310为“6”的情况下,在将连接前播放项目的AV片断与连接后播放项目的AV片断结合时必须能够作为1条AV片断再生。即,在连接前播放项目的AV片断与连接后播放项目的AV片断间STC连续,此外ATC也连续。
流选择表1305由多个流入口1309构成,流入口1309由流选择号码1306、流路径信息1307、流识别信息1308构成。流选择号码1306是从包含在流选择表中的流入口1309的开头起依次增加的号码,为了播放器中的流识别而使用。流路径信息1307是表示由流识别信息1308表示的流被多路复用到哪个AV片断中的信息,例如,如果是“主路径”,则表示对应的播放项目的AV片断,如果是“副路径ID=1”,则表示在该副路径ID表示的副路径中、与对应的播放项目的再生区间相对应的副播放项目的AV片断。关于副路径在下节中说明。流识别信息1308是PID等的信息,表示多路复用在参照的AV片断中流。此外,在流入口1309中还同时记录有各流的属性信息。这里所谓属性信息,是表示各流的性质的信息,例如在音频、呈现图形、交互图形的情况下包括语言属性等。
播放列表如图77(c)所示,可以具有1个以上的副路径。副路径被以登录在播放列表中的顺序分配ID,作为副路径ID,是为了识别副路径而使用的。副路径表示与主路径同步再生的一系列的再生路径。副播放项目与播放项目同样,具有再生的片断信息1301、再生开始时刻1302及再生结束时刻1303,副播放项目的再生开始时刻1302和再生结束时刻1303用与主路径相同的时间轴表示。例如,在登录在播放项目#2的流选择表1305中的流入口1309用副路径ID=0表示呈现图形1的情况下,在副路径ID=0的副路径之中,将在同步于播放项目#2的再生区间而再生的副播放项目#2的AV片断之中多路复用的呈现图形1在播放项目#2再生区间中再生。此外,在副播放项目中,存在具有与播放项目的连接条件相同的意义的SP连接条件的场。SP连接条件为“5”或“6”的副播放项目边界的AV片断需要遵守与连接条件“5”或“6”相同的上述条件。
以上是作为有关本发明的记录媒体的BD-ROM的、用于保存2D影像的数据构造。
接着,对将有关本发明的保存2D影像的BD-ROM再生的再生装置(2D再生装置)进行说明。
图78(a)表示2D再生装置1500的结构。2D再生装置1500由BD-ROM驱动器1501、读缓冲器1502、系统目标解码器1503、程序记录存储器1504、管理信息记录存储器1505、程序执行部1506、再生控制部1507、播放器变量1508、用户事件处理部1509、平面加法部1510构成。
BD-ROM驱动器1501基于来自再生控制部1507的请求从BD-ROM盘读出数据。分别将从BD-ROM盘读出的AV片断向读缓冲器1502、将索引文件、播放列表文件、片断信息文件向管理信息存储器1505、将电影对象文件向程序存储器1504转送。
读缓冲器1502是将使用BD-ROM驱动器读入的数据保存的由存储器等构成的缓冲器,管理信息存储器1505是将索引文件、播放列表文件、片断信息文件的管理信息保存的由存储器等构成的缓冲器,程序记录存储器1504是将电影对象文件保存的由存储器等构成的缓冲器。
系统目标解码器1503对读出到读缓冲器1502中的源包进行多路分离处理,进行流的解码处理。包含在AV片断中的流的解码所需要的、编解码器种类及流属性等的信息被从再生控制部1507转送。系统目标解码器1503将解码后的主影像视频流、副影像视频流、交互图形流、呈现图形流写到作为各自的平面存储器的主影像平面、副影像平面、交互图形平面(IG平面)、呈现图形平面(PG平面)中。此外,系统目标解码器1503将解码后的主声音流、副声音流混合,向扬声器等输出。此外,系统目标解码器1503进行将从程序执行部1506转送来的用于显示在菜单等上的JPEG、PNG等的图形数据解码、写到图像平面中的处理。关于系统目标解码器1503的详细情况在后面叙述。
用户事件处理部1509对经由遥控器的用户操作进行应答,对程序执行部1506或再生控制部1507委托处理的执行。例如,在遥控器上按下了按钮的情况下,对程序执行部1506委托以使其执行包含在该按钮中的命令。例如,在遥控器上按下了快进/回退按钮的情况下,对再生控制部1507命令,以使其执行对当前再生中的播放列表的AV片断的快进/回退处理。
再生控制部1507具有控制BD-ROM驱动器1501和系统目标解码器1503、控制AV片断的再生的功能。再生控制部1507基于来自程序执行部1506的再生命令、或来自用户事件处理部1509的通知,解释播放列表信息而控制AV片断的再生处理。此外,再生控制部1507进行播放器变量1508的设定及参照,进行再生动作。
播放器变量1508具有表示播放器的状态的系统参数(PSR)、以及能够作为一般用途使用的普通参数(GPRM)。
图78(b)是系统参数(PSR)的一览。
PSR0:语言代码
PSR1:主声音流号码
PSR2:字幕流号码
PSR3:角度号码
PSR4:标题号码
PSR5:章节号码
PSR6:程序号码
PSR7:小区号码
PSR8:选择键信息
PSR9:导航定时器
PSR10:再生时刻信息
PSR11:卡拉OK用混合模式
PSR12:家长用国家信息
PSR13:家长管理等级
PSR14:播放器设定值(视频)
PSR15:播放器设定值(音频)
PSR16:声音流用语言代码
PSR17:声音流用语言代码
PSR18:字幕流用语言代码
PSR19:字幕流用语言代码
PSR20:播放器地区代码
PSR21:2D/3D输出模式的用户优先选择
PSR22:当前的2D/3D输出模式
PSR23:显示器的3D影像显示能力
PSR24:3D影像再生能力
PSR25:保留
PSR26:保留
PSR27:保留
PSR28:保留
PSR29:保留
PSR30:保留
PSR31:保留
PSR10每当将属于AV片断的各图片数据显示时被更新。即,只要再生装置显示新的图片数据,就将PSR10更新为表示该新的图片数据的显示时刻(PTS)的值。只要参照该PSR10,就能够知道当前的再生时刻。
PSR16的声音流用语言代码及PSR18的字幕流用语言代码是能够由播放器的OSD等设定的项目,表示播放器的默认的语言代码。例如,可以在BD程序文件中嵌入如果PSR16的声音流用语言代码是英语、则在再生播放列表后、从播放项目的流选择表之中找出具有相同的语言代码的流入口、选择该声音流并再生的功能。
此外,再生控制部1507一边检查系统参数的状态一边再生。此外,PSR1、PSR2、PSR21、PSR22分别表示声音流号码、字幕流号码、副影像流、副声音流的号码,这些值对应于上述流选择号码606。例如,假设由程序执行部1506变更了声音流号码PSR1。再生控制部1507从当前再生的播放项目的流选择表605之中,与流选择号码606比较,参照一致的流入口609而切换再生的声音流。这样,切换将哪个声音、字幕、副影像流再生。
程序执行部1506是执行保存在BD程序文件中的程序的处理器。按照所保存的程序进行动作,进行如下的控制。(1)对再生控制部1506命令播放列表再生。(2)对系统目标解码器转送用于菜单或游戏的图形的PNG、JPEG而显示在画面上。这些可以根据程序的制作而自由地进行,怎样控制由编辑工序的BD程序文件的编程工序决定。
平面加法部将主影像平面、副影像平面、交互图形平面、呈现图形平面、图像平面瞬间叠加,显示在电视机等的画面上。
接着,参照图79对系统目标解码器1503进行说明。
源包解包器将转送给系统目标解码器1503的源包解释,取出TS包并向PID过滤器送出。在该送出时,根据各源包的ATS调节向解码器的输入时刻。具体而言,在ATC计数器生成的ATC的值与源包的ATS值变位相同的瞬间,按照AV片断的记录速率,仅将该TS包转送给PID过滤器。
PID过滤器将从源包解包器输出的TS包中的、TS包的PID与再生所需要的PID一致者,按照PID,向主影像视频解码器、副影像视频解码器、IG解码器、PG解码器、声音解码器、副声音解码器转送。例如,在BD-ROM的情况下,在包含在TS包中的PID是0x1011的情况下向主影像视频解码器、在PID是0x1B00到0x1B1F的情况下向副影像视频解码器、在PID是0x1100到0x111F的情况下向主声音解码器、在PID是0x1A00到0x1A1F的情况下向副声音解码器、在PID是0x1200到0x121F的情况下向PG解码器、在PID是0x1400到0x141F的情况下向IG解码器转送。
主影像视频解码器由TB(TransportStreamBuffer;传输流缓冲器)1701、MB(Multiplexing Buffer;多路复用缓冲器)1702、EB(ElementaryStreamBuffer;基本流缓冲器)1703、压缩影像解码器1704、DPB(Decoded Picture Buffer;解码图片缓冲器)1705构成。
TB1701是在将包含视频流的TS包从PID过滤器1702输出时、以TS包的原状暂时储存的缓冲器。
MB1702是在从TB1701向EB1702输出视频流时、用于将PES包临时储存的缓冲器。在从TB1701向MB1702转送数据时,将TS包的TS头去除。
EB1703是将处于编码状态的图片(I图片、B图片、P图片)保存的缓冲器。在从MB1702向EB1703转送数据时,将PES头去除。
压缩影像解码器1704通过将视频基本流的各个视频访问单元按照规定的解码时刻(DTS)解码而制作帧/场图像。在多路复用在AV片断中的视频流的压缩编码形式中有MPEG2、MPEG4AVC、VC1等,所以根据流的属性来切换压缩影像解码器1704的解码方法。压缩影像解码器1704将解码后的帧/场图像向DPB1705转送,以显示时刻(PTS)的定时将对应的帧/场图像写到主影像平面中。
DPB1705是将解码后的帧/场图像暂时保持的缓冲器。在压缩影像解码器1704将被图片间预测编码的P图片或B图片等的视频访问单元解码时、为了参照已经被解码的图片而使用。
副影像视频解码器具有与主影像视频解码器同样的结构,进行被输入的副影像视频流的解码,以显示时刻(PTS)的定时将图片写到副影像平面中。
IG解码器从由源包打包器输入的TS包中提取交互图形流并解码,将非压缩的图形数据以显示时刻(PTS)的定时写到IG平面中。
PG解码器从由源包打包器输入的TS包中提取呈现图形流并解码,将非压缩的图形数据以显示时刻(PTS)的定时写到PG平面中。
主声音解码器具有缓冲缓冲器,一边将数据储存到缓冲器中,一边将TS头、PES头等的信息去除,进行声音流的解码处理,得到非压缩的LPCM状态的音频数据,以再生时刻(PTS)的定时向声音混合器输出。在多路复用在AV片断中的音频流的压缩编码形式中有AC3、DTS等,所以根据流的属性而切换压缩声音的解码化方式。
副声音解码器具有与主声音解码器同样的结构,进行被输入的副声音流的解码,以显示时刻的定时将非压缩的LPCM的状态的音频数据输出给声音混合器。在多路复用在AV片断中的音频流的压缩编码形式中有Dolby Digital Plus、DTS-HDLBR等,所以根据流的属性切换压缩声音的解码方式。
声音混合器将从主声音解码器输出的非压缩声音数据与从副声音解码器输出的非压缩声音数据混合(声音的叠加),向扬声器等输出。
图像处理器将从程序执行部转送来的图形数据(PNG、JPEG)解码,按照被从程序执行部指定的显示时刻输出给图像平面。
以上是有关本发明的2D再生装置的结构。
(3D再生的原理)
接着,使用图80说明通过家庭用显示器进行立体视的原理。作为实现立体视的方法,有使用全息技术的方法、以及使用视差图像的方式这大体两种。
首先,作为第1个全息技术的特征,虽然能够将物体作为立体再生以使其与人间通常辨识物体完全相同,但关于运动图像生成,虽然建立了技术性的理论,但是需要伴随着实施生成全息用的运动图像的庞大的运算量的计算机、以及具有在1mm之间引出几千条线的分辨率的显示器设备,目前的技术下的实现非常困难,几乎没有作为商用而实用化的例子。
在第2个使用视差图像的方式中,是分别准备进入到右眼中的影像、以及进入到左眼中的影像、进行立体视以使仅对应的图片进入到各个眼睛中的方法。图80是从上方观察用户观看处于脸的中央的延长线上的、较小的立方体的状况的图,右上的图表示左眼观看的情况下的例子,右下的图表示右眼观看相同的立方体的情况下的例子。
该方式的优点是仅通过最多准备右眼用和左眼用的两个视点的影像就能够实现立体视,在技术上,从如何使对应于左右的各个眼睛的图像仅由对应的眼睛看到的观点出发,一些技术得以实用化。
一个是称作继时分离方式的技术,通过用户经由继时型立体眼镜(带有液晶开闭器)观察在显示器上作为左眼用及右眼用而在时间轴方向上交替地显示的影像,通过眼睛的残像反应将左右的场景叠加,作为立体影像辨识。更详细地讲,在显示器上显示有左眼用的影像的瞬间,上述继时型立体眼镜使对应于左眼的液晶开闭器为透过、对应于右眼的液晶开闭器遮光。在显示器上显示有右眼用的影像的瞬间,与之前相反,使对应于右眼的液晶开闭器为透过,使对应于左眼的液晶开闭器遮光。在该方式中,为了使左右的影像在时间轴方向上交替地显示,例如相对于如果是通常的2维的电影则每1秒显示24张影像,左右的影像合计需要每1秒显示48张影像。因而,在该方式中,适合于一个画面的改写较快的显示器,但只要是1秒钟能够改写规定的磁束的显示器就可以,并没有限定。
此外,作为另外的方法,有以下方式:相对于在前面的继时分离方式中将左右的图片在时间轴方向上交替地输出,通过在一画面中的纵向上将左眼用的图片和右眼用的图片同时交替地排列,在显示器表面上经由称作双凸透镜的椭圆形的透镜将构成左眼用的图片的像素仅成像在左眼中,将构成右眼用的图片的像素仅成像在右眼中,使左右的眼睛看到有视差的图片,而能够作为3D观看。另外,不仅是双凸透镜透镜,也可以使用具有同样的功能的设备、例如液晶元件,此外也可以在左眼用的像素上设置纵偏光的过滤器、在右眼用的像素上设置横偏光的过滤器、视听者通过使用对左眼用设置了纵偏光、对右眼用设置了横偏光的过滤器的偏光眼镜观看显示器而能够实现立体视。
这种使用视差图像的立体视已经在游乐场的游乐设施等中普遍地使用,在技术上也已经确立了,所以可以说最接近于家庭中的实用化。另外,用于使用视差图像的立体视的方法除此以外还提出了非接触模式颜色分离方式等各种各样的技术,在本实施的例子中,使用继时分离方式或偏光眼镜方式为例进行说明,但只要使用视差图像就可以,并不限定于这两种方式。
在本实施的例子中,对将用于立体视的视差图像保存到信息记录媒体中的方法进行说明。这里,设为将保存有左眼用的画面的影像称作“左眼影像”、将保存有右眼用的画面的影像称作“右眼影像”、将两者的影像称作“3D影像”。(2D/3D显示的切换)
接着,对作为有关本发明的记录媒体的BD-ROM的、用于保存3D影像的数据构造进行说明。
数据构造的基本部分与用于保存3D影像的数据构造是相同的,以扩展或不同的部分为中心进行说明。将对于保存有3D影像的BD-ROM仅能够再生2D影像的再生装置设为2D再生装置、将2D影像和3D影像哪种都能够再生的再生装置设为2D/3D再生装置进行说明。
以下,对用于再生立体视影像的BD-ROM中的索引文件(Index.bdmv)进行说明。图98是表示用于再生立体视影像的BD-ROM中的索引文件的一例的图。在该图的例子中,作为播放列表而准备记载有再生2D影像的路径的2D播放列表2601、以及记载有再生立体视影像的路径的3D播放列表2602。由用户选择标题并执行的BD程序文件在程序之中调查再生装置是否对应于立体视影像再生、还有在对应于立体视影像再生的情况下用户是否选择了立体视影像再生,切换再生的播放列表。
此外,在索引文件中,准备“3D存在标志”和“2D/3D偏好标志”。3D存在标志是识别在标题上是否存在用于再生3D影像的播放列表的标志,在它是FALSE(伪)的情况下,2D/3D再生装置不需要进行立体视影像再生的准备,所以通过省去HDMI认证等的处理而能够高速地进行处理。2D/3D偏好标志是在播放器和电视机在2D和3D下都能够再生的状态中、表示内容提供商希望以2D再生还是希望以3D再生的识别符。在该标志表示“3D”的情况下,由于不需要变迁为2D,所以能够较快地进行HDMI认证。一般在播放器与电视机的HDMI的认证中如果帧率等的视频流属性不同则发生较大延迟。由此,在先变迁为2D影像的再生后变迁为3D影像的再生的情况下,发生较大的延迟。所以,如果这样通过使用2D/3D偏好标志省去2D影像的再生变迁,则能够避免HDMI认证的延迟时间。
另外,“3D存在标志”和“2D/3D偏好标志”也可以不是对索引文件整体设定、而能够按照标题设定。
图99表示BD程序文件的程序中的2D播放列表和3D播放列表的选择流程。
在S2701中,检查PSR24的值,在值为0的情况下,该再生装置是2D再生装置,所以再生2D播放列表,在值是1的情况下,前进到S270。
在S2702中,显示菜单画面,对用户询问希望2D影像的再生还是希望3D影像的再生。在用户的通过遥控器等的选择的结果是希望2D影像的再生的情况下再生2D播放列表,在希望3D影像的再生的情况下前进到S2703。
在S2703中,检查显示器是否对应于3D影像的再生。例如,用HDMI进行连线,再生装置对显示器询问是否对应于3D影像再生。在不对应于3D影像的再生的情况下再生2D播放列表,但也可以通过菜单画面等对用户提示电视机侧的准备没有妥善的消息。在对应于3D影像的再生的情况下再生3D播放列表。
此外,在2D再生装置中,能够在PSR13中设定家长管理等级,由此,能够进行控制以使得只有适当的年龄以上的用户能够再生对应的BD-ROM盘,但除此以外,在2D/3D再生装置中,还准备了3D家长管理等级PSR30。在3D家长管理等级中,与PSR13同样保存有使用2D/3D再生装置的用户的年龄。BD-ROM盘的标题的BD程序文件除了PSR13以外还使用该PSR30判断是否进行再生。PSR30是关于3D影像再生的家长管理等级,所以在2D影像再生中通过PSR13控制家长管理等级。通过这样设置两个家长管理等级,能够考虑到对年幼的成长中的儿童的身体的影响,进行例如“不想使年幼的儿童观看3D影像,但可以观看2D影像”那样的控制。例如,在图99的流程中,也可以在S2703中为是之后,参照PSR30来选择再生的播放列表。
另外,在PSR30中与PSR13同样保存年龄信息,但也可以在PSR30中单单设定是否禁止3D影像。
此外,将表示“用户偏好2D/3D的哪种进行再生”的信息同样设定到系统参数(这里设为PSR31)中。在PSR31中,用户经由2D/3D再生装置的OSD等设定用户想要将2D/3D的哪种优先再生。在显示器对应于3D影像再生的情况下使用PSR31的信息,假如在以3D影像为优先的情况下,不需要变迁为2D影像,所以能够较快地进行HDMI认证,能够较快地进行3D影像的再生处理。此外,BD程序通过参照该PSR31决定是再生2D还是再生3D,能够进行符合用户的偏好的再生处理。
另外,BD程序也可以参照PSR31来决定BD程序显示的菜单的默认选择按钮。例如,在提示“再生2D影像”、“再生3D影像”的分支的菜单的情况下,如果PSR31的值是“2D”,则将光标对准于“2D影像再生”的按钮,如果PSR31的值是“3D”,则将光标对准于“3D影像再生”的按钮。
另外,由于“用户偏好2D/3D的哪种进行再生”按照再生的用户而不同,所以如果在2D/3D再生装置中有确定谁正在观看的手段,则也可以匹配于当前观看的用户而设定PSR31。例如,设想家族3人(父、母、子)使用2D/3D再生装置,2D/3D再生装置有按照各用户管理账户的情况。在此情况下,通过根据登录的用户更新PSR31,能够进行对应于实际使用的人的偏好的控制。
另外,也可以将表示“用户偏好2D/3D的哪种进行再生”的信息不是2D还是3D的2选1,而设置水平。例如,也可以分为“总是2D”、“偏向2D”、“偏向3D”、“总是3D”的4个级别。通过这样,能够进行2D/3D再生装置的再生处理以使其更符合用户的偏好。例如,在设定作为表示再生装置的状态的系统参数的PSR25那样的情况下,如果PSR31为“总是2D”则总是将PSR25也设定为2D模式,PSR31为“总是3D”则总是将PSR25设定为3D模式(L/R模式或DEPTH模式)。
接着,使用图81对呈现图形的结构进行说明。如图81那样显示的字幕入口由多个字幕数据入口构成。各字幕数据入口由组成信息、窗口信息、调色板信息、对象信息构成。组成信息是定义字幕数据的画面构成的信息,保存有对象的裁剪信息、裁剪后的对象的显示位置、确定参照的窗口的窗口ID、确定参照的调色板的调色板ID、确定参照的调色板的对象ID。在窗口信息中,与窗口ID一起保存有定义解码器描绘的区域的窗口区域。在对象信息中,与对象ID一起保存有图形图像。图形图像是由256色的索引色构成的图像数据,被使用游程长压缩等的压缩方法压缩。在调色板信息中,与调色板ID一起保存有在对象中使用的颜色表信息(CLUT)。表能够保存256色,一个个的颜色能够用颜色ID参照。颜色ID取0到255的值,但255被分配给固定的无色透明。
图82是说明呈现图形的解码处理的流程的图。首先,在STEP1中,通过组成信息的参照对象ID指定各字幕数据入口,将压缩的图形图像解码。接着,在STEP2中,使用组成信息的裁剪信息将图形图像裁剪,仅将需要的数据裁出。接着,在STEP3中,按照组成信息的显示位置决定向图形平面的显示位置。接着,在STEP4中,以由组成信息的参照窗口ID指定的窗口信息的窗口区域的范围在图形平面上描绘对象数据。接着,在STEP5中,使用由组成信息的参照调色板ID指定的调色板信息,对图形平面上色而进行显示。另外,进行显示的定时在保存组成信息的PES包的PTS的定时进行。
接着,对字幕显示的改良进行说明。
在PG平面中采用1plane+Offset方式的情况下,为了制作字幕数据,需要匹配于视频影像的进深而调节偏移元数据,所以有数据制作较困难的问题。
所以,以下对利用在画面中没有被用于电影的正编影像的黑框并将该黑框区域集中到上侧或下侧来在那里显示字幕数据的方法进行说明。
由于插入在视频流中的黑框为无用的区域,所以也可以在这里显示字幕,但如图4(a)的右图所示,由于在上下分别仅有131像素的黑框,所以对于放入字幕数据稍小。所以,如图4(b)、图4(c)那样,通过将正编影像向上或下移位、在移位后的区域中插入黑色,将处于上下的黑框集中到上或下。通过这样,能够准备足够放入字幕数据的大小的黑框。
下面,接着对用于实现该概念的数据构造进行说明。
数据构造的基本部分与在到目前为止的实施方式中说明的用于保存3D影像的数据构造是相同的,所以以扩展或不同的部分为中心进行说明。此外,以后进行对PG的说明,但该方法通过将PG替换为IG或副影像而同样能够采用。
图83表示3D播放列表的播放项目的结构,在流选择表的PG流的流附加信息1311中,包括“视频上移动时移位值(PG_v_shift_value_for_Up)”、“视频上移动时移位值(PG_v_shift_value_for_Down)”。“视频上移动时移位值(PG_v_shift_value_for_Up)”是主影像平面向上方移位的情况下(黑框集中到下侧的情况下)的PG平面的移位量,“视频上移动时移位值(PG_v_shift_value_for_Down)”是主影像平面向下方移位的情况下(黑框集中到下侧的情况下)的PG平面的移位量。2D/3D再生装置基于该值调节PG平面的移位量。关于平面的合成方法的详细情况在后面叙述。
接着,对2D/3D再生装置进行说明。图84表示2D/3D再生装置内的平面合成的结构。这里,作为代表而以PG平面为例进行说明,但在副影像平面、IG平面、图像平面等的哪个平面中都能够适用。
在图84所示的2D/3D再生装置内的平面合成中,包括进行2D/左眼影像平面和右眼影像平面的裁剪处理的影像平面裁剪部9701、记述视频的移位模式的PSR32、进行PG平面的裁剪处理的PG平面裁剪部9702、记述PG平面等各平面的移位量的PSR33。
图25(a)的PSR32是表示视频的移位模式(video_shift_mode)的2D/3D再生装置的系统参数。在PSR32的video_shift_mode中,存在Keep、Up、Down的3个模式,如果PSR32的值是0则表示Keep,如果PSR32的值是1则表示Up,如果SRPM(32)的值是2则表示Down。影像平面裁剪部9701按照记述在PSR32中的视频的移位模式进行影像平面的裁剪处理。PSR32的值通过BD程序的API或命令设定。
在PSR32表示Keep的情况下,如图25(b)的(1)所示,影像平面裁剪部9701不变更2D/左眼影像平面和右眼影像平面,原样前进到与其他平面的叠加处理。在PSR32表示Up的情况下,如图25(b)的(2)所示,影像平面裁剪部9701将2D/左眼影像平面和右眼影像平面将各自的平面向上方错移,将上区域的黑框切掉,在下区域中插入黑框,前进到与平面的叠加处理。由此能够将黑框集中到平面的下方。此外,在PSR32表示Down的情况下,如图25(b)的(3)所示,影像平面裁剪部9701将2D/左眼影像平面和右眼影像平面将各自的平面向下方错移,将下区域的黑框切掉,在上区域中插入黑框,前进到与平面的叠加处理。由此能够将黑框集中到平面的上方。
图36是表示各平面的纵轴方向的移位量的系统参数(这里设为PSR33)。PSR33的移位量按照平面而准备视频向上方移位的情况下的平面移位量、以及视频向下方移位的情况下的平面移位量。例如,对于PG平面,准备PG_shift_value_for UP、PG_shift_value_for_Down。该值通过流切换,将PSR33的值用设定在播放列表中的值(PG_v_shift_value_for_Up、PG_v_shift_value_for_Down)更新。此外,PSR33也可以通过BD程序的API或命令来设定。
图84所示的PG平面裁剪部9702根据PSR33的PG平面的移位量执行平面的移位。关于PG平面裁剪部9702的移位处理及与影像平面的合成处理,在图11和图38中记述。如图11所示,在PSR32的video_shift_mode是Keep的情况下,PG平面裁剪部9702不进行处理而原样进行与影像平面的合成处理。如图38(a)所示,在PSR32的video_shift_mode是Up的情况下,PG平面裁剪部9702使用保存在PSR33中的PG_shift_value_for_Up的值进行PG平面的移位处理,将在平面伸出的部位切掉,与影像平面叠加。通过这样,能够使字幕的显示位置处于比2D再生时靠下侧,能够在下侧出现的黑框的区域中将字幕显示在适当的位置上。如图38(b)所示,在PSR32的video_shift_mode是Down的情况下,PG平面裁剪部9702使用保存在PSR33中的PG_shift_value_for_Down的值进行PG平面的移位处理,将在平面伸出的部位切掉,与影像平面叠加。通过这样,能够使字幕的显示位置处于比2D再生时靠上侧,能够在上侧出现的黑框的区域中将字幕显示在适当的位置上。
另外,在图84中省略了控制跃出的横轴方向的偏移处理(1平面+偏移方式),但也可以追加通过横轴方向的偏移值的裁剪处理的机制。通过这样,即使是显示在黑框中的字幕,也能够实现跃出。
另外,在显示在图84那样的黑框中的字幕的情况下,横轴方向的偏移值也可以设为固定。在此情况下,也可以在图83的附加信息中定义x轴方向的移位量、将该值用与PSR33同样的方法保存到PSR中、使用该值进行横轴方向的偏移处理。通过这样,能够简单地进行数据制作。
另外,在图84中说明的平面合成的结构中,将Y轴方向的移位量保存到PSR33中,但也可以不设置系统参数,而做成PG平面裁剪部9702直接参照播放列表的结构。
另外,video_shift_mode是Up或Down的情况下的影像平面的移位量也可以固定为处于上下的黑框的尺寸(在图4的例子中是131像素)固定,但也可以根据编辑者或用户偏好而设定。也可以新准备系统参数、在那里保存移位量、通过BD程序或播放器OSD来设定。
另外,在图84中说明的平面合成的结构中,说明了使用保存在PSR33中的值将平面整体移位的处理,但也可以作为对保存到PG的组成信息中的显示位置追加的值使用。例如,在PG的组成信息的显示位置是(x,y)的情况下,在video_shift_mode是Keep的情况下,PG解码器将对应的字幕数据入口显示在(x,y+PG_shift_value_for_UP)的位置上。通过这样,能够比将平面移位减轻处理量。另外,在这样利用的情况下,也可以将PG_shift_value_for_UP保存到组成信息中。
另外,如图39所示,在video_shift_mode是Up、Down的情况下,通过将平面移位而产生被切掉的区域,所以也可以进行显示以使得在被切掉的区域中不存在字幕数据。即,如图39的右侧所示,除了用点线包围的区域以外都有可能被切掉,所以限制PG的显示位置以使得在这里不显示字幕数据。区域的坐标可以用(0,PG_v_shfit_value_for_Down)、(0,height+PG_v_sfhit_value_for_Up)、(width,PG_v_shfit_value_for_Down)、(width,height+PG_v_sfhit_value_for_Up)表示。如果设例如PG_v_sfhit_value_for_Up为-a、例如PG_v_sfhit_value_for_Down为+b,则区域为(0,b)、(0,height-a)、(width,b)、(width,height-a)。作为PG的限制,有显示位置不超过上述区域、对显示位置加上显示的对象的尺寸后的位置不超过上述区域、窗口的显示位置不超过上述区域、对窗口的显示位置加上窗口尺寸后的位置不超过上述区域等。通过这样限制,能够防止字幕被缺失地显示。
另外,如图85所示,也可以将video_shift_mode追加到流选择信息的流附加信息1311中。在此情况下,2D/3D再生装置的平面合成处理的结构成为图86那样。在图86中追加了PSR34。它保存表示是否进行视频移位的On/Off的标志。即,如果PSR34是1,则意味着进行视频移位,如果是0,则意味着不进行视频移位。作为视频移位的On/Off的标志的PSR34由程序执行部通过菜单等控制。也可以通过播放器的OSD等的用户操作来设定。在PSR32中保存视频移位模式,该值通过PG的流的选择、基于被选择的字幕流的附加信息而设定。影像平面裁剪部9701在PSR34是On的情况下,基于设定在PSR32中的video_shift_mode进行影像平面的裁剪处理。在PSR34是Off的情况下不进行裁剪处理。通过这样构成,能够按照字幕设定适当的video_shift_mode。
另外,如图85所示,在将video_shift_mode保存到流选择信息的流附加信息1311中的情况下,进行登录在流选择表中的PG流的顺序调整,以使video_shift_mode为相同属性的流固定。在2D/3D再生装置的遥控器上一般带有字幕切换按钮,定义了每当用户按下字幕切换按钮、就以登录在流选择表中的字幕流的顺序依次切换的用户操作。在用户通过该遥控器的字幕切换按钮切换字幕的情况下,视频平面如果向上、下频繁运动则不易看到影像,对用户带来别扭感。因而,登录在流选择表中的PG流的顺番如图13所示那样固定排列,以使相同的video_shift_mode连续。例如,在图13的例子中,字幕入口1~3是video_shift_mode=Keep,字幕入口4~5是video_shift_mode=Up,字幕入口6~9是video_shift_mode=Down。通过这样将相同的视频移位模式的字幕固定排列,能够防止视频平面频繁地移位。
另外,在video_shift_mode以Keep、Up、Down变化的情况下,如果瞬间切换,则对用户带来不自然的印象。由此,在Keep、Up、Down变迁的情况下,改变为平滑的效果来变迁是优选的。另外,在此情况下,PG平面的移位处理优选的是在视频平面的移位完成后采用。
另外,在本实施方式中,说明了动态地将黑框集中到上或下的区域中的方法,但也可以如图87上段那样,将正编影像不是配置在正中间、而配置在稍上侧来制作视频流、在下侧较多配置黑框而将该区域用于字幕显示。通过这样,也可以不为了字幕显示而动态地变更黑框,所以视频不会上下移动,所以可以不给用户带来不适感。
另外,如使用图81的图说明那样,在PG的流的调色板信息中,颜色ID=255被固定地分配无色透明的颜色,但也可以是2D/3D再生装置控制该值而制作黑框字幕。具体而言,在系统参数PSR37中保存颜色ID=255的色的值,2D/3D再生装置根据PSR37来变更PG平面的颜色ID=255的颜色。通过这样,如果如图87下段左图那样将字幕的背景色设为颜色ID=255,则通常是透明色而可透过看到背景,但如果如图87下段右图那样将颜色ID=255变更为没有透过度的颜色,则能够改变字幕的背景色。PSR37的值可以通过BD程序的菜单画面等设定。
(第9实施方式)
在本实施方式中,对使用集成电路3实现将在上述实施方式中说明的构造的数据再生的再生装置的结构例(图100)进行说明。
媒体IF部1从媒体接收(读出)数据,向集成电路3转送。另外,媒体IF部1从媒体接收在上述实施方式中说明的构造的数据。媒体IF部1例如在媒体为光盘或硬盘的情况下是盘驱动器,在媒体为SD卡或USB存储器等的半导体存储器的情况下是卡IF,在媒体为包括CATV等的广播波的情况下是CAN调谐器或Si调谐器,在媒体为以太网、无线LAN、无线公共线路等的网络的情况下是网络IF等。
存储器2是将从媒体接收的(读出的)数据临时保存、将集成电路3中的处理中途的数据临时保存的存储器,例如使用SDRAM(Synchronous Dynamic Random Access Memory;同步动态随机访问存储器)、DDRx SDRAM(Double-Date-Ratex Synchronous Dynamic Random Access Memory;x=1、2、3…)等。另外,存储器2可以具备任意的个数,根据需要既可以是单个也可以是多个。
集成电路3是对从媒体IF部1转送的数据实施影像、声音处理的系统LSI,由主控制部6、流处理部5、信号处理部7、存储器控制部9、AV输出部8等构成。
主控制部6具备具有定时器功能及中断功能的处理器核,处理器核按照保存在程序存储器等中的程序进行集成电路3整体的控制。另外,在程序存储器等中预先保存OS等基本软件。
流处理部5在主控制部6的控制下,接收从媒体经由媒体IF部1转送来的数据,经由集成电路3内的数据总线保存到存储器2中,将接收到的数据分离为影像类数据、声音类数据。如上所述,媒体上的数据是将包含左视野视频流的2D/L用的AV片断和包含右视野视频流的R用的AV片断以分割为一些区段的状态下交替地配置的。因而,主控制部6进行控制,以使得在集成电路3接收到包含左视野流的左眼用数据的情况下将数据保存到存储器2的第1区域中、在接收到包含右视野视频流的右眼用数据的情况下将数据保存到存储器2的第2区域中。这里,左眼用数据属于左眼用区段,右眼用数据属于右眼用区段。另外,存储器2中的第1、第2区域既可以是将单一的存储器在逻辑上进行区域分割而成的,也可以是在物理上不同的存储器。此外,在本实施方式中,设包含左视野视频流的左眼用数据为主视野数据、包含右视野视频流的右眼用数据为副视野数据而继续说明,但也可以右眼用数据是主视野数据、左眼用数据是副视野数据。此外,在媒体中,图形流多路复用在主视野数据及副视野数据的某一个或两者中、或作为单独的流存在。
信号处理部7在主控制部6的控制下,对流处理部5分离后的影像类数据、声音类数据以适当的方式进行解码。影像类数据被使用MPEG-2、MPEG-4AVC、MPEG4-MVC、SMPTE VC-1等的方式编码记录,此外,声音类数据被以杜比AC-3、Dolby Digital Plus、MLP、DTS、DTS-HD、线性PCM等的方式压缩编码记录,所以信号处理部7以对应于它们的方式进行解码。另外,信号处理部7的模组例如相当于第1实施方式的图16中的各种解码器。
存储器控制部9调解从集成电路3内的各功能块向存储器2的访问。
AV输出部8在主控制部6的控制下,将在信号处理部7中解码后的影像类数据叠加、或进行影像类及数据的格式变换等,向集成电路3外输出。
图101是表示流处理部5的代表性结构的功能模块图。流处理部5具备设备·流IF部51、多路分离部52、切换部53等。
设备·流IF部51是媒体IF部1与集成电路3间的数据转送用接口,例如在媒体为光盘或硬盘的情况下是SATA(Serial Advanced Technology Attachment)、ATAPI(Advanced Technology Attachment Packet Interface)、PATA(Parallel Advanced Technology Attachment),在媒体为SD卡或USB存储器等的半导体存储器的情况下是卡IF,在媒体为包括CATV等的广播波等的情况下是调谐器IF,在媒体为以太网、无线LAN、无线公共线路等的网络的情况下是网络IF等。另外,根据媒体的种类,设备·流IF部51也可以担负媒体IF部1的功能的一部分,媒体IF部1也可以内置在集成电路3中。
多路分离部52将从媒体转送来的包括影像、声音的再生数据分离为影像类数据和声音类数据。上述各区段由影像、声音、PG(字幕)、IG(菜单)等的各源包构成(其中,也有副视野数据不包含声音的情况),按照包含在各源包中的PID(识别符),分离为影像系、声音系的各TS包,向信号处理部7转送。将已处理的数据直接或先保存到存储器2中之后向信号处理部7转送。另外,多路分离部52的模组例如相当于第8实施方式的图79中的源包解包器、PID过滤器。此外,将没有多路复用在主视野数据或副视野数据中的作为单独的流存在的图形流不经由多路分离部52而向信号处理部7转送。
切换部53切换输出目的地(保存目的地),以使得当设备·流IF部51接收到左眼用数据时保存到存储器2的第1区域中、当接收到右眼用数据时保存到存储器2的第2区域中。这里,切换部53例如是DMAC(Direct Memory Access Controller;直接存储器访问控制器)。图102是切换部53为DMAC的情况下的切换部53周边的概念图。DMAC在主控制部6的控制下,将设备·流IF部接收到的数据和其数据保存目的地地址对存储器控制部9发送。具体而言,通过当设备·流IF部接收到左眼用数据时将地址1(第1保存区域)、当接收到右眼用数据时将地址2(第2保存区域)发送给存储器控制部9,根据接收数据而切换输出目的地(保存目的地)。存储器控制部9按照从DMAC发送来的保存目的地地址将数据保存到存储器2中。另外,也可以代替主控制部6而设置控制切换部53的专用的电路。
这里,作为流处理部5的代表性的结构而对设备·流IF部51、多路分离部52、切换部53进行了说明,但也可以还具备将接收到的加密数据或密钥数据等解码的加密引擎部、进行媒体~再生装置间的设备认证控制等的执行控制及保持秘密密钥的安全管理部、直接存储器访问用的控制器等。到此为止,对在将从媒体接收到的数据保存到存储器2中时、切换部53根据左眼用数据还是右眼用数据来切换保存目的地的情况进行了说明,但也可以在将从媒体接收到的数据先保存到存储器2中之后,在向多路分离部52转送数据时分配左眼用数据、右眼用数据。
图103是表示AV输出部8的代表性的结构的功能模块图。AV输出部8具备图像叠加部81、视频输出格式变换部82、音频·视频输出IF部83等。
图像叠加部81将解码后的影像类的数据叠加。具体而言,将左视野视频数据或右视野视频数据、与PG(字幕)、IG(菜单)以图片单位叠加。图像叠加部81的模组例如是第1实施方式、图20-图22等。更具体地讲,将解码后的视频数据及字幕数据保存到存储器2中的保存向各平面描绘的数据的区域中。这里,平面既有是存储器2中的区域的情况,也有是虚拟的空间的情况。图像叠加部81将左视野平面与对应的字幕平面、将右视野平面与对应的字幕平面叠加。并且,将左视野平面及右视野平面基于对应于叠加的字幕数据(流)的区域确保标志与字幕数据叠加,以在区域确保标志表示的字幕数据的显示区域中叠加字幕数据(例如,第1实施方式、图12等)。即,在区域确保标志表示的字幕数据的显示区域是上端的情况下,将左视野平面及右视野平面向垂直坐标的下方移位并与字幕数据叠加,在区域确保标志表示的字幕数据的显示区域是下端的情况下,将左视野平面及右视野平面向垂直坐标的上方移位并与字幕数据叠加。
视频输出格式变换部82根据需要,对解码后的影像类数据进行放大或缩小的尺寸变更处理、将扫描方式从逐行方式及隔行方式的一种变换为另一种的IP变换处理、将噪声除去的降噪处理、变换帧率的帧率变换处理等。
音频·视频输出IF部83对进行了图像叠加及格式变换后的影像类数据和解码后的声音类数据,匹配于数据发送形式而进行编码等。另外,如后所述,音频·视频输出IF部83也可以一部分装备在集成电路3外。
图104是更详细地表示AV输出部8或再生装置的数据输出部分的结构例。本实施方式的集成电路3及再生装置对应于多个影像类数据、声音类数据的数据发送形式。图103中的音频·视频输出IF部83对应于模拟视频输出IF部83a、模拟音频输出IF部83c、数字音频·输出IF部83b。
模拟视频输出IF部83a间进行了图像叠加处理及输出格式变换处理后的影像类数据变换为模拟影像信号形式并编码、输出。它相当于例如对应于NTSC、PAL、SECAM的3方式的某一种的复合视频编码器、S影像信号(Y/C分离)用编码器、组件影像信号用编码器、DAC(D/A编译器)等。
数字音频·视频输出IF部83b将解码后的声音类数据和进行了图像叠加处理及输出格式变换后的影像类数据一体化、再加密后,匹配于数据发送规格而编码并输出。它相当于例如HDMI(High-Definition Multimedia InterFace;高清多媒体接口)等。
模拟音频输出IF部83c相当于将解码后的声音类数据进行D/A变换而输出模拟声音数据的音频DAC等。
这些影像类数据及声音类数据的发送形式取决于显示装置·扬声器4侧支持的数据接收装置(数据输入端子)而切换,或者可以通过用户的选择而切换发送形式。进而,也可以不仅是单一的发送形式,而并行地以多个发送形式将对应于相同的内容的数据发送。
这里,作为AV输出部8的代表性的结构,对图像叠加部81、视频输出格式变换部82、音频·视频输出IF部83进行了说明,但也可以还具备进行过滤处理、画面合成、曲线描绘、3D显示等的图形处理的图形引擎部等。
以上是对本实施方式的再生装置的结构的说明。另外,包含在上述集成电路3中的各功能块也可以不全部内置,相反,图100的存储器2也可以内置在集成电路3中。此外,在本实施方式中,设主控制部6和信号处理部7为不同的功能块而进行了说明,但主控制部6也可以进行信号处理部7的处理的一部分。
此外,例如如图107那样,也可以将本实施方式的再生装置的处理在显示装置中进行。此时,将媒体IF部1接收到的数据由集成电路3进行信号处理,将处理后的影像类数据经由显示驱动部10通过显示面板11输出,将处理后的声音类数据通过扬声器12输出。这里,AV输出部8例如如图108那样构成,通过集成电路3内部或外部的音频输出IF部85及视频输出IF部84进行数据转送。另外,也可以分别具备多个音频输出IF部85及视频输出IF部84,也可以具备视频和音频共用的IF部。
此外,集成电路3中的控制总线及数据总线的路径可以根据各处理块的处理次序及处理内容任意地配置,例如既可以如图105那样将数据总线配置为使其将各处理块彼此直接连结,也可以如图106那样将数据总线配置为使其将各处理块彼此经由存储器2(存储器控制部9)连结。
此外,集成电路3也可以是将多个芯片封装在一个封装中、做成了在外观上为一个LSI的多芯片模组。
此外,也可以使用在LSI制造后能够编程的FPGA(Field Programmable Gate Array)、或能够再构成LSI内部的电路单元的连接及设定的可重构处理器。
接着,对如以上那样构成的再生装置的动作进行说明。
图109是简单地表示从媒体接收(读出)数据并解码后、作为影像信号及声音信号输出的再生动作次序的流程图。
S1:从媒体接收(读出)数据(媒体IF部1、流处理部5)。
S2:将在S1中接收的(读出的)数据分离为各种数据(影像类数据、声音类数据)(流处理部5)。
S3:将在S2中分离后的各种数据以适当的形式解码(信号处理部7)。
S4:对在S3中解码处理后的各种数据中的、影像类的数据进行叠加处理(AV输出部8)。
S6:将在S2~S5中处理后的影像类数据及声音类数据输出(AV输出部8)。
图110是更详细地表示再生动作次序的流程图。各动作、处理在主控制部6的控制下进行。
S101:流处理部5的设备·流IF部51通过媒体IF部1接收(读出)保存在媒体中的被再生的数据以外的、为了再生数据而需要的数据(PLAYLIST、CLIPINF等),保存到存储器2中(媒体IF部1、设备IF部51、存储器控制部9、存储器2)。
S102:主控制部6根据包含在接收到的CLIPINF中的流属性信息,识别保存在媒体中的影像数据及声音数据的压缩形式,进行信号处理部7的初始化,以使其能够进行对应的解码处理(主控制部6)。
S103:流处理部5的设备·流IF部51通过媒体IF部1接收(读出)保存在媒体中的影像、声音等被再生的数据,经由切换部53、存储器控制部9保存到存储器2中。另外,将数据以区段单位接收(读出),主控制部6控制切换部53,切换部53切换数据的输出目的地(保存目的地),以使其在接收到(读出)左眼用数据时向第1区域、在接收到(读出)右眼用数据时向第2区域保存(媒体IF部1、设备IF部51、主控制部6、切换部53、存储器控制部9、存储器2)。
S104:将保存在存储器2中的数据向流处理部5的多路分离部52转送,多路分离部52按照包含在构成流数据的源包中的PID,识别是影像类(主影像、副影像、PG(字幕)、IG(菜单))、声音类(声音、副声音)的哪种,以TS包单位向信号处理部7的对应的各解码器转送(多路分离部52)。
S105:信号处理部7的各解码器对转送来的TS包以适当的方式进行解码处理(信号处理部7)。
S106:将在信号处理部7中解码后的影像类数据中的、对应于左视野视频流及右视野视频流的数据匹配于显示装置4而改变尺寸(视频输出格式变换部82)。
S107:将在S106中改变尺寸后的视频流与PG(字幕)、IG(菜单)、文本字幕叠加(图像叠加部81)。
S108:对在S107中叠加后的影像数据进行作为扫描方式的变换的IP变换(视频输出格式变换部82)。
S109:对进行了到此为止的处理的影像类数据及声音类数据,按照显示装置·扬声器4的数据输出方式、或向显示装置·扬声器4的数据发送方式,进行编码及D/A变换等。例如,将影像类数据、声音类数据分别为了对应于模拟或数字输出而进行处理。作为影像类数据的模拟输出,支持复合影像信号、S影像信号、组件影像信号等。此外,影像类、声音类数据的数字输出支持HDMI(音频·视频输出IF部83)。
S110:将在S109中处理后的影像类数据及声音类数据向显示装置·扬声器4发送、输出(音频·视频输出IF部83、显示装置·扬声器4)。
以上是本实施方式的再生装置的动作次序的说明。另外,也可以按照处理而将处理结果临时保存到存储器2中。此外,在由图107的显示装置进行再生处理的情况下也基本上是同样的动作次序,对应于图100的再生装置的各功能块的功能块进行同样的处理。此外,在本动作次序中,对在视频输出格式变换部82中进行尺寸变更处理及IP变换处理的情况进行了说明,但根据需要也可以省略处理,此外也可以进行其他处理(降噪处理、帧率变换处理等)。进而,如果可能,也可以变更处理次序。
(备注)
以上,对在本申请的提出申请的时刻本申请人能够知道的优选的实施方式进行了说明,但关于以下所示的技术问题可以建议进一步的改良及变更实施。需要注意的是,如各实施方式所示那样实施、还是实施这些改良、变更都是任意的,取决于实施的人的主观。
(偏移元数据)
在各实施方式中说明的偏移元数据并不限定于到此为止说明的形式,也可以用其他数据形式实现。以下列举偏移元数据的其他数据形式。
图89是说明偏移元数据的第1数据形式的图。
在第1数据形式中,将偏移元数据保存到片断信息文件中。在此情况下,如图89(a)所示,也可以具有将PTS和多个offset_id的偏移量作为一个入口的表信息。具体的syntax(句法)在图89(b)中记述。
图90是说明偏移元数据的第2数据形式的图。在各实施方式中说明的偏移元数据保存在各GOP的开头的访问单元中,被用于对应GOP内的帧。在第2数据形式中,在将偏移元数据保存到片断信息文件中的情况下,如图90(a)所示,按照入口点保存到下个入口点的偏移元数据。具体的syntax如图90(b)所示,为与作为入口点的ID的EP_ID建立对应的结构。如果这样构成,则能够通过EP_ID确定PTS,所以与图89的数据形式相比,不需要保存PTS的值,所以能够压缩数据量。此外,如果做成这样的结构,则在将偏移元数据保存到视频流的访问单元和片断信息文件的两者中的情况下,所保存的偏移元数据是相同的验证较容易。
图91是说明偏移元数据的第3数据形式的图。在各实施方式中,在偏移元数据中按照偏移序列ID保存偏移序列、按照PG流使用参照偏移序列ID参照偏移值,但在第3数据形式中,将这样的偏移元数据保存到播放列表信息文件中。图91(a)表示保存到播放列表信息文件中的偏移元数据的syntax。最初的循环11201是播放项目的循环。number of offsets[playitem]表示播放项目中的偏移入口数。number_of_offset_id[playitem]表示偏移序列ID的数量。第2个循环11202是播放项目中的偏移入口的循环。将一个循环内的信息作为偏移入口。offset_frame_number表示从播放项目开头起的视频帧数。offset_frame_number也可以是PTS,但通过设为帧数能够压缩数据量。offset_frame_duration表示到下个偏移入口的插入偏移值的间隔。number_of_suboffsets意味着在从offset_frame_number[i]到下个偏移入口的间隔中插入的偏移值的数量。在图91(b)中表示offset_frame_number[i]、offset_frame_duration[i]、number_of_suboffsets[i]的关系。偏移值如11203的循环所示,按照偏移ID保存偏移值。另外,offset_frame_number也可以为从前一个偏移入口的差量视频帧数。
图92是说明偏移元数据的第4数据形式的图。第4数据形式是将偏移元数据保存到播放列表信息文件中的另一形式,如图92(a)所示,追加了表示与前面的播放项目是否相同的标志(is_same_as_previous_playitem)。在制作BD-ROM的循环的运动图像菜单的情况下,如图92(b)那样,采取宛如将参照相同的片断的播放项目无限循环那样、将许多播放项目在播放列表内重复的结构。在此情况下,如果将相同的偏移元数据准备播放项目数,则数据量增加过多,需要2D/3D再生装置的存储器量的增加。所以,在is_same_as_previous_playitem是1的情况下,2D/3D再生装置通过参照前一个播放项目的偏移元数据信息,能够实现数据量的削减。
图93是说明偏移元数据的第5数据形式的图。
第5数据形式是将偏移元数据保存到播放列表信息文件中的其他形式,如图93所示,追加了向使用相同的偏移元数据的播放项目的参照ID(ref_playitem_id_of_same_offset_metadata)。2D/3D再生装置在ref_playitem_id_of_same_offset_metadata不是表示无效的0xFFFF的情况下,使用与ref_playitem_id_of_same_offset_metadata指示的播放项目相同的偏移元数据。通过这样,对于具有相同的偏移元数据的多个播放项目只要仅定义一个偏移元数据就可以,所以能够将数据量压缩。
图94是说明偏移元数据的第6数据形式的图。
第6数据形式是将偏移元数据保存到播放列表信息文件中的其他形式。
在该数据形式中,如图94所示,划分为以播放项目单位循环的头、以及保存偏移元数据的区域。播放项目和偏移元数据用offset_block_id建立关联。由此,在存在使用相同的偏移元数据的多个播放项目的情况下,只要定义1个偏移元数据就可以,所以能够压缩数据量。此外,在头中也可以保存将对应的偏移元数据保存的文件的地址值(start_address)。通过这样,以播放项目单位的访问变得容易。
另外,在图89到图94所示的syntax中,将偏移元数据的入口用offset_direction、offset_value取7bit,但也可以以相对于某一系列的偏移元数据的差的形式准备偏移元数据。通过这样,能够减小offset_direction、offset_value。
另外,作为其他数据形式,也可以将偏移元数据使用音频水印的技术嵌入到音频流上。或者也可以使用视频水印的技术嵌入到视频流中。
(PG流)
为了减少字幕的条数而抑制流的带宽增加,将1个PG流作为以1plane+Offset方式使用的PG流、以及以2平面L/R方式使用的左右某一方的PG流共用是有效的。
但是,在这样构成的情况下,如图95所示,在左眼用图形及右眼用图形的差较大而进深较强(向用户侧跃出)的地方、以及左眼用图形及右眼用图形的差较小而进深较弱的地方变迁的情况下,各图形会沿左右伴随着运动。在图95的例子中,例如,在将字幕数据从进深较弱的场景移动到进深较强的场景中的情况下,左眼用图形向右方向、右眼用图形向左方向错移。在将该左眼用图形在2D显示用或1plane+Offset方式的字幕中使用的情况下,同样向左侧错移,给用户带来不自然的印象。
所以,为了将2D显示用字幕及1plane+Offset方式字幕没有别扭感地显示,如图96那样设定组成信息的显示位置以将显示位置固定。此外,将用于作为2平面L/R方式的左眼用PG显示的偏移(1_offset)另外准备到组成信息中。并且,在以2平面L/R方式显示的情况下,2D/3D再生装置对组成信息的显示位置加上上述偏移值而显示。通过这样构成,即使在2D显示字幕、1plane+Offset方式字幕、2平面L/R方式的左眼用字幕利用相同的流的情况下,也以哪个显示模式显示都能够没有别扭感地显示。
(跳跃再生的高速化)
图97(a)表示将FileBase和FileDependent的区段交错的结构,对盘上的数据区域R[2]的开头附加的三角形表示FileDependent的入口点的盘上的位置,对盘上的数据区域L[2]的开头附加的三角形表示FileBase入口点的盘上的位置。此时,2D/3D再生装置在从对应的入口点进行跳跃再生那样的情况下,将作为盘上的数据区域的R[2]的数据读入,然后,一边读取L[2]一边开始解码。由于在R[2]的数据读入完成之前不能将下个L[2]读出,所以不能开始解码。
所以,为了缩短从到入口点为止的读入到再生的时间,做成图97(b)那样的结构。在图97(b)中,File2D指示盘上的数据区域的L[0]、L[1]、L[2]for2D、L[3],FileSS指示盘上的数据区域的L[0]、L[1]、L[2]for3D、L[3],L[2]for2D和L[2]for3D构成为相同的数据。通过这样,能够将虽然再生路径不同但为相同的数据读取。进而,在图97(b)中,将与L[2]for3D对应的右眼AV片断的数据以较小的单位交错(箭头10701的范围)。通过这样构成,在2D/3D再生装置从对应的入口点进行再生开始的情况下,开头的FileDependent的区段可以比图97(a)所示的结构小,所以能够使从向入口点的跳入到解码开始的时间变快。
(附加信息)
设附加信息为包含以下的信息要素的扩展流选择表,也可以装入到播放列表信息的扩展信息场内。
“上端带区域存在与否标志”是指示PG_文本字幕流再生时的上端带区域确保是否存在的标志。
“上端带区域流入口”包括指定PG_文本字幕流的再生路径归属的副路径的副路径识别符参照(ref_to_Subpath_id)、指定保存有PG_文本字幕流的流文件的流文件参照(ref_to_subClip_entry_id)、以及该流文件中的PG_文本字幕流的包识别符(ref_to_stream_PID_subclip)。
“上端带区域进深参照信息”是在用上端带区域显示字幕的情况下的用于参照PG_文本字幕流用的偏移序列的参照信息,指示在用上端带区域显示字幕的情况下的用于PG_文本字幕流的偏移序列。再生装置必须将由该场提供的偏移应用到PG平面中。
“下端带区域存在与否标志”是指示PG_文本字幕流的再生时的下端带区域确保是否存在的标志。
“下端带区域流入口”包括指定PG_文本字幕流的再生路径归属的副路径的副路径识别符参照(ref_to_Subpath_id)、指定保存有PG_文本字幕流的流文件的流文件参照(ref_to_subClip_entry_id)、以及该流文件中的PG_文本字幕流的包识别符(ref_to_stream_PID_subclip)。
“下端带区域进深参照信息”是在用下端带区域显示字幕的情况下的用于参照PG_文本字幕流用的偏移序列的参照信息,指示在用下端带区域显示字幕的情况下的用于PG_文本字幕流的偏移序列。再生装置必须将由该场提供的偏移应用到PG平面中。
(光盘的再生)
BD-ROM驱动器具备半导体激光器、准直透镜、束分离器、物镜、聚光透镜、具有光检测器的光学头。从半导体激光器射出的光束通过准直透镜、束分离器、物镜被聚光到光盘的信息面上。
被聚光的光束在光盘上被反射/衍射、通过物镜、束分离器、聚光透镜被聚光到光检测器上。对应于由光检测器聚光的光的光量,生成再生信号。
(记录媒体的变形)
各实施方式中的记录媒体包括光盘、半导体存储卡等、封装媒体的全部。本实施方式的记录媒体以预先记录有需要的数据的光盘(例如BD-ROM、DVD-ROM等的已有的可读取的光盘)为例进行说明,但并不需要限定于此,例如,如果将经由广播或网络分发的包含在本发明的实施中需要的数据的3D内容利用具有向光盘写入的功能的终端装置(例如既可以将左述的功能装入到再生装置中,也可以是与再生装置另外的装置)记录到可写入的光盘(例如BD-RE、DVD-RAM等的已有的可写入的光盘)中、将该记录的光盘应用到本发明的再生装置中,也能够进行本发明的实施。
(半导体存储卡记录装置及再生装置的实施方式)
对将在各实施方式中说明的数据构造记录到半导体存储器中的记录装置、以及再生的再生装置的实施方式进行说明。
首先,作为前提的技术,对记录在BD-ROM中的数据的著作权保护的机制进行说明。
在记录在BD-ROM中的数据中,从例如著作权的保护、数据的隐秘性的提高的观点看,有将数据的一部分根据需要而加密的情况。
例如,记录在BD-ROM中的数据中的、被加密的数据例如是对应于视频流的数据、对应于音频流的数据、或对应于包含它们的流的数据。
以下,对记录在BD-ROM中的数据中的、加密的数据的解读进行说明。
在半导体存储卡再生装置中,将与为了将BD-ROM内的加密的数据解读而需要的密钥对应的数据(例如设备密钥)预先存储在再生装置中。
另一方面,在BD-ROM中,记录有与为了将加密的数据解读而需要的密钥对应的数据(例如对应于上述设备密钥的MKB(媒体密钥块))、以及将用于解读加密的数据的密钥自身加密后的数据(例如对应于上述的设备密钥及MKB的加密标题密钥)。这里,设备密钥、MKB、及加密标题密钥成对,进而,与写入在BD-ROM上的通常不能复制的区域(也称作BCA的区域)中的识别符(例如卷ID)也建立了对应。如果该组合不正确,则不能进行加密的解读。仅在组合正确的情况下,能够导出加密解读所需要的密钥(例如基于上述的设备密钥、MKB及卷ID将加密标题密钥解密而得到的标题密钥),使用该加密解读所需要的密钥能够进行加密的数据的解读。
在将装填的BD-ROM在再生装置中再生的情况下,例如如果在再生装置内没有与BD-ROM内的加密标题密钥、MKB成对的(或对应的)设备密钥,则不能将加密的数据再生。这是因为,加密的数据的解读所需要的密钥(标题密钥)的密钥自身被加密(加密标题密钥)而记录在BD-ROM上,如果MKB与设备密钥的组合不正确,则不能导出加密的解读所需要的密钥。
反之,再生装置构成为:如果加密标题密钥、MKB、设备密钥及卷ID的组合正确,则使用例如上述的加密解读所需要的密钥(基于设备密钥、MKB及卷ID将加密标题密钥解密而得到的标题密钥)将视频流用解码器解码,将音频流用音频解码器解码。
以上是记录在BD-ROM中的数据的著作权保护的机制,但该机制并不一定限定于BD-ROM,例如在应用到可读写的半导体存储器(例如SD卡等的具有可移动性的半导体存储卡)中的情况下也能够实施。
对半导体存储卡再生装置的再生次序进行说明。在光盘中,例如为经由光盘驱动器读出数据的结构,相对于此,在使用半导体存储卡的情况下,只要构成为经由用于将半导体存储卡内的数据读出的I/F读出数据就可以。
更详细地讲,只要如以下这样构成就可以:如果在再生装置的插槽中插入半导体存储卡,则经由半导体存储卡I/F将再生装置与半导体存储卡电气地连接。将记录在半导体存储卡中的数据经由半导体存储卡I/F读出。
(作为接收装置的实施方式)
在各实施方式中说明的再生装置也可以作为从电子分发服务的分发服务器接收与在本实施方式中说明的数据相对应的数据(分发数据)、记录到半导体存储卡中的终端装置实现。
该终端装置既可以构成为,能够使在各实施方式中说明的再生装置进行那样的动作,也可以是与本实施方式的再生装置另外地由专用的终端装置进行将分发数据存储到半导体存储器中的处理的形态。这里,对再生装置进行的例子进行说明。此外,作为记录目标的半导体存储器,以SD卡为例进行说明。
在将分发数据记录到插入在再生装置中具备的插槽中的SD存储卡中的情况下,首先向储存分发数据的分发服务器请求分发数据的发送。此时,再生装置将用于唯一地识别插入的SD存储卡的识别信息(例如各个SD存储卡固有的识别号码、更具体地讲是例如SD存储卡的序列号码等)从SD存储卡读出,将所读出的识别信息与分发请求一起向分发服务器发送。
这个用于唯一地识别SD存储卡的识别信息例如相当于上述卷ID。
另一方面,在分发服务器中,将分发的数据中的需要的数据(例如视频流、音频流等)进行加密、以使得能够使用加密解读所需要的密钥(例如标题密钥)进行加密的解除,保存到服务器上。
例如,分发服务器构成为,保持有秘密密钥,能够对半导体存储卡的固有的识别号码分别动态地生成不同的公开密钥信息。
此外,分发服务器构成为,能够对加密的数据的解读所需要的密钥(标题密钥)自身进行加密密钥(即构成为能够生成加密标题密钥)。
生成的公开密钥信息例如包括对应于上述的MKB、卷ID、以及加密标题密钥的信息。加密的数据例如是以下的数据:如果半导体存储器固有的识别号码、包含在后述的公开密钥信息中的公开密钥主体、以及预先记录在再生装置中的设备密钥的组合正确,则能够得到加密解读所需要的密钥(例如基于设备密钥、MKB及半导体存储器固有的识别号码将加密标题密钥解密而得到的标题密钥),能够使用该得到的加密解读所需要的密钥(标题密钥)进行加密的数据的解读。
接着,再生装置将接收到的公开密钥信息和分发数据记录到插入在插槽中的半导体存储卡的记录区域中。
接着,对记录在半导体存储卡的记录区域中的公开密钥信息和将包含在分发数据中的数据中的加密的数据解密并再生的方法的一例进行说明。
接收到的公开密钥信息例如记录有公开密钥主体(例如上述的MKB及加密标题密钥)、签名信息、半导体存储卡的固有的识别号码、以及表示关于应设为无效的设备的信息的设备列表。
在签名信息中例如包括公开密钥信息的哈希值。
在设备列表中,例如记载有关于有可能不正当地进行再生的设备的信息。它如例如预先记录在再生装置中的设备密钥、再生装置的识别号码、或再生装置具备的解码器的识别号码等那样、是用于唯一地确定有可能不正地进行再生的装置、在装置中包含的零件、或功能(程序)等的信息。
关于记录在半导体存储卡的记录区域中的分发数据中的、加密的数据的再生进行说明。
首先,在利用公开密钥主体将加密的数据解密之前,进行关于是否可以使解密密钥主体发挥功能的检查。
具体而言,进行(1)包含在公开密钥信息中的半导体存储器固有的识别信息与预先存储在半导体存储卡中的固有的识别号码是否一致的检查、(2)在再生装置内计算出的公开密钥信息的哈希值与包含在签名信息中的哈希值是否一致的检查、(3)基于包含在公开密钥信息中的设备列表所示的信息、进行再生的再生装置是否有可能进行不正当的再生的检查(例如包含在公开密钥信息中的设备列表所示的设备密钥与预先存储在再生装置中的设备密钥是否一致的检查)。进行这些检查的顺序以怎样的顺序进行都可以。
在上述(1)~(3)的检查中,只要满足包含在公开密钥信息中的半导体存储器固有的识别信息与预先存储在半导体存储器中的固有的识别号码不一致、在再生装置内计算出的公开密钥信息的哈希值与包含在签名信息中的哈希值一致、或者判断为进行再生的再生装置有可能不正当地进行再生的任意其一,再生装置就进行控制以不进行加密的数据的解读。
此外,如果包含在公开密钥信息中的半导体存储卡的固有的识别信息与预先存储在半导体存储卡中的固有的识别号码一致、并且在再生装置内计算出的公开密钥信息的哈希值与包含在签名信息中的哈希值一致、并且判断为进行再生的再生装置不会不正当地进行再生,则判断为半导体存储器固有的识别号码、包含在公开密钥信息中的公开密钥主体、以及预先记录在再生装置中的设备密钥的组合正确,使用加密解读所需要的密钥(基于设备密钥、MKB及半导体存储器固有的识别号码将加密标题密钥解密而得到的标题密钥)进行加密的数据的解读。
例如在加密的数据是视频流、音频流的情况下,视频解码器利用上述加密解读所需要的密钥(将加密标题密钥解密而得到的标题密钥)将视频流解密(解码),音频解码器利用上述加密解读所需要的密钥将音频流解密(解码)。
通过这样构成,在电子分发时知道有可能进行不正当利用的再生装置、零件、功能(程序)等的情况下,只要将用于识别它们的信息表示在设备列表中并分发,在再生装置侧包含设备列表中所示的设备情况下能够制止使用公开密钥信息(公开密钥主体)的解密,所以即使半导体存储器固有的识别号码、包含在公开密钥信息中的公开密钥主体、以及预先记录在再生装置中的设备密钥的组合正确,也能够进行控制以使得不能进行加密的数据的解读,所以能够制止不正当的装置上的分发数据的利用。
此外,预先记录在半导体存储卡中的半导体存储卡的固有的识别符优选的是采用保存到隐秘性较高的记录区域中那样的结构。这是因为,如果预先记录在半导体存储卡中的固有的识别号码(例如以SD存储卡为例,则为SD存储卡的序列号码等)被篡改,则容易进行非法复制。这是因为,对多个半导体存储卡分别分配不同的固有的识别号码,但如果该固有的识别号码被篡改为相同,则上述(1)的判断不再有意义,有可能进行对应于被篡改的数量的非法复制。
因而,采用将半导体存储卡的固有的识别号码等信息记录到隐秘性较高的记录区域中那样的结构是优选的。
为了实现这样的结构,例如半导体存储卡为将用于记录半导体存储卡的固有的识别符等隐秘性较高的数据的记录区域设在与保存通常的数据的记录区域(称作第1记录区域)不同的的记录区域(称作第2记录区域)中、以及设置用于向该第2记录区域的访问的控制电路、并且在向第2记录区域的访问中仅能够进行经由控制电路的访问那样的结构。
例如,只要如以下这样构成就可以:将记录在第2记录区域中的数据进行加密而记录,控制电路装入有例如用于将加密的数据解密的电路。在向控制电路有对第2记录区域的数据的访问的情况下,将加密解密,将解密数据返回。或者也可以做成以下的结构:控制电路保持有记录在第2记录区域中的数据的保存场所的信息,如果有数据的访问的请求,则确定对应的数据的保存场所,将从所确定的保存场所读取的数据返回。
只要如以下这样构成就可以:在再生装置上动作的应用中,如果请求利用电子分发记录到半导体存储卡中的应用经由存储卡I/F向控制电路发出向记录在第2记录区域中的数据(例如半导体存储器固有的识别号码)的访问请求,则接受到请求的控制电路将记录在第2记录区域中的数据读出,向在再生装置上动作的应用返回。与该半导体存储卡的固有的识别号码一起将所需要的数据的分发请求向分发服务器请求,将从分发服务器传送来的公开密钥信息、以及对应的分发数据记录到第1记录区域中。
此外,在再生装置上动作的应用中,请求利用电子分发记录到半导体存储卡中的应用优选的是,在经由存储卡I/F向控制电路发出对记录在第2记录区域中的数据(例如半导体存储器固有的识别号码)的访问请求之前,事前检查是否没有应用的篡改。在篡改的检查中,也可以利用例如使用依据已有的X.509规格的数字证书的检查等。
此外,向记录在半导体存储卡的第1记录区域中的分发数据的访问也可以并不一定需要经由半导体存储卡具有的控制电路进行访问。
工业实用性
有关本发明的信息记录媒体保存有3D影像,但由于通过再生2D影像的装置和再生3D影像的装置都能够再生,所以能够不在意兼容性而将保存有3D影像的电影标题等的运动图像内容向市场供给,能够活跃电影市场及民用设备市场。因此,有关本发明的记录媒体、再生装置在电影产业及民用设备产业中具有较高的实用性。
标号说明
100记录媒体
200再生装置
300显示装置
400 3D眼镜

Claims (11)

1.一种记录媒体,记录有构成立体视图像的视频流、播放列表信息、以及多个字幕流,其特征在于,
播放列表信息包括流选择表和附加信息;
流选择表将平面视再生模式中应许可再生的字幕流的流号码与流入口及流属性建立对应来表示;
附加信息被与流选择表中的流号码建立对应,包括区域确保标志;
区域确保标志表示再生装置被设定为立体视再生模式的情况下的字幕的显示区域是否为视频平面的上端、或者是否为视频平面的下端;
在由区域确保标志表示字幕的显示区域是视频平面上端的情况下,视频流被再生装置向视频平面的下方向移位来描绘;
在由区域确保标志表示字幕的显示区域是视频平面下端的情况下,视频流被再生装置向视频平面的上方向移位来描绘。
2.如权利要求1所述的记录媒体,其特征在于,
包括规定视频平面的下方向或上方向的移位量的移位控制信息。
3.如权利要求1所述的记录媒体,其特征在于,
上述流选择表中的流入口的流号码表示选择多个字幕流时的各字幕流的优先顺序。
4.如权利要求3所述的记录媒体,其特征在于,
包括表示字幕的显示区域是视频平面的上端的区域确保标志的多个附加信息被与连续的流号码建立对应;
包括表示字幕的显示区域是视频平面的下端的区域确保标志的多个附加信息被与其他的连续的流号码建立对应。
5.一种再生装置,对记录有构成立体视图像的视频流、播放列表信息、以及多个字幕流的记录媒体进行再生,其特征在于,
播放列表信息包括流选择表和附加信息;
流选择表将平面视再生模式中应许可再生的字幕流的流号码与流入口及流属性建立对应来表示;
附加信息被与流选择表中的流号码建立对应,包括区域确保标志;
区域确保标志表示再生装置被设定为立体视再生模式的情况下的字幕的显示区域是否为视频平面的上端、或者是否为视频平面的下端;
上述再生装置具备:
模式存储部,表示当前的再生模式是平面视再生模式和立体视再生模式中的哪一种;
流号码寄存器,保存有当前流号码;
区域确保寄存器,保存有与当前流号码对应的附加信息的区域确保标志是否表示字幕的显示区域是视频平面的上端、或者是否表示字幕的显示区域是视频平面的下端;
视频解码器,将视频流解码;
视频平面,保存通过解码得到的图片;以及
字幕解码器,将多个字幕流中的、与当前流号码对应的字幕流解码,将通过解码得到的字幕合成至视频平面;
在区域确保寄存器表示字幕的显示区域是视频平面上端的情况下,将视频流向视频平面的下方向移位来描绘;
在区域确保寄存器表示字幕的显示区域是视频平面下端的情况下,将视频流向视频平面的上方向移位来描绘;
上述字幕解码器将通过字幕流的解码得到的字幕写入至与当前流号码对应的附加信息的区域确保标志所表示的显示区域。
6.一种记录媒体,记录有主视野视频流、副视野视频流和元数据,其特征在于,
上述主视野视频流包括构成立体视影像的主视野的图片数据;
上述副视野视频流包括构成立体视影像的副视野的图片数据;
上述元数据包括与多个显示装置的画面尺寸信息对应的偏移修正值;
上述偏移修正值规定使描绘构成上述主视野的图片数据的主视野视频平面以及描绘构成上述副视野的图片数据的副视野视频平面中的至少一个向水平坐标的右方向及左方向移动的偏移。
7.如权利要求6所述的记录媒体,其特征在于,
在上述主视野视频平面及上述副视野视频平面中的至少一个上叠加了描绘有图形数据的图形平面;
上述偏移修正值规定使叠加了图形平面的主视野视频平面及上述副视野视频平面中的至少一个向水平坐标的右方向及左方向移动的偏移。
8.一种再生装置,对记录有主视野视频流、副视野视频流和元数据的记录媒体进行再生,其特征在于,
上述主视野视频流包括构成立体视影像的主视野的图片数据;
上述副视野视频流包括构成立体视影像的副视野的图片数据;
上述元数据包括与多个显示装置的画面尺寸信息对应的偏移修正值;
上述偏移修正值规定使描绘构成上述主视野的图片数据的主视野视频平面以及描绘构成上述副视野的图片数据的副视野视频平面中的至少一个向水平坐标的右方向及左方向移动的偏移;
上述再生装置具有:
视频解码器,通过将上述主视野视频流及上述副视野视频流解码,得到构成主视野的图片数据及构成副视野的图片数据;
主视野视频平面,描绘构成上述主视野的图片数据;以及
副视野视频平面,描绘构成上述副视野的图片数据;
从上述元数据中提取基于连接着的显示装置的画面尺寸的偏移修正值,使主视野视频平面及副视野视频平面中的至少一个向水平坐标的右方向及左方向移动。
9.如权利要求8所述的再生装置,其特征在于,
在上述主视野视频平面及上述副视野视频平面中的至少一个上叠加了描绘有图形数据的图形平面;
使叠加了图形平面的主视野视频平面及副视野视频平面中的至少一个向水平坐标的右方向及左方向移动。
10.如权利要求8所述的再生装置,其特征在于,
上述再生装置具备设定寄存器,该设定寄存器保存从连接着的显示装置取得的画面尺寸。
11.一种半导体集成电路,接收包括平面视影像的再生中使用的主视野视频流、与上述主视野视频流组合而在立体视影像的再生中使用的副视野视频流、播放列表信息、以及多个字幕流的数据,进行影像信号处理,其特征在于,
上述播放列表信息包括与各上述多个字幕流对应的区域确保标志;
区域确保标志表示字幕的显示区域是否为视频平面的上端、或者是否为视频平面的下端;
上述主视野视频流在被作为主视野传输流多路复用后,被分割为多个主视野数据组;
上述副视野视频流在被作为副视野传输流多路复用后,被分割为多个副视野数据组;
在上述数据中,上述主视野数据组与上述副视野数据组交替配置;
在上述数据中,上述各多个字幕流被多路复用在上述主视野传输流或上述副视野传输流中、或者以单独的流存在;
上述半导体集成电路具备:
主控制部,进行上述半导体集成电路的控制;
流处理部,接收上述数据,临时保存到设在上述半导体集成电路的内部或外部的存储器中,之后多路分离为视频数据和字幕数据;
信号处理部,将上述视频数据、以及多路分离得到的字幕数据或单独存在的字幕流中的字幕数据分别解码;以及
AV输出部,将被解码的上述视频数据输出;
上述流处理部具备切换部,该切换部在上述存储器内的第1区域与第2区域之间,切换接收到的上述数据中的、交替配置了上述主视野数据组和上述副视野数据组的数据的保存目的地;
上述主控制部控制上述切换部以将属于上述主视野数据组的数据保存到上述第1区域中,并控制上述切换部以将属于上述副视野数据组的数据保存到上述第2区域中;
上述被解码的视频数据中的属于上述主视野数据组的数据被保存在上述存储器内的第3区域中,上述第3区域对应于上述主视野视频平面;
上述被解码的视频数据中的属于上述副视野数据组的数据被保存在上述存储器内的第4区域中,上述第4区域对应于上述副视野视频平面;
上述被解码的字幕数据被保存在上述存储器内的第5区域中,上述第5区域对应于字幕平面;
上述AV输出部具备图像叠加部,该图像叠加部将上述被解码的视频数据与上述被解码的字幕数据叠加;
上述图像叠加部在上述区域确保标志表示的字幕的显示区域是视频平面的上端的情况下,使上述主视野视频平面及上述副视野视频平面向垂直坐标的下方向移位,将上述被解码的视频数据与上述被解码的字幕数据叠加,以将字幕叠加至上述区域确保标志表示的字幕数据的显示区域;
上述图像叠加部在上述区域确保标志表示的字幕的显示区域是视频平面的下端的情况下,使上述主视野视频平面及上述副视野视频平面向垂直坐标的上方向移位,将上述被解码的视频数据与上述被解码的字幕数据叠加,以将字幕叠加至上述区域确保标志表示的字幕数据的显示区域。
CN2010800027752A 2009-06-17 2010-06-16 再生装置、记录方法、记录介质再生系统 Active CN102172033B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2009-144568 2009-06-17
JP2009144568 2009-06-17
PCT/JP2010/003998 WO2010146847A1 (ja) 2009-06-17 2010-06-16 3d映像を再生するための情報記録媒体、及び再生装置

Publications (2)

Publication Number Publication Date
CN102172033A true CN102172033A (zh) 2011-08-31
CN102172033B CN102172033B (zh) 2013-07-17

Family

ID=43356178

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2010800027752A Active CN102172033B (zh) 2009-06-17 2010-06-16 再生装置、记录方法、记录介质再生系统

Country Status (13)

Country Link
US (1) US8121460B2 (zh)
EP (1) EP2445224B1 (zh)
JP (3) JP4733785B2 (zh)
KR (1) KR20120036791A (zh)
CN (1) CN102172033B (zh)
BR (1) BRPI1005171A2 (zh)
DK (1) DK2445224T3 (zh)
ES (1) ES2634941T3 (zh)
MX (1) MX2011003076A (zh)
RU (1) RU2520325C2 (zh)
TW (1) TW201130287A (zh)
WO (1) WO2010146847A1 (zh)
ZA (1) ZA201101979B (zh)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102521805A (zh) * 2011-11-30 2012-06-27 华中科技大学 基于帧间信息的视频文字处理方法
CN103314409A (zh) * 2011-10-28 2013-09-18 松下电器产业株式会社 能够维持与旧格式的兼容且能对记录内容进行编辑的记录介质、再现装置、记录装置、再现方法、记录方法
CN103699584A (zh) * 2013-12-06 2014-04-02 福建星网视易信息系统有限公司 一种终端播放方法及系统
CN104365110A (zh) * 2012-06-19 2015-02-18 汤姆逊许可公司 改进的播放列表内容选择系统和方法
CN106463150A (zh) * 2014-11-17 2017-02-22 松下电器(美国)知识产权公司 记录介质、再现方法以及再现装置
CN106663453A (zh) * 2014-10-17 2017-05-10 松下电器(美国)知识产权公司 记录介质、再现方法以及再现装置
CN107431835A (zh) * 2015-04-13 2017-12-01 索尼公司 发送装置、发送方法、再现装置以及再现方法
CN110383811A (zh) * 2018-06-29 2019-10-25 深圳市大疆创新科技有限公司 图像处理方法及装置、第一电子设备和图像处理系统
CN113660539A (zh) * 2017-04-11 2021-11-16 杜比实验室特许公司 分层的增强型娱乐体验

Families Citing this family (46)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8737810B2 (en) * 2002-11-15 2014-05-27 Thomson Licensing Method and apparatus for cropping of subtitle elements
US8074248B2 (en) 2005-07-26 2011-12-06 Activevideo Networks, Inc. System and method for providing video content associated with a source image to a television in a communication network
US9031381B2 (en) * 2006-07-20 2015-05-12 Panopto, Inc. Systems and methods for generation of composite video from multiple asynchronously recorded input streams
US9826197B2 (en) 2007-01-12 2017-11-21 Activevideo Networks, Inc. Providing television broadcasts over a managed network and interactive content over an unmanaged network to a client device
EP3145200A1 (en) 2007-01-12 2017-03-22 ActiveVideo Networks, Inc. Mpeg objects and systems and methods for using mpeg objects
US20110013888A1 (en) * 2009-06-18 2011-01-20 Taiji Sasaki Information recording medium and playback device for playing back 3d images
TW201130289A (en) * 2009-07-14 2011-09-01 Panasonic Corp Image reproducing apparatus
US9025933B2 (en) 2010-02-12 2015-05-05 Sony Corporation Information processing device, information processing method, playback device, playback method, program and recording medium
WO2011155212A1 (ja) 2010-06-11 2011-12-15 富士フイルム株式会社 立体画像表示装置、立体撮像装置、及び方法
US8737811B2 (en) 2010-08-06 2014-05-27 Panasonic Corporation Playback device, integrated circuit, playback method, and program
KR20120017649A (ko) * 2010-08-19 2012-02-29 삼성전자주식회사 디스플레이장치 및 그 제어방법
US8942543B1 (en) * 2010-10-06 2015-01-27 Verint Video Solutions Inc. Systems, methods, and software for improved video data recovery effectiveness
CA2814070A1 (en) 2010-10-14 2012-04-19 Activevideo Networks, Inc. Streaming digital video between video devices using a cable television system
JP5306544B2 (ja) 2010-11-05 2013-10-02 富士フイルム株式会社 画像処理装置、画像処理プログラム、画像処理方法、及び記憶媒体
JP5673172B2 (ja) * 2011-02-09 2015-02-18 ソニー株式会社 電子機器、電子機器における立体画像情報送信方法、および電子機器における立体画像情報受信方法
JP2012178706A (ja) * 2011-02-25 2012-09-13 Toshiba Corp 映像表示方法および映像表示装置
US9516379B2 (en) 2011-03-08 2016-12-06 Qualcomm Incorporated Buffer management in video codecs
JP2012209942A (ja) * 2011-03-14 2012-10-25 Panasonic Corp 3次元映像処理装置および3次元映像処理方法
US9204203B2 (en) 2011-04-07 2015-12-01 Activevideo Networks, Inc. Reduction of latency in video distribution networks using adaptive bit rates
JP2012220888A (ja) * 2011-04-13 2012-11-12 Nikon Corp 撮像装置
JP5052683B1 (ja) * 2011-04-19 2012-10-17 株式会社東芝 電子機器および映像表示方法
US20120281073A1 (en) * 2011-05-02 2012-11-08 Cisco Technology, Inc. Customization of 3DTV User Interface Position
US9131245B2 (en) 2011-09-23 2015-09-08 Qualcomm Incorporated Reference picture list construction for video coding
CN103067680A (zh) * 2011-10-21 2013-04-24 康佳集团股份有限公司 一种2d转3d视频格式下的osd显示方法及系统
WO2013106390A1 (en) * 2012-01-09 2013-07-18 Activevideo Networks, Inc. Rendering of an interactive lean-backward user interface on a television
KR101872859B1 (ko) * 2012-01-20 2018-06-29 엘지전자 주식회사 디스플레이 장치 및 그 제어방법
US9800945B2 (en) 2012-04-03 2017-10-24 Activevideo Networks, Inc. Class-based intelligent multiplexing over unmanaged networks
US9123084B2 (en) 2012-04-12 2015-09-01 Activevideo Networks, Inc. Graphical application integration with MPEG objects
WO2013183947A1 (ko) * 2012-06-05 2013-12-12 엘지전자 주식회사 3d 방송 서비스를 위한 방송 신호 처리 방법 및 장치
US9756282B2 (en) * 2012-11-20 2017-09-05 Sony Corporation Method and apparatus for processing a video signal for display
KR20140099146A (ko) * 2013-02-01 2014-08-11 한국전자통신연구원 다중 영상 기반 방송 서비스를 위한 다중 영상의 기준 pcr 결정 방법 및 그 장치
KR101361108B1 (ko) * 2013-02-05 2014-02-13 한국과학기술원 Dibr 3d영상 저작권 보호를 위한 워터마킹 시스템 및 그 방법
US10275128B2 (en) 2013-03-15 2019-04-30 Activevideo Networks, Inc. Multiple-mode system and method for providing user selectable video content
US9294785B2 (en) 2013-06-06 2016-03-22 Activevideo Networks, Inc. System and method for exploiting scene graph information in construction of an encoded video sequence
EP3005712A1 (en) 2013-06-06 2016-04-13 ActiveVideo Networks, Inc. Overlay rendering of user interface onto source video
US9219922B2 (en) 2013-06-06 2015-12-22 Activevideo Networks, Inc. System and method for exploiting scene graph information in construction of an encoded video sequence
US10475227B1 (en) * 2014-02-28 2019-11-12 Ansys, Inc. Systems and methods for three dimensional computation and visualization using a parallel processing architecture
US9788029B2 (en) 2014-04-25 2017-10-10 Activevideo Networks, Inc. Intelligent multiplexing using class-based, multi-dimensioned decision logic for managed networks
KR101530826B1 (ko) * 2014-08-18 2015-06-24 정관호 360도 공간영상 재생방법 및 그 시스템
CN104965693A (zh) * 2014-08-29 2015-10-07 腾讯科技(深圳)有限公司 一种视频处理的方法和系统
CN111212251B (zh) 2014-09-10 2022-05-27 松下电器(美国)知识产权公司 再现装置以及再现方法
WO2016039172A1 (ja) * 2014-09-12 2016-03-17 ソニー株式会社 再生装置、再生方法、情報処理装置、情報処理方法、プログラム、および記録媒体
WO2016079925A1 (ja) * 2014-11-17 2016-05-26 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 記録媒体、再生方法、および再生装置
GB2557194A (en) * 2016-11-29 2018-06-20 Sony Corp A decoder, encoder, computer program and method
US10958890B2 (en) * 2017-03-31 2021-03-23 Samsung Electronics Co., Ltd. Method and apparatus for rendering timed text and graphics in virtual reality video
KR20240119188A (ko) * 2018-02-22 2024-08-06 돌비 인터네셔널 에이비 Mpeg-h 3d 오디오 스트림에 내장된 보조 미디어 스트림들의 처리를 위한 방법 및 장치

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1700329A (zh) * 2004-01-29 2005-11-23 索尼株式会社 再现装置、再现方法、再现程序和记录介质
CN101002465A (zh) * 2004-06-11 2007-07-18 索尼株式会社 数据处理设备、数据处理方法、程序、程序记录介质、数据记录介质和数据结构

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08331456A (ja) * 1995-05-31 1996-12-13 Philips Japan Ltd 字幕移動装置
EP2259586B1 (en) 1996-02-28 2013-12-11 Panasonic Corporation High-resolution optical disk for recording stereoscopic video, optical disk reproducing device and optical disk recording device
JPH10150608A (ja) * 1996-11-19 1998-06-02 Sanyo Electric Co Ltd デジタル放送システムのユーザ側端末
JP4356202B2 (ja) 2000-06-29 2009-11-04 パナソニック株式会社 映像信号処理装置
JP4362105B2 (ja) * 2002-07-16 2009-11-11 韓國電子通信研究院 2次元および3次元立体ビデオ信号の適応変換装置およびその方法
JP2004112169A (ja) * 2002-09-17 2004-04-08 Victor Co Of Japan Ltd 色調整装置及び色調整方法
TWI268500B (en) * 2003-04-09 2006-12-11 Lg Electronics Inc Recording medium having a data structure for managing reproduction of text subtitle data and methods and apparatuses of recording and reproducing
US20040213542A1 (en) 2003-04-22 2004-10-28 Hiroshi Hamasaka Apparatus and method to reproduce multimedia content for a multitude of resolution displays
JP2005123775A (ja) * 2003-10-15 2005-05-12 Sony Corp 再生装置、再生方法、再生プログラムおよび記録媒体
KR100619053B1 (ko) * 2003-11-10 2006-08-31 삼성전자주식회사 서브 타이틀을 기록한 정보저장매체 및 그 처리장치
RU2351997C2 (ru) * 2004-02-10 2009-04-10 ЭлДжи ЭЛЕКТРОНИКС ИНК. Носитель информации с наличием структуры данных для управления различными потоками данных и способы и устройства записи и воспроизведения
DE602005023285D1 (de) * 2004-03-26 2010-10-14 Lg Electronics Inc Speichermedium,verfahren, und gerät zum wiedergeben von untertiteldatenströmen
KR20060047266A (ko) * 2004-04-26 2006-05-18 엘지전자 주식회사 기록매체, 기록매체의 재생방법과 재생장치
JP2007004896A (ja) * 2005-06-23 2007-01-11 Toshiba Corp 情報記憶媒体、情報転送方法、情報再生方法、及び情報記録方法
JP2007316613A (ja) * 2006-04-26 2007-12-06 Matsushita Electric Ind Co Ltd 字幕表示制御装置
EP2105032A2 (en) * 2006-10-11 2009-09-30 Koninklijke Philips Electronics N.V. Creating three dimensional graphics data
RU2473980C2 (ru) 2007-11-01 2013-01-27 Панасоник Корпорэйшн Носитель записи, устройство воспроизведения, устройство записи, способ воспроизведения и способ записи
JP2009135686A (ja) * 2007-11-29 2009-06-18 Mitsubishi Electric Corp 立体映像記録方法、立体映像記録媒体、立体映像再生方法、立体映像記録装置、立体映像再生装置
JP4946874B2 (ja) * 2008-01-09 2012-06-06 ソニー株式会社 再生装置および再生方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1700329A (zh) * 2004-01-29 2005-11-23 索尼株式会社 再现装置、再现方法、再现程序和记录介质
CN101002465A (zh) * 2004-06-11 2007-07-18 索尼株式会社 数据处理设备、数据处理方法、程序、程序记录介质、数据记录介质和数据结构

Cited By (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103314409A (zh) * 2011-10-28 2013-09-18 松下电器产业株式会社 能够维持与旧格式的兼容且能对记录内容进行编辑的记录介质、再现装置、记录装置、再现方法、记录方法
US9218109B2 (en) 2011-10-28 2015-12-22 Panasonic Corporation Recording medium, playback device, recording device, playback method and recording method for editing recorded content while maintaining compatibility with old format
CN103314409B (zh) * 2011-10-28 2016-03-02 松下电器产业株式会社 能够维持与旧格式的兼容且能对记录内容进行编辑的记录介质、再现装置、记录装置、再现方法、记录方法
CN102521805A (zh) * 2011-11-30 2012-06-27 华中科技大学 基于帧间信息的视频文字处理方法
CN104365110A (zh) * 2012-06-19 2015-02-18 汤姆逊许可公司 改进的播放列表内容选择系统和方法
CN103699584A (zh) * 2013-12-06 2014-04-02 福建星网视易信息系统有限公司 一种终端播放方法及系统
CN111798881B (zh) * 2014-10-17 2022-07-12 松下电器(美国)知识产权公司 记录介质、再现方法以及再现装置
CN106663453A (zh) * 2014-10-17 2017-05-10 松下电器(美国)知识产权公司 记录介质、再现方法以及再现装置
CN111798878B (zh) * 2014-10-17 2022-07-12 松下电器(美国)知识产权公司 记录介质、再现方法以及再现装置
CN111798882B (zh) * 2014-10-17 2022-05-10 松下电器(美国)知识产权公司 记录介质、再现方法以及再现装置
CN111798881A (zh) * 2014-10-17 2020-10-20 松下电器(美国)知识产权公司 记录介质、再现方法以及再现装置
CN106663453B (zh) * 2014-10-17 2020-08-14 松下电器(美国)知识产权公司 记录介质、再现方法以及再现装置
CN111798878A (zh) * 2014-10-17 2020-10-20 松下电器(美国)知识产权公司 记录介质、再现方法以及再现装置
CN111798882A (zh) * 2014-10-17 2020-10-20 松下电器(美国)知识产权公司 记录介质、再现方法以及再现装置
CN111798880A (zh) * 2014-10-17 2020-10-20 松下电器(美国)知识产权公司 记录介质、再现方法以及再现装置
CN111641821A (zh) * 2014-11-17 2020-09-08 松下电器(美国)知识产权公司 记录介质、再现方法以及再现装置
CN106463150B (zh) * 2014-11-17 2020-06-30 松下电器(美国)知识产权公司 记录介质、再现方法以及再现装置
CN111641821B (zh) * 2014-11-17 2021-10-29 松下电器(美国)知识产权公司 记录介质、再现方法以及再现装置
CN106463150A (zh) * 2014-11-17 2017-02-22 松下电器(美国)知识产权公司 记录介质、再现方法以及再现装置
CN107431835B (zh) * 2015-04-13 2020-09-11 索尼公司 发送装置、发送方法、再现装置以及再现方法
CN107431835A (zh) * 2015-04-13 2017-12-01 索尼公司 发送装置、发送方法、再现装置以及再现方法
CN113660539A (zh) * 2017-04-11 2021-11-16 杜比实验室特许公司 分层的增强型娱乐体验
CN113660539B (zh) * 2017-04-11 2023-09-01 杜比实验室特许公司 用于渲染视觉对象的方法及装置
CN110383811A (zh) * 2018-06-29 2019-10-25 深圳市大疆创新科技有限公司 图像处理方法及装置、第一电子设备和图像处理系统

Also Published As

Publication number Publication date
ZA201101979B (en) 2012-04-25
EP2445224B1 (en) 2017-05-03
RU2011120907A (ru) 2013-07-27
ES2634941T3 (es) 2017-09-29
MX2011003076A (es) 2011-04-19
CN102172033B (zh) 2013-07-17
RU2520325C2 (ru) 2014-06-20
JP5451667B2 (ja) 2014-03-26
JP4733785B2 (ja) 2011-07-27
BRPI1005171A2 (pt) 2019-07-02
WO2010146847A1 (ja) 2010-12-23
EP2445224A1 (en) 2012-04-25
JP2011120301A (ja) 2011-06-16
EP2445224A4 (en) 2013-12-04
US8121460B2 (en) 2012-02-21
JP2011120302A (ja) 2011-06-16
US20110150421A1 (en) 2011-06-23
JPWO2010146847A1 (ja) 2012-11-29
TW201130287A (en) 2011-09-01
JP5491437B2 (ja) 2014-05-14
DK2445224T3 (en) 2017-08-21
KR20120036791A (ko) 2012-04-18

Similar Documents

Publication Publication Date Title
CN102172033B (zh) 再生装置、记录方法、记录介质再生系统
CN102833572B (zh) 接收装置
CN101933337B (zh) 再现装置和记录方法
CN102355590B (zh) 3d 影像的记录介质、再现装置、系统lsi、再现方法、眼镜、显示装置
CN101828229B (zh) 记录有3d影像的记录介质、再现3d影像的再现装置及系统lsi
CN102160389A (zh) 再现装置、集成电路、记录介质
CN102232295A (zh) 再现装置、记录介质及集成电路
CN102150434A (zh) 立体视觉再现影像内容的再现装置、再现方法及再现程序

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
EE01 Entry into force of recordation of patent licensing contract

Application publication date: 20110831

Assignee: Shenzhen Maxmade Technology Co.,Ltd.

Assignor: Blue light United Co., Ltd.

Contract record no.: X2019990000006

Denomination of invention: Recording medium, reproduction device, recording method and recording medium reproduction system

Granted publication date: 20130717

License type: Common License

Record date: 20190923

EE01 Entry into force of recordation of patent licensing contract