CN102113334B - 再现装置、记录方法及记录介质再现系统 - Google Patents

再现装置、记录方法及记录介质再现系统 Download PDF

Info

Publication number
CN102113334B
CN102113334B CN2010800022443A CN201080002244A CN102113334B CN 102113334 B CN102113334 B CN 102113334B CN 2010800022443 A CN2010800022443 A CN 2010800022443A CN 201080002244 A CN201080002244 A CN 201080002244A CN 102113334 B CN102113334 B CN 102113334B
Authority
CN
China
Prior art keywords
stream
file
plane
video flowing
picture
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN2010800022443A
Other languages
English (en)
Other versions
CN102113334A (zh
Inventor
远间正真
西孝启
佐佐木泰治
矢羽田洋
小川智辉
池田航
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Publication of CN102113334A publication Critical patent/CN102113334A/zh
Application granted granted Critical
Publication of CN102113334B publication Critical patent/CN102113334B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
    • H04N9/8233Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal the additional signal being a character code signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • H04N5/92Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B20/00Signal processing not specific to the method of recording or reproducing; Circuits therefor
    • G11B20/10Digital recording or reproducing
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/19Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier
    • G11B27/28Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording
    • G11B27/30Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording on the same track as the main recording
    • G11B27/3027Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording on the same track as the main recording used signal is digitally coded
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/19Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier
    • G11B27/28Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording
    • G11B27/32Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording on separate auxiliary tracks of the same or an auxiliary record carrier
    • G11B27/327Table of contents
    • G11B27/329Table of contents on a disc [VTOC]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/161Encoding, multiplexing or demultiplexing different image signal components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/178Metadata, e.g. disparity information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/183On-screen display [OSD] information, e.g. subtitles or menus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/189Recording image signals; Reproducing recorded image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/84Television signal recording using optical recording
    • H04N5/85Television signal recording using optical recording on discs or drums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/8042Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
    • H04N9/8211Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal the additional signal being a sound signal
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B2220/00Record carriers by type
    • G11B2220/20Disc-shaped record carriers
    • G11B2220/21Disc-shaped record carriers characterised in that the disc is of read-only, rewritable, or recordable type
    • G11B2220/213Read-only discs
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B2220/00Record carriers by type
    • G11B2220/20Disc-shaped record carriers
    • G11B2220/25Disc-shaped record carriers characterised in that the disc is based on a specific recording technology
    • G11B2220/2537Optical discs
    • G11B2220/2541Blu-ray discs; Blue laser DVR discs

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Library & Information Science (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Television Signal Processing For Recording (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本发明提供记录介质、再现装置、编码装置、集成电路及再现输出装置。在BD-ROM盘中,记录主视与辅视的视频流对、图形流及播放列表信息。辅视视频流中在按各GOP配置元数据。元数据包含偏移识别符与偏移信息之间的对应表。各偏移信息规定对GOP内各图片的偏移控制。偏移控制是向图形平面提供水平坐标的左方向与右方向的各偏移后合成到主视与辅视的各视频平面的处理。播放列表信息按每个再现区间包含流选择表。流选择表中,在流号码对应于图形流的包识别符的情况下,还将一个偏移识别符分配给该流号码。

Description

再现装置、记录方法及记录介质再现系统
技术领域
本发明涉及立体视觉影像、即3维(3D)影像的再现技术,尤其涉及记录介质上的流数据的构造。
背景技术
近年来对3D影像的普遍关注日益高涨。例如,在游乐园中利用了3D影像的游乐项目积聚人气。另外,在全国各地上映3D影像的电影的电影院也在增加。随着对这种3D影像的关注的高涨,在各个家庭中也能够再现3D影像的技术的研发也得到推进。在这种技术中,要求在将3D影像内容(content)保持高画质的状态下记录在光盘等可移动记录介质中。另外,要求这种记录介质的针对2D再现装置的兼容性。即,期望根据在这种记录介质中记录的3D影像内容,2D再现装置能够再现2D影像,3D再现装置能够再现3D影像。其中,所说“2D再现装置”是指只能再现平面视觉影像即二维(2D)影像的以往的再现装置,所说“3D再现装置”是指能够再现3D影像的再现装置。另外,在本说明书中,假设是3D再现装置也能够再现以往的2D影像的情况。
图113是表示对记录了3D影像内容的光盘、确保对2D再现装置的兼容性用的技术的模式图(例如参照专利文献1)。光盘PDS中存在两种视频流。一个是2D/左视(left view)视频流,另一个是右视(right view)视频流。‘2D/左视视频流’表示在3D影像再现中视听者左眼看到的2D影像,即‘左视’,在2D影像再现中表示该2D影像本身。‘右视视频流’表示在3D影像再现中视听者右眼看到的2D影像,即‘右视’。在左右视频流之间,帧速率相等,但帧的显示时期则错位帧周期的一半。例如,当各视频流的帧速率为24帧/秒时,2D/左视视频流与右视视频流的各帧每1/48秒交互显示。
各视频流如图113所示,在光盘PDS上分割成多个区段(extent)EX1A-C、EX2A-C。各区段包含1个以上的GOP(group of picture:图片组),由光盘驱动器统一读出。下面,将属于2D/左视视频流的区段称为‘2D/左视区段’,将属于右视视频流的区段称为‘右视区段’。2D/左视区段EX1A-C与右视区段EX2A-C交互配置在光盘PDS的轨道TRC上。邻接的两个区段EX1A+EX2A、EX1B+EX2B、EX1C+EX2C之间,再现时间相等。将这种区段的配置称为‘交织(interleave)配置’。以交织配置记录的区段群如下所述,在3D影像再现与2D影像再现双方中被利用。
在2D再现装置PL2中,光盘驱动器DD1从开头起,仅顺序读出光盘PDS上的区段之中、2D/左视区段EX1A-C,而跳过右视区段EX2A-C的读出。并且,影像解码器VDC依次将由光盘驱动器DD2读出的区段解码为影像帧VFL。由此,由于显示装置DS2中仅显示左视,所以视听者看到通常的2D影像。
在3D再现装置PL3中,若用符号表示,则光盘驱动器DD3从光盘PDS中按EX1A、EX2A、EX1B、EX2B、EX1C、EX2C的顺序交互读出2D/左视区段与右视区段。并且,从读出的各区段中,将2D/左视视频流发送到左影像解码器VDL,将右视视频流发送到右影像解码器VDR。各影像解码器VDL、VDR将各视频流交互解码为影像帧VFL、VFR。由此,在显示装置DS3中交互显示左视与右视。另一方面,快门眼镜SHG将左右透镜与显示装置DS3执行的画面切换同步地交互地变为不透明。因此,佩戴快门眼镜SHG的视听者将显示装置DS3中显示的影像看成3D影像。
不限于光盘,当将3D影像内容存储在记录介质中时,如上所述,利用区段的交织配置。由此,可在2D影像的再现与3D影像的再现双方中利用该记录介质。
现有技术文献
专利文献
专利文献1:日本专利第3935507号公报
发明概要
发明要解决的问题
影像内容除视频流外,通常还包含表示字幕及交互式画面等的图形影像的图形流。在从3D影像内容再现的影像中,这些图形影像也3维化。这里,该3维化的手法中有2平面(2plane)模式与1平面+偏移(1plane+offset)模式。2平面模式的3D影像内容包含表示左视与右视的各图形影像的图形流对(pair)。2平面模式的再现装置根据各图形流,独立生成左视与右视的图形平面。1平面+偏移模式的3D影像内容包含表示2D图形影像的图形流与相对其的偏移信息。1平面+偏移模式的再现装置首先根据图形流,生成一个图形平面,接着,根据偏移信息,向该图形平面提供水平方向的偏移。由此,根据该图形流,生成左视与右视的图形平面对。在任一模式下,显示装置的画面中均交互显示左视与右视的图形影像。结果,视听者将这些图形影像看成3D影像。
在现有的3D影像内容的数据结构中,1平面+偏移模式的内容包含图形流与偏移信息作为独立的文件。此时,1平面+偏移模式的再现装置独立地处理这些文件,根据得到的数据,再现左视与右视的图形影像对。这里,为了进一步提高这些图形影像的再现品质,必需进一步可靠地维持图形流与偏移信息之间的对应关系。但是,各文件的处理彼此非同步进行。另一方面,图形影像与偏移信息一般按帧周期变更。并且,一个场景中一般存在多个图形影像。因此,在包含图形流与偏移信息作为独立文件的数据结构中,难以进一步可靠地维持其间的对应关系。结果,难以进一步提高3D图形影像的再现品质。
因此,1平面+偏移模式的再现装置的内置存储器中,必需有足够的容量以展开汇集了偏移信息的文件。但是,因为每一个图形流的偏移信息的总量大,所以在3D影像内容包含多种图形流的情况下,上述文件的大小急剧增大。结果,难以进一步削减内置存储器的容量。
在1平面+偏移模式的再现装置对一个图形平面提供大的偏移而生成一对图形平面的情况下,在该图形平面对中的一方的左端部或右端部可能产生未包含于另一方的右端部或左端部中的区域。另外,由于实际的3D影像内容表示的左视与右视中视野一般错位,所以一方的周缘部中可能产生未包含于另一方的周缘部中的区域。由于这些区域仅映到视听者的单眼中,所以存在让视听者不舒服的危险性。结果,难以进一步提高3D影像的画质。
另一方面,内容提供商之间对如下的3D影像内容的期望提高:在该内容中,仅将重合于2D影像上的图形影像3维化。但是,现有的3D影像技术中并未假设这种内容。因此,难以让再现装置从这种内容以足够的高画质再现3D影像。
发明内容
本发明的目的在于解决上述问题,尤其是提供一种记录介质,能够使再现装置以更高画质将3D图形影像与视频流所表示的影像一起再现。
用于解决问题的手段
根据本发明第1观点的一种记录介质,记录了主视视频流、辅视视频流、图形流及播放列表信息。主视视频流包含构成立体视觉影像的主视的主视图片。辅视视频流包含构成立体视觉影像的辅视的辅视图片和元数据。图形流包含构成平面视觉图形影像的图形数据。主视图片在再现时被描绘到主视视频平面,辅视图片在再现时被描绘到辅视视频平面,图形数据在再现时被描绘到图形平面。元数据按构成辅视视频流的每个GOP进行配置,包含多个偏移信息和与各偏移信息相对应的偏移识别符。多个偏移信息是规定对于构成GOP的多个图片的偏移控制的控制信息。偏移控制是向图形平面提供水平坐标的左方向与右方向的各偏移后、合成到主视视频平面与辅视视频平面中的每个平面的处理。播放列表信息包含至少一个再现区间信息。各再现区间信息包含表示一个再现区间的开始位置与结束位置的信息、和对于该再现区间的流选择表。流选择表是该再现区间中允许再现的流数据的包识别符与流号码之间的对应表。在流选择表中,在流号码与图形流的包识别符相对应的情况下,还向该流号码分配多个偏移识别符中的一个偏移识别符。
根据本发明第2观点的一种记录介质,记录了主视视频流与辅视视频流。主视视频流包含构成立体视觉影像的主视的主视图片。辅视视频流包含构成立体视觉影像的辅视的辅视图片和元数据。元数据包含如下信息,该信息是对于由主视图片与辅视图片构成的立体视觉影像的左视图片与右视图片,确定各自表示的影像视野相重合的共同区域的信息。
根据本发明第3观点的一种记录介质,记录了主视视频流、辅视视频流及图形流。主视视频流包含构成立体视觉影像的主视的主视图片。辅视视频流包含构成立体视觉影像的辅视的辅视图片和元数据。图形流包含构成平面视觉图形影像的图形数据。主视图片在再现时被描绘到主视视频平面,辅视图片在再现时被描绘到辅视视频平面,图形数据在再现时被描绘到图形平面。元数据包含规定图形平面的有效区域的信息。这里,所谓‘有效区域’意味着图形平面中实际显示于画面中的区域。
根据本发明第4观点的一种记录介质,记录了主视视频流、辅视视频流、主视图形流及辅视图形流。主视视频流包含构成平面视觉影像的主视图片。主视图形流包含构成立体视觉图形影像的主视的图形数据。辅视图形流包含构成立体视觉图形影像的辅视的图形数据。辅视视频流包含构成与主视图片所构成的平面视觉影像相同的平面视觉影像的图片。
发明效果
根据本发明第1观点的记录介质能够使再现装置与辅视视频流的解码处理并行地,从元数据中读出偏移信息。因此,可使再现装置进一步可靠地维持图形流与偏移信息之间的对应关系。结果,可使再现装置以更高画质与视频流所表示的影像一起再现3D图形影像。
根据本发明第2观点的记录介质能够使再现装置与辅视视频流的解码处理并行地,处理各视频平面,隐藏共同区域以外的区域。结果,可使再现装置以更高画质与视频流所表示的影像一起再现3D图形影像。
根据本发明第3观点的记录介质能够使再现装置与辅视视频流的解码处理并行地,处理图形平面,适当显示其有效区域。结果,可使再现装置以更高画质与视频流所表示的影像一起再现3D图形影像。
在根据本发明第4观点的记录介质中,辅视视频流所表示的平面视觉影像与主视视频流所表示的平面视觉影像相等。因此,若3D再现装置对该记录介质执行通常的再现动作,则在从视频流再现2D影像的同时,从图形流再现3D图形影像。这样,可使再现装置以更高画质与视频流所表示的影像一起再现3D图形影像。
附图说明
图1是表示使用根据本发明实施方式1的记录介质的家庭影院系统的模式图。
图2是表示图1所示BD-ROM盘101上的数据结构的模式图。
图3(a)是图2所示BD-ROM盘101上的主TS中复用的基本流一览表,图3(b)是BD-ROM盘101上的辅TS中复用的基本流一览表,图3(c)是BD-ROM盘101上的文本字幕流中复用的基本流一览表。
图4是表示复用流数据400内的TS包的配置模式图。
图5(a)是表示TS头501H的数据结构的模式图,图5(b)是表示构成复用流数据的TS包序列的形式的模式图,图5(c)是表示由复用流数据的TS包序列构成的源包序列的形式的模式图,图5(d)是连续记录一系列源包502的BD-ROM盘101的卷区域202B上的扇区群的模式图。
图6是按显示时间顺序表示视频流中包含的三个图片601、602、603的模式图。
图7是按显示时间顺序表示基本视视频流701与右视视频流702的图片的模式图。
图8是表示视频流800的数据结构细节的模式图。
图9是表示基本视视频流910与从属视视频流920各自中包含的VAU间的头的参照关系的模式图。
图10是表示向PES包序列1002存储视频流1001的方法细节的模式图。
图11是表示分配给基本视视频流1101与从属视视频流1102的各图片的PTS与DTS之间关系的模式图。
图12(a)是表示图8所示的各补充数据831D、832D包含的解码开关信息1250的数据结构的模式图,图12(b)是表示分配给基本视视频流1201与从属视视频流1202的各图片的解码计数器一例1210、1220的模式图,图12(c)是表示该解码计数器的其他例1230、1240的模式图。
图13是表示从属视视频流1300包含的偏移元数据1310的数据结构的模式图。
图14是表示图13所示的偏移元数据(offset_metadata)1310的语法(Syntax)的表。
图15(a)、(b)是表示对PG平面1510与IG平面1520的偏移控制的模式图,图15(c)是表示视听者1530从图15(a)、(b)所示的图形平面表示的2D图形影像感知的3D图形影像的模式图。
图16(a)、(b)是表示偏移序列的具体例的图表,图16(c)是表示根据图16(a)、(b)所示的偏移序列再现的3D图形影像的模式图。
图17是表示文本字幕流1700的数据结构的模式图。
图18是表示PMT1810的数据结构的模式图。
图19是表示图2所示的BD-ROM盘101上复用流数据的物理配置的模式图。
图20(a)是表示某个BD-ROM盘上独立连续记录的主TS2001与辅TS2002的配置的模式图,图20(b)是表示在根据本发明实施方式1的BD-ROM盘101上交互记录的从属视数据块D[0]、D[1]、D[2]、...与基本视数据块B[0]、B[1]、B[2]、...的配置的模式图,图20(c)是表示按交织配置记录的从属视数据块群D[n]与基本视数据块群B[n]的各区段ATC时间一例的模式图(n=0、1、2),图20(d)是表示各区段ATC时间的其他例的模式图。
图21是表示对图19所示的区段块群1901-1903的2D再现模式下的再现路径2101与L/R模式下的再现路径2102的模式图。
图22是表示图2所示的第1clip信息文件(01000.clip)231的数据结构的模式图。
图23(a)是表示图22所示的入口映射2230的数据结构的模式图,图23(b)是表示属于文件2D241的源包群2310中、通过入口映射2230与各EP_ID2305建立对应的源包群的模式图,图23(c)是表示对应于该源包群2310的BD-ROM盘101上的数据块群D[n]、B[n](n=0、1、2、3、...)的模式图。
图24(a)是表示图22所示的区段起点2242的数据结构的模式图,图24(b)是表示第2clip信息文件(02000.clpi)232中包含的区段起点2242的数据结构的模式图,图24(c)是表示由3D再现模式的再现装置102从第1文件SS244A中抽取的基本视数据块B[0]、B[1]、B[2]、...的模式图,图24(d)是表示属于文件DEP(02000.m2ts)242的从属视区段EXT2[0]、EXT2[1]、...与区段起点2420所示的SPN2422之间的对应关系的模式图,图24(e)是表示属于第1文件SS244A的区段SSEXTSS[0]与BD-ROM盘101上的区段块之间的对应关系的模式图。
图25是表示图2所示的BD-ROM盘101上记录的一个区段块2500与文件2D2510、文件基本2511、文件DEP2512及文件SS2520的各区段群之间的对应关系的模式图。
图26是表示对基本视视频流2610与从属视视频流2620设定的入口点的实例的模式图。
图27是表示图2所示2D播放列表文件221的数据结构的模式图。
图28是表示图27所示的PI#N(N=1、2、3、...)的数据结构的模式图。
图29(a)、(b)分别是表示CC2904为“5”、“6”时连接对象的二个再现区间2901、2902之间的关系的模式图。
图30是表示图2所示的2D播放列表文件(00001.mpls)221所示的PTS与从文件2D(01000.m2ts)241再现的部分之间的对应关系的模式图。
图31是表示图2所示的3D播放列表文件222的数据结构的模式图。
图32是表示图31所示的3D播放列表文件的主路径3101包含的STN表3205的模式图。
图33是表示图31所示的STN表SS3130的数据结构的模式图。
图34是表示图2所示的3D播放列表文件(00002.mpls)222所示的PTS与从第1文件SS(01000.ssif)244A再现的部分之间的对应关系的模式图。
图35是表示图2所示的索引文件(index.bdmv)211的数据结构的模式图。
图36是图1所示的再现装置102选择再现对象的播放列表文件的处理流程图。
图37是2D再现装置3700的功能框图。
图38是SPRM的一览表。
图39是图37所示的再现控制部3735执行的2D播放列表再现处理的流程图。
图40是图37所示的系统目标解码器3725的功能框图。
图41是3D再现装置4100的功能框图。
图42是表示SPRM(27)与SPRM(28)的数据结构的表。
图43是图41所示的再现控制部4135执行的3D播放列表再现处理的流程图。
图44是图41所示的系统目标解码器4125的功能框图。
图45是图41所示的平面加法部4126的功能框图。
图46是图45所示的各裁剪处理部4531-4534执行的偏移控制的流程图。
图47是表示由图45所示的第2裁剪处理部4532执行的偏移控制加工的PG平面数据的模式图。
图48是表示对一个流数据设定多个偏移补正值的STN表4805的模式图。
图49是基于图1所示的显示装置103的画面尺寸的偏移补正值选择处理的流程图。
图50是图41所示的再现控制部4135执行的、应提供给图形平面的偏移的调整处理的流程图。
图51是表示包含多个子路径的3D播放列表文件5100的数据结构、及由其参照的文件2D5110与二个文件DEP5121、5122的数据结构的模式图。
图52是表示3D播放列表文件5200包含的参照偏移ID的模式图。
图53(a)是表示仅表示静止图像的从属视视频流5300的数据结构的模式图,图53(b)是表示根据这种3D播放列表文件再现的左视视频平面的序列5321、右视视频平面的序列5322及图形平面的序列5330的模式图。
图54(a)是表示利用完成函数的偏移元数据5400的数据结构的模式图,图54(b)是表示构成完成函数的要素种类的图表,图54(c)是表示根据图54(a)所示的偏移序列ID=0、1、2的各偏移序列、由3D再现装置计算的偏移值的图表。
图55(a)、(b)、(c)分别是表示一个文本字幕流内连续的文本数据入口#1、#2、#3所示的字符串5501、5502、5503、与解码各文本数据入口时位图缓冲器中存储的高速缓存(cache)数据5511、5512、5513的模式图。
图56(a)是模式表示拍摄3D影像的一对视频摄像机CML、CMR的水平视角HAL、HAR的平面图,图56(b)是表示由左侧视频摄像机CML拍摄的左视LV的模式图,图56(c)是表示由右侧视频摄像机CMR拍摄的右视RV的模式图,图56(d)、(e)分别是表示由视差影像生成部4510加工的左影像平面表示的左视LV与右影像平面表示的右视RV的模式图。
图57(a)是模式表示拍摄3D影像的一对视频摄像机CML、CMR的垂直视角VAL、VAR的平面图,图57(b)是表示由左侧视频摄像机CML拍摄的左视LV与由右侧视频摄像机CMR拍摄的右视RV的模式图,图57(c)是表示由图45所示的视差影像生成部4510加工的左影像平面表示的左视LV与右影像平面表示的右视RV的模式图。
图58(a)是表示图形平面GPL表示的图形影像的一例的模式图,图58(b)、(c)分别是表示向图形平面GPL提供向右与向左偏移时的模式图,图58(d)、(e)分别是表示提供向右与向左偏移后的图形平面GP1、GP2表示的图形影像的模式图。
图59是表示对于从BD-ROM盘上的PG流、IG流及文本字幕流再现的图形平面及由再现装置生成的图形平面、涉及图形部件配置的条件的模式图。
图60是表示实施方式2中的再现输出装置一例的构成图。
图61(a)是BD-ROM盘101上的第1辅TS中复用的基本流的一览表,图61(b)是BD-ROM盘101上的第2辅TS中复用的基本流的一览表。
图62是表示根据实施方式2的STN表SS3130的数据结构的模式图。
图63是根据实施方式2的系统目标解码器6225的功能框图。
图64是2平面模式的平面加法部6226的部分功能框图。
图65是按显示时间顺序表示基本视视频流6401与右视视频流6402的图片的模式图。
图66是表示根据MVC编码伪2D再现区间内的右视图片群时的切片头与切片数据的语法(Syntax)的表。
图67是表示构成3D再现区间与伪2D再现区间双方的文件2D6610与文件DEP6620的对、及规定各再现区间的二种3D播放列表文件6630、6640的模式图。
图68是表示构成3D再现区间的文件2D6710与文件DEP#16721的对、由与该文件2D6710的组合构成伪2D再现区间的文件DEP#26722、及规定各再现区间的3D播放列表文件6730的模式图。
图69是表示3D再现模式的再现装置102根据3D播放列表文件6730再现的视频平面的序列6810与PG平面的序列6820的模式图。
图70是3D再现装置依照连续再现区间中的通常2D再现区间的有无来选择动作模式的处理流程图。
图71是具有复制再现功能的3D再现装置依照连续再现区间中的通常2D再现区间的有无来选择动作模式的处理流程图。
图72(a)是表示在1平面+偏移模式下的3D图形影像再现中显示弹出菜单时的视频平面的序列7110、IG/图像平面的序列7120、及PG平面的序列7130的模式图,图72(b)是表示在2平面模式下的3D图形影像再现中显示弹出菜单时的视频平面的序列7110、IG/图像平面的序列7120、及PG平面的序列7140的一例的模式图,图72(c)是表示其他例的模式图。
图73(a)、(b)、(c)是表示B-D显示模式与B-B显示模式下的图形部件的显示位置差的模式图,图73(d)、(e)、(f)分别是表示补偿图73(a)、(b)、(c)所示的B-B显示模式下的图形部件位移的处理的模式图。
图74是根据本发明实施方式4的记录装置7300的功能框图。
图75是利用图74所示的记录装置7300向BD-ROM盘记录电影内容的方法的流程图。
图76是图74所示的视频编码器7302与复用处理部7306的功能框图。
图77是图76所示的编码部7502执行的视频帧序列的编码处理的流程图。
图78是决定应由视频帧序列构成的再现区间的种类的处理流程图。
图79(a)、(b)是表示3D影像的一场景显示中利用的左视与右视的各图片的模式图,图79(c)是表示由图76所示的帧进深信息生成部7505根据这些图片算出的进深信息的模式图。
图80是表示邻接的数据块之间对齐区段ATC时间的方法的模式图。
图81是使用集成电路来实现2D/3D再现装置的构成例。
图82是表示流处理部的典型结构的功能框图。
图83是切换部为DMAC时的切换部53外围的概念图。
图84是表示AV输出部的典型结构的功能框图。
图85是详细表示AV输出部或再现装置的数据输出部分的构成例。
图86是表示集成电路中的控制总线及数据总线的配置图。
图87是表示集成电路中的控制总线及数据总线的配置图。
图88是使用集成电路来实现显示装置的构成例。
图89是表示显示装置中的AV输出部的典型结构的功能框图。
图90是图像重叠部中的图像重叠处理的概念图。
图91是图像重叠部中的图像重叠处理的概念图。
图92是图像重叠部中的图像重叠处理的概念图。
图93是图像重叠部中的图像重叠处理的概念图。
图94是简单表示再现装置中的动作步骤的流程图。
图95是详细表示再现装置中的动作步骤的流程图。
图96(a)-(c)是用于说明基于使用视差影像手法的3D影像(立体视觉影像)的再现原理的模式图。
图97是表示由2D影像MVW与深度映射DPH的组合来构成左视LVW与右视RVW的实例的模式图。
图98是表示2D再现模式的再现装置102内的再现处理系统的框图。
图99(a)是表示2D再现模式下的动作中、图98所示的读缓冲器3721中存储的数据量DA变化的图表,图99(b)是表示再现对象的区段块8310与2D再现模式下的再现路径8320之间的对应关系的模式图。
图100是涉及BD-ROM盘的跳跃距离SJUMP与最大跳跃时间TJUMP_MAX之间的对应表的一例。
图101是表示3D再现模式的再现装置102内的再现处理系统的框图。
图102(a)、(b)是表示当从一个区段块无缝再现3D影像时、图101所示的各读缓冲器4121、4122中存储的数据量DA1、DA2的变化图表,图102(c)是表示该区段块8610与3D再现模式下的再现路径8620之间的对应关系的模式图。
图103(a)是表示从第M个(整数M为2以上。)与第(M+1)个区段块的对8701、8702连续无缝再现3D影像时、图101所示的各读缓冲器4121、4122中存储的数据量DA1、DA2的变化、及其和DA1+DA2的变化图表群,图103(b)是表示这些区段块8701、8702与3D再现模式下的再现路径8720之间的对应关系的模式图。
图104(a)、(b)是表示从图103(b)所示的二个区段块8701、8702连续无缝再现3D影像时、各读缓冲器4121、4122中存储的数据量DA1、DA2的变化图表。
图105是表示BD-ROM盘101的层边界LB前后记录的数据块群的物理配置的第1例的模式图。
图106是表示对图105所示的配置1的数据块群的2D再现模式下的再现路径9010与3D再现模式下的再现路径9020的模式图。
图107是表示BD-ROM盘101的层边界LB前后记录的数据块群的物理配置的第2例的模式图。
图108是表示对图107所示的配置2的数据块群的2D再现模式下的再现路径9210与3D再现模式下的再现路径9220的模式图。
图109是表示对文件基本9301与文件DEP9302的各区段EXT1[k]、EXT2[k](整数k为0以上。)设定的入口点9310、9320的模式图。
图110(a)是表示邻接的基本视数据块与从属视数据块之间、区段ATC时间不同、且视频流的再现时间不同时的再现路径的模式图,图110(b)是表示邻接的基本视数据块与从属视数据块之间、视频流的再现时间相等时的再现路径的模式图。
图111(a)是表示对应于多角度的复用流数据的再现路径的模式图,图111(b)是表示BD-ROM盘上记录的数据块群9501与对其的L/R模式下的再现路径9502的模式图,图111(c)是表示构成不同角度的流数据Ak、Bk、Ck的区段块的模式图。
图112是表示构成多角度期间的数据块群9601、及对其的2D再现模式下的再现路径9610与L/R模式下的再现路径9620的模式图。
图113是表示对记录了3D影像内容的光盘、确保对2D再现装置的兼容性用的技术的模式图。
具体实施方式
以下,参照附图说明根据本发明最佳实施方式的记录介质及再现装置。
《实施方式1》
图1是表示使用本发明的实施方式1的记录介质的家庭影院系统的示意图。该家庭影院系统采用利用了视差影像的3D影像(立体视觉影像)的再现方式,尤其是作为显示方式采用序列分离方式(详细参照<补充>)。参照图1,该家庭影院系统把记录介质101作为再现对象,包括再现装置102、显示装置103、快门眼镜104和遥控器105。
记录介质101是只读的蓝光光盘(注册商标)(BD:Blu-ray Disc)、即BD-ROM盘。记录介质101也可以是其他的可移动记录介质,例如基于DVD等其他格式的光盘、可移动硬盘驱动器(HDD)、或者SD存储卡等半导体存储器装置。该记录介质即BD-ROM盘101存储基于3D影像的电影内容。该内容包括表示该3D影像的各个左视和右视的视频流。该内容还可以包括表示该3D影像的深度映射的视频流。这些视频流如后面所述以数据块单位被配置在BD-ROM盘101上,能够利用后面叙述的文件结构进行访问。表示左视或者右视的视频流分别用于通过2D再现装置和3D再现装置将其内容再现为2D影像。另一方面,分别表示左视与右视的成对的视频流、或者分别表示左视或右视中任意一种视与深度映射的成对的视频流,用于通过3D再现装置将其内容再现为3D影像。
再现装置102安装了BD-ROM驱动器121。BD-ROM驱动器121是依据于BD-ROM格式的光盘驱动器。再现装置102利用BD-ROM驱动器121从BD-ROM盘101读取内容。再现装置102还将该内容解码为影像数据/声音数据。这里,再现装置102是3D再现装置,能够将该内容再现为2D影像和3D影像中的任意一种影像。下面,把分别再现2D影像和3D影像时的再现装置102的动作模式称为“2D再现模式”、“3D再现模式”。在2D再现模式时,影像数据包括左视或右视中任意一种视的影像帧。在3D再现模式时,影像数据包括左视和右视这两种视的影像帧。
3D再现模式还被划分为左/右(L/R)模式和深度模式。在“L/R模式”时,利用分别表示左视和右视的视频流的组合来再现左视与右视的成对的影像帧。在“深度模式”时,利用分别表示左视或右视中任意一种视与深度映射的视频流的组合来再现左视与右视的成对的影像帧。再现装置102具有L/R模式。再现装置102还可以具有深度模式。
再现装置102通过HDMI(High Definition Multimedia Interface:高清多媒体接口)线缆122与显示装置103连接。再现装置102把影像数据/声音数据转换为HDMI格式的影像信号/声音信号,并通过HDMI线缆122传输给显示装置103。在2D再现模式时,在影像信号中复用了左视或右视中任意一种视的影像帧。在3D再现模式时,在影像信号中时分复用了左视和右视双方的影像帧。再现装置102还通过HDMI线缆122与显示装置103之间进行CEC消息交换。由此,再现装置102能够向显示装置103询问是否能够应对3D影像的再现。
显示装置103是液晶显示器。除此之外,显示装置103还可以是等离子显示器及有机EL显示器等其他方式的平板显示器或者投影仪。显示装置103根据影像信号在画面131上显示影像,根据声音信号从内置的扬声器发出声音。显示装置103能够应对3D影像的再现。在再现2D影像时,在画面131上显示左视或右视中任意一种视。在再现3D影像时,在画面131上交替地显示左视和右视。
显示装置103包括左右信号发送部132。左右信号发送部132通过红外线或者无线向快门眼镜104发送左右信号LR。左右信号LR表示在当前时间点显示于画面131上的影像是左视和右视中的哪一种视。在再现3D影像时,显示装置103根据影像信号中附带的控制信号来识别左视帧和右视帧,由此检测帧的切换。显示装置103还使左右信号发送部132与所检测到的帧的切换同步地改变左右信号LR。
快门眼镜104包括两个液晶显示片141L、141R和左右信号接收部142。各个液晶显示片141L、141R构成左右的各个镜片部分。左右信号接收部142接收左右信号LR,并根据其变化向左右的液晶显示片141L、141R发送信号。各个液晶显示片141L、141R根据该信号,使光在其整体上一致地透射光或者遮挡光。尤其是在左右信号LR表示左视的显示时,左眼侧的液晶显示片141L使光透射,右眼侧的液晶显示片141R遮挡光。在左右信号LR表示右视的显示时则相反。这样,两个液晶显示片141L、141R与帧的切换同步地交替地使光透射。结果,在视听者佩戴快门眼镜104来观看画面131时,左视只映入到该视听者的左眼中,右视只映入到其右眼中。此时,该视听者将映入各个眼睛的影像之间的差异感知为针对相同的立体物体的两眼视差,因而该影像看起来是立体的。
遥控器105包括操作部和发送部。操作部包括多个按钮。各个按钮与电源的接通断开、或者BD-ROM盘101的再现开始或者停止等、再现装置102或者显示装置103的各个功能相对应。操作部检测用户对各个按钮的按下,并利用信号将该按钮的识别信息传递给发送部。发送部将该信号转换为基于红外线或者无线的信号IR,并向再现装置102或者显示装置103发送。另一方面,再现装置102和显示装置103分别接收该信号IR,并确定该信号IR所表示的按钮,执行与该按钮对应的功能。这样,用户能够远程操作再现装置102或者显示装置103。
<BD-ROM盘上的数据结构>
图2是表示BD-ROM盘101上的数据结构的示意图。参照图2,在BD-ROM盘101上的数据记录区域的最内周部设有突发切割区(BCA:BurstCutting Area)201。只允许BD-ROM驱动器121对BCA的访问,禁止应用程序对BCA的访问。由此,BCA201被用于著作权保护技术。在BCA201外侧的数据记录区域中,从内周朝向外周呈螺旋状地延伸形成轨道(track)。在图2中示意地描绘了横向延伸的轨道202。轨道202的左侧表示盘101的内周部,右侧表示外周部。如图2所示,轨道202从内周开始依次包括导入区域202A、卷区域202B及导出区域202C。导入区域202A被设置在紧挨着BCA201的外周侧。导入区域202A包括在卷区域202B中记录的数据的大小及物理地址等、BD-ROM驱动器121访问卷区域202B时所需要的信息。导出区域202C被设置在数据记录区域的最外周部,表示卷区域202B的末端。卷区域202B包括影像和声音等的应用数据。
卷区域202B被划分为称作“扇区”的小区域202D。扇区的大小是相同的,例如是2048字节。从卷区域202B的前端开始依次对各个扇区202D分配了连续号码。该连续号码被称为逻辑块号码(LBN),被用作BD-ROM盘101上的逻辑地址。在从BD-ROM盘101读出数据时,通过指定读出目的地的扇区的LBN来确定读出对象的数据。这样,卷区域202B能够以扇区单位进行访问。另外,在BD-ROM盘101上,逻辑地址实质上与物理地址相同。尤其是在LBN连续的区域中,物理地址实质上也是连续的。因此,BD-ROM驱动器121能够从LBN连续的扇区中连续读出数据,而不需使其光拾取器进行查找(seek)。
在卷区域202B中记录的数据由预定的文件系统进行管理。作为该文件系统可以采用UDF(Universal Disc Format:通用光盘格式)。此外,该文件系统还可以采用ISO9660。根据该文件系统,利用目录/文件格式来表述在卷区域202B中记录的数据(详细参照<补充>)。即,这些数据能够以目录单位或者文件单位进行访问。
《BD-ROM盘上的目录/文件结构》
图2还示出了在BD-ROM盘101的卷区域202B中存储的数据的目录/文件结构。参照图2,在该目录/文件结构中,在根(ROOT)目录203之下设有BD电影(BDMV:BD Movie)目录210。在BDMV目录210之下设有索引文件(index.bdmv)211和电影对象文件(MovieObject.bdmv)212。
索引文件211是用于管理在BD-ROM盘101中记录的全部内容的信息。该信息尤其包括用于使再现装置102识别该内容的信息以及索引表。索引表是构成该内容的标题(title)与用于控制再现装置102的动作的程序之间的对应表。把该程序称为“对象”。对象的种类包括电影对象和BD-J(BD Java(注册商标))对象。
电影对象文件212一般包括多个电影对象。各个电影对象包括导航(navigation)命令的序列。导航命令是用于使再现装置102执行与普通DVD播放器的再现处理相同的再现处理的控制指令。导航命令的种类例如包括与标题对应的播放列表文件的读出命令、播放列表文件所表示的AV流文件的再现命令、以及向其他标题的转移命令。导航命令利用解释(interpreter)型语言记述,利用装配在再现装置102中的解释器即工作(job)控制程序进行解读,并使其控制部执行期望的工作。导航命令由操作代码和操作数构成。操作代码表示标题的分支和再现及运算等、应使再现装置102执行的操作的种类。操作数表示标题号码等该操作的对象的识别信息。再现装置102的控制部例如根据用户的操作,调用各个电影对象,并按照序列的顺序来执行该电影对象中包含的导航命令。由此,再现装置102与普通的DVD播放器同样地,先在显示装置103显示菜单,并使用户选择命令。再现装置102然后根据所选择的命令,动态地使标题的再现开始/停止、以及向其他标题的切换等被再现的影像的进展发生变化。
再参照图2,在BDMV目录210之下设有播放列表(PLAYLIST)目录220、Clip(片段)信息(CLIPINF)目录230、流(STREAM)目录240、BD-J对象(BDJO:BD Java Object)目录250、Java归档(JAR:JAVA Archive)目录260、以及辅助数据(AUXDATA:Auxiliary Data)目录270。
在STREAM目录240之下设有三种AV流文件(01000.m2ts)241、(02000.m2ts)242、(03000.m2ts)243、以及立体视觉交织文件(SSIF:Stereoscopic Interleaved File)目录244。在SSIF目录244之下设有两种AV流文件(01000.ssif)244A、(02000.ssif)244B。
‘AV流文件’是指BD-ROM盘101上记录的影像内容主体中、依据文件系统确定的文件形式的文件。这里,所谓影像内容的主体一般意味着表示影像、声音、字幕等的各种流数据,即复用了基本流的流数据。该复用流数据大致分为主传输流(TS)、辅(sub)TS及文本字幕流三种。
‘主TS’是指包含基本视视频流作为主视频流的复用流数据。‘基本视视频流’是指可单独再现、表示2D影像的视频流。将该2D影像称为‘基本视’或‘主视’。
‘辅TS’是指包含从属视视频流作为主视频流的复用流数据。‘从属视视频流’是指其再现中必需基本视视频流、由与该基本视视频流的组合来表示3D影像的视频流。从属视视频流的种类中有右视视频流、左视视频流及深度映射流。‘右视视频流’是当基本视为3D影像的左视时、表示该3D影像的右视的视频流。‘左视视频流’相反。‘深度映射流’是当基本视为伪3D影像向2D画面的射影时、表示该3D影像的深度映射的流数据。尤其是将基本视为3D影像的左视时利用的深度映射流称为‘左视深度映射流’,将基本视为右视时利用的深度映射流称为‘右视深度映射流’。将从属视视频流表示的2D影像或深度映射称为‘从属视’或‘辅视’。
‘文本字幕流’(textST(SubTitle)stream)是指用文本字符串来表示以规定语言记述的电影字幕的流数据。‘文本字符串’是由特定符号(字符代码)来表示字幕中包含的各字符的数据序列。文本字幕流与其他TS不同,仅包含一个基本流。
AV流文件依照内置的复用流数据的种类,分为文件2D、文件从属(下面简称为文件DEP。)、文本字幕文件及交织文件(下面简称为文件SS。)四种。‘文件2D’是2D再现模式下的2D影像再现中利用的AV流文件,是指包含主TS的文件。‘文件DEP’是指包含辅TS的AV流文件。‘文本字幕文件’是指包含文本字幕流的AV流文件。‘文件SS’是指包含表示相同3D影像的主TS与辅TS的对的AV流文件。文件SS尤其与任一文件2D共享主TS,与任一文件DEP共享辅TS。即,在BD-ROM盘101的文件系统中,主TS能够作为文件SS和文件2D中任意一方进行访问,辅TS能够作为文件SS和文件DEP中任意一方进行访问。这样,将使BD-ROM盘101上记录的一系列数据被不同的文件所共用、并且能够作为任意一个文件而进行访问的结构称为“文件的交叉链接”(crosslink)。
在图2所示的实例中,第1AV流文件(01000.m2ts)241是文件2D,第2AV流文件(02000.m2ts)242是文件DEP,第3AV流文件(03000.m2ts)243是文本字幕文件。这样,文件2D、文件DEP及文本字幕文件设置在STREAM目录240之下。第1AV流文件、即文件2D241包含的基本视视频流表示3D影像的左视。第2AV流文件、即文件DEP242包含的从属视视频流包含右视视频流与深度映射流双方。
在图2所示的实例中,第4AV流文件(01000.ssif)244A与第5AV流文件(02000.ssif)244B均为文件SS。这样,文件SS设置在SSIF目录244之下。第4AV流文件、即第1文件SS244A与文件2D241共享主TS、尤其是基本视视频流,与文件DEP242共享辅TS、尤其是右视视频流。第5AV流文件、即第2文件SS244B与文件2D241共享主TS、尤其是基本视视频流,与文件DEP242共享辅TS、尤其是深度映射流。
CLIPINF目录230中设置三种clip信息文件(01000.clpi)231、(02000.clpi)232、(03000.clpi)233。‘clip信息文件’是与文件2D、文件DEP及文本字幕文件一对一对应的文件,尤其是指包含各文件的入口映射的文件。‘入口映射’(entry map)是各文件表示的场景或字幕的显示时间与记录该场景或字幕的各文件内的地址之间的对应表。将clip信息文件中对应于文件2D的文件称为‘2Dclip信息文件’,将对应于文件DEP的文件称为‘从属视clip信息文件’。在图2所示的实例中,第1clip信息文件(01000.clpi)231是2Dclip信息文件,对应于文件2D241。第2clip信息文件(02000.clpi)232是从属视clip信息文件,对应于文件DEP242。第3clip信息文件(03000.clpi)233对应于文本字幕文件243。
在PLAYLIST目录220中设有三种播放列表文件(00001.mpls)221、(00002.mpls)222、(00003.mpls)223。“播放列表文件”是指规定AV流文件的再现路径、即AV流文件的再现对象的部分及其再现顺序的文件。播放列表文件的种类包括2D播放列表文件和3D播放列表文件。“2D播放列表文件”规定文件2D的再现路径。“3D播放列表文件”针对2D再现模式的再现装置规定文件2D的再现路径,针对3D再现模式的再现装置规定文件SS的再现路径。在图2所示的示例中,第1播放列表文件(00001.mpls)221是2D播放列表文件,其规定文件2D241的再现路径。第2播放列表文件(00002.mpls)222是3D播放列表文件,其针对2D再现模式的再现装置规定文件2D241的再现路径,针对L/R模式的3D再现装置规定第1文件SS244A的再现路径。第3播放列表文件(00003.mpls)223是3D播放列表文件,其针对2D再现模式的再现装置规定文件2D241的再现路径,针对深度模式的3D再现装置规定第2文件SS244B的再现路径。
在BDJO目录250中设有BD-J对象文件(XXXXX.dbjo)251。BD-J对象文件251包括一个BD-J对象。BD-J对象是字节代码程序,用于使在再现装置102中安装的Java虚拟机执行标题的再现处理及图形影像的描绘处理。BD-J对象利用Java语言等编译型语言记述。BD-J对象包括应用管理表和参照对象的播放列表文件的识别信息。“应用管理表”是应使Java虚拟机执行的Java应用程序与其执行时间即生命周期之间的对应表。“参照对象的播放列表文件的识别信息”是用于识别与再现对象的标题相对应的播放列表文件的信息。Java虚拟机按照用户的操作或者应用程序,调用各个BD-J对象,并按照该BD-J对象中包含的应用管理表来执行Java应用程序。由此,再现装置102动态地改变被再现的各个标题的影像的进展,或者使显示装置103将图形影像与标题的影像独立地加以显示。
在JAR目录260中设有JAR文件(YYYYY.jar)261。JAR文件261一般包括多个应按照BD-J对象所表示的应用管理表来执行的Java应用程序的主体。“Java应用程序”是与BD-J对象同样地利用Java语言等编译型语言记述的字节代码程序。Java应用程序的种类包括使Java虚拟机执行标题的再现处理的程序、以及使Java虚拟机执行图形影像的描绘处理的程序。JAR文件261是Java归档文件,在被读入到再现装置102中时,在再现装置102内部的存储器中被展开。由此,在该存储器中保存Java应用程序。
AUXDATA目录270中设置字体集(font set)(11111.oft)271。字体集271包含涉及文本字幕流的字体信息。字体信息包含按不同字符代码表示字体的栅格(raster)数据。字符代码例如分配给数字、拉丁字母、五十音图的各字符。字体集按字体与语言的不同种类构成,例如包含Open Type字体。
《复用流数据的构造》
图3(a)是在BD-ROM盘101上的主TS中复用的基本流的一览表。主TS是MPEG-2传输流(TS)格式的数字流,包含于图2所示的文件2D241中。参照图3(a),主TS包括主视频流301、主音频流302A、302B以及演示图形(PG)流303A、303B。除此之外,主TS还可以包括交互图形(IG)流304、辅音频流305、和辅视频流306。
主视频流301表示电影的主影像,辅视频流306表示副影像。其中,主影像是指电影的正片的影像等内容的主要影像,例如指在画面整体中显示的影像。另一方面,副影像是例如在主影像中以较小的画面显示的影像那样利用画中画(picture in picture)方式与主影像同时显示在画面上的影像。主视频流301和辅视频流306都是基本视视频流。各个视频流301、306被利用MPEG-2、MPEG-4AVC或者SMPTE VC-1等动态图像压缩编码方式进行编码。
主音频流302A、302B表示电影的主声音。其中,在这两个主音频流302A、302B之间语言不同。辅音频流305表示伴随交互式画面操作的效果声音等、应与主声音叠加(混合)的副声音。各个音频流302A、302B、305被利用AC-3、杜比数字+(Dolby Digital Plus:“Dolby Digital”是注册商标)、MLP(Meridian Lossless Packing:注册商标)、DTS(Digital Theater System:注册商标)、DTS-HD、或者线性PCM(Pulse Code Modulation)等方式进行编码。
各个PG流303A、303B表示基于图形的字幕等、应在主视频流301所表示的影像上叠加显示的图形影像。在两个PG流303A、303B之间,例如字幕的语言不同。IG流304表示用于在显示装置103的画面131上构成交互式画面的图形用户界面(GUI)用的图形部件及其配置。
基本流301~306利用包识别符(PID)进行识别。PID的分配例如按照下面所述来进行。一个主TS只包括一个主视频流,所以对主视频流301分配十六进制数值0x1011。当在一个主TS中根据每个种类最多能够复用32个其他基本流时,对主音频流302A、302B分配0x1100~0x111F中的任意一个。PG流303A、303B被分配了0x1200~0x121F中的任意一个。IG流304被分配了0x1400~0x141F中的任意一个。辅音频流305被分配了0x1A00~0x1A1F中的任意一个。辅视频流306被分配了0x1B00~0x1B 1F中的任意一个。
图3(b)是在BD-ROM盘101上的辅TS中复用的基本流的一览表。辅TS是MPEG-2TS格式的复用流数据,包含于图2所示的第1文件DEP242中。参照图3(b),辅TS包括两条主视频流311R、311D。其中的一个311R是右视视频流,另一个311D是深度映射流。在主TS内的主视频流301表示3D影像的左视时,该右视视频流311R表示该3D影像的右视。该深度映射流311D通过与主TS内的主视频流301的组合表示3D影像。辅TS除此之外还可以包括辅视频流312R、312D。其中的一个312R是右视视频流,另一个312D是深度映射流。在主TS内的辅视频流306表示3D影像的左视时,该右视视频流312R表示该3D影像的右视。该深度映射流312D通过与主TS内的辅视频流306的组合表示3D影像。
针对基本流311R、……、312R的PID的分配例如按照下面所述来进行。主视频流311R、311D分别被分配了0x1012、0x1013。当在一个辅TS中根据每个种类最多能够复用32个其他基本流时,辅视频流312R、312D被分配了0x1B20~0x1B3F中的任意一个。
图3(c)是在BD-ROM盘101上的文本字幕流中复用的基本流的一览表。文本字幕流是MPEG-2TS格式的流数据。如图3(c)所示,文本字幕流仅包含单一的基本流321。对该基本流321分配固定值0x1800,作为PID。
图4是表示复用流数据400内的TS包的配置的示意图。该包结构在主TS和辅TS中是相同的。另外,关于文本字幕流的数据结构将后述。在复用流数据400内,各个基本流401、402、403、404被转换为TS包421、422、423、424的序列。例如,在视频流401中,首先,各个帧401A或者各个场被转换为一个PES(Packetized Elementary Stream:打包基本流)包411。然后,各个PES包411通常被转换为多个TS包421。同样,音频流402、PG流403及IG流404分别被暂时转换为PES包412、413、414的序列,然后被转换为TS包422、423、424的序列。最后,从各个基本流401、402、403、404得到的TS包421、422、423、424被时分复用到一个流数据400中。
图5(b)是表示构成复用流数据的TS包序列的形式的示意图。各个TS包501是188字节长度的包。参照图5(b),各个TS包501包括TS有效载荷501P和适配域(adaptation field)(以下称为AD域)501A中至少任意一方、以及TS头(header)501H。TS有效载荷501P和AD域501A两者加起来是184字节长度的数据区域。TS有效载荷501P被用作PES包的保存区域。图4所示的PES包411~414通常分别被划分为多个部分,各个部分被保存在不同的TS有效载荷501P中。AD域501A是在TS有效载荷501P的数据量达不到184字节时保存填充(stuffing)字节(即伪数据,dummy data)的区域。除此之外,在TS包501是例如后面叙述的PCR时,AD域501A被用作该PCR的信息的保存区域。TS头501H是4字节长度的数据区域。
图5(a)是表示TS头501H的数据结构的示意图。参照图5(a),TS头501H包括TS优先度(transport_priority)511、PID512、及AD域控制(adaptation_field_control)513。PID512表示在相同TS包501内的TS有效载荷501P中保存的数据所属的基本流的PID。TS优先度511表示PID512所指示的值所共用的TS包组中的TS包501的优先度。AD域控制513表示在TS包501内有无各个AD域501A和TS有效载荷501P。例如,在AD域控制513表示“1”时,TS包501包含TS有效载荷501P,但不包含AD域501A。在AD域控制513表示“2”时则相反。在AD域控制513表示“3”时,TS包501包含AD域501A和TS有效载荷501P双方。
图5(c)是表示由复用流数据的TS包序列构成的源包序列的形式的示意图。参照图5(c),各个源包502是192字节长度的包,包括图5(b)所示的一个TS包501和4字节长度的头(TP_Extra_Header)502H。在TS包501被记录在BD-ROM盘101中时,对该TS包501赋予头502H,由此构成源包502。头502H包括ATS(Arrival_Time_Stamp)。“ATS”是时刻信息,按照下面所述由再现装置102使用:在从BD-ROM盘101向再现装置102内的系统目标解码器发送源包502时,从该源包502中抽取TS包502P,并向系统目标解码器内的PID过滤器传输。该头502H内的ATS表示应该开始该传输的时刻。其中,“系统目标解码器”是从复用流数据中分离基本流并分别进行解码的装置。关于系统目标解码器和由其实施的ATS的利用的具体情况将在后面进行说明。
图5(d)是连续地记录了一系列源包502的BD-ROM盘101的卷区域202B上的扇区群的示意图。参照图5(d),一系列源包502被按每32个地记录在三个连续的扇区521、522、523中。这是因为32个源包的数据量192字节×32=6144字节、与三个扇区的合计大小2048字节×3=6144字节相等。这样,把在三个连续的扇区521、522、523中记录的32个源包502称为“排列单元(Aligned Unit)”520。再现装置102从BD-ROM盘101按照每个排列单元520、即每32个地读取源包502。扇区群521、522、523、…从开头开始依次按每32个被划分,分别构成一个纠错编码(ECC)块530。BD-ROM驱动器121按每个ECC块530进行纠错处理。
《视频流的数据结构》
视频流中包含的各图片(picture)表示1帧或1场,由MPEG-2或MPEG-4AVC等动态图像压缩编码方式压缩。该压缩中利用图片的空间方向及时间方向的冗余性。这里,将仅利用空间方向冗余性的图片的编码称为‘图片内编码’。另一方面,将利用时间方向冗余性、即显示顺序连续的多个图片间的数据近似性的图片的编码称为‘图片间预测编码’。在图片间预测编码中,首先对编码对象的图片设定显示时间为前或后的其他图片作为参照图片。接着,在编码对象的图片与其参照图片之间检测运动矢量,利用其来对参照图片进行运动补偿。再求出由运动补偿得到的图片与编码对象的图片间的差分值,从该差分值中去除空间方向的冗余性。这样,压缩各图片的数据量。
图6是按显示时间顺序表示视频流中包含的三个图片601、602、603的模式图。参照图6,将各图片601、602、603一般分割成多个切片611、...、621、622、623、...、631、...。‘切片’(slice)一般是由沿水平方向排列的多个宏块构成的带状区域。‘宏块’是16×16等规定尺寸的像素矩阵。这里,虽然图6未示,但一个切片也可由二行以上的宏块构成。在上述编码方式中,按每个切片压缩图片。压缩后的切片分为I切片、P切片、B切片三种。‘I(Intra:内部)切片’621是指由图片内编码压缩的切片。‘P(Predictive:预测)切片’622是由图片间预测编码压缩的图片,是指将显示时间在其前的一个图片601用作参照图片的图片。‘B(Bidirectionally Predictive:双向预测)切片’623是由图片间预测编码压缩的切片,是指将显示时间在其前或后的二个图片601、603用作参照图片的图片。图6中,由箭头来表示P切片622与B切片623的参照对象。在MPEG-4AVC中,如图6所示,一个图片602也可包含不同种类的切片。另一方面,在MPEG-2中,一个图片仅包含相同种类的切片。
在下面的说明中,为了方便,无论编码方式如何,均假设一个图片仅包含相同种类的切片的情况。此时,对应于切片的种类,将压缩后的图片分成I图片、P图片、B图片三种。还将B图片中在对其他图片的图片间预测编码中用作参照图片的图片特指为‘Br(reference B)图片’。
图7是按显示时间顺序表示基本视视频流701与右视视频流702的图片的模式图。参照图7,基本视视频流701包含图片710、711、712、...、719(下面称为基本视图片。),右视视频流702包含图片720、721、722、...、729(下面称为右视图片。)。将基本视图片710-719一般分割成多个GOP731、732。‘GOP’(图片组)是指设I图片为开头的多个连续的图片序列。GOP一般除I图片外,还包含P图片与B图片。
在图7所示的实例中,各GOP731、732内的基本视图片按以下顺序压缩。在第1GOP731中,首先将开头的基本视图片压缩成I0图片710。这里,下标数字表示按显示时间顺序分配给各图片的连续号码。接着,第4个基本视图片将I0图片710作为参照图片压缩成P3图片713。这里,图7所示的各箭头表示前端的图片是相对后端图片的参照图片。接着,第2、3个基本视图片将I0图片710与P3图片713作为参照图片,分别压缩成Br1图片711、Br2图片712。第7个基本视图片再将P3图片713作为参照图片,压缩成P6图片716。接着,第4、5个基本视图片将P3图片713与P6图片716作为参照图片,分别压缩成Br4图片714、Br5图片715。同样,在第2GOP732中,首先将开头的基本视图片压缩成I7图片717。接着,第3个基本视图片将I7图片717作为参照图片压缩成P9图片719。接着,第2个基本视图片将I7图片717与P9图片719作为参照图片,压缩成Br8图片718。
在基本视视频流701中,由于各GOP731、732在其开头必然包含I图片,所以可按每个GOP解码基本视图片。例如,在第1GOP731中,首先独立解码I0图片710。接着,利用解码后的I0图片710,解码P3图片713。接着利用解码后的I0图片710与P3图片713,解码Br1图片711与Br2图片712。后续的图片群714、715、...也同样解码。这样,基本视视频流701可独立解码,还可以GOP单位随机访问。
再参照图7,右视图片720-729以图片间预测编码压缩。但是,其编码方法与基本视图片710-719的编码方法不同。除影像的时间方向的冗余性外,还利用左右影像间的冗余性。具体地,各右视图片720-729的参照图片如图7中箭头所示,不仅从右视视频流702、还从基本视视频流701中选择。尤其是各右视图片720-729与作为其参照图片选择的基本视图片的显示时刻实质上相等。这些图片表示3D影像相同场景的右视与左视的对,即视差影像。这样,右视图片720-729与基本视图片710-719一对一对应。尤其是这些图片间GOP结构相同。
在图7所示的实例中,首先第1GOP731内的开头右视图片将基本视视频流701内的I0图片710作为参照图片,压缩成P0图片720。这些图片710、720表示3D影像的开头帧的左视与右视。接着,第4个右视图片将P0图片720与基本视视频流701内的P3图片713作为参照图片,压缩成P3图片723。接着,第2个右视图片除P0图片720与P3图片723外,还将基本视视频流701内的Br1图片711作为参照图片,压缩成B1图片721。同样,第3个右视图片除P0图片720与P3图片730外,还将基本视视频流701内的Br2图片712作为参照图片,压缩成B2图片722。以后的右视图片724-729也一样,将显示时刻与该右视图片实质相等的基本视图片用作参照图片。
作为利用上述左右影像间相关关系的动态图像压缩编码方式,已知称为MVC(Multiview Video Coding:多视视频编码)的MPEG-4AVC/H.264的修正标准。MVC由作为ISO/IEC MPEG与ITU-T VCEG的共同项目的JVT(Joint Video Team:联合视频组)于2008年7月制定的,是将能够从多个视点看到的影像一并进行编码的标准。在MVC中,影像间预测编码不仅利用了影像的时间方向上的相似性,也利用了视点不同的影像之间的相似性。与对从各个视点看到的影像独立地进行压缩的预测编码相比,这种预测编码的影像的压缩率高。
如上所述,各右视图片720-729的压缩中利用基本视图片作为参照图片。因此,与基本视视频流701不同,不能独立解码右视视频流702。但是,视差影像间的差异一般不大,即左视与右视之间的相关高。因此,右视图片一般比基本视图片的压缩率明显高,即数据量明显小。
深度映射流中包含的深度映射与基本视图片710-719一对一对应,表示对该基本视图片所示的2D影像的深度映射。各深度映射与基本视图片710-719一样,由MPEG-2或MPEG-4AVC等动态图像压缩编码方式压缩。尤其是在该编码方式中利用图片间预测编码。即,各深度映射利用其他深度映射作为参照图片来压缩。深度映射流还与基本视视频流701一样分割成GOP单位,各GOP在其开头必然包含I图片。因此,深度映射可按每个GOP解码。但是,由于深度映射自身仅是按不同像素表示2D影像各部进深的信息,所以不能将深度映射流独立用于影像的再现中。
例如图3(b)所示的二条主视频流311R、311D那样,对应于相同基本视视频流的右视视频流与深度映射流以相同的编码方式压缩。例如,当右视视频流以MVC格式编码时,深度映射流也以MVC格式编码。此时,再现装置102在3D影像再现时,可将编码方式维持固定不变,顺利实现L/R模式与深度模式的切换。
图8是详细表示视频流800的数据结构的示意图。这种数据结构对基本视视频流和从属视视频流来说实质上是相同的。参照图8,视频流800通常由多个视频序列#1、#2、…构成。“视频序列”是在构成一个GOP810的图片群811、812、813、814、…中独立地组合了头等附加信息而形成的。把这种附加信息与各个图片的组合称为“视频访问单元(VAU)”。即,在各个GOP810、820中,针对每个图片形成有一个VAU#1、#2、…。各个图片能够以VAU单位从视频流800中读取。
图8还示出了在基本视视频流中位于各个视频序列的前端的VAU#1831的结构。VAU#1831包括访问单元(AU)识别代码831A、序列头831B、图片头831C、补充数据831D和压缩图片数据831E。自第二个以后的VAU#2除了不包含序列头831B之外,其他结构与VAU#1831相同。AU识别代码831A是表示VAU#1831的前端的规定的代码。序列头831B也称为GOP头,包括包含VAU#1831的视频序列#1的识别号码。序列头831B还包括在全部GOP810中共同的信息,例如分辨率、帧速率、宽高比、比特率。图片头831C表示自身固有的识别号码、视频序列#1的识别号码、以及进行图片的解码所需要的信息例如编码方式的种类。补充数据831D包括除图片的解码之外的相关附加信息,例如表示隐藏式字幕(closed caption)的字符信息、与GOP结构相关的信息、以及时间码信息。补充数据831D尤其包括后面叙述的解码开关信息。压缩图片数据831E包括基本视图片。除此之外,VAU#1831根据需要还可以包括填充数据831F、序列末端代码831G、以及流末端代码831H中的任意一个或者全部。填充数据831F是伪数据。通过对应压缩图片数据831E的大小来调节填充数据831F的大小,能够将VAU#1831的比特率保持为规定值。序列末端代码831G表示VAU#1831位于视频序列#1的后端。流末端代码831H表示基本视视频流800的后端。
图8还示出了在从属视视频流中位于各个视频序列的前端的VAU#1832的结构。VAU#1832包括子AU识别符832A、子序列头832B、图片头832C、补充数据832D和压缩图片数据832E。自第二个以后的VAU#2除了不包含子序列头832B之外,其他结构与VAU#1832相同。子AU识别符832A是表示VAU#1832的前端的规定的代码。子序列头832B包括包含VAU#1832的视频序列#1的识别号码。子序列头832B还包括在全部GOP810中共同的信息,例如分辨率、帧速率、宽高比、比特率。尤其是这些信息的值与针对基本视视频流的对应的GOP所设定的值相同,即与VAU#1831的序列头831B所表示的值相同。图片头832C表示自身固有的识别号码、视频序列#1的识别号码、以及进行图片的解码所需要的信息例如编码方式的种类。补充数据832D包括除图片的解码之外的相关附加信息,例如表示隐藏式字幕的字符信息、与GOP结构相关的信息、以及时间码信息。补充数据832D尤其包括后面叙述的解码开关信息。压缩图片数据832E包括从属视图片。除此之外,VAU#1832根据需要还可以包括填充数据832F、序列末端代码832G、以及流末端代码832H中的任意一个或者全部。填充数据832F是伪数据。通过对应压缩图片数据832E的大小来调节填充数据832F的大小,能够将VAU#1832的比特率保持为规定值。序列末端代码832G表示VAU#1832位于视频序列#1的后端。流末端代码832H表示从属视视频流800的后端。
VAU的各个部分的具体内容根据视频流800的编码方式而不同。例如,在其编码方式是MPEG-4AVC或MVC时,图8所示的VAU的各个部分由一个NAL(Network Abstraction Layer:网络抽象层)单元构成。具体地讲,AU识别代码831A、序列头831B、图片头831C、补充数据831D、压缩图片数据831E、填充数据831F、序列末端代码831G、以及流末端代码831H,分别相当于AU分割符(Access Unit Delimiter)、SPS(序列参数集)、PPS(图片参数集)、SEI(Supplemental Enhancement Information:补充增强信息)、视组合填充数据(Filler Data)、序列末端(End of Sequence)、以及流末端(End of Stream)。
图9是表示基本视视频流910与从属视视频流920各自中包含的VAU间的头参照关系的模式图。参照图9,在基本视视频流910中,开头图片BPIC被分割成切片#1-#K(整数K为1以上。)后,存储在VAU的压缩图片数据911中。向各切片#1-#K赋予切片头912。将表示各切片#1-#K的参照对象图片的标识信息、即参照图片号码存储在该切片的切片头912中。由此,可根据各切片头所示的参照图片号码来确定其参照对象的基本视图片。切片头912还包含相同VAU内的图片头913的标识号码(例如PPS号码)。由此,如图9中虚线箭头所示,可从各切片头所示的标识号码来确定其参照对象的图片头913。其他图片也一样,被分割成切片#1-#L(整数L为1以上。)后,存储在其他VAU的压缩图片数据914中。向各切片#1-#L赋予的切片头包含相同VAU内的图片头915的标识号码。由此,如图9中虚线箭头所示,可从各切片头所示的标识号码来确定其参照对象的图片头915。各图片头913、915还包含相同视频序列内的序列头916的号码(例如SPS号码)。由此,如图9中点划线箭头所示,可从各图片头913、915所示的标识号码来确定其参照对象的序列头916。
再参照图9,从属视视频流920中也一样,开头图片DPIC被分割成切片#1-#K后,存储在VAU的压缩图片数据921中。向各切片#1-#K赋予的切片头922包含参照图片号码。可根据该参照图片号码来确定该切片参照的基本视图片与从属视图片。各切片头还包含相同VAU内的图片头923的标识号码。由此,如图9中虚线箭头所示,可从各切片头922所示的标识号码来确定其参照对象的图片头923。其他图片也一样,被分割成切片#1-#L后,存储在其他VAU的压缩图片数据924中。向各切片#1-#L赋予的切片头包含参照图片号码与相同VAU内的图片头925的标识号码。由此,如图9中虚线箭头所示,可从各切片头922所示的标识号码来确定其参照对象的图片头925。各图片头923、925还包含相同视频序列内的子序列头926的号码。由此,如图9中点划线箭头所示,可从各图片头923、925所示的识别号码来确定其参照对象的子序列头926。
图10是表示向PES包序列1002存储视频流1001的方法细节的模式图。该存储方法在基本视视频流与从属视视频流中是共同的。参照图10,在实际的视频流1001中,图片不按显示时间顺序而按编码顺序来复用。例如,在基本视视频流的VAU中,如图10所示,从开头起顺序存储I0图片1010、P3图片1011、B1图片1012、B2图片1013、...。这里,下标数字表示按显示时间顺序分配给各图片的连续号码。在P3图片1011的编码中,利用I0图片1010作为参照图片,在B1图片1012与B2图片1013的各编码中,利用I0图片1010与P3图片1011作为参照图片。这些VAU一个个地存储在不同PES包1020、1021、1022、1023、...中。各PES包1020、...包含PES有效载荷1020P与PES头1020H。VAU存储在PES有效载荷1020P中。另一方面,PES头1020H包含相同PES包1020的PES有效载荷1020P中存储的图片的显示时刻、即PTS(Presentation Time-Stamp:演示时间戳)及该图片的解码时刻、即DTS(Decoding Time-Stamp:解码时间戳)。
与图10所示的视频流1001一样,图3、4所示的其他基本流也存储在一系列PES包的各PES有效载荷中。各PES包的PES头还包含该PES包的PES有效载荷中存储的数据的PTS。
图11是表示分配给基本视视频流1101与从属视视频流1102的各图片的PTS与DTS之间关系的模式图。参照图11,在两个视频流1101、1102之间,对表示3D影像的相同帧或场的一对图片,分配相同PTS及相同DTS。例如,从基本视视频流1101的I1图片1111与从属视视频流1102的P1图片1121的组合来再现3D影像的开头帧或场。因此,这些图片对1111、1121中,PTS相等,且DTS相等。这里,下标数字表示按DTS顺序分配给各图片的连续号码。另外,当从属视视频流1102是深度映射流时,将P1图片1121置换为表示对I1图片1111的深度映射的I图片。同样,各视频流1101、1102的第2个图片、即P2图片1112、1122的对中,PTS相等,且DTS相等。在各视频流1101、1102的第3个图片、即Br3图片1113与B3图片1123的对中,PTS与DTS均共同。Br4图片1114与B4图片1124的对中也一样。
在基本视视频流1101与从属视视频流1102之间,将包含PTS相等且DTS相等的图片的VAU对称为‘3D·VAU’。通过图11所示的PTS与DTS的分配,可容易地让3D再现模式的再现装置102内的解码器以3D·VAU单位来平行处理基本视视频流1101与从属视视频流1102。由此,表示3D影像的相同帧或场的一对图片由解码器可靠地平行处理。在各GOP的开头的3D·VAU中,序列头还包含相同分辨率、相同帧速率及相同宽高比。尤其是该帧速率与2D再现模式下独立解码基本视视频流1101时的值相等。
[解码开关信息]
图12(a)是表示图8所示的各补充数据831D、832D包含的解码开关信息1250的数据结构的模式图。这里,补充数据831D、832D尤其在MPEG-4AVC、MVC中相当于NAL单元的一种“SEI”。解码开关信息1250在基本视视频流与从属视视频流双方中包含于各VAU的补充数据83ID、832D中。解码开关信息1250是用于使再现装置102内的解码器容易确定下面应解码的VAU的信息。这里,该解码器如后所述,以VAU单位交互解码基本视视频流与从属视视频流。此时,该解码器一般与赋予各VAU的DTS所示的时刻一致,确定下面应解码的VAU。但是,解码器的种类中,多是忽视DTS、依次继续解码VAU的解码器。对于这种解码器,最好各VAU除DTS外还包含解码开关信息1250。
参照图12(a),解码开关信息1250包含下一访问单元种类1251、下一访问单元大小1252及解码计数器1253。下一访问单元种类1251表示下面应解码的VAU属于基本视视频流与从属视视频流中的哪个。例如,当下一访问单元种类1251的值为“1”时,下面应解码的VAU属于基本视视频流,当为“2”时,属于从属视视频流。当下一访问单元种类1251的值为“0”时,当前的VAU位于解码对象流的后端,不存在下面应解码的VAU。下一访问单元大小1252表示下面应解码的VAU的大小。再现装置102内的解码器通过参照下一访问单元大小1252,可不解析VAU的构造自身来确定其大小。因此,解码器可容易地从缓冲器中抽取VAU。解码计数器1253表示其所属的VAU应被解码的顺序。该顺序从包含基本视视频流内的I图片的VAU起开始计算。
图12(b)是表示分配给基本视视频流1201与从属视视频流1202的各图片的解码计数器一例1210、1220的模式图。参照图12(b),解码计数器1210、1220在两个视频流1201、1202间交互递增。例如,对包含基本视视频流1201内I图片的VAU1211,分配“1”,作为解码计数器1210。对包含下面应解码的从属视视频流1202内P图片的VAU1221,分配“2”,作为解码计数器1220。对包含再接下来应解码的基本视视频流1201内P图片的VAU1212,分配“3”,作为解码计数器1210。通过该分配,即便因某种故障、再现装置102内的解码器读丢任一VAU时,解码器也可从解码计数器1210、1220马上确定由此缺失的图片。因此,解码器可适当且迅速地执行错误处理。
在图12(b)所示的实例中,基本视视频流1201的第3个VAU1213的读入中产生错误,Br图片缺失。但是,解码器通过从属视视频流1202的第2个VAU1222中包含的P图片的解码处理,从该VAU122中读出解码计数器1220后并保持。因此,解码器可预测接着应处理的VAU的解码计数器1210。具体地,由于包含该P图片的VAU1222内的解码计数器1220为“4”,所以预测为接着应读入的VAU的解码计数器1210为“5”。但是,实际上由于下面读入的VAU是基本视视频流1201的第4个VAU1214,所以其解码计数器1210为“7”。由此,可检测解码器读丢一个VAU。因此,解码器可执行如下的错误处理:‘对于从从属视视频流1202的第3个VAU1223中抽取的B图片,由于缺失应参照的Br图片,所以跳过解码处理’。这样,解码器按每个解码处理检查解码计数器1210、1220。由此,解码器可迅速检测VAU的读入错误,且迅速地执行适当的错误处理。结果,可防止噪声混入再现影像。
图12(c)是表示分配给基本视视频流1201与从属视视频流1202的各图片的解码计数器的其他例1230、1240的模式图。参照图12(c),解码计数器1230、1240在各视频流1201、1202中独立递增。因此,解码计数器1230、1240在属于相同3D·VAU的一对图片间相等。此时,解码器可在解码一个基本视视频流1201的VAU的时刻如下预测:‘该解码计数器1230与接着应解码的从属视视频流1202的VAU的解码计数器1240相等’。另一方面,解码器在解码一个从属视视频流1202的VAU的时刻可如下预测:‘向该解码计数器1240加1后的值与接着应解码的基本视视频流1201的VAU的解码计数器1230相等’。因此,解码器在任一时刻均可从解码计数器1230、1240迅速检测VAU的读入错误,并且迅速地执行适当的错误处理。结果,可防止噪声混入再现影像。
[偏移元数据]
图13是表示从属视视频流1300包含的偏移元数据1310的数据结构的模式图。图14是表示该偏移元数据(offset_metadata)1310的语法(Syntax)的表。参照图13,偏移元数据1310存储在位于各视频序列(即各GOP)前端的VAU#1的补充数据1301中。参照图13、14,偏移元数据1310包含偏移序列ID(offset_sequence_id)1311与偏移序列(offset_sequence)1312之间的对应表。
偏移序列ID1311是顺序分配给偏移序列1312的连续号码0、1、2、...、M。整数M为1以上,表示偏移序列1312的总数(number_of_offset_sequence)。向应合成到从各视频序列再现的视频平面的图形平面分配偏移序列ID1311。由此,偏移序列1312对应于各图形平面。
这里,所谓‘视频平面’是指由视频序列包含的图片生成的平面数据。所谓‘图形平面’是指由表示2D图形影像的图形数据、或文本字幕流包含的文本字符串生成的平面数据。所谓‘平面数据’是像素数据的二维排列,该排列的大小与影像帧的分辨率相等。一组像素数据由色坐标值与α值(不透明度)的组合构成。色坐标值由RGB值或YCrCb值表示。图形平面的种类中包含PG平面、IG平面、图像(image)平面及屏幕显示器上(OSD)平面。PG平面由主TS内的PG流或文本字幕流生成。IG平面由主TS内的IG流生成。图像平面根据BD-J对象生成。OSD平面根据再现装置102的固件生成。
各偏移序列1312是帧号码1321与偏移信息1322、1323的对应表。帧号码1321是按显示顺序分配给一个视频序列(例如视频序列#1)表示的帧#1、#2、...、#N的连续号码1、2、...、N。图14中,帧号码1321由整数值变量i表示。整数N为1以上,表示该视频序列包含的帧的总数(number_of_displayed_frames_in_GOP)。各偏移信息1322、1323是规定对一个图形平面的偏移控制的控制信息。
这里,所谓‘偏移控制’是指向图形平面提供水平坐标的左方向与右方向的各偏移、合成到基本视视频平面与从属视视频平面的各个平面的处理。所谓‘向图形平面提供水平方向的偏移’是指在该图形平面内使各像素数据沿水平方向位移。由此,从一个图形平面生成表示左视与右视的图形平面的对。由该对(pair)再现的2D图形影像的各部的显示位置从最初的显示位置向左右错位。这些位移让视听者错觉成两眼视差,由此左视与右视对被该视听者看成一个3D图形影像。
偏移由方向与大小决定。因此,如图13、14所示,各偏移信息包含偏移方向(Plane_offset_direction)1322与偏移值(Plane_offset_value)1323。偏移方向1322表示3D图形影像的进深在画面的近前一侧还是里侧。取决于偏移方向1322的值,将相对于最初2D图形影像的显示位置的、左视与右视的各显示位置方向决定为左或右。偏移值1323以水平方向的像素数来表示最初的2D图形影像的显示位置、与左视和右视的各显示位置之间的距离。
图15(a)、(b)是表示对PG平面1510与IG平面1520的偏移控制的模式图。在这些偏移控制中,向左视视频平面1501与右视视频平面1502分别合成二种图形平面1510、1520。这里,所谓‘左视/右视视频平面’是指由基本视视频流与从属视视频流的组合来生成的、表示左视/右视的视频平面。在下面的说明中,假设将PG平面1510表示的字幕1511显示于画面近前、将IG平面1520表示的按钮1521显示在画面里侧的情况。
参照图15(a),向PG平面1510提供右方向的偏移。具体地,首先,PG平面1510内的各像素数据的位置从左视视频平面1510内的对应像素数据的位置向右(虚拟地)移动等于偏移值的像素数SFP。接着,‘切掉’(虚拟地)超出左视视频平面1501范围右侧的PG平面1510的右端带状区域1512。即,废弃该区域1512的像素数据群。另一方面,向PG平面1510的左端追加透明的带状区域1513。该带状区域1513的宽度等于右端的带状区域1512的宽度、即偏移值SFP。这样,从PG平面1510生成表示左视的PG平面,合成到左视视频平面1501。尤其是在该左视PG平面中,字幕1511的显示位置比最初的显示位置向右错位偏移值SFP。
另一方面,向IG平面1520提供左方向的偏移。具体地,首先,IG平面1520内的各像素数据的位置从左视视频平面1501内的对应像素数据的位置向左(虚拟地)移动等于偏移值的像素数SFI。接着,切掉(虚拟地)超出左视视频平面1510范围左侧的IG平面1520的左端带状区域1522。另一方面,向IG平面1520的右端追加透明的带状区域1523。该带状区域1523的宽度等于左端的带状区域1522的宽度、即偏移值SFI。这样,从IG平面1520生成表示左视的IG平面,合成到左视视频平面1501。尤其是在该左视IG平面中,按钮1521的显示位置比最初的显示位置向左错位偏移值SFI。
参照图15(b),向PG平面1510提供左方向的偏移,向IG平面1520提供右方向的偏移。即,只要将上述操作在PG平面1510和IG平面1520中相反即可。结果,从各平面数据1510、1520生成表示右视的平面数据,合成到右视视频平面1520。尤其是在右视PG平面中,字幕1511的显示位置比最初的显示位置向左错位偏移值SFP。另一方面,在右视IG平面中,按钮1521的显示位置比最初的显示位置向右错位偏移值SFI。
图15(c)是表示视听者1530从图15(a)、(b)所示的图形平面表示的2D图形影像感知的3D图形影像的模式图。当这些图形平面表示的2D图形影像交互显示于画面1540中时,视听者1530如图15(c)所示,看到字幕1531在画面1540近前一侧,看到按钮1532在画面1540里侧。各3D图形影像1531、1532与画面1540之间的距离可由偏移值SFP、SFI调节。
图16(a)、(b)是表示偏移序列的具体例的图表。各图表中,当偏移方向表示画面近前时,偏移值为正。图16(a)是扩大图16(b)中最初的GOP、GOP1的显示期间中的图表的图表。参照图16(a),阶段状的图表1601表示偏移序列ID=0的偏移序列,即偏移序列[0]的偏移值。另一方面,水平的图表1602表示偏移序列ID=1的偏移序列,即偏移序列[1]的偏移值。偏移序列[0]的偏移值1601在最初GOP的显示期间GOP1中按帧FR1、FR2、FR3、...、FR15、...的顺序阶段状地增加。参照图16(b),该偏移值1601的阶段状增加即便在第二个以后的各GOP的显示期间GOP2、GOP3、...、GOP40、...中也同样继续。由于每1帧的增加量足够细,所以图16(b)中看成偏移值1601线性地连续增加。另一方面,偏移序列[1]的偏移值1602在最初的GOP的显示期间GOP1中维持负的固定值。参照图16(b),该偏移值1602在第40个GOP的显示期间GOP40结束时激增为正的值。这样,偏移值也可不连续变化。
图16(c)是表示根据图16(a)、(b)所示的偏移序列再现的3D图形影像的模式图。当字幕的3D影像1603根据偏移序列[0]显示时,该3D影像1603看成从画面1604近前缓慢飞出。另一方面,当按钮的3D影像1605根据偏移序列[1]显示时,该3D影像1605看成从固定在画面1604里侧的状态突然飞出到画面1604近前。这样,使帧单位的偏移值增减的模式(pattern)按每个偏移序列各种各样变化。由此,可对多个3D图形影像多种多样地表现各个进深的变化。
《PG流的数据结构》
再参照图4,PG流403包含多个功能段。这些功能段包含显示控制段(Presentation Control Segment:PCS)、调色板定义段(Pallet Define Segment:PDS)、窗口定义段(Window Define Segment:WDS)、及对象定义段(ObjectDefine Segment:ODS)。PCS与图形流中的显示单位(display set:显示集)的细节一起规定使用图形对象的画面构成。在该画面构成的种类中,包含切入/出(Cut-In/Out)、淡入/出(Fade-In/Out)、颜色变化(Color Change)、滚动(Scroll)、划入/出(Wipe-In/Out)。通过由PCS规定画面构成,可实现‘在缓慢消失某个字幕的同时,显示下一字幕’等显示效果。PDS规定像素代码与色坐标值(例如亮度Y、红色差Cr、蓝色差Cb、不透明度α)之间的对应关系。WDS规定图形平面内的矩形区域,即窗口。ODS使用像素代码与行程(run-length),定义实施了行程压缩的图形对象。
《IG流的数据结构》
再参照图4,IG流404包含对话构成段(Interactive Composition Segment:ICS)、PDS及ODS。PDS与ODS是与PG流403中包含的一样的功能段。尤其是ODS包含的图形对象表示按钮及弹出菜单等构成交互式画面的GUI用图形部件。ICS规定使用这些图形对象的交互操作。具体地,ICS规定对按钮及弹出菜单等、状态对应于用户操作而变化的图形对象每个可取的状态,即正常、选择及激活(active)的各状态。ICS还包含按钮信息。按钮信息包含用户对按钮等执行确定操作时再现装置应执行的命令。
《文本字幕流的数据结构》
图17是表示文本字幕流1700的数据结构的模式图。文本字幕流1700包含多个文本数据入口1710。各文本数据入口1710由类型信息1711与文本信息1712的对构成。文本信息1712表示显示对象的文本字符串。类型信息1711包含PTS1701、显示位置1702、字体ID1703、显示类型1704及字体尺寸1705。PTS1701表示相同对(pair)的文本信息1712表示的文本字符串的显示时刻。显示位置1702表示图形平面中的该文本字符串的显示位置。字体ID1703是将该文本字符串描绘到图形平面时应参照的字体集的识别信息。显示类型1704表示粗字、斜体等显示该文本字符串时的字体。字体尺寸1705表示显示该文本字符串时的字符大小。
《AV流文件中包含的其他TS包》
在AV流文件中包含的TS包种类中,除从图3所示的基本流变换的种类外,还有PAT(Program Association Table:节目关联表)、PMT(Program MapTable:节目映射表)、及PCR(Program Clock Reference:节目时钟参考)。PCR、PMT和PAT是按照欧洲数字广播标准规定的,本来就具有规定构成一个节目的部分传输流(partial transport stream)的作用。通过利用PCR、PMT和PAT,AV流文件也能够与该部分传输流同样地被规定。具体地讲,PAT表示在相同AV流文件中包含的PMT的PID。PAT自身的PID是0。PMT包括在相同AV流文件中包含的、表示影像/声音/字幕等的各个基本流的PID及其属性信息。PMT还包括与该AV流文件相关的各种描述符(descriptor,也称为记述符)。在描述符中尤其包含表示该AV流文件的拷贝的允许/禁止的拷贝控制信息。PCR包括表示应该与分配给自身的ATS对应的STC(System Time Clock:系统时钟)的值的信息。其中,“STC”是通过再现装置102内的解码器被用作PTS及DTS的基准的时钟。该解码器利用PCR使STC与ATC 同步。
图18是表示PMT1810的数据结构的模式图。PMT1810包含PMT头1801、描述符1802及流信息1803。PMT头1801表示PMT1810中包含的数据的长度等。各描述符1802是涉及包含PMT1810的AV流文件整体的描述符。将上述的拷贝控制信息包含于描述符1802之一中。流信息1803是涉及AV流文件中包含的各基本流的信息,一个个地分配给不同的基本流。各流信息1803包含流种类1831、PID1832及流描述符1833。流种类1831包含该基本流压缩中利用的编解码器(codec)的识别信息等。PID1832表示该基本流的PID。流描述符1833包含该基本流的属性信息、例如帧速率和宽高比。
通过利用PCR、PMT、PAT,可使再现装置102内的解码器与依照欧洲数字广播标准的部分传输流一样处理AV流文件。由此,可确保BD-ROM盘101用的再现装置与依照欧洲数字广播标准的终端装置之间的兼容性。
《复用流数据的交织配置》
3D影像的无缝再现中,基本视视频流与从属视视频流在BD-ROM盘101上的物理配置是重要的。这里,所谓‘无缝再现’是指从复用流数据无中断地平滑再现影像与声音。
图19是表示BD-ROM盘101上复用流数据的物理配置的模式图。参照图19,将复用流数据分割成多个数据块D[n]、B[n](n=0、1、2、3、...),配置在BD-ROM盘101上。这里,所谓‘数据块’是指BD-ROM盘101上的连续区域,即物理上连续的多个扇区中记录的一系列数据。BD-ROM盘101中物理地址与逻辑地址实质上相等,所以各数据块内LBN也连续。因此,BD-ROM驱动器121可不让光拾取器进行查找地连续读出一个数据块。下面,将属于主TS的数据块B[n]称为‘基本视数据块’,将属于辅TS的数据块D[n]称为‘从属视数据块’。尤其是将包含右视视频流的数据块称为‘右视数据块’,将包含深度映射流的数据块称为‘深度映射数据块’。
各数据块B[n]、D[n]在BD-ROM盘101的文件系统中可作为文件2D或文件DEP内的一个区段访问。即,各数据块的逻辑地址可从文件2D或文件DEP的文件入口知晓(细节参照《补充》)。
在图19所示的实例中,文件2D(01000.m2ts)241的文件入口1910表示基本视数据块B[n]的各大小与其前端的LBN。因此,各基本视数据块B[n]可作为文件2D241的区段EXT2D[n]访问。下面,将属于文件2D241的区段EXT2D[n]称为‘2D区段’。另一方面,文件DEP(02000.m2ts)242的文件入口1920表示从属视数据块D[n]的各大小与其前端的LBN。因此,各从属视数据块D[n]是从属视数据块,可作为文件DEP242的区段EXT2[n]访问。下面,将属于文件DEP242的区段EXT2[n]称为‘从属视区段’。
参照图19,数据块群沿BD-ROM盘101上的轨道连续记录。并且,基本视数据块B[n]与从属视数据块D[n]一个个地交互配置。将这种数据块群的配置称为‘交织配置’。尤其将以交织配置记录的一系列数据块群称为‘区段块’(extent block)。图19中示出三个区段块1901、1902、1903。如最初的二个区段块1901、1902所示,区段块之间由复用流数据以外的数据NAV的记录区域分离。另外,在BD-ROM盘101是多层盘的情况下,即包含多个记录层的情况下,如图13所示的第二个与第三个区段块1902、1903那样,区段块之间也由记录层间的边界LB分离。这样,一系列复用流数据一般被分割成多个区段块后配置。此时,再现装置102为了从该复用流数据无缝再现影像,必需无缝连接从各区段块再现的影像。下面,将因此再现装置102所需的处理称为‘区段块间的无缝连接’。
各区段块1901-1903中,二种数据块D[n]、B[n]中每一种数据块各包含相同数量。并且,在第n个邻接数据块的对D[n]、B[n]中,区段ATC时间相等。这里,‘ATC(Arrival Time Clock)’意味着应设为ATS基准的时钟。另外,‘区段ATC时间’由ATC的值定义,表示赋予一个区段内的源包的ATS的范围,即从该区段的开头源包的ATS至下一区段的开头源包的ATS的时间间隔。即,区段ATC时间与将该区段内的源包全部在再现装置102内从读缓冲器传输到系统目标解码器所需的时间相等。这里,‘读缓冲器’是再现装置102内的缓冲存储器,在发送到系统目标解码器之前的期间中暂时存储从BD-ROM盘101中读出的数据块。读缓冲器的细节如后所述。在图19所示的实例中,三个区段块1901-1903彼此无缝连接,所以在数据块的各对D[n]、B[n](n=0、1、2、...)中,区段ATC时间相等。
在邻接的数据块的各对D[n]、B[n]中,位于开头的VAU属于相同的3D·VAU,尤其是包含表示相同3D影像的GOP的开头图片。例如,各右视数据块D[n]的前端包含右视视频流的P图片,开头的基本视数据块B[n]的前端包含基本视视频流的I图片。该右视视频流的P图片表示设该基本视视频流的I图片表示的2D影像为左视时的右视。尤其是该P图片如图7所示,将该I图片作为参照图片来压缩。因此,3D再现模式的再现装置102也可从任一数据块的对D[n]、B[n]开始3D影像的再现。即,可执行跳入再现(interrupt playback)等需要视频流的随机访问的处理。
在交织配置中,还将邻接的数据块的对D[n]、B[n]中从属视数据块D[n]配置在基本视数据块B[n]之前。这是因为从属视数据块D[n]与基本视数据块B[n]相比,数据量小,即,比特率低。例如,第n个右视数据块D[n]中包含的图片将第n个基本视数据块B[n]中包含的图片作为参照图片来压缩。因此,该右视数据块D[n]的大小SEXT2[n]为该基本视数据块B[n]的大小SEXT1[n]以下:SEXT2[n]≤SEXT1[n]。另一方面,深度映射的每像素的数据量、即进深值的比特数一般也比基本视图片的每像素的数据量、即色坐标值与α值的比特数之和小。还如图3(a)、(b)所示,主TS与辅TS不同,除主视频流外,还包含主音频流等基本流。因此,深度映射数据块的尺寸SEXT3[n]为基本视数据块B[n]的大小SEXT1[n]以下:SEXT3[n]≤SEXT1[n]。
[将复用流数据分割成数据块的意义]
再现装置102为了从BD-ROM盘101无缝再现3D影像,必需平行地处理主TS与辅TS。但是,该处理可利用的读缓冲器的容量一般有限。尤其是可从BD-ROM盘101连续读入读缓冲器的数据量有限。因此,再现装置102必需将主TS与辅TS分割成区段ATC时间相等的部分的对(pair)后读出。
图20(a)是表示某个BD-ROM盘上独立连续记录的主TS2001与辅TS2002的配置的模式图。当再现装置102平行处理这些主TS2001与辅TS2002时,如图20(a)中实线箭头(1)-(4)所示,BD-ROM驱动器121将主TS2001与辅TS2002交互地按每个区段ATC时间相等的部分读出。此时,BD-ROM驱动器121如图20(a)中虚线箭头所示,必需在读出处理中途使BD-ROM盘上的读出对象区域大大变化。例如,当读出箭头(1)所示的主TS2001的前端部分时,BD-ROM驱动器121暂时停止光拾取器执行的读出动作,提高BD-ROM盘的旋转速度。由此,使记录了箭头(2)所示辅TS2002前端部分的BD-ROM盘上的扇区快速移动到光拾取器的位置。这样,将使光拾取器暂时停止读出动作、在此其间将光拾取器定位在下一读出对象区域上的操作称为‘跳跃’(jump)。图20(a)所示的虚线箭头表示读出处理中途所需的各跳跃的范围。各跳跃期间中,光拾取器执行的读出处理停止,仅进行解码器执行的解码处理。在图20(a)所示的实例中,由于跳跃过大,所以难以使读出处理与解码处理期间一致。结果,难以可靠持续无缝再现。
图20(b)是表示在根据本发明实施方式1的BD-ROM盘101上交互记录的从属视数据块D[0]、D[1]、D[2]、...与基本视数据块B[0]、B[1]、B[2]、...的配置的模式图。参照图20(b),主TS与辅TS分别被分割成多个数据块后交互配置。此时,再现装置102当进行3D影像再现时,如图20(b)中箭头(1)-(4)所示,从开头起顺序读出数据块D[0]、B[0]、D[1]、B[1]、...。仅由此即可顺利实现再现装置102交互读出主TS与辅TS。尤其是在该读出处理中,由于不产生跳跃,所以能够可靠持续3D影像的无缝再现。
[邻接的数据块间使区段ATC时间一致的意义]
图20(c)是表示按交织配置记录的从属视数据块群D[n]与基本视数据块群B[n]的各区段ATC时间一例的模式图(n=0、1、2)。参照图20(c),在各从属视数据块D[n]与紧挨着的其后的基本视数据块B[n]的对中,区段ATC时间相等。例如,在开头的数据块的对D[0]、B[0]中,区段ATC时间均等于1秒。因此,当将各数据块D[0]、B[0]读入再现装置102内的读缓冲器中时,将其中的全部TS包在相同的1秒之中从读缓冲器送至系统目标解码器。同样,在第二个数据块的对D[1]、B[1]中,区段ATC时间均等于0.7秒,所以在相同的0.7秒中,将各数据块内的全部TS包从读缓冲器送至系统目标解码器。
图20(d)是表示按交织配置记录的从属视数据块群D[n]与基本视数据块群B[n]的各区段ATC时间的其他例的模式图。参照图20(d),在全部数据块D[n]、B[n]中,区段ATC时间等于1秒。因此,当将各数据块D[n]、B[n]读入再现装置102内的读缓冲器中时,任一数据块均在相同的1秒将全部TS包从读缓冲器送至系统目标解码器。
如上所述,从属视数据块的压缩率比基本视数据块高。因此,从属视数据块的解码处理的速度一般比基本视数据块的解码处理的速度低。另一方面,当区段ATC时间相等时,从属视数据块的数据量比基本视数据块小。因此,如图20(c)、(d)所示,当邻接的数据块间区段ATC时间相等时,将解码对象的数据提供给系统目标解码器的速度与该解码器的处理速度容易保持均衡。即,系统目标解码器即便尤其在跳入再现中也可容易使基本视数据块的解码处理与从属视数据块的解码处理同步。
[将数据量小的数据块设置在前的意义]
3D再现模式的再现装置102当读出位于各区段块开头的数据块时,或当读出再现开始位置的数据块时,首先将该数据块全部读入读缓冲器中。在此其间,不将该数据块传递到系统目标解码器。在该读入完成之后,再现装置102将该数据块与下一数据块平行地传递到系统目标解码器。把这种处理称为“预装载”(pre-load)。
预装载的技术意义如下所述。首先,在L/R模式中,在从属视数据块的解码中需要基本视数据块。因此,对于用于把解码后的数据一直保持到输出处理之前的缓冲器来说,为了将该缓冲器维持为最小必要限度的容量,优选将这些数据块同时提供给系统目标解码器进行解码。另一方面,在深度模式中,需要进行从解码后的基本视图片和深度映射的对中生成表示视差图像的视频平面对的处理。因此,对于用于把解码后的数据一直保持到该处理之前的缓冲器来说,为了将该缓冲器维持为最小必要限度的容量,优选将基本视数据块和深度映射数据块同时提供给系统目标解码器进行解码。因此,通过预装载,预先将区段块的开头或者再现开始位置的数据块全体读入到读缓冲器中。由此,能够将该数据块和后续的数据块同时从读缓冲器传输给系统目标解码器进行解码。另外,也能够使系统目标解码器对以后的数据块的对同时进行解码。
在预装载中,最先被读取的数据块的全体被存储在读缓冲器中。因此,要求读缓冲器至少是与该数据块的大小相同的容量。在此,为了将读缓冲器的容量维持为最小限度,应该尽可能地缩小作为预装载的对象的数据块的大小。另一方面,在跳入再现等随机访问中,可能将任一个数据块的对选择为再现开始位置。因此,在任一个数据块对中,都是将数据量小的一方置于前。由此,能够将读缓冲器的容量保持为最小限度。
《相对数据块的AV流文件的交联》
对于图19所示的数据块群,如下实现AV流文件的交联。第1文件SS(01000.ssif)244A的文件入口1940表示将各区段块1901-1903看成一个区段后各大小与其前端的LBN。因此,各区段块1901-1903可作为第1文件SS244A的区段EXTSS[0]、EXTSS[1]、EXTSS[2]来访问。下面,将属于第1文件SS244A的区段EXTSS[0]、EXTSS[1]、EXTSS[2]称为‘区段SS’。各区段SSEXTSS[0]、EXTSS[1]、EXTSS[2]与文件2D241共享基本视数据块B[n],与文件DEP242共享从属视数据块D[n]。
《对区段块群的再现路径》
图21是表示对区段块群1901-1903的2D再现模式下的再现路径2101的模式图。2D再现模式的再现装置102再现文件2D241。因此,如2D再现模式下的再现路径2101所示,从各区段块1901-1903顺序读出基本视数据块B[n](n=0、1、2、...),作为2D区段EXT2D[0]、EXT2D[1]、EXT2D[2]。具体地,首先从开头的区段块1901中读出开头的基本视数据块B[0],紧挨着其的之后的从属视数据块D[0]的读出由最初的跳跃J2D1被跳过。接着读出第二个基本视数据块B[1],其之后的数据NAV与从属视数据块D[1]的读出由第二次跳跃JNAV被跳过。接着,第二个以后区段块1902、1903内也一样,重复基本视数据块的读出与跳跃。
第二个区段块1902与第三个区段块1903之间产生的跳跃JLY是跨越层边界LB的长跳跃。‘长跳跃’(long jump)是跳跃中查找(seek)时间最长的跳跃的统称,具体地,是指跳跃距离超过规定阈值的跳跃。所谓‘跳跃距离’是指跳跃期间中读出操作被跳过的BD-ROM盘101上的区域长度。跳跃距离通常用该部分的扇区数量来表示。长跳跃的定义中利用的阈值在BD-ROM标准中例如规定为40000扇区。但是,该阈值取决于BD-ROM盘的种类和与BD-ROM驱动器的读出处理有关的性能。长跳跃具体包含聚集跳跃与轨道跳跃。‘聚集跳跃’(focus jump)是伴随记录层切换的跳跃,包含使光拾取器的焦距变化的处理。‘轨道跳跃’(track jump)包含使光拾取器沿BD-ROM盘101的半径方向移动的处理。
图21也表示对区段块群1901-1903的L/R模式下的再现路径2102。L/R模式的再现装置102再现第1文件SS244A。因此,如L/R模式下的再现路径2102所示,将各区段块1901-1903顺序读出为区段SSEXTSS[0]、EXTSS[1]、EXTSS[2]。具体地,首先从开头的区段块1901中连续读出数据块D[0]、B[0]、D[1]、B[1],其之后的数据NAV的读出由最初的跳跃JNAV而被跳过。接着从第二个区段块1902连续读出数据块D[2]、...、B[3]。之后,产生伴随记录层切换的长跳跃JLY,接着,从第三个区段块1903连续读出数据块D[4]、B[4]...。
在将区段块1901-1903作为第1文件SS244A的区段读入时,再现装置102从第1文件SS244A的文件入口1940读出各区段SSEXTSS[0]、EXTSS[1]、...的前端的LBN与其大小,传递给BD-ROM驱动器121。BD-ROM驱动器121从该LBN中连续读出该大小的数据。这些处理与将数据块群作为文件DEP242与文件2D241的各区段读入的处理相比,BD-ROM驱动器121的控制在下面的(A)、(B)二方面来说是简单的:(A)再现装置102只要利用一个部位的文件入口顺序参照各区段即可;(B)由于读入对象的区段总数实质上减半,所以应传递给BD-ROM驱动器121的LBN与大小的对的总数小。但是,当再现装置102读入区段SSEXTSS[0]、EXTSS[1]、...之后,必需将他们分别分离为从属视数据块与基本视数据块后传递给解码器。该分离处理中利用clip信息文件。其细节如后所述。
如图19所示,在各区段块1901-1903的实际读出中,BD-ROM驱动器121在从各数据块后端至下一数据块前端之间进行零扇区迁移J0。“零扇区迁移”是指光拾取器在两个连续的数据块之间的移动。在进行零扇区迁移的期间(以下称为零扇区迁移期间)中,光拾取器暂时停止读取动作并待机。从这种意义上讲,零扇区迁移也可以视为是“跳跃距离等于0扇区的跳跃”。零扇区迁移期间的长度即零扇区迁移时间,除了基于BD-ROM盘101旋转的光拾取器的位置的移动时间之外,还包括伴随纠错处理的开销(overhead)。“伴随纠错处理的开销”是指在两个数据块的边界与ECC块的边界不一致时,由于进行两次使用了该ECC块的纠错处理而发生的多余的时间。纠错处理需要一个ECC块整体。因此,在一个ECC块被两个连续的数据块共用时,在任一个数据块的读取处理中,该ECC块整体都被读取并应用于纠错处理中。结果,每当读取这些数据块中的一个数据块时,除了该数据块之外,还读取了最多32扇区的多余数据。伴随纠错处理的开销利用该多余数据的读取时间之合计来进行评价,即,利用32[扇区]×2048[字节]×8[比特/字节]×2[次]/读取速度来进行评价。另外,也可以通过以ECC块单位来构成各个数据块,将伴随纠错处理的开销从零扇区迁移时间中去除。
《clip信息文件》
图22是表示第1clip信息文件(01000.clip)、即2Dclip信息文件231的数据结构的模式图。从属视clip信息文件(02000.clip)232与对应于文本字幕流的clip信息文件(03000.clip)233也具有同样的数据结构。下面,首先以2Dclip信息文件231的数据结构为例,说明clip信息文件全部共同的数据结构。之后,对于从属视clip信息文件,说明与2Dclip信息文件在数据结构上的不同点。
参照图22,2Dclip信息文件231包含clip信息2210、流属性信息2220、入口映射2230及3D元数据2240。3D元数据2240包含区段起点2242。
clip信息2210包含系统速率2211、再现开始时刻2212及再现结束时刻2213。系统速率2211规定对文件2D(01000.m2ts)241的系统速率(systemrate)。这里,2D再现模式的再现装置102将属于文件2D241的TS包从读缓冲器传输到系统目标解码器。‘系统速率’意味着该传输速度的上限值。为了将该传输速度抑制为系统速率以下,在文件2D241中设定源包的ATS间隔。再现开始时刻2212表示文件2D241的开头VAU的PTS,例如开头影像帧的PTS。再现结束时刻2212表示从文件2D241后端的VAU的PTS延迟规定量后的STC的值,例如向最后的影像帧的PTS加上每1帧的再现时间后的值。
流属性信息2220是文件2D241中包含的各基本流的PID2221与其属性信息2222之间的对应表。属性信息2222对于视频流、音频流、PG流、文本字幕流及IG流中的各流而不同。例如,对应于主视频流的PID0x1011的属性信息包含该视频流压缩中利用的编解码器的种类、构成该视频流的各图片的分辨率、宽高比及帧速率。另一方面,对应于主音频流的PID0x1100的属性信息包含该音频流压缩中利用的编解码器的种类、该音频流中包含的声道数量、语言及采样频率。属性信息2222被再现装置102用于解码器的初始化中。
[入口映射]
图23(a)是表示入口映射2230的数据结构的模式图。参照图23(a),入口映射(entry map)2230包含表2300。表2300数量与复用于主TS上的视频流相同,一个个地分配给各视频流。图23(a)中,各表2300由分配目的地的视频流的PID区分。各表2300包含入口映射头2301与入口点2302。入口映射头2301包含对应于该表2300的PID、与该表2300中包含的入口点2302的总数。入口点(entry point)2302将PTS2303与源包号码(SPN)2304的对一个个地对应于不同的入口点ID(EP_ID)2305。PTS2303与入口映射头2301所示的PID的视频流中包含的任一I图片的PTS相等。SPN2304与存储该I图片的源包群的开头SPN相等。所谓‘SPN’是指从开头起顺序分配给属于一个AV流文件的源包群的连续号码。SPN用作该AV流文件内各源包的地址。在2Dclip信息文件231内的入口映射2230中,SPN意味着分配给属于文件2D241的源包群、即构成主TS的源包群的号码。因此,入口点2302表示文件2D241中包含的各I图片的PTS与地址、即SPN之间的对应关系。
入口点2302也可不对文件2D241内的全部I图片设定。但是,当I图片位于GOP开头,且包含该I图片开头的TS包位于2D区段的开头时,必需向该I图片设定入口点2302。
图23(b)是表示属于文件2D241的源包群2310中、通过入口映射2230与各EP_ID2305建立对应的源包群的模式图。图23(c)是表示对应于该源包群2310的BD-ROM盘101上的数据块群D[n]、B[n](n=0、1、2、3、...)的模式图。当再现装置102从文件2D241再现2D影像时,利用入口映射2230,从表示任意场景的帧的PTS,确定包含该帧的源包的SPN。具体地,当指定特定的入口点的PTS、例如PTS=360000作为再现开始位置时,再现装置102首先从入口映射2230中检索对应于该PTS的SPN=3200。再现装置102接着求出该SPN与每一个源包的数据量192字节的积,再求出用每个扇区的数据量2048字节除该积时的商、SPN×192/2048。从图5(c)、(d)可知,该值与主TS中,记录了分配该SPN的源包之前部分的扇区总数相等。在图23(b)所示的实例中,该值3200×192/2048=300与记录了SPN从0至3199的源包群2311的扇区总数相等。再现装置102接着参照文件2D241的文件入口,确定从记录了2D区段群的扇区群开头数起第(上述总数+1)个扇区的LBN。在图23(c)所示的实例中,确定记录了可作为2D区段EXT2D[0]、EXT2D[1]、EXT2D[2]、...访问的基本视数据块B[0]、B[1]、B[2]、...的扇区群中、从开头数起第301个扇区的LBN。再现装置102将该LBN指定给BD-ROM驱动器121。由此,从该LBN的扇区开始以排列单元单位顺序读出基本视数据块群。再现装置102再从最初读出的排列单元中选择再现开始位置的入口点表示的源包,从中抽取I图片后解码。之后,后续的图片利用在先解码的图片依次解码。这样,再现装置102可从文件2D241再现特定的PTS以后的2D影像。
入口映射2230还有利于快进再现及后退再现等特殊再现的高效处理中。例如,2D再现模式的再现装置102首先参照入口映射2230,从再现开始位置、例如包含PTS=360000以后的PTS的入口点、EP_ID=2、3、...起,顺序读出SPN=3200、4800、...。再现装置102再利用文件2D241的文件入口,确定对应于各SPN的扇区的LBN。再现装置102接着将各LBN指定给BD-ROM驱动器121。由此,从各LBN的扇区读出排列单元。再现装置102还从各排列单元中选择各入口点所示的源包,并从中抽取I图片后解码。这样,再现装置102可不解析2D区段群EXT2D[n]自身而从文件2D241选择地再现I图片。
[区段起点]
图24(a)是表示区段起点2242的数据结构的模式图。参照图24(a),‘区段起点(Extent_Start_Point)’2242包含基本视区段ID(EXT1_ID)2411与SPN2412。EXT1_ID2411是从开头起顺序分配给属于第1文件SS(01000.ssif)244A的基本视数据块的连续号码。SPN2412一个个地分配给各EXT1_ID2411,与位于由该EXT1_ID2411标识的基本视数据块前端的源包的SPN相等。这里,该SPN是从开头起顺序分配给属于第1文件SS244A的基本视数据块群中包含的源包的连续号码。
在图19所示的区段块1901-1903中,各基本视数据块B[0]、B[1]、B[2]、...被文件2D241与第1文件SS244A共享。但是,记录层间的边界等需要长跳跃的部位上配置的数据块群一般包含仅属于文件2D241或第1文件SS244A之一的基本视数据块(细节参照《补充》)。因此,区段起点2242所示的SPN2412一般与位于属于文件2D241的2D区段前端的源包的SPN不同。
图24(b)是表示第2clip信息文件(02000.clpi)、即从属视clip信息文件232中包含的区段起点2242的数据结构的模式图。参照图24(b),区段起点2420包含从属视区段ID(EXT2_ID)2421与SPN2422。EXT2_ID2421是从开头起顺序分配给属于第1文件SS244A的从属视数据块的连续号码。SPN2422一个个地分配给各EXT2_ID2421,与位于由该EXT2_ID2421标识的从属视数据块前端的源包的SPN相等。这里,该SPN是从开头起顺序分配给属于第1文件SS244A的从属视数据块群中包含的源包的连续号码。
图24(d)是表示属于文件DEP(02000.m2ts)242的从属视区段EXT2[0]、EXT2[1]、...与区段起点2420所示的SPN2422之间的对应关系的模式图。如图19所示,从属视数据块由文件DEP242与第1文件SS244A共享。因此,如图24(d)所示,区段起点2420所示的各SPN2422与位于各从属视区段EXT2[0]、EXT2[1]、...前端的源包的SPN相等。
2Dclip信息文件231的区段起点2242与从属视clip信息文件232的区段起点2420如下所述,当从第1文件SS244A再现3D影像时,用于检测各区段SS中包含的数据块的边界。
图24(e)是表示属于第1文件SS244A的区段SSEXTSS[0]与BD-ROM盘101上的区段块之间的对应关系的模式图。参照图24(e),该区段块包含交织配置的数据块群D[n]、B[n](n=0、1、2、...)。另外,下面的说明在其他配置中也一样成立。该区段块可作为一个区段SSEXTSS[0]访问。并且,该区段SSEXTSS[0]中,第n个基本视数据块B[n]中包含的源包的数量与区段起点2242中分别对应于EXT1_ID=n+1、n的SPN间的差A(n+1)-An相等。这里,设A0=0。另一方面,从属视数据块D[n+1]中包含的源包的数量与区段起点2420中分别对应于EXT2_ID=n+1、n的SPN间的差B(n+1)-Bn相等。这里,设B0=0。
当3D再现模式的再现装置102从第1文件SS244A再现3D影像时,利用各clip信息文件231、232的入口映射与区段起点2242、2420。由此,再现装置102从表示任意场景的右视的帧的PTS,确定记录了包含该帧的从属视数据块的扇区的LBN。具体地,再现装置102首先例如从从属视clip信息文件232的入口映射中,检索对应于该PTS的SPN。假设该SPN表示的源包包含于文件DEP242的第3个从属视区段EXT2[2]、即从属视数据块D[2]中的情况。再现装置102接着从从属视clip信息文件232的区段起点2420所示的SPN2422中,检索目标SPN以下最大的“B2”和与其对应的EXT2_ID“2”。再现装置102接着从2Dclip信息文件231的区段起点2242中检索对应于与该EXT2_ID“2”相等的EXT1_ID的SPN2412的值“A2”。再现装置102还求出检索到的SPN的和B2+A2。从图24(e)可知,该和B2+A2与区段SSEXTSS[0]中第3个从属视数据块D[2]之前配置的源包的总数相等。因此,当用每个扇区的数据量2048字节来除该和B2+A2与每个源包的数据量192字节之积时的商(B2+A2)×192/2048,与从区段SSEXTSS[0]的开头至第3个从属视数据块D[2]之前的扇区数量相等。若利用该商来参照第1文件SS244A的文件入口,则可确定记录了该从属视数据块D[2]前端的扇区的LBN。
再现装置102在如上所述确定LBN之后,将该LBN指定给BD-ROM驱动器121。由此,以排列单元单位读出该LBN的扇区以后记录的区段SSEXTSS[0]的部分、即第3个从属视数据块D[2]以后的数据块群D[2]、B[2]、D[3]、B[3]、...。
再现装置102再利用区段起点2242、2420,从读出的区段SS中交互抽取从属视数据块与基本视数据块。例如假设从图24(e)所示的区段SSEXTSS[0]顺序读出数据块群D[n]、B[n](n=0、1、2、...)时的情况。再现装置102首先从区段SSEXTSS[0]的开头抽取B1个源包,作为最初的从属视数据块D[0]。再现装置102接着抽取第B1个源包与之后的(A1-1)个源包的共计A1个源包,作为最初的基本视数据块B[0]。再现装置102接着抽取第(B1+A1)个源包与之后的(B2-B1-1)个源包的共计(B2-B1)个源包,作为第二个从属视数据块D[1]。再现装置102再抽取第(A1+B2)个源包与之后的(A2-A1-1)个源包的共计(A2-A1)个源包,作为第二个基本视数据块B[1]。之后再现装置102也同样从读出的源包数量中检测区段SS内的数据块间的边界,交互抽取从属视数据块与基本视数据块。抽取到的基本视数据块与从属视数据块平行地传递到系统目标解码器进行解码。
这样,3D再现模式的再现装置102可从第1文件SS244A再现特定的PTS以后的3D影像。结果,再现装置102可实际上享受与BD-ROM驱动器121控制有关的上述优点(A)、(B)。
《文件基本》
图24(c)是表示由3D再现模式的再现装置102从第1文件SS244A中抽取的基本视数据块B[0]、B[1]、B[2]、...的模式图。参照图24(c),当从开头顺序向这些基本视数据块B[n](n=0、1、2、...)包含的源包群分配SPN时,位于各数据块B[n]前端的源包的SPN与区段起点2242所示的SPN2412相等。将如这些基本视数据块群B[n]那样利用区段起点来从一个文件SS抽取的基本视数据块群称为‘文件基本’。并且,将文件基本中包含的基本视数据块称为‘基本视区段’。如图24(e)所示,各基本视区段EXT1[0]、EXT1[1]、...由clip信息文件内的区段起点2242、2420参照。
基本视区段EXT1[n]与2D区段EXT2D[n]共享基本视数据块B[n]。因此,文件基本包含与文件2D相同的主TS。但是,基本视区段EXT1[n]与2D区段EXT2D[n]不同,不被任一文件的文件入口参照。如上所述,基本视区段EXT1[n]利用clip信息文件内的区段起点,从文件SS内的区段SSEXTSS[·]中抽取。这样,文件基本与原来的文件不同,不包含文件入口,且基本视区段的参照中必需区段起点。在这些含义下,文件基本是‘虚拟的文件’。尤其是文件基本在文件系统中不被识别,不出现在图2所示的目录/文件构造中。
图25是表示BD-ROM盘101上记录的一个区段块2500与文件2D2510、文件基本2511、文件DEP2512及文件SS2520的各区段群之间的对应关系的模式图。参照图25,区段块2500包含从属视数据块D[n]与基本视数据块B[n](n=...、0、1、2、3、...)。基本视数据块B[n]作为2D区段EXT2D[n],属于文件2D2510。从属视数据块D[n]作为从属视区段EXT2[n],属于文件DEP2512。区段块2500整体作为一个区段SSEXTSS[0],属于文件SS2520。因此,区段SSEXTSS[0]与2D区段EXT2D[n]共享基本视数据块B[n],与从属视区段EXT2[n]共享从属视数据块D[n]。区段SSEXTSS[0]在读入再现装置102中后,分离成从属视数据块D[n]与基本视数据块B[n]。这些基本视数据块B[n]作为基本视区段EXT1[n],属于文件基本2511。区段SSEXTSS[0]内的基本视区段EXT1[n]与从属视区段EXT2[n]之间的边界利用分别对应于文件2D2510与文件DEP2512的clip信息文件内的区段起点来确定。
《从属视clip信息文件》
从属视clip信息文件的数据结构与图22-24所示的2Dclip信息文件一样。因此,在下面的说明中,涉及从属视clip信息文件与2Dclip信息文件之间的不同点,就同样点的说明引用上述说明。
从属视clip信息文件与2Dclip信息文件主要在下面二点(i)、(ii)不同:(i)对流属性信息设置条件;(ii)对入口点设置条件。
(i)当基本视视频流与从属视视频流由L/R模式的再现装置102用于3D影像再现中时,如图7所示,从属视视频流利用基本视视频流压缩。此时,从属视视频流的视频流属性与基本视视频流相等。这里,涉及基本视视频流的视频流属性信息在2Dclip信息文件的流属性信息2220内对应于PID=0x1011。另一方面,涉及从属视视频流的视频流属性信息在从属视clip信息文件的流属性信息内对应于PID=0x1012或0x1013。因此,在这些视频流属性信息间,图22所示的各项目、即编解码器、分辨率、宽高比及帧速率必需一致。若编解码器的种类一致,则由于基本视图片与从属视图片之间编码的参照关系成立,所以可解码各图片。若分辨率、宽高比及帧速率都一致,则可使左右影像的画面显示同步。因此,可将这些影像作为3D影像来观看,而不会对视听者造成不适。
(ii)从属视clip信息文件的入口映射包含分配给从属视视频流的表。该表与图23(a)所示的表2300一样,包含入口映射头与入口点。入口映射头表示对应的从属视视频流的PID、即0x1012或0x1013。各入口点将一对PTS与SPN对应于一个EP_ID。各入口点的PTS与从属视视频流中包含的任一GOP的开头图片的PTS相等。各入口点的SPN与存储了属于相同入口点的PTS所示的图片的源包群的开头SPN相等。这里,SPN意味着从开头起顺序分配给属于文件DEP的源包群、即构成辅TS的源包群的连续号码。各入口点的PTS必需与2Dclip信息文件的入口映射中、分配给基本视视频流的表内的入口点的PTS一致。即,当对包含相同3D·VAU中包含的一对图片之一的源包群开头设定入口点时,也必需始终对包含另一方的源包群的开头设定入口点。
图26是表示对基本视视频流2610与从属视视频流2620设定的入口点的实例的模式图。在各视频流2610、2620中,从开头起数相同顺序的GOP表示相同的再现期间的影像。参照图26,在基本视视频流2610中,对从开头起数位于第奇数个的GOP#1、GOP#3、GOP#5的各自的开头设定入口点2601B、2603B、2605B。与此相应地,从属视视频流2620中,也对从开头起数位于第奇数个的GOP#1、GOP#3、GOP#5的各自开头设定入口点2601D、2603D、2605D。此时,再现装置102例如在从GOP#3开始再现3D影像时,可从对应的入口点2603B、2603D的SPN立即计算文件SS内的再现开始位置。尤其是当将入口点2603B、2603D均设定在数据块的前端时,从图24(e)可知,入口点2603B、2603D的SPN之和等于文件SS内的再现开始位置的SPN。如图24(e)的说明中所述,可从该源包数量计算记录了文件SS内再现开始位置部分的扇区的LBN。这样,即便再现3D影像,也可使跳入再现等需要视频流的随机访问的处理的响应速度提高。
《2D播放列表文件》
图27是表示2D播放列表文件的数据结构的模式图。图2所示的第1播放列表文件(00001.mpls)221具有该数据结构。参照图27,2D播放列表文件221包含主路径2701与二个子路径2702、2703。
主路径2701是播放项目(playitem)信息(PI)的排列,规定文件2D241的主要再现路径、即再现对象的部分及其再现顺序。各PI由固有的播放项目ID=#N(N=1、2、3、...)识别。各PI#N由一对PTS来规定主要再现路径不同的再现区间。该一对PTS之一表示该再现区间的开始时刻(In-Time),另一方表示结束时刻(Out-Time)。并且,主路径2701内的PI顺序还表示再现路径内的对应再现区间的顺序。
各子路径2702、2703是子播放项目(sub playitem)信息(SUB_PI)的排列,规定可并列附带于文件2D241的主要再现路径的再现路径。该再现路径意味着文件2D241中主路径2701表示的部分以外的部分与其再现顺序。另外,该再现路径也可意味着复用于文件2D241以外的文件2D的流数据的再现对象部分与其再现顺序。该再现路径意味的流数据表示应根据主路径2701与从文件2D241再现的2D影像同时再现的其他2D影像。该其他2D影像例如包含画中画方式中的副影像、浏览器画面、弹出菜单或字幕。尤其是对文本字幕文件的再现路径由子路径规定。按向2D播放列表文件221的登记顺序,向子路径2702、2703分配连续号码“0”、“1”。该连续号码作为子路径ID,用于各子路径2702、2703的识别。在各子路径2702、2703中,SUB_PI由固有的子播放项目ID=#M(M=1、2、3、...)识别。各SUB_PI#M由一对PTS来规定再现路径不同的再现区间。该一对PTS之一表示该再现区间的再现开始时刻,另一个表示再现结束时刻。各子路径2702、2703内的SUB_PI的顺序还表示再现路径内的对应再现区间的顺序。
图28是表示PI#N的数据结构的模式图。参照图28,PI#N包含参照clip信息2801、再现开始时刻(In-Time)2802、再现结束时刻(Out-Time)2803、连接条件2804及流选择表(下面简称为STN(Stream Number:流号码)表。)2805。参照clip信息2801是用于识别2Dclip信息文件231的信息。再现开始时刻2802与再现结束时刻2803表示文件2D241的再现对象部分的前端与后端的各PTS。连接条件2804规定将由再现开始时刻2802与再现结束时刻2803规定的再现区间中的影像连接于由前一个PI#(N-1)规定的再现区间中的影像时的条件。STN表2805是在从再现开始时刻2802至再现结束时刻2803之间可由再现装置102内的解码器从文件2D241选择的基本流的一览表。
SUB_PI的数据结构与图28所示的PI的数据结构在包含参照clip信息、再现开始时刻及再现结束时刻方面相同。尤其是SUB_PI的再现开始时刻与再现结束时刻,由与PI的再现开始时刻和再现结束时刻相同的时间轴上的值表示。SUB_PI还包含称为‘SP连接条件’的字段。SP连接条件具有与PI连接条件相同的含义。
[连接条件]
连接条件(下面简称为CC。)2804可取“1”、“5”、“6”三种值。当CC2804为“1”时,从由PI#N规定的文件2D241的部分再现的影像也可不必与从由之前的PI#(N-1)规定的文件2D241的部分再现的影像无缝连接。另一方面,当CC2804为“5”或“6”时,这两个影像必需无缝连接。
图29(a)、(b)分别是表示CC2904为“5”、“6”时连接对象的二个再现区间2901、2902之间的关系的模式图。这里,PI#(N-1)规定文件2D241的第1部分2901,PI#N规定文件2D241的第2部分2902。参照图29(a),当CC2904为“5”时,二个PI#(N-1)、PI#N之间STC也可中断。即,第1部分2901的后端PTS#1与第2部分2902的前端PTS#2也可不连续。但是,必需满足几个制约条件。例如,为了即便在第1部分2901之后将第2部分2902提供给解码器时该解码器也可顺利持续解码处理,必需制作各部分2901、2902。还必需使第1部分2901中包含的音频流的最后帧与第2部分2902中包含的音频流的开头帧重复。另一方面,参照图29(b),当CC2904为“6”时,第1部分2901与第2部分2902在解码器的解码处理上必需作为一系列的部分处理。即,在第1部分2901与第2部分2902之间,STC与ATC均必需连续。同样,当SP连接条件为“5”或“6”时,在由邻接的2个SUB_PI规定的文件2D部分间,STC与ATC均必需连续。
[STN表]
再参照图28,STN表2805是流登记信息的排列。所谓‘流登记信息’是单独地表示在从再现开始时刻2802至再现结束时刻2803之间可从主TS选择为再现对象的基本流的信息。流号码(STN)2806是单独地分配给流登记信息的连续号码,由再现装置102用于各基本流的识别。STN2806还表示相同种类的基本流之间选择的优先顺序。流登记信息包含流入口2809与流属性信息2810。流入口2809包含流路径信息2807与流识别信息2808。流路径信息2807是表示选择对象的基本流所属的文件2D的信息。例如当流路径信息2807表示“主路径”时,该文件2D对应于参照clip信息2801所示的2Dclip信息文件。另一方面,当流路径信息2807表示“子路径ID=1”时,选择对象的基本流所属的文件2D对应于子路径ID=1的子路径中包含的SUB_PI的参照clip信息所表示的2Dclip信息文件。该SUB_PI规定的再现开始时刻或再现结束时刻之一,包含于包含STN表2805的PI所规定的再现开始时刻2802至再现结束时刻2803的期间中。流识别信息2808表示复用于由流路径信息2807确定的文件2D的基本流的PID。该PID表示的基本流可在再现开始时刻2802至再现结束时刻2803的期间选择。流属性信息2810表示各基本流的属性信息。例如,音频流、PG流、文本字幕流及IG流的各属性信息表示语言的种类。文本字幕流的属性信息还规定该文本字符串的描绘中可利用的字体集。
[根据2D播放列表文件的2D影像的再现]
图30是表示2D播放列表文件(00001.mpls)221所示的PTS与从文件2D(01000.m2ts)241再现的部分之间的对应关系的模式图。参照图30,在2D播放列表文件221的主路径2701中,PI#1规定表示再现开始时刻IN1的PTS#1与表示再现结束时刻OUT1的PTS#2。PI#1的参照clip信息表示2Dclip信息文件(01000.clip)231。再现装置102当根据2D播放列表文件221再现2D影像时,首先从PI#1读出PTS#1、#2。再现装置102接着参照2Dclip信息文件231的入口映射,检索对应于PTS#1、#2的文件2D241内的SPN#1、#2。再现装置102接着根据SPN#1、#2计算分别与之对应的扇区数量。再现装置102再利用这些扇区数量与文件2D241的文件入口,确定记录了再现对象的2D区段群EXT2D[0]、...、EXT2D[n]的扇区群P1的前端LBN#1与后端LBN#2。扇区数量的计算与LBN的确定如使用图23(b)、(c)说明的那样。再现装置102最后将从LBN#1至LBN#2的范围指定给BD-ROM驱动器121。由此,从该范围的扇区群P1中,读出属于2D区段群EXT2D[0]、...、EXT2D[n]的源包群。同样,PI#2所示的PTS#3、#4的对,首先利用2Dclip信息文件231的入口映射,变换为SPN#3、#4的对。接着,利用文件2D241的文件入口,将SPN#3、#4的对变换为LBN#3、#4的对。再从LBN#3至LBN#4范围的扇区群P2中,读出属于2D区段群的源包群。从PI#3所示的PTS#5、#6的对向SPN#5、#6的对的变换、从SPN#5、#6的对向LBN#5、#6的对的变换及从LBN#5至LBN#6的范围的扇区群P3读出源包群也一样。这样,再现装置102可根据2D播放列表文件221的主路径2701从文件2D241再现2D影像。
2D播放列表文件221也可包含入口标记3001。入口标记3001表示主路径2701中实际应开始再现的时刻。例如图30所示,也可对PI#1设定多个入口标记3001。入口标记3001尤其用于随机再现(頭出し再生)中再现开始位置的检索。例如,当2D播放列表文件221规定电影标题的再现路径时,将入口标记3001赋予各章节的开头。由此,再现装置102可对每个章节再现该电影标题。
《3D播放列表文件》
图31是表示3D播放列表文件的数据结构的模式图。图2所示的第2播放列表文件(00002.mpls)222具有该数据结构。第2播放列表文件(00003.mpls)223也一样。参照图31,3D播放列表文件222包含主路径3101、子路径3102及扩展数据3103。
主路径3101规定图3(a)所示的主TS的再现路径。因此,主路径3101实质上与图27所示的2D播放列表文件221的主路径2701相等。即,2D再现模式的再现装置102可根据3D播放列表文件222的主路径3101,从文件2D241再现2D影像。另一方面,主路径3101与图27所示的主路径2701在以下方面不同:各PI的STN表当将一个STN对应于任一图形流或文本字幕流的PID时,还向该STN分配一个偏移序列ID。
子路径3102规定图3(b)所示的辅TS的再现路径,即文件DEP242的再现路径。此外,子路径3102也可规定图3(c)所示的文本字幕流的再现路径。子路径3102的数据结构与图27所示的2D播放列表文件241的子路径2702、2703的数据结构一样。因此,对该同样的数据结构的细节、尤其是SUB_PI的数据结构的细节的说明援用使用图27进行过的说明。
子路径3102的SUB_PI#N(N=1、2、3、...)与主路径3101的PI#N一对一对应。各SUB_PI#N规定的再现开始时刻与再现结束时刻还分别与对应的PI#N规定的再现开始时刻与再现结束时刻相等。子路径3102另外还包含子路径种类3110。‘子路径种类’一般表示主路径与子路径之间再现处理是否应同步。在3D播放列表文件222中,具体地子路径种类3110表示3D再现模式的种类,即应根据子路径3102再现的从属视视频流的种类。图31中,子路径种类3110由于其值是‘3D·L/R’,所以表示3D再现模式是L/R模式,即右视视频流是再现对象。另一方面,子路径种类3110在其值为‘3D深度’时,表示3D再现模式是深度模式,即深度映射流是再现对象。3D再现模式的再现装置102当检测到子路径种类3110的值为‘3D·L/R’或‘3D深度’时,使基于主路径3101的再现处理与基于子路径3102的再现处理同步。
扩展数据3103是仅由3D再现模式的再现装置102解释的部分,被2D再现模式的再现装置102忽视。扩展数据3103具体包含扩展流选择表3130。‘扩展流选择表(STN_table_SS)’(下面简称为STN表SS。)是在3D再现模式下应追加到主路径3101内各PI表示的STN表的流登记信息的排列。该流登记信息表示可从辅TS选择为再现对象的基本流。
[STN表]
图32是表示3D播放列表文件222的主路径3101包含的STN表3205的模式图。参照图32,分配STN3206=5、6、...、11的流识别信息3208表示PG流、文本字幕流或IG流的PID。此时,分配STN3206=5、6、...、11的流属性信息3210还包含参照偏移ID3201与偏移补正值3202。
文件DEP242中,如图13所示,在各视频序列的VAU#1中配置偏移元数据1310。参照偏移ID(stream_ref_offset_id)3201与该偏移元数据1310包含的偏移序列ID1311之一相等。即,参照偏移ID3201规定该偏移元数据1310包含的多个偏移序列中、应分别对应于STN3206=5、6、...、11的偏移序列。
偏移补正值(stream_offset_adjustment)3202表示应加到参照偏移ID3201规定的偏移序列中包含的各偏移值上的值。偏移补正值3202例如在显示装置103的画面尺寸与3D影像内容制作时设定的尺寸大不相同的情况下,由再现装置102加到各偏移值上。由此,左视与右视的2D图形影像间的两眼视差保持在适当的范围内。
[STN表SS]
图33是表示STN表SS3130的数据结构的模式图。参照图33,STN表SS3130包含流登记信息序列3301、3302、3303、...。流登记信息序列3301、3302、3303、...单独地对应于主路径3101内的PI#1、#2、#3、...,通过3D再现模式的再现装置102,与对应的PI内的STN表中包含的流登记信息序列组合后利用。对各PI的流登记信息序列3301包含弹出期间的偏移(Fixed_offset_during_Popup)3311、与从属视视频流的流登记信息序列3312。
弹出期间的偏移3311表示是否从IG流再现弹出菜单。3D再现模式的再现装置102依据该偏移3311的值,改变视频平面与图形平面的各显示模式(presentation mode)。这里,视频平面的显示模式中有基本视(B)-从属视(D)显示模式与B-B显示模式二种。在图形平面的显示模式中有1平面+偏移模式与1平面+零偏移模式二种。例如当弹出期间的偏移3311的值为“0”时,不从IG流再现弹出菜单。此时,选择B-D显示模式作为视频平面的显示模式,选择1平面+偏移模式作为图形平面的显示模式。另一方面,当弹出期间的偏移3311的值为“1”时,从IG流再现弹出菜单。此时,选择B-B显示模式作为视频平面的显示模式,选择1平面+零偏移模式作为图形平面的显示模式。
在‘B-D显示模式’中,再现装置102交互输出左视与右视的视频平面。因此,由于显示装置103的画面中交互显示左视与右视的帧,所以视听者将其看作3D影像。在‘B-B显示模式’中,再现装置102将动作模式维持成3D再现模式不变(具体是将帧速率维持为3D再现时的值、例如48帧/秒不变),每一帧二次地仅输出从基本视视频流解码的平面数据。因此,显示装置103的画面中仅显示左视与右视之一的视频平面,所以视听者仅将其看作2D影像。
在‘1平面+偏移模式’中,再现装置102通过偏移控制,从主TS内的图形流或文本字幕流,生成左视与右视的图形平面的对,并交互输出。由此,在显示装置103的画面中交互显示左视与右视的图形平面,所以视听者将其看作3D图形影像。在‘1平面+零偏移模式’中,再现装置102将动作模式维持成3D再现模式不变,使偏移控制暂时停止,每一帧二次地输出从主TS内的图形流或文本字幕流解码的图形平面。因此,显示装置103的画面中仅显示左视与右视之一的图形平面,所以视听者仅将其看作2D图形影像。
3D再现模式的再现装置102按每个PI参照弹出期间的偏移3311,从IG流再现弹出菜单时,选择B-B显示模式与1平面+零偏移模式。由此,在显示弹出菜单期间,由于将其他3D影像暂时变更为2D影像,所以弹出菜单的视觉识别性、操作性提高。
从属视视频流的流登记信息序列3312包含表示可从辅TS选择为再现对象的从属视视频流的流登记信息。该流登记信息序列3312与对应的PI内的STN表中包含的流登记信息序列中、表示基本视视频流的流登记信息序列组合后加以利用。3D再现模式的再现装置102当读出STN表内的任一流登记信息时,与该流登记信息相组合的STN表SS内的流登记信息序列也自动读出。由此,再现装置102当将2D再现模式仅切换为3D再现模式时,可将已设定完成的STN及语言等流属性维持为相同。
参照图33,从属视视频流的流登记信息序列3312一般包含多个流登记信息(SS_dependent_view_block)3320。它们与对应的PI内的流登记信息中表示基本视视频流的流登记信息的数量相同。各流登记信息3320包含STN3321、流入口3322及流属性信息3323。STN3321是单独地分配给流登记信息3320的连续号码,与对应的PI内的组合对象的流登记信息的STN相等。流入口3322包含子路径ID参照信息(ref_to_Subpath_id)1、流文件参照信息(ref_to_subClip_entry_id)3332及PID(ref_to_stream_PID_subclip)3333。子路径ID参照信息3331表示规定从属视视频流的再现路径的子路径的子路径ID。流文件参照信息3332是用于识别存储了该从属视视频流的文件DEP的信息。PID3333是该从属视视频流的PID。流属性信息3323包含该从属视视频流的属性、例如帧速率、分辨率及视频格式。尤其是这些属性与对应PI内的组合对象的流登记信息所示的基本视视频流的相同。
[基于3D播放列表文件的3D影像的再现]
图34是表示3D播放列表文件(00002.mpls)222所示的PTS与从第1文件SS(01000.ssif)244A再现的部分之间的对应关系的模式图。参照图34,在3D播放列表文件222的主路径3401中,PI#1规定表示再现开始时刻IN1的PTS#1与表示再现结束时刻OUT1的PTS#2。PI#1的参照clip信息表示2Dclip信息文件(01000.clip)231。另一方面,在子路径种类表示‘3D·L/R’的子路径3402中,SUB_PI#1规定与PI#1相同的PTS#1、#2。SUB_PI#1的参照clip信息表示从属视clip信息文件(02000.clpi)232。
当再现装置102根据3D播放列表文件222再现3D影像时,首先从PI#1与SUB_PI#1读出PTS#1、#2。再现装置102接着参照2Dclip信息文件231的入口映射,检索对应于PTS#1、#2的文件2D241内的SPN#1、#2。与之并行,再现装置102参照从属视clip信息文件232的入口映射,检索对应于PTS#1、#2的文件DEP242内的SPN#11、#12。再现装置102接着如图24(e)的说明所述的那样,利用各clip信息文件231、232的区段起点2242、2420,从SPN#1、#11计算从第1文件SS244A的开头至再现开始位置的源包数量SPN#21。再现装置102同样从SPN#2、#12计算从第1文件SS244A的开头至再现结束位置的源包数量SPN#22。再现装置102还算出对应于SPN#21、#22各自的扇区数量。再现装置102接着利用这些扇区数量与第1文件SS244A的文件入口,确定记录了再现对象的区段SS群EXTSS[0]、...、EXTSS[n]的扇区群P11的前端LBN#1与后端LBN#2。扇区数量的计算与LBN的确定与图24(e)的说明中描述的一样。再现装置102最后向BD-ROM驱动器121指定从LBN#1至LBN#2的范围。由此,从该范围的扇区群P11中,读出属于区段SS群EXTSS[0]、...、EXTSS[n]的源包群。同样,PI#2与SUB_PI#2表示的PTS#3、#4的对,首先利用clip信息文件231、232的各入口映射变换为SPN#3、#4的对,以及SPN#13、#14的对。接着,从SPN#3、#13计算从第1文件SS244A的开头至再现开始位置的源包数量SPN#23,从SPN#4、#14计算从第1文件SS244A的开头至再现结束位置的源包数量SPN#24。接着,利用第1文件SS244A的文件入口,将SPN#23、#24的对变换为LBN#3、#4的对。还从LBN#3至LBN#4的范围的扇区群P12中读出属于区段SS群的源包群。
与上述读出处理并行地,再现装置102如图24(e)的说明中所述,利用各clip信息文件231、232的区段起点2242、2420,从各区段SS中抽取基本视区段,与剩余的从属视区段平行解码。这样,再现装置102可根据3D播放列表文件222从第1文件SS244A再现3D影像。
《索引表》
图35是表示图2所示的索引文件(index.bdmv)211的数据结构的模式图。参照图35,索引文件211包含索引表3510、3D存在标志3520及2D/3D喜好标志3530。
索引表3510包含‘首先播放’(firstplay)3501、‘主菜单’(top menu)3502及‘标题k’3503(k=1、2、...、n:n为1以上的整数)等项目。电影对象MVO-2D、MVO-3D、...、或BD-J对象BDJO-2D、BDJO-3D、...之一对应于各项目。每当通过用户操作或应用程序调用标题或菜单时,再现装置102的控制部参照索引表3510的对应项目。控制部再从BD-ROM盘101中调用对应于该项目的对象,据此执行各种处理。具体地,对项目‘首先播放’3501指定应在将盘101插入BD-ROM驱动器121时调用的对象。对项目‘主菜单’3502指定在例如通过用户操作输入‘返回菜单’等命令时使菜单显示于显示装置103上用的对象。向项目‘标题k’3503单独地分配构成盘101上的内容的标题。例如当通过用户操作指定再现对象的标题时,向分配该标题的项目‘标题k’指定用于从对应于该标题的AV流文件再现影像的对象。
在图35所示的实例中,将项目‘标题1’与项目‘标题2’分配给2D影像的标题。对应于项目‘标题1’的电影对象MVO-2D包含涉及使用2D播放列表文件(00001.mpls)221的2D影像再现处理的命令群。当由再现装置102参照项目‘标题1’时,根据该电影对象MVO-2D,从盘101中读出2D播放列表文件221,按其规定的再现路径,执行2D影像的再现处理。对应于项目‘标题2’的BD-J对象BDJO-2D包含涉及使用2D播放列表文件221的2D影像再现处理的应用管理表。当由再现装置102参照项目‘标题2’时,根据该BD-J对象BDJO-2D内的应用管理表,从JAR文件261调用Java应用程序并执行。由此,从盘101中读出2D播放列表文件221,按其规定的再现路径,执行2D影像的再现处理。
在图35所示的实例中,还向3D影像的标题分配项目‘标题3’与项目‘标题4’。对应于项目‘标题3’的电影对象MVO-3D除涉及使用2D播放列表文件221的2D影像再现处理的命令群外,还包含涉及使用3D播放列表文件(00002.mpls)222、(00003.mpls)223之一的3D影像再现处理的命令群。在对应于项目‘标题4’的BD-J对象BDJO-3D中,应用管理表除涉及使用2D播放列表文件221的2D影像再现处理的Java应用程序外,还规定涉及使用3D播放列表文件222、223之一的3D影像再现处理的Java应用程序。
3D存在标志3520是表示BD-ROM盘101中是否记录3D影像内容的标志。再现装置102当将BD-ROM盘101插入BD-ROM驱动器121中时,首先检查该3D存在标志3520。在3D存在标志3520为关(OFF)的情况下,再现装置102不必选择3D再现模式。因此,再现装置102不对显示装置103执行HDMI认证,可快速移到2D再现模式。这里,所谓‘HDMI认证’是指再现装置102通过HDMI线缆122与显示装置103之间交换CEC消息,询问显示装置103能否应对3D影像再现等的处理。通过跳过HDMI认证,缩短从插入BD-ROM盘101至2D影像再现开始的时间。
2D/3D喜好标志3530是当再现装置与显示装置均可应对2D影像与3D影像中的任一影像的再现时、指定是否应优先3D影像再现的标志。2D/3D喜好标志3530由内容提供商设定。再现装置102当BD-ROM盘101的3D存在标志3520为开(ON)时,接着再检查2D/3D喜好标志3530。在2D/3D喜好标志3530为开的情况下,再现装置102不让用户选择再现模式,执行HDMI认证,依据其结果,以2D再现模式与3D再现模式之一动作。即,再现装置102不显示再现模式的选择画面。因此,HDMI认证的结果,若显示装置103可应对3D影像的再现,则再现装置102能够以3D再现模式起动。由此,可避免帧速率切换等从2D再现模式移到3D再现模式的处理引起的起动延迟。
[3D影像标题选择时的播放列表文件的选择]
在图35所示的实例中,再现装置102当参照索引表3510的项目‘标题3’时,根据电影对象MVO-3D,首先执行如下判断处理:(1)3D存在标志3520是开还是关,(2)再现装置102自身是否应对3D影像再现,(3)2D/3D喜好标志3530是开还是关,(4)用户是否选择3D再现模式,(5)显示装置103是否应对3D影像再现,及(6)再现装置102的3D再现模式是L/R模式与深度模式哪个。再现装置102接着依照这些判断结果,选择任一播放列表文件221-223作为再现对象。另一方面,当再现装置102参照项目‘标题4’时,根据BD-J对象BDJO-3D内的应用管理表,从JAR文件261调用Java应用程序并执行。由此,首先执行上述判断处理(1)-(6),接着依照该判断结果,进行播放列表文件的选择。
图36是利用上述判断处理(1)-(6)来选择再现对象的播放列表文件的处理流程图。这里,作为该选择处理的前提,假设再现装置102包含第1标志与第2标志时。第1标志表示再现装置102是否可对应于(即:应对,支持)3D影像的再现。例如,当第1标志为“0”时,再现装置102仅可对应于2D影像再现,为“1”时,还可对应于3D影像的再现。第2标志表示3D再现模式是L/R模式与深度模式哪个。例如,当第2标志为“0”时,3D再现模式是L/R模式,为“1”时,是深度模式。还将3D存在标志3520与2D/3D喜好标志3530各自为开时的值设为“1”,为关时的值设为“0”。
在步骤S3601中,再现装置102检查3D存在标志3520的值。当其值为“1”时,处理前进到步骤S3602。当其值为“0”时,处理前进到步骤S3607。
在步骤S3602中,再现装置102检查第1标志的值。当其值为“1”时,处理前进到步骤S3603。当其值为“0”时,处理前进到步骤S3607。
在步骤S3603中,再现装置102检查2D/3D喜好标志3530的值。当其值为“0”时,处理前进到步骤S3604。当其值为“1”时,处理前进到步骤S3605。
在步骤S3604中,再现装置102使菜单显示于显示装置103中,让用户选择2D再现模式与3D再现模式之一。当用户操作遥控器105等选择3D再现模式时,处理前进到步骤S3605,当选择2D再现模式时,处理前进到步骤S3607。
在步骤S3605中,再现装置102进行HDMI认证,检查显示装置103是否应对3D影像再现。具体地,再现装置102通过HDMI线缆122与显示装置103之间交换CEC消息,向显示装置103询问显示装置103能否对应于3D影像再现。当显示装置103对应于3D影像再现时,处理前进到步骤S3606。当显示装置103不对应于3D影像再现时,处理前进到步骤S3607。
在步骤S3606中,再现装置102检查第2标志的值。当其值为“0”时,处理前进到步骤S3608。当其值为“1”时,处理前进到步骤S3609。
在步骤S3607中,再现装置102选择2D播放列表文件221作为再现对象。另外,此时再现装置102也可让显示装置103显示未选择3D影像再现的理由。之后,处理结束。
在步骤S3608中,再现装置102选择L/R模式用3D播放列表文件222作为再现对象。之后,处理结束。
在步骤S3609中,再现装置102选择深度模式用3D播放列表文件222作为再现对象。之后,处理结束。
<2D再现装置的构成>
2D再现模式的再现装置102当从BD-ROM盘101再现2D影像内容时,作为2D再现装置动作。图37是2D再现装置3700的功能框图。参照图37,2D再现装置3700包含BD-ROM驱动器3701、再现部3702及控制部3703。再现部3702包含读缓冲器3721、预装载缓冲器3723、字体缓冲器3724、系统目标解码器3725及平面加法部3726。控制部3703包含动态脚本存储器3731、静态脚本存储器3732、用户事件处理部3733、程序执行部3734、再现控制部3735及播放器变量存储部3736。再现部3702与控制部3703安装在相互不同的集成电路中。另外,也可将两者统一在单一的集成电路中。
BD-ROM驱动器3701当将BD-ROM盘101插入内部时,向该盘110照射激光,检测其反射光的变化。再根据其反射光的光量变化,读取盘101中记录的数据。具体地,BD-ROM驱动器3701具备光拾取器,即光学头。该光学头包含半导体激光器、准直透镜、分束器、物镜、聚光透镜及光检测器。从半导体激光器射出的光束顺序通过准直透镜、分束器及物镜,汇聚到盘101的记录层上。汇聚的光束被该记录层反射/折射。该反射/折射光通过物镜、分束器及聚光透镜,汇聚到光检测器。光检测器生成对应于该聚光量的电平的再现信号。再根据该再现信号解调数据。
BD-ROM驱动器3701根据来自再现控制部3735的请求,从BD-ROM盘101中读出数据。将该数据中文件2D的区段、即2D区段传输到读缓冲器3721,将文本字幕文件传输到预装载缓冲器3723,将字体集传输到字体缓冲器3724,将动态脚本信息传输到动态脚本存储器3731,将静态脚本信息传输到静态脚本存储器3732。‘动态脚本信息’包含索引文件、电影对象文件及BD-J对象文件。‘静态脚本信息’包含2D播放列表文件与2Dclip信息文件。
读缓冲器3721、预装载缓冲器3723、字体缓冲器3724、动态脚本存储器3731及静态脚本存储器3732均是缓冲存储器。利用再现部3702内的存储器元件作为读缓冲器3721、预装载缓冲器3723及字体缓冲器3724,利用控制部3703内的存储器元件作为动态脚本存储器3731及静态脚本存储器3732。此外,单一存储器元件的不同区域也可用作这些缓冲存储器3721-3723、3731、3732的部分或全部。
系统目标解码器3725从读缓冲器3721中以源包单位读出2D区段后进行解复用处理,对分离出的各基本流执行解码处理。这里,将各基本流解码所需的信息、例如编解码器的种类及流属性事先从再现控制部3735发送到系统目标解码器3725。系统目标解码器3725还将解码后的主视频流、辅视频流、IG流及PG流分别作为主影像平面数据、副影像平面数据、IG平面数据及PG平面数据以VAU单位送出。另外,系统目标解码器3725混合解码后的主音频流与辅音频流,送出到显示装置103的内置扬声器103A等声音输出装置。另一方面,系统目标解码器3725从预装载缓冲器3723以文本数据入口单位读出文本字幕流,解释其表示的文本字符串。系统目标解码器3725接着利用字体缓冲器3724中存储的字体集,将对应于该文本字符串的位图数据作为PG平面数据送出。此外,系统目标解码器3725从程序执行部3724接收图形数据。该图形数据用于在画面中显示菜单等GUI用图形部件,由JPEG或PNG等栅格数据表现。系统目标解码器3725处理该图形数据,作为图像平面数据送出。另外,系统目标解码器3725的细节如后所述。
平面加法部3726从系统目标解码器3725接收主影像平面数据、副映射平面数据、IG平面数据、PG平面数据及图像平面数据,将其彼此重叠后合成为一个影像帧或场。将合成后的影像数据送出到显示装置103,显示在其画面中。
用户事件处理部3733通过遥控器105或再现装置102的前面板检测用户的操作,对应于该操作的种类,委托程序执行部3734或再现控制部3735处理。例如当用户按下遥控器105的按钮指示显示弹出菜单时,用户事件处理部3733检测该按下后识别该按钮。用户事件处理部3733还委托程序执行部3734执行对应于该按钮的命令,即弹出菜单的显示处理。另一方面,例如当用户按下遥控器105的快进或后退按钮时,用户事件处理部3733检测其按下后识别该按钮。用户事件处理部3733还向再现控制部3735委托当前再现中的播放列表的快进或后退处理。
程序执行部3734是处理器,从动态脚本存储器3731中存储的电影对象文件及BD-J对象文件中读出程序并执行。程序执行部3734还根据各程序执行如下控制:(1)对再现控制部3735命令播放列表再现处理;(2)生成菜单用或游戏用图形数据作为PNG或JPEG栅格数据,并将其传输到系统目标解码器3725后合成到其他影像数据中。这些控制的具体内容可通过程序的设计较自由地设计。即,这些控制内容由BD-ROM盘101的创作(authoring)工序中、电影对象文件及BD-J对象文件的编程工序决定。
再现控制部3735控制如下处理,即将2D区段及索引文件等各种数据从BD-ROM盘101传输到读缓冲器3721、预装载缓冲器3723、字体缓冲器3724、动态脚本存储器3731及静态脚本存储器3732。该控制中,利用管理图2所示目录/文件构造的文件系统。即,再现控制部3735利用文件打开用系统调用,让BD-ROM驱动器3701将各种文件传输到各缓冲存储器3721-3723、3731、3732。这里,所谓‘文件打开’(file opening)是指下面的一系列处理。首先,通过系统调用向文件系统提供检索对象的文件名,该文件名从目录/文件构造中检索。当该检索成功时,向再现控制部3735内的存储器首先传输传输对象文件的文件入口,在该存储器内生成FCB(FileControl Block:文件控制块)。之后,将传输对象文件的文件句柄(file handle)从文件系统返回再现控制部3735。之后,通过再现控制部3735将该文件句柄提示给BD-ROM驱动器3701,可让BD-ROM驱动器3701将该传输对象的文件从BD-ROM盘101传输到各缓冲存储器3721-3723、3731、3732。
再现控制部3735控制BD-ROM驱动器3701与系统目标解码器3725,从文件2D解码影像数据与声音数据。具体地,再现控制部3735首先对应于来自程序执行部3734的命令或来自用户事件处理部3733的委托,从静态脚本存储器3732读出2D播放列表文件,解释其内容。再现控制部3735再根据该解释后的内容、尤其是再现路径,对BD-ROM驱动器3701与系统目标解码器3725指定再现对象的文件2D,指示其读出处理及解码处理。将这种根据播放列表文件的再现处理称为‘播放列表再现处理’。在再现路径中包含文本字幕流的情况下,再现控制部3735根据STN表内的流属性信息,确定必需的字体集,将其从BD-ROM盘101事先传输到字体缓冲器3724。
另外,再现控制部3735利用静态脚本信息,对播放器变量存储部3736设定各种播放器变量。再现控制部3735还参照这些播放器变量,对系统目标解码器3725指定解码对象的基本流,且提供各基本流解码所需的信息。
播放器变量存储部3736是用于存储播放器变量的寄存器群。播放器变量种类中有系统参数(SPRM)与通用参数(GPRM)。SPRM表示再现装置102的状态。图38是SPRM的一览表。向各SPRM分配连续号码3801,向各连续号码3801分别地对应变量值3802。主要SPRM的内容如下所示。这里,括号内的数字表示连续号码3801。
SPRM(0):语言代码
SPRM(1):主音频流号码
SPRM(2):字幕流号码
SPRM(3):角度号码
SPRM(4):标题号码
SPRM(5):章节号码
SPRM(6):程序号码
SPRM(7):单元号码
SPRM(8):选择键号码
SPRM(9):导航定时器
SPRM(10):再现时刻信息
SPRM(11):卡拉OK用混合模式
SPRM(12):父母限制用国家信息
SPRM(13):父母限制级别
SPRM(14):播放器设定值(视频)
SPRM(15):播放器设定值(音频)
SPRM(16):音频流用语言代码
SPRM(17):音频流用语言代码(扩展)
SPRM(18):字幕流用语言代码
SPRM(19):字幕流用语言代码(扩展)
SPRM(20):播放器区域代码
SPRM(21):辅视频流号码
SPRM(22):辅音频流号码
SPRM(23):播放器状态
SPRM(24):备用
SPRM(25):备用
SPRM(26):备用
SPRM(27):备用
SPRM(28):备用
SPRM(29):备用
SPRM(30):备用
SPRM(31):备用
SPRM(10)表示解码处理中的图片的PTS,每当解码该图片后写入主影像平面存储器中时被更新。因此,若参照SPRM(10),则可知道当前的再现时刻。
SPRM(13)的父母限制级别表示规定的限制年龄,用于对BD-ROM盘101中记录的标题的视听的父母限制控制。SPRM(13)的值由再现装置102的用户利用再现装置102的OSD等来设定。这里,所谓‘父母限制控制’是指依照视听者的年龄限制标题视听的处理。再现装置102例如如下进行对各标题的父母限制控制。再现装置102首先从BD-ROM盘101中读出允许该标题视听的视听者年龄,与SPRM(13)的值相比较。若该年龄为SPRM(13)的值以上,则再现装置102继续该标题的再现。若该年龄不足SPRM(13)的值,则再现装置102停止该标题的再现。
SPRM(16)的音频流用语言代码和SPRM(18)的字幕流用语言代码表示再现装置102的默认语言代码。这些语言代码也可利用再现装置102的OSD等来让用户变更,也可通过程序执行部3734来让应用程序变更。例如,当SPRM(16)表示‘英语’时,再现控制部3735在播放列表再现处理中,首先从表示当前时刻的再现区域的PI、即当前PI包含的STN表中,检索包含‘英语’语言代码的流入口。再现控制部3735接着从该流入口的流识别信息中抽取PID,传递给系统目标解码器3725。由此,由系统目标解码器3725选择并解码该PID的音频流。这些处理可利用电影对象文件或BD-J对象文件让再现控制部3735执行。
在再现处理中,由再现控制部3735对应于再现状态的变化,更新播放器变量。具体地,更新SPRM(1)、SPRM(2)、SPRM(21)及SPRM(22)。这些SPRM顺序地表示处理中的音频流、字幕流、辅视频流及辅音频流的各STN。例如,假设由程序执行部3734变更SPRM(1)时。再现控制部3735首先利用变更后的SPRM(1)表示的STN,从当前PI内的STN表中,检索包含该STN的流入口。再现控制部3735接着从该流入口内的流识别信息中抽取PID,传递给系统目标解码器3725。由此,由系统目标解码器3725选择并解码该PID的音频流。这样,切换再现对象的音频流。同样地,也可切换再现对象的字幕和辅视频流。
《2D播放列表再现处理》
图39是再现控制部3735执行的2D播放列表再现处理的流程图。2D播放列表再现处理是根据2D播放列表文件的播放列表再现处理,通过再现控制部3735从静态脚本存储器3732中读出2D播放列表文件来开始。
在步骤S3901中,再现控制部3735首先从2D播放列表文件内的主路径中读出一个PI,设定为当前PI。再现控制部3735接着从该当前PI的STN表中选择再现对象的基本流的PID,并且确定其解码所需的属性信息。将选择到的PID与属性信息指示给系统目标解码器3725。再现控制部3735再根据2D播放列表文件内的子路径,确定附带于当前PI的SUB_PI。在SUB_PI规定文本字幕流的再现区间的情况下,再现控制部3735根据STN表内的流属性信息,确定必需的字体集,将其从BD-ROM盘101事先传输到字体缓冲器3724。之后,处理前进到步骤S3902。
在步骤S3902中,再现控制部3735从当前PI中读出参照clip信息、表示再现开始时刻IN1的PTS#1及表示再现结束时刻OUT1的PTS#2。根据该参照clip信息,确定对应于再现对象文件2D的2Dclip信息文件。并当存在附带于当前PI的SUB_PI时,也从中读出同样的信息。之后,处理前进到步骤S3903。
在步骤S3903中,再现控制部3735参照2Dclip信息文件的入口映射,检索对应于PTS#1、#2的文件2D内的SPN#1、#2。SUB_PI表示的PTS对也同样变换为SPN对。之后,处理前进到步骤S3904。
在步骤S3904中,再现控制部3735根据SPN#1、#2,计算分别对应的扇区数量。具体地,再现控制部3735首先求出SPN#1、#2各自与每一个源包的数据量192字节的积。再现控制部3735接着用每一扇区的数据量2048字节除该积后求出其商:N1=SPN#1×192/2048、N2=SPN#2×192/2048。商N1、N2与主TS中记录分配了SPN#1、#2各自的源包之前部分的扇区总数相等。从SUB_PI表示的PTS对变换的SPN对也同样变换为扇区数量对。之后,处理前进到步骤S3905。
在步骤S3905中,再现控制部3735根据步骤S3904中得到的各个扇区数量N1、N2,确定再现对象的2D区段群的前端与后端的LBN。具体地,再现控制部3735参照再现对象的文件2D的文件入口,确定从记录了2D区段群的扇区群开头数起第(N1+1)个扇区的LBN=LBN#1、与第(N2+1)个扇区的LBN=LBN#2。再现控制部3735再将LBN#1到LBN#2的范围指定给BD-ROM驱动器121。从SUB_PI表示的PTS对变换的扇区数量的对也同样变换为LBN的对,指定给BD-ROM驱动器121。结果,从指定范围的扇区群中,以排列单元单位读出属于2D区段群的源包群。之后,处理前进到步骤S3906。
在步骤S3906中,再现控制部3735检查主路径中是否还残留未处理的PI。当残留时,从步骤S3901重复处理。当未残留时,处理结束。
《系统目标解码器》
图40是系统目标解码器3725的功能框图。参照图40,系统目标解码器3725包含源去包器4010、ATC计数器4020、第一27MHz时钟4030、PID过滤器4040、STC计数器(STC1)4050、第二27MHz时钟4060、主影像解码器4070、副影像解码器4071、PG解码器4072、IG解码器4073、主声音解码器4074、副声音解码器4075、文本字幕解码器4076、图像处理器4080、主影像平面存储器4090、副影像平面存储器4091、PG平面存储器4092、IG平面存储器4093、图像平面存储器4094和声音混合器4095。
源去包器(depacketizer)4010从读缓冲器3721中读出源包,从中取出TS包,送出到PID过滤器4040。源去包器4010再使该送出时刻与各源包的ATS所示的时刻一致。具体而言,源去包器4010首先监视ATC计数器4020生成的ATC值。这里,ATC值由ATC计数器4020对应于第一27MHz时钟4030的时钟信号脉冲递增。源去包器4010接着在ATC值与源包的ATS一致的瞬间,将从该源包中取出的TS包传输到PID过滤器4040。利用这种送出时刻的调节,从源去包器4010向PID过滤器4040传输TS包的平均传输速度不超过由图22所示的2Dclip信息文件231内的系统速率2211规定的值RTS
PID过滤器4040首先监视从源去包器4010输出的TS包包含的PID。该PID与从再现控制部3735事先指定的PID一致时,PID过滤器4040选择该TS包,并传输到适用解码该PID所示基本流的解码器4070-4075。(其中,除去文本字幕解码器4076。)例如,当PID为0x1011时,将该TS包传输到主影像解码器4070。另外,当PID属于0x1B00-0x1B1F、0x1100-0x111F、0x1A00-0x1A1F、0x1200-0x121F和0x1400-0x141F的各范围时,将TS包分别传输到副影像解码器4071、主声音解码器4074、副声音解码器4075、PG解码器4072和IG解码器4073。
PID过滤器4040还利用各TS包的PID,从该TS包中检测PCR。PID过滤器4040此时将STC计数器4050的值设定为规定值。这里,STC计数器4050的值对应于第二27MHz时钟4060的时钟信号脉冲递增。另外,事先从再现控制部3735向PID过滤器4040指示应设定给STC计数器4050的值。各解码器4070-4076利用STC计数器4050的值作为STC。具体地,各解码器4070-4076首先将从PID过滤器4040接收到的TS包重建为PES包。各解码器4070-4076接着根据该PBS头中包含的PTS或DTS所示的时刻来调节该PES有效载荷包含的数据的解码处理的时期。
主影像解码器4070如图40所示,包含传输流缓冲器(TB:TransportStream Buffer)4001、复用缓冲器(MB:Multiplexing Buffer)4002、基本流缓冲器(EB:Elementary Stream Buffer)4003、压缩影像解码器(DEC)4004和解码图片缓冲器(DPB:Decoded Picture Buffer)4005。
TB4001、MB4002及EB4003均为缓冲存储器,分别利用主影像解码器4070中内置的存储器元件的一区域。另外,也可将它们之一或全部分离成不同的存储器元件。TB4001原样存储从PID过滤器4040接收到的TS包。MB4002存储从TB4001中存储的TS包复原的PES包。另外,当从TB4001向MB4002传输TS包时,从该TS包中去除TS头。EB4003从PES包中抽取编码的VAU后存储。在该VAU中存储压缩图片、即I图片、B图片和P图片。另外,当从MB4002向EB4003传输数据时,从该PES包中去除PES头。
DEC4004是专用于压缩图片的解码处理的硬件解码器,具体由具备该解码处理的加速器功能的LSI构成。DEC4004在最初的PES包中包含的DTS所示的时刻,从EB4003内的各VAU解码图片。DEC4004此外也可利用图12所示的解码开关信息1250,与该DTS无关地从各VAU依次解码图片。在该解码处理中,DEC4004事先解析该VAU的头,确定该VAU内存储的压缩图片的压缩编码方式与流属性,并据此选择解码方法。这里,该压缩编码方法例如包含MPEG-2、MPEG-4AVC和VC1。DEC4004再将解码后的非压缩图片传输到DPB4005。
DPB4005是与TB4001、MB4002及EB4003一样的缓冲存储器,利用主影像解码器4070中内置的存储器元件的一区域。DPB4005此外也可分离成与其他缓冲存储器4001、4002、4003不同的存储器元件。DPB4005暂时保持解码后的图片。当由DEC4004解码P图片或B图片时,DPB4005对应于来自DEC4004的指示,从所保持的解码后的图片中检索参照图片,提供给DEC4004。DPB4005还在最初的PES包中包含的PTS所示的时刻将所保持的各图片写入主影像平面存储器4090中。
副影像解码器4071包含与主影像解码器4070一样的构成。副影像解码器4071首先将从PID过滤器4040接收到的辅视频流的TS包解码成非压缩图片。副影像解码器4071接着在该PES包中包含的PTS所示的时刻将非压缩图片写入副影像平面存储器4091中。
PG解码器4072将从PID过滤器4040接收到的TS包解码成非压缩图形数据,在该PES包所包含的PTS表示的时刻写入PG平面存储器4092中。具体地,PG解码器4072首先将属于PG流内各显示集的ODS解码成图形对象后,写入对象缓冲器。PG解码器4072接着将该图形对象从对象缓冲器写入平面存储器。PG解码器4072尤其利用流水线(pipeline),同时地执行将图形对象写入对象缓冲器的处理、和将其他图形对象从对象缓冲器写入平面存储器的处理。由此,PG解码器4072可维持与主影像解码器4070等其他解码器的精密同步。
IG解码器4073将从PID过滤器4040接收到的TS包解码成非压缩图形数据,在该PEG包中包含的PTS所示时刻写入IG平面存储器4093中。这些处理的细节与PG解码器4072执行的一样。
主声音解码器4074首先将从PID过滤器4040接收到的TS包存储在内置缓冲器中。主声音解码器4074接着从该缓冲器内的TS包群中去除TS头与PES头,将剩余的数据解码成非压缩LPCM声音数据。主声音解码器4074还将该声音数据在最初的PES包中包含的PTS所示时刻送出到声音混合器4095。这里,主声音解码器4074依照TS包中包含的主音频流的压缩编码方式和流属性,选择压缩声音数据的解码方法。该压缩编码方式例如包含AC-3或DTS。
副声音解码器4075包含与主声音解码器4074一样的构成。副声音解码器4075首先从由PID过滤器4040接收到的辅音频流的TS包群复原PES包,将其PES有效载荷包含的数据解码成非压缩LPCM声音数据。副声音解码器4075接着在该PES头包含的PTS所示时刻,将该非压缩LPCM声音数据送出到声音混合器4095。这里,副声音解码器4075依照TS包中包含的辅音频流的压缩编码形式和流属性,选择压缩声音数据的解码方法。该压缩编码方式例如包含杜比数字+或DTS-HD LBR。
文本字幕解码器4076如图40所示,包含文本解码器(DEC)4077与位图缓冲器4078。DEC4077是专用于文本字符串的解码处理与绘制(rendering)处理的硬件解码器,具体由具备这些处理的加速器功能的LSI构成。DEC4077首先从预装载缓冲器3723内的文本字幕流中读出各文本数据入口,解释其类型信息。DEC4077接着根据该类型信息,利用字体缓冲器3724内的字体集,由此将文本信息解码为位图数据,写入位图缓冲器4078中。位图缓冲器4078是利用文本字幕解码器4076中内置的存储器元件的一个区域的缓冲存储器。位图缓冲器4078在各文本数据入口包含的PTS所示的时刻,将对应的位图数据传输到PG平面存储器4092。
这里,当一个文本数据入口表示nc字(整数nc为1以上)的文本字符串时,DEC4077从该文本数据入口解码位图数据后写入PG平面存储器4092所需的时间Tprocess,使用基于DEC4077的文本字符的绘制速度Rred与从位图缓冲器4078至PG平面存储器4092的数据传输速度Rtr,由下式表示:Tprocess=nc/Rred+nc/Rtr。例如,当绘制速度Rred与数据传输速度Rtr均为20字/秒时,将20字(nc=20)写入PG平面存储器4092所需的时间Tprocess为20/20+20/20=2秒。因此,利用上式,若将时间Tprocess例如限制为2秒以下,则可限制每个文本数据入口的数据量。由此,可容易安装文本字幕解码器4076。
声音混合器4095从主声音解码器4074与副声音解码器4075分别接收非压缩声音数据,使用这些数据进行混合(mixing,混音)。声音混合器4095还将通过该混合得到的合成音送出到显示装置103的内置扬声器103A等。
图像处理器4080从程序执行部3734接收图形数据、即PNG或JPEG栅格数据。图像处理器4080此时进行对该图形数据的绘制处理,写入图像平面存储器4094中。
<3D再现装置的构成>
3D再现模式的再现装置102当从BD-ROM盘101再现3D影像内容时,作为3D再现装置动作。其构成的基本部分与图37、40所示的2D再现装置的构成一样。因此,下面说明在2D再现装置构成基础之上的扩展部分及变更部分,对基本部分细节的说明引用对上述2D再现装置的说明。另外,2D播放列表再现处理中利用的构成与2D再现装置的构成一样。因此,对其细节的说明也引用对上述2D再现装置的说明。在下面的说明中,假设根据3D播放列表文件的3D影像的再现处理,即3D播放列表再现处理。
图41是3D再现装置4100的功能框图。3D再现装置4100包含BD-ROM驱动器4101、再现部4102及控制部4103。再现部4102包含开关4120、第1读缓冲器4121、第2读缓冲器4122、预装载缓冲器4123、字体缓冲器4124、系统目标解码器4125及平面加法部4126。控制部4103包含动态脚本存储器4131、静态脚本存储器4132、用户事件处理部4133、程序执行部4134、再现控制部4135及播放器变量存储部4136。再现部4102与控制部4103安装在相互不同的集成电路中。另外,也可将两者统一在单一的集成电路中。尤其是预装载缓冲器4123、字体缓冲器4124、动态脚本存储器4131、静态脚本存储器4132、用户事件处理部4133及程序执行部4134与图37所示的2D再现装置内的一样。因此,对其细节的说明引用对上述2D再现装置的说明。
再现控制部4135当由程序执行部4134等命令了3D播放列表再现处理时,从静态脚本存储器4132中存储的3D播放列表文件中依次读出PI,设定为当前PI。再现控制部4135每当设定当前PI时,都首先根据其STN表与该3D播放列表文件内的STN表SS,设定系统目标解码器4125与平面加法部4126的动作条件。具体地,再现控制部4135选择解码对象的基本流的PID,与该基本流解码所需的属性信息一起传递到系统目标解码器4125。在选择到的PID所示的基本流中包含PG流、IG流或文本字幕流的情况下,再现控制部4135再确定分配给这些流数据的参照偏移ID3201与偏移补正值3202,设定给播放器变量存储部4136内的SPRM(27)与SPRM(28)中的每个SPRM。另外,再现控制部4135依据STN表SS所示的弹出期间的偏移3311,选择各平面数据的显示模式,指示给系统目标解码器4125与平面加法部4126。
接着,再现控制部4135根据当前PI,按图24(e)的说明中所述的步骤,将记录了读出对象区段SS的扇区群的LBN的范围指示给BD-ROM驱动器4101。另一方面,再现控制部4135利用静态脚本存储器4132中存储的clip信息文件内的区段起点,生成表示各区段SS内的数据块边界的信息。该信息表示例如从该区段SS的开头至各边界的源包数量。再现控制部4135再将该信息传递到开关4120。
播放器变量存储部4136与2D再现装置内的3736一样,包含图38所示的SPRM。但是,与图38不同,SPRM(24)包含图36所示的第1标志,SPRM(25)包含第2标志。此时,当SPRM(24)为“0”时,再现装置102仅可对应于2D影像的再现,当为“1”时,还可对应于3D影像的再现。SPRM(25)为“0”时,再现装置102是L/R模式,当为“1”时,是深度模式。
播放器变量存储部4136还与图38不同,SPRM(27)包含对各图形平面的参照偏移ID的存储区域,SPRM(28)包含对各图形平面的偏移补正值的存储区域。图42是表示SPRM(27)与SPRM(28)的数据结构的表。参照图42,SPRM(27)包含存储四种参照偏移ID4210-4213的区域。这些参照偏移ID是对PG平面的ID(PG_ref_offset_id)4210、对IG平面的ID(IG_ref_offset_id)4211、对副影像平面的ID(SV_ref_offset_id)4212及对图像平面的ID(IM_ref_offset_id)4213。SPRM(28)包含存储四种偏移补正值4220-4223的区域。这些偏移补正值是对PG平面的偏移补正值(PG_offset_adjustment)4220、对IG平面的偏移补正值(IG_offset_adjustment)4221、对副影像平面的偏移补正值(SV_offset_adjustment)4222及对图像平面的偏移补正值(IM_offset_adjustment)4223。
再参照图41,BD-ROM驱动器4101包含与图37所示的2D再现装置内的3701一样的构成要素。BD-ROM驱动器4101当从再现控制部4135被指示了LBN的范围时,从该范围所示的BD-ROM盘101上的扇区群中读出数据。尤其将属于文件SS的区段、即区段SS的源包群从BD-ROM驱动器4101传输到开关4120。这里,各区段SS如图19所示,包含一个以上基本视与从属视的数据块对。这些数据块必需平行地传输到不同的读出缓冲器4121、4122。因此,要求BD-ROM驱动器4101有2D再现装置内的BD-ROM驱动器3701以上的访问速度。
开关4120从BD-ROM驱动器4101接收区段SS。另一方面,开关4120从再现控制部4135接收表示该区段SS中包含的各数据块的边界的信息,即从该区段SS的开头至各边界的源包数量。开关4120还利用该信息,从各区段SS中抽取基本视区段,送出到第1读缓冲器4121,并抽取从属视区段,送出到第2读缓冲器4122。
第1读缓冲器4121与第2读缓冲器4122均是利用再现部4102内的存储器元件的缓冲存储器。尤其是将单一存储器元件内的不同区域分别用作读缓冲器4121、4122。此外,也可将不同存储器单元独立用作各读缓冲器4121、4122。第1读缓冲器4121从开关4120接收基本视区段并存储。第2读缓冲器4122从开关4120接收从属视区段并存储。
系统目标解码器4125在3D播放列表再现处理中,首先从再现控制部4135接收解码对象的流数据的PID和其解码必需的属性信息。系统目标解码器4125接着从第1读缓冲器4121中存储的基本视区段与第2读缓冲器4122中存储的从属视区段中交互读出源包。系统目标解码器4125接着将从再现控制部4135接收到的PID所示的基本流从各源包分离后,加以解码。系统目标解码器4125再将解码后的基本流按其不同种类写入内置的平面存储器中。将基本视视频流写入左影像平面存储器中,将从属视视频流写入右影像平面存储器中。另一方面,将辅视频流写入副影像平面存储器中,将IG流写入IG平面存储器中,将PG流写入PG平面存储器中。这里,在辅视频流由基本视与从属视的视频流对构成的情况下,对左视与右视双方的平面数据单独地准备副影像平面存储器。系统目标解码器4125还从预装载缓冲器4123中读出各文本数据入口,利用字体缓冲器4124中存储的字体集,将该文本数据入口解码成位图数据后写入PG平面存储器中。系统目标解码器4125此外还对来自程序执行部4134的图形数据、例如JPEG或PNG等栅格数据执行绘制处理,写入图像平面存储器中。
系统目标解码器4125使来自左影像平面存储器与右影像平面存储器的平面数据的输出模式如下所述,对应于B-D显示模式与B-B显示模式之一。当从再现控制部4135指示B-D显示模式时,系统目标解码器4125从左影像平面存储器与右影像平面存储器交互输出平面数据。另一方面,当从再现控制部4135指示B-B显示模式时,系统目标解码器4125将动作模式维持成3D再现模式不变,仅从左影像平面存储器与右影像平面存储器之一每帧二次地输出平面数据。
当从再现控制部4135指示1平面+偏移模式时,系统目标解码器4125每当从从属视视频流读出各视频序列的开头VAU,则从该VAU读出偏移元数据1310。在该视频序列的再现区间中,系统目标解码器4125首先确定与各VAU一起存储在相同PES包中的PTS、和该VAU的压缩图片数据表示的帧的号码。系统目标解码器4125接着从偏移元数据中读出对应于该帧号码的偏移信息,在确定的PTS所示的时刻送出到平面加法部4126。
平面加法部4126从系统目标解码器4125接收各种平面数据,将其彼此重叠后合成为一个帧或场。尤其是在L/R模式下,左影像平面数据表示左视视频平面,右影像平面数据表示右视视频平面。因此,平面加法部4126将表示左视的其他平面数据重叠于左影像平面数据,将表示右视的其他平面数据重叠于右影像平面数据。另一方面,在深度模式下,右影像平面数据表示对于左影像平面数据所表示的视频平面的深度映射。因此,平面加法部4126首先根据双方的影像平面数据生成左视与右视的视频平面数据对。之后,平面加法部4126与L/R模式下的合成处理一样执行合成处理。
平面加法部4126当从再现控制部4135指示1平面+偏移模式或1平面+零偏移模式作为副影像平面、PG平面、IG平面或图像平面的显示模式时,对从系统目标解码器4125接收到的平面数据进行偏移控制。由此,从各平面数据生成左视与右视的平面数据对。
尤其在被指示1平面+偏移模式时,平面加法部4126首先从播放器变量存储部4136内的SPRM(27)中读出对各图形平面的参照偏移ID4210-4213。平面加法部4126接着参照从系统目标解码器4125接收到的偏移信息,检索属于各参照偏移ID4210-4213所示的偏移序列1312的偏移信息,即偏移方向1322与偏移值1323的对。平面加法部4126接着从播放器变量存储部4136内的SPRM(28)中读出对各图形平面的偏移补正值4220-4223,加到对应的偏移值上。平面加法部4126之后利用各偏移值,对对应的图形平面进行偏移控制。
另一方面,当指示1平面+零偏移模式时,平面加法部4126不参照SPRM(27)、SPRM(28)中的任一个,将对各图形平面的偏移值作为“0”,进行偏移控制。因此,相同平面数据作为分别表示左视与右视的图形平面重合,合成到其他平面数据。
《3D播放列表再现处理》
图43是再现控制部4135执行的3D播放列表再现处理的流程图。3D播放列表再现处理通过再现控制部4135从静态脚本存储器4132中读出3D播放列表文件来开始。
在步骤S4301中,再现控制部4135首先从3D播放列表文件内的主路径中读出一个PI,设定为当前PI。再现控制部4135接着从该当前PI的STN表中选择再现对象的基本流的PID,并且确定它们的解码所需的属性信息。再现控制部4135再从3D播放列表文件内的STN表SS中对应于当前PI的基本流中,选择应作为再现对象的基本流追加的基本流的PID,并且确定其解码所需的属性信息。将选择到的PID与属性信息指示给系统目标解码器4125。再现控制部4135此外根据3D播放列表文件内的子路径,确定应与当前PI同时参照的SUB_PI,设定为当前的SUB_PI。之后,处理前进到步骤S4302。
在步骤S4302中,再现控制部4135依据STN表SS表示的弹出期间的偏移,选择各平面数据的显示模式,并指示给系统目标解码器4125与平面加法部4126。尤其是当弹出期间的偏移值为“0”时,选择B-D显示模式作为视频平面的显示模式,选择1平面+偏移模式作为图形平面的显示模式。另一方面,当弹出期间的偏移值为“1”时,选择B-B显示模式作为视频平面的显示模式,选择1平面+零偏移模式作为图形平面的显示模式。之后,处理前进到步骤S4303。
在步骤S4303中,检查选择1平面+偏移模式与1平面+零偏移模式中的哪个作为图形平面的显示模式。在选择1平面+偏移模式的情况下,处理前进到步骤S4304。另一方面,在选择1平面+零偏移模式的情况下,处理前进到步骤S4305。
在步骤S4304中,再现控制部4135参照当前PI的STN表,从选择的PID所示的基本流中,检测PG流、IG流或文本字幕流。再现控制部4135还确定分配给这些流数据的参照偏移ID与偏移补正值,设定给播放器变量存储部4136内的SPRM(27)与SPRM(28)中的每个。之后,处理前进到步骤S4305。
在步骤S4305中,再现控制部4135分别从当前的PI与SUB_PI,读出参照clip信息、表示再现开始时刻IN1的PTS#1及表示再现结束时刻OUT1的PTS#2。根据该参照clip信息,确定分别对应于再现对象文件2D与文件DEP的clip信息文件。之后,处理前进到步骤S4306。
在步骤S4306中,再现控制部4135参照步骤S4305中确定的clip信息文件的各入口映射,检索对应于PTS#1、#2的文件2D内的SPN#1、#2与文件DEP内的SPN#11、#12。再现控制部4135再如使用图24说明的那样,利用各clip信息文件的区段起点,从SPN#1、#11计算从文件SS的开头至再现开始位置的源包数量SPN#21,从SPN#2、#12计算从文件SS的开头至再现结束位置的源包数量SPN#22。具体地,再现控制部4135首先从2Dclip信息文件的区段起点所示的SPN中,检索在SPN#1以下且最大的SPN“Am”,从从属视clip信息文件的区段起点所示的SPN中,检索在SPN#11以下且最大的SPN“Bm”。再现控制部4135接着求出检索的SPN之和Am+Bm,决定为SPN#21。再现控制部4135接着从2Dclip信息文件的区段起点所示的SPN中,检索比SPN#2大且最小的SPN“An”,从从属视clip信息文件的区段起点所示的SPN中,检索比SPN#12大且最小的SPN“Bn”。再现控制部4135接着求出检索的SPN之和An+Bn,决定为SPN#22。之后,处理前进到步骤S4307。
在步骤S4307中,再现控制部4135将步骤S4306中决定的SPN#21、#22变换为扇区数量的对N1、N2。具体地,再现控制部4135首先求出SPN#21与每个源包的数据量192字节之积。再现控制部4135接着求出用每扇区的数据量2048字节除该积时的商SPN#21×192/2048。该商与从文件SS的开头至再现开始位置之前的扇区数量N1相等。同样地,再现控制部4135根据SPN#22求出商SPN#22×192/2048。该商与从文件SS的开头至再现结束位置之前的扇区数量N2相等。之后,处理前进到步骤S4308。
在步骤S4308中,再现控制部4135根据步骤S4307中得到的各个扇区数量N1、N2,确定再现对象的区段SS群的前端与后端的LBN。具体地,再现控制部4135参照再现对象文件SS的文件入口,确定从记录了区段SS群的扇区群开头数起第(N1+1)个扇区的LBN=LBN#1、与第(N2+1)个扇区的LBN=LBN#2。再现控制部4135再将从LBN#1到LBN#2的范围指定给BD-ROM驱动器4101。结果,从指定范围的扇区群中,以排列单元单位读出属于区段SS群的源包群。之后,处理前进到步骤S4309。
在步骤S4309中,再现控制部4135再次利用步骤S4306中利用的clip信息文件的区段起点,生成表示区段SS群中包含的从属视数据块与基本视数据块之间边界的信息(下面称为数据块边界信息。),送出到开关4120。作为具体实例,假设表示再现开始位置的SPN#21与各区段起点表示的SPN之和An+Bn相等,表示再现结束位置的SPN#22与各区段起点表示的SPN之和Am+Bm相等。此时,再现控制部4135根据各区段起点,求出SPN之差的序列A(n+1)-An、B(n+1)-Bn、A(n+2)-A(n+1)、B(n+2)-B(n+1)、...、Am-A(m-1)、Bm-B(m-1),作为数据块边界信息,送出到开关4120。如图24(e)所示,该序列表示区段SS中包含的各数据块的源包数量。开关4120从0开始计数从BD-ROM驱动器4101接收到的区段SS的源包数量,每当该计数与数据块边界信息所示的SPN之差一致时,就在二个读缓冲器4121、4122之间切换源包的送出目的地,且将计数复位为0。结果,区段SS的开头起,将{B(n+1)-Bn}个源包作为最初的从属视区段,送出到第2读缓冲器4122,接着将{A(n+1)-An}个源包作为最初的基本视区段,送出到第1读缓冲器4121。之后一样,每当由开关4120接收的源包数量与数据块边界信息所示的SPN之差一致时,就从区段SS中交互抽取从属视区段与基本视区段。
在步骤S4310中,再现控制部4135检查主路径中是否还残留未处理的PI。当残留时,从步骤S4301重复处理。当未残留时,处理结束。
《系统目标解码器》
图44是系统目标解码器4125的功能框图。图44所示的构成要素与图40所示的2D再现装置的3724的不同之处在于,从读缓冲器向各解码器的输入系统被双重化。另一方面,主声音解码器、副声音解码器、文本字幕解码器、声音混合器、图像处理器及各平面存储器与图40所示的2D再现装置的一样。因此,下面,说明图44所示的构成要素中与图40所示的不同的构成要素。另一方面,对相同构成要素的细节的说明引用对图40的说明。并且,各影像解码器均具有同样的构造,所以下面说明主影像解码器4415的构造。同样的说明对其他影像解码器的构造也成立。
第1源去包器4411从第1读缓冲器4121中读出源包,再从中抽出TS包,送出到第1PID过滤器4413。第2源去包器4412从第2读缓冲器4122中读出源包,再从中抽出TS包,送出到第2PID过滤器4414。各源去包器4411、4412再使各TS包的送出时刻与各源包的ATS所示的时刻一致。该同步方法与图40所示的源去包器4010执行的方法一样。因此,对其细节的说明引用对图40的说明。利用这种送出时刻的调节,从第1源去包器4411向第1PID过滤器4413传输TS包的平均传输速度RTS1不超过2Dclip信息文件所示的系统速率。同样,从第2源去包器4412向第2PID过滤器4414传输TS包的平均传输速度RTS2不超过从属视clip信息文件所示的系统速率。
第1PID过滤器4413每当从第1源去包器4411接收TS包,都将该PID与选择对象的PID相比较。该选择对象的PID由再现控制部4135事先根据3D播放列表文件内的STN表指定。当双方的PID一致时,第1PID过滤器4413将该TS包传输到分配给该PID的解码器。例如,当PID为0x1011时,将该TS包传输到主影像解码器4415内的TB(1)4401。另外,当PID属于0x1B00-0x1B1F、0x1100-0x111F、0x1A00-0x1A1F、0x1200-0x121F和0x1400-0x141F的各范围时,将对应的TS包分别传输到副影像解码器、主声音解码器、副声音解码器、PG解码器和IG解码器。
第2PID过滤器4414每当从第2源去包器4412接收TS包,都将该PID与选择对象的PID相比较。该选择对象的PID由再现控制部4135事先根据3D播放列表文件内的STN表SS指定。当双方的PID一致时,第2PID过滤器4414将该TS包传输到分配给该PID的解码器。例如,当PID为0x1012或0x1013时,将该TS包传输到主影像解码器4415内的TB(2)4408。另外,当PID属于0x1B20-0x1B3F、0x1220-0x127F及0x1420-0x147F的各范围时,将对应的TS包分别传输到副影像解码器、PG解码器和IG解码器。
主影像解码器4415包含TB(1)4401、MB(1)4402、EB(1)4403、TB(2)4408、MB(2)4409、EB(2)4410、缓冲器开关4406、DEC4404、DPB4405及图片开关4407。TB(1)4401、MB(1)4402、EB(1)4403、TB(2)4408、MB(2)4409、EB(2)4410及DPB4405均是缓冲存储器。各缓冲存储器利用主影像解码器4415中内置的存储器元件的一区域。另外,也可将这些缓冲存储器之一或全部分离成不同的存储器元件。
TB(1)4401从第1PID过滤器4413接收包含基本视视频流的TS包并原样存储。MB(1)4402从TB(1)4401中存储的TS包复原PES包后存储。此时,从各TS包中去除TS头。EB(1)4403从MB(1)4402中存储的PES包中抽取编码的VAU后存储。此时,从各PES包中去除PES头。
TB(2)4408从第2PID过滤器4414接收包含从属视视频流的TS包并原样存储。MB(2)4409从TB(2)4408中存储的TS包复原PES包后存储。此时,从各TS包中去除TS头。EB(2)4410从MB(2)4409中存储的PES包中抽取编码的VAU后存储。此时,从各PES包中去除PES头。
缓冲器开关4406对应于来自DEC4404的要求,传输EB(1)4403与EB(2)4410各自中存储的VAU的头。缓冲器开关4406还在最初的PES包中包含的DTS所示的时刻,将该VAU的压缩图片数据传输到DEC4404。这里,在基本视视频流与从属视视频流之间,属于相同3D·VAU的一对图片的DTS相等。因此,缓冲器开关4406将DTS相等的一对VAU中,存储EB(1)4403中的VAU先传输到DEC4404。另外,缓冲器开关4406也可将该VAU内的解码开关信息1250返回到DEC4404。此时,缓冲器开关4406可使用该解码开关信息,决定应从EB(1)4403与EB(2)4410中哪个传输下一VAU。
DEC4404与图40所示的DEC4004一样,是专用于压缩图片的解码处理的硬件解码器,具体由具备该解码处理的加速器功能的LSI构成。DEC4404依次解码从缓冲器开关4406传输的压缩图片数据。在该解码处理中,DEC4404事先解析各VAU的头,确定该VAU内存储的压缩图片的压缩编码方式与流属性,并对应地选择解码方法。这里,该压缩编码方式例如包含MPEG-2、MPEG-4AVC、MVC和VC1。DEC4404再将解码后的非压缩图片传输到DPB4405。
DEC4404此外每当从从属视视频流读出各视频序列的开头VAU时,都从该VAU读出偏移元数据。在该视频序列的再现区间中,DEC4404首先确定与各VAU一起存储在相同PES包中的PTS、和该VAU的压缩图片数据表示的帧的号码。DEC4404接着从偏移元数据中读出对应于该帧号码的偏移信息,在确定的PTS所示的时刻送出到平面加法部4126。
DPB4405暂时保持由DEC4404解码后的非压缩图片。当DEC4404解码P图片和B图片时,DPB4405对应于来自DEC4404的请求,从保持的非压缩图片中检索参照图片,提供给DEC4404。
图片开关4407在最初的PES包中包含的PTS所示的时刻,将非压缩的各图片从DPB4405写入左影像平面存储器4420与右影像平面存储器4421之一中。这里,在属于相同3D·VAU的基本视图片与从属视图片中,PTS相等。因此,图片开关4407将DPB4405保持的、PTS相等的一对图片之中的基本视图片,先写入左影像平面存储器4420中,接着将从属视图片写入右影像平面存储器4421中。
《平面加法部》
图45是平面加法部4126的功能框图。参照图45,平面加法部4126包含视差影像生成部4510、开关4520、四个裁剪处理部4531-4534及四个加法部4541-4544。
视差影像生成部4510从系统目标解码器4125接收左影像平面数据4501与右影像平面数据4502。在L/R模式的再现装置102中,左影像平面数据4501表示左视视频平面,右影像平面数据4502表示右视视频平面。此时,视差影像生成部4510将各视频平面数据4501、4502原样送出到开关4520。另一方面,在深度模式的再现装置102中,左影像平面数据4501表示2D影像的视频平面,右影像平面数据4502表示对该2D影像的深度映射。此时,视差影像生成部4510首先根据该深度映射,计算该2D影像各部的两眼视差。视差影像生成部4510接着加工左影像平面数据4501,依据计算出的两眼视差,使视频平面中该2D影像各部的显示位置左右移动。由此,生成表示左视与右视的视频平面对。视差影像生成部4510还将该视频平面对作为左影像与右影像的平面数据对,送出到开关4520。
开关4520当从再现控制部4135指示了B-D显示模式时,将PTS相等的左影像平面数据4501与右影像平面数据4502按该提到的顺序送出到第1加法部4541。开关4520当从再现控制部4135指示了B-B显示模式时,每帧二次地将PTS相等的左影像平面数据4501与右影像平面数据4502之一送出到第1加法部4541,将另一方废弃。
第1裁剪处理部4531在输入部中包含与视差影像生成部4510和开关4520的对一样的构成。在副影像平面数据是左视与右视的对的情况下,利用这些构成。尤其在深度模式的再现装置102中,副影像平面数据的对由第1裁剪处理部4531内的视差影像生成部变换为左视与右视的平面数据对。当从再现控制部4135指示B-D显示模式时,将左视与右视的平面数据交互送出到第1加法部4541。另一方面,当从再现控制部4135指示B-B显示模式时,每帧二次地将左视与右视的平面数据之一送出到第1加法部4541,将另一方废弃。
当从再现控制部4135指示1平面+偏移模式时,第1裁剪处理部4531对副影像平面数据4503如下进行偏移控制。第1裁剪处理部4531首先从系统目标解码器4125接收偏移信息4507。此时,第1裁剪处理部4531从播放器变量存储部4136内的SPRM(27)4551中,读出对副影像平面的参照偏移ID(SV_ref_offset_id)4212。第1裁剪处理部4531接着从由系统目标解码器4125接收到的偏移信息4507中检索属于该参照偏移ID所示的偏移序列的偏移信息。第1裁剪处理部4531接着从播放器变量存储部4136内的SPRM(28)4552中,读出对副影像平面的偏移补正值(SV_offset_adjustment)4222,加到检索到的偏移值上。第1裁剪处理部4531之后利用该偏移值,对副影像平面数据4503进行偏移控制。结果,副影像平面数据4503被变换为表示左视与右视的一对副影像平面数据后交互送出。
这里,SPRM(27)4551与SPRM(28)4552的各值一般每当在切换当前PI时都由再现控制部4135更新。另外,程序执行部4134也可根据电影对象或BD-J对象来设定SPRM(27)4551与SPRM(28)4552的各值。
另一方面,当从再现控制部4135指示1平面+零偏移模式时,第1裁剪处理部4531不执行偏移控制,将副影像平面数据4503原样重复二次后送出。
同样地,第2裁剪处理部4532利用对PG平面的参照偏移ID(PG_ref_offset_id)4210与偏移补正值(PG_offset_adjustment)4220,对PG平面数据4504进行偏移控制。第3裁剪处理部4533利用对IG平面的参照偏移ID(IG_ref_offset_id)4211与偏移补正值(IG_offset_adjustment)4221,对IG平面数据4505进行偏移控制。第4裁剪处理部4534利用对图像平面的参照偏移ID(IM_ref_offset_id)4213与偏移补正值(IM_offset_adjustment)4223,对图像平面数据4506进行偏移控制。
[偏移控制的流程图]
图46是各裁剪处理部4531-4534执行的偏移控制的流程图。各裁剪处理部4531-4534当从系统目标解码器4125接收偏移信息4507时开始偏移控制。下面,以第2裁剪处理部4532对PG平面数据4504进行偏移控制的情况为例。其他裁剪处理部4531、4533、4534分别对副影像平面数据4503、IG平面数据4505、及图像平面数据4506进行同样的处理。
在步骤S4601中,第2裁剪处理部4532首先从系统目标解码器4125接收PG平面数据4504。此时,第2裁剪处理部4532从SPRM(27)4551中读出对PG平面的参照偏移ID(PG_ref_offset_id)4210,第2裁剪处理部4531接着从由系统目标解码器4125接收到的偏移信息4507中检索属于该参照偏移ID所示的偏移序列的偏移信息。之后,处理前进到步骤S4602。
在步骤S4602中,第2裁剪处理部4532从SPRM(28)4552中读出对PG平面的偏移补正值(PG_offset_adjustment)4220,加到步骤S4601中检索到的偏移值上。之后,处理前进到步骤S4603。
在步骤S4603中,第2裁剪处理部4532检查由开关4520选择的视频平面数据是否表示左视。当视频平面数据表示左视时,处理前进到步骤S4604。当视频平面数据表示右视时,处理前进到步骤S4605。
在步骤S4604中,第2裁剪处理部4532检查检索到的偏移方向的值。下面,假设如下情况:当偏移方向的值为“0”时,3D图形影像的进深在画面的近前,当偏移方向的值为“1”时,在画面里侧。此时,当偏移方向的值为“0”时,处理前进到步骤S4605。当偏移方向的值为“1”时,处理前进到步骤S4606。
在步骤S4605中,第2裁剪处理部4532向PG平面数据4504提供向右偏移。即,使PG平面数据4504包含的各像素数据的位置向右移动偏移值。之后,处理前进到步骤S4610。
在步骤S4606中,第2裁剪处理部4532向PG平面数据4504提供向左偏移。即,使PG平面数据4504包含的各像素数据的位置向左移动偏移值。之后,处理前进到步骤S4610。
在步骤S4607中,第2裁剪处理部4532检查检索到的偏移方向的值。当偏移方向的值为“0”时,处理前进到步骤S4608。当偏移方向的值为“1”时,处理前进到步骤S4609。
在步骤S4608中,与步骤S4605相反,第2裁剪处理部4532向PG平面数据4504提供向左偏移。即,使PG平面数据4504包含的各像素数据的位置向左移动偏移值。之后,处理前进到步骤S4610。
在步骤S4609中,与步骤S4606相反,第2裁剪处理部4532向PG平面数据4504提供向右偏移。即,使PG平面数据4504包含的各像素数据的位置向右移动偏移值。之后,处理前进到步骤S4610。
在步骤S4610中,第2裁剪处理部4532将处理后的PG平面数据4504送出到第3裁剪处理部4534。之后,处理结束。
[基于偏移控制的平面数据的变化]
图47是表示由第2裁剪处理部4532执行的偏移控制加工的PG平面数据的模式图。参照图47,PG平面数据GP包含表示字幕“I Love you”的像素数据群,即字幕数据STL。这里,在偏移控制前,该字幕数据STL位于从PG平面数据GP的左端距离D0处。
第2裁剪处理部4532在向PG平面数据GP提供向右偏移的情况下,使PG平面数据GP内的各像素数据的位置从最初的位置向右移动等于偏移值的像素数OFS。具体地,第2裁剪处理部4532首先利用裁剪处理,从PG平面数据GP的右端,去除等于偏移值的宽度OFS的带状区域AR1中包含的像素数据。第2裁剪处理部4532接着向PG平面数据GP左端附加像素数据,构成宽度OFS的带状区域AL1。这里,将该区域AL1中包含的像素数据设定为透明。这样,得到产生了向右偏移的PG平面数据RGP。实际上,字幕数据STL位于距该PG平面数据RGP左端距离为DR处,该距离DR等于向最初的距离D0加上偏移值OFS的值:DR=D0+OFS。
相反,在向PG平面数据GP提供向左偏移的情况下,第2裁剪处理部4532使PG平面数据GP内的各像素数据的位置从最初的位置向左移动等于偏移值的像素数OFS。具体地,第2裁剪处理部4532首先利用裁剪处理,从PG平面数据GP的左端,去除等于偏移值的宽度OFS的带状区域AL2中包含的像素数据。第2裁剪处理部4532接着向PG平面数据GP右端附加像素数据,构成宽度OFS的带状区域AR2。这里,将该区域AR2中包含的像素数据设定为透明。这样,得到产生了向左偏移的PG平面数据LGP。实际上,字幕数据STL位于距该PG平面数据LGP左端距离为DL处,该距离DL等于从最初的距离D0去除偏移值OFS的值:DL=D0-OFS。
再参照图45,第1加法部4541从开关4520接收视频平面数据,从第1裁剪处理部4531接收副影像平面数据。第1加法部4541此时一组一组地将这些视频平面数据与副影像平面数据重叠,传递给第2加法部4542。第2加法部4542从第2裁剪处理部4532接收PG平面数据,重叠到来自第1加法部4541的平面数据上,传递给第3加法部4543。第3加法部4543从第3裁剪处理部4534接收IG平面数据,重叠到来自第2加法部4542的平面数据上,传递给第4加法部4544。第4加法部4544从第4裁剪处理部4534接收图像平面数据,重叠到来自第3加法部4543的平面数据,送出到显示装置103。这里,各加法部4541-4544在平面数据的重叠中利用α合成。这样,向左影像平面数据4501与右影像平面数据4502分别按图45中箭头4500所示的顺序,重叠副影像平面数据4503、PG平面数据4504、IG平面数据4505及图像平面数据4506。结果,各平面数据表示的影像在显示装置103的画面上按左影像平面或右影像平面、副影像平面、IG平面、PG平面及图像平面的顺序重叠显示。
平面加法部4524除上述处理外,还使由四个加法部4541-4544合成的平面数据的输出形式与显示装置103等该数据的输出目的地装置的3D影像显示方式一致地变换。例如,当输出目的地的装置利用序列分离方式时,平面加法部4524将合成后的平面数据作为一个影像帧或场送出。另一方面,当输出目的地装置利用双凸透镜(lenticular lens)时,平面加法部4524利用内置的缓冲存储器,将左视与右视的平面数据对合成为一个影像帧或场送出。具体地,平面加法部4524将在先合成的左视平面数据暂时存储保持在其缓冲存储器中。平面加法部4524接着合成右视平面数据,再与缓冲存储器中保持的左视平面数据合成。在该合成中,左视与右视的各平面数据被分割成沿纵向细长的细长形小区域,各小区域在一个帧或场中沿横向交互排列,重建一个帧或场。这样,将左视与右视的平面数据对合成为一个影像帧或场。平面加法部4524将该合成后的影像帧或场送出到输出目的地装置。
<实施方式1的效果>
在根据本发明实施方式1的BD-ROM盘101中,将偏移元数据配置在从属视视频流的各GOP的开头。偏移元数据向多个偏移序列独立分配偏移序列ID。另一方面,在3D播放列表文件中,各再现区间中的STN表对解码对象的图形/文本流、即PG流、IG流及文本字幕流独立分配参照偏移ID。由此,1平面+偏移模式的再现装置102与从属视视频流的解码处理并行地,从偏移元数据中读出偏移信息,可用于对图形平面的偏移控制中。因此,再现装置102即便再现对象的图形/文本流为多个,也可更可靠地维持其与偏移信息之间的对应关系。结果,再现装置102可以更高画质与视频流表示的影像一起再现3D图形影像。因此,再现装置102不必在内置存储器中事先展开对再现路径整体的偏移信息。结果,容易进一步削减内置存储器的容量。
<变形例>
(1-A)在根据本发明实施方式1的L/R模式中,基本视视频流表示左视,从属视视频流表示右视。也可相反,基本视视频流表示右视,从属视视频流表示左视。
(1-B)在根据本发明实施方式1的BD-ROM盘101中,基本视视频流与从属视视频流复用于不同的TS上。另外,也可将基本视视频流与从属视视频流复用于一个TS上。
(1-C)图35所示的索引文件211包含标题整体共用的3D存在标志3520与2D/3D喜好标志3530。另外,索引文件也可按不同标题设定不同的3D存在标志或2D/3D喜好标志。
(1-D)在3D影像的AV流文件中,也可向图18所示的PMT1810追加涉及3D影像再现方式的数据。此时,PMT1810除PMT头1801、描述符1802及流信息1803外,还包含3D描述符。3D描述符是涉及3D影像再现方式的、AV流文件整体共用的信息,尤其包含3D方式信息。3D方式信息表示L/R模式或深度模式等3D影像的AV流文件的再现方式。各流信息1803除流种类1831、PID1832及流描述符1833外,还包含3D流描述符。3D流描述符按AV流文件中包含的不同基本流表示涉及3D影像再现方式的信息。尤其是视频流的3D流描述符包含3D显示种类。3D显示种类表示当以L/R模式显示该视频流表示的影像时,该影像是左视与右视哪个。3D显示种类还表示当以深度模式显示该视频流表示的影像时,该影像是2D影像与深度映射哪个。这样,当PMT包含涉及3D影像再现方式的信息时,该影像的再现系统即便仅从AV流文件也可取得该信息。因此,这种数据结构当例如用广播波发布3D影像内容时是有效的。
(1-E)从属视clip信息文件也可在图22所示的流属性信息2220中、分配给从属视视频流的PID=0x1012、0x1013的视频流属性信息中包含规定的标志。当该标志为开(ON)时,表示从属视视频流参照基本视视频流。该视频流属性信息还可包含涉及参照对象基本视视频流的信息。该信息可用于当由规定工具验证3D影像内容是否以规定格式制作时、确认视频流间的对应关系。
(1-F)在本发明实施方式1中,可从clip信息文件中包含的区段起点2242、2420算出基本视区段与从属视区段的各尺寸。另外,各区段的尺寸一览表例如也可作为元数据的一部分存储在clip信息文件中。
(1-G)对PG流、IG流及文本字幕流各自的参照偏移ID与偏移补正值,也可代替STN表3205而存储在STN表SS3130中。另外,也可将其存储在clip信息文件内的流属性信息2220中。并且,参照偏移ID既可存储在PG流与文本字幕流的各字幕入口中,也可存储在IG流的各页中。
(1-H)程序执行部4134也可根据电影对象或BD-J对象,设定SPRM(27)4551与SPRM(28)4552的各值。即,再现装置102也可对应用程序设定参照偏移ID与偏移补正值。并且,这种应用程序也可限于对应于索引表3510的项目‘首先播放’3501的对象。
(1-I)在STN表中,也可对一个流数据设定多个偏移补正值。图48是表示这种STN表4805的模式图。参照图48,流属性4810对应于与PG流1的流入口4810相同的STN4806。该流属性4810包含一个参照偏移ID4800与三种偏移补正值#1-#34801-4803。这些偏移补正值用于依据显示装置的画面尺寸使应提供给从PG流1再现的图形平面的偏移变化。这里,假设事先规定偏移补正值的种类与画面尺寸之间的对应关系的情况。具体地,偏移补正值#14801、偏移补正值#24802、偏移补正值#34803当画面尺寸属于0-33英寸、34-66英寸及67英寸以上的各范围内时利用。各偏移补正值4801-4803设定成满足如下条件:由图形平面的偏移产生的左视与右视的图形影像间的视差最大值为一般视听者的瞳孔间距离以下(尤其是在视听者为小孩的情况下为5cm以下)。只要满足该条件,则由于该视差不超过视听者的瞳孔间距离,所以可使该视听者产生晕动症(motion sickness)或眼睛疲劳的危险性降低。
图49是基于显示装置103的画面尺寸的偏移补正值选择处理的流程图。再现装置102的再现控制部4135伴随当前PI的切换,每当分配给一个流数据的偏移补正值的总数变更时,就进行以下的选择处理。
在步骤S4901中,再现控制部4135取得显示装置103的画面尺寸。此时,必要时再现控制部4135进行HDMI认证。具体地,再现控制部4135通过HDMI线缆122与显示装置103之间交换CEC消息,从显示装置103发送表示其画面尺寸的信息。另一方面,当显示装置103的画面尺寸已作为播放器变量的值保存在任一SPRM等中时,再现控制部4135从播放器变量存储部4136中读出该画面尺寸。之后,处理前进到步骤S4902。
在步骤S4902中,再现控制部4135判断显示装置103的画面尺寸属于0-33英寸、34-66英寸及67英寸以上的哪个范围内。当画面尺寸属于0-33英寸、34-66英寸及67英寸以上的各范围内时,处理前进到步骤S4903、S4904、S4905。
在步骤S4903、S4904、S4905各自中,再现控制部4135选择偏移补正值#14801、偏移补正值#24802、偏移补正值#34803,并将表示该种类的信息作为播放器变量,存储在播放器变量存储部4136中。之后,处理结束。由此,在再次执行偏移补正值的选择处理之前,再现控制部4135从各STN表中选择该播放器变量所示种类的偏移补正值,将SPRM(28)的值更新为该值。
(1-J)再现控制部4135也可让视听者调整应提供给图形平面的偏移。图50是该调整处理的流程图。该处理通过当视听者操作遥控器105或再现装置102的前面板、请求设定偏移补正值时、用户事件处理部4133受理该请求来开始。
在步骤S5001中,对应于来自用户事件处理部4133的请求,再现控制部4135使用于调整偏移的操作画面显示于显示装置103中。这里,该操作画面的显示中利用再现装置102的OSD。尤其是再现部4102使操作画面与图形影像一起显示。之后,处理前进到步骤S5002。
在步骤S5002中,再现控制部4135利用操作画面,让视听者选择调整对象的图形平面。具体地,再现控制部4135在操作画面上的菜单中显示可选择的图形平面的一览,让视听者通过遥控器105的操作来选择期望的项目。这里,分配对应于各项目的偏移序列ID。当在规定时间内选择任一项目时,处理前进到步骤S5003。另一方面,当在规定时间内未选择任一项目时,或视听者利用遥控器105的操作指示处理中断时,处理结束。
在步骤S5003中,再现控制部4135首先保存所选择的偏移序列ID。再现控制部4135接着利用操作画面,让视听者通过遥控器105的操作来选择偏移值的增减。当选择偏移值的增加时,处理前进到步骤S5004,当选择减少时,处理前进到步骤S5005。另一方面,当在规定时间内未选择增减任一时,或视听者通过遥控器105的操作指示处理中断时,处理返回到步骤S5002。
在步骤S5004、S5005各自中,再现控制部4135更新SPRM(28),对SPRM(28)表示的偏移补正值4220-4223中对应于所保存的偏移序列ID的偏移补正值,加上规定值,或从中减去规定值。之后,处理返回到步骤S5003。
在重复步骤S5003-5005的循环期间,再现控制部4135让再现部4102继续图形平面的再现处理。这里,再现部4102使操作画面与图形影像之一显示于近前的一方为半透明,或将操作画面显示于图形影像的近前一侧。由此,即便显示操作画面,也可看到图形影像,所以与画面的亮度及颜色调整一样,可让视听者立即确认偏移值增减的效果。
(1-K)再现装置102也可让用户将瞳孔间距离登记在预备的SPRM、例如SPRM(32)中。此时,再现装置102可调整偏移补正值,以使左视与右视的图形影像间的视差最大值不超过SPRM(32)中登记的值。具体地,再现装置102只要对从系统目标解码器输出的各偏移值执行如下运算即可。再现装置102首先求出SPRM(32)的值与显示装置103的画面宽度(水平方向的长度)之比,再求出该比与显示装置103的水平像素数之积。该积也可由偏移控制提供给图形平面,表示偏移上限的2倍。再现装置102接着将各偏移值的2倍与该积相比较。当任一偏移值的2倍为该积以上时,再现装置102确定包含该偏移值的偏移序列的ID,减少对该ID表示的图形平面的偏移补正值。此时的减少量只要设定为偏移值的2倍与上述积之差的一半以上即可。这样,由于左视与右视的图形影像间的视差最大值不超过视听者的瞳孔间距离,所以可使该视听者产生晕动症或眼睛疲劳的危险性降低。
(1-L)各裁剪处理部4531-4534将由SPRM(27)表示的参照偏移ID4210-4213确定的偏移序列用于偏移控制中。相反,各裁剪处理部4531-4534也可不将由规定的SPRM表示的偏移序列ID所确定的偏移序列用于偏移控制中。即,该SPRM表示偏移控制中应遮蔽(mask)的偏移序列ID(PG_ref_offset_id_mask、IG_ref_offset_id_mask、SV_ref_offset_id_mask、IM_ref_offset_id_mask)。此时,各裁剪处理部4531-4534也可从由系统目标解码器4125接收到的偏移信息4507中、对应于被遮蔽的偏移序列ID以外的偏移信息中,选择包含最大偏移值的偏移信息。由此,可容易地将副影像平面、PG平面、IG平面及图像平面各自表示的图形影像的进深对齐。结果,可使各流数据的制作自由度提高。
此外,在各裁剪处理部4531-4534在偏移信息4507中未能检测到参照偏移ID4210-4213的情况下,也可使用该偏移信息4507包含的偏移值中最大的偏移值作为替代。
(1-M)再现装置102在显示独自的菜单作为OSD时,也可对表示该菜单的2D影像的图形平面、即OSD平面进行偏移控制。此时,再现装置102也可从在该菜单的显示时刻由系统目标解码器4125送出的偏移信息4507中,选择偏移方向在画面近前、且偏移值最大的偏移信息,作为偏移信息。由此,可在字幕等由3D影像内容再现的3D图形影像任一的近前显示该菜单。
此外,再现装置102也可事先具备对OSD平面的偏移信息。向该偏移信息分配特定的偏移序列ID,例如offset_id=0。并且,对偏移序列ID=0的偏移信息,也可规定如下的条件(1)、(2):(1)偏移方向表示在画面近前。(2)偏移值与偏移序列ID≠0的偏移信息中、帧号码相等且偏移方向为画面近前的偏移信息中最大的偏移值相等。利用该规定,再现装置102也可不从由系统目标解码器4125送出的偏移信息4507中选择偏移信息,所以可简化对OSD平面的偏移控制。另外,各裁剪处理部4531-4534在从系统目标解码器4125接收到的偏移信息4507中未能检测到SPRM(27)表示的参照偏移ID4210-4213的情况下,也可使用偏移序列ID=0的偏移信息作为替代。
(1-N)图31所示的3D播放列表文件222包含一个子路径。此外,3D播放列表文件也可包含多个子路径。例如,也可一个子路径的子路径种类为‘3D·L/R’,另一子路径的子路径种类为‘3D·深度’。当根据该3D播放列表文件再现3D影像时,通过切换这二种子路径,可在L/R模式与深度模式之间容易地切换再现装置102。尤其是该切换处理可比切换3D播放列表文件本身的处理快速地执行。
多个从属视视频流也可分别由与共用的基本视视频流的组合来表现相同的3D影像。但是,在这些从属视视频流之间,相同场景的左视与右视之间的视差不同。这些从属视视频流既可复用于一个辅TS,也可分离成不同的辅TS。此时,3D播放列表文件包含多个子路径。各子路径参照不同的从属视视频流。通过在根据该3D播放列表文件再现3D影像时切换子路径,可使再现装置102容易地变化3D影像的进深感。尤其是该处理可比切换3D播放列表文件本身的处理快速地执行。
图51是表示包含多个子路径的3D播放列表文件5100的数据结构、及由其参照的文件2D5110与二个文件DEP5121、5122的数据结构的模式图。文件2D5110包含PID=0x1011的基本视视频流。文件DEP#15121包含PID=0x1012的从属视视频流#1。文件DEP25122包含PID=0x1013的从属视视频流#2。从属视视频流#1、#2分别以与文件2D5110内的基本视视频流的组合来表现相同的3D影像。但是,在从属视视频流#1、#2之间,相同场景的左视与右视之间的视差不同。偏移序列ID相等的偏移序列还对相同的帧号码规定不同的偏移值。
另一方面,3D播放列表文件5100包含主路径5130与二个子路径5131、5132。主路径5130的PI#1参照文件2D5110、尤其是基本视视频流。各子路径5131、5132的SUB_PI#1与主路径5130的PI#1的再现时间相同。子路径#15131的SUB_PI#1参照文件DEP#15121、尤其是从属视视频流#1。子路径#25132的SUB_PI#1参照文件DEP#25122、尤其是从属视视频流#2。
在使用该3D播放列表文件5100的3D播放列表再现处理中,再现装置102事先让用户或应用程序选择再现对象的子路径。此外,再现装置102即便如变形例(1-I)那样依照显示装置103的画面尺寸来选择再现对象的子路径,也可如变形例(1-K)那样利用视听者的瞳孔间距离来选择。通过这种子路径的选择处理,可使左视与右视的视频平面之间的视差容易变化。并且,由于伴随从属视视频流的切换,偏移信息变化,所以从文件2D5110包含的PG流或IG流再现的图形平面的偏移变化。结果,可使3D影像的进深感容易变化。
再现装置102对应于BD-Live(注册商标)的情况下,也可利用该功能从网络上的服务器装置下载上述文件DEP#1、#2之一。这里,所谓‘BD-Live’是指如下功能,即再现装置根据应用程序,从因特网等外部网络下载新的数字内容,与BD-ROM盘上的内容一起再现。新的数字内容包含特别收录影像及字幕等、对BD-ROM盘上的内容的追加内容以及浏览器画面及游戏等交互内容。若利用BD-Live来更新从属视视频流,则可实现在其再现时变更已记录在BD-ROM盘上的3D影像的进深感。尤其是因为偏移信息存储在从属视视频流中,所以仅通过下载新的文件DEP,即便对于视频平面与图形平面之一,也可取得变更左视与右视之间的视差所需的信息。
(1-O)在对3D播放列表文件设定参照偏移ID的情况下,对于PI间的无缝连接,也可规定以下的限制条件。
图52是表示3D播放列表文件5200包含的参照偏移ID的模式图。参照图52,对主路径5210的PI#2设定CC=5。因此,PI#1与PI#2各自规定的再现区间的影像必需无缝连接。此时,在PI#1与PI#2中,参照偏移ID的值的变更与从属视视频流中包含的偏移序列的总数、即入口数的变更均被禁止。并且,偏移补正值的变更与其入口数的变更也可均被禁止。
该限制条件具体如下所示。在PI#1包含的STN表#1中,向PG流1、PG流2、文本字幕流、...、IG流1分别分配参照偏移ID#1=1、参照偏移ID#2=3、参照偏移ID#3=2、...、参照偏移ID#M=6。这里,整数M必需是比STN表#1中登记的从属视视频流中包含的偏移序列总数X小的值:M<X。并且,在PI#2包含的STN表#2中,也必需向PG流1、PG流2、文本字幕流、...、IG流1分别分配参照偏移ID#1=1、参照偏移ID#2=3、参照偏移ID#3=2、...、参照偏移ID#M=6。另外,STN表#2中登记的从属视视频流中包含的偏移序列总数必需与STN表#1中登记的从属视视频流中包含的偏移序列总数X相等。这样,在CC=5等设定了无缝连接的播放项目之间,参照偏移ID的值及参照对象的从属视视频流中包含的偏移序列总数均必需变更。
利用该限制条件,当再现装置102将当前PI从PI#1变更为PI#2时,可跳过SPRM(27)的更新处理。因此,由于减轻了涉及无缝连接的处理的负担,所以可使该处理的可靠性进一步提高。结果,可使3D影像的画质进一步提高。
再参照图52,对主路径5210的PI#K设定CC=1。这里,整数K为3以上。因此,PI#K规定的再现区间的影像未必与之前的PI#(K-1)规定的再现区间的影像无缝连接。此时,在PI#K包含的STN表#K中,无论之前PI包含的STN表的内容如何,均可自由设定参照偏移ID与偏移补正值。并且,在再现装置102对当前PI设定PI#K的时刻,可复位SPRM(27)与SPRM(28)。
(1-P)在影像内容中,例如在卡拉OK中用于歌词显示那样,在静止图像上重叠显示字幕等图形影像,并且,仅频繁更新该图形影像。在形成这种内容作为3D影像内容的情况下,配置了偏移元数据的VAU还包含序列末端代码。再现装置102当解码这种VAU时,保持从该偏移元数据得到的偏移信息,并且不变更,直到解码包含新的偏移元数据的VAU为止。
图53(a)是表示仅表示静止图像的从属视视频流5300的数据结构的模式图。从属视视频流5300的各VAU表示一个静止图像。此时,在各VAU的后端配置序列末端代码5303、5304。另一方面,在各VAU的补充数据5301、5302中配置偏移元数据5311、5312。VAU#1的偏移元数据5311包含偏移序列ID=0的偏移序列[0]。该偏移序列[0]仅包含帧#1的偏移信息。同样,在VAU#2的偏移元数据5312中,偏移序列[0]仅包含帧#1的偏移信息。
这里,假设3D播放列表文件规定下面事项(1)、(2)的情况:(1)以10秒间隔切换从属视视频流5300的各VAU表示的静止图像。(2)在各静止图像上重叠显示图形流表示的图形影像。图53(b)是表示根据这种3D播放列表文件再现的左视视频平面的序列5321、右视视频平面的序列5322及图形平面的序列5330的模式图。图53(b)中,用斜线表示切换静止图像时刻的各视频平面。在左视视频平面的序列5321中,最初的视频平面5341表示的静止图像在最初的10秒期间5361重复再现,下一视频平面5351表示的静止图像在下一10秒期间5371重复再现。在右视视频平面的序列5322中,最初的视频平面5342表示的静止图像在最初的10秒期间5362重复再现,下一视频平面5352表示的静止图像在下一10秒期间5372重复再现。
再现装置102当解码从属视视频流5300的VAU#1时,从其偏移元数据5311中读出帧#1的偏移信息(偏移方向=画面里侧,偏移值=10像素)。再现装置102还检测其序列末端代码5303。此时,再现装置102保持帧#1的偏移信息。由此,在最初的10秒期间5361,提供给图形平面的序列5330的偏移固定地维持在由所保持的偏移信息决定的偏移。即,将图形影像的进深维持在固定。
当从VAU#1的解码经过10秒时,再现装置102解码VAU#2。再现装置102此时从其偏移元数据5312中读出帧#1的新的偏移信息(偏移方向=画面近前,偏移值=5像素)。再现装置102还检测其序列末端代码5304。此时,再现装置102保持帧#1的偏移信息。由此,在下一10秒期间5371,提供给图形平面的序列5330的偏移在变更为由新保持的偏移信息决定的偏移之后,维持在固定。即,将图形影像固定维持在新的进深。
这样,当VAU包含序列末端代码时,让再现装置102原样保持已有的偏移信息。由此,即便在视频流仅由静止图像构成的情况下,也可让再现装置102可靠地继续对图形平面的偏移控制。
(1-Q)偏移元数据也可存储在基本视视频流中,代替存储在从属视视频流中。此时,偏移元数据最好存储在位于各视频序列开头的VAU内的补充数据中。并且,3D播放列表文件也可具备表示基本视视频流与从属视视频流哪个包含偏移元数据的标志。由此,可使各流数据的制作自由度提高。另外,对该标志,也可规定为‘在由CC=5、6无缝连接的PI间禁止变更’。
(1-R)偏移元数据不仅存储在各视频序列(即各GOP)的开头,也可存储在各VAU(即各帧或场)中。此外,对每个内容,也可将偏移元数据的间隔设定为任意值,例如3帧以上。此时,最好限制成各视频序列的开头VAU中必需存储偏移元数据,且与紧挨着的其之前的偏移元数据的间隔为3帧以上。由此,可让再现装置可靠地与跳入再现处理并行进行偏移信息的变更处理。
(1-S)偏移元数据也可作为独立的流数据,复用于主TS或辅TS上,代替存储在视频流中。此时,向偏移元数据分配固有的PID。系统目标解码器利用该PID,从其他流数据中分离偏移元数据。此外,偏移元数据也可与文本字幕流一样,首先预装载到专用缓冲器中,之后,接受再现处理。此时,以规定的帧间隔来存储偏移元数据。由此,由于偏移元数据不必PTS,所以削减PES头的数据量。结果,可节约预装载用的缓冲器容量。
此外,偏移元数据也可利用视频水印嵌入视频流中,代替存储在VAU的补充数据中。并且,偏移元数据也可利用音频水印嵌入音频流中。
(1-T)在偏移元数据中,各偏移序列也可对每个显示时间规定表示偏移值的经时变化的函数,即完成函数(completion function),代替对每个帧规定偏移值。此时,3D再现装置在每个显示时间使用完成函数,计算该显示时间中包含的各帧的偏移值。
图54(a)是表示利用完成函数的偏移元数据5400的数据结构的模式图。参照图54(a),偏移元数据5400包含偏移序列ID5401与偏移序列5420之间的对应表。偏移序列5420包含起点偏移值(offset_start)5421、终点偏移值(offset_end)5422、偏移函数ID(offset_func_id)5423及偏移时间间隔(offset_duration)5424。当偏移元数据5400存储在从属视视频流内的一个视频序列中时,起点偏移值5421表示该视频序列所表示的最初帧中的偏移值。终点偏移值5422表示下一视频序列所表示的最初帧中的偏移值。偏移函数ID5423规定完成函数的种类。该完成函数的种类表示该视频序列表示时间中偏移值的变化形状。偏移时间间隔5424表示该视频序列的显示时间的长度。
图54(b)是表示构成完成函数的要素种类的图表。参照图54(b),x轴表示显示时间,y轴表示偏移值。这里,偏移值的符号由3D图形影像的进深在画面里侧还是画面近前来决定。作为完成函数的构成要素,准备直线形状LNR、凸形状CVX及凹形状CCV三种。直线形状LNR由线性函数y=ax+b定义,凸形状CVX与凹形状CCV由2次曲线y=ax2+bx+c、3次曲线y=ax3+bx2+cx+d或γ曲线y=a(x+b)1/r+c来定义。这里,常数a、b、c、d是参数,由各要素两端A、B的xy坐标、即显示时刻与该时刻下的偏移值所构成的对来决定。另一方面,常数r另外规定,存储在各偏移序列中。完成函数的种类作为这些要素LNR、CVX、CCV的单体或组合来定义。
图54(c)是表示根据图54(a)所示的偏移序列ID=0、1、2的各偏移序列、由3D再现装置计算的偏移值的图表。参照图54(c),图表的横轴表示从显示存储了各偏移序列的视频序列的最初帧的时刻起的经过时间。黑圆A0、B0、A1、B1、A2、B2表示由起点偏移值5421或终点偏移值5422之一与偏移时间间隔5424规定的坐标。连接一对黑圆A0+B0、A1+B1、A2+B2之间的实线的曲线GR0、GR1、GR2表示由偏移函数ID5423规定的完成函数的种类与两端黑圆A0+B0、A1+B1、A2+B2的坐标值决定的完成函数。在偏移序列ID=0的偏移序列中,由于偏移函数ID5423表示‘直线’,所以两端黑圆A0、B0之间由直线形状LNR的曲线#0GR0连接。在偏移序列ID=1的偏移序列中,由于偏移函数ID5423表示‘曲线#1’,所以两端黑圆A1、B1之间由单一凸形状CVX的曲线#1GR1连接。在偏移序列ID=2的偏移序列中,由于偏移函数ID5423表示‘曲线#2’,所以两端黑圆A2、B2之间由凸形状CVX与凹形状CCV的组合构成的曲线#2GR2连接。白圆表示利用各曲线GR0、GR1、GR2表示的完成函数由3D再现装置计算的、各帧的显示时间与该帧中的偏移值构成的对。为了容易从这些曲线GR0、GR1、GR2理解,即便仅通过起点偏移值5421、终点偏移值5422、偏移函数ID5423及偏移时间间隔5424的组合,也可表现多种多样的偏移值的变化,即3D图形影像的进深变化。因此,可不损害3D图形影像的表现力地削减偏移元数据整体的大小。
(1-U)在图40所示的文本字幕解码器4076中,也可将存储已由文本解码器(DEC)4077解码的位图数据的位图缓冲器4078内的区域用作高速缓存(cache)。由此,可使文本字幕解码器4076对PG平面存储器的绘制处理高速化。
图55(a)、(b)、(c)分别是表示一个文本字幕流内连续的文本数据入口#1、#2、#3所示的字符串5501、5502、5503、与解码各文本数据入口时位图缓冲器中存储的高速缓存数据5511、5512、5513的模式图。
参照图55(a),文本数据入口#1所示的最初字符串5501是“Hello,GoodMorning.”。其字符数量nc等于18:nc=18。这里,逗点与句号分别为一个字符。但是,最初的字符串5501各包含二个小写字符“l”、“n”,包含三个小写字符“o”,各包含一个其他字符。此时,DEC4077将最初的“l”、“n”、“o”与其他字符变换为位图数据后写入位图缓冲器4078中。跳过对第二个以后的“l”、“n”、“o”的绘制处理。结果,DEC4077实际变换为位图数据的字符数、即绘制数量nR为13:nR=13。另一方面,解码文本数据入口#1时的高速缓存数据#15511各表示一个不同字符。位图缓冲器4078从高速缓存数据#15511向PG平面存储器4092各传输二次“l”与“n”,传输三次“o”,各传输一次剩余的字符。即,从位图缓冲器4078向PG平面存储器4092的传输次数nT等于最初的字符串5501的字符数量nc:nT=nc=18。
参照图55(b),文本数据入口#2所示的第二个字符串5502是“Nice tomeet you.”。其字符数量nc等于14:nc=14。但是,第二个字符串5502中小写字符“i”、“e”、“o”及句号的位图数据已包含于高速缓存数据#15511中。并且,第二个字符串5502包含二个小写字符“t”。此时,DEC4077跳过对“i”、“e”、“o”、句号及第二个“t”的绘制处理,将最初的“t”与其他字符变换为位图数据后写入位图缓冲器4078中。结果,绘制数量nR为6:nR=6。另一方面,向解码文本数据入口#2时的高速缓存数据#25512仅追加高速缓存数据#15511不包含的字符的位图数据。位图缓冲器4078从高速缓存数据#25512向PG平面存储器4092传输三次“e”,各传输二次“t”与“o”,各传输一次第二个字符串5502内的其他字符。即,从位图缓冲器4078向PG平面存储器4092的传输次数nT等于第二个字符串5502的字符数量nc:nT=nc=14。
参照图55(c),文本数据入口#3所示的第三个字符串5503是“Nice tomeet you,too.”。其字符数量nc等于18:nc=18。但是,第三个字符串5502中包含的字符的位图数据已全部包含于高速缓存数据#25512中。此时,DEC4077跳过对第三个字符串5503整体的绘制处理。即绘制数量nR为0:nR=0。另一方面,解码文本数据入口#3时的高速缓存数据#35513与高速缓存数据#25512相等。位图缓冲器4078从高速缓存数据#35513向PG平面存储器4092各传输三次“e”与“t”,传输四次“o”,各传输一次第三个字符串5503中包含的其他字符。即,从位图缓冲器4078向PG平面存储器4092的传输次数nT等于第三个字符串5503的字符数量nc:nT=nc=18。
从上述可知,通过将位图缓冲器4078中存储的位图数据用作高速缓存数据,可减轻对文本字符绘制处理的DEC4077的负担。结果,可缩短将字符串描绘到PG平面所需的时间。实际上当一个文本数据入口表示nc个字(整数nc为1以上)的文本字符串时,DEC4077从该文本数据入口解码位图数据后写入PG平面存储器4092所需的时间Tprocess使用绘制数量nR、绘制速度Rred及从位图缓冲器4078至PG平面存储器4092的数据传输速度Rtr,由下式表示:Tprocess=nR/Rred+nc/Rtr。由于绘制数量nR明显为字符数量nc以下(nR≤nc),所以高速缓存的利用使时间Tprocess缩短。例如,当绘制速度Rred与数据传输速度Rtr均为20字/秒时,将20字(nc=20)写入PG平面存储器4092所需的时间Tprocess为nR/20+20/20=(nR/20+1)秒。因此,相对于绘制数量nR=20时、时间Tprocess为2秒,绘制数量nR=10时、时间Tprocess为1.5秒,绘制数量nR=0时、时间Tprocess为1秒。这样,绘制数量越小,即再利用的高速缓存数据的数量越多,则越缩短时间Tprocess
这里,也可对图17所示的各文本数据入口1710设置标志,该标志表示类型信息1711是否是在紧挨着的之前的文本数据入口的类型信息的基础上更新的。在类型信息1711是被更新的情况下,该文本数据入口1710包含的文本信息1712所示字符的位图数据包含于高速缓存中的可能性低。因此,DEC4077可依据该标志的值,判断是否应从高速缓存数据中搜索位图数据。
另外,在高速缓存中,位图数据也可以先入/先出方式(FIFO)处理。此外,也可在各文本数据入口1710内的文本信息1712中存储表示高速缓存优先级的数据,或对各文本数据入口1710设置表示是否应将该文本信息1712表示的字符串的位图数据存储在高速缓存中的标志。利用该标志,可不将使用频度低的字符串的位图数据保存在高速缓存中。
《实施方式2》
根据本发明实施方式2的BD-ROM盘与再现装置可避免左视与右视之间的‘错位’让视听者感到不舒服的危险性。除这点外,根据实施方式2的BD-ROM盘与再现装置的构成及功能与根据实施方式1的相等。因此,下面,说明根据实施方式2的BD-ROM盘与再现装置中与根据实施方式1的BD-ROM盘与再现装置的变更部分及扩展部分。对与根据实施方式1的BD-ROM盘与再现装置一样的部分引用对上述实施方式1的说明。
<左视与右视之间的水平方向的错位>
图56(a)是模式表示拍摄3D影像的一对视频摄像机CML、CMR的水平视角HAL、HAR的平面图。参照图56(a),沿水平方向排列一对视频摄像机CML、CMR。左侧的视频摄像机CML拍摄左视,右侧的视频摄像机CMR拍摄右视。这些视频摄像机CML、CMR的水平视角HAL、HAR大小相等,但位置不同。因此,产生仅包含于左侧视频摄像机CML的水平视角HAL中的区域AL、与仅包含于右侧视频摄像机CMR的水平视角HAR中的区域AR。位于双方水平视角HAL、HAR共同部分的被摄体OBC也映到任一视频摄像机CML、CMR。但是,位于仅包含于左侧视频摄像机CML的水平视角HAL中的区域AL上的被摄体OBL仅映到左侧视频摄像机CML,位于仅包含于右侧视频摄像机CMR的水平视角HAR中的区域AR上的被摄体OBR仅映到右侧视频摄像机CMR。
图56(b)是表示由左侧视频摄像机CML拍摄的左视LV的模式图,图56(c)是表示由右侧视频摄像机CMR拍摄的右视RV的模式图。参照图56(b)、(c),仅包含于左侧视频摄像机CML的水平视角HAL中的区域AL作为沿其左端延伸的带状区域包含于左视LV中。但是,该带状区域AL不包含于右视RV中。另一方面,仅包含于右侧视频摄像机CMR的水平视角HAR中的区域AR作为沿其右端延伸的带状区域包含于右视RV中。但是,该带状区域AR不包含于左视LV中。因此,图56(a)所示的三个被摄体OBL、OBC、OBR中右侧被摄体OBR未包含于左视LV中,左侧被摄体OBL未包含于右视RV中。结果,左侧被摄体OBL仅映到视听者的左眼,右侧被摄体OBR仅映到右眼。此时,存在左视LV与右视RV让视听者感到不舒服的危险性。
在根据实施方式2的BD-ROM盘中,表示左视LV与右视LR的各帧中包含的上述带状区域AL、AR的宽度WDH的信息存储在从属视视频流中。其存储场所是图13所示的偏移元数据1310的存储场所,即位于各视频序列开头的VAU的补充数据1301。另一方面,在根据实施方式2的再现装置中,图41所示的系统目标解码器4125从从属视视频流中读出表示上述带状区域AL、AR宽度WDH的信息。系统目标解码器4125还将该信息与图45所示的偏移信息4507一起传递给平面加法部4126。平面加法部4126中,视差影像生成部4510利用该信息,加工左影像平面与右影像平面,以背景色或黑色对上述带状区域AL、AR进行统一的涂色。即,将各带状区域AL、AR中包含的像素数据改写成一样的背景色或黑色的数据。
图56(d)、(e)分别是表示由视差影像生成部4510加工的左影像平面表示的左视LV与右影像平面表示的右视RV的模式图。参照图56(d),仅包含于左侧视频摄像机CML的水平视角HAL中的区域AL由宽度WDH的黑色带BL隐藏。另一方面,参照图56(e),仅包含于右侧视频摄像机CMR的水平视角HAR中的区域AR由宽度WDH的黑色带BR隐藏。结果,由于仅左视LV与右视LR共用的区域映到视听者的各眼,所以可避免让该视听者感到不舒服的危险性。
视差影像生成部4510也可还与图47所示的裁剪处理一样,从左影像平面与右影像平面各自中,去除上述带状区域AL、AR中、外侧一半区域中包含的像素数据。此时,视差影像生成部4510在以背景色或黑色统一涂色各带状区域AL、AR的剩余一半区域的同时,向其相反侧的端部附加各带状区域AL、AR的一半宽度的背景色或黑色的带状区域。由此,视听者的任一眼中,左视LV与右视LR共用的区域所示的影像均映到画面的中央,背景色或黑色的带映到画面两端。结果,可避免让该视听者感到不舒服的危险性。
此外,视差影像生成部4510也可如下处理左影像平面与右影像平面。视差影像生成部4510首先与图47所示的裁剪处理一样,从各影像平面中去除上述带状区域AL、AR内的像素数据。视差影像生成部4510接着通过裁剪处理,由剩余的区域内的像素数据重建各影像平面。由此,将剩余区域所示的影像扩大显示到帧整体。结果,由于仅左视LV与右视LR共用的区域映到视听者的各眼,所以可避免让该视听者感到不舒服的危险性。
另外,左视与右视之间的水平方向的错位有时也可产生于从由单一照相机拍摄的平面视觉影像生成立体视觉影像的情况,即进行2D/3D变换的情况。但是,该情况也与上述一样,可隐藏错位。即,也可从左影像图片数据(左影像平面)与右影像图片数据(右影像平面)各自中删除部分像素数据,对删除的部位设定其他像素数据,或将剩余的像素数据扩大到图片(平面)整体。
<左视与右视之间的垂直方向错位>
图57(a)是模式表示拍摄3D影像的一对视频摄像机CML、CMR的垂直视角VAL、VAR的平面图。参照图57(a),这些视频摄像机CML、CMR的垂直视角VAL、VAR大小相等,但位置不同。因此,产生仅包含于左侧视频摄像机CML的垂直视角VAL中的区域AT、与仅包含于右侧视频摄像机CMR的垂直视角VAR中的区域AB。位于双方垂直视角VAL、VAR共同部分的被摄体OBJ也映到任一视频摄像机CML、CMR。但是,位于仅包含于左侧视频摄像机CML的垂直视角VAL中的区域AT上的被摄体仅映到左侧视频摄像机CML,位于仅包含于右侧视频摄像机CMR的垂直视角VAR中的区域AB上的被摄体仅映到右侧视频摄像机CMR。
图57(b)是表示由左侧视频摄像机CML拍摄的左视LV与由右侧视频摄像机CMR拍摄的右视RV的模式图。参照图56(b),仅包含于左侧视频摄像机CML的垂直视角VAL中的区域AT作为沿其上端延伸的带状区域包含于左视LV中。但是,该带状区域AT不包含于右视RV中。另一方面,仅包含于右侧视频摄像机CMR的垂直视角VAR中的区域AB作为沿其下端延伸的带状区域包含于右视RV中。但是,该带状区域AB不包含于左视LV中。另外,有时带状区域AT、AB的位置在左视LV与右视RV中相反。这样,在左视LV与右视RV中上述带状区域AT、AB的有无不相同的情况下,图57(a)所示的被摄体OBJ的垂直方向位置在左视LV与右视RV中错位带状区域AT、AB的高度HGT。结果,映到视听者左眼的被摄体OBJ与映到右眼的被摄体OBJ的垂直方向位置不同,所以存在让该视听者感到不舒服的危险性。
在根据实施方式2的BD-ROM盘中,表示左视LV与右视LR的各帧中包含的上述带状区域AT、AB的高度HGT的信息存储在从属视视频流中。其存储场所是图13所示的偏移元数据1310的存储场所,即位于各视频序列开头的VAU的补充数据1301。另一方面,在根据实施方式2的再现装置中,图41所示的系统目标解码器4125从从属视视频流中读出表示上述带状区域AT、AB高度HGT的信息。系统目标解码器4125还将该信息与偏移信息4507一起传递给平面加法部4126。
平面加法部4126中,视差影像生成部4510使用上述带状区域AT、AB的高度HGT,按如下步骤加工左影像平面与右影像平面。视差影像生成部4510首先使左影像平面内的像素数据的位置向下移动高度HGT的一半HGT/2,使右影像平面内的像素数据的位置向上移动高度HGT的一半HGT/2。由此,各影像平面中,上述带状区域AT、AB以外的区域表示的影像与画面中,垂直方向的中心一致。另一方面,左影像平面中,从上端去除带状区域AT的上一半,在距下端高度HDT/2的带状区域中产生空区域。右影像平面中,从下端去除带状区域AB的下一半,在距上端高度HDT/2的带状区域中产生空区域。视差影像生成部4510接着以背景色或黑色统一涂色各带状区域。即,将各带状区域中包含的像素数据改写成一样的背景色或黑色的数据。
图57(c)是表示由视差影像生成部4510加工的左影像平面表示的左视LV与右影像平面表示的右视RV的模式图。参照图57(c),左视LV与右视RV中,垂直方向的中心位置一致。因此,图57(a)所示的被摄体OBJ的垂直方向位置在左视LV与右视RV中相等。另一方面,在左视LV的上端,仅包含于左侧视频摄像机CML的垂直视角VAL中的区域AT由高度HGT/2的黑色带BT隐藏,在右视RV的下端,仅包含于右侧视频摄像机CMR的垂直视角VAR中的区域AB由高度HGT/2的黑色带BB隐藏。还向左视LV的下端附加高度HGT/2的黑色带BB,向右视RV的上端附加高度HGT/2的黑色带BT。结果,仅左视LV与右视LR共同的区域映到视听者的各眼,且映到各眼的被摄体的垂直方向位置一致。这样,可避免让该视听者感到不舒服的危险性。
此外,视差影像生成部4510也可如下处理左影像平面与右影像平面。平面加法部4126首先与图47所示的裁剪处理一样,从各影像平面中去除上述带状区域AT、AB内的像素数据。视差影像生成部4510接着通过裁剪处理,由剩余的区域内的像素数据重建各影像平面。由此,将剩余区域所示的影像扩大显示到帧整体,所以仅左视LV与右视LR共同的区域映到视听者的各眼。并且,映到各眼的被摄体的垂直方向位置一致。这样,可避免让该视听者感到不舒服的危险性。
<左视与右视之间的图形影像的错位>
在1平面+偏移模式的再现装置向一个图形平面提供大的偏移后生成一对图形平面的情况下,在该一对图形平面的一个的左端部或右端部中可生成另一个的右端部或左端部中未包含的区域。
图58(a)是表示图形平面GPL表示的图形影像一例的模式图。参照图58(a),该图形平面GPL表示三种图形部件OB 1、OB2、OB3。尤其是左侧的图形部件OB1的左端位于距图形平面GPL左端距离D1处,右侧的图形部件OB3的右端位于距图形平面GPL右端距离D3处。图58(b)、(c)分别是表示向图形平面GPL提供向右与向左偏移时的模式图。参照图58(b),与图47一样,从图形平面GPL的右端去除等于偏移值的宽度OFS的带状区域AR1,向左端附加宽度OFS的透明带状区域AL1。由此,各图形部件OB1-OB3的水平方向位置从最初的位置向右移动等于偏移值的距离OFS。另一方面,参照图58(b),与图47一样,从图形平面GPL的左端去除宽度OFS的带状区域AL2,向右端附加宽度OFS的透明带状区域AR2。由此,各图形部件OB1-OB3的水平方向位置从最初的位置向左移动距离OFS。
再参照图58(b)、(c),等于偏移值的距离OFS比左侧图形部件OB1的左端与图形平面GPL的左端之间的距离D1大,比右侧图形部件OB3的右端与图形平面GPL的右端之间的距离D3大。因此,在提供向右偏移的图形平面GP1中,缺少右侧图形部件OB3右端的一部分MP3,在提供向左偏移的图形平面GP2中,缺少左侧图形部件OB1左端的一部分MP1。但是,左侧图形部件OB1的缺失部分MP1包含于提供向右偏移的图形平面GP1中,右侧图形部件OB3的缺失部分MP3包含于提供向左偏移的图形平面GP2中。结果,由于这些缺失部分MP1、MP3仅映到视听者的单眼中,所以存在让视听者不舒服的危险性。
在根据实施方式2的BD-ROM盘中,如图13所示,偏移元数据1310存储在从属视视频流内的各视频序列的开头。另一方面,在根据实施方式2的再现装置中,图41所示的系统目标解码器4125从从属视视频流中读出偏移元数据,并作为图45所示的偏移信息4507传递给平面加法部4126。平面加法部4126中,图45所示的各裁剪处理部4531-4534使用该偏移信息4507,进行对图形平面GPL的偏移控制。此时,各裁剪处理部4531-4534还切掉沿图形平面GPL的左端或右端延伸的、等于偏移值的宽度的带状区域。即,将该带状区域内的像素数据改写成透明色的数据。图58(b)、(c)中示出切掉对象的带状区域AS1、AS2。在提供向右偏移的图形平面GP1中,切掉对象的带状区域AS1包含左侧图形部件OB1的缺失部分MP1。在提供向左偏移的图形平面GP2中,切掉对象的带状区域AS2包含右侧图形部件OB3的缺失部分MP3。
图58(d)、(e)分别是表示提供向右与向左偏移后的图形平面GP1、GP2表示的图形影像的模式图。参照图58(d)、(e),在这些图形平面GP1、GP2中,三种图形部件OB1-OB3的形状一致。结果,仅共同的图形影像映到视听者的各眼中。这样,可避免让该视听者感到不舒服的危险性。
此外,也可对从BD-ROM盘上的PG流、IG流及文本字幕流再现的图形平面及由再现装置生成的图形平面规定涉及图形部件配置的如下条件。图59是表示该条件的模式图。参照图59,在图形平面GPL中,设定以左上角为原点(0,0)的xy正交坐标。x坐标与y坐标分别是图形平面GPL的水平坐标与垂直坐标。这里,设图形平面GPL右下角的坐标为(TWD,THG)。使用该xy坐标,如下规定上述条件:各帧中,必需将图形部件OB1、OB2、OB3配置在以下面四点(OFS,0)、(TWD-OFS,0)、(TWD-OFS,THG)、(OFS,THG)为顶点的矩形区域内。即,沿图形平面GPL的左端与右端分别延伸的宽度OFS的带状区域AL、AR中,禁止配置图形部件。从图58(b)、(c)可知,这些带状区域AL、AR通过偏移控制被切掉。因此,若禁止向这些带状区域AL、AR配置偏移部件,则即便在向图形平面GPL提供偏移之后,图形部件的形状也不变化。结果,由于仅共同的图形影像映到视听者的各眼中,所以可避免让该视听者感到不舒服的危险性。另外,即便在如此限制图形部件的配置的情况下,也如图58所示,从输出到显示装置的图形数据中删除最初的图形数据的一部分。
在实施方式2中,再现装置102执行图56-58各自所示的一系列处理。此外,显示装置103也可执行这些处理。图60是再现装置102或显示装置103中包含的进行上述处理的功能部的框图。参照图60,该功能部具备接收部1、流处理部2、信号处理部3及输出部4。接收部1从BD-ROM盘、半导体存储器装置、外部网络及广播波等各种介质中接收复用流数据,传递给流处理部2。流处理部2从该复用流数据中分离影像、声音、图形等各种数据,传递给信号处理部3。信号处理部3对这些数据分别进行解码,传递给输出部4。输出部4将解码后的各数据变换为规定形式后输出。输出部4的输出可以是HDMI方式等影像信号/声音信号,也可以是影像/声音本身。
《实施方式3》
根据本发明实施方式3的BD-ROM盘对PG流与IG流也包含基本视与从属视的对。另一方面,根据本发明实施方式3的再现装置具备2平面模式。‘2平面模式’是图形平面的显示模式之一。当辅TS包含基本视与从属视的图形流双方时,2D平面模式的再现装置从各图形流中解码左视与右视的图形平面数据后交互输出。由此,可从这些图形流中再现3D图形影像。去除这些点外,根据实施方式3的BD-ROM盘与再现装置的构成及功能与根据实施方式1的相等。因此,下面,说明根据实施方式3的BD-ROM盘与再现装置中在根据实施方式1的BD-ROM盘与再现装置基础上的变更部分及扩展部分。对与根据实施方式1的BD-ROM盘与再现装置一样的部分引用对上述实施方式1的说明。
<辅TS的数据结构>
图61(a)是BD-ROM盘101上的第1辅TS中复用的基本流的一览表。第1辅TS是MPEG-2TS形式的复用流数据,包含于文件DEP中。参照图61(a),第1辅TS包含主视频流6011、左视PG流6012A、6012B、右视PG流6013A、6013B、左视IG流6014、右视IG流6015及辅视频流6016。主视频流6011是左视视频流,当图3(a)所示的主TS内的主视频流301表示3D影像的左视时,该主视频流6011表示该3D影像的左视。左视与右视的PG流的对6012A+6013A、6012B+6013B当作为3D影像显示字幕等图形影像时,表示其左视与右视的对。左视与右视的IG流的对6014、6015当作为3D影像显示交互式画面的图形影像时,表示其左视与右视的对。辅视频流6016是右视视频流,当主TS内的辅视频流306表示3D影像的左视时,表示该3D影像的右视。
对基本流6011-6016的PID分配例如如下所示。向主视频流6011分配0x1012。当向一个辅TS按不同种类最大复用32个其他基本流时,向左视PG流6012A、6012B分配0x1220-0x123F之一,向右视PG流6013A、6013B分配0x1240-0x125F之一。向左视IG流6014分配0x1420-0x143F之一,向右视IG流6015分配0x1440-0x145F之一。向辅视频流6016分配0x1B20-0x1B3F之一。
图61(b)是BD-ROM盘101上的第2辅TS中复用的基本流的一览表。第2辅TS是MPEG-2TS形式的复用流数据,包含于与第1辅TS不同的文件DEP中。此外,也可将第2辅TS复用于与第1辅TS相同的文件DEP。参照图61(b),第2辅TS包含主视频流6021、深度映射PG流6023A、6023B、深度映射IG流6024及辅视频流6026。主视频流6021是深度映射流,由与主TS内的主视频流301的组合来表示3D影像。深度映射PG流6023A、6023B当将主TS内的PG流323A、323B表示的2D影像用作向虚拟的2D画面的3D影像的投影时,用作表示该3D影像深度映射的PG流。深度映射IG流6024当将主TS内的IG流324表示的2D影像用作向虚拟的2D画面的3D影像的投影时,用作表示该3D影像深度映射的IG流。辅视频流6026是深度映射流,由与主TS内的辅视频流306的组合来表示3D影像。
对基本流6021-6026的PID分配例如如下所示。向主视频流6021分配0x1013。当向一个辅TS按不同种类最大复用32个其他基本流时,向深度映射PG流6023A、6023B分配0x1260-0x127F之一。向深度映射IG流6024分配0x1460-0x147F之一。向辅视频流6026分配0x1B40-0x1B5F之一。
<STN表SS的数据结构>
图62是表示STN表SS3130的数据结构的模式图。参照图62,STN表SS3130内的各流登记信息序列3301、3302、3303、...除弹出期间的偏移3311与从属视视频流的流登记信息序列3312外,还包含PG流的流登记信息序列6113与IG流的流登记信息序列6114。
PG流的流登记信息序列6113包含表示可从辅TS作为再现对象选择的PG流的流登记信息。IG流的流登记信息序列6114包含表示可从辅TS作为再现对象选择的IG流的流登记信息。这些流登记信息序列6113、6114分别与对应的PI内的STN表中包含的流登记信息序列中、表示PG流及IG流的流登记信息序列组合后利用。3D再现模式的再现装置102当读出STN表内的任一流登记信息时,还自动读出与该流登记信息相组合的STN表SS内的流登记信息序列。由此,再现装置102当将2D再现模式仅切换为3D再现模式时,可将已设定的STN及语言等流属性维持为相同。
再参照图62,PG流的流登记信息序列6113一般包含多个流登记信息6131。它们与对应的PI内包含的、PG流的流登记信息数量相同。IG流的流登记信息序列6114也包含同样的流登记信息。它们与对应的PI内包含的、IG流的流登记信息数量相同。
各流登记信息6131包含STN6141、立体视觉标志(is_SS_PG)6142、基本视流入口(stream_entry_for_base_view)6143、从属视流入口(stream_entry_for_depentdent_view)6144及流属性信息6145。STN6141是独立分配给流登记信息6131的连续号码,与对应的PI内的组合对象的流登记信息的STN相等。立体视觉标志6142表示BD-ROM盘101中是否包含基本视与从属视的PG流双方。当立体视觉标志6142为开时,辅TS中包含双方的PG流。因此,基本视流入口6143、从属视流入口6144及流属性信息6145任一的字段也由再现装置读出。当立体视觉标志6142为关时,这些字段6143-6145均被再现装置忽视。基本视流入口6143与从属视流入口6144均包含子路径ID参照信息6121、流文件参照信息6122及PID6123。子路径ID参照信息6121表示规定基本视与从属视的各PG流的再现路径的子路径的子路径ID。流文件参照信息6122是用于识别存储了各PG流的文件DEP的信息。PID6123是各PG流的PID。流属性信息6145包含各PG流的属性、例如语言种类。
<系统目标解码器>
图63是系统目标解码器6225的功能框图。参照图63,PG解码器6201与图41所示的系统目标解码器4125内的PG解码器不同,可对应于2平面模式。具体地,PG解码器6201包含基本视PG解码器6211与从属视PG解码器6212。基本视PG解码器6211除图3(a)所示的主TS内的PG流303A、303B外,还将图61(a)所示的第1辅TS内的左视PG流6012A、6012B解码为平面数据。从属视PG解码器6212将图61(a)所示的第1辅TS内的右视PG流6013A、6013B及图61(b)所示的第2辅TS内的深度映射PG流6023A、6023B解码为平面数据。副影像解码器与IG解码器均包含同样的一对解码器。系统目标解码器6225还包含一对PG平面存储器6221、6222。基本视PG解码器6211将平面数据写入左PG平面存储器6221中,从属视PG解码器6212将平面数据写入右PG平面存储器6222中。IG平面存储器与图像平面存储器均同样构成。系统目标解码器6225还使来自图形平面存储器的平面数据的输出,对应于2平面模式、1平面+偏移模式及1平面+零偏移模式中的每个模式。尤其是当从再现控制部4135指示2平面模式时,系统目标解码器6225从一对PG平面存储器6221、6222向平面加法部6226交互送出平面数据。
<平面加法部>
图64是2平面模式的平面加法部6226的部分功能框图。参照图64,平面加法部6226与图45所示的4126一样,包含视差影像生成部4510、开关4520及加法部4541、4542。平面加法部6226还在PG平面数据6304、6305的输入部包含第2视差影像生成部6310与第2开关6320。同样的构成也包含于副影像平面数据、IG平面数据及图像平面数据的各输入部。
第2视差影像生成部6310从系统目标解码器6225接收左PG平面数据6304与右PG平面数据6305。在L/R模式的再现装置102中,左PG平面数据6304表示左视PG平面,右PG平面数据6305表示右视PG平面。此时,第2视差影像生成部6310将各平面数据6304、6305原样送出到第2开关6320。另一方面,在深度模式的再现装置102中,左PG平面数据6304表示2D图形影像的PG平面,右PG平面数据6305表示对该2D图形影像的深度映射。此时,第2视差影像生成部6310首先根据该深度映射,计算该2D图形影像各部的两眼视差。第2视差影像生成部6310接着加工左PG平面数据6304,对应于计算出的两眼视差,使PG平面中该2D图形影像各部的显示位置向左右移动。由此,生成表示左视与右视的PG平面的对。第2视差影像生成部6310还将该PG平面的对送出到第2开关6320。
第2开关6320将PTS相等的左PG平面数据6304与右PG平面数据6305按该提到的顺序送出到第2加法部4542。第2加法部4542从第2开关6320接收PG平面数据,重叠到来自第1加法部4541的平面数据上后,传递给第3加法部4543。结果,在左影像平面数据6301上重叠左视PG平面,在右影像平面数据6302上重叠右视PG平面。
<2D影像与3D图形影像的合成>
根据实施方式3的再现装置利用上述构成实现2平面模式。由此,该再现装置可将3D图形影像重叠于3D影像来显示。根据实施方式3的BD-ROM盘与再现装置还可如下所述,将3D图形影像重叠于2D影像来显示。
图65是按显示时间顺序表示基本视视频流6401与右视视频流6402的图片的模式图。参照图65,基本视视频流6401包含基本视图片6410、6411、6412、...、6419,右视视频流6402包含右视图片6420、6421、6422、...、6429。这些图片6410-6419、6420-6429构成三个再现区间6431、6432、6433。
最初的再现区间6431与第三个再现区间6433是‘3D再现区间’,表示3D影像。各3D再现区间6431、6433内的图片群与图7所示的图片群一样,以MVC等多视点编码方式压缩。即,各基本视图片6410-6413、6417-6419将相同3D再现区间内的其他基本视图片用作参照图片来压缩。另一方面,各右视图片6420-6423、6427-6429除相同3D再现区间内的其他右视图片外,将属于相同3D·VAU的基本视图片6410-6413、6417-6419用作参照图片来压缩。
第二个再现区间6432是‘伪2D再现区间’,无论是否包含右视图片群,均表示2D影像。伪2D再现区间6432内的图片群以MVC等多视点编码方式压缩。尤其是各基本视图片6414-6416将相同伪2D再现区间内的其他基本视图片用作参照图片来压缩。但是,各右视图片6424-6426将属于相同3D·VAU的基本视图片6414-6416自身用作参照图片来压缩。由此,各右视图片表示与属于相同3D·VAU的基本视图片相同的2D影像。即,左视与右视之间无视差。因此,在伪2D再现区间中,即便3D再现模式下也仅再现2D影像。压缩后的右视图片群的数据量也极小。
图66是表示根据MVC编码伪2D再现区间内的右视图片群时的切片头与切片数据的语法(Syntax)的表。这里,P切片包含于图65所示的第4右视图片“P4”6423与第7右视图片“P7”6426中。另一方面,B切片包含于图65所示的第5右视图片“B5”6424与第6右视图片“B6”6425中。参照图66,切片头中记载的“ref_pic_listmodification_flag_l0(或l1)=1”、“modification_of_pic_nums_idc=5”、“abs_diff_view_idx_minus1=0”、“ref_pic_list_modification_flag_l0(或l1)=3”等四行以一组来规定如下内容:表示该切片的参照图片的索引是属于相同3D·VAU的基本视图片的索引=0。由于P切片的参照图片为一个,所以其切片头包含_一组上述四行。由于B切片的参照图片为二个,所以其切片头包含二组上述四行。另一方面,切片数据中记载的二行在P切片与B切片任一中均规定如下二个事项(i)、(ii):(i)当以CAVLC(可变长度编码)编码切片内的宏块时,将参数“mb_skip_run”的值设定成等于该切片内的宏块总数。(ii)当以CABAC(算术编码)来编码切片内的宏块时,以等于该切片内的宏块总数的次数来重复设定标志“mb_skip_flag”。该规定意味着切片内的全部宏块种类是‘跳过’。即,表示压缩后的右视图片实质上不包含切片数据,以及,当其解码时,只要将参照图片作为其右视图片拷贝即可。这样,在MVC中,可以极小的数据量来表现将伪2D再现区间内的各基本视图片的拷贝编码为属于相同3D·VAU的右视图片。
图67是表示构成3D再现区间与伪2D再现区间双方的文件2D6610与文件DEP6620的对、及规定各再现区间的二种3D播放列表文件6630、6640的模式图。
文件2D6610包含的主视频流(PID=0x1011)是3D再现区间与伪2D再现区间双方共用的基本视视频流。文件DEP6620包含二种主视频流(PID=0x1012、0x1013)。其一(PID=0x1012)是与基本视视频流一起构成3D再现区间的从属视视频流。另一(PID=0x1013)是与基本视视频流一起构成伪2D再现区间的从属视视频流。即,PID=0x1013的主视频流将基本视视频流内的各图片作为参照图片后压缩其自身。文件DEP6620还包含左视PG流(PID=0x1220)与右视PG流(PID=0x1240)的对。各PG流表示3D图形影像的左视和右视。
3D播放列表文件#16630规定的再现路径由3D再现区间构成。具体地,在主路径6631中,PI#1规定文件2D6610内的基本视视频流(PID=0x1011)的再现区间。另一方面,在子路径种类6633=3D·L/R的子路径6632中,SUB_PI#1规定文件DEP6620内的从属视视频流(PID=0x1012)与PG流的对(PID=0x1220、0x1240)的各再现区间。这里,SUB_PI#1规定与PI#1相同的再现开始时刻及相同的再现结束时刻。
3D播放列表文件#26640规定的再现路径由伪2D再现区间构成。具体地,在主路径6641中,PI#1规定文件2D6610内的基本视视频流(PID=0x1011)的再现区间。另一方面,在子路径种类6643=3D·L/R的子路径6642中,SUB_PI#1规定文件DEP6620内的从属视视频流(PID=0x1013)与PG流的对(PID=0x1220、0x1240)的各再现区间。这里,SUB_PI#1规定与PI#1相同的再现开始时刻及相同的再现结束时刻。
3D再现模式的再现装置102当使用3D播放列表文件#16630进行3D播放列表再现处理时,在从基本视视频流与从属视视频流(PID=0x1012)的组合再现的3D影像上重叠显示从PG流的对(PID=0x1220、0x1240)再现的3D图形影像。另一方面,3D再现模式的再现装置102当使用3D播放列表文件#26640进行3D播放列表再现处理时,在从基本视视频流与从属视视频流(PID=0x1013)的组合再现的2D影像上重叠显示从PG流的对(PID=0x1220、0x1240)再现的3D图形影像。这样,通过让再现装置102切换3D播放列表文件,可使应合成3D图形影像的3D影像变更为2D影像。
图68是表示构成3D再现区间的文件2D6710与文件DEP#16721的对、由与该文件2D6710的组合构成伪2D再现区间的文件DEP#26722、及规定各再现区间的3D播放列表文件6730的模式图。
文件2D6710包含的主视频流(PID=0x1011)是3D再现区间与伪2D再现区间双方共用的基本视视频流。文件DEP#16721包含的主视频流(PID=0x1012)是与基本视视频流一起构成3D再现区间的从属视视频流。文件DEP#26722包含的主视频流(PID=0x1013)是与基本视视频流一起构成伪2D再现区间的从属视视频流。即,PID=0x1013的主视频流将基本视视频流内的各图片作为参照图片后压缩其自身。各文件DEP6721、6722还包含左视PG流(PID=0x1220)与右视PG流(PID=0x1240)的对。各PG流表示3D图形影像的左视和右视。
3D播放列表文件6730规定的再现路径包含3D再现区间与伪2D再现区间双方。具体地,在主路径6731中,PI#1、PI#2、PI#3规定文件2D6710内的基本视视频流(PID=0x1011)的不同再现区间。另一方面,在子路径种类6733=3D·L/R的子路径6732中,SUB_PI#1与SUB_PI#3规定文件DEP#16721内的从属视视频流(PID=0x1012)与PG流的对(PID=0x1220、0x1240)的各再现区间。并且,SUB_PI#2规定文件DEP#36722内的从属视视频流(PID=0x1013)与PG流的对(PID=0x1220、0x1240)的各再现区间。这里,SUB_PI#N规定与PI#N相同的再现开始时刻及相同的再现结束时刻(N=1、2、3)。因此,PI#1与SUB_PI#1的对及PI#3与SUB_PI#3的对规定3D再现区间,PI#2与SUB_PI#2规定伪2D再现区间。还在PI#2与PI#3中将CC的值设定为“5”,并且,在SUB_PI#2与SUB_PI#3中,将SPCC的值设定为“5”。即,规定应无缝连接这些再现区间。
图69是表示3D再现模式的再现装置102根据3D播放列表文件6730再现的视频平面的序列6810与PG平面的序列6820的模式图。参照图69,各序列6810、6820按显示时间顺序包含三个分组6811-6813、6821-6823。
第1分组6811、6821构成由PI#1与SUB_PI#1的对所规定的最初的3D再现区间P3D1。即,视频平面的第1分组6811交互包含从基本视视频流与从属视视频流(PID=0x1012)的组合再现的左视与右视的视频平面L、R。另一方面,PG平面的第1分组6821交互包含从PG流的对(PID=0x1220、0x1240)再现的左视与右视的PG平面L、R。因此,在最初的3D再现区间P3D1中,在视频平面的第1分组6811表示的3D影像上重叠显示PG平面的第1分组6821表示的3D图形影像。
第2分组6811、6821构成由PI#2与SUB_PI#3的对所规定的伪2D再现区间PPS2D。即,视频平面的第2分组6812交互包含从基本视视频流再现的2D影像的视频平面2D、与从从属视视频流(PID=0x1013)再现的该视频平面2D的拷贝。另一方面,PG平面的第2分组6822交互包含从PG流的对(PID=0x1220、0x1240)再现的左视与右视的PG平面L、R。因此,在伪2D再现区间PPS2D中,在视频平面的第2分组6812表示的2D影像上重叠显示PG平面的第2分组6822表示的3D图形影像。
第3分组6813、6823构成由PI#3与SUB_PI#3的对所规定的第二个3D再现区间P3D2。即,视频平面的第3分组6813交互包含从基本视视频流与从属视视频流(PID=0x1012)的组合再现的左视与右视的视频平面L、R。另一方面,PG平面的第3分组6823交互包含从PG流的对(PID=0x1220、0x1240)再现的左视与右视的PG平面L、R。因此,在第二3D再现区间P3D2中,在视频平面的第3分组6813表示的3D影像上重叠显示PG平面的第3分组6823表示的3D图形影像。
如上所述,可使再现装置102在一系列的3D播放列表再现处理中,与再现区间切换一起地、将3D影像与3D图形影像的合成影像变更为2D影像与3D图形影像的合成影像。这里,由于在3D再现区间与伪2D再现区间中视频流的数据结构自身不改变,所以再现装置102在任一再现区间中只要继续3D再现模式下的通常动作即可。尤其如图68所示,若设定CC=5、SPCC=5,则即便3D再现区间与伪2D再现区间之间也可使影像无缝连接。
<变形例>
(3-A)如图68所示,各PI也可包含视点编码标志。‘视点编码标志’表示该PI规定的再现区间是3D再现区间与伪2D再现区间哪个。例如,在视点编码标志的值为“0”的情况下,表示该再现区间是3D再现区间,在为“1”的情况下,表示是伪2D再现区间。在图67所示的实例中,各3D播放列表文件也可包含视点编码标志。并且,视点编码标志也可作为辅助信息存储在基于MVC等的视频流或构成复用流数据的TS中。例如,在基于MVC的视频流中,NAL单元的头、SEI或图8所示的从属视视频流内的VAU832的子AU识别代码832A可用作存储场所。另外,也可定义用于存储视点编码标志的新的NAL单元。另一方面,在TS中,TS头或描述符、尤其是包含基于MVC的比特率等属性信息的描述符可用作视点编码标志的存储场所。
(3-B)3D播放列表文件规定的再现路径除3D再现区间与伪2D再现区间外,也可包含通常的2D影像的再现区间(下面通常称为2D再现区间。)。由于通常2D再现区间中不包含辅TS、尤其是从属视视频流,所以再现装置在2D再现模式下仅从主TS再现2D影像。此时,也可在3D影像内容中存储表示2D影像的再现区间是伪2D再现区间与通常2D再现区间哪个的信息。例如,在PI中包含的视点编码标志的值为“2”的情况下,表示该PI规定的再现区间是通常2D再现区间。
(3-C)也可设定表示‘光盘、存储卡或HDD等存储装置中存储的影像内容、广播的节目或特定文件夹等中存储的AV流文件中,是否存在视点编码标志不同的再现区间’的信息。尤其是就节目而言,可将该信息存储在存储节目信息的描述符、或表示构成节目的视频流的属性的描述符中。例如,该信息表示播放列表文件规定的再现路径的如下属性:(1)该再现路径仅包含3D再现区间,(2)该再现路径包含至少一个3D再现区间,(3)该再现路径中混合存在伪2D再现区间与通常2D再现区间。再现装置通过与该信息所示的再现路径属性一致地选择动作模式,可简化该选择处理。
(3-D)当将表示‘再现区间的影像是3D影像与2D影像哪个’的信息设定为3D影像内容的情况下,也可代替视点编码标志来利用该信息。具体地,在该信息表示‘再现区间的影像是3D影像’的情况下,该再现区间是3D再现区间。另一方面,在该信息表示‘再现区间的影像是2D影像’的情况下,该再现区间是伪2D再现区间与通常2D再现区间之一。并且,为了判断‘该再现区间是伪2D再现区间与通常2D再现区间哪个’,例如只要利用视频流或复用流数据中存储的‘表示影像视点数量的信息’即可。在视点数量=2的情况下,再现区间是伪2D再现区间,在视点数量=1的情况下,再现区间是通常2D再现区间。此外,也可利用影像内容、尤其是其管理信息中存储的‘表示内容的编码方式的信息’。具体地,若编码方式为MVC等多视点编码方式,则再现区间是伪2D再现区间,若是MPEG-4AVC等单一视点编码方式,则再现区间是通常2D再现区间。
(3-E)在再现装置102对应于BD-Live(注册商标)的情况下,也可从BD-ROM盘中读出基本视视频流,从网络上的服务器装置等其他设备下载从属视视频流。此时,再现装置也可还参照BD-ROM盘上的影像内容具备的视点编码标志,检查该影像内容的再现路径的属性。尤其是在该再现路径中混合存在3D再现区间与通常2D再现区间且不包含伪2D再现区间的情况下,再现装置也可从网络上的服务器装置等下载将通常2D再现区间置换为伪2D再现区间的新的内容、或从通常2D再现区间的数据生成伪2D再现区间的数据所需的差分数据。由此,再现装置可以相同动作模式再现该影像内容的整体。
(3-F)图70是3D再现装置依照连续再现区间中的通常2D再现区间的有无来选择动作模式的处理流程图。每当播放列表再现处理中再现中的各连续再现区间的处理开始时执行该处理。这里,所谓‘连续再现区间’是指再现路径中的再现区间中、应无缝连续再现影像的1个以上的再现区间。
在步骤S6901中,再现装置102中,再现控制部4135通过从播放列表文件等检查再现路径的属性,判断处理对象的连续再现区间是否包含通常2D再现区间。在该连续再现区间包含通常2D再现区间的情况下,处理前进到步骤S6902,在不包含的情况下,处理前进到步骤S6905。
在步骤S6902中,再现控制部4135还判断处理对象的连续再现区间是否包含通常2D再现区间以外的再现区间。在该连续再现区间包含通常2D再现区间以外的再现区间的情况下,处理前进到步骤S6903,在不包含的情况下,处理前进到步骤S6904。
在步骤S6903中,处理对象的连续再现区间中混合存在通常2D再现区间与其他再现区间。因此,再现装置102选择2D再现模式。之后,开始基于2D再现模式的连续再现区间的再现处理。尤其是在3D再现区间与伪2D再现区间中执行‘跳过再现’。即,从BD-ROM盘101中读出包含主TS的数据块,另一方面,通过跳跃来跳过包含辅TS的数据块的读出。由此,连续再现区间的整体以2D再现模式下的帧速率、例如1/24秒来再现。
在步骤S6904中,处理对象的连续再现区间仅包含通常2D再现区间。因此,再现装置102选择2D再现模式。之后,开始基于2D再现模式的连续再现区间的再现处理。
在步骤S6905中,处理对象的连续再现区间仅包含3D再现区间与伪2D再现区间。因此,再现装置102选择3D再现模式。之后,开始基于3D再现模式的连续再现区间的再现处理。由此,如图69所示,无缝连接3D再现区间中3D影像与3D图形影像的合成影像、以及伪2D再现区间中2D影像与3D图形影像的合成影像。
(3-G)图71是具有复制再现功能的3D再现装置依照连续再现区间中的通常2D再现区间的有无来选择动作模式的处理流程图。每当播放列表再现处理中开始再现路径中的各连续再现区间的处理时执行该处理。这里,所谓‘复制再现功能’是指利用B-B显示模式、再现表示2D影像的流数据的功能。在复制再现中,影像以3D再现模式中的帧速率、例如1/48秒再现。但是,由于相同帧显示二次,所以帧的实际变化以2D再现模式下的帧速率、例如1/24秒再现。
在步骤S7001中,再现装置102中,再现控制部4135通过从播放列表文件等检查再现路径的属性,判断处理对象的连续再现区间是否包含通常2D再现区间。在该连续再现区间包含通常2D再现区间的情况下,处理前进到步骤S7002,在不包含的情况下,处理前进到步骤S7005。
在步骤S7002中,再现控制部4135还判断处理对象的连续再现区间是否包含通常2D再现区间以外的再现区间。在该连续再现区间包含通常2D再现区间以外的再现区间的情况下,处理前进到步骤S7003,在不包含此外的再现区间的情况下,处理前进到步骤S7004。
在步骤S7003中,处理对象的连续再现区间中混合存在通常2D再现区间与其他再现区间。因此,再现装置102选择3D再现模式,尤其对通常2D再现区间选择B-B显示模式。之后,开始基于3D再现模式的连续再现区间的再现处理。由此,在通常2D再现区间中执行复制再现。因此,影像在连续再现区间整体中无缝再现。
在步骤S7004中,处理对象的连续再现区间仅包含2D再现区间。因此,再现装置102选择2D再现模式。之后,开始基于2D再现模式的连续再现区间的再现处理。
在步骤S7005中,处理对象的连续再现区间仅包含3D再现区间与伪2D再现区间。因此,再现装置102选择3D再现模式。之后,开始基于3D再现模式的连续再现区间的再现处理。由此,无缝连接3D再现区间中3D影像与3D图形影像的合成影像、以及伪2D再现区间中2D影像与3D图形影像的合成影像。
(3-H)3D再现模式的再现装置102在画面中显示弹出菜单的期间,即弹出期间中,如下所示将其他3D影像变更为2D影像。由此,弹出菜单的视觉识别性、操作性提高。这里,弹出菜单的显示中利用从IG流解码的IG平面、或根据BD-J对象描绘的图像平面。
图72(a)是表示在1平面+偏移模式下的3D图形影像再现中显示弹出菜单时的视频平面的序列7110、IG/图像平面的序列7120、及PG平面的序列7130的模式图。参照图72(a),在二个3D再现区间P3D1、P3D2之间插入弹出期间PPOP。由此,将视频平面的序列7110与PG平面的序列7130分别分割成三个分组7111-7113、7131-7133。
在最初的3D再现区间P3D1中,将视频平面的显示模式设定成B-D显示模式,将PG平面的显示模式设定成1平面+偏移模式。由此,视频平面的第1分组7111交互包含左视与右视的视频平面L、R,PG平面的第1分组7131交互包含左视与右视的PG平面L、R。这里,左视与右视的PG平面的各对,由偏移控制从一个PG平面生成,合成到对应的视频平面。这样,在最初的再现区间P3D1中,在视频平面的第1分组7111表示的3D影像上重叠显示PG平面的第1分组7131表示的3D图形影像。
在弹出期间PPOP中,IG/图像平面的序列7120以1平面+偏移模式或2平面模式再现。由此,该列7120交互包含左视与右视的IG/图像平面L、R。另一方面,将视频平面的显示模式变更为B-B显示模式,将PG平面的显示模式变更为1平面+零偏移模式。由此,视频平面的第2分组7112各包含二个左视的视频平面,PG平面的第2分组7132各包含二个偏移值=0的PG平面C。这样,在弹出期间PPOP中,在视频平面的第2分组7112表示的2D影像上重叠显示PG平面的第2分组7132所表示的2D图形影像与IG/图像平面的序列7120所表示的3D影像的弹出菜单。
在第二个3D再现区间P3D2中,将视频平面的显示模式恢复成B-B显示模式,将PG平面的显示模式恢复成1平面+偏移模式。由此,视频平面的第3分组7113交互包含左视与右视的视频平面L、R,PG平面的第3分组7133交互包含左视与右视的PG平面L、R。这样,在第二个3D再现区间P3D2中,在视频平面的第3分组7113所表示的3D影像上重叠显示PG平面的第3分组7133所表示的3D图形影像。
图72(b)是表示在2平面模式下的3D图形影像再现中显示弹出菜单时的视频平面的序列7110、IG/图像平面的序列7120、及PG平面的序列7140的一例的模式图。参照图72(b),在二个3D再现区间P3D1、P3D2之间插入弹出期间PPOP。由此,将视频平面的序列7110与PG平面的序列7140分别分割成三个分组7111-7113、7141-7143。
在最初的3D再现区间P3D1中,将视频平面的显示模式设定成B-D显示模式,将PG平面的显示模式设定成2平面模式。由此,视频平面的第1分组7111交互包含左视与右视的视频平面L、R,PG平面的第1分组7141交互包含左视与右视的PG平面L、R。这里,左视与右视的各PG平面由不同的PG流生成。这样,在最初的再现区间P3D1中,在视频平面的第1分组7111所表示的3D影像上重叠显示PG平面的第1分组7141所表示的3D图形影像。
在弹出期间PPOP中,IG/图像平面的序列7120以1平面+偏移模式或2平面模式再现。由此,该列7120交互包含左视与右视的IG/图像平面L、R。另一方面,将视频平面与PG平面的各显示模式变更为B-B显示模式。由此,视频平面的第2分组7112各包含二个左视的视频平面,PG平面的第2分组7142各包含二个左视的PG平面L。这样,在弹出期间PPOP中,在视频平面的第2分组7112所表示的2D影像上重叠显示PG平面的第2分组7142所表示的2D图形影像与IG/图像平面的序列7120所表示的3D影像的弹出菜单。
在第二个3D再现区间P3D2中,将视频平面的显示模式恢复成B-B显示模式,将PG平面的显示模式恢复成2平面模式。由此,视频平面的第3分组7113交互包含左视与右视的视频平面L、R,PG平面的第3分组7143交互包含左视与右视的PG平面L、R。这样,在第二个3D再现区间P3D2中,在视频平面的第3分组7113所表示的3D影像上重叠显示PG平面的第3分组7143所表示的3D图形影像。
图72(c)是表示2平面模式下的3D图形影像再现中显示弹出菜单时的视频平面的序列7110、IG/图像平面的序列7120、及PG平面的序列7150的其他例的模式图。参照图72(c),与图72(b)不同,在弹出期间PPOP不显示PG平面。对于其他方面,图72(c)所示的各平面的序列与图72(b)所示的一样。
在最初的3D再现区间P3D1中,由于视频平面的第1分组7111与PG平面的第1分组7151交互包含左视与右视的各平面L、R,所以在视频平面的第1分组7111所表示的3D影像上重叠显示PG平面的第1分组7151所表示的3D图形影像。
在弹出期间PPOP中,IG/图像平面的序列7120交互包含左视与右视的IG/图像平面L、R,视频平面的第2分组7112各包含二个左视的视频平面。另一方面,PG平面的描绘处理尽管继续,但其输出处理被中断。由此,废弃PG平面的第2分组7152。这样,在弹出期间PPOP中,在视频平面的第2分组7112所表示的2D影像上重叠显示IG/图像平面的序列7120所表示的3D影像的弹出菜单。另一方面,不显示PG平面的第2分组7152表示的3D图形影像。
在第二个3D再现区间P3D2中,将视频平面的显示模式恢复成B-B显示模式,将PG平面的显示模式恢复成2平面模式。由此,视频平面的第3分组7113与PG平面的第3分组7153交互包含左视与右视的各平面L、R。这样,在第二个3D再现区间P3D2中,在视频平面的第3分组7113所表示的3D影像上重叠显示PG平面的第3分组7153所表示的3D图形影像。
如上所述,在显示弹出菜单期间,将其他3D影像暂时变更为2D影像。尤其是PG平面的显示模式的变更通过偏移值的变更或输出平面的变更来实现,所以其处理时间短。因此,可无缝实现3D影像与2D影像的切换。
另外,在显示模式的变更所需的处理时间足够短的情况下,在也可伴随该变更中断影像的情况下,或3个PG解码器平行再现主TS内的PG流与辅TS内的一对PG流的情况下,也可与弹出菜单的开/关(ON/OFF)一致地,在1平面+(零)偏移模式与2平面模式之间切换PG平面的显示模式。
(3-I)2平面模式的再现装置102也可利用偏移元数据,对左视与右视的各图形平面进一步进行偏移控制。由此,即便2平面模式也与1平面+偏移模式一样,可调整3D图形影像的进深。
尤其是假设如图72(b)所示,在弹出期间中利用B-B显示模式,将弹出菜单以外的3D图形影像变更为2D图形影像的情况。图73(a)、(b)、(c)是表示B-D显示模式与B-B显示模式下的图形部件的显示位置差的模式图。参照图73(a)-(c),画面SCR内的虚线表示B-D显示模式下的图形部件的显示位置GOB0,实线表示B-B显示模式下的图形部件的显示位置GOB1-3。图73(a)、(b)、(c)所示的B-B显示模式下的各显示位置GOB1、GOB2、GOB3与B-D显示模式下的显示位置GOB0之间的水平距离OFS1、OFS2、OFS3按此顺序由小到大:OFS1<OFS2<OFS3。当图形影像按图73(a)、(b)、(c)的顺序显示时,在B-D显示模式下,看成图形部件的3D影像沿相对画面SCR垂直的方向移动。另一方面,在B-B显示模式下,看成图形部件的2D影像在画面SCR上向左移动。这种移动方向的差异存在让视听者不舒服的危险性,所以再现装置102如下利用偏移控制,将B-B显示模式下的图形影像的显示位置保持固定。
图73(d)、(e)、(f)分别是表示补偿图73(a)、(b)、(c)所示的B-B显示模式下的图形部件位移的处理的模式图。参照图73(d)-(f),画面SCR内的虚线表示图形部件补偿前的显示位置GOB1-3,实线表示补偿后的显示位置GOB0。图73(a)、(b)、(c)所示的B-B显示模式与B-D显示模式下的显示位置间的水平距离OFS1、OFS2、OFS3等于提供给各图形影像的偏移大小。因此,当图形影像按图73(a)、(b)、(c)的顺序显示时,对表示各图形影像的图形平面的偏移值OFS1、OFS2、OFS3按相同顺序由小到大:OFS1<OFS2<OFS3。此时,再现装置102首先求出第二个、第三个各偏移值OFS2、OFS3相对最初偏移值OFS1的超过量OFS2-OFS1、OFS3-OFS1,设定成逆偏移值RV1、RV2:RV1=OFS2-OFS1、RV2=OFS3-OFS1。再现装置102接着利用对各图形平面的偏移控制,将各图形影像的显示位置向最初的显示位置GOB1的方向返回逆偏移值RV1、RV2。由此,各图形影像的显示位置实质上保持与最初的显示位置GOB1相等。这样,可避免从B-D显示模式向B-B显示模式的移动让视听者不舒服。
《实施方式4》
下面,说明根据本发明实施方式3的记录介质的记录装置及记录方法,作为本发明的实施方式4。该记录装置被称为所谓的创作(authoring)装置。创作装置通常设置在发布用电影内容的制作工作室中,由创作人员使用。记录装置根据创作人员的操作,首先以规定的压缩编码方式将电影内容变换为AV流文件。记录装置接着生成脚本。‘脚本’是规定电影内容中包含的各标题的再现方法的信息,具体地包含上述动态脚本信息及静态脚本信息。记录装置接着从AV流文件及脚本生成BD-ROM盘用的卷镜像。记录装置最后将该卷镜像记录在记录介质中。
图74是该记录装置7300的功能框图。参照图74,该记录装置7300包含数据库部7301、视频编码器7302、素材制作部7303、脚本生成部7304、BD程序制作部7305、复用处理部7306及格式处理部7307。
数据库部7301是记录装置中内置的非易失性存储装置,尤其是HDD。数据库部7301此外也可以是外带于记录装置上的HDD,或是记录装置中内置或外带的非易失性半导体存储器装置。
视频编码器7302从创作人员受理非压缩的位图数据等影像数据,以MPEG-4AVC、MVC、或MPEG-2等压缩编码方式压缩。由此,主影像数据被变换为主视频流,副影像数据被变换为辅视频流。尤其是利用MVC等多视点编码方式,将3D影像数据变换为图7所示的基本视视频流与从属视视频流的对。即,表示左视的视频帧序列通过其自身图片间的预测编码,变换为基本视视频流。另一方面,表示右视的视频帧序列不仅通过其自身图片、还通过与基本视图片间的预测编码,变换为从属视视频流。并且,也可将表示右视的视频帧序列变换为基本视视频流,将表示左视的视频帧序列变换为从属视视频流。将变换后的各视频流7312保存在数据库部7301中。
视频编码器7302还在编码2D影像数据时从创作人员受理表示‘将表示3D图形影像的图形数据复用于该2D影像数据’的信息。此时,视频编码器7302根据该2D影像数据,生成构成伪2D再现区间的基本视视频流与从属视视频流的对。即,视频编码器7302首先将该2D影像数据变换为基本视视频流。视频编码器7302接着如图65所示的伪2D再现区间6432内的从属视图片群那样,将2D影像包含的各图片作为参照图片,编码该图片自身,变换为从属视图片。将变换后的各视频流7312保存在数据库部7301中。视频编码器7302还生成涉及所生成的基本视视频流与从属视视频流的对的视点编码信息VC1。‘视点编码信息’表示该视频流的对构成3D再现区间与伪2D再现区间哪个。将生成的视点编码信息VC1送出到复用处理部7306。
另外,视频编码器7302当从2D影像的数据编码辅视频流时,也可根据创作人员的操作,制作对副影像平面的偏移信息7310。将所制作的偏移信息7310保存在数据库部7301中。
此外,视频编码器7302在图片间预测编码的处理过程中,检测左视与右视之间各图像的运动矢量,并据此算出3D影像内各图像的进深信息。视频编码器7302也可利用该进深信息,生成对左视或右视的深度映射。此时,视频编码器7302使用其自身包含的图片间的预测编码,将左视或右视的流数据与深度映射的流分别变换为基本视视频流与深度映射流。将变换后的各视频流7312保存在数据库部7301中。
视频编码器7302还利用该进深信息,计算图56(b)、(c)所示的左视LV与右视RV中的仅一方包含的垂直方向带状区域AL、AR的宽度WDH、及图57(b)、(c)所示的左视LV与右视RV中的仅一方包含的水平方向带状区域AT、AB的高度HGT。将表示计算的宽度WDH与高度HGT的信息(下面称为遮蔽区域信息。)7311保存在数据库部7301中。
素材制作部7303制作视频流以外的基本流,例如音频流7313、PG流7314、IG流7315及文本字幕流7316,保存在数据库部7301中。例如,素材制作部7303从创作人员受理非压缩的LPCM声音数据,将其以AC-3等压缩编码方式编码后,变换为音频流7313。素材制作部7303此外从创作人员受理字幕信息文件,据此制作PG流7314或文本字幕流7316。字幕信息文件规定表示字幕的图像数据或文本数据、该字幕的显示时期、及应加到该字幕上的淡入/淡出等视觉效果。素材制作部7303还从创作人员受理位图数据与菜单文件,据此制作IG流7315。位图数据表示菜单的图像。菜单文件规定该菜单中配置的各按钮的状态转变及应加到各按钮上的视觉效果。
素材制作部7303还根据创作人员的操作,制作对PG流7314、IG流7315及文本字幕流7316各自的偏移信息7310。此时,素材制作部7303也可利用由视频编码器7302生成的进深信息DPI。将制作的偏移信息7310保存在数据库部7301中。
脚本生成部7304根据从创作人员经由GUI受理的指示,制作BD-ROM脚本数据7317,保存在数据库部7301中。BD-ROM脚本数据7317规定数据库部7301中保存的各基本流7312-7316的再现方法。BD-ROM脚本数据7317包含图2所示的文件群中索引文件211、电影对象文件212及播放列表文件221-223。脚本生成部7304还制作参数文件PRF,送出到复用处理部7306。参数文件PRF从数据库部7301中保存的基本流7312-7316中,规定应复用于主TS与辅TS每个上的流数据。
BD程序制作部7305对创作人员提供BD-J对象及Java应用程序的编程环境。BD程序制作部7305通过GUI受理来自用户的请求,根据该请求制作各程序的源代码。BD程序制作部7305还根据BD-J对象,制作BD-J对象文件251,将Java应用程序压缩成JAR文件261。将这些程序文件群BDP送出到格式处理部7307。
这里,假设如下编程BD-J对象的情况:BD-J对象让图41所示的程序执行部4134将GUI用图形数据送出到系统目标解码器4125。BD-J对象还让系统目标解码器4125将该图形数据作为图像平面数据处理,让平面加法部4126以1平面+偏移模式送出图像平面数据。此时,BD程序制作部7305制作对图像平面的偏移信息7310,保存在数据库部7301中。这里,BD程序制作部7305也可在偏移信息7310的制作中利用由视频编码器7302生成的进深信息DPI。
复用处理部7306根据参数文件PRF,将数据库部7301中保存的各基本流7312-7316复用于MPEG2-TS形式的流文件上(其中,文本字幕流7316被单独地文件化)。具体地,如图4所示,将各基本流7312-7315变换为源包序列,将各序列的源包汇总成一个序列,构成一个复用流数据。这样,制作主TS与辅TS。将这些复用流数据MSD送出到格式处理部7307。
复用处理部7306还根据数据库部7301中保存的偏移信息7310,制作图13、14所示的偏移元数据1310。将制作的偏移元数据1310如图13所示,存储在从属视视频流内。此时,数据库部7301中保存的遮蔽区域信息7311与偏移元数据一起,存储在从属视视频流内。另外,也可以是,复用处理部7306加工各图形数据,调整左右各影像平面内的图形部件的配置,以使各图形平面表示的3D图形影像不在与其他图形平面表示的3D图形影像相同的视方向上重叠显示。因此,复用处理部7306也可调整对各影像帧的偏移值,以使各3D图形影像的进深彼此不重叠。
复用处理部7306此外制作2Dclip信息文件与从属视clip信息文件。具体地,复用处理部7306首先对文件2D与文件DEP分别制作入口映射与区段起点的一览表。此时,复用处理部7306设计2D区段、基本视区段、从属视区段及区段SS的配置。复用处理部7306还从应分别复用于主TS与辅TS上的各基本流中抽取属性信息。复用处理部7306接着根据入口映射、区段起点的一览表及属性信息,制作各clip信息文件CLI,送出到格式处理部7307。
格式处理部7307根据数据库部7301中保存的BD-ROM脚本数据7317、由BD程序制作部7305制作的BD-J对象文件等程序文件群BDP及由复用处理部7306生成的复用流数据MSD及clip信息文件CLI,制作图2所示目录构造的BD-ROM盘镜像7320。该目录构造中利用UDF作为文件系统。
格式处理部7307当制作文件2D、文件DEP及文件SS的各文件入口时,参照2Dclip信息文件与从属视clip信息文件各自中包含的入口映射与3D元数据。由此,各入口点与各区段起点的SPN被用于制作各分配记述符。尤其是决定各分配记述符应表示的LBN的值与区段尺寸,以表现图19所示的交织配置。结果,各基本视数据块被文件SS与文件2D共享,各从属视数据块被文件SS与文件DEP共享。
格式处理部7307还根据视点编码信息VCI改写3D播放列表文件,对主路径内的各PI设定图68所示的视点编码标志。
<BD-ROM盘镜像的记录方法>
图75是利用图74所示的记录装置7300向BD-ROM盘记录电影内容的方法的流程图。该方法例如通过记录装置7300电源接通来开始。
在步骤S7401中,制作应记录到BD-ROM盘的基本流、程序及脚本数据。即,视频编码器7302制作视频流7312。素材制作部7303制作音频流7313、PG流7314、IG流7315及文本字幕流7316。脚本生成部7304制作BD-ROM脚本数据7317。将制作的这些数据7312-7317保存在数据库部7301中。另一方面,视频编码器7302制作偏移信息7310与遮蔽区域信息7311,保存在数据库部7301中,制作视点编码信息VCI,送出到格式处理部7307。素材制作部7303制作偏移信息7310,保存在数据库部7301中。脚本生成部7304制作参数文件PRF,送出到复用处理部7306。BD程序制作部7305制作包含BD-J对象文件与JAR文件的程序文件群BDP,送出到格式处理部7307,并制作偏移信息7310,保存在数据库部7301中。之后,处理前进到步骤S7402。
在步骤S7402中,复用处理部7306根据数据库部7301中保存的偏移信息,制作偏移元数据。将制作的偏移元数据与遮蔽区域信息7311一起存储在从属视视频流内。之后,处理前进到步骤S7403。
在步骤S7403中,复用处理部7306根据参数文件PRF,从数据库部7301中读出各基本流7312-7316,复用于MPEG2-TS形式的流文件上。之后,处理前进到步骤S7404。
在步骤S7404中,复用处理部7306制作2Dclip信息文件与从属视clip信息文件。尤其是在入口映射与区段起点的制作中,在邻接的数据块之间对齐区段ATC时间。还设计2D区段、基本视区段、从属视区段及区段SS的尺寸,以满足规定条件。之后,处理前进到步骤S7405。
在步骤S7405中,格式处理部7307根据BD-ROM脚本数据7317、程序文件群BDP、复用流数据MSD及clip信息文件CLI,制作BD-ROM盘镜像7320。此时,格式处理部7307还根据视点编码信息VCI对3D播放列表文件设定视点编码标志。之后,处理前进到步骤S7406。
在步骤S7406中,将BD-ROM盘镜像7320变换为BD-ROM压制(press)用数据。再将该数据记录在BD-ROM盘的母盘中。之后,处理前进到步骤S7407。
在步骤S7407中,将步骤S7408得到的母盘用于压制工序,进行BD-ROM盘101的批量生产。这样,处理结束。
<视频编码器>
图76是视频编码器7302与复用处理部7306的功能框图。参照图76,视频编码器7302包含开关7501、编码部7502、视点编码方式选择部7503、视点编码信息生成部7504、帧进深信息生成部7505及遮蔽区域信息生成部7506。复用处理部7306包含系统复用部7511与管理信息生成部7512。
开关7501从3D视频摄像机等外部设备接收分别表示左视与右视的视频平面L、R的序列。开关7501此时根据来自视点编码方式选择部7503的指示,选择应送出到编码部7502的视频帧。具体地,当该指示表示‘3D再现区间’时,开关7501将左视与右视的视频帧交互送出到编码部7502。另一方面,当该指示表示‘伪2D再现区间’或‘通常2D再现区间’时,开关7501仅将左视的视频帧送出到编码部7502。
编码部7502根据来自视点编码方式选择部7503的指示,从开关7501接收视频帧,以MVC等多视点编码方式或MPEG-4AVC等单一视点编码方式进行压缩。编码部7502此时依照从视点编码方式选择部7503指示的再现区间的种类,选择视点编码方式。
图77是编码部7502执行的视频帧序列的编码处理的流程图。该处理在编码部7502从视点编码方式选择部7503被指示了视频帧序列的编码处理时开始。
在步骤S7601中,编码部7502判断从视点编码方式选择部7503指示的再现区间的种类。当该种类分别是‘3D再现区间’、‘伪2D再现区间’及‘通常2D再现区间’时,处理前进到步骤S7602、S7603及S7604。
在步骤S7602中,编码部7502选择多视点编码方式。即,编码部7502利用其自身包含的图片间的预测编码,将表示左视的视频帧L的序列变换为基本视视频流。另一方面,编码部7502不仅利用其自身包含的图片间、还利用与基本视图片间的预测编码,将表示右视的视频帧R的序列变换为从属视视频流。之后,处理前进到步骤S7605。
在步骤S7603中,编码部7502选择多视点编码方式。但是,由于编码对象的再现区间是‘伪2D再现区间’,所以仅从开关7501接收左视的视频帧L的序列。编码部7502利用其自身包含的图片间的预测编码,将该视频帧序列变换为基本视视频流。另一方面,编码部7502将该视频帧序列包含的各图片作为参照图片,编码该图片自身。由此,将该视频帧序列变换为从属视视频流。之后,处理前进到步骤S7605。
在步骤S7604中,编码部7502选择单一视点编码方式。编码部7502通过其自身包含的图片间的预测编码,将从开关7501接收到的视频帧序列变换为基本视视频流。另一方面,编码部7502不生成从属视视频流。之后,处理前进到步骤S7605。
在步骤S7605中,编码部7502检查是否从视点编码方式选择部7503指示了编码处理的继续进行。在指示该继续进行时,处理从步骤S7601开始重复,当不指示时,处理结束。
视点编码方式选择部7503从创作人员受理涉及应由开关7501接收的视频帧序列连续构成的一个以上再现区间(下面称为连续再现区间。)的信息。该信息尤其表示‘各再现区间是3D再现区间与2D再现区间哪个’及‘各再现区间是否与3D图形影像的再现区间(下面称为3D图形再现区间。)重复’。视点编码方式选择部7503根据该信息,决定‘应由视频帧序列构成的再现区间是3D再现区间、伪2D再现区间及通常2D再现区间哪个’。视点编码方式选择部7503还与由开关7501接收应构成各再现区间的视频帧序列的期间一致地,对开关7501与编码部7502指示该再现区间的种类。
图78是决定应由视频帧序列构成的再现区间的种类的处理流程图。该处理在视点编码方式选择部7503从创作人员受理了涉及连续再现区间的信息时开始。
在步骤S7701中,视点编码方式选择部7503根据涉及连续再现区间的信息,判断‘连续再现区间是否包含3D再现区间’。在连续再现区间包含3D再现区间的情况下,处理前进到步骤S7702。在连续再现区间不包含3D再现区间的情况下,即,连续再现区间的整体是2D再现区间的情况下,处理前进到步骤S7705。
在步骤S7702中,视点编码方式选择部7503根据涉及连续再现区间的信息,判断‘连续再现区间是否包含2D再现区间’。在连续再现区间包含2D再现区间的情况下,处理前进到步骤S7703。在连续再现区间不包含2D再现区间的情况下,即,连续再现区间的整体是3D再现区间的情况下,处理前进到步骤S7704。
在步骤S7703中,在连续再现区间中混合存在2D再现区间与3D再现区间。因此,视点编码方式选择部7503将连续再现区间中2D再现区间决定为伪2D再现区间,将剩余再现区间决定为3D再现区间。之后,处理结束。
在步骤S7704中,视点编码方式选择部7503将连续再现区间的整体决定为3D再现区间。之后,处理结束。
在步骤S7705中,视点编码方式选择部7503根据涉及连续再现区间的信息,判断‘连续再现区间是否包含与3D图形再现区间重复的再现区间’。在连续再现区间包含这种再现区间的情况下,处理前进到步骤S7706。在连续再现区间不包含这种再现区间的情况下,处理前进到步骤S7707。
在步骤S7706中,连续再现区间的至少一部分中,3D图形影像被合成至2D影像。因此,视点编码方式选择部7503将连续再现区间整体决定为伪2D再现区间。此外,也可将连续再现区间中与3D图形再现区间重复的2D再现区间决定为伪2D再现区间,将剩余的2D再现区间决定为通常2D再现区间。之后,处理结束。
在步骤S7707中,视点编码方式选择部7503将连续再现区间整体决定为通常2D再现区间。之后,处理结束。
再参照图76,视点编码信息生成部7504根据视点编码方式选择部7503的指示,生成视点编码信息VCI。该视点编码信息VCI将视点编码方式选择部7503指示的再现区间的种类对应于由编码部7502编码的视频流构成的各再现区间。视点编码信息生成部7504也可还在编码部7502根据2D影像的视频帧序列编码辅视频流时,根据创作人员的操作,制作对副影像平面的偏移信息OFS。
帧进深信息生成部7505从编码部7502检测左视与右视之间的各图像的运动矢量VCT,据此算出3D影像内各图像的进深信息。图79(a)、(b)是表示3D影像的一场景显示中利用的左视与右视的各图片的模式图,图79(c)是表示由帧进深信息生成部7505根据这些图片算出的进深信息的模式图。
编码部7502在左视与右视的各图片压缩中利用这些图片间的冗余性。即,编码部7502对每8×8或16×16像素矩阵、即每宏块,比较压缩前的两个图片,检测两个图片间的各图像的运动矢量。具体地,如图79(a)、(b)所示,首先将左视图片7801与右视图片7802分别分割成宏块7803的矩阵。接着,在两个图片7801、7802之间,对每个宏块7803比较图像数据,从其结果中检测各图像的运动矢量。例如,表示‘家’的图像7804的区域在两个图片7801、7802之间实质上相等。因此,从这些区域中未检测到运动矢量。另一方面,由于表示‘球’的图像7805的区域在两个图片7801、7802之间不同,所以从这些区域中检测到该图像7805的运动矢量。
编码部7502将检测到的运动矢量用于各图片7801、7802的压缩中。另一方面,帧进深信息生成部7505将该运动矢量VCT用于‘家’的图像7804及‘球’的图像7805等各图像的两眼视差的计算中。帧进深信息生成部7505还根据各图像的两眼视差算出该图像的进深。表示各图形进深的信息如图79(c)所示,被整理成大小与各图片7801、7802的宏块矩阵相同的矩阵7806。该矩阵7806内的块7807与各图片7801、7802内的宏块7803一对一地对应。各块7807例如以8比特的深度表示对应的宏块7803所表示的图像的进深。在图79所示的实例中,将‘球’的图像7805的进深记录在矩阵7806的区域7808内的各块中。该区域7808对应于表示该图像7805的各图片7801、7802内的区域整体。
帧进深信息生成部7505也可还利用该进深信息,生成对左视或右视的深度映射DPM。此时,编码部7502将左视或右视的视频流序列与该深度映射DPM的序列编码成基本视视频流与深度映射流。
遮蔽区域信息生成部7506利用由帧进深信息生成部7505检测到的运动矢量VCT,生成遮蔽区域信息MSK。实际上,若仅左视与右视之一的周缘部中包含的垂直方向或水平方向的带状区域中包含图像,则该图像的运动矢量检测为表示从左视至右视或相反的帧外(frame out)。因此,遮蔽区域信息生成部7506可根据该运动矢量计算各带状区域的宽度或高度。
<复用处理部>
系统复用部7511根据参数文件PRF,将由编码部7502编码的视频流VST与其他基本流7313-7316一起复用于一个复用流数据MSD。系统复用部7511还根据偏移信息OFS、7310,制作偏移元数据,与遮蔽区域信息MSK一起存储在从属视视频流内。系统复用部7511此外将复用流数据MSD内的随机访问点的位置及再现开始/结束时刻等管理信息MNG送出到管理信息生成部7512。
管理信息生成部7512利用该管理信息MNG,按以下步骤(I)-(IV)来制作2Dclip信息文件与从属视clip信息文件:(I)对文件2D与文件DEP分别生成图23所示的入口映射2230。(II)利用各文件的入口映射,制作图24(a)、(b)所示的区段起点2242、2420。此时,邻接的数据块之间对齐区段ATC时间。还将2D区段、基本视区段、从属视区段及区段SS的各尺寸设计成满足规定条件(这些条件参照《补充》)。(III)从应分别复用于主TS与辅TS上的各基本流中,抽取图22所示的流属性信息2220。(IV)如图22所示,入口映射2230、3D元数据2240及流属性信息2220的组合对应于clip信息2210。这样,制作各clip信息文件CLI,送出到格式处理部7307。
图80是表示邻接的数据块之间对齐区段ATC时间的方法的模式图。首先,向基本视数据块中存储的源包(下面简称为SP1。)与从属视数据块中存储的源包(下面简称为SP2。)在相同ATC时间轴下赋予ATS。参照图80,矩形7910、7920分别表示SP1#p(p=0、1、2、3、...、k、k+1、...、i、i+1)与SP2#q(q=0、1、2、3、...、m、n+1、...、j)。这些矩形7910、7920在ATC的时间轴方向按各源包的ATS的顺序排列。各矩形7910、7920的开头位置表示该源包的ATS的值。各矩形7910、7920的长度AT1表示3D再现装置将一个源包从读缓冲器传输到系统目标解码器所需的时间。
在从SP1#0的ATSA1起至区段ATC时间TEXT经过为止的期间中,从读缓冲器传输到系统目标解码器的SP1,即SP1#0、1、2、...、k作为第n个基本视区段EXT1[n],存储在一个基本视数据块中。同样地,在从SP1#(k+1)的ATS A3起至区段ATC时间TEXT经过为止的期间中,从读缓冲器传输到系统目标解码器的SP1,即SP1#(k+1)、...、i作为第(n+1)个基本视区段EXT1[n+1],存储在下一个基本视数据块中。
另一方面,如下选择一个从属视数据块中应存储的SP2,作为第n个从属视区段EXT2[n]。首先,求出SP1#0的ATS A1与区段ATC时间TEXT之和,即位于第(n+1)个基本视区段EXT1[n+1]开头的SP1#(k+1)的ATSA3=A1+TEXT。接着,在从SP1#0的ATS A1起至SP1#(k+1)的ATS A3的期间中,选择开始从读缓冲器向系统目标解码器传输的SP2,即SP2#0、1、2、...、m。因此,开头的SP2、即SP2#0的ATS A2必需为开头的SP1、即SP1#0的ATS A1以上:A2≥A1。并且,SP2#0-m的ATS全部低于SP1#(k+1)的ATS A3。这里,最后的SP2、即SP#m的传输完成也可在SP1#(k+1)的ATS A3以后。
同样,如下选择一个从属视数据块中应存储的SP2,作为第(n+1)个从属视区段EXT2[n+1]。首先,求出位于第(n+2)个基本视区段开头的SP1#(i+1)的ATS A5=A3+TEXT。接着,在从SP1#(k+1)的ATS A3起至SP1#(i+1)的ATSA5的期间中,选择开始从读缓冲器向系统目标解码器传输的SP2,即SP2#(m+1)-j。因此,开头的SP2、即SP2#(m+1)的ATS A4必需为开头的SP1、即SP1#(k+1)的ATS A3以上:A4≥A3。并且,SP2#(m+1)-j的ATS全部低于SP1#(i+1)的ATSA5。
《实施方式5》
在本实施方式中,就再现前述实施方式中说明的构造的数据的再现装置,说明使用集成电路3实现的构成例(图81)。
介质IF部1从介质接收(读出)数据后传输到集成电路3。另外,介质IF部1从介质接收上述实施方式中说明的构造的数据。介质IF部1例如在介质是光盘或硬盘的情况下是盘驱动器,在介质是SD卡或USB存储器等半导体存储器的情况下,是卡IF,在介质是包含CATV等广播波的情况下,是CAN调谐器或Si调谐器,在介质是以太网(注册商标)、无线LAN、无线公众线路等网络的情况下,是网络IF等。
存储器2是暂时存储从介质接收(读出)的数据或暂时存储集成电路3中处理中途的数据的存储器。例如使用SDRAM(Synchronous Dynamic RandomAccess Memory)、DDRx SDRAM(Double-Date-Rate x Synchronous DynamicRandom Access Memory:x=1、2、3、...)等。另外,存储器2可以配备任意个数,必要时可以是单个也可以是多个。
集成电路3是对从介质IF部1传输的数据实施影像声音处理的系统LSI,由主控制部6、流处理部5、信号处理部7、存储器控制部9、AV输出部8等构成。
主控制部6备有具有计时器功能或中断功能的处理器核心,处理器核心根据程序存储器等中存储的程序,执行集成电路3整体的控制。在程序存储器等中事先存储OS等基本软件。
流处理部5在主控制部6的控制下,接收从介质经由介质IF部1传输的数据,并经由集成电路3内的数据总线,存储在存储器2中,或将接收到的数据分离成影像类数据、声音类数据。如上所述,介质上的数据以将包含左视视频流的2D/左视AV流文件、与包含右视视频流的右视AV流文件分割成几个区段的状态交互配置。因此,主控制部6控制成在集成电路3接收到包含左视AV流文件的左眼用数据的情况下,将数据存储在存储器2的第1区域中,在接收到包含右视视频流的右眼用数据的情况下,将数据存储在存储器2的第2区域中。这里,左眼用数据属于左眼用区段,右眼用数据属于右眼用区段。另外,存储器2中的第1、第2区域可以是逻辑区域分割单一存储器后的区域,也可是物理上不同的存储器。另外,在实施方式5中,将包含左视视频流的左眼用数据设为主视数据,将包含右视视频流的右眼用数据设为辅视数据继续说明,但也可以是右眼用数据是主视数据,左眼用数据是辅视数据。
信号处理部7在主控制部6的控制下,以适当方法解码流处理部5分离后的影像类数据、声音类数据。影像类数据使用MPEG-2、MPEG-4AVC、MPEG4-MVC、SMPTE VC-1等方式来编码记录。声音类数据以杜比-AC-3、Dolby Digital Plus(杜比数字+)、MLP、DTS、DTS-HD、线性PCM等方式压缩编码记录。信号处理部7以与其对应的方式进行解码。另外,信号处理部7的模块例如相当于实施方式1的图44中的各种解码器。另外,信号处理部7抽取右视视频流中包含的元数据,通知给AV输出部8。另外,如上所述,元数据按构成右视视频流的每个GOP来配置,包含多个偏移信息和与其对应的偏移识别符。
存储器控制部9对从集成电路3内各功能块向存储器2的访问进行仲裁。
AV输出部8在主控制部6的控制下,重叠信号处理部7中解码的影像类数据,对影像类数据进行格式变换等,输出到集成电路3之外。
图82是表示流处理部5的典型结构的功能框图。流处理部5具备设备流IF部51、解复用部52、切换部53等。
设备流IF部51是介质IF部1和集成电路3之间的数据传输用的接口。例如,在介质是光盘或者硬盘时,设备流IF部51相当于SATA(SerialAdvanced Technology Attachment,串行高级技术附加装置)、ATAPI(Advanced Technology Attachment Packet Interface,高级技术附加装置数据包接口)、或者PATA(Parallel Advanced Technology Attachment,并行高级技术附加装置),在介质是SD卡及USB存储器等半导体存储器时,设备流IF部51相当于卡IF,在介质是包含CATV等的广播波等时,设备流IF部51相当于调谐器IF,在介质是以太网(注册商标)、无线LAN及无线公用线路等网络时,设备流IF部51相当于网络IF等。在此,根据介质的种类,设备流IF部51也可以取代介质IF部1来实其功能的一部分功能,介质IF部1也可以被内置于集成电路3中。
解复用部52从由介质传输的包含影像、声音的数据中分离出影像类数据和声音类数据。在此,前述各个区段由影像、声音、PG(字幕)、IG(菜单)等各源包构成。但是,也存在辅视数据不包括音频流的情况。各个区段按各个源包中包含的PID(识别符)被分离为影像类、声音类的各TS包,传输给信号处理部7。处理完的数据在被直接或者暂时保存在存储器2中后传输给信号处理部7。另外,解复用部52的模块相当于实施方式1的图44中的源去包器4611、PID过滤器。
切换部53切换输出目的地(存储目的地),以便当设备流IF部51接收到左眼用数据时将其存储在存储器2的第1区域中,接收到右眼用数据时将其存储在存储器2的第2区域中。这里,切换部53例如是DMAC(DirectMemory Access Controller:直接存储器存取控制器)。图83是切换部53为DMAC时的切换部53外围的概念图。DMAC在主控制部6的控制下,将设备流IF部接收到的数据与该数据存储目的地地址发送给存储器控制部9。具体地,通过设备流IF部接收到左眼用数据时将地址1(第1存储区域)发送给存储器控制部9、接收到右眼用数据时将地址2(第2存储区域)发送给存储器控制部9,通过接收数据来切换其输出目的地(存储目的地)。存储器控制部9根据从DMAC发送来的存储目的地地址,将数据存储在存储器2中。另外,也可设置控制切换部53的专用电路,代替主控制部6。
这里,作为流处理部5的典型结构,说明设备流IF部51、解复用部52、切换部53,但流处理部5也可还具备对接收到的加密数据或密钥数据等进行解密的加密引擎部、保持介质与再现装置之间的设备认证协议等执行控制或私钥的安全管理部、直接存储器访问用控制器等。至此,说明当将从介质接收到的数据存储在存储器2中时,切换部53由左眼用数据、右眼用数据切换存储目的地的情况,但也可在将从介质接收到的数据暂时存储在存储器2中后,将数据传输到解复用部52时,分为左眼用数据、右眼用数据。
图84是表示AV输出部8的典型结构的功能框图。AV输出部8具备图像重叠部86、视频输出格式变换部87及音频视频输出IF部88。
图像重叠部81重叠解码后的影像类的数据。具体地,在左视视频数据或右视视频数据上以图片单位重叠PG(字幕)、IG(菜单)。图像重叠部81的模块例如在实施方式1的图45中示出。图90是表示图像重叠处理中存储器2与各平面之间的关系的图。存储器2具备存储已解码的、各平面中描绘的数据的区域,即对应于左视的平面数据存储区域、对应于右视的平面数据存储区域、对应于图形的平面数据存储区域。这里,平面是存储器2中的区域,也可是虚拟空间。
图91与图92是图像重叠的概念图。图像重叠部81使用流选择表中的偏移识别符,从由信号处理部7通知的元数据中检索相应的偏移信息,根据该偏移信息,向图形平面提供偏移,执行与影像平面之间的重叠处理。当与左视平面重叠时,向图形平面提供+X偏移后重叠(表示左的图),当与右视平面重叠时,向图形平面提供-X偏移后重叠(表示右的图)。这里,值X是偏移值,由像素数来表示。具体地,图91中,将使图形平面在纸面上向右平行移动偏移值X后的平面与左视平面重叠。另一方面,在图92中,将使图形平面在纸面上向左平行移动偏移值X后的平面与右视平面重叠。此时,如图所示,重叠纸面上左右方向坐标相等的像素数据彼此,将重叠后的数据存储在存储器2的图像重叠后数据存储区域中。
图93是表示图像重叠另一方法的概念图。存储器2还具备对应于已偏移图形的平面数据存储区域(左视重叠用、右视重叠用)。在存储器2中事先准备与左视平面、右视平面重叠的数据,图像重叠部81从存储器2中读入必需的数据后重叠,将重叠后的数据存储在存储器2的图像重叠后数据存储区域中。
另外,如实施方式3所示,还有准备二个左视重叠用与右视重叠用图形平面,向其分别提供偏移值后进行重叠处理的方法(2平面模式)。如上所述,也可合成2D影像与3D图形影像。此时,重叠构成解码后平面视觉影像的图片数据(源于主视数据群)与构成解码后主视的图形数据,重叠构成解码后平面视觉影像的图片数据(源于辅视数据群)与构成解码后辅视的图形数据。
视频输出格式变换部82根据需要,对解码后的影像类数据执行放大或缩小的调整大小处理、将扫描方式从逐行方式及隔行方式之一变换为另一方的IP变换处理、去除噪声的噪声减少处理、变换帧速率的帧速率变换处理等。
音频视频输出IF部83对图像重叠或格式变换后的影像类数据与解码后的声音类数据,与数据发送形式一致地,进行编码等。如后所述,音频视频输出IF部83的一部分也可具备在集成电路3之外。
图85是较详细表示AV输出部8或再现装置的数据输出部的构成例。根据实施方式5的集成电路3及再现装置对应于多个影像类数据、声音类数据的数据发送形式。图84中的音频视频输出IF部83具备模拟视频输出IF部83a、模拟音频输出IF部83c、数字音频输出IF部83b。
模拟视频输出IF部83a将图像重叠处理或输出格式变换处理后的影像类数据变换、编码为模拟影像信号形式后输出。例如,对应于NTSC、PAL、SECAM这3个方式之一的复合视频编码器、S影像信号(Y/C分离)用编码器、分量影像信号用编码器或DAC(D/A转换器)相当于模拟视频输出IF部83a。
数字音频视频输出IF部83b将解码后的声音类数据与图像重叠处理或输出格式变换后的影像类数据一体化,并且加密之后,与数据发送标准一致地,编码后输出。例如,HDMI(High-Definition Multimedia InterFace)相当于数字音频视频输出IF部83b。
模拟音频输出IF部83c对解码后的声音类数据进行D/A变换后输出模拟声音数据。音频DAC等相当于模拟音频输出IF部83c。
这些影像类数据及声音类数据的发送形式依赖于显示装置扬声器4支持的数据接收装置(数据输入端子),或由用户的选择来切换。并且,不仅单一发送形式,也可以多个发送形式并行地,发送对应于同一内容的数据。
这里,作为AV输出部8的典型结构,说明图像重叠部81、视频输出格式变换部82、音频视频输出IF部83,但也可还具备进行滤波处理、画面合成、曲线描绘、3D显示等图形处理的图形引擎部等。
以上是对根据实施方式5的再现装置的构成的说明。另外,集成电路3中也可内置上述功能块全部。相反,图81的存储器2也可内置于集成电路3中。另外,在实施方式5中,将主控制部6与信号处理部7说明为不同的功能块,但主控制部6也可执行信号处理部7的处理的一部分。
显示装置也可例如图88所示构成,让显示装置执行根据实施方式5的再现装置的处理。此时,介质IF部1接收到的数据由集成电路3进行信号处理,处理后的影像类数据经由显示驱动部10通过显示面板11输出,处理后的声音类数据通过扬声器12输出。这里,AV输出部8例如也可如图89构成。此时,通过集成电路3内部或外部的音频输出IF部94及视频输出IF部89进行数据传输。另外,音频输出IF部94及视频输出IF部89也可分别具备多个,视频与音频也可具备共同的IF部。
集成电路3中,控制总线或数据总线与各处理块的处理步骤或处理内容一致地任意配置。数据总线也可例如图86所示直接连结各处理块彼此,或如图87所示经存储器2(存储器控制部9)连结。
集成电路3也可是将多个芯片密封在一个封装中外观上形成一个LSI的多芯片模块。另外,LSI制造后可编程的FPGA(Field Programmable GateArray:现场可编程门阵列)或可再构成LSI内部的电路单元的连接或设定的可重构处理器也可用作集成电路3。
下面,说明如上构成的再现装置的动作。图94是简单表示从介质接收(读出)数据并解码后作为影像信号及声音信号输出的再现动作步骤的流程图。
步骤S1:从介质接收(读出)数据(介质IF部1、流处理部5)。
步骤S2:从步骤S1接收(读出)的数据中分离各种数据(影像类数据、声音类数据)(流处理部5)。
步骤S3:将步骤S2中分离的各种数据解码为适当形式(信号处理部7)。
步骤S4:对步骤S3中解码的影像类数据进行重叠处理(AV输出部8)。
步骤S6:输出步骤S2-S5中处理的影像类数据及声音类数据(AV输出部8)。
图95是更详细地表示再现动作步骤的流程图。各动作处理在主控制部6的控制下进行。
在步骤S101中,流处理部5的设备流IF部51通过介质IF部1从介质接收(读出)对再现对象数据进行再现所需的数据(播放列表文件、clip信息文件等),存储在存储器2中(介质IF部1、设备IF部51、存储器控制部9、存储器2)。
步骤S102:主控制部6根据接收到的clip信息文件中包含的流属性信息,识别介质中存储的影像数据及声音数据的压缩形式,初始化信号处理部7,以便能进行对应的解码处理(主控制部6)。
步骤S103:流处理部5的设备流IF部51通过介质IF部1从介质接收(读出)影像、声音等再现对象的数据,经由切换部53、存储器控制部9存储到存储器2。另外,数据以区段单位接收(读出),左眼用数据存储到第1区域,右眼用数据存储到第2区域。其存储目的地的切换由切换部53根据主控制部6的控制执行(介质IF部1、设备IF部51、主控制部6、切换部53、存储器控制部9、存储器2)。
步骤S104:将存储器2中存储的流数据传输到流处理部5的解复用部52。解复用部52根据构成该流数据的各源包中包含的PID,识别该流数据是影像系(主影像、副影像、PG(字幕)、IG(菜单))与声音系(声音、副声音)中的哪个,以TS包单位将该流数据传输到信号处理部7内的对应解码器(解复用部52)。
步骤S105:信号处理部7内的各解码器以适当方式对所传输的TS包进行解码(信号处理部7)。
步骤S106:与显示装置4一致地,对信号处理部7中解码的影像类数据中、对应于左视视频流及右视视频流的数据进行大小调整(视频输出格式变换部82)。
步骤S107:重叠步骤S106中调整大小后的视频流与PG(字幕)、IG(菜单)(图像重叠部81)。
步骤S108:对步骤S107中重叠的影像数据进行IP变换,变换其扫描方式(视频输出格式变换部82)。
步骤S109:对经过了此前处理的影像类数据及声音类数据,根据显示装置扬声器4的数据输出方式或向显示装置扬声器4的数据发送方式进行编码或D/A变换等。例如,影像类数据、声音类数据分别进行对应于模拟或数字输出用的处理。作为影像类数据的模拟输出,支持复合影像信号、S影像信号或分量影像信号等。作为影像系、声音类数据的数字输出,支持HDMI(音频视频输出IF部83)。
步骤S110:将步骤S109中处理的影像类数据及声音类数据发送到显示装置、扬声器4,输出对应的影像及声音(音频视频输出IF部83、显示装置、扬声器4)。
以上是根据实施方式5的再现装置的动作步骤的说明。另外,也可在每次结束各处理时将其处理结果暂时存储在存储器2中。图88的显示装置进行再现处理的情况下其动作步骤基本上也与上述一样。此时,对应于图81再现装置的各功能块的功能块执行同样的处理。另外,在上述动作步骤中,视频输出格式变换部82执行调整大小处理及IP变换处理,但根据需要也可省略这些处理,也可执行其他处理(噪声减少处理、帧速率变换处理等)。并且,只要可能,也可变更上述动作步骤。
《补充》
<3D影像的再现方法的原理>
3D影像的再现方法大致划分为采用全息技术的方法和采用视差影像的方法这两种。
采用全息技术的方法的特征在于,将与从实际立体物体对人的视觉赋予的光学信息基本完全相同的信息,提供给视听者的视觉,由此,使该视听者立体地观察影像中的物体。但是,将该方法用于动态图像显示的技术只是在理论上成立。但是,进行该动态图像显示所需要的、能够实时处理庞大运算的计算机以及高达每1mm几千条线的超高分辨率的显示装置,在现行的技术中还都是非常难以实现的事情。因此,把这种方法作为商业用途进行实际应用的目标,在当前时间点几乎还没有设定。
所说“视差影像”是指映入到观看一个场景的视听者的各个眼睛中的成对2D影像、即成对的左视和右视。采用视差影像的方法的特征在于,在进行再现时使视听者的各个眼睛只能观看一个场景的左视和右视,由此使该视听者立体地看到该场景。
图96(a)一(c)是用于说明基于采用视差影像的方法的3D影像(立体观察影像)的再现原理的示意图。图96(a)是视听者VWR观看被置于人脸正面的立方体CBC的状态的俯视图。图96(b)、(c)分别是在此时将视听者VWR的左眼LEY、右眼REY所看到的立方体CBC的外观表示为2D影像的示意图。将图96(b)、(c)进行对比可以得知,各个眼睛看到的立方体CBC的外观略有差异。视听者VWR能够根据该外观差异即两眼视差来立体识别立方体CBC。因此,在采用视差影像的方法中,首先针对一个场景例如图96(a)所示的立方体CBC,准备视点不同的左右的2D影像,例如准备图96(b)所示的立方体CBC的左视、以及图96(c)所示的立方体CBC的右视。在此,根据视听者VWR的两眼视差确定各个视点的位置。然后,进行再现使视听者VWR的各个眼睛仅能够看到各个2D影像。由此,视听者VWR能够立体地看到在画面上再现的该场景即立方体CBC的影像。这样,采用视差影像的方法与采用全息技术的方法不同,具有顶多只需准备从两个视点观看的2D影像的优点。
关于采用视差影像的方法提出了具体实施这种方法的多种方式。从如何使视听者的各个眼睛观看左右的2D影像的角度出发,将这些方式划分为序列分离方式、采用双凸透镜的方式、以及二色分离方式等。
在序列分离方式中,在画面上每隔固定时间就交替地显示左右的2D影像,使视听者通过快门眼镜来观察画面。在此,快门眼镜的各个镜片例如利用液晶片形成。各个镜片与画面上的2D影像的切换同步地,交替地使光在其整体上一致地透射,或者遮挡光。即,各个镜片作为周期性地阻挡视听者的眼睛的快门发挥作用。更具体地讲,当在画面上显示有左影像的期间中,快门眼镜使光透射左侧的镜片,使右侧的镜片遮挡光。相反,当在画面上显示有右影像的期间中,快门眼镜使光透射右侧的镜片,使左侧的镜片遮挡光。由此,使视听者的眼睛能够看到左右的影像的残像叠加的一个3D影像。
在序列分离方式中,如上所述以固定周期交替地显示左右的影像。例如当在2D影像的再现中每1秒钟显示24个影像帧时,在3D影像的再现中,左右的影像合计每1秒钟显示48个影像帧。因此,该方式适合于能够迅速执行画面的改写的显示装置。
在采用双凸透镜的方式中,将左右的各个影像帧划分为纵向细长的长方形状的小区域,在一个画面中沿横向交替地排列左右的影像帧的各个小区域,并同时进行显示。在此,画面的表面被双凸透镜覆盖。双凸透镜(1enticular)是将多个细长的鱼糕状(hog-backed,拱背形,半圆柱形)透镜平行排列成为一个片状而形成的透镜。各个半圆柱状透镜在画面的表面上沿纵向延伸。在使视听者通过双凸透镜来观看上述左右的影像帧时,来自左影像帧的显示区域的光只能成像于视听者的左眼,来自右影像帧的显示区域的光只能成像于视听者的右眼。这样,视听者借助映入左右眼睛中的影像之间的两眼视差来看到3D影像。另外,在这种方式中,也可以利用具有相同功能的液晶元件等其他光学部件来取代双凸透镜。此外,还可以在例如左影像帧的显示区域中设置纵偏振光的滤光器,在右影像帧的显示区域中设置横偏振光的滤光器。此时,使视听者通过偏振光眼镜来观看画面。在此,在该偏振光眼镜中,在左侧的镜片设有纵偏振光滤光器,在右侧的镜片设有横偏振光滤光器。因此,视听者的各个眼睛仅能够看到左右的影像,因而能够使视听者看到3D影像。
在采用视差影像的方法中,3D影像内容除了从开头开始利用左右的影像的组合来构成的情况之外,也可以利用2D影像与深度映射的组合来构成。该2D影像表示从再现对象的3D影像向假想的2D画面上的投影,深度映射按不同像素来表示该3D影像的各个部分相对该2D画面的进深。在3D影像内容利用2D影像与深度映射的组合来构成时,3D再现装置或者显示装置首先根据这些组合来构成左右的影像,然后按照上述方式中的任意一种方式从这些影像来再现3D影像。
图97是表示由2D影像MVW与深度映射DPH的组合来构成左视LVW和右视RVW的示例的示意图。参照图97,在2D影像MVW中,在背景BGV中显示有圆板DSC。深度映射DPH按照每个像素来表示该2D影像MVW内的各个部分的进深。根据该深度映射DPH,2D影像MVW中圆板DSC的显示区域DA1的进深在画面的近前一侧,而背景BGV的显示区域DA2的进深则在画面的里侧。在再现装置内,视差影像生成部PDG首先根据深度映射DPH表示的各个部分的进深,计算2D影像MVW内的各个部分的两眼视差。视差影像生成部PDG然后使2D影像MVW内的各个部分的显示位置根据所计算的两眼视差向左右移动,并构成左视LVW和右视RVW。在图97所示的示例中,视差影像生成部PDG使左视LVW内的圆板DSL的显示位置相对于2D影像MVW内的圆板DSC的显示位置向右移动该两眼视差的一半S1,使右视RVW内的圆板DSR的显示位置相对于2D影像MVW内的圆板DSC的显示位置向左移动该两眼视差的一半S1。由此,在视听者看起来圆板DSC位于画面的近前。另一方面,视差影像生成部PDG使左视LVW内的背景BGL的显示位置相对于2D影像MVW内的背景BGV的显示位置向左移动该两眼视差的一半S2,使右视RVW内的背景BGR的显示位置相对于2D影像MVW内的背景BGV的显示位置向右移动该两眼视差的一半S2。由此,在视听者看起来背景BGV位于画面的里侧。
基于采用视差影像的方法的3D影像的再现系统已经确立了在电影院和游乐园的游乐项目等中使用,并且被普遍采用。因此,该方法对能够再现3D影像的家庭影院系统的实际应用也比较有效。在本发明的实施方式中,假设是采用视差影像的方法中、采用序列分离方式或者偏振光眼镜的方式。但是,针对与这些方式不同的其他方式,只要是采用视差影像的方式,则就能够适用本发明。这对于本行业人员而言能够从上述的实施方式的说明中得到了解。
<BD-ROM盘上的文件系统>
在BD-ROM盘101的文件系统采用UDF时,图2所示的卷区域202B通常包括分别记录了多个目录、文件组描述符及终结描述符的区域。“目录”是指构成相同目录的数据群。“文件组描述符”(file set descriptor)表示记录了根目录的文件入口的扇区的LBN。“终结描述符”(terminating descriptor)表示文件组描述符的记录区域的终结。
各个目录具有共同的数据结构。各个目录尤其包括文件入口、目录文件及下位文件组。
“文件入口”包括描述符标签、ICB(Information Control Block,信息控制块)标签及分配描述符。“描述符标签”表示包括该描述符标签的数据的类型是文件入口。例如,在描述符标签的值是“261”时,该数据的类型是文件入口。“ICB标签”表示该文件入口自身的属性信息。“分配描述符”表示记录了属于相同目录的目录文件的扇区的LBN。
“目录文件”通常分别包括多个的下位目录的文件识别描述符和多个下位文件的文件识别描述符。“下位目录的文件识别描述符”是用于访问被置于该目录之下的下位目录的信息。该文件识别描述符包括该下位目录的识别信息、目录名的长度、文件入口地址、以及目录名本身。尤其是文件入口地址表示记录了该下位目录的文件入口的扇区的LBN。“下位文件的文件识别描述符”是用于访问被置于该目录之下的下位文件的信息。该文件识别描述符包括该下位文件的识别信息、文件名的长度、文件入口地址、以及文件名本身。尤其是文件入口地址表示记录了该下位文件的文件入口的扇区的LBN。“下位文件的文件入口”如后面所述包括构成下位文件的实体的数据的地址信息。
如果按照顺序追溯文件组描述符和下位目录/文件的文件识别描述符,则能够访问在卷区域202B中记录的任意目录/文件的文件入口。具体地讲,首先利用文件组描述符来确定根目录的文件入口,利用该文件入口内的分配描述符来确定根目录的目录文件。然后,从该目录文件中检索根目录之下的目录的文件识别描述符,利用其中的文件入口地址来确定该目录的文件入口。另外,利用该文件入口内的分配描述符来确定该目录的目录文件。然后,利用该目录文件中的下位目录或者下位文件的文件识别描述符内的文件入口地址,确定该下位目录或者下位文件的文件入口。
“下位文件”分别包括区段和文件入口。“区段”通常是多个,各个区段是盘上的逻辑地址即LBN相连续的数据序列。区段整体构成下位文件的实体。“文件入口”包括描述符标签、ICB标签及分配描述符。“描述符标签”表示包括该描述符标签的数据的类型是文件入口。“ICB标签”表示该文件入口自身的属性信息。“分配描述符”针对各个区段各设置一个,表示各个区段在卷区域202B上的配置,具体地讲,表示各个区段的大小及其前端的LBN。因此,通过参照各个分配描述符,能够访问各个区段。此外,各个分配描述符的上位2比特表示在该分配描述符所表示的LBN的扇区中是否实际记录了区段。即,在该上位2比特是“0”时,表示已对该扇区分配区段而且已经记录,在该上位2比特是“1”时,表示已对该扇区分配区段但没有记录。
与采用UDF的上述文件系统相同,在相对卷区域202B的文件系统中,通常在将卷区域202B中记录的各个文件划分为多个区段时,按照上述的分配描述符所示,在卷区域202B中一并记录了表示各个区段的配置的信息。通过参照该信息,能够得知各个区段的配置、尤其是其逻辑地址。
<数据块与区段块的大小>
如图19所示,BD-ROM盘101上的复用流数据被分割成从属视数据块D[n]与基本视数据块B[n]来配置(n=0、1、2、3、...)。这些数据块群D[n]、B[n]还通过沿轨道以交织配置连续地记录,构成多个区段块1901-1903。为了从这些区段块1901-1903无缝再现2D影像与3D影像之一,只要各数据块与各区段块1901-1903的大小满足基于再现装置102性能的以下条件即可。
《基于2D再现模式的性能的条件》
图98是表示2D再现模式的再现装置102内的再现处理系统的框图。参照图98,该再现处理系统包含图37所示的BD-ROM驱动器3701、读缓冲器3721、及系统目标解码器3725。BD-ROM驱动器3701从BD-ROM盘101中读出2D区段,以读出速度RUD54传输到读缓冲器3721。系统目标解码器3725从读缓冲器3721内存储的各2D区段中以平均传输速度REXT2D读出源包,解码为影像数据VD与声音数据AD。
平均传输速度REXT2D等于系统目标解码器3725从各源包中抽取TS包的处理的平均速度的192/188倍,一般对每个2D区段不同。平均传输速度REXT2D的最大值RMAX2D等于对文件2D的系统速率RTS的192/188倍。这里,系数192/188等于源包与TS包之间的字节数之比。平均传输速度REXT2D通常以比特/秒表示,具体地,等于用区段ATC时间除用比特单位表示的2D区段大小时的值。‘用比特单位表示的区段的大小’等于该区段内源包数量与每个源包的比特数(=192[字节]×8[比特/字节]的积。
读出速度RUD54通常以比特/秒表示,设定成比平均传输速度REXT2D的最大值RMAX2D高的值,例如54Mbps:RUD54>RMAX2D。由此,防止在BD-ROM驱动器3701从BD-ROM盘101中读出一个2D区段期间、伴随系统目标解码器3725的解码处理的读缓冲器3721的下溢。
图99(a)是表示2D再现模式下的动作中、读缓冲器3721中存储的数据量DA变化的图表。图99(b)是表示再现对象的区段块8310与2D再现模式下的再现路径8320之间的对应关系的模式图。参照图99(b),根据再现路径8320,将区段块8310内的各基本视数据块B[n](n=0、1、2、...)作为一个2D区段EXT2D[n]从BD-ROM盘101读出到读缓冲器3721。参照图99(a),在各2D区段EXT2D[n]的读出期间PR2D[n]中,存储数据量DA以等于读出速度RUD54与平均传输速度REXT2D[n]之间的差RUD54-REXT2D[n]的速度增加。
由BD-ROM驱动器8301执行的读出/传输动作实际上不是由图99(a)的图表所示的连续的,而是断续的。由此,防止在各2D区段的读出期间PR2D[n]中,存储数据量DA超过读缓冲器3721的容量、即读缓冲器3721的下溢。即,图99(a)的图表将实际上阶段状的增减近似表示为直线增减。
另一方面,在二个连续的2D区段EXT2D[n-1]、EXT2D[n]之间,产生跳跃J2D[n]。在该跳跃期间PJ2D[n]中,由于跳过从属视数据块D[n]的读出,所以停止从BD-ROM盘101中读出数据。因此,在跳跃期间PJ2D[n]中,存储数据量DA以平均传输速度REXT2D[n]减少。
为了从图99(b)所示的区段块8310无缝再现2D影像,只要满足以下条件[1]、[2]即可。
[1]在各跳跃期间PJ2D[n]中,必需持续从读缓冲器3721向系统目标解码器3725提供数据,确保该解码器3725连续输出。其中,只要满足以下条件即可:各2D区段EXT2D[n]的大小SEXT2D[n]在从其读出期间PR2D[n]到下一跳跃期间PJ2D[n+1]中,与从读缓冲器3721向系统目标解码器3725传输的数据量相等。此时,如图99(a)所示,存储数据量DA在该跳跃期间PJ2D[n+1]结束时,不低于其读出期间PR2D[n]开始时的量。即,在各跳跃期间PJ2D[n]中,持续从读缓冲器3721向系统目标解码器3725提供数据,尤其是读缓冲器3721不产生下溢。这里,读出期间PR2D[n]的长度等于用读出速度RUD54除2D区段EXT2D[n]的大小SEXT2D[n]的值SEXT2D[n]/RUD54。因此,各2D区段EXT2D[n]的大小SEXT2D[n]只要为下式(1)的右边表示的最小区段大小以上即可:
[式1]
S EXT 2 D [ n ] &GreaterEqual; ( S EXT 2 D [ n ] R UD 54 + T JUMP - 2 D [ n ] ) &times; R EXT 2 D [ n ]
S EXT 2 D [ n ] &GreaterEqual; CEIL ( R EXT 2 D [ n ] 8 &times; R UD 54 R UD 54 - R EXT 2 D [ n ] &times; T JUMP - 2 D [ n ] ) . - - - ( 1 )
在式(1)中,跳跃时间TJUMP-2D[n]是指跳跃期间PJ2D[n]的长度,利用秒单位进行表示。另一方面,读取速度RUD54和平均传输速度REXT2D都利用比特/秒进行表示。因此,在式(1)中,将平均传输速度REXT2D除以数“8”,将2D区段的大小SEXT2D[n]的单位从比特转换为字节。即,2D区段的大小SEXT2D[n]利用字节单位进行表示。函数CEIL()表示将括号内的数值的小数点以下的小数部分舍入(round up)的操作。
[2]由于读缓冲器3721的容量是有限的,所以跳跃时间TJUMP-2D[n]的最大值受限制。即,在跳跃期间PJ2D[n]之前,存储数据量DA已是读缓冲器3721的最大容量,如果跳跃时间TJUMP-2D[n]过长,则存储数据量DA在跳跃期间PJ2D[n]中达到0,存在发生读缓冲器3721的下溢的风险性。下面,把在从BD-ROM盘101向读缓冲器3721的数据供给中断的状态下,存储数据量DA从读缓冲器3721的容量达到0的时间,即能够保证无缝再现的跳跃时间TJUMP-2D的最大值,称为“最大跳跃时间TJUMP_MAX”。
在光盘的标准中,通常,跳跃距离与最大跳跃时间之间的关系是根据光盘驱动器的访问速度等确定的。图100是与BD-ROM盘相关的跳跃距离SJUMP与最大跳跃时间TJUMP_MAX之间的对应表的一例。参照图100,跳跃距离SJUMP利用扇区单位进行表示,最大跳跃时间TJUMP_MAX利用m秒(毫秒)单位进行表示。1扇区等于2048字节。在跳跃距离SJUMP属于0扇区、1-10000扇区、10001-20000扇区、20001-40000扇区、40001扇区-1/10行程(stroke)、以及1/10行程以上的各个范围时,最大跳跃时间TJUMP_MAX分别是0m秒、250m秒、300m秒、350m秒、700m秒及1400m秒。跳跃距离SJUMP等于0扇区时的最大跳跃时间TJUMP_MAX等于零扇区迁移时间TJUMP0。但是,在图100的示例中,把零扇区迁移时间TJUMP0视为0m秒。
从以上可知,应代入式(1)中的跳跃时间TJUMP-2D[n]是由BD-ROM盘的标准按不同跳跃距离规定的最大跳跃时间TJUMP_MAX。具体地,在图100的表中,将2D区段EXT2D[n-1]、EXT2D[n]之间的跳跃距离SJUMP、即第n个2D区段EXT2D[n]的后端至第(n+1)个2D区段EXT2D[n+1]前端的扇区数所对应的最大跳跃时间TJUMP_MAX作为跳跃时间TJUMP-2D[n]代入式(1)中。
在二个2D区段EXT2D[n]、EXT2D[n+1]之间的跳跃J2D[n]中,由于其跳跃时间TJUMP-2D[n]被限制为最大跳跃时间TJUMP_MAX,所以其跳跃距离SJUMP、即二个2D区段EXT2D[n]、EXT2D[n+1]的间隔也被限制。将该跳跃距离SJUMP的最大值那样的跳跃时间TJUMP等于最大跳跃时间TJUMP_MAX的跳跃距离SJUMP称为‘最大跳跃距离SJUMP_MAX’。在2D影像的无缝再现中,除2D区段的大小满足式(1)外,2D区段的间隔还必需为最大跳跃距离SJUMP_MAX以下。
在各区段块内,2D区段的间隔等于从属视数据块的大小。因此,其大小被限制为最大跳跃距离SJUMP_MAX以下。具体地,2D区段间的最大跳跃时间TJUMP_MAX被限制为图100规定的最小值250秒时,该2D区段的间隔、即从属视数据块的大小被限制为对应的最大跳跃距离SJUMP_MAX=10000扇区以下。
在将配置于不同的记录层中的两个区段块之间进行无缝连接时,从位于前一个区段块的后端的第n个2D区段EXT2D[n]、到位于后一个区段块的前端的第(n+1)个2D区段EXT2D[n+1],发生长跳跃。该长跳跃伴随有焦点跳跃等记录层的切换操作。因此,该长跳跃所需要的时间除了图100的表中所规定的最大跳跃时间TJUMP_MAX之外,还包括记录层的切换操作所需要的时间即“层切换时间”。“层切换时间”例如是350m秒。结果,在第n个2D区段EXT2D[n]的大小应该满足的式(1)中,跳跃时间TJUMP_2D[n]根据两个参数TJ[n]、[n]之和确定:TJUMP_2D[n]=TJ[n]+TL[n]。第1参数TJ[n]表示按照BD-ROM盘的标准对长跳跃的跳跃距离SJUMP规定的最大跳跃时间TJUMP_MAX。该最大跳跃时间TJUMP_MAX等于图100的表中、与从第n个2D区段EXT2D[n]的后端到第(n+1)个2D区段EXT2D[n+1]的前端的扇区数相对应的值。第2参数TL[n]表示层切换时间、例如350m秒。因此,二个2D区段EXT2D[n]、EXT2D[n+1]的间隔在图100的表中被限制为从长跳跃的最大跳跃时间TJUMP_MAX中去除层切换时间后的值所对应的最大跳跃距离SJUMP_MAX以下。
《基于3D再现模式的性能的条件》
图101是表示3D再现模式的再现装置102内的再现处理系统的框图。参照图101,该再现处理系统包含图41所示的BD-ROM驱动器4101、开关4120、一对读缓冲器4121、4122及系统目标解码器4125。BD-ROM驱动器4101从BD-ROM盘101中读出区段SS,以读出速度RUD72传输到开关4120。开关4120将各区段SS分离成基本视数据块与从属视数据块。将基本视数据块存储到第1读缓冲器4121,将从属视数据块存储到第2读缓冲器4122。系统目标解码器4125从第1读缓冲器4121内的各基本视数据块中以基本视传输速度REXT1读出源包,从第2读缓冲器4122内的各从属视数据块中以从属视传输速度REXT2读出源包。系统目标解码器4125还将读出的基本视数据块与从属视数据块的对解码为影像数据VD与声音数据AD。
基本视传输速度REXT1与从属视传输速度REXT2分别等于系统目标解码器4125从基本视数据块与从属视数据块的各源包中抽取TS包的处理平均速度的192/188倍。基本视传输速度REXT1的最高值RMAX1等于对文件2D的系统速率RTS1的192/188倍。从属视传输速度REXT2的最高值RMAX2等于对文件DEP的系统速率RTS2的192/188倍。各传输速度REXT1、REXT2通常以比特/秒表示,具体地,等于用区段ATC时间除用比特单位表示的各数据块大小时的值。区段ATC时间等于将该数据块内的源包全部从读缓冲器4121、4122传输到系统目标解码器4125所需的时间。
读出速度RUD72通常以比特/秒表示,设定成比传输速度REXT1、REXT2任一的最高值RMAX1、RMAX2高的值,例如72Mbps:RUD72>RMAX1、RUD72>RMAX2。由此,防止在BD-ROM驱动器4101从BD-ROM盘101中读出一个区段SS期间、伴随系统目标解码器4125的解码处理的各读缓冲器4121、4122的下溢。
[区段块内的无缝连接]
图102(a)、(b)是表示当从一个区段块无缝再现3D影像时、各读缓冲器4121、4122中存储的数据量DA1、DA2的变化图表。图102(c)是表示该区段块8610与3D再现模式下的再现路径8620之间的对应关系的模式图。参照图102(c),根据再现路径8620,将区段块8610的整体作为一个区段SS统一读出。之后,利用开关4120从该区段SS分离从属视数据块D[k]与基本视数据块B[k](k=...、n、n+1、n+2、...)。
由BD-ROM驱动器4101执行的读出/传输动作实际上不是由图102(a)、(b)的各图表所示的连续的,而是断续的。由此,防止在各数据块D[k]、B[k]的读出期间PRD[k]、PRB[k]中,各读缓冲器4121、4122的上溢(over flow)。即,图102(a)、(b)的各图表将实际上阶段状的增减近似表示为直线增减。
参照图102(a)、(b),在第n个从属视数据块D[n]的读出期间PRD[n]中,第2读缓冲器4122的存储数据量DA2以等于读出速度RUD72与从属视传输速度REXT2[n]之间的差RUD72-REXT2[n]的速度增加,第1读缓冲器4121的存储数据量DA1以基本视传输速度REXT1[n-1]减少。参照图102(c),从第n个从属视数据块D[n]至第n个基本视数据块B[n]产生零扇区迁移J0[2n]。如图102(a)、(b)所示,在零扇区迁移期间PJ0[n]中,第1读缓冲器4121的存储数据量DA1以基本视传输速度REXT1[n-1]持续减少,第2读缓冲器4122的存储数据量DA2以从属视传输速度REXT2[n]减少。
再参照图102(a)、(b),在第n个基本视数据块B[n]的读出期间PRB[n]中,第1读缓冲器4121的存储数据量DA1以等于读出速度RUD72与基本视传输速度REXT1[n]之间的差RUD72-REXT1[n]的速度增加。另一方面,第2读缓冲器4122的存储数据量DA2以从属视传输速度REXT2[n]持续减少。再参照图102(c),从该基本视数据块B[n]至下一从属视数据块D[n+1]产生零扇区迁移J0[2n+1]。如图102(a)、(b)所示,在零扇区迁移期间PJ0[2n+1]中,第1读缓冲器4121的存储数据量DA1以基本视传输速度REXT1[n-1]减少,第2读缓冲器4122的存储数据量DA2以从属视传输速度REXT2[n]持续减少。
为了从一个区段块8610无缝再现3D影像,只要满足以下条件[3]、[4]即可。
[3]第n个基本视数据块B[n]的大小SEXT1[n]至少等于在从其读出期间PRB[n]到下一基本视数据块B[n+1]的读出期间PRB[n+1]之前,从第1读缓冲器4121向系统目标解码器4125传输的数据量。此时,如图102(a)所示,在下一基本视数据块B[n+1]的读出期间PRB[n+1]之前,第1读缓冲器4121的存储数据量DA1不低于第n个基本视数据块B[n]的读出期间PRB[n]之前的量。这里,第n个基本视数据块B[n]的读出期间PRB[n]的长度等于用读出速度RUD72除该基本视数据块B[n]的大小SEXT1[n]的值SEXT1[n]/RUD72。另一方面,第n+1个从属视数据块D[n+1]的读出期间PRD[n+1]的长度等于用读出速度RUD72除该从属视数据块D[n+1]的大小SEXT2[n+1]的值SEXT2[n+1]/RUD72。因此,该基本视数据块B[n]的大小SEXT1[n]只要为下式(2)的右边表示的最小区段大小以上即可:
[式2]
S EXT 1 [ n ] &GreaterEqual; ( S EXT 1 [ n ] R UD 72 + T JUMP 0 [ 2 n + 1 ] + S EXT 2 [ n + 1 ] R UD 72 + T JUMP 0 [ 2 n + 2 ] ) &times; R EXT 1 [ n ]
S EXT 1 [ n ] &GreaterEqual; CEIL { R EXT 1 [ n ] 8 &times; R UD 72 R UD 72 - R EXT 1 [ n ] &times; ( T JUMP 0 [ 2 n + 1 ] + S EXT 2 [ n + 1 ] R UD 72 + T JUMP 0 [ 2 n + 2 ] ) } . - - - ( 2 )
[4]第n个从属视数据块D[n]的大小SEXT2[n]至少等于在从其读出期间PRD[n]到下一从属视数据块D[n+1]的读出期间PRD[n+1]之前,从第2读缓冲器4122向系统目标解码器4125传输的数据量。此时,如图102(b)所示,在下一从属视数据块D[n+1]的读出期间PRD[n+1]之前,第2读缓冲器4122的存储数据量DA2不低于第n个从属视数据块D[n]的读出期间PRD[n]之前的量。这里,第n个从属视数据块D[n]的读出期间PRD[n]的长度等于用读出速度RUD72除该从属视数据块D[n]的大小SEXT2[n]的值SEXT2[n]/RUD72。因此,该从属视数据块D[n]的大小SEXT2[n]只要为下式(3)的右边表示的最小区段大小以上即可:
[式3]
S EXT 2 [ n ] &GreaterEqual; ( S EXT 2 [ n ] R UD 72 + T JUMP 0 [ 2 n ] + S EXT 1 [ n ] R UD 72 + T JUMP 0 [ 2 n + 1 ] ) &times; R EXT 2 [ n ]
S EXT 2 [ n ] &GreaterEqual; CEIL { R EXT 2 [ n ] 8 &times; R UD 72 R UD 72 - R EXT 2 [ n ] &times; ( T JUMP 0 [ 2 n ] + S EXT 1 [ n ] R UD 72 + T JUMP 0 [ 2 n + 1 ] ) } . - - - ( 3 )
[区段块间的无缝连接]
图103(b)是表示第M个(整数M为2以上。)区段块8701与第(M+1)个区段块8702、及这些区段块8701、8702与3D再现模式下的再现路径8720之间的对应关系的模式图。参照图103(b),二个区段块8701、8702之间由层边界LB或其他数据的记录区域分离。根据再现路径8720,先将第M个区段块8701的整体作为第M个区段SSEXTSS[M]统一读出。之后立即产生跳跃J[M]。接着,将第(M+1)个区段块8702作为第(M+1)个区段SSEXTSS[M+1]统一读出。
图103(a)是表示从二个区段块8701、8702连续无缝再现3D影像时、各读缓冲器4121、4122中存储的数据量DA1、DA2的变化、及其和DA1+DA2的变化图表群。图103(a)中,点划线的曲线表示第1读缓冲器4121中存储的数据量DA1的变化,虚线曲线表示第2读缓冲器4122中存储的数据量DA2的变化,实线曲线表示两个数据量之和DA1+DA2的变化。这里,实线曲线是每读出一个数据块产生的细微变化后直线近似成的曲线。并且,将零扇区迁移时间TJUMP0视为“0秒”。
参照图103(a),在将第M个区段块8701的整体从BD-ROM盘101读出到各读缓冲器4121、4122的期间PRBLK[M]中,任一读缓冲器4121、4122中存储的数据量DA1、DA2均增大。具体地,在第M个区段块8701整体的读出期间PRBLK[M]中,存储数据量之和DA1+DA2以等于读出速度RUD72与平均传输速度REXTSS[M]之间的差RUD72-REXTSS[M]的速度增加。该平均传输速度REXTSS[M]被评价为用该区段ATC时间TEXTSS除第M个区段块8701整体的大小、即第M个区段SSEXTSS[M]的大小SEXTSS[M]的值。
在将第M个区段块8701的后端的基本视数据块读入第1读缓冲器4121的时刻,存储数据量之和DA1+DA2达到最大值。在紧随其后的跳跃J[M]的期间PJ[M]中,存储数据量之和DA1+DA2以平均传输速度REXTSS[M]减少。因此,通过将存储数据量之和DA1+DA2的最大值调节得足够大,可防止跳跃J[M]中两个读缓冲器4121、4122的下溢。结果,可无缝连接二个区段块8701、8702。
存储数据量之和DA1+DA2的最大值由第M个区段块8701的大小决定。因此,为了将第M个区段块8701无缝连接于第(M+1)个区段块8702上,只要第M个区段块8701的大小、即第M个区段SSEXTSS[M]的大小SEXTSS[M]满足下面的条件[5]即可。
[5]在位于第M个区段块8701前端的从属视数据块D的读出期间PRD[m]中,进行预装载(整数m为1以上)。在该预装载期间PRD[m]中,对应于该从属视数据块D的基本视数据块B未存储在第1读缓冲器4121中,所以不能从第2读缓冲器4122向系统目标解码器4125传输从属视数据块D。因此,在该预装载期间PRD[m]中,接续于紧挨着的其之前的跳跃J[M-1]的期间,将第(M-1)个区段块的数据从第2读缓冲器4122传输到系统目标解码器4125,维持向系统目标解码器4125提供数据。同样,在位于第(M+1)个区段块8702前端的从属视数据块D的读出期间PRD[n]中,也进行预装载(整数n为m+1以上)。因此,在该预装载期间PRD[n]中,接续于紧挨着的其之前的跳跃J[M]的期间,将第M个区段块8701的数据从第2读缓冲器4122传输到系统目标解码器4125,维持向系统目标解码器4125提供数据。因此,为了防止跳跃J[M]中两个读缓冲器4121、4122的下溢,第M个区段SSEXTSS[M]的区段ATC时间TEXTSS至少等于从第M个区段块8701中的预装载期间PRD[m]的结束时刻T0至第(M+1)个区段块8702中的预装载期间PRD[n]的结束时刻T1的期间长度即可。即,第M个区段SSEXTSS[M]的大小SEXTSS[M]至少等于在该期间T0-T1中从各读缓冲器4121、4122传输到系统目标解码器4125的数据量之和即可。
从图103(a)可知,期间T0-T1的长度等于将第M个区段块8701的读出期间PRBLK[M]的长度、跳跃J[M]的跳跃时间TJUMP[M]及区段块8701、8702之间的预装载期间PRD[n]、PRD[m]的长度差TDIFF[M]相加后的值。并且,第M个区段块8701的读出期间PRBLK[M]的长度等于用读出速度RUD72除第M个区段SSEXTSS[M]的大小SEXTSS[M]的值SEXTSS[M]/RUD72。因此,第M个区段SSEXTSS[M]的大小SEXTSS[M]只要为下式(4)的右边表示的最小区段大小以上即可:
[式4]
S EXTSS [ M ] &GreaterEqual; ( S EXTSS [ M ] R UD 72 + T JUMP [ M ] + T DIFF [ M ] ) &times; R EXTSS [ M ]
S EXTSS [ M ] &GreaterEqual; R UD 72 &times; R EXTSS [ M ] R UD 72 - R EXTSS [ M ] &times; ( T JUMP [ M ] + T DIFF [ M ] ) . - - - ( 4 )
这里,各预装载期间PRD[m]、PRD[n]的长度等于用读出速度RUD72除位于各区段块8701、8702前端的从属视数据块D[n]的大小SEXT2[m]、SEXT2[n]的值SEXT2[m]/RUD72、SEXT2[n]/RUD72。因此,预装载期间PRD[m]、PRD[n]的长度差TDIFF等于这些值的差:TDIFF=SEXT2[n]/RUD72-SEXT2[m]/RUD72。另外,式(4)的右边与式(1)-(3)的右边一样,也可由字节单位的整数值表示。
另外,在如下执行复用流数据的解码处理的情况下,式(4)的右边也可将差TDIFF视为0。首先,事先求出复用流数据整体的差TDIFF的最大值、即差TDIFF的最差值。接着,当再现该复用流数据时,使其解码处理的开始时刻比该读出开始时刻延迟等于差TDIFF的最差值的时间。
《用于削减读缓冲器容量的条件》
图104(a)、(b)是表示从图103(b)所示的二个区段块8701、8702连续无缝再现3D影像时、各读缓冲器4121、4122中存储的数据量DA1、DA2的变化图表。参照图104(a),在将第M个区段块8701的后端的基本视数据块B[n-1]读入第1读缓冲器4121的时刻,第1读缓冲器4121的存储数据量DA1达到极大值DM1。并且在从紧随其后的跳跃J[M]的期间PJ[M]起至第(M+1)个区段块8702的预装载期间PRD[n],存储数据量DA1以基本视传输速度REXT1[n-1]减少。因此,为了防止在该预装载期间PRD[n]结束之前存储数据量DA1达到0,只要存储数据量DA1的极大值DM1为在跳跃期间PJ[M]与预装载期间PRD[n]中从第1读缓冲器4121传输到系统目标解码器4125的数据量以上即可。即,只要存储数据量DA1的极大值DM1为向跳跃期间PJ[M]的长度TJUMP[M]与预装载期间PRD[n]的长度SEXT2[n]/RUD72之和乘以基本视传输速度REXT1[n-1]的值以上即可:DM1≥(TJUMP[M]+SEXT2[n]/RUD72)×REXT1[n-1]。这里,当跳跃期间PJ[M]的长度TJUMP[M]等于跳跃J[M]的最大跳跃时间TJUMP_MAX,并且,基本视传输速度REXT1[n-1]等于最大值RMAX1时,存储数据量DA1的极大值DM1最大。因此,对第1读缓冲器4121求出此时的极大值DM1以上的容量RB1:RB1≥(TJUMP_MAX+SEXT2[n]/RUD72)×REXT1
另一方面,参照图104(b),在开始读入第M个区段块8702的后端的基本视数据块B[n-1]的时刻,第2读缓冲器4122的存储数据量DA2达到极大值DM2。并且在从该基本视数据块B[n-1]的读出期间起至第(M+1)个区段块8702的预装载期间PRD[n],存储数据量DA2以从属视传输速度REXT2[n-1]减少。因此,为了在该预装载期间PRD[n]结束之前维持向系统目标解码器4125提供数据,只要存储数据量DA2的极大值DM2为基本视数据块B[n-1]的读出期间、跳跃期间PJ[M]及预装载期间PRD[n]中从第2读缓冲器4122传输到系统目标解码器4125的数据量以上即可。即,只要存储数据量DA2的极大值DM2为向基本视数据块B[n-1]的读出期间长度SEXT1[n-1]/RUD72、跳跃期间PJ[M]的长度TJUMP[M]及预装载期间PRD[n]的长度SEXT2[n]/RUD72之和乘以从属视传输速度REXT2[n-1]的值以上即可:DM2≥(SEXT1[n-1]/RUD72+TJUMP[M]+SEXT2[n]/RUD72)×REXT2[n-1]。这里,当跳跃期间P J[M]的长度TJUMP[M]等于跳跃J[M]的最大跳跃时间TJUMP_MAX,并且,从属视传输速度REXT2[n-1]等于最大值RMAX2时,存储数据量DA2的极大值DM2最大。因此,对第2读缓冲器4122求出此时的极大值DM2以上的容量RB2:RB2≥(SEXT1[n-1]/RUD72+TJUMP_MAX+SEXT2[n]/RUD72)×RMAX2。因此,由于任一从属视数据块均可通过跳入再现而成为最初读入的数据块,所以第2读缓冲器4122的容量RB2必需低于任一从属视数据块的大小:RB2≥SEXT2[k](整数k为任意值)。
如上所述,各读缓冲器4121、4122的容量RB1、RB2的下限值由数据块的大小SEXT1[k]、SEXT2[k]决定。因此,以各容量RB1、RB2的节约为目的,由以下条件[6]限制各数据块的大小SEXT1[k]、SEXT2[k]的上限值、即最大区段大小。
[6]如图19所示,各区段块1901-1903内的基本视数据块B[k]由文件2D与文件SS共享。因此,基本视数据块B[k]的大小SEXT1[k]应满足式(1)。另一方面,为了尽可能缩小第1读缓冲器4121的容量RB1,只要基本视数据块B[k]的大小SEXT1[k]为2D区段的最小区段大小的下限值以下即可。即,只要该大小SEXT1[k]为下式(5)右边表示的最大区段大小以下即可:
[式5]
S EXT 1 [ k ] &le; CEIL ( R EXT 1 [ k ] 8 &times; R UD 54 R UD 54 - R MAX 1 &times; T JUMP - 2 D _ MIN ) . - - - ( 5 )
这里,跳跃时间TJUMP-2D_MIN为各区段块1901-1903内必需的跳跃时间的最小值、即2D区段间的最大跳跃时间TJUMP_MAX的最小值。具体地,跳跃时间TJUMP-2D_MIN设定为图100的表中设定的最小值250秒。另一方面,2D区段的间隔等于从属视数据块D[k]的大小SEXT2[k]。因此,当将跳跃时间TJUMP-2D_MIN设定为250秒时,从属视数据块D[k]的大小SEXT2[k]被限制为图100的表中对应于最大跳跃时间TJUMP_MAX=250秒的最大跳跃距离SJUMP_MAX=10000扇区以下。即,从属视数据块的最大区段大小为10000扇区。
《汇总》
为了从多个区段块无缝再现2D影像与3D影像之一,只要满足全部上述条件[1]-[6]即可。尤其是各数据块与各区段块的大小只要满足下面的条件1-5即可。
条件1:2D区段的大小SEXT2D满足式(1)。
条件2:基本视数据块的大小SEXT1满足式(2)。
条件3:从属视数据块的大小SEXT2满足式(3)。
条件4:区段块的大小SEXTSS满足式(4)。
条件5:基本视数据块的大小SEXT1满足式(5)。
《条件1的变形例》
从图21所示的2D再现模式的再现路径2101可知,2D再现模式下频繁产生跳跃。因此,为了更可靠地执行无缝再现,最好向式(1)右边表示的2D区段的最小区段大小再追加余量(margin)。但是,应避免因该余量的追加而变更式(5)。这样,追加余量的方法有如下三种。
第1方法通过将式(1)右边分母中包含的平均传输速度REXT2D置换为其最大值RMAX,向2D区段的最小区段大小追加余量。即,条件1变更成2D区段的大小SEXT2D代替式(1)满足下式(6):
[式6]
S EXT 2 D [ n ] &GreaterEqual; CEIL ( R EXT 2 D [ n ] 8 &times; R UD 54 R UD 54 - R MAX &times; T JUMP - 2 D [ n ] ) . - - - ( 6 )
第2方法通过将2D区段的区段ATC时间延长ΔT秒,向2D区段的最小区段大小追加余量。即,条件1变更成2D区段的大小SEXT2D代替式(1)满足下式(7A)或(7B):
[式7]
S EXT 2 D [ n ] &GreaterEqual; CEIL { R EXT 2 D [ n ] 8 &times; ( R UD 54 R UD 54 - R EXT 2 D [ n ] &times; T JUMP - 2 D [ n ] + &Delta;T ) } , . - - - ( 7 A )
S EXT 2 D [ n ] &GreaterEqual; CEIL { R EXT 2 D [ n ] 8 &times; ( R UD 54 R UD 54 - R MAX &times; T JUMP - 2 D [ n ] + &Delta;T ) . . - - - ( 7 B )
延长时间ΔT也可由GOP的长度、或每规定时间可再现的区段数量的上限决定。例如,若GOP的长度为最大1秒,则设定为ΔT=0.1秒。另一方面,若每规定时间[秒]可再现的区段数量的上限为n个,则设定为ΔT=规定时间/n[秒]。
第3方法通过将式(1)右边包含的平均传输速度REXT2D置换为其最大值RMAX,向2D区段的最小区段大小追加余量。即,条件1变更成2D区段的大小SEXT2D代替式(1)满足下式(8):
[式8]
S EXT 2 D [ n ] &GreaterEqual; CEIL ( R MAX 8 &times; R UD 54 R UD 54 - R MAX &times; T JUMP - 2 D [ n ] ) . - - - ( 8 )
在该方法中,可向最小区段大小追加更大的余量。但是,相反,即便在2D区段的比特率低的情况下,也必需确保该大小足够大。因此,余量的大小与向BD-ROM盘的数据记录效率的比较衡量是必需的。
<层边界前后的再现路径的分离>
图21中,2D再现模式下的再现路径2101与3D再现模式下的再现路径2102均在即将用于越过层边界LB的长跳跃JLY之前通过相同基本视数据块B[3]。即,该基本视数据块B[3]从2D再现模式的再现装置102作为第二个2D区段EXT2D[1]读出,从3D再现模式的再现装置102作为区段SSEXTSS[1]内最后的数据块读出。长跳跃JLY中应由系统目标解码器处理的数据量在2D再现模式下由条件1以该基本视数据块B[3]单体的大小确保。另一方面,在3D再现模式下由条件4以第二个区段块1902整体的大小确保。因此,由条件1要求基本视数据块B[3]的最小区段大小一般比基于条件2的最小区段大小大。因此,第1读缓冲器4121的容量必需比3D再现模式下无缝再现所需的最小限度的值大。并且,在该基本视数据块B[3]与紧挨着的位于其之前的从属视数据块D[3]中,区段ATC时间相等。因此,该从属视数据块D[3]的大小一般比由条件2要求该数据块D[3]的最小区段大小大。因此,第2读缓冲器4122的容量一般比3D再现模式下无缝再现所需的最小限度的值大。这样,在图21所示的配置中,虽然二个区段块1902、1903之间可无缝连接,但必需确保读缓冲器4121、4122的容量足够大。
为了能在保持长跳跃JLY中无缝再现影像的状态下,进一步削减读缓冲器4121、4122的容量,只要在层边界LB等该长跳跃JLY必需的位置前后,从交织配置变更数据块群的配置,在2D再现模式与3D再现模式之间分离再现路径即可。这种变更模式(pattern)中例如有下述的二种配置1、2。配置1、2任一中,再现路径均在即将长跳跃JLY之前通过每个动作模式下不同的基本视数据块。结果,如后所述,使再现装置102维持读缓冲器4121、4122的容量为必要最小限度不变,可容易实现长跳跃JLY中影像的无缝再现。
《配置1》
图105是表示BD-ROM盘101的层边界LB前后记录的数据块群的物理配置的第1例的模式图。下面,将该配置称为‘配置1’。参照图105,在层边界LB之前配置第1区段块8901,在层边界LB之后配置第2区段块8902。各区段块8901、8902内,从属视数据块D[n]与基本视数据块B[n]构成交织配置(n=...、0、1、2、3、...)。尤其是第n个数据块对D[n]、B[n]中,区段ATC时间相等。在配置1中,还在第1区段块8901的后端B[1]与层边界LB之间配置一个基本视数据块B[2]2D。该基本视数据块B[2]2D以比特单位(bit-for-bit)与第2区段块8902内的前端基本视数据块B[2]SS一致。下面,将前者B[2]2D称为‘2D再现专用块’,将后者B[2]SS称为‘SS再现专用块’。
图105所示的基本视数据块中,SS再现专用块B[2]SS以外的块可作为文件2D8910的区段、即2D区段EXT2D[·]访问。例如,从第1区段块8901的最后起第二个基本视数据块B[0]、最后的基本视数据块B[1]与2D再现专用块B[2]2D的对B[1]+B[2]2D、及第2区段块8902内的第二个基本视数据块B[3],分别可作为单一2D区段EXT2D[0]、EXT2D[1]、EXT2D[2]访问。另一方面,图105所示的从属视数据块D[n](n=...、0、1、2、3、...)可分别作为文件DEP8912的单一区段、即从属视区段EXT2[n]访问。
在图105所示的数据块群中,如下实现AV流文件的交叉链接(cross-link)。各区段块8901、8902的整体可作为文件SS8920的单一区段EXTSS[0]、EXTSS[1]访问。因此,各区段块8901、8902内的基本视数据块B[0]、B[1]、B[3]由文件2D8910与文件SS8920共享。相反,2D再现专用块B[2]2D仅可作为位于紧挨着层边界LB的之前的2D区段EXT2D[1]的一部分访问。另一方面,SS再现专用块B[2]SS仅可作为紧挨着层边界LB的之后的区段SSEXTSS[1]的一部分访问。因此,2D再现专用块B[2]2D以外的基本视数据块B[0]、B[1]、B[2]SS、B[3]可作为文件基本8911的区段、即基本视区段EXT1[n](n=0、1、2、3)从区段SSEXT[0]、EXTSS[1]中抽取。
图106是表示对图105所示的配置1的数据块群的2D再现模式下的再现路径9010与3D再现模式下的再现路径9020的模式图。
2D再现模式的再现装置102再现文件2D8910。因此,如2D再现模式下的再现路径9010所示,首先将从第1区段块8901内的最后起第二个基本视数据块B[0]作为最初的2D区段EXT2D[0]读出,其之后的从属视数据块D[1]的读出被最初的跳跃J2D1跳过。接着,第1区段块8901内的最后基本视数据块B[1]与其之后的2D再现专用块B[2]2D的对B[1]+B[2]2D作为第二个2D区段EXT2D[1]连续读出。在紧随其后的层边界LB中产生长跳跃JLY,位于第2区段块8902前端的3个数据块D[2]、B[2]SS、D[3]的读出被跳过。接着,第2区段块8902内的第二个基本视数据块B[3]作为第三个2D区段EXT2D[2]读出。
3D再现模式的再现装置102再现文件SS8920。因此,如3D再现模式下的再现路径9020所示,首先将第1区段块8901的整体作为最初的区段SSEXTSS[0]连续读出。之后,产生立即长跳跃JLY,2D再现专用块B[2]2D的读出被跳过。接着,第2区段块8902的整体作为第二个区段SSEXTSS[1]连续读出。
如图106所示,在2D再现模式下,读出2D再现专用块B[2]2D,但跳过SS再现专用块B[2]SS的读出。相反,在3D再现模式下,跳过2D再现专用块B[2]2D的读出,但读出SS再现专用块B[2]SS。但是,双方的数据块B[2]2D、B[2]SS以比特单位一致,所以任一再现模式中,再现的基本视视频帧均相等。这样,在配置1中,在长跳跃JLY的前后,2D再现模式下的再现路径9010与3D再现模式下的再现路径9020分离。因此,与图21所示的配置不同,位于紧挨着层边界LB的之前的2D区段EXT2D[1]的大小SEXT2D[1]与紧挨着的之前的从属视数据块D[1]的大小SEXT[1]可如下所述分别决定。
该2D区段EXT2D[1]的大小SEXT2D[1]等于基本视数据块B[1]的大小SEXT1[1]与2D再现专用块B[2]2D的大小S2D之和SEXT1[1]+S2D。因此,为了无缝再现2D影像,首先只要该和SEXT1[1]+S2D满足条件1即可。这里,式(1)的右边代入长跳跃JLY的最大跳跃时间Tjump_max,作为跳跃时间Tjump-2D。接着,只要从2D再现专用块B[2]2D的后端起至第2区段块8902内的最初2D区段EXT2D[2]=B[3]的扇区数量为与2D再现装置的能力一致地规定的长跳跃JLY的最大跳跃距离Sjump_max以下即可。
另一方面,为了无缝再现3D影像,首先只要位于最初区段SSEXTSS[0]后端的从属视数据块D[1]与基本视数据块B[1]的各大小SEXT2[1]、SEXT1[1]满足条件3、2即可。这里,与长跳跃JLY的发生无关,只要式(3)、(2)的各自右边代入零扇区迁移时间的典型值作为零扇区迁移时间TJUMP0[2n+1]、TJUMP0[2n+2]即可。接着,只要最初区段SSEXTSS[0]的大小满足条件4即可。并且,从该区段SSEXTSS[0]的后端起至下一区段SSEXTSS[1]前端的扇区数量为与3D再现装置的能力一致地规定的长跳跃JLY的最大跳跃距离Sjump_max以下即可。
位于紧挨着层边界LB的之前的2D区段EXT2D[1]中由最初的区段SSEXTSS[0]共享的是仅为位于前侧的基本视数据块B[1]。因此,通过适当扩大2D再现专用块B[2]2D的大小S2D,可将2D区段EXT2D[1]的大小SEXT2D[1]=SEXT1[1]+S2D维持固定不变,将基本视数据块B[1]的大小SEXT1[1]限制得更小。此时,缩短该基本视数据块B[1]的区段ATC时间。因此,也可将位于紧挨着的之前的从属视数据块D[1]的大小SEXT2[1]限制得更小。
由于SS再现专用块B[2]SS以比特单位与2D再现专用块B[2]2D一致,所以2D再现专用块B[2]2D的大小S2D的扩大使紧挨着SS再现专用块B[2]SS的之前的从属视数据块D[2]的大小扩大。但是,该大小可比图21所示的、位于紧挨着层边界LB的之前的从属视数据块D[3]的大小小得多。这样,可使各读缓冲器4121、4122的容量更接近3D影像无缝再现所需的最小限度的值。结果,在配置1中,可设计各数据块的大小,以便能在将再现装置102内应确保的读缓冲器的容量抑制为必要最小限度不变的状态下,在长跳跃中无缝再现2D影像与3D影像之一。
在配置1中,2D再现专用块B[2]2D的复制数据作为第2区段块5202中单一的SS再现专用块B[2]SS配置。此外,也可将该复制数据分割成二个以上的SS再现专用块来配置。
《配置2》
图107是表示BD-ROM盘101的层边界LB前后记录的数据块群的物理配置的第2例的模式图。下面,将该配置称为‘配置2’。将图107与图105相比,配置2与配置1的主要区别在于包含SS再现专用块B[2]SS、B[3]SS的区段块9102配置在紧挨着层边界LB的前方。
参照图107,在层边界LB之前顺序配置第1区段块9101、2D再现专用块(B[2]+B[3])2D及第2区段块9102,在层边界LB之后配置第3区段块9103。各区段块9101-9103内,从属视数据块D[n]与基本视数据块B[n]构成交织配置(n=...、0、1、2、3、4、...)。尤其是第n个数据块对D[n]、B[n]中,区段ATC时间相等。第2区段块9102中,位于第1区段块9101后端的数据块D[1]、B[1]全部与位于第3区段块9103前端的数据块D[4]、B[4]全部的流数据内容连续。第2区段块9102中包含的基本视数据块均为SS再现专用块B[2]SS、B[3]SS,其整体B[2]SS+B[3]SS以比特单位与位于其前的2D再现专用块(B[2]+B[3])2D一致。
图107所示的基本视数据块中,SS再现专用块B[2]SS、B[3]SS以外的块可作为文件2D9110的区段EXT2D[0]、EXT2D[1]、EXT2D[2]访问。尤其是第1区段块9101内最后的基本视数据块B[1]与2D再现专用块(B[2]+B[3])2D的对可作为单一2D区段EXT2D[1]访问。并且,第2区段块9102以外的区段块9101、9103内的基本视数据块B[0]、B[1]、B[4]还可作为文件基本9111的区段EXT1[0]、EXT1[1]、EXT1[4]从文件SS9120的区段EXTSS[0]、EXTSS[1]中抽取。相反,2D再现专用块(B[2]+B[3])2D仅可作为2D区段EXT2D[1]的一部分抽取。另一方面,SS再现专用块B[2]SS、B[3]SS可分别作为基本视区段EXT1[2]、EXT1[3]从区段SSEXTSS[1]中抽取。
图108是表示对图107所示的配置2的数据块群的2D再现模式下的再现路径9210与3D再现模式下的再现路径9220的模式图。
2D再现模式的再现装置102再现文件2D9110。因此,如2D再现模式下的再现路径9210所示,首先将从第1区段块9101内的最后起第二个基本视数据块B[0]作为最初的2D区段EXT2D[0]读出,紧随其后的从属视数据块D[1]的读出被最初的跳跃J2D1跳过。接着,第1区段块9101内的最后基本视数据块B[1]与紧随其后的2D再现专用块(B[2]+B[3])2D的对作为第二个2D区段EXT2D[1]连续读出。在紧随其后产生长跳跃JLY,第2区段块9102的读出及位于第3区段块9102前端的从属视数据块D[4]的读出被跳过。接着,第3区段块9103内的最初基本视数据块B[4]作为第三个2D区段EXT2D[2]读出。
3D再现模式的再现装置102再现文件SS9120。因此,如3D再现模式下的再现路径9220所示,首先将第1区段块9101的整体作为第1区段SSEXTSS[0]连续读出。之后立即产生跳跃JEX,2D再现专用块(B[2]+B[3])2D的读出被跳过。接着,第2区段块9102的整体作为第2区段SSEXTSS[1]连续读出。之后,立即产生用于越过层交界LB的长跳跃JLY。接着,第3区段块9103的整体作为第3区段SSEXTSS[2]连续读出。
如图108所示,在2D再现模式下,读出2D再现专用块(B[2]+B[3])2D,但跳过SS再现专用块B[2]SS、B[3]SS的读出。相反,在3D再现模式下,跳过2D再现专用块(B[2]+B[3])2D的读出,但读出SS再现专用块B[2]SS、B[3]SS。但是,2D再现专用块(B[2]+B[3])2D与SS再现专用块B[2]SS、B[3]SS以比特单位一致,所以任一再现模式中,再现的基本视视频帧均相等。这样,在配置2中,在长跳跃JLY的前后,2D再现模式下的再现路径9210与3D再现模式下的再现路径9220分离。因此,位于紧挨着层边界LB的之前的2D区段EXT2D[1]的大小SEXT2D[1]与紧挨着的之前的从属视数据块D[1]的大小SEXT2[1]可如下所述分别决定。
该2D区段EXT2D[1]的大小SEXT2D[1]等于基本视数据块B[1]的大小SEXT1[1]与2D再现专用块(B[2]+B[3])2D的大小S2D之和SEXT1[1]+S2D。因此,为了无缝再现2D影像,首先只要该和SEXT1[1]+S2D满足条件1即可。这里,式(1)的右边代入长跳跃JLY的最大跳跃时间Tjump_max,作为跳跃时间Tjump-2D。接着,只要从2D再现专用块(B[2]+B[3])2D的后端起至第3区段块9103内的最初2D区段EXT2D[2]=B[4]的扇区数量为与2D再现装置的能力一致地规定的长跳跃JLY的最大跳跃距离Sjump_max以下即可。
另一方面,为了无缝再现3D影像,首先只要位于第1区段SSEXTSS[0]后端的从属视数据块D[1]与基本视数据块B[1]的各大小SEXT2[1]、SEXT1[1]满足条件3、2即可。这里,与跳跃JEX的发生无关,只要式(3)、(2)的各自右边代入零扇区迁移时间的典型值作为零扇区迁移时间TJUMP0[2n+1]、TJUMP0[2n+2]即可。接着,只要位于第2区段SSEXTSS[1]后端的从属视数据块D[3]与SS再现专用块B[3]SS的各大小SEXT2[3]、SEXT1[3]满足条件3、2即可。这里,与长跳跃JLY的发生无关,只要式(3)、(2)的各自右边代入零扇区迁移时间的典型值作为零扇区迁移时间TJUMP0[2n+1]、TJUMP0[2n+2]即可。
2D区段EXT2D[1]中由区段SSEXTSS[1]共享的是仅为位于前侧的基本视数据块B[1]。因此,通过适当扩大2D再现专用块(B[2]+B[3])2D的大小S2D,可在将2D区段EXT2D[1]的大小SEXT2D[1]=SEXT1[1]+S2D维持固定不变的状态下,将基本视数据块B[1]的大小SEXT1[1]限制得更小。与之相伴,紧挨着的之前的从属视数据块D[1]的大小SEXT2[1]也可限制得更小。
这里,3D再现专用块整体B[2]SS+B[3]SS以比特单位与2D再现专用块(B[2]+B[3])2D一致。因此,若扩大2D再现专用块(B[2]+B[3])2D的大小S2D,则位于紧挨着各3D再现专用块B[2]SS、B[3]SS的之前的从属视数据块D[2]、D[3]的大小扩大。但是,相对一个2D再现专用块(B[2]+B[3])2D,将3D再现专用块分割成二个B[2]SS、B[3]SS。结果,可使各3D再现专用块B[2]SS、B[3]SS的大小足够小。这样,各读缓冲器4121、4122的容量可进一步削减至3D影像无缝再现所需的最小限度的值。结果,在配置2中,可设计各数据块的大小,以便能在将再现装置102内应确保的读缓冲器的容量抑制为必要最小限度不变的情况下,均无缝再现2D影像与3D影像之一。
在配置2中,2D再现专用块(B[2]+B[3])2D的复制数据分割为二个SS再现专用块B[2]SS、B[3]SS配置。此外,该复制数据也可是单一的SS再现专用块,或分割成三个以上的SS再现专用块来配置。
<区段对标志>
图109是表示对文件基本9301与文件DEP9302的各区段EXT1[k]、EXT2[k](整数k为0以上。)设定的入口点9310、9320的模式图。文件基本9301的入口点9310由2Dclip信息文件的入口映射定义,文件DEP9302的入口点9320由从属视clip信息文件的入口映射定义。各入口点9310、9320尤其包含区段对标志。‘区段对标志’(extent pair flag)表示当文件基本9301的入口点与文件DEP9302的入口点表示相同PTS时,各自设定的区段EXT1[i]、EXT2[j]是否是从各文件9301、9302开头起的相同顺序(i=j或i≠j)。参照图109,对第(n+1)个(整数n为1以上。)基本视区段EXT1[n]设定的最初入口点9330的PTS等于对第(n-1)个从属视区段EXT2[n-1]设定的最后入口点9340的PTS。因此,将各入口点9330、9340的区段对标志的值设定为“0”。同样,对第(n+1)个基本视区段EXT1[n]设定的最后入口点9331的PTS等于对第(n+1)个从属视区段EXT2[n+1]设定的最初入口点9341的PTS。因此,将各入口点9331、9341的区段对标志的值设定为“0”。其他入口点9310、9320由于当PTS相等时设定对象的区段EXT1[·]、EXT2[·]的顺序也相等,所以将区段对标志的值设定为“1”。
3D再现模式的再现装置102当开始跳入再现时,参照再现开始位置的入口点的区段对标志,当其值为“1”的情况下,从该入口点起实际开始再现。在该值为“0”的情况下,从该入口点前后搜索区段对标志的值为“1”的其他入口点,从该其他入口点开始再现。这样,第n个从属视区段EXT2[n]可靠地在第n个基本视区段EXT1[n]之前被读出。结果,可简化跳入再现处理。
区段对标志=0的入口点间隔也可限制为与其对应的显示时间长度为规定秒数以下,例如每1GOP的显示时间长度最大值的2倍以下。由此,可缩短跳入再现开始时、伴随区段对标志=1的入口点搜索的到再现开始前的等待时间。此外,区段对标志=0的入口点的下一入口点中,也可将区段对标志的值限制为“1”。另外,也可将角度切换标志作为区段对标志来代用。这里,所谓‘角度切换标志’是就对应于多角度的内容在入口映射内准备的标志,表示复用流数据中角度的切换位置(多角度参照后述)。
<数据块间的再现期间的一致>
在区段ATC时间相等的数据块对中,也可以是再现期间一致,且视频流的再现时间相等。即,这些数据块间VAU的数量也可相等。其意义如下所述。
图110(a)是表示邻接的基本视数据块与从属视数据块之间、区段ATC时间不同、且视频流的再现时间不同时的再现路径的模式图。参照图110(a),开头基本视数据块B[0]的再现时间为4秒,开头的从属视数据块D[0]的再现时间为1秒。这里,从属视数据块D[0]的解码所需的基本视视频流的一部分具有与该从属视数据块D[0]相等的再现时间。因此,为了节约再现装置内的读缓冲器的容量,如图110(a)中箭头ARW1所示,最好向再现装置以每相同再现时间、例如每1秒钟交互读入基本视数据块B[0]与从属视数据块D[0]。但是,此时,如图110(a)中虚线所示,在读出处理中途产生跳跃。结果,难以使读出处理与解码处理一致,所以难以可靠持续无缝再现。
图110(b)是表示邻接的基本视数据块与从属视数据块之间、视频流的再现时间相等时的再现路径的模式图。如图110(b)所示,邻接的一对数据块之间,视频流的再现时间也可相等。例如,在开头的数据块对B[0]、D[0]中,视频流的再现时间都等于1秒,在第二个数据块对B[1]、D[1]中,视频流的再现时间都等于0.7秒。此时,3D再现模式的再现装置如图110(b)中箭头ARW2所示,从开头起顺序读出数据块B[0]、D[0]、B[1]、D[1]、...。仅此,再现装置即可顺利实现每相同再现时间交互读出主TS与辅TS。尤其是该读出处理中不产生跳跃,所以3D影像的无缝再现能够可靠持续。
实际上若邻接的基本视数据块与从属视数据块之间区段ATC时间相等,则读出处理中不产生跳跃,可维持解码处理的同步。因此,即便再现期间或视频流的再现时间不相等,也与图110(b)所示的情况一样,再现装置仅通过从开头起顺序读出数据块群,即可可靠持续3D影像的无缝再现。
在邻接的基本视数据块与从属视数据块之间,VAU的任一个的头的数量、或PES头的数量也可相等。在数据块间的解码处理同步中利用这些头。因此,若数据块间头的数量相等,则即便VAU本身的数量不相等,也较容易维持解码处理的同步。并且,与VAU本身的数量相等的情况不同,VAU的数据也可不全部复用于相同数据块内。因此,在BD-ROM盘101的创作工序中,流数据的复用的自由度高。
邻接的基本视数据块与从属视数据块之间,入口点的数量也可相等。再参照图109,若去除区段对标志=0的入口点9330、9340、9331、9341,则文件基本9301与文件DEP9302中,从开头起相同顺序的区段EXT1[k]、EXT2[k]包含相同数量的入口点9310、9320。2D再现模式与3D再现模式中,跳跃的有无不同。但是,当在数据块间入口点的数量相等时,再现时间也实质上相等。因此,无论有无跳跃,均可容易维持解码处理的同步。并且,与VAU本身的数量相等的情况不同,VAU数据的全部也可不复用于相同数据块内。因此,在BD-ROM盘101的创作工序中,流数据的复用的自由度高。
<多角度>
图111(a)是表示对应于多角度的复用流数据的再现路径的模式图。参照图111(a),在该复用流数据上复用基本视、右视及深度映射等三种流数据L、R、D。例如,在L/R模式下,平行再现基本视与右视的流数据L、R。并且,在多角度期间PANG再现的部分上复用不同角度(视野角)的流数据Ak、Bk、Ck(k=0、1、2、...、n)。各角度的流数据Ak、Bk、Ck被分割成再现时间等于角度改变间隔的部分。在各部分Ak、Bk、Ck上还复用基本视、右视及深度映射的各流数据。在多角度期间PANG中,可对应于用户的操作或应用程序的指示,在不同角度的流数据Ak、Bk、Ck之间切换再现对象。
图111(b)是表示BD-ROM盘上记录的数据块群9501与对其的L/R模式下的再现路径9502的模式图。该数据块群9501包含图111(a)所示的流数据L、R、D、Ak、Bk、Ck。参照图111(b),在该数据块群9501中,除通常的流数据L、R、D外,还以交织配置记录了不同角度的流数据Ak、Bk、Ck。在L/R模式下,如再现路径9502所示,读出右视数据块R与基本视数据块L,深度映射数据块D的读出因跳跃而被跳过。还读出不同角度的流数据Ak、Bk、Ck中被选择的流数据的数据块A0、B1、...、Cn,其他数据块的读出因跳跃而被跳过。
图111(c)是表示构成不同角度的流数据Ak、Bk、Ck的区段块的模式图。参照图111(c),在各角度的流数据Ak、Bk、Ck中,三种数据块L、R、D构成交织配置。在L/R模式下,如再现路径9502所示,从不同角度的流数据Ak、Bk、Ck之中被选择的流数据的数据块A0、B1、...、Cn中,读出右视数据块R与基本视数据块L,另一方面,其他数据块的读出因跳跃而被跳过。
另外,在各角度的流数据Ak、Bk、Ck中,基本视、右视及深度映射的各流数据也可容纳于单一的复用流数据中。但是,其记录速率必需抑制在2D再现装置可再现的系统速率的范围内。另外,在该复用流数据与其他3D影像的复用流数据之间,应传输给系统目标解码器的流数据(TS)的数量不同。因此,3D播放列表文件内的各PI也可包含表示再现对象的TS数量的标志。可利用该标志,在一个3D播放列表文件中切换这些复用流数据。在3D再现模式中将二个TS规定为再现对象的PI中,该标志表示2TS。另一方面,在将上述复用流数据那样的单一TS规定为再现对象的PI中,该标志表示1TS。3D再现装置可对应于该标志的值来切换系统目标解码器的设定。该标志也可由连接条件(CC)的值表现。例如当CC表示“7”时,表示从2TS移到1TS,当表示“8”时,表示从1TS移到2TS。
图112是表示构成多角度期间的数据块群9601、及对其的2D再现模式下的再现路径9610与L/R模式下的再现路径9620的模式图。参照图112,该数据块群9601由三种角度改变区间ANG1#k、ANG2#k、ANG3#k(k=1、2、...、6、7)的交织配置构成。‘角度改变区间’是指连续存储从一个角度看到的影像的流数据的一系列数据块群。在种类不同的角度改变区间中,影像的角度不同。各种类的第k个角度改变区间ANG1#k、ANG2#k、ANG3#k相互邻接。各角度改变区间ANGm#k(m=1、2、3)由一个区段块构成,即作为一个区段SSEXTSS[k]被参照(k=10、11、...、23)。由此,与多个角度改变区间构成一个区段SSEXTSS[k]的情况相比,可削减读缓冲器的容量。各区段块还各包含一个从属视数据块R与基本视数据块L。这些数据块对R、L作为第n个从属视区段EXT2[n]与第n个基本视区段EXT1[n]的对而被参照(整数n为0以上)。
各区段块的大小满足条件1-4。尤其是条件1中应考虑的跳跃是用于跳过2D再现模式下的再现路径9610所示的其他角度改变区间的读出的跳跃JANG-2D。另一方面,条件4中应考虑的跳跃是用于跳过L/R模式下的再现路径9620所示的其他角度改变区间的读出的跳跃JANG-LR。如各再现路径9610、9620所示,任一跳跃JANG-2D、JANG-LR一般也包含角度的切换、即读出对象的角度改变区间的种类切换。
再参照图112,各角度改变区间包含一个基本视数据块。因此,基本视区段EXT1[·]的区段ATC时间被限制为角度改变区间的长度最大值TANG以下。例如,为了可以每显示时间2秒进行1次的比例来执行角度的切换,必需将角度改变区间的长度最大值TANG限制在2秒之内。结果,将基本视区段EXT1[·]的区段ATC时间限制为2秒以下。因此,条件5变更为基本视区段的大小SEXT1代替式(5)满足下式(9)。
[式9]
S EXT 1 [ k ] &le; max ( R EXT 1 [ k ] &times; R UD 54 R UD 54 - R MAX 1 &times; T JUMP - 2 D _ MIN , R EXT 1 [ k ] &times; T ANG ) . - - - ( 9 )
<经由广播、通信线路的数据分发>
本发明的实施方式的记录介质除了光盘之外,还包括例如包含SD存储卡的可移动半导体存储器装置等能够用作封装介质的全部可移动介质。并且,在上述实施方式的说明中,列举了预先记录有数据的光盘的示例,即BD-ROM盘或者DVD-ROM等已有的只读的光盘。但是,本发明的实施方式不限于这些光盘。例如,在利用终端装置将通过广播或者经由网络而分发的3D影像的内容向BD-RE或者DVD-RAM等已有的可写入型光盘中写入时,也能够利用实施方式1的区段的配置。在此,该终端装置可以装配在再现装置中,也可以是独立于再现装置的装置。
<半导体存储卡的再现>
作为本发明的实施方式的记录介质,针对取代光盘的、使用半导体存储卡时的再现装置的数据读取部进行说明。
再现装置中从光盘读取数据的部分例如由光盘驱动器构成。与此相对,从半导体存储卡读取数据的部分由专用的接口(I/F)构成。更具体地讲,在再现装置设有卡槽,在卡槽的内部安装有上述的I/F。在将半导体存储卡插入该卡槽中时,该半导体存储卡通过该I/F与再现装置电连接。另外,从半导体存储卡通过该I/F将数据读入到再现装置中。
<针对BD-ROM盘上的数据的著作权保护>
在此,作为下面的补充事项的前提,针对用于保护在BD-ROM盘中记录的数据的著作权的结构进行说明。
例如从保护著作权或者提高数据的保密性的观点出发,有时需要将在BD-ROM盘中记录的数据的一部分进行加密。该加密数据例如包括视频流、音频流或者其他的流。在这种情况下,按照下面所述来解读加密数据。
在再现装置中预先存储生成“密钥”所需要的数据的一部分即设备密钥,其中该“密钥”用于解读BD-ROM盘中的加密数据。另一方面,在BD-ROM盘中记录有生成该“密钥”所需要的数据的其他部分,即MKB(媒体密钥块)和该“密钥”自身的加密数据即加密标题密钥。设备密钥、MKB及加密标题密钥是相互对应的,还与被写入到图2所示的BD-ROM盘101上的BCA201中的特定的ID即卷ID相对应。如果设备密钥、MKB、加密标题密钥及卷ID的组合不正确,则不能进行加密数据的解读。即,只有在它们的组合正确的情况下,才能生成上述的“密钥”即标题密钥。具体地讲,首先利用设备密钥、MKB及卷ID对加密标题密钥进行解密。只有能够由此导出标题密钥时,才能把该标题密钥用作上述的“密钥”来解读加密数据。
在希望利用再现装置来再现BD-ROM盘上的加密数据时,例如,如果在该再现装置内没有存储预先与该BD-ROM盘上的加密标题密钥、MKB以及卷ID对应的设备密钥,则不能再现该加密数据。因为如果没有利用MKB、设备密钥以及卷ID的正确组合对加密标题密钥进行解密,就不能导出解读该加密数据所需要的密钥即标题密钥。
为了保护应该在BD-ROM盘中记录的视频流和音频流至少一方的著作权,首先利用标题密钥将保护对象的流进行加密,并记录在BD-ROM盘中。然后,根据MKB、设备密钥以及卷ID的组合来生成密钥,利用该密钥将上述的标题密钥进行加密,并转换为加密标题密钥。另外,将MKB、卷ID及加密标题密钥记录在BD-ROM盘中。只有具备生成上述的密钥时所使用的设备密钥的再现装置,才能通过解码器从该BD-ROM盘对被加密的视频流以及/或者音频流进行解码。这样,能够保护在BD-ROM盘中记录的数据的著作权。
以上所述的BD-ROM盘中的数据的著作权保护的结构,也能够适用于除BD-ROM盘之外的装置。例如,能够适用于可读写的半导体存储器装置、尤其是SD卡等可移动半导体存储卡。
<向利用电子分发的记录介质的数据记录>
下面,说明利用电子分发来向本发明的实施方式的再现装置传递3D影像的AV流文件等数据(以下称为分发数据),再使该再现装置将该分发数据记录在半导体存储卡中的处理。另外,下面的动作也可以通过专用于这种处理的终端装置替代上述的再现装置来实施。并且,假设记录目的地的半导体存储卡是SD存储卡。
再现装置具有如上所述的卡槽。SD存储卡被插入到该卡槽中。在这种状态下,再现装置首先向网络上的分发服务器发送分发数据的发送请求。此时,再现装置从SD存储卡读取其识别信息,将该识别信息和发送请求一起发送给分发服务器。SD存储卡的识别信息例如是该SD存储卡固有的识别号码,更具体地讲,SD存储卡的识别信息是该SD存储卡的序列号。该识别信息被用作上述的卷ID。
在分发服务器中保存有分发数据。该分发数据中的、视频流以及/或者音频流等需要进行加密保护的数据,被利用规定的标题密钥进行加密。该加密数据能够利用相同的标题密钥进行解密。
分发服务器保持着设备密钥作为与再现装置共用的私钥。分发服务器还保持与SD存储卡共用的MKB。分发服务器在从再现装置接收到分发数据的发送请求和SD存储卡的识别信息时,首先利用设备密钥、MKB及该识别信息生成密钥,利用该密钥对标题密钥进行加密,并生成加密标题密钥。
分发服务器然后生成公钥信息。该公钥信息例如包括上述的MKB、加密标题密钥、签名信息、SD存储卡的识别信息及设备列表。签名信息例如包括公钥信息的散列值。设备列表是应该被无效的装置、即具有不正当地再现分发数据中的加密数据的危险性的设备的列表。在该列表中确定了例如再现装置的设备密钥、再现装置的识别号码、内置于再现装置中的解码器等各种部件的识别号码或者功能(程序)。
分发服务器还向再现装置发送分发数据和公钥信息。再现装置接收这些信息,并通过卡槽内的专用I/F记录在SD存储卡中。
在SD存储卡中记录的分发数据中的加密数据,例如能够按照下面所述利用公钥信息进行解密。首先,进行下述的三种检查(1)-(3)作为公钥信息的认证。另外,这些检查可以按照任何顺序进行。
(1)公钥信息中包含的SD存储卡的识别信息、与插入卡槽中的SD存储卡中存储的识别号码是否一致。
(2)从公钥信息计算的散列值和签名信息中包含的散列值是否一致。
(3)该再现装置是否不包含在公钥信息所表示的设备列表中。具体地讲,该再现装置的设备密钥是否不包含在设备列表中。
在上述的检查(1)~(3)中的任意一个检查的结果为否定时,再现装置中止加密数据的解密处理。相反,在上述的检查(1)~(3)的结果全部为肯定时,再现装置认可公钥信息的正当性,利用设备密钥、MKB及SD存储卡的识别信息,将公钥信息内的加密标题密钥解密成为标题密钥。再现装置再使用该标题密钥将加密数据解密成为例如视频流以及/或者音频流。
以上所述的结构具有以下优点。在进行电子分发时,在已经知道存在有可能不正当使用的再现装置、部件及功能(程序)的情况下,将它们的识别信息列举在设备列表中,并作为公钥信息的一部分进行分发。另一方面,请求了数据分发的再现装置必须将该设备列表中的识别信息与该再现装置及其部件等的识别信息进行核对。由此,如果该再现装置或者其部件等被列举在设备列表中,则即使SD存储卡的识别号码、MKB、加密标题密钥及设备密钥的组合正确,该再现装置也不能将公钥信息用于分发数据内的加密数据的解密。这样,能够有效地抑制分发数据的不正当使用。
优选将半导体存储卡的识别信息保存在半导体存储卡内的记录区域中、保密性特别高的记录区域中。因为万一在该识别信息例如SD存储卡的序列号被不正当篡改的情况下,将导致容易执行SD存储卡的违法复制。即,因为如果该篡改的结果为存在多个具有相同识别信息的半导体存储卡,在上述的检查(1)中将不能识别正规产品和违法的复制产品。因此,必须将半导体存储卡的识别信息记录在保密性高的记录区域中,以保护其不被不正当地篡改。
在半导体存储卡内构成这种保密性高的记录区域的手段例如如下所述。首先,设置与通常的数据用的记录区域(以下称为第1记录区域)电分离的另一个记录区域(以下称为第2记录区域)。然后,在半导体存储卡内设置对第2记录区域的访问专用的控制电路。由此,实现只能通过该控制电路来访问第2记录区域。例如,在第2记录区域中只记录已被加密的数据,用于对该被加密的数据进行解密的电路只装配在控制电路内。由此,对第2记录区域内的数据的访问如果不使控制电路对该数据进行解密,就不能进行访问。此外,也可以只在控制电路中保持第2记录区域内的各个数据的地址。在这种情况下,第2记录区域内的数据的地址只能在控制电路中确定。
当半导体存储卡的识别信息被记录在第2记录区域中的情况下,在再现装置上工作的应用程序利用电子分发来从分发服务器获取数据并记录在半导体存储卡中的情况下,进行下面所述的处理。首先,该应用程序通过存储卡I/F向上述的控制电路发出针对在第2记录区域中记录的半导体存储卡的识别信息的访问请求。控制电路根据该请求,首先从第2记录区域读取该识别信息。控制电路然后通过存储卡I/F向上述的应用程序发送该识别信息。该应用程序然后将该识别信息和分发数据的发送请求一起发送给分发服务器。应用程序还将根据该请求从分发服务器接收的公钥信息和分发数据,通过存储卡I/F记录在半导体存储卡的第1记录区域中。
另外,优选上述的应用程序在向半导体存储卡内的控制电路发布上述的访问请求之前,检查该应用程序自身有无被篡改。该检查也可以利用例如依据于X.509的数字证书来进行。并且,分发数据可以按照上面所述记录在半导体存储卡的第1记录区域中,对该分发数据的访问也可以不通过半导体存储卡内的控制电路进行控制。
<在实时记录中的适用>
在本发明的实施方式4中,把利用创作系统中的预记录(pre-recording)技术将AV流文件及播放列表文件记录在BD-ROM盘中并提供给用户作为前提。但是,AV流文件及播放列表文件也可以通过实时记录(real-timerecording),被记录在BD-RE盘、BD-R盘、硬盘、或者半导体存储卡等可写入的记录介质(以下略作BD-RE盘等)中,并提供给用户。在这种情况下,AV流文件可以是通过由记录装置对模拟输入信号进行实时解码而得到的传输流。此外,AV流文件也可以是通过由记录装置将数字输入的传输流部分化(partialization)而得到的传输流。
执行实时记录的记录装置包括视频编码器、音频编码器、复用器及源打包器。视频编码器对视频信号进行编码并转换为视频流。音频编码器对音频信号进行编码并转换为音频流。复用器对视频流和音频流进行复用,并转换为MPEG2-TS格式的数字流。源打包器把MPEG2-TS格式的数字流中的TS包转换为源包。记录装置把各个源包保存在AV流文件中,并写入到BD-RE盘等中。
与AV流文件的写入处理并行,记录装置的控制部在存储器中生成clip信息文件和播放列表文件,并写入到BD-RE盘等中。具体地讲,在用户请求了录制处理时,控制部首先根据AV流文件生成clip信息文件,并写入到BD-RE盘等中。在这种情况下,每当从由外部接收到的传输流中检测视频流中的一个GOP的开头时,或者每当通过视频编码器生成了视频流中的一个GOP时,控制部获取位于该GOP的开头的I图片的PTS、和保存了该GOP的开头部分的源包的SPN。控制部还把成对的该PTS与SPN作为一个入口点,追加记述在clip信息文件的入口映射中。在此,在该入口点追加‘is_angle_change标志’。is_angle_change标志在该GOP的开头是IDR图片时被设定为“ON”,在该GOP的开头不是IDR图片时被设定为“OFF”。在clip信息文件中,还按照记录对象的流的属性来设定流属性信息。这样,在AV流文件和clip信息文件被写入到BD-RE盘等中后,控制部利用该clip信息文件中的入口映射来生成播放列表文件,并写入到BD-RE盘等中。
<受控复制>
本发明的实施方式的再现装置也可以通过受控复制,将BD-ROM盘101中的数字流写入其他记录介质中。所说“受控复制”(managed copy)是这样一种技术,即,只有在通过与服务器的通信而进行的认证成功的情况下,才允许进行从BD-ROM盘等只读的记录介质向可写入式记录介质中复制数字流、播放列表文件、clip信息文件及应用程序。该可写入式记录介质包括BD-R、BD-RE、DVD-R、DVD-RW及DVD-RAM等可写入式光盘、硬盘,以及SD存储卡、记忆棒(memory stick)(注册商标)、紧致闪存(compact flash)(注册商标)、智能介质(smart media)(注册商标)和多媒体卡(注册商标)等可移动式半导体存储器装置。受控复制能够限制在只读记录介质中记录的数据的备份次数、并能实现针对备份处理的收费。
在进行从BD-ROM盘向BD-R盘或者BD-RE盘的受控复制的情况下,在两个盘的记录容量相同时,在复制源的盘中记录的比特流可以原样依次复制。
当在不同类型的记录介质之间进行受控复制时需要进行代码转换。其中,所说“代码转换”(trans code)是使在复制源的盘中记录的数字流适合于复制目的地的记录介质的应用格式的处理。代码转换例如包括从MPEG2-TS格式转换为MPEG2程序流格式的处理,以及降低对视频流和音频流分别分配的比特速率后重新编码的处理。在这种代码转换中,必须通过上述的实时记录来生成AV流文件、clip信息文件及播放列表文件。
<数据结构的记述方法>
本发明的实施方式的数据结构中被称为“存在多个规定类型的信息”的反复结构,能够通过在for语句中记述控制变量的初始值和重复条件来定义。并且,“在规定的条件成立时定义规定的信息”的数据结构,通过在if语句中记述其条件、和在条件成立时应该设定的变量来定义。这样,实施方式的数据结构能够利用高级编程语言来记述。因此,该数据结构经过“语法分析”、“优化”、“资源分配”及“代码生成”这些基于编译器的翻译过程,被转换为计算机能够读取的代码,并记录在记录介质中。通过利用高级编程语言的记述,该数据结构,作为在面向对象的语言中除类结构体的方法之外的部分、具体地讲是该类结构体中的排列型的成员变量进行处理,并形成程序的一部分。即,该数据结构实质上与程序相同。因此,该数据结构应该作为计算机关联发明受到保护。
<基于再现程序的播放列表文件、clip信息文件的管理>
在将播放列表文件和AV流文件记录在记录介质中时,再现程序作为执行格式的文件被记录在该记录介质中。再现程序使计算机按照播放列表文件来再现AV流文件。再现程序被从记录介质装载到计算机内的存储器装置中之后,由该计算机执行。该装载处理包括编译处理或者链接处理。通过这些处理,再现程序在存储器装置内被划分为多个部分。这些部分包括text部分、data部分、bss部分、stack部分。text部分包括再现程序的代码串、变量的初始值、和不可改写的数据。data部分包括具有初始值的变量及可改写的数据。data部分尤其包括记录在记录介质中的随时被访问的文件。bss部分包括不具有初始值的变量。bss部分内的数据按照text部分内的代码所表示的命令而被参照。在编译处理或者链接处理中,在计算机内的RAM中确保bss部分用的区域。stack部分是根据需要暂时确保的存储器区域。在基于再现程序的各个处理中,临时使用局部变量。stack部分包括这些局部变量。在开始执行程序时,bss部分内的变量被初始化为零,在stack部分确保必要的存储器区域。
播放列表文件和clip信息文件按照上面所述,在记录介质中已经被转换为计算机可以读取的代码。因此,在执行再现程序时,这些文件作为text部分中的“不可改写的数据”、或者data部分中的“随时被访问的文件”进行管理。即,播放列表文件和clip信息文件在执行再现程序时被装配在其构成要素中。因此,播放列表文件和clip信息文件在再现程序中发挥超过单纯的数据提示的作用。
产业上的可利用性
本发明涉及立体视觉影像的再现技术,如上所述,明确定义记录介质上记录的数据块与区段块的大小d下限。这样,本发明可明显在产业上利用。
符号说明
1300从属视视频流
1301补充数据
1310偏移元数据
1311偏移序列ID
1312偏移序列
1321帧号码
1322偏移方向
1323偏移值

Claims (3)

1.一种用于从记录介质再现影像的再现装置,其特征在于,
在所述记录介质中记录了主视视频流、辅视视频流、图形流及播放列表信息,
所述主视视频流包含构成立体视觉影像的主视的主视图片,
所述辅视视频流包含构成立体视觉影像的辅视的辅视图片和元数据,
所述图形流包含构成平面视觉图形影像的图形数据,
所述主视图片在再现时被描绘到主视视频平面,
所述辅视图片在再现时被描绘到辅视视频平面,
所述图形数据在再现时被描绘到图形平面,
所述元数据按构成所述辅视视频流的每个图片组GOP进行配置,包含多个偏移信息和与所述多个偏移信息相对应的多个偏移识别符,
所述多个偏移信息是规定对于构成GOP的多个图片的偏移控制的控制信息,
所述偏移控制是向所述图形平面提供水平坐标的左方向与右方向的各偏移后、合成到主视视频平面与辅视视频平面中的每个平面的处理,
所述播放列表信息包含至少一个再现区间信息,
各再现区间信息包含表示一个再现区间的开始位置与结束位置的信息、和对于所述再现区间的流选择表,
所述流选择表是所述再现区间中允许再现的流数据的包识别符与流号码之间的对应表,
在所述流选择表中,在流号码与所述图形流的包识别符相对应的情况下,还向该流号码分配所述多个偏移识别符中的一个偏移识别符,
该再现装置具备:
读出部,从所述记录介质中读出数据;
解码部,从由所述读出部读出的播放列表信息,依次解读再现区间信息,按每个再现区间选择解码对象的流数据的流号码,将与所选择的所述流号码相对应的包识别符所表示的流数据从由所述读出部读出的流数据中分离,并解码至视频平面与图形平面中的至少任一方,从所述辅视视频流中抽取所述元数据;和
平面合成部,使用与所选择的所述流号码相对应的偏移识别符,从由所述解码部抽取的元数据中检索偏移信息,根据该偏移信息,对所述图形平面执行偏移控制,
从由位于所述辅视视频流末端的GOP再现影像的时刻起、到从下一GOP抽取元数据的时刻为止,所述平面合成部维持从该GOP抽取的元数据所包含的偏移信息。
2.一种记录方法,将主视视频流、辅视视频流、图形流及播放列表信息记录至记录介质,其特征在于,
该记录方法包含如下步骤:
依照再现区间的种类,在再现区间为立体视觉再现区间的情况下通过多视点编码方式对视频帧序列进行编码,生成主视视频流以及辅视视频流的步骤,所述主视视频流包含构成立体视觉影像的主视的主视图片,所述辅视视频流包含构成立体视觉影像的辅视的辅视图片;
制作偏移信息,基于偏移信息制作元数据并保存于所述辅视视频流的步骤;
生成图形流的步骤,所述图形流包含构成平面视觉图形影像的图形数据;
生成播放列表信息的步骤;
将所述主视视频流、所述辅视视频流、所述图形流记录至所述记录介质的步骤;和
将所述播放列表信息记录至所述记录介质的步骤,
所述主视图片在再现时被描绘到主视视频平面,
所述辅视图片在再现时被描绘到辅视视频平面,
所述图形数据在再现时被描绘到图形平面,
所述元数据按构成所述辅视视频流的每个图片组GOP进行配置,包含多个偏移信息和与所述多个偏移信息相对应的多个偏移识别符,
所述多个偏移信息是规定对于构成GOP的多个图片的偏移控制的控制信息,
所述偏移控制是向所述图形平面提供水平坐标的左方向与右方向的各偏移后、合成到主视视频平面与辅视视频平面中的每个平面的处理,
所述播放列表信息包含至少一个再现区间信息,
各再现区间信息包含表示一个再现区间的开始位置与结束位置的信息、和对于所述再现区间的流选择表,
所述流选择表是所述再现区间中允许再现的流数据的包识别符与流号码之间的对应表,
在所述流选择表中,在流号码与所述图形流的包识别符相对应的情况下,还向该流号码分配所述多个偏移识别符中的一个偏移识别符。
3.一种记录介质再现系统,具备记录介质和用于从所述记录介质再现影像的再现装置,在所述记录介质中记录了主视视频流、辅视视频流、图形流及播放列表信息,该记录介质再现系统的特征在于,
所述主视视频流包含构成立体视觉影像的主视的主视图片,
所述辅视视频流包含构成立体视觉影像的辅视的辅视图片和元数据,
所述图形流包含构成平面视觉图形影像的图形数据,
所述主视图片在再现时被描绘到主视视频平面,
所述辅视图片在再现时被描绘到辅视视频平面,
所述图形数据在再现时被描绘到图形平面,
所述元数据按构成所述辅视视频流的每个图片组GOP进行配置,包含多个偏移信息和与所述多个偏移信息相对应的多个偏移识别符,
所述多个偏移信息是规定对于构成GOP的多个图片的偏移控制的控制信息,
所述偏移控制是向所述图形平面提供水平坐标的左方向与右方向的各偏移后、合成到主视视频平面与辅视视频平面中的每个平面的处理,
所述播放列表信息包含至少一个再现区间信息,
各再现区间信息包含表示一个再现区间的开始位置与结束位置的信息、和对于所述再现区间的流选择表,
所述流选择表是所述再现区间中允许再现的流数据的包识别符与流号码之间的对应表,
在所述流选择表中,在流号码与所述图形流的包识别符相对应的情况下,还向该流号码分配所述多个偏移识别符中的一个偏移识别符,
所述再现装置具备:
读出部,从所述记录介质中读出数据;
解码部,从由所述读出部读出的播放列表信息,依次解读再现区间信息,按每个再现区间选择解码对象的流数据的流号码,将与所选择的所述流号码相对应的包识别符所表示的流数据从由所述读出部读出的流数据中分离,并解码至视频平面与图形平面中的至少任一方,从所述辅视视频流中抽取所述元数据;和
平面合成部,使用与所选择的所述流号码相对应的偏移识别符,从由所述解码部抽取的元数据中检索偏移信息,根据该偏移信息,对所述图形平面执行偏移控制,从由位于所述辅视视频流末端的GOP再现影像的时刻起、到从下一GOP抽取元数据的时刻为止,所述平面合成部维持从该GOP抽取的元数据所包含的偏移信息。
CN2010800022443A 2009-05-19 2010-05-17 再现装置、记录方法及记录介质再现系统 Active CN102113334B (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2009-120850 2009-05-19
JP2009120850 2009-05-19
JP2009126912 2009-05-26
JP2009-126912 2009-05-26
PCT/JP2010/003319 WO2010134316A1 (ja) 2009-05-19 2010-05-17 記録媒体、再生装置、符号化装置、集積回路、及び再生出力装置

Publications (2)

Publication Number Publication Date
CN102113334A CN102113334A (zh) 2011-06-29
CN102113334B true CN102113334B (zh) 2013-09-11

Family

ID=43126009

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2010800022443A Active CN102113334B (zh) 2009-05-19 2010-05-17 再现装置、记录方法及记录介质再现系统

Country Status (11)

Country Link
US (2) US8208790B2 (zh)
EP (1) EP2434769B1 (zh)
JP (6) JP4714307B2 (zh)
KR (1) KR20140014346A (zh)
CN (1) CN102113334B (zh)
BR (1) BRPI1004002A2 (zh)
MX (1) MX2011000947A (zh)
RU (1) RU2533300C2 (zh)
TW (1) TW201127021A (zh)
WO (1) WO2010134316A1 (zh)
ZA (1) ZA201100663B (zh)

Families Citing this family (43)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8749409B2 (en) * 2006-08-25 2014-06-10 Sony Computer Entertainment Inc. Entropy decoding methods and apparatus using most probable and least probable signal cases
JP4947389B2 (ja) 2009-04-03 2012-06-06 ソニー株式会社 画像信号復号装置、画像信号復号方法、および画像信号符号化方法
DK2453661T3 (en) * 2009-07-10 2017-10-30 Panasonic Ip Man Co Ltd PLAYBACK, RECORDING PROCEDURE AND SYSTEM, INCLUDING A RECORDING MEDIUM AND PLAYBACK
KR20110029319A (ko) * 2009-09-15 2011-03-23 삼성전자주식회사 영상 처리 시스템 및 영상 처리 방법
JP5371727B2 (ja) * 2009-12-16 2013-12-18 キヤノン株式会社 立体映像処理装置及び立体映像処理装置の制御方法
JP2011216937A (ja) * 2010-03-31 2011-10-27 Hitachi Consumer Electronics Co Ltd 立体画像表示装置
JP2011254239A (ja) * 2010-06-01 2011-12-15 Sony Corp 記録装置、再生装置、記録再生システム、記録媒体およびプログラム
CN107911684B (zh) 2010-06-02 2020-06-23 麦克赛尔株式会社 接收装置和接收方法
KR20120017649A (ko) * 2010-08-19 2012-02-29 삼성전자주식회사 디스플레이장치 및 그 제어방법
JP5356342B2 (ja) * 2010-09-16 2013-12-04 株式会社ソニー・コンピュータエンタテインメント 動画像処理装置および動画像処理方法
KR20120029690A (ko) * 2010-09-17 2012-03-27 삼성전자주식회사 디스플레이 장치 및 그 영상 처리 방법
US9888232B2 (en) * 2011-01-17 2018-02-06 Sony Corporation 3D motion picture processing device
KR101814798B1 (ko) * 2011-01-26 2018-01-04 삼성전자주식회사 입체영상 처리 장치 및 방법
US8913104B2 (en) * 2011-05-24 2014-12-16 Bose Corporation Audio synchronization for two dimensional and three dimensional video signals
JP2013005163A (ja) * 2011-06-15 2013-01-07 Panasonic Corp 立体視対応映像表示装置及び方法
JP5860634B2 (ja) * 2011-08-23 2016-02-16 任天堂株式会社 情報処理システム、情報処理方法、サーバプログラム、サーバ装置、および、サーバシステム
CN102427542B (zh) * 2011-09-28 2014-07-30 深圳超多维光电子有限公司 一种立体图像处理方法、图像处理装置和相应的终端设备
WO2013063982A1 (en) * 2011-10-31 2013-05-10 Mediatek Inc. Apparatus and method for buffering context arrays referenced for performing entropy decoding upon multi-tile encoded picture and related entropy decoder
JPWO2013099289A1 (ja) * 2011-12-28 2015-04-30 パナソニック株式会社 再生装置、送信装置、再生方法及び送信方法
TW201337577A (zh) * 2012-02-20 2013-09-16 Compal Electronics Inc 資料傳輸方法、系統及使用該方法的電子裝置
KR20140049832A (ko) * 2012-10-18 2014-04-28 삼성전자주식회사 블루레이 디스크와 이를 재생하기 위한 블루레이 디스크 재생 장치 및 그 자막 표시 방법
WO2014069920A1 (en) 2012-11-01 2014-05-08 Samsung Electronics Co., Ltd. Recording medium, reproducing device for providing service based on data of recording medium, and method thereof
US8826346B1 (en) 2013-03-15 2014-09-02 General Instrument Corporation Methods of implementing trickplay
TW201528775A (zh) 2014-01-02 2015-07-16 Ind Tech Res Inst 景深圖校正方法及系統
JP2015136057A (ja) * 2014-01-17 2015-07-27 ソニー株式会社 通信装置、通信データ生成方法、および通信データ処理方法
US20150253974A1 (en) 2014-03-07 2015-09-10 Sony Corporation Control of large screen display using wireless portable computer interfacing with display controller
CN104102857B (zh) * 2014-07-17 2017-02-15 浪潮电子信息产业股份有限公司 一种windows系统下的可执行文件全生命周期安全管理系统
EP4280598A3 (en) * 2014-09-12 2024-02-21 Panasonic Intellectual Property Corporation of America Recording medium, playback device, and playback method
WO2016132482A1 (ja) * 2015-02-18 2016-08-25 三菱電機株式会社 再生装置及び再生方法
US10417003B1 (en) * 2015-08-31 2019-09-17 Ambarella, Inc. Data unit synchronization between chained pipelines
US10088524B2 (en) 2016-01-05 2018-10-02 International Business Machines Corporation Logic built in self test circuitry for use in an integrated circuit with scan chains
US10649028B2 (en) * 2016-01-05 2020-05-12 International Business Machines Corporation Logic built in self test circuitry for use in an integrated circuit with scan chains
EP3223524A1 (en) * 2016-03-22 2017-09-27 Thomson Licensing Method, apparatus and stream of formatting an immersive video for legacy and immersive rendering devices
KR101768532B1 (ko) * 2016-06-08 2017-08-30 주식회사 맥스트 증강 현실을 이용한 화상 통화 시스템 및 방법
US9992487B1 (en) * 2016-08-10 2018-06-05 Integrity Applications Incorporated Stereoscopic viewer
EP3293981A1 (en) 2016-09-08 2018-03-14 Koninklijke KPN N.V. Partial video decoding method, device and system
CN106600573B (zh) * 2016-12-27 2020-07-14 宁波视睿迪光电有限公司 一种图像处理方法
US11082719B2 (en) 2017-07-03 2021-08-03 Nokia Technologies Oy Apparatus, a method and a computer program for omnidirectional video
JP7102024B2 (ja) * 2018-04-10 2022-07-19 ガウディオ・ラボ・インコーポレイテッド メタデータを利用するオーディオ信号処理装置
WO2019203207A1 (ja) * 2018-04-19 2019-10-24 ソニー株式会社 受信装置、受信方法、送信装置および送信方法
US11369874B2 (en) * 2020-04-29 2022-06-28 Lenovo (Singapore) Pte. Ltd. Rendering video game on display device using GPU in display device and video game data from second device
GB2595696B (en) * 2020-06-04 2022-12-28 Envisics Ltd Forming a hologram of a target image for projection using data streaming
CN112380378B (zh) * 2020-11-17 2022-09-02 北京字跳网络技术有限公司 歌词特效展示方法、装置、电子设备及计算机可读介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1326440A2 (en) * 2001-12-28 2003-07-09 Kabushiki Kaisha Toshiba Recording apparatus and recording method
JP2004274091A (ja) * 2003-01-15 2004-09-30 Sharp Corp 画像データ作成装置、画像データ再生装置、画像データ記録方式および画像データ記録媒体
JP2005110121A (ja) * 2003-10-01 2005-04-21 Sharp Corp 画像データ表示装置
CN1698369A (zh) * 2003-04-25 2005-11-16 索尼株式会社 再现装置、再现方法、再现程序以及记录介质
CN101415114A (zh) * 2007-10-17 2009-04-22 深圳华为通信技术有限公司 视频编解码方法和装置以及视频编解码器

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3269657B2 (ja) * 1992-05-07 2002-03-25 日本電信電話株式会社 両眼立体視装置
US6484266B2 (en) * 1995-09-29 2002-11-19 Matsushita Electric Industrial Co., Ltd. Method and an apparatus for reproducing bitstream having non-sequential system clock data seamlessly therebetween
TW436777B (en) * 1995-09-29 2001-05-28 Matsushita Electric Ind Co Ltd A method and an apparatus for reproducing bitstream having non-sequential system clock data seamlessly therebetween
EP2101495B1 (en) * 1996-02-28 2012-12-26 Panasonic Corporation High-resolution optical disk for recording stereoscopic video, optical disk reproducing device and optical disk recording device
CN1183780C (zh) * 1996-12-04 2005-01-05 松下电器产业株式会社 光盘再现设备及光盘记录方法
CN1223187C (zh) * 1997-08-29 2005-10-12 松下电器产业株式会社 记录高质量图像或标准图像的光盘及其记录和再生装置
KR100582957B1 (ko) * 2002-06-21 2006-05-23 엘지전자 주식회사 비디오 데이터의 재생을 관리하기 위한 데이터 구조를 갖는기록 매체
JP2004248212A (ja) * 2003-02-17 2004-09-02 Kazunari Era 立体視画像表示装置
JP2004274125A (ja) * 2003-03-05 2004-09-30 Sony Corp 画像処理装置および方法
JP2005123775A (ja) 2003-10-15 2005-05-12 Sony Corp 再生装置、再生方法、再生プログラムおよび記録媒体
RU2378722C2 (ru) 2004-03-26 2010-01-10 ЭлДжи ЭЛЕКТРОНИКС ИНК. Носитель записи, способ и устройство для воспроизведения потоков текстовых субтитров
KR20060047266A (ko) 2004-04-26 2006-05-18 엘지전자 주식회사 기록매체, 기록매체의 재생방법과 재생장치
JP4608953B2 (ja) 2004-06-07 2011-01-12 ソニー株式会社 データ記録装置、方法およびプログラム、データ再生装置、方法およびプログラム、ならびに、記録媒体
DE602005023672D1 (de) * 2004-06-18 2010-10-28 Panasonic Corp Wiedergabevorrichtung, Programm und Wiedergabeverfahren
JP4575129B2 (ja) * 2004-12-02 2010-11-04 ソニー株式会社 データ処理装置およびデータ処理方法、並びにプログラムおよびプログラム記録媒体
JP2010505174A (ja) * 2006-09-28 2010-02-18 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ メニューディスプレイ
US8711203B2 (en) * 2006-10-11 2014-04-29 Koninklijke Philips N.V. Creating three dimensional graphics data
AR064274A1 (es) 2006-12-14 2009-03-25 Panasonic Corp Metodo de codificacion de imagenes en movimiento, dispositivo de codificacion de imagenes en movimiento, metodo de grabacion de imagenes en movimiento, medio de grabacion, metodo de reproduccion de imagenes en movimiento, dispositivo de reproduccion de imagenes en movimiento, y sistema de reproducci
JP4291862B2 (ja) * 2007-07-04 2009-07-08 稔 稲葉 立体テレビジョンシステム及び立体テレビジョン受像機
JP2009135686A (ja) * 2007-11-29 2009-06-18 Mitsubishi Electric Corp 立体映像記録方法、立体映像記録媒体、立体映像再生方法、立体映像記録装置、立体映像再生装置
JP4946874B2 (ja) 2008-01-09 2012-06-06 ソニー株式会社 再生装置および再生方法
KR101315081B1 (ko) * 2008-07-25 2013-10-14 코닌클리케 필립스 일렉트로닉스 엔.브이. 서브타이틀들의 3d 디스플레이 처리
ES2467149T3 (es) * 2009-02-19 2014-06-12 Panasonic Corporation Dispositivo de reproducción y medio de grabación
JP4919122B2 (ja) * 2009-04-03 2012-04-18 ソニー株式会社 情報処理装置、情報処理方法、及び、プログラム
US8290338B2 (en) * 2009-05-27 2012-10-16 Panasonic Corporation Recording medium, playback device, encoding device, integrated circuit, and playback output device

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1326440A2 (en) * 2001-12-28 2003-07-09 Kabushiki Kaisha Toshiba Recording apparatus and recording method
JP2004274091A (ja) * 2003-01-15 2004-09-30 Sharp Corp 画像データ作成装置、画像データ再生装置、画像データ記録方式および画像データ記録媒体
CN1698369A (zh) * 2003-04-25 2005-11-16 索尼株式会社 再现装置、再现方法、再现程序以及记录介质
JP2005110121A (ja) * 2003-10-01 2005-04-21 Sharp Corp 画像データ表示装置
CN101415114A (zh) * 2007-10-17 2009-04-22 深圳华为通信技术有限公司 视频编解码方法和装置以及视频编解码器

Also Published As

Publication number Publication date
JP4714307B2 (ja) 2011-06-29
EP2434769A1 (en) 2012-03-28
KR20140014346A (ko) 2014-02-06
BRPI1004002A2 (pt) 2018-06-19
JP2011172219A (ja) 2011-09-01
CN102113334A (zh) 2011-06-29
MX2011000947A (es) 2011-03-02
RU2011103171A (ru) 2013-06-27
US20120189274A1 (en) 2012-07-26
JP2011166763A (ja) 2011-08-25
EP2434769A4 (en) 2013-11-06
EP2434769B1 (en) 2016-08-10
JP5596585B2 (ja) 2014-09-24
JP5547668B2 (ja) 2014-07-16
US8208790B2 (en) 2012-06-26
WO2010134316A1 (ja) 2010-11-25
TW201127021A (en) 2011-08-01
JP5491427B2 (ja) 2014-05-14
JP2011135597A (ja) 2011-07-07
JP2011166762A (ja) 2011-08-25
JP5432194B2 (ja) 2014-03-05
US8699853B2 (en) 2014-04-15
JPWO2010134316A1 (ja) 2012-11-08
RU2533300C2 (ru) 2014-11-20
ZA201100663B (en) 2012-04-25
US20110129198A1 (en) 2011-06-02
JP2011135596A (ja) 2011-07-07

Similar Documents

Publication Publication Date Title
CN102113334B (zh) 再现装置、记录方法及记录介质再现系统
CN102027750B (zh) 记录介质、再现装置及集成电路
CN102138335B (zh) 再现装置、记录方法及记录介质再现系统
CN102362504B (zh) 记录方法及再现装置
CN102334338B (zh) 显示装置和方法、发送装置和方法、以及接收装置和方法
CN102027751B (zh) 再现装置
CN102685514B (zh) 再生装置、记录方法及记录介质再生系统
CN101803396B (zh) 记录方法、再现装置和集成电路
CN102124746B (zh) 记录介质、再现装置、及集成电路
CN102334339A (zh) 显示装置和方法、记录介质、发送装置和方法、以及再现装置和方法
CN101953170B (zh) 再现装置及集成电路
CN102124748A (zh) 记录介质、再生装置及集成电路
CN103181172A (zh) 记录介质、再现装置、记录装置及记录方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
EE01 Entry into force of recordation of patent licensing contract

Application publication date: 20110629

Assignee: Shenzhen Maxmade Technology Co.,Ltd.

Assignor: Blue light United Co., Ltd.

Contract record no.: X2019990000006

Denomination of invention: Recording method, reproducing device, and recording medium reproduction system

Granted publication date: 20130911

License type: Common License

Record date: 20190923

EE01 Entry into force of recordation of patent licensing contract