CN102334338B - 显示装置和方法、发送装置和方法、以及接收装置和方法 - Google Patents

显示装置和方法、发送装置和方法、以及接收装置和方法 Download PDF

Info

Publication number
CN102334338B
CN102334338B CN201080009423.XA CN201080009423A CN102334338B CN 102334338 B CN102334338 B CN 102334338B CN 201080009423 A CN201080009423 A CN 201080009423A CN 102334338 B CN102334338 B CN 102334338B
Authority
CN
China
Prior art keywords
view frame
image
frame
file
picture
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201080009423.XA
Other languages
English (en)
Other versions
CN102334338A (zh
Inventor
佐佐木泰治
矢羽田洋
小川智辉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Publication of CN102334338A publication Critical patent/CN102334338A/zh
Application granted granted Critical
Publication of CN102334338B publication Critical patent/CN102334338B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/178Metadata, e.g. disparity information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/139Format conversion, e.g. of frame-rate or size
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/161Encoding, multiplexing or demultiplexing different image signal components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/183On-screen display [OSD] information, e.g. subtitles or menus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/194Transmission of image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/341Displays for viewing with the aid of special glasses or head-mounted displays [HMD] using temporal multiplexing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/356Image reproducers having separate monoscopic and stereoscopic modes
    • H04N13/359Switching between monoscopic and stereoscopic modes

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Library & Information Science (AREA)
  • Human Computer Interaction (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

一种用于画面显示立体视觉影像的显示装置,具备接收部、信号处理部、显示部。接收部接收包括立体视觉影像的左视点帧和右视点帧及控制信息的流数据。信号处理部从该流数据中交替提取左视点帧与右视点帧。信号处理部还在立体视觉影像的一个帧期间,在控制信息表示3D再现模式的情况下送出一对左视点帧和右视点帧,在控制信息表示2D再现模式的情况下仅送出左视点帧。显示部将从信号处理部送出的帧在画面上各显示规定时间。

Description

显示装置和方法、发送装置和方法、以及接收装置和方法
技术领域
本发明涉及一种立体视觉影像、即3维(3D)影像的显示技术。
背景技术
近年来对3D影像的普遍关注日益高涨。例如,在游乐园中利用了3D影像的游乐项目积聚人气。另外,在全国各地上映3D影像的电影的电影院也在增加。随着对这种3D影像的关注的高涨,使得在各个家庭中也能够再现3D影像的技术的研发也得到推进。在这种技术中,要求将3D影像内容(content)在保持高画质的状态下记录到光盘等可移动记录介质中。另外,要求这种记录介质的针对2D再现装置的兼容性。即,期望根据在这种记录介质中记录的3D影像内容,2D再现装置能够再现2D影像,3D再现装置能够再现3D影像。这里,“2D再现装置”是指只能再现平面视觉影像即二维(2D)影像的以往的再现装置,“3D再现装置”是指能够再现3D影像的再现装置。另外,在本说明书中,假设3D再现装置也能够再现以往的2D影像的情况。
图81是表示对记录了3D影像内容的光盘、确保对2D再现装置的兼容性用的技术的示意图(例如参照专利文献1)。在光盘PDS中存储二种视频流。一个是2D/左视点视频流,另一个是右视点视频流。‘2D/左视点视频流’在3D影像再现中表示视听者的左眼看到的2D影像,即‘左视点’,在2D影像再现中表示该2D影像本身。‘右视点视频流’在3D影像再现中表示视听者的右眼看到的2D影像,即‘右视点’。在左右视频流之间,帧速率相等,但帧的显示时期则错位帧周期的一半。例如,当各视频流的帧速率为24fps(帧/秒)时,2D/左视点视频流和右视点视频流的各帧每1/48秒交替显示。
各视频流如图81所示,在光盘PDS上分割成多个区段(extent)EX1A-C、EX2A-C。各区段包括1个以上GOP(group of picture:图片组),由光盘驱动器统一读出。下面,将属于2D/左视点视频流的区段称为‘2D/左视点区段’,将属于右视点视频流的区段称为‘右视点区段’。2D/左视点区段EX1A-C与右视点区段EX2A-C交替配置在光盘PDS的轨道TRC上。邻接的二个区段EX1A+EX2A、EX1B+EX2B、EX1C+EX2C之间,再现时间相等。将这种区段的配置称为‘交织(interleave)配置’。以交织配置记录的区段群如下所述,在3D影像的再现与2D影像的再现双方中被利用。
在2D再现装置PL2中,光盘驱动器DD2从开头起,按顺序仅读出光盘PDS上的区段中的2D/左视点区段EX1A-C,另一方面跳过右视点区段EX2A-C的读出。另外,影像解码器VDC将由光盘驱动器DD2读出的区段依次解码为影像帧VFL。由此,显示装置DS2中仅显示左视点,所以视听者看到通常的2D影像。
在3D再现装置PL3中,若用符号表示,则光盘驱动器DD3从光盘PDS中按EX1A、EX2A、EX1B、EX2B、EX1C、EX2C的顺序交替读出2D/左视点区段和右视点区段。并且,从读出的各区段中,将2D/左视点视频流发送到左影像解码器VDL,将右视点视频流发送到右影像解码器VDR。各影像解码器VDL、VDR将各视频流交替解码为影像帧VFL、VFR。由此,在显示装置DS3中交替显示左视点和右视点。另一方面,快门眼镜SHG将左右镜片与显示装置DS3进行的画面切换同步地交替地变为不透明。结果,佩戴快门眼镜SHG的视听者的左眼中映入左视点,右眼中映入右视点。这样,该视听者将显示装置DS3中交替显示的左视点和右视点的2D影像的对看成一个3D影像。
不限于光盘,当将3D影像内容存储在记录介质中时,如上所述,利用区段的交织配置。由此,能够在2D影像的再现与3D影像的再现双方中利用该记录介质。
现有技术文献
专利文献
专利文献1:日本专利第3935507号公报
发明概要
发明要解决的问题
3D影像的内容一般包括2D影像的部分。该部分例如以广告或演出为目的。3D再现装置在将该内容再现至该部分时,根据该内容所附带的应用程序,指示从3D影像向2D影像切换。另外,在3D再现装置根据用户的操作将弹出菜单重叠于3D影像上显示的情况下,在该显示期间中,优选将3D影像变为2D影像。这是为了提高弹出菜单的视觉辨认性。这样,3D影像的显示技术一般被要求可在显示途中切换到2D影像。尤其,该切换必须无缝执行。这是为了避免伴随该切换的影像间断使视听者感到不适。
在现有的3D影像的显示技术中,作为用于实现3D影像与2D影像的无缝切换的手段,已知如下技术。首先,作为3D再现装置的动作模式,准备基础视点(B)-从属视点(D)显示模式和B-B显示模式两种。B-D显示模式的3D再现装置交替解码左视点和右视点的各视频流后进行输出。此时,在显示装置的画面上交替显示左视点帧和右视点帧,所以这些帧由视听者看起来是3D影像。B-B显示模式的3D再现装置将帧速率维持在B-D显示模式下的值(例如48fps)的状态下,仅将从基础视点视频流解码而得到的帧数据、例如将左视点帧每1帧各输出两次。此时,显示装置的画面上仅显示左视点帧,所以这些帧由视听者看起来仅是2D影像。在3D影像再现中,在由用户操作或应用程序的指示要求从3D影像切换到2D影像的情况下,3D再现装置从B-D显示模式切换到B-B显示模式。此时,帧速率不变更,所以3D再现装置能快速执行该切换。另一方面,显示装置只要维持原来的动作不变即可。结果,无缝实现从3D影像向2D影像的切换。
但是,并不是在市场上出现的全部3D再现装置中都搭载有B-B显示模式。为了使没有搭载B-B显示模式的3D再现装置将3D影像切换到2D影像,必须将再现对象的流数据本身从3D影像的流数据切换为2D影像的流数据。此时,需要变更帧速率(例如必须将48fps变更为24fps),所以必须使3D再现装置暂时中断向显示装置传输数据。因此,在切换流数据后要重新开始传输数据,则3D再现装置必须与显示装置之间重新进行认证等用于确立连接的处理。该处理一般较费时,所以难以无缝实现从3D影像向2D影像的切换。
并且,再现装置与显示装置之间的数据传输一般以HDMI(High-Definition Multimedia Interface:高清晰度多媒体接口)方式进行。此时,来自遥控器的操作信号即便直接由再现装置和显示装置中的一方接收,也通过HDMI缆线传递到另一方。因此,用户能用一个遥控器来操作再现装置和显示装置双方。但是,在现有的3D影像的显示技术中,在用遥控器对显示装置指示了弹出菜单的显示时,显示装置必须通过HDMI缆线向3D再现装置请求切换到B-B显示模式。基于HDMI方式的通信较费时,所以难以更可靠地进行从3D影像向2D影像的无缝切换。
发明内容
本发明的目的在于,提供一种能够无缝实现从3D影像向2D影像的切换的显示装置。
本发明的显示装置是用于将立体视觉影像显示在画面上的显示装置,具备接收部、信号处理部以及显示部。接收部接收包括立体视觉影像的左视点帧和右视点帧以及控制信息的流数据。信号处理部从该流数据中交替提取左视点帧和右视点帧。信号处理部还在立体视觉影像的一个帧期间,在控制信息表示3D再现模式的情况下送出一对左视点帧和右视点帧,在控制信息表示2D再现模式的情况下仅送出左视点帧。显示部将从信号处理部送出的帧在画面上各显示规定时间。
发明效果
本发明的显示装置从流数据中解读控制信息,并在该控制信息表示3D再现模式的情况下,交替显示左视点帧和右视点帧,在表示2D再现模式的情况下,仅显示左视点帧。这样,该显示装置不用变更帧速率、或不用向流数据的送出源发送指示,而将3D影像切换为2D影像。结果,能够无缝实现从3D影像向2D影像的切换。
附图说明
图1是表示本发明实施方式1的家庭影院系统的示意图。
图2是表示图1所示的显示装置103的构成的功能框图。
图3是表示图2所示的HDMI通信部211的构成的功能框图。
图4是表示通过TMDS数据通道CH1-3传输的数据中、3D影像的1帧显示中利用的数据结构的示意图。
图5的(a)-(e)是表示图4所示的有效显示区域VACT×HACT中的左视点帧和右视点帧的配置的示意图。
图6是图2所示的显示装置103的3D影像显示动作的流程图。
图7的(a)-(d)分别是表示在3D影像的再现期间P3D途中插入了2D影像的再现期间P2D的情况下、从再现装置102送出的再现模式和帧L、R的变化、由显示装置103显示的帧L、R的变化、以及快门眼镜104使左右镜片变为透明的期间LSL、LSR的示意图。
图8的(a)-(d)分别是表示在3D影像的再现期间P3D途中插入了2D影像的再现期间P2D的情况下、从再现装置102送出的再现模式和帧L、R的变化、由显示装置103显示的帧L、R的变化、以及快门眼镜104使左右镜片变为透明的期间LSL、LSR的第1变形例的示意图。
图9的(a)-(d)分别是表示在3D影像的再现期间P3D途中插入了2D影像的再现期间P2D的情况下、从再现装置102送出的再现模式和帧L、R的变化、由显示装置103显示的帧L、R的变化、以及快门眼镜104使左右镜片变为透明的期间LSL、LSR的第2变形例的示意图。
图10的(a)-(d)分别是表示在3D影像的再现期间P3D途中插入了2D影像的再现期间P2D的情况下、从再现装置102送出的再现模式和帧L、R的变化、由显示装置103显示的帧L、R的变化、以及快门眼镜104使左右镜片变为透明的期间LSL、LSR的第3变形例的示意图。
图11的(a)-(d)分别是表示在3D影像的再现期间P3D途中插入了2D影像的再现期间P2D的情况下、从再现装置102送出的再现模式和帧L、R的变化、由显示装置103显示的帧L、R的变化、以及快门眼镜104使左右镜片变为透明的期间LSL、LSR的第4变形例的示意图。
图12是表示图1所示的BD-ROM盘101上的数据结构的示意图。
图13的(a)、(b)、(c)分别是图2所示的BD-ROM盘101上的主TS、第1辅TS、第2辅TS中复用的基本流的一览表。
图14是表示复用流数据1400内的TS包的配置的示意图。
图15的(a)是表示构成复用流数据的一系列TS包的每个TS包中包括的TS头1501H的数据结构的示意图,(b)是表示该TS包串的形式的示意图,(c)是表示由该TS包串构成的源包串的形式的示意图,(d)是连续记录了一系列的源包1502的BD-ROM盘101的卷区域上的扇区群的示意图。
图16是表示PG流1600的数据结构的示意图。
图17是按显示时间顺序表示基础视点视频流1701和右视点视频流1702的图片的示意图。
图18是表示视频流1800的数据结构的细节的示意图。
图19是表示向PES包串1902的视频流1901的存储方法的细节的示意图。
图20是表示分配给基础视点视频流2001和从属视点视频流2002的各图片的PTS与DTS之间的关系的示意图。
图21是表示从属视点视频流2100包括的偏移元数据2110的数据结构的示意图。
图22的(a)、(b)分别是表示对PG平面2210与IG平面2220的偏移控制的示意图,(c)是表示视听者从(a)、(b)所示的图形平面表示的2D图形影像中感知的3D图形影像的示意图。
图23的(a)、(b)是表示偏移序列的具体例的图表,(c)是表示根据(a)、(b)所示的偏移序列来再现的3D图形影像的示意图。
图24是表示PMT2410的数据结构的示意图。
图25是表示图13所示的主TS、与第1辅TS或第2辅TS中的某一个在BD-ROM盘101上的物理配置的示意图。
图26的(a)是表示在某个BD-ROM盘上独立地连续记录的主TS2601与辅TS2602的配置的示意图,(b)是表示本发明实施方式1的BD-ROM盘101上记录的从属视点数据块D[0]、D[1]、D[2]、...与基础视点数据块B[0]、B[1]、B[2]、...的交织配置的示意图,(c)、(d)分别是示例按交织配置记录的从属视点数据块D[n]与基础视点数据块B[n]的各区段ATC时间的示意图(n=0、1、2)。
图27是表示在邻接的数据块之间使区段ATC时间一致的方法的示意图。
图28是表示对于图25所示的区段块群2501-2503的、2D再现模式下的再现路径2801和3D再现模式下的再现路径2802的示意图。
图29是表示2D再现模式的再现装置102内的再现处理系统的框图。
图30的(a)是表示在2D再现模式下的动作中、图29所示的读缓冲器2902中存储的数据量DA的变化的图表,(b)是表示再现对象的区段块3010与2D再现模式下的再现路径3020之间的对应关系的示意图。
图31是涉及BD-ROM盘的跳跃距离SJUMP与最大跳跃时间TJUMP_MAX之间的对应表的一例。
图32是表示3D再现模式的再现装置102内的再现处理系统的框图。
图33的(a)、(b)是表示在从一个区段块无缝再现3D影像时、图32所示的RB13211、RB23212中存储的数据量DA1、DA2的变化的图表,(c)是表示该区段块3310与3D再现模式下的再现路径3320之间的对应关系的示意图。
图34是表示图12所示的第1片段信息文件(01000.clpi)1231的数据结构的示意图。
图35的(a)是表示图34所示的入口映射3430的数据结构的示意图,(b)是表示属于图12所示的文件2D1241的源包群3510中、通过入口映射3430与各EP_ID3505建立对应的源包群的示意图,(c)是表示与该源包群3510对应的BD-ROM盘101上的数据块群D[n]、B[n](N=0、1、2、3、...)的示意图。
图36的(a)是表示图34所示的区段起点3442的数据结构的示意图,(b)是表示图12所示的第2片段信息文件(2000.clpi)1232中包括的区段起点3620的数据结构的示意图,(c)是表示由3D再现模式的再现装置102从图12所示的第1文件SS1245中提取的基础视点数据块B[0]、B[1]、B[2]、...的示意图,(d)是表示属于图12所示的第1文件DEP(02000.m2ts)1242的从属视点区段EXT2[0]、EXT2[1]、...与区段起点3620所示的SPN3622之间的对应关系的示意图,(e)是表示属于第1文件SS1245的区段SSEXTSS[0]与BD-ROM盘101上的区段块之间的对应关系的示意图。
图37是表示BD-ROM盘101上记录的一个区段块3700与文件2D3710、文件基础3711、文件DEP3712及文件SS3720的各区段群之间的对应关系的示意图。
图38是表示基础视点视频流3810与从属视点视频流3820中设定的入口点的例子的示意图。
图39是表示图12所示的2D播放列表文件(00001.mpls)1221的数据结构的示意图。
图40是表示播放项目ID=#N(N=1、2、3、...)的播放项目信息、PI#N的数据结构的示意图。
图41的(a)、(b)分别是表示连接条件为“5”、“6”时应连接的二个再现区间PI#(N-1)、PI#N之间的关系的示意图。
图42是表示图39所示的2D播放列表文件(00001.mpls)1221所示的PTS、与从文件2D(01000.m2ts)1241再现的部分之间的对应关系的示意图。
图43是表示图12所示的3D播放列表文件(00002.mpls)1222的数据结构的示意图。
图44是表示图43所示的3D播放列表文件1222的主路径4301所包括的STN表4405的示意图。
图45是表示图44所示的STN表SS4430的数据结构的示意图。
图46是表示图43所示的3D播放列表文件(00002.mpls)1222所示的PTS、与从第1文件SS(01000.ssif)1245再现的部分之间的对应关系的示意图。
图47是表示图12所示的索引文件(index.bdmv)1211的数据结构的示意图。
图48是通过参照图47所示的索引表4710的项目‘标题3’、再现装置102利用6种判别处理(1)-(6)来选择再现对象的播放列表文件的处理的流程图。
图49是2D再现装置4900的功能框图。
图50是图49所示的播放器变更存储部4936所存储的系统参数(SPRM)的一览表。
图51是图49所示的2D再现装置4900的再现动作的流程图。
图52是图49所示的再现控制部4935进行的2D播放列表再现处理的流程图。
图53是图49所示的系统目标解码器4923的功能框图。
图54的(a)是图51所示的PG解码器5372从PG流内的一个数据入口对图形对象进行解码的处理的流程图,(b)-(e)是表示根据该处理变化的图形对象的示意图。
图55是表示图49所示的HDMI通信部4925的构成的功能框图。
图56是3D再现装置5600的功能框图。
图57是图56所示的3D再现装置5600的再现动作的流程图。
图58是图56所示的再现控制部5635进行的3D播放列表再现处理的流程图。
图59是图56所示的再现控制部5635进行的再现模式的更新处理的流程图。
图60是图56所示的系统目标解码器5632的功能框图。
图61是图56所示的平面加法部5624的1平面+偏移模式或1平面+零偏移模式中的功能框图。
图62是图61所示的各裁剪处理部6131-6134进行的偏移控制的流程图。
图63是表示通过图61所示的第2裁剪处理部6132的偏移控制进行加工前后的PG平面GP、RGP、LGP的示意图,(a)、(b)、(c)分别表示提供右向偏移的PG平面RGP、通过偏移控制进行加工前的PG平面GP、提供左向偏移的PG平面LGP。
图64是2平面模式的平面加法部5624的部分功能框图。
图65是按SPRM(33)所示的再现状态的种类、表示对应的再现模式的值及应从再现部5602输出的视频平面和图形平面的表。
图66是再现状态为种类A时的平面加法部5624的部分功能框图。
图67是再现状态为种类B时的平面加法部5624的部分功能框图。
图68是再现状态为种类C时的平面加法部5624的部分功能框图。
图69是再现状态为种类D时的平面加法部5624的部分功能框图。
图70的(a)-(f)分别是表示在将2D影像的再现期间P2D中的再现状态选择为种类A的情况下、从再现装置102送出的再现模式和帧L、R、C的变化、由显示装置103显示的帧L、R、C的变化及快门眼镜104使左右镜片变为透明的期间LSL、LSR的示意图。
图71的(a)-(f)分别是表示在将2D影像的再现期间P2D中的再现状态选择为种类B的情况下、从再现装置102送出的再现模式和帧L、R、C的变化、由显示装置103显示的帧L、R、C的变化及快门眼镜104使左右镜片变为透明的期间LSL、LSR的示意图。
图72的(a)-(f)分别是表示在将2D影像的再现期间P2D中的再现状态选择为种类D的情况下、从再现装置102送出的再现模式和帧L、R、C的变化、由显示装置103显示的帧L、R、C的变化及快门眼镜104使左右镜片变为透明的期间LSL、LSR的示意图。
图73是发送装置7300的功能框图。
图74的(a)是表示在邻接的基础视点数据块与从属视点数据块之间区段ATC时间不同、且视频流的再现时间不同时的再现路径的示意图,(b)是表示在邻接的基础视点数据块与从属视点数据块之间视频流的再现时间相等时的再现路径的示意图。
图75是本发明实施方式2的记录装置7500的功能框图。
图76的(a)、(b)是表示3D影像的一场显示中利用的左视点图片和右视点图片的示意图,(c)是表示由图75所示的视频编码器7502根据这些图片算出的进深信息的示意图。
图77是利用图75所示的记录装置7500向BD-ROM盘记录电影内容的方法的流程图。
图78的(a)-(c)是用于说明基于使用视差影像的方法的3D影像(立体视觉影像)的再现原理的示意图。
图79是表示由2D影像MVW与深度映射DPH的组合来构成左视点LVW与右视点RVW的例子的示意图。
图80的(a)是表示解码切换信息A050的数据结构的示意图,(b)是表示分配给基础视点视频流A001和从属视点视频流A002的各图片的解码计数器的一例A010、A020的示意图,(c)是表示分配给这些视频流A001、A002的各图片的解码计数器的另一例A030、A040的示意图。
图81是表示对记录了3D影像内容的光盘确保针对2D再现装置的兼容性用的技术的示意图。
具体实施方式
以下,参照附图说明本发明的优选实施方式。
《实施方式1》
图1是表示本发明实施方式1的家庭影院系统的示意图。该家庭影院系统采用利用了视差影像的3D影像(立体视觉影像)的再现方式,尤其采用序列分离方式(也称为帧顺序方式)作为显示方式(详细参照《补充》)。参照图1,该家庭影院系统包括记录介质101、再现装置102、显示装置103、快门眼镜104及遥控器105。
记录介质101是只读的蓝光光盘(注册商标)(BD:Blu-ray Disc)、即BD-ROM盘。记录介质101也可是其他的可移动记录介质,例如基于DVD等其他格式的光盘、可移动硬盘驱动器(HDD)、或SD存储卡等半导体存储器装置。该记录介质即BD-ROM盘101存储基于3D影像的电影内容。该内容包括‘左视点视频流’和‘右视点视频流’。各视频流表示3D影像的左视点和右视频的各帧串。上述内容还可以包括‘深度映射流’。深度映射流表示3D影像的各帧的深度映射。这些视频流如后所述,以数据块单位配置在BD-ROM盘101上,能够利用后述的文件结构进行访问。左视点视频流或右视点视频流分别用于由2D再现装置和3D再现装置将其内容再现为2D影像。另一方面,左视点视频流与右视点视频流的对、或左视点或右视点中某一方的视频流与深度映射流的对,用于由3D再现装置将该其内容再现为3D影像。
再现装置102搭载了BD-ROM驱动器121。BD-ROM驱动器121是依据于BD-ROM格式的光盘驱动器。再现装置102利用BD-ROM驱动器121从BD-ROM盘101读取内容。再现装置102还将该内容解码为影像数据/声音数据。这里,再现装置102是3D再现装置,能够将该内容再现为2D影像与3D影像中的任意一种。下面,将分别再现2D影像和3D影像时的再现装置102的动作模式称为‘2D再现模式’、‘3D再现模式’。2D再现模式的再现装置102仅对左视点帧或右视点帧中的某一方进行解码并送出。在3D再现模式中,解码处理中有‘L/R模式’与‘深度模式’这两种。L/R模式的3D再现装置根据左视点视频流与右视点视频流的组合,解码左视点帧与右视点帧的对。深度模式的3D再现装置根据左视点或右视点中的某一方的视频流与深度映射流的组合来解码左视点帧与右视点帧的对。再现装置102具备L/R模式。再现装置102还可以具备深度模式。另一方面,3D再现模式中,影像数据的输出模式中有‘基础视点(B)-从属视点(D)显示模式’和‘B-B显示模式’这两种。B-D显示模式的3D再现装置交替送出左视点和右视点的各视频流。此时,在显示装置的画面上交替显示左视点帧和右视点帧,所以这些由视听者看起来是3D影像。B-B显示模式的3D再现装置将帧速率维持在B-D显示模式下的值(例如48fps)的状态下,仅将从基础视点视频流解码而得到的帧数据、例如左视点帧每一帧输出两次。再现装置102具备B-D显示模式。再现装置102还可以具备B-B显示模式。
再现装置102通过HDMI缆线122与显示装置103连接。再现装置102将影像数据、声音数据及控制信息变换为HDMI格式的串行信号,通过HDMI缆线122内的TMDS(Transition Minimized Differential Signaling:最小化传输差分信号)通道传输给显示装置103。2D再现模式或B-B显示模式的再现装置102在影响数据中仅复用左视点帧。B-D显示模式的再现装置102在影响数据中时分复用左视点帧和右视点帧双方。控制信息除水平同步信号和垂直同步信号外,还包括‘信息帧(HDMI Vendor-SpecificInfoFrame)’。信息帧是影像数据之外在影像再现中所需要的辅助数据,尤其包括‘再现模式’。再现模式是表示再现装置102是2D再现模式与3D再现模式中的哪个模式的参数。
再现装置102还通过HDMI缆线122内的CEC(Consumer ElectronicsControl:消费电子控制)线与显示装置103之间交换CEC消息。由此,再现装置102能够向显示装置103询问是否能够应对3D影像的再现。再现装置102还通过HDMI缆线122内的显示数据通道(DDC)从显示装置103中读出表示询问结果的数据、EDID(Extended Display Identification Data:扩展显示识别数据)。EDID尤其包括显示装置103固有的数据区域(HDMIVendor-Specific Data Block)。该区域中,除表示显示装置103是否能够应对3D影像的再现的信息外,还存储有表示显示装置103能够应对的3D影像的显示模式的信息。再现装置102此外还通过DDC(Display Data Channel:显示数据通道)与显示装置103之间执行HDCP(High-bandwidth DigitalContent Protection:高宽带数字内容保护)认证。利用该认证结果得到的秘密密钥,再现装置102加密影像数据等,通过HDMI缆线122传输给显示装置103。
显示装置103是液晶显示器。除此之外,显示装置103还可以是等离子显示器及有机EL显示器等其他方式的平板显示器或投影仪。显示装置103根据影像数据在画面131上显示影像,根据声音数据从内置的扬声器发出声音。显示装置103的动作模式中有2D显示模式和3D显示模式这两种。2D显示模式的显示装置103以2D影像用帧速率(例如60fps)将从再现装置102接收到的影像数据显示于画面131上。此时,在画面131上显示左视点。3D显示模式的显示装置103首先根据从再现装置102接收到的信息帧,解读控制信息所包括的‘再现模式’。在该再现模式表示“3D”的情况下,显示装置103以3D影像用帧速率(例如120fps)将从再现装置102接收到的影像数据显示于画面131上。此时,在画面131上交替显示左视点和右视点。另一方面,在再现模式表示“2D”的情况下,显示装置103以3D影像用帧速率(例如120fps)仅将从再现装置102接收到的影像数据中的左视点帧显示于画面131上。此时,显示装置103将一个左视点帧重复显示各二次,所以在画面131上仅显示左视点。
显示装置103包括左右信号发送部132。左右信号发送部132通过红外线或无线向快门眼镜104送出左右信号LR。左右信号LR表示在当前时刻显示于画面131上的影像是左视点与右视点中的哪一视点。2D显示模式的显示装置103不使左右信号发送部132发送左右信号。3D显示模式的显示装置103首先根据影像数据所附带的同步信号等控制信号或辅助数据,识别左视点帧和右视点帧,由此检测帧的切换。显示装置103接着使左右信号发送部132与检测到的帧的切换同步地改变左右信号LR。
快门眼镜104包括两个液晶显示面板141L、141R和左右信号接收部142。各液晶显示面板141L、141R构成左右的各镜片部分。各液晶显示面板141L、141R是常白(normally white),在没有从左右信号接收部142接收到信号的状态下,在其整体上使光透射。从2D显示模式的显示装置103不发送左右信号LR,所以视听者即便佩戴快门眼镜104来看画面131,画面131中显示的左视点也映入该视听者的双眼。左右信号接收部142接收左右信号LR,并根据其变化,向左右液晶显示面板141L、141R发送信号。各液晶显示面板141L、141R根据该信号,使光在其整体上一致地透射或遮断光。尤其是在左右信号LR表示左视点的显示时,左眼侧的液晶显示面板141L使光透射,右眼侧的液晶显示面板141R遮断光。在左右信号LR表示右视点的显示时与其相反。这样,3D显示模式的显示装置103在与帧的切换同步地改变左右信号LR的期间,两个液晶显示面板141L、141R与该变化同步地交替地使光透射。因此,在视听者佩戴快门眼镜104来看画面131时,左视点仅映入到该视听者的左眼,右视点仅映入到其右眼。此时,该视听者将映入到各眼的影像间的差异感知为针对相同的立体物体的两眼视差,因此该影像看起来是立体的。
遥控器105包括操作部和发送部。操作部包括多个按钮。各按钮与电源的接通断开、或BD-ROM盘101的再现开始或停止等、再现装置102或显示装置103的各功能建立了对应。操作部检测用户对各按钮的按下,并利用信号将该按钮的识别信息传递给发送部。发送部将该信号变换为基于红外线或无线的信号IR,并向再现装置102或显示装置103送出。另一方面,再现装置102或显示装置103接收该信号IR,确定与该信号IR所表示的按钮建立了对应的功能。再现装置102或显示装置103还在其功能为自身功能时实现该功能,在该功能是其他装置的功能时,例如利用CEC消息使其他装置实现该功能。这样,用户能够用一个遥控器105来远程操作再现装置102和显示装置103双方。
<显示装置>
图2是表示图1所示的显示装置103的构成的功能框图。参照图2,显示装置103除左右信号发送部132外,还包括接收部210、信号处理部220、存储器部230、显示部240及扬声器250。
接收部210除从再现装置102外,还从存储卡201、外部网络202及广播波203等各种介质接收流数据。该流数据包括3D影像的电影内容。接收部210尤其包括HDMI通信部211。
信号处理部220从该流数据中分离影像、声音、图形等各种数据后独立处理。信号处理部220还将左视点帧LR和右视点帧RF存储在存储器部230中,将声音数据AD发送给扬声器250。此外,信号处理部220还根据同步信号等、影像数据所附带的控制信号和辅助数据(信息帧),控制显示部240。2D显示模式的信号处理部220从存储器部230内的影像数据中仅读出左视点帧LF,以2D影像用帧速率(例如60fps)发送给显示部240。2D显示模式的显示装置103还不使左右信号发送部132发送左右信号LR。3D显示模式的信号处理部220首先从影像数据所附带的信息帧解读再现模式。在该再现模式表示“3D”的情况下,信号处理部220从存储器部230以3D影像用帧速率(例如120fps)向显示部240交替发送左视点帧LF和右视点帧RF。在该再现模式表示“2D”的情况下,信号处理部220从存储器部230以3D影像用帧速率(例如120fps)向显示部240仅发送左视点帧LF。此时,各左视点帧LF被重复发送各两次。信号处理部220与该帧的发送处理并行地向左右信号发送部132发送指示,与帧的切换同步地改变左右信号LR。
存储器部230是内置于显示装置103的半导体存储装置或硬盘驱动器(HDD)。此外,也可以是显示装置103外带的HDD。存储器部230包括两个帧缓冲器、FB1231、FB2232。FB1231与FB2232是彼此独立的存储元件。另外,也可是一个存储元件或HDD内的不同区域。FB1231与FB2232分别能够存储像素数据的2维排列。该排列的各要素与画面的各像素一对一地建立了对应。FB1231从信号处理部220接收并存储左视点帧LF,FB2232接收并存储右视点帧RF。
显示部240包括显示驱动部241和显示面板242。显示驱动部241根据来自信号处理部220的控制信号,控制显示面板242。结果,左视点帧LF和右视点帧RF在显示面板242的画面上交替显示各规定时间。显示面板242是液晶显示面板(LCD)。此外,也可以是等离子显示面板、有机EL显示面板等其他方式的面板。扬声器250是内置于显示装置103中的扬声器。此外,扬声器250也可以是显示装置103外带的扬声器。
图3是表示HDMI通信部211的构成的功能框图。HDMI通信部211通过HDMI缆线122与再现装置102连接。由此,HDMI通信部211中继再现装置102与信号处理部220之间的数据交换。参照图3,HDMI通信部211包括TMDS解码器301、EDID存储部302及CEC部303。
TMDS解码器301通过HDMI缆线122内的TMDS通道CH1、CH2、CH3、CLK从再现装置102接收表示影像数据、声音数据、辅助数据及控制信号的串行信号。TMDS通道包括三种数据通道CH1、CH2、CH3和一个时钟通道CLK。各通道由一对差动信号线构成。在时钟通道CLK的状态变化一周期量的期间,各数据通道CH1-3传输10比特。从各数据通道CH1-3例如将R、G、B、各8比特像素数据、4比特声音数据和辅助数据(信息帧)及2比特控制信号(包括水平同步信号和垂直同步信号)分别变换为10比特的数据后传输。TMDS解码器301从这10比特的数据串中解读影像数据等,传递给信号处理部220。
EDID存储部302是内置于HDMI通信部211中的半导体存储装置,通过HDMI缆线122内的显示数据通道DDC与再现装置102连接。显示数据通道DDC由包括地线的三条一组的差动信号线构成。信号处理部220将表示显示装置103的功能、特性、状态的参数(HDMI Vendor-Specific DataBlock)作为EDID存储在EDID存储部302中。EDID尤其除了表示显示装置103是否具有3D影像的再现功能的信息外,还包括表示显示装置103能够应对的3D影像的显示模式的信息。EDID存储部302根据来自再现装置102的请求,通过显示数据通道DDC提供EDID。此外,显示数据通道DDC还用于信号处理部220与再现装置102之间的HDCP认证。信号处理部220通过HDCP认证处理与再现装置102共享一个密钥。再现装置102利用该密钥,对影像数据和声音数据进行加密,信号处理部220利用该密钥将加密数据解码为影像数据和声音数据。
CEC部303通过HDMI缆线122内的CEC线CEC,与再现装置102之间交换CEC消息。CEC线CEC由一条信号线构成。CEC部303尤其是接收再现装置102从遥控器105接受到的信息,作为CEC消息,并向信号处理部220通知,或相反,将信号处理部220从遥控器105接受到的信息变换为CEC消息,并向再现装置102通知。
图4是表示通过TMDS数据通道CH1-3传输的数据中、3D影像的1帧的显示中利用的数据结构的示意图。参照图4,横长的矩形LN[1]、LN[2]、LN[3]、…分别表示称为‘线’的一定长度的数据串。3D影像的1帧显示中利用的数据变换为多个线LN[1]、LN[2]、LN[3]、…后,以线单位依次按图4中从上向下的顺序传输。各线将8比特=1字节的数据排列一定数量,从开头起依次按图4中从左向右的顺序传输。再参照图4,各线的传输期间分为控制区间CTP(用白色矩形表示)、数据岛区间DIP(用黑色矩形表示)及视频数据区间VDP(用斜线部分表示)这三种。在控制区间CTP中,传输水平同步信号HSYNC、垂直同步信号VSYNC、其他控制信号。在数据岛区间DIP中主要传输声音数据与信息帧。在视频数据区间VDP中传输影像数据、尤其是像素数据。
如图4所示,从开头的线LN[1]起k条线LN[1]、…、LN[k](字符k表示1以上的整数)不包括视频数据区间VDP,构成垂直回扫线区间VBLK。其他的线LN[k+1]、…包括视频数据区间VDP,构成垂直有效显示区间VACT。垂直同步信号VSYNC仅在垂直回扫线区间VBLK的最初几条线LN[1]、LN[2]、LN[3]、…有效(active),表示开始传输3D影像的新的帧。在垂直有效显示区间VACT中,各线的开头部不包括视频数据区间VDP,构成水平回扫线区间HBLK,其他部分仅包括视频数据区间VDP,构成水平有效显示区间HACT。水平同步信号VSYNC仅在各线LN[1]、LN[2]、LN[3]、…的开头的控制区间CTP有效,表示开始各线的传输。垂直有效显示区间VACT与水平有效显示区间HACT的共同部分是有效显示区域VACT×HACT,包括构成3D影像的1帧的左视点帧与右视点帧的对。这些配置存在各种种类。表示该种类的参数、即‘3D结构(3D structure)’401与再现模式402一起,作为信息帧的一部分存储在垂直回扫线区间VBLK的数据岛区间DIP中。
图5(a)-(e)是表示图4所示的有效显示区域VACT×HACT中的左视点帧和右视点帧的配置种类的示意图。各图所示的虚线矩形VDP表示有效显示区域VACT×HACT。各图的斜线部分表示右视点帧的传输区间。在各图的配置中,分配了3D结构的不同值。图5(a)表示‘帧封装(frame packing)方式’。构成垂直有效显示区间VACT的线数被设定得比2D影像的1帧的线数的2倍还大。在有效显示区域VACT×HACT的前半、图5(a)中上侧,配置左视点帧L,在后半、图5(b)中下侧,配置右视点帧R。并且在双方的帧L、R之间设置空区域(Active Space)VASP。该空区域VASP的线数与垂直回扫线区间VBLK的线数相等。再现装置102用一定的像素数据填满空区域VASP。另一方面,信号处理部220忽视空区域VASP内的像素数据。图5(b)表示‘并排(side by side)方式(全)’。水平有效显示区间HACT的像素数设定为2D影像的1帧的像素数的2倍。各线的水平有效显示区间HACT的前半包括左视点帧L,后半包括右视点帧R。图5(c)表示‘并排方式(半)’。与图5(b)的有效显示区域不同,水平有效显示区间HACT的像素数与2D影像的1帧的像素数相等。在各帧L、R的水平分辨率被压缩成一半之后,左视点帧L配置在各线的水平有效显示区间HACT的前半,右视点帧R配置在后半。图5(d)表示‘上下(top-bottom)方式’(也称为over-under方式。)。与图5(b)的有效显示区域不同,垂直有效显示区间VACT的线数与2D影像的1帧的线数相等。在各帧L、R的垂直分辨率被压缩成一半之后,左视点帧L配置在垂直有效显示区间HACT的前半,右视点帧R配置在后半。图5(e)表示‘交替线方式(Line alternative)’。垂直有效显示区间VACT的第奇数个线包括左视点帧,第偶数个线包括右视点帧。构成垂直有效显示区间VACT的线数设定为2D影像的1帧线数的2倍。
图6是显示装置103的3D影像显示动作的流程图。该动作通过从再现装置102等表示3D影像的流数据的发送源接收该3D影像的显示请求而开始。
在步骤S61中,接收部210从上述发送源接收流数据。例如在该发送源是再现装置102的情况下,HDMI通信部211首先进行EDID的发送及HDCP认证。这里,EDID尤其是表示显示装置103能够应对3D影像的显示,并且还表示例如图5的(a)-(e)所示的显示模式中的、显示装置103能够应对的显示模式。在HDCP认证成功的情况下,接收部210通过TMDS数据通道CH1-3,接收被加密的流数据。然后,处理前进到步骤S62。
在步骤S62中,信号处理部220利用在HDCP认证处理中取得的密钥,从流数据中解读并提取影像、声音、图形等各种数据。信号处理部220还将左视点帧LF和右视点帧RF分别存储到存储器部230内的FB1231、FB2232,将声音数据AD发送给扬声器250。另一方面,信号处理部220基于垂直同步信号VSYNC、水平同步信号HSYNC、其他控制信号及辅助数据,控制显示部240。信号处理部220尤其是从传输到垂直回扫线区间VBLK的信息帧中读出3D结构和再现模式。根据3D结构的值来识别有效显示区域中的左视点帧L和右视点帧R的配置。然后,处理前进到步骤S63。
在步骤S63中,扬声器250根据声音数据AD来再现声音。处理与该动作并行地前进到步骤S64。
在步骤S64中,信号处理部220识别再现模式表示“3D”和“2D”中的哪一种。在再现模式表示“3D”的情况下,处理前进到步骤S65A,在表示“2D”的情况下,处理前进到步骤S65B。
在步骤S65A中,再现模式表示“3D”。因此,信号处理部220移动到3D显示模式。信号处理部220从存储器部230内的FB1231、FB2232中交替读出帧LF、LR并发送给显示部240。此时,信号处理部220将帧速率设定为例如120fps。在显示部240中,显示驱动部241根据来自信号处理部220的控制信号,控制显示面板242。由此,左视点帧LF和右视点帧RF交替地在显示面板242的画面上显示例如各1/120秒。另一方面,信号处理部220使左右信号发送部132与帧的切换同步地改变左右信号LR。根据该变化,快门眼镜104使左右液晶显示面板141L、141R交替地透射光。结果,佩戴快门眼镜104来看画面131的视听者将左视点帧LF与右视点帧RF看成3D影像的1帧。然后,处理前进到步骤S66。
在步骤S65B中,再现模式表示“2D”。因此,信号处理部220移动到2D显示模式。信号处理部220仅从存储器部230内的FB1231中读出帧LF并发送给显示部240。此时,信号处理部220将帧速率维持在3D显示模式下的值、例如120fps。显示部240中,显示驱动部241根据来自信号处理部220的控制信号,控制显示面板242。由此,仅有左视点帧LF例如各1/120秒重复2次显示在显示面板242的画面上。另一方面,与步骤S65A同样,信号处理部220使左右信号发送部132与帧的切换同步地改变左右信号LR。根据该变化,快门眼镜104使左右液晶显示面板141L、141R交替地透射光。结果,视听者即便佩戴快门眼镜104来看画面131,也仅能看到左视点帧LF,所以仅看成2D影像的1帧。然后,处理前进到步骤S66。
在步骤S66中,信号处理部220检查存储器部230中是否未残留显示对象的流数据。在残留有流数据的情况下,处理从步骤S62开始重复。在未残留的情况下,结束处理。
图7(a)-(d)分别是表示在3D影像的再现期间P3D的途中插入2D影像的再现期间P2D的情况下、从再现装置102发送的再现模式和帧L、R的变化、由显示装置103显示的帧L、R的变化及快门眼镜104使左右镜片变为透明的期间LSL、LSR的示意图。参照图7(a),在第1时刻T1之前是3D影像的再现期间P3D,再现装置102以B-D显示模式动作。因此,如图7(a)所示,再现装置102将信息帧内的再现模式设定为“3D”,并将该信息帧传输给显示装置103。另一方面,如图7(b)所示,再现装置102将左视点帧L和右视点帧R交替地发送给显示装置103。这里,一对帧L、R的传输格式优选为图5(a)所示的帧封装方式。另外,也可以采用图5(b)-(e)所示的任一种方式。再现装置102对信息帧内的3D结构设定表示采用的传输格式的值。显示装置103根据该信息帧,识别3D结构所表示的传输格式,并且,检测出再现模式表示“3D”。利用这些信息,显示装置103如图7(c)所示,交替显示接收到的左视点帧L和右视点帧R。显示装置103与此并行地如图7(d)所示使快门眼镜104与帧L、R的切换同步地将左右镜片交替变为透明。
再参照图7(a),在第1时刻T1,3D影像的再现期间P3D移动到2D影像的再现期间P2D。具体而言,再现装置102根据用户操作或应用程序的指示,将信息帧内的再现模式从“3D”变更为“2D”,并将该信息帧传输给显示装置103。另一方面,再现装置102在第1时刻T1以后还持续B-D显示模式。因此,如图7(b)所示,在第1时刻T1以后,也与3D影像的再现期间P3D同样,左视点帧L和右视点帧R继续交替发送到显示装置103。显示装置103根据上述信息帧,检测出再现模式变更为“2D”,如图7(c)所示,仅将接收到的左视点帧L重复显示2次。但是,如图7(d)所示,显示装置103在第1时刻T1以后也与3D影像的再现期间P3D同样,使快门眼镜104与帧L、R的切换同步地将左右镜片交替变为透明。
再参照图7(a),2D影像的再现期间P2D从第1时刻T1起持续至第2时刻T2,在第2时刻T2回到3D影像的再现期间P3D。具体而言,再现装置102根据用户操作或应用程序的指示,将信息帧内的再现模式从“2D”回到“3D”。另一方面,再现装置102在第2时刻T2以后还持续B-D显示模式。因此,如图7(b)所示,在第2时刻T2以后也与其之前同样,左视点帧L和右视点帧R继续交替发送到显示装置103。显示装置103根据上述信息帧,检测出再现模式再次表示“3D”,如图7(c)所示,交替显示接收到的左视点帧L和右视点帧R。显示装置103与此并行地如图7(d)所示使快门眼镜104与帧L、R的切换同步地将左右镜片交替变为透明。
从图7可明确理解,一旦将3D影像切换为2D影像时,再现装置102只要仍维持B-D显示模式的状态下将信息帧内的再现模式从“3D”变更为“2D”即可。因此,该切换动作迅速。另一方面,显示装置103在信息帧内的再现模式为“3D”的期间,交替显示左视点帧L和右视点帧R,在为“2D”的期间,仅将左视点帧L重复显示2次。帧速率不用特意变更。这样,即便再现装置102没有搭载B-B显示模式,显示装置103也能将3D影像无缝切换为2D影像。
<变形例>
(1-A)图8(a)-(d)分别是表示在3D影像的再现期间P3D的途中插入2D影像的再现期间P2D的情况下、从再现装置102发送的再现模式和帧L、R的变化、由显示装置103显示的帧L、R的变化及快门眼镜104将左右镜片变为透明的期间LSL、LSR的第1变形例的示意图。图8与图7的不同之处在于显示装置103在2D影像的再现期间P2D,使快门眼镜104将左右双方的镜片维持为透明。其他方面,图8(a)-(d)分别与图7(a)-(d)同样。因此,其细节援引图7的说明。
参照图8(a),从第1时刻T1至第2时刻T2是2D影像的再现期间P2D,信息帧内的再现模式表示“2D”。此时,如图8(d)所示,显示装置103使快门眼镜104将左右双方的镜片维持为透明。具体而言,左右信号发送部132中断左右信号LR的发送。此外,也可以对左右信号追加表示‘当前时刻在画面131中显示的影像是2D’的状态,在将“2D”设定成信息帧内的再现模式的期间,显示装置103使左右信号发送部132将左右信号LR维持在上述状态。由于快门眼镜104将左右双方的镜片维持为透明,因此画面131始终映入到视听者的双眼。因此,视听者看起来画面的亮度提高。另外,避免视听者感觉到因左右镜片交替遮断光而引起的画面的闪烁(闪光)的危险性。结果,能够使视听者认为2D影像的画质提高。
(1-B)图9(a)-(d)分别是表示在3D影像的再现期间P3D的途中插入2D影像的再现期间P2D的情况下、从再现装置102发送的再现模式和帧L、R的变化、由显示装置103显示的帧L、R的变化及快门眼镜104将左右镜片变为透明的期间LSL、LSR的第2变形例的示意图。图9与图8的不同之处在于显示装置103在2D影像的再现期间P2D,将帧速率回到2D显示模式下的值。其他方面,图9(a)-(d)分别与图8(a)-(d)图样。因此,其细节援用图7、8的说明。
参照图9(a),从第1时刻T1至第2时刻T2是2D影像的再现期间P2D,信息帧内的再现模式表示“2D”。此时,如图9(d)所示,显示装置103使快门眼镜104将左右双方的镜片维持为透明。另外,帧速率只要是避免随着帧切换而发生的闪光的程度就足够,所以显示装置103将帧速率从3D显示模式下的值(例如120fps)降低到2D显示模式下的值(例如60fps)。由此,各左视点帧L只要各显示1次即可。结果,帧的切换处理中所要求的速度和频度均减少,所以能削减伴随该切换的功耗。
(1-C)图10(a)-(d)分别是表示在3D影像的再现期间P3D的途中插入2D影像的再现期间P2D的情况下、从再现装置102发送的再现模式和帧L、R的变化、由显示装置103显示的帧L、R的变化及快门眼镜104将左右镜片变为透明的期间LSL、LSR的第3变形例的示意图。图10与图9的不同之处在于再现装置102在2D影像的再现期间P2D中以B-B显示模式动作。其他方面,图10(a)-(d)分别与图9(a)-(d)同样。因此,其细节援用图7、9的说明。
参照图10(a),从第1时刻T1至第2时刻T2是2D影像的再现期间P2D,信息帧内的再现模式表示“2D”。此时,如图10(b)所示,再现装置102从B-D显示模式转移到B-B显示模式。B-B显示模式的再现装置102将帧速率维持为B-D显示模式下的值(例如48fps)的状态下,仅将左视点帧向显示装置103发送每帧2次。另一方面,显示装置103使帧速率从3D显示模式下的值(例如120fps)下降到2D显示模式下的值(例如60fps),将各左视点帧L各显示一次。这样,无论再现装置102是否搭载B-B显示模式,显示装置103均能将3D影像无缝切换到2D影像。另外,显示装置103的帧速率维持得低,所以能削减伴随帧切换的功耗。
(1-D)图11(a)-(d)分别是表示在3D影像的再现期间P3D的途中插入2D影像的再现期间P2D的情况下、从再现装置102发送的再现模式和帧L、R的变化、由显示装置103显示的帧L、R的变化及快门眼镜104将左右镜片变为透明的期间LSL、LSR的第4变形例的示意图。图11与图9的不同之处在于显示装置103在2D影像的再现期间P2D中根据左视点帧L与右视点帧R的对,重构左视点帧Lc。其他方面,图11(a)-(d)分别与图9(a)-(d)同样。因此,其细节援用图7、9的说明。
参照图11(a),从第1时刻T1至第2时刻T2是2D影像的再现期间P2D,信息帧内的再现模式表示“2D”。此时,显示装置103首先根据构成3D影像的一个帧的左视点帧L与右视点帧R的对,重构新的左视点帧Lc。在这些帧L、R之间,看被摄体的视点仅微妙不同,所以各帧L、R所表示的影像彼此近似。因此,利用该近似性,一般可以使新的左视点帧Lc的分辨率及画质比最初的左视点帧L提高。显示装置103接着使帧速率从3D显示模式下的值(例如120fps)下降到2D显示模式下的值(例如60fps)。由此,新的左视点帧Lc分别各显示一次。这样,能够在2D影像的再现期间P2D中提高影像的分辨率及画质,并且削减伴随帧切换的功耗。
<BD-ROM盘上的数据结构>
图12是表示图1所示的BD-ROM盘101上的数据结构的示意图。参照图12,在BD-ROM盘101上的数据记录区域的最内周部设有BCA(BurstCutting Area:突发切割区)1201。仅允许BD-ROM驱动器121对BCA访问,禁止应用程序对BCA访问。由此,BCA1201利用于著作权保护技术。在BCA1201外侧的数据记录区域中,从内周朝向外周以螺旋状延伸形成轨道(track)。图12中示意地描绘了沿横向拉伸的轨道1202。轨道1202的左侧表示盘101的内周部,右侧表示外周部。如图12所示,轨道1202从内周开始依次包括导入区域1202A、卷区域1202B及导出区域1202C。导入区域1202A设置在紧挨着BCA1201的外周侧。导入区域1202A包括记录在卷区域1202B中的数据的大小及物理地址等、BD-ROM驱动器121访问卷区域1202B时所需要的信息。导出区域1202C设置在数据记录区域的最外周部,表示卷区域1202B的末端。卷区域1202B包括影像及声音等的应用数据。
卷区域1202B被划分为称作‘扇区’的小区域1202D。扇区的大小相同,例如是2048字节。从卷区域1202B的前端开始依次对各扇区1202D分配了连续号码。该连续号码被称为逻辑块号码(LBN),被用作BD-ROM盘101上的逻辑地址。在从BD-ROM盘101读出数据时,通过指定读出目的地扇区的LBN来确定读出对象的数据。这样,卷区域1202B能够以扇区单位进行访问。进而,在BD-ROM盘101上,逻辑地址与物理地址实质上相等。尤其是在LBN连续的区域中,物理地址实质上也是连续的。因此,BD-ROM驱动器121能够从LBN连续的扇区中连续读出数据,而不需使其光拾取器进行查找(seek)。
在卷区域1202B中记录的数据由规定的文件系统管理。作为该文件系统,采用UDF(Universal Disc Format:通用光盘格式)。此外,该文件系统也可以是ISO9660。根据该文件系统,利用目录/文件形式来表述在卷区域1202B中记录的数据(详细参照《补充》)。即,这些数据能够以目录单位或文件单位进行访问。
《BD-ROM盘上的目录/文件结构》
图12还表示在BD-ROM盘101的卷区域1202B中存储的数据的目录/文件结构。参照图12,在该目录/文件结构中,在根(ROOT)目录1203之下设有BD电影(BDMV:BD Movie)目录1210。在BDMV目录1210之下设有索引文件(index.bdmv)1211和电影对象文件(MovieObject.bdmv)1212。
索引文件1211是用于管理在BD-ROM盘101中记录的全部内容的信息。该信息尤其包括用于使再现装置102识别该内容的信息及索引表。索引表是构成该内容的标题与用于控制再现装置102的动作的程序之间的对应表。将该程序称为‘对象’。对象的种类中有电影对象和BD-J(BD Java(注册商标))对象。
电影对象文件1212一般包括多个电影对象。各电影对象包括导航命令串。导航命令是用于使再现装置102执行与一般DVD播放器的再现处理相同的再现处理的控制指令。导航命令的种类例如有与标题对应的播放列表文件的读出命令、播放列表文件所表示的AV流文件的再现命令及向其他标题的转移命令。导航命令利用解释(interpreter)型语言记述,由装配在再现装置102中的解释器、即工作控制程序进行解读,并使再现装置102的控制部执行期望的工作。导航命令由操作代码与操作数构成。操作代码表示标题的分支与再现及运算等应使再现装置102执行的操作的种类。操作数表示标题号码等该操作的对象的识别信息。再现装置102的控制部例如根据用户的操作,调用各电影对象,并按照串的顺序执行在该电影对象中包含的导航指令。由此,再现装置102与一般的DVD播放器同样,首先在显示装置103上显示菜单,并使用户选择命令。再现装置102接着根据选择的命令,使标题的再现开始/停止及向其他标题的切换等再现的影像的进展发生变化。
再参照图12,在BDMV目录1210之下设有播放列表(PLAYLIST)目录1220、片段信息(CLIPINF)目录1230、流(STREAM)目录1240、BD-J对象(BDJO:BD Java Object)目录1250以及Java(注册商标)归档(JAR:JavaArchive)目录1260。
在STREAM目录1240之下设有三种AV流文件(01000.m2ts)1241、(02000.m2ts)1242、(03000.m2ts)1243及立体视觉交织文件(SSIF:Stereoscopic Interleaved File)目录1244。在S SIF目录1244之下设有两种AV流文件(01000.ssif)1245、(02000.ssif)1246。
‘AV流文件’是指在BD-ROM盘101上记录的影像内容的实体中、依据文件系统所确定的文件形式的文件。这里,所谓影像内容的实体一般意味着表示影像、声音、字幕等的各种流数据,即复用了基本流的流数据。该复用流数据根据内置的主视频流的种类,大致分为主传输流(TS)和辅TS。‘主TS’是指包括基础视点视频流作为主视频流的复用流数据。‘基础视点视频流’是指可单独再现、表示2D影像的视频流。‘辅TS’是指包括从属视点视频流作为主视频流的复用流数据。‘从属视点视频流’是指其再现中需要基础视点视频流、由与该基础视点视频流的组合来表示3D影像的视频流。从属视点视频流的种类中有右视点视频流、左视点视频流及深度映射流。‘右视点视频流’在由L/R模式的再现装置将基础视点视频流所表示的2D影像用作3D影像的左视点时,用作表示该3D影像的右视点的视频流。‘左视点视频流’相反。‘深度映射流’在由深度模式的再现装置将基础视点视频流所表示的2D影像用作3D影像向虚拟2D画面的投影时,用作表示该3D影像的深度映射的流数据。尤其将该基础视点视频流表示左视点时利用的深度映射流称为‘左视点深度映射流’,将该基础视点视频流表示右视点时利用的深度映射流称为‘右视点深度映射流’。
AV流文件依照内置的复用流数据的种类,分为文件2D、文件从属(下面简称为文件DEP。)及交织文件(下面简称为文件SS。)三种。‘文件2D’是2D再现模式下的2D影像再现中利用的AV流文件,包括主TS。‘文件DEP’是指包括辅TS的AV流文件。‘文件SS’是指包括表示相同的3D影像的主TS与辅TS的对的AV流文件。文件SS尤其与任一文件2D共享该主TS,与任一文件DEP共享该辅TS。即,在BD-ROM盘101的文件系统中,主TS能够作为文件SS和文件2D中的任意一方进行访问,辅TS能够作为文件SS与文件DEP中的任意一方进行访问。这样,将使BD-ROM盘101上记录的一系列数据被不同的文件所共享、并且能够作为任意一个文件而进行访问的结构称为“文件的交叉链接”(crosslink)。
在图12所示的例子中,第1AV流文件(01000.m2ts)1241是文件2D,第2AV流文件(02000.m2ts)1242和第3AV流文件(03000.m2ts)1243均是文件DEP。这样,文件2D和文件DEP设置在STREAM目录1240之下。第1AV流文件、即文件2D241所包含的基础视点视频流表示3D影像的左视点。第2AV流文件、即第1文件DEP1242所包含的从属视点视频流是右视点视频流。第3AV流文件、即第2文件DEP1243所包含的从属视点视频流是深度映射流。
在图12所示的例子中,第4AV流文件(01000.ssif)1245和第5AV流文件(02000.ssif)1246均为文件SS。这样,文件SS设置在SSIF目录1244之下。第4AV流文件、即第1文件SS1245与文件2D1241共享主TS、尤其是基础视点视频流,与第1文件DEP1242共享辅TS、尤其是右视点视频流。第5AV流文件、即第2文件SS1246与文件2D1241共享主TS、尤其是基础视点视频流,与第2文件DEP1243共享辅TS、尤其是深度映射流。
CLIPINF目录1230中设有三种片段信息文件(01000.clpi)1231、(02000.clpi)1232、(03000.clpi)1233。‘片段信息文件’是与文件2D及文件DEP一对一地建立了对应的文件,尤其是指包括各文件的入口映射的文件。‘入口映射’是文件2D或文件DEP所表示的各场景的显示时间与记录了该场景的各文件内的地址之间的对应表。将片段信息文件中与文件2D建立了对应的文件称为‘2D片段信息文件’,将与文件DEP建立了对应的文件称为‘从属视点片段信息文件’。并且,在文件DEP包括右视点视频流时,将对应的从属视点片段信息文件称为‘右视点片段信息文件’。在文件DEP包括深度映射流时,将对应的从属视点片段信息文件称为‘深度映射片段信息文件’。在图12所示的例子中,第1片段信息文件(01000.clpi)1231是2D片段信息文件,与文件2D1241建立了对应。第2片段信息文件(02000.clpi)1232是右视点片段信息文件,与第1文件DEP1242建立了对应。第3片段信息文件(03000.clpi)1233是深度映射片段信息文件,与第2文件DEP1243建立了对应。
在PLAYLIST目录1220中设有三种播放列表文件(00001.mpls)1221、(00002.mpls)1222、(00003.mpls)1223。‘播放列表文件’是指规定AV流文件的再现路径、即AV流文件的再现对象部分及其再现顺序的文件。播放列表文件的种类有2D播放列表文件和3D播放列表文件。‘2D播放列表文件’规定文件2D的再现路径。‘3D播放列表文件’针对2D再现模式的再现装置规定文件2D的再现路径,针对3D再现模式的再现装置规定文件SS的再现路径。在图12所示的例子中,第1播放列表文件(00001.mpls)1221是2D播放列表文件,规定文件2D1241的再现路径。第2播放列表文件(00002.mpls)1222是3D播放列表文件,针对2D再现模式的再现装置规定文件2D1241的再现路径,针对L/R模式的再现装置规定第1文件SS1245的再现路径。第3播放列表文件(00003.mpls)1223是3D播放列表文件,针对2D再现模式的再现装置规定文件2D1241的再现路径,针对深度模式的再现装置规定第2文件SS1246的再现路径。
在BDJO目录1250中设有BD-J对象文件(XXXXX.bdjo)1251。BD-J对象文件1251包括一个BD-J对象。BD-J对象是字节代码程序,使在再现装置102中安装的Java虚拟机执行标题的再现处理和图形影像的描绘处理。BD-J对象由Java语言等编译型语言记述。BD-J对象包括应用管理表与参照对象的播放列表文件的识别信息。‘应用管理表’是应使Java虚拟机执行的Java应用程序及其执行时期即生命周期的对应表。‘参照对象的播放列表文件的识别信息’是用于识别与再现对象的标题对应的播放列表文件的信息。Java虚拟机根据用户的操作或应用程序的指示,调用各BD-J对象,并按照该BD-J对象中包含的应用管理表,执行Java应用程序。由此,再现装置102使被再现的各标题的影像的进展动态地发生变化,或使显示装置103将图形影像和标题的影像独立地进行显示。
在JAR目录1260中设有JAR文件(YYYYY.jar)1261。JAR文件1261一般包括多个应按照BD-J对象所表示的应用管理表来执行的Java应用程序的主体。‘Java应用程序’是与BD-J对象同样利用Java语言等编译型语言记述的字节代码程序。Java应用程序的种类包括使Java虚拟机执行标题的再现处理的程序及使Java虚拟机执行图形影像的描绘处理的程序。JAR文件1261是Java归档文件,在被读入到再现装置102中时,在再现装置102内部的存储器中被展开。由此,在该存储器中保存Java应用程序。
《复用流数据的结构》
图13(a)是在BD-ROM盘101上的主TS中复用的基本流的一览表。主TS是MPEG-2传输流(TS)格式的数字流,包含于图12所示的文件2D1241中。参照图13(a),主TS包括主视频流1301和主音频流1302A、1302B。此外,主TS还可以包括演示图形(PG)流1303A、1303B、交互图形(IG)流1304、辅音频流1305及辅视频流1306。
主视频流1301表示电影的主影像,辅视频流1306表示副影像。这里,主影像是指电影的正片的影像等内容的主要影像,例如指在画面整体上显示的影像。另一方面,副影像是指例如在主影像中以较小的画面显示的影像那样利用画中画(picture in picture)方式与主影像同时显示在画面上的影像。主视频流1301和辅视频流1306都是基础视点视频流。各视频流1301、1306被利用MPEG-2、MPEG-4AVC或SMPTE VC-1等动态图像压缩编码方式进行编码。
主音频流1302A、1302B表示电影的主声音。这里,在两个主音频流1302A、1302B之间语言不同。辅音频流1305表示伴随交互式画面操作的效果音等、应与主声音叠加(混合)的副声音。各音频流1302A、1302B、1305被利用AC-3、杜比数字+(Dolby Digital Plus:‘Dolby Digital’是注册商标)、MLP(Meridian Lossless Packing:注册商标)、DTS(Digital Theater System:注册商标)、DTS-HD、或线性PCM(Pulse Code Modulation)等方式进行编码。
各PG流1303A、1303B表示基于图形的字幕等应与主视频流1301所表示的影像叠加显示的图形影像。在两个PG流1303A、1303B之间,例如字幕的语言不同。IG流1304表示用于在显示装置103的画面131上构成交互式画面的图形用户界面(GUI)用图形部件及其配置。
基本流1301-1306利用包识别符(PID)进行识别。PID的分配例如按照下面所述来进行。一个主TS仅包括一个主视频流,所以对主视频流1301分配16进制数值0x1011。当在一个主TS中根据每个种类最多能够复用32个其他基本流时,对主音频流1302A、1302B分配0x1100至0x111F中的某一个。对PG流1303A、1303B分配0x1200至0x121F中的某一个。对IG流1304分配0x1400至0x141F中的某一个。对辅音频流1305分配0x1A00至0x1A1F中的某一个。对辅视频流1306分配0x1B00至0x1B1F中的某一个。
图13(b)是在BD-ROM盘101上的第1辅TS中复用的基本流的一览表。第1辅TS是MPEG-2TS格式的复用流数据,包含于图12所示的第1文件DEP1242中。参照图13(b),第1辅TS包括主视频流1311。此外,第1辅TS还可以包括左视点PG流1312A、1312B、右视点PG流1313A、1313B、左视点IG流1314、右视点IG流1315及辅视频流1316。主视频流1311是右视点视频流,当主TS内的主视频流1301表示3D影像的左视点时,表示该3D影像的右视点。左视点与右视点的PG流的对1312A+1313A、1312B+1313B表示在将字幕等图形影像作为3D影像来显示时该左视点与右视点的对。左视点与右视点的IG流的对1314、1315表示将交互式画面的图形影像作为3D影像来显示时该左视点与右视点的对。辅视频流1316是右视点视频流,当主TS内的辅视频流1306表示3D影像的左视点时,表示该3D影像的右视点。
对基本流1311-1316的PID分配如下所述。主视频流1311被分配0x1012。当在一个辅TS中根据种类最多能够复用32个其他基本流时,对左视点PG流1312A、1312B分配0x1220至0x123F中的某一个,对右视点PG流1313A、1313B分配0x1240至0x125F中的某一个。对左视点IG流1314分配0x1420至0x143F中的某一个,对右视点IG流1315分配0x1440至0x145F中的某一个。对辅视频流1316分配0x1B20至0x1B3F中的某一个。
图13(c)是在BD-ROM盘101上的第2辅TS中复用的基本流的一览表。第2辅TS是MPEG-2TS格式的复用流数据,包含于图12所示的第2文件DEP1243中。参照图13(c),第2辅TS包括主视频流1321。此外,第2辅TS还可以包括深度映射PG流1323A、1323B、深度映射IG流1324及辅视频流1326。主视频流1321是深度映射流,由与主TS内的主视频流1301的组合来表示3D影像。深度映射PG流1323A、1323B在将主TS内的PG流1303A、1303B所表示的2D影像用作向虚拟2D画面的3D影像的投影时,用作表示该3D影像的深度映射的PG流。深度映射IG流1324在将主TS内的IG流1304所表示的2D影像用作向虚拟的2D画面的3D影像的投影时,用作表示该3D影像的深度映射的IG流。辅视频流1326是深度映射流,由与主TS内的辅视频流1306的组合来表示3D影像。
对基本流1321-1326的PID分配如下所述。对主视频流1321分配0x1013。当在一个辅TS中按不同种类最多能够复用32个其他基本流时,对深度映射PG流1323A、1323B分配0x1260至0x127F中的某一个。对深度映射IG流1324分配0x1460至0x147F中的某一个。对辅视频流1326分配0x1B40至0x1B5F中的某一个。
图14是表示复用流数据1400内的TS包的配置的示意图。该包结构在主TS和辅TS中相同。在复用流数据1400内,各基本流1401、1402、1403、1404变换为TS包1421、1422、1423、1423的串。例如,在视频流1401中,首先,各帧1401A或各个场变换为一个PES(Packetized ElementaryStream:打包基本流)包1411。接着,各PES包1411一般变换为多个TS包1421。同样,音频流1402、PG流1403及IG流1404分别先被变换为PES包1412、1413、1414的串后,变换为TS包1422、1423、1424的串。最后,从各基本流1401、1402、1403、1404得到的TS包1421、1422、1423、1424被时分复用到一个流数据1400中。
图15(b)是表示构成复用流数据的TS包串的形式的示意图。各TS包1501是188字节长度的包。参照图15(b),各TS包1501包括TS有效载荷1501P和适配域(adaptation field)(下面简称为AD域。)1501A中的至少某一方及TS头1501H。TS有效载荷1501P和AD域1501A两者加起来是184字节长度的数据区域。TS有效载荷1501P被用作PES包的保存区域。图14所示的PES包1411-1414通常分别被分割为多个部分,各部分保存在不同的TS有效载荷1501P中。AD域1501A是在TS有效载荷1501P的数据量小于184字节时保存填充字节(即伪数据)的区域。此外,在TS包1501例如是后述的PCR时,AD域1501A被用作该信息的保存区域。TS头1501H是4字节长度的数据区域。
图15(a)是表示TS头1501H的数据结构的示意图。参照图15(a),TS头1501H包括TS优先级(transport_priority)1511、PID1512及AD域控制(adaptation_field_control)1513。PID1512表示相同TS包1501内的TS有效载荷1501P中保存的数据所属的基本流的PID。TS优先级1511表示PID1512所表示的值共通的TS包群中的TS包1501的优先级。AD域控制1513表示TS包1501内有无AD域1501A和TS有效载荷1501P。例如,在AD域控制1513表示“1”时,TS包1501不包括AD域1501A,但包括TS有效载荷1501P。在AD域控制1513表示“2”时相反。在AD域控制1513表示“3”时,TS包1501包括AD域1501A和TS有效载荷1501P双方。
图15(c)是表示由复用流数据的TS包串构成的源包串的形式的示意图。参照图15(c),各源包1502是192字节长度的包,包括一个图15(b)所示的TS包1501和4字节长度的头(TP_Extra_Header)1502H。当TS包1501记录在BD-ROM盘101中时,通过对该TS包1501赋予头1502H,来构成源包1502。头1502H包括ATS(Arrival_Time_Stamp)。‘ATS’是时刻信息,如以下这样利用:在从BD-ROM盘101向再现装置102内的系统目标解码器发送了源包1502时,从该源包1502中提取TS包1502P,并传输给系统目标解码器内的PID滤波器。该头1502H内的ATS表示应开始该传输的时刻。这里,‘系统目标解码器’是将复用流数据按每个基本流进行解码的装置。关于系统目标解码器和其实施的ATS的利用的在后面进行说明。
图15(d)是连续记录了一系列源包1502的BD-ROM盘101的卷区域1202B上的扇区群的示意图。参照图15(d),在三个连续的扇区1521、1522、1523中各记录了32个一系列的源包1502。这是因为32个源包的数据量192字节×32=6144字节等于三个扇区的合计大小2048字节×3=6144字节。这样,将在三个连续的扇区1521、1522、1523中记录的32个源包1502称为‘排列单元(Aligned Unit)’1520。再现装置102从BD-ROM盘101中按每个排列单元1520读出、即各读出32个源包1502。扇区群1521、1522、1523、...从开头起依次按每32个被分割,分别构成一个纠错编码(ECC)块1530。BD-ROM驱动器121按每个ECC块1530进行纠错处理。
《PG流的数据结构》
图16是表示PG流1600的数据结构的示意图。参照图16,PG流1600包括多个数据入口#1、#2、...。各数据入口表示PG流1600的显示单位(显示集),由使再现装置102构成一个图形平面时所需要的数据构成。‘图形平面’是指根据表示2D图形影像的图形数据来生成的平面数据。‘平面数据’是指像素数据的二维排列、并且大小与影像帧的分辨率相等的数据。一组像素数据由色坐标值和α值(不透明度)的组合构成。色坐标值由RGB值或YCrCb值表示。图形平面的种类包括PG平面、IG平面、图像平面及屏幕显示(OSD)平面。PG平面由主TS内的PG流生成。IG平面由主TS内的IG流生成。图像平面按照BD-J对象生成。OSD平面按照再现装置102的固件生成。
再参照图16,各数据入口包括多个功能段。这些功能段从开头起依次包括显示控制段(Presentation Control Segment:PCS)、窗口定义段(WindowDefine Segment:WDS)、调色板定义段(Pallet Define Segment:PDS)、及对象定义段(Object Define Segment:ODS)。
WDS规定图形平面内的矩形区域,即窗口。具体而言,WDS包括窗口ID1611、窗口位置1612、及窗口尺寸1613。窗口ID1611是WDS的识别信息(ID)。窗口位置1612表示窗口在图形平面内的位置,例如窗口左上角的坐标。窗口尺寸1613表示窗口的高度和宽度。
PDS规定规定种类的颜色ID与色坐标值(例如亮度Y、红色差Cr、蓝色差Cb、不透明度α)之间的对应关系。具体而言,PDS包括调色板ID1621和颜色查找表(CLUT)1622。调色板ID1621是PDS的ID。CLUT1622是在图形对象的描绘中利用的色的一览表。CLUT1622中能够登记256种色,0至255的颜色ID被一个个地分配到各色。另外,颜色ID=255恒定地分配给‘无色透明’。
ODS一般用多个来表示一个图形对象。所谓‘图形对象’是通过像素代码与颜色ID之间的对应关系来表现图形图像的数据。图形对象在被利用行程(run-length)编码方式压缩后被分割,分配到各ODS。各ODS还包括对象ID、即图形对象的ID。
PCS表示属于相同数据入口的显示集的细节,尤其规定使用图形对象的画面构成。该画面构成的种类包括切入/出(Cut-In/Out)、淡入/出(Fade-In/Out)、色变化(Color Change)、滚动(Scroll)及划入/出(Wipe-In/Out)。具体而言,PCS包括对象显示位置1601、裁剪信息1602、参照窗口ID1603、参照调色板ID1604及参照对象ID1605。对象显示位置1601通过WDS所规定的窗口内的坐标来表示应显示图形对象的图形平面内的位置、例如应显示图形对象的区域的左上角的坐标。裁剪信息1602表示应通过裁剪处理从图形对象中切出的矩形状的部分的范围。该范围例如通过左上角的坐标、高度及宽度来规定。该部分实际描绘在对象显示位置1601所示的位置上。参照窗口ID1603、参照调色板ID1604及参照对象ID1605分别表示在图形对象的描绘处理中应参照的WDS、PDS及图形对象的ID。内容提供者利用PCS内的这些参数,向再现装置102指示画面构成。由此,能够使再现装置102实现‘将某个字幕逐渐消失,并且显示下一字幕’等视觉效果。
《IG流的数据结构》
再参照图14,IG流1404包括对话构成段(Interactive CompositionSegment:ICS)、PDS及ODS。PDS和ODS是与PG流1403中包含的一样的功能段。尤其是ODS所包含的图形对象表示按钮及弹出菜单等构成交互式画面的GUI用图形部件。ICS规定使用这些图形对象的交互操作。具体而言,ICS规定对按钮及弹出菜单等、状态根据用户操作而变化的图形对象的每一个可取的状态,即正常、选择及激活(active)的各状态。ICS还包括按钮信息。按钮信息包括用户对按钮等执行确定操作时再现装置应执行的命令。
《视频流的数据结构》
图17是按显示时间顺序表示基础视点视频流1701和右视点视频流1702的图片的示意图。参照图17,基础视点视频流1701包括图片1710、1711、1712、...、1719(下面称为基础视点图片),右视点视频流1702包括图片1720、1721、1722、...、729(下面称为右视点图片)。各图片1710-1719、1720-1729表示1帧或1场,由MPEG-2或MPEG-4AVC等动态图像压缩编码方式压缩。
基于上述编码方式进行的各图片的压缩中,利用该图片的空间方向及时间方向的冗余性。这里,将仅利用空间方向的冗余性的图片的编码称为‘图片内编码’。另一方面,将利用时间方向的冗余性、即显示顺序连续的多个图片间的数据近似性的图片的编码称为‘图片间预测编码’。在图片间预测编码中,首先对编码对象的图片设定显示时间为前或后的其他图片作为参照图片。接着,在编码对象的图片与其参照图片之间检测运动矢量,利用其来进行运动补偿。进而,求出运动补偿后的图片与编码对象的图片间的差分值,从该差分值中去除空间方向的冗余性。这样,压缩各图片的数据量。
参照图17,基础视点图片1710-1719一般被分割为多个GOP1731、1732。‘GOP’是指以I(Intra:内部)图片为开头的多个连续图片的串。‘I图片’是通过图片内编码压缩的图片。除I图片外,GOP一般还包括P(Predictive:预测)图片和B(Bidirectionally Predivtive:双向预测)图片。‘P图片’是通过图片间预测编码压缩的图片,并且是将显示时间在其前的一个I图片或其他P图片用作参照图片的图片。‘B图片’是通过图片间预测编码压缩的图片,并且是将显示时间在其前或后的两个I图片或P图片用作参照图片的图片。将B图片中在对其他图片的图片间预测编码中用作参照图片的B图片特指为‘Br(reference B)图片’。
在图17所示的例子中,各GOP1731、1732内的基础视点图片按以下顺序压缩。在第1GOP1731中,首先将开头的基础视点图片压缩成I0图片1710。这里,下标数字表示按显示时间顺序分配给各图片连续号码。接着,第4个基础视点图片将I0图片1710作为参照图片压缩成P3图片1713。这里,图17所示的各箭头表示前端的图片是对后端图片的参照图片。接着,第2、3个基础视点图片分别将I0图片1710和P3图片1713双方作为参照图片,压缩成Br1图片1711、Br2图片1712。并且,第7个基础视点图片将P3图片1713作为参照图片,压缩成P6图片1716。接着,第4、5个基础视点图片分别将P3图片1713与P6图片1716双方作为参照图片,压缩成Br4图片1714、Br5图片1715。同样,在第2GOP1732中,首先将开头的基础视点图片压缩成I7图片1717。接着,第3个基础视点图片将I7图片1717作为参照图片压缩成P9图片1719。接着,第2个基础视点图片将I7图片1717和P9图片1719双方作为参照图片,压缩成Br8图片1718。
在基础视点视频流1701中,各GOP1731、1732在其开头必然包含I图片,所以能够按每个GOP对基础视点图片进行解码。例如,在第1GOP1731中,首先独立解码I0图片1710。接着,利用解码后的I0图片1710,解码P3图片1713。接着利用解码后的I0图片1710和P3图片1713两者,解码Br1图片1711和Br2图片1712。后续的图片群1714、1715、...也同样被解码。这样,基础视点视频流1701可独立进行解码,还能够以GOP单位随机访问。
再参照图17,右视点图片1720-1729通过图片间预测编码压缩。但是,其编码方法与基础视点图片1710-1719的编码方法不同,除利用影像的时间方向的冗余性外,还利用左右影像间的冗余性。具体而言,各右视点图片1720-1729的参照图片如图17中箭头所示,不仅从右视点视频流1702中选择,还从基础视点视频流1701中选择。尤其是各右视点图片1720-1729与被作为这些的参照图片来选择的基础视点图片的显示时刻实质上相等。这些图片表示3D影像的相同场景的右视点与左视点的对,即视差影像。这样,右视点图片1720-1729与基础视点图片1710-1719一对一对应。尤其是这些图片间GOP结构相同。
在图17所示的例子中,首先第1GOP1731内的开头的右视点图片将基础视点视频流1701内的I0图片1710作为参照图片,压缩成P0图片1720。这些图片1710、1720表示3D影像的开头帧的左视点和右视点。接着,第4个右视点图片将P0图片1720和基础视点视频流1501内的P3图片1513这两者作为参照图片,压缩成P3图片1723。接着,第2个右视点图片除P0图片1720和P3图片1723外,还将基础视点视频流1701内的Br1图片1711作为参照图片,压缩成B1图片1721。同样,第3个右视点图片除P0图片1720和P3图片1730外,还将基础视点视频流1701内的Br2图片1712作为参照图片,压缩成B2图片1722。以后的右视点图片1724-1729也一样,将显示时刻与该右视点图片实质上相等的基础视点图片用作参照图片。
作为利用上述左右影像间的相关关系的动态图像压缩编码方式,已知称为MVC(Multiview Video Coding:多视点视频编码)的MPEG-4AVC/H.264的修正标准。MVC由作为ISO/IEC MPEG与ITU-T VCEG的共同项目的JVT(Joint Video Team:联合视频组)于2008年7月制定的,是用于将从多个视点看到的影像一并进行编码的标准。在MVC中,影像间预测编码时不仅利用影像的时间方向的相似性,还利用视点不同的影像间的相似性。在该预测编码中,与对从各视点看到的影像独立进行压缩的预测编码相比,影像的压缩率高。
如上所述,在各右视点图片1720-1729的压缩中利用基础视点图片作为参照图片。因此,与基础视点视频流1701不同,不能独立解码右视点视频流1702。但是,视差影像间的差异一般很小,即左视点与右视点之间的相关高。因此,右视点图片的压缩率一般比基础视点图片的压缩率明显高,即数据量明显小。
虽然在图17中未示出,但深度映射流包括多个深度映射。这些深度映射与基础视点图片一对一对应,表示对各基础视点图片所表示的1帧或1字段的2D影像的深度映射。各深度映射与基础视点图片一样,由MPEG-2或MPEG-4AVC等动态图像压缩编码方式压缩。尤其是在该编码方式中利用图片间预测编码。即,各深度映射将其他深度映射作为参照图片来利用并被压缩。深度映射流与基础视点视频流一样被以GOP单位分割,各GOP在其开头必然包括I图片。因此,深度映射能够按每个GOP独立解码。但是,由于深度映射自身仅是将2D影像各部的进深按像素表示的信息,所以不能将深度映射流独立利用于影像的再现中。在深度映射流的压缩中利用的编码方式与右视点视频流的压缩中利用的编码方式相同。例如,在右视点视频流被以MVC格式编码了时,深度映射流也被以MVC格式编码。此时,再现装置102在3D影像的再现时,能够将编码方式维持一定的状态下,顺利实现L/R模式与深度模式的切换。
图18是表示视频流1800的数据结构的细节的示意图。该数据结构在基础视点视频流和从属视点视频流中实质上相同。参照图18,视频流1800一般由多个视频序列#1、#2、...构成。‘视频序列’是在构成一个GOP1810的图片群1811、1812、1813、1814、...中独立地组合头等附加信息而成的。将该附加信息与各图片的组合称为‘视频访问单元(VAU)’。即,在各GOP1810、1820中,按每个图片构成了一个VAU#1、#2、...。各图片能够以VAU单位从视频流1800中读出。
图18还表示在基础视点视频流内位于各视频序列的前端的VAU#11831的结构。VAU#11831包括访问单元(AU)识别代码1831A、序列头1831B、图片头1831C、补充数据1831D及压缩图片数据1831E。自第2个以后的VAU#2除了不包含序列头1831B外,其他结构与VAU#11831相同。AU识别代码1831A是表示VAU#11831的前端的规定的代码。序列头1831B也称为GOP头,包括包含VAU#11831的视频序列#1的识别号码。序列头1831B还包括所有GOP1810中共同的信息、例如分辨率、帧速率、宽高比及比特率。图片头1831C表示固有的识别号码、视频序列#1的识别号码及在图片的解码中所需要的信息、例如编码方式的种类。补充数据1831D包括除图片的解码以外的相关附加信息、例如表示隐藏字幕(closedcaption)的字符信息、与GOP结构相关的信息、及时间码信息。补充数据1831D尤其包括解码开关信息(细节参照《补充》)。压缩图片数据1831E包括基础视点图片。此外,VAU#11831还可以根据需要包括填充数据1831F、序列末端代码1831G及流末端代码1831H中的某一个或全部。填充数据1831F是伪数据。通过与压缩图片数据1831E的大小对应地调节填充数据1831F的大小,能够将VAU#11831的比特率维持为规定值。序列末端代码1831G表示VAU#11831位于视频序列#1的末端。流末端代码1831H表示基础视点视频流1800的末端。
图18还表示在从属视点视频流内位于各视频序列的前端的VAU#11832的结构。VAU#11832包括子AU识别代码1832A、子序列头1832B、图片头1832C、补充数据1682D及压缩图片数据1832E。第2个以后的VAU#2除不包括子序列头1832B外,结构与VAU#11832相同。子AU识别代码1832A是表示VAU#11832的前端的规定代码。子序列头1832B包括包含VAU#11832的视频序列#1的识别号码。子序列头1832B还包括在整个GOP1810中共同的信息、例如分辨率、帧速率、宽高比及比特率。尤其是这些值与针对基础视点视频流的对应的GOP设定的值、即VAU#11831的序列头1831B所示的值相等。图片头1832C表示固有的识别号码、视频序列#1的识别号码及在图片的解码中需要的信息、例如编码方式的种类。补充数据1832D仅包括偏移元数据(细节如后所述)。这里,补充数据的种类除了仅包括偏移元数据的1832D以外,还有包括图片的解码以外的相关附加信息、例如表示隐藏字幕的字符信息、与GOP结构相关的信息、时间码信息及解码开关信息的数据。因此,VAU#11832除补充数据1832D外,还可以包括一个以上其他补充数据。压缩图片数据1832E包括从属视点图片。此外,VAU#11832还可以根据需要而包括填充数据1832F、序列末端代码1832G及流末端代码1832H中的某一个或全部。填充数据1832F是伪数据。通过与压缩图片数据1832E的大小对应地调节填充数据1832F的大小,能够将VAU#11832的比特率维持为规定值。序列末端代码1832G表示VAU#11832位于视频序列#1的末端。流末端代码1832H表示从属视点视频流1800的末端。
VAU的各部的具体内容根据视频流1800的编码方式而不同。例如,在其编码方式为MPEG-4AVC时,图18所示的VAU的各部由一个NAL(Network Absraction Layer:网络抽象层)单元构成。具体而言,AU识别代码1831A、序列头1831B、图片头1831C、补充数据1831D、压缩图片数据1831E、填充数据1831F、序列末端代码1831G及流末端代码1831H分别相当于AU分隔符(Access Unit Delimiter)、SPS(序列参数集)、PPS(图片参数集)、SEI(Supplemental Enhancement Information:补充增强信息)、视点组分填充数据(Filler Data)、序列末端(End of Sequence)及流末端(End ofStream)。尤其在VAU#11832中,包括偏移元数据的补充数据1832D由一个NAL单元构成,该NAL单元不包括偏移元数据以外的数据。
图19是表示向PES包串1902保存视频流1901的方法细节的示意图。该保存方法在基础视点视频流和从属视点视频流中共通。参照图19,在实际的视频流1901中,图片不按显示时间顺序而按编码顺序来复用。例如,在基础视点视频流的VAU中,如图19所示,从开头起依次保存I0图片1910、P3图片1911、B1图片1912、B2图片1913、...。这里,下标数字表示按显示时间顺序分配给各图片的连续号码。在P3图片1911的编码中,将I0图片1910利用为参照图片,在B1图片1912和B2图片1913的各编码中,将I0图片1910和P3图片1911两者利用为参照图片。这些VAU一个个地保存在不同的PES包1920、1921、1922、1923、...中。各PES包1920、...包括PES有效载荷1920P和PES头1920H。VAU保存在PES有效载荷1920P中。另一方面,PES头1920H包括相同PES包1920的PES有效载荷1920P中保存的图片的显示时刻、即PTS(Presentation Time-Stamp:演示时间戳)及该图片的解码时刻、即DTS(Decoding Time-Stamp:解码时间戳)。
与图19所示的视频流1901一样,图13、14所示的其他基本流也保存在一系列PES包的各PES有效载荷中。进而,各PES包的PES头还包括该PES包的PES有效载荷中保存的数据的PTS。
图20是表示分配给基础视点视频流2001和从属视点视频流2002的各图片的PTS与DTS之间关系的示意图。参照图20,在两个视频流2001、2002之间,对表示3D影像的相同帧或场的一对图片,分配相同的PTS及相同的DTS。例如,从基础视点视频流2001的I1图片2011与从属视点视频流2002的P1图片2021的组合来再现3D影像的开头的帧或场。因此,这些图片2011、2021的PTS相等,且DTS相等。这里,下标数字表示按DTS顺序分配给各图片的连续号码。另外,在从属视点视频流2002是深度映射流时,将P1图片2021置换为表示对I1图片2011的深度映射的I图片。同样,各视频流2001、2002的第2个图片、即P2图片2012、2022的PTS相等,且DTS相等。在各视频流2001、2002的第3个图片、即Br3图片2013和B3图片2023中,PTS与DTS都共同。Br4图片2014和B4图片2024中也同样。
在基础视点视频流2001与从属视点视频流2002之间,将包括PTS相等且DTS相等的图片的VAU的对称为‘3D·VAU’。通过图20所示的PTS和DTS的分配,能够容易地使3D再现模式的再现装置102内的解码器以3D·VAU单位来平行处理基础视点视频流2001和从属视点视频流2002。由此,表示3D影像的相同帧或场的一对图片由解码器可靠地平行处理。进而,在各GOP的开头的3D·VAU中,序列头还包括相同的分辨率、相同的帧速率及相同的宽高比。尤其是该帧速率与2D再现模式下独立解码基础视点视频流2001时的值相等。
《偏移元数据》
图21是表示从属视点视频流2100所包含的偏移元数据2110的数据结构的示意图。参照图21,偏移元数据2110保存在位于各视频序列(即各GOP)前端的VAU#1内的补充数据2101中。参照图21,偏移元数据2110包括PTS2111、偏移序列ID2112及偏移序列2113。PTS2111与VAU#1内的压缩图片数据所表示的帧的PTS、即各GOP的最初帧的PTS相等。
偏移序列ID2112是按顺序分配给偏移序列2113的连续号码0、1、2、...、M。字符M表示1以上的整数,该整数与偏移序列2113的总数相等。应合成到视频平面的图形平面及副影像平面被分配偏移序列ID2112。由此,偏移序列2113与各平面数据建立对应。这里,‘视频平面’是指由视频序列所包含的图片生成的平面数据,即像素数据的二维排列。该排列的大小与影像帧的分辨率相等。一组像素数据由色坐标值(RGB值或YCrCb值)与α值的组合构成。
各偏移序列2113是帧号码2121与偏移信息2122、2123的对应表。帧号码2121是按显示顺序分配给一个视频序列(例如视频序列#1)所表示的帧#1、#2、...、#N的连续号码1、2、...、N。整数N为1以上,表示该视频序列所包含的帧的总数。各偏移信息2122、2123是规定对一个平面数据的偏移控制的控制信息。
‘偏移控制’是指对图形平面(或副影像平面)提供水平坐标的左方向与右方向的各偏移、分别合成到左视点视频平面和右视点视频平面的处理。这里,‘左视点/右视点视频平面’是指由基础视点视频流与从属视点视频流的组合生成的、表示左视点/右视点的视频平面。‘对图形平面提供水平方向的偏移’是指在该图形平面内使各像素数据沿水平方向位移。由此,从一个图形平面生成表示左视点与右视点的图形平面的对。由该对再现的2D图形影像的各部的显示位置从最初的显示位置向左右错位。这些位移使视听者错觉成两眼视差,由此左视点与右视点的对被该视听者看成一个3D图形影像。副影像平面所表示的影像也同样。
偏移由方向和大小决定。因此,如图21所示,各偏移信息包括偏移方向2122和偏移值2123。偏移方向2122表示3D图形影像的进深在画面的近前一侧还是里侧。取决于偏移方向2122的值,将相对于原来的2D图形影像的显示位置的、左视点和右视点的各显示位置的方向决定为左或右。偏移值2123以水平方向的像素数来表示原来的2D图形影像的显示位置、与左视点或右视点的显示位置之间的距离。
图22(a)、(b)是表示对PG平面2210和IG平面2220的偏移控制的示意图。在这些偏移控制中,向左视点视频平面2201和右视点视频平面2202分别合成两种图形平面2210、2220。在下面的说明中,假设将PG平面2210所表示的字幕2211显示于画面近前、将IG平面2220所表示的按钮2221显示在画面里侧的情况。
参照图22(a),向PG平面2210提供右方向的偏移。具体而言,首先,PG平面2210内的各像素数据的位置从左视点视频平面2201内的对应的像素数据的位置向右(虚拟地)移动等于偏移值的像素数SFP。接着,‘切掉’(虚拟地)在右侧超出左视点视频平面2201的范围的PG平面2210的右端带状区域2212。即,废弃该区域2212的像素数据群。另一方面,向PG平面2210的左端追加透明的带状区域2213。该带状区域2213的宽度等于右端的带状区域2212的宽度、即偏移值SFP。这样,从PG平面2210生成表示左视点的PG平面,合成到左视点视频平面2201。尤其是在该左视点PG平面中,字幕2211的显示位置比原来的显示位置向右错位偏移值SFP。
另一方面,向IG平面2220提供左方向的偏移。具体而言,首先,IG平面2220内的各像素数据的位置从左视点视频平面2201内的对应的像素数据的位置向左(虚拟地)移动等于偏移值的像素数SFI。接着,切掉(虚拟地)在左侧超出左视点视频平面2210范围的IG平面2220的左端带状区域2222。另一方面,向IG平面2220的右端追加透明的带状区域2223。该带状区域2223的宽度等于左端的带状区域2222的宽度、即偏移值SFI。这样,从IG平面2220生成表示左视点的IG平面,合成到左视点视频平面2201。尤其是在该左视点IG平面中,按钮2221的显示位置比原来的显示位置向左错位偏移值SFI。
参照图22(b),向PG平面2210提供左方向的偏移,向IG平面2220提供右方向的偏移。即,只要将上述操作在PG平面2210和IG平面2220中相反即可。结果,从各平面数据2210、2220生成表示右视点的平面数据,合成到右视点视频平面2202。尤其是在右视点PG平面中,字幕2211的显示位置比原来的显示位置向左错位偏移值SFP。另一方面,在右视点IG平面中,按钮2221的显示位置比原来的显示位置向右错位偏移值SFI。
图22(c)是表示视听者2230从图22(a)、(b)所示的图形平面所表示的2D图形影像感知的3D图形影像的示意图。在这些图形平面所表示的2D图形影像交替显示于画面2240中时,视听者2230如图22(c)所示,看到字幕2231在画面2240近前一侧,看到按钮2232在画面2240里侧。各3D图形影像2231、2232与画面2240之间的距离可由偏移值SFP、SFI调节。
图23(a)、(b)是表示偏移序列的具体例的图表。各图表中,当偏移方向表示画面近前时,偏移值为正。图23(a)是放大图23(b)中最初的GOP的显示期间GOP1中的图表的图表。参照图23(a),阶段状的图表2301表示偏移序列ID=0的偏移序列,即偏移序列[0]的偏移值。水平的图表2302表示偏移序列ID=1的偏移序列,即偏移序列[1]的偏移值。偏移序列[0]的偏移值2301在最初的GOP的显示期间GOP1中按帧FR1、FR2、FR3、...、FR15、...的顺序阶段状地增加。参照图23(b),该偏移值2301的阶段状增加在第2个以后的各GOP的显示期间GOP2、GOP3、...、GOP40、...中也同样继续。由于每1帧的增加量足够细,所以图23(b)中看起来偏移值2301线性地连续增加。另一方面,偏移序列[1]的偏移值2302在最初的GOP的显示期间GOP1中维持负的固定值。参照图23(b),该偏移值2302在第40个GOP的显示期间GOP40结束时激增为正的值。这样,偏移值也可以不连续变化。
图23(c)是表示根据图23(a)、(b)所示的偏移序列来再现的3D图形影像的示意图。当根据偏移序列[0]来显示字幕的3D影像2303时,该3D影像2303看起来从画面2304近前缓慢飞出。另一方面,当根据偏移序列[1]来显示按钮的3D影像2305时,该3D影像2305看起来从固定在画面2304里侧的状态突然飞出到画面2304近前。这样,使帧单位的偏移值增减的模式按每个偏移序列各种各样地变化。由此,能够对多个3D图形影像多种多样地表现各个进深的变化。
《AV流文件中包含的其他TS包》
在AV流文件中包含的TS包的种类中,除了从图14所示的基本流变换的种类外,还有PAT(Program Association Table:节目关联表)、PMT(Program Map Table:节目映射表)、及PCR(Program Clock Reference:节目时钟参考)。PCR、PMT及PAT是按欧洲数字广播标准来规定的,本来就具有规定构成一个节目的部分传输流(partial transport stream)的作用。通过利用PCR、PMT及PAT,AV流文件也与该部分传输流同样地被规定。具体而言,PAT表示相同的AV流文件中包含的PMT的PID。PAT自身的PID为0。PMT包括相同AV流文件中包含的、表示影像、声音、字幕等的各基本流的PID及其属性信息。PMT还包括与该AV流文件相关的各种描述符(descriptor,也称为记述符。)。描述符中尤其包括表示该AV流文件的复制的允许/禁止的复制控制信息。PCR包括表示应该与分配给自身的ATS对应的STC(System Time Clock:系统时钟)的值的信息。这里,‘STC’是由再现装置102内的解码器用作PTS和DTS基准的时钟。该解码器利用PCR,使STC与ATC同步。
图24是表示PMT2410的数据结构的示意图。PMT2410包括PMT头2401、描述符2402及流信息2403。PMT头2401表示PMT2410中包含的数据的长度等。各描述符2402是与包含PMT2410的AV流文件整体相关的描述符。上述的复制控制信息包含于描述符2402之一中。流信息2403是与AV流文件中包含的各基本流相关的信息,一个个地分配给不同的基本流。各流信息2403包括流种类2431、PID2432及流描述符2433。流种类2431包括该基本流压缩中利用的编解码器(codec)的识别信息等。PID2432表示该基本流的PID。流描述符2433包括该基本流的属性信息、例如帧速率和宽高比。
通过利用PCR、PMT及PAT,能够使再现装置102内的解码器与依照欧洲数字广播标准的部分传输流一样对AV流文件进行处理。由此,能够确保BD-ROM盘101用的再现装置与依照欧洲数字广播标准的终端装置之间的兼容性。
《复用流数据的交织配置》
在3D影像的无缝再现中,重要的是将基础视点视频流和从属视点视频流以怎样的物理配置记录在BD-ROM盘101。这里,‘无缝再现’是指从复用流数据中无间断地平滑再现影像和声音。
图25是表示图13所示的主TS与第1辅TS在BD-ROM盘101上的物理配置的示意图。另外,也可以记录第2辅TS来代替第1辅TS。参照图25,各TS被分割成多个数据块D[n]、B[n](n=0、1、2、3、...)来配置在BD-ROM盘101上。这里,‘数据块’是指BD-ROM盘101上的连续区域,即物理上连续的多个扇区中记录的一系列数据。在BD-ROM盘101中物理地址与逻辑地址实质上相等,所以在各数据块内,LBN也连续。因此,BD-ROM驱动器121不需要使光拾取器进行查找,而连续读出一个数据块。下面,将属于主TS的数据块B[n]称为‘基础视点数据块’,将属于辅TS的数据块D[n]称为‘从属视点数据块’。尤其是将属于第1辅TS的数据块称为‘右视点数据块’,将属于第2辅TS的数据块称为‘深度映射数据块’。
各数据块B[n]、D[n]在BD-ROM盘101的文件系统中可作为文件2D或文件DEP内的一个区段来进行访问。即,各数据块的逻辑地址可从文件2D或文件DEP的文件入口知晓。
在图25所示的例子中,文件2D(01000.m2ts)1241的文件入口2510表示基础视点数据块B[n]的各大小和其前端的LBN。因此,各基础视点数据块B[n]可作为文件2D1241的区段EXT2D[n]进行访问。下面,将属于文件2D1241的区段EXT2D[n]称为‘2D区段’。另一方面,第1文件DEP(02000.m2ts)1242的文件入口2520表示从属视点数据块D[n]的各大小和其前端的LBN。因此,各从属视点数据块D[n]是从属视点数据块,可作为第1文件DEP1242的区段EXT2[n]进行访问。下面,将属于第1文件DEP1242的区段EXT2[n]称为‘右视点区段’。在从属视点数据块D[n]为深度映射数据块的情况下也同样,各深度映射数据块可作为第2文件DEP(03000.m2ts)的区段进行访问。下面,将属于第2文件DEP1243的区段称为‘深度映射区段’。并且,可将如右视点区段和深度映射区段那样属于某一个文件DEP的区段统称为‘从属视点区段’。
参照图25,数据块群沿BD-ROM盘101上的轨道连续记录。并且,基础视点数据块B[n]和从属视点数据块D[n]一个个地交替配置。将这种数据块群的配置称为‘交织配置’。尤其将以交织配置记录的一系列数据块群称为‘区段块’。图25中示出三个区段块2501、2502、2503。如第1区段块2501与第2区段块2502之间那样,区段块之间由复用流数据以外的数据的记录区域NAV分离。另外,在BD-ROM盘101是多层盘的情况下,即包括多个记录层的情况下,如第2区段块2502与第3区段块2503之间那样,区段块之间也由记录层间的边界(下面称为层边界)LB分离。这样,一系列复用流数据一般被分割成多个区段块来配置。此时,再现装置102为了从该复用流数据无缝再现影像,必须无缝连接从各区段块再现的影像。下面,将再现装置102为此而所需的处理称为‘区段块间的无缝连接’。
各区段块2501-2503中,两种数据块D[n]、B[n]的数量相等。并且,在第(n+1)个邻接数据块的对D[n]、B[n]中,区段ATC时间相等。下面,将这种数据块的对称为‘区段对’。这里,‘ATC(Arrival Time Clock)’意味着应设为ATS基准的时钟。‘区段ATC时间’表示对一个数据块内的源包赋予的ATS的范围的大小、即该数据块的开头的源包与下一数据块的开头的源包之间的ATS之差。该差等于用ATC的值表示再现装置102将该数据块内的全部源包从读缓冲器传输到系统目标解码器时所需要的时间的值。‘读缓冲器’是再现装置102内的缓冲存储器,将从BD-ROM盘101中读出的数据块在发送到系统目标解码器之前的期间中暂时存储。关于读缓冲器的细节,在后面进行叙述。在图25所示的例子中,三个区段块2501-2503彼此无缝连接,所以在各区段对D[n]、B[n](n=0、1、2、...)中区段ATC时间相等。
在各区段对D[n]、B[n]中,位于开头的VAU属于相同的3D·VAU,尤其是包括表示相同的3D影像的GOP的开头图片。例如,图25中,各右视点数据块D[n]的前端包括右视点视频流的P图片,开头的基础视点数据块B[n]的前端包括基础视点视频流的I图片。该右视点视频流的P图片表示将该基础视点视频流的I图片所表示的2D影像作为左视点时的右视点。尤其是该P图片如图17所示,将该I图片作为参照图片而被压缩。因此,3D再现模式的再现装置102从任意的区段对D[n]、B[n]起都能够开始3D影像的再现。即,可执行跳入再现等需要视频流的随机访问的处理。
在图25所示的交织配置中,还将各区段对D[n]、B[n]中从属视点数据块D[n]配置在基础视点数据块B[n]之前。这是因为从属视点数据块D[n]与基础视点数据块B[n]相比,一般数据量小,即比特率低。例如,第(n+1)个右视点数据块D[n]中包含的图片如图17所示,将第(n+1)个基础视点数据块B[n]中包含的图片作为参照图片来压缩。因此,该右视点数据块D[n]的大小SEXT2[n]一般为该基础视点数据块B[n]的大小SEXT1[n]以下:SEXT2[n]≤SEXT1[n]。另一方面,深度映射的每像素的数据量、即进深值的比特数一般也比基础视点图片的每像素的数据量、即色坐标值与α值(不透明度)的比特数之和小。还如图13(a)、(c)所示,主TS与第2辅TS不同,除了主视频流外,还包括主音频流等基本流。因此,深度映射数据块的大小SEXT3[n]一般为基础视点数据块B[n]的大小SEXT1[n]以下:SEXT3[n]≤SEXT1[n]。
[将复用流数据分割成数据块的意义]
再现装置102为了从BD-ROM盘101无缝再现3D影像,必须平行处理主TS与辅TS。但是,该处理中可利用的读缓冲器的容量一般有限。尤其是可从BD-ROM盘101连续读入到读缓冲器的数据量有限。因此,再现装置102必须将主TS与辅TS分割成区段ATC时间相等的部分的对来读出。
图26(a)是表示在某个BD-ROM盘上独立地连续记录的主TS2601和辅TS2602的配置的示意图。当再现装置102平行处理这些主TS2601和辅TS2602时,如图26(a)中实线箭头(1)-(4)所示,BD-ROM驱动器121将主TS2601和辅TS2602交替地按每个区段ATC时间相等的部分读出。此时,BD-ROM驱动器121如图26(a)中虚线箭头所示,必须在读出处理的中途使BD-ROM盘上的读出对象区域较大地发生变化。例如,当读出了箭头(1)所示的主TS2601的前端部分时,BD-ROM驱动器121暂时停止光拾取器的读出动作,提高BD-ROM盘的旋转速度。由此,使记录了箭头(2)所示的辅TS2602的前端部分的BD-ROM盘上的扇区快速移动到光拾取器的位置。这样,将使光拾取器暂时停止读出动作、在此期间将光拾取器定位在下一读出对象区域上的操作称为‘跳跃(jump)’。图26(a)所示的虚线箭头表示读出处理在中途所需的各跳跃的范围。在各跳跃期间中,光拾取器的读出处理停止,仅进行解码器的解码处理。在图26(a)所示的例子中,由于跳跃过大,所以难以使读出处理与解码处理的期间一致。结果,难以可靠地持续无缝再现。
图26(b)是表示在本发明实施方式1的BD-ROM盘101上记录的从属视点数据块D[0]、D[1]、D[2]、...和基础视点数据块B[0]、B[1]、B[2]、...的交织配置的示意图。参照图26(b),主TS和辅TS分别被分割成多个数据块而交替配置。此时,再现装置102在进行3D影像再现时,如图26(b)中箭头(1)-(4)所示,从开头起依次读出数据块D[0]、B[0]、D[1]、B[1]、...。再现装置102仅由此即可顺利实现交替读出主TS和辅TS。尤其是在该读出处理中不产生跳跃,所以能够可靠地持续3D影像的无缝再现。
[邻接的数据块间使区段ATC时间一致(对齐)的意义]
图26(c)是表示以交织配置记录的从属视点数据块群D[n]与基础视点数据块群B[n]的各区段ATC时间一例的示意图(n=0、1、2)。参照图26(c),在各从属视点数据块D[n]与紧挨着的其后的基础视点数据块B[n]中,区段ATC时间相等。例如,在开头的数据块的对D[0]、B[0]中,任意区段ATC时间均等于1秒。因此,当将各数据块D[0]、B[0]读入再现装置102内的读缓冲器中时,其中的全部TS包在相同的1秒间从读缓冲器发送至系统目标解码器。同样,在第2个数据块的对D[1]、B[1]中,任意区段ATC时间也均等于0.7秒,所以在相同的0.7秒间,各数据块内的全部TS包从读缓冲器发送至系统目标解码器。
图26(d)是表示以交织配置记录的从属视点数据块群D[n]和基础视点数据块群B[n]的各区段ATC时间的其他例的示意图。参照图26(d),在全部数据块D[n]、B[n]中,区段ATC时间等于1秒。因此,当将各数据块D[n]、B[n]读入再现装置102内的读缓冲器中时,任意数据块均在相同的1秒间将全部TS包从读缓冲器发送至系统目标解码器。
如上所述,从属视点数据块的视频流的压缩率一般比基础视点数据块的视频流的压缩率高。因此,从属视点数据块的解码处理的速度一般比基础视点数据块的解码处理的速度低。另一方面,当区段ATC时间相等时,从属视点数据块的数据量一般比基础视点数据块的数据量小。因此,如图26(c)、(d)所示,当邻接的数据块的任意区段ATC时间均相等时,解码对象的数据提供到系统目标解码器的速度与该解码器的处理速度容易保持均衡。即,系统目标解码器尤其在跳入再现中也能容易使基础视点数据块的解码处理与从属视点数据块的解码处理同步。
[使区段ATC时间一致的方法]
图27是表示在邻接的数据块之间使区段ATC时间一致的方法的示意图。首先,向基础视点数据块中保存的源包(下面简称为SP1)和从属视点数据块中保存的源包(下面简称为SP2)在相同的ATC时间轴下赋予ATS。参照图27,矩形2710、2720分别表示SP1#p(p=0、1、...、k、k+1、...、i、i+1)和SP2#q(q=0、1、...、m、m+1、...、j、j+1)(字符k、i、m、j均表示0以上的整数)。这些矩形2710、2720在ATC的时间轴方向上按各源包的ATS的顺序排列。各矩形2710、2720的开头位置A1(p)、A2(q)表示该源包的ATS的值。各矩形2710、2720的长度AT1、AT2表示3D再现装置将一个源包从读缓冲器传输到系统目标解码器所需的时间。
在从SP1#0的ATSA1(0)起至经过区段ATC时间TEXT[n]为止的期间中,从读缓冲器传输到系统目标解码器的SP1、即SP1#0、1、...、k保存在第(n+1)个基础视点数据块EXT1[n]中。同样地,在从SP1#(k+1)的ATSA1(k+1)起至经过区段ATC时间TEXT[n+1]为止的期间中,从读缓冲器传输到系统目标解码器的SP1、即SP1#(k+1)、...、i保存在第(n+2)个基础视点数据块EXT1[n+1]中。
另一方面,如下选择应保存在第(n+1)个从属视点数据块EXT2[n]中的SP2。首先,求出SP1#0的ATSA1(0)与区段ATC时间TEXT[n]之和、即SP1#(k+1)的ATSA1(k+1)=A1(0)+TEXT[n]。接着,在从SP1#0的ATSA1(0)起至SP1#(k+1)的ATSA1(k+1)的期间中,选择开始从读缓冲器向系统目标解码器传输的SP2、即SP2#0、1、...、m。因此,开头的SP2、即SP2#0的ATSA2(0)必为开头的SP1、即SP1#0的ATSA1(0)以上:A2(0)≥A1(0)。并且,最后的SP2、即SP2#m的ATSA2(m)为SP1#(k+1)的ATSA1(k+1)以下:A2(m)≤A1(k+1)。这里,SP2#m的传输完成也可以在SP1#(k+1)的ATSA1(k+1)以后。
同样,如下选择应保存在第(n+2)个从属视点数据块EXT2[n+1]中的SP2。首先,求出位于第(n+3)个基础视点数据块EXT1[n+2]的开头的SP1#(i+1)的ATSA1(i+1)=A1(k+1)+TEXT[n+1]。接着,在从SP1#(k+1)的ATSA1(k+1)起至SP1#(i+1)的ATSA1(i+1)的期间中,选择开始从读缓冲器向系统目标解码器传输的SP2、即SP2#(m+1)-SP2#j。因此,开头的SP2、即SP2#(m+1)的ATSA2(m+1)是开头的SP1、即SP1#(k+1)的ATSA1(k+1)以上:A2(m+1)≥A1(k+1)。并且,最后的SP2#j的ATSA2(j)为位于下一基础视点数据块EXT1[n+2]的开头的SP1#(i+1)的ATSA1(i+1)以下:A2(j)≤A1(i+1)。
[将数据量小的数据块设置在前的意义]
3D再现模式的再现装置102在读出位于各区段块的开头的数据块时,或在读出再现开始位置的数据块时,首先将该数据块全部读入到读缓冲器中。在此期间,该数据块不传递到系统目标解码器。在该读入完成之后,再现装置102将该数据块与下一数据块平行地传递到系统目标解码器。将像这样将一个数据块整体读入到读缓冲器中后传递到系统目标解码器的处理称为‘预加载’。
预加载的技术意义如下所述。在L/R模式中,从属视点数据块的解码中需要基础视点数据块。因此,为了将用于把解码后的数据一直保持到输出处理为止的缓冲器维持为最小必要限度的容量,优选将这些数据块同时提供给系统目标解码器进行解码。在深度模式中,需要进行从解码后的基础视点图片与深度映射的对来生成表示视差图像的视频平面的对的处理。因此,为了将用于把解码后的数据一直保持到该处理为止的缓冲器维持为必要最小限度的容量,优选将基础视点数据块和深度映射数据块同时提供给系统目标解码器进行解码。因此,通过预加载,预先将区段块的开头或再现开始位置的数据块整体读入到读缓冲器中。由此,能够将该数据块和后续的数据块同时从读缓冲器传输给系统目标解码器进行解码。并且,也能够使系统目标解码器对以后的数据块的对同时进行解码。
在预加载中,最先被读取的数据块的全体被存储在读缓冲器中。因此,要求读缓冲器至少是与该数据块的大小相同的容量。在此,为了将读缓冲器的容量维持为最小限度,应该尽可能地缩小作为预加载的对象的数据块的大小。另一方面,在跳入再现等随机访问中,可能将任意数据块的对选择为再现开始位置。因此,在任意数据块对中,都是将数据量小的一方置于前。由此,能够将读缓冲器的容量保持为最小限度。
《相对数据块的AV流文件的交联》
对于图25所示的数据块群,如下实现AV流文件的交联。第1文件SS(01000.ssif)1245的文件入口2540表示将各区段块2501-2503看成一个区段后各大小及其前端的LBN。因此,各区段块2501-2503可作为第1文件SS1245的一个区段EXTSS[0]、EXTSS[1]、EXTSS[2]来访问。下面,将属于第1文件SS1245的区段EXTSS[0]、EXTSS[1]、EXTSS[2]称为‘区段SS’。各区段SSEXTSS[0]、EXTSS[1]、EXTSS[2]与文件2D1241共享基础视点数据块B[n],与第1文件DEP1242共享右视点数据块D[n]。
《对区段块群的再现路径》
图28是表示对区段块群2501-2503的2D再现模式下的再现路径2801的示意图。2D再现模式的再现装置102对文件2D1241进行再现。因此,如2D再现模式下的再现路径2801所示,从各区段块2501-2503按顺序读出基础视点数据块B[n](n=0、1、2、...),作为2D区段EXT2D[n]。具体而言,首先从开头的区段块2501中读出开头的基础视点数据块B[0],其紧后的右视点数据块D[0]的读出由最初的跳跃J2D跳过。接着读出第2个基础视点数据块B[1],其紧后的数据NAV和右视点数据块D[1]的读出由第二次跳跃JNAV跳过。接着,第2个以后的区段块2502、2503内也一样,重复基础视点数据块的读出与跳跃。
在第2个区段块2502与第3个区段块2503之间产生的跳跃JLY是跨越层边界LB的长跳跃。‘长跳跃’是在跳跃中查找(seek)时间长的跳跃的统称,具体而言,是指:(i)伴随记录层的切换的跳跃;以及及(ii)跳跃距离超过规定阈值的跳跃。所谓‘跳跃距离’是指跳跃期间中读出操作被跳过的BD-ROM盘101上的区域的长度。跳跃距离通常用该部分的扇区数来表示。上述(ii)的阈值在BD-ROM标准中例如为40000扇区。但是,该阈值取决于BD-ROM盘的种类和与BD-ROM驱动器的读出处理有关的性能。长跳跃尤其包括焦点跳跃和轨道跳跃。‘焦点跳跃’是伴随记录层切换的跳跃,包括使光拾取器的焦距变化的处理。‘轨道跳跃’包括使光拾取器沿BD-ROM盘101的半径方向移动的处理。
图28还表示对区段块群2501-2503的L/R模式下的再现路径2802。L/R模式的再现装置102再现第1文件SS1245。因此,如L/R模式下的再现路径2802所示,各区段块2501、2502、2503依次被读出为区段SSEXTSS[0]、EXTSS[1]、EXTSS[2]。具体而言,首先从开头的区段块2501中连续读出数据块D[0]、B[0]、D[1]、B[1],在其紧后的数据NAV的读出由最初的跳跃JNAV跳过。接着从第2个区段块2502连续读出数据块D[2]、...、B[3]。在其紧后,产生伴随记录层的切换的长跳跃JLY。接着,从第3个区段块2503连续读出数据块D[4]、B[4]...。
在将区段块2501-2503作为第1文件SS1245的区段读入时,再现装置102从第1文件SS1245的文件入口2540读出各区段SSEXTSS[0]、EXTSS[1]、...的前端的LBN及其大小,传递给BD-ROM驱动器121。BD-ROM驱动器121从该LBN中连续读出该大小的数据。这些处理与将数据块群作为第1文件DEP1242和文件2D1241的各区段读入的处理相比,BD-ROM驱动器121的控制在下面的(A)、(B)两方面简单:(A)再现装置102只要利用一个部位的文件入口依次参照各区段即可;(B)由于读入对象的区段总数实质上减半,所以应传递给BD-ROM驱动器121的LBN与大小的对的总数小。但是,再现装置102读入区段SSEXTSS[0]、EXTSS[1]、...之后,必须将他们分别分离为右视点数据块和基础视点数据块后传递给解码器。该分离处理中利用片段信息文件。关于其细节,在后面叙述。
如图28所示,在各区段块2501-2503的实际读出中,BD-ROM驱动器121在从各数据块的后端至下一数据块前端之间进行零扇区迁移J0。所谓‘零扇区迁移’是指光拾取器在两个连续的数据块间移动。在进行零扇区迁移的期间(下面称为零扇区迁移期间。)中,光拾取器暂时停止读出动作并待机。从这种意义上讲,零扇区迁移也可以视为‘跳跃距离等于0扇区的跳跃’。零扇区迁移期间的长度、即零扇区迁移时间除了基于BD-ROM盘101旋转的光拾取器的位置的移动时间以外,还可以包括伴随纠错处理的开销(overhead)。所谓‘伴随纠错处理的开销’是指当两个数据块的边界与ECC块的边界不一致时,由于执行两次使用了该ECC块的纠错处理而发生的多余的时间。纠错处理中需要一个ECC块整体。因此,在一个ECC块被两个连续的数据块共用时,在任一个数据块的读取处理中,该ECC块整体都被读取并应用于纠错处理中。结果,每当读取这些数据块中的一个数据块时,除了该数据块之外,还读取了最多32扇区的多余的数据。伴随纠错处理的开销利用该多余的数据的读取时间之合计来进行评价,即,利用32[扇区]×2048[字节/扇区]×8[比特/字节]×2[次]/读出速度来进行评价。另外,各个数据块也可以以ECC块单位来构成。在该情况下,各数据块的大小与ECC块的整数倍相等,因此能够将伴随纠错处理的开销从零扇区迁移时间中去除。
《数据块的大小》
各数据块由排列单元单位构成。尤其是各数据块的大小等于排列单元的大小(=6144字节=约6KB)的倍数。此时,数据块间的边界与扇区间的边界一致,所以BD-ROM驱动器对于任一数据块均能可靠地连续读出其整体。
如图25所示,要从彼此分离的多个区段块2501-2503无缝再现2D影像和3D影像中的任一个,则数据块和区段块2501-2503的各大小只要满足以下[1]、[2]中说明的条件即可。
[1]2D再现模式下的条件
图29是表示2D再现模式的再现装置102内的再现处理系统的框图。参照图29,该再现处理系统包括BD-ROM驱动器2901、读缓冲器2902、及系统目标解码器2903。BD-ROM驱动器2901从BD-ROM盘101中读出2D区段,并以读出速度RUD54传输给读缓冲器2902。读缓冲器2902是内置于再现装置102中的缓冲存储器,从BD-ROM驱动器2901接收2D区段并存储。系统目标解码器2903从读缓冲器2902内存储的各2D区段中以平均传输速度REXT2D读出源包,并解码为影像数据VD和声音数据AD。
平均传输速度REXT2D等于系统目标解码器2903从读缓冲器2902内的各源包中提取TS包的处理平均速度的192/188倍。这里,系数192/188等于源包与TS包之间的字节数之比。平均传输速度REXT2D通常以比特/秒表示,具体而言,等于用比特单位表示的2D区段大小除以区段ATC时间而得到的值。‘用比特单位表示的区段的大小’等于该区段内源包数与每一个源包的比特数(=192[字节]×8[比特/字节]的积。平均传输速度REXT2D一般根据每个2D区段而不同。平均传输速度REXT2D的最大值RMAX2D等于对文件2D的系统速率RTS的192/188倍。所谓‘系统速率’是指系统目标解码器2903执行的TS包的处理速度的最高值。系统速率RTS通常用比特/秒(bps)表示,所以等于用字节/秒(Bps)表示的主TS的记录速度(TS recordingrate)的8倍。
平均传输速度REXT2D如以下这样评价。首先,如下计算区段ATC时间。在图27所示的例子中,第(n+1)个基础视点数据块EXT1[n]的区段ATC时间TEXT[n]根据SP1#0的ATSA1(0)、和位于第(n+2)个基础视点数据块EXT1[n+1]的开头的SP1#(k+1)的ATSA1(k+1)之间的差,由下式表示:TEXT[n]=(A1(k+1)-A1(0)+WA)/TATC。这里,回绕(wrap around)值WA表示在从SP1#0的ATSA1(0)至SP1#(k+1)的ATSA1(k+1)为止对ATC进行计数的期间中、每当产生回绕时舍去的计数值之和。即,回绕值WA等于该期间的回绕次数与产生回绕的计数值之积。例如,在由30位计数器计数ATC的情况下,回绕值WA等于230。另一方面,常数TATC表示ATC的周期,例如等于27MHz:TATC=27×106。接着,如下计算2D区段的大小。在图27所示的例子中,第(n+1)个基础视点数据块EXT1[n]的大小SEXT1[n]等于该数据块中保存的源包、即SP1#0、1、...、k的整体数据量192×(k+1)×8[比特]。最后,将基础视点数据块EXT1[n]的大小SEXT1[n]除以区段ATC时间TEXT[n]而得到的值评价为平均传输速度REXT2D[n]:REXT2D[n]=SEXT1[n]/TEXT[n]。
在上述评价中,也可以以正确计算区段ATC时间为目的,使各2D区段的大小都为源包长度的某固定倍数。并且,当某一个2D区段包括比该倍数多的源包时,也可以如以下这样计算该2D区段的区段ATC时间:首先,从源包的总数中除去该倍数,将该差与每一个源包的传输时间(=188×8/系统速率)相乘。接着,向该积加上相当于上述倍数的区段ATC时间。将该和决定为上述2D区段的区段ATC时间。
此外,区段ATC时间也可以如以下这样计算:首先,对一个2D区段,求出从其开头的源包的ATS至最后的源包的ATS的时间间隔。接着,向该时间间隔加上每一个源包的传输时间。将该和决定为该2D区段的区段ATC时间。具体而言,在图27的例子中,第(n+1)个基础视点数据块EXT1[n]的区段ATC时间TEXT[n]根据SP1#0的ATSA1(0)、和位于该数据块EXT1[n]后端的SP1#k的ATSA1(k)之间的差,由下式表示:TEXT[n]=(A1(k)-A1(0)+WA)/TATC+188×8/RTS1。这里,回绕值WA表示在从SP1#0的ATSA1(0)至SP1#k的ATSA1(k)为止对ATC进行计数的期间、每当产生回绕时舍去的计数值之和。另一方面,上式右边第2项是将TS包的数据长度188[字节]×8[比特/字节]除以系统速率RTS1而得到的值,等于将一个TS包从读缓冲器传输到系统目标解码器时所需的时间。在上述区段ATC时间的计算中不需要参照下一区段,所以即便不存在下一区段也能够计算区段ATC时间。另外,在存在下一区段的情况下,也能够简化区段ATC时间的计算。
读出速度RUD54通常以比特/秒表示,设定wei比平均传输速度REXT2D的最高值RMAX2D高的值,例如54Mbps:RUD54>RMAX2D。由此,防止在BD-ROM驱动器2901从BD-ROM盘101中读出一个2D区段的期间、伴随系统目标解码器2903的解码处理的读缓冲器2902的下溢。
图30(a)是表示2D再现模式下的动作中、读缓冲器2902中存储的数据量DA的变化的图表。图30(b)是表示再现对象的区段块3010与2D再现模式下的再现路径3020之间的对应关系的示意图。参照图30(b),根据再现路径3020,将区段块3010内的各基础视点数据块B[n](n=0、1、2、...)作为一个2D区段EXT2D[n]而从BD-ROM盘101读出到读缓冲器2902。参照图30(a),在各2D区段EXT2D[n]的读出期间PR2D[n]中,存储数据量DA以等于读出速度RUD54与平均传输速度REXT2D[n]之间的差RUD54-REXT2D[n]的速度增加。另一方面,在两个连续的2D区段EXT2D[n-1]、EXT2D[n]之间,产生跳跃J2D[n]。在该跳跃期间PJ2D[n]中,从属视点数据块D[n]的读出被跳过,所以停止从BD-ROM盘101中读出数据。因此,在跳跃期间PJ2D[n]中,存储数据量DA以平均传输速度REXT2D[n]减少。
由BD-ROM驱动器2901执行的读出/传输动作实际上不是由图30(a)的图表所示的连续的,而是断续的。由此,防止在各2D区段的读出期间PR2D[n]中,存储数据量DA超过读缓冲器2902的容量、即读缓冲器2902的溢出。即,图30(a)的图表将实际上阶段状的增减近似表示为直线增减。
为了从图30(b)所示的区段块3010无缝再现2D影像,只要满足以下两个条件即可:首先,各2D区段EXT2D[n]的大小SEXT2D[n]只要为规定下限以上即可。将该下限称为‘最小区段大小’。接着,2D区段的间隔只要为规定上限以下即可。
[1-1]2D区段的最小区段大小
在各跳跃期间PJ2D[n]中,必须持续从读缓冲器2902向系统目标解码器2903提供数据,并确保该解码器2903连续输出。其中,只要2D区段的大小满足以下条件1即可。
各2D区段EXT2D[n]的大小SEXT2D[n]在从其读出期间PR2D[n]到下一跳跃期间PJ2D[n+1]中、与从读缓冲器2902向系统目标解码器2903传输的数据量相等。此时,如图30(a)所示,存储数据量DA在该跳跃期间PJ2D[n+1]结束时,不低于该读出期间PR2D[n]的开始时的量。即,在各跳跃期间PJ2D[n]中,持续从读缓冲器2902向系统目标解码器2903提供数据,尤其是读缓冲器2902不产生下溢。这里,读出期间PR2D[n]的长度等于2D区段EXT2D[n]的大小SEXT2D[n]除以读出速度RUD54而得到的值SEXT2D[n]/RUD54。因此,条件1表示如下。各2D区段EXT2D[n]的最小区段大小由下式(1)的右边表示:
[式1]
S EXT 2 D [ n ] &GreaterEqual; ( S EXT 2 D [ n ] R UD 54 + T JUMP - 2 D [ n ] ) &times; R EXT 2 D [ n ]
. . . S EXT 2 D [ n ] &GreaterEqual; CEIL ( R EXT 2 D [ n ] 8 &times; R UD 54 R UD 54 - R EXT 2 D [ n ] &times; T JUMP - 2 D [ n ] ) . - - - ( 1 )
在式(1)中,跳跃时间TJUMP-2D[n]是指跳跃期间PJ2D[n]的长度,用秒单位进行表示。另一方面,读出速度RUD54和平均传输速度REXT2D都用比特/秒进行表示。因此,在式(1)中,将平均传输速度REXT2D除以数“8”,将2D区段的大小SEXT2D[n]的单位从比特转换为字节。即,2D区段的大小SEXT2D[n]用字节单位进行表示。函数CEIL()表示将括号内的数值的小数点以下的小数部分舍入(round up)的操作。
[1-2]2D区段的间隔
由于读缓冲器2902的容量有限,所以跳跃时间TJUMP-2D[n]的最大值受限制。即,在跳跃期间PJ2D[n]的紧前,存储数据量DA已是读缓冲器2902的最大容量,若跳跃时间TJUMP-2D[n]过长,则在跳跃期间PJ2D[n]中存储数据量DA达到0,存在发生读缓冲器2702的下溢的危险性。下面,将在从BD-ROM盘101向读缓冲器2902的数据供给中断的状态下,存储数据量DA从读缓冲器2902的容量达到0的时间、即能够保证无缝再现的跳跃时间TJUMP-2D的最大值,称为“最大跳跃时间TJUMP_MAX”。
在光盘的标准中,通常,跳跃距离与最大跳跃时间之间的关系是根据光盘驱动器的访问速度等决定的。图31是与BD-ROM盘有关的跳跃距离SJUMP与最大跳跃时间TJUMP_MAX之间的对应表的一例。参照图31,跳跃距离SJUMP用扇区单位进行表示,最大跳跃时间TJUMP_MAX用m秒单位进行表示。1扇区等于2048字节。在跳跃距离SJUMP属于0扇区、1-10000扇区、10001-20000扇区、20001-40000扇区、40001扇区-1/10行程(stroke)及1/10行程以上的各范围时,最大跳跃时间TJUMP_MAX分别是0m秒、200m秒、300m秒、350m秒、700m秒及1400m秒。跳跃距离SJUMP等于0扇区时的最大跳跃时间TJUMP_MAX等于零扇区迁移时间TJUMP0。但是,在图31的例子中,零扇区迁移时间TJUMP0视为0m秒。
从以上可知,应代入式(1)中的跳跃时间TJUMP-2D[n]是由BD-ROM盘的标准按不同跳跃距离来规定的最大跳跃时间TJUMP_MAX。具体而言,在图31的表中,将与两个连续的2D区段EXT2D[n]、EXT2D[n+1]之间的跳跃距离SJUMP对应的最大跳跃时间TJUMP_MAX作为跳跃时间TJUMP-2D[n]代入式(1)中。这里,该跳跃距离SJUMP等于从第(n+1)个2D区段EXT2D[n]的后端至第(n+2)个2D区段EXT2D[n+1]的前端为止的扇区数。
在两个2D区段EXT2D[n]、EXT2D[n+1]之间的跳跃J2D[n]中,由于其跳跃时间TJUMP-2D[n]被限制为最大跳跃时间TJUMP_MAX,所以其跳跃距离SJUMP、即两个2D区段EXT2D[n]、EXT2D[n+1]的间隔也受限制。例如,在将跳跃时间TJUMP-2D[n]限制为最大跳跃时间TJUMP_MAX=700m秒以下时,两个2D区段EXT2D[n]、EXT2D[n+1]之间的跳跃距离SJUMP最大允许至1/10行程(=约1.2GB)。将如该跳跃距离SJUMP的最大值那样、跳跃时间TJUMP等于最大跳跃时间TJUMP_MAX的跳跃距离SJUMP称为‘最大跳跃距离SJUMP_MAX’。在2D影像的无缝再现中,2D区段的间隔必须为最大跳跃距离SJUMP_MAX以下。
在各区段块内,2D区段的间隔等于从属视点数据块的大小。因此,该从属视点数据块的大小被限制为最大跳跃距离SJUMP_MAX以下。具体而言,在2D区段间的最大跳跃时间TJUMP_MAX被限制为图31中规定的最小值200m秒时,从属视点数据块的大小被限制为对应的最大跳跃距离SJUMP_MAX=10000扇区(=约19.5MB)以下。
在不同的记录层中配置的两个区段块间无缝连接时,从先被读出的区段块的后端至之后被读出的区段块的前端,发生长跳跃。该长跳跃伴随有焦点跳跃等记录层的切换操作。因此,该长跳跃所需要的时间除了图31的表中规定的最大跳跃时间TJUMP_MAX以外,还包括记录层的切换操作所需要的时间、即‘层切换时间’。层切换时间例如是350m秒。这里,在先被读出的区段块的后端配置有第(n+1)个2D区段EXT2D[n],在之后被读出的区段块的前端配置有第(n+2)个2D区段EXT2D[n+1]。此时,在第(n+1)个2D区段EXT2D[n]的大小应满足的式(1)中,跳跃时间TJUMP-2D[n]由两个参数TJ[n]、TL[n]之和决定:TJUMP-2D[n]=TJ[n]+TL[n]。第1参数TJ[n]表示按照BD-ROM盘的标准对长跳跃的跳跃距离SJUMP规定的最大跳跃时间TJUMP_MAX。该最大跳跃时间TJUMP_MAX在图31的表中等于与从第(n+1)个2D区段EXT2D[n]的后端至第(n+2)个2D区段EXT2D[n+1]前端的扇区数建立对应的值。第2参数TL[n]表示层切换时间,例如350m秒。因此,两个2D区段EXT2D[n]、EXT2D[n+1]的间隔在图31的表中被限制为与从长跳跃的最大跳跃时间TJUMP_MAX中去除层切换时间后的值对应的最大跳跃距离SJUMP_MAX以下。例如,在将跳跃时间TJUMP-2D[n]限制为最大跳跃时间TJUMP_MAX=700m秒以下时,两个2D区段EXT2D[n]、EXT2D[n+1]之间的最大跳跃距离SJUMP_MAX为40000扇区(=约78.1MB)。
[2]3D再现模式下的条件
图32是表示3D再现模式的再现装置102内的再现处理系统的框图。参照图32,该再现处理系统包括BD-ROM驱动器3201、开关3202、一对读缓冲器3211、3212及系统目标解码器3203。BD-ROM驱动器3201从BD-ROM盘101中读出区段SS,以读出速度RUD72传输给开关3202。开关3202将各区段SS分离为基础视点数据块和从属视点数据块。关于该分离处理的细节,将在后面叙述。第1读缓冲器3211及第2读缓冲器3212(下面简称为RB1及RB2。)是内置于再现装置102中的缓冲存储器,存储由开关3202分离的各数据块。RB13211保存基础视点数据块,RB23212保存从属视点数据块。系统目标解码器3203从RB13211内的各基础视点数据块中以基础视点传输速度REXT1读出源包,从RB23212内的各从属视点数据块中以从属视点传输速度REXT2读出源包。系统目标解码器3203还将读出的基础视点数据块和从属视点数据块的对解码为影像数据VD和声音数据AD。
基础视点传输速度REXT1等于系统目标解码器3203从RB13211内的各源包中提取TS包的处理平均速度的192/188倍。基础视点传输速度REXT1的最高值RMAX1等于对文件2D的系统速率RTS1的192/188倍:RMAX1=RTS1×192/188。该系统速率RTS1通常用比特/秒(bps)表示,所以等于用字节/秒(Bps)表示的主TS的记录速度的8倍。从属视点传输速度REXT2等于系统目标解码器3203从RB23212内的各源包中提取TS包的处理平均速度的192/188倍。从属视点传输速度REXT2的最高值RMAX2等于对文件DEP的系统速率RTS2的192/188倍:RMAX2=RTS2×192/188。该系统速率RTS2通常用比特/秒(bps)表示,所以等于用字节/秒(Bps)表示的主TS的记录速度的8倍。各传输速度REXT1、REXT2通常用比特/秒表示,具体而言,等于将用比特单位表示的各数据块的大小除以区段ATC时间时的值。区段ATC时间等于将数据块内的源包全部从RB13211或RB23212传输到系统目标解码器3203所需要的时间。基础视点传输速度REXT1和从属视点传输速度REXT2与2D区段的平均传输速度REXT2D一样,利用数据块的大小与区段ATC时间之比进行评价:REXT1[·]=SEXT1[·]/TEXT[·]、REXT2[·]=SEXT2[·]/TEXT[·]。
读出速度RUD72通常以比特/秒表示,设定成比任一传输速度REXT1、REXT2的最高值RMAX1、RMAX2高的值,例如72Mbps:RUD72>RMAX1、RUD72>RMAX2。由此,防止在由BD-ROM驱动器3201从BD-ROM盘101中读出一个区段SS的期间、伴随系统目标解码器3203的解码处理的RB13211与RB23212的下溢。
[2-1]区段块内的无缝连接
图33(a)、(b)是表示在从一个区段块无缝再现3D影像时、RB13211、RB23212中存储的数据量DA1、DA2的变化的图表。图33(c)是表示该区段块3310与3D再现模式下的再现路径3320之间的对应关系的示意图。参照图33(c),根据再现路径3320,将区段块3310的整体作为一个区段SS一并读出。之后,利用开关3202从该区段SS中分离从属视点数据块D[k]和基础视点数据块B[k](k=...、n、n+1、n+2、...)。
由BD-ROM驱动器3201执行的读出/传输动作实际上不是由图33(a)、(b)的各图表所示的连续的,而是断续的。由此,防止在各数据块D[k]、B[k]的读出期间PRD[k]、PRB[k]中RB13211、RB23212的溢出(overflow)。即,图33(a)、(b)的各图表将实际上阶段状的增减近似表示为直线增减。
参照图33(a)、(b),在第(n+1)个从属视点数据块D[n]的读出期间PRD[n]中,RB23212的存储数据量DA2以等于读出速度RUD72与从属视点传输速度REXT2[n]之间的差RUD72-REXT2[n]的速度增加,RB13211的存储数据量DA1以基础视点传输速度REXT1[n-1]减少。参照图33(c),从第(n+1)个从属视点数据块D[n]至第(n+1)个基础视点数据块B[n]产生零扇区迁移J0[2n]。如图33(a)、(b)所示,在零扇区迁移期间PJ0[n]中,RB13211的存储数据量DA1以基础视点传输速度REXT1[n-1]持续减少,RB23212的存储数据量DA2以从属视点传输速度REXT2[n]减少。
再参照图33(a)、(b),在第(n+1)个基础视点数据块B[n]的读出期间PRB[n]中,RB13311的存储数据量DA1以等于读出速度RUD72与基础视点传输速度REXT1[n]之间的差RUD72-REXT1[n]的速度增加。另一方面,RB23212的存储数据量DA2以从属视点传输速度REXT2[n]持续减少。再参照图33(c),从该基础视点数据块B[n]至下一从属视点数据块D[n+1]产生零扇区迁移J0[2n+1]。如图33(a)、(b)所示,在零扇区迁移期间PJ0[2n+1]中,RB13211的存储数据量DA1以基础视点传输速度REXT1[n]减少,RB23212的存储数据量DA2以从属视点传输速度REXT2[n]持续减少。
为了从一个区段块3310无缝再现3D影像,属于该区段块的数据块B[n]、D[n]的各大小只要满足以下说明的条件2、3即可。
第(n+1)个基础视点数据块B[n]的大小SEXT1[n]至少等于在从其读出期间PRB[n]到下一基础视点数据块B[n+1]的读出期间PRB[n+1]的紧前、从RB13211向系统目标解码器3203传输的数据量。此时,如图33(a)所示,在下一基础视点数据块B[n+1]的读出期间PRB[n+1]的紧前,RB13211的存储数据量DA1不低于第(n+1)个基础视点数据块B[n]的读出期间PRB[n]的紧前的量。这里,第(n+1)个基础视点数据块B[n]的读出期间PRB[n]的长度等于将该基础视点数据块B[n]的大小SEXT1[n]除以读出速度RUD72而得到的值SEXT1[n]/RUD72。另一方面,第(n+2)个从属视点数据块D[n+1]的读出期间PRD[n+1]的长度等于将该从属视点数据块D[n+1]的大小SEXT2[n+1]除以读出速度RUD72而得到的值SEXT2[n+1]/RUD72。因此,条件2表示如下。该基础视点数据块B[n]的最小区段大小由下式(2)的右边表示:
[式2]
S EXT 1 [ n ] &GreaterEqual; ( S EXT 1 [ n ] R UD 72 + T JUMP 0 [ 2 n + 1 ] + S EXT 2 [ n + 1 ] R UD 72 + T JUMP 0 [ 2 n + 2 ] ) &times; R EXT 1 [ n ]
. . . S EXT 1 [ n ] &GreaterEqual; CEIL { R EXT 1 [ n ] 8 &times; R UD 72 R UD 72 - R EXT 1 [ n ] &times; ( T JUMP 0 [ 2 n + 1 ] + 8 &times; S EXT 2 [ n + 1 ] R UD 72 + T JUMP 0 [ 2 n + 2 ] ) }
S EXT 1 [ n ] &GreaterEqual; CEIL ( R EXT 1 [ n ] &times; S EXT 2 [ n + 1 ] R UD 72 - R EXT 1 [ n ] ) (视为TJUMP0[k]=0的情况)(2)
第(n+1)个从属视点数据块D[n]的大小SEXT2[n]至少等于在从其读出期间PRD[n]到下一从属视点数据块D[n+1]的读出期间PRD[n+1]的紧前、从RB23212向系统目标解码器3203传输的数据量。此时,如图33(b)所示,在下一从属视点数据块D[n+1]的读出期间PRD[n+1]的紧前,RB23012的存储数据量DA2不低于第(n+1)个从属视点数据块D[n]的读出期间PRD[n]的紧前的量。这里,第(n+1)个从属视点数据块D[n]的读出期间PRD[n]的长度等于将该从属视点数据块D[n]的大小SEXT2[n]除以读出速度RUD72而得到的值SEXT2[n]/RUD72。因此,条件3表示如下。该从属视点数据块D[n]的最小区段大小由下式(3)的右边表示:
[式3]
S EXT 2 [ n ] &GreaterEqual; ( S EXT 2 [ n ] R UD 72 + T JUMP 0 [ 2 n ] + S EXT 1 [ n ] R UD 72 + T JUMP 0 [ 2 n + 1 ] ) &times; R EXT 2 [ n ]
. . . S EXT 2 [ n ] &GreaterEqual; CEIL { R EXT 2 [ n ] 8 &times; R UD 72 R UD 72 - R EXT 2 [ n ] &times; ( T JUMP 0 [ 2 n ] + 8 &times; S EXT 1 [ n ] R UD 72 + T JUMP 0 [ 2 n + 1 ] ) }
S EXT 2 [ n ] &GreaterEqual; CEIL ( R EXT 2 [ n ] &times; S EXT 1 [ n ] R UD 72 - R EXT 2 [ n ] ) (视为TJUMP0[k]=0的情况)(3)
[2-2]区段块间的无缝连接
如图25所示,区段块2501-2503之间一般由其他数据的记录区域NAV或层边界LB分离。为了无缝连接如此分离的区段块之间,只要在读出一个区段块d期间、在RB13211、RB23212各自中存储足够的数据量即可。具体而言,RB13211、RB23212的各存储数据量DA1、DA2与图33(a)、(b)所示的图表不同,只要在第(n+2)个各数据块B[n+1]、D[n+1]的读出期间PRB[n+1]、PRD[n+1]的紧前,比第(n+1)个各数据块B[n]、D[n]的读出期间PRB[n]、PRD[n]的紧前的量稍微残留得多即可。例如,只要使各数据块的大小比式(2)、(3)的各右边提供的最小区段大小稍大即可。由此,在将一个区段块读入到后端的时刻,能够在RB13211、RB23212各自中存储足够的数据量。
《片段信息文件》
图34是表示第1片段信息文件(01000.clpi)、即2D片段信息文件1231的数据结构的示意图。从属视点片段信息文件(02000.clpi、03000.clpi)1232、1233也具有同样的数据结构。下面,首先以2D片段信息文件1231的数据结构为例,说明片段信息文件全部中共通的数据结构。然后,对于2D片段信息文件与从属视点片段信息文件在数据结构上的不同点进行说明。
参照图34,2D片段信息文件1231包括片段信息3410、流属性信息3420、入口映射3430及3D元数据3440。3D元数据3440包括区段起点3442。
片段信息3410如图34所示,包括系统速率3411、再现开始时刻3412及再现结束时刻3413。系统速率3411规定对文件2D(01000.m2ts)1241的系统速率RTS。这里,如图29所示,2D再现模式的再现装置102将属于文件2D1241的“TS包”从读缓冲器2902传输给系统目标解码器2903。因此,文件2D1241中,将源包的ATS的间隔设定为:TS包的传输速度抑制到系统速率RTS以下。再现开始时刻3412表示分配给文件2D1241的开头的VAU的PTS,例如开头影像帧的PTS。再现结束时刻3412表示从分配给文件2D1241的后端的VAU的PTS再延迟规定量后的STC的值,例如向最后的影像帧的PTS加上每1帧的再现时间后的值。
流属性信息3420如图34所示,是文件2D1241中包含的各基本流的PID3421与其属性信息3422之间的对应表。属性信息3422在视频流、音频流、PG流及IG流中不同。例如,与主视频流的PID0x1011建立对应的属性信息包括:在该视频流压缩中利用的编解码器的种类、构成该视频流的各图片的分辨率、宽高比及帧速率。另一方面,对应于主音频流的PID0x1100的属性信息包括:在该音频流压缩中利用的编解码器的种类、该音频流中包含的声道数量、语言及采样频率。属性信息3422被再现装置102用于解码器的初始化中。
[入口映射]
图35(a)是表示入口映射3430的数据结构的示意图。参照图35(a),入口映射3430包括表3500。表3500的数量与在主TS中复用的视频流的数量相同,一个个地分配给各视频流。图35(a)中,各表3500由分配目的地的视频流的PID区分。各表3500包括入口映射头3501和入口点3502。入口映射头3501包括与该表3500建立对应的PID、和该表3500中包含的入口点3502的总数。入口点3502将PTS3503与源包号码(SPN)3504的对一个个地与不同的入口点ID(EP_ID)3505建立对应。PTS3503与入口映射头3501所表示的PID的视频流所包含的某一个I图片的PTS相等。SPN3504与保存了该I图片的源包群的开头的SPN相等。这里,‘SPN’是指从开头起依次分配给属于一个AV流文件的源包群的连续号码。SPN用作该AV流文件内的各源包的地址。在2D片段信息文件1231内的入口映射3430中,SPN意味着分配给属于文件2D1241的源包群、即保存了主TS的源包群的号码。因此,入口点3502表示文件2D1241中包含的各I图片的PTS与地址、即SPN之间的对应关系。
入口点3502也可以不对文件2D1241内的全部I图片设定。但是,在I图片位于GOP的开头、且包括该I图片的开头的TS包位于2D区段的开头时,必须对该I图片设定入口点3502。
图35(b)是表示属于文件2D1241的源包群3510中的、通过入口映射3430与各EP_ID3505建立对应的源包群的示意图。图35(c)是表示与该源包群3510对应的BD-ROM盘101上的数据块群D[n]、B[n](n=0、1、2、3、...)的示意图。再现装置102从文件2D1241再现2D影像时,利用入口映射3430,根据表示任意场景的帧的PTS,确定包括该帧的源包的SPN。具体而言,在指定了特定的入口点的PTS、例如PTS=360000作为再现开始位置时,再现装置102首先从入口映射3430中检索与该PTS建立对应的SPN=3200。再现装置102接着求出该SPN与每一个源包的数据量192字节的积,再求出将该积除以每个扇区的数据量2048字节时的商、SPN×192/2048。从图15(c)、(d)可知,该商等于主TS中的记录了分配该SPN的源包之前的部分的扇区总数。在图35(b)所示的例子中,该商3200×192/2048=300等于记录了分配0-3199的SPN的源包群3511的扇区总数。再现装置102接着参照文件2D1241的文件入口,确定从记录了2D区段群的扇区群的开头数起第(上述总数+1)个扇区的LBN。在图35(c)所示的例子中,确定记录了可作为2D区段EXT2D[0]、EXT2D[1]、EXT2D[2]、...进行访问的基础视点数据块B[0]、B[1]、B[2]、...的扇区群中的、从开头数起第301个扇区的LBN。再现装置102将该LBN指定给BD-ROM驱动器。由此,从该LBN的扇区开始以排列单元单位依次读出基础视点数据块群。再现装置102进而从最初读出的排列单元中选择再现开始位置的入口点所表示的源包,从中提取I图片并解码。之后,后续的图片利用在先被解码的图片依次解码。这样,再现装置102能够从文件2D1241再现指定的PTS以后的2D影像。
入口映射3430还有利于快进再现及后退再现等特殊再现的高效处理中。例如,2D再现模式的再现装置102首先参照入口映射3430,从再现开始位置、例如包括PTS=360000以后的PTS的入口点、EP_ID=2、3、...起,依次读出SPN=3200、4800、...。再现装置102接着利用文件2D1241的文件入口,确定与各SPN对应的扇区的LBN。再现装置102接着将各LBN指定给BD-ROM驱动器。由此,从各LBN的扇区读出排列单元。再现装置102进而从各排列单元中选择各入口点所所示的源包,并从中提取I图片并解码。这样,再现装置102不用解析2D区段群EXT2D[n]自身就能够从文件2D1241选择性地再现I图片。
[区段起点]
图36(a)是表示区段起点3442的数据结构的示意图。参照图36(a),‘区段起点(Extent_Start_Point)’3442包括基础视点区段ID(EXT1_ID)3611和SPN3612。EXT1_ID3611是从开头起依次分配给属于第1文件SS(01000.ssif)1245的各基础视点数据块的连续号码。SPN3612一个个地分配给各EXT1_ID3611,与位于由该EXT1_ID3611识别的基础视点数据块的前端的源包的SPN相等。这里,该SPN是从开头起依次分配给属于第1文件SS1245的基础视点数据块群中包含的各源包的连续号码。
在图25所示的区段块2501-2503中,各基础视点数据块B[0]、B[1]、B[2]、...被文件2D1241和第1文件SS1245共享。但是,记录层间的边界等需要长跳跃的部位上配置的数据块群一般包括仅属于文件2D1241或第1文件SS1245中的某一方的基础视点数据块。因此,区段起点3442所表示的SPN3612一般与位于属于文件2D1241的2D区段的前端的源包的SPN不同。
图36(b)是表示第2片段信息文件(02000.clpi)、即从属视点片段信息文件1232中包含的区段起点3620的数据结构的示意图。参照图36(b),区段起点3620包括从属视点区段ID(EXT2_ID)3621和SPN3622。EXT2_ID3621是从开头起依次分配给属于第1文件SS1245的各从属视点数据块的连续号码。SPN3622一个个地分配给各EXT2_ID3621,与位于通过该EXT2_ID3621识别的从属视点数据块的前端的源包的SPN相等。这里,该SPN是从开头起依次分配给属于第1文件SS1245的从属视点数据块群中包含的各源包的连续号码。
图36(d)是表示属于第1文件DEP(02000.m2ts)1242的从属视点区段EXT2[0]、EXT2[1]、...与区段起点3620所示的SPN3622之间的对应关系的示意图。如图25所示,从属视点数据块由第1文件DEP1242与第1文件SS1245共享。因此,如图36(d)所示,区段起点3620所示的各SPN3622与位于各右视点区段EXT2[0]、EXT2[1]、...的前端的源包的SPN相等。
2D片段信息文件1231的区段起点3442和从属视点片段信息文件1232的区段起点3620如以下说明,当从第1文件SS1245再现3D影像时,用于检测各区段SS中包含的数据块的边界。
图36(e)是表示属于第1文件SS1245的区段SSEXTSS[0]与BD-ROM盘101上的区段块之间的对应关系的示意图。参照图36(e),该区段块包括交织配置的数据块群D[n]、B[n](n=0、1、2、...)。另外,下面的说明在其他配置中也同样成立。该区段块可作为一个区段SSEXTSS[0]进行访问。并且,该区段SSEXTSS[0]中,第(n+1)个基础视点数据块B[n]中包含的源包的数量与在区段起点3442中分别与EXT1_ID=n+1、n对应的SPN间的差A(n+1)-An相等。这里,设A0=0。另一方面,从属视点数据块D[n+1]中包含的源包的数量与在区段起点3620中分别于EXT2_ID=n+1、n对应的SPN间的差B(n+1)-Bn相等。这里,设B0=0。
在3D再现模式的再现装置102从第1文件SS1245再现3D影像时,利用各片段信息文件1231、1232的入口映射和区段起点3442、3620。由此,再现装置102根据表示任意场景的右视点的帧的PTS,确定记录了该帧的构成所需要的从属视点数据块的扇区的LBN。具体而言,再现装置102首先例如从从属视点片段信息文件1232的入口映射中,检索与该PTS建立对应的SPN。假设该SPN所表示的源包包含于第1文件DEP1242的第3个从属视点区段EXT2[2]、即从属视点数据块D[2]中的情况。再现装置102接着从从属视点片段信息文件1232的区段起点3620所示的SPN3622中,检索目标SPN以下且最大的“B2”和与其对应的EXT2_ID=“2”。再现装置102接着从2D片段信息文件1231的区段起点3442中检索对应于与该EXT2_ID=“2”相等的EXT1_ID的SPN3612的值“A2”。再现装置102还求出检索到的SPN的和B2+A2。从图36(e)可知,该和B2+A2与区段SSEXTSS[0]中第3个从属视点数据块D[2]之前配置的源包的总数相等。因此,将该和B2+A2与每个源包的数据量192字节的积除以每个扇区的数据量2048字节时的商(B2+A2)×192/2048,等于从区段SSEXTSS[0]的开头至第3个从属视点数据块D[2]的紧前的扇区数量。若利用该商来参照第1文件SS1245的文件入口,则能够确定记录了该从属视点数据块D[2]的前端的扇区的LBN。
再现装置102在如上述那样确定LBN之后,将该LBN指定给BD-ROM驱动器。由此,以排列单元单位读出该LBN的扇区以后记录的区段SSEXTSS[0]的部分、即第3个右视点数据块D[2]以后的数据块群D[2]、B[2]、D[3]、B[3]、...。
再现装置102再利用区段起点3442、3620,从读出的区段SS中交替提取从属视点数据块和基础视点数据块。例如假设从图36(e)所示的区段SSEXTSS[0]依次读出数据块群D[n]、B[n](n=0、1、2、...)时的情况。再现装置102首先从区段SSEXTSS[0]的开头提取B1个源包,作为最初的从属视点数据块D[0]。再现装置102接着提取第B1个源包与后续于它的(A1-1)个源包的共计A1个源包,作为最初的基础视点数据块B[0]。再现装置102接着提取第(B1+A1)个源包与后续于它的(B2-B1-1)个源包的共计(B2-B1)个源包,作为第2个从属视点数据块D[1]。再现装置102再提取第(A1+B2)个源包与后续于它的(A2-A1-1)个源包的共计(A2-A1)个源包,作为第2个基础视点数据块B[1]。之后再现装置102也同样从读出的源包数量中检测区段SS内的数据块间的边界,交替提取从属视点数据块和基础视点数据块。提取到的基础视点数据块和从属视点数据块平行地传递到系统目标解码器进行解码。
这样,3D再现模式的再现装置102能够从第1文件SS1245再现指定的PTS以后的3D影像。结果,再现装置102能够实际上享受与BD-ROM驱动器的控制有关的上述优点(A)、(B)。
《文件基础(file base)》
图36(c)是表示由3D再现模式的再现装置102从第1文件SS1245中提取的基础视点数据块B[0]、B[1]、B[2]、...的示意图。参照图36(c),在从开头起依次向这些基础视点数据块B[n](n=0、1、2、...)中包含的源包群分配了SPN时,位于各基础视点数据块B[n]的前端的源包的SPN与区段起点3442所示的SPN3612相等。将如这些基础视点数据块群B[n]那样利用区段起点而从一个文件SS中提取的基础视点数据块群称为‘文件基础’。并且,将文件基础中包含的基础视点数据块称为‘基础视点区段’。如图36(e)所示,各基础视点区段EXT1[0]、EXT1[1]、...利用片段信息文件内的区段起点3442、3620而被参照。
基础视点区段EXT1[n]与2D区段EXT2D[n]共享基础视点数据块B[n]。因此,文件基础包括与文件2D相同的主TS。但是,基础视点区段EXT1[n]与2D区段EXT2D[n]不同,不被任一文件的文件入口参照。如上所述,基础视点区段EXT1[n]利用片段信息文件内的区段起点,被从文件SS内的区段SSEXTSS[·]中提取。这样,文件基础与原来的文件不同,不包括文件入口,且基础视点区段的参照中需要区段起点。从这些意义上来讲,文件基础是‘虚拟的文件’。尤其,文件基础在文件系统中不被识别,不出现在图12所示的目录/文件结构中。
图37是表示BD-ROM盘101上记录的一个区段块3700与文件2D3710、文件基础3711、文件DEP3712及文件SS3720的各区段群之间的对应关系的示意图。参照图37,区段块3700包括从属视点数据块D[n]和基础视点数据块B[n](n=0、1、2、3、...)。基础视点数据块B[n]作为2D区段EXT2D[n],属于文件2D3710。从属视点数据块D[n]作为从属视点区段EXT2[n],属于文件DEP3712。区段块3700整体作为一个区段SSEXTSS[0],属于文件SS3720。因此,区段SSEXTSS[0]与2D区段EXT2D[n]共享基础视点数据块B[n],与从属视点区段EXT2[n]共享从属视点数据块D[n]。区段SSEXTSS[0]在被读入到再现装置102中后,分离成从属视点数据块D[n]和基础视点数据块B[n]。这些基础视点数据块B[n]作为基础视点区段EXT1[n],属于文件基础3711。区段SSEXTSS[0]内的基础视点区段EXT1[n]与从属视点区段EXT2[n]之间的边界利用分别与文件2D3710和文件DEP3712建立对应的片段信息文件内的区段起点来确定。
《从属视点片段信息文件》
从属视点片段信息文件的数据结构与图34、35所示的2D片段信息文件一样。因此,在下面的说明中,涉及从属视点片段信息文件与2D片段信息文件之间的不同点,就同样点的说明引用上述说明。
从属视点片段信息文件与2D片段信息文件主要在下面三点不同:(i)对流属性信息设置条件;(ii)对入口点设置条件;(iii)3D元数据不包括偏移表。
(i)当基础视点视频流和从属视点视频流由L/R模式的再现装置102用于3D影像再现中时,如图17所示,从属视点视频流利用基础视点视频流压缩。此时,从属视点视频流的视频流属性与基础视点视频流相等。这里,涉及基础视点视频流的视频流属性信息在2D片段信息文件的流属性信息3420内与PID=0x1011建立对应。另一方面,涉及从属视点视频流的视频流属性信息在从属视点片段信息文件的流属性信息内与PID=0x1012或0x1013建立对应。因此,在这些视频流属性信息间,图34所示的各项目、即编解码器、分辨率、宽高比及帧速率必须一致。若编解码器的种类一致,则在基础视点图片与从属视点图片之间,编码的参照关系成立,所以能够解码各图片。若分辨率、宽高比及帧速率均一致,则能够使左右影像的画面显示同步。因此,可将这些影像作为3D影像来观看,而不会对视听者造成不适。
(ii)从属视点片段信息文件的入口映射包括分配给从属视点视频流的表。该表与图35(a)所示的表3500一样,包括入口映射头和入口点。入口映射头表示对应的从属视点视频流的PID、即0x1012或0x1013。各入口点将一对PTS和SPN与一个EP_ID建立对应。各入口点的PTS与从属视点视频流中包含的某一个GOP中位于其开头的图片的PTS相等。各入口点的SPN与保存了通过属于相同入口点的PTS来确定的图片的源包群中的、分配给其开头的SPN相等。这里,SPN意味着从开头起依次分配给属于文件DEP的源包群、即构成辅TS的源包群的连续号码。各入口点的PTS必须与2D片段信息文件的入口映射中的、分配给基础视点视频流的表内的入口点的PTS一致。即,当对包括相同3D·VAU中包含的一对图片中的一个图片的源包群的开头设定了入口点时,也必须始终对包括另一个图片的源包群的开头设定入口点。
图38是表示对基础视点视频流3810和从属视点视频流3820设定的入口点的例子的示意图。在各视频流3810、3820中,从开头数起相同顺序的GOP表示相同的再现期间的影像。参照图38,在基础视点视频流3810中,对从开头数起位于第奇数个的GOP#1、GOP#3、GOP#5的各开头设定入口点3801B、3803B、3805B。与此相应地,在从属视点视频流3820中,也对从其开头的GOP数起位于第奇数个的GOP#1、GOP#3、GOP#5的各开头设定入口点3801D、3803D、3805D。此时,再现装置102例如在从GOP#3开始再现3D影像时,可从对应的入口点3803B、3803D的SPN立即计算文件SS内的再现开始位置的SPN。尤其在入口点3803B、3803D均设定在了数据块的前端时,从图36(e)可知,入口点3803B、3803D的SPN之和等于文件SS内的再现开始位置的SPN。如图36(e)的说明中所述,根据该源包数量,能够计算记录了文件SS内再现开始位置的部分的扇区的LBN。这样,在再现3D影像时,能够提高跳入再现等需要视频流的随机访问的处理的响应速度。
《2D播放列表文件》
图39是表示2D播放列表文件的数据结构的示意图。图12所示的第1播放列表文件(00001.mpls)1221具有该数据结构。参照图39,2D播放列表文件1221包括主路径3901和两个个子路径3902、3903。
主路径3901是播放项目信息(下面简称为PI)的排列,规定文件2D1241的主要的再现路径、即再现对象的部分及其再现顺序。各PI通过固有的播放项目ID=#N(N=1、2、3、...)来识别。各PI#N通过一对PTS来规定主要的再现路径的不同的再现区间。该对中的一方表示该再现区间的开始时刻(In-Time),另一方表示结束时刻(Out-Time)。并且,主路径3901内的PI顺序还表示对应的再现区间的再现路径内的顺序。
各子路径3902、3903是子播放项目信息(下面简称为SUB_PI)的排列,规定在文件2D1241的主要再现路径中可并列附带的再现路径。该再现路径表示与主路径3901所表示的文件2D1241的部分不同的部分及其再现顺序、或者在其他文件2D中复用的流数据的部分及其再现顺序。该流数据所表示的2D影像应与按照主路径3901从文件2D1241再现的2D影像同时再现,例如包括画中画方式中的副影像、浏览器画面、弹出菜单或字幕。按向2D播放列表文件1221的登记顺序,向子路径3902、3903分配连续号码“0”、“1”。该连续号码作为子路径ID,用于各子路径3902、3903的识别。在各子路径3902、3903中,各SUB_PI由固有的子播放项目ID=#M(M=1、2、3、...)识别。各SUB_PI#M通过一对PTS来规定再现路径的不同的再现区间。该对中的某一方表示该再现区间的再现开始时刻,另一方表示再现结束时刻。进而,各子路径3902、3903内的SUB_PI的顺序还表示对应的再现区间的再现路径内的顺序。
图40是表示PI#N的数据结构的示意图。参照图40,PI#N包括参照片段信息4001、再现开始时刻(In-Time)4002、再现结束时刻(Out-Time)4003、连接条件4004及流选择表(下面简称为STN(Stream Number:流号码)表)4005。参照片段信息4001是用于识别2D片段信息文件1231的信息。再现开始时刻4002和再现结束时刻4003表示文件2D1241的再现对象部分的前端和后端的各PTS。连接条件4004规定将由再现开始时刻4002和再现结束时刻4003规定的再现区间中的影像连接于由前一个PI#(N-1)规定的再现区间中的影像时的条件。STN表4005表示在从再现开始时刻4002至再现结束时刻4003的期间,可由再现装置102内的解码器从文件2D1241选择的基本流的列表。
SUB_PI的数据结构与图40所示的PI的数据结构在包括参照片段信息、再现开始时刻及再现结束时刻的方面相同。尤其是SUB_PI的再现开始时刻和再现结束时刻,由与PI的再现开始时刻和再现结束时刻相同的时间轴上的值表示。SUB_PI还包括‘SP连接条件’这样的字段。SP连接条件具有与PI连接条件相同的含义。
[连接条件]
连接条件(下面简称为CC)4004例如能够取“1”、“5”、“6”三种值。当CC4004为“1”时,从由PI#N规定的文件2D1241的部分再现的影像也可不必与从由紧前的PI#(N-1)规定的文件2D1241的部分再现的影像无缝连接。另一方面,当CC4004为“5”或“6”时,这两个影像必须无缝连接。
图41(a)、(b)分别是表示CC为“5”、“6”时应连接的两个再现区间PI#(N-1)、PI#N之间的关系的示意图。这里,PI#(N-1)规定文件2D1241的第1部分4101,PI#N规定文件2D1241的第2部分4102。参照图41(a),当CC为“5”时,在两个PI#(N-1)、PI#N之间,STC也可间断。即,第1部分4101的后端的PTS#1与第2部分4102的前端的PTS#2也可不连续。但是,必须满足几个限制条件。例如,将各部分4101、4102必须制作成在第1部分4101之后将第2部分4102提供给解码器时、该解码器能顺利地持续进行解码处理。还必须使第1部分4101中包含的音频流的最后帧与第2部分4102中包含的音频流的开头帧重复。另一方面,参照图41(b),当CC为“6”时,第1部分4101与第2部分4102在解码器的解码处理上必须作为一系列的部分处理。即,在第1部分4101与第2部分4102之间,STC与ATC均必须连续。同样,当SP连接条件为“5”或“6”时,在由邻接的两个SUB_PI规定的文件2D的部分之间,STC与ATC均必须连续。
[STN表]
再参照图40,STN表4005是流登记信息的排列。所谓‘流登记信息’是将从再现开始时刻4002至再现结束时刻4003之间能够从主TS中选择为再现对象的基本流独立表示的信息。流号码(STN)4006是独立地分配给流登记信息的连续号码,由再现装置102用于各基本流的识别。STN4006还表示相同种类的基本流之间选择的优先顺序。流登记信息包括流入口4009和流属性信息4010。流入口4009包括流路径信息4007与流识别信息4008。流路径信息4007是表示选择对象的基本流所属的文件2D的信息。例如当流路径信息4007表示“主路径”时,其文件2D对应于参照片段信息4001所表示的2D片段信息文件。另一方面,当流路径信息4007表示“子路径ID=1”时,选择对象的基本流所属的文件2D对应于子路径ID=1的子路径中包含的SUB_PI的参照片段信息所表示的2D片段信息文件。该SUB_PI所规定的再现开始时刻或再现结束时刻中的某一个包含于包括STN表4005的PI所规定的再现开始时刻4002至再现结束时刻4003的期间中。流识别信息4008表示在由流路径信息4007确定的文件2D中复用的基本流的PID。该PID所表示的基本流可在再现开始时刻4002至再现结束时刻4003的期间选择。流属性信息4010表示各基本流的属性信息。例如,音频流、PG流、及IG流的各属性信息表示语言的种类。
[基于2D播放列表文件的2D影像的再现]
图42是表示2D播放列表文件(00001.mpls)1221所示的PTS与从文件2D(01000.m2ts)1241再现的部分之间的对应关系的示意图。参照图42,在2D播放列表文件1221的主路径3901中,PI#1规定表示再现开始时刻IN1的PTS#1、和表示再现结束时刻OUT1的PTS#2。PI#1的参照片段信息表示2D片段信息文件(01000.clpi)1231。再现装置102在根据2D播放列表文件1221再现2D影像时,首先从PI#1读出PTS#1、#2。再现装置102接着参照2D片段信息文件1231的入口映射,检索与PTS#1、#2对应的文件2D1241内的SPN#1、#2。再现装置102接着根据SPN#1、#2,计算分别与之对应的扇区数量。再现装置102再利用这些扇区数量和文件2D1241的文件入口,确定记录了再现对象的2D区段群EXT2D[0]、...、EXT2D[n]的扇区群P1的前端的LBN#1各后端的LBN#2。扇区数量的计算和LBN的确定如使用图35说明的那样。再现装置102最后将从LBN#1至LBN#2的范围指定给BD-ROM驱动器121。由此,从该范围的扇区群P1中,读出属于2D区段群EXT2D[0]、...、EXT2D[n]的源包群。同样,PI#2所示的PTS#3、#4的对首先利用2D片段信息文件1231的入口映射,变换为SPN#3、#4的对。接着,利用文件2D1241的文件入口,将SPN#3、#4的对变换为LBN#3、#4的对。进而,从LBN#3至LBN#4范围的扇区群P2中,读出属于2D区段群的源包群。从PI#3所示的PTS#5、#6的对向SPN#5、#6的对的变换、从SPN#5、#6的对向LBN#5、#6的对的变换及从LBN#5至LBN#6的范围的扇区群P3读出源包群也一样。这样,再现装置102能够按照2D播放列表文件1221的主路径3901,从文件2D1241再现2D影像。
2D播放列表文件1221也可以包括入口标记4201。入口标记4201表示主路径3901中实际应开始再现的时刻。例如图42所示,也可对PI#1设定多个入口标记4201。入口标记4201尤其用于在随机再现(頭出し再生)中检索再现开始位置。例如,当2D播放列表文件1221规定电影标题的再现路径时,将入口标记4201赋予给各章节的开头。由此,再现装置102可按每个章节再现该电影标题。
《3D播放列表文件》
图43是表示3D播放列表文件的数据结构的示意图。图12所示的第2播放列表文件(00002.mpls)1222具有该数据结构。第2播放列表文件(00003.mpls)1223也一样。参照图43,3D播放列表文件1222包括主路径4301、子路径4302及扩展数据4303。
主路径4301规定图13(a)所示的主TS的再现路径。因此,主路径4301实质上与图39所示的2D播放列表文件1221的主路径3901相等。即,2D再现模式的再现装置102能够按照3D播放列表文件1222的主路径4301,从文件2D1241再现2D影像。另一方面,主路径4301与图39所示的主路径3901在以下方面不同:各PI的STN表在将一个STN与某一个图形流的PID建立对应时,还向该STN分配一个偏移序列ID。
子路径4302规定图13(b)、(c)所示的辅TS的再现路径,即第1文件DEP1242或第2文件DEP1243的某一个再现路径。子路径4302的数据结构与图39所示的2D播放列表文件1241的子路径3902、3903的数据结构同样。因此,对该同样的数据结构的细节、尤其是SUB_PI的数据结构的细节的说明引用使用图39的说明。
子路径4302的SUB_PI#N(N=1、2、3、...)与主路径4301的PI#N一对一对应。进而,各SUB_PI#N所规定的再现开始时刻和再现结束时刻分别与对应的PI#N所规定的再现开始时刻和再现结束时刻相等。子路径4302另外还包括子路径种类4310。‘子路径种类’一般表示在主路径与子路径之间再现处理是否应同步。在3D播放列表文件1222中,子路径种类4310尤其表示3D再现模式的种类,即应按照子路径4302再现的从属视点视频流的种类。在图43中,子路径种类4310其值是‘3D·L/R’,所以表示3D再现模式是L/R模式,即右视点视频流是再现对象。另一方面,子路径种类4310在其值为‘3D深度’时,表示3D再现模式是深度模式,即深度映射流是再现对象。3D再现模式的再现装置102在检测到子路径种类4310的值为‘3D·L/R’或‘3D深度’时,使按照主路径4301的再现处理与按照子路径4302的再现处理同步。
扩展数据4303是仅由3D再现模式的再现装置102解释的部分,被2D再现模式的再现装置102忽视。扩展数据4303尤其包括扩展流选择表4330。‘扩展流选择表(STN_table_SS)’(下面简称为STN表SS)是在3D再现模式下应向主路径4301内的各PI所表示的STN表追加的流登记信息的排列。该流登记信息表示可从辅TS中选择为再现对象的基本流。
[STN表]
图44是表示3D播放列表文件1222的主路径4301所包含的STN表4405的示意图。参照图44,流识别信息4408中被分配了“5”-“11”的STN4406的流识别信息表示PG流或IG流的PID。此时,被分配了相同的STN的流属性信息4410包括参照偏移ID(stream_ref_offset_id)4401。文件DEP1242中,如图21所示,在各视频序列的VAU#1中配置有偏移元数据2110。参照偏移ID4401与该偏移元数据2110所包含的偏移序列ID2112中的某一个相等。即,参照偏移ID4401规定该偏移元数据2110所包含的多个偏移序列中、应与“5”-“11”的各STN建立对应的偏移序列。
[STN表SS]
图45是表示STN表SS4430的数据结构的示意图。参照图45,STN表SS4430包括流登记信息串4501、4502、4503、...、。流登记信息串4501、4502、4503、...单独对应于主路径4301内的PI#1、#2、#3、...。3D再现模式的再现装置102将这些流登记信息串4501、...与对应的PI内的STN表中包含的流登记信息串组合来利用。对各PI的流登记信息串4501包括弹出期间的偏移(Fixed_offset_during_Popup)4511、从属视点视频流的流登记信息串4512、PG流的流登记信息串4513及IG流的流登记信息串4514。
弹出期间的偏移4511表示是否从IG流再现弹出菜单。3D再现模式的再现装置102依据该偏移4511的值,改变视频平面和PG平面的显示模式(presentation mode)。这里,视频平面的显示模式中有B-D显示模式与B-B显示模式两种。在PG平面和IG平面的各显示模式中,有2平面模式、1平面+偏移模式及1平面+零偏移模式三种。例如在弹出期间的偏移4511的值为“0”时,不从IG流再现弹出菜单。此时,选择B-D显示模式作为视频平面的显示模式,选择2平面模式或1平面+偏移模式作为PG平面的显示模式。另一方面,在弹出期间的偏移4511的值为“1”时,从IG流再现弹出菜单。此时,选择B-B显示模式作为视频平面的显示模式,选择1平面+零偏移模式作为PG平面的显示模式。
在‘2平面模式’中,例如图13(b)、(c)所示,当辅TS包括基础视点的图形流和从属视点的图形流双方时,再现装置102从各图形流中解码左视点与右视点的图形平面并交替输出。在‘1平面+偏移模式’中,再现装置102通过偏移控制,从主TS内的图形流生成左视点与右视点的图形平面的对并交替输出。无论哪个模式均能在显示装置103的画面上交替显示左视点与右视点的图形平面。此时,这些图形平面由视听者看起来是一个3D图形影像。在‘1平面+零偏移模式’中,再现装置102将动作模式维持为3D再现模式的状态下,使偏移控制暂时停止,将从主TS内的图形流解码的图形平面每一帧输出两次。因此,在显示装置103的画面上仅显示左视点与右视点中的某一方的图形平面,所以这些由视听者看起来仅是2D图形影像。
3D再现模式的再现装置102在按每个PI参照弹出期间的偏移4511、从IG流再现弹出菜单时,选择B-B显示模式和1平面+零偏移模式。由此,在显示弹出菜单期间,不管显示装置103以2D显示模式和3D显示模式中的那种模式进行动作,均将其他3D影像暂时变更为2D影像,所以弹出菜单的视觉辨认性、操作性提高。
从属视点视频流的流登记信息串4512、PG流的流登记信息串4513及IG流的流登记信息串4514分别包括表示可从辅TS中选择为再现对象的从属视点视频流、PG流及IG流的流登记信息。这些流登记信息串4512、4513、4514分别与对应的PI内的STN表中包含的流登记信息串中的、表示基础视点视频流、PG流及IG流的流登记信息串组合来利用。3D再现模式的再现装置102在读出STN表内的某一个流登记信息时,还自动读出与组合于该流登记信息上的STN表SS内的流登记信息串。由此,再现装置102在将2D再现模式仅切换为3D再现模式时,能够将已设定的STN及语言等流属性维持为相同。
从属视点视频流的流登记信息串4512一般包括多个流登记信息(SS_dependent_view_block)4520。它们与对应的PI内的流登记信息中表示基础视点视频流的流登记信息的数量相同。各流登记信息4520包括STN4521、流入口4522及流属性信息4523。STN4521是单独分配给流登记信息4520的连续号码,与对应的PI内的组合对象的流登记信息的STN相等。流入口4522包括子路径ID参照信息(ref_to_Subpath_id)4531、流文件参照信息(ref_to_subClip_entry_id)4532及PID(ref_to_stream_PID_subclip)4533。子路径ID参照信息4531表示规定从属视点视频流的再现路径的子路径的子路径ID。流文件参照信息4532是用于识别保存了该从属视点视频流的文件DEP的信息。PID4533是该从属视点视频流的PID。流属性信息4523包括该从属视点视频流的属性、例如帧速率、分辨率及视频格式。尤其,这些属性与对应的PI内的组合对象的流登记信息所表示的基础视点视频流的相同。
PG流的流登记信息串4513一般包括多个流登记信息4540。这些信息的数量与对应的PI内的流登记信息中、表示PG流的信息的数量相同。各流登记信息4540包括STN4541、立体视觉标志(is_SS_PG)4542、基础视点流入口(stream_entry_for_base_view)4543、从属视点流入口(stream_entry_for_depentdent_view)4544及流属性信息4545。STN4541是单独分配给流登记信息4540的连续号码,与对应的PI内的组合对象的流登记信息的STN相等。立体视觉标志4542表示‘BD-ROM盘101中是否记录有基础视点及从属视点(例如左视点及右视点)双方的PG流。在立体视觉标志4542为on时,辅TS中包含有双方的PG流。因此,基础视点流入口4543、从属视点流入口4544及流属性信息4545中的任一字段均由再现装置102读出。在立体视觉标志4542为off时,这些字段4543-4545均被再现装置102忽视。基础视点流入口4543和从属视点流入口4544分别包括子路径ID参照信息4551、流文件参照信息4552及PID4553。子路径ID参照信息4551表示规定基础视点和从属视点的各PG流的再现路径的子路径的子路径ID。流文件参照信息4552是用于识别保存了各PG流的文件DEP的信息。PID4553是各PG流的PID。流属性信息4545包括各PG流的属性、例如语言种类。IG流的流登记信息串4514也具有同样的数据结构。
[基于3D播放列表文件的3D影像的再现]
图46是表示3D播放列表文件(00002.mpls)1222所示的PTS与从第1文件SS(01000.ssif)1245再现的部分之间的对应关系的示意图。参照图46,在3D播放列表文件1222的主路径4601中,PI#1规定表示再现开始时刻IN1的PTS#1和表示再现结束时刻OUT1的PTS#2。PI#1的参照片段信息表示2D片段信息文件(01000.clpi)1231。在子路径4602中,SUB_PI#1规定与PI#1相同的PTS#1、#2。SUB_PI#1的参照片段信息表示从属视点片段信息文件(02000.clpi)1232。
再现装置102在根据3D播放列表文件1222来再现3D影像时,首先从PI#1和SUB_PI#1读出PTS#1、#2。再现装置102接着参照2D片段信息文件1231的入口映射,检索与PTS#1、#2对应的文件2D1241内的SPN#1、#2。与之并行地,再现装置102参照从属视点片段信息文件1232的入口映射,检索与PTS#1、#2对应的第1文件DEP1242内的SPN#11、#12。再现装置102接着如图36(e)的说明那样,利用各片段信息文件1231、1232的区段起点3442、3620,根据SPN#1、#11计算从第1文件SS1245的开头至再现开始位置的源包数量SPN#21。再现装置102同样根据SPN#2、#12计算从第1文件SS1245的开头至再现结束位置的源包数量SPN#22。再现装置102还计算分别与SPN#21、#22对应的扇区数量。再现装置102接着利用这些扇区数量和第1文件SS1245的文件入口,确定记录了再现对象的区段SS群EXTSS[0]、...、EXTSS[n]的扇区群P11的前端的LBN#1和后端的LBN#2。扇区数量的计算和LBN的确定与图36(e)的说明中描述的一样。再现装置102最后将从LBN#1至LBN#2的范围指定给BD-ROM驱动器121。由此,从该范围的扇区群P11中,读出属于区段SS群EXTSS[0]、...、EXTSS[n]的源包群。同样,PI#2与SUB_PI#2所表示的PTS#3、#4的对首先利用片段信息文件1231、1232的各入口映射,变换为SPN#3、#4的对和SPN#13、#14的对。接着,根据SPN#3、#13计算从第1文件SS1245的开头至再现开始位置的源包数量SPN#23。进而,根据SPN#4、#14计算从第1文件SS1245的开头至再现结束位置的源包数量SPN#24。接着,利用第1文件SS1245的文件入口,将SPN#23、#24的对变换为LBN#3、#4的对。之后,从LBN#3至LBN#4的范围的扇区群P12中读出属于区段SS群的源包群。
与上述读出处理并行地,再现装置102如图36(e)的说明中叙述的那样,利用各片段信息文件1231、1232的区段起点3442、3620,从各区段SS中提取基础视点区段和从属视点区段并平行解码。这样,再现装置102根据3D播放列表文件1222从第1文件SS1245再现3D影像。
《索引文件》
图47是表示图12所示的索引文件(index.bdmv)1211的数据结构的示意图。参照图47,索引文件1211包括索引表4710、3D存在标志4720及2D/3D喜好标志4730。
索引表4710包括项目‘首先播放(first play)’4701、‘主菜单(top menu)’4702及‘标题k’4703(k=1、2、...、n:字符n表示1以上的整数)。电影对象MVO-2D、MVO-3D、...、或BD-J对象BDJO-2D、BDJO-3D、...中的某一个与各项目建立了对应。每当根据用户操作或应用程序的指示而调用标题或菜单时,再现装置102的控制部参照索引表4710的对应项目。控制部进而从BD-ROM盘101中调用与该项目建立对应的对象,据此执行各种处理。具体而言,对项目‘首先播放’4701指定应在将BD-ROM盘101插入到BD-ROM驱动器121时调用的对象。对项目‘主菜单’4702指定在例如通过用户的操作而输入了‘返回菜单’等命令时使菜单显示于显示装置103上用的对象。向项目‘标题k’4703单独分配了构成BD-ROM盘101上的内容的标题。例如在通过用户的操作指定了再现对象的标题时,向被分配了该标题的项目‘标题k’指定用于从对应于该标题的AV流文件再现影像的对象。
在图47所示的例子中,将项目‘标题1’和项目‘标题2’分配给2D影像的标题。与项目‘标题1’建立了对应的电影对象MVO-2D包括与使用了2D播放列表文件(00001.mpls)1221的2D影像的再现处理有关的命令群。在由再现装置102参照项目‘标题1’时,根据该电影对象MVO-2D,从BD-ROM盘101中读出2D播放列表文件1221,按照其规定的再现路径,执行2D影像的再现处理。与项目‘标题2’建立了对应的BD-J对象BDJO-2D包括与使用了2D播放列表文件1221的2D影像的再现处理有关的应用管理表。在由再现装置102参照项目‘标题2’时,根据该BD-J对象BDJO-2D内的应用管理表,从JAR文件1261中调用Java应用程序并执行。由此,从BD-ROM盘101中读出2D播放列表文件1221,按照其规定的再现路径,执行2D影像的再现处理。
在图47所示的例子中,还向3D影像的标题分配了项目‘标题3’和项目‘标题4’。与项目‘标题3’建立了对应的电影对象MVO-3D除了与使用了2D播放列表文件1221的2D影像的再现处理有关的命令群外,还包括与使用了3D播放列表文件(00002.mpls)1222、(00003.mpls)1223中的某一个的3D影像再现处理有关的命令群。在与项目‘标题4’建立了对应的BD-J对象BDJO-3D中,应用管理表除了与使用2D播放列表文件1221的2D影像的再现处理有关的Java应用程序外,还规定与使用3D播放列表文件1222、1223中的某一个的3D影像的再现处理有关的Java应用程序。
3D存在标志4720是表示BD-ROM盘101中是否记录有3D影像内容的标志。在将BD-ROM盘101插入到了BD-ROM驱动器121中时,再现装置102首先检查该3D存在标志4720。在3D存在标志4720为on的情况下,再现装置102必须通过HDMI缆线122与显示装置103交换CEC消息,并向显示装置103询问是否能够应对3D影像的再现。为了执行该询问,再现装置102必须对显示装置103执行HDCP认证。另一方面,在3D存在标志4720为off的情况下,再现装置102不需要选择3D再现模式,所以不用对显示装置103执行HDCP认证,而能够快速转移到2D再现模式。这样,通过跳过HDMI认证,缩短从插入BD-ROM盘101至2D影像再现开始为止的时间。
2D/3D喜好标志4730是在再现装置与显示装置都能够应对2D影像与3D影像中的任意影像的再现时、指定是否应优先进行3D影像再现的标志。2D/3D喜好标志4730由内容提供商设定。再现装置102在BD-ROM盘101的3D存在标志4720为on时,接着进一步检查2D/3D喜好标志4730。在2D/3D喜好标志4730为on的情况下,优先进行3D影像的再现,所以再现装置102也可以不使用户选择再现模式。因此,再现装置102不需要使显示装置103显示再现模式的选择画面而执行HDCP认证,依据其结果,以2D再现模式与3D再现模式中的某一个模式进行动作。尤其在判明了显示装置103能够应对3D影像的再现的情况下,再现装置102立即以3D再现模式启动。这样,能够避免帧速率的切换等从2D再现模式转移到3D再现模式的处理引起的启动延迟。
[选择3D影像标题时的播放列表文件的选择]
在图47所示的例子中,再现装置102在参照索引表4710的项目‘标题3’时,根据电影对象MVO-3D,首先执行如下的判断处理:(1)3D存在标志4720是on(开)还是off(关),(2)再现装置102自身是否对应于3D影像再现,(3)2D/3D喜好标志4730是on(开)还是off(关),(4)用户是否选择了3D再现模式,(5)显示装置103是否对应于3D影像再现,及(6)再现装置102的3D再现模式是L/R模式与深度模式中的哪一种。再现装置102接着依照这些判断结果,选择某一个播放列表文件1221-1223作为再现对象。另一方面,再现装置102在参照了项目‘标题4’时,根据BD-J对象BDJO-3D内的应用管理表,从JAR文件1261中调用Java应用程序并执行。由此,首先执行上述判断处理(1)-(6),接着依照该判断结果,进行播放列表文件的选择。
图48是利用上述判断处理(1)-(6)来选择再现对象的播放列表文件的处理的流程图。这里,作为该选择处理的前提,假设再现装置102包括第1标志和第2标志的情况。第1标志表示再现装置102是否能够应对3D影像的再现。例如,当第1标志为“0”时,再现装置102仅能够应对2D影像再现,为“1”时,还能够应对3D影像的再现。第2标志表示3D再现模式是L/R模式与深度模式中的哪一个。例如,当第2标志为“0”时,3D再现模式是L/R模式,为“1”时,是深度模式。进而,将3D存在标志4720和2D/3D喜好标志4730分别为on时的值设为“1”,为off时的值设为“0”。
在步骤S4801中,再现装置102检查3D存在标志4720的值。当该值为“1”时,处理前进到步骤S4802。当该值为“0”时,处理前进到步骤S4807。
在步骤S4802中,因为3D存在标志4720为on,所以有可能选择3D再现模式。因此,再现装置102检查第1标志的值。当该值为“1”时,处理前进到步骤S4803。当该值为“0”时,处理前进到步骤S4807。
在步骤S4803中,由于第1标志为on,所以再现装置102能够应对3D影像再现。再现装置102进一步检查2D/3D喜好标志4730的值。当该值为“0”时,处理前进到步骤S4804。当该值为“1”时,处理前进到步骤S4805。
在步骤S4804中,由于2D/3D喜好标志4730为off,所以不优先进行3D影像的再现。因此,再现装置102使显示装置103显示菜单,使用户选择2D再现模式与3D再现模式中的某一个。当用户操作遥控器105等选择了3D再现模式时,处理前进到步骤S4805,当选择了2D再现模式时,处理前进到步骤S4807。
在步骤S4805中,3D影像的再现优先,或已由用户选择了3D再现模式。因此,再现装置102进行HDCP认证,检查显示装置103是否对应于3D影像再现。在显示装置103对应于3D影像再现时,处理前进到步骤S4806。在显示装置103不对应于3D影像再现时,处理前进到步骤S4807。
在步骤S4806中,已决定了3D再现模式下的启动。再现装置102进一步检查第2标志的值。当该值为“0”时,处理前进到步骤S4808。当该值为“1”时,处理前进到步骤S4809。
在步骤S4807中,已决定了2D再现模式下的启动。因此,再现装置102选择2D播放列表文件1221作为再现对象。另外,此时再现装置102也可以使显示装置103显示未选择3D影像再现的理由。之后,处理结束。
在步骤S4808中,再现装置102以L/R模式启动。即,再现装置102选择L/R模式用的3D播放列表文件1222作为再现对象。之后,处理结束。
在步骤S4809中,再现装置102以深度模式启动。即,再现装置102选择深度模式用的3D播放列表文件1223作为再现对象。之后,处理结束。
<2D再现装置的构成>
2D再现模式的再现装置102在从BD-ROM盘101再现2D影像内容时,作为2D再现装置动作。图49是2D再现装置4900的功能框图。参照图49,2D再现装置4900包括BD-ROM驱动器4901、再现部4902及控制部4903。再现部4902包括读缓冲器4921、系统目标解码器4923、平面加法部4924及HDMI通信部4925。控制部4903包括动态脚本存储器4931、静态脚本存储器4932、用户事件处理部4933、程序执行部4934、再现控制部4935及播放器变量存储部4936。再现部4902和控制部4903安装在相互不同的集成电路中。另外,也可将两者集成在单一的集成电路中。
BD-ROM驱动器4901在被向内部插入了BD-ROM盘101时,向该盘110照射激光,检测其反射光的变化。再根据其反射光的光量变化,读取盘101中记录的数据。具体而言,BD-ROM驱动器4901具备光拾取器,即光学头。该光学头包括半导体激光器、准直透镜、分束器、物镜、聚光透镜及光检测器。从半导体激光器射出的光束依次通过准直透镜、分束器及物镜,汇聚到盘101的记录层上。汇聚的光束被该记录层反射/折射。该反射/折射光通过物镜、分束器及聚光透镜,汇聚到光检测器。光检测器生成与该聚光量相应的电平的再现信号。进而,根据该再现信号解调数据。
BD-ROM驱动器4901按照来自再现控制部4935的请求,从BD-ROM盘101中读出数据。该数据中的文件2D的区段、即2D区段传输到读缓冲器4921,动态脚本信息传输到动态脚本存储器4931,静态脚本信息传输到静态脚本存储器4932。‘动态脚本信息’包括索引文件、电影对象文件及BD-J对象文件。‘静态脚本信息’包括2D播放列表文件和2D片段信息文件。
读缓冲器4921、动态脚本存储器4931及静态脚本存储器4932均是缓冲存储器。作为读缓冲器4921利用内置于再现部4902中的存储器元件,作为动态脚本存储器4931及静态脚本存储器4932利用内置于控制部4903中的存储器元件。此外,单一存储器元件的不同区域也可以用作这些缓冲存储器4921、4931、4932的一部分或全部。读缓冲器4921保存2D区段,动态脚本存储器4931保存动态脚本信息,静态脚本存储器4932保存静态脚本信息。
系统目标解码器4923从读缓冲器4921中以源包单位读出2D区段并进行复用分离处理,并对分离后的各基本流执行解码处理。这里,各基本流解码中所需要的信息、例如编解码器的种类及流属性事先从再现控制部4935发送到系统目标解码器4923。系统目标解码器4923还将解码后的主视频流、辅视频流、IG流及PG流内的各VAU变换为主影像平面、副影像平面、IG平面及PG平面后发送给平面加法部4924。另一方面,系统目标解码器4923将解码后的主音频流和辅音频流进行混合,并发送给显示装置103的内置扬声器103A等声音输出装置。此外,系统目标解码器4923从程序执行部4934接收图形数据。该图形数据用于在画面上显示GUI用菜单等图形,由JPEG或PNG等栅格数据表现。系统目标解码器4923对该图形数据进行处理,变换为图像平面,并发送给平面加法部4924。另外,关于系统目标解码器4923的细节,将在后面叙述。
平面加法部4924从系统目标解码器4923中读出主影像平面、副影像平面、IG平面、PG平面及图像平面,将其彼此重叠后合成为一个影像平面(帧或场)。合成后的影像平面发送到HDMI通信部4925。
HDMI通信部4925从平面加法部4924接收合成后的影像数据,并从系统目标解码器4923接收声音数据,从再现控制部4935接收控制数据、尤其是再现模式。HDMI通信部4925还将这些接收数据变换为HDMI格式的串行信号,并通过HDMI缆线122内的TMDS通道传输给显示装置103。HDMI通信部4925尤其是以图4所示的格式生成该串行信号。这里,3D结构401和再现模式402也可以不设定于信息帧中。显示装置103根据该串行信号,在画面上显示影像数据所表示的影像,从扬声器103A中放出声音数据所表示的声音。另一方面,HDMI通信部4925通过HDMI缆线122内的CEC线,与显示装置103之间交换CEC消息,并通过HDMI缆线122内的显示数据通道,从显示装置103中读出EDID。另外,关于HDMI通信部4925的细节,将在后面叙述。
用户事件处理部4933通过遥控器105或再现装置102的前面板检测用户的操作,根据该操作的种类,委托程序执行部4934或再现控制部4935处理。例如在用户按下遥控器105的按钮而指示了显示弹出菜单时,用户事件处理部4933检测该按下并识别该按钮。用户事件处理部4933还委托程序执行部4934执行对应于该按钮的命令,即弹出菜单的显示处理。另一方面,在用户按下遥控器105的快进或后退按钮时,用户事件处理部4933检测其按下并识别该按钮。用户事件处理部4933还委托再现控制部4935当前再现中的播放列表的快进或后退处理。
程序执行部4934是处理器,从动态脚本存储器4931中保存的电影对象文件或BD-J对象文件中读出程序并执行。程序执行部4934还按照各程序执行如下控制:(1)对再现控制部4935命令播放列表再现处理;(2)生成菜单用或游戏用的图形数据作为PNG或JPEG栅格数据,并将其传输给系统目标解码器4923,使系统目标解码器4923将该数据与其他影像数据合成。这些控制的具体内容能够通过程序的设计较自由地设计。即,这些控制内容由BD-ROM盘101的创作(authoring)工序中的、电影对象文件及BD-J对象文件的编程工序决定。
再现控制部4935控制如下处理,即:将2D区段及索引文件等各种数据从BD-ROM盘101传输给读缓冲器4921、动态脚本存储器4931及静态脚本存储器4932。该控制中,如下利用对图12所示的目录/文件结构进行管理的文件系统。再现控制部4935利用文件打开用的系统调用,对文件系统提供检索对象的文件名,使其从目录/文件结构中检索。当该检索成功时,文件系统首先向再现控制部4935内的存储器传输传输对象文件的文件入口,在该存储器内生成FCB(File Control Block:文件控制块)。文件系统接着将传输对象文件的文件句柄(file handle)返回给再现控制部4935。再现控制部4935将该文件句柄提示给BD-ROM驱动器4901。相应于此,BD-ROM驱动器4901将该传输对象的文件从BD-ROM盘101传输给各缓冲存储器4921、4931、4932。
再现控制部4935控制BD-ROM驱动器4901和系统目标解码器4923,使其从文件2D解码影像数据和声音数据。具体而言,再现控制部4935首先根据来自程序执行部4934的命令或来自用户事件处理部4933的委托,从静态脚本存储器4932读出2D播放列表文件,并解释其内容。再现控制部4935接着根据该解释后的内容、尤其是再现路径,对BD-ROM驱动器4901和系统目标解码器4923指定再现对象的文件2D,指示其读出处理及解码处理。将这种基于播放列表文件的再现处理称为‘播放列表再现处理’。
另外,再现控制部4935利用静态脚本信息,对播放器变量存储部4936设定各种播放器变量。再现控制部4935还参照这些播放器变量,对系统目标解码器4923指定解码对象的基本流,且提供各基本流的解码中所需要的信息。另外,再现控制部4935参照这些播放器变量,将影像数据所附带的控制数据、尤其是再现模式提供给HDMI通信部4923。
播放器变量存储部4936是用于存储播放器变量的寄存器群。播放器变量的种类有系统参数(SPRM)和通用参数(GPRM)。SPRM表示再现装置102的状态。图50是SPRM的一览表。参照图50,各SPRM被分配了连续号码5001,各连续号码5001单独与变量值5002建立了对应。SPRM例如是64个,各自所示的含义如下所述。这里,括号内的数字表示连续号码5001。
SPRM(0):语言代码
SPRM(1):主音频流号码
SPRM(2):字幕流号码
SPRM(3):角度号码
SPRM(4):标题号码
SPRM(5):章节号码
SPRM(6):程号码码
SPRM(7):单元号码
SPRM(8):选择键信息
SPRM(9):导航定时器
SPRM(10):再现时刻信息
SPRM(11):卡拉OK用混合模式
SPRM(12):父母限制用国家信息
SPRM(13):父母限制级别
SPRM(14):播放器设定值(视频)
SPRM(15):播放器设定值(音频)
SPRM(16):音频流用语言代码
SPRM(17):音频流用语言代码(扩展)
SPRM(18):字幕流用语言代码
SPRM(19):字幕流用语言代码(扩展)
SPRM(20):播放器区域代码
SPRM(21):辅视频流号码
SPRM(22):辅音频流号码
SPRM(23):再现状态
SPRM(24)-SPRM(63):备用
SPRM(10)表示解码处理中的图片的PTS,每当解码该图片并写入主影像平面存储器中时被更新。因此,若参照SPRM(10),则可知道当前的再现时刻。
SPRM(13)的父母限制级别表示利用再现装置102的视听者的年龄下限。用于针对在BD-ROM盘101中记录的标题视听的父母限制控制。SPRM(13)的值由再现装置102的用户利用再现装置102的OSD等来设定。这里,‘父母限制控制’是指依照视听者的年龄来限制标题飞视听的处理。再现装置102例如如下进行对各标题的父母限制控制。再现装置102首先从BD-ROM盘101中读出对该标题的视听的限制年龄,并与SPRM(13)的值相比较。这里,该限制年龄表示允许视听该标题的的视听者的年龄下限。若该限制年龄为SPRM(13)的值以下,则再现装置102继续再现该标题。若该限制年龄超过SPRM(13)的值,则再现装置102停止再现该标题。
SPRM(16)的音频流用语言代码和SPRM(18)的字幕流用语言代码表示再现装置102的默认语言代码。这些语言代码既能够由用户利用再现装置102的OSD等来变更,也能够由应用程序通过程序执行部4934来变更。例如,当SPRM(16)表示‘英语’时,再现控制部4935在播放列表再现处理中,首先从表示当前时刻的再现区间的PI、即当前PI所包含的STN表中,检索包含‘英语’语言代码的流入口。再现控制部4935接着从该流入口的流识别信息中提取PID,传递给系统目标解码器4923。由此,由系统目标解码器4923选择并解码该PID的音频流。这些处理可以使再现控制部4935利用电影对象文件或BD-J对象文件来执行。
播放器变量在再现处理中由再现控制部4935根据再现状态的变化来更新。尤其,更新SPRM(1)、SPRM(2)、SPRM(21)及SPRM(22)。这些变量依次表示处理中的音频流、字幕流、辅视频流及辅音频流的各STN。例如,假设由程序执行部4934变更了SPRM(1)的情况。再现控制部4935首先利用变更后的SPRM(1)所表示的STN,从当前PI内的STN表中,检索包括该STN的流入口。再现控制部4935接着从该流入口内的流识别信息中提取PID,传递给系统目标解码器4923。由此,由系统目标解码器4923选择并解码该PID的音频流。这样,切换再现对象的音频流。同样地,也能够切换再现对象的字幕和辅视频流。
<2D再现装置的再现动作>
图51是2D再现装置4900的再现动作的流程图。该动作通过由再现装置102以图48所示的选择处理的结果、2D再现模式启动来开始。
在步骤S5101中,2D再现装置4900通过BD-ROM驱动器4901从BD-ROM盘101中读出流数据,并保存到读缓冲器4921中。然后,处理前进到步骤S5102。
在步骤S5102中,2D再现装置4900通过系统目标解码器4923从读缓冲器4921中读出流数据,从该流数据中复用分离基本流。然后,处理前进到步骤S5103。
在步骤S5103中,2D再现装置4900通过系统目标解码器4923解码各基本流。尤其,主视频流、辅视频流、IG流、及PG流分别被解码为主影像平面、副影像平面、IG平面及PG平面。并且,混合主音频流和辅音频流。此外,将来自程序执行部4934的图形数据变换为图像平面。然后,处理前进到步骤S5104。
在步骤S5104中,2D再现装置4900通过平面加法部4924将由系统目标解码器4923解码的主影像平面、副影像平面、IG平面、PG平面及图像平面合成为一个影像平面。然后,处理前进到步骤S5105。
在步骤S5105中,2D再现装置4900通过HDMI通信部4925将由平面加法部4924合成的影像平面、由系统目标解码器4923混合的声音数据及来自再现控制部4935的控制数据变换为串行信号,并通过HDMI缆线122传输给显示装置103。尤其,该串行信号以图4所示的格式生成。然后,处理前进到步骤S5106。
在步骤S5106中,2D再现装置4900检查读缓冲器4921中是否还残留有未处理的流数据。在残留时,从步骤S5101开始重复处理。在未残留时,处理结束。
《2D播放列表再现处理》
图52是再现控制部4935执行的2D播放列表再现处理的流程图。2D播放列表再现处理是基于2D播放列表文件的播放列表再现处理,通过由再现控制部4935从静态脚本存储器4932中读出2D播放列表文件来开始。
在步骤S5201中,再现控制部4935首先从2D播放列表文件内的主路径中读出一个PI,设定为当前PI。再现控制部4935接着从当前PI的STN表中选择再现对象的基本流的PID,并且确定其解码中所需要的属性信息。将选择到的PID和属性信息指示给系统目标解码器4923。再现控制部4935还根据2D播放列表文件内的子路径,确定当前PI所附带的SUB_PI。然后,处理前进到步骤S5002。
在步骤S5202中,再现控制部4935从当前PI中读出参照片段信息、表示再现开始时刻IN1的PTS#1及表示再现结束时刻OUT1的PTS#2。根据该参照片段信息,确定对应于再现对象文件2D的2D片段信息文件。并在存在当前PI所附带的SUB_PI时,也从中读出同样的信息。然后,处理前进到步骤S5203。
在步骤S5203中,再现控制部4935参照2D片段信息文件的入口映射,检索与PTS#1、#2对应的文件2D内的SPN#1、#2。SUB_PI所表示的PTS的对也同样变换为SPN的对。然后,处理前进到步骤S5204。
在步骤S5204中,再现控制部4935根据SPN#1、#2,计算分别对应的扇区数量。具体而言,再现控制部4935首先求出SPN#1、#2各自与每一个源包的数据量192字节的积。再现控制部4935接着用各积除以每一扇区的数据量2048字节而求出其商:N1=SPN#1×192/2048、N2=SPN#2×192/2048。商N1、N2与主TS中的、记录了被分配SPN#1、#2各自的源包之前部分的扇区总数相等。从SUB_PI所表示的PTS的对变换的SPN对的也同样变换为扇区数量的对。然后,处理前进到步骤S5205。
在步骤S5205中,再现控制部4935根据步骤S5204中得到的各个扇区数量N1、N2,确定再现对象的2D区段群的前端与后端的LBN。具体而言,再现控制部4935参照再现对象的文件2D的文件入口,确定从记录了2D区段群的扇区群开头数起第(N1+1)个扇区的LBN=LBN#1、和第(N2+1)个扇区的LBN=LBN#2。再现控制部4935还将LBN#1至LBN#2的范围指定给BD-ROM驱动器4901。将从SUB_PI所表示的PTS的对变换的扇区数量的对也同样变换为LBN的对,指定给BD-ROM驱动器4901。结果,从指定的范围的扇区群中,以排列单元单位读出属于2D区段群的源包群。然后,处理前进到步骤S5206。
在步骤S5206中,再现控制部4935检查主路径中是否残留有未处理的PI。在残留时,从步骤S5201开始重复处理。在未残留时,处理结束。
<系统目标解码器>
图53是系统目标解码器4923的功能框图。参照图53,系统目标解码器4923包括源去包器(depacketizer)5310、ATC计数器5320、第一27MHz时钟5330、PID滤波器5340、STC计数器(STC1)5350、第二27MHz时钟5360、主影像解码器5370、副影像解码器5371、PG解码器5372、IG解码器5373、主声音解码器5374、副声音解码器5375、图像处理器5380、主影像平面存储器5390、副影像平面存储器5391、PG平面存储器5392、IG平面存储器5393、图像平面存储器5394及声音混合器5395。
源去包器5310从读缓冲器4921中读出源包,从中取出TS包,发送给PID滤波器5340。源去包器5310还使该发送时刻与各源包的ATS所示的时刻一致。具体而言,源去包器5310首先监视ATC计数器5320生成的ATC值。这里,ATC值由ATC计数器5320根据第一27MHz时钟5330的时钟信号的脉冲而递增。源去包器5310接着在ATC的值与源包的ATS一致的瞬间,将从该源包中取出的TS包传输给PID滤波器5340。利用这种发送时刻的调节,从源去包器5310向PID滤波器5340传输TS包的平均传输速度不超过由图34所示的2D片段信息文件1231内的系统速率3411规定的值RTS
PID滤波器5340首先监视从源去包器5310发送的TS包所包含的PID。在该PID与从再现控制部4935事先指定的PID一致时,PID滤波器5340选择该TS包,并传输给适合解码该PID所示的基本流的解码器5370-5375。例如,当PID为0x1011时,该TS包传输到主影像解码器5370。另外,当PID属于0x1B00-0x1B1F、0x1100-0x111F、0x1A00-0x1A1F、0x1200-0x121F和0x1400-0x141F的各范围时,TS包分别传输到副影像解码器5371、主声音解码器5374、副声音解码器5375、PG解码器5372和IG解码器5373。
PID滤波器5340还利用各TS包的PID,从该TS包中检测PCR。PID滤波器5340此时将STC计数器5350的值设定为规定值。这里,STC计数器5350的值根据第二27MHz时钟5360的时钟信号的脉冲而递增。另外,事先从再现控制部4935向PID滤波器5340指示了应该对STC计数器5350设定的值。各解码器5370-5375将STC计数器5350的值作为STC来利用。具体而言,各解码器5370-5375首先将从PID滤波器5340接收到的TS包重构为PES包。各解码器5370-5375接着根据该PES头中包含的PTS或DTS所表示的时刻来调节该PES有效载荷所包含的数据的解码处理的时期。
主影像解码器5370如图53所示,包括传输流缓冲器(TB:TransportStream Buffer)5301、复用缓冲器(MB:Multiplexing Buffer)5302、基本流缓冲器(EB:Elementary Stream Buffer)5303、压缩影像解码器(DEC)5304及解码图片缓冲器(DPB:Decoded Picture Buffer)5305。
TB5301、MB5302及EB5303均为缓冲存储器,分别利用主影像解码器5370中内置的存储器元件的一区域。另外,也可以将他们中的某一个或全部分离成不同的存储器元件。TB5301将从PID滤波器5340接收到的TS包原样进行存储。MB5302存储从TB5301中存储的TS包复原的PES包。另外,在从TB5301向MB5302传输TS包时,从该TS包中去除TS头。EB5303从PES包中提取被编码的VAU并保存。在该VAU中保存有压缩图片、即I图片、B图片及P图片。另外,在从MB5302向EB5303传输数据时,从该PES包中去除PES头。
DEC5304是专用于压缩图片的解码处理的硬件解码器,尤其由具备该解码处理的加速器功能的LSI构成。DEC5304在原来的PES包中包含的DTS所示的时刻,从EB5303内的各VAU解码图片。在该解码处理中,DEC5304事先解析该VAU的头,确定该VAU内保存的压缩图片的压缩编码方式和流属性,并据此选择解码方法。该压缩编码方法例如包括MPEG-2、MPEG-4AVC和VC1。DEC5304还将解码后的非压缩图片传输给DPB5305。
DPB5305是与TB5301、MB5302及EB5303一样的缓冲存储器,利用主影像解码器5370中内置的存储器元件的一区域。此外,DPB5305也可以分离成与其他缓冲存储器5301、5302、5303不同的存储器元件。DPB5305暂时保持解码后的图片。在由DEC5304解码P图片或B图片时,DPB5305按照来自DEC5304的指示,从所保持的解码后的图片中检索参照图片并提供给DEC5304。DPB5305还在原来的PES包中包含的PTS所示的时刻将所保持的各图片写入主影像平面存储器5390中。
副影像解码器5371包括与主影像解码器5370一样的构成。副影像解码器5371首先将从PID滤波器5340接收到的辅视频流的TS包解码成非压缩图片。副影像解码器5371接着在该PES包中包含的PTS所示的时刻将非压缩图片写入副影像平面存储器5391中。
PG解码器5372将从PID滤波器5340接收到的TS包解码成非压缩图形对象,在该PES包中包含的PTS所示的时刻写入到PG平面存储器5392中。关于该写入处理的细节,将在后面叙述。
IG解码器5373将从PID滤波器5340接收到的TS包解码成非压缩图形对象。IG解码器5373还在从这些TS包复原的PES包所包含的PTS所示的时刻,将该非压缩图形对象写入到IG平面存储器5393中。这些处理的细节与PG解码器5372执行的一样。
主声音解码器5374首先将从PID滤波器5340接收到的TS包存储在内置的缓冲器中。主声音解码器5474接着从该缓冲器内的TS包群中去除TS头和PES头,将剩余的数据解码成非压缩的LPCM声音数据。主声音解码器5374还将该声音数据在原来的PES包中包含的PTS所示的时刻发送给声音混合器5395。这里,主声音解码器5374依照TS包中包含的主音频流的压缩编码方式和流属性,选择压缩声音数据的解码方法。该压缩编码方式例如包括AC-3或DTS。
副声音解码器5375包括与主声音解码器5374一样的构成。副声音解码器5375首先由从PID滤波器5340接收到的辅音频流的TS包群复原PES包,将该PES有效载荷所包含的数据解码成非压缩LPCM声音数据。副声音解码器5375接着在该PES头所包含的PTS所示的时刻,将该非压缩LPCM声音数据发送给声音混合器5395。这里,副声音解码器5375依照TS包中包含的辅音频流的压缩编码形式和流属性,选择压缩声音数据的解码方法。该压缩编码方式例如包括杜比数字+或DTS-HD LBR。
声音混合器5395从主声音解码器5374和副声音解码器5375分别接收非压缩声音数据,使用这些数据进行混合。声音混合器5395还将通过该混合得到的合成音发送给显示装置103的内置扬声器103A等。
图像处理器5380从程序执行部4934接收图形数据、即PNG或JPEG栅格数据。图像处理器5380此时进行对该图形数据的绘制处理,并写入到图像平面存储器5394中。
《PG解码器执行的解码处理》
图54(a)是PG解码器5372从PG流内的一个数据入口解码图形对象的处理的流程图。该处理在PG解码器5372从PID滤波器5340接收到构成图16所示的一个数据入口的TS包群时开始。图54(b)-(e)是表示按照图54(a)所示的处理变化的图形对象的示意图。
在步骤S5401中,PG解码器5372首先确定具有与PCS内的参照对象ID1605相同的对象ID的ODS。PG解码器5372接着从确定的ODS解码图形对象,写入到对象缓冲器中。这里,‘对象缓冲器’是内置于PG解码器5372中的缓冲存储器。图54(b)所示的‘笑脸标记’FOB表示写入到对象缓冲器中的图形对象的例子。
在步骤S5402中,PG解码器5372根据PCS内的裁剪信息1602,执行裁剪处理,从图形对象中切出其一部分后,写入到对象缓冲器中。在图54(c)中,从笑脸标志FOB的左右两端部切去带状区域LST、RST,将残留的部分OBJ写入到对象缓冲器中。
在步骤S5403中,PG解码器5372首先确定具有与PCS内的参照窗口ID1603相同的窗口ID的WDS。PG解码器5372接着根据确定的WDS所示的窗口位置1612和PCS内的对象显示位置1601,决定图形平面中的图形对象的显示位置。在图54(d)中,决定图形平面GPL中的窗口WIN的左上角位置、和图形对象OBJ左上角的位置DSP。
在步骤S5404中,PG解码器5372将对象缓冲器内的图形对象写入步骤S5403中决定的显示位置上。此时,PG解码器5372利用WDS所示的窗口尺寸1613,决定描绘图形对象的范围。在图54(d)中,图形对象OBJ从左上角位置DSP开始在窗口WIN的范围内写入到了图形平面GPL上。
在步骤S5405中,PG解码器5372首先确定具有与PCS内的参照调色板ID1604相同的调色板ID的PDS。PG解码器5372接着利用PDS内的CLUT1622,决定图形对象内的各像素数据应表示的色坐标值。在图54(e)中,图形对象OBJ内的各像素的色已被决定。这样,一个数据入口所包含的图形对象的描绘处理完成。步骤S5401-S5405执行到与该图形对象相同的PES包中包含的PTS所示的时刻。
<HDMI通信部>
图55是表示HDMI通信部4925的构成的功能框图。HDMI通信部4925通过HDMI缆线122与显示装置103、尤其是图3所示的HDMI通信部211连接。由此,HDMI通信部4925中继从系统目标解码器4923和平面加法部4924分别发送给显示装置103的流数据。HDMI通信部4925还中继再现控制部4925与显示装置103之间的数据交换。参照图55,HDMI通信部4925包括TMDS编码器5501、EDID读出部5502及CEC部5503。
TMDS编码器5501通过HDMI缆线122内的TMDS通道CH1、CH2、CH3、CLK,向显示装置103发送表示影像数据、声音数据、辅助数据及控制信号的串行信号。TMDS编码器5501尤其通过各数据通道CH1-3,将例如R、G、B各像素数据(8比特)、4比特的声音数据和辅助数据(信息帧)及2比特的控制信号(包括水平同步信号和垂直同步信号)分别变换为10比特的数据串并发送。TMDS编码器5501尤其以图4所示的格式生成该串行信号。
EDID读出部5502通过HDMI缆线122内的显示数据通道DDC,与图3所示的EDID存储部302连接。EDID读出部5502从该EDID存储部302中读出表示显示装置103的功能、特性、状态的EDID。此外,EDID读出部5502在与图3所示的信号处理部220之间通过显示数据通道DDC进行HDCP认证。
CEC部5503通过HDMI缆线122内的CEC线CEC,在与图3所示的CEC部303之间交换CEC消息。CEC部5503尤其将再现装置102从遥控器105接收到的信息变换为CEC消息并通知给信号处理部220,或者相反,将显示装置103从遥控器105接收到的信息作为CEC消息,从信号处理部220通知。
<3D再现装置的构成>
3D再现模式的再现装置102在从BD-ROM盘101再现3D影像内容时,作为3D再现装置动作。其构成的基本部分与图49、53、55所示的2D再现装置的构成一样。因此,下面说明在2D再现装置的构成基础上的扩展部分及变更部分,对基本部分细节的说明引用上述对2D再现装置的说明。另外,2D播放列表再现处理中利用的构成与2D再现装置的构成一样。因此,对其细节的说明也引用上述对2D再现装置的说明。在下面的说明中,假设基于3D播放列表文件的3D影像的再现处理、即3D播放列表再现处理。
图56是3D再现装置5600的功能框图。3D再现装置5600包括BD-ROM驱动器5601、再现部5602及控制部5603。再现部5602包括开关5620、第1读缓冲器(RB1)5621、第2读缓冲器(RB2)5622、系统目标解码器5623、平面加法部5624及HDMI通信部5625。控制部5603包括动态脚本存储器5631、静态脚本存储器5632、用户事件处理部5633、程序执行部5634、再现控制部5635及播放器变量存储部5636。再现部5602和控制部5603安装在相互不同的集成电路中。另外,两者也可以集成在单一的集成电路中。尤其,动态脚本存储器5631、静态脚本存储器5632、用户事件处理部5633及程序执行部5634与图49所示的2D再现装置内的一样。因此,对其细节的说明引用上述对2D再现装置的说明。
再现控制部5635在由程序执行部5634等命令了3D播放列表再现处理时,从静态脚本存储器5632中保存的3D播放列表文件中依次读出PI,设定为当前PI。再现控制部5635每当设定当前PI时,首先根据其STN表和该3D播放列表文件内的STN表SS,设定系统目标解码器5623和平面加法部5624的动作条件。具体而言,再现控制部5635选择解码对象的基本流的PID,与该基本流的解码中所需要的属性信息一起传递给系统目标解码器5623。在选择的PID所示的基本流中包括PG流或IG流的情况下,再现控制部5635进一步确定分配给这些流数据的参照偏移ID4401,设定到播放器变量存储部5636内的SPRM(27)。另外,再现控制部5635依据STN表SS所示的弹出期间的偏移4511,选择对当前PI的显示模式,设定到播放器变量存储部5636内的SPRM(33)。
接着,再现控制部5635根据当前PI,按图36(e)的说明中所示的步骤,将记录了读出对象的区段SS的、扇区群的LBN的范围指示给BD-ROM驱动器5601。另一方面,再现控制部5635利用静态脚本存储器5632中保存的片段信息文件内的区段起点,生成表示各区段SS内的数据块的边界的信息。下面,将该信息称为‘数据块边界信息’。数据块边界信息例如表示从该区段SS的开头至各边界的源包数量。再现控制部5635还将数据块边界信息传递给开关5620。
在3D影像的再现中,例如在用户按下遥控器105的按钮而指示了弹出菜单的显示时,用户事件处理部5633检测出该按下并识别该按钮,委托程序执行部5634执行弹出菜单的显示处理。程序执行部5634根据该委托,从动态脚本存储器5631中读出对应的程序并执行。程序执行部5634还按照该程序,对再现控制部5635命令SPRM(33)的更新,另一方面,生成菜单用图形数据,传输给系统目标解码器5623。再现控制部5635根据来自程序执行部5634的命令或来自用户事件处理部5633的委托,将对SPRM(33)设定的再现模式的值从“3D”更新为“2D”。再现控制部5635还将再现模式的更新通知给HDMI通信部4923。
播放器变量存储部5636与2D再现装置内的播放器变量存储部4936一样,包括SPRM。但是,与图50不同,SPRM(24)、SPRM(25)、SPRM(27)及SPRM(33)包括如下数据。SPRM(24)包括图48所示的第1标志,SPRM(25)包括第2标志。当SPRM(24)为“0”时,再现装置102仅能够应对2D影像的再现,当为“1”时,还能够应对3D影像的再现。当SPRM(25)为“0”、“1”、“2”时,再现装置102分别是L/R模式、深度模式、2D再现模式。SPRM(27)包括分配给各平面数据的参照偏移ID4401的保存区域。具体而言,SPRM(27)包括保存四种参照偏移ID的区域。这些参照偏移ID是对PG平面的ID(PG_ref_offset_id)、对IG平面的ID(IG_ref_offset_id)、对副影像平面的ID(SV_ref_offset_id)及对图像平面的ID(IM_ref_offset_id)。SPRM(33)包括参数‘再现状态’。再现状态除了表示再现模式以外,还表示与影像数据有关的再现部5602的输出模式(是B-D显示模式与B-B显示模式中的哪一种等)。再现状态所示的值中有种类A-D4种。关于种类A-D、再现模式及再现部5602的输出模式间的关系,将在后面叙述。
BD-ROM驱动器5601包括与图49所示的2D再现装置内的BD-ROM驱动器4901一样的构成要素。BD-ROM驱动器5601在由再现控制部5635指示了LBN的范围时,从该范围所示的BD-ROM盘101上的扇区群中读出数据。尤其,属于文件SS的区段即区段SS的源包群从BD-ROM驱动器5601传输到开关5620。这里,各区段SS如图25所示,包括一个以上基础视点与从属视点的数据块的对。这些数据块必须平行地传输到RB15621和RB25622。因此,要求BD-ROM驱动器5601具有2D再现装置内的BD-ROM驱动器4901以上的访问速度。
开关5620从BD-ROM驱动器5601接收区段SS,从再现控制部5635接收与该区段SS有关的数据块边界信息。开关5620还利用该数据块边界信息,从各区段SS中提取基础视点区段并发送给RB15621,并且提取从属视点区段并发送给RB25622。
RB15621和RB25622均是利用再现部5602内的存储器元件的缓冲存储器。尤其是将单一存储器元件内的不同区域用作RB15621、RB25622。此外,也可以将不同的存储器单元单独用作RB15621、RB25622。RB15621、RB25622从开关5620分别接收基础视点区段、从属视点区段并存储。
系统目标解码器5623在3D播放列表再现处理中,首先从再现控制部5635接收解码对象的流数据的PID以及在其解码中所需要的属性信息。系统目标解码器5623接着从RB15621中保存的基础视点区段和RB25622中保存的从属视点区段中交替读出源包。系统目标解码器5623接着将从再现控制部5635接收到的PID所示的基本流从各源包中分离并解码。系统目标解码器5623进一步将解码后的基本流按其种类写入内置的平面存储器中。将基础视点视频流写入左影像平面存储器中,将从属视点视频流写入右影像平面存储器中。另一方面,将辅视频流写入副影像平面存储器中,将IG流写入IG平面存储器中,将PG流写入PG平面存储器中。这里,如图13(b)、(c)所示的PG流等那样、视频流以外的流数据由基础视点与从属视点的流数据对构成时,对基础视点平面与从属视点平面双方单独准备应与流数据建立对应的平面存储器。此外,系统目标解码器5623还对来自程序执行部5634的图形数据、例如JPEG或PNG等栅格数据进行绘制处理,写入图像平面存储器中。
系统目标解码器5623参照播放器变量存储部5636内的SPRM(33),根据其所示的再现状态的值,将来自左影像平面存储器和右影像平面存储器的平面数据的输出模式设定成B-D显示模式和B-B显示模式中的某一种。具体而言,当再现状态表示B-D显示模式时,系统目标解码器5623从左影像平面存储器和右影像平面存储器以1/48秒间隔交替地各送出一次平面数据。另一方面,当再现状态表示B-B显示模式时,系统目标解码器5623仅从左影像平面存储器和右影像平面存储器中的某一个按每帧两次、即以1/48秒间隔各送出两次平面数据。
系统目标解码器5623还根据SPRM(33)所示的再现状态的值,将来自图形平面存储器和副影像平面存储器的平面数据的输出模式设定成2平面模式、1平面+偏移模式及1平面+零偏移模式中的某一种。这里,图形平面存储器包括PG平面存储器、IG平面存储器及图像平面存储器。当再现状态表示2平面模式时,系统目标解码器5623从各平面存储器向平面加法部5624交替送出基础视点平面和从属视点平面。当再现状态表示1平面+偏移模式时,系统目标解码器5623从各平面存储器向平面加法部5624送出表示2D影像的平面数据。与此并行地,系统目标解码器5623每当从从属视点视频流中读出各视频序列的开头的VAU时,从该VAU中读出偏移元数据2110。在该视频序列的再现区间中,系统目标解码器5623首先确定与各VAU一起保存在相同PES包中的PTS、和该VAU的压缩图片数据所表示的帧的号码。系统目标解码器5623接着从偏移元数据中读出与该帧号码建立对应的偏移信息,在确定的PTS所示的时刻发送给平面加法部5624。当再现状态表示1平面+零偏移模式时,系统目标解码器5623从各平面存储器向平面加法部5624送出表示2D影像的平面数据。与此并行地,系统目标解码器5623将偏移值被设定为“0”的偏移信息发送给平面加法部5624。
平面加法部5624从系统目标解码器5623接收各种平面数据,将其彼此重叠而合成为一个平面数据(帧或场)。尤其是在L/R模式下,左影像平面表示左视点视频平面,右影像平面表示右视点视频平面。因此,平面加法部5624将表示左视点的其他平面数据重叠于左影像平面,将表示右视点的其他平面数据重叠于右影像平面数据。另一方面,在深度模式下,右影像平面表示对左影像平面所表示的视频的深度映射。因此,平面加法部5624首先根据双方的影像平面,生成左视点与右视点的视频平面的对。之后的合成处理与L/R模式下的合成处理一样。
平面加法部5624参照播放器变量存储部5636内的SPRM(33),根据其表示的再现状态的值,选择副影像平面或图形平面(PG平面、IG平面、图像平面)的各显示模式。具体而言,对于各平面数据,当再现状态表示1平面+偏移模式时,以如下步骤对该平面数据执行偏移控制。平面加法部5624首先从播放器变量存储部5636内的SPRM(27)中读出对该平面数据的参照偏移ID。平面加法部5624接着参照从系统目标解码器5623接收到的偏移信息,检索属于参照偏移ID所表示的偏移序列2113的偏移信息、即偏移方向2122和偏移值2123的对。然后,平面加法部5624利用检索到的偏移值,对对应的平面数据执行偏移控制。由此,平面加法部5624由一个平面数据生成左视点平面与右视点平面的对,合成到对应的视频平面。当再现状态表示1平面+零偏移模式时,平面加法部5624不参照SPRM(27),将对各平面数据的偏移值设定为“0”。由此,平面加法部5624使对各平面数据的偏移控制暂时停止。因此,相同平面数据合成到左视点视频平面和右视点视频平面双方。当再现状态表示2平面模式时,平面加法部5624从系统目标解码器5623接收基础视点平面与从属视点平面的对。这里,在L/R模式下,基础视点平面表示左视点平面,从属视点平面表示右视点平面。因此,平面加法部5624将基础视点平面重叠于左影像平面上,将从属视点平面重叠于右影像平面上。另一方面,在深度模式中,从属视点平面表示对基础视点平面所示的影像的深度映射。因此,平面加法部5624首先根据基础视点平面与从属视点平面的对,生成左视点平面与右视点平面的对,然后,执行与视频平面的合成处理。
平面加法部5624除此之外还使合成后的平面数据的输出形式与显示装置103等、该数据的输出目的地的装置的3D影像的显示方式一致地变换。例如,当输出目的地的装置利用序列分离方式时,平面加法部5624将合成后的平面数据作为一个影像平面(帧或场)送出。另一方面,当输出目的地的装置利用双凸透镜时,平面加法部5624利用内置的缓冲存储器,将左视点平面与右视点平面的对合成为一个影像平面并送出。具体而言,平面加法部5624将在先合成的左视点平面暂时保存保持于其缓冲存储器中。平面加法部5624接着合成右视点平面,再与缓冲存储器中保持的左视点平面合成。在该合成中,左视点平面和右视点平面分别被分割成沿纵向细长的细长形小区域,各小区域在一个帧或场中沿横向交替排列,重构一个帧或场。这样,左视点平面与右视点平面的对合成为一个影像平面。
HDMI通信部5625从平面加法部5624接收合成后的影像数据,从系统目标解码器5623接收声音数据,从再现控制部5635接收控制数据、尤其是再现模式。HDMI通信部5625还将这些接收数据变换为HDMI格式的串行信号,通过HDMI缆线122内的TMDS通道传输给显示装置103。HDMI通信部5625尤其以图4所示的格式生成该串行信号。此时,构成3D影像的1帧的左视点平面与右视点平面的对优选以图5(a)所示的帧打包方式传输。此外,也可采用图5(b)-(e)所示的任一方式。HDMI通信部5625还对信息帧内的3D结构401设定表示采用的传输格式的值,对再现模式402设定从再现控制部5635接收到的值。显示装置103根据该信息帧,识别3D结构401所表示的传输格式,检测再现模式402所示的值。显示装置103利用这些信息,以图7-11中的某一个图的(c)所示的模式,显示从HDMI通信部5625接收到的左视点帧L与右视点帧R中的一方或双方。与之并行地,如图7-11的(d)所示,显示装置103使快门眼镜104与帧L、R的切换同步地使左右镜片交替变为透明。
HDMI通信部5625除上述外,通过HDMI缆线122在与显示装置103之间交换CEC消息。另外,HDMI通信部5625通过显示数据通道DDC从显示装置103读出EDID,进而,对显示装置103执行HDCP认证,询问显示装置103是否能够应对3D影像的再现。
<3D再现装置的再现动作>
图57是3D再现装置5600的再现动作的流程图。该动作通过由再现装置102以图48所示的选择处理结果、3D再现模式启动来开始。
在步骤S5701中,3D再现装置5600首先通过BD-ROM驱动器5601从BD-ROM盘101中读出流数据。3D再现装置5600接着利用开关5620,从该流数据中提取基础视点区段和从属视点区段,分别保存在RB15621、RB25622中。然后,处理前进到步骤S5702。
在步骤S5702中,3D再现装置5600通过系统目标解码器5623从RB15621读出基础视点区段,从RB25622中读出从属视点区段。3D再现装置5600再从各区段中复用分离基本流。然后,处理前进到步骤S5703。
在步骤S5703中,3D再现装置5600通过系统目标解码器5623解码各基本流。尤其,将从基础视点区段和从属视点区段分别解码的主视频流解码成基础视点视频平面和从属视点视频平面。辅视频流、IG流及PG流分别解码成副影像平面、IG平面及PG平面。并且,混合主音频流和辅音频流。此外,将来自程序执行部5634的图形数据变换为图像平面。然后,处理前进到步骤S5704。
在步骤S5704中,3D再现装置5600首先通过平面加法部5624将由系统目标解码器5623解码后的基础视点视频平面与从属视点视频平面的对变换为左视点平面与右视点平面的对。3D再现装置5600接着通过平面加法部5624将副影像平面、IG平面、PG平面及图像平面合成为左视点平面与右视点平面。这里,平面加法部5624根据需要向副影像平面、IG平面、PG平面或图像平面提供偏移,变换为左视点平面与右视点平面的对。然后,处理前进到步骤S5705。
在步骤S5705中,3D再现装置5600通过HDMI通信部5625将由平面加法部5624合成的影像平面、由系统目标解码器5623混合的声音数据及来自再现控制部5635的控制数据变换为串行信号,并通过HDMI缆线122传输给显示装置103。尤其,再现模式通过图4所示的垂直回扫线区间VBLK内的信息帧来传输。然后,处理前进到步骤S5706。
在步骤S5706中,3D再现装置5600检查RB15621中是否残留有未处理的基础视点区段。当残留时,从步骤S5701开始重复处理。当未残留时,结束处理。
<3D播放列表再现处理>
图58是再现控制部5635执行的3D播放列表再现处理的流程图。3D播放列表再现处理通过由再现控制部5635从静态脚本存储器5632中读出3D播放列表文件来开始。
在步骤S5801中,再现控制部5635首先从3D播放列表文件内的主路径中读出一个PI,设定为当前PI。再现控制部5635接着从当前PI的STN表中选择再现对象的基本流的PID,并且确定在其解码中所需要的属性信息。再现控制部5635进一步从3D播放列表文件内的STN表SS4330中与当前PI对应的项目中,选择应作为再现对象来追加的基本流的PID,并且确定其解码中所需要的属性信息。将选择的PID和属性信息指示给系统目标解码器5623。再现控制部5635此外根据3D播放列表文件内的子路径,确定应与当前PI同时参照的SUB_PI,设定为当前的SUB_PI。然后,处理前进到步骤S5802。
在步骤S5802中,再现控制部5635依据STN表SS所表示的弹出期间的偏移4511,选择对当前PI的再现模式,并设定到播放器变量存储部5636内的SPRM(33)。具体而言,当弹出期间的偏移值为“0”时,选择“3D”作为再现模式。另一方面,当弹出期间的偏移值为“1”时,选择“2D”作为再现模式。再现控制部5635还选择B-D显示模式与B-B显示模式中的某一种作为视频平面的显示模式,并选择2平面模式、1平面+偏移模式或1平面+零偏移模式中的某一中作为图形平面的显示模式。然后,处理前进到步骤S5803。
在步骤S5803中,检查是否选择1平面+偏移模式作为了图形平面的显示模式。在选择了1平面+偏移模式的情况下,处理前进到步骤S5804。另一方面,在选择了2平面模式或1平面+零偏移模式的情况下,处理前进到步骤S5805。
在步骤S5804中,由于已选择了1平面+偏移模式,所以必须从从属视点视频流中提取偏移信息。因此,再现控制部5635首先参照当前PI的STN表,从选择的PID所示的基本流中,检测PG流或IG流。再现控制部5635接着确定分配给这些流数据的参照偏移ID,设定到播放器变量存储部5636内的SPRM(27)。然后,处理前进到步骤S5805。
在步骤S5805中,再现控制部5635从当前的PI和SUB_PI,分别读出参照片段信息、表示再现开始时刻IN1的PTS#1及表示再现结束时刻OUT1的PTS#2。根据该参照片段信息,确定分别与再现对象文件2D和文件DEP对应的片段信息文件。然后,处理前进到步骤S5806。
在步骤S5806中,再现控制部5635参照步骤S5805中确定的片段信息文件的各入口映射,如图46所示,检索与PTS#1、#2对应的文件2D内的SPN#1、#2和文件DEP内的SPN#11、#12。再现控制部5635进一步利用各片段信息文件的区段起点,根据SPN#1、#11计算从文件SS的开头至再现开始位置的源包数量SPN#21,根据SPN#2、#12计算从文件SS的开头至再现结束位置的源包数量SPN#22。具体而言,再现控制部5635首先从2D片段信息文件的区段起点所示的SPN中,检索SPN#1以下且最大的SPN“Am”,从从属视点片段信息文件的区段起点所示的SPN中,检索SPN#11以下且最大的SPN“Bm”。再现控制部5635接着求出检索到的SPN之和Am+Bm,决定为SPN#21。再现控制部5635接着从2D片段信息文件的区段起点所示的SPN中,检索比SPN#2大且最小的SPN“An”,从从属视点片段信息文件的区段起点所示的SPN中,检索比SPN#12大且最小的SPN“Bn”。再现控制部5635接着求出检索到的SPN之和An+Bn,决定为SPN#22。然后,处理前进到步骤S5807。
在步骤S5807中,再现控制部5635将步骤S5806中决定的SPN#21、#22变换为扇区数量的对N1、N2。具体而言,再现控制部5635首先求出SPN#21与每一个源包的数据量192字节之积。再现控制部5635接着求出用该积除以每一个扇区的数据量2048字节而得到的商SPN#21×192/2048。该商与从文件SS的开头至再现开始位置紧前的扇区数量N1相等。同样地,再现控制部5635根据SPN#22求出商SPN#22×192/2048。该商与从文件SS的开头至再现结束位置紧前的扇区数量N2相等。然后,处理前进到步骤S5808。
在步骤S5808中,再现控制部5635根据步骤S5807中得到的各个扇区数量N1、N2,确定再现对象的区段SS群的前端与后端的LBN。具体而言,再现控制部5635参照再现对象文件SS的文件入口,确定从记录了区段SS群的扇区群的开头数起第(N1+1)个扇区的LBN=LBN#1、和第(N2+1)个扇区的LBN=LBN#2。再现控制部5635进一步将LBN#1至LBN#2的范围指定给BD-ROM驱动器5601。结果,从指定范围的扇区群中,以排列单元单位读出属于区段SS群的源包群。然后,处理前进到步骤S5809。
在步骤S5809中,再现控制部5635再次利用步骤S5806中利用的片段信息文件的区段起点,生成与区段SS群有关的数据块边界信息,送出到开关5620。作为具体例子,假设表示再现开始位置的SPN#21与各区段起点所表示的SPN之和An+Bn相等,表示再现结束位置的SPN#22与各区段起点所表示的SPN之和Am+Bm相等的情况。此时,再现控制部5635根据各区段起点,求出SPN之差的序列A(n+1)-An、B(n+1)-Bn、A(n+2)-A(n+1)、B(n+2)-B(n+1)、...、Am-A(m-1)、Bm-B(m-1),作为数据块边界信息送出到开关5620。如图36(e)所示,该序列表示区段SS中包含的各数据块的源包数量。开关5620从0开始计数从BD-ROM驱动器5601接收的区段SS的源包数量。每当该计数与数据块边界信息所表示的SPN之差一致时,开关5620在RB15621与RB25622之间切换源包的发送目的地,且将计数复位为0。结果,从区段SS的开头起,{B(n+1)-Bn}个源包作为最初的从属视点区段,送出到RB25622,后续的{A(n+1)-An}个源包作为最初的基础视点区段,送出到RB15621。之后一样,每当由开关5620接收的源包数量与数据块边界信息所表示的SPN之差一致时,从区段SS中交替提取从属视点和基础视点的各区段。然后,处理前进到步骤S5810。
在步骤S5810中,再现控制部5635检查主路径中是否残留有未处理的PI。当残留时,从步骤S5801开始重复处理。当未残留时,处理结束。
<再现模式的更新>
图59是再现控制部5635执行的再现模式的更新处理的流程图。该处理在如下情况下开始:在3D影像再现中,例如用户按下遥控器105的按钮而指示弹出菜单的显示。此时,用户事件处理部5633检测该按下并委托程序执行部5634执行弹出菜单的显示处理。程序执行部5634根据该委托,命令再现控制部5635更新SPRM(33)。这里,SPRM(33)表示“3D”作为再现模式。
在步骤S5901中,再现控制部5635识别来自程序执行部5634的命令或来自用户事件处理部5633的委托是否相当于指示弹出菜单的显示。若结果为肯定,则处理前进到步骤S5902,若为否定,则处理前进到步骤S5903。
在步骤S5902中,由于已指示了弹出菜单的显示,因此,再现控制部5635对SPRM(33)设定“2D”,作为再现模式。然后,处理前进到步骤S5904。
在步骤S5903中,弹出菜单的显示未被指示。该情况中尤其包括指示删除弹出菜单的情况。因此,再现控制部5635对SPRM(33)设定“3D”作为再现模式。然后,处理前进到步骤S5904。
在步骤S5904中,再现控制部5635将SPRM(33)所表示的再现模式的值通知给HDMI通信部5623。HDMI通信部5623根据该通知,将新的再现模式设定在信息帧中,通知给显示装置103。之后,结束处理。
<系统目标解码器>
图60是系统目标解码器5623的功能框图。图60所示的构成要素与图53所示的2D再现装置的系统目标解码器5323在以下两个方面不同:(1)从读缓冲器向各解码器的输入系统被双重化;以及(2)主影像解码器能够应对3D再现模式,副影像解码器、PG解码器及IG解码器能够应对2平面模式。即,这些影像解码器均能够交替解码基础视点视频流和从属视点视频流。尤其是2平面模式的各解码器也可以分离成解码基础视点平面的部分和解码从属视点平面的部分。另一方面,主声音解码器、副声音解码器、声音混合器、图像处理器及各平面存储器与图53所示的2D再现装置的一样。因此,下面,说明图60所示的构成要素中与图53所示的不同的构成要素,对相同构成要素的细节的说明引用对图53的说明。并且,各影像解码器均具有同样的结构,所以下面说明主影像解码器6015的结构。同样的说明对其他影像解码器的结构也成立。
第1源去包器6011从RB15621中读出源包,再从中提取TS包,发送给第1PID滤波器6013。第2源去包器6012从RB25622中读出源包,再从中提取TS包,发送给第2PID滤波器6014。各源去包器6011、6012还使各TS包的发送时刻与各源包的ATS所示的时刻一致。其同步方法与图53所示的源去包器5310执行的方法一样。因此,对其细节引用对图53的说明。利用这种发送时刻的调节,从第1源去包器6011向第1PID滤波器6013传输TS包的平均传输速度RTS1不超过2D片段信息文件所示的系统速率。同样,从第2源去包器6012向第2PID滤波器6014传输TS包的平均传输速度RTS2不超过从属视点片段信息文件所示的系统速率。
第1PID滤波器6013每当从第1源去包器6011接收TS包时,将该PID与选择对象的PID相比较。该选择对象的PID由再现控制部5635事先根据3D播放列表文件内的STN表指定。当双方的PID一致时,第1PID滤波器6013将该TS包传输给对该PID分配的解码器。例如,当PID为0x1011时,将该TS包传输给主影像解码器6015内的TB16001。另外,当PID属于0x1B00-0x1B1F、0x1100-0x111F、0x1A00-0x1A1F、0x1200-0x121F及0x1400-0x141F的各范围时,对应的TS包分别传输到副影像解码器、主声音解码器、副声音解码器、PG解码器及IG解码器。
第2PID滤波器6014每当从第2源去包器6012接收TS包时,将该PID与选择对象的PID相比较。该选择对象的PID由再现控制部5635事先根据3D播放列表文件内的STN表SS指定。当双方的PID一致时,第2PID滤波器6014将该TS包传输给对该PID分配的解码器。例如,当PID为0x1012或0x1013时,该TS包传输到主影像解码器6015内的TB26008。另外,当PID属于0x1B20-0x1B3F、0x1220-0x127F及0x1420-0x147F的各范围时,对应的TS包分别传输到副影像解码器、PG解码器及IG解码器。
主影像解码器6015包括TB16001、MB16002、EB16003、TB26008、MB26009、EB26010、缓冲器开关6006、DEC6004、DPB6005及图片开关6007。TB16001、MB16002、EB16003、TB26008、MB26009、EB26010、及DPB6005均是缓冲存储器。各缓冲存储器利用主影像解码器6015中内置的存储器元件的一区域。另外,也可以将这些缓冲存储器的某一个或全部分离成不同的存储器元件。
TB16001从第1PID滤波器6013接收包括基础视点视频流的TS包并原样存储。MB16002从TB16001中存储的TS包复原PES包并存储。此时,从各TS包中去除TS头。EB16003从MB16002中存储的PES包中提取被编码的VAU并存储。此时,从各PES包中去除PES头。
TB26008从第2PID滤波器6014接收包括从属视点视频流的TS包并原样存储。MB26009从TB26008中存储的TS包复原PES包并存储。此时,从各TS包中去除TS头。EB26010从MB26009中存储的PES包中提取被编码的VAU并存储。此时,从各PES包中去除PES头。
缓冲器开关6006根据来自DEC6004的请求,传输EB16003和EB26010各自中存储的VAU的头。缓冲器开关6006还在原来的TS包中包含的DTS所示的时刻,将该VAU的压缩图片数据传输给DEC6004。这里,在基础视点视频流与从属视点视频流之间,属于相同3D·VAU的一对图片的DTS相等。因此,缓冲器开关6006将DTS相等的一对VAU中的存储在EB16003中的VAU先传输给DEC6004。
DEC6004与图53所示的DEC5304一样,是专用于压缩图片的解码处理的硬件解码器,尤其由具备该解码处理的加速器功能的LSI构成。DEC6004依次解码从缓冲器开关6006传输的压缩图片数据。在该解码处理中,DEC6004事先解析各VAU的头,确定保存在该VAU内的压缩图片的压缩编码方式和流属性,并与此对应地选择解码方法。这里,该压缩编码方式例如包括MPEG-2、MPEG-4AVC及VC1。DEC6004进一步将解码后的非压缩图片传输给DPB6005。
此外,DEC6004每当从从属视点视频流读出一个视频序列的开头的VAU时,从该VAU中读出偏移元数据。在该视频序列的再现区间,DEC6004首先确定与该VAU一起保存在一个PES包中的PTS、和该VAU的压缩图片数据所表示的帧的号码。DEC6004接着从偏移元数据中读出与该帧号码建立了对应的偏移信息,在确定的PTS所示的时刻发送给平面加法部5624。
DPB6005暂时保持解码后的非压缩图片。当DEC6004解码P图片和B图片时,DPB6005按照来自DEC6004的请求,从保持的非压缩图片中检索参照图片,提供给DEC6004。
图片开关6007在原来的TS包中包含的PTS所示的时刻,将非压缩的各图片从DPB6005写入左影像平面存储器6020与右影像平面存储器6021中的某一个中。这里,在属于相同3D·VAU的基础视点图片与从属视点图片中,PTS相等。因此,图片开关6007将DPB6005中保持的、PTS相等的一对图片中的基础视点图片先写入左影像平面存储器6020中,接着将从属视点图片写入右影像平面存储器6021中。
《1平面+(零)偏移模式的平面加法部>
图61是1平面+偏移模式或1平面+零偏移模式的平面加法部5624的功能框图。参照图61,平面加法部5624包括视差影像生成部6110、开关6120、四个裁剪处理部6131-6134及四个加法部6141-6144。
视差影像生成部6110从系统目标解码器6123接收左影像平面6101和右影像平面6102。在L/R模式的再现装置102中,左影像平面6101表示左视点视频平面,右影像平面6102表示右视点视频平面。L/R模式的视差影像生成部6110将接收到的各视频平面6101、6102原样发送给开关6120。另一方面,在深度模式的再现装置102中,左影像平面6101表示2D影像的视频平面,右影像平面6102表示对该2D影像的深度映射。深度模式的视差影像生成部6110首先根据该深度映射,计算该2D影像各部的两眼视差。视差影像生成部6110接着加工左影像平面6101,依据计算出的两眼视差,使视频平面中的该2D影像的各部的显示位置左右移动。由此,生成左视点视频平面与右视点视频平面的对。视差影像生成部6110还将生成的视频平面的对作为左影像平面与右影像平面的对,发送给开关6120。
开关6120参照播放器变量存储部5636内的SPRM(33)6152,根据其表示的再现状态的值,将PTS相等的左影像平面6101与右影像平面6102中的一方或双方发送给第1加法部6141。具体而言,当再现状态表示B-D显示模式时,开关6120将左影像平面6101和右影像平面6102依次发送给第1加法部6141。当再现状态表示B-B显示模式时,开关6120将左影像平面6101向第1加法部6141重复发送两次,将右影像平面6102废弃。
第1裁剪处理部6131参照播放器变量存储部5636内的SPRM(33)6152,根据其表示的再现状态的值,对副影像平面6103进行偏移控制。具体而言,当再现状态表示1平面+偏移模式时,第1裁剪处理部6131首先从系统目标解码器5623接收偏移信息6107。此时,第1裁剪处理部6131从播放器变量存储部5636内的SPRM(27)6151中读出对副影像平面的参照偏移ID。第1裁剪处理部6131接着在从系统目标解码器5623接收到的偏移信息6107中检索属于该参照偏移ID所表示的偏移序列的偏移信息。第1裁剪处理部6131还利用检索到的偏移信息,对副影像平面6103进行偏移控制。结果,副影像平面6103变换为表示左视点与右视点的一对平面数据。并且,将左视点与右视点的副影像平面交替发送给第1加法部6141。
这里,SPRM(27)6151的值一般在每当切换当前PI时由再现控制部5635更新。此外,也可以是程序执行部5634根据电影对象或BD-J对象来设定SPRM(27)6151的值。
同样地,第2裁剪处理部6132将PG平面6104变换为左视点与右视点的PG平面。这些PG平面交替发送到第2加法部6142。第3裁剪处理部6133将IG平面6105变换为左视点与右视点的IG平面的对。这些IG平面交替发送到第3加法部6143。第4裁剪处理部6134将图像平面6106变换为左视点与右视点的图像平面。这些图像平面交替发送到第4加法部6144。
另一方面,当再现状态表示1平面+零偏移模式时,第1裁剪处理部6131不执行对副影像平面6103的偏移控制,而将副影像平面6103向第1加法部6141原样重复发送两次。其他裁剪处理部6132-6134也一样。
第1加法部6141从开关6120接收视频平面,从第1裁剪处理部6131接收副映射平面。第1加法部6141此时将接收到的视频平面和副映射平面一组一组地重叠,并传递给第2加法部6142。第2加法部6142从第2裁剪处理部6132接收PG平面,重叠到从第1加法部6141接收到的平面数据上,传递给第3加法部6143。第3加法部6143从第3裁剪处理部6133接收IG平面,重叠到从第2加法部6142接收到的平面数据上,传递给第4加法部6144。第4加法部6144从第4裁剪处理部6134接收图像平面,重叠到从第3加法部6143接收到的平面数据上,发送给HDMI通信部6125。这里,各加法部6141-6144在平面数据的重叠中利用α合成。这样,在左影像平面6101和右影像平面6102上分别按图61中箭头6100所示的顺序重叠副影像平面6103、PG平面6104、IG平面6105及图像平面6106。结果,各平面数据所表示的影像在显示装置103的画面上按左影像平面或右影像平面、副影像平面、IG平面、PG平面及图像平面的顺序重叠显示。
《偏移控制的流程图》
图62是各裁剪处理部6131-6134执行的偏移控制的流程图。各裁剪处理部6131-6134在从系统目标解码器5623接收到偏移信息6107时开始偏移控制。在下面的说明中,设想第2裁剪处理部6132对PG平面6104进行偏移控制的情况。其他裁剪处理部6131、6133、6134分别对副影像平面6103、IG平面6105、及图像平面6106进行同样的处理。
在步骤S6201中,第2裁剪处理部6132首先从系统目标解码器5623接收PG平面6104。此时,第2裁剪处理部6132从SPRM(27)6151中读出对PG平面的参照偏移ID。第2裁剪处理部6131接着在从系统目标解码器5623接收到的偏移信息6107中检索属于该参照偏移ID所示的偏移序列的偏移信息。然后,处理前进到步骤S6202。
在步骤S6202中,第2裁剪处理部6132检查由开关6120选择的视频平面表示左视点与右视点中的哪一方。当视频平面表示左视点时,处理前进到步骤S6203。当视频平面表示右视点时,处理前进到步骤S6206。
在步骤S6203中,第2裁剪处理部6132检查检索到的偏移方向的值。这里,假设如下情况:当偏移方向的值为“0”时,3D图形影像的进深在画面的近前,当偏移方向的值为“1”时,在画面里侧。当偏移方向的值为“0”时,处理前进到步骤S6204。当偏移方向的值为“1”时,处理前进到步骤S6205。
在步骤S6204中,视频平面表示左视点,偏移方向表示画面的近前。因此,第2裁剪处理部6132向PG平面6104提供右向偏移。即,使PG平面6104所包含的各像素数据的位置向右移动相当于偏移值的量。然后,处理前进到步骤S6209。
在步骤S6205中,视频平面表示左视点,偏移方向表示画面里侧。因此,第2裁剪处理部6132向PG平面6104提供左向偏移。即,使PG平面6104所包含的各像素数据的位置向左移动相当于偏移值的量。然后,处理前进到步骤S6209。
在步骤S6206中,第2裁剪处理部6132检查检索到的偏移方向的值。当偏移方向的值为“0”时,处理前进到步骤S6207。当偏移方向的值为“1”时,处理前进到步骤S6208。
在步骤S6207中,视频平面表示右视点,偏移方向表示画面的近前。因此,第2裁剪处理部6132向PG平面6104提供左向偏移。即,使PG平面6104所包含的各像素数据的位置向左移动相当于偏移值的量。然后,处理前进到步骤S6209。
在步骤S6208中,视频平面表示右视点,偏移方向表示画面里侧。因此,第2裁剪处理部6132向PG平面6104提供右向偏移。即,使PG平面6104所包含的各像素数据的位置向右移动相当于偏移值的量。然后,处理前进到步骤S6209。
在步骤S6209中,第2裁剪处理部6132将处理后的PG平面6104发送给第3裁剪处理部6134。之后,处理结束。
《基于偏移控制的平面数据的变化》
图63的(b)是表示通过第2裁剪处理部6132的偏移控制进行加工前的PG平面GP的示意图。参照图63的(b),PG平面GP包括表示字幕“我爱你”的像素数据群,即字幕数据STL。该字幕数据STL位于从PG平面数据GP的左端起第1距离D0处。
图63的(a)是表示提供右向偏移的PG平面RGP的示意图。参照图63的(a),第2裁剪处理部6132在向PG平面GP提供右向偏移的情况下,使PG平面GP内的各像素数据的位置从原来的位置向右移动等于偏移值的像素数OFS。具体而言,第2裁剪处理部6132首先通过裁剪处理,从PG平面GP的右端,去除等于偏移值的宽度OFS的带状区域AR1中包含的像素数据。第2裁剪处理部6132接着向PG平面GP的左端附加像素数据,构成宽度OFS的带状区域AL1。这里,该区域AL1中包含的像素数据设定为透明。这样,得到产生了右向偏移的PG平面RGP。实际上,字幕数据STL位于从该PG平面RGP的左端起第2距离DR处。第2距离DR等于向第1距离D0加上偏移值OFS的值:DR=D0+OFS。
图63的(c)是表示提供左向偏移的PG平面LGP的示意图。参照图63的(c),第2裁剪处理部6132在向PG平面GP提供左向偏移的情况下,使PG平面GP内的各像素数据的位置从原来的位置向左移动等于偏移值的像素数OFS。具体而言,第2裁剪处理部6132首先通过裁剪处理,从PG平面GP的左端,去除等于偏移值的宽度OFS的带状区域AL2中包含的像素数据。第2裁剪处理部6132接着向PG平面GP的右端附加像素数据,构成宽度OFS的带状区域AR2。这里,该区域AR2中包含的像素数据设定为透明。这样,得到产生了左向偏移的PG平面LGP。实际上,字幕数据STL位于从该PG平面LGP的左端起第3距离DL处。第3距离DL等于从第1距离D0去除偏移值OFS的值:DL=D0-OFS。
<2平面模式的平面加法部>
图64是2平面模式的平面加法部5624的部分功能框图。参照图64,2平面模式的平面加法部5624与图61所示的1平面+偏移模式的平面加法部5624一样,包括视差影像生成部6110、开关6120、第1加法部6141、第2加法部6142及第2裁剪处理部6132。虽然图64中未示出,但2平面模式的平面加法部5624还包括图61所示的其他裁剪处理部6131、6133、6134及其他加法部6143、6144。此外,2平面模式的平面加法部5624在PG平面6104、6105的输入部中包括第2视差影像生成部6410与第2开关6420。虽然图64中未示出,但同样的构成也包括于副影像平面、IG平面及图像平面的各输入部中。
第2视差影像生成部6410从系统目标解码器5623接收左视点PG平面6404和右视点PG平面6405。在L/R模式的再现装置102中,左视点PG平面6404和右视点PG平面6405分别如文字所述,表示左视点PG平面和右视点PG平面。因此,第2视差影像生成部6410将各平面数据6404、6405原样发送给第2开关6120。另一方面,在深度模式的再现装置102中,左视点PG平面6404表示2D图形影像的PG平面,右视点PG平面6405表示对该2D图形影像的深度映射。因此,第2视差影像生成部6410首先根据该深度映射计算该2D图形影像各部的两眼视差。第2视差影像生成部6410接着加工左视点PG平面6404,而使PG平面中的该2D图形影像的各部的显示位置依据计算出的两眼视差向左右移动。由此,生成左视点PG平面和右视点PG平面。第2视差影像生成部6410还将这些PG平面发送给第2开关6420。
第2开关6420参照播放器变量存储部5636内的SPRM(33)6152,根据其表示的再现状态的值,将PTS相等的左视点PG平面6404和右视点PG平面6405中的一方或双方发送给第2裁剪处理部6132。具体而言,当再现状态表示2平面模式时,第2开关6420将左视点PG平面6404和右视点PG平面6405依次发送给第2裁剪处理部6132。当再现状态表示1平面+零偏移模式时,第2开关6420将左视点PG平面6404向第2裁剪处理部6132重复发送两次,并将右视点PG平面6405废弃。
第2裁剪处理部6132将各PG平面6404、6405原样发送给第2加法部6142。第2加法部6142将PG平面6404、6405重叠到从第1加法部6141接收到的平面数据,传递给第3加法部6143。结果,在左影像平面6101上重叠左视点PG平面6404,在右影像平面6102上重叠右视点PG平面6405。
2平面模式的第2裁剪处理部6132也可利用偏移信息6107对左视点PG平面6404进行偏移控制。其基于如下理由。在L/R模式下,也可利用主TS内的PG流(下面简称为2D·PG流)代替辅TS内的左视点PG流,作为左视点PG平面。但是,2D·PG流所表示的一个图形影像还用作2D影像,所以其显示位置通常设定为固定。另一方面,右视点PG流所表示的图形影像的显示位置在对应的3D图形影像的进深发生变化时,设定成与该变化相应地左右移动。因此,为了不使3D图形影像左右移动而仅使其进深变化,必须将左视点与右视点的图形影像间的中心位置维持固定。因此,在再现3D图形影像时,向2D·PG流所表示的图形影像提供偏移,使其显示位置向左右移动。由此,左视点与右视点的图形影像间的中心位置被维持固定,所以看起来3D图形影像不沿水平方向移动。这样,通过将2D·PG流用作左视点PG流,能够避免给视听者带来不适的危险性。
<再现状态的种类>
图65是按SPRM(33)所示的再现状态的种类、表示对应的再现模式的值及应从再现部5602输出的视频平面和图形平面的表。图65中,将再现部5602交替输出的两种视频平面或两种图形平面中的某一方称为‘第1平面’,将另一方称为‘第2平面’。参照图65,再现状态所示的值中有种类A-D等4种。首先,在用再现模式的值来区分了再现状态的种类的情况下,在种类A、B中,再现模式表示“2D”,在种类C、D中表示“3D”。接着,在用对视频平面的再现部5602的输出模式来区分了再现状态的种类的情况下,如下所述:在种类A、C中,视频平面的第1平面是“L(左视点平面)”,第2平面是“R(右视点平面)”。这意味着再现部5602的输出模式是B-D显示模式。在种类B、D中,视频平面的第1平面与第2平面均为“L”。这意味着再现部5602的输出模式是B-B显示模式。接着,在用对图形平面的再现部5602的输出模式来区分了再现状态的种类的情况下,如下所述:在种类A、B中,图形平面的第1平面和第2平面均为“C(中心位置的平面,即不提供偏移的平面)”。这意味着再现部5602的输出模式是1平面+零偏移模式。在种类C、D中,图形平面的第1平面是“L(左视点平面)”,第2平面是“R(右视点平面)”。这意味着再现部5602的输出模式是2平面模式或1平面+偏移模式。
图66是再现状态为种类A时的平面加法部5624的部分功能框图。参照图66,平面加法部5624与图61所示的1平面+偏移模式的平面加法部5624一样,包括视差影像生成部6110、开关6120、第1加法部6141及第2加法部6142。虽然图66中未示出,但平面加法部5624还包括图61所示的其他加法部6143、6144。如图65所示,在种类A中,对视频平面的输出模式为B-D显示模式,所以开关6120将从视差影像生成部6110接收到的左视点视频平面和右视点视频平面交替发送给第1加法部6141(图66中示出的箭头6601表示该动作)。另一方面,对图形平面的输出模式是1平面+零偏移模式,所以裁剪处理部6131、6132、6133、6134实质上不进行对平面数据的处理。因此,PG平面6104等图形平面被原样发送到各加法部6142。
图67是再现状态为种类B时的平面加法部5624的部分功能框图。参照图67,平面加法部5624与图66所示的一样,包括视差影像生成部6110、开关6120、第1加法部6141及第2加法部6142。虽然图67中未示出,但平面加法部5624还包括图61所示的其他加法部6143、6144。如图65所示,在种类B中,对视频平面的输出模式为B-B显示模式,所以开关6120仅将从视差影像生成部6110接收的左视点视频平面发送给第1加法部6141,废弃右视点视频平面(图66中示出的实线6701及虚线6702表示该动作)。另一方面,对图形平面的输出模式是1平面+零偏移模式,所以裁剪处理部6131、6132、6133、6134实质上不进行对平面数据的处理。因此,PG平面6104等图形平面被原发送出到各加法部6142。
图68是再现状态为种类C时的平面加法部5624的部分功能框图。参照图68,平面加法部5624与图66所示的一样,包括视差影像生成部6110、开关6120、第1加法部6141、第2加法部6142及第2裁剪处理部6132。虽然图67中未示出,但平面加法部5624还包括图61所示的其他加法部6143、6144及其他裁剪处理部6131、6133、6134。如图65所示,在种类C中,对视频平面的输出模式为B-D显示模式,所以开关6120将从视差影像生成部6110接收的左视点视频平面和右视点视频平面交替发送给第1加法部6141(图68中示出的箭头6801表示该动作)。另一方面,在对图形平面的输出模式是1平面+偏移模式的情况下,第2裁剪处理部6132向PG平面6104提供水平方向的偏移,将左视点PG平面和右视点PG平面交替发送给第2加法部6142。
图69是再现状态为种类D时的平面加法部5624的部分功能框图。参照图69,平面加法部5624与图68所示的平面加法部一样,包括视差影像生成部6110、开关6120、第1加法部6141、第2加法部6142及第2裁剪处理部6132。虽然图69中未示出,但平面加法部5624还包括图61所示的其他加法部6143、6144及其他裁剪处理部6131、6133、6134。如图65所示,在种类D中,对视频平面的输出模式为B-B显示模式,所以开关6120仅将从视差影像生成部6110接收的左视点视频平面发送给第1加法部6141,废弃右视点视频平面(图69中示出的实线6901及虚线6902表示该动作)。另一方面,在对图形平面的输出模式是1平面+偏移模式的情况下,第2裁剪处理部6132向PG平面6104提供水平方向的偏移,将左视点PG平面和右视点PG平面交替发送到第2加法部6142。
在种类C、D中,在对图形平面的输出模式是2平面模式的情况下,平面加法部5624的部分功能框图与图68、69不同,与图64一样。即,第2开关6420将从第2视差影像生成部6410接收的左视点PG平面和右视点PG平面交替发送给第2裁剪处理部6132。第2裁剪处理部6132将各PG平面原样送发送到第2加法部6142,或利用偏移信息6107,对左视点PG平面提供水平方向的偏移,并发送给第2加法部6142。
<相应于再现状态变化的影像的变化>
在3D影像的再现期间P3D中,对视频平面的输出模式为B-D显示模式,对图形平面的输出模式是2平面模式或1平面+偏移模式。因此,再现状态表示种类C。另一方面,在3D影像的再现期间P3D的途中插入2D影像的再现期间P2D的情况下,在该2D影像的再现期间P2D中对各平面的输出模式的组合能够按照用户的操作或应用程序的指示进行各种变更。具体而言,例如在3D影像的再现中显示弹出菜单的情况下,在该显示期间中SPRM(33)应表示的再现状态的值由用户或应用程序从种类A、B、D中选择。在该选择中,能利用再现装置102的OSD等。
图70的(a)-(f)分别是表示在2D影像的再现期间P2D中的再现状态选择为种类A的情况下、从再现装置102送出的再现模式和帧L、R、C的变化、由显示装置103显示的帧L、R、C的变化及快门眼镜104将左右镜片变为透明的期间LSL、LSR的示意图。参照图70(a),在第1时刻T1之前是3D影像的再现期间P3D,再现状态为种类C。因此,再现装置102以B-D显示模式且以2平面模式或1平面+偏移模式动作。即,再现装置102如图70的(c)、(d)所示,将左视点帧LV+LG和右视点帧RV+RG交替发送给显示装置103。这里,左视点帧LV+LG是将左视点图形平面LG合成到左视点视频平面LV上的帧,右视点帧RV+RG是将右视点图形平面RG合成到右视点视频平面RV上的帧。另一方面,如图70的(b)所示,再现模式设定为“3D”。因此,显示装置103如图7的(e)所示,交替显示左视点帧LV+LG和右视点帧RV+RG。与此并行地,如图70的(f)所示,显示装置103使快门眼镜104与帧LV+LG、RV+RG的切换同步地使左右镜片交替变为透明。结果,左视点帧LV+LG和右视点帧RV+RG分别被视听者的单眼看到,所以这一对帧所表示的2D影像由该视听者看起来是一个3D影像。
再参照图70的(a),在第1时刻T1,3D影像的再现期间P3D移动到2D影像的再现期间P2D。具体而言,再现装置102按照用户的操作或应用程序的指示,将SPRM(33)表示的再现状态从种类C变更到种类A。与此相应地,再现装置102在第1时刻T1以后,继续B-D模式,另一方面,转移到1平面+零偏移模式。即,在第1时刻T1以后,如图70的(c)、(d)所示,中心位置的图形平面C交替合成到左视点视频平面LV和右视点视频平面RV上。合成后的帧交替送出到显示装置103。另一方面,如图70的(b)所示,在第1时刻T1,再现模式从“3D”变更为“2D”。显示装置103从信息帧中检测再现模式的该变更,如图70(e)所示,仅将接收到的左视点帧LV+C重复显示2次。与此并行地,如图70的(f)所示,显示装置103使快门眼镜104将左右双方的镜片维持透明。结果,视听者的任一眼均仅看到左视点帧LV+C。这样,视频平面与图形平面中的任一个表示的3D影像均在第1时刻T1切换为2D影像。
再参照图70的(a),2D影像的再现期间P2D从第1时刻T1继续到第2时刻T2,在第2时刻T2回到3D影像的再现期间P3D。具体而言,再现装置102按照用户的操作或应用程序的指示,将SPRM(33)所表示的再现状态从种类A回到种类C。与此相应地,再现装置102在第2时刻T2以后继续B-D显示模式,另一方面,回到2平面模式或1平面+偏移模式。即,在第2时刻T2以后,如图70的(c)、(d)所示,将左视点帧(左视点视频平面LV+左视点图形平面LG)和右视点帧RV+RG(右视点视频平面RV+右视点图形平面RG)交替发送给显示装置103。另一方面,如图70的(b)所示,在第2时刻T2,再现模式从“2D”回到“3D”。显示装置103从信息帧中检测再现模式的该变更,如图70的(e)所示,交替显示左视点帧LV+LG和右视点帧RV+RG。与此并行地,如图70的(f)所示,显示装置103使快门眼镜104与帧LV+LG、RV+RG的切换同步地使左右镜片交替变为透明。结果,左视点帧LV+LG和右视点帧RV+RG所示的2D影像再次被视听者看作一个3D影像。
从图70明确可知,再现装置102在将3D影像暂时切换到2D影像时,只要对视频平面维持B-D显示模式的状态下,对图形平面中断偏移控制即可。因此,其切换动作迅速。另一方面,显示装置103只要按照信息帧内的再现模式的值,决定是否显示右视点帧即可。尤其是也可不变更帧速率。这样,即便图形平面表示的影像包含于3D影像中,显示装置103也能将3D影像无缝切换到2D影像。
图71的(a)-(f)分别是表示2D影像的再现期间P2D中的再现状态选择为种类B的情况下、从再现装置102送出的再现模式和帧L、R、C的变化、由显示装置103显示的帧L、R、C的变化及快门眼镜104将左右镜片变为透明的期间LSL、LSR的示意图。参照图71的(a),在第1时刻T1之前是3D影像的再现期间P3D,再现状态为种类C。因此,图71的(c)-(f)与图70的(c)-(f)一样。结果,左视点帧LV+LG和右视点帧RV+RG所表示的2D影像由视听者看起来是一个3D影像。
再参照图71的(a),在第1时刻T1,3D影像的再现期间P3D转移到2D影像的再现期间P2D。具体而言,再现装置102按照用户的操作或应用程序的指示,将SPRM(33)所表示的再现状态从种类C变更到种类B。种类B与种类A的不同之处在于B-D显示模式被变更为B-B显示模式。因此,在第1时刻T1以后,如图71的(c)、(d)所示,中心位置的图形平面C仅合成到左视点视频平面LV上。合成后的帧各2次送出到显示装置103。另一方面,显示装置103根据再现模式的变更,如图71的(e)所示,仅将2次重复接收到的左视点帧LV+C中的最初接收到的帧各重复显示2次。与此并行地,如图71的(f)所示,显示装置103使快门眼镜104将左右双方的镜片维持为透明。结果,视听者的任一眼均仅看到左视点帧LV+C。这样,视频平面与图形平面的任一个表示的3D影像均在第1时刻T1切换为2D影像。
再参照图71的(a),在第2时刻T2,再现状态从种类A回到种类C。即,在第2时刻T2之后,图71的(c)-(f)与图70的(c)-(f)一样。结果,左视点帧LV+LG与右视点帧RV+RG所示的2D影像再次被视听者看作为一个3D影像。
若将图71与图70相比较则明确可知,再现装置102在将3D影像切换到2D影像时,即使将B-D显示模式切换到B-B显示模式,显示装置103也不用特别变更其动作,就能够将3D影像无缝切换到2D影像。
图72的(a)-(f)分别是表示2D影像的再现期间P2D中的再现状态选择为种类D的情况下、从再现装置102送出的再现模式和帧L、R、C的变化、由显示装置103显示的帧L、R、C的变化及快门眼镜104将左右镜片变为透明的期间LSL、LSR的示意图。参照图72的(a),在第1时刻T1之前是3D影像的再现期间P3D,再现状态为种类C。因此,图72的(c)-(f)与图70的(c)-(f)一样。结果,左视点帧LV+LG与右视点帧RV+RG所表示的2D影像由视听者看起来是一个3D影像。
再参照图72的(a),在第1时刻T1,3D影像的再现期间P3D转移到2D影像的再现期间P2D。具体而言,再现装置102按照用户的操作或应用程序的指示,将SPRM(33)表示的再现状态从种类C变更到种类D。种类D与种类A的不同之处除了将B-D显示模式变更为B-B显示模式外,还在于维持2平面模式或1平面+零偏移模式。因此,在第1时刻T1以后,如图72的(c)、(d)所示,左视点帧LV+LG是将左视点图形平面LG合成到左视点视频平面LV上的帧,右视点帧LV+RG是将右视点图形平面RG合成到左视点视频平面LV上的帧。合成后的帧LV+LG、LV+RG交替送出到显示装置103。另一方面,再现模式的值在第1时刻T1以后也维持在“3D”。因此,显示装置103如图72的(e)所示,交替显示左视点帧LV+LG和右视点帧LV+RG。与此并行地,如图72的(f)所示,显示装置103使快门眼镜104与帧LV+LG、LV+RG的切换同步地使左右镜片交替变为透明。结果,视听者仅看到左视点视频平面LV表示的2D影像,另一方面,将左视点图形帧LG与右视点图形平面RG所示的2D图形影像看作一个3D图形影像。这样,在第1时刻T1之后,能够仅将IG平面所表示的弹出菜单等图形影像作为3D影像呈现给视听者。
再参照图72的(a),在第2时刻T2,再现状态从种类D回到种类C。即,在第2时刻T2之后,图72的(c)-(f)与图70的(c)-(f)一样。结果,视频平面与图形平面中的任一个所示的2D影像都再次被视听者看作为3D影像。
如上所述,当再现装置102将B-D显示模式切换到B-B显示模式时,即使仅将图形影像维持为3D影像,显示装置103也不用特别变更其动作,就能够将3D影像无缝切换到2D影像。
<变形例>
(1-E)在本发明的实施方式1中,再现状态根据用户的操作或应用程序的指示来设定。另外,再现状态也可以设定为图43所示的3D播放列表文件中各PI的属性之一。此时,在3D播放列表再现处理中,再现控制部5635从当前PI解读再现状态,决定再现模式和再现部5602的输出模式。另外,再现状态也可以如图14所示,保存在流数据中。作为其保存目的地,例如可以利用图24所示的PMT内的描述符、或图18所示的VAU内的补充数据或头。这里,再现状态一般以GOP单位等、将一定程度长的显示期间作为一个单位来设定。因此,在将再现状态保存在补充数据中的情况下,也可以将该补充数据仅配置在各GOP的开头。由此,能够削减表示再现状态的数据的总量。
(1-F)在本发明的实施方式1中,再现装置102通过遥控器105等直接接受用户的操作或应用程序的指示,并据此决定再现状态。另外,显示装置103也可以通过遥控器105等直接接受用户的操作或应用程序的指示,并据此将再现状态的变更命令通过HDMI方式的CEC消息传输给再现装置102。此时,再现装置102根据该变更命令来变更再现状态。
(1-G)图1中,再现装置102与显示装置103分别是独立的装置。此外,再现装置102也可以与显示装置103一体化。另外,如图2所示,显示装置103除BD-ROM盘101外,还可以从存储卡201、外部网络202及广播波203等的各种介质取得3D影像的流数据。此时,显示装置103的接收部210包括适于各种介质的接口。显示装置103尤其具备与图56所示的3D再现装置的再现部5602一样的构成,将从各种介质取得的流数据解码成左视点帧、右视点帧等。
(1-H)本发明实施方式的显示装置103根据由再现装置102从BD-ROM盘101读出的流数据,再现3D影像。此外,如图2所示,显示装置103也可以根据由外部网络202或广播波203传输的流数据来再现3D影像。此时,该流数据由以下的发送装置发送。
图73是发送装置7300的功能框图。参照图73,发送装置7300包括格式变换部7301和发送部7302。格式变换部7301从外部接收流数据STD,并变换为规定的发送形式。流数据STD具有图13-21所示的实施方式1的数据结构。发送部7302将由格式变换部7301变换后的流数据从天线以广播波203发送,或通过因特网等的外部网络202分发。
(1-I)在本发明实施方式的L/R模式中,基础视点视频流表示左视点,从属视点视频流表示右视点。也可相反,基础视点视频流表示右视点,从属视点视频流表示左视点。在本发明实施方式的BD-ROM盘101中,基础视点视频流与从属视点视频流复用于不同的TS上。另外,基础视点视频流与从属视点视频流也可以复用于一个TS上。
(1-J)图21所示的偏移元数据保存在从属视点视频流中。另外,偏移元数据也可以保存在基础视点视频流中。此时,偏移元数据优选保存在位于各视频序列的开头的VAU内的补充数据中。并且,3D播放列表文件也可以具备表示基础视点视频流和从属视点视频流中的哪一方包括偏移元数据的标志。由此,能够提高各流数据的制作自由度。偏移元数据不仅保存在各视频序列(即各GOP)的开头,也可以保存在各VAU(即各帧或场)中。此外,也可以按每个内容,将偏移元数据的间隔设定为任意值、例如3帧以上。此时,优选限制:在各视频序列的开头的VAU中必须保存偏移元数据,并且,与其紧前的偏移元数据的间隔为3帧以上。由此,能够可靠地使再现装置将偏移信息的变更处理与跳入再现处理并行执行。
偏移元数据也可作为独立的流数据,复用于主TS或辅TS上,代替存储在视频流中。此时,向偏移元数据分配固有的PID。系统目标解码器利用该PID,从其他流数据中分离偏移元数据。此外,偏移元数据也可以首先预加载到专用缓冲器中,之后,接受再现处理。此时,以规定的帧间隔保存偏移元数据。由此,偏移元数据不需要PTS,所以削减PES头的数据量。结果,可节约预加载用的缓冲器的容量。另外,偏移元数据也可以保存在播放列表文件中。
(1-K)在BD-ROM盘101上,如图23所示,以交织配置记录了基础视点数据块和从属视点数据块。邻接的两个数据块中,一般区段ATC时间相等。这两个数据块、即区段对中,也可以是再现期间一致,且视频流的再现时间相等。换言之,也可以在区段对之间,VAU的数量相等。其意义如下所述。
图74的(a)是表示在邻接的基础视点数据块与从属视点数据块之间、区段ATC时间不同、且视频流的再现时间不同时的再现路径的示意图。参照图74的(a),开头的基础视点数据块B[0]的再现时间为4秒,开头的从属视点数据块D[0]的再现时间为1秒。这里,从属视点数据块D[0]的解码中所需要的基本视频视频流的部分具有与该从属视点数据块D[0]相同的再现时间。因此,为了节约再现装置内的读缓冲器的容量,如图74的(a)中箭头ARW1所示,优选向再现装置以每相同再现时间、例如每1秒钟交替读入基本视点数据块B[0]和从属视点数据块D[0]。但是,此时,如图74的(a)中虚线所示,在读出处理的途中产生跳跃。结果,难以使读出处理与解码处理一致,所以难以可靠持续无缝再现。
图74的(b)是表示在邻接的基础视点数据块与从属视点数据块之间、视频流的再现时间相等时的再现路径的示意图。如图74的(b)所示,邻接的两个数据块之间,视频流的再现时间也可以相等。例如,在开头的数据块对B[0]、D[0]中,视频流的再现时间都等于1秒,第二个数据块对B[1]、D[1]中,视频流的再现时间都等于0.7秒。此时,3D再现模式的再现装置如图74的(b)中箭头ARW2所示,从开头起依次读出数据块B[0]、D[0]、B[1]、D[1]、...。仅通过此,再现装置就能够顺利实现每相同再现时间交替读出主TS与辅TS。尤其,在该读出处理中不产生跳跃,所以3D影像的无缝再现能够可靠持续。
实际上,若邻接的基础视点数据块与从属视点数据块之间,区段ATC时间相等,则读出处理中产生跳跃,能够维持解码处理的同步。因此,即便再现期间或视频流的再现时间不相等,也能够与图74的(b)所示的情况一样,再现装置仅通过从开头起依次读出数据块群,就能够可靠持续3D影像的无缝再现。
在区段对之间,VAU的某一个的头的数量或PES头的数量也可以相等。在区段对之间的解码处理的同步中利用这些头。因此,若在区段对之间头的数量相等,则即使VAU本身的数量不相等,也较容易维持解码处理的同步。并且,与VAU本身的数量相等的情况不同,VAU的数据也可不全部复用于相同数据块内。因此,在BD-ROM盘101的创作工序中,流数据的复用自由度高。
在区段对之间,入口点的数量也可相等。即,在文件基础与文件DEP中,也可以设定成从开头起相同顺序的区段EXT1[k]、EXT2[k]包括相同数量的入口点。在2D再现模式与3D再现模式中,跳跃的有无不同。但是,当在区段对之间入口点的数量相等时,再现时间也实质上相等。因此,无论有无跳跃,都容易维持解码处理的同步。并且,与VAU本身的数量相等的情况不同,VAU的数据也可不全部复用于相同数据块内。因此,在BD-ROM盘101的创作工序中,流数据的复用自由度高。
(1-L)在表示3D影像的AV流文件中,也可向图24所示的PMT2410追加3D描述符。‘3D描述符’是涉及3D影像的再现方式的、AV流文件整体共通的信息,尤其包括3D方式信息。‘3D方式信息’表示L/R模式或深度模式等3D影像的AV流文件的再现方式。并且,也可向PMT2410所包含的各流信息2403追加3D流描述符。‘3D流描述符’按AV流文件中包含的基本流来表示涉及3D影像的再现方式的信息。尤其是视频流的3D流描述符包括3D显示种类。‘3D显示种类’表示当以L/R模式从该视频流再现影像时,该影像是左视点与右视点中的哪一个。3D显示种类还表示当以深度模式从该视频流再现影像时,该影像是2D影像与深度映射中的哪一个。这样,当PMT2410包括涉及3D影像再现方式的信息时,该影像的再现系统仅从AV流文件也能够取得该信息。因此,这种数据结构例如在用广播波发布3D影像内容时是有效的。
(1-M)从属视点片段信息文件也可在分配给从属视点视频流的PID=0x1012、0x1013的视频流属性信息中包括规定的标志。当该标志为on时,表示从属视点视频流参照基础视点视频流。该视频流属性信息也还可以包括涉及参照目的地的基础视点视频流的信息。该信息可用于在由规定工具验证3D影像内容是否以规定格式制作时、确认视频流间的对应关系。
在本发明的实施方式1中,可从片段信息文件中包含的区段起点算出基础视点区段与从属视点区段的各大小。另外,各区段的大小的一览表例如也可作为元数据的一部分保存在片段信息文件中。
(1-N)图43所示的3D播放列表文件1222包括一个子路径4302。此外,3D播放列表文件也可包括多个子路径。例如,也可以是,一个子路径的子路径种类为‘3D·L/R’,另一子路径的子路径种类为‘3D·深度’。当根据该3D播放列表文件再现3D影像时,通过在这两种子路径之间切换再现对象的子路径,能够使再现装置102在L/R模式与深度模式之间容易地切换。尤其是该切换处理可比切换3D播放列表文件本身的处理更快速地执行。
3D播放列表文件也可包括多个子路径种类相等的子路径。例如,当对同一场景的两眼视差不同的3D影像由针对共通的左视点的右视点的差异来表现时,将表示不同右视点的多个文件DEP记录在BD-ROM盘101中。此时,3D播放列表文件包括多个子路径种类为‘3D·L/R’的子路径。这些子路径单独规定不同的文件DEP的再现路径。当根据该3D播放列表文件再现3D影像时,再现对象的子路径例如按照用户的操作快速切换,所以实质上不使3D影像间断地使其两眼视差变化。由此,能使用户容易地选择期望的两眼视差的3D影像。
在图43所示的3D播放列表文件1222中,基础视点视频流登记在主路径4301内的STN表中,从属视点视频流登记在扩展数据4303内的STN表SS4330中。此外,也可将从属视点视频流登记在STN表中。此时,STN表也可包括表示登记的视频流是表示基础视点与从属视点中的哪一方的视频流的标志。
在本发明实施方式1的BD-ROM盘101中,分别记录了2D播放列表文件和3D播放列表文件。此外,图43所示的子路径4302也可与扩展数据4303一样,记录在仅由3D再现模式的再现装置102参照的区域中。此时,没有子路径4302使2D再现模式的再现装置102误动作的危险性,所以能将3D播放列表文件原样用作2D播放列表文件。结果,简化BD-ROM盘的创作。
(1-O)图47所示的索引文件1211包括标题整体中共通的3D存在标志4720和2D/3D喜好标志4730。另外,索引文件也可按不同标题设定不同的3D存在标志或2D/3D喜好标志。
(1-P)在3D再现装置中,除在SPRM(13)中设定了父母限制级别外,也可在SPRM(30)中设定3D父母限制级别。3D父母限制级别表示利用3D再现装置的视听者中、允许视听3D影像的人的年龄下限,用于对记录在BD-ROM盘101中的3D影像标题的视听的父母限制控制。与SPRM(13)的值一样,SPRM(30)的值由3D再现装置的用户利用3D再现装置的OSD等设定。3D再现装置例如如下执行对各3D影像标题的父母限制控制。3D再现装置首先从BD-ROM盘101中读出对2D影像视听的限制年龄,与SPRM(13)的值相比较。该限制年龄表示允许以2D再现模式视听该标题的视听者的年龄下限。若该限制年龄超过SPRM(13)的值,则3D再现装置停止该标题的再现。若其下限为SPRM(13)的值以下,则3D再现装置继续从BD-ROM盘101中读出对3D影像视听的限制年龄,与SPRM(30)的值相比较。该限制年龄表示允许以3D再现模式视听该标题的视听者的年龄下限。若该限制年龄为SPRM(30)的值以下,则3D再现装置以3D再现模式再现该标题。若该限制年龄超过SPRM(30)的值,则3D再现装置以2D再现模式再现该标题。这样,能够考虑瞳孔间距离根据年龄而不同来实现‘对于不满规定年龄的孩子,将3D影像仅呈现为2D影像’等的父母限制控制。该父母限制控制优选在图46所示的选择再现对象的播放列表文件的处理中判断为‘显示装置对应于3D影像’时,即在步骤S4805中判断为‘是’时执行。另外,在SPRM(30)中,也可代替限制年龄而设定表示3D再现模式的允许/禁止的值,3D再现装置根据该值来判断3D再现模式的有效/无效。
(1-Q)在3D再现装置中,也可将表示‘应使2D再现模式与3D再现模式中的哪一种为优先’的值设定到SPRM(31)。SPRM(31)的值由3D再现装置的用户利用3D再现装置的OSD等设定。3D再现装置在图48所示的播放列表文件的选择处理中,在步骤S4803中与2D/3D喜好标志一起参照SPRM(31)。当它们都表示2D再现模式时,3D再现装置选择2D再现模式。当2D/3D喜好标志和SPRM(31)都表示3D再现模式时,3D再现装置不显示再现模式的选择画面,而执行步骤S4805、即HDCP认证。结果,若显示装置能够应对3D影像的再现,则3D再现装置选择3D再现模式。在2D/3D喜好标志和SPRM(31)表示不同的再现模式时,3D再现装置执行步骤S4804,即显示再现模式的选择画面,使用户选择再现模式。此外,也可使应用程序选择再现模式。这样,即使在3D影像内容中设定有2D/3D喜好标志,也仅在该值所示的再现模式与SPRM(31)所示的再现模式、即用户事先设定的再现模式不一致时,使用户重新选择再现模式。
BD-J对象等应用程序也可参照SPRM(31)来选择再现模式。并且,当在步骤S4804中使用户选择再现模式时,也可依据SPRM(31)的值来决定选择画面中显示的菜单的初始状态。例如,在SPRM(31)的值表示2D再现模式优先的情况下,将光标对准2D再现模式的选择按钮的状态下显示菜单,在表示3D再现模式优先的情况下,将光标对准3D再现模式的选择按钮的状态下显示菜单。此外,当3D再现装置具有管理父、母、孩子等多个用户的帐户的功能时,也可与当前时刻登录的用户的帐户相应地设定SPRM(31)的值。
SPRM(31)的值除了表示‘应使2D再现模式与3D再现模式中的哪一种为优先’外,还可表示‘应始终设定2D再现模式与3D再现模式中的哪一种’。当SPRM(31)的值表示‘应始终设定2D再现模式’的情况下,3D再现装置不管2D/3D喜好标志的值如何,始终选择2D再现模式。此时,SPRM(25)的值设定成表示2D再现模式。当SPRM(31)的值表示‘应始终设定3D再现模式’的情况下,3D再现装置不管2D/3D喜好标志的值如何,不显示再现模式的选择画面而进行HDCP认证。此时,SPRM(25)的值设定成表示3D再现模式(L/R模式或深度模式)。这样,即使向3D影像内容设定了2D/3D喜好标志,也能够始终使用户事先设定的再现模式优先。
《实施方式2》
下面,作为本发明的实施方式2,说明本发明实施方式1的记录介质的记录装置及记录方法,。该记录装置被称为所谓的创作(authoring)装置。创作装置通常设置在发布用电影内容的制作工作室中,由创作人员使用。记录装置根据创作人员的操作,首先以规定的压缩编码方式将电影内容变换为AV流文件。记录装置接着生成脚本。‘脚本’是规定电影内容中包含的各标题的再现方法的信息,具体包括动态脚本信息及静态脚本信息。记录装置接着从AV流文件及脚本生成BD-ROM盘用的卷镜像。记录装置最后将该卷镜像记录在记录介质中。
图75是该记录装置7500的功能框图。参照图75,该记录装置7500包括数据库部7501、视频编码器7502、素材制作部7503、脚本生成部7504、BD程序制作部7505、复用处理部7506及格式处理部7507。
数据库部7501是记录装置中内置的非易失性存储装置,尤其是HDD。数据库部7501此外也可以是外带于记录装置上的HDD,或是记录装置中内置或外带的非易失性半导体存储器装置。
视频编码器7502从创作人员受理非压缩的位图数据等影像数据,以MPEG-4AVC、MVC、或MPEG-2等压缩编码方式压缩。由此,主影像数据被变换为主视频流,副影像数据被变换为辅视频流。尤其是利用MVC等多视点编码方式,将3D影像数据变换为图17所示的基础视点视频流与从属视点视频流的对。即,表示左视点的视频帧序列通过其自身图片间的预测编码,变换为基础视点视频流。另一方面,表示右视点的视频帧序列不仅通过其自身图片、还通过与基础视点图片间的预测编码,变换为从属视点视频流。并且,也可将表示右视点的视频帧序列变换为基础视点视频流,将表示左视点的视频帧序列变换为从属视点视频流。变换后的各视频流7512保存在数据库部7501中。
视频编码器7502在图片间预测编码的处理过程中,检测左视点与右视点之间的各影像的运动矢量,并据此算出各3D影像的进深信息。图76的(a)、(b)是表示3D影像的一场景的显示中利用的左视点图片和右视点图片的示意图,(c)是表示由视频编码器7502根据这些图片算出的进深信息的示意图。
视频编码器7502在左视点和右视点的各图片的压缩中利用这些图片间的冗余性。即,视频解码器7502按8×8或16×16像素矩阵、即按每个宏块比较压缩前的两个图片,检测两个图片间的各影像的运动矢量。具体而言,如图76的(a)、(b)所示,首先将左视点图片7601和右视点图片7602分别分割成宏块7603的矩阵。接着,在两个图片7601、7602之间,按每个宏块7603比较图像数据,根据结果,检测各影像的运动矢量。例如,表示‘家’的影像7604的区域在两个图片7601、7602之间实质上相等。因此,从这些区域中不会被检测出运动矢量。另一方面,表示‘球’的影像7605的区域在两个图片7601、7602之间不同,所以从这些区域中检测到该影像7605的运动矢量。
视频编码器7502将检测到的运动矢量用于各图片7601、7602的压缩中。另一方面,视频编码器7502将该运动矢量用于‘家’的影像7604及‘球’的影像7605等各影像的两眼视差的计算中。视频编码器7502还根据各影像的两眼视差,算出该影像的进深。表示该进深的信息如图76的(c)所示,被整理成与各图片7601、7602的宏块的矩阵相同大小的矩阵7606。该矩阵7606内的块7607与各图片7601、7602内的宏块7603一对一对应。各块7607例如以8位的深度来表示对应的宏块7603所表示的影像的进深。在图76所示的例子中,‘球’的影像7605的进深记录在矩阵7606的区域7608内的各块中。该区域7608对应于表示该影像7605的各图片7601、7602内的区域整体。
视频编码器7502此外在从2D影像的数据编码辅视频流时,也可根据创作人员的操作,制作对副影像平面的偏移信息7510。制作出的偏移信息7510保存在数据库部7501中。
素材制作部7503制作视频流以外的基本流,例如音频流7513、PG流7514及IG流7515,保存在数据库部7501中。例如,素材制作部7503从创作人员受理非压缩的LPCM声音数据,将其以AC-3等压缩编码方式编码,并变换为音频流7513。素材制作部7503此外从创作人员受理字幕信息文件,据此制作PG流7514。字幕信息文件规定表示字幕的图像数据或文本数据、该字幕的显示时期、及应加到该字幕上的淡入/淡出等视觉效果。素材制作部7503还从创作人员受理位图数据与菜单文件,据此制作IG流7515。位图数据表示菜单的图像。菜单文件规定该菜单中配置的各按钮的状态转移及应加到各按钮上的视觉效果。
素材制作部7503还根据创作人员的操作,制作对PG流7514和IG流7515各自的偏移信息7510。此时,素材制作部7503也可以利用由视频编码器7502生成的进深信息DPI,使3D图形影像的进深相应于3D影像的进深。此时,当3D影像的进深按每个帧急剧变化时,素材制作部7503也可以进一步通过低通滤波器对利用进深信息DPI制作的偏移值的序列进行处理,降低每个帧的变化。这样,将制作的偏移信息7510保存在数据库部7501中。
脚本生成部7504根据从创作人员经由GUI受理的指示,制作BD-ROM脚本数据7517,保存在数据库部7501中。BD-ROM脚本数据7517规定保存在数据库部7501中的各基本流7512-7516的再现方法。BD-ROM脚本数据7517包括图12所示的文件组中的索引文件1211、电影对象文件1212及播放列表文件1221-1223。脚本生成部7504还制作参数文件PRF,并向复用处理部7506送出。参数文件PRF从数据库部7501中保存的基本流7512-7515中,规定应复用于每个主TS和辅TS上的流数据。脚本生成部7504此外也可以对各视频流7512,以GOP单位或PI单位设定再现状态。与这些再现状态有关的信息在存储在3D播放列表文件中的状态下或直接保存在数据库部7501中。
BD程序制作部7505对创作人员提供BD-J对象及Java应用程序的编程环境。BD程序制作部7505通过GUI受理来自用户的请求,根据该请求制作各程序的源代码。BD程序制作部7505还根据BD-J对象,制作BD-J对象文件1251,将Java应用程序压缩成JAR文件1261。这些程序文件组BDP送出到格式处理部7507。
这里,假设如下编程BD-J对象的情况:BD-J对象使图56所示的程序执行部5634将GUI用的图形数据发送给系统目标解码器5623。BD-J对象还使系统目标解码器5623将该图形数据作为图像平面数据处理,使平面加法部5624以1平面+偏移模式送出图像平面数据。此时,BD程序制作部7505制作对图像平面的偏移信息7510,保存在数据库部7501中。BD程序制作部7505也可以在该偏移信息7510的制作中利用由视频编码器7502生成的进深信息DPI。
复用处理部7506根据参数文件PRF,将数据库部7501中保存的各基本流7512-7515复用于MPEG2-TS形式的流文件上。具体而言,如图14所示,首先将各基本流7512-7515变换为一个源包串,接着,将各串的源包汇总成一个复用流数据。这样,制作主TS和辅TS。这些复用流数据MSD送出到格式处理部7507。
复用处理部7506还根据数据库部7501中保存的偏移信息7510,制作偏移元数据。如图21所示,制作出的偏移元数据2110作为补充数据2101,保存在从属视点视频流所包含的各视频序列的开头的VAU中。另外,复用处理部7506也可以加工各图形数据,调整左右各影像帧内的图形部件的配置。由此,复用处理部7506能防止各图形平面所表示的3D图形影像在与其他图形平面所表示的3D图形影像相同的视觉方向上重叠显示。此外,复用处理部7506也可以调整对各图形平面的偏移值,以使各3D图形影像显示在不同的进深。在将与再现状态有关的信息保存在数据库部7501中的情况下,复用处理部7506也可以将该信息与图21所示的偏移元数据一样,存储在基础视点视频流与从属视点视频流各自中包含的各VAU内的补充数据中。
并且,复用处理部7506按如下步骤(I)-(IV)制作2D片段信息文件和从属视点片段信息文件:(I)分别对文件2D和文件DEP制作图35所示的入口映射3430。(II)利用各文件的入口映射,制作图36的(a)、(b)所示的区段起点3442、3620。此时,邻接的数据块之使区段ATC时间一致。并且,设计区段的配置,以使2D区段、基础视点区段及从属视点区段的各大小满足条件1、2等。(III)从应复用于每个主TS和辅TS上的各基本流中提取图34所示的流属性信息3420。(IV)如图34所示,将入口映射3430、3D元数据3440及流属性信息3420的组合与片段信息3410建立对应。这样,制作各片段信息文件CLI,送出到格式处理部7507。
格式处理部7507根据数据库部7501中保存的BD-ROM脚本数据7517、由BD程序制作部7505制作的BD-J对象文件等程序文件组BDP及由复用处理部7506生成的复用流数据MSD和片段信息文件CLI,制作图12所示的目录结构的BD-ROM盘镜像7520。该目录结构中利用UDF作为文件系统。
格式处理部7507在制作文件2D、文件DEP及文件SS的各文件入口时,参照2D片段信息文件和从属视点片段信息文件各自中包含的入口映射和3D元数据。由此,入口点和区段起点的各SPN被用于制作分配记述符。尤其是决定各分配记述符应表示的LBN的值和区段大小,以表现图25所示的数据块的交织配置。结果,各基础视点数据块被文件SS与文件2D共享,各从属视点数据块被文件SS与文件DEP共享。
<BD-ROM盘镜像的记录方法>
图77是利用图75所示的记录装置7500向BD-ROM盘记录电影内容的方法的流程图。该方法例如通过记录装置7500的电源接通来开始。
在步骤S7701中,制作应记录到BD-ROM盘的基本流、程序及脚本数据。即,视频编码器7502制作视频流7512。素材制作部7503制作音频流7513、PG流7514及IG流7515。脚本生成部7504制作BD-ROM脚本数据7517。制作的这些数据7512-7517保存在数据库部7501中。另一方面,视频编码器7502和素材制作部7503分别制作偏移信息7510,保存在数据库部7501中。脚本生成部7504制作参数文件PRF,发送给复用处理部7506。BD程序制作部7505制作包括BD-J对象文件和JAR文件的程序文件组BDP,发送给格式处理部7507,并制作偏移信息7510,保存在数据库部7501中。然后,处理前进到步骤S7702。
在步骤S7702中,复用处理部7506根据数据库部7501中保存的偏移信息7510,制作偏移元数据。制作的偏移元数据作为补充数据2101存储在从属视点视频流内。然后,处理前进到步骤S7703。
在步骤S7703中,复用处理部7506根据参数文件PRF,从数据库部7501中读出各基本流7512-7515,复用于MPEG2-TS形式的流文件上。然后,处理前进到步骤S7704。
在步骤S7704中,复用处理部7506制作2D片段信息文件和从属视点片段信息文件。尤其是在入口映射和区段起点的制作中,在区段对之间对齐区段ATC时间。还设计2D区段、基础视点区段及从属视点区段的大小,以满足条件1、2等。然后,处理前进到步骤S7705。
在步骤S7705中,格式处理部7507根据BD-ROM脚本数据7517、程序文件组BDP、复用流数据MDS及片段信息文件CLI,制作BD-ROM盘镜像7520。然后,处理前进到步骤S7706。
在步骤S7706中,将BD-ROM盘镜像7520变换为BD-ROM压制用数据。再将该数据记录在BD-ROM盘的母盘中。然后,处理前进到步骤S7707。
在步骤S7707中,将步骤S7706中得到的母盘用于压制工序,进行BD-ROM盘101的批量生产。这样,处理结束。
《补充》
<3D影像的再现方法的原理>
3D影像的再现方法大致分为使用全息技术的方法与使用视差影像的方法这两种。
采用全息技术的方法的特征在于,将与从实际立体物体对人的视觉赋予的光学信息基本完全相同的信息提供给视听者的视觉,由此,将影像中的物体立体地呈现给其视听者。但是,将该方法用于动态图像显示的技术只是在理论上成立。但是,进行该动态图像显示所需要的、能够实时处理庞大运算的计算机以及高达每1mm几千条的超高分辨率的显示装置,在现行的技术中还都是非常难以实现的事情。因此,将这种方法作为商业用途进行实际应用的目标,在现阶段几乎还没有设定。
所说“视差影像”是指映入到观看一个场景的视听者的各个眼睛中的2D影像的对、即左视点和右视点的对。采用视差影像的方法的特征在于,在进行再现时使视听者的各个眼睛只能观看一个场景的左视点和右视点,由此使该视听者立体地看到该场景。
图78的(a)-(c)是用于说明基于采用视差影像的方法的3D影像(立体视觉影像)的再现原理的示意图。图78的(a)是视听者VWR看设置在人脸正面的立方体CBC的状态的俯视图。图78的(b)、(c)分别是将此时视听者VWR的左眼LEY、右眼REY看到的立方体CBC的外观表示为2D影像的示意图。比较图78的(b)、(c)可知,各个眼睛看到的立方体CBC的外观略有差异。视听者VWR能够根据该外观差异即两眼视差来立体识别立方体CBC。因此,在采用视差影像的方法中,首先针对一个场景例如图78的(a)所示的立方体CBC,准备视点不同的左右2D影像、例如图78的(b)所示的立方体CBC的左视点及图78的(c)所示的其右视点。这里,根据视听者VWR的两眼视差来决定各视点的位置。接着,进行再现使视听者VWR的各个眼睛仅能够看到各个2D影像。由此,视听者VWR能够立体地看到在画面上再现的该场景即立方体CBC的影像。这样,采用视差影像的方法与采用全息技术的方法不同,具有顶多只需准备从两个视点观看的2D影像的优点。
关于采用视差影像的方法提出了具体实施这种方法的多种方式。从如何使视听者的各个眼睛观看左右的2D影像的角度出发,将这些方式划分为序列分离方式、采用双凸透镜的方式、以及二色分离方式等。
在序列分离方式中,在画面上每隔固定时间就交替地显示左右的2D影像,使视听者通过快门眼镜来观察画面。在此,快门眼镜的各个镜片例如由液晶片形成。各个镜片与画面上的2D影像的切换同步地,交替地使光在其整体上一致地透射,或者遮断光。即,各个镜片作为周期性地阻挡视听者的眼睛的快门发挥作用。更具体地讲,当在画面上显示有左影像的期间中,快门眼镜使光透射左侧的镜片,使右侧的镜片遮断光。相反,当在画面上显示有右影像的期间中,快门眼镜使光透射右侧的镜片,使左侧的镜片遮断光。由此,使视听者的眼睛能够看到左右的影像的残像叠加的一个3D影像。
在序列分离方式中,如上所述以固定周期交替地显示左右的影像。例如当在2D影像的再现中每1秒钟显示24个影像帧时,在3D影像的再现中,左右的影像合计每1秒钟显示48个影像帧。因此,该方式适合于能够迅速执行画面的改写的显示装置。
在采用双凸透镜的方式中,将左右的各个影像帧划分为纵向细长的长方形状的小区域,在一个画面中沿横向交替地排列左右的影像帧的各个小区域,并同时进行显示。在此,画面的表面被双凸透镜覆盖。双凸透镜(lenticular)是将多个细长的鱼糕状(hog-backed,拱背形,半圆柱形)透镜平行排列成为一个片状而形成的透镜。各个鱼糕状透镜在画面的表面上沿纵向延伸。在使视听者通过双凸透镜来观看上述左右的影像帧时,来自左影像帧的显示区域的光只能成像于视听者的左眼,来自右影像帧的显示区域的光只能成像于视听者的右眼。这样,视听者借助映入左右眼睛中的影像之间的两眼视差来看到3D影像。另外,在这种方式中,也可以利用具有相同功能的液晶元件等其他光学部件来取代双凸透镜。此外,还可以在例如左影像帧的显示区域中设置纵偏振光的滤光器,在右影像帧的显示区域中设置横偏振光的滤光器。此时,使视听者通过偏振光眼镜来观看画面。在此,在该偏振光眼镜中,在左侧的镜片设有纵偏振光滤光器,在右侧的镜片设有横偏振光滤光器。因此,视听者的各个眼睛仅能够看到左右的影像,因而能够使视听者看到3D影像。
在采用视差影像的方法中,3D影像内容除了从开头开始由左右的影像的组合来构成的情况之外,也可以由2D影像与深度映射的组合来构成。该2D影像表示从再现对象的3D影像向虚拟的2D画面上的投影,深度映射按不同像素来表示该3D影像的各个部分相对该2D画面的进深。在3D影像内容由2D影像与深度映射的组合来构成时,3D再现装置或者显示装置首先根据这些组合来构成左右的影像,然后按照上述方式中的任意一种方式从这些影像来再现3D影像。
图79是表示由2D影像MVW与深度映射DPH的组合来构成左视点LVW和右视点RVW的例子的示意图。参照图79,在2D影像MVW中,在背景BGV中显示有圆板DSC。深度映射DPH按照每个像素来表示该2D影像MVW内的各个部分的进深。根据该深度映射DPH,2D影像MVW中的圆板DSC的显示区域DA1的进深在画面的近前一侧,并且,背景BGV的显示区域DA2的进深在画面的里侧。在再现装置内,视差影像生成部PDG首先根据深度映射DPH所表示的各个部分的进深,计算2D影像MVW内的各个部分的两眼视差。视差影像生成部PDG接着使2D影像MVW内的各个部分的显示位置根据所计算出的两眼视差向左右移动,来构成左视点LVW和右视点RVW。在图79所示的例子中,视差影像生成部PDG使左视点LVW内的圆板DSL的显示位置相对于2D影像MVW内的圆板DSC的显示位置向右移动该两眼视差的一半S1,使右视点RVW内的圆板DSR的显示位置相对于2D影像MVW内的圆板DSC的显示位置向左移动该两眼视差的一半S1。由此,在视听者看起来圆板DSC位于画面的近前。另一方面,视差影像生成部PDG使左视点LVW内的背景BGL的显示位置相对于2D影像MVW内的背景BGV的显示位置向左移动该两眼视差的一半S2,使右视点RVW内的背景BGR的显示位置相对于2D影像MVW内的背景BGV的显示位置向右移动该两眼视差的一半S2。由此,在视听者看起来背景BGV位于画面的里侧。
基于采用视差影像的方法的3D影像的再现系统已经确立了在电影院和游乐园的游乐项目等中使用,并且被普遍采用。因此,该方法对能够再现3D影像的家庭影院系统的实际应用也比较有效。在本发明的实施方式中,假设是采用视差影像的方法中的采用序列分离方式或者偏振光眼镜的方式。但是,针对与这些方式不同的其他方式,只要是采用视差影像的方式,则就能够适用本发明。这对于本领域技术人员而言能够从上述的实施方式的说明中得到了解。
<BD-ROM盘上的文件系统>
在BD-ROM盘101的文件系统采用UDF时,图12所示的卷区域1202B一般包括记录了多个目录、文件组记述符及终结记述符的区域。“目录”是指构成相同目录的数据群。“文件组记述符(file set descriptor)”表示记录了根目录的文件入口的扇区的LBN。“终结记述符(terminating descriptor)”表示文件组记述符的记录区域的终结。
各目录具有共同的数据结构。各目录尤其包括文件入口、目录文件及下级文件组。
“文件入口”包括描述符标签、ICB(Information Control Block,信息控制块)标签及分配描述符。“描述符标签”表示包括该描述符标签的数据的类型是文件入口。例如,在描述符标签的值是“261”时,该数据的类型是文件入口。“ICB标签”表示该文件入口自身的属性信息。“分配描述符”表示记录了属于相同目录的目录文件的扇区的LBN。
“目录文件”通常分别包括多个的下级目录的文件识别描述符和多个下级文件的文件识别描述符。“下级目录的文件识别描述符”是用于访问被置于该目录之下的下级目录的信息。该文件识别描述符包括该下级目录的识别信息、目录名的长度、文件入口地址、以及目录名本身。尤其是文件入口地址表示记录了该下级目录的文件入口的扇区的LBN。“下级文件的文件识别描述符”是用于访问被置于该目录之下的下级文件的信息。该文件识别描述符包括该下级文件的识别信息、文件名的长度、文件入口地址、以及文件名本身。尤其是文件入口地址表示记录了该下级文件的文件入口的扇区的LBN。“下级文件的文件入口”如后面所述包括构成下级文件的主体的数据的地址信息。
如果按照顺序追溯文件组描述符和下级目录/文件的文件识别描述符,则能够访问在卷区域1202B中记录的任意目录/文件的文件入口。具体而言,首先利用文件组描述符来确定根目录的文件入口,利用该文件入口内的分配描述符来确定根目录的目录文件。然后,从该目录文件中检索根目录之下的目录的文件识别描述符,利用其中的文件入口地址来确定该目录的文件入口。另外,利用该文件入口内的分配描述符来确定该目录的目录文件。然后,利用该目录文件中的下级目录或者下级文件的文件识别描述符内的文件入口地址,确定该下级目录或者下级文件的文件入口。
“下级文件”分别包括区段和文件入口。“区段”通常是多个,各个区段是盘上的逻辑地址即LBN连续的数据序列。区段整体构成下级文件的主体。“文件入口”包括描述符标签、ICB标签及分配描述符。“描述符标签”表示包括该描述符标签的数据的类型是文件入口。“ICB标签”表示该文件入口自身的属性信息。“分配描述符”针对各个区段各设置一个,表示各个区段在卷区域1202B上的配置,具体地讲,表示各个区段的大小及其前端的LBN。因此,通过参照各个分配描述符,能够访问各个区段。此外,各个分配描述符的上位2比特表示在该分配描述符所表示的LBN的扇区中是否实际记录了区段。即,在该上位2比特是“0”时,表示已对该扇区分配区段而且已经记录,在该上位2比特是“1”时,表示已对该扇区分配区段但没有记录。
与采用UDF的上述文件系统相同,在相对卷区域的文件系统中,通常在将卷区域中记录的各个文件划分为多个区段时,如上述的分配描述符所示,在卷区域中一并记录了表示各个区段的配置的信息。通过参照该信息,能够得知各个区段的配置、尤其是其逻辑地址。
<解码开关信息>
图80的(a)是表示解码开关信息A050的数据结构的示意图。解码开关信息A050在图18所示的基础视点视频流和从属视点视频流的各VAU中存储在其补充数据1831D、1832D中。但是,位于从属视点视频流的各GOP开头的VAU#1中,解码开关信息A050存储在与包括偏移元数据的补充数据1832D不同的补充数据中。补充数据1831D、1832D尤其在MPEG-4AVC、MVC中相当于NAL单元的一种“SEI”。解码开关信息A050是用于使再现装置102内的解码器容易地确定接着应解码的VAU的信息。这里,该解码器如后所述,以VAU单位交替解码基础视点视频流与从属视点视频流。此时,该解码器一般与对各VAU赋予的DTS所示的时刻一致,来确定接着应解码的VAU。但是,解码器的种类中,多是忽视DTS、依次继续解码VAU的解码器。对于这种解码器,各VAU除DTS外优选还包括解码开关信息A050。
参照图80的(a),解码开关信息A050包括下一访问单元种类A051、下一访问单元大小A052及解码计数器A053。下一访问单元种类A051表示接着应解码的VAU属于基础视点视频流与从属视点视频流中的哪一方。例如,当下一访问单元种类A051的值为“1”时,接着应解码的VAU属于基础视点视频流,当为“2”时,属于从属视点视频流。当下一访问单元种类A051的值为“0”时,当前的VAU位于解码对象流的后端,不存在接着应解码的VAU。下一访问单元大小A052表示接着应解码的VAU的大小。再现装置102内的解码器通过参照下一访问单元大小A052,可不解析VAU的结构自身来确定其大小。因此,解码器可容易地从缓冲器中提取VAU。解码计数器A053表示其所属的VAU应被解码的顺序。该顺序从包含基本视点视频流内的I图片的VAU起开始计算。
图80的(b)是表示分配给基础视点视频流A001和从属视点视频流A002的各图片的解码计数器的一例A010、A020的示意图。参照图80的(b),解码计数器A010、A020在两个视频流A001、A002间交替递增。例如,对包括基础视点视频流A001内的I图片的VAUA011,分配“1”,作为解码计数器A010。对包括接着应解码的从属视点视频流A002内的P图片的VAUA021,分配“2”,作为解码计数器A020。对包括再接下来应解码的基础视点视频流A001内的P图片的VAUA012,分配“3”,作为解码计数器A010。通过该分配,在因某种故障而再现装置102内的解码器读丢任一VAU时,解码器也可从解码计数器A010、A020马上确定由此缺失的图片。因此,解码器可适当且迅速地执行纠错处理。
在图80的(b)所示的例子中,基础视点视频流A001的第3个VAUA013的读入中产生错误,Br图片缺失。但是,解码器通过从属视点视频流A002的第2个VAUA022中包含的P图片的解码处理,从该VAUA022中读出解码计数器A020并进行保持。因此,解码器能够预测接着应处理的VAU的解码计数器A010。具体而言,由于包括该P图片的VAUA022内的解码计数器A020为“4”,所以预测为接着应读入的VAU的解码计数器A010为“5”。但是,实际上由于接着读入的VAU是基础视点视频流A001的第4个VAUA014,所以其解码计数器A010为“7”。因此,能够检测出解码器读丢一个VAU。因此,解码器可执行如下的纠错处理:‘对于从从属视点视频流A002的第3个VAUA023中提取的B图片,由于应参照的Br图片缺失,所以跳过解码处理’。这样,解码器在每个解码处理中检查解码计数器A010、A020。由此,解码器可迅速检测VAU的读入错误,且迅速地执行适当的纠错处理。结果,可防止噪声混入再现影像。
图80的(c)是表示分配给基础视点视频流A001和从属视点视频流A002各图片的解码计数器的其他例A030、A040的示意图。参照图80的(c),解码计数器A030、A040在各视频流A001、A002中单独递增。因此,解码计数器A030、A040在属于相同3D·VAU的一对图片间相等。此时,解码器在解码了一个基础视点视频流A001的VAU的时刻能够进行如下预测:‘该解码计数器A030与接着应解码的从属视点视频流A002的VAU的解码计数器A040相等’。另一方面,解码器在解码了一个从属视点视频流A002的VAU的时刻能够进行如下预测:‘向该解码计数器A040加1后的值与接着应解码的基础视点视频流A001的VAU的解码计数器A030相等’。因此,解码器在任一时刻均可从解码计数器A030、A040中迅速检测VAU的读入错误,并且迅速地执行适当的纠错处理。结果,可防止噪声混入再现影像。
在图60所示的系统目标解码器5623中,DEC6004也可以利用解码开关信息A050,与其DTS无关地从各VAU依次解码图片。另外,缓冲器开关6006也可以将该VAU内的解码开关信息A050返回到DEC6004。此时,缓冲器开关6006能够使用该解码开关信息A050,决定应从EB16003与EB26010中的哪一方传输下一VAU。
<经由广播、通信线路的数据分发>
本发明的实施方式的记录介质除了光盘之外,还包括例如包含SD存储卡的可移动半导体存储器装置等能够用作封装介质的全部可移动介质。并且,在上述实施方式的说明中,列举了预先记录有数据的光盘的示例,即BD-ROM盘或者DVD-ROM等已有的只读的光盘。但是,本发明的实施方式不限于这些光盘。例如,在利用终端装置将通过广播或者经由网络而分发的3D影像的内容向BD-RE或者DVD-RAM等已有的可写入型光盘中写入时,也能够利用实施方式1的区段的配置。在此,该终端装置可以装配在再现装置中,也可以是独立于再现装置的装置。
<半导体存储卡的再现>
作为本发明的实施方式的记录介质,说明取代光盘而使用了半导体存储卡时的再现装置的数据读取部。
再现装置中的从光盘读取数据的部分例如由光盘驱动器构成。与此相对,从半导体存储卡读取数据的部分由专用的接口(I/F)构成。更具体地讲,在再现装置设有卡槽,在卡槽的内部安装有上述的I/F。在将半导体存储卡插入该卡槽中时,该半导体存储卡通过该I/F与再现装置电连接。另外,从半导体存储卡通过该I/F将数据读入到再现装置中。
<针对BD-ROM盘上的数据的著作权保护>
在此,作为下面的补充事项的前提,说明用于保护在BD-ROM盘中记录的数据的著作权的结构。
例如从保护著作权或者提高数据的保密性的观点出发,有时需要将在BD-ROM盘中记录的数据的一部分进行加密。该加密数据例如包括视频流、音频流或者其他的流。在这种情况下,如下解读加密数据。
在再现装置中预先存储有生成“密钥”时所需要的数据的一部分即设备密钥,其中该“密钥”用于解读BD-ROM盘中的加密数据。另一方面,在BD-ROM盘中记录有生成该“密钥”时所需要的数据的其他部分,即MKB(媒体密钥块)和该“密钥”自身的加密数据即加密标题密钥。设备密钥、MKB及加密标题密钥被相互建立对应,还与被写入到图12所示的BD-ROM盘101上的BCA1201中的特定的ID即卷ID也建立对应。如果设备密钥、MKB、加密标题密钥及卷ID的组合不正确,则不能进行加密数据的解读。即,只有在它们的组合正确的情况下,才能生成上述的“密钥”即标题密钥。具体地讲,首先利用设备密钥、MKB及卷ID对加密标题密钥进行解密。只有由此导出了标题密钥时,才能把该标题密钥用作上述的“密钥”来解读加密数据。
即使希望利用再现装置来再现BD-ROM盘上的加密数据,例如如果在该再现装置内没有存储预先与该BD-ROM盘上的加密标题密钥、MKB以及卷ID建立对应的设备密钥,则不能再现该加密数据。这是因为,如果没有利用MKB、设备密钥以及卷ID的正确组合对加密标题密钥进行解密,就不能导出解读该加密数据时所需要的密钥即标题密钥。
为了保护应该在BD-ROM盘中记录的视频流和音频流中的至少某一方的著作权,首先利用标题密钥将保护对象的流进行加密,并记录在BD-ROM盘中。然后,根据MKB、设备密钥以及卷ID的组合来生成密钥,利用该密钥将上述的标题密钥进行加密,并变换为加密标题密钥。另外,将MKB、卷ID及加密标题密钥记录在BD-ROM盘中。只有具备生成上述的密钥时所使用的设备密钥的再现装置,才能通过解码器从该BD-ROM盘对被加密的视频流和/或音频流进行解码。这样,能够保护在BD-ROM盘中记录的数据的著作权。
以上所述的BD-ROM盘中的数据的著作权保护的结构,也能够适用于除BD-ROM盘之外的装置。例如,能够适用于可读写的半导体存储器装置、尤其是SD卡等可移动半导体存储卡。
<向利用电子分发的记录介质的数据记录>
下面,说明利用电子分发来向本发明的实施方式的再现装置传递3D影像的AV流文件等数据(以下称为分发数据),再使该再现装置将该分发数据记录在半导体存储卡中的处理。另外,下面的动作也可以通过专用于这种处理的终端装置替代上述的再现装置来实施。并且,设想记录目的地的半导体存储卡是SD存储卡的情况。
再现装置如上述那样具有卡槽。SD存储卡被插入到该卡槽中。在这种状态下,再现装置首先向网络上的分发服务器发送分发数据的发送请求。此时,再现装置从SD存储卡读取其识别信息,将该识别信息和发送请求一起发送给分发服务器。SD存储卡的识别信息例如是该SD存储卡固有的识别号码,更具体地讲,SD存储卡的识别信息是该SD存储卡的序列号。该识别信息被用作上述的卷ID。
在分发服务器中保存有分发数据。该分发数据中的、视频流和/或音频流等需要进行加密保护的数据,利用规定的标题密钥来被加密。该加密数据能够利用相同的标题密钥进行解密。
分发服务器保持着设备密钥作为与再现装置共用的私钥。分发服务器还保持与SD存储卡共用的MKB。分发服务器在从再现装置接收到分发数据的发送请求和SD存储卡的识别信息时,首先利用设备密钥、MKB及该识别信息生成密钥,利用该密钥对标题密钥进行加密,并生成加密标题密钥。
分发服务器接着生成公钥信息。该公钥信息例如包括上述的MKB、加密标题密钥、签名信息、SD存储卡的识别号码及设备列表。签名信息例如包括公钥信息的散列值。设备列表是应该被无效的装置、即具有非法地再现分发数据中的加密数据的危险性的设备的列表。在该列表中确定了例如再现装置的设备密钥、再现装置的识别号码、内置于再现装置中的解码器等各种部件的识别号码或者功能(程序)。
分发服务器还向再现装置发送分发数据和公钥信息。再现装置接收这些信息,并通过卡槽内的专用I/F记录在SD存储卡中。
在SD存储卡中记录的分发数据中的加密数据,例如能够如下地利用公钥信息进行解密。首先,进行下述的三种检查(1)-(3)作为公钥信息的认证。另外,这些检查可以按照任何顺序进行。
(1)公钥信息中包含的SD存储卡的识别信息、与插入在卡槽中的SD存储卡中存储的识别号码是否一致。
(2)根据公钥信息计算的散列值和签名信息中包含的散列值是否一致。
(3)该再现装置是否不包含在公钥信息所表示的设备列表中。具体地讲,该再现装置的设备密钥是否不包含在设备列表中。
在上述的检查(1)~(3)中的某一个检查的结果为否定时,再现装置中止加密数据的解密处理。相反,在上述的检查(1)~(3)的结果全部为肯定时,再现装置认可公钥信息的合法性,利用设备密钥、MKB及SD存储卡的识别信息,将公钥信息内的加密标题密钥解密为标题密钥。再现装置还使用该标题密钥将加密数据解密为例如视频流和/或音频流。
以上所述的结构具有以下优点。在进行电子分发时,在已经知道存在有可能非法使用的再现装置、部件及功能(程序)的情况下,将它们的识别信息列举在设备列表中,并作为公钥信息的一部分进行分发。另一方面,请求了数据分发的再现装置必须将该设备列表中的识别信息与该再现装置及其部件等的识别信息进行核对。由此,如果该再现装置或者其部件等被列举在设备列表中,则即使SD存储卡的识别号码、MKB、加密标题密钥及设备密钥的组合正确,该再现装置也不能将公钥信息用于分发数据内的加密数据的解密。这样,能够有效地抑制分发数据的非法使用。
半导体存储卡的识别信息优选保存在半导体存储卡内的记录区域中的、尤其是保密性高的记录区域中。这是因为,万一在该识别信息例如SD存储卡的序列号被非法篡改的情况下,将导致容易执行SD存储卡的违法复制。即,因为如果该篡改的结果为存在多个具有相同识别信息的半导体存储卡,则在上述的检查(1)中将不能识别正规产品和违法的复制产品。因此,必须将半导体存储卡的识别信息记录在保密性高的记录区域中,以保护其不被非法篡改。
在半导体存储卡内构成这种保密性高的记录区域的手段例如如下所述。首先,设置与通常的数据用的记录区域(以下称为第1记录区域)电分离的另一个记录区域(以下称为第2记录区域)。然后,在半导体存储卡内设置对第2记录区域的访问专用的控制电路。由此,使得只能通过该控制电路来访问第2记录区域。例如,在第2记录区域中只记录已被加密的数据,用于对该被加密的数据进行解密的电路只装配在控制电路内。由此,对第2记录区域内的数据的访问如果不使控制电路对该数据进行解密,就不能进行访问。此外,也可以只在控制电路中保持第2记录区域内的各个数据的地址。在这种情况下,第2记录区域内的数据的地址只能在控制电路中确定。
在半导体存储卡的识别信息被记录在第2记录区域中的情况下,在再现装置上工作的应用程序利用电子分发来从分发服务器获取数据并记录在半导体存储卡中的情况下,进行下面所述的处理。首先,该应用程序通过存储卡I/F向上述的控制电路发出针对在第2记录区域中记录的半导体存储卡的识别信息的访问请求。控制电路根据该请求,首先从第2记录区域读取该识别信息。控制电路接着经由存储卡I/F向上述的应用程序发送该识别信息。该应用程序然后将该识别信息和分发数据的发送请求一起发送给分发服务器。应用程序还将根据该请求从分发服务器接收的公钥信息和分发数据,通过存储卡I/F记录在半导体存储卡的第1记录区域中。
另外,优选地,上述的应用程序在向半导体存储卡内的控制电路发出上述的访问请求之前,检查该应用程序自身有无被篡改。该检查也可以利用例如依据于X.509的数字证书来进行。并且,分发数据如上述那样记录在半导体存储卡的第1记录区域中即可,对该分发数据的访问也可以不通过半导体存储卡内的控制电路进行控制。
<在实时记录中的适用>
在本发明的实施方式2中,前提是利用创作系统中的预记录(pre-recording)技术将AV流文件及播放列表文件记录在BD-ROM盘中并提供给用户。但是,AV流文件及播放列表文件也可以通过实时记录(real-timerecording),被记录在BD-RE盘、BD-R盘、硬盘、或者半导体存储卡等可写入的记录介质(以下略作BD-RE盘等)中,并提供给用户。在这种情况下,AV流文件可以是通过由记录装置对模拟输入信号进行实时解码而得到的传输流。此外,AV流文件也可以是通过由记录装置将数字输入的传输流部分化(partialization)而得到的传输流。
执行实时记录的记录装置包括视频编码器、音频编码器、复用器及源打包器。视频编码器对视频信号进行编码并变换为视频流。音频编码器对音频信号进行编码并变换为音频流。复用器对视频流和音频流进行复用,并变换为MPEG2-TS格式的数字流。源打包器将MPEG2-TS格式的数字流中的TS包变换为源包。记录装置将各个源包保存在AV流文件中,并写入到BD-RE盘等中。
与AV流文件的写入处理并行,记录装置的控制部在存储器中生成片段信息文件和播放列表文件,并写入到BD-RE盘等中。具体而言,在用户请求了录制处理时,控制部首先与AV流文件相应地生成片段信息文件,并写入到BD-RE盘等中。在该情况下,每当从由外部接收到的传输流中检测视频流内的一个GOP的开头时,或每当由视频编码器生成视频流内的一个GOP时,控制部取得位于该GOP的开头的I图片的PTS和保存了该GOP的开头的源包的SPN。控制部还将该PTS和SPN的对作为一个入口点,追加记述在片段信息文件的入口映射中。这里,向该入口点追加‘is_angle_change标志’。is_angle_change标志在该GOP的开头是IDR图片时,设定为“on”,在该GOP的开头不是IDR图片时,设定为“off”。在片段信息文件中还根据记录对象的流属性来设定流属性信息。这样,在AV流文件及片段信息文件被写入到BD-RE盘等中之后,控制部利用该片段信息文件内的入口映射,生成播放列表文件,并写入到BD-RE盘等中。
<受控复制>
本发明的实施方式的再现装置也可以通过受控复制,将BD-ROM盘101上的数字流写入其他记录介质中。所谓“受控复制”(managed copy)是这样一种技术,即,只有在通过与服务器的通信而进行的认证成功的情况下,才允许进行从BD-ROM盘等只读的记录介质向可写入式记录介质中复制数字流、播放列表文件、片段信息文件及应用程序。该可写入式记录介质包括BD-R、BD-RE、DVD-R、DVD-RW及DVD-RAM等可写入式光盘、硬盘,以及SD存储卡、记忆棒(memory stick)(注册商标)、紧致闪存(compactflash)(注册商标)、智能介质(smart media)(注册商标)和多媒体卡(注册商标)等可移动式半导体存储器装置。受控复制能够限制在只读记录介质中记录的数据的备份次数、并能实现针对备份处理的收费。
在进行从BD-ROM盘向BD-R盘或者BD-RE盘的受控复制的情况下,在两个盘的记录容量相同时,在复制源的盘中记录的比特流原样依次复制即可。
当在不同类型的记录介质之间进行受控复制时需要进行代码转换。其中,所谓“代码转换”(trans code)是使在复制源的盘中记录的数字流适合于复制目的地的记录介质的应用格式的处理。代码转换例如包括从MPEG2-TS格式变换为MPEG2程序流格式的处理,以及降低对视频流和音频流分别分配的比特率后重新编码的处理。在这种代码转换中,必须通过上述的实时记录来生成AV流文件、片段信息文件及播放列表文件。
<数据结构的记述方法>
本发明实施方式1的数据结构中被称为‘存在多个规定类型的信息’等重复结构能够通过在for语句中记述控制变量的初始值与重复条件来定义。并且,“在规定的条件成立时定义规定的信息”的数据结构,通过在if语句中记述其条件、和在条件成立时应该设定的变量来定义。这样,实施方式1的数据结构能够利用高级编程语言来记述。因此,该数据结构经过“语法分析”、“优化”、“资源分配”及“代码生成”这些基于编译器的翻译过程,被变换为计算机能够读取的代码,并记录在记录介质中。通过利用高级编程语言的记述,该数据结构作为在面向对象的语言中除类结构体的方法之外的部分、具体而言是该类结构体中的排列型的成员变量进行处理,并形成程序的一部分。即,该数据结构实质上与程序相同。因此,该数据结构应该作为计算机关联发明受到保护。
<基于再现程序的播放列表文件、片段信息文件的管理>
在将播放列表文件和AV流文件记录在记录介质中时,再现程序作为执行格式的文件被记录在该记录介质中。再现程序使计算机按照播放列表文件来再现AV流文件。再现程序被从记录介质加载到计算机内的存储器装置中之后,由该计算机执行。该加载处理包括编译处理或者链接处理。通过这些处理,再现程序在存储器装置内被划分为多个部分。这些部分包括text部分、data部分、bss部分、stack部分。text部分包括再现程序的代码串、变量的初始值、和不可改写的数据。data部分包括具有初始值的变量及可改写的数据。data部分尤其包括记录在记录介质中的随时被访问的文件。bss部分包括不具有初始值的变量。bss部分内的数据按照text部分内的代码所表示的命令而被参照。在编译处理或者链接处理中,在计算机内的RAM中确保bss部分用的区域。stack部分是根据需要暂时确保的存储器区域。在基于再现程序的各个处理中,暂时使用局部变量。stack部分包括这些局部变量。在开始执行程序时,bss部分内的变量被初始化为零,在stack部分确保必要的存储器区域。
播放列表文件和片段信息文件如上所述,在记录介质中已经被变换为计算机可以读取的代码。因此,在执行再现程序时,这些文件作为text部分中的“不可改写的数据”、或者data部分中的“随时被访问的文件”进行管理。即,播放列表文件和片段信息文件在执行再现程序时被装配在其构成要素中。因此,播放列表文件和片段信息文件在再现程序中发挥超过单纯的数据提示的作用。
工业实用性
本发明涉及立体视觉影像的再现技术,如上所述,使再现装置选择显示对象的帧。这样,本发明明显能够在工业上利用。
符号说明
P3D 3D影像的再现期间
P2D 2D影像的再现期间
3D表示‘3D再现模式’的再现模式的值
2D表示‘2D再现模式’的再现模式的值
L左视点帧
R右视点帧
104快门眼镜
LSL快门眼镜104将左镜片变透明的期间
LSR快门眼镜104将右镜片变透明的期间
T1第1时刻
T2第2时刻

Claims (16)

1.一种发送装置,用于发送包括立体视觉影像的左视点帧和右视点帧以及控制信息的流数据,具备:
控制部,在用户的操作或应用程序的指示表示使所述流数据的发送目的地的装置在立体视觉影像的一个帧期间对一对左视点帧和右视点帧进行处理的情况下,将3D再现模式设定于所述控制信息中,在表示仅对左视点帧或右视点帧进行处理的情况下,将2D再现模式设定于所述控制信息中;
格式变换部,不管所述控制信息表示3D再现模式和2D再现模式中的哪一种,都将所述流数据变换为规定的发送形式,以在立体视觉影像的一个帧期间发送一对左视点帧和右视点帧;以及
发送部,发送所述发送形式的流数据。
2.根据权利要求1所述的发送装置,其中,
在所述流数据中还复用了构成平面视觉图形影像的图形流,
所述格式变换部,
根据所述图形流生成图形平面;
在所述控制信息表示3D再现模式的情况下,对所述图形平面提供水平坐标的左方向偏移和右方向偏移,合成到左视点帧和右视点帧的每一方;
在所述控制信息表示2D再现模式的情况下,将所述图形平面原样合成到左视点帧和右视点帧的每一方。
3.根据权利要求1所述的发送装置,其中,
在所述流数据中还复用了构成平面视觉图形影像的图形流,
所述格式变换部,
根据所述图形流生成图形平面;
不管所述控制信息表示3D再现模式和2D再现模式中的哪一种,都对所述图形平面提供水平坐标的左方向偏移和右方向偏移,合成到左视点帧和右视点帧的每一方。
4.根据权利要求1所述的发送装置,其中,
所述格式变换部采用基于HDMI标准的形式作为所述发送形式,将所述控制信息变换为AVI信息帧。
5.一种发送方法,用于发送包括立体视觉影像的左视点帧和右视点帧以及控制信息的流数据,包括如下步骤:
接受用户的操作或应用程序的指示;
在所述用户的操作或应用程序的指示表示使所述流数据的发送目的地的装置在立体视觉影像的一个帧期间对一对左视点帧和右视点帧进行处理的情况下,将3D再现模式设定于所述控制信息中;
在所述用户的操作或应用程序的指示表示使所述流数据的发送目的地的装置在立体视觉影像的一个帧期间仅对左视点帧或右视点帧进行处理的情况下,将2D再现模式设定于所述控制信息中;
不管所述控制信息表示3D再现模式和2D再现模式中的哪一种,都将所述流数据变换为规定的发送形式,以在立体视觉影像的一个帧期间发送一对左视点帧和右视点帧;以及
发送所述发送形式的流数据。
6.一种接收装置,用于接收包括立体视觉影像的左视点帧和右视点帧以及控制信息的流数据,具备:
接收部,接收被变换为规定的发送形式的所述流数据;以及
信号处理部,从所述发送形式的流数据中交替提取左视点帧和右视点帧,并在立体视觉影像的一个帧期间,在所述控制信息表示3D再现模式的情况下送出一对左视点帧和右视点帧,在表示2D再现模式的情况下仅送出左视点帧或右视点帧;
在所述控制信息表示2D再现模式的情况下,所述信号处理部在立体视觉影像的整个一个帧期间送出一个左视点帧或一个右视点帧。
7.一种接收装置,用于接收包括立体视觉影像的左视点帧和右视点帧以及控制信息的流数据,具备:
接收部,接收被变换为规定的发送形式的所述流数据;以及
信号处理部,从所述发送形式的流数据中交替提取左视点帧和右视点帧,并在立体视觉影像的一个帧期间,在所述控制信息表示3D再现模式的情况下送出一对左视点帧和右视点帧,在表示2D再现模式的情况下仅送出左视点帧或右视点帧;
在所述控制信息表示2D再现模式的情况下,所述信号处理部根据一对左视点帧和右视点帧,重构一个左视点帧或一个右视点帧,并在立体视觉影像的整个一个帧期间送出该左视点帧或该右视点帧。
8.根据权利要求6或7所述的接收装置,其中,
所述接收部采用基于HDMI标准的形式作为所述发送形式,从AVI信息帧中取得所述控制信息。
9.一种接收方法,用于接收包括立体视觉影像的左视点帧和右视点帧以及控制信息的流数据,包括如下步骤:
接收被变换为规定的发送形式的所述流数据;
从所述发送形式的流数据中交替提取左视点帧和右视点帧;
在所述控制信息表示3D再现模式的情况下,在立体视觉影像的一个帧期间,送出一对左视点帧和右视点帧;以及
在所述控制信息表示2D再现模式的情况下,在立体视觉影像的一个帧期间,仅送出左视点帧或右视点帧,
在所述控制信息表示2D再现模式的情况下,在立体视觉影像的整个一个帧期间送出一个左视点帧或一个右视点帧。
10.一种显示装置,用于将立体视觉影像显示在画面上,具备:
接收部,接收包括立体视觉影像的左视点帧和右视点帧以及控制信息的流数据;
信号处理部,从所述流数据中交替提取左视点帧和右视点帧,在立体视觉影像的一个帧期间,在所述控制信息表示3D再现模式的情况下送出一对左视点帧和右视点帧,在所述控制信息表示2D再现模式的情况下仅送出左视点帧或右视点帧;
显示部,将从所述信号处理部送出的帧在画面上各显示规定时间;以及
左右信号发送部,该左右信号发送部不管所述控制信息表示3D再现模式和2D再现模式中的哪一种,都对快门眼镜指示将左右镜片与所述显示部进行的帧切换同步地交替变为不透明。
11.根据权利要求10所述的显示装置,其中,
在所述控制信息表示2D再现模式的情况下,所述信号处理部在立体视觉影像的一个帧期间,将一个左视点帧或一个右视点帧送出两次。
12.根据权利要求10所述的显示装置,其中,
在所述控制信息表示2D再现模式的情况下,所述信号处理部在立体视觉影像的整个一个帧期间送出一个左视点帧或右视点帧。
13.根据权利要求10所述的显示装置,其中,
在所述控制信息表示2D再现模式的情况下,所述信号处理部根据一对左视点帧和右视点帧,重构一个左视点帧或一个右视点帧,并在立体视觉影像的整个一个帧期间送出该左视点帧或该右视点帧。
14.根据权利要求12或13所述的显示装置,其中,
还具备左右信号发送部,该左右信号发送部在所述控制信息表示3D再现模式的期间,对快门眼镜指示将左右镜片交替变为不透明,在所述控制信息表示2D再现模式的期间,对快门眼镜指示将左右双方的镜片维持透明。
15.根据权利要求10所述的显示装置,其中,
所述接收部采用基于HDMI标准的形式,从AVI信息帧中取得所述控制信息。
16.一种显示方法,用于使显示装置显示立体视觉影像,包括如下步骤:
使所述显示装置接收包括立体视觉影像的左视点帧和右视点帧以及控制信息的流数据;
使所述显示装置内的信号处理部从所述流数据中交替提取左视点帧和右视点帧;
在所述控制信息表示3D再现模式的情况下,使所述信号处理部在立体视觉影像的一个帧期间送出一对左视点帧和右视点帧;
在所述控制信息表示2D再现模式的情况下,使所述信号处理部在立体视觉影像的一个帧期间仅送出左视点帧或右视点帧;
在所述显示装置的画面上,将从所述信号处理部送出的帧各显示规定时间;以及
不管所述控制信息表示3D再现模式和2D再现模式中的哪一种,都对快门眼镜指示将左右镜片与所述显示装置进行的帧切换同步地交替变为不透明。
CN201080009423.XA 2009-12-28 2010-12-24 显示装置和方法、发送装置和方法、以及接收装置和方法 Expired - Fee Related CN102334338B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US29032609P 2009-12-28 2009-12-28
US61/290,326 2009-12-28
PCT/JP2010/007524 WO2011080911A1 (ja) 2009-12-28 2010-12-24 表示装置と方法、送信装置と方法、及び受信装置と方法

Publications (2)

Publication Number Publication Date
CN102334338A CN102334338A (zh) 2012-01-25
CN102334338B true CN102334338B (zh) 2015-04-22

Family

ID=44226337

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201080009423.XA Expired - Fee Related CN102334338B (zh) 2009-12-28 2010-12-24 显示装置和方法、发送装置和方法、以及接收装置和方法

Country Status (4)

Country Link
US (1) US8538234B2 (zh)
JP (1) JP5457465B2 (zh)
CN (1) CN102334338B (zh)
WO (1) WO2011080911A1 (zh)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20110029319A (ko) * 2009-09-15 2011-03-23 삼성전자주식회사 영상 처리 시스템 및 영상 처리 방법
US9420259B2 (en) 2011-05-24 2016-08-16 Comcast Cable Communications, Llc Dynamic distribution of three-dimensional content
US20130169762A1 (en) * 2011-07-15 2013-07-04 Hitachi Consumer Electronics, Ltd. Receiving apparatus, receiving method and transmitting apparatus
KR20140044283A (ko) * 2011-08-04 2014-04-14 소니 주식회사 송신 장치, 송신 방법 및 수신 장치
JP2013051660A (ja) * 2011-08-04 2013-03-14 Sony Corp 送信装置、送信方法および受信装置
CN103595985B (zh) * 2012-08-13 2016-01-27 辉达公司 3d显示设备、3d显示系统及显示3d 图像的方法
KR20140066546A (ko) * 2012-11-23 2014-06-02 삼성전자주식회사 디스플레이 장치 및 그 제어 방법
US10142108B2 (en) * 2013-06-17 2018-11-27 Qube Cinema, Inc. Copy protection scheme for digital audio and video content authenticated HDCP receivers
US20170012798A1 (en) * 2014-03-03 2017-01-12 Sony Corporation Transmission apparatus, transmission method, reception apparatus, and reception method
US9348495B2 (en) 2014-03-07 2016-05-24 Sony Corporation Control of large screen display using wireless portable computer and facilitating selection of audio on a headphone
CN106463125B (zh) * 2014-04-25 2020-09-15 杜比实验室特许公司 基于空间元数据的音频分割
US9628863B2 (en) * 2014-06-05 2017-04-18 Palmwin Information Technology (Shanghai) Co. Ltd. Interactively combining end to end video and game data
CN104065944B (zh) * 2014-06-12 2016-08-17 京东方科技集团股份有限公司 一种超高清三维转换装置及三维显示系统
CN105227946B (zh) * 2014-07-04 2018-10-26 上海广播电视台 3d视频分解装置
CN105320684B (zh) * 2014-07-28 2019-03-01 中国传媒大学 隐藏字幕的数据交换方法
CN105765657B (zh) * 2014-09-10 2020-01-31 松下电器(美国)知识产权公司 记录介质、再现装置以及再现方法
TWI566229B (zh) * 2015-06-03 2017-01-11 友達光電股份有限公司 顯示裝置之時序控制器及其操作方法
CN108696471A (zh) * 2017-02-21 2018-10-23 科通环宇(北京)科技有限公司 基于avs2的码流封装方法、码流、解码方法及装置
JP2019029876A (ja) * 2017-07-31 2019-02-21 パナソニックIpマネジメント株式会社 画像処理装置、カメラ装置及び出力制御方法
KR102471492B1 (ko) * 2017-12-27 2022-11-28 삼성전자 주식회사 디스플레이장치 및 그 제어방법
US10951875B2 (en) 2018-07-03 2021-03-16 Raxium, Inc. Display processing circuitry
CN112188181B (zh) * 2019-07-02 2023-07-04 中强光电股份有限公司 图像显示设备、立体图像处理电路及其同步信号校正方法
EP4107719A4 (en) * 2020-02-21 2023-10-11 Qualcomm Incorporated REDUCED DISPLAY PROCESSING UNIT TRANSFER TIME TO COMPENSATE FOR GRAPHICS PROCESSING UNIT RENDERING DELAY

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1496177A (zh) * 2002-09-17 2004-05-12 ������������ʽ���� 具有二维和三维显示功能的电子设备
CN1618237A (zh) * 2001-12-28 2005-05-18 韩国电子通信研究院 支持多显示模式的立体视频编码/译码装置及其方法
CN1638492A (zh) * 2003-11-28 2005-07-13 三洋电机株式会社 立体图像显示通信装置
CN102150433A (zh) * 2008-09-18 2011-08-10 松下电器产业株式会社 立体视觉影像再现装置及立体视觉影像显示装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07336729A (ja) 1994-06-10 1995-12-22 Canon Inc 画像表示装置
EP2101496B1 (en) 1996-02-28 2013-01-23 Panasonic Corporation High-resolution optical disk for recording stereoscopic video, optical disk reproducing device and optical disk recording device
JP4602737B2 (ja) * 2004-10-25 2010-12-22 シャープ株式会社 映像表示装置
JP5055570B2 (ja) 2006-08-08 2012-10-24 株式会社ニコン カメラおよび画像表示装置並びに画像記憶装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1618237A (zh) * 2001-12-28 2005-05-18 韩国电子通信研究院 支持多显示模式的立体视频编码/译码装置及其方法
CN1496177A (zh) * 2002-09-17 2004-05-12 ������������ʽ���� 具有二维和三维显示功能的电子设备
CN1638492A (zh) * 2003-11-28 2005-07-13 三洋电机株式会社 立体图像显示通信装置
CN102150433A (zh) * 2008-09-18 2011-08-10 松下电器产业株式会社 立体视觉影像再现装置及立体视觉影像显示装置

Also Published As

Publication number Publication date
JP5457465B2 (ja) 2014-04-02
JPWO2011080911A1 (ja) 2013-05-09
US8538234B2 (en) 2013-09-17
WO2011080911A1 (ja) 2011-07-07
CN102334338A (zh) 2012-01-25
US20110305443A1 (en) 2011-12-15

Similar Documents

Publication Publication Date Title
CN102334338B (zh) 显示装置和方法、发送装置和方法、以及接收装置和方法
CN102362504B (zh) 记录方法及再现装置
JP5480915B2 (ja) 表示装置と方法、記録媒体、送信装置と方法、及び再生装置と方法
CN102138335B (zh) 再现装置、记录方法及记录介质再现系统
CN102113334B (zh) 再现装置、记录方法及记录介质再现系统
CN102685514B (zh) 再生装置、记录方法及记录介质再生系统
CN102027750B (zh) 记录介质、再现装置及集成电路
US8270807B2 (en) Recording medium, playback device, and integrated circuit
CN101953170A (zh) 记录介质、再现装置及集成电路

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
C41 Transfer of patent application or patent right or utility model
TR01 Transfer of patent right

Effective date of registration: 20151021

Address after: Osaka Japan

Patentee after: PANASONIC INTELLECTUAL PROPERTY MANAGEMENT Co.,Ltd.

Address before: Osaka Japan

Patentee before: Matsushita Electric Industrial Co.,Ltd.

CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20150422

Termination date: 20191224