CN109791707A - 再现装置、再现方法、记录装置、记录方法、再现/记录装置、再现/记录方法以及程序 - Google Patents
再现装置、再现方法、记录装置、记录方法、再现/记录装置、再现/记录方法以及程序 Download PDFInfo
- Publication number
- CN109791707A CN109791707A CN201780059930.6A CN201780059930A CN109791707A CN 109791707 A CN109791707 A CN 109791707A CN 201780059930 A CN201780059930 A CN 201780059930A CN 109791707 A CN109791707 A CN 109791707A
- Authority
- CN
- China
- Prior art keywords
- editor
- data
- mobile image
- free view
- point mobile
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/30—Polynomial surface description
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T13/00—Animation
- G06T13/20—3D [Three Dimensional] animation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/10—Geometric effects
- G06T15/20—Perspective computation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/20—Finite element generation, e.g. wire-frame surface description, tesselation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/172—Processing image signals image signals comprising non-image signal components, e.g. headers or format information
- H04N13/178—Metadata, e.g. disparity information
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/189—Recording image signals; Reproducing recorded image signals
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Geometry (AREA)
- Computer Graphics (AREA)
- Software Systems (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computing Systems (AREA)
- Mathematical Optimization (AREA)
- Algebra (AREA)
- Mathematical Analysis (AREA)
- Library & Information Science (AREA)
- Mathematical Physics (AREA)
- Pure & Applied Mathematics (AREA)
- Processing Or Creating Images (AREA)
- Television Signal Processing For Recording (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Image Generation (AREA)
Abstract
本公开涉及一种能够支持更适当的3D模型显示的再现装置、再现方法、记录装置、记录方法、再现/记录装置、再现/记录方法和程序。再现处理单元再现包括自由视点移动图像流和编辑数据流的自由视点移动图像内容,并且参照在编辑数据中设置的附加信息根据在构成所述编辑数据流的所述编辑数据中设置的基本信息来控制在由所述自由视点移动图像流重建的空间中排列的3D模型的显示。本技术可以应用于,例如,能够再现自由视点移动图像内容的再现装置。
Description
技术领域
本公开涉及一种再现装置、再现方法、记录装置、记录方法、再现/记录装置、再现/记录方法和程序,更具体地,涉及一种能够支持更适当的3D模型显示的再现装置、再现方法、记录装置、记录方法、再现/记录装置、再现/记录方法和程序。
背景技术
通常,在用户可以上传移动图像的分发站点上分发诸如用户生成内容(UGC)等移动图像内容,并且在商业分发站点上免费或收费分发诸如电影和戏剧等移动图像内容。在相关领域中,上述移动图像内容中的大多数是2D移动图像内容,其中,在内容生成时通过相机工作固定眼睛方向和视点位置。
相反,近年来,可以创建可以自由改变眼睛方向的移动图像内容(在下文中称为全向移动图像内容)。在全向移动图像内容中,例如,可以通过根据面部方向使用头戴式显示器来改变眼睛方向,因此,可以实现更高的现实感,并且预计在未来会进行广泛使用。
此外,在未来,假设广泛使用移动图像内容(在下文中称为“自由视点移动图像内容”),其中,可以以类似于全向移动图像内容的方式改变眼睛方向,并且眼睛方向可以在由移动图像重建的空间中自由移动。
例如,专利文献1公开了一种元数据结构,其中,与要输出的移动图像的大小和位置相关联的信息等可以编辑为与移动图像数据相关联的元数据。另外,专利文献2公开了一种再现装置,该再现装置能够基于包括再现属性信息等的播放列表、根据年龄启用显示系统的流信息表等选择显示格式。
引用列表
专利文献
专利文献1:日本专利申请特开第2006-14090号
专利文献2:日本专利申请特开第2012-213220号
发明内容
待由本发明解决的问题
顺便提及,在游戏等中,通过渲染物体和纹理数据来创建排列3D模型的自由视点可见。在上述的自由视点移动图像内容中,可以将数据作为与2D移动图像内容和全向移动图像内容不同的3D模型,然而,根据各种情况无法适当地显示3D模型。
本公开是针对上述情况提出的,并且涉及支持更适当的3D模型显示。问题的解决方案
根据本公开的第一方面的再现装置包括:再现处理单元,该再现处理单元适用于再现自由视点移动图像内容,自由视点移动图像内容包括自由视点移动图像流和编辑数据流;以及显示控制单元,该显示控制单元适用于参照在编辑数据中设置的附加信息根据在构成编辑数据流的编辑数据中设置的基本信息来控制在由自由视点移动图像流重建的空间中排列的3D模型的显示。
根据本公开的第一方面的再现方法或程序包括以下步骤:再现自由视点移动图像内容,自由视点移动图像内容包括自由视点移动图像流和编辑数据流;以及参照在编辑数据中设置的附加信息,根据在构成编辑数据流的编辑数据中设置的基本信息来控制在由自由视点移动图像流重建的空间中排列的3D模型的显示。
根据本公开的第一方面,再现自由视点移动图像内容,自由视点移动图像内容包括自由视点移动图像流和编辑数据流,并且参照在编辑数据中设置的附加信息根据在构成编辑数据流的编辑数据中设置的基本信息来控制在由自由视点移动图像流重建的空间中排列的3D模型的显示。
根据本公开的第二方面的记录装置包括:编辑内容获取单元,该编辑内容获取单元适用于获取针对附加信息的编辑内容,该附件信息是在根据在编辑数据中设置的基本信息控制3D模型的显示时要参照的,3D模型排列在由自由视点移动图像流重建的空间中,编辑数据构成包括自由视点移动图像流和编辑数据流的自由视点移动图像内容的编辑数据流;编辑数据设置单元,该编辑数据设置单元适用于根据由编辑内容获取单元获取的编辑内容编辑构成编辑数据流的编辑数据的附加信息;以及记录处理单元,该记录处理单元适用于在记录单元中将由编辑数据设置单元编辑的编辑数据流和对应于编辑数据流的自由视点移动图像流记录为自由视点移动图像内容。
根据本公开的第二方面的记录方法或程序包括以下步骤:获取针对附加信息的编辑内容,该附件信息是在根据在编辑数据中设置的基本信息控制3D模型的显示时要参照的,3D模型排列在由自由视点移动图像流重建的空间中,编辑数据构成包括自由视点移动图像流和编辑数据流的自由视点移动图像内容的编辑数据流;根据所获取的编辑内容,编辑构成编辑数据流的编辑数据的附加信息;以及在记录单元中将所编辑的编辑数据流和对应于编辑数据流的自由视点移动图像流记录为自由视点移动图像内容。
根据本公开的第二方面,获取针对附加信息的编辑内容,该附件信息是在根据在编辑数据中设置的基本信息控制3D模型的显示时要参照的,3D模型排列在由自由视点移动图像流重建的空间中,编辑数据构成包括自由视点移动图像流和编辑数据流的自由视点移动图像内容的编辑数据流;根据所获取的编辑内容,编辑构成编辑数据流的编辑数据的附加信息;以及在记录单元中将所编辑的编辑数据流和对应于编辑数据流的自由视点移动图像流记录为自由视点移动图像内容。
根据本公开的第三方面的再现/记录装置包括:再现处理单元,该再现处理单元适用于再现自由视点移动图像内容,自由视点移动图像内容包括自由视点移动图像流和编辑数据流;显示控制单元,该显示控制单元适用于参照在编辑数据中设置的附加信息根据在构成编辑数据流的编辑数据中设置的基本信息来控制在由自由视点移动图像流重建的空间中排列的3D模型的显示;编辑内容获取单元,该编辑内容获取单元适用于获取在根据在编辑数据中设置的基本信息控制3D模型的显示时要参照的附加信息的编辑内容,3D模型排列在由自由视点移动图像流重建的空间中,编辑数据构成包括自由视点移动图像流和编辑数据流的自由视点移动图像内容的编辑数据流;编辑数据设置单元,该编辑数据设置单元适用于根据由编辑内容获取单元获取的编辑内容编辑构成编辑数据流的编辑数据的附加信息;以及记录处理单元,该记录处理单元适用于在记录单元中将由编辑数据设置单元编辑的编辑数据流和对应于编辑数据流的自由视点移动图像流记录为自由视点移动图像内容。
根据本公开的第三方面的再现/记录方法或程序在再现自由视点移动图像内容时包括以下步骤:再现自由视点移动图像内容,自由视点移动图像内容包括自由视点移动图像流和编辑数据流;以及参照在编辑数据中设置的附加信息,根据在构成编辑数据流的编辑数据中设置的基本信息来控制在由自由视点移动图像流重建的空间中排列的3D模型的显示,并且该方法或程序在记录自由视点移动图像内容时进一步包括:获取针对附加信息的编辑内容,该附件信息是在根据在编辑数据中设置的基本信息控制3D模型的显示时要参照的,3D模型排列在由自由视点移动图像流重建的空间中,编辑数据构成包括自由视点移动图像流和编辑数据流的自由视点移动图像内容的编辑数据流;根据所获取的编辑内容,编辑构成编辑数据流的编辑数据的附加信息;以及在记录单元中将所编辑的编辑数据流和对应于编辑数据流的自由视点移动图像流记录为自由视点移动图像内容。
根据本公开的第三方面,当再现自由视点移动图像内容时,再现包括自由视点移动图像流和编辑数据流的自由视点移动图像内容,并且参照在编辑数据中设置的附加信息根据在构成编辑数据流的编辑数据中设置的基本信息来控制在由自由视点移动图像流重建的空间中排列的3D模型的显示。另一方面,当记录自由视点移动图像内容时,获取针对附加信息的编辑内容,该附件信息是在根据在编辑数据中设置的基本信息控制3D模型的显示时要参照的,3D模型排列在由自由视点移动图像流重建的空间中,编辑数据构成包括自由视点移动图像流和编辑数据流的自由视点移动图像内容的编辑数据流;根据所获取的编辑内容,编辑构成编辑数据流的编辑数据的附加信息;以及在记录单元中将所编辑的编辑数据流和对应于编辑数据流的自由视点移动图像流记录为自由视点移动图像内容。
发明效果
根据本公开的一个方面,可以支持更适当的3D模型显示。
附图说明
图1是图示了记录/再现装置的实施例的示例性配置的框图。
图2是图示了自由视点移动图像内容的示例性数据结构的示意图。
图3是图示了包括在编辑数据中的各种信息的示例的示意图。
图4是图示了优先级信息的示例的示意图。
图5是描述参照优先级信息对3D模型进行显示控制的视图。
图6是描述再现自由视点移动图像内容的再现处理的流程图。
图7是图示了优先级信息的修改示例的示意图。
图8是描述使用1比特优先级信息进行再现处理的流程图。
图9是图示了添加有观看年龄限制信息的编辑数据的示意图。
图10是图示了使用观看年龄限制信息进行再现处理的流程图。
图11是图示了记录自由视点移动图像内容的记录处理的流程图。
图12是图示了应用本技术的计算机的实施例的示例性配置的框图。
具体实施方式
在下文中,将参照附图详细描述应用本技术的特定实施例。
<记录/再现装置的示例性配置>
图1是图示了应用本技术的记录/再现装置的一个实施例的示例性配置的框图。
如图1所图示的,记录/再现装置11可以通过连接操作单元12、显示单元13和数据输入单元14使用,并且包括内容记录单元21、再现处理单元22/3D模型构建单元23、显示控制单元24、编辑内容获取单元25、编辑数据设置单元26和记录处理单元27。例如,记录/再现装置11可以记录并再现自由视点移动图像内容,该自由视点移动图像内容可以在空间上移动并且可以从不同视点位置沿着任何任意眼睛方向观看。
操作单元12经由,例如,如同远程控制器等有线或无线通信根据用户的操作向记录/再现装置11提供各种操作。例如,操作单元12根据用户的操作向记录/再现装置11提供:在再现自由视点移动图像内容时针对眼睛方向和视点位置提供命令的操作信号;在记录自由视点移动图像内容时针对编辑内容提供命令的操作信号等。
显示单元13显示要由记录/再现装置11再现的移动图像内容。例如,当自由视点移动图像内容由记录/再现装置11再现时,在显示单元13上从与用户的操作同步的视点位置显示与用户的面部方向同步的眼睛方向上的自由视点移动图像。
数据输入单元14执行将要由记录/再现装置11记录和再现的移动图像内容输入到记录/再现装置11。
内容记录单元21记录经由数据输入单元14接收到的移动图像内容。例如,内容记录单元21记录自由视点移动图像内容,该自由视点移动图像内容包括随后参照图2描述的自由视点移动图像流和编辑数据流。
再现处理单元22从内容记录单元21读取移动图像内容并对其进行解码,并且执行处理以再现移动图像内容。另外,在再现自由视点移动图像内容时,例如,再现处理单元22向3D模型构建单元23提供构成自由视点移动图像内容的编辑数据流,并且进一步向显示控制单元24提供构成自由视点移动图像内容的自由视点移动图像流。
3D模型构建单元23根据在构成从再现处理单元22提供的编辑数据流的编辑数据中设置的基本信息(例如,图2所图示的3D模型信息、操作信息和位置信息)来构建在空间中排列的3D模型,该空间是由在记录/再现装置11中再现的自由视点移动图像流重建的。例如,3D模型构建单元23根据预设对象和纹理构建3D模型,生成3D模型显示数据以便以预设大小、预设的排列位置等提供3D模型的布局,并且向显示控制单元24提供所生成的3D模型显示数据。
显示控制单元24执行显示控制,使得以在空间中的规定布局排列在3D模型构建单元23中构建的3D模型,该空间由根据从再现处理单元22提供的自由视点移动图像流重建的全向移动图像表示。然后,显示控制单元24向显示单元13提供自由视点移动图像,该自由视点移动图像可以从符合用户的操作的眼睛方向和视点位置观看,并且使显示单元13显示自由视点移动图像。另外,显示控制单元24参照在编辑数据中设置的附加信息,并且针对随后描述的3D模型执行显示控制。
在记录/再现装置11中记录自由视点移动图像内容时,编辑内容获取单元25基于从操作单元12根据用户的操作提供的操作信号来针对自由视点移动图像内容获取编辑内容,并且向编辑数据设置单元26提供所获取的编辑内容。要注意的是,例如,编辑内容获取单元25还可以针对已经记录在内容记录单元21中的自由视点移动图像内容获取编辑内容。
在记录/再现装置11中记录自由视点移动图像内容时,在编辑数据设置单元26中经由数据输入单元14接收构成自由视点移动图像内容的编辑数据流。然后,编辑数据设置单元26根据从编辑内容获取单元25提供的编辑内容针对构成编辑数据流的编辑数据执行设置(编辑),并且向记录处理单元27提供编辑数据流。例如,编辑数据设置单元26将随后描述的优先级信息、观看年龄限制信息等编辑为在编辑数据中设置的附加信息。
记录处理单元27执行处理以对要在内容记录单元21中记录的移动图像内容进行编码,并且向内容记录单元21提供所编码的内容。例如,在记录/再现装置11上记录自由视点移动图像内容时,在记录处理单元27中经由数据输入单元14接收构成自由视点移动图像内容的自由视点移动图像流。然后,记录处理单元27对从编辑数据设置单元26提供的自由视点移动图像流和编辑数据流进行编码,并且在内容记录单元21中将编码流记录为自由视点移动图像内容。
例如,在再现自由视点移动图像内容时,具有上述配置的记录/再现装置11针对由3D模型构建单元23构建的3D模型参照在显示控制单元24中设置在编辑数据中的附加信息执行显示控制。利用这种显示控制,记录/再现装置11可以根据与相关领域中的附加信息相比更适当的附加信息的设置(编辑)来支持3D显示模型。
<自由视点移动图像内容的数据结构>
将参照图2和3描述要在记录/再现装置11中再现的自由视点移动图像内容的数据结构。
如图2所图示的,例如,自由视点移动图像内容包括:自由视点移动图像流,该自由视点移动图像流用于再现全向移动图像,该全向移动图像表示眼睛方向可以自由改变并且视点位置可以自由移动的空间;以及编辑数据流,该编辑数据流用于在不改变原始数据的情况下针对3D模型应用编辑。
另外,在可以在自由视点移动图像内容中编辑多个3D模型的情况下,编辑数据流包括图2所图示的相应3D模型的多条编辑数据的聚合。通常,对移动图像数据进行编码,并且有必要对移动图像数据进行一次解码,随后编辑解码后的数据,然后再次对所编辑的数据进行编码以便编辑移动图像数据的一部分,因此,例如,编辑数据用于在不改变原始移动图像数据的情况下执行合适编辑。因此,可以容易地执行移动图像数据的部分编辑。
编辑数据包括针对在自由视点移动图像内容中重建的空间中排列的可编辑3D模型设置的信息,并且包括时间信息、3D模型信息、操作信息、位置信息和附加信息。
图3图示了编辑数据包括的示例性信息。
在时间信息中,例如,将开始显示3D模型的开始时间和结束显示3D模型的结束时间设置为指示3D模型的显示时段的信息。
在3D模型信息中,例如,将3D模型本身的数据(换言之,表示3D模型的形状的对象和表示3D模型的表面纹理的纹理)、识别3D模型的ID等设置为指示3D模型的信息。
在操作信息中,例如,将3D模型的旋转、3D模型的放大或缩小、3D模型的删除、3D模型的透明等设置为指示3D模型的操作的信息。
在位置信息中,例如,将3D模型的坐标等设置为指示3D模型在空间中的位置的信息。
例如,在附加信息中,例如,将优先级信息、观看年龄限制信息等设置为在显示在自由视点移动图像内容中重建的空间中排列的可编辑3D模型时要参照的附加信息。
例如,优先级信息是用于唯一地显示多个3D模型的信息,并且可以通过如图4所图示的那样使用数值来设置。图4所图示的示例指示:优先级信息的数值越大,优先级越高;并且优先级信息的数值越小,优先级越低。例如,当根据编辑数据排列多个3D模型时,并且在具有一些3D模型的表面彼此重合的布局的情况下,控制显示,使得具有较高优先级的3D模型的表面显示在前侧,并且具有较低优先级的3D模型的表面位于后侧。
同时,将在自由视点移动图像内容中重建的空间中的现有3D模型的优先级信息设置为0。另外,在优先级信息的数值在多个3D模型中相同的情况下,未在优先级信息中确定优先显示哪一个3D模型。
记录/再现装置11可以通过使用具有上述数据结构的编辑数据来适当地控制在自由视点移动图像内容中重建的空间中排列的3D模型的显示。换言之,记录/再现装置11可以通过在不直接改变自由视点移动图像流的情况下编辑与自由视点移动图像流分开提供的编辑数据流来容易地执行编辑工作。另外,记录/再现装置11可以通过具有添加有优先级信息以及时间信息、3D模型信息、操作信息和位置信息的数据结构来根据各种情况适当地显示3D模型。
将参照图5描述参照优先级信息的3D模型的显示控制。
例如,将针对具有由于如图5所图示的那样编辑了3D模型A和3D模型B的排列位置使得3D模型A的表面与3D模型B的表面彼此重合的布局的示例提供描述。同时,在未使用优先级信息的情况下,无法唯一地确定将3D模型A的表面和3D模型B的表面中的哪一个显示在前侧。
相反,例如,在3D模型A的优先级设置为1并且3D模型B的优先级设置为4的情况下,显示控制单元24参照相应的优先级信息,并且执行显示控制,使得如图5的A所图示的那样将3D模型B的表面显示在前侧。
另外,例如,假设在现有3D模型A存在于在自由视点移动图像内容中重建的空间中时,3D模型B的优先级信息设置为-1。在这种情况下,现有3D模型A的优先级信息是0,并且显示控制单元24参照相应的优先级信息,并且可以执行显示控制,使得如图5的B所图示的那样将3D模型A的表面显示在前侧。
因此,由于显示控制单元24参照由图4所图示的数字表示的优先级信息,所以即使在多个3D模型的表面彼此重合的情况下,也可以适当地显示相应的3D模型。此处,由于优先级信息由数值表示并且现有3D模型的优先级信息设置为0,所以可以适当地执行基于与已经排列在空间中的3D模型的关系的显示控制。
<自由视点移动图像内容的再现处理>
接下来,图6是描述再现自由视点移动图像内容的再现处理的流程图。例如,由用户选择要再现的自由视点移动图像内容,并且当执行提供再现命令的操作时,开始再现处理。
在步骤S11中,再现处理单元22根据用户的操作从内容记录单元21读取要再现的自由视点移动图像内容,并且对自由视点移动图像内容进行解码。然后,再现处理单元22向3D模型构建单元23提供编辑数据流,并且根据自由视点移动图像内容的再现时间进一步向显示控制单元24提供自由视点移动图像流。
在步骤S12中,3D模型构建单元23随后从再现处理单元22提供的编辑数据流的头部获取编辑数据。
在步骤S13中,3D模型构建单元23根据在步骤S12中获取的编辑数据的3D模型信息基于对象和纹理构建3D模型。
在步骤S14中,3D模型构建单元23根据在步骤S12中获取的编辑数据的操作信息和位置信息确定在步骤S13中构建的3D模型的布局,包括大小、排列位置等,并且生成3D模型显示数据以显示3D模型。
在步骤S15中,3D模型构建单元23根据已经生成3D模型显示数据的3D模型的编辑数据的时间信息来确定自由视点移动图像内容的再现时间是否到达显示3D模型的显示时间。
在步骤S15中,在3D模型构建单元23确定自由视点移动图像内容的再现时间尚未到达显示3D模型的显示时间的情况下,该处理跳过步骤S16和S17并且转到步骤S18。换言之,在这种情况下,已经生成3D模型显示数据的3D模型不会立即在步骤S14中显示,并且等待显示,直到3D模型的显示时间到了。
另一方面,在步骤S15中,在3D模型构建单元23确定自由视点移动图像内容的再现时间已经到达显示3D模型的显示时间的情况下,该处理转到步骤S16。
在步骤S16中,3D模型构建单元23向显示控制单元24提供在3D模型的编辑数据中设置的优先级信息以及确定显示时间已经到了的3D模型的3D模型显示数据。因此,显示控制单元24获取3D模型显示数据和优先级信息。
在步骤S17中,显示控制单元24参照在步骤S16中获取的优先级信息,并且基于3D模型显示数据执行3D模型的显示控制。换言之,例如,在确定显示时间已经到了的3D模型的表面与已经排列的另一3D模型的表面重合的情况下,显示控制单元24参照相应的多条优先级信息,并且执行显示控制,使得具有较高优先级的3D模型的表面显示在前侧。
在步骤S18中,显示控制单元24基于在步骤S11中从再现处理单元22提供的自由视点移动图像流生成自由视点移动图像,并且向显示单元13提供该自由视点移动图像以使显示单元显示该自由视点移动图像。此时,显示控制单元24根据3D模型显示数据生成自由视点移动图像,其中,重新排列在步骤S15中确定显示时间已经到了的3D模型。同时,在不存在在步骤S15中确定显示时间已经到了的3D模型的情况下,显示控制单元24生成不包括重新排列的3D模型的自由视点移动图像。
在步骤S18的处理之后,该处理返回到步骤S11,并且重复执行类似处理,直到完成自由视点移动图像内容的再现。
如上所述,记录/再现装置11可以通过参照优先级信息针对3D模型执行显示控制的再现处理适当地执行3D模型显示。
<优先级信息的修改示例>
将参照图7描述优先级信息的修改示例。
例如,不仅可以通过使用上述图4所图示的数值,还可以通过使用1比特值来设置优先级信息,以在显示重新排列的3D模型时与已经排列的3D模型相比较。
换言之,在1比特的优先级信息是图7所图示的0的情况下,与现有3D模型相比,重新排列的3D模型的优先级较高并且指定显示在前侧。另外,在1比特的优先级信息是1的情况下,与现有3D模型相比,重新排列的3D模型的优先级较低并且指定显示在后侧。因此,显示控制单元24可以基于显示3D模型的顺序以及与目前为止已经显示的3D模型的相对优先级来针对3D模型执行显示控制。
例如,将参照上述图5提供描述。例如,在首先显示3D模型A并且之后显示3D模型B的情况下,当3D模型B的优先级信息设置为0时,显示控制单元24执行显示控制,使得3D模型B的表面如图5的A所图示的那样显示在前侧。
另外,例如,在现有3D模型A存在于在自由视点移动图像内容中重建的空间中的情况下,当3D模型B的优先级信息设置为1时,显示控制单元24执行显示控制,使得3D模型A的表面如图5的B所图示的那样显示在前侧。
因此,可以通过使用1比特表示优先级信息来减少数据量,并且此外,可以基于与现有3D模型的相对优先级容易地执行针对3D模型的显示的显示控制。因此,更可取的是,将1比特的优先级信息应用于3D模型未以复杂方式存在的自由视点移动图像内容。
将参照图8的流程图描述使用由上述的1比特值表示的优先级信息进行的再现处理。
以与上面参照图6描述的流程图中的从步骤S11到步骤S16的处理类似的方式执行图8的流程图所图示的从步骤S21到步骤S26的处理。
在步骤S27中,显示控制单元24确定在步骤S26中获取的1比特的优先级信息是1或0中的哪一个。
在步骤S27中,在显示控制单元24确定1比特的优先级信息是0的情况下,该处理转到步骤S28。在步骤S28中,在步骤S25中确定显示时间已经到了的3D模型的表面与已经排列的另一3D模型的表面重合的情况下,显示控制单元24执行显示控制,使得重新排列的3D模型优先,并且新的3D模型的表面显示在前侧。
另一方面,在步骤S27中,在显示控制单元24确定1比特的优先级信息是1的情况下,该处理转到步骤S29。在步骤S29中,在步骤S25中确定显示时间已经到了的3D模型的表面与已经排列的另一3D模型的表面重合的情况下,显示控制单元24执行显示控制,使得另一3D模型的显示优先,并且另一3D模型的表面显示在前侧。换言之,在这种情况下,重新排列的3D模型的表面显示在后侧。
在步骤S28或S29的处理之后,该处理转到步骤S30,并且执行与图6的流程图中的步骤S18类似的处理。此后,该处理返回到步骤S21,并且重复执行类似处理,直到完成自由视点移动图像内容的再现。
如上所述,记录/再现装置11可以通过参照由1比特值表示的优先级信息执行3D模型的显示控制的再现处理适当地执行3D模型的显示。
<附加信息的另一示例>
顺便提及,关于附加信息,除了上述的优先级信息之外,还可以设置在显示在自由视点移动图像内容中重建的空间中排列的3D模型时要参照的各种信息。
例如,如图9所图示的,除了优先级信息之外,还可以将观看年龄限制信息设置为附加信息以便针对每个3D模型提供观看年龄限制。例如,由于在编辑数据中设置了时间信息并且进一步将观看年龄限制信息设置为附加信息,所以可以根据观看年龄限制信息显示或不显示自由视点移动图像内容的一部分。
例如,在编辑数据中设置的观看年龄限制信息等于或小于在记录/再现装置11中预设的观看年龄限制信息的情况下,显示控制单元24执行显示控制以便显示编辑数据的3D模型。另外,在未在编辑数据中设置观看年龄限制信息的情况下,显示控制单元24执行显示控制以便不断地显示编辑数据的3D模型。
此处,观看年龄限制信息包括允许观看内容的用户的最小年龄的数值信息,并且例如,在数值信息设置为20的情况下,允许年龄为20岁或更大的人观看内容。另外,在设置有观看年龄限制信息的编辑数据中,可以在使用(或更新)与现有数据相比更优先显示新数据的情况下使用上述优先级信息。例如,在使用利用图4所图示的数值设置的优先级信息的情况下,将大于0的值设置在优先级信息中。此外,可以针对每个编辑数据设置多条观看年龄限制信息,并且例如,可以通过针对较大年龄设置较高优先级来执行年龄最大的数据最优先的显示控制。另外,在使用图7所图示的1比特的优先级信息的情况下,可以通过针对优先级信息设置0并且以年龄变大的顺序将多条编辑数据存储在编辑数据流中来执行适当的显示控制。
将参照图10的流程图描述使用这种观看年龄限制信息的再现处理。
以与上面参照图6描述的再现处理的流程图中的步骤S11和步骤S16的处理类似的方式执行图10的流程图所图示的步骤S41和步骤S42的处理。
在步骤S43中,3D模型构建单元23确定是否针对在步骤S42中获取的编辑数据的3D模型设置观看年龄限制信息。
在步骤S43中,在3D模型构建单元23确定要设置观看年龄限制信息的情况下,该处理转到步骤S44。
在步骤S44中,例如,3D模型构建单元23从存储记录/再现装置11的各种设置的存储器读取和获取在记录/再现装置11中设置的观看年龄限制信息。
在步骤S45中,3D模型构建单元23确定针对编辑数据的3D模型设置的观看年龄限制信息是否等于或小于从记录/再现装置11获取的观看年龄限制信息。
在步骤S45中,在3D模型构建单元23确定3D模型的观看年龄限制信息不等于或小于记录/再现装置11中的观看年龄限制信息的情况下,该处理跳过步骤S46至S50并且转到步骤S51。换言之,在这种情况下,可以确定在记录/再现装置11中不适合显示3D模型,并且不生成3D模型的3D模型显示数据。
另一方面,在3D模型构建单元23确定3D模型的观看年龄限制信息等于或小于记录/再现装置11中的年龄限制信息的情况下,可以确定适合在记录/再现装置11中显示3D模型并且该处理转到步骤S46。而且,在步骤S43中,在3D模型构建单元23确定不设置观看年龄限制信息的情况下,该处理也转到步骤S46。
以与上面参照图6描述的流程图中的从步骤S13到步骤S18的处理类似的方式执行从步骤S46到步骤S51的处理。此后,该处理返回到步骤S41,并且重复执行类似处理,直到完成自由视点移动图像内容的再现。
如上所述,记录/再现装置11可以通过参照观看年龄限制信息执行3D模型的显示控制的再现处理适当地执行3D模型的显示。换言之,记录/再现装置11可以将观看年龄限制仅应用于构成自由视点移动图像内容的3D模型中的一些3D模型,并且可以根据在记录/再现装置11中设置的观看年龄限制信息执行3D模型的显示控制。
例如,同时,例如,观看年龄限制信息并不限于对自由视点移动图像内容的视频数据的应用,还可以适用于音频数据。换言之,在自由视点移动图像内容中,也将对应于视频数据的音频数据转换为对象并且以类似于3D模型的方式排列在自由视点移动图像内容中重建的空间中。因此,可以通过将观看年龄限制信息添加到编辑数据中的每一条音频数据来执行根据观看年龄限制信息的音频输出控制,该编辑数据构成对应于音频数据流的音频编辑数据流。因此,例如,仅在音频数据的观看年龄限制信息等于或小于在记录/再现装置11中设置的观看年龄限制信息的情况下,记录/再现装置11可以输出声音。
如上所述,记录/再现装置11可以参照在编辑数据中设置的附加信息执行显示控制,并且可以传输,例如,编辑数据流,其指示以叠加在特定3D模型上的方式排列不同的3D模型。因此,在记录/再现装置11中,一些3D模型的表面可以替换为广告,例如,或者可以在现在与过去之间以不同方式重建表面(例如,指示重建建筑物的状态)。另外,记录/再现装置11可以容易地比较在编辑编辑数据之前和之后的状态。
此外,关于由于部分不便针对全部内容设置年龄限制的自由视点移动图像内容,记录/再现装置11可以仅针对这种不便部分设置年龄限制,并且可以避免限制全部自由视点移动图像内容的再现。因此,可以通过使用记录/再现装置11来提供可以在较广的年龄范围内体验的自由视点移动图像内容。另外,同样关于音频数据,记录/再现装置11可以将年龄限制仅应用于声音的一部分。
<自由视点移动图像内容的记录处理>
接下来,图11是图示了记录自由视点移动图像内容的记录处理的流程图。例如,当在数据输入单元14中根据用户的操作接收到要记录在记录/再现装置11中的自由视点移动图像内容时,开始记录处理。
在步骤S61中,编辑内容获取单元25确定是否编辑构成自由视点移动图像内容的3D模型。例如,当用户通过操作操作单元12编辑预定3D模型并且从操作单元12提供根据操作的操作信号时,编辑内容获取单元25确定要编辑3D模型。
在步骤S61中,在编辑内容获取单元25确定要编辑构成自由视点移动图像内容的3D模型的情况下,该处理转到步骤S62。在步骤S62中,编辑内容获取单元25基于从操作单元12提供的操作信号获取由构成自由视点移动图像内容的3D模型的用户执行的编辑内容,并且将编辑内容输出到编辑数据设置单元26。例如,编辑内容获取单元25针对附加信息获取编辑内容并且将其提供给编辑数据设置单元26。
另一方面,在编辑内容获取单元25在步骤S61中确定不编辑构成自由视点移动图像内容的3D模型的情况下,该处理跳过步骤S62并且转到步骤S63。
在步骤S63中,编辑数据设置单元26从经由数据输入单元14接收到的编辑数据流的头部按顺序获取编辑数据。然后,编辑数据设置单元26根据编辑内容编辑对应于从编辑内容获取单元25提供编辑内容的3D模型的编辑数据,并且将所编辑的编辑数据提供给记录处理单元27。例如,编辑数据设置单元26编辑编辑数据的附加信息并且向记录处理单元27提供所编辑的附加信息。同时,编辑数据设置单元26直接向记录处理单元27提供对应于不从编辑内容获取单元25提供编辑内容的3D模型的编辑数据。
在步骤S64中,记录处理单元27对以下进行编码:包括在步骤S63中从编辑数据设置单元26提供的编辑数据的编辑数据流;以及对应于编辑数据流并且经由数据输入单元14接收到的自由视点移动图像流,然后记录处理单元将内容记录单元21中的编码流重新编码为自由视点移动图像内容。
在步骤S64的处理之后,该处理返回到步骤S61,并且重复类似处理,直到完成构成自由视点移动图像内容的所有自由视点移动图像流和编辑数据流的接收。
如上所述,记录/再现装置11可以在编辑数据流上反映由用户针对3D模型执行的编辑,而不改变自由视点移动图像流的数据,并且可以记录自由视点移动图像内容。
例如,要注意的是,在该实施例中,已经描述了能够针对自由视点移动图像内容执行再现处理和记录处理的记录/再现装置11,但是也可以单独配置再现装置和记录装置。
要注意的是,参照上述流程图描述的相应处理可能不一定根据流程图所描述的顺序按时间顺序执行,并且可以进一步包括并行或单独执行的处理(例如,并行处理或对象的处理)。另外,程序可以由一个CPU处理或者可以由多个CPU以分布式方式处理。
此外,上述一系列处理(再现方法)可以由硬件执行,并且可以进一步由软件执行。例如,在这一系列处理由软件执行的情况下,将来自记录有该程序的程序记录介质的构成软件的程序安装在合并到专用硬件中的计算机或者能够通过安装各种程序等执行各种功能的通用个人计算机中。
图12是图示了利用程序执行上述一系列处理的计算机的示例性硬件配置的框图。
中央处理单元(CPU)101、只读存储器(ROM)102和随机存取存储器(RAM)103在计算机中经由总线104相互连接。
输入/输出接口105进一步连接至总线104。输入/输出接口105连接至:包括键盘、鼠标、麦克风等的输入单元106;包括显示器、扬声器等的输出单元107;包括硬盘、非易失性存储器等的存储单元108;包括网络接口等的通信单元109;以及驱动诸如磁盘、光盘、磁光盘和半导体存储器等可移动介质111的驱动器110。
在具有上述配置的计算机中,例如,由CPU 101执行上述一系列处理,该CPU 101在RAM 103中加载经由输入/输出接口105和总线104存储在存储单元108中的程序并且执行该程序。
例如,通过将其记录在可移动介质111中来提供由计算机(CPU 101)执行的程序,该可移动介质111是包括磁盘(包括软盘)、光盘(压缩光盘-只读存储器(CD-ROM)、数字通用盘(DVD)等)、磁光盘、半导体存储器等的封装介质,或者可替代地,经由诸如局域网、互联网和数字卫星广播等有线或无线传输介质提供程序。
然后,通过将可移动介质111附接至驱动器110可以经由输入/输出接口105将程序安装在存储单元108中。另外,可以经由有线或无线传输介质在通信单元109中接收程序并且安装在存储单元108中。此外,程序可以初步安装在ROM 102或存储单元108中。
要注意的是,本技术还可以采用以下配置。
(1)
一种再现装置,该再现装置包括:
再现处理单元,该再现处理单元适用于再现自由视点移动图像内容,自由视点移动图像内容包括自由视点移动图像流和编辑数据流;以及
显示控制单元,该显示控制单元适用于参照在编辑数据中设置的附加信息根据在构成编辑数据流的编辑数据中设置的基本信息来控制在由自由视点移动图像流重建的空间中排列的3D模型的显示。
(2)
上面的(1)所叙述的再现装置,其中
附加信息是指示3D模型的显示的优先级的优先级信息,以及
显示控制单元参照优先级信息并且执行显示控制,使得优先显示以较高优先级设置的3D模型。
(3)
上面的(2)所叙述的再现装置,其中,在多个3D模型的表面彼此重合的情况下,显示控制单元参照优先级信息并且执行显示控制,使得在前侧显示以较高优先级设置的3D模型的表面。
(4)
上面的(2)或(3)所叙述的再现装置,其中,优先级信息将要重新排列的3D模型的优先级设置为表示相对于已经排列的另一3D模型的优先级的1比特值。
(5)
上面的(1)至(4)中任一项所叙述的再现装置,其中
附加信息是指示限制3D模型的显示的年龄的观看年龄限制信息,以及
在编辑数据中设置的观看年龄限制信息等于或小于在再现装置中预设的观看年龄限制信息的情况下,显示控制单元执行显示控制以便显示对应于编辑数据的3D模型。
(6)
上面的(5)所叙述的再现装置,其中
自由视点移动图像内容包括音频数据流和音频编辑数据流,以及
根据在构成音频编辑数据的编辑数据中设置的观看年龄限制信息控制对应于编辑数据的音频数据的输出。
(7)
一种记录方法,该记录方法包括以下步骤:
再现自由视点移动图像内容,自由视点移动图像内容包括自由视点移动图像流和编辑数据流;以及
参照在编辑数据中设置的附加信息,根据在构成编辑数据流的编辑数据中设置的基本信息来控制在由自由视点移动图像流重建的空间中排列的3D模型的显示。
(8)
一种程序,该程序使计算机执行再现处理,再现处理包括以下步骤:
再现自由视点移动图像内容,自由视点移动图像内容包括自由视点移动图像流和编辑数据流;以及
参照在编辑数据中设置的附加信息,根据在构成编辑数据流的编辑数据中设置的基本信息来控制在由自由视点移动图像流重建的空间中排列的3D模型的显示。
(9)
一种记录装置,该记录装置包括:
编辑内容获取单元,该编辑内容获取单元适用于获取针对附加信息的编辑内容,该附件信息是在根据在编辑数据中设置的基本信息控制3D模型的显示时要参照的,3D模型排列在由自由视点移动图像流重建的空间中,编辑数据构成包括自由视点移动图像流和编辑数据流的自由视点移动图像内容的编辑数据流;
编辑数据设置单元,该编辑数据设置单元适用于根据由编辑内容获取单元获取的编辑内容编辑构成编辑数据流的编辑数据的附加信息;以及
记录处理单元,该记录处理单元适用于在记录单元中将由编辑数据设置单元编辑的编辑数据流和对应于编辑数据流的自由视点移动图像流记录为自由视点移动图像内容。
(10)
上面的(9)所叙述的记录装置,其中
在将自由视点移动图像内容记录在记录装置中时,在编辑数据记录单元中接收编辑数据流,并且进一步在记录处理单元中接收自由视点移动图像流,以及
编辑数据设置单元基于由编辑内容获取单元根据用户的操作获取的编辑内容来编辑编辑数据。
(11)
上面的(9)或(10)所叙述的记录装置,其中,编辑数据设置单元将指示3D模型的显示的优先级的优先级信息设置为编辑数据的附加信息。
(12)
(9)至(11)中任一项所叙述的记录装置,其中,编辑数据设置单元将指示限制3D模型的显示的年龄的观看年龄限制信息设置为编辑数据的附加信息。
(13)
一种再现方法,该再现方法包括以下步骤:
获取针对附加信息的编辑内容,该附件信息是在根据在编辑数据中设置的基本信息控制3D模型的显示时要参照的,3D模型排列在由自由视点移动图像流重建的空间中,编辑数据构成包括自由视点移动图像流和编辑数据流的自由视点移动图像内容的编辑数据流;
根据所获取的编辑内容,编辑构成编辑数据流的编辑数据的附加信息;以及
在记录单元中将所编辑的编辑数据流和对应于编辑数据流的自由视点移动图像流记录为自由视点移动图像内容。
(14)
一种程序,该程序使计算机执行记录处理,记录处理包括以下步骤:
获取针对附加信息的编辑内容,该附件信息是在根据在编辑数据中设置的基本信息控制3D模型的显示时要参照的,3D模型排列在由自由视点移动图像流重建的空间中,编辑数据构成包括自由视点移动图像流和编辑数据流的自由视点移动图像内容的编辑数据流;
根据所获取的编辑内容,编辑构成编辑数据流的编辑数据的附加信息;以及
在记录单元中将所编辑的编辑数据流和对应于编辑数据流的自由视点移动图像流记录为自由视点移动图像内容。
(15)
一种再现/记录装置,该再现/记录装置包括:
再现处理单元,该再现处理单元适用于再现自由视点移动图像内容,自由视点移动图像内容包括自由视点移动图像流和编辑数据流;
显示控制单元,该显示控制单元适用于参照在编辑数据中设置的附加信息根据在构成编辑数据流的编辑数据中设置的基本信息来控制在由自由视点移动图像流重建的空间中排列的3D模型的显示;
编辑内容获取单元,该编辑内容获取单元适用于获取针对附加信息的编辑内容,该附件信息是在根据在编辑数据中设置的基本信息控制3D模型的显示时要参照的,3D模型排列在由自由视点移动图像流重建的空间中,编辑数据构成包括自由视点移动图像流和编辑数据流的自由视点移动图像内容的编辑数据流;
编辑数据设置单元,该编辑数据设置单元适用于根据由编辑内容获取单元获取的编辑内容编辑构成编辑数据流的编辑数据的附加信息;以及
记录处理单元,该记录处理单元适用于在记录单元中将由编辑数据设置单元编辑的编辑数据流和对应于编辑数据流的自由视点移动图像流记录为自由视点移动图像内容。
(16)
一种再现/记录方法,该再现/记录方法在再现自由视点移动图像内容时包括以下步骤:
再现自由视点移动图像内容,自由视点移动图像内容包括自由视点移动图像流和编辑数据流;以及
参照在编辑数据中设置的附加信息,根据在构成编辑数据流的编辑数据中设置的基本信息来控制在由自由视点移动图像流重建的空间中排列的3D模型的显示,以及
该方法在记录自由视点移动图像内容时进一步包括以下步骤:
获取针对附加信息的编辑内容,该附件信息是在根据在编辑数据中设置的基本信息控制3D模型的显示时要参照的,3D模型排列在由自由视点移动图像流重建的空间中,编辑数据构成包括自由视点移动图像流和编辑数据流的自由视点移动图像内容的编辑数据流;
根据所获取的编辑内容,编辑构成编辑数据流的编辑数据的附加信息;以及
在记录单元中将所编辑的编辑数据流和对应于编辑数据流的自由视点移动图像流记录为自由视点移动图像内容。
(17)
一种程序,该程序使计算机执行再现记录处理,再现记录处理在再现自由视点移动图像内容时包括以下步骤:
再现自由视点移动图像内容,自由视点移动图像内容包括自由视点移动图像流和编辑数据流;以及
参照在编辑数据中设置的附加信息,根据在构成编辑数据流的编辑数据中设置的基本信息来控制在由自由视点移动图像流重建的空间中排列的3D模型的显示,以及
该程序在记录自由视点移动图像内容时进一步使计算机执行再现记录处理,再现记录处理包括以下步骤:
获取针对附加信息的编辑内容,该附件信息是在根据在编辑数据中设置的基本信息控制3D模型的显示时要参照的,3D模型排列在由自由视点移动图像流重建的空间中,编辑数据构成包括自由视点移动图像流和编辑数据流的自由视点移动图像内容的编辑数据流;
根据所获取的编辑内容,编辑构成编辑数据流的编辑数据的附加信息;以及
在记录单元中将所编辑的编辑数据流和对应于编辑数据流的自由视点移动图像流记录为自由视点移动图像内容。
要注意的是,本公开的实施例并不限于上述实施例,并且可以在不脱离本公开的主旨的范围内进行各种修改。
附图标记列表
11 记录/再现装置
12 操作单元
13 显示单元
14 数据输入单元
21 内容记录单元
22 再现处理单元
23 3D模型构建单元
24 显示控制单元
25 编辑内容获取单元
26 编辑数据设置单元
27 记录处理单元。
Claims (17)
1.一种再现装置,所述再现装置包括:
再现处理单元,所述再现处理单元配置为再现自由视点移动图像内容,所述自由视点移动图像内容包括自由视点移动图像流和编辑数据流;以及
显示控制单元,所述显示控制单元配置为参照在编辑数据中设置的附加信息根据在构成所述编辑数据流的所述编辑数据中设置的基本信息来控制在由所述自由视点移动图像流重建的空间中排列的3D模型的显示。
2.根据权利要求1所述的再现装置,其中
所述附加信息是指示所述3D模型的显示的优先级的优先级信息,以及
所述显示控制单元参照所述优先级信息并且执行显示控制,使得优先显示以较高优先级设置的所述3D模型。
3.根据权利要求2所述的再现装置,其中,在多个3D模型的表面彼此重合的情况下,所述显示控制单元参照所述优先级信息并且执行显示控制,使得在前侧显示以较高优先级设置的所述3D模型的表面。
4.根据权利要求2所述的再现装置,其中,所述优先级信息将要重新排列的所述3D模型的优先级设置为表示相对于已经排列的另一3D模型的优先级的1比特值。
5.根据权利要求1所述的再现装置,其中
所述附加信息是指示限制所述3D模型的显示的年龄的观看年龄限制信息,以及
在所述编辑数据中设置的所述观看年龄限制信息等于或小于在所述再现装置中预设的所述观看年龄限制信息的情况下,所述显示控制单元执行显示控制以便显示对应于所述编辑数据的所述3D模型。
6.根据权利要求5所述的再现装置,其中
所述自由视点移动图像内容包括音频数据流和音频编辑数据流,以及
根据在构成所述音频编辑数据的编辑数据中设置的所述观看年龄限制信息控制对应于所述编辑数据的音频数据的输出。
7.一种再现方法,所述再现方法包括以下步骤:
再现自由视点移动图像内容,所述自由视点移动图像内容包括自由视点移动图像流和编辑数据流;以及
参照在编辑数据中设置的附加信息,根据在构成所述编辑数据流的所述编辑数据中设置的基本信息来控制在由所述自由视点移动图像流重建的空间中排列的3D模型的显示。
8.一种程序,所述程序使计算机执行再现处理,所述再现处理包括以下步骤:
再现自由视点移动图像内容,所述自由视点移动图像内容包括自由视点移动图像流和编辑数据流;以及
参照在编辑数据中设置的附加信息,根据在构成所述编辑数据流的所述编辑数据中设置的基本信息来控制在由所述自由视点移动图像流重建的空间中排列的3D模型的显示。
9.一种记录装置,所述记录装置包括:
编辑内容获取单元,所述编辑内容获取单元配置为获取针对附加信息的编辑内容,该附加信息是在根据在编辑数据中设置的基本信息控制3D模型的显示时要参照的,所述3D模型排列在由自由视点移动图像流重建的空间中,所述编辑数据构成包括所述自由视点移动图像流和所述编辑数据流的自由视点移动图像内容的编辑数据流;
编辑数据设置单元,所述编辑数据设置单元配置为根据由所述编辑内容获取单元获取的所述编辑内容编辑构成所述编辑数据流的所述编辑数据的所述附加信息;以及
记录处理单元,所述记录处理单元配置为将由所述编辑数据设置单元编辑的所述编辑数据流和对应于所述编辑数据流的所述自由视点移动图像流作为所述自由视点移动图像内容记录在记录单元中。
10.根据权利要求9所述的记录装置,其中
在将所述自由视点移动图像内容记录在所述记录装置中时,在所述编辑数据设置单元中接收所述编辑数据流,并且进一步在所述记录处理单元中接收自由视点移动图像流,以及
所述编辑数据设置单元基于由所述编辑内容获取单元根据用户的操作获取的所述编辑内容来编辑所述编辑数据。
11.根据权利要求9所述的记录装置,其中,所述编辑数据设置单元将指示所述3D模型的显示的优先级的优先级信息设置为所述编辑数据的附加信息。
12.根据权利要求9所述的记录装置,其中,所述编辑数据设置单元将指示限制所述3D模型的显示的年龄的观看年龄限制信息设置为所述编辑数据的所述附加信息。
13.一种记录方法,所述记录方法包括以下步骤:
获取针对附加信息的编辑内容,该附加信息是在根据在编辑数据中设置的基本信息控制3D模型的显示时要参照的,所述3D模型排列在由自由视点移动图像流重建的空间中,所述编辑数据构成包括所述自由视点移动图像流和所述编辑数据流的自由视点移动图像内容的编辑数据流;
根据所获取的所述编辑内容,编辑构成所述编辑数据流的所述编辑数据的所述附加信息;以及
将所编辑的所述编辑数据流和对应于所述编辑数据流的所述自由视点移动图像流作为所述自由视点移动图像内容记录在记录单元中。
14.一种程序,所述程序使计算机执行记录处理,所述记录处理包括以下步骤:
获取针对附加信息的编辑内容,该附加信息是在根据在编辑数据中设置的基本信息控制3D模型的显示时要参照的,所述3D模型排列在由自由视点移动图像流重建的空间中,所述编辑数据构成包括所述自由视点移动图像流和所述编辑数据流的自由视点移动图像内容的编辑数据流;
根据所获取的所述编辑内容,编辑构成所述编辑数据流的所述编辑数据的所述附加信息;以及
将所编辑的所述编辑数据流和对应于所述编辑数据流的所述自由视点移动图像流作为所述自由视点移动图像内容记录在记录单元中。
15.一种再现/记录装置,所述再现/记录装置包括:
再现处理单元,所述再现处理单元配置为再现自由视点移动图像内容,所述自由视点移动图像内容包括自由视点移动图像流和编辑数据流;
显示控制单元,所述显示控制单元配置为参照在编辑数据中设置的附加信息根据在构成所述编辑数据流的所述编辑数据中设置的基本信息来控制在由所述自由视点移动图像流重建的空间中排列的3D模型的显示;
编辑内容获取单元,所述编辑内容获取单元配置为针对获取附加信息的编辑内容,该附加信息是在根据在所述编辑数据中设置的所述基本信息控制所述3D模型的显示时要参照的,所述3D模型排列在由所述自由视点移动图像流重建的所述空间中,所述编辑数据构成包括所述自由视点移动图像流和所述编辑数据流的所述自由视点移动图像内容的所述编辑数据流;
编辑数据设置单元,所述编辑数据设置单元配置为根据由所述编辑内容获取单元获取的所述编辑内容编辑构成所述编辑数据流的所述编辑数据的所述附加信息;以及
记录处理单元,所述记录处理单元配置为将由所述编辑数据设置单元编辑的所述编辑数据流和对应于所述编辑数据流的所述自由视点移动图像流作为所述自由视点移动图像内容记录在记录单元中。
16.一种再现/记录方法,所述再现/记录方法在再现自由视点移动图像内容时包括以下步骤:
再现自由视点移动图像内容,所述自由视点移动图像内容包括自由视点移动图像流和编辑数据流;以及
参照在编辑数据中设置的附加信息,根据在构成所述编辑数据流的所述编辑数据中设置的基本信息来控制在由所述自由视点移动图像流重建的空间中排列的3D模型的显示,以及
所述方法在记录所述自由视点移动图像内容时进一步包括以下步骤:
获取针对所述附加信息的编辑内容,该附加信息是在根据在所述编辑数据中设置的所述基本信息控制所述3D模型的显示时要参照的,所述3D模型排列在由所述自由视点移动图像流重建的所述空间中,所述编辑数据构成包括所述自由视点移动图像流和所述编辑数据流的所述自由视点移动图像内容的所述编辑数据流;
根据所获取的所述编辑内容,编辑构成所述编辑数据流的所述编辑数据的所述附加信息;以及
将所编辑的所述编辑数据流和对应于所述编辑数据流的所述自由视点移动图像流作为所述自由视点移动图像内容记录在记录单元中。
17.一种程序,所述程序使计算机执行再现记录处理,所述再现记录处理在再现自由视点移动图像内容时包括以下步骤:
再现自由视点移动图像内容,所述自由视点移动图像内容包括自由视点移动图像流和编辑数据流;以及
参照在编辑数据中设置的附加信息,根据在构成所述编辑数据流的所述编辑数据中设置的基本信息来控制在由所述自由视点移动图像流重建的空间中排列的3D模型的显示,以及
所述程序在记录所述自由视点移动图像内容时进一步使所述计算机执行所述再现记录处理,所述再现记录处理包括以下步骤:
获取针对所述附加信息的编辑内容,该附加信息是在根据在所述编辑数据中设置的所述基本信息控制所述3D模型的显示时要参照,所述3D模型排列在由所述自由视点移动图像流重建的所述空间中,所述编辑数据构成包括所述自由视点移动图像流和所述编辑数据流的所述自由视点移动图像内容的所述编辑数据流;
根据所获取的所述编辑内容,编辑构成所述编辑数据流的所述编辑数据的所述附加信息;以及
将所编辑的所述编辑数据流和对应于所述编辑数据流的所述自由视点移动图像流作为所述自由视点移动图像内容记录在记录单元中。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016198250 | 2016-10-06 | ||
JP2016-198250 | 2016-10-06 | ||
PCT/JP2017/034238 WO2018066382A1 (ja) | 2016-10-06 | 2017-09-22 | 再生装置および再生方法、記録装置および記録方法、再生記録装置および再生記録方法、並びにプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109791707A true CN109791707A (zh) | 2019-05-21 |
CN109791707B CN109791707B (zh) | 2023-05-26 |
Family
ID=61831004
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201780059930.6A Active CN109791707B (zh) | 2016-10-06 | 2017-09-22 | 再现装置和方法、记录装置和方法、再现/记录装置和方法、记录介质 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11398077B2 (zh) |
JP (1) | JP6988813B2 (zh) |
CN (1) | CN109791707B (zh) |
WO (1) | WO2018066382A1 (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7297439B2 (ja) * | 2018-12-19 | 2023-06-26 | キヤノン株式会社 | ファイル生成装置及びファイル生成方法、画像生成装置及び画像生成方法、並びにプログラム |
WO2021006047A1 (ja) * | 2019-07-08 | 2021-01-14 | ソニー株式会社 | 表示制御装置、表示制御方法、及び、プログラム |
JPWO2021014775A1 (zh) * | 2019-07-19 | 2021-01-28 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103024411A (zh) * | 2009-08-18 | 2013-04-03 | 索尼公司 | 再现设备和再现方法以及记录设备和记录方法 |
US20130113879A1 (en) * | 2011-11-04 | 2013-05-09 | Comcast Cable Communications, Llc | Multi-Depth Adaptation For Video Content |
JP2014032443A (ja) * | 2012-08-01 | 2014-02-20 | Yahoo Japan Corp | 画像処理装置、画像処理方法及び画像処理プログラム |
JP2014183502A (ja) * | 2013-03-21 | 2014-09-29 | Geo Technical Laboratory Co Ltd | 立体視画像データ生成装置 |
JP2015187797A (ja) * | 2014-03-27 | 2015-10-29 | シャープ株式会社 | 画像データ生成装置および画像データ再生装置 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4088274B2 (ja) | 2004-06-28 | 2008-05-21 | 株式会社東芝 | メタデータの構造及びその編集方法 |
US8683386B2 (en) * | 2006-10-03 | 2014-03-25 | Brian Mark Shuster | Virtual environment for computer game |
CN102067591B (zh) | 2008-06-26 | 2014-03-19 | 松下电器产业株式会社 | 再现装置、记录装置、再现方法及记录方法 |
US10314559B2 (en) * | 2013-03-14 | 2019-06-11 | Inneroptic Technology, Inc. | Medical device guidance |
US9836845B2 (en) * | 2015-08-25 | 2017-12-05 | Nextvr Inc. | Methods and apparatus for detecting objects in proximity to a viewer and presenting visual representations of objects in a simulated environment |
US20170286993A1 (en) * | 2016-03-31 | 2017-10-05 | Verizon Patent And Licensing Inc. | Methods and Systems for Inserting Promotional Content into an Immersive Virtual Reality World |
-
2017
- 2017-09-22 US US16/330,616 patent/US11398077B2/en active Active
- 2017-09-22 JP JP2018543838A patent/JP6988813B2/ja active Active
- 2017-09-22 CN CN201780059930.6A patent/CN109791707B/zh active Active
- 2017-09-22 WO PCT/JP2017/034238 patent/WO2018066382A1/ja active Application Filing
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103024411A (zh) * | 2009-08-18 | 2013-04-03 | 索尼公司 | 再现设备和再现方法以及记录设备和记录方法 |
US20130113879A1 (en) * | 2011-11-04 | 2013-05-09 | Comcast Cable Communications, Llc | Multi-Depth Adaptation For Video Content |
JP2014032443A (ja) * | 2012-08-01 | 2014-02-20 | Yahoo Japan Corp | 画像処理装置、画像処理方法及び画像処理プログラム |
JP2014183502A (ja) * | 2013-03-21 | 2014-09-29 | Geo Technical Laboratory Co Ltd | 立体視画像データ生成装置 |
JP2015187797A (ja) * | 2014-03-27 | 2015-10-29 | シャープ株式会社 | 画像データ生成装置および画像データ再生装置 |
Also Published As
Publication number | Publication date |
---|---|
JPWO2018066382A1 (ja) | 2019-07-18 |
JP6988813B2 (ja) | 2022-01-05 |
WO2018066382A1 (ja) | 2018-04-12 |
US11398077B2 (en) | 2022-07-26 |
US20210287432A1 (en) | 2021-09-16 |
CN109791707B (zh) | 2023-05-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US12009014B2 (en) | Generation and use of user-selected scenes playlist from distributed digital content | |
CN101164055B (zh) | 媒体时间线排序 | |
CN102347046B (zh) | 数据产生装置和方法、以及数据处理装置和方法 | |
KR20070091962A (ko) | 애니메이션을 이용한 디엠비 데이터 방송의 나레이션 제공방법 및 이를 구현하기 위한 프로그램이 저장된 컴퓨터로판독 가능한 기록매체 | |
CN102227913B (zh) | 内容再生装置 | |
CN109791707A (zh) | 再现装置、再现方法、记录装置、记录方法、再现/记录装置、再现/记录方法以及程序 | |
CN102811352A (zh) | 运动图像生成方法及运动图像生成装置 | |
CN106464970A (zh) | 影像再现装置、显示装置和发送装置 | |
JP5454604B2 (ja) | 動画再生方法、動画再生装置及びプログラム | |
CN101681661B (zh) | 编辑装置和编辑方法 | |
JP2018078402A (ja) | コンテンツ制作装置、及び音声付コンテンツ制作システム | |
CN100559872C (zh) | 视频再现设备及其控制方法 | |
JP2009004999A (ja) | 映像データ管理装置 | |
US20120251081A1 (en) | Image editing device, image editing method, and program | |
CN101681662B (zh) | 编辑装置和编辑方法 | |
JP4911008B2 (ja) | 画像データ記録装置および画像データ再生装置 | |
US7734655B2 (en) | Method of managing data on recording medium | |
JP5046561B2 (ja) | 記録制御装置および記録制御方法、並びにプログラム | |
CN102474650B (zh) | 立体观察影像的再现装置、集成电路、再现方法 | |
CN102577364A (zh) | 动态图像再现装置、动态图像再现程序以及动态图像再现方法 | |
US8340508B2 (en) | Record/playback apparatus and control method therefor | |
CN117544893A (zh) | 音频调节方法、装置、电子设备和可读存储介质 | |
JP5553533B2 (ja) | 画像編集装置およびその制御方法およびプログラム | |
JP4400684B2 (ja) | 情報処理装置、記録再生装置 | |
JP5263308B2 (ja) | 記録再生装置及び記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |