CN111183457A - 影像生成装置、影像拍摄装置、影像拍摄系统、影像生成方法、控制程序以及记录介质 - Google Patents
影像生成装置、影像拍摄装置、影像拍摄系统、影像生成方法、控制程序以及记录介质 Download PDFInfo
- Publication number
- CN111183457A CN111183457A CN201880062804.0A CN201880062804A CN111183457A CN 111183457 A CN111183457 A CN 111183457A CN 201880062804 A CN201880062804 A CN 201880062804A CN 111183457 A CN111183457 A CN 111183457A
- Authority
- CN
- China
- Prior art keywords
- depth information
- dimensional
- image
- unit
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 125
- 238000003384 imaging method Methods 0.000 claims abstract description 313
- 230000008569 process Effects 0.000 claims abstract description 21
- 238000012790 confirmation Methods 0.000 claims description 13
- 230000002950 deficient Effects 0.000 abstract description 20
- 230000002194 synthesizing effect Effects 0.000 description 65
- 230000015572 biosynthetic process Effects 0.000 description 27
- 238000003786 synthesis reaction Methods 0.000 description 27
- 238000010586 diagram Methods 0.000 description 14
- 239000000203 mixture Substances 0.000 description 13
- 239000002131 composite material Substances 0.000 description 10
- 230000004927 fusion Effects 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 230000008859 change Effects 0.000 description 5
- 238000003825 pressing Methods 0.000 description 5
- 230000033001 locomotion Effects 0.000 description 4
- 230000002159 abnormal effect Effects 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000009877 rendering Methods 0.000 description 2
- 241001465754 Metazoa Species 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/2224—Studio circuitry; Studio devices; Studio equipment related to virtual studio applications
- H04N5/2226—Determination of depth image, e.g. for foreground/background separation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Signal Processing (AREA)
- Software Systems (AREA)
- Multimedia (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Geometry (AREA)
- Studio Devices (AREA)
- Processing Or Creating Images (AREA)
Abstract
本发明提供一种在拍摄被拍摄体并生成该被拍摄体的三维影像的装置中,即使在拍摄刚开始后,也能生成没有缺损区域的三维影像的技术。影像生成装置(1)具备:深度信息获取部(5),获取表示显示对象的三维形状的深度信息;以及三维影像生成部(7),参考所述深度信息,以及在生成所述三维影像的处理开始前预先准备的、整体性地表示所述显示对象的三维形状的初始参考模型,来生成所述三维影像。
Description
技术领域
本发明涉及一种生成表示显示对象的三维形状的三维影像的影像生成装置。
背景技术
作为现有技术,已知一种被称作Dynamic Fusion(动态融合)的技术。DynamicFusion的目的主要在于构筑根据拍摄深度实时地去除噪声的3D模型。在Dynamic Fusion中,将从传感器所获取的深度在补偿了3D形状的变形的基础上整合为共同的参考模型。由此,能根据低分辨率以及高噪声的深度生成精密的3D模型。
更详细而言,在Dynamic Fusion中,进行以下的(1)~(3)的工序。
(1)基于输入深度(current depth)和基准3D模型(canonical model)来估计摄像机位置以及运动流,构筑3D模型(current model)。
(2)将3D模型与视点相匹配地进行渲染(rendering),将更新后的深度作为再现深度输出。
(3)将在(1)中构筑的3D模型在补偿了3D模型的摄像机位置以及3D模型的变形的基础上整合为基准3D模型。
作为生成三维影像的技术的其他的示例,在专利文献1中公开了一种虚拟视点影像装置。该虚拟视点影像装置生成从虚拟视点观察到的对象物的深度映射图,基于该深度映射图,按每个构成从虚拟视点拍摄对象物时的影像的像素,生成表示能否从多个视点观测对象物的判定图像,基于该判定图像来修正深度映射图。
此外,作为生成三维影像的技术的另一个示例,在专利文献2中公开了一种对象三维模型复原装置。该对象三维模型复原装置基于一台RGB摄像机所拍摄的图像和一台深度摄像机所拍摄的图像来合成自由视点影像。
现有技术文献
专利文献
专利文献1:日本公开专利公报“日本特开2015-45920号公报(2015年3月12日公开)”
专利文献2:日本公开专利公报“日本特开2016-71645号公报(2016年5月9日公开)”
发明内容
发明要解决的问题
使用上述的Dynamic Fusion,基于各时刻的深度信息来合成参考模型和实时模型(live model),由此能生成动态的三维影像。但是,在存在不包括于作为基础的深度信息中的被拍摄体的区域的情况下,则对应的参考模型的区域没有被填充,因此三维影像成为在此区域开有孔的影像(例如,相对于获取深度的拍摄装置成为相反的面,或成为谷部的部位等。需要说明的是,以下,将像这样在三维影像中缺损一部分影像的区域称为“缺损区域”)。此外,在Dynamic Fusion中,使用各时刻的深度信息逐渐形成参考模型,因此在拍摄刚开始后的三维影像成为缺损区域多的影像。
本发明是鉴于上述的问题点而完成的发明,其目的在于提供一种在拍摄被拍摄体并生成该被拍摄体的三维影像的装置中,即使在拍摄刚开始后,也能生成没有缺损区域的三维影像的技术。
技术方案
为了解决上述的问题,本发明的一个方案的影像生成装置生成显示对象的三维影像,该影像生成装置具备:深度信息获取部,获取表示所述显示对象的三维形状的深度信息;以及三维影像生成部,参考所述深度信息,以及在生成所述三维影像的处理开始前预先准备的、整体性地表示所述显示对象的三维形状的初始参考模型,来生成所述三维影像。
为了解决上述的问题,本发明的一个方案的影像生成方法生成显示对象的三维影像,该影像生成方法包括:深度信息获取工序,获取表示所述显示对象的三维形状的深度信息;以及三维影像生成工序,参考所述深度信息,以及在生成所述三维影像的处理开始前预先准备的、整体性地表示所述显示对象的三维形状的初始参考模型,来生成所述三维影像。
发明效果
根据本发明的一个方案,在拍摄被拍摄体并生成该被拍摄体的三维影像的装置中,即使在拍摄刚开始后,也能生成没有缺损区域的三维影像。
附图说明
图1是表示本发明的实施方式1的影像拍摄装置的构成的框图。
图2是对基于本发明的实施方式1的影像拍摄装置的影像生成方法的概略进行说明的流程图。
图3是更详细地说明图2所示的初始参考模型生成方法的流程图。
图4是更详细地说明图2所示的三维影像生成方法的流程图。
图5是表示本发明的实施方式2的影像拍摄装置的构成的框图。
图6是表示本发明的实施方式3的影像拍摄系统的概略图。
图7是表示本发明的实施方式3的影像拍摄系统的构成的框图。
图8是对基于本发明的实施方式3的影像拍摄系统的影像生成方法的一个示例进行说明的流程图。
图9是表示本发明的实施方式4的影像拍摄系统的构成的框图。
图10是对基于本发明的实施方式4的影像拍摄系统的影像生成方法的一个示例进行说明的流程图。
图11是表示本发明的实施方式5的影像拍摄系统的构成的框图。
图12是对基于本发明的实施方式5的影像拍摄系统的影像生成方法的一个示例进行说明的流程图。
图13是表示本发明的实施方式6的影像拍摄系统的构成的框图。
具体实施方式
以下,对本发明的实施方式进行详细说明。但是,本实施方式所记载的构成只要没有特别特定的记载,就不意味着将本发明的范围仅限定于此,只不过是说明例。
〔实施方式1〕
(影像拍摄装置1)
参考图1对本实施方式的影像拍摄装置1进行详细说明。图1是表示本实施方式的影像拍摄装置1的构成的框图。如图1所示那样,影像拍摄装置1具备影像生成装置2以及拍摄装置3。此外,影像生成装置2具备拍摄开始判定部4、深度信息获取部5、初始参考模型合成部6(初始参考模型生成部)、三维影像合成部7以及拍摄结束判定部8。
拍摄装置3拍摄显示对象,生成该显示对象的深度信息。需要说明的是,本申请说明书中的术语“显示对象”是表示由拍摄装置3拍摄的对象,此外,表示影像生成装置2基于拍摄装置3通过该拍摄生成的深度信息而生成三维影像的对象。此外,本申请说明书中的术语“深度信息”是表示从拍摄装置3通过拍摄显示对象而得到的拍摄数据导出的、与从拍摄装置3到显示对象的深度相关的信息。
影像生成装置2的拍摄开始判定部4通过感测拍摄开始的触发,判定为开始显示对象的拍摄,经由深度信息获取部5对拍摄装置3指示开始拍摄。
深度信息获取部5基于拍摄开始判定部4的拍摄开始的指示,从拍摄装置3获取深度信息。
初始参考模型合成部6参考由深度信息获取部5获取的深度信息,合成(生成)初始参考模型。需要说明的是,本申请说明书中的术语“初始参考模型”是指在生成显示对象的三维影像的处理开始前预先准备的、整体性地表示显示对象的三维形状的三维模型信息。
三维影像合成部7参考由初始参考模型合成部6合成的初始参考模型,以及由深度信息获取部5获取的深度信息,合成显示对象的三维影像。需要说明的是,本申请说明书中的术语“三维影像”是表示示出显示对象的三维形状的影像,该影像可以是静止图像或运动图像。作为三维影像的示例,可以列举出参考模型、基于该参考模型和刚获取的深度信息而生成的实时模型,以及以从任意的视点的位置观察的方式渲染的图像(以下,称作“任意视点图像”)等。
拍摄结束判定部8通过感测拍摄结束的触发,判定为结束显示对象的拍摄,经由深度信息获取部5对拍摄装置3指示结束拍摄。
(影像生成方法)
参考图2~4对基于本实施方式的影像拍摄装置1的影像生成方法进行说明。图2是对基于本实施方式的影像拍摄装置1的影像生成方法的概略进行说明的流程图。如图2所示,作为基于本实施方式的影像拍摄装置1的影像生成方法的概略,本实施方式的影像拍摄装置1首先生成初始参考模型(步骤S0),接着参考所生成的初始参考模型生成三维影像(步骤S1)。图3是更详细地说明图2所示的初始参考模型生成方法的流程图。此外,图4是更详细地说明图2所示的三维影像生成方法的流程图。
如图3所示,首先,在步骤S10中,拍摄开始判定部4通过感测拍摄开始的触发,判定为开始显示对象的拍摄,经由深度信息获取部5对拍摄装置3指示开始拍摄。此外,在步骤S10中,拍摄装置3基于拍摄开始判定部4的指示,拍摄显示对象,生成该显示对象的深度信息。需要说明的是,在后面叙述基于拍摄开始判定部4的判定拍摄开始的方法的具体示例。
接着,深度信息获取部5基于拍摄开始判定部4的拍摄开始的指示,从拍摄装置3获取深度信息(步骤S11)。
接着,初始参考模型合成部6参考由深度信息获取部5获取的深度信息,合成初始参考模型(步骤S12)。需要说明的是,在本实施方式中,对由初始参考模型合成部6生成初始参考模型的构成进行说明。但是在影像拍摄装置1中,也可以用其他的方法生成初始参考模型,或者,可以从影像拍摄装置1的外部获取,对初始参考模型的生成方法或获取方法没有特别限定。
接着,拍摄结束判定部8判定是否结束显示对象的拍摄(步骤S13)。在拍摄结束判定部8判定为结束显示对象的拍摄的情况下(步骤S13的“是”),经由深度信息获取部5对拍摄装置3指示结束拍摄,对初始参考模型合成部6指示结束初始参考模型的合成。此外,在拍摄结束判定部8判定为不结束显示对象的拍摄的情况下(步骤S13的“否”),返回至步骤S11,直到拍摄结束判定部8判定为结束显示对象的拍摄为止,重复步骤S11、步骤S12以及步骤S13的工序。需要说明的是,在后面叙述基于拍摄结束判定部8的判定拍摄结束的方法的具体示例。
以下,参考图4对作为上述的步骤S0的初始参考模型生成之后的工序的步骤S1的三维影像生成进行详细说明。需要说明的是,在步骤S1的三维影像生成中,使用在步骤S0的初始参考模型生成中预先生成的初始参考模型。
首先,三维影像合成部7读入由初始参考模型合成部6在步骤S12合成的初始参考模型(步骤S20)。
接着,在步骤S21中,拍摄开始判定部4通过感测拍摄开始的触发,判定为开始显示对象的拍摄,经由深度信息获取部5对拍摄装置3指示开始拍摄。此外,在步骤S21中,拍摄装置3基于拍摄开始判定部4的指示,拍摄显示对象,生成该显示对象的深度信息。
接着,深度信息获取部5基于拍摄开始判定部4的拍摄开始的指示,从拍摄装置3获取深度信息(步骤S22)。
接着,三维影像合成部7参考在步骤S20中读入的初始参考模型,以及由深度信息获取部5获取的深度信息,合成显示对象的三维影像(步骤S23)。在后面叙述由三维影像合成部7合成三维影像的方法的具体例。
接着,拍摄结束判定部8判定是否结束显示对象的拍摄(步骤S24)。在拍摄结束判定部8判定为结束显示对象的拍摄的情况下(步骤S24的“是”),经由深度信息获取部5对拍摄装置3指示结束拍摄,对三维影像合成部7指示结束三维影像的合成。此外,在拍摄结束判定部8判定为不结束显示对象的拍摄的情况下(步骤S24的“否”),返回至步骤S22,直到拍摄结束判定部8判定为结束显示对象的拍摄为止,重复步骤S22、步骤S23以及步骤S24的工序。
(基于拍摄开始判定部4的拍摄开始判定方法的具体例)
以下,对基于上述的拍摄开始判定部4的拍摄开始判定方法的具体例进行说明。如上所述,在步骤S10或步骤S21中,拍摄开始判定部4通过感测拍摄开始的触发,判定为开始显示对象的拍摄,经由深度信息获取部5对拍摄装置3指示开始拍摄。
在该工序中,拍摄开始判定部4对拍摄装置3指示拍摄开始的定时可以不是刚感测到拍摄开始的触发后。例如,也可以是拍摄开始判定部4从感测到拍摄开始的触发经过数秒后,对拍摄装置3指示拍摄开始。此外,作为由拍摄开始判定部4感测的拍摄开始的触发的示例,可以列举出物理或电子开关的按下等。
此外,在与显示对象的拍摄开始相关联,在被拍摄体(显示对象)和拍摄者相同的情况下(例如,拍摄自己的情况下,以下,称为被拍摄体兼拍摄者),存在以下的问题。例如,存在由于被拍摄体兼拍摄者和拍摄装置3分离,或被拍摄体兼拍摄者与拍摄装置3之间存在障碍物等而导致被拍摄体兼拍摄者难以按下拍摄装置3的拍摄开关的情况。此外,在拍摄装置3具有从按下拍摄开关经过规定的时间后,开始拍摄的构成(定时器式)的情况下,拍摄装置3有时会拍摄从按下拍摄开关起到进入拍摄范围为止的被拍摄体兼拍摄者的姿态。
为了解决如上所述的问题,在步骤S10或步骤S21中,拍摄开始判定部4可以用以下的方法判定是否开始显示对象的拍摄。例如,与在步骤S10或步骤S21中的以深度信息的生成为目的的拍摄不同,拍摄装置3拍摄被拍摄体,拍摄开始判定部4判定拍摄装置3拍摄的被拍摄体是否做出了特定的姿势(Gesture)或造型。并且,在拍摄开始判定部4判定为被拍摄体做出了特定的姿势或造型的情况下,经由深度信息获取部5对拍摄装置3指示开始以深度信息的生成为目的的拍摄。
此外,在另一个示例中,与在步骤S10或步骤S21中的以深度信息的生成为目的的拍摄不同,拍摄装置3拍摄被拍摄体,拍摄开始判定部4判定拍摄装置3拍摄的被拍摄体是否朝向特定的方向。并且,在拍摄开始判定部4判定为被拍摄体已朝向特定的方向的情况下,经由深度信息获取部5对拍摄装置3指示开始以被拍摄体的深度信息的生成为目的的拍摄。
此外,在另一个示例中,在步骤S10或步骤S21中,拍摄装置3获取拍摄装置3的周围的声音。拍摄开始判定部4参考拍摄装置3获取的声音数据,判定是否感测到表示拍摄开始的声音(例如,“开始”等)。并且,在拍摄开始判定部4感测到表示拍摄开始的声音的情况下,经由深度信息获取部5对拍摄装置3指示开始被拍摄体的拍摄。
此外,将上述的各例进行组合的构成也包括在本实施方式的范围内。例如,在步骤S10或步骤S21中,在拍摄开始判定部4感测到物理或电子开关的按下,并且,判定为拍摄装置3拍摄的被拍摄体做出了特定的姿势或造型的情况下,经由深度信息获取部5对拍摄装置3指示开始被拍摄体的拍摄。
(基于深度信息获取部5的深度信息获取方法的具体例)
以下,对基于上述的深度信息获取部5的深度信息获取方法的具体例进行说明。如上所述,在步骤S11或步骤S22中,基于拍摄开始判定部4的拍摄开始的指示,深度信息获取部5从拍摄装置3获取深度信息。此外,在步骤S11或步骤S22中,也可以是深度信息获取部5通过拍摄装置3以外的拍摄装置获取事先拍摄显示对象而生成的深度信息。
在上述的步骤S11或步骤S22的工序中,作为由深度信息获取部5获取的深度信息的示例,可以列举出深度映射图。此外,作为拍摄显示对象,生成显示对象的深度信息的拍摄装置3的示例,可以列举出深度摄像机。需要说明的是,拍摄显示对象,生成深度信息的深度摄像机至少有一台即可,只要使用由一台深度摄像机生成的深度映射图,就能执行本实施方式的影像生成方法。
此外,作为拍摄装置3的另一个示例,可以列举出使用立体匹配(Stereomatching)的方法生成显示对象的深度信息的拍摄装置,以及使用Shape from silhouette(背影轮廓)的方法生成显示对象的深度信息的拍摄装置等。(基于初始参考模型合成部6的初始参考模型合成方法的具体例)
以下,对基于上述的初始参考模型合成部6的初始参考模型合成方法的具体例进行说明。如上所述,在步骤S12中,初始参考模型合成部6参考深度信息获取部5获取的深度信息,合成初始参考模型。
在该工序中,优选的是,初始参考模型合成部6合成的初始参考模型为忠实地反映实际的被拍摄体(显示对象)的三维形状的三维模型。例如,初始参考模型整体性地表示显示对象的三维形状,其在表面没有缺损区域。此外,优选的是,初始参考模型是显示对象的微小的细节(detail)没有被破坏的三维模型。此外,优选的是,初始参考模型是三维形状没有异常变形的三维模型(例如,在被拍摄体为人的情况下,有三只手臂等)。
需要说明的是,在本实施方式中,对拍摄装置3拍摄显示对象,生成该显示对象的深度信息,初始参考模型合成部6参考该深度信息合成初始参考模型的构成进行说明。但是,也可以用其他的方法生成初始参考模型,或者,可以从影像拍摄装置1的外部获取,对初始参考模型的生成方法或获取方法没有特别限定。
例如,也可以是由拍摄装置3以外的别的拍摄装置拍摄显示对象,生成该显示对象的深度信息,初始参考模型合成部6参考该深度信息合成初始参考模型。或者,也可以是由影像拍摄装置1以外的影像拍摄装置拍摄显示对象,生成该显示对象的深度信息,参考该深度信息合成初始参考模型。在此情况下,影像拍摄装置1参考由影像拍摄装置1以外的影像拍摄装置合成的初始参考模型,合成显示对象的三维影像。
此外,也可以是拍摄装置3拍摄被拍摄体,生成被拍摄体(显示对象)的颜色信息(RGB图像等)。在此情况下,初始参考模型合成部6可以对参考深度信息合成的初始参考模型附加该颜色信息。
(基于三维影像合成部7的三维影像合成方法的具体例)
以下,对基于上述的三维影像合成部7的三维影像合成方法的具体例进行说明。如上所述,在步骤S23中,三维影像合成部7参考初始参考模型和深度信息,合成显示对象的三维影像。作为这里的三维影像的示例,可以列举出参考模型、实时模型以及任意视点图像等。此外,在该工序中,作为三维影像合成部7合成三维影像的方法的示例,可以列举出使用上述的Dynamic Fusion的技术的方法。
更详细而言,在步骤S23中,三维影像合成部7将读入的初始参考模型设定为当前的参考模型。此外,每次三维影像合成部7从深度信息获取部5获取深度信息时,参考该深度信息,更新显示对象的三维影像(参考模型、实时模型以及任意视点图像等)(将最新的深度信息整合于三维影像)。
在该工序中,例如,也可以是三维影像合成部7使合成的参考模型任意地旋转然后输出。此外,在三维影像合成部7参考深度信息来更新参考模型、实时模型以及任意视点图像的情况下,参考模型、实时模型以及任意视点图像的更新也可以不必在每次获取深度信息时都进行。此外,也可以是三维影像合成部7在参考模型、实时模型以及任意视点图像的更新后,输出基于已更新的参考模型、实时模型以及任意视点图像的三维影像(的帧图像)。
此外,在三维影像合成部7判断为最近从深度信息获取部5获取的深度信息对三维影像(参考模型等)的合成造成不良影响的情况下,也可以不进行三维影像的更新。在步骤S23中,三维影像合成部7不进行三维影像的更新的情况的示例在以下示出。
例如,在最近从深度信息获取部5获取的深度信息(当前深度信息)与在获取该深度信息之前,从深度信息获取部5获取的深度信息(前次深度信息)极端地不同的情况下,三维影像合成部7不进行基于当前深度信息的三维影像的更新。
在另一个示例中,在三维影像合成部7判断为在当前深度信息中涉及强的噪声的情况下,不进行基于该当前深度信息的三维影像的更新。
在另一个示例中,三维影像合成部7比较当前深度信息和前次深度信息,在当前深度信息中出现了在前次深度信息中没有的物体的情况下,不进行基于该当前深度信息的三维影像的更新。
此外,也可以是三维影像合成部7与深度信息一起,获取显示对象(被拍摄体)的色彩信息(颜色、灰度等),参考该深度信息和该色彩信息来进行三维影像的更新。由此生成的三维影像成为反映了显示对象的色彩信息的影像。
(基于拍摄结束判定部8的拍摄结束判定方法的具体例)
以下,对基于上述的拍摄结束判定部8的拍摄结束判定方法的具体例进行说明。如上所述,在步骤S13或步骤S24中,拍摄结束判定部8判定是否结束显示对象的拍摄。
在该工序中,例如,拍摄结束判定部8通过感测拍摄结束的触发,判定为结束显示对象的拍摄。在像这样的构成中,拍摄结束判定部8对拍摄装置3指示拍摄结束的定时也可以不在刚感测到拍摄结束的触发后。例如,也可以是拍摄结束判定部8在感测到拍摄结束的触发后数秒后对拍摄装置3指示拍摄结束。此外,作为由拍摄结束判定部8感测的拍摄结束的触发的示例,可以列举出物理或电子开关的按下等。在像这样的示例中,拍摄结束判定部8通过感测物理或电子开关的按下,来判定为结束显示对象的拍摄。
此外,与基于上述的拍摄开始判定部4的拍摄开始判定方法相同,拍摄结束判定部8也可以通过感测不利用开关的拍摄结束的触发,判定为结束显示对象的拍摄。像这样的示例在以下进行表示。例如,拍摄结束判定部8判定拍摄装置3拍摄的被拍摄体是否做出了特定的姿势或造型。并且,在拍摄结束判定部8判定为被拍摄体做出了特定的姿势或造型的情况下,经由深度信息获取部5对拍摄装置3指示结束拍摄,对三维影像合成部7指示结束三维影像的合成。
此外,在另一个示例中,在步骤S13或步骤S24中,拍摄结束判定部8判定拍摄装置3拍摄的被拍摄体是否朝向特定的方向。并且,在拍摄结束判定部8判定为被拍摄体朝向特定方向的情况下,经由深度信息获取部5对拍摄装置3指示结束拍摄,对三维影像合成部7指示结束三维影像的合成。
此外,在另一个示例中,在步骤S13或步骤S24中,在拍摄结束判定部8判定为拍摄装置3拍摄的被拍摄体旋转了n次的情况下,经由深度信息获取部5对拍摄装置3指示结束拍摄,对三维影像合成部7指示结束三维影像的合成。
此外,在另一个示例中,在步骤S24中,在拍摄结束判定部8判定为针对三维影像合成部7合成的参考模型等的表面,整合有一定的比例以上的由深度信息所表示的参考模型的部分的情况下,经由深度信息获取部5对拍摄装置3指示结束拍摄,对三维影像合成部7指示结束三维影像的合成。
此外,在另一个示例中,在步骤S24中,在拍摄结束判定部8判定为三维影像合成部7没有更新参考模型的情况下,经由深度信息获取部5对拍摄装置3指示结束拍摄,对三维影像合成部7指示结束三维影像的合成。
此外,在另一个示例中,在步骤S13或步骤S24中,拍摄装置3获取拍摄装置3的周围的声音。拍摄结束判定部8参考拍摄装置3获取的声音数据,判定是否感测到表示拍摄结束的声音(例如,“停止”等)。并且,在拍摄结束判定部8感测到表示拍摄结束的声音的情况下,经由深度信息获取部5对拍摄装置3指示结束拍摄,对三维影像合成部7指示结束三维影像的合成。
此外,将上述的各例进行组合的构成也包括在本实施方式的范围内。例如,在步骤S13或步骤S24中,在拍摄结束判定部8感测到物理或电子开关的按下,并且,判定为拍摄装置3拍摄的被拍摄体做出了特定的姿势或造型的情况下,经由深度信息获取部5对拍摄装置3指示结束拍摄,对三维影像合成部7指示结束三维影像的合成。
(总结)
如上所述,本实施方式的影像拍摄装置1所具备的影像生成装置2获取表示显示对象的三维形状的深度信息,参考该深度信息,以及在生成三维影像的处理开始前预先准备的、整体性地表示显示对象的三维形状的初始参考模型,来生成显示对象的三维影像。
根据上述的构成,参考在拍摄刚开始后,在生成三维影像的处理开始前准备的、整体性地表示显示对象的三维形状的初始参考模型,来生成三维影像,因此能够生成没有缺损区域的三维影像。
此外,本实施方式的影像拍摄装置1所具备的影像生成装置2参考获取的深度信息生成初始参考模型,参考该初始参考模型,生成显示对象的三维影像。
根据上述的构成,在生成三维影像的装置中,能预先生成初始参考模型,参考该初始参考模型,能生成没有缺损区域的三维影像。
〔实施方式2〕
在上述的实施方式1的影像拍摄装置1中,用于获取作为初始参考模型的基础的深度信息的拍摄(事先拍摄)和用于获取作为三维影像的基础的深度信息的拍摄(三维影像拍摄),有时设置时间差来进行为好。此外,对于同一个被拍摄体(显示对象),若每次进行三维影像拍摄,都进行事前拍摄,则花费工夫。
此外,进行三维影像拍摄的场所和进行事前拍摄的场所有时会不同。作为像这样的情况的示例,例如可以列举出在摄影棚进行事前拍摄后,移动到外景地然后进行三维影像拍摄的情况。此外,作为另一个示例,可以列举出倘若进行事前拍摄,则在获取到动态的被拍摄体的深度信息后,在发送该深度信息以及基于该深度信息生成的初始参考模型前,进行三维影像拍摄(以及三维影像的合成)的情况。
在上述那样的各种案例下,参考深度信息以及初始参考模型,需求一种能生成三维影像的影像拍摄装置。因此,本实施方式的影像拍摄装置10所具备的影像生成装置11存储初始参考模型,参考所存储的初始参考模型,生成显示对象的三维影像。
若基于附图对像上述那样的本发明的实施方式2进行说明,则如下所述。需要说明的是,对具有与在实施方式1中说明过的影像拍摄装置1所具备的构件相同功能的构件标注相同附图标记,并省略其说明。
(影像拍摄装置10)
参考图5对本实施方式的影像拍摄装置10进行说明。图5是表示本实施方式的影像拍摄装置10的构成的框图。如图5所示,影像拍摄装置10具备影像生成装置11以及拍摄装置3。影像生成装置11除了还具备初始参考模型存储部12以外,具有与实施方式1的影像生成装置2相同的构成。并且,初始参考模型存储部12存储由初始参考模型合成部6合成的初始参考模型。
(影像生成方法)
对基于本实施方式的影像拍摄装置10的影像生成方法进行说明。需要说明的是,基于本实施方式的影像拍摄装置10的影像生成方法,除了在上述的步骤S13之后追加了新的工序,以及步骤S20不同以外,与实施方式1的影像生成方法相同。因此,对于与实施方式1的影像生成方法相同的工序,省略详细的说明。
在本实施方式的影像生成方法中,作为上述的步骤S13之后的工序,初始参考模型存储部12存储由初始参考模型合成部6合成的初始参考模型。需要说明的是,作为本实施方式的变形例,也可以是初始参考模型存储部12从影像拍摄装置10的外部获取初始参考模型进行存储。
此外,在上述的步骤S20中,三维影像合成部7读入由初始参考模型存储部12存储的初始参考模型。在该工序中,也可以是三维影像合成部7从初始参考模型存储部12所存储的初始参考模型中选择一个初始参考模型。在此情况下,也可以是三维影像合成部7读入用户从初始参考模型存储部12所存储的初始参考模型中选择的初始参考模型。此外,也可以是三维影像合成部7在初始参考模型存储部12所存储的初始参考模型中,选择与被设定为被拍摄体的物体类似的初始参考模型。
此外,在上述的步骤S24中,在拍摄结束判定部8判定为结束显示对象的拍摄的情况下,初始参考模型存储部12可以存储在步骤S23中三维影像合成部7合成的三维影像(参考模型等)作为初始参考模型。此外,也可以是在从用户处得到指示存储三维影像作为初始参考模型的输入的情况下,进行该工序。
(总结)
如上所述,本实施方式的影像拍摄装置10所具备的影像生成装置11存储初始参考模型,参考该初始参考模型,生成显示对象的三维影像。
根据上述的构成,能参考所存储的初始参考模型,生成没有缺损区域的三维影像。此外,能参考所存储的初始参考模型生成三维影像,因此,不需要连续进行用于获取作为初始参考模型的基础的深度信息的拍摄和用于获取作为三维影像的基础的深度信息的拍摄。此外,对于进行过一次用于获取作为初始参考模型的基础的深度信息的拍摄的被拍摄体,无需再次进行该拍摄。此外,不需要连续进行用于获取作为初始参考模型的基础的深度信息的拍摄和用于获取作为三维影像的基础的深度信息的拍摄,因此能分别在不同的场所执行这些拍摄。
〔实施方式3〕
上述的实施方式1的影像拍摄装置1或实施方式2的影像拍摄装置10拍摄运动中的被拍摄体(显示对象),获取被拍摄体的深度信息,参考该深度信息来生成三维影像。作为像这样的构成的具体例,例如可以列举出以上述的Dynamic Fusion为基础,参考各时刻的深度信息来合成三维影像的方法。但是,在像这样的技术中,影像拍摄装置1或影像拍摄装置10的用户如何拍摄才能得到反映了实际的被拍摄体的三维形状的三维影像,对于一般的用户而言并不知道。
为了解决如上所述的问题,在本实施方式中,使用图6所示的影像拍摄系统100。图6是表示本实施方式的影像拍摄系统100的概略图。在图6所示的影像拍摄系统100中,由拍摄者A操作的影像拍摄装置20拍摄被拍摄体B(显示对象),生成与被拍摄体B的拍摄相关的拍摄指示信息。此外,拍摄指示输出装置30参考由影像拍摄装置20生成的拍摄指示信息,输出与显示对象的拍摄相关的指示。若基于附图对像上述那样的本发明的实施方式3进行说明,则如下所述。
(影像拍摄系统100)
参考图7对本实施方式的影像拍摄系统100进行说明。图7是表示本实施方式的影像拍摄系统100的构成的框图。如图7所示,影像拍摄系统100包括影像拍摄装置20以及拍摄指示输出装置30。影像拍摄装置20具备影像生成装置21以及拍摄装置3。影像生成装置21除了还具备拍摄指示信息生成部22以外,具有与实施方式1的影像生成装置2相同的构成。因此,对于具有与在实施方式1中说明的影像拍摄装置1所具备的构件相同功能的构件标注相同的附图标记,并省略其说明。此外,拍摄指示输出装置30具备有获取部31以及输出部32。
影像生成装置21所具备的拍摄指示信息生成部22生成与利用拍摄装置3进行的显示对象的拍摄相关的拍摄指示信息。在后面叙述由拍摄指示信息生成部22生成的拍摄指示信息。
拍摄指示输出装置30所具备的获取部31获取由拍摄指示信息生成部22生成的拍摄指示信息。此外,输出部32参考由获取部31获取的拍摄指示信息,输出与显示对象的拍摄相关的指示。作为拍摄指示输出装置30的示例,可以列举出将与显示对象的拍摄相关的指示作为影像输出的监控器,以及将与显示对象的拍摄相关的指示作为声音输出的扬声器等。
(影像生成方法)
参考图8对基于本实施方式的影像拍摄系统100的影像生成方法进行详细说明。图8是对基于本实施方式的影像拍摄系统100的影像生成方法的一个示例进行说明的流程图。需要说明的是,基于本实施方式的影像生成方法中的拍摄指示信息的生成以及输出方法能同样应用于实施方式1中说明过的步骤S0的初始参考模型生成的工序(步骤S10~步骤S13的工序),以及步骤S1的三维影像生成的工序(步骤S20~步骤S24)。因此,针对本实施方式的影像生成方法中的与步骤S0的初始参考模型生成的工序相当的工序,省略其说明,对于步骤S1的三维影像生成的工序,针对其应用了拍摄指示信息的生成以及输出方法的形态在以下进行说明。此外,针对与实施方式1的影像生成方法相同的工序,省略其详细的说明。
首先,如图8所示,三维影像合成部7读入由初始参考模型合成部6合成的初始参考模型(步骤S30)。
接着,在步骤S31中,拍摄开始判定部4通过感测拍摄开始的触发,判定为开始显示对象的拍摄,经由深度信息获取部5对拍摄装置3指示开始拍摄。此外,在步骤S31中,拍摄装置3基于拍摄开始判定部4的指示,开始显示对象的拍摄(伴随于此,开始显示对象的深度信息的生成)。
接着,在步骤S32中,拍摄指示信息生成部22基于拍摄开始判定部4的拍摄开始的指示,生成与基于拍摄装置3的显示对象的拍摄相关的拍摄指示信息。此外,在步骤S32中,拍摄指示输出装置30的获取部31获取拍摄指示信息生成部22生成的拍摄指示信息,拍摄指示输出装置30的输出部32参考获取部31所获取的拍摄指示信息,输出与显示对象的拍摄相关的指示。
作为上述的“与显示对象的拍摄相关的指示”的示例,可以列举出对影像拍摄装置20的用户进行引导,以将影像拍摄装置20调整为最佳朝向或配置的指示,以及对影像拍摄装置20的用户进行引导,以将影像拍摄装置20的拍摄条件的设定变更为最佳设定的指示等。影像拍摄装置20的用户(上述的拍摄者A)像这样参考由输出部32输出的指示,能调整影像拍摄装置20相对于被拍摄体(显示对象,上述的被拍摄体B)的朝向或者配置,或者能调整影像拍摄装置20的拍摄条件(明亮度,或焦点等)的设定等。
作为步骤S32之后的工序,如上所述,深度信息获取部5获取由用户调整的影像拍摄装置20的拍摄装置3拍摄被拍摄体而生成的深度信息(步骤S33)。
接着,三维影像合成部7参考在步骤S30中读入的初始参考模型,以及由深度信息获取部5获取的深度信息,合成显示对象的三维影像(步骤S34)。
接着,拍摄结束判定部8判定是否结束显示对象的拍摄(步骤S35)。在拍摄结束判定部8判定为结束显示对象的拍摄的情况下(步骤S35的“是”),经由深度信息获取部5对拍摄装置3指示结束拍摄,对三维影像合成部7指示结束三维影像的合成。此外,在拍摄结束判定部8判定为不结束显示对象的拍摄的情况下(步骤S35的“否”),返回至步骤S32,直到拍摄结束判定部8判定为结束显示对象的拍摄为止,重复步骤S32、步骤S33、步骤S34以及步骤S35的工序。
(由拍摄指示信息生成部22生成的拍摄指示信息的具体例)
以下,对由上述的拍摄指示信息生成部22生成的拍摄指示信息的具体例进行说明。如上所述,在步骤S32中,拍摄指示信息生成部22基于拍摄开始判定部4的拍摄开始的指示,生成与基于拍摄装置3的显示对象的拍摄相关的拍摄指示信息。此外,在步骤S32中,拍摄指示输出装置30的获取部31获取拍摄指示信息生成部22生成的拍摄指示信息,拍摄指示输出装置30的输出部32参考获取部31所获取的拍摄指示信息,输出与显示对象的拍摄相关的指示。
在上述的工序中,例如,拍摄指示信息生成部22为了获取合成适当的参考模型所需的深度信息,生成表示用户需要进行怎样的操作或行动的拍摄指示信息。拍摄指示输出装置30的输出部32参考该拍摄指示信息输出指示。需要说明的是,由拍摄指示输出装置30的输出部32输出的指示的对象可以是拍摄者、被拍摄体或其双方。需要说明的是,以下的各示例是表示拍摄者以及被拍摄体是人的情况的示例。
此外,如上所述,为了获取合成适当的参考模型所需的深度信息,需要满足以下的条件。例如,影像拍摄装置20所具备的拍摄装置3需要拍摄被拍摄体的所有表面。在另一个示例中,被拍摄体的动作需要慢到不使通过拍摄装置3的拍摄而获取的拍摄数据中的被拍摄体模糊(blur)的程度。
此外,作为参考由拍摄指示信息生成部22生成的拍摄指示信息,由拍摄指示输出装置30的输出部32输出的指示的示例,可以列举出对被拍摄体(显示对象)的指示。更详细而言,该指示例如可以是:对被拍摄体进行引导,使其进行旋转动作的指示;对被拍摄体进行引导,使其做出特定的造型的指示;对被拍摄体进行引导,使其朝向特定的方向的指示;引导被拍摄体,使以影像拍摄装置20为基准的被拍摄体的位置移动至特定的位置的指示;或者对被拍摄体进行引导,使其动作速度降低(缓慢运动)的指示等。
此外,作为参考由拍摄指示信息生成部22生成的拍摄指示信息,由拍摄指示输出装置30的输出部32输出的指示的另一个示例,可以列举出对拍摄者(影像拍摄装置20的用户)的指示。更详细而言,该指示例如可以是:对拍摄者进行引导,以使其围绕被拍摄体的周围移动的指示;对拍摄者进行引导,以使影像拍摄装置20倾斜或变更朝向的指示;对拍摄者进行引导,以使其发出朝向被拍摄体的指示的指示(例如,对拍摄者进行引导,以使其读出对被拍摄体的指示(文字等)的指示),或者对拍摄者进行引导,以变更影像拍摄装置20的设定的指示等。
此外,也可以是在步骤S31中由拍摄开始判定部4指示拍摄开始前,拍摄指示信息生成部22生成拍摄指示信息,拍摄指示输出装置30的输出部32参考该拍摄指示信息,输出与显示对象的拍摄相关的指示。
拍摄指示信息生成部22在基于拍摄开始判定部4的拍摄开始的指示前,生成拍摄指示信息,将输出部32参考该拍摄指示信息而输出的、对被拍摄体的指示的示例在以下进行表示。例如,该指示可以是:对被拍摄体进行引导,以使其朝向特定的方向的指示;提示获取被拍摄体的三维形状的程序的指示;为了获取不存在被拍摄体的仅背景的深度信息,对被拍摄体进行引导,以使其从拍摄范围移动的指示;或者引导被拍摄体,使以影像拍摄装置20为基准的被拍摄体的位置移动至特定的位置的指示等。
此外,拍摄指示信息生成部22在基于拍摄开始判定部4的拍摄开始的指示前生成拍摄指示信息,输出部32参考该拍摄指示信息而输出的、对拍摄者的指示的示例在以下进行表示。例如,该指示可以是:对拍摄者进行引导,以使拍摄装置3的光轴水平地保持的指示;对拍摄者进行引导,以使拍摄装置3的受光面朝向被拍摄体的指示;对拍摄者进行引导,以变更拍摄装置3的朝向的指示;对拍摄者进行引导,以使其发出朝向被拍摄体的指示的指示(例如,对拍摄者进行引导,以使其读出对被拍摄体的指示(文字等)的指示);或者对拍摄者进行引导,以变更影像拍摄装置20的设定的指示等。
此外,在拍摄指示输出装置30的输出部32是监控器的情况下,输出部32除了显示由拍摄指示信息表示的指示,也可以显示在步骤S34中由三维影像合成部7合成的当前的三维影像(参考模型等)。由此,拍摄者能一边确认所合成的三维影像,一边进行用于获取被拍摄体的深度信息的拍摄。
在上述的各例中,对拍摄者以及被拍摄体是人的情况的示例进行了说明。以下,对拍摄的主体(相当于前述的拍摄者,以下称作拍摄设备)以及被拍摄体是电子设备的情况的示例进行说明。在像这样的示例的情况下,在上述的步骤S32中,拍摄指示信息生成部22生成表示控制电子设备的动作的控制信号的拍摄指示信息,拍摄设备或被拍摄体参考该拍摄指示信息,进行特定的动作。
例如,拍摄设备可以是装配有影像拍摄装置20的移动设备(例如,无人机等)。在该示例中,在步骤S32中,拍摄指示信息生成部22生成表示控制该设备的动作的控制信号的拍摄指示信息,参考该拍摄指示信息对该设备进行控制,以使其一边在被拍摄体的周围移动一边拍摄。由此,例如,能拍摄不听从指示的被拍摄体(例如,婴儿或动物等)。或者,例如,能拍摄被固定而无法移动的被拍摄体。
此外,在另一个示例中,被拍摄体可以是设置于可旋转的工作台(旋转台)的物体。在该示例中,在步骤S32中,拍摄指示信息生成部22生成表示控制该旋转台的旋转的控制信号的拍摄指示信息,参考该拍摄指示信息控制该旋转台,以使该工作台旋转。
(变形例)
在本实施方式的影像拍摄系统100中,影像拍摄装置20拍摄显示对象,生成与显示对象的拍摄相关的拍摄指示信息。此外,拍摄指示输出装置30参考由影像拍摄装置20生成的拍摄指示信息,输出与显示对象的拍摄相关的指示。但是,即使在该构成中,也存在以下所示的问题。
例如,由拍摄指示输出装置30指示缓慢地进行动作的被拍摄体,即使本人打算缓慢地运动,有时也会运动过快。在该情况下,影像拍摄装置20可能会无法合成适当的参考模型。此外,在另一个示例中,当被拍摄体正在运动中离开至影像拍摄装置20的拍摄范围外时,影像拍摄装置20无法获取被拍摄体的深度信息,因此无法合成其后的三维影像(例如,参考模型等)。并且,在三维影像中的被拍摄体的表面的区域中,在存在由影像拍摄装置20未获取对应的深度信息的区域的情况下,成为在此区域中产生了缺损区域的三维影像。
为了解决如上所述的问题,可以是在步骤S32中,拍摄指示信息生成部22解析深度信息获取部5至此为止所获取的深度信息,参考其解析结果,生成拍摄指示信息。或者也可以是拍摄指示信息生成部22解析三维影像合成部7至此为止所合成的三维影像(例如,参考模型等),参考其解析结果,生成拍摄指示信息。
在像上述那样的构成中,例如,由拍摄指示信息生成部22解析深度信息获取部5至此为止获取的深度信息。在感测到影像拍摄装置20或被拍摄体正在以高速动作的情况下,拍摄指示信息生成部22生成拍摄指示信息,该拍摄指示信息表示对拍摄者或被拍摄体进行引导,以使其运动变慢的指示。
在另一个示例中,例如,拍摄指示信息生成部22解析深度信息获取部5至此为止获取的深度信息,在感测到被拍摄体的位置偏移了的情况下,生成拍摄指示信息,该拍摄指示信息表示对被拍摄体进行引导,以使其回到原来的位置的指示。
在另一个示例中,例如,拍摄指示信息生成部22解析深度信息获取部5至此为止获取的深度信息,生成拍摄指示信息,对非被拍摄体的物体进入拍摄装置3的拍摄范围的情况发出警告。
在另一个示例中,例如,拍摄指示信息生成部22解析三维影像合成部7至此为止合成的三维影像(例如,参考模型等),在三维影像中的被拍摄体的表面,搜索缺损区域,生成拍摄指示信息,该拍摄指示信息表示对被拍摄体进行引导,以使与该缺损区域对应的区域朝向影像拍摄装置20的指示。
此外,作为与在上述的实施方式1中说明的步骤S0相当的工序的影像拍摄装置20生成初始参考模型的工序中,应用本实施方式的影像生成方法中的拍摄指示信息的生成以及输出方法的构成也包括于本实施方式中。在该构成中,在与上述的步骤S10(拍摄开始)相当的工序之后,基于拍摄开始判定部4的拍摄开始的指示,生成与基于拍摄装置3的显示对象的拍摄相关的拍摄指示信息。此外,也可以是拍摄指示信息生成部22解析初始参考模型合成部6至此为止合成的初始参考模型,参考其解析结果,生成拍摄指示信息。
(总结)
如上所述,本实施方式的影像拍摄装置20所具备的影像生成装置21生成与基于拍摄装置3的显示对象的拍摄相关的拍摄指示信息。
根据上述的构成,通过适当地使用拍摄指示信息向拍摄者或被拍摄体(显示对象)发出指示,能对被拍摄体进行适当拍摄,易于获取必要的深度信息。因此,易于生成没有缺损区域的三维影像。
此外,也可以是本实施方式的影像拍摄装置20参考深度信息、初始参考模型以及三维影像中的至少一个以上,生成所述拍摄指示信息。
根据上述的构成,能基于深度信息、初始参考模型以及三维影像中的至少一个以上,生成对应于被拍摄体(显示对象)的状况的拍摄指示信息。通过适当地使用由此生成的拍摄指示信息向拍摄者或被拍摄体(显示对象)发出指示,能进行对应于被拍摄体的状况的拍摄,易于获取必要的深度信息。因此,易于生成没有缺损区域的三维影像。
〔实施方式4〕
在上述的实施方式1、实施方式2以及实施方式3中,存在如下所述的问题。例如,基于拍摄开始判定部4的拍摄开始判定的设定、基于拍摄结束判定部8的拍摄结束判定的设定有时会不符合拍摄的状况。更详细而言,例如,在拍摄者无法按下开关的环境下,开关的按下却是拍摄开始或拍摄结束的触发的情况。
此外,在深度信息获取部5获取深度,且没有适当地设定显示对象的范围(显示对象的表面的面积,或者是到显示对象的距离)的情况下,三维影像(参考模型等)可能夹杂被拍摄体以外的对象,或者被拍摄体的一部分可能未包含于三维影像。此外,仅由拍摄装置3生成的深度信息,有时会不易合成反映了被拍摄体的三维形状的三维影像。
为了解决如上所述的问题,本实施方式的影像拍摄装置40设定与基于拍摄装置3的显示对象的拍摄的开始或结束相关的初始条件,与基于深度信息获取部5的深度信息的获取相关的初始条件,以及与基于三维影像合成部7的三维影像的生成相关的初始条件中的至少一个以上。若基于附图对像上述那样的本发明的实施方式4进行说明,则如下所述。
(影像拍摄系统101)
参考图9对本实施方式的影像拍摄系统101进行说明。图9是表示本实施方式的影像拍摄系统101的构成的框图。如图9所示,影像拍摄系统101包括影像拍摄装置40以及拍摄指示输出装置30。影像拍摄装置40具备影像生成装置41以及拍摄装置3。影像生成装置41除了还具备初始条件设定部42以外,具有与实施方式3的影像生成装置21相同的构成。因此,对具有与在实施方式3中说明过的影像拍摄系统100所具备的构件(包括在实施方式1中说明过的影像拍摄装置1所具备的构件)相同功能的构件标注相同的附图标记,并省略其说明。
初始条件设定部42设定与基于拍摄装置3的显示对象的拍摄的开始或结束相关的初始条件(与基于拍摄开始判定部4的拍摄开始的判定相关的初始条件,或与基于拍摄结束判定部8的拍摄结束的判定相关的初始条件),与基于深度信息获取部5的深度信息的获取相关的初始条件,以及与基于三维影像合成部7的三维影像的合成(生成)相关的初始条件中的至少一个以上。
(影像生成方法)
参考图10对基于本实施方式的影像拍摄系统101的影像生成方法进行详细说明。图10是对基于本实施方式的影像拍摄系统101的影像生成方法的一个示例进行说明的流程图。需要说明的是,本实施方式的影像生成方法中的初始条件设定方法能同样应用于实施方式1中说明过的步骤S0的初始参考模型生成的工序(步骤S10~步骤S13的工序),以及步骤S1的三维影像生成的工序(步骤S20~步骤S24)。因此,针对本实施方式的影像生成方法中的与步骤S0的初始参考模型生成的工序相当的工序,省略其说明,对于步骤S1的三维影像生成的工序,针对其应用了初始条件设定方法的形态在以下进行说明。此外,针对与实施方式1的影像生成方法相同的工序,或与实施方式3的影像生成方法相同的工序,省略其详细的说明。
首先,如图10所示,三维影像合成部7读入由初始参考模型合成部6合成的初始参考模型(步骤S40)。
接着,初始条件设定部42设定与基于拍摄装置3的显示对象的拍摄的开始或结束相关的初始条件(与基于拍摄开始判定部4的拍摄开始的判定相关的初始条件,或与基于拍摄结束判定部8的拍摄结束的判定相关的初始条件),与基于深度信息获取部5的深度信息的获取相关的初始条件,以及与基于三维影像合成部7的三维影像的合成(生成)相关的初始条件中的至少一个以上(步骤S41)。由这里的初始条件设定部42设定的初始条件可以是由初始条件设定部42选择的初始条件,也可以是由影像拍摄装置40的用户选择的初始条件。
接着,在步骤S42中,拍摄开始判定部4按照由初始条件设定部42设定的初始条件,判定为开始显示对象的拍摄,经由深度信息获取部5对拍摄装置3指示开始拍摄。此外,在步骤S42中,拍摄装置3基于拍摄开始判定部4的指示,开始显示对象的拍摄(伴随于此,开始显示对象的深度信息的生成)。
接着,在步骤S43中,拍摄指示信息生成部22基于拍摄开始判定部4的拍摄开始的指示,生成与基于拍摄装置3的显示对象的拍摄相关的拍摄指示信息。此外,在步骤S43中,拍摄指示输出装置30的获取部31获取由拍摄指示信息生成部22生成的拍摄指示信息,拍摄指示输出装置30的输出部32参考由获取部31获取的拍摄指示信息,输出与显示对象的拍摄相关的指示。
接着,深度信息获取部5按照由初始条件设定部42设定的初始条件获取由影像拍摄装置20的拍摄装置3拍摄被拍摄体而生成的深度信息(步骤S44)。
接着,三维影像合成部7参考在步骤S40中读入的初始参考模型、由深度信息获取部5获取的深度信息,按照由初始条件设定部42设定的初始条件,合成显示对象的三维影像(步骤S45)。
接着,拍摄结束判定部8按照由初始条件设定部42设定的初始条件,判定是否结束显示对象的拍摄(步骤S46)。在拍摄结束判定部8判定为结束显示对象的拍摄的情况下(步骤S46的“是”),经由深度信息获取部5对拍摄装置3指示结束拍摄,对三维影像合成部7指示结束三维影像的合成。此外,在拍摄结束判定部8判定为不结束显示对象的拍摄的情况下(步骤S46的“否”),返回步骤S43,直到拍摄结束判定部8判定为结束显示对象的拍摄为止,重复步骤S43、步骤S44、步骤S45以及步骤S46的工序。(由初始条件设定部42设定的初始条件的具体例)
以下,对由上述的初始条件设定部42设定的初始条件的具体例进行说明。如上所述,在步骤S41中,初始条件设定部42设定与基于拍摄装置3的显示对象的拍摄的开始或结束相关的初始条件(与基于拍摄开始判定部4的拍摄开始的判定相关的初始条件,或与基于拍摄结束判定部8的拍摄结束的判定相关的初始条件),与基于深度信息获取部5的深度信息的获取相关的初始条件,以及与基于三维影像合成部7的三维影像的合成(生成)相关的初始条件中的至少一个以上。
在上述的工序中,例如,作为由拍摄开始判定部4执行的拍摄开始方法,初始条件设定部42设定在实施方式1的(基于拍摄开始判定部4的拍摄开始判定方法的具体例)中说明过的指定各拍摄开始方法的初始条件。并且,在上述的步骤S42中,拍摄开始判定部4按照该初始条件,判定为在该各拍摄开始方法中,开始显示对象的拍摄,经由深度信息获取部5对拍摄装置3指示开始拍摄。
此外,在另一个示例中,作为由拍摄结束判定部8执行的拍摄结束方法,初始条件设定部42设定在实施方式1的(基于拍摄结束判定部8的拍摄结束判定方法的具体例)中说明过的指定各拍摄结束方法的初始条件。并且,在上述的步骤S46中,拍摄结束判定部8按照该初始条件,判定在该各拍摄结束方法中,是否结束显示对象的拍摄,经由深度信息获取部5对拍摄装置3指示结束拍摄,对三维影像合成部7指示结束三维影像的合成。
此外,在另一个示例中,初始条件设定部42设定指定由深度信息获取部5获取的深度的范围(例如,以拍摄装置3的位置为基准的规定的范围的深度)的初始条件。并且,在上述的步骤S44中,深度信息获取部5仅获取该初始条件所指定的范围所包含的深度。
此外,在另一个示例中,作为由深度信息获取部5获取深度信息的对象,初始条件设定部42设定指定虽然在拍摄范围内,但不是被拍摄体的物体的初始条件。并且,在上述的步骤S44中,深度信息获取部5仅获取由该初始条件指定的物体的深度信息。
此外,在另一个示例中,初始条件设定部42设定指定在三维影像合成部7合成三维影像时所参考的参数的初始条件。并且,在上述的步骤S45中,三维影像合成部7参考初始参考模型以及深度信息,由该初始条件指定的参数合成三维影像。
此外,在另一个示例中,初始条件设定部42设定指定在三维影像合成部7合成三维影像时所参考的、忠实地反映被拍摄体的三维形状的三维影像的基础模型。并且,在上述的步骤S45中,三维影像合成部7参考初始参考模型以及深度信息,一边与初始条件所指定的基础模型对照一边合成三维影像。
此外,在另一个示例中,被拍摄体是人,初始条件设定部42设定指定在三维影像合成部7合成三维影像时所参考的被拍摄体的性质(例如,身高、性别,或服装的种类(有无裙子、衣服的肥瘦等)等)的初始条件。并且,在上述的步骤S45中,三维影像合成部7参考由初始参考模型、深度信息以及该初始条件指定的被拍摄体的性质,合成三维影像。
此外,在另一个示例中,初始条件设定部42设定指定拍摄装置3拍摄的范围(例如,人的全身或仅上半身等)的初始条件。并且,拍摄装置3拍摄该初始条件所指定的范围。
此外,在另一个示例中,初始条件设定部42设定指定后述的实施方式5中的确认三维影像的状态的方法的初始条件。
(总结)
如上所述,本实施方式的影像拍摄装置40设定与基于拍摄装置3的显示对象的拍摄的开始或结束相关的初始条件、与基于深度信息获取部5的深度信息的获取相关的初始条件以及与基于三维影像合成部7(方案中的三维影像生成部)的三维影像的生成相关的初始条件中的至少一个以上。
根据上述的构成,通过适当地设定初始条件,能适当地执行显示对象的拍摄、深度信息的获取,或三维影像的生成。更详细而言,例如,通过适当地设定与显示对象的拍摄开始或拍摄结束相关的初始条件,能选择适合于拍摄状况的拍摄开始触发,或拍摄结束触发。此外,同样地,通过适当地设定与三维影像的生成相关的参数作为初始条件,能合成更合适的三维影像。此外,同样地,通过在三维影像的合成中适当地设定使合成的三维影像接近被拍摄体的三维形状的参数作为初始条件,能合成更加反映被拍摄体的三维形状的三维影像。
〔实施方式5〕
在上述的实施方式1~4中,存在如下所述的问题。例如,由三维影像合成部7合成的三维影像存在问题,在由拍摄装置3重新再次拍摄的情况下,至此为止所获取的深度信息无法使用而被浪费。为了解决如上所述的问题,本实施方式的影像拍摄装置50参考生成的三维影像,确认该三维影像的状态。若基于附图对像上述那样的本发明的实施方式5进行说明,则如下所述。
(影像拍摄系统102)
参考图11对本实施方式的影像拍摄系统102进行说明。图11是表示本实施方式的影像拍摄系统102的构成的框图。如图11所示,影像拍摄系统102包括影像拍摄装置50以及拍摄指示输出装置30。影像拍摄装置50具备拍摄装置3以及影像生成装置51。影像生成装置51除了还具备三维影像确认部52以外,具有与实施方式3的影像生成装置21相同的构成。因此,对具有与在实施方式3中说明过的影像拍摄系统100所具备的构件(包括在实施方式1中说明过的影像拍摄装置1所具备的构件)相同功能的构件标注相同的附图标记,并省略其说明。
三维影像确认部52参考由三维影像合成部7合成的三维影像,确认该三维影像的状态。
(影像生成方法)
参考图12对基于本实施方式的影像拍摄系统102的影像生成方法,进行详细的说明。图12是对基于本实施方式的影像拍摄系统102的影像生成方法的一个示例进行说明的流程图。需要说明的是,本实施方式的影像生成方法中的三维影像确认方法能同样应用于在实施方式1中说明过的步骤S0的初始参考模型生成的工序(步骤S10~步骤S13的工序),以及步骤S1的三维影像生成的工序(步骤S20~步骤S24)。因此,针对本实施方式的影像生成方法中的与步骤S0的初始参考模型生成的工序相当的工序,省略其说明,对于步骤S1的三维影像生成的工序,针对其应用了三维影像确认方法的形态在以下进行说明。此外,针对与实施方式1的影像生成方法相同的工序,或与实施方式3的影像生成方法相同的工序,省略其详细的说明。
首先,如图12所示,三维影像合成部7读入由初始参考模型合成部6合成的初始参考模型(步骤S50)。
接着,在步骤S51中,拍摄开始判定部4通过感测拍摄开始的触发,判定为开始显示对象的拍摄,经由深度信息获取部5对拍摄装置3指示开始拍摄。此外,在步骤S51中,拍摄装置3基于拍摄开始判定部4的指示,开始显示对象的拍摄(伴随于此,开始显示对象的深度信息的生成)。
接着,深度信息获取部5获取由影像拍摄装置20的拍摄装置3拍摄被拍摄体而生成的深度信息(步骤S52)。
接着,三维影像合成部7参考在步骤S50中读入的初始参考模型,以及由深度信息获取部5获取的深度信息,合成显示对象的三维影像(步骤S53)。
接着,拍摄结束判定部8判定是否结束显示对象的拍摄(步骤S54)。在拍摄结束判定部8判定为结束显示对象的拍摄的情况下(步骤S54的“是”),经由深度信息获取部5对拍摄装置3指示结束拍摄,对三维影像合成部7指示结束三维影像的合成,并前进至步骤S55。此外,在拍摄结束判定部8判定为不结束显示对象的拍摄的情况下(步骤S54的“否”),返回步骤S52,直到拍摄结束判定部8判定为结束显示对象的拍摄为止,重复步骤S52、步骤S53以及步骤S54的工序。
在步骤S55中,三维影像确认部52确认三维影像合成部7结束了合成的三维影像,判定该三维影像是否存在问题。在三维影像确认部52判定为三维影像存在问题的情况下(步骤S55的“是”),返回步骤S51,直到三维影像确认部52判定为三维影像不存在问题为止,重复步骤S51、步骤S52、步骤S53以及步骤S54的工序。此外,在三维影像确认部52判定为三维影像不存在问题的情况下(步骤S55的“否”),将该三维影像输出至影像拍摄装置50的外部。
(基于三维影像确认部52的三维影像确认方法的具体例)
以下,对基于上述的三维影像确认部52的三维影像确认方法的具体例进行说明。如上所述,在步骤S55中,三维影像确认部52确认三维影像合成部7结束了合成的三维影像,判定该三维影像是否存在问题。
在上述的工序中,例如,三维影像确认部52向拍摄指示输出装置30(也可以是其他的设备)输出三维影像,使拍摄指示输出装置30的输出部32输出三维影像。并且,也可以是影像拍摄装置50的用户判定由输出部32输出的三维影像是否存在问题,三维影像确认部52获取其判定结果,判定三维影像是否存在问题的构成。在该构成中,用户可以选择是进一步更新当前的三维影像,或是重置当前的三维影像。
此外,在上述的构成中,例如,可以进一步追加用户能使由输出部32输出的三维影像旋转或移动的构成。或者,还可以进一步追加用户能使由输出部32输出的三维影像中的被拍摄体做出指定的造型的构成。或者,在该构成中,还可以进一步追加用户能使由输出部32输出的三维影像中的被拍摄体做出与确认该三维模型时的被拍摄体相同的造型的构成。或者,在该构成中,还可以进一步追加由拍摄指示输出装置30自动地估计三维模型有问题的部位(例如,存在缺损区域的部位,或者形状异常的部位等),由输出部32使该部位显眼地显示的构成。
此外,在另一个示例中,例如,三维影像确认部52确认三维影像合成部7结束了合成的三维影像,自动地估计三维影像的完成度,由此判定该三维影像是否存在问题。在该构成中,例如,三维影像确认部52通过判定三维影像中的被拍摄体(人)与人体模型相比是否有异常的形状,来判定该三维影像是否存在问题。或者,在该构成中,例如,三维影像确认部52通过判定参考模型(三维影像)的表面是否填充了一定的比例以上(通过判定缺损区域是否有一定的比例),来判定该三维影像是否存在问题。
如上所述,在三维影像确认部52判定为三维影像存在问题的情况下(步骤S55的“是”),返回至步骤S51,直到三维影像确认部52判定为三维影像不存在问题为止,重复步骤S51、步骤S52、步骤S53以及步骤S54的工序。更详细而言,例如,在三维影像确认部52判定为三维影像存在问题的情况下(例如,参考模型(三维影像)具有与被拍摄体悬殊太大的形状的情况),三维影像合成部7重置已合成的三维影像,再次参考由拍摄装置3拍摄显示对象而生成的深度信息,重新合成三维影像。在另一个示例中,在三维影像确认部52判定为三维影像的一部分存在问题的情况下,拍摄装置3仅拍摄与该一部分对应的被拍摄体的一部分,生成深度信息。并且,三维影像合成部7参考该深度信息,修正三维影像。在另一个示例中,在三维影像确认部52判定为三维影像的一部分存在问题的情况下,拍摄指示输出装置30的输出部32向用户提示补充该一部分的候补参考模型(的一部分)。三维影像合成部7参考由用户选择的模型,修正三维影像(就是说,不进行再次拍摄,通过已有的模型修正三维影像)。
(总结)
如上所述,本实施方式的影像拍摄装置参考生成的三维影像,确认该三维影像的状态。
根据上述的构成,通过确认合成的三维影像的状态,能适当地去除具有缺损区域的三维影像。此外,在三维影像存在问题,再次拍摄显示对象的情况下,通过继续更新至此为止合成的三维影像,与从头开始重新拍摄的情况相比,能减少作业花费的时间。
〔实施方式6〕
在上述的实施方式1~5中,存在如下所述的问题。例如,在显示对象的拍摄中,在连续进行深度信息的获取和三维影像(参考模型等)的合成的情况下,不适合用于三维影像的合成的深度信息,可能会用于三维影像的合成。作为不适合用于三维影像的合成的深度信息的示例,可以列举出与前次获取的深度信息(前次深度信息)极端不同的最近获取的深度信息(当前深度信息)、被判定为涉及强的噪声的深度信息、比较当前深度信息与前次深度信息,出现前次深度信息中没有的物体的当前深度信息以及从显现了不能显现的拍摄数据生成的深度信息等。
为了解决如上所述的问题,本实施方式的影像拍摄装置60存储深度信息,参考存储的深度信息,生成显示对象的三维影像。若基于附图对像上述那样的本发明的实施方式6进行说明,则如下所述。
(影像拍摄系统103)
参考图13对本实施方式的影像拍摄系统103进行说明。图13是表示本实施方式的影像拍摄系统103的构成的框图。如图13所示,影像拍摄系统103包括影像拍摄装置60以及拍摄指示输出装置30。影像拍摄装置60具备影像生成装置61以及拍摄装置3。影像生成装置61除了还具备深度信息存储部62以外,具有与实施方式3的影像生成装置21相同的构成。因此,对具有与在实施方式3中说明过的影像拍摄系统100所具备的构件(包括在实施方式1中说明过的影像拍摄装置1所具备的构件)相同功能的构件标注相同的附图标记,并省略其说明。
深度信息存储部62存储由深度信息获取部5获取的深度信息。
(影像生成方法)
对基于本实施方式的影像拍摄系统103的影像生成方法进行说明。需要说明的是,基于本实施方式的影像拍摄系统103的影像生成方法,除了在实施方式3中说明过的步骤S33之后追加有新的工序,以及步骤S34有一部分不同以外,与实施方式3的影像生成方法相同。因此,针对与实施方式3的影像生成方法相同的工序,省略详细的说明。需要说明的是,以下,作为本实施方式的影像生成方法,针对在实施方式1中说明过的步骤S1的三维影像生成的工序中应用了新的工序的方式进行说明。其中,新的工序与实施方式3或实施方式4同样能应用于实施方式1中说明过的步骤S0的初始参考模型生成的工序。
在本实施方式的影像生成方法中,作为上述的步骤S33之后的工序,深度信息存储部62存储由深度信息获取部5获取的深度信息。
此外,在上述的步骤S34中,三维影像合成部7参考在步骤S30中读入的初始参考模型,以及由深度信息存储部62存储的深度信息,合成显示对象的三维影像。
通过进行如上所述的各工序,三维影像合成部7在基于拍摄装置3的显示对象的拍摄中不进行三维影像的合成,深度信息存储部62能够获取并保持每个时刻的深度信息。并且,在基于拍摄装置3的显示对象的拍摄完成后,三维影像合成部7能参考深度信息存储部62存储的深度信息来合成三维影像。此外,也可以是拍摄指示输出装置30的输出部32在三维影像合成部7合成三维影像前,将获取的深度信息的列表向拍摄者或被拍摄体(显示对象)进行提示,使其选择用于参考模型的合成的深度信息。在此情况下,三维影像合成部7参考基于拍摄者或被拍摄体的深度信息的选择,参考所选择的深度信息来合成三维影像。
(总结)
如上所述,本实施方式的影像拍摄装置60存储深度信息,参考存储的深度信息,生成显示对象的三维影像。
根据上述的构成,通过从存储的深度信息中适当地选择必要的深度信息,参考该深度信息来合成三维影像,使没有缺损区域的合适的三维影像的合成成为可能。此外,使不包含不能拍摄的影像的三维影像的合成成为可能。
〔基于软件的实现例〕
影像生成装置2、影像生成装置11、影像生成装置21、影像生成装置41、影像生成装置51以及影像生成装置61的控制块(特别是,深度信息获取部5、初始参考模型合成部6以及三维影像合成部7)可以由集成电路(IC芯片)等中形成的逻辑电路(硬件)实现,也可以由软件来实现。
在后者的情况下,影像生成装置2、影像生成装置11、影像生成装置21、影像生成装置41、影像生成装置51以及影像生成装置61具备执行作为实现各功能的软件的程序的命令的计算机。该计算机例如具备至少一个处理器(控制装置),并且具备存储所述程序的计算机可读取的至少一个记录介质。并且,在所述计算机中,通过所述处理器从所述记录介质读取并执行所述程序,能达成本发明的目的。作为所述处理器,例如能使用CPU(CentralProcessing Unit:中央处理单元)。作为所述记录介质,除了“非暂时的有形的介质”,例如ROM(Read Only Memory:只读存储器)等之外,还能使用磁带、磁盘、卡、半导体存储器、可编程逻辑电路等。此外,还可以具备展开所述程序的RAM(Random Access Memory:随机存取存储器)等。此外,上述程序可以经由能传输该程序的任意传输介质(通信网络、广播波等)提供给上述计算机。需要说明的是,本发明的一个方案以上述程序通过电子传输而具体化的、嵌入至载波的数据信号的形态也能实现。
〔总结〕
本发明的方案1的影像生成装置(2、11、21、41、51、61)生成显示对象的三维影像,所述影像生成装置具备:深度信息获取部(5),获取表示所述显示对象的三维形状的深度信息;三维影像生成部(三维影像合成部7),参考所述深度信息,以及在生成所述三维影像的处理开始前预先准备的、整体性地表示所述显示对象的三维形状的初始参考模型,生成所述三维影像。
根据上述的构成,参考在拍摄刚开始后,在生成三维影像的处理开始前准备的、整体性地表示显示对象的三维形状的初始参考模型,来生成三维影像,因此能够生成没有缺损区域的三维影像。
本发明的方案2的影像生成装置(2、11、21、41、51、61)在所述方案1还具备初始参考模型生成部(初始参考模型合成部6),参考所述深度信息生成所述初始参考模型,还可以是所述三维影像生成部参考所述初始参考模型,生成所述三维影像。
根据上述的构成,在生成三维影像的装置中,能预先生成初始参考模型,参考该初始参考模型,能生成没有缺损区域的三维影像。
本发明的方案3的影像生成装置(11)在所述方案1或2中还具备初始参考模型存储部(12),存储所述初始参考模型,所述三维影像生成部可以参考所述初始参考模型,生成所述三维影像。
根据上述的构成,参考所存储的初始参考模型,能生成没有缺损区域的三维影像。
本发明的方案4的影像拍摄装置(1、10、20、40、50、60)具备所述方案1~3中任一项所述的影像生成装置(2、11、21、41、51、61),以及拍摄所述显示对象,生成所述深度信息的拍摄装置(3)。
根据上述的构成,参考所生成的深度信息,能生成没有缺损区域的三维影像。
本发明的方案5的影像拍摄装置(40)也可以是在所述方案4中还具备初始条件设定部(42),设定与所述显示对象的拍摄的开始或结束相关的初始条件,与所述深度信息的获取相关的初始条件,以及与所述三维影像的生成相关的初始条件中的至少一个以上。
根据上述的构成,通过适当地设定初始条件,能适当地执行显示对象的拍摄,深度信息的获取,或三维影像的生成。
本发明的方案6的影像拍摄装置(50)也可以是在所述方案4或5中还具备三维影像确认部(52),参考所述三维影像,确认所述三维影像的状态。
根据上述的构成,通过确认合成的三维影像的状态,能适当地去除具有缺损区域的三维影像。
本发明的方案7的影像拍摄装置(60)还可以是在所述方案4~6中,还具备存储所述深度信息的深度信息存储部(62),其中,所述三维影像生成部参考所述深度信息,生成所述三维影像。
根据上述的构成,通过从存储的深度信息中适当地选择必要的深度信息,参考该深度信息来合成三维影像,使没有缺损区域的合适的三维影像的合成成为可能。
本发明的方案8的影像拍摄装置(20、40、50、60)也可以是在所述方案4~7中还具备生成与所述显示对象的拍摄相关的拍摄指示信息的拍摄指示信息生成部(22)。
根据上述的构成,通过适当地使用拍摄指示信息向拍摄者或被拍摄体(显示对象)发出指示,能对被拍摄体进行适当拍摄,易于获取必要的深度信息。因此,易于生成没有缺损区域的三维影像。
本发明的方案9的影像拍摄装置(20、40、50、60)也可以是在所述方案8中,所述拍摄指示信息生成部参考所述深度信息、所述初始参考模型以及所述三维影像中的至少一个以上,生成所述拍摄指示信息。
根据上述的构成,能基于深度信息、初始参考模型以及三维影像中的至少一个以上,生成对应于显示对象的状况的拍摄指示信息。
本发明的方案10的影像拍摄系统(100、101、102、103)包括所述方案8或9中所述的影像拍摄装置,以及参考所述拍摄指示信息,输出与所述显示对象的拍摄相关的指示的拍摄指示输出装置。
根据上述的构成,拍摄者或被拍摄体(显示对象)能通过参考由拍摄指示输出装置输出的指示来适当地执行被拍摄体的拍摄。
本发明的方案11的影像生成方法生成显示对象的三维影像,所述影像生成方法包括:深度信息获取工序,获取表示所述显示对象的三维形状的深度信息;以及三维影像生成工序,参考所述深度信息,以及生成所述三维影像的处理开始前预先准备的、整体性地表示所述显示对象的三维形状的初始参考模型,生成所述三维影像。
根据上述构成,起到与上述方案1相同的效果。
本发明的各方案的影像生成装置或影像拍摄装置可以通过计算机来实现,在该情况下,通过使计算机作为上述影像生成装置所具备的各部分(软件要素)进行动作而使上述影像生成装置由计算机实现的影像生成装置的控制程序、以及记录有该控制程序的计算机可读记录介质也落入本发明的范畴。
本发明并不限定于上述的各实施方式,在权利要求所示的范围内可进行各种变更,将分别在不同的实施方式中公开的技术方案适当组合而获得的实施方式也包含在本发明的技术范围内。而且,通过将分别在各实施方式中公开的技术方案组合,能形成新的技术特征。
(相关申请的交叉引用)
本申请对于2017年9月27日提出申请的日本专利申请:日本特愿2017-186852主张优先权的利益,并通过对其进行参照而将其全部内容包括到本说明书中。
符号说明
1、10、20、40、50、60 影像拍摄装置
2、11、21、41、51、61 影像生成装置
3 拍摄装置
4 拍摄开始判定部
5 深度信息获取部
6 初始参考模型合成部(初始参考模型生成部)
7 三维影像合成部(三维影像生成部)
8 拍摄结束判定部
12 初始参考模型存储部
22 拍摄指示信息生成部
30 拍摄指示输出装置
31 获取部
32 输出部
42 初始条件设定部
52 三维影像确认部
62 深度信息存储部
100、101、102、103 影像拍摄系统
Claims (13)
1.一种影像生成装置,生成显示对象的三维影像,所述影像生成装置的特征在于,具备:
深度信息获取部,获取表示所述显示对象的三维形状的深度信息;以及
三维影像生成部,参考所述深度信息,以及在生成所述三维影像的处理开始前预先准备的、整体性地表示所述显示对象的三维形状的初始参考模型,来生成所述三维影像。
2.根据权利要求1所述的影像生成装置,其特征在于,还具备:
初始参考模型生成部,参考所述深度信息生成所述初始参考模型,其中,
所述三维影像生成部参考所述初始参考模型生成所述三维影像。
3.根据权利要求1或2所述的影像生成装置,其特征在于,还具备:
初始参考模型存储部,存储所述初始参考模型,其中,
所述三维影像生成部参考所述初始参考模型生成所述三维影像。
4.一种影像拍摄装置,其特征在于,具备:
权利要求1至3中任一项所述的影像生成装置;和
拍摄装置,拍摄所述显示对象,生成所述深度信息。
5.根据权利要求4所述的影像拍摄装置,其特征在于,还具备:
初始条件设定部,设定与所述显示对象的拍摄的开始或结束相关的初始条件、与所述深度信息的获取相关的初始条件以及与所述三维影像的生成相关的初始条件中的至少一个以上。
6.根据权利要求4或5所述的影像拍摄装置,其特征在于,还具备:
三维影像确认部,参考所述三维影像,确认所述三维影像的状态。
7.根据权利要求4至6中任一项所述的影像拍摄装置,其特征在于,还具备:
深度信息存储部,存储所述深度信息,其中,
所述三维影像生成部参考所述深度信息生成所述三维影像。
8.根据权利要求4至7中任一项所述的影像拍摄装置,其特征在于,还具备:
拍摄指示信息生成部,生成与所述显示对象的拍摄相关的拍摄指示信息。
9.根据权利要求8所述的影像拍摄装置,其特征在于,
所述拍摄指示信息生成部参考所述深度信息、所述初始参考模型以及所述三维影像中的至少一个以上,生成所述拍摄指示信息。
10.一种影像拍摄系统,其特征在于,包括:
权利要求8或9所述的影像拍摄装置;和
拍摄指示输出装置,参考所述拍摄指示信息,输出与所述显示对象的拍摄相关的指示。
11.一种影像生成方法,生成显示对象的三维影像,所述影像生成方法的特征在于,包括:
深度信息获取工序,获取表示所述显示对象的三维形状的深度信息;和
三维影像生成工序,参考所述深度信息,以及在生成所述三维影像的处理开始前预先准备的、整体性地表示所述显示对象的三维形状的初始参考模型,来生成所述三维影像。
12.一种控制程序,用于使计算机作为权利要求1所述的影像生成装置而发挥功能,其中,
用于使计算机作为所述深度信息获取部以及所述三维影像生成部而发挥功能。
13.一种计算机可读记录介质,其记录权利要求12所述的控制程序。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017186852 | 2017-09-27 | ||
JP2017-186852 | 2017-09-27 | ||
PCT/JP2018/034844 WO2019065458A1 (ja) | 2017-09-27 | 2018-09-20 | 映像生成装置、映像撮影装置、映像撮影システム、映像生成方法、制御プログラム及び記録媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111183457A true CN111183457A (zh) | 2020-05-19 |
Family
ID=65900865
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201880062804.0A Pending CN111183457A (zh) | 2017-09-27 | 2018-09-20 | 影像生成装置、影像拍摄装置、影像拍摄系统、影像生成方法、控制程序以及记录介质 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20200219278A1 (zh) |
JP (1) | JPWO2019065458A1 (zh) |
CN (1) | CN111183457A (zh) |
WO (1) | WO2019065458A1 (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003044873A (ja) * | 2001-08-01 | 2003-02-14 | Univ Waseda | 顔の3次元モデルの作成方法及びその変形方法 |
CN103053169A (zh) * | 2011-06-08 | 2013-04-17 | 松下电器产业株式会社 | 图像处理装置及图像处理方法 |
KR101275749B1 (ko) * | 2012-12-05 | 2013-06-19 | 최상복 | 3차원 깊이정보 획득 방법 및 그 장치 |
US9094670B1 (en) * | 2012-09-25 | 2015-07-28 | Amazon Technologies, Inc. | Model generation and database |
WO2017104448A1 (ja) * | 2015-12-17 | 2017-06-22 | セイコーエプソン株式会社 | 情報処理装置、3次元モデル生成装置、情報処理装置の制御方法、及び、コンピュータープログラム |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006331009A (ja) * | 2005-05-25 | 2006-12-07 | Toyota Motor Corp | 画像処理装置及び画像処理方法 |
JP2007257324A (ja) * | 2006-03-23 | 2007-10-04 | Space Vision:Kk | 顔モデル作成システム |
-
2018
- 2018-09-20 CN CN201880062804.0A patent/CN111183457A/zh active Pending
- 2018-09-20 US US16/648,581 patent/US20200219278A1/en not_active Abandoned
- 2018-09-20 WO PCT/JP2018/034844 patent/WO2019065458A1/ja active Application Filing
- 2018-09-20 JP JP2019545035A patent/JPWO2019065458A1/ja active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003044873A (ja) * | 2001-08-01 | 2003-02-14 | Univ Waseda | 顔の3次元モデルの作成方法及びその変形方法 |
CN103053169A (zh) * | 2011-06-08 | 2013-04-17 | 松下电器产业株式会社 | 图像处理装置及图像处理方法 |
US9094670B1 (en) * | 2012-09-25 | 2015-07-28 | Amazon Technologies, Inc. | Model generation and database |
KR101275749B1 (ko) * | 2012-12-05 | 2013-06-19 | 최상복 | 3차원 깊이정보 획득 방법 및 그 장치 |
WO2017104448A1 (ja) * | 2015-12-17 | 2017-06-22 | セイコーエプソン株式会社 | 情報処理装置、3次元モデル生成装置、情報処理装置の制御方法、及び、コンピュータープログラム |
Also Published As
Publication number | Publication date |
---|---|
WO2019065458A1 (ja) | 2019-04-04 |
US20200219278A1 (en) | 2020-07-09 |
JPWO2019065458A1 (ja) | 2020-10-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5214826B2 (ja) | 立体パノラマ画像作成装置、立体パノラマ画像作成方法及び立体パノラマ画像作成プログラム並びに立体パノラマ画像再生装置、立体パノラマ画像再生方法及び立体パノラマ画像再生プログラム、記録媒体 | |
JP5178553B2 (ja) | 撮像装置 | |
KR101264804B1 (ko) | 최적의 촬영위치를 알릴 수 있는 파노라마 촬영 방법 및장치 | |
JP2006101186A (ja) | カメラ | |
CN108900764A (zh) | 拍摄方法和电子装置以及拍摄控制方法和服务器 | |
KR101672691B1 (ko) | 소셜 네트워크 서비스 플랫폼에서 이모티콘 생성 방법 및 장치 | |
JP2016085380A (ja) | 制御装置、制御方法、及び、プログラム | |
EP3805899A1 (en) | Head mounted display system and scene scanning method thereof | |
WO2017096859A1 (zh) | 照片的处理方法及装置 | |
CN111183457A (zh) | 影像生成装置、影像拍摄装置、影像拍摄系统、影像生成方法、控制程序以及记录介质 | |
KR20200076596A (ko) | 화상처리장치, 화상처리 시스템, 화상처리방법 및 기억 매체 | |
JP4781981B2 (ja) | 動画像生成方法及びシステム | |
JP2005063041A (ja) | 3次元モデリング装置、方法、及びプログラム | |
JP2020173629A (ja) | 画像処理装置、仮想視点映像を生成するシステム、画像処理装置の制御方法及びプログラム | |
JP2001092971A (ja) | 画像処理装置および方法、並びに記録媒体 | |
JP7042956B1 (ja) | 情報処理方法、情報処理装置、及びプログラム | |
JP7047176B1 (ja) | 端末装置、情報処理方法、情報処理システム、及びプログラム | |
WO2023047643A1 (ja) | 情報処理装置、映像処理方法、プログラム | |
JP2002260017A (ja) | 3次元形状データ生成方法および装置 | |
JP2018201095A (ja) | 動体予測機能を有する撮像装置 | |
CN111083345A (zh) | 独照生成装置和方法及其非易失性计算机可读媒体 | |
JP5585168B2 (ja) | 差分画像生成装置、プログラム及び差分画像生成方法 | |
WO2024048295A1 (ja) | 情報処理装置、情報処理方法、プログラム | |
WO2023047645A1 (ja) | 情報処理装置、映像処理方法、プログラム | |
JP2011166301A (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20200519 |