CN109754457A - 重构对象三维模型的系统、方法和电子设备 - Google Patents
重构对象三维模型的系统、方法和电子设备 Download PDFInfo
- Publication number
- CN109754457A CN109754457A CN201711064048.9A CN201711064048A CN109754457A CN 109754457 A CN109754457 A CN 109754457A CN 201711064048 A CN201711064048 A CN 201711064048A CN 109754457 A CN109754457 A CN 109754457A
- Authority
- CN
- China
- Prior art keywords
- threedimensional model
- video
- physical features
- initial
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 38
- 238000012545 processing Methods 0.000 claims description 16
- 239000013013 elastic material Substances 0.000 claims description 6
- 230000001815 facial effect Effects 0.000 claims description 5
- 239000000049 pigment Substances 0.000 claims description 5
- 238000013480 data collection Methods 0.000 claims description 4
- 241000406668 Loxodonta cyclotis Species 0.000 claims description 3
- 238000010586 diagram Methods 0.000 description 13
- 238000003384 imaging method Methods 0.000 description 9
- 239000000284 extract Substances 0.000 description 3
- 238000005259 measurement Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 238000007373 indentation Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 239000013598 vector Substances 0.000 description 2
- 241001269238 Data Species 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 230000001105 regulatory effect Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 238000004804 winding Methods 0.000 description 1
Landscapes
- Processing Or Creating Images (AREA)
Abstract
本发明提供一种重构对象的三维模型的系统、方法和电子设备。所述系统包括:设置于对象上的包括多个物理特征的物理特征集合;图像获取设备,配置为围绕对象移动以获取对象的视频,所述多个物理特征的至少一部分出现在所述视频中;三维模型生成单元,配置为从所述视频中提取所述物理特征的信息,并且根据所述物理特征的信息生成对象的初始三维模型;显示装置,所述显示装置配置为在获取所述视频的同时显示所述对象的初始三维模型;以及提示信息生成单元,配置为将生成的对象的初始三维模型与所述视频中的对象匹配,并且根据匹配结果生成提示信息。
Description
技术领域
本申请涉及重构对象三维模型的系统、方法和电子设备。
背景技术
目前重构对象(例如人体)三维模型的方法主要分两种:a)基于被动式的三维成像方法,即通过多图像的立体三维重构。该方法通过自动匹配一个三维位置(点)在多幅图像上的投影成像,通常通过关联多幅图像的特征点来完成。然而,对于缺少足够纹理的图像部分,这种方法很难准确找到匹配因此通常导致重构失败;b)主动性的三维成像方法,包括使用激光、毫米波(millimeter waves)、结构光(structured light)、红外光或者其他传感器进行三维重构。然而,该方法通常需要特别的仪器设备(大多费用很高)。
对于基于被动式的三维成像方法,现有技术的方法需要用户提供对象各个角度的照片,为此要求用户手持成像设备环绕对象一圈或更多圈来拍摄几十张甚至上百张照片才能得到比较满意的结果。另外还要求拍照时保持与对象一定距离,两张相邻照片相差的角度不能太大,这样两张照片间才能有足够多的重复关键点。所有照片所覆盖的角度要足够多,最好是从高到低、环绕360度拍摄。这些要求都对普通用户造成了很多困难。
为此,期望提供一种重构对象三维模型的系统和方法,其能够通过提示用户操作从而方便地重构对象的三维模型。
发明内容
根据本发明的一个实施例,提供了一种重构对象的三维模型的系统,包括:
设置于对象上的包括多个物理特征的物理特征集合,所述物理特征集合配置为覆盖在所述对象的表面以符合所述对象的形状;
图像获取设备,配置为围绕所述对象移动以获取所述对象的视频,所述多个物理特征的至少一部分出现在所述视频中;
三维模型生成单元,配置为从所述视频中提取所述物理特征的信息,并且根据所述物理特征的信息生成对象的初始三维模型;
显示装置,所述显示装置配置为在获取所述视频的同时显示所述对象的初始三维模型;以及
提示信息生成单元,配置为将生成的对象的初始三维模型与所述视频中的对象匹配,并且根据匹配结果生成提示信息。
在一个实施例中,所述图像获取设备进一步配置为根据所述提示信息,选择性地获取所述对象的另外的二维图像。
在一个实施例中,所述三维模型生成单元进一步配置为根据所述视频以及所述对象的另外的二维图像,生成所述对象的精确三维模型。
在一个实施例中,所述三维模型生成单元使用第一算法,根据所述物理特征的信息以及图形获取设备的状态实时地生成对象的初始三维模型,以及
所述三维模型生成单元使用与第一算法不同的第二算法,根据所述视频和所述对象的另外的二维图像,生成所述对象的精确三维模型。
在一个实施例中,所述物理特征集合是一层具有多个物理特征的物理层,所述物理特征是具有特别纹理的图案,所述图案附接到所述物理层的表面上。
在一个实施例中,所述图案的纹理被设计成在预定范围内的局部是唯一的,并且对比度超过预定阈值。
在一个实施例中,所述物理层由弹性材料制成以便紧密地符合所述对象的形状。
在一个实施例中,所述物理层包括服装、袜子、手套、面罩、面膜、贴纸、颜料。
在一个实施例中,所述提示信息生成单元进一步配置为:
将生成的对象的初始三维模型与所述视频中的对象叠加显示;
确定初始三维模型与所述视频中的对象在形状上不一致的位置;
生成提示用户在所述不一致的位置处获取所述对象的另外的二维图像的提示信息。
在一个实施例中,所述提示信息生成单元进一步配置为:
将生成的对象的初始三维模型与所述视频中的对象叠加显示;
确定初始三维模型与所述视频中的对象在形状上不一致的位置;
生成提示用户调整所述对象的姿态的提示信息;以及
在对象的姿态调整之后,生成提示用户在所述不一致的位置处获取所述对象的另外的二维图像的提示信息。
在一个实施例中,所述显示装置进一步配置为显示所述对象的精确三维模型。
在一个实施例中,所述系统还包括设置于对象周围的包括多个第二物理特征的第二物理特征集合。
在一个实施例中,所述三维模型生成单元进一步配置为:
根据所述第二物理特征,确定三维模型的大小比例以及确定所述图像获取单元的姿态,从而根据确定的三维模型的大小比例以及所述图像获取单元的姿态生成三维模型。
在一个实施例中,所述三维模型生成单元进一步配置为;
在生成三维模型之前,对所述二维图像执行图像分割处理以去除包括所述第二物理特征的背景图像部分。
在一个实施例中,所述三维模型生成单元进一步配置为;
在生成三维模型之后,对所述二维图像执行图像分割处理以去除包括所述第二物理特征的背景图像部分。
根据本发明的另一个实施例,提供了一种重构对象的三维模型的方法,包括:
在对象上设置包括多个物理特征的物理特征集合,所述物理特征集合配置为覆盖在所述对象的表面以符合所述对象的形状;
围绕所述对象移动图像获取设备以获取所述对象的视频,所述多个物理特征的至少一部分出现在所述视频中;
从所述视频中提取所述物理特征的信息,并且根据所述物理特征的信息生成对象的初始三维模型;
在获取所述视频的同时显示所述对象的初始三维模型;以及
将生成的对象的初始三维模型与所述视频中的对象匹配,并且根据匹配结果生成提示信息。
在一个实施例中,根据所述提示信息,使用所述图像获取设备选择性地获取所述对象的另外的二维图像。
在一个实施例中,所述方法包括:根据所述视频以及所述对象的另外的二维图像,生成所述对象的精确三维模型。
在一个实施例中,所述方法包括:使用第一算法,根据所述物理特征的信息实时地生成对象的初始三维模型,以及
使用与第一算法不同的第二算法,根据所述视频和所述对象的另外的二维图像,生成所述对象的精确三维模型。
在一个实施例中,所述物理特征集合是一层具有多个物理特征的物理层,所述物理特征是具有特别纹理的图案,所述图案附接到所述物理层的表面上。
在一个实施例中,所述图案的纹理被设计成在预定范围内的局部是唯一的,并且对比度超过预定阈值。
在一个实施例中,所述物理层由弹性材料制成以便紧密地符合所述对象的形状。
在一个实施例中,所述物理层包括服装、袜子、手套、面罩、面膜、贴纸、颜料。
在一个实施例中,所述方法包括:
将生成的对象的初始三维模型与所述视频中的对象叠加显示;
确定初始三维模型与所述视频中的对象在形状上不一致的位置;
生成提示用户在所述不一致的位置处获取所述对象的另外的二维图像的提示信息。
在一个实施例中,所述方法包括:
将生成的对象的初始三维模型与所述视频中的对象叠加显示;
确定初始三维模型与所述视频中的对象在形状上不一致的位置;
生成提示用户调整所述对象的姿态的提示信息;以及
在对象的姿态调整之后,生成提示用户在所述不一致的位置处获取所述对象的另外的二维图像的提示信息。
在一个实施例中,所述方法包括显示所述对象的精确三维模型。
在一个实施例中,所述方法包括:在对象周围设置包括多个第二物理特征的第二物理特征集合。
在一个实施例中,所述方法包括:
根据所述第二物理特征,确定三维模型的大小比例以及确定所述图像获取单元的姿态,从而根据确定的三维模型的大小比例以及所述图像获取单元的姿态生成三维模型。
在一个实施例中,所述方法包括:
在生成三维模型之前,对所述二维图像执行图像分割处理以去除包括所述第二物理特征的背景图像部分。
在一个实施例中,所述方法包括:
在生成三维模型之后,对所述二维图像执行图像分割处理以去除包括所述第二物理特征的背景图像部分。
根据本发明的另一个实施例,提供了一种重构对象的三维模型的电子设备,包括:
图像获取单元,配置为围绕所述对象移动以获取所述对象的视频,其中,在对象上设置包括多个物理特征的物理特征集合,所述物理特征集合配置为覆盖在所述对象的表面以符合所述对象的形状,所述多个物理特征的至少一部分出现在所述视频中;
三维模型生成单元,配置为从所述视频中提取所述物理特征的信息,并且根据所述物理特征的信息生成对象的初始三维模型;
显示装置,所述显示装置配置为在获取所述视频的同时显示所述对象的初始三维模型;以及
提示信息生成单元,配置为将生成的对象的初始三维模型与所述视频中的对象匹配,并且根据匹配结果生成提示信息。
在一个实施例中,所述图像获取单元进一步配置为根据所述提示信息,选择性地获取所述对象的另外的二维图像。
因此,根据本发明实施例的重构对象三维模型的系统、方法和电子设备,能够通过提示用户操作从而方便地重构对象的三维模型。
附图说明
图1是图示根据本发明实施例的重构对象三维模型的系统的示意图;
图2是图示根据第一实施例的系统中的电子设备的框图;
图3A-3B是图示根据本发明实施例的重构对象三维模型的系统的第一操作示例的图;
图4A-4B是图示根据本发明实施例的重构对象三维模型的系统的第二操作示例的图;
图5是图示根据本发明第二实施例的重构对象三维模型的系统的示意图;
图6是图示根据第二实施例的系统中的电子设备的框图;以及
图7是图示根据本发明实施例的重构对象三维模型的方法的流程图。
具体实施方式
下面,将参考附图详细描述根据本申请实施例的重构对象三维模型的系统和方法。
<第一实施例>
图1示出根据本申请第一实施例的重构对象三维模型的系统。在本实施例中,将以用户的腿作为要重建三维模型的对象,并且例如使用诸如智能手机的便携式电子设备来获取对象的视频和图像,并执行三维模型的重建。
如图1所示,根据本发明的第一实施例重构对象的三维模型的系统100包括:
设置于对象101上的包括多个物理特征的物理特征集合102,所述物理特征集合102配置为覆盖在所述对象101的表面以符合所述对象的形状;
电子设备103。需要注意的是,电子设备103可以是任何电子设备,只要该电子设备具有能够捕获对象的视频和图像的图像获取设备,并且具有能够对图像执行计算处理的处理器。
具体地,如图2所示,所述电子设备103包括:
图像获取设备1031,配置为围绕所述对象101移动以获取所述对象101的视频,所述多个物理特征的至少一部分出现在所述视频中;
三维模型生成单元1032,配置为从所述视频中提取所述物理特征的信息,并且根据所述物理特征的信息生成对象的初始三维模型;
显示装置1033,所述显示装置配置为在获取所述视频的同时显示所述对象的初始三维模型;以及
提示信息生成单元1034,配置为将生成的对象的初始三维模型与所述视频中的对象匹配,并且根据匹配结果生成提示信息。
具体地,在本实施例中,将以用户的脚作为要进行三维重建的对象来进行说明。然而,该对象不限于用户的脚,例如,还可以是用户的全身、手、头部等等。此外,该对象不限于人体,还可以是非人体的任何其他的对象。
在开始重建对象的三围模型之前,将包括多个物理特征的物理特征集合102设置于对象101上。具体地,所述物理特征集合可以是一层具有多个物理特征的物理层,所述物理特征是具有特别纹理的图案,所述图案附接到所述物理层的表面上。
在本实施例中,例如,如图1所示,所述物理层是由弹性材料制成的袜子。所述物理特征集合102配置为覆盖在所述对象101的表面以符合所述对象的形状。例如,所述袜子在穿到用户的脚上之后能够紧密地符合脚的形状。
需要注意的是,所述物理层不限于弹性材料制成的袜子。例如,在成像对象是人体身体的情况下,所述物理层包括服装。在成像对象是手的情况下,所述物理层包括手套。在成像对象是头部的情况下,所述物理层包括面罩或者面膜等。
在另一个实施例中,所述物理层还可以是用贴纸形成的物理层或者用颜料喷在对象上形成的物理层。
如图1所示,所述袜子的表面包括具有特别纹理的图案,所述图案被设计成具有诸如方块图形和圆点图形间隔设置。需要注意的是,图1中所示的图案仅仅作为一个例子,所述图案还可以是任意其他的图案,只要所述图案的纹理被设计成在预定范围内的局部是唯一的,并且对比度超过预定阈值。因为该纹理是特殊设计的,所以使得后续的特征点的检测与匹配既简单又鲁棒。
在将包括多个物理特征的物理特征集合102设置于对象101上之后,可以使用电子设备103成像对象。在本发明的实施例中,以智能手机作为电子设备103的示例。
具体地,如图2所示,所述电子设备102包括:
图像获取设备1031,配置为围绕所述对象101移动以获取所述对象101的视频,所述多个物理特征的至少一部分出现在所述视频中。
该图像获取设备1031可以是智能手机的单个摄像头或两个摄像头。用户手持智能手机,围绕对象101移动一圈来拍摄对象101的视频,在拍摄的视频中,出现袜子上的纹理图案的至少一部分。
三维模型生成单元1032例如可以由电子设备102的处理器实现。所述处理器执行存储器中存储的程序,从而从所述视频中提取所述物理特征的信息,并且根据所述物理特征的信息生成对象的初始三维模型。
具体地,在一个实施例中,所述三维模型生成单元可以使用诸如SLAM(Simultaneous Localization and Mapping,同步定位与地图构建)算法的第一算法,根据所述物理特征的信息以及图形获取设备的状态实时地生成对象的初始三维模型。
在本实施例中,在智能手机只有一个摄像头的情况下,可以使用单目相机SLAM算法,即只用一个摄像头就可以完成SLAM。这样做的好处是传感器特别的简单、成本特别的低。
在另一个实施例中,在智能手机具有两个摄像头的情况下,也可以使用双目相机SLAM算法。
在使用单目相机SLAM算法的情况下,可以根据所述物理特征的信息以及图形获取设备的状态实时地生成对象的初始三维模型。
具体地,如本领域技术人员熟知的,单目相机SLAM算法的前端处理包括通过从视频中提取多幅图像的二维特征点并进行匹配,确定包括位置和姿态的位姿信息,同时可以利用相机中的惯性测量单元(如陀螺仪)测量相机的惯性数据,从而预测相机的位姿信息。然后,利用SLAM算法的后端处理和回环检测,能够实时地生成对象的三维模型。也就是说,不需要获取对象的全部的图像数据,就能够实时地生成对象的三维模型。需要注意的是,这样生成的三维模型是不精确的初始三维模型。
在获取初始三维模型之后,显示装置1033在获取所述视频的同时显示所述对象的初始三维模型。也就是说,在显示装置1033显示的视频获取画面上,叠加显示对象的初始三维模型。随着用户手机围绕对象捕捉更多的视频内容,所述三维模型也逐渐变得更加完整。
此时,提示信息生成单元1034将生成的对象的初始三维模型与所述视频中的对象匹配,并且根据匹配结果生成提示信息。
具体地,将参考图3A-3B描述提示信息生成单元的一个操作示例。图3A-3B是图示根据本发明实施例的重构对象三维模型的系统的第一操作示例的图,如图3A所示,在围绕对象移动一段距离之后,生成了对象的一部分初始三维模型。
提示信息生成单元1034将生成的对象的初始三维模型与所述视频中的对象叠加显示,确定初始三维模型与所述视频中的对象在形状上不一致的位置。如图3A中的标记指示的,与视频中的脚的图形相比,在脚的前端处,初始三维模型有一个缺口。因此,提示信息生成单元1034生成提示信息,提示用户在所述不一致的位置处(即,标记指示的缺口处)获取所述对象的另外的二维图像。
然后,所述图像获取设备1031可以进一步配置为根据所述提示信息,选择性地获取所述对象的另外的二维图像。
具体地,如图3B所示,用户在看到显示装置1033上显示的提示信息之后,可以根据提示信息,将手机的摄像头移动到不一致的位置处(即,标记指示的缺口处),再次获取所述对象的另外的二维图像。
可替代地,将参考图4A-4B描述提示信息生成单元的另一个操作示例。图4A-4B是图示根据本发明实施例的重构对象三维模型的系统的第二操作示例的图,如图4A所示,在围绕对象移动一段距离之后,生成了对象的一部分初始三维模型。
提示信息生成单元1034将生成的对象的初始三维模型与所述视频中的对象叠加显示,确定初始三维模型与所述视频中的对象在形状上不一致的位置。如图4A中的标记指示的,与视频中的脚的图形相比,在脚的前端处,初始三维模型有一个凸起。该凸起可能是由于对象的姿势不对导致的。
因此,提示信息生成单元1034生成提示信息,提示用户调整所述对象的姿态。此时,用户可以调整对象的姿态到新的位置。
然后,提示信息提示用户在所述不一致的位置处(即,标记指示的凸起处)获取所述对象的另外的二维图像。
然后,所述图像获取设备1031进一步配置为根据所述提示信息,选择性地获取所述对象的另外的二维图像。
具体地,如图4B所示,用户在看到显示装置1033上显示的提示信息之后,可以根据提示信息,调整对象的姿态到新的位置。然后,将手机的摄像头移动到不一致的位置处(即,标记指示的凸起处),再次获取所述对象的另外的二维图像。
也就是说,因为SLAM算法能够实时地生成对象的初始三维模型,从而能够根据初始三维模型确定对象上的哪些地方获取的图像信息不足,从而能够有针对性重新获取不足的地方的额外的二维图像信息,以便生成更精确的三维模型。
在围绕对象一圈拍摄视频结束之后,所述三维模型生成单元1032进一步配置为根据所述视频以及所述对象的另外的二维图像,生成所述对象的精确三维模型。
具体地,所述三维模型生成单元1032使用第一算法(SLAM算法),根据所述物理特征的信息以及图形获取设备的状态实时地生成对象的初始三维模型,然后所述三维模型生成单元1032使用与第一算法不同的第二算法(例如,SFM(structure-from-motion)算法),根据所述视频和所述对象的另外的二维图像,生成所述对象的精确三维模型。
具体地,如本领域技术人员熟知的,SFM算法是一种基于各种收集到的无序图像进行三维重建的离线算法。也就是说,SFM算法不要求图像的获取顺序,而是可以在图像获取完成之后,根据选择的图像生成对象的精确三维模型。
具体地,先通过提取多幅图像二维特征点并进行匹配,而计算出照相机在拍摄多幅照片的原有位姿(位置translation-t及方向orientation-R)。已知照相机的位姿,对于多幅图像的匹配问题从每幅图像的二维搜索简化为一维搜索(用极约束Epipolarconstraint)。最终此对象的完整三维模型,即稠密三维模型通过匹配多幅图像上的像素点,并用三角测量法(triangulation)来完成构建。
具体方法:
照相机的模型x=kPX上(x,X分别代表图片和空间中的二维三维齐次坐标,k为相机内部参数矩阵,P=[R|t]为空间坐标系到相机坐标系的位姿)
1.首先对某一场景/对象多角度多位置得到很多初始图像。先计算出相机拍摄每幅图的位姿。
对于其中任意两副图,先提取每幅图的特征点(feature point)并算出特征点周围区域的描述向量(feature descriptor),然后对两幅图中的特征向量进行一一匹配。得到两个图像中匹配之后,例如在两副照片中得到至少8个对应点,就可以算出相机的基本矩阵(fundamental matrix),即极约束Epipolar constraint,从而使两幅图像的匹配问题从图像中二维搜索简化为一维搜索。如果相机的内部参数已知(通过标定方法可以得到),那么两个相机的相对位姿就可以计算出来。
同时两个图像中得到匹配的特征点可以通过三角测量法(triangulation)计算出三维信息并加入到一个三维点云数据库。在每次加入一个新图像,我们都可以匹配新图和旧图的特征点,使用PnP方法(新图中的特征点和与其对应的旧图特征点的三维坐标)计算出拍摄新图的相机的位姿。重复以上工作,我们可以得到新相机对于原有相机的相对位姿。那么所有相机可以放置在同一个坐标系中的位置就计算出来。
2.有了相机的位姿和更多匹配
出现在两幅或以上图像中的特征点(如可以成功匹配),都可以用三角测量法(triangulation)来完成构建三维。所有这些重构的三维点云就组成对象的三维点云模型(一种常用的三维模型结构)。根据应用的需要,点云进一步重构成为有颜色的三维小平面,从而完成整个对象三维模型的重构。
需要注意的是,SFM是本领域技术人员熟知的技术,在此省略其详细描述。
在通过SFM算法生成对象的精确三维模型之后,所述显示装置进一步配置为显示所述对象的精确三维模型。
因此,根据本发明实施例的重构对象三维模型的系统,能够通过提示用户操作从而方便地重构对象的三维模型。
<第二实施例>
图5示出根据本申请第二实施例的重构对象三维模型的系统。在本实施例中,将以用户的腿作为要重建三维模型的对象,并且例如使用诸如智能手机的便携式电子设备来获取对象的视频和图像,并执行三维模型的重建。
如图5所示,根据本发明的第二实施例重构对象的三维模型的系统500包括:
设置于对象101上的包括多个物理特征的物理特征集合102,所述物理特征集合102配置为覆盖在所述对象101的表面以符合所述对象的形状;
设置于对象101周围的包括多个第二物理特征的第二物理特征集合501;
电子设备503。
图6是图示根据第二实施例的系统中的电子设备的框图。
如图6所示,所述电子设备503包括:
图像获取设备5031,配置为围绕所述对象101移动以获取所述对象101的视频,所述多个物理特征的至少一部分出现在所述视频中;
三维模型生成单元5032,配置为从所述视频中提取所述物理特征的信息,并且根据所述物理特征的信息生成对象的初始三维模型;
显示装置5033,所述显示装置配置为在获取所述视频的同时显示所述对象的初始三维模型;以及
提示信息生成单元5034,配置为将生成的对象的初始三维模型与所述视频中的对象匹配,并且根据匹配结果生成提示信息。
需要注意的是,与第一实施例的系统100相比,根据第二实施例的系统500增加了第二物理特征集合501。
如图5所示,在本实施例中,第二物理特征集合501例如是提供在地面上的具有黑白方格的一张纸。该黑白方格均匀设置。
所述三维模型生成单元5032进一步配置为:
根据所述第二物理特征,确定三维模型的大小比例以及确定所述图像获取单元的姿态,从而根据确定的三维模型的大小比例以及所述图像获取单元的姿态生成三维模型。
具体地,因为纸的大小以及黑白方格的大小是已知的,因此可以通过该大小确定对象的三维模型的大小比例。
此外,因为纸的大小以及黑白方格的大小是已知的,所以通过黑白方格在不同图像中的位置,可以确定图像获取单元移动的角度以及图像获取单元的位置。
在确定对象的三维模型的大小比例以及图像获取单元移动的角度以及图像获取单元的位置之后,可以将这些参数输入SFM算法中,从而能够提高图像获取单元的位姿的计算质量。
在一个实施例中,所述三维模型生成单元5032进一步配置为:
在生成三维模型之前,对所述二维图像执行图像分割处理以去除包括所述第二物理特征的背景图像部分。
具体地,因为图像获取单元获取的二维图像中不仅包括黑白方格的图像、对象的对象,还包括周围环境的背景图像部分。因此,需要对二维图像执行图像分割以去除包括所述第二物理特征的背景图像部分,从而能够减少三维重建需要处理的数据量,提高重建速度。
在一个实施例中,所述三维模型生成单元进一步配置为:
在生成三维模型之后,对所述二维图像执行图像分割处理以去除包括所述第二物理特征的背景图像部分。
也就是说,在生成三维模型之后,利用三维和二维信息进行分割,将对象的三维模型从背景中取出作为最终结果。
根据本发明的第二实施例重构对象的三维模型的系统500的其他各个部件的操作与根据第一实施例的系统100的操作基本相同,在此省略其详细描述。
因此,根据本发明实施例的重构对象三维模型的系统,能够通过提示用户操作从而方便地重构对象的三维模型。
<第三实施例>
图7示出根据本申请第三实施例的重构对象三维模型的方法。
在本实施例中,将以用户的腿作为要重建三维模型的对象,并且例如使用诸如智能手机的便携式电子设备来获取对象的视频和图像,并执行三维模型的重建。该方法例如使用根据第一实施例的系统100或根据第二实施例的500来实现。
根据本发明的第三实施例的重构对象的三维模型的方法700包括:
步骤S701:在对象上设置包括多个物理特征的物理特征集合,所述物理特征集合配置为覆盖在所述对象的表面以符合所述对象的形状;
步骤S702:围绕所述对象移动图像获取设备以获取所述对象的视频,所述多个物理特征的至少一部分出现在所述视频中;
步骤S703:从所述视频中提取所述物理特征的信息,并且根据所述物理特征的信息生成对象的初始三维模型;
步骤S704:在获取所述视频的同时显示所述对象的初始三维模型;以及
步骤S705:将生成的对象的初始三维模型与所述视频中的对象匹配,并且根据匹配结果生成提示信息;
步骤S706:根据所述提示信息,使用所述图像获取设备选择性地获取所述对象的另外的二维图像。
在一个实施例中,所述方法包括:根据所述视频以及所述对象的另外的二维图像,生成所述对象的精确三维模型。
在一个实施例中,所述方法包括:使用第一算法,根据所述物理特征的信息实时地生成对象的初始三维模型,以及
使用与第一算法不同的第二算法,根据所述视频和所述对象的另外的二维图像,生成所述对象的精确三维模型。
在一个实施例中,所述物理特征集合是一层具有多个物理特征的物理层,所述物理特征是具有特别纹理的图案,所述图案附接到所述物理层的表面上。
在一个实施例中,所述图案的纹理被设计成在预定范围内的局部是唯一的,并且对比度超过预定阈值。
在一个实施例中,所述物理层由弹性材料制成以便紧密地符合所述对象的形状。
在一个实施例中,所述物理层包括服装、袜子、手套、面罩、面膜、贴纸、颜料。
在一个实施例中,所述方法包括:
将生成的对象的初始三维模型与所述视频中的对象叠加显示;
确定初始三维模型与所述视频中的对象在形状上不一致的位置;
生成提示用户在所述不一致的位置处获取所述对象的另外的二维图像的提示信息。
在一个实施例中,所述方法包括:
将生成的对象的初始三维模型与所述视频中的对象叠加显示;
确定初始三维模型与所述视频中的对象在形状上不一致的位置;
生成提示用户调整所述对象的姿态的提示信息;以及
在对象的姿态调整之后,生成提示用户在所述不一致的位置处获取所述对象的另外的二维图像的提示信息。
在一个实施例中,所述方法包括显示所述对象的精确三维模型。
在一个实施例中,所述方法包括:在对象周围设置包括多个第二物理特征的第二物理特征集合。
在一个实施例中,所述方法包括:
根据所述第二物理特征,确定三维模型的大小比例以及确定所述图像获取单元的姿态,从而根据确定的三维模型的大小比例以及所述图像获取单元的姿态生成三维模型。
在一个实施例中,所述方法包括:
在生成三维模型之前,对所述二维图像执行图像分割处理以去除包括所述第二物理特征的背景图像部分。
在一个实施例中,所述方法包括:
在生成三维模型之后,对所述二维图像执行图像分割处理以去除包括所述第二物理特征的背景图像部分。
因此,根据本发明实施例的重构对象三维模型的系统和方法,能够通过提示用户操作从而方便地重构对象的三维模型。
需要注意的是,因为根据第三实施例的方法700例如使用根据第一实施例的系统100或根据第二实施例的500来实现,所以省略相同部分的描述。
因此,根据本发明实施例的重构对象三维模型的方法,能够通过提示用户操作从而方便地重构对象的三维模型。
需要注意的是,上面的实施例仅仅是用作示例,本申请不限于这样的示例,而是可以进行各种变化。
需要说明的是,在本说明书中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
最后,还需要说明的是,上述一系列处理不仅包括以这里所述的顺序按时间序列执行的处理,而且包括并行或分别地、而不是按时间顺序执行的处理。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到本申请可借助软件加必需的硬件平台的方式来实现,当然也可以全部通过硬件来实施。基于这样的理解,本申请的技术方案对背景技术做出贡献的全部或者部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在存储介质中,如ROM(只读存储器)/RAM(随机存取存储器)、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例或者实施例的某些部分所述的方法。
以上对本申请进行了详细介绍,本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想;同时,对于本领域的一般技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本申请的限制。
Claims (16)
1.一种重构对象的三维模型的系统,包括:
设置于对象上的包括多个物理特征的物理特征集合,所述物理特征集合配置为覆盖在所述对象的表面以符合所述对象的形状;
图像获取设备,配置为围绕所述对象移动以获取所述对象的视频,所述多个物理特征的至少一部分出现在所述视频中;
三维模型生成单元,配置为从所述视频中提取所述物理特征的信息,并且根据所述物理特征的信息生成对象的初始三维模型;
显示装置,所述显示装置配置为在获取所述视频的同时显示所述对象的初始三维模型;以及
提示信息生成单元,配置为将生成的对象的初始三维模型与所述视频中的对象匹配,并且根据匹配结果生成提示信息。
2.如权利要求1所述的系统,其中,所述图像获取设备进一步配置为根据所述提示信息,选择性地获取所述对象的另外的二维图像。
3.如权利要求2所述的系统,其中,所述三维模型生成单元进一步配置为根据所述视频以及所述对象的另外的二维图像,生成所述对象的精确三维模型。
4.如权利要求3所述的系统,其中,所述三维模型生成单元使用第一算法,根据所述物理特征的信息以及图形获取设备的状态实时地生成对象的初始三维模型,以及
所述三维模型生成单元使用与第一算法不同的第二算法,根据所述视频和所述对象的另外的二维图像,生成所述对象的精确三维模型。
5.如权利要求1所述的系统,其中,所述物理特征集合是一层具有多个物理特征的物理层,所述物理特征是具有特别纹理的图案,所述图案附接到所述物理层的表面上。
6.如权利要求5所述的系统,其中,所述图案的纹理被设计成在预定范围内的局部是唯一的,并且对比度超过预定阈值。
7.如权利要求5所述的系统,其中,所述物理层由弹性材料制成以便紧密地符合所述对象的形状;以及
所述物理层包括服装、袜子、手套、面罩、面膜、贴纸、颜料。
8.如权利要求2所述的系统,其中,所述提示信息生成单元进一步配置为:
将生成的对象的初始三维模型与所述视频中的对象叠加显示;
确定初始三维模型与所述视频中的对象在形状上不一致的位置;
生成提示用户在所述不一致的位置处获取所述对象的另外的二维图像的提示信息。
9.如权利要求2所述的系统,其中,所述提示信息生成单元进一步配置为:
将生成的对象的初始三维模型与所述视频中的对象叠加显示;
确定初始三维模型与所述视频中的对象在形状上不一致的位置;
生成提示用户调整所述对象的姿态的提示信息;以及
在对象的姿态调整之后,生成提示用户在所述不一致的位置处获取所述对象的另外的二维图像的提示信息。
10.如权利要求3所述的系统,其中所述显示装置进一步配置为显示所述对象的精确三维模型。
11.如权利要求1所述的系统,还包括设置于对象周围的包括多个第二物理特征的第二物理特征集合。
12.如权利要求11所述的系统,其中,所述三维模型生成单元进一步配置为:
根据所述第二物理特征,确定三维模型的大小比例以及确定所述图像获取单元的姿态,从而根据确定的三维模型的大小比例以及所述图像获取单元的姿态生成三维模型。
13.如权利要求12所述的系统,其中,所述三维模型生成单元进一步配置为:
在生成三维模型之前,对所述二维图像执行图像分割处理以去除包括所述第二物理特征的背景图像部分。
14.如权利要求12所述的系统,其中,所述三维模型生成单元进一步配置为:
在生成三维模型之后,对所述二维图像执行图像分割处理以去除包括所述第二物理特征的背景图像部分。
15.一种重构对象的三维模型的方法,包括:
在对象上设置包括多个物理特征的物理特征集合,所述物理特征集合配置为覆盖在所述对象的表面以符合所述对象的形状;
围绕所述对象移动图像获取设备以获取所述对象的视频,所述多个物理特征的至少一部分出现在所述视频中;
从所述视频中提取所述物理特征的信息,并且根据所述物理特征的信息生成对象的初始三维模型;
在获取所述视频的同时显示所述对象的初始三维模型;以及
将生成的对象的初始三维模型与所述视频中的对象匹配,并且根据匹配结果生成提示信息。
16.一种重构对象的三维模型的电子设备,包括:
图像获取单元,配置为围绕所述对象移动以获取所述对象的视频,其中,在对象上设置包括多个物理特征的物理特征集合,所述物理特征集合配置为覆盖在所述对象的表面以符合所述对象的形状,所述多个物理特征的至少一部分出现在所述视频中;
三维模型生成单元,配置为从所述视频中提取所述物理特征的信息,并且根据所述物理特征的信息生成对象的初始三维模型;
显示装置,所述显示装置配置为在获取所述视频的同时显示所述对象的初始三维模型;以及
提示信息生成单元,配置为将生成的对象的初始三维模型与所述视频中的对象匹配,并且根据匹配结果生成提示信息。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711064048.9A CN109754457A (zh) | 2017-11-02 | 2017-11-02 | 重构对象三维模型的系统、方法和电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711064048.9A CN109754457A (zh) | 2017-11-02 | 2017-11-02 | 重构对象三维模型的系统、方法和电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109754457A true CN109754457A (zh) | 2019-05-14 |
Family
ID=66397964
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711064048.9A Pending CN109754457A (zh) | 2017-11-02 | 2017-11-02 | 重构对象三维模型的系统、方法和电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109754457A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021088960A1 (zh) * | 2019-11-08 | 2021-05-14 | 华为技术有限公司 | 模型获取方法、物体预判方法及装置 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1747559A (zh) * | 2005-07-29 | 2006-03-15 | 北京大学 | 三维几何建模系统和方法 |
TW200939053A (en) * | 2008-03-06 | 2009-09-16 | Jung-Tang Huang | Apparatus and method for rapidly measuring 3-dimensional foot sizes from multi-images |
CN101658347A (zh) * | 2009-09-24 | 2010-03-03 | 浙江大学 | 一种脚型动态形状获取方法 |
CN104778736A (zh) * | 2015-04-03 | 2015-07-15 | 北京航空航天大学 | 单视频内容驱动的服装三维动画生成方法 |
CN104835141A (zh) * | 2015-03-09 | 2015-08-12 | 深圳市亿思达科技集团有限公司 | 一种激光测距建立立体模型的移动终端及方法 |
CN105551086A (zh) * | 2015-12-04 | 2016-05-04 | 华中科技大学 | 一种基于计算机视觉的个性化脚部建模与鞋垫定制方法 |
CN105844701A (zh) * | 2016-03-18 | 2016-08-10 | 吴志龙 | 序列图像三维建模方法 |
CN106934857A (zh) * | 2017-04-13 | 2017-07-07 | 江苏唯道先进制造科技有限公司 | 基于明暗图像的足底三维重建装置及方法 |
-
2017
- 2017-11-02 CN CN201711064048.9A patent/CN109754457A/zh active Pending
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1747559A (zh) * | 2005-07-29 | 2006-03-15 | 北京大学 | 三维几何建模系统和方法 |
TW200939053A (en) * | 2008-03-06 | 2009-09-16 | Jung-Tang Huang | Apparatus and method for rapidly measuring 3-dimensional foot sizes from multi-images |
CN101658347A (zh) * | 2009-09-24 | 2010-03-03 | 浙江大学 | 一种脚型动态形状获取方法 |
CN104835141A (zh) * | 2015-03-09 | 2015-08-12 | 深圳市亿思达科技集团有限公司 | 一种激光测距建立立体模型的移动终端及方法 |
CN104778736A (zh) * | 2015-04-03 | 2015-07-15 | 北京航空航天大学 | 单视频内容驱动的服装三维动画生成方法 |
CN105551086A (zh) * | 2015-12-04 | 2016-05-04 | 华中科技大学 | 一种基于计算机视觉的个性化脚部建模与鞋垫定制方法 |
CN105844701A (zh) * | 2016-03-18 | 2016-08-10 | 吴志龙 | 序列图像三维建模方法 |
CN106934857A (zh) * | 2017-04-13 | 2017-07-07 | 江苏唯道先进制造科技有限公司 | 基于明暗图像的足底三维重建装置及方法 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021088960A1 (zh) * | 2019-11-08 | 2021-05-14 | 华为技术有限公司 | 模型获取方法、物体预判方法及装置 |
EP3968284A4 (en) * | 2019-11-08 | 2022-12-07 | Huawei Technologies Co., Ltd. | MODEL DETECTION METHODS, OBJECT PREDETERMINATION METHODS AND DEVICES |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107111833B (zh) | 快速3d模型适配和人体测量 | |
CN104596502B (zh) | 一种基于cad模型与单目视觉的物体位姿测量方法 | |
ES2399636T3 (es) | Método para determinar la postura de una cámara con respecto a por lo menos un objeto real | |
US11353709B2 (en) | Sensor fusion for electromagnetic tracking | |
KR101791590B1 (ko) | 물체 자세 인식장치 및 이를 이용한 물체 자세 인식방법 | |
CN108475439B (zh) | 三维模型生成系统、三维模型生成方法和记录介质 | |
JP5833189B2 (ja) | 被写体の三次元表現を生成する方法およびシステム | |
CN104899918B (zh) | 一种无人机的三维环境建模方法及系统 | |
US20220035461A1 (en) | Ambient electromagnetic distortion correction for electromagnetic tracking | |
Auvinet et al. | Multiple depth cameras calibration and body volume reconstruction for gait analysis | |
JP2019534510A5 (zh) | ||
CN107430686A (zh) | 用于移动设备定位的区域描述文件的众包创建和更新 | |
US10706584B1 (en) | Hand tracking using a passive camera system | |
CN105336005B (zh) | 一种获取目标物体体征数据的方法、装置及终端 | |
US11280605B2 (en) | Three-dimensional measuring system and measuring method with multiple measuring modes | |
JP2014085933A (ja) | 3次元姿勢推定装置、3次元姿勢推定方法、及びプログラム | |
US20200349754A1 (en) | Methods, devices and computer program products for generating 3d models | |
CN107194985A (zh) | 一种面向大场景的三维可视化方法及装置 | |
CN110443884B (zh) | 手部运动重建方法和装置 | |
CN113657357B (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN109389634A (zh) | 基于三维重建和增强现实的虚拟购物系统 | |
CN107818596B (zh) | 一种场景参数确定方法、装置及电子设备 | |
CN109564693A (zh) | 三维数据整合装置及方法 | |
CN111435550A (zh) | 图像处理方法及装置、图像设备及存储介质 | |
CN109754457A (zh) | 重构对象三维模型的系统、方法和电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
AD01 | Patent right deemed abandoned |
Effective date of abandoning: 20231201 |
|
AD01 | Patent right deemed abandoned |