CN109840939B - 三维重建方法、装置、电子设备及存储介质 - Google Patents

Abstract

本申请示出了一种三维重建方法、装置、电子设备及存储介质，其中三维重建方法包括：获取目标物体图片，并对目标物体图片中包含目标物体的区域以及不包含目标物体的区域分别进行处理，得到参考图片；根据参考图片以及重建图片，确定目标物体的三维重建模型；其中，重建图片通过对预设的初始重建模型渲染获得，初始重建模型中包含有姿势参数、形状参数以及误差参数。本申请实施例提供的三维重建方法采用的目标物体图片可以使用通用相机获得，不再依赖于Kinect或其它特殊设备，从而使该方法适用于通用场景；并且通过在初始重建模型中引入误差参数，使得该方法能够精确恢复三维模型，并且可以恢复三维模型的微观细节。

Description

三维重建方法、装置、电子设备及存储介质

技术领域

本申请涉及计算机技术领域，尤其涉及一种三维重建方法、装置、电子设备及存储介质。

背景技术

三维重建可以实现对场景、物体以及人体等的立体复制，例如人体三维重建的目的在于重建人的三维模型，普遍应用在虚拟/增强现实、人机交互、虚拟试衣、动作识别以及辅助驾驶等领域。人体本身具有高度的灵活性导致自遮挡严重，同时人体穿着、服饰以及外部环境等导致外部遮挡严重，这些因素均使得三维人体重建成为一项极具挑战性的研究课题。

目前已有基于点云或RGB-D相机的三维重建技术，但这些技术依赖于特殊的昂贵设备(如Kinect设备)并且计算量较大，严重限制了这些技术的使用场景和通用性。另外还有采用深度神经网络从RGB图片出发拟合人体模型的方法，该方法适用于通用场景却无法重建人体的微观细节。

发明内容

为克服相关技术中存在的问题，本申请提供一种三维重建方法、装置、电子设备及存储介质。

根据本申请的第一方面，提供一种三维重建方法，所述方法包括：

获取目标物体图片，并对所述目标物体图片中包含目标物体的区域以及不包含目标物体的区域分别进行处理，得到参考图片；

根据所述参考图片以及重建图片，确定目标物体的三维重建模型；

其中，所述重建图片通过对预设的初始重建模型渲染获得，所述初始重建模型中包含有姿势参数、形状参数以及误差参数。

在一个可选的实现方式中，所述目标物体图片包括在多个角度获得的目标物体的图片。

在一个可选的实现方式中，所述对所述目标物体图片中包含目标物体的区域以及不包含目标物体的区域分别进行处理，得到参考图片的步骤，包括：

采用分割模型对所述目标物体图片进行分割，得到所述包含目标物体的区域以及所述不包含目标物体的区域；

将所述包含目标物体的区域和所述不包含目标物体的区域分别进行二值化处理，得到所述参考图片。

在一个可选的实现方式中，在所述根据所述参考图片以及重建图片，确定目标物体的三维重建模型的步骤之前，还包括：

采用SMPL模型，对所述姿势参数和所述形状参数进行拟合，获得第一模型；

采用所述误差参数对所述第一模型进行调整，获得所述初始重建模型。

在一个可选的实现方式中，所述根据所述参考图片以及重建图片，确定目标物体的三维重建模型的步骤，包括：

比较所述参考图片以及所述重建图片，确定所述三维重建模型的第一损失函数和第二损失函数；其中，所述第一损失函数表征所述参考图片与所述重建图片之间的分割误差损失，所述第二损失函数表征所述重建图片的正则化损失；

采用优化器，对所述第一损失函数与所述第二损失函数之和进行优化，确定所述姿势参数、所述形状参数和所述误差参数三者的各参数值；

将根据所述姿势参数、所述形状参数和所述误差参数三者的各参数值获得的所述初始重建模型，确定为所述目标物体的三维重建模型。

在一个可选的实现方式中，在所述对所述第一损失函数与所述第二损失函数之和进行优化，确定所述姿势参数、所述形状参数和所述误差参数三者的各参数值的步骤之前，还包括：

对所述目标物体图片进行处理，确定所述姿势参数和所述形状参数的初始值；

所述对所述第一损失函数与所述第二损失函数之和进行优化，确定所述姿势参数、所述形状参数和所述误差参数三者的各参数值的步骤，包括：

以所述姿势参数和所述形状参数的初始值为起始，对所述第一损失函数与所述第二损失函数之和进行迭代优化，确定所述姿势参数、所述形状参数和所述误差参数三者的各参数值。

根据本申请的第二方面，提供一种三维重建装置，所述装置包括：

获取模块，被配置为获取目标物体图片，并对所述目标物体图片中包含目标物体的区域以及不包含目标物体的区域分别进行处理，得到参考图片；

重建模块，被配置为根据所述参考图片以及重建图片，确定目标物体的三维重建模型；

其中，所述重建图片通过对预设的初始重建模型渲染获得，所述初始重建模型中包含有姿势参数、形状参数以及误差参数。

在一个可选的实现方式中，所述目标物体图片包括在多个角度获得的目标物体的图片。

在一个可选的实现方式中，所述获取模块包括：

分割单元，被配置为采用分割模型对所述目标物体图片进行分割，得到所述包含目标物体的区域以及所述不包含目标物体的区域；

处理单元，被配置为将所述包含目标物体的区域和所述不包含目标物体的区域分别进行二值化处理，得到所述参考图片。

在一个可选的实现方式中，所述装置还包括：

拟合模块，被配置为采用SMPL模型，对所述姿势参数和所述形状参数进行拟合，获得第一模型；

调整模块，被配置为采用所述误差参数对所述第一模型进行调整，获得所述初始重建模型。

在一个可选的实现方式中，所述重建模块包括：

比较单元，被配置为比较所述参考图片以及所述重建图片，确定所述三维重建模型的第一损失函数和第二损失函数；其中，所述第一损失函数表征所述参考图片与所述重建图片之间的分割误差损失，所述第二损失函数表征所述重建图片的正则化损失；

优化单元，被配置为采用优化器，对所述第一损失函数与所述第二损失函数之和进行优化，确定所述姿势参数、所述形状参数和所述误差参数三者的各参数值；

重建单元，被配置为将根据所述姿势参数、所述形状参数和所述误差参数三者的各参数值获得的所述初始重建模型，确定为所述目标物体的三维重建模型。

在一个可选的实现方式中，所述重建模块还包括：

初始化单元，被配置为对所述目标物体图片进行处理，确定所述姿势参数和所述形状参数的初始值；

所述优化单元还被配置为以所述姿势参数和所述形状参数的初始值为起始，对所述第一损失函数与所述第二损失函数之和进行迭代优化，确定所述姿势参数、所述形状参数和所述误差参数三者的各参数值。

根据本申请的第三方面，提供一种电子设备，所述电子设备包括：

处理器；

用于存储处理器可执行指令的存储器；

其中，所述处理器被配置为执行如第一方面所述的三维重建方法。

根据本申请的第四方面，提供一种非临时性计算机可读存储介质，当所述存储介质中的指令由电子设备的处理器执行时，使得电子设备能够执行如第一方面所述的三维重建方法。

根据本申请的第五方面，提供一种计算机程序产品，当所述计算机程序产品中的指令由电子设备的处理器执行时，使得电子设备能够执行如第一方面所述的三维重建方法。

本申请提供的技术方案可以包括以下有益效果：

在本申请中，提供了一种三维重建方法、装置、电子设备及存储介质，其中三维重建方法包括：获取目标物体图片，并对目标物体图片中包含目标物体的区域以及不包含目标物体的区域分别进行处理，得到参考图片；根据参考图片以及重建图片，确定目标物体的三维重建模型；其中，重建图片通过对预设的初始重建模型渲染获得，初始重建模型中包含有姿势参数、形状参数以及误差参数。本申请实施例提供的三维重建方法采用的目标物体图片可以使用通用相机获得，不再依赖于Kinect或其它特殊设备，从而使该方法适用于通用场景；并且通过在初始重建模型中引入误差参数，使得该方法能够精确恢复三维模型，并且可以恢复三维模型的微观细节。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本申请。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本申请的实施例，并与说明书一起用于解释本申请的原理。

图1是本申请示出的一种三维重建方法的步骤流程图。

图2是本申请示出的一种获取参考图片的步骤流程图。

图3是本申请示出的一种获取初始重建模型的步骤流程图。

图4是本申请示出的一种确定三维重建模型的步骤流程图。

图5是本申请示出的一种三维重建装置的框图。

图6是本申请示出的一种电子设备的框图。

图7是本申请示出的一种电子设备的框图。

具体实施方式

这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。

图1是本申请示出的一种三维重建方法的流程图，如图1所示，该方法应用于电子设备中，该方法包括以下步骤。

在步骤S101中，获取目标物体图片，并对目标物体图片中包含目标物体的区域以及不包含目标物体的区域分别进行处理，得到参考图片。

其中，目标物体图片可以包括从一个角度或多个角度拍摄的目标物体的图片。当目标物体图片为从多个角度拍摄的目标物体的图片序列(由RGB相机围绕目标物体一圈采样拍摄)时，在后续步骤中可以更加精确地恢复目标物体的三维重建模型的细节；并且，采用多张图片可以减少在后续损失优化过程中的迭代次数，缩短优化时间，提高重建效率。

另外，目标物体图片可以是使用通用相机拍摄得到的RGB图片，因此可以不依赖于Kinect或其它特殊设备，使得本实施例提供的三维重建方法适用于通用场景。

获得参考图片的方式有多种，例如可以首先对目标物体图片进行分割处理，然后对分割得到的包含目标物体的区域和不包含目标物体的区域进行二值化处理，得到参考图片。

在步骤S102中，根据参考图片以及重建图片，确定目标物体的三维重建模型；其中，重建图片通过对预设的初始重建模型渲染获得，初始重建模型中包含有姿势参数、形状参数以及误差参数。

其中，通过对预设的初始重建模型进行渲染，可以得到重建图片。初始重建模型可以预先得到，例如可以首先根据姿势参数和形状参数拟合得到一粗糙模型，然后通过误差参数对该粗糙模型进行调整得到。

由于参考图片是根据目标物体图片得到的，因此可以视为真实值，本步骤可以根据参考图片与重建图片之间的差异，计算并优化损失函数，确定初始重建模型中的姿势参数、形状参数以及误差参数的参数值，根据姿势参数、形状参数以及误差参数的参数值获得的初始重建模型，确定为目标物体的三维重建模型。

本实施例提供的三维重建方法，采用的目标物体图片可以使用通用相机获得，不再依赖于Kinect或其它特殊设备，从而使该方法适用于通用场景；并且通过在初始重建模型中引入误差参数，使得该方法能够精确恢复三维模型，并且可以恢复三维模型的微观细节。

在本实施例的一种实现方式中，参照图2，在步骤S101中可以进一步包括：

在步骤S201中，采用分割模型对目标物体图片进行分割，得到包含目标物体的区域以及不包含目标物体的区域。

以目标物体图片包括从n个角度拍摄的目标物体的图片序列即I＝{I₁,I₂,…,I_n}为例，可以使用DeepLab或其它的深度学习分割模型对图片序列进行分割，得到包含目标物体的区域以及不包含目标物体的区域。

在步骤S202中，将包含目标物体的区域和不包含目标物体的区域分别进行二值化处理，得到参考图片。

例如，将包含目标物体的区域标记为1，将不包含目标物体的区域标记为0，并将二值化处理后得到的图片序列标记为S＝{S1,S2,…,Sn}。

在本实施例的一种实现方式中，参照图3，在步骤S102之前还可以包括：

在步骤S301中，采用SMPL模型，对姿势参数和形状参数进行拟合，获得第一模型。

具体地，将姿势参数Θ和形状参数β输入SMPL模型(Skinned Multi-PersonLinear Model)进行拟合，得到第一模型M(Θ,β)。

在步骤S302中，采用误差参数对第一模型进行调整，获得初始重建模型。

假设目标物体图片序列I＝{I1,I2,…,In}对应的精确三维模型相对于第一模型M(Θ,β)的误差偏移或误差参数为△V＝{△V1,△V2,…,△Vm}，可以采用该误差参数对第一模型M(Θ,β)进行调整，此时目标物体的精确三维模型或初始重建模型上的点可以表示为△V+M(Θ,β)。

在实际应用中，可以对预先得到的初始重建模型进行可微分渲染，对第i张图片，渲染的顶点为△Vi+M(Θ,β)，渲染得到重建图片Si’＝DR(△V+M(Θ,β),Ti,Ci)，DR例如可以通过CHUMTY工具实现，Ti为平移分量，Ci为相机参数。图片序列I＝{I1,I2,…,In}对应的平移分量为T＝{T1,T2,…,Tn}，相机参数为C＝{C1,C2,…,Cn}，平移分量T和相机参数C是在渲染过程中将初始重建模型投影到成像平面上时，为了与拍摄得到的图片序列I一致而进行平移、旋转和缩放时需要用到的参量。

在本实施例的一种实现方式中，参照图4，在步骤S102中可以进一步包括：

在步骤S401中，比较参考图片以及重建图片，确定三维重建模型的第一损失函数和第二损失函数；其中，第一损失函数表征参考图片与重建图片之间的分割误差损失，第二损失函数表征重建图片的正则化损失。

由于参考图片Si是由DeepLab等深度学习模型得到的，可视为真实值，以重建图片Si’与参考图片Si相同为目标，计算第i张图片对应的第一损失函数即投影分割误差损失L0i＝L2(Si’,Si)，S集合中所有图片的投影分割误差L＝L01+L02+…+L0n。同时，为了使生成的三维重建模型更加平滑真实，我们加入正则化损失R＝L2(△V,0)，最终整个三维重建模型的损失函数定义为Loss＝L+R。

在步骤S402中，采用优化器，对第一损失函数与第二损失函数之和进行优化，确定姿势参数Θ、形状参数β和误差参数△V三者的各参数值。

具体地，可以使用Adam或LBFGS等优化器优化上述Loss，得到姿势参数Θ、形状参数β和误差参数△V三者的各参数值。

在步骤S403中，将根据姿势参数、形状参数和误差参数三者的各参数值获得的初始重建模型，确定为目标物体的三维重建模型。

具体地，根据姿势参数、形状参数和误差参数三者的各参数值计算△V+M(Θ,β)，可以得到目标物体的三维重建模型，如m个特征点的三维坐标V＝{V₁,V₂,…,V_m}。

在步骤S403之前还可以包括：对目标物体图片进行处理，确定姿势参数和形状参数的初始值的步骤。相应地，在步骤S403中具体可以包括：

以姿势参数和形状参数的初始值为起始，对第一损失函数与第二损失函数之和进行迭代优化，确定姿势参数、形状参数和误差参数三者的各参数值。

具体地，可以利用Simplify或HMR等框架对图片序列I＝{I1,I2,…,In}求解出姿势参数和形状参数的初始值，记姿势参数的初始值为Θ0、形状参数的初始值为β0。由于图片序列中的各图片是对同一目标物体的同一姿势拍摄得到的，因此所有图片的姿势参数初始值或形状参数的初始值都应该相同。在实际应用中，可以分别计算图片Ii的姿势参数和形状参数的初始值，然后再求平均值得到所有图片的姿势参数和形状参数的初始值。

本实施例提供的三维重建方法，引入目标物体图片流取代相关技术方案中依赖的点云、深度图或其它特殊数据，该方法不依赖Kinect或其它特殊设备，采用通用相机获得的图片即可，可适用于通用场景；通过引入修正的SMPL模型，并设计一套算法，将精确的三维重建问题转化为一个端到端的优化问题。并且，为了恢复三维重建模型的细节，相关方案往往需要使用RGBD或其它特殊类型的数据，本方案利用多个角度的目标物体图片也能够精确恢复三维人体模型，同时，为了减小模型复杂度，通过在基于SMPL模型的基础上引入误差参数，遵循从粗到细的过程精确恢复人体模型。

图5是本申请示出的一种三维重建装置的框图。参照图5，该装置可以包括：

获取模块51，被配置为获取目标物体图片，并对目标物体图片中包含目标物体的区域以及不包含目标物体的区域分别进行处理，得到参考图片；

重建模块52，被配置为根据参考图片以及重建图片，确定目标物体的三维重建模型；

其中，重建图片通过对预设的初始重建模型渲染获得，初始重建模型中包含有姿势参数、形状参数以及误差参数。

其中，获取模块51获取的目标物体图片可以包括从一个角度或多个角度拍摄的目标物体的图片。当目标物体图片为从多个角度拍摄的目标物体的图片序列(由RGB相机围绕目标物体一圈采样拍摄)时，重建模块52可以更加精确地恢复目标物体的三维重建模型的细节；并且，采用多张图片可以减少在损失优化过程中的迭代次数，缩短优化时间，提高重建效率。

另外，目标物体图片可以是使用通用相机拍摄得到的RGB图片，因此可以不依赖于Kinect或其它特殊设备，使得本实施例提供的三维重建装置适用于通用场景。

获取模块51获得参考图片的方式有多种，例如可以首先对目标物体图片进行分割处理，然后对分割得到的包含目标物体的区域和不包含目标物体的区域进行二值化处理，得到参考图片。

其中，通过对预设的初始重建模型进行渲染，可以得到重建图片。初始重建模型可以预先得到，例如可以首先根据姿势参数和形状参数拟合得到一粗糙模型，然后通过误差参数对该粗糙模型进行调整得到。

由于参考图片是根据目标物体图片得到的，因此可以视为真实值，重建模块52可以根据参考图片与重建图片之间的差异，计算并优化损失函数，确定初始重建模型中的姿势参数、形状参数以及误差参数的参数值，根据姿势参数、形状参数以及误差参数的参数值获得的初始重建模型，确定为目标物体的三维重建模型。

本实施例提供的三维重建装置，获取模块获取的目标物体图片可以使用通用相机获得，不再依赖于Kinect或其它特殊设备，从而使该装置适用于通用场景；并且通过在初始重建模型中引入误差参数，使得重建模块能够精确恢复三维模型，并且可以恢复三维模型的微观细节。

在一个可选的实现方式中，目标物体图片包括在多个角度获得的目标物体的图片。

在一个可选的实现方式中，获取模块51包括：

分割单元，被配置为采用分割模型对目标物体图片进行分割，得到包含目标物体的区域以及不包含目标物体的区域；

处理单元，被配置为将包含目标物体的区域和不包含目标物体的区域分别进行二值化处理，得到参考图片。

具体地，以目标物体图片包括从n个角度拍摄的目标物体的图片序列即I＝{I₁,I₂,…,I_n}为例，分割单元可以使用DeepLab或其它的深度学习分割模型对图片序列进行分割，得到包含目标物体的区域以及不包含目标物体的区域。

处理单元可以将包含目标物体的区域标记为1，将不包含目标物体的区域标记为0，并将二值化处理后得到的图片序列标记为S＝{S1,S2,…,Sn}。

在一个可选的实现方式中，装置还包括：

拟合模块，被配置为采用SMPL模型，对姿势参数和形状参数进行拟合，获得第一模型；

调整模块，被配置为采用误差参数对第一模型进行调整，获得初始重建模型。

具体地，拟合模块可以将姿势参数Θ和形状参数β输入SMPL模型(Skinned Multi-Person Linear Model)进行拟合，得到第一模型M(Θ,β)。

假设目标物体图片序列I＝{I1,I2,…,In}对应的精确三维模型相对于第一模型M(Θ,β)的误差偏移或误差参数为△V＝{△V1,△V2,…,△Vm}，调整模块可以采用该误差参数对第一模型M(Θ,β)进行调整，此时目标物体的精确三维模型或初始重建模型上的点可以表示为△V+M(Θ,β)。

在实际应用中，可以对调整模块预先获得的初始重建模型进行可微分渲染，对第i张图片，渲染的顶点为△Vi+M(Θ,β)，渲染得到重建图片Si’＝DR(△V+M(Θ,β),Ti,Ci)，DR例如可以通过CHUMTY工具实现，Ti为平移分量，Ci为相机参数。图片序列I＝{I1,I2,…,In}对应的平移分量为T＝{T1,T2,…,Tn}，相机参数为C＝{C1,C2,…,Cn}，平移分量T和相机参数C是在渲染过程中将初始重建模型投影到成像平面上时，为了与拍摄得到的图片序列I一致而进行平移、旋转和缩放时需要用到的参量。

在一个可选的实现方式中，重建模块包括：

比较单元，被配置为比较参考图片以及重建图片，确定三维重建模型的第一损失函数和第二损失函数；其中，第一损失函数表征参考图片与重建图片之间的分割误差损失，第二损失函数表征重建图片的正则化损失；

优化单元，被配置为采用优化器，对第一损失函数与第二损失函数之和进行优化，确定姿势参数、形状参数和误差参数三者的各参数值；

重建单元，被配置为将根据姿势参数、形状参数和误差参数三者的各参数值获得的初始重建模型，确定为目标物体的三维重建模型。

具体地，由于参考图片Si是由DeepLab等深度学习模型得到的，可视为真实值，比较单元可以以重建图片Si’与参考图片Si相同为目标，计算第i张图片对应的第一损失函数即投影分割误差损失L0i＝L2(Si’,Si)，S集合中所有图片的投影分割误差L＝L01+L02+…+L0n。同时，为了使生成的三维重建模型更加平滑真实，我们加入正则化损失R＝L2(△V,0)，最终整个三维重建模型的损失函数定义为Loss＝L+R。

优化单元可以使用Adam或LBFGS等优化器优化上述Loss，得到姿势参数Θ、形状参数β和误差参数△V三者的各参数值。

重建单元根据姿势参数、形状参数和误差参数三者的各参数值计算△V+M(Θ,β)，可以得到目标物体的三维重建模型，如m个特征点的三维坐标V＝{V₁,V₂,…,V_m}。

在一个可选的实现方式中，重建模块还包括：

初始化单元，被配置为对目标物体图片进行处理，确定姿势参数和形状参数的初始值；

优化单元还被配置为以姿势参数和形状参数的初始值为起始，对第一损失函数与第二损失函数之和进行迭代优化，确定姿势参数、形状参数和误差参数三者的各参数值。

具体地，初始化单元可以利用Simplify或HMR等框架对图片序列I＝{I1,I2,…,In}求解出姿势参数和形状参数的初始值，记姿势参数的初始值为Θ0、形状参数的初始值为β0。由于图片序列中的各图片是对同一目标物体的同一姿势拍摄得到的，因此所有图片的姿势参数初始值或形状参数的初始值都应该相同。在实际应用中，可以分别计算图片Ii的姿势参数和形状参数的初始值，然后再求平均值得到所有图片的姿势参数和形状参数的初始值。

关于上述实施例中的装置，其中各个模块执行操作的具体方式以及有益效果已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。

图6是本申请示出的一种电子设备800的框图。例如，电子设备800可以是移动电话，计算机，数字广播终端，消息收发设备，游戏控制台，平板设备，医疗设备，健身设备，个人数字助理等。

参照图6，电子设备800可以包括以下一个或多个组件：处理组件802，存储器804，电力组件806，多媒体组件808，音频组件810，输入/输出(I/O)的接口812，传感器组件814，以及通信组件816。

处理组件802通常控制电子设备800的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。

处理组件802可以包括一个或多个处理器820来执行指令，以完成上述方法的全部或部分步骤。此外，处理组件802可以包括一个或多个模块，便于处理组件802和其他组件之间的交互。例如，处理组件802可以包括多媒体模块，以方便多媒体组件808和处理组件802之间的交互。

存储器804被配置为存储各种类型的数据以支持在设备800的操作。这些数据的示例包括用于在电子设备800上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图像，视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。

电源组件806为电子设备800的各种组件提供电力。电源组件806可以包括电源管理系统，一个或多个电源，及其他与为电子设备800生成、管理和分配电力相关联的组件。

多媒体组件808包括在所述电子设备800和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件808包括一个前置摄像头和/或后置摄像头。当设备800处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。

音频组件810被配置为输出和/或输入音频信号。例如，音频组件810包括一个麦克风(MIC)，当电子设备800处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中，音频组件810还包括一个扬声器，用于输出音频信号。

I/O接口812为处理组件802和外围接口模块之间提供接口，上述外围接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。

传感器组件814包括一个或多个传感器，用于为电子设备800提供各个方面的状态评估。例如，传感器组件814可以检测到设备800的打开/关闭状态，组件的相对定位，例如所述组件为电子设备800的显示器和小键盘，传感器组件814还可以检测电子设备800或电子设备800一个组件的位置改变，用户与电子设备800接触的存在或不存在，电子设备800方位或加速/减速和电子设备800的温度变化。传感器组件814可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器，如CMOS或CCD图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件814还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。

通信组件816被配置为便于电子设备800和其他设备之间有线或无线方式的通信。电子设备800可以接入基于通信标准的无线网络，如WiFi，运营商网络(如2G、3G、4G或5G)，或它们的组合。在一个示例性实施例中，通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，所述通信组件816还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。

在示例性实施例中，电子设备800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述方法。

在示例性实施例中，还提供了一种包括指令的非临时性计算机可读存储介质，例如包括指令的存储器804，上述指令可由电子设备800的处理器820执行以完成上述方法。例如，所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。

图7是本申请示出的一种电子设备1900的框图。例如，电子设备1900可以被提供为一服务器。

参照图7，电子设备1900包括处理组件1922，其进一步包括一个或多个处理器，以及由存储器1932所代表的存储器资源，用于存储可由处理组件1922的执行的指令，例如应用程序。存储器1932中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外，处理组件1922被配置为获取目标物体图片，并对所述目标物体图片中包含目标物体的区域以及不包含目标物体的区域分别进行处理，得到参考图片；根据所述参考图片以及重建图片，确定目标物体的三维重建模型；其中，所述重建图片通过对预设的初始重建模型渲染获得，所述初始重建模型中包含有姿势参数、形状参数以及误差参数。

本申请实施例提供的电子设备采用的目标物体图片可以使用通用相机获得，不再依赖于Kinect或其它特殊设备，从而适用于通用场景；并且通过在初始重建模型中引入误差参数，使得该电子设备能够精确恢复三维模型，并且可以恢复三维模型的微观细节。

电子设备1900还可以包括一个电源组件1926被配置为执行电子设备1900的电源管理，一个有线或无线网络接口1950被配置为将电子设备1900连接到网络，和一个输入输出(I/O)接口1958。电子设备1900可以操作基于存储在存储器1932的操作系统，例如Windows ServerTM，Mac OS XTM，UnixTM,LinuxTM，FreeBSDTM或类似。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本申请的真正范围和精神由下面的权利要求指出。

应当理解的是，本申请并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本申请的范围仅由所附的权利要求来限制。

A1、一种三维重建方法，所述方法包括：

获取目标物体图片，并对所述目标物体图片中包含目标物体的区域以及不包含目标物体的区域分别进行处理，得到参考图片；

根据所述参考图片以及重建图片，确定目标物体的三维重建模型；

其中，所述重建图片通过对预设的初始重建模型渲染获得，所述初始重建模型中包含有姿势参数、形状参数以及误差参数。

A2、根据A1所述的三维重建方法，所述目标物体图片包括在多个角度获得的目标物体的图片。

A3、根据A1所述的三维重建方法，所述对所述目标物体图片中包含目标物体的区域以及不包含目标物体的区域分别进行处理，得到参考图片的步骤，包括：

采用分割模型对所述目标物体图片进行分割，得到所述包含目标物体的区域以及所述不包含目标物体的区域；

将所述包含目标物体的区域和所述不包含目标物体的区域分别进行二值化处理，得到所述参考图片。

A4、根据A1所述的三维重建方法，在所述根据所述参考图片以及重建图片，确定目标物体的三维重建模型的步骤之前，还包括：

采用SMPL模型，对所述姿势参数和所述形状参数进行拟合，获得第一模型；

采用所述误差参数对所述第一模型进行调整，获得所述初始重建模型。

A5、根据A1所述的三维重建方法，所述根据所述参考图片以及重建图片，确定目标物体的三维重建模型的步骤，包括：

比较所述参考图片以及所述重建图片，确定所述三维重建模型的第一损失函数和第二损失函数；其中，所述第一损失函数表征所述参考图片与所述重建图片之间的分割误差损失，所述第二损失函数表征所述重建图片的正则化损失；

采用优化器，对所述第一损失函数与所述第二损失函数之和进行优化，确定所述姿势参数、所述形状参数和所述误差参数三者的各参数值；

将根据所述姿势参数、所述形状参数和所述误差参数三者的各参数值获得的所述初始重建模型，确定为所述目标物体的三维重建模型。

A6、根据A5所述的三维重建方法，在所述对所述第一损失函数与所述第二损失函数之和进行优化，确定所述姿势参数、所述形状参数和所述误差参数三者的各参数值的步骤之前，还包括：

对所述目标物体图片进行处理，确定所述姿势参数和所述形状参数的初始值；

所述对所述第一损失函数与所述第二损失函数之和进行优化，确定所述姿势参数、所述形状参数和所述误差参数三者的各参数值的步骤，包括：

以所述姿势参数和所述形状参数的初始值为起始，对所述第一损失函数与所述第二损失函数之和进行迭代优化，确定所述姿势参数、所述形状参数和所述误差参数三者的各参数值。

A7、一种三维重建装置，所述装置包括：

获取模块，被配置为获取目标物体图片，并对所述目标物体图片中包含目标物体的区域以及不包含目标物体的区域分别进行处理，得到参考图片；

重建模块，被配置为根据所述参考图片以及重建图片，确定目标物体的三维重建模型；

其中，所述重建图片通过对预设的初始重建模型渲染获得，所述初始重建模型中包含有姿势参数、形状参数以及误差参数。

A8、根据A7所述的三维重建装置，所述目标物体图片包括在多个角度获得的目标物体的图片。

A9、根据A7所述的三维重建装置，所述获取模块包括：

分割单元，被配置为采用分割模型对所述目标物体图片进行分割，得到所述包含目标物体的区域以及所述不包含目标物体的区域；

处理单元，被配置为将所述包含目标物体的区域和所述不包含目标物体的区域分别进行二值化处理，得到所述参考图片。

A10、根据A7所述的三维重建装置，所述装置还包括：

拟合模块，被配置为采用SMPL模型，对所述姿势参数和所述形状参数进行拟合，获得第一模型；

调整模块，被配置为采用所述误差参数对所述第一模型进行调整，获得所述初始重建模型。

A11、根据A7所述的三维重建装置，所述重建模块包括：

比较单元，被配置为比较所述参考图片以及所述重建图片，确定所述三维重建模型的第一损失函数和第二损失函数；其中，所述第一损失函数表征所述参考图片与所述重建图片之间的分割误差损失，所述第二损失函数表征所述重建图片的正则化损失；

优化单元，被配置为采用优化器，对所述第一损失函数与所述第二损失函数之和进行优化，确定所述姿势参数、所述形状参数和所述误差参数三者的各参数值；

重建单元，被配置为将根据所述姿势参数、所述形状参数和所述误差参数三者的各参数值获得的所述初始重建模型，确定为所述目标物体的三维重建模型。

A12、根据A11所述的三维重建装置，所述重建模块还包括：

初始化单元，被配置为对所述目标物体图片进行处理，确定所述姿势参数和所述形状参数的初始值；

所述优化单元还被配置为以所述姿势参数和所述形状参数的初始值为起始，对所述第一损失函数与所述第二损失函数之和进行迭代优化，确定所述姿势参数、所述形状参数和所述误差参数三者的各参数值。

Claims (9)

1.一种三维重建方法，其特征在于，所述方法包括：

获取目标物体图片，并对所述目标物体图片中包含目标物体的区域以及不包含目标物体的区域分别进行处理，得到参考图片；

根据所述参考图片以及重建图片，确定目标物体的三维重建模型；

其中，所述重建图片通过对预设的初始重建模型渲染获得，所述初始重建模型中包含有姿势参数、形状参数以及误差参数；

所述根据所述参考图片以及重建图片，确定目标物体的三维重建模型的步骤，包括：

比较所述参考图片以及所述重建图片，确定所述三维重建模型的第一损失函数和第二损失函数；其中，所述第一损失函数表征所述参考图片与所述重建图片之间的分割误差损失，所述第二损失函数表征所述重建图片的正则化损失；

采用优化器，对所述第一损失函数与所述第二损失函数之和进行优化，确定所述姿势参数、所述形状参数和所述误差参数三者的各参数值；

将根据所述姿势参数、所述形状参数和所述误差参数三者的各参数值获得的所述初始重建模型，确定为所述目标物体的三维重建模型。

2.根据权利要求1所述的三维重建方法，其特征在于，所述目标物体图片包括在多个角度获得的目标物体的图片。

3.根据权利要求1所述的三维重建方法，其特征在于，所述对所述目标物体图片中包含目标物体的区域以及不包含目标物体的区域分别进行处理，得到参考图片的步骤，包括：

采用分割模型对所述目标物体图片进行分割，得到所述包含目标物体的区域以及所述不包含目标物体的区域；

将所述包含目标物体的区域和所述不包含目标物体的区域分别进行二值化处理，得到所述参考图片。

4.根据权利要求1所述的三维重建方法，其特征在于，在所述根据所述参考图片以及重建图片，确定目标物体的三维重建模型的步骤之前，还包括：

采用SMPL模型，对所述姿势参数和所述形状参数进行拟合，获得第一模型；

采用所述误差参数对所述第一模型进行调整，获得所述初始重建模型。

5.根据权利要求1所述的三维重建方法，其特征在于，在所述对所述第一损失函数与所述第二损失函数之和进行优化，确定所述姿势参数、所述形状参数和所述误差参数三者的各参数值的步骤之前，还包括：

对所述目标物体图片进行处理，确定所述姿势参数和所述形状参数的初始值；

所述对所述第一损失函数与所述第二损失函数之和进行优化，确定所述姿势参数、所述形状参数和所述误差参数三者的各参数值的步骤，包括：

以所述姿势参数和所述形状参数的初始值为起始，对所述第一损失函数与所述第二损失函数之和进行迭代优化，确定所述姿势参数、所述形状参数和所述误差参数三者的各参数值。

6.一种三维重建装置，其特征在于，所述装置包括：

获取模块，被配置为获取目标物体图片，并对所述目标物体图片中包含目标物体的区域以及不包含目标物体的区域分别进行处理，得到参考图片；

重建模块，被配置为根据所述参考图片以及重建图片，确定目标物体的三维重建模型；

其中，所述重建图片通过对预设的初始重建模型渲染获得，所述初始重建模型中包含有姿势参数、形状参数以及误差参数；

重建模块包括：

比较单元，被配置为比较参考图片以及重建图片，确定三维重建模型的第一损失函数和第二损失函数；其中，第一损失函数表征参考图片与重建图片之间的分割误差损失，第二损失函数表征重建图片的正则化损失；

优化单元，被配置为采用优化器，对第一损失函数与第二损失函数之和进行优化，确定姿势参数、形状参数和误差参数三者的各参数值；

重建单元，被配置为将根据姿势参数、形状参数和误差参数三者的各参数值获得的初始重建模型，确定为目标物体的三维重建模型。

7.根据权利要求6所述的三维重建装置，其特征在于，所述目标物体图片包括在多个角度获得的目标物体的图片。

8.一种电子设备，其特征在于，所述电子设备包括：

处理器；

用于存储处理器可执行指令的存储器；

其中，所述处理器被配置为执行如权利要求1-5任一项所述的三维重建方法。

9.一种非临时性计算机可读存储介质，当所述存储介质中的指令由电子设备的处理器执行时，使得电子设备能够执行如权利要求1-5任一项所述的三维重建方法。