CN115100383B - 基于普通光源的镜面物体三维重建方法、装置和设备 - Google Patents
基于普通光源的镜面物体三维重建方法、装置和设备 Download PDFInfo
- Publication number
- CN115100383B CN115100383B CN202211016311.8A CN202211016311A CN115100383B CN 115100383 B CN115100383 B CN 115100383B CN 202211016311 A CN202211016311 A CN 202211016311A CN 115100383 B CN115100383 B CN 115100383B
- Authority
- CN
- China
- Prior art keywords
- dimensional
- mirror surface
- information
- surface object
- grid
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/20—Finite element generation, e.g. wire-frame surface description, tesselation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/20—Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2219/00—Indexing scheme for manipulating 3D models or images for computer graphics
- G06T2219/20—Indexing scheme for editing of 3D models
- G06T2219/2012—Colour editing, changing, or manipulating; Use of colour codes
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Graphics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Architecture (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Geometry (AREA)
- Image Generation (AREA)
Abstract
本申请涉及一种基于普通光源的镜面物体三维重建方法、装置、计算机设备和存储介质。所述方法包括:将镜面物体的待重建图像中像素的三维点,输入至三维体网格信息预测模型,得到三维点的颜色信息;根据三维点的颜色信息,对镜面物体的三维体网格进行颜色渲染处理,得到镜面物体的渲染后三维体网格;将渲染后三维体网格的采样点,输入至再次训练的三维体网格信息预测模型,得到采样点的密度信息;再次训练的三维体网格信息预测模型通过三维体网格数据集对三维体网格信息预测模型进行训练得到;根据采样点的密度信息,对渲染后三维体网格进行表面重建处理,得到镜面物体的三维重建模型。采用本方法能够提高镜面物体在普通光照下的三维重建精度。
Description
技术领域
本申请涉及三维重建技术领域,特别是涉及一种基于普通光源的镜面物体三维重建方法、装置、计算机设备、存储介质和计算机程序产品。
背景技术
随着互联网技术的不断发展,珠宝行业也逐渐推进数字化变革。在珠宝数字化领域,通过三维重建技术获取珠宝等产品的三维模型,是产品展示、产品个性化定制、产品修复和产品试戴等应用的基础。然而,珠宝一般是由金属、晶体等镜面物体构成,在普通光照下镜面物体的拍摄图像容易受到镜面反射、折射和曝光的影响,使得镜面物体的图像的特征点匹配率低,导致镜面物体的三维重建精度较低。
传统技术中,通常使用具有多种颜色光照的特殊采集设备来采集镜面物体的图像,并利用该图像进行三维重建,但是这种方式对光照条件要求较高,特殊采集设备的成本也较高。
发明内容
基于此,有必要针对上述技术问题,提供一种能够提高镜面物体在普通光照下的三维重建精度的基于普通光源的镜面物体三维重建方法、装置、计算机设备、计算机可读存储介质和计算机程序产品。
第一方面,本申请提供了一种基于普通光源的镜面物体三维重建方法。所述方法包括:
将镜面物体的待重建图像中像素的三维点,输入至三维体网格信息预测模型,得到所述三维点的颜色信息;
根据所述三维点的颜色信息,对所述镜面物体的三维体网格进行颜色渲染处理,得到所述镜面物体的渲染后三维体网格;
将所述渲染后三维体网格的采样点,输入至再次训练的三维体网格信息预测模型,得到所述采样点的密度信息;所述再次训练的三维体网格信息预测模型通过三维体网格数据集对所述三维体网格信息预测模型进行训练得到;
根据所述采样点的密度信息,对所述渲染后三维体网格进行表面重建处理,得到所述镜面物体的三维重建模型。
在其中一个实施例中,再次训练的三维体网格信息预测模型通过如下方式训练得到:
对样本三维体网格中的自交体网格进行剔除处理,得到处理后样本三维体网格;所述样本三维体网格携带有与所述镜面物体同类型的目标镜面物体的完整的三维重建信息;
对所述处理后样本三维体网格进行高斯分布采样,得到所述处理后样本三维体网格上的样本三维点;
根据所述样本三维点和所述样本三维点的有向距离信息,对所述三维体网格信息预测模型进行再次训练,得到所述再次训练的三维体网格信息预测模型。
在其中一个实施例中,根据所述采样点的密度信息,对所述渲染后三维体网格进行表面重建处理,得到所述镜面物体的三维重建模型,包括:
根据所述采样点的密度信息和预设密度阈值之间的差异,得到所述采样点的有向距离信息;
根据所述采样点的有向距离信息,对所述渲染后三维体网格进行等值面提取处理,得到所述镜面物体的三维重建模型。
在其中一个实施例中,根据所述三维点的颜色信息,对所述镜面物体的三维体网格进行颜色渲染处理,得到所述镜面物体的渲染后三维体网格,包括:
根据所述三维点的颜色信息和密度权重,得到所述三维点对应的像素的渲染颜色信息;
根据各所述像素的渲染颜色信息,对所述镜面物体的三维体网格进行颜色渲染处理,得到所述镜面物体的渲染后三维体网格。
在其中一个实施例中,在根据所述各像素的渲染颜色信息,对所述镜面物体的三维体网格进行颜色渲染处理,得到所述镜面物体的渲染后三维体网格之后,还包括:
根据所述待重建图像中像素的渲染颜色信息与实际颜色信息之间的差异,对所述三维体网格信息模型进行梯度更新,得到更新后的三维体网格信息预测模型;
根据所述三维点的密度信息,对所述待重建图像中像素的射线进行重要性采样,得到所述待重建图像中像素的目标三维点;
将所述目标三维点作为所述三维点,以及将所述更新后的三维体网格信息预测模型作为所述三维体网格信息预测模型,跳转到所述将镜面物体的待重建图像中像素的三维点,输入至三维体网格信息预测模型,得到所述三维点的颜色信息的步骤,直到满足预设终止条件。
在其中一个实施例中,在将镜面物体的待重建图像中像素的三维点,输入至三维体网格信息预测模型,得到所述三维点的颜色信息之前,还包括:
根据相机的目标外部参数,对所述镜面物体的待重建图像中像素进行三维映射处理,得到所述待重建图像中像素的射线;
根据第一采样距离和第二采样距离,从所述射线上,采样得到预设数量的三维点;
根据所述预设数量的三维点的初始坐标信息,将所述预设数量的三维点分配至所述镜面物体的单位立方体的体网格中,得到所述镜面物体的三维体网格。
在其中一个实施例中,在根据相机的目标外部参数,对所述镜面物体的待重建图像中像素进行三维映射处理,得到所述待重建图像中像素的射线之前,还包括:
以棋盘格为中心,通过所述相机对所述镜面物体进行拍摄,得到所述镜面物体的初始拍摄图像;
对所述初始拍摄图像进行背景剔除处理,得到所述镜面物体的待重建图像;
对所述相机的当前外部参数和世界坐标系进行调整,得到所述相机的目标外部参数和所述镜面物体的单位立方体;所述镜面物体的物体轮廓均被所述单位立方体覆盖。
第二方面,本申请还提供了一种基于普通光源的镜面物体三维重建装置。所述装置包括:
颜色信息预测模块,用于将镜面物体的待重建图像中像素的三维点,输入至三维体网格信息预测模型,得到所述三维点的颜色信息;
体网格颜色渲染模块,用于根据所述三维点的颜色信息,对所述镜面物体的三维体网格进行颜色渲染处理,得到所述镜面物体的渲染后三维体网格;
体网格密度采样模块,用于将所述渲染后三维体网格的采样点,输入至再次训练的三维体网格信息预测模型,得到所述采样点的密度信息;所述再次训练的三维体网格信息预测模型通过三维体网格数据集对所述三维体网格信息预测模型进行训练得到;
物体三维重建模块,用于根据所述采样点的密度信息,对所述渲染后三维体网格进行表面重建处理,得到所述镜面物体的三维重建模型。
第三方面,本申请还提供了一种计算机设备。所述计算机设备包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:
将镜面物体的待重建图像中像素的三维点,输入至三维体网格信息预测模型,得到所述三维点的颜色信息;
根据所述三维点的颜色信息,对所述镜面物体的三维体网格进行颜色渲染处理,得到所述镜面物体的渲染后三维体网格;
将所述渲染后三维体网格的采样点,输入至再次训练的三维体网格信息预测模型,得到所述采样点的密度信息;所述再次训练的三维体网格信息预测模型通过三维体网格数据集对所述三维体网格信息预测模型进行训练得到;
根据所述采样点的密度信息,对所述渲染后三维体网格进行表面重建处理,得到所述镜面物体的三维重建模型。
第四方面,本申请还提供了一种计算机可读存储介质。所述计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现以下步骤:
将镜面物体的待重建图像中像素的三维点,输入至三维体网格信息预测模型,得到所述三维点的颜色信息;
根据所述三维点的颜色信息,对所述镜面物体的三维体网格进行颜色渲染处理,得到所述镜面物体的渲染后三维体网格;
将所述渲染后三维体网格的采样点,输入至再次训练的三维体网格信息预测模型,得到所述采样点的密度信息;所述再次训练的三维体网格信息预测模型通过三维体网格数据集对所述三维体网格信息预测模型进行训练得到;
根据所述采样点的密度信息,对所述渲染后三维体网格进行表面重建处理,得到所述镜面物体的三维重建模型。
第五方面,本申请还提供了一种计算机程序产品。所述计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现以下步骤:
将镜面物体的待重建图像中像素的三维点,输入至三维体网格信息预测模型,得到所述三维点的颜色信息;
根据所述三维点的颜色信息,对所述镜面物体的三维体网格进行颜色渲染处理,得到所述镜面物体的渲染后三维体网格;
将所述渲染后三维体网格的采样点,输入至再次训练的三维体网格信息预测模型,得到所述采样点的密度信息;所述再次训练的三维体网格信息预测模型通过三维体网格数据集对所述三维体网格信息预测模型进行训练得到;
根据所述采样点的密度信息,对所述渲染后三维体网格进行表面重建处理,得到所述镜面物体的三维重建模型。
上述基于普通光源的镜面物体三维重建方法、装置、计算机设备、存储介质和计算机程序产品,将镜面物体的待重建图像中像素的三维点,输入至三维体网格信息预测模型,得到三维点的颜色信息;根据三维点的颜色信息,对镜面物体的三维体网格进行颜色渲染处理,得到镜面物体的渲染后三维体网格;将渲染后三维体网格的采样点,输入至再次训练的三维体网格信息预测模型,得到采样点的密度信息;再次训练的三维体网格信息预测模型通过三维体网格数据集对三维体网格信息预测模型进行训练得到;根据采样点的密度信息,对渲染后三维体网格进行表面重建处理,得到镜面物体的三维重建模型。采用本方法,通过待重建图像中的像素的三维点的颜色信息和渲染后三维体网格的采样点的密度信息进行镜面物体的三维重建,而无需对待重建图像进行特征点匹配,更无需使用特殊光照对镜面物体进行处理,解决了镜面物体的图像在普通光照下易受到镜面反射、折射和曝光等影响的问题,从而提高了镜面物体在普通光照下的三维重建精度。
附图说明
图1为一个实施例中基于普通光源的镜面物体三维重建方法的应用环境图;
图2为一个实施例中基于普通光源的镜面物体三维重建方法的流程示意图;
图3为一个实施例中再次训练的三维体网格信息预测模型的训练步骤的流程示意图;
图4为一个实施例中镜面物体在不同位姿下的初始拍摄图像的示意图;
图5为一个实施例中携带有背景信息的镜面物体的初始拍摄图像的示意图;
图6为一个实施例中剔除背景信息后的镜面物体的待重建图像的示意图;
图7为另一个实施例中基于普通光源的镜面物体三维重建方法的流程示意图;
图8为又一个实施例中基于普通光源的镜面物体三维重建方法的流程示意图;
图9为一个实施例中基于普通光源的镜面物体三维重建装置的结构框图;
图10为一个实施例中计算机设备的内部结构图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
在一个实施例中,如图1所示,提供了一种基于普通光源的镜面物体三维重建方法,本实施例以该方法应用于图1中的服务器101进行举例说明,可以理解的是,该方法也可以应用于图1中的终端102,还可以应用于包括终端102和服务器101的系统,并通过终端102和服务器101的交互实现,例如,服务器101将得到的镜面物体的三维重建模型发送至终端上进行展示。其中,终端102可以但不限于是各种个人计算机、笔记本电脑、智能手机、平板电脑、物联网设备和便携式可穿戴设备,物联网设备可为智能音箱、智能电视、智能空调、智能车载设备等。便携式可穿戴设备可为智能手表、智能手环、头戴设备等。服务器101可以用独立的服务器或者是多个服务器组成的服务器集群来实现。数据存储系统可以存储服务器或终端需要处理的数据,数据存储系统可以集成在服务器101上,也可以放在云平台上或其他网络服务器上。本实施例中,如图2所示,该方法包括以下步骤:
步骤S201,将镜面物体的待重建图像中像素的三维点,输入至三维体网格信息预测模型,得到三维点的颜色信息。
其中,镜面物体是指表面光滑且具有镜面反射、或折射能力的物品。镜面物体的构成材料可以是金属和/或晶体等。例如,镜面物体可以是通过光滑的金属和钻石制成的,且表面具有镜面反射的首饰。
其中,待重建图像是指用于进行三维重建的镜面物体的图像;待重建图像通过对镜面物体的初始拍摄图像进行预处理得到。
其中,三维体网格信息预测模型是指用于预测镜面物体的三维信息的模型。三维体网格信息预测模型可以由含有多个隐层的多层感知机组成。
其中,颜色信息是指与像素的颜色相关的信息;例如红(Red,R)、绿(Green,G)、蓝(Blue,B)三个颜色通道,即RGB颜色值。
具体地,服务器获取镜面物体的至少一张初始拍摄图像,对至少一张初始拍摄图像进行图像预处理,得到镜面物体的至少一张待重建图像。获取镜面物体的待重建图像中像素的三维点,服务器将像素的三维点的坐标信息和待重建图像对应的相机观察方向,输入至三维体网格信息预测模型,得到三维点对应的颜色信息和密度信息。其中,三维点是指像素映射得到的三维中的射线上的采样得到的三维空间点;待重建图像中每个像素对应的三维点可以是多个,即在射线上采样多次得到多个三维点。三维点的位置信息是指三维点在三维中的空间位置坐标。
步骤S202,根据三维点的颜色信息,对镜面物体的三维体网格进行颜色渲染处理,得到镜面物体的渲染后三维体网格。
其中,三维体网格是指通过体网格进行三维表示的三维模型。需要说明的是,体网格是指Voxel或grid,而不是mesh。
其中,渲染后三维体网格是指经过图形渲染、颜色渲染后的三维体网格。
具体地,服务器获取镜面物体的单位立方体;根据待重建图像中像素的三维点的坐标,对单位立方体进行处理,得到镜面物体的三维体网格;根据上述步骤S201中服务器获取的三维点的颜色信息,对三维体网格进行颜色渲染处理,得到镜面物体的渲染后三维体网格。
步骤S203,将渲染后三维体网格的采样点,输入至再次训练的三维体网格信息预测模型,得到采样点的密度信息;再次训练的三维体网格信息预测模型通过三维体网格数据集对三维体网格信息预测模型进行训练得到。
其中,渲染后三维体网格的采样点是指在渲染后三维体网格上采样得到的三维位置。
其中,采样点的密度信息是指采样点分布的密集程度。
其中,再次训练的三维体网格信息预测模型是指三维体网格信息预测模型学习完整的三维重建信息后得到的模型。
具体地,服务器获取携带有完整的三维重建信息的三维体网格数据集,然后利用该三维体网格数据集对三维体网格信息预测模型进行训练,得到再次训练的三维体网格信息预测模型。进而服务器对渲染后的三维体网格中的目标离群区域进行过滤处理,以过滤掉多于的离群区域,得到过滤后三维体网格,并将步骤S202中获取到的渲染后三维体网格更新为过滤后三维体网格,然后对更新完成得到的渲染后三维体网格进行平均采样,得到渲染后三维体网格的采样点,并将渲染后三维体网格的采样点,输入至再次训练的三维体网格信息预测模型,得到采样点的密度信息和颜色信息。
步骤S204,根据采样点的密度信息,对渲染后三维体网格进行表面重建处理,得到镜面物体的三维重建模型。
其中,表面重建处理可以是基于等值面提取(MarchingCubes,MC)算法进行处理。
其中,镜面物体的三维重建模型是指针对镜面物体建立的适合计算机表示和处理的数学模型。例如,三维重建模型可以是三维体网格形式的模型,即三维重建体网格模型,三维重建模型当然也可以是对三维重建体网格模型进一步优化后得到的三维模型。
具体地,服务器在步骤S203获取到采样点的密度信息后,根据采样点的密度信息,计算得到采样点的有向距离信息;根据采样点的有向距离信息,对渲染后三维体网格进行表面重建处理,得到镜面物体的三维重建模型。
上述基于普通光源的镜面物体三维重建方法中,将镜面物体的待重建图像中像素的三维点,输入至三维体网格信息预测模型,得到三维点的颜色信息;根据三维点的颜色信息,对镜面物体的三维体网格进行颜色渲染处理,得到镜面物体的渲染后三维体网格;将渲染后三维体网格的采样点,输入至再次训练的三维体网格信息预测模型,得到采样点的密度信息;再次训练的三维体网格信息预测模型通过三维体网格数据集对三维体网格信息预测模型进行训练得到;根据采样点的密度信息,对渲染后三维体网格进行表面重建处理,得到镜面物体的三维重建模型。采用本方法,通过待重建图像中的像素的三维点的颜色信息和渲染后三维体网格的采样点的密度信息进行镜面物体的三维重建,而无需对待重建图像进行特征点匹配,更无需使用特殊光照对镜面物体进行处理,解决了镜面物体的图像在普通光照下易受到镜面反射、折射和曝光等影响的问题,从而提高了镜面物体在普通光照下的三维重建精度。
在一个实施例中,如图3所示,再次训练的三维体网格信息预测模型通过如下方式训练得到:
步骤S301,对样本三维体网格中的自交体网格进行剔除处理,得到处理后样本三维体网格;样本三维体网格携带有与镜面物体同类型的目标镜面物体的完整的三维重建信息。
其中,目标镜面物体是指样本三维体网格所属的镜面物体。例如,目标镜面物体可以是首饰、珠宝等。
其中,有向距离信息是指具有方向的距离的相关信息;例如,有向距离信息可以是有向距离值。
其中,自交体网格是指样本三维体网格中各体网格之间自交的部分。
其中,样本三维体网格是指用于训练三维体网格信息预测模型,且携带有完整的三维重建信息的三维体网格数据。需要说明的是,该三维体网格数据可以是与上述步骤S201中的镜面物体不同类型的目标镜面物体的三维体网格数据,该三维体网格数据也可以是与上述步骤S201中的镜面物体相同类型的目标镜面物体的三维体网格数据,但是,在样本三维网格是与上述步骤S201中的镜面物体相同类型的目标镜面物体的三维体网格数据的情况下,再次训练的三维体网格信息预测模型的训练效果更好,性能也更佳。
其中,三维体网格数据集中包含有多个样本三维体网格。需要说明的是,样本三维体网格可以是与镜面物体同类型的目标镜面物体的完整的三维重建信息,样本三维体网格也可以是与镜面物体不同类型的目标镜面物体的完整的三维重建信息;当样本三维体网格是与镜面物体同类型的目标镜面物体的完整的三维重建信息时,训练得到的再次训练的三维体网格信息预测模型的性能更佳。
具体地,服务器获取携带有完整的三维重建信息的三维网格数据集,其中,三维网格数据集中包含多个样本三维网格。服务器对三维网格数据集中的样本三维网格进行流形处理,以剔除样本三维体网格中的自交体网格,得到处理后样本三维网格。
步骤S302,对处理后样本三维体网格进行高斯分布采样,得到处理后样本三维体网格上的样本三维点。
步骤S303,根据样本三维点和样本三维点的有向距离信息,对三维体网格信息预测模型进行再次训练,得到再次训练的三维体网格信息预测模型。
具体地,基于高斯分布,服务器对过滤后样本三维体网格的表面进行采样,得到过滤后样本三维体网格上的样本三维点;其中,样本三维点以过滤后样本三维体网格的表面为中心,且样本三维点的分布符合高斯分布;计算得到样本三维点的有向距离信息。将样本三维点的坐标信息输入至三维体网格信息预测模型中,以及将样本三维点的有向距离信息作为三维体网格信息预测模型的训练目标,对三维体网格信息预测模型进行再次训练,以增加三维体网格信息预测模型的先验信息,得到再次训练的三维体网格信息预测模型。
在本实施例中,通过对携带有完整的三维重建信息的样本三维体网格中的自交网格进行剔除,能够使得到的处理后样本三维体网格中的三维数据质量更佳,数据更精确;通过样本三维点和样本三维点的有向距离信息,对三维体网格信息预测模型进行再次训练,使得获取到的再次训练的三维体网格信息预测模型学习了样本三维体网格中的先验信息,进而能够对缺失的三维体网格数据进行补全,得到完整的三维体网格数据,以弥补镜面物体因镜面反射等因素导致的待重建图像中的像素缺失,从而提高了镜面物体在普通光照下的三维重建精度。
在一个实施例中,上述步骤S204,根据采样点的密度信息,对渲染后三维体网格进行表面重建处理,得到镜面物体的三维重建模型,具体包括如下内容:根据采样点的密度信息和预设密度阈值之间的差异,得到采样点的有向距离信息;根据采样点的有向距离信息,对渲染后三维体网格进行等值面提取处理,得到镜面物体的三维重建模型。
其中,预设密度阈值是指镜面物体三维重建的有向距离的阈值。
具体地,服务器获取预设密度阈值;根据采样点的密度信息和预设密度阈值之间的差值,计算得到采样点的有向距离信息;根据采样点的有向距离信息,通过等值面提取方式对渲染后三维体网格进行表面重建,得到镜面物体的目标三维体网格,将该目标三维体网格作为镜面物体的三维重建模型。
在本实施例中,根据采样点的密度信息和预设密度阈值之间的差异,得到采样点的有向距离信息;根据采样点的有向距离信息,对渲染后三维体网格进行等值面提取处理,得到镜面物体的三维重建模型。
在一个实施例中,上述步骤S202,根据三维点的颜色信息,对镜面物体的三维体网格进行颜色渲染处理,得到镜面物体的渲染后三维体网格,具体包括如下内容:根据三维点的颜色信息和密度权重,得到三维点对应的像素的渲染颜色信息;根据各像素的渲染颜色信息,对镜面物体的三维体网格进行颜色渲染处理,得到镜面物体的渲染后三维体网格。
其中,密度权重是指预先为三维点的密度信息设置的权重。
具体地,服务器获取三维点的密度权重;根据三维点的密度权重,对三维点的颜色信息进行加权,得到三维点的渲染颜色信息。服务器获取像素对应的射线上所有三维点的渲染颜色信息;对像素的所有三维点的渲染颜色信息进行累加,得到该像素的渲染颜色信息;根据待重建图像中各像素的渲染颜色信息,对镜面物体的三维体网格进行颜色渲染处理,得到镜面物体的渲染后三维体网格。
在本实施例中,先根据三维点的颜色信息和密度权重,得到三维点对应的像素的渲染颜色信息;然后根据待重建图像中各像素的渲染颜色信息,对镜面物体的三维体网格进行颜色渲染处理,得到镜面物体的渲染后三维体网格,实现了对三维体网格的颜色渲染,提升了镜面物体的三维重建模型的精度。
在一个实施例中,在根据各像素的渲染颜色信息,对镜面物体的三维体网格进行颜色渲染处理,得到镜面物体的渲染后三维体网格之后,还包括:根据待重建图像中像素的渲染颜色信息与实际颜色信息之间的差异,对三维体网格信息模型进行梯度更新,得到更新后的三维体网格信息预测模型;根据三维点的密度信息,对待重建图像中像素的射线进行重要性采样,得到待重建图像中像素的目标三维点;将目标三维点作为三维点,以及将更新后的三维体网格信息预测模型作为三维体网格信息预测模型,跳转到将镜面物体的待重建图像中像素的三维点,输入至三维体网格信息预测模型,得到三维点的颜色信息的步骤,直到满足预设终止条件。
其中,实际颜色信息是指待重建图像中像素真实的颜色值。
具体地,服务器在获取到待重建图像中像素的渲染颜色信息后,可以计算待重建图像中像素的渲染颜色信息与像素的真实颜色信息之间的差值,根据该差值对三维体网格信息模型进行反向传播,以更新三维体网格信息模型,得到更新后的三维体网格信息预测模型。
进一步地,服务器根据三维点的密度信息,对待重建图像中像素的射线上进行重要性采样,即增加像素的射线上密度信息较高的位置的采样频率,将此次从待重建图像中像素的射线上采样得到的三维点,作为目标三维点。还可以将目标三维点的坐标信息和待重建图像对应的相机观察方向输入至更新后的三维体网格信息预测模型,得到目标三维点的颜色信息和密度信息;根据目标三维点的颜色信息和密度权重,得到目标三维点对应的像素的渲染颜色信息;根据像素的渲染颜色信息与像素的真实颜色信息之间的差异,对更新后的三维体网格信息预测模型进行再次更新后的三维体网格信息预测模型;服务器根据目标三维点的密度信息,对待重建图像中像素的射线上进行重要性采样,得到此次从待重建图像中像素的射线上采样得到的目标三维点;服务器可以重复采样获取目标三维点、模型输出目标三维点的颜色信息和密度信息,以及迭代更新三维体网格信息模型等步骤,直到满足预设终止条件。其中,预设终止条件是指结束本实施例中循环步骤的条件。预设终止条件可以是获取的三维点的数量达到预设三维点数量阈值,也可以是更新后的三维体网格信息预测模型的性能满足预设模型性能条件,还可以是三维点的密度信息满足预设密度阈值条件,在此不进行具体限定。
在本实施例中,通过对三维体网格信息模型进行梯度更新,得到更新后的三维体网格信息预测模型,能够提升更新后的三维体网格信息预测模型的性能,从而提升更新后的三维体网格信息预测模型输出的三维点的密度信息的准确率,并利用三维的密度进行对像素的射线进行重要性采样,得到新的目标三维点,能够获取得到更丰富的镜面物体的重建信息;通过重复获取目标三维点、更新三维体网格信息预测模型等步骤,大大提升了更新后的三维体网格信息预测模型的性能,有效提升了镜面物体在普通光照下的三维重建精度。
在一个实施例中,在将镜面物体的待重建图像中像素的三维点,输入至三维体网格信息预测模型,得到三维点的颜色信息之前,还包括:根据相机的目标外部参数,对镜面物体的待重建图像中像素进行三维映射处理,得到待重建图像中像素的射线;根据第一采样距离和第二采样距离,从射线上,采样得到预设数量的三维点;根据预设数量的三维点的初始坐标信息,将预设数量的三维点分配至镜面物体的单位立方体的体网格中,得到镜面物体的三维体网格。
其中,第一采样距离用于表示像素的射线上的采样距离下限;第二采样距离用于表示像素的射线上的采样距离上限。
具体地,服务器根据相机的目标外部参数、当前内部参数和畸变信息,将待重建图像中各像素映射为三维中的射线,得到待重建图像中各像素的射线;在像素的射线上第一采样距离和第二采样距离的范围内,进行离散采样,得到预设数量的三维点;其中,第一采样距离和第二采样距离可以是预先设置的,也可以是在本步骤中临时设置的,还可以是预先设置后,在本步骤中调整得到的,第一采样距离和第二采样距离的设置方式可以根据实际需求进行选择。
进一步地,根据预设数量的三维点的初始坐标信息,将预设数量的三维点分配至镜面物体的单位立方体的体网格中,得到镜面物体的初始三维体网格;对初始体网格中不包含三维点的体网格进行剔除处理,得到镜面物体的三维体网格。其中,镜面物体的三维体网格可以包含有不同数量的三维点。对三维体网格中的三维点的初始坐标信息进行归一化,得到三维点的坐标信息。
在本实施例中,根据相机的目标外部参数,对镜面物体的待重建图像中像素进行三维映射处理,得到待重建图像中像素的射线;根据第一采样距离和第二采样距离,从射线上,采样得到预设数量的三维点;根据预设数量的三维点的初始坐标信息,将预设数量的三维点分配至镜面物体的单位立方体的体网格中,得到镜面物体的三维体网格,实现了镜面物体的初步三维重建,无需对待重建图像进行特征点匹配,解决了镜面物体因镜面反射等因素而导致图像特征匹配率低的问题,从而提高了镜面物体在普通光照下的三维重建精度。
在一个实施例中,在根据相机的外部参数,对镜面物体的待重建图像中像素进行三维映射处理,得到待重建图像中像素的射线之前,还包括:以棋盘格为中心,通过相机对镜面物体进行拍摄,得到镜面物体的初始拍摄图像;对初始拍摄图像进行背景剔除处理,得到镜面物体的待重建图像;对相机的当前外部参数和世界坐标系进行调整,得到相机的目标外部参数和镜面物体的单位立方体;镜面物体的物体轮廓均被单位立方体覆盖。
其中,初始拍摄图像是指拍摄得到的镜面物体的原始成像,且初始拍摄图像需包含完整的镜面物体。
具体地,首先,对相机进行标定处理,得到相机的当前内部参数和当前外部参数。具体地,根据相机的出厂说明书的感光器件的面积大小,即CCD(电荷耦合器件,ChargeCoupled Device)尺寸,以及像素点数,对相机的内部参数进行预估,得到相机的初始内部参数;获取棋盘格,该棋盘格的尺寸可以是10*7;预先设置相机的拍摄位置和拍摄角度,以棋盘格为中心,利用该相机和初始内部参数拍摄棋盘格,得到多张不同高度、不同旋转角度的棋盘格图像;其中,棋盘格图像包含有完成的棋盘格;根据棋盘格图像,对相机进行标定处理,得到相机的当前内部参数和当前外部参数,相机标定后得到。其中,内部参数包括像素焦距和畸变参数等;外部参数包括世界坐标系下的相机位置和旋转角度等。
进一步地,服务器将镜面物体放置在棋盘格的中心,然后根据相机位置和拍摄角度对棋盘格中心的镜面物体进行拍摄,得到镜面物体的至少一张初始拍摄图像,此外,还可以根据不同的相机位姿对对棋盘格中心的镜面物体进行拍摄,得到镜面物体的多角度的初始拍摄图像;图4为镜面物体在不同位姿下的初始拍摄图像,如图4所示,左边为从侧面拍摄的镜面物体的初始拍摄图像,右边为从正面拍摄的镜面物体的初始拍摄图像。
初始拍摄图像中可能包含有的背景信息;其中,背景信息是指拍摄镜面物体时被一同拍摄的镜面物体附近的背景,例如纯色的背景板、墙面或地面等背景。服务器可以对初始拍摄图像中的背景信息进行剔除处理,具体地,服务器可以根据镜面物体的颜色信息和物体特征,对初始拍摄图像中的背景信息和镜面物体进行区分,得到初始拍摄图像中的背景信息,对初始拍摄图像中的背景信息进行剔除,得到镜面物体的待重建图像,使得待重建图像中仅包含镜面物体的图像。举例说明,图5为携带有背景信息的镜面物体的初始拍摄图像,对该镜面物体的初始拍摄图像的背景信息进行剔除,得到仅包含该镜面物体的待重建图像,剔除背景信息后的镜面物体的待重建图像如图6所示。
服务器对相机的当前外部参数进行调整,使得相机的观察方向的交点位于相机的世界坐标系中心;构建单位立方体,再次对调整后的当前外部参数进行调整,缩放世界坐标系,使得镜面物体的轮廓被单位立方体包裹,得到目标外部参数和镜面物体的单位立方体。其中,单位立方体的内部用于进行镜面物体的三维重建。
在本实施例中,以棋盘格为中心,通过相机对镜面物体进行拍摄,得到镜面物体的初始拍摄图像;对初始拍摄图像进行背景剔除处理,得到镜面物体的待重建图像,实现了镜面物体的初始拍摄图像的预处理,一方面能够降低图像中的背景信息对镜面物体三维重建的干扰,提高了镜面物体在普通光照下的三维重建精度,另一方面还可以降低需处理的像素数量,提高了三维重建的效率;对相机的当前外部参数和世界坐标系进行调整,得到相机的目标外部参数和镜面物体的单位立方体,以便后续以单位立方体为依据执行三维重建步骤。
在一个实施例中,如图7所示,提供了另一种基于普通光源的镜面物体三维重建方法,以该方法应用于图1中的服务器为例进行说明,包括以下步骤:
步骤S701,以棋盘格为中心,通过相机对镜面物体进行拍摄,得到镜面物体的初始拍摄图像;对初始拍摄图像进行背景剔除处理,得到镜面物体的待重建图像。
步骤S702,对相机的当前外部参数和世界坐标系进行调整,得到相机的目标外部参数和镜面物体的单位立方体;其中,镜面物体的物体轮廓均被单位立方体覆盖。
步骤S703,根据相机的目标外部参数,对镜面物体的待重建图像中像素进行三维映射处理,得到待重建图像中像素的射线;根据第一采样距离和第二采样距离,从射线上,采样得到预设数量的三维点。
步骤S704,根据预设数量的三维点的初始坐标信息,将预设数量的三维点分配至镜面物体的单位立方体的体网格中,得到镜面物体的三维体网格。
步骤S705,将镜面物体的待重建图像中像素的三维点,输入至三维体网格信息预测模型,得到三维点的颜色信息。
步骤S706,根据三维点的颜色信息和密度权重,得到三维点对应的像素的渲染颜色信息。
步骤S707,根据待重建图像中像素的渲染颜色信息与实际颜色信息之间的差异,对三维体网格信息模型进行梯度更新,得到更新后的三维体网格信息预测模型。
步骤S708,根据三维点的密度信息,对待重建图像中像素的射线进行重要性采样,得到待重建图像中像素的目标三维点。
步骤S709,将目标三维点作为三维点,以及将更新后的三维体网格信息预测模型作为三维体网格信息预测模型,跳转到步骤S705,直到满足预设终止条件。
步骤S710,将渲染后三维体网格的采样点,输入至再次训练的三维体网格信息预测模型中,得到采样点的密度信息;其中,再次训练的三维体网格信息预测模型通过三维体网格数据集对三维体网格信息预测模型进行训练得到。
步骤S711,根据采样点的密度信息和预设密度阈值之间的差异,得到采样点的有向距离信息;根据采样点的有向距离信息,对渲染后三维体网格进行等值面提取处理,得到镜面物体的三维重建模型。
上述基于普通光源的镜面物体三维重建方法,能够实现以下有益效果:通过待重建图像中的像素的三维点的颜色信息和渲染后三维体网格的采样点的密度信息进行镜面物体的三维重建,而无需对待重建图像进行特征点匹配,更无需使用特殊光照对镜面物体进行处理,解决了镜面物体的图像在普通光照下易受到镜面反射、折射和曝光等影响的问题,从而提高了镜面物体在普通光照下的三维重建精度。
为了更清晰阐明本公开实施例提供的基于普通光源的镜面物体三维重建方法,以下以一个具体的实施例对上述基于普通光源的镜面物体三维重建方法进行具体说明。如图8所示,提供了又一种基于普通光源的镜面物体三维重建方法,可以应用于服务器,具体包括如下内容:
步骤S801,相机参数的标定:对每台相机进行一次标定,先通过相机出厂说明书的CCD尺寸、像素点数信息预估相机内部参数,然后定制打印高分辨率10*7棋盘格;预定义相机的拍摄位置和角度,以棋盘格为中心,通过改变不同的高度与旋转角度拍摄多幅清晰的棋盘格图像,棋盘格图片需要包含完整的棋盘格。标定相机的内部参数(例如,像素焦距,畸变参数等)和外部参数(例如,世界坐标系下准确的相机位置和旋转角度)。
步骤S802,获取镜面物体的初始拍摄图像:将镜面物体固定在棋盘格中心,使用步骤S801中预定义的相机的拍摄位置和角度得到镜面物体多张清晰的初始拍摄图像(>100张)。其中,初始拍摄图像需要包含完整的镜面物体。
步骤S803,图像背景移除:初始拍摄图像包含背景信息,背景信息不需要进行三维重建,所以通过图像抠图算法依据颜色、物体特征等信息来分辨镜面物体和背景,并对初始拍摄图像中的背景信息进行剔除,仅保留初始拍摄图像中的镜面物体的图像,得到待重建图像。
步骤S804,相机信息初始化:1)处理待重建图像的元数据,并且从图像的可交换图像文件(EXIF信息)中获取待重建图像的焦距和传感器信息等图像信息。其中,图像信息用于在三维重建过程中为相机的位置参数添加约束。2)生成含有每张图片信息的描述文件,其中,描述文件用于为步骤S807中的颜色渲染处理提供额外约束。描述文件包括:图片存储位置、图片的宽度以及高度、图片是否被压缩、图片的视角、图片是否使用白平衡和图片的光度。
步骤S805,数据预处理:1)调整步骤S801中相机的外部参数,使相机观察方向的交点位于相机的世界坐标系中心。2)整体调整相机的外部参数,缩放世界坐标系,使镜面物体的轮廓被单位立方体包裹,镜面物体的三维重建区域将集中在单位立方体内部。
步骤S806,三维点云的采样和分块:1)根据相机的内部参数、畸变信息和外部参数,将待重建图像上的每个像素点映射为三维中对应的射线。2)设定最近和最远采集距离,在每条射线上最远和最近距离内采样离散的三维点100个。3)将单位立方体平均分为32*32*32的体网格块,共32768块。4)根据三维点的坐标位置,将三维点分配到每个体网络块中,其中,每一网络体块包含不同数量的三维点;去除不包含三维点的体网格块,得到镜面物体的三维体网格。5)对每个网络体块中三维点的初始空间坐标信息进行归一化,得到三维点的坐标信息。
步骤S807,隐式体积网络渲染:1)构建隐式预测网络,隐式预测网络由含有多个隐层的多层感知机组成,其中,隐式预测网络的输入为一组三维点的空间坐标和相机的观察方向,隐式预测网络输出为三维点对应的密度信息和三维点对应的像素的颜色信息。2)将每条射线上归一化后的三维点和三维点对应的相机观察方向输入隐式预测网络,得到三维点对应的密度信息和颜色信息;根据密度权重对颜色信息进行加权,得到三维点的渲染颜色信息;对射线上所有三维点的渲染后颜色信息进行累加,得到该射线对应的像素的渲染颜色信息。3)计算像素的渲染颜色信息与真实颜色值之间的误差,根据该误差反向传播优化隐式预测网络的参数。4)根据隐式预测网络输出的像素的密度信息,对像素的射线进行重要性采样,即增加射线上高密度处的采样频率,得到目标三维点。将目标三维点对应作为三维点,循环执行步骤S807和S806。
步骤S808,三维模型补全:1)获取与镜面物体同类型的目标镜面物体的三维体网格数据集,该三维体网格数据集为具有完整的三维重建信息或者CAD建模首饰三维数据的数据集。2)对三维体网格数据集进行流形化处理,去除三维体网格数据集中的自交,得到流行化后的三维模型。3)对流行化后的三维模型,在其表面进行采样,得到样本三维点,并获取样本三维点的有向距离值。其中,样本三维点以镜面物体的表面为中心,样本三维点的分布符合高斯分布。4)样本三维点的坐标信息作为隐式预测网络的输入,将样本三维点的有向距离值作为隐式预测网络的训练目标,增加隐式预测网络的先验信息,得到再次训练的隐式预测网络。5)利用三维体网格数据集中的先验信息,使得再次训练的隐式预测网络对三维体网格中的缺失部分具有补全效果。
步骤S809,三维表面体网格生成:1)对三维体网格中的目标离群区域进行过滤处理,得到过滤后三维体网格。2)在过滤后三维体网格中进行平均采样,即每个维度均采样512个采样点,共得512 *512*512个采样点。3)将所有采样点分批次输入再次训练的隐式预测网络,得到所有采样点的密度值。4)设置三维重建有向表面距离值的阈值;将采样点的密度值与有向表面距离值的阈值之间的差异作为有向表面距离值,通过Marching Cube算法对镜面物体的过滤后三维体网格进行三维重建,得到镜面物体的目标三维体网格,将该目标三维体网格作为镜面物体的三维重建模型。
在本实施例中,通过待重建图像中的像素的三维点的颜色信息和渲染后三维体网格的采样点的密度信息进行镜面物体的三维重建,而无需对待重建图像进行特征点匹配,更无需使用特殊光照对镜面物体进行处理,解决了镜面物体的图像在普通光照下易受到镜面反射、折射和曝光等影响的问题,从而提高了镜面物体在普通光照下的三维重建精度;进一步地,再次训练的三维体网格信息预测模型学习了样本三维体网格中的先验信息,能够对缺失的三维体网格进行补全,大大提高了镜面物体在普通光照下的三维重建精度。
应该理解的是,虽然如上所述的各实施例所涉及的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,如上所述的各实施例所涉及的流程图中的至少一部分步骤可以包括多个步骤或者多个阶段,这些步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。
基于同样的发明构思,本申请实施例还提供了一种用于实现上述所涉及的基于普通光源的镜面物体三维重建方法的基于普通光源的镜面物体三维重建装置。该装置所提供的解决问题的实现方案与上述方法中所记载的实现方案相似,故下面所提供的一个或多个基于普通光源的镜面物体三维重建装置实施例中的具体限定可以参见上文中对于基于普通光源的镜面物体三维重建方法的限定,在此不再赘述。
在一个实施例中,如图9所示,提供了一种基于普通光源的镜面物体三维重建装置900,包括:颜色信息预测模块901、体网格颜色渲染模块902、体网格密度采样模块903和物体三维重建模块904,其中:
颜色信息预测模块901,用于将镜面物体的待重建图像中像素的三维点,输入至三维体网格信息预测模型,得到三维点的颜色信息。
体网格颜色渲染模块902,用于根据三维点的颜色信息,对镜面物体的三维体网格进行颜色渲染处理,得到镜面物体的渲染后三维体网格。
体网格密度采样模块903,用于将渲染后三维体网格的采样点,输入至再次训练的三维体网格信息预测模型,得到采样点的密度信息;再次训练的三维体网格信息预测模型通过三维体网格数据集对三维体网格信息预测模型进行训练得到。
物体三维重建模块904,用于根据采样点的密度信息,对渲染后三维体网格进行表面重建处理,得到镜面物体的三维重建模型。
在一个实施例中,基于普通光源的镜面物体三维重建装置还包括模型再次训练模块,用于对样本三维体网格中的自交体网格进行剔除处理,得到处理后样本三维体网格;样本三维体网格携带有与镜面物体同类型的目标镜面物体的完整的三维重建信息;对处理后样本三维体网格进行高斯分布采样,得到处理后样本三维体网格上的样本三维点;根据样本三维点和样本三维点的有向距离信息,对三维体网格信息预测模型进行再次训练,得到再次训练的三维体网格信息预测模型。
在一个实施例中,物体三维重建模块904,还用于根据采样点的密度信息和预设密度阈值之间的差异,得到采样点的有向距离信息;根据采样点的有向距离信息,对渲染后三维体网格进行等值面提取处理,得到镜面物体的三维重建模型。
在一个实施例中,体网格颜色渲染模块902,还用于根据三维点的颜色信息和密度权重,得到三维点对应的像素的渲染颜色信息;根据各像素的渲染颜色信息,对镜面物体的三维体网格进行颜色渲染处理,得到镜面物体的渲染后三维体网格。
在一个实施例中,基于普通光源的镜面物体三维重建装置还包括像素再次采样模块,用于根据待重建图像中像素的渲染颜色信息与实际颜色信息之间的差异,对三维体网格信息模型进行梯度更新,得到更新后的三维体网格信息预测模型;根据三维点的密度信息,对待重建图像中像素的射线进行重要性采样,得到待重建图像中像素的目标三维点;将目标三维点作为三维点,以及将更新后的三维体网格信息预测模型作为三维体网格信息预测模型,跳转到将镜面物体的待重建图像中像素的三维点,输入至三维体网格信息预测模型,得到三维点的颜色信息的步骤,直到满足预设终止条件。
在一个实施例中,基于普通光源的镜面物体三维重建装置还包括三维体网格构建模块,用于根据相机的目标外部参数,对镜面物体的待重建图像中像素进行三维映射处理,得到待重建图像中像素的射线;根据第一采样距离和第二采样距离,从射线上,采样得到预设数量的三维点;根据预设数量的三维点的初始坐标信息,将预设数量的三维点分配至镜面物体的单位立方体的体网格中,得到镜面物体的三维体网格。
在一个实施例中,基于普通光源的镜面物体三维重建装置还包括预处理模块,用于以棋盘格为中心,通过相机对镜面物体进行拍摄,得到镜面物体的初始拍摄图像;对初始拍摄图像进行背景剔除处理,得到镜面物体的待重建图像;对相机的当前外部参数和世界坐标系进行调整,得到相机的目标外部参数和镜面物体的单位立方体;镜面物体的物体轮廓均被单位立方体覆盖。
上述基于普通光源的镜面物体三维重建装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中,提供了一种计算机设备,该计算机设备可以是服务器,其内部结构图可以如图10所示。该计算机设备包括通过系统总线连接的处理器、存储器和网络接口。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质和内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的数据库用于存储待重建图像、颜色信息、密度信息和三维重建模型等数据。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种基于普通光源的镜面物体三维重建方法。
本领域技术人员可以理解,图10中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在一个实施例中,还提供了一种计算机设备,包括存储器和处理器,存储器中存储有计算机程序,该处理器执行计算机程序时实现上述各方法实施例中的步骤。
在一个实施例中,提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现上述各方法实施例中的步骤。
在一个实施例中,提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述各方法实施例中的步骤。
需要说明的是,本申请所涉及的用户信息(包括但不限于用户设备信息、用户个人信息等)和数据(包括但不限于用于分析的数据、存储的数据、展示的数据等),均为经用户授权或者经过各方充分授权的信息和数据。
本领域普通技术人员可以理解实现上述实施例中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、数据库或其它介质的任何引用,均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(Read-OnlyMemory,ROM)、磁带、软盘、闪存、光存储器、高密度嵌入式非易失性存储器、阻变存储器(ReRAM)、磁变存储器(Magnetoresistive Random Access Memory,MRAM)、铁电存储器(Ferroelectric Random Access Memory,FRAM)、相变存储器(Phase Change Memory,PCM)、石墨烯存储器等。易失性存储器可包括随机存取存储器(Random Access Memory,RAM)或外部高速缓冲存储器等。作为说明而非局限,RAM可以是多种形式,比如静态随机存取存储器(Static Random Access Memory,SRAM)或动态随机存取存储器(Dynamic RandomAccess Memory,DRAM)等。本申请所提供的各实施例中所涉及的数据库可包括关系型数据库和非关系型数据库中至少一种。非关系型数据库可包括基于区块链的分布式数据库等,不限于此。本申请所提供的各实施例中所涉及的处理器可为通用处理器、中央处理器、图形处理器、数字信号处理器、可编程逻辑器、基于量子计算的数据处理逻辑器等,不限于此。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本申请专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请的保护范围应以所附权利要求为准。
Claims (10)
1.一种基于普通光源的镜面物体三维重建方法,其特征在于,所述方法包括:
将镜面物体的待重建图像中像素的三维点,输入至三维体网格信息预测模型,得到所述三维点的颜色信息;
根据所述三维点的颜色信息,对所述镜面物体的三维体网格进行颜色渲染处理,得到所述镜面物体的渲染后三维体网格;
将所述渲染后三维体网格的采样点,输入至再次训练的三维体网格信息预测模型,得到所述采样点的密度信息;所述再次训练的三维体网格信息预测模型通过三维体网格数据集对所述三维体网格信息预测模型进行训练得到;
根据所述采样点的密度信息和预设密度阈值之间的差异,得到所述采样点的有向距离信息;
根据所述采样点的有向距离信息,对所述渲染后三维体网格进行等值面提取处理,得到所述镜面物体的三维重建模型。
2.根据权利要求1所述的方法,其特征在于,所述再次训练的三维体网格信息预测模型通过如下方式训练得到:
对样本三维体网格中的自交体网格进行剔除处理,得到处理后样本三维体网格;所述样本三维体网格携带有与所述镜面物体同类型的目标镜面物体的完整的三维重建信息;
对所述处理后样本三维体网格进行高斯分布采样,得到所述处理后样本三维体网格上的样本三维点;
根据所述样本三维点和所述样本三维点的有向距离信息,对所述三维体网格信息预测模型进行再次训练,得到所述再次训练的三维体网格信息预测模型。
3.根据权利要求1所述的方法,其特征在于,所述根据所述三维点的颜色信息,对所述镜面物体的三维体网格进行颜色渲染处理,得到所述镜面物体的渲染后三维体网格,包括:
根据所述三维点的颜色信息和密度权重,得到所述三维点对应的像素的渲染颜色信息;
根据各所述像素的渲染颜色信息,对所述镜面物体的三维体网格进行颜色渲染处理,得到所述镜面物体的渲染后三维体网格。
4.根据权利要求3所述的方法,其特征在于,在根据所述各像素的渲染颜色信息,对所述镜面物体的三维体网格进行颜色渲染处理,得到所述镜面物体的渲染后三维体网格之后,还包括:
根据所述待重建图像中像素的渲染颜色信息与实际颜色信息之间的差异,对所述三维体网格信息模型进行梯度更新,得到更新后的三维体网格信息预测模型;
根据所述三维点的密度信息,对所述待重建图像中像素的射线进行重要性采样,得到所述待重建图像中像素的目标三维点;
将所述目标三维点作为所述三维点,以及将所述更新后的三维体网格信息预测模型作为所述三维体网格信息预测模型,跳转到所述将镜面物体的待重建图像中像素的三维点,输入至三维体网格信息预测模型,得到所述三维点的颜色信息的步骤,直到满足预设终止条件。
5.根据权利要求1所述的方法,其特征在于,在将镜面物体的待重建图像中像素的三维点,输入至三维体网格信息预测模型,得到所述三维点的颜色信息之前,还包括:
根据相机的目标外部参数,对所述镜面物体的待重建图像中像素进行三维映射处理,得到所述待重建图像中像素的射线;
根据第一采样距离和第二采样距离,从所述射线上,采样得到预设数量的三维点;
根据所述预设数量的三维点的初始坐标信息,将所述预设数量的三维点分配至所述镜面物体的单位立方体的体网格中,得到所述镜面物体的三维体网格。
6.根据权利要求5所述的方法,其特征在于,所述根据所述预设数量的三维点的初始坐标信息,将所述预设数量的三维点分配至所述镜面物体的单位立方体的体网格中,得到所述镜面物体的三维体网格,包括:
根据所述预设数量的三维点的初始坐标信息,将所述预设数量的三维点分配至所述镜面物体的单位立方体的体网格中,得到所述镜面物体的初始三维体网格;
对初始体网格中不包含三维点的体网格进行剔除处理,得到所述镜面物体的三维体网格。
7.根据权利要求5所述的方法,其特征在于,在根据相机的目标外部参数,对所述镜面物体的待重建图像中像素进行三维映射处理,得到所述待重建图像中像素的射线之前,还包括:
以棋盘格为中心,通过所述相机对所述镜面物体进行拍摄,得到所述镜面物体的初始拍摄图像;
对所述初始拍摄图像进行背景剔除处理,得到所述镜面物体的待重建图像;
对所述相机的当前外部参数和世界坐标系进行调整,得到所述相机的目标外部参数和所述镜面物体的单位立方体;所述镜面物体的物体轮廓均被所述单位立方体覆盖。
8.一种基于普通光源的镜面物体三维重建装置,其特征在于,所述装置包括:
颜色信息预测模块,用于将镜面物体的待重建图像中像素的三维点,输入至三维体网格信息预测模型,得到所述三维点的颜色信息;
体网格颜色渲染模块,用于根据所述三维点的颜色信息,对所述镜面物体的三维体网格进行颜色渲染处理,得到所述镜面物体的渲染后三维体网格;
体网格密度采样模块,用于将所述渲染后三维体网格的采样点,输入至再次训练的三维体网格信息预测模型,得到所述采样点的密度信息;所述再次训练的三维体网格信息预测模型通过三维体网格数据集对所述三维体网格信息预测模型进行训练得到;
物体三维重建模块,用于根据所述采样点的密度信息和预设密度阈值之间的差异,得到所述采样点的有向距离信息;根据所述采样点的有向距离信息,对所述渲染后三维体网格进行等值面提取处理,得到所述镜面物体的三维重建模型。
9.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至7中任一项所述的方法的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211016311.8A CN115100383B (zh) | 2022-08-24 | 2022-08-24 | 基于普通光源的镜面物体三维重建方法、装置和设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211016311.8A CN115100383B (zh) | 2022-08-24 | 2022-08-24 | 基于普通光源的镜面物体三维重建方法、装置和设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115100383A CN115100383A (zh) | 2022-09-23 |
CN115100383B true CN115100383B (zh) | 2022-11-15 |
Family
ID=83300473
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211016311.8A Active CN115100383B (zh) | 2022-08-24 | 2022-08-24 | 基于普通光源的镜面物体三维重建方法、装置和设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115100383B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115601511B (zh) * | 2022-12-14 | 2023-03-14 | 深圳思谋信息科技有限公司 | 三维重建方法、装置、计算机设备及计算机可读存储介质 |
CN115761152B (zh) * | 2023-01-06 | 2023-06-23 | 深圳星坊科技有限公司 | 普通光源下图像处理及三维重建方法、装置和计算机设备 |
CN118608628A (zh) * | 2024-08-06 | 2024-09-06 | 浙江大华技术股份有限公司 | 相机参数标定方法及电子设备 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107851178A (zh) * | 2015-06-30 | 2018-03-27 | 微软技术许可有限责任公司 | 基于多个表面模型的混合三维场景重构 |
CN113168710A (zh) * | 2018-11-16 | 2021-07-23 | 阿里尔Ai公司 | 三维对象重建 |
CN113223135A (zh) * | 2021-04-15 | 2021-08-06 | 中山大学 | 一种基于特殊复合平面镜虚像成像的三维重建装置和方法 |
CN114241141A (zh) * | 2022-02-28 | 2022-03-25 | 深圳星坊科技有限公司 | 光滑物体三维重建方法、装置、计算机设备和存储介质 |
CN114255313A (zh) * | 2022-02-28 | 2022-03-29 | 深圳星坊科技有限公司 | 镜面物体三维重建方法、装置、计算机设备和存储介质 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105389845B (zh) * | 2015-10-19 | 2017-03-22 | 北京旷视科技有限公司 | 三维重建的图像获取方法和系统、三维重建方法和系统 |
US10043076B1 (en) * | 2016-08-29 | 2018-08-07 | PerceptIn, Inc. | Visual-inertial positional awareness for autonomous and non-autonomous tracking |
CN108734728A (zh) * | 2018-04-25 | 2018-11-02 | 西北工业大学 | 一种基于高分辨序列图像的空间目标三维重构方法 |
JP6907277B2 (ja) * | 2018-08-30 | 2021-07-21 | コグネックス・コーポレイション | 歪みが低減された物体の3次元再構成を生成するための方法及び装置 |
CN112308963B (zh) * | 2020-11-13 | 2022-11-08 | 四川川大智胜软件股份有限公司 | 一种无感三维人脸重建方法及采集重建系统 |
CN112927348B (zh) * | 2021-02-20 | 2022-03-08 | 北京未澜科技有限公司 | 一种基于多视点rgbd相机高分辨率人体三维重建方法 |
-
2022
- 2022-08-24 CN CN202211016311.8A patent/CN115100383B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107851178A (zh) * | 2015-06-30 | 2018-03-27 | 微软技术许可有限责任公司 | 基于多个表面模型的混合三维场景重构 |
CN113168710A (zh) * | 2018-11-16 | 2021-07-23 | 阿里尔Ai公司 | 三维对象重建 |
CN113223135A (zh) * | 2021-04-15 | 2021-08-06 | 中山大学 | 一种基于特殊复合平面镜虚像成像的三维重建装置和方法 |
CN114241141A (zh) * | 2022-02-28 | 2022-03-25 | 深圳星坊科技有限公司 | 光滑物体三维重建方法、装置、计算机设备和存储介质 |
CN114255313A (zh) * | 2022-02-28 | 2022-03-29 | 深圳星坊科技有限公司 | 镜面物体三维重建方法、装置、计算机设备和存储介质 |
Non-Patent Citations (1)
Title |
---|
3D-VRVT_3D_Voxel_Reconstruction_from_A_Single_Image_with_Vision_Transformer;XiLi等;《2021 International Conference on Culture-oriented Science & Technology (ICCST)》;20211213;说明书第343页第2段至第347页第8段及附图1-8 * |
Also Published As
Publication number | Publication date |
---|---|
CN115100383A (zh) | 2022-09-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN115100383B (zh) | 基于普通光源的镜面物体三维重建方法、装置和设备 | |
CN110021069B (zh) | 一种基于网格形变的三维模型重建方法 | |
JP7386812B2 (ja) | 照明推定 | |
EP3905194A1 (en) | Pose estimation method and apparatus | |
CN114255313B (zh) | 镜面物体三维重建方法、装置、计算机设备和存储介质 | |
CN116310076A (zh) | 基于神经辐射场的三维重建方法、装置、设备及存储介质 | |
CN115457188A (zh) | 一种基于注视点的3d渲染显示方法及系统 | |
CN115601511B (zh) | 三维重建方法、装置、计算机设备及计算机可读存储介质 | |
CN116977522A (zh) | 三维模型的渲染方法、装置、计算机设备和存储介质 | |
CN116993826A (zh) | 一种基于局部空间聚合神经辐射场的场景新视图生成方法 | |
CN113298931B (zh) | 一种物体模型的重建方法、装置、终端设备和存储介质 | |
JP7294788B2 (ja) | 3d配置のタイプに応じた2d画像の分類 | |
WO2024193622A1 (zh) | 一种三维构建网络训练方法、三维模型生成方法以及装置 | |
CN110070503A (zh) | 基于卷积神经网络的尺度校准方法、系统及介质 | |
CN114596423A (zh) | 基于虚拟场景网格化的模型渲染方法、装置和计算机设备 | |
CN116434303A (zh) | 基于多尺度特征融合的人脸表情捕捉方法、装置及介质 | |
CN117274349A (zh) | 基于rgb-d相机一致性深度预测的透明物体重建方法及系统 | |
CN113158970B (zh) | 一种基于快慢双流图卷积神经网络的动作识别方法与系统 | |
CN117611717A (zh) | 图像渲染方法、装置、计算机设备和存储介质 | |
CN116109799B (zh) | 调整模型训练方法、装置、计算机设备及存储介质 | |
CN107240149A (zh) | 基于图像处理的物体三维模型构建方法 | |
CN115953330A (zh) | 虚拟场景图像的纹理优化方法、装置、设备和存储介质 | |
CN115457206A (zh) | 三维模型生成方法、装置、设备及存储介质 | |
CN115984583B (zh) | 数据处理方法、装置、计算机设备、存储介质和程序产品 | |
CN108805827B (zh) | 一种图像卷积响应值的简化方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |