CN109118582A - 一种商品三维重建系统及重建方法 - Google Patents

一种商品三维重建系统及重建方法 Download PDF

Info

Publication number
CN109118582A
CN109118582A CN201811097554.2A CN201811097554A CN109118582A CN 109118582 A CN109118582 A CN 109118582A CN 201811097554 A CN201811097554 A CN 201811097554A CN 109118582 A CN109118582 A CN 109118582A
Authority
CN
China
Prior art keywords
point cloud
commodity
model
dimensional
cloud
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201811097554.2A
Other languages
English (en)
Other versions
CN109118582B (zh
Inventor
贾同
薛宇
陈东岳
侯明亚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Northeastern University China
Original Assignee
Northeastern University China
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Northeastern University China filed Critical Northeastern University China
Priority to CN201811097554.2A priority Critical patent/CN109118582B/zh
Publication of CN109118582A publication Critical patent/CN109118582A/zh
Application granted granted Critical
Publication of CN109118582B publication Critical patent/CN109118582B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/20Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Graphics (AREA)
  • Software Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Architecture (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Geometry (AREA)
  • Processing Or Creating Images (AREA)
  • Image Generation (AREA)

Abstract

本发明提供一种商品三维重建系统及重建方法,其中方法包括:S1、获取至少三张不同视角的商品的点云图;S2、基于SAC‑IA‑ICP算法将所有点云图中相邻两个点云图的点云进行配准,以消除相邻点云之间的偏移;S3、采用改进的泊松曲面重建算法对配准后的所有点云重建出完整的商品三维曲面模型;S4、采用光照渲染器对商品三维曲面模型进行颜色绘制及光照渲染,得到可展示的三维商品模型。上述方法中构建的三维商品模型细节更加突出,几何特征更加明显,效果比真,真真切切地还原了商品的全局形态和细节特征。

Description

一种商品三维重建系统及重建方法
技术领域
本发明涉及一种计算机视觉和三维重建技术,特别涉及一种商品三维重建系统及重建方法。
背景技术
三维重建技术是一种将实际三维物体数字化,并利用计算机技术将其重现在计算机中的技术。三维重建技术涉及众多学科领域,涵盖了计算机图形学、计算机视觉、计算机学、机器人学、图像处理、人工智能等学科的专业知识。三维重建技术在商品三维展示、人机交互、文物保护及修复、增强现实、逆向工程、电影电视娱乐等领域有着重要的作用。
Kinect作为一种主动投射、非接触式的深度传感器,由于其小巧美观、成本低廉的特点,深受各界社会朋友及广大科研人员的喜爱,其在机器人导航、体感游戏、手势控制等领域得到了广泛应用。Kinect的有效测量距离为0.8-4.0米,可视角度为水平方向57度、垂直方向43度,可同时获得彩色图像像素与深度图像像素一一对应的彩色图与深度图,最高拍摄帧率可达30fps。与其他深度相机相比,Kinect价格低廉、可获得性好,而且采用了主动激光散斑投射技术,不受自然光线条件影响。同时,获得的深度图像不仅像素细密、分辨率和帧率高,而且能同时获取与之精准对齐的彩色图像.
当今社会,电子商务蓬勃发展,但是传统的电商平台只能通过二维图片或者视频的方式向消费者展示商品,这已然无法满足“互联网+”时代的消费体验需求。为此,需要一种可快速精准地扫描重建出商品的三维模型,更加真实地还原商品的颜色、大小、色泽、材质等细节特征的商品三维重建方法成为当前需要解决的问题。
发明内容
针对现有技术的问题,本发明提供一种商品三维重建系统及重建方法,能够快速精准地扫描重建出商品的三维模型,该三维模型更加真实地还原商品的颜色、大小、色泽、材质等细节特征。
本发明的技术方案如下:
一方面,本发明提供的商品三维重建方法,包括:
S1、获取至少三张不同视角的商品的点云图;
S2、基于SAC-IA-ICP算法将所有点云图中相邻两个点云图的点云进行配准,以消除相邻点云之间的偏移;
S3、采用改进的泊松曲面重建算法对配准后的所有点云重建出完整的商品三维曲面模型。
可选地,还包括:
S4、采用光照渲染器对商品三维曲面模型进行颜色绘制及光照渲染,得到可展示的三维商品模型。
可选地,所述S1包括:
S11、获取16张不同视角的商品的点云图,相邻点云图的视角相差22.5°;
S12、确定摄像机坐标系变换到旋转展台的转台坐标系的变换矩阵R和T;所述摄像机坐标系为采集所述点云图的摄像设备的坐标系;
S13、基于所述变换矩阵R和T,将步骤S11中每一张点云图转换成转台坐标系下的点云图;
S14、采用直通滤波的方法,从每一张转换坐标系后的点云图中提取商品点云数据,获得16张视角下的商品点云数据;
S15、对所有的商品点云数据进行精简处理,获得精简处理后的16张视角下的商品点云数据。
可选地,所述步骤S2包括:
S21、根据预设的配对规则,将相邻视角的商品点云数据进行配准,且在每次配准之后得到的点云数据的方向与相邻点云数据的方向相反;直至所有视角的商品点云数据配准,得到商品点云模型;
其中,第一层次将16个视角的点云数据划分为八对,对每一对进行配准;接着第二层次将配对后的八个点云数据划分为四对,对每一对进行配准;然后第三层次将配对后的四个点云数据划分为两对,对每一对进行配准;再接着第四层次将配对后的两个点云数据配准,得到商品点云模型。
可选地,所述步骤S21中的将相邻视角的商品点云数据进行配准,包括:
S211、针对待配准的两个商品点云数据,采用向下采样的方法提取目标点云和来源点云中的关键点;
其中,所述目标点云为配准中的一个商品点云数据,来源点云为配准中的另一个需要转换到目标点云视角的商品点云数据;
S212、针对目标点云,通过在关键点一定邻域范围内的法线估计来计算每一个关键点的曲率,该曲率作为每一个关键点的特征描述子,获得目标点云的特征描述子;
针对来源点云,通过在关键点一定邻域范围内的法线估计来计算每一个关键点的曲率,该曲率作为每一个关键点的特征描述子,获得来源点云的特征描述子;
S213、针对目标点云中每一个特征描述子及该特征描述子的位置坐标,查找来源点云中与当前的特征描述子对应的特征描述子,遍历目标点云中所有的特征描述子,获得待配准的商品点云数据之间的重叠区域;
S214、采用SAC-IA算法,剔除重叠区域中的无法实现配对的错误对应点,得到重叠区域的实现配对的有效对应点;
S215、依据所述有效对应点,采用迭代估计方式,获取将来源点云的有效对应点变换到目标点云的有效对应的变换矩阵N;
S216、采用变换矩阵N,将来源点云对齐到目标点云,完成两个商品点云数据的配准。
可选地,所述步骤S3包括:
S31、将商品点云模型中的点云数量精简,以保留局部细节信息和边缘轮廓信息的均匀的点云,得到预处理后的三维点云模型;
S32、创建预处理后的三维点云模型表面的指示函数,其中,指示函数中三维点云模型内部的点为1,外部的点为0,对三维点云模型进行采样,每一个样本包括一个点和该点的向内法向量,利用八叉树的立体空间存储结构来存储预处理后的三维点云模型,使三维点云模型的所有采样点都落在八叉树的深度值为D的叶子节点上;
S33、对八叉树的每个节点都设置对应的空间函数F,并且每个节点的空间函数F的线性和作为所有有向点集的向量场;
S34、基于有向点集的向量场无限逼近指示函数的梯度的关系建立泊松方程,并利用拉普拉斯算子由指示函数的梯度反求出模型表面的指示函数;
找到采样点大致位置,求取平均值,然后基于指示函数,设定等值面的阈值,利用移动立方体算法提取等值面,拟合出一个无缝三角面片曲面模型。
可选地,所述步骤S4包括:
S41、导入重建好的三维曲面模型并实时显示;
S42、解析三维曲面模型文件,读取三维曲面模型的顶点信息、边信息以及网格信息,并计算出每个顶点的法向量;
S43、依据RGBA着色模型,采用平滑填充的方式对每个像素顶点进行颜色绘制;
S44、对S43处理后的模型的每个顶点,设置最优的环境光参数、漫反射参数、镜面反射参数、自发光参数,为光线跟踪做准备;
S45、设置光源的环境光参数、漫反射参数、镜面反射参数、光照位置参数、光照能量衰减参数,开启光照使能端为每个顶点像素依次生成初始光线,跟踪光照传播路径,完成光照渲染处理;
S46、根据视图矩阵的基本变换运算,添加左右平移、上下旋转、大小缩放功能,供观察者从不同的视角去观察商品模型。
第二方面,本发明提供的一种商品三维重建系统,包括:
Kinect传感器、处理器、待展商品,用于旋转待展商品的旋转展台;
所述Kinect传感器的高度与所述待展商品竖直方向的中点横切面相平,且与所述待展商品间隔预设阈值,以使所述待展商品处于所述Kinect传感器的成像视野中;
所述Kinect传感器和所述处理器电连接,Kinect传感器前端获取的所述待展商品的信息传输所述处理器,所述处理器根据所述待展商品的信息执行上述任一所述的方法,以重建所述待展商品的三维商品模型。
可选地,所述处理器为PC机。
预设阈值为1.2m。
可选地,所述系统还包括:所述待展商品的背景框,其位于待展商品的后方,与Kinect传感器相对,旋转展台、待展商品和背景框构成商品展示区。
本发明具有的有益效果:
1.本发明中,根据转台旋转速度和采集时间间隔,可知Kinect获取的每一幅深度点云图前后依次相差22.5度,保证了16张多视角下的点云图是有序的、均匀的,为后续的配准拼接提供了一个良好的初始姿态(粗配准),降低了精配准的难度,优化了配准过程。
2.本发明中所采用的分层逐对的配准方法使配准误差的累积次数从N-1次降低为log2N次(N为单角度点云个数),防止了点云首尾偏移过大的问题,得到的结果远远优于传统的递增成对配准的结果。
3.本发明中多次使用了体素网格向下采样算法,在最大程度的保留点云原始信息的同时,精简点云数量,提高了算法运算效率,大大缩短了程序运行时间。如下具体实施方式的步骤A4精简点云、步骤A6.1曲面重建预处理均有体现。
4.本发明在曲面重建预处理阶段,使用了统计滤波对点云进行半径离群点去除,减少了噪声点的影响,同时使用了移动最小二乘平滑算法对表面进行拟合,使得点云密度更加均匀,模型外观轮廓更加平滑,进一步在商品的边缘特征和局部细节上优化了点云模型。
5.本发明中的泊松曲面重建算法融合了全局和局部方法的优点,重建出来的曲面模型具有水密性的封闭特征,其细节更加突出,几何特征更加明显。
6.本发明中,利用自主设计的光照渲染器,在对商品进行颜色绘制的同时,通过添加虚拟光源使得模型表面呈现出鲜明的光彩色泽明暗变化,效果逼真,真真切切地还原了商品的全局形态与细节特征。
7.本发明中,上下左右旋转、比例大小缩放等功能操作的设定,让购买用户在线上即可全方位地品鉴商品的每一处细节,全局直观浏览的同时极大地满足了消费者对细节的好奇,给消费者带来了一种全新的购物体验。
8.本发明将三维重建技术与电商平台相结合,充分利用了Kinect价格低廉、性能优越的特点,为当今电子商务的发展提供了一个新的商品展示视角,满足了客户的深层次体验需求,进一步改善了电商环境。
附图说明
图1为本发明的商品三维重建方法的流程示意图;
图2为本发明的商品三维重建系统的结构示意图;
图3为本发明的多视角点云分层逐对配准示意图;
图4为本发明的单次SAC-IA-ICP算法配准流程图;
图5为本发明的商品颜色绘制及光照渲染流程图。
具体实施方式
为了更好的解释本发明,以便于理解,下面结合附图,通过具体实施方式,对本发明作详细描述。
本发明提供一种商品三维重建方法,该方法包括:
S1、获取至少三张不同视角的商品的点云图;
S2、基于SAC-IA-ICP算法将所有点云图中相邻两个点云图的点云进行配准,以消除相邻点云之间的偏移;
S3、采用改进的泊松曲面重建算法对配准后的所有点云重建出完整的商品三维曲面模型。
可选地,在电子商务应用上,上述方法还可包括下述的步骤S4。
S4、采用光照渲染器对商品三维曲面模型进行颜色绘制及光照渲染,得到可展示的三维商品模型。
举例来说,在实际应用中,前述的步骤S1可包括下述的子步骤:
S11、获取16张不同视角的商品的点云图,相邻点云图的视角相差22.5°;
S12、确定摄像机坐标系变换到旋转展台的转台坐标系的变换矩阵R和T;所述摄像机坐标系为采集所述点云图的摄像设备的坐标系;
S13、基于所述变换矩阵R和T,将步骤S11中每一张点云图转换成转台坐标系下的点云图;
S14、采用直通滤波的方法,从每一张转换坐标系后的点云图中提取商品点云数据,获得16张视角下的商品点云数据;
S15、对所有的商品点云数据进行精简处理,获得精简处理后的16张视角下的商品点云数据。
另外,前述的步骤S2可包括下述的子步骤:
S21、根据预设的配对规则,将相邻视角的商品点云数据进行配准,且在每次配准之后得到的点云数据的方向与相邻点云数据的方向相反;直至所有视角的商品点云数据配准,得到商品点云模型;
其中,第一层次将16个视角的点云数据划分为八对,对每一对进行配准;接着第二层次将配对后的八个点云数据划分为四对,对每一对进行配准;然后第三层次将配对后的四个点云数据划分为两对,对每一对进行配准;再接着第四层次将配对后的两个点云数据配准,得到商品点云模型。如图3所示。
举例来说,上述步骤S21中的将相邻视角的商品点云数据进行配准,包括:
S211、针对待配准的两个商品点云数据,采用向下采样的方法提取目标点云和来源点云中的关键点;
其中,所述目标点云为配准中的一个商品点云数据,来源点云为配准中的另一个需要转换到目标点云视角的商品点云数据;
S212、针对目标点云,通过在关键点一定邻域范围内的法线估计来计算每一个关键点的曲率,该曲率作为每一个关键点的特征描述子,获得目标点云的特征描述子;
针对来源点云,通过在关键点一定邻域范围内的法线估计来计算每一个关键点的曲率,该曲率作为每一个关键点的特征描述子,获得来源点云的特征描述子;
S213、针对目标点云中每一个特征描述子及该特征描述子的位置坐标,查找来源点云中与当前的特征描述子对应的特征描述子,遍历目标点云中所有的特征描述子,获得待配准的商品点云数据之间的重叠区域;
S214、采用SAC-IA算法,剔除重叠区域中的无法实现配对的错误对应点,得到重叠区域的实现配对的有效对应点;
S215、依据所述有效对应点,采用迭代估计方式,获取将来源点云的有效对应点变换到目标点云的有效对应的变换矩阵N;
S216、采用变换矩阵N,将来源点云对齐到目标点云,完成两个商品点云数据的配准。
进一步地,前述的步骤S3可包括:
S31、将商品点云模型中的点云数量精简,以保留局部细节信息和边缘轮廓信息的均匀的点云,得到预处理后的三维点云模型;
S32、创建预处理后的三维点云模型表面的指示函数,其中,指示函数中三维点云模型内部的点为1,外部的点为0,对三维点云模型进行采样,每一个样本包括一个点和该点的向内法向量,利用八叉树的立体空间存储结构来存储预处理后的三维点云模型,使三维点云模型的所有采样点都落在八叉树的深度值为D的叶子节点上;
S33、对八叉树的每个节点都设置对应的空间函数F,并且每个节点的空间函数F的线性和作为所有有向点集的向量场;
S34、基于有向点集的向量场无限逼近指示函数的梯度的关系建立泊松方程,并利用拉普拉斯算子由指示函数的梯度反求出模型表面的指示函数;
找到采样点大致位置,求取平均值,然后基于指示函数,设定等值面的阈值,利用移动立方体算法提取等值面,拟合出一个无缝三角面片曲面模型。
在具体应用中,前述的步骤S4包括:
S41、导入重建好的三维曲面模型并实时显示;
S42、解析三维曲面模型文件,读取三维曲面模型的顶点信息、边信息以及网格信息,并计算出每个顶点的法向量;
S43、依据RGBA着色模型,采用平滑填充的方式对每个像素顶点进行颜色绘制;
S44、对S43处理后的模型的每个顶点,设置最优的环境光参数、漫反射参数、镜面反射参数、自发光参数,为光线跟踪做准备;
S45、设置光源的环境光参数、漫反射参数、镜面反射参数、光照位置参数、光照能量衰减参数,开启光照使能端为每个顶点像素依次生成初始光线,跟踪光照传播路径,完成光照渲染处理;
S46、根据视图矩阵的基本变换运算,添加左右平移、上下旋转、大小缩放功能,供观察者从不同的视角去观察商品模型。
本实施例的方法中,采用分层逐对的配准方法使配准误差的累积次数从N-1次降低为log2N次(N为单角度点云个数),防止了点云首尾偏移过大的问题,得到的结果远远优于传统的递增成对配准的结果。
此外,在配准中多次使用了体素网格向下采样算法,在最大程度的保留点云原始信息的同时,精简点云数量,提高了算法运算效率,大大缩短了程序运行时间。
可理解的是,在曲面重建预处理阶段,使用了统计滤波对点云进行半径离群点去除,减少了噪声点的影响,同时使用了移动最小二乘平滑算法对表面进行拟合,使得点云密度更加均匀,模型外观轮廓更加平滑,进一步在商品的边缘特征和局部细节上优化了点云模型。
特别地,泊松曲面重建算法融合了全局和局部方法的优点,重建出来的曲面模型具有水密性的封闭特征,其细节更加突出,几何特征更加明显。
本发明中,利用自主设计的光照渲染器,在对商品进行颜色绘制的同时,通过添加虚拟光源使得模型表面呈现出鲜明的光彩色泽明暗变化,效果逼真,真真切切地还原了商品的全局形态与细节特征。
结合图1至图5对本发明的商品重建系统和重建方法进行说明如下。
商品三维重建系统包括:Kinect传感器、处理器(即PC机)、待展商品,用于旋转待展商品的旋转展台;
所述Kinect传感器的高度与所述待展商品竖直方向的中点横切面相平,且与所述待展商品间隔预设阈值,以使所述待展商品处于所述Kinect传感器的成像视野中;所述Kinect传感器和所述处理器电连接,Kinect传感器前端获取的所述待展商品的信息传输所述处理器,以重建所述待展商品的三维商品模型。
在具体实现过程中,如图2所示,利用Kinect传感器、背景框、匀速旋转展台、PC机搭建一个商品的三维重建硬件系统。Kinect传感器固定不动,其高度与商品中点横切面相平,其位置距离旋转展台约1.2米处,保证商品处于Kinect的最优成像视野中。背景框、商品及旋转展台构成商品展示区,Kinect前端数据获取、PC机后续图像处理构成商品模型重建工作区。
本发明将三维重建技术与电商平台相结合,充分利用了Kinect价格低廉、性能优越的特点,为当今电子商务的发展提供了一个新的商品展示视角,满足了客户的深层次体验需求,进一步改善了电商环境。
基于上述图2所示的系统架构,其在PC机中实现的商品三维重建方法,如图1所示,该方法包括:
步骤A1:搭建点云采集硬件系统。Kinect、商品、旋转展台、背景框、PC机的相对位置如图2所示。Kinect传感器固定不动,其高度与商品中点横切面相平,其位置距离旋转展台约1.2米处,保证商品处于Kinect的最优成像视野中。旋转展台、商品和背景框构成商品展示区,Kinect传感器和PC机构成后续图像处理及线上商品模型实时显示工作区。
步骤A2:点云数据采集及旋转展台平面的确定。
步骤A2.1:商品点云数据采集。商品置于匀速转动的旋转展台上,Kinect传感器每间隔4秒采集一次单视角的商品彩色图点云图,待旋转展台转动一周360度历经64秒后,Kinect即可获取商品在16个不同视角下的完整的点云图像。
步骤A2.2:旋转展台平面法向量的确定。使用红色胶带在圆形空载转台上标记3个参考点A、B、C,其中A点置于转台中心位置,B、C分别置于与转台中心成90度的转台边缘处。在Kinect获取的空载彩色图像中分别读取三个参考点的像素坐标,并转换到摄像机坐标系下利用三点确定一个平面的原理计算出转台平面的法向量,进而计算出整幅点云从摄像机坐标系变换到转台坐标系的变换矩阵R和T;
步骤A3:对感兴趣区域进行提取,完成16张点云图的背景分割。将单视角的点云图从转台坐标系变换到人们习惯的世界坐标系中,并利用直通滤波的方法,划定X、Y、Z轴坐标的阈值范围,将xyz轴三个方向上处于阈值范围外的多余背景剔除,提取16张视角下的商品点云数据;
步骤A4:点云数据精简及滤波。采用统计滤波和体素滤波级联的方法,对提取以后的点云数据进行离群点噪声去除和点云精简处理,在最大程度的保留商品点云原始信息的同时,减小输入配准算法模型的点云数据量。
可理解的是:体素滤波就是指对点云进行体素网格向下采样。具体指,首先对输入的点云数据创建一个三维体素网格,也即把三维空间均匀地分成许多小箱体。然后,在每个体素中,将所有点使用它们的重心来代替,这样就达到了向下采样的效果,精简了点云数量。
步骤A5:多角度点云配准与融合;
多视角点云分层逐对的配准方法如图3所示。首先,将经过预处理的16个单角度点云分别命名为点云视角1、点云视角2、……、点云视角16。在第一层次,将点云视角1与点云视角2、点云视角4与点云视角3、……、点云视角13与点云视角14、点云视角16与点云视角15配准,得到点云视角1-2、点云视角3-4、……、点云视角13-14、点云视角15-16。
之所以每对点云配准时都调换一次方向,是为了使配准结果的点云基本保持在原位置附近。
同理,在第二层次将点云视角1-2与点云视角3-4、点云视角7-8与点云视角5-6、……、点云视角15-16与点云视角13-14配准,得到点云视角1-4、点云视角5-8、……、点云视角13-16。在第三层次,将点云视角1-4与点云视角5-8、点云视角13-16与点云视角9-12配准,得到点云视角1-8、点云视角9-16。在第四层次,将点云视角1-8与点云视角9-16配准即得到最终的完整的商品点云模型。其中,每一步的单次迭代成对配准使用SAC-IA-ICP算法,如图4,具体步骤为:
步骤A5.1:分别使用向下采样的方法提取目标点云和来源点云中的关键点;
步骤A5.2:在两幅点云图中,通过在关键点一定邻域范围内的法线估计来计算每一个关键点的曲率,此值作为每一个关键点的特征描述子;
步骤A5.3:根据每个关键点的特征描述子及位置坐标的相似性,估计出目标点云和来源点云中的一系列对应点,即找到两幅点云之间重叠的区域;
步骤A5.4:使用SAC-IA(Sample Consensus Initial Alignment)算法,剔除不利于配准过程中的错误对应点;
步骤A5.5:通过不断地迭代计算,利用剩余的有效对应点估计出将来源点云变换到目标点云的最优变换矩阵。迭代过程终止条件:达到一定的迭代次数;两次迭代的变换矩阵之差小于一定值;对应点对的欧式平方距离误差之和小于一定值;
即,依据所述有效对应点,采用迭代估计方式,获取将来源点云的有效对应点变换到目标点云的有效对应的变换矩阵N;
采用变换矩阵N,将来源点云变换到目标点云,完成两个商品点云数据的配准。
步骤A6:三维曲面重建;
配准以后的商品点云模型会有很多数据冗余,其边缘特征不够明显,外观轮廓不够清晰,点云密度不够均匀,使用泊松曲面重建算法直接进行曲面重建会出现轮廓畸形、孔洞百出、细节特征消失的情况。因此,本发明中引入了滤波平滑预处理操作,改进了泊松曲面重建算法。
步骤A6.1:采用统计滤波器、体素向下采样器、移动最小二乘平滑器级联的方法,剔除影响结果的离群点,减少随机噪声的影响,精简点云数量,使点云密度更为均匀,最大程度的保留局部细节信息和边缘轮廓信息,得到预处理后的三维点云模型;其中,体素向下采样器就是指对点云进行体素网格向下采样;
步骤A6.2:创建三维点云模型表面的指示函数,使得三维点云模型内部的点定义为1,外部的点定义为0。对三维点云模型进行采样,每一个样本包括一个点和该点的向内法向量。利用八叉树的立体空间结构存储采样点集,使所有的采样点都落在八叉树的深度值为D的叶子节点上;
步骤A6.3:对八叉树的每个节点都设置对应的空间函数,将每个节点的空间函数的线性和作为所有有向点集的向量场;
步骤A6.4:基于有向点集的向量场无限逼近指示函数的梯度的关系建立泊松方程,并利用拉普拉斯算子由指示函数的梯度反求出模型表面的指示函数;即求解泊松方程。方程的解可以应用拉普拉斯矩阵的方法迭代求出;
步骤A6.6:提取等值面。先设定等值面的阈值,然后大致找到采样点的位置,并对其计算平均值,在此基础上利用移动立方体算法进行等值面的提取操作,最终得到商品的三维曲面模型;
即,找到采样点大致位置,求取平均值,然后基于指示函数,设定等值面的阈值,利用移动立方体算法提取等值面,拟合出一个无缝三角面片曲面模型。
步骤A7:模型光照渲染及实时显示;
曲面重建之后的商品模型是无色彩的面模型,需要对商品颜色绘制,并指定商品材质信息、添加虚拟光照,使模型呈现出鲜明的光彩色泽明暗变化,实时显示一个逼真的商品三维模型。具体流程如图5,步骤为:
步骤A7.1:导入重建好的三维曲面模型,并在计算机窗口中实时显示;
步骤A7.2:解析三维曲面模型文件,读取三维曲面模型的顶点信息、边信息以及网格信息,并计算出每个顶点的法向量;
步骤A7.3:依据RGBA着色模型,采用平滑填充的方式对每个像素顶点进行颜色绘制;
步骤A7.4:加载模型材质数据。具体地,对步骤A7.3处理后的模型的每个顶点,设置最优的环境光参数、漫反射参数、镜面反射参数、自发光等参数,为光线跟踪做准备;
步骤A7.5:加载光源数据,开启虚拟光照,模拟真实光照环境。即,设置光源的环境光参数、漫反射参数、镜面反射参数、光照位置参数、光照能量衰减等参数,开启光照使能端为每个顶点像素依次生成初始光线,跟踪光照传播路径,完成光照渲染处理;
步骤A7.6:添加视角变换功能,实时显示商品模型。即,根据视图矩阵的基本变换运算,添加左右平移、上下旋转、大小缩放等功能,供观察者从不同的视角去观察商品模型。
本实施例中的光照渲染是针对步骤A6中的模型进行实现的,且是通过计算机程序自动完成的,无需人工参与,且能够渲染成供观察者从不同的视角去观察商品模型。
本实施例的方法在完成16张不同视角点云图的感兴趣区域提取后,创新性地采用了分层逐对的配准方法,运用自主改进的SAC-IA-ICP算法将相邻的两个点云进行配准,使相邻点云之间的偏移减小乃至消除,直至完成16张不同视角下的点云配准,然后运用自主改进的泊松曲面重建算法在计算机上重建出完整的商品三维曲面模型。
此外,基于光线跟踪原理,利用自主设计的光照渲染器对商品模型进行颜色绘制及光照渲染,增强商品现实感,并通过上下左右旋转、比例大小缩放等功能的设置,在计算机上实时还原出一个外观轮廓清晰、细节特征突出、色泽光影变化明显、颜色逼真、可供消费者360度仔细品鉴的三维商品模型。
上述各个实施例可以相互参照,本实施例不对各个实施例进行限定。
最后应说明的是:以上所述的各实施例仅用于说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述实施例所记载的技术方案进行修改,或者对其中部分或全部技术特征进行等同替换;而这些修改或替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。

Claims (10)

1.一种商品三维重建方法,其特征在于,包括:
S1、获取至少三张不同视角的商品的点云图;
S2、基于SAC-IA-ICP算法将所有点云图中相邻两个点云图的点云进行配准,以消除相邻点云之间的偏移;
S3、采用改进的泊松曲面重建算法对配准后的所有点云重建出完整的商品三维曲面模型。
2.根据权利要求1所述的方法,其特征在于,还包括:
S4、采用光照渲染器对商品三维曲面模型进行颜色绘制及光照渲染,得到可展示的三维商品模型。
3.根据权利要求2所述的方法,其特征在于,所述S1包括:
S11、获取16张不同视角的商品的点云图,相邻点云图的视角相差22.5°;
S12、确定摄像机坐标系变换到旋转展台的转台坐标系的变换矩阵R和T;所述摄像机坐标系为采集所述点云图的摄像设备的坐标系;
S13、基于所述变换矩阵R和T,将步骤S11中每一张点云图转换成转台坐标系下的点云图;
S14、采用直通滤波的方法,从每一张转换坐标系后的点云图中提取商品点云数据,获得16张视角下的商品点云数据;
S15、对所有的商品点云数据进行精简处理,获得精简处理后的16张视角下的商品点云数据。
4.根据权利要求3所述的方法,其特征在于,所述步骤S2包括:
S21、根据预设的配对规则,将相邻视角的商品点云数据进行配准,且在每次配准之后得到的点云数据的方向与相邻点云数据的方向相反;直至所有视角的商品点云数据配准,得到商品点云模型;
其中,第一层次将16个视角的点云数据划分为八对,对每一对进行配准;接着第二层次将配对后的八个点云数据划分为四对,对每一对进行配准;然后第三层次将配对后的四个点云数据划分为两对,对每一对进行配准;再接着第四层次将配对后的两个点云数据配准,得到商品点云模型。
5.根据权利要求4所述的方法,其特征在于,所述步骤S21中的将相邻视角的商品点云数据进行配准,包括:
S211、针对待配准的两个商品点云数据,采用向下采样的方法提取目标点云和来源点云中的关键点;
其中,所述目标点云为配准中的一个商品点云数据,来源点云为配准中的另一个需要转换到目标点云视角的商品点云数据;
S212、针对目标点云,通过在关键点一定邻域范围内的法线估计来计算每一个关键点的曲率,该曲率作为每一个关键点的特征描述子,获得目标点云的特征描述子;
针对来源点云,通过在关键点一定邻域范围内的法线估计来计算每一个关键点的曲率,该曲率作为每一个关键点的特征描述子,获得来源点云的特征描述子;
S213、针对目标点云中每一个特征描述子及该特征描述子的位置坐标,查找来源点云中与当前的特征描述子对应的特征描述子,遍历目标点云中所有的特征描述子,获得待配准的商品点云数据之间的重叠区域;
S214、采用SAC-IA算法,剔除重叠区域中的无法实现配对的错误对应点,得到重叠区域的实现配对的有效对应点;
S215、依据所述有效对应点,采用迭代估计方式,获取将来源点云的有效对应点变换到目标点云的有效对应的变换矩阵N;
S216、采用变换矩阵N,将来源点云对齐到目标点云,完成两个商品点云数据的配准。
6.根据权利要求4所述的方法,其特征在于,所述步骤S3包括:
S31、将商品点云模型中的点云数量精简,以保留局部细节信息和边缘轮廓信息的均匀的点云,得到预处理后的三维点云模型;
S32、创建预处理后的三维点云模型表面的指示函数,其中,指示函数中三维点云模型内部的点为1,外部的点为0,对三维点云模型进行采样,每一个样本包括一个点和该点的向内法向量,利用八叉树的立体空间存储结构来存储预处理后的三维点云模型,使三维点云模型的所有采样点都落在八叉树的深度值为D的叶子节点上;
S33、对八叉树的每个节点都设置对应的空间函数F,并且每个节点的空间函数F的线性和作为所有有向点集的向量场;
S34、基于有向点集的向量场无限逼近指示函数的梯度的关系建立泊松方程,并利用拉普拉斯算子由指示函数的梯度反求出模型表面的指示函数;
找到采样点大致位置,求取平均值,然后基于指示函数,设定等值面的阈值,利用移动立方体算法提取等值面,拟合出一个无缝三角面片曲面模型。
7.根据权利要求6所述的方法,其特征在于,所述步骤S4包括:
S41、导入重建好的三维曲面模型并实时显示;
S42、解析三维曲面模型文件,读取三维曲面模型的顶点信息、边信息以及网格信息,并计算出每个顶点的法向量;
S43、依据RGBA着色模型,采用平滑填充的方式对每个像素顶点进行颜色绘制;
S44、对S43处理后的模型的每个顶点,设置最优的环境光参数、漫反射参数、镜面反射参数、自发光参数,为光线跟踪做准备;
S45、设置光源的环境光参数、漫反射参数、镜面反射参数、光照位置参数、光照能量衰减参数,开启光照使能端为每个顶点像素依次生成初始光线,跟踪光照传播路径,完成光照渲染处理;
S46、根据视图矩阵的基本变换运算,添加左右平移、上下旋转、大小缩放功能,供观察者从不同的视角去观察商品模型。
8.一种商品三维重建系统,其特征在于,包括:
Kinect传感器、处理器、待展商品,用于旋转待展商品的旋转展台;
所述Kinect传感器的高度与所述待展商品竖直方向的中点横切面相平,且与所述待展商品间隔预设阈值,以使所述待展商品处于所述Kinect传感器的成像视野中;
所述Kinect传感器和所述处理器电连接,Kinect传感器前端获取的所述待展商品的信息传输所述处理器,所述处理器根据所述待展商品的信息执行上述权利要求1至7任一所述的方法,以重建所述待展商品的三维商品模型。
9.根据权利要求8所述的系统,其特征在于,所述处理器为PC机。
预设阈值为1.2m。
10.根据权利要求9所述的系统,其特征在于,所述系统还包括:所述待展商品的背景框,其位于待展商品的后方,与Kinect传感器相对,旋转展台、待展商品和背景框构成商品展示区。
CN201811097554.2A 2018-09-19 2018-09-19 一种商品三维重建系统及重建方法 Active CN109118582B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811097554.2A CN109118582B (zh) 2018-09-19 2018-09-19 一种商品三维重建系统及重建方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811097554.2A CN109118582B (zh) 2018-09-19 2018-09-19 一种商品三维重建系统及重建方法

Publications (2)

Publication Number Publication Date
CN109118582A true CN109118582A (zh) 2019-01-01
CN109118582B CN109118582B (zh) 2020-06-16

Family

ID=64859831

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811097554.2A Active CN109118582B (zh) 2018-09-19 2018-09-19 一种商品三维重建系统及重建方法

Country Status (1)

Country Link
CN (1) CN109118582B (zh)

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109949413A (zh) * 2019-03-27 2019-06-28 武汉数文科技有限公司 模型展示方法、系统及电子设备
CN109978885A (zh) * 2019-03-15 2019-07-05 广西师范大学 一种树木三维点云分割方法及系统
CN110097582A (zh) * 2019-05-16 2019-08-06 广西师范大学 一种点云优化配准与实时显示系统及工作方法
CN110335295A (zh) * 2019-06-06 2019-10-15 浙江大学 一种基于tof相机的植物点云采集配准与优化方法
CN110675500A (zh) * 2019-09-07 2020-01-10 创新奇智(重庆)科技有限公司 一种基于光学模拟的工业视觉成像系统设计工具
CN111127629A (zh) * 2019-11-28 2020-05-08 武汉烽火信息集成技术有限公司 一种动态三维可视化系统及方法
CN111272784A (zh) * 2020-03-31 2020-06-12 西安交通大学 一种煤和煤矸石的检测方法
CN111325779A (zh) * 2020-02-07 2020-06-23 贝壳技术有限公司 点云配准方法和装置、电子设备和存储介质
CN111476834A (zh) * 2019-01-24 2020-07-31 北京地平线机器人技术研发有限公司 生成图像的方法、装置及电子设备
CN111915658A (zh) * 2020-09-30 2020-11-10 浙江智慧视频安防创新中心有限公司 一种用于点云的配准方法及系统
CN112258658A (zh) * 2020-10-21 2021-01-22 河北工业大学 一种基于深度相机的增强现实可视化方法及应用
CN112802178A (zh) * 2021-01-15 2021-05-14 浙江华云信息科技有限公司 一种基于泊松曲面重建算法修复三维模型缺失信息的方法
CN113066190A (zh) * 2021-04-09 2021-07-02 四川虹微技术有限公司 一种基于桌面真三维的文物交互方法
CN113126944A (zh) * 2021-05-17 2021-07-16 北京的卢深视科技有限公司 深度图的显示方法、显示装置、电子设备及存储介质
CN113822992A (zh) * 2021-11-23 2021-12-21 山东捷瑞数字科技股份有限公司 一种批量反转模型法线的方法
CN114925937A (zh) * 2022-06-27 2022-08-19 东北大学 一种舞台场景点云扫描站点选取与路径规划方法
CN115661220A (zh) * 2022-12-28 2023-01-31 深圳煜炜光学科技有限公司 点云数据配准方法、装置、设备及存储介质
CN116258835A (zh) * 2023-05-04 2023-06-13 武汉大学 基于深度学习的点云数据三维重建方法和系统
CN116486020A (zh) * 2023-06-21 2023-07-25 季华实验室 一种三维重建方法及相关设备
CN116543050A (zh) * 2023-05-26 2023-08-04 深圳铭创智能装备有限公司 一种透明曲面基板定位方法、计算机设备和存储介质
CN117197300A (zh) * 2023-11-06 2023-12-08 武汉方拓数字科技有限公司 一种基于透明通道的三维线框透视动图的渲染合成方法

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101645170A (zh) * 2009-09-03 2010-02-10 北京信息科技大学 多视点云精确配准方法
CN102169596A (zh) * 2011-03-09 2011-08-31 深圳市酷开网络科技有限公司 一种在嵌入式设备上实现3d渲染的方法及装置
US20130155058A1 (en) * 2011-12-14 2013-06-20 The Board Of Trustees Of The University Of Illinois Four-dimensional augmented reality models for interactive visualization and automated construction progress monitoring
CN104361624A (zh) * 2014-11-20 2015-02-18 南京大学 一种计算机三维模型中全局光照的渲染方法
CN105046746A (zh) * 2015-08-05 2015-11-11 西安新拓三维光测科技有限公司 一种数字散斑人体三维快速扫描方法
CN105180830A (zh) * 2015-09-28 2015-12-23 浙江大学 一种适用于ToF相机的三维点云自动配准方法及系统
CN105335997A (zh) * 2015-10-10 2016-02-17 燕山大学 一种基于泊松重构的复杂结构点云处理算法
CN106204718A (zh) * 2016-06-28 2016-12-07 华南理工大学 一种基于单个Kinect的简易高效三维人体重建方法
CN106780751A (zh) * 2017-01-19 2017-05-31 桂林电子科技大学 基于改进的屏蔽泊松算法的三维点云重建方法
CN106846272A (zh) * 2017-01-18 2017-06-13 西安工程大学 一种点云模型的去噪精简方法
CN108510591A (zh) * 2018-03-12 2018-09-07 南京信息工程大学 一种基于非局部均值与双边滤波的改进泊松曲面重建方法

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101645170A (zh) * 2009-09-03 2010-02-10 北京信息科技大学 多视点云精确配准方法
CN102169596A (zh) * 2011-03-09 2011-08-31 深圳市酷开网络科技有限公司 一种在嵌入式设备上实现3d渲染的方法及装置
US20130155058A1 (en) * 2011-12-14 2013-06-20 The Board Of Trustees Of The University Of Illinois Four-dimensional augmented reality models for interactive visualization and automated construction progress monitoring
CN104361624A (zh) * 2014-11-20 2015-02-18 南京大学 一种计算机三维模型中全局光照的渲染方法
CN105046746A (zh) * 2015-08-05 2015-11-11 西安新拓三维光测科技有限公司 一种数字散斑人体三维快速扫描方法
CN105180830A (zh) * 2015-09-28 2015-12-23 浙江大学 一种适用于ToF相机的三维点云自动配准方法及系统
CN105335997A (zh) * 2015-10-10 2016-02-17 燕山大学 一种基于泊松重构的复杂结构点云处理算法
CN106204718A (zh) * 2016-06-28 2016-12-07 华南理工大学 一种基于单个Kinect的简易高效三维人体重建方法
CN106846272A (zh) * 2017-01-18 2017-06-13 西安工程大学 一种点云模型的去噪精简方法
CN106780751A (zh) * 2017-01-19 2017-05-31 桂林电子科技大学 基于改进的屏蔽泊松算法的三维点云重建方法
CN108510591A (zh) * 2018-03-12 2018-09-07 南京信息工程大学 一种基于非局部均值与双边滤波的改进泊松曲面重建方法

Cited By (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111476834A (zh) * 2019-01-24 2020-07-31 北京地平线机器人技术研发有限公司 生成图像的方法、装置及电子设备
CN111476834B (zh) * 2019-01-24 2023-08-11 北京地平线机器人技术研发有限公司 生成图像的方法、装置及电子设备
CN109978885A (zh) * 2019-03-15 2019-07-05 广西师范大学 一种树木三维点云分割方法及系统
CN109949413A (zh) * 2019-03-27 2019-06-28 武汉数文科技有限公司 模型展示方法、系统及电子设备
CN110097582A (zh) * 2019-05-16 2019-08-06 广西师范大学 一种点云优化配准与实时显示系统及工作方法
CN110097582B (zh) * 2019-05-16 2023-03-31 广西师范大学 一种点云优化配准与实时显示系统及工作方法
CN110335295B (zh) * 2019-06-06 2021-05-11 浙江大学 一种基于tof相机的植物点云采集配准与优化方法
CN110335295A (zh) * 2019-06-06 2019-10-15 浙江大学 一种基于tof相机的植物点云采集配准与优化方法
CN110675500A (zh) * 2019-09-07 2020-01-10 创新奇智(重庆)科技有限公司 一种基于光学模拟的工业视觉成像系统设计工具
CN111127629A (zh) * 2019-11-28 2020-05-08 武汉烽火信息集成技术有限公司 一种动态三维可视化系统及方法
CN111325779A (zh) * 2020-02-07 2020-06-23 贝壳技术有限公司 点云配准方法和装置、电子设备和存储介质
CN111272784A (zh) * 2020-03-31 2020-06-12 西安交通大学 一种煤和煤矸石的检测方法
CN111272784B (zh) * 2020-03-31 2021-05-28 西安交通大学 一种煤和煤矸石的检测方法
CN111915658A (zh) * 2020-09-30 2020-11-10 浙江智慧视频安防创新中心有限公司 一种用于点云的配准方法及系统
CN112258658A (zh) * 2020-10-21 2021-01-22 河北工业大学 一种基于深度相机的增强现实可视化方法及应用
CN112258658B (zh) * 2020-10-21 2023-02-17 河北工业大学 一种基于深度相机的增强现实可视化方法及应用
CN112802178B (zh) * 2021-01-15 2024-06-11 浙江华云信息科技有限公司 一种基于泊松曲面重建算法修复三维模型缺失信息的方法
CN112802178A (zh) * 2021-01-15 2021-05-14 浙江华云信息科技有限公司 一种基于泊松曲面重建算法修复三维模型缺失信息的方法
CN113066190A (zh) * 2021-04-09 2021-07-02 四川虹微技术有限公司 一种基于桌面真三维的文物交互方法
CN113126944A (zh) * 2021-05-17 2021-07-16 北京的卢深视科技有限公司 深度图的显示方法、显示装置、电子设备及存储介质
CN113822992A (zh) * 2021-11-23 2021-12-21 山东捷瑞数字科技股份有限公司 一种批量反转模型法线的方法
CN113822992B (zh) * 2021-11-23 2022-03-01 山东捷瑞数字科技股份有限公司 一种批量反转模型法线的方法
CN114925937A (zh) * 2022-06-27 2022-08-19 东北大学 一种舞台场景点云扫描站点选取与路径规划方法
CN115661220B (zh) * 2022-12-28 2023-03-17 深圳煜炜光学科技有限公司 点云数据配准方法、装置、设备及存储介质
CN115661220A (zh) * 2022-12-28 2023-01-31 深圳煜炜光学科技有限公司 点云数据配准方法、装置、设备及存储介质
CN116258835A (zh) * 2023-05-04 2023-06-13 武汉大学 基于深度学习的点云数据三维重建方法和系统
CN116543050A (zh) * 2023-05-26 2023-08-04 深圳铭创智能装备有限公司 一种透明曲面基板定位方法、计算机设备和存储介质
CN116543050B (zh) * 2023-05-26 2024-03-26 深圳铭创智能装备有限公司 一种透明曲面基板定位方法、计算机设备和存储介质
CN116486020A (zh) * 2023-06-21 2023-07-25 季华实验室 一种三维重建方法及相关设备
CN116486020B (zh) * 2023-06-21 2024-02-13 季华实验室 一种三维重建方法及相关设备
CN117197300A (zh) * 2023-11-06 2023-12-08 武汉方拓数字科技有限公司 一种基于透明通道的三维线框透视动图的渲染合成方法
CN117197300B (zh) * 2023-11-06 2024-01-30 武汉方拓数字科技有限公司 一种基于透明通道的三维线框透视动图的渲染合成方法

Also Published As

Publication number Publication date
CN109118582B (zh) 2020-06-16

Similar Documents

Publication Publication Date Title
CN109118582A (zh) 一种商品三维重建系统及重建方法
Zhang et al. Image engineering
Zöckler et al. Fast and intuitive generation of geometric shape transitions
Kopanas et al. Neural point catacaustics for novel-view synthesis of reflections
CN108898630A (zh) 一种三维重建方法、装置、设备和存储介质
Seitz Image-based transformation of viewpoint and scene appearance
CN110490917A (zh) 三维重建方法及装置
CN103021017A (zh) 基于gpu加速的三维场景重建方法
Martin-Brualla et al. Gelato: Generative latent textured objects
Osman Ulusoy et al. Dynamic probabilistic volumetric models
CN115797561A (zh) 三维重建方法、设备及可读存储介质
CN113989434A (zh) 一种人体三维重建方法及设备
Phongthawee et al. Nex360: Real-time all-around view synthesis with neural basis expansion
CN112200892A (zh) 一种显示处理方法和装置
CN109166176A (zh) 三维人脸图像的生成方法与装置
Meyer et al. PEGASUS: Physically Enhanced Gaussian Splatting Simulation System for 6DOF Object Pose Dataset Generation
Malleson et al. 3D reconstruction from RGB-D data
Xu et al. Real-time panoramic map modeling method based on multisource image fusion and three-dimensional rendering
Chen et al. Cycled merging registration of point clouds for 3D human body modeling
Yang View-dependent Pixel Coloring: A Physically-based Approach for 2D View Synthesis
Zhang et al. Integrated image and graphics technologies
Yang et al. Virtual Reconstruction of Museum Spatial Information Based on Unity3D
Krumpen et al. OctreeBTFs–A compact, seamless and distortion-free reflectance representation
Yang et al. Spatial Display Model of Oil Painting Art Based on Digital Vision Design.
Asthana Neural representations for object capture and rendering

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant