CN107316343B - 一种基于数据驱动的模型处理方法及设备 - Google Patents

一种基于数据驱动的模型处理方法及设备 Download PDF

Info

Publication number
CN107316343B
CN107316343B CN201610270164.5A CN201610270164A CN107316343B CN 107316343 B CN107316343 B CN 107316343B CN 201610270164 A CN201610270164 A CN 201610270164A CN 107316343 B CN107316343 B CN 107316343B
Authority
CN
China
Prior art keywords
model
vertex
dimensional
target body
constraint condition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201610270164.5A
Other languages
English (en)
Other versions
CN107316343A (zh
Inventor
高林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Institute of Computing Technology of CAS
Tencent Cyber Tianjin Co Ltd
Original Assignee
Institute of Computing Technology of CAS
Tencent Cyber Tianjin Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Institute of Computing Technology of CAS, Tencent Cyber Tianjin Co Ltd filed Critical Institute of Computing Technology of CAS
Priority to CN201610270164.5A priority Critical patent/CN107316343B/zh
Publication of CN107316343A publication Critical patent/CN107316343A/zh
Application granted granted Critical
Publication of CN107316343B publication Critical patent/CN107316343B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/30Polynomial surface description

Abstract

本发明公开了一种基于数据驱动的模型处理方法及设备,包括:对模型库进行分析,得到模型库中各个三维网格模型的特征向量;对所述模型库进行变形,基于变形后的模型库从所述各个三维网格模型的特征向量中提取出主成分特征分量;优化所述主成分特征分量对应的权重,并根据优化后的权重生成满足约束的模型;获取目标体的深度数据,根据所述满足约束的模型以及所述目标体的深度数据建立所述目标体的三维运动模型。

Description

一种基于数据驱动的模型处理方法及设备
技术领域
本发明涉及模型处理技术,尤其涉及一种基于数据驱动的模型处理方法及设备。
背景技术
目标体的三维模型重建具有重要研究意义,目前,对于目标体的三维模型重建的典型研究有两个。
其中一个研究是使用多个深度相机来获取目标体的静态三维模型,这项研究不能够获取目标体的运动信息。另外一个研究是通过多个深度相机基于骨架的方式来获取目标体的运动姿态,这项研究的重建效率低且不能够做到实时重建,此外,恢复的几何外观质量较低。
发明内容
为解决上述技术问题,本发明实施例提供了一种基于数据驱动的模型处理方法及设备。
本发明实施例提供的基于数据驱动的模型处理方法,包括:
对模型库进行分析,得到模型库中各个三维网格模型的特征向量;
对所述模型库进行变形,基于变形后的模型库从所述各个三维网格模型的特征向量中提取出主成分特征分量;
优化所述主成分特征分量对应的权重,并根据优化后的权重生成满足约束的模型;
获取目标体的深度数据,根据所述满足约束的模型以及所述目标体的深度数据建立所述目标体的三维运动模型。
本发明实施例中,所述对模型库进行分析,得到模型库中各个三维网格模型的特征向量,包括:
从模型库中选择出任意一个三维网格模型作为第一基准模型;
基于所述第一基准模型获取所述模型库中各个三维网格模型的特征向量。
本发明实施例中,所述基于所述第一基准模型获取所述模型库中各个三维网格模型的特征向量,包括:
对所述三维网格模型的各个三角面片分别建立局部坐标架;
基于所述第一基准模型获取所述三维网格模型的各个三角面片的变形梯度,其中,所述变形梯度与所述局部坐标架相关联;
对所述三维网格模型的各个三角面片的变形梯度进行极分解以及转化,得到所述三维网格模型的特征向量。
本发明实施例中,所述对所述模型库进行变形,基于变形后的模型库从所述各个三维网格模型的特征向量中提取出主成分特征分量,包括:
建立所述第一基准模型与待注册的模型之间对应关系;
根据所述对应关系对所述第一基准模型进行变形,得到第二基准模型;
依据所述第二基准模型,对所述各个三维网格模型的特征向量进行重构,并通过主成分分析得到所述各个三维网格模型的主成分特征分量。
本发明实施例中,所述获取目标体的深度数据,根据所述满足约束的模型以及所述目标体的深度数据建立所述目标体的三维运动模型,包括:
获取目标体的点云数据;
设置顶点约束条件以及顶点到面的约束条件,其中,所述顶点约束条件用于约束点云至模型的距离最近,所述顶点到面的约束条件用于约束点云沿模型法线方向投影的距离最近;
基于所述顶点约束条件以及顶点到面的约束条件,对所述目标体的模型进行合成;
基于合成的所述目标体的模型,对点云进行最近点的搜索,并更新所述顶点约束条件以及顶点到面的约束条件;
基于更新的顶点约束条件以及顶点到面的约束条件,更新所述目标体的模型;
重复更新顶点约束条件、顶点到面的约束条件以及所述目标体的模型,直至满足收敛条件为止,得到所述目标体的三维运动模型。
本发明实施例中,所述方法还包括:
基于所述顶点约束条件以及顶点到面的约束条件,对所述目标体的三维运动模型进行顶点位置优化以及顶点上的刚体变换优化。
本发明实施例提供的基于数据驱动的模型处理设备,包括:
分析单元,用于对模型库进行分析,得到模型库中各个三维网格模型的特征向量;
变形及提取单元,用于对所述模型库进行变形,基于变形后的模型库从所述各个三维网格模型的特征向量中提取出主成分特征分量;
模型建立单元,用于获取目标体的深度数据,根据所述满足约束的模型以及所述目标体的深度数据建立所述目标体的三维运动模型。
本发明实施例中,所述分析单元,还用于从模型库中选择出任意一个三维网格模型作为第一基准模型;基于所述第一基准模型获取所述模型库中各个三维网格模型的特征向量。
本发明实施例中,所述分析单元,还用于对所述三维网格模型的各个三角面片分别建立局部坐标架;基于所述第一基准模型获取所述三维网格模型的各个三角面片的变形梯度,其中,所述变形梯度与所述局部坐标架相关联;对所述三维网格模型的各个三角面片的变形梯度进行极分解以及转化,得到所述三维网格模型的特征向量。
本发明实施例中,所述变形及提取单元,还用于建立所述第一基准模型与待注册的模型之间对应关系;根据所述对应关系对所述第一基准模型进行变形,得到第二基准模型;依据所述第二基准模型,对所述各个三维网格模型的特征向量进行重构,并通过主成分分析得到所述各个三维网格模型的主成分特征分量。
本发明实施例中,所述模型建立单元,还用于获取目标体的点云数据;设置顶点约束条件以及顶点到面的约束条件,其中,所述顶点约束条件用于约束点云至模型的距离最近,所述顶点到面的约束条件用于约束点云沿模型法线方向投影的距离最近;基于所述顶点约束条件以及顶点到面的约束条件,对所述目标体的模型进行合成;基于合成的所述目标体的模型,对点云进行最近点的搜索,并更新所述顶点约束条件以及顶点到面的约束条件;基于更新的顶点约束条件以及顶点到面的约束条件,更新所述目标体的模型;重复更新顶点约束条件、顶点到面的约束条件以及所述目标体的模型,直至满足收敛条件为止,得到所述目标体的三维运动模型。
本发明实施例中,所述设备还包括:
优化单元,用于基于所述顶点约束条件以及顶点到面的约束条件,对所述目标体的三维运动模型进行顶点位置优化以及顶点上的刚体变换优化。
本发明实施例的技术方案中,对模型库进行分析,得到模型库中各个三维网格模型的特征向量;对所述模型库进行变形,基于变形后的模型库从所述各个三维网格模型的特征向量中提取出主成分特征分量;优化所述主成分特征分量对应的权重,并根据优化后的权重生成满足约束的模型;获取目标体的深度数据,根据所述满足约束的模型以及所述目标体的深度数据建立所述目标体的三维运动模型。本发明实施例结合了目标体的深度数据,利用模型库的先验信息对目标体实现了三维运动模型的建立,提高了重建的鲁棒性和精度,并且可以获取高质量的动态几何外观。
附图说明
图1为本发明实施例一的基于数据驱动的模型处理方法的流程图;
图2为本发明实施例二的基于数据驱动的模型处理方法的流程示意图;
图3为本发明实施例的三角网格模型示意图;
图4为本发明实施例三的基于数据驱动的模型处理方法的流程示意图;
图5为本发明实施例的基准模型替换的示意图;
图6为本发明实施例的来自于模型上的连线的顶点的示意图;
图7为本发明实施例四的基于数据驱动的模型处理设备的结构组成示意图;
图8为本发明实施例五的基于数据驱动的模型处理设备的结构组成示意图;
图9为本发明实施例的应用场景示意图。
具体实施方式
为了能够更加详尽地了解本发明实施例的特点与技术内容,下面结合附图对本发明实施例的实现进行详细阐述,所附附图仅供参考说明之用,并非用来限定本发明实施例。
本发明实施例提供了一种基于数据驱动的模型处理方法,通过该方法可以获取到目标体的三维运动模型,即获取到的目标体的三维模型是动态的,此外,可以获取到高质量的目标体的动态几何外观。
参照图1,图1为本发明实施例一的基于数据驱动的模型处理方法的流程图,如图1所示:对模型库进行分析,得到模型库中各个三维网格模型的特征向量;对所述模型库进行变形,基于变形后的模型库从所述各个三维网格模型的特征向量中提取出主成分特征分量;优化所述主成分特征分量对应的权重,并根据优化后的权重生成满足约束的模型;获取目标体的深度数据,根据所述满足约束的模型以及所述目标体的深度数据建立所述目标体的三维运动模型。
上述方案中,对模型库进行特征提取和分析,进而变形并提取出主成分特征分量的目的是减少目标体运动的不确定性。
上述方案中,通过深度相机获取目标体的深度图像,该深度图像中包括了目标体的深度数据。
本发明实施例的核心在于:对模型库中各个三维网格模型的特征向量进行提取,得到一组特征向量;对所述模型库进行变形,基于变形后的模型库对这一组特征向量进行重构以及主成分分析,得到一组主成分特征分量,将这一组主成分特征分量作为变形空间的基底。获取深度相机输入的目标体的深度数据(三维点云),建立一个全局优化问题,优化变形空间中基底的系数来拟合输入的点云信息。这里,引入数据库的信息作为点云注册的先验,可以提高模型建立的准确性和鲁棒性,通过减少优化的不确定性来提高算法的效率。
上述方案中,收集各个三维网格模型上所有的三角面片的变形梯度作为每个三维网格模型的特征向量,通过指数映射来合成新的特征向量。
上述方案中,通过建立一个新颖的全局优化,来计算满足外在点云约束的模型库中对应特征的权重。该优化可以通过高斯牛顿法进行高效的求解。
基于该数据驱动的模型处理方法,可重建目标体的三维运动模型。本发明实施例的技术方案中,所述目标体除了可以是人体以外,也可以是其他具有先验模型库的物体。
图2为本发明实施例二的基于数据驱动的模型处理方法的流程示意图,如图2所示,所述基于数据驱动的模型处理方法包括以下步骤:
步骤201:对模型库进行分析,得到模型库中各个三维网格模型的特征向量。
本发明实施例中,模型库中包括多个三维网格模型,这里,三维网格模型具体为三角网格模型,三角网格模型是由多个三角形的表面组成的立体模型。参照图3,图3示意出了一种简易的三角网格模型,组成三角网格模型的三角形称为三角面片。对模型库进行分析具体是对模型库中的各个三维网格模型进行分析,从而得到各个三维网格模型的特征向量。
步骤202:对所述模型库进行变形,基于变形后的模型库从所述各个三维网格模型的特征向量中提取出主成分特征分量。
本发明实施例中,由于模型库中的三维网格模型与待注册的模型在几何外观上不完全一致,所以模型库进行变形,以将将模型库传播到待注册的模型。这里,传播的意思是指将模型库中的三维网格模型的形状变形到与待注册的模型相一致。
本发明实施例中,由于各个三维网格模型的特征向量是基于原模型库提取到的,当原模型库进行变形后,需要对各个三维网格模型的特征向量进行重构,再从重构的特征向量中提取出主成分特征分量。
本发明实施例中,由于模型库的变形的本质维度是低维的,所以通过主成份分析能够得到反映模型库中的三维网格模型变形的主成分分量,称为主成分特征分量。
具体地,将各个三维网格模型的特征向量组成一个矩阵,通过对其进行奇异值分解(SVD,Singular Value Decomposition)得到反映其主要变形特征的分量,也即主成分特征分量。
本发明实施例中,结合变形后的模型库以及主成分特征分量,就得到了反映模型库非刚体变形的先验信息。
步骤203:优化所述主成分特征分量对应的权重,并根据优化后的权重生成满足约束的模型。
本发明实施例中,通过上述特征向量的分析与传播,得到变形后的模型库以及主成分特征分量,然后可以进行满足约束的模型合成。对待注册的具有非刚体变形的点云,可以将其视为模型的约束。
具体地,各个主成分特征分量组成了一组基向量,这一组基向量反应了模型库变形的主要分量。这一组基向量可以视为变形空间的一组基底,本发明实施例优化这组基底对应的权重,来生成满足约束的模型。
步骤204:获取目标体的深度数据,根据所述满足约束的模型以及所述目标体的深度数据建立所述目标体的三维运动模型。
本发明实施例中,通过深度相机目标体的深度数据,由于该深度数据由类似云状的多个点集组成,因此该深度数据也称为点云。结合满足约束的模型以及点云,进行模型的迭代优化,最终得到满足收敛条件的三维运动模型。
本发明实施例的技术方案,可以获取到目标体的三维运动模型,即获取到的目标体的三维模型是动态的,此外,可以获取到高质量的目标体的动态几何外观。
图4为本发明实施例三的基于数据驱动的模型处理方法的流程示意图,如图4所示,所述基于数据驱动的模型处理方法包括以下步骤:
步骤401:从模型库中选择出任意一个三维网格模型作为第一基准模型;基于所述第一基准模型获取所述模型库中各个三维网格模型的特征向量。
本发明实施例中,模型库中包括多个三维网格模型,这里,三维网格模型具体为三角网格模型,三角网格模型是由多个三角形的表面组成的立体模型。参照图3,图3示意出了一种简易的三角网格模型,组成三角网格模型的三角形称为三角面片。对模型库进行分析具体是对模型库中的各个三维网格模型进行分析,从而得到各个三维网格模型的特征向量。
本发明实施例中,所述基于所述第一基准模型获取所述模型库中各个三维网格模型的特征向量,包括:
对所述三维网格模型的各个三角面片分别建立局部坐标架;
基于所述第一基准模型获取所述三维网格模型的各个三角面片的变形梯度,其中,所述变形梯度与所述局部坐标架相关联;
对所述三维网格模型的各个三角面片的变形梯度进行极分解以及转化,得到所述三维网格模型的特征向量。
具体地,三维网格模型作记作M(V,F),其中,V表示顶点集合,F表示三角面片集合,参照图3,将三维网格模型上的一个三角面片记作(v1,v2,v3),其中,v1、v2、v3分别表示三角面片的三个顶点。通过v1、v2、v3计算得到该三角面片的法向量n,三角面片的两条边和法向量(v1-v2,v1-v3,n)组成一个局部坐标架。
模型库中的第i个三维网格模型的第j个三角面片上的坐标架定义为Vi j。不失一般性,取模型库中的第一个模型为基准模型(也即第一基准模型),第i个模型第j个三角面片的变形梯度
Figure BDA0000975198620000081
定义为(V1 j)-1Vi j,对变形梯度
Figure BDA0000975198620000082
进行极分解得到反映变形模型局部刚体变化的分量
Figure BDA0000975198620000083
以及
Figure BDA0000975198620000084
其中,
Figure BDA0000975198620000085
利用指数变换将刚体变化矩阵
Figure BDA0000975198620000086
转化为
Figure BDA0000975198620000087
将所有的对数矩阵
Figure BDA0000975198620000088
和伸缩矩阵
Figure BDA0000975198620000089
收集起来,就可以得到反映模型的特征fi。该特征分布在一个线性空间中,通过其中的对数矩阵可以通过指数变换得到新的刚体变换矩阵。
S(f)为特征向量f的重建函数,根据特征向量f重构其几何外观。这里,几何外观也即是三维运动模型。
步骤402:建立所述第一基准模型与待注册的模型之间对应关系;根据所述对应关系对所述第一基准模型进行变形,得到第二基准模型;依据所述第二基准模型,对所述各个三维网格模型的特征向量进行重构,并通过主成分分析得到所述各个三维网格模型的主成分特征分量。
本发明实施例中,由于模型库中的三维网格模型与待注册的模型在几何外观上不完全一致,所以模型库进行变形,以将将模型库传播到待注册的模型。这里,传播的意思是指将模型库中的三维网格模型的形状变形到与待注册的模型相一致。
本发明实施例中,由于各个三维网格模型的特征向量是基于原模型库提取到的,当原模型库进行变形后,需要对各个三维网格模型的特征向量进行重构,再从重构的特征向量中提取出主成分特征分量。
具体地,参照图5,通过替换基准模型即可以达到传播的目的,为此,需要将基准模型的几何外观变形到与待注册的模型一致,即将原来的第一基准模型变形到新的第二基准模型。为了适用模型库中的特征,本发明实施例保持两个基准模型的顶点拓扑连接关系一致。
本发明实施例中,由于模型库的变形的本质维度是低维的,所以通过主成份分析能够得到反映模型库中的三维网格模型变形的主成分分量,称为主成分特征分量
Figure BDA0000975198620000091
具体地,将各个三维网格模型的特征向量组成一个矩阵,通过对其进行SVD分解得到反映其主要变形特征的分量,也即主成分特征分量。
本发明实施例中,结合新的第二基准模型以及主成分特征分量,就得到了反映模型库非刚体变形的先验信息。
步骤403:优化所述主成分特征分量对应的权重,并根据优化后的权重生成满足约束的模型。
本发明实施例中,通过上述特征向量的分析与传播,得到变形后的模型库以及主成分特征分量,然后可以进行满足约束的模型合成。对待注册的具有非刚体变形的点云,可以将其视为模型的约束。
具体地,各个主成分特征分量组成了一组基向量
Figure BDA0000975198620000101
这一组基向量反应了模型库变形的主要分量。这一组基向量可以视为变形空间的一组基底,本发明实施例优化这组基底对应的权重wi,来生成满足约束的模型。
满足约束的模型合成的优化能量定义如下:
Figure BDA0000975198620000102
其中,H是待注册点云的子集,v是对当前模型上对应顶点的约束点。G是当前的模型。因为由深度相机得到的点云具有噪音大,精度低,分布稀疏的特点,本发明实施例使用核函数的来度量合成的模型与扫描点云之间的距离,从而可以有效的避免噪点所产生的影响。
同时,由于单目深度相机扫描得到的点云是单目的,所以将合成模型上所有的顶点与点云度量距离是不合理的,本发明实施例使用最近点的启发式原则,参照图6,只考虑那些距离点云最近的模型顶点上的集合H。
为了求解上述非线性优化问题,本发明实施例使用高斯牛顿法求解并用多核CPU加速,相比于非数据驱动的模型变形方法,数据驱动的方法由于是根据已知模型来合成模型,所以变形的结果会更加合理自然。
步骤404:获取目标体的点云数据;设置顶点约束条件以及顶点到面的约束条件;基于所述顶点约束条件以及顶点到面的约束条件,对所述目标体的模型进行合成;基于合成的所述目标体的模型,对点云进行最近点的搜索,并更新所述顶点约束条件以及顶点到面的约束条件;基于更新的顶点约束条件以及顶点到面的约束条件,更新所述目标体的模型;重复更新顶点约束条件、顶点到面的约束条件以及所述目标体的模型,直至满足收敛条件为止,得到所述目标体的三维运动模型。
本发明实施例中,通过深度相机目标体的深度数据,由于该深度数据由类似云状的多个点集组成,因此该深度数据也称为点云。结合满足约束的模型以及点云,进行模型的迭代优化,最终得到满足收敛条件的三维运动模型。
本发明实施例中,所述顶点约束条件用于约束点云至模型的距离最近,所述顶点到面的约束条件用于约束点云沿模型法线方向投影的距离最近。
具体地,顶点约束为:
Figure BDA0000975198620000111
顶点到面的约束为:
Figure BDA0000975198620000113
其中,
Figure BDA0000975198620000112
为核函数,G[h]是当前的模型上的顶点,n[h]为模型上的法向,v[h]是点云上距离G[h]最近的顶点,H是待注册点云的子集。满足上述约束在对模型进行合成后,就可以得到一个优化后的模型;下一步继续根据这个模型来对点云搜索最近点,建立新的约束来生成模型。如此迭代,直至满足收敛条件。
之后,基于所述顶点约束条件以及顶点到面的约束条件,对所述目标体的三维运动模型进行顶点位置优化以及顶点上的刚体变换优化。
具体地,经过上述迭代,可以得到一个和待注册点云接近的模型。由于主成分特征分量反映的是模型的大尺度的几何变化,所以为了生成待注册模型的几何细节。在完成上述迭代的优化之后,下一步需要进一步优化模型的细节。同样是给定上述约束,这次优化每个顶点的位置以及顶点上的刚体变换。通过该优化,就可以得到更加准确的目标体的三维运动模型。
本发明实施例的技术方案中,待注册模型的意思是待建立模型。
本发明实施例的技术方案,可以获取到目标体的三维运动模型,即获取到的目标体的三维模型是动态的,此外,可以获取到高质量的目标体的动态几何外观。
图7为本发明实施例四的基于数据驱动的模型处理设备的结构组成示意图,如图7所示,所述基于数据驱动的模型处理设备包括:
分析单元71,用于对模型库进行分析,得到模型库中各个三维网格模型的特征向量;
变形及提取单元72,用于对所述模型库进行变形,基于变形后的模型库从所述各个三维网格模型的特征向量中提取出主成分特征分量;
模型建立单元73,用于获取目标体的深度数据,根据所述满足约束的模型以及所述目标体的深度数据建立所述目标体的三维运动模型。
本领域技术人员应当理解,图7所示的基于数据驱动的模型处理设备中的各单元的实现功能可参照前述基于数据驱动的模型处理方法的相关描述而理解。图7所示的基于数据驱动的模型处理设备中的各单元的功能可通过运行于处理器上的程序而实现,也可通过具体的逻辑电路而实现。
图8为本发明实施例五的基于数据驱动的模型处理设备的结构组成示意图,如图8所示,所述基于数据驱动的模型处理设备包括:
分析单元81,用于对模型库进行分析,得到模型库中各个三维网格模型的特征向量;
变形及提取单元82,用于对所述模型库进行变形,基于变形后的模型库从所述各个三维网格模型的特征向量中提取出主成分特征分量;
模型建立单元83,用于获取目标体的深度数据,根据所述满足约束的模型以及所述目标体的深度数据建立所述目标体的三维运动模型。
所述分析单元81,还用于从模型库中选择出任意一个三维网格模型作为第一基准模型;基于所述第一基准模型获取所述模型库中各个三维网格模型的特征向量。
所述分析单元81,还用于对所述三维网格模型的各个三角面片分别建立局部坐标架;基于所述第一基准模型获取所述三维网格模型的各个三角面片的变形梯度,其中,所述变形梯度与所述局部坐标架相关联;对所述三维网格模型的各个三角面片的变形梯度进行极分解以及转化,得到所述三维网格模型的特征向量。
所述变形及提取单元82,还用于建立所述第一基准模型与待注册的模型之间对应关系;根据所述对应关系对所述第一基准模型进行变形,得到第二基准模型;依据所述第二基准模型,对所述各个三维网格模型的特征向量进行重构,并通过主成分分析得到所述各个三维网格模型的主成分特征分量。
所述模型建立单元83,还用于获取目标体的点云数据;设置顶点约束条件以及顶点到面的约束条件,其中,所述顶点约束条件用于约束点云至模型的距离最近,所述顶点到面的约束条件用于约束点云沿模型法线方向投影的距离最近;基于所述顶点约束条件以及顶点到面的约束条件,对所述目标体的模型进行合成;基于合成的所述目标体的模型,对点云进行最近点的搜索,并更新所述顶点约束条件以及顶点到面的约束条件;基于更新的顶点约束条件以及顶点到面的约束条件,更新所述目标体的模型;重复更新顶点约束条件、顶点到面的约束条件以及所述目标体的模型,直至满足收敛条件为止,得到所述目标体的三维运动模型。
所述设备还包括:优化单元84,用于基于所述顶点约束条件以及顶点到面的约束条件,对所述目标体的三维运动模型进行顶点位置优化以及顶点上的刚体变换优化。
本领域技术人员应当理解,图8所示的基于数据驱动的模型处理设备中的各单元的实现功能可参照前述基于数据驱动的模型处理方法的相关描述而理解。图8所示的基于数据驱动的模型处理设备中的各单元的功能可通过运行于处理器上的程序而实现,也可通过具体的逻辑电路而实现。
参照图9,图9为本发明实施例的应用场景示意图,基于数据驱动的模型处理设备为计算机,计算机对模型库进行分析,得到模型库中各个三维网格模型的特征向量;对模型库进行分析,得到模型库中各个三维网格模型的特征向量;计算机获取深度相机拍摄的人体的深度数据,根据所述满足约束的模型以及所述目标体的深度数据建立所述人体的三维运动模型。
本发明实施例所记载的技术方案之间,在不冲突的情况下,可以任意组合。
在本发明所提供的几个实施例中,应该理解到,所揭露的方法和智能设备,可以通过其它的方式实现。以上所描述的设备实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,如:多个单元或组件可以结合,或可以集成到另一个系统,或一些特征可以忽略,或不执行。另外,所显示或讨论的各组成部分相互之间的耦合、或直接耦合、或通信连接可以是通过一些接口,设备或单元的间接耦合或通信连接,可以是电性的、机械的或其它形式的。
上述作为分离部件说明的单元可以是、或也可以不是物理上分开的,作为单元显示的部件可以是、或也可以不是物理单元,即可以位于一个地方,也可以分布到多个网络单元上;可以根据实际的需要选择其中的部分或全部单元来实现本实施例方案的目的。
另外,在本发明各实施例中的各功能单元可以全部集成在一个第二处理单元中,也可以是各单元分别单独作为一个单元,也可以两个或两个以上单元集成在一个单元中;上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。

Claims (12)

1.一种基于数据驱动的模型处理方法,其特征在于,所述方法包括:
对模型库进行分析,得到所述模型库中各个三维网格模型的特征向量;
对所述模型库进行变形,从变形后的模型库中所述各个三维网格模型的特征向量中提取出主成分特征分量;
获取扫描得到的目标体的点云数据,通过度量所述变形后的模型库中作为基准模型的三维网格模型和所述目标体的点云数据之间的距离,构造能量优化函数,并根据所述能量优化函数的求解结果获取所述主成分特征分量对应的权重;
基于所述基准模型以及所述主成分特征分量对应的权重,形成对应于所述点云数据的模型;
基于顶点约束条件以及顶点到面的约束条件,并以形成的对应于所述点云数据的模型为基础,获取所述目标体的三维运动模型,
其中,所述顶点约束条件用于约束所述点云数据至对应于所述点云数据的模型的距离最近,所述顶点到面的约束条件用于约束所述点云数据沿对应于所述点云数据的模型法线方向投影的距离最近;
基于所述目标体的三维运动模型,对所述点云数据进行最近点的搜索,并更新所述顶点约束条件以及顶点到面的约束条件,以更新迭代所述目标体的三维运动模型,直至得到满足收敛条件的所述目标体的三维运动模型。
2.根据权利要求1所述的基于数据驱动的模型处理方法,其特征在于,所述对模型库进行分析,得到所述模型库中各个三维网格模型的特征向量,包括:
从所述模型库中选择出任意一个三维网格模型作为第一基准模型;
基于所述第一基准模型获取所述模型库中各个三维网格模型的特征向量。
3.根据权利要求2所述的基于数据驱动的模型处理方法,其特征在于,所述基于所述第一基准模型获取所述模型库中各个三维网格模型的特征向量,包括:
对所述三维网格模型的各个三角面片分别建立局部坐标架;
基于所述第一基准模型获取所述三维网格模型的各个三角面片的变形梯度,其中,所述变形梯度与所述局部坐标架相关联;
对所述三维网格模型的各个三角面片的变形梯度进行极分解以及转化,得到所述三维网格模型的特征向量。
4.根据权利要求2所述的基于数据驱动的模型处理方法,其特征在于,所述对所述模型库进行变形,从变形后的模型库中所述各个三维网格模型的特征向量中提取出主成分特征分量,包括:
建立所述第一基准模型与待建立模型之间对应关系;
根据所述对应关系对所述第一基准模型进行变形,得到第二基准模型,以作为所述变形后的模型库中的基准模型;
依据所述第二基准模型,对所述各个三维网格模型的特征向量进行重构,并通过主成分分析得到所述各个三维网格模型的主成分特征分量。
5.根据权利要求1所述的基于数据驱动的模型处理方法,其特征在于,
所述基于所述目标体的三维运动模型,对所述点云数据进行最近点的搜索,并更新所述顶点约束条件以及顶点到面的约束条件以更新迭代所述目标体的三维运动模型,直至得到满足收敛条件的所述目标体的三维运动模型,包括:
基于所述目标体的三维运动模型,对所述点云数据进行最近点的搜索,并更新所述顶点约束条件以及顶点到面的约束条件;
基于更新的顶点约束条件以及顶点到面的约束条件,更新所述目标体的三维运动模型;
重复更新顶点约束条件、顶点到面的约束条件以及所述目标体的三维运动模型,直至得到满足所述收敛条件的所述目标体的三维运动模型。
6.根据权利要求5所述的基于数据驱动的模型处理方法,其特征在于,所述方法还包括:
基于所述顶点约束条件以及顶点到面的约束条件,对所述目标体的三维运动模型进行顶点位置优化以及顶点上的刚体变换优化。
7.一种基于数据驱动的模型处理设备,其特征在于,所述设备包括:
分析单元,用于对模型库进行分析,得到所述模型库中各个三维网格模型的特征向量;
变形及提取单元,用于对所述模型库进行变形,从变形后的模型库中所述各个三维网格模型的特征向量中提取出主成分特征分量;
模型建立单元,用于获取扫描得到的目标体的点云数据,通过度量所述变形后的模型库中作为基准模型的三维网格模型和所述目标体的点云数据之间的距离,构造能量优化函数,并根据所述能量优化函数的求解结果获取所述主成分特征分量对应的权重;基于所述基准模型以及所述主成分特征分量对应的权重,形成对应于所述点云数据的模型;基于顶点约束条件以及顶点到面的约束条件,并以形成的对应于所述点云数据的模型为基础,获取所述目标体的三维运动模型,其中,所述顶点约束条件用于约束所述点云数据至对应于所述点云数据的模型的距离最近,所述顶点到面的约束条件用于约束所述点云数据沿对应于所述点云数据的模型法线方向投影的距离最近;基于所述目标体的三维运动模型,对所述点云数据进行最近点的搜索,并更新所述顶点约束条件以及顶点到面的约束条件,以更新迭代所述目标体的三维运动模型,直至得到满足收敛条件的所述目标体的三维运动模型。
8.根据权利要求7所述的基于数据驱动的模型处理设备,其特征在于,所述分析单元,还用于从模型库中选择出任意一个三维网格模型作为第一基准模型;基于所述第一基准模型获取所述模型库中各个三维网格模型的特征向量。
9.根据权利要求8所述的基于数据驱动的模型处理设备,其特征在于,所述分析单元,还用于对所述三维网格模型的各个三角面片分别建立局部坐标架;基于所述第一基准模型获取所述三维网格模型的各个三角面片的变形梯度,其中,所述变形梯度与所述局部坐标架相关联;对所述三维网格模型的各个三角面片的变形梯度进行极分解以及转化,得到所述三维网格模型的特征向量。
10.根据权利要求8所述的基于数据驱动的模型处理设备,其特征在于,所述变形及提取单元,还用于建立所述第一基准模型与待建立模型之间对应关系;根据所述对应关系对所述第一基准模型进行变形,得到第二基准模型,以作为所述变形后的模型库中的基准模型;依据所述第二基准模型,对所述各个三维网格模型的特征向量进行重构,并通过主成分分析得到所述各个三维网格模型的主成分特征分量。
11.根据权利要求7所述的基于数据驱动的模型处理设备,其特征在于,所述模型建立单元,还用于基于所述目标体的三维运动模型,对所述点云数据进行最近点的搜索,并更新所述顶点约束条件以及顶点到面的约束条件;基于更新的顶点约束条件以及顶点到面的约束条件,更新所述目标体的三维运动模型;重复更新顶点约束条件、顶点到面的约束条件以及所述目标体的三维运动模型,直至得到满足所述收敛条件的所述目标体的三维运动模型。
12.根据权利要求11所述的基于数据驱动的模型处理设备,其特征在于,所述设备还包括:
优化单元,用于基于所述顶点约束条件以及顶点到面的约束条件,对所述目标体的三维运动模型进行顶点位置优化以及顶点上的刚体变换优化。
CN201610270164.5A 2016-04-26 2016-04-26 一种基于数据驱动的模型处理方法及设备 Active CN107316343B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610270164.5A CN107316343B (zh) 2016-04-26 2016-04-26 一种基于数据驱动的模型处理方法及设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610270164.5A CN107316343B (zh) 2016-04-26 2016-04-26 一种基于数据驱动的模型处理方法及设备

Publications (2)

Publication Number Publication Date
CN107316343A CN107316343A (zh) 2017-11-03
CN107316343B true CN107316343B (zh) 2020-04-07

Family

ID=60185722

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610270164.5A Active CN107316343B (zh) 2016-04-26 2016-04-26 一种基于数据驱动的模型处理方法及设备

Country Status (1)

Country Link
CN (1) CN107316343B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108986191B (zh) * 2018-07-03 2023-06-27 百度在线网络技术(北京)有限公司 人物动作的生成方法、装置及终端设备
CN112579565B (zh) * 2020-11-30 2023-04-18 贵州力创科技发展有限公司 一种数据分析引擎的数据模型管理方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101719140A (zh) * 2009-12-23 2010-06-02 中山大学 一种图形检索方法
CN102693549A (zh) * 2011-03-25 2012-09-26 上海日浦信息技术有限公司 一种虚拟人群运动的三维可视化方法
CN103729872A (zh) * 2013-12-30 2014-04-16 浙江大学 一种基于分段重采样和表面三角化的点云增强方法
CN105205858A (zh) * 2015-09-18 2015-12-30 天津理工大学 一种基于单个深度视觉传感器的室内场景三维重建方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040196282A1 (en) * 2003-02-14 2004-10-07 Oh Byong Mok Modeling and editing image panoramas

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101719140A (zh) * 2009-12-23 2010-06-02 中山大学 一种图形检索方法
CN102693549A (zh) * 2011-03-25 2012-09-26 上海日浦信息技术有限公司 一种虚拟人群运动的三维可视化方法
CN103729872A (zh) * 2013-12-30 2014-04-16 浙江大学 一种基于分段重采样和表面三角化的点云增强方法
CN105205858A (zh) * 2015-09-18 2015-12-30 天津理工大学 一种基于单个深度视觉传感器的室内场景三维重建方法

Also Published As

Publication number Publication date
CN107316343A (zh) 2017-11-03

Similar Documents

Publication Publication Date Title
CN111598998B (zh) 三维虚拟模型重建方法、装置、计算机设备和存储介质
US10304244B2 (en) Motion capture and character synthesis
WO2022001236A1 (zh) 三维模型生成方法、装置、计算机设备及存储介质
CN108154104B (zh) 一种基于深度图像超像素联合特征的人体姿态估计方法
CN108694740A (zh) 信息处理设备、信息处理方法以及用户设备
CN103268629B (zh) 三维人体形态和姿态的无标记点实时复原方法
CN109829972B (zh) 一种面向连续帧点云的三维人体标准骨架提取方法
Sheng et al. A lightweight surface reconstruction method for online 3D scanning point cloud data oriented toward 3D printing
CN107316343B (zh) 一种基于数据驱动的模型处理方法及设备
Zhao et al. Deep equilibrium models for video snapshot compressive imaging
CN114612612A (zh) 人体姿态估计方法及装置、计算机可读介质、电子设备
Zhao et al. Deep equilibrium models for snapshot compressive imaging
CN111612887B (zh) 一种人体测量方法和装置
CN105321205B (zh) 一种基于稀疏关键点的参数化人体模型重建方法
CN109934926B (zh) 模型数据处理方法、装置、可读存储介质和设备
CN116797733A (zh) 实时三维物体动态重建方法
KR20230098058A (ko) 3차원 데이터 증강 방법, 모델 트레이닝 검출 방법, 설비 및 자율 주행 차량
CN110543845A (zh) 一种三维人脸的人脸级联回归模型训练方法及重建方法
CN113298948B (zh) 三维网格重建方法、装置、设备及存储介质
Yan et al. Design and Implementation of Virtual Education Laboratory
Dhibi et al. Multi‐mother wavelet neural network‐based on genetic algorithm and multiresolution analysis for fast 3D mesh deformation
CN116912433B (zh) 三维模型骨骼绑定方法、装置、设备及存储介质
CN115797567B (zh) 一种衣物三维驱动模型的建立方法、装置、设备及介质
Huang et al. Phrit: Parametric hand representation with implicit template
CN117496072B (zh) 一种三维数字人生成和交互方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant