CN112037315A - 一种局部描述子的生成方法、模型生成的方法及装置 - Google Patents

一种局部描述子的生成方法、模型生成的方法及装置 Download PDF

Info

Publication number
CN112037315A
CN112037315A CN202010899254.7A CN202010899254A CN112037315A CN 112037315 A CN112037315 A CN 112037315A CN 202010899254 A CN202010899254 A CN 202010899254A CN 112037315 A CN112037315 A CN 112037315A
Authority
CN
China
Prior art keywords
local
trained
model
wavelet
energy
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010899254.7A
Other languages
English (en)
Inventor
王逸群
郭建伟
殷俊
严冬明
张晓鹏
邓大付
王巨宏
刘婷婷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Institute of Automation of Chinese Academy of Science
Original Assignee
Tencent Technology Shenzhen Co Ltd
Institute of Automation of Chinese Academy of Science
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd, Institute of Automation of Chinese Academy of Science filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN202010899254.7A priority Critical patent/CN112037315A/zh
Publication of CN112037315A publication Critical patent/CN112037315A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/005General purpose rendering architectures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Image Analysis (AREA)

Abstract

本申请公开了一种应用于人工智能领域的局部描述子生成方法,本申请包括获取待处理模型中每个局部顶点所对应的小波能量,得到M个小波能量;根据M个小波能量确定M个小波能量贡献值;根据M个小波能量贡献值确定M个能量特征向量;基于M个能量特征向量,通过图卷积神经网络获取待处理模型所对应的M个局部描述子。本申请还公开了一种模型生成的方法及装置,本申请可利用图卷积神经网络直接获取局部描述子,无需使用后处理的手段,很大程度上减少后处理的时间,提升生成局部描述子的效率。

Description

一种局部描述子的生成方法、模型生成的方法及装置
技术领域
本申请涉及计算机视觉技术领域,尤其涉及一种局部描述子的生成方法、模型生成的方法及装置。
背景技术
随着三维扫描设备和计算机视觉重建技术的发展,获取详细的三维形状变得越来越容易。相较于图像,三维形状表达的信息更为丰富,目前广泛应用于许多应用,包括机器人、医疗、影视和计算机辅助设计等等领域。而这些应用避免不了对三维形状的分析,比如三维形状匹配,形状部件分割或者形状检索识别等。
三维形状的局部描述子是分析三维形状的基石,目前,已有一种局部描述子的生成方法,即先对表面三角网络模型中的每个顶点,在频域中提取三维形状局部点(LocalPoint Signature,LPS)特征,再基于LPS特征获取三维形状的每个顶点对应的顶点频域图像(Vertex Spectral Image,VSI),最后得到通过神经网络得到局部描述子。
然而,在上述方法中,基于LPS特征和VSI需要计算局部测地距离,并且还需要使用函数图(Functional Maps)、迭代最近点(Iterative Closest Point)或者误匹配筛检等后处理的方法,导致生成局部描述子的效率低下。
发明内容
本申请实施例提供了一种局部描述子的生成方法、模型生成的方法及装置,可利用图卷积神经网络直接获取局部描述子,无需使用后处理的手段,很大程度上减少后处理的时间,提升生成局部描述子的效率。
有鉴于此,本申请一方面提供一种局部描述子的生成方法,包括:
获取待处理模型中每个局部顶点所对应的小波能量,得到M个小波能量,其中,待处理模型包括M个局部顶点,且局部顶点与小波能量具有一一对应的关系,M为大于或等于1的整数;
根据M个小波能量确定M个小波能量贡献值,其中,小波能量贡献值表示局部顶点针对待处理模型在第一尺度上的贡献,小波能量贡献值与局部顶点具有一一对应的关系;
根据M个小波能量贡献值确定M个能量特征向量,其中,能量特征向量与局部顶点具有一一对应的关系;
基于M个能量特征向量,通过图卷积神经网络获取待处理模型所对应的M个局部描述子,其中,局部描述子与局部顶点具有一一对应的关系。
本申请另一方面提供一种模型生成的方法,包括:
获取第一对象所对应的待处理模型中每个局部顶点的小波能量,得到M个小波能量,其中,待处理模型包括M个局部顶点,局部顶点与小波能量具有一一对应的关系,M为大于或等于1的整数;
根据M个小波能量确定M个小波能量贡献值,其中,小波能量贡献值表示局部顶点针对待处理模型在第一尺度上的贡献,小波能量贡献值与局部顶点具有一一对应的关系;根据M个小波能量贡献值确定M个能量特征向量,其中,能量特征向量与局部顶点具有一一对应的关系;
基于M个能量特征向量,通过图卷积神经网络获取待处理模型所对应的M个局部描述子,其中,局部描述子与局部顶点具有一一对应的关系;
根据待处理模型所对应的M个局部顶点以及M个局部描述子,生成第二对象所对应的目标模型。
本申请另一方面提供一种局部描述子生成装置,包括:
获取模块,用于获取待处理模型中每个局部顶点所对应的小波能量,得到M个小波能量,其中,待处理模型包括M个局部顶点,且局部顶点与小波能量具有一一对应的关系,M为大于或等于1的整数;
确定模块,用于根据M个小波能量确定M个小波能量贡献值,其中,小波能量贡献值表示局部顶点针对待处理模型在第一尺度上的贡献,小波能量贡献值与局部顶点具有一一对应的关系;
确定模块,还用于根据M个小波能量贡献值确定M个能量特征向量,其中,能量特征向量与局部顶点具有一一对应的关系;
获取模块,还用于基于M个能量特征向量,通过图卷积神经网络获取待处理模型所对应的M个局部描述子,其中,局部描述子与局部顶点具有一一对应的关系。
在一种可能的设计中,在本申请实施例的另一方面的一种实现方式中,
获取模块,具体用于针对于待处理模型中的第v个局部顶点,获取第v个局部顶点所对应的特征值,其中,第v个局部顶点为M个局部顶点中的任意一个局部顶点,v为大于或等于0,且小于M的整数;
针对于待处理模型中的第v个局部顶点,获取第v个局部顶点所对应的小波能量系数;
针对于待处理模型中的第v个局部顶点,根据第v个局部顶点所对应的小波能量系数以及第v个局部顶点所对应的特征值,确定第v个局部顶点所对应的小波能量。
在一种可能的设计中,在本申请实施例的另一方面的另一种实现方式中,
确定模块,具体用于针对于待处理模型中的第v个局部顶点,根据第v个局部顶点的小波能量确定第v个局部顶点所对应的分解值,其中,第v个局部顶点为M个局部顶点中的任意一个局部顶点,v为大于或等于0,且小于M的整数;
针对于待处理模型中的第v个局部顶点,获取第v个局部顶点所对应的小波能量系数;
针对于待处理模型中的第v个局部顶点,根据第v个局部顶点所对应的小波能量系数以及第v个局部顶点所对应的分解值,确定第v个局部顶点所对应的小波能量贡献值。
在一种可能的设计中,在本申请实施例的另一方面的另一种实现方式中,
确定模块,具体用于针对于待处理模型中的第v个局部顶点,获取第v个局部顶点所对应的归一化小波函数,其中,第v个局部顶点为M个局部顶点中的任意一个局部顶点,v为大于或等于0,且小于M的整数;
针对于待处理模型中的第v个局部顶点,根据第v个局部顶点所对应的归一化小波函数以及第v个局部顶点所对应的小波能量贡献值,确定第v个局部顶点所对应的能量特征向量。
在一种可能的设计中,在本申请实施例的另一方面的另一种实现方式中,
获取模块,具体用于基于M个能量特征向量,通过图卷积神经网络所包括的至少一层卷积神经网络获取M个目标特征向量;
基于M个目标特征向量,通过图卷积神经网络所包括的至少一层全连接神经网络获取M个局部描述子。
在一种可能的设计中,在本申请实施例的另一方面的另一种实现方式中,局部描述子生成装置还包括训练模块;
获取模块,还用于基于M个能量特征向量,通过图卷积神经网络获取待处理模型所对应的M个局部描述子之前,获取待训练模型中每个待训练顶点所对应的待训练小波能量,得到M个待训练小波能量,其中,待训练模型包括M个待训练顶点,且待训练顶点与待训练小波能量具有一一对应的关系;
确定模块,还用于根据M个待训练小波能量确定M个待训练小波能量贡献值,其中,待训练小波能量贡献值与待训练顶点具有一一对应的关系;
确定模块,还用于根据M个待训练小波能量贡献值确定M个待训练能量特征向量,其中,待训练能量特征向量与待训练顶点具有一一对应的关系;
获取模块,还用于基于M个待训练能量特征向量,通过待训练图卷积神经网络获取待训练模型所对应的M个待训练局部描述子,其中,待训练局部描述子与待训练顶点具有一一对应的关系;
获取模块,还用于获取正样本模型所对应的M个正样本局部描述子;
训练模块,用于根据M个正样本局部描述子以及M个待训练局部描述子,对待训练图卷积神经网络进行训练,直至满足模型训练条件,输出图卷积神经网络。
在一种可能的设计中,在本申请实施例的另一方面的另一种实现方式中,
获取模块,具体用于获取正样本模型中每个正样本顶点所对应的正样本小波能量,得到M个正样本小波能量,其中,正样本模型包括M个正样本顶点,且正样本顶点与正样本小波能量具有一一对应的关系;
根据M个正样本小波能量确定M个正样本小波能量贡献值,其中,正样本小波能量贡献值与正样本小波能量具有一一对应的关系;
根据M个正样本小波能量贡献值确定M个正样本能量特征向量,其中,正样本能量特征向量与正样本顶点具有一一对应的关系;
基于M个正样本能量特征向量,通过待训练图卷积神经网络获取正样本模型所对应的M个正样本局部描述子,其中,正样本局部描述子与正样本顶点具有一一对应的关系;
训练模块,具体用于针对于待训练模型中的每个待训练顶点以及每个待训练顶点所对应的正样本顶点,采用度量损失函数计算待训练局部描述子与正样本局部描述子之间的损失值,得到M个损失值;
根据M个损失值对待训练图卷积神经网络的模型参数进行更新;
若满足模型训练条件,则根据更新后的模型参数获取图卷积神经网络。
在一种可能的设计中,在本申请实施例的另一方面的另一种实现方式中,局部描述子生成装置还包括训练模块;
获取模块,还用于基于M个能量特征向量,通过图卷积神经网络获取待处理模型所对应的M个局部描述子之前,获取待训练模型中每个待训练顶点所对应的待训练小波能量,得到M个待训练小波能量,其中,待训练模型包括M个待训练顶点,且待训练顶点与待训练小波能量具有一一对应的关系;
确定模块,还用于根据M个待训练小波能量确定M个待训练小波能量贡献值,其中,待训练小波能量贡献值与待训练顶点具有一一对应的关系;
确定模块,还用于根据M个待训练小波能量贡献值确定M个待训练能量特征向量,其中,待训练能量特征向量与待训练顶点具有一一对应的关系;
获取模块,还用于基于M个待训练能量特征向量,通过待训练图卷积神经网络获取待训练模型所对应的M个待训练局部描述子,其中,待训练局部描述子与待训练顶点具有一一对应的关系;
获取模块,还用于获取正样本模型所对应的M个正样本局部描述子;
获取模块,还用于获取负样本模型所对应的M个负样本局部描述子;
训练模块,用于根据M个正样本局部描述子、M个负样本局部描述子以及M个待训练局部描述子,对待训练图卷积神经网络进行训练,直至满足模型训练条件,输出图卷积神经网络。
在一种可能的设计中,在本申请实施例的另一方面的另一种实现方式中,
获取模块,具体用于获取正样本模型中每个正样本顶点所对应的正样本小波能量,得到M个正样本小波能量,其中,正样本模型包括M个正样本顶点,且正样本顶点与正样本小波能量具有一一对应的关系;
根据M个正样本小波能量确定M个正样本小波能量贡献值,其中,正样本小波能量贡献值与正样本小波能量具有一一对应的关系;
根据M个正样本小波能量贡献值确定M个正样本能量特征向量,其中,正样本能量特征向量与正样本顶点具有一一对应的关系;
基于M个正样本能量特征向量,通过待训练图卷积神经网络获取正样本模型所对应的M个正样本局部描述子,其中,正样本局部描述子与正样本顶点具有一一对应的关系;
获取模块,具体用于获取负样本模型中每个负样本顶点所对应的负样本小波能量,得到M个负样本小波能量,其中,负样本模型包括M个负样本顶点,且负样本顶点与负样本小波能量具有一一对应的关系;
根据M个负样本小波能量确定M个负样本小波能量贡献值,其中,负样本小波能量贡献值与负样本小波能量具有一一对应的关系;
根据M个负样本小波能量贡献值确定M个负样本能量特征向量,其中,负样本能量特征向量与负样本顶点具有一一对应的关系;
基于M个负样本能量特征向量,通过待训练图卷积神经网络获取负样本模型所对应的M个负样本局部描述子,其中,负样本局部描述子与负样本顶点具有一一对应的关系;
训练模块,具体用于针对于待训练模型中的每个待训练顶点以及每个待训练顶点所对应的正样本顶点,采用第一度量损失函数计算待训练局部描述子与正样本局部描述子之间的第一损失值,得到M个第一损失值;
针对于待训练模型中的每个待训练顶点以及负样本顶点,采用第二度量损失函数计算待训练局部描述子与负样本局部描述子之间的第二损失值,得到M个第二损失值;
根据M个第一损失值以及M个第二损失值,对待训练图卷积神经网络的模型参数进行更新;
若满足模型训练条件,则根据更新后的模型参数获取图卷积神经网络。
本申请另一方面提供一种模型生成装置,包括:
获取模块,用于获取第一对象所对应的待处理模型中每个局部顶点的小波能量,得到M个小波能量,其中,待处理模型包括M个局部顶点,局部顶点与小波能量具有一一对应的关系,M为大于或等于1的整数;
确定模块,用于根据M个小波能量确定M个小波能量贡献值,其中,小波能量贡献值表示局部顶点针对待处理模型在第一尺度上的贡献,小波能量贡献值与局部顶点具有一一对应的关系;
确定模块,还用于根据M个小波能量贡献值确定M个能量特征向量,其中,能量特征向量与局部顶点具有一一对应的关系;
获取模块,还用于基于M个能量特征向量,通过图卷积神经网络获取待处理模型所对应的M个局部描述子,其中,局部描述子与局部顶点具有一一对应的关系;
生成模块,用于根据待处理模型所对应的M个局部顶点以及M个局部描述子,生成第二对象所对应的目标模型。
在一种可能的设计中,在本申请实施例的另一方面的一种实现方式中,模型生成装置还包括渲染模块以及展示模块;
渲染模块,用于在生成模块根据待处理模型所对应的M个局部顶点以及M个局部描述子,生成第二对象所对应的目标模型之后,根据第二对象所对应的目标模型,渲染得到三维图像;
展示模块,用于展示三维图像,或者,向终端设备发送三维图像,以使终端设备展示三维图像。
本申请另一方面提供一种计算机设备,包括:存储器、收发器、处理器以及总线系统;
其中,存储器用于存储程序;
处理器用于执行存储器中的程序,处理器用于根据程序代码中的指令执行上述各方面的方法;
总线系统用于连接存储器以及处理器,以使存储器以及处理器进行通信。
本申请的另一方面提供了一种计算机可读存储介质,计算机可读存储介质中存储有指令,当其在计算机上运行时,使得计算机执行上述各方面的方法。
本申请的另一个方面,提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述各方面所提供的方法。
从以上技术方案可以看出,本申请实施例具有以下优点:
本申请实施例中,提供了一种局部描述子的生成方法,首先获取待处理模型中每个局部顶点所对应的小波能量,得到M个小波能量,然后根据M个小波能量确定M个小波能量贡献值,再根据M个小波能量贡献值确定M个能量特征向量,最后基于M个能量特征向量,通过图卷积神经网络获取待处理模型所对应的M个局部描述子。通过上述方式,可利用图卷积神经网络直接获取局部描述子,无需使用后处理的手段,很大程度上减少后处理的时间,提升生成局部描述子的效率。
附图说明
图1为本申请实施例中局部描述子生成系统的一个架构示意图;
图2为本申请实施例中局部描述子在不同尺度和旋转下的匹配结果示例图;
图3为本申请实施例中局部描述子生成方法的一个实施例示意图;
图4为本申请实施例中局部描述子生成方法的一个流程示意图;
图5为本申请实施例中低维度到高维度特征的一个颜色编码图;
图6为本申请实施例中基于正样本模型训练图卷积神经网络的一个示意图;
图7为本申请实施例中基于正负样本模型共同训练图卷积神经网络的一个示意图;
图8为本申请实施例中学习之后的特征在不同维度上的一个展示效果图;
图9为本申请实施例中模型生成方法的一个实施例示意图;
图10为本申请实施例中模型生成方法的一个流程示意图;
图11为本申请实施例中待处理模型与目标模型之间的一个对比示意图;
图12为本申请实施例中终端设备展示三维图像的一个示意图;
图13为本申请实施例中局部描述子生成装置的一个实施例示意图;
图14为本申请实施例中模型生成装置的一个实施例示意图;
图15为本申请实施例中服务器的一个结构示意图;
图16为本申请实施例中终端设备的一个结构示意图。
具体实施方式
本申请实施例提供了一种局部描述子的生成方法、模型生成的方法及装置,可利用图卷积神经网络直接获取局部描述子,无需使用后处理的手段,很大程度上减少后处理的时间,提升生成局部描述子的效率。
本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例例如能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“对应于”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
随着三维扫描设备和重建技术的发展,能够获取大量且精确的三维形状,相较于图像,三维形状表达的信息更为丰富。三维形状能够应用于机器人、医疗、影视和计算机辅助设计等等领域,实现三维形状匹配,形状部件的分割或者形状检索的识别。本申请提供的局部描述子生成方法可具体应用于三维形状的形变迁移,适用于构建三维动画。三维形状是对图像进行滤波后得到的位置、缩放和旋转等几何信息,包含几何信息的形状对于相似变换具有不变性。
下面将结合四个领域,对本申请所涉及的应用场景进行介绍。
一、动画领域;
在计算机的三维动画中,真实人物很难化妆成实际动画中的形象(例如,动画人物“阿凡达”),因此,当真实人物在做动作时,想要对应的虚拟三维人体做同样的动作,就需要三维稠密的对应点关系,其中,对应点关系表现为局部顶点之间局部描述子。经过形变之后,通过计算得到的各个局部描述子,可以将真实人物的动作映射到虚拟人体的动作,从而达到形变迁移的效果,从而大大减少手工标记的时间,加快三维动画设计的进程,并且由于是稠密匹配,所以得到的形变迁移的精确度更高。
二、工业领域;
先获取完整零件的三维形状,然后对该三维形状计算出各个局部描述子,可以将完整零件的外形映射到待检测零件上,从而判定待检测零件的完整性,如果完整零件与待检测零件的一致性较高,则认为待检测零件是完整的,反之,则认为待检测零件是具有缺陷的。
三、医疗领域;
先获取血液细胞的三维形状、染色体的三维形状或者器官的三维形状等,然后针对三维形状计算出各个局部描述子,再基于各个局部描述子重构出异常的血液细胞、异常的染色体或者异常的器官等,从而便于对异常的部分进行分析。
为了在上述场景中获取三维形状的局部描述子,本申请提出了一种局部描述子的生成方法,该方法应用于图1所示的局部描述子生成系统,如图所示,局部描述子生成系统包括服务器和终端设备,且客户端部署于终端设备上。本申请涉及的服务器可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(Content Delivery Network,CDN)、以及大数据和人工智能平台等基础云计算服务的云服务器。终端设备可以是智能手机、平板电脑、笔记本电脑、掌上电脑、个人电脑、智能电视、智能手表等,但并不局限于此。终端设备以及服务器可以通过有线或无线通信方式进行直接或间接地连接,本申请在此不做限制。服务器和终端设备的数量也不做限制。具体地,在局部描述子生成系统中可以在线生成局部描述子,也可以离线生成局部描述子。
以在线生成局部描述子为例,首先终端设备将采集到的待处理模型发送至服务器,由服务器基于待处理模型提取每个局部顶点的小波能量,再基于每个局部顶点的小波能量计算每个局部顶点的小波能量贡献值,然后基于每个局部顶点的小波能量贡献值计算每个局部顶点的能量特征向量,最后服务器将所有顶点的能量特征向量输入至图卷积神经网络,由图卷积神经网络输出每个局部顶点的个局部描述子。服务器可以将每个局部顶点的局部描述子反馈至终端设备。
以离线生成局部描述子为例,首先终端设备将采集到的待处理模型发送至服务器,由终端设备基于待处理模型提取每个局部顶点的小波能量,再基于每个局部顶点的小波能量计算每个局部顶点的小波能量贡献值,然后基于每个局部顶点的小波能量贡献值计算每个局部顶点的能量特征向量,最后终端设备将所有局部顶点的能量特征向量输入至图卷积神经网络,由图卷积神经网络输出每个局部顶点的局部描述子。
生成局部描述子的过程涉及到基于人工智能(Artificial Intelligence,AI)的机器学习(Machine Learning,ML)技术以及计算机视觉(Computer Vision,CV)技术。其中,AI是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说,AI是计算机科学的一个综合技术,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。AI也就是研究各种智能机器的设计原理与实现方法,使机器具有感知、推理与决策的功能。
AI技术是一门综合学科,涉及领域广泛,既有硬件层面的技术也有软件层面的技术。AI基础技术一般包括如传感器、专用AI芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。AI软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
CV是一门研究如何使机器“看”的科学,更进一步的说,就是指用摄影机和电脑代替人眼对目标进行识别、跟踪和测量等机器视觉,并进一步做图形处理,使电脑处理成为更适合人眼观察或传送给仪器检测的图像。作为一个科学学科,CV研究相关的理论和技术,试图建立能够从图像或者多维数据中获取信息的AI系统。CV技术通常包括图像处理、图像识别、图像语义理解、图像检索、光学字符识别(Optical Character Recognition,OCR)、视频处理、视频语义理解、视频内容/行为识别、三维物体重建、3D技术、虚拟现实、增强现实、同步定位与地图构建等技术,还包括常见的人脸识别、指纹识别等生物特征识别技术。
ML是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。ML是AI的核心,是使计算机具有智能的根本途径,其应用遍及AI的各个领域。ML和深度学习通常包括人工神经网络、置信网络、强化学习、迁移学习、归纳学习、式教学习等技术。
基于此,生成的局部描述子是图像内部的局部结构,一般在遮挡、尺度以及旋转等复杂变化下具有可重复性和不变性。在利用局部描述子实现三维形状匹配的时候,首先需要通过局部特征检测算法对待处理模型中的局部顶点(即兴趣点)进行定位,同时得到相应的特征描述信息(例如,尺度以及主方向等),在此基础上,在局部顶点的局部邻域内对特征进行描述,以向量形式的局部描述子来表达局部特征,最后,利用局部描述子匹配等方式,在不同三维形状之间建立相同局部特征的对应关系。
为了便于介绍,请参阅图2,图2为本申请实施例中局部描述子在不同尺度和旋转下的匹配结果示例图,其中,图2中(A)图表示基于真实人物提取到的待处理模型,待处理模型可包括6890个局部顶点,对该待处理模型进行尺度缩放后得到如图2中(B)图所示的三维形状,对该待处理模型进行旋转后得到如图2中(C)图所示的三维形状,不难看出本申请可以在不同形状结构之上进行鲁棒的匹配。
结合上述介绍,本申请实施例提供的方案涉及人工智能的计算机视觉以及机器学习等技术,具体通过如下实施例进行说明,请参阅图3,本申请实施例中局部描述子生成方法的一个实施例包括:
101、获取待处理模型中每个局部顶点所对应的小波能量,得到M个小波能量,其中,待处理模型包括M个局部顶点,且局部顶点与小波能量具有一一对应的关系,M为大于或等于1的整数;
本实施例中,局部描述子生成装置先获取待处理模型,该待处理模型可以为基于真实人物提取到的三维网格模型,或者为基于真实动物提取到的三维网格模型,或者为基于部件提取到的三维网格模型,又或者基于其他物体提取到的三维网格模型,本申请不对待处理模型的来源进行限定。需要说明的是,局部描述子生成装置可以部署于终端设备,也可以部署于服务器,此处不做限定。
以待处理模型包括M个局部顶点为例,每个局部顶点都可以计算得到一个对应的小波能量。具体地,对每个局部顶点进行小波包分析,将顶点局部的信号分解为若干个高低频分量,可以计算每个小波分量的频带能量值作为小波能量。
102、根据M个小波能量确定M个小波能量贡献值,其中,小波能量贡献值表示局部顶点针对待处理模型在第一尺度上的贡献,小波能量贡献值与局部顶点具有一一对应的关系;
本实施例中,局部描述子生成装置分别对每个局部顶点的小波能量进行计算,得到小波能量贡献值,基于此,M个局部顶点对应于M个小波能量贡献值。具体地,利用数学推导的方式计算每个局部顶点对于该待处理模型在第一尺度(tm)上的贡献。
103、根据M个小波能量贡献值确定M个能量特征向量,其中,能量特征向量与局部顶点具有一一对应的关系;
本实施例中,局部描述子生成装置分别对每个局部顶点的小波能量贡献值进行计算,得到能量特征向量,即通过小波函数收集每个局部顶点上的能量,以每个局部顶点上的能量代表该顶点的特征。基于此,M个局部顶点对应于M个能量特征向量。
104、基于M个能量特征向量,通过图卷积神经网络获取待处理模型所对应的M个局部描述子,其中,局部描述子与局部顶点具有一一对应的关系。
本实施例中,局部描述子生成装置将采集到的M个能量特征向量共同输入至已训练好的图卷积神经网络(Graph Convolutional Network,GCN),由该图卷积神经网络输出待处理模型所对应的M个局部描述子,其中,每个局部描述子对应于一个局部顶点,且每个局部描述子可表示为特征向量的形式,例如,一个局部描述子可表示为256维的特征向量。
为了便于说明,请参阅图4,图4为本申请实施例中局部描述子生成方法的一个流程示意图,如图所示,首先获取待处理模型,然后为该待处理模型上每个局部顶点计算出对应的能量特征向量,再将M个局部顶点对应的能量特征向量作为图卷积神经网络的输入,图4以待处理模型中的四个局部顶点为例,假设局部顶点1的能量特征向量为X1,局部顶点2的能量特征向量为X2,局部顶点3的能量特征向量为X3,局部顶点4的能量特征向量为X4。将这四个局部顶点的能量特征向量输入至图卷积神经网络的卷积神经网络,通过若干隐层网络后,将每个局部顶点的能量特征向量变换为每个局部顶点的局部描述子。即局部顶点1的局部描述子1可表示为特征向量Z1,局部顶点2的局部描述子2可表示为特征向量Z2,局部顶点3的局部描述子3可表示为特征向量Z3,局部顶点4的局部描述子4可表示为特征向量Z4
本申请实施例中,提供了一种局部描述子的生成方法,首先获取待处理模型中每个局部顶点所对应的小波能量,得到M个小波能量,然后根据M个小波能量确定M个小波能量贡献值,再根据M个小波能量贡献值确定M个能量特征向量,最后基于M个能量特征向量,通过图卷积神经网络获取待处理模型所对应的M个局部描述子。通过上述方式,可利用图卷积神经网络直接获取局部描述子,无需使用后处理的手段,很大程度上减少后处理的时间,提升生成局部描述子的效率。
可选地,在上述图3对应的实施例的基础上,本申请实施例提供的一个可选实施例中,获取待处理模型中每个局部顶点所对应的小波能量,得到M个小波能量,具体包括如下步骤:
针对于待处理模型中的第v个局部顶点,获取第v个局部顶点所对应的特征值,其中,第v个局部顶点为M个局部顶点中的任意一个局部顶点,v为大于或等于0,且小于M的整数;
针对于待处理模型中的第v个局部顶点,获取第v个局部顶点所对应的小波能量系数;
针对于待处理模型中的第v个局部顶点,根据第v个局部顶点所对应的小波能量系数以及第v个局部顶点所对应的特征值,确定第v个局部顶点所对应的小波能量。
本实施例中,介绍了一种基于任意一个局部顶点确定小波能量的方式,由于待处理模型中包括M个局部顶点,为了便于说明,下面将以其中一个局部顶点(即待处理模型中的第v个局部顶点)为例进行介绍,需要说明的是,对于待处理模型中的其他局部顶点也采用类似方式计算其对应的小波能量,此处不一一列举。
具体地,首先定义图谱小波能量,该小波能量将顶点坐标函数F作为输入,该小波能量代表了模型信号的平滑程度,且小波能量越大越抖动,小波能量越小越平滑。可采用如下方式计算第v个局部顶点的小波能量:
Figure BDA0002659421410000101
其中,F表示顶点坐标函数。E()表示小波能量。fi表示顶点坐标函数F的第i个维度,fi T表示fi的转置。d表示待处理模型的维度,例如,对于三维待处理模型而言,d=3。A表示图(graph)或网格(mesh)上的质量矩阵。L表示拉普拉斯矩阵。N表示特征值的总数。λj表示第j个特征值。K表示表示拉普拉斯矩阵分解之后的尺度总数。tm表示第一尺度,m表示第m个尺度。v表示第v个局部顶点。γij(tm,v)表示第v个局部顶点所对应的小波能量系数,即在第一尺度tm和第v个局部顶点上的小波能量系数。需要说明的是,本申请中,对第v个局部顶点是从0开始计数的,即v的取值范围为大于或等于0,且小于或等于M的整数。
下面将介绍获取在第一尺度tm和第v个局部顶点上的小波能量系数的方式。首先利用拉普拉斯矩阵的特征值分解,可得到:
j=λjj,j=0,1,...,N-1; (公式2)
其中,φj表示第j个特征向量,每个特征向量对应于一个特征值,即第j个特征向量对应于第j个特征值。
采用如下方式计算小波能量系数:
γij(tm,v)=Wf(tm,v)gtmjj(v); (公式3)
其中,Wf()表示标准的小波系数,
Figure BDA0002659421410000111
表示给定的图谱小波的滤波器参数。
基于此,获取第v个局部顶点的N-1个特征值以及在第一尺度tm上的小波能量系数之后,基于公式1可计算得到第v个局部顶点所对应的小波能量。
其次,本申请实施例中,提供了一种基于任意一个局部顶点确定小波能量的方式,通过上述方式,能够计算出每个局部顶点的小波能量,由此提升方案的可行性和可操作性。
可选地,在上述图3对应的实施例的基础上,本申请实施例提供的另一个可选实施例中,根据M个小波能量确定M个小波能量贡献值,具体包括如下步骤:
针对于待处理模型中的第v个局部顶点,根据第v个局部顶点的小波能量确定第v个局部顶点所对应的分解值,其中,第v个局部顶点为M个局部顶点中的任意一个局部顶点,v为大于或等于0,且小于M的整数;
针对于待处理模型中的第v个局部顶点,获取第v个局部顶点所对应的小波能量系数;
针对于待处理模型中的第v个局部顶点,根据第v个局部顶点所对应的小波能量系数以及第v个局部顶点所对应的分解值,确定第v个局部顶点所对应的小波能量贡献值。
本实施例中,介绍了一种基于任意一个局部顶点确定小波能量贡献值的方式,由于待处理模型中包括M个局部顶点,为了便于说明,下面将以其中一个局部顶点(即待处理模型中的第v个局部顶点)为例进行介绍,需要说明的是,对于待处理模型中的其他顶点也采用类似方式计算其对应的小波能量贡献值,此处不一一列举。
具体地,可以利用数学推导计算第v个局部顶点对于该小波能量在第一尺度tm上的贡献,基于上述公式1,对其进行展开后得到如下结果:
Figure BDA0002659421410000112
其中,F表示顶点坐标函数,需要说明的是,这里的顶点坐标函数应为离散的,也可以表示为X。E()表示小波能量。d表示待处理模型的维度,例如,对于三维待处理模型而言,d=3。N表示特征值的总数。λj表示第j个特征值。K表示表示拉普拉斯矩阵分解之后的尺度总数。tm表示第一尺度,m表示第m个尺度。v表示第v个局部顶点。γij(tm,v)表示第v个局部顶点所对应的小波能量系数,即在第一尺度tm和第v个局部顶点上的小波能量系数。ωij表示第v个局部顶点所对应的分解值。需要说明的是,本申请中,对第v个局部顶点是从0开始计数的,即v的取值范围为大于或等于0,且小于或等于M的整数。
基于公式4可知,第v个局部顶点所对应的分解值ωij可表示为:
Figure BDA0002659421410000121
基于此,根据第v个局部顶点所对应的小波能量系数γij(tm,v),以及第v个局部顶点所对应的分解值ωij,可以采用如下方式计算第v个局部顶点所对应的小波能量贡献值:
Figure BDA0002659421410000122
其中,
Figure BDA0002659421410000123
表示第v个局部顶点所对应的小波能量贡献值。
其次,本申请实施例中,提供了一种基于任意一个局部顶点确定小波能量贡献值的方式,通过上述方式,能够计算出每个局部顶点的小波能量贡献值,由此提升方案的可行性和可操作性。
可选地,在上述图3对应的实施例的基础上,本申请实施例提供的另一个可选实施例中,根据M个小波能量贡献值确定M个能量特征向量,具体包括如下步骤:
针对于待处理模型中的第v个局部顶点,获取第v个局部顶点所对应的归一化小波函数,其中,第v个局部顶点为M个局部顶点中的任意一个局部顶点,v为大于或等于0,且小于M的整数;
针对于待处理模型中的第v个局部顶点,根据第v个局部顶点所对应的归一化小波函数以及第v个局部顶点所对应的小波能量贡献值,确定第v个局部顶点所对应的能量特征向量。
本实施例中,介绍了一种基于任意一个局部顶点确定能量特征向量的方式,由于待处理模型中包括M个局部顶点,为了便于说明,下面将以其中一个局部顶点(即待处理模型中的第v个局部顶点)为例进行介绍,需要说明的是,对于待处理模型中的其他顶点也采用类似方式计算其对应的能量特征向量,此处不一一列举。
具体地,通过小波函数收集每个局部顶点上的能量特征向量,由于小波函数的局部性,每个局部顶点上的小波函数在该顶点的响应是极大的,利用每个局部顶点上小波函数,点乘以每个局部顶点上的能量,即可收集每个局部顶点上的能量特征向量。
基于第v个局部顶点所对应的小波能量贡献值εtm,可采用如下方式计算第v个局部顶点所对应的能量特征向量:
Figure BDA0002659421410000124
其中,x表示定义域上的取值。tm表示第一尺度,m表示第m个尺度。ts表示第二尺度。v表示第v个局部顶点。
Figure BDA0002659421410000125
表示第v个局部顶点所对应的小波能量贡献值。
Figure BDA0002659421410000126
表示第二尺度ts和顶点v上的归一化小波函数。K表示表示拉普拉斯矩阵分解之后的尺度总数。
Figure BDA0002659421410000131
表示第v个局部顶点所对应的能量特征向量。
第一尺度tm和第二尺度ts的滤波器选择为标准的墨西哥草帽函数,墨西哥草帽函数表示为如下公式:
Figure BDA0002659421410000132
其中,g()表示墨西哥草帽函数,A表示振幅,t表示第一尺度tm或第二尺度ts,λj表示第j个特征值。
基于上述方式,在得到待处理模型在M个局部顶点的能量特征向量之后,可以对待处理模型进行颜色编码,为了便于理解,请参阅图5,图5为本申请实施例中低维度到高维度特征的一个颜色编码图,如图所示,图5中(A)图所示的能量特征向量的维度最低,图5中(D)图所示的能量特征向量的维度最高,图5中(B)图所示的能量特征向量的维度大于图5中(A)图所示的能量特征向量的维度,图5中(C)图所示的能量特征向量的维度大于图5中(B)图所示的能量特征向量的维度。
其次,本申请实施例中,提供了一种基于任意一个局部顶点确定能量特征向量的方式,通过上述方式,能够计算出每个局部顶点的能量特征向量,由此提升方案的可行性和可操作性。
可选地,在上述图3对应的实施例的基础上,本申请实施例提供的另一个可选实施例中,基于M个能量特征向量,通过图卷积神经网络获取待处理模型所对应的M个局部描述子,具体包括如下步骤:
基于M个能量特征向量,通过图卷积神经网络所包括的至少一层卷积神经网络获取M个目标特征向量;
基于M个目标特征向量,通过图卷积神经网络所包括的至少一层全连接神经网络获取M个局部描述子。
本实施例中,介绍了一种通过图卷积神经网络获取M个局部描述子的方式。需要说明的是,图卷积神经网络可以包括卷积神经网络以及全连接神经网络,例如,可以堆叠六层图卷积神经网络和一层全连接神经网络,其中,前五层卷积神经网络的输出可以为96维,最后一层卷积神经网络输出的每个目标特征向量可以为128维。而最后一个全连接神经网络输出的每个局部描述子可以为256维。
可以理解的是,在实际情况下,图卷积神经网络包括的卷积神经网络层数以及全连接神经网络层数还可以根据实际情况进行调整。本申请使用的图卷积神经网络具体可以是切比雪夫图卷积神经网络,或者其他具有局部卷积性质的图卷积神经网络。且目标特征向量的维度数和局部描述子的维度数也可以根据实际情况进行调整,此处仅为一个示意,不应理解为本申请的限定。
具体地,切比雪夫图卷积神经网络可以将输入特征(即M个能量特征向量)映射到高维的输出特征(即M个局部描述子),高维度的特征具有更好的表达能力。基于此,将每个局部顶点对应的能量特征向量作为切比雪夫图卷积神经网络的输入特征,多层堆叠图卷积神经网络层。从而可以将输入特征进行高维非线性变换。图卷积变化公式为:
Figure BDA0002659421410000141
其中,xout表示M个局部描述子。K表示切比雪夫图卷积神经网络的切比雪夫多项式的阶数。m表示第m个尺度。θm表示图卷积神经网络的模型参数。L表示拉普拉斯矩阵。Tm表示m阶切比雪夫多项式。xin表示M个能量特征向量。
其次,本申请实施例中,提供了一种通过图卷积神经网络获取M个局部描述子的方式,通过上述方式,利用图卷积神经网络的输出特征可以进行特征空间的最近邻匹配作为局部匹配的结果,从而解决了非刚性局部描述子的准确性难以达到应用要求的问题,省去了函数图、迭代最近点或者误匹配筛检等后处理的步骤,增加了非刚性形状局部匹配的稳定性。
可选地,在上述图3对应的实施例的基础上,本申请实施例提供的另一个可选实施例中,基于M个能量特征向量,通过图卷积神经网络获取待处理模型所对应的M个局部描述子之前,还可以包括如下步骤:
获取待训练模型中每个待训练顶点所对应的待训练小波能量,得到M个待训练小波能量,其中,待训练模型包括M个待训练顶点,且待训练顶点与待训练小波能量具有一一对应的关系;
根据M个待训练小波能量确定M个待训练小波能量贡献值,其中,待训练小波能量贡献值与待训练顶点具有一一对应的关系;
根据M个待训练小波能量贡献值确定M个待训练能量特征向量,其中,待训练能量特征向量与待训练顶点具有一一对应的关系;
基于M个待训练能量特征向量,通过待训练图卷积神经网络获取待训练模型所对应的M个待训练局部描述子,其中,待训练局部描述子与待训练顶点具有一一对应的关系;
获取正样本模型所对应的M个正样本局部描述子;
根据M个正样本局部描述子以及M个待训练局部描述子,对待训练图卷积神经网络进行训练,直至满足模型训练条件,输出图卷积神经网络。
本实施例中,介绍了一种使用正样本训练图卷积神经网络的方式,由于在实际训练的过程中,需要导入非刚性形状数据集进行训练,非刚性形状数据集中包括较多的样本模型,为了便于说明,下面将以其中一个样本模型为例介绍,且该样本模型定义为正样本模型。需要说明的是,对于非刚性形状数据集中的样本模型也采用类似方式进行训练,此处不一一列举。
具体地,在训练图卷积神经网络之前,先从非刚性形状数据集中获取待训练模型,其中,非刚性形状数据集可以是人形模型或者动画人模型等,此处不做限定。再采用与前述实施例类似的方式,分别提取待训练模型中每个待训练顶点所对应的待训练小波能量,即得到M个待训练小波能量。然后基于每个待训练小波能量确定对应的待训练小波能量贡献值,即得到M个待训练小波能量贡献值。于是,分别针对每个待训练顶点对应的待训练小波能量贡献值,计算出相应的待训练能量特征向量,即得到M个待训练能量特征向量。最后,将这个M个待训练能量特征向量共同输入到待训练图卷积神经网络中,由该待训练图卷积神经网络输出待训练模型所对应的M个待训练局部描述子。类似地,也可以获取到正样本模型所对应的M个正样本局部描述子。
在训练过程中,可通过匹配待训练局部描述子与正样本局部描述子之间的相似度,来判定是否满足模型训练条件。例如,待训练局部描述子A来源于待训练模型中鼻子所对应的顶点,正样本局部描述子A来源于正样本模型中鼻子所对应的顶点,即度量待训练局部描述子A与正样本局部描述子A之间的相似度。需要说明的是,在度量过程中,需要将每个待训练局部描述子分别与对位的正样本局部描述子进行匹配,例如,左眼对应的待训练局部描述子与正样本局部描述子进行匹配,肚脐对应的待训练局部描述子与正样本局部描述子进行匹配,以此类推,假设待训练模型共有M个待训练顶点,则可以将M个待训练顶点分别对应的匹配结果作为损失值,对M个损失值求和,得到总损失值。如果总损失值收敛,则表示满足模型训练条件,由此可输出图卷积神经网络。又或者,如果达到训练迭代的次数,则表示满足模型训练条件,由此可输出图卷积神经网络。
再次,本申请实施例中,提供了一种使用正样本训练图卷积神经网络的方式,通过上述方式,在训练图卷积神经网络的过程中,可以使用正样本作为度量的对象,在M个正样本局部描述子与M个待训练局部描述子非常接近的情况下,表示待训练图卷积神经网络已训练完成,由此,使得训练完成的图卷积神经网络可以预测出接近真实结果的局部描述子,从而提升方案的可行性和可操作性。
可选地,在上述图3对应的实施例的基础上,本申请实施例提供的另一个可选实施例中,获取正样本模型所对应的M个正样本局部描述子,具体包括如下步骤:
获取正样本模型中每个正样本顶点所对应的正样本小波能量,得到M个正样本小波能量,其中,正样本模型包括M个正样本顶点,且正样本顶点与正样本小波能量具有一一对应的关系;
根据M个正样本小波能量确定M个正样本小波能量贡献值,其中,正样本小波能量贡献值与正样本小波能量具有一一对应的关系;
根据M个正样本小波能量贡献值确定M个正样本能量特征向量,其中,正样本能量特征向量与正样本顶点具有一一对应的关系;
基于M个正样本能量特征向量,通过待训练图卷积神经网络获取正样本模型所对应的M个正样本局部描述子,其中,正样本局部描述子与正样本顶点具有一一对应的关系;
根据M个正样本局部描述子以及M个待训练局部描述子,对待训练图卷积神经网络进行训练,直至满足模型训练条件,输出图卷积神经网络,具体包括如下步骤:
针对于待训练模型中的每个待训练顶点以及每个待训练顶点所对应的正样本顶点,采用度量损失函数计算待训练局部描述子与正样本局部描述子之间的损失值,得到M个损失值;
根据M个损失值对待训练图卷积神经网络的模型参数进行更新;
若满足模型训练条件,则根据更新后的模型参数获取图卷积神经网络。
本实施例中,介绍了一种采用二元度量损失函数训练图卷积神经网络的方式,基于前述实施例可知,在训练图卷积神经网络之前,先从非刚性形状数据集中获取正样本模型,其中,正样本模型与待训练模型可以为同一种类型的模型,例如,均为人形模型或者动画人模型等,此处不做限定。再采用与前述实施例类似的方式,分别提取正样本模型中每个正样本顶点所对应的正样本小波能量,即得到M个正样本小波能量。然后基于每个正样本小波能量确定对应的正样本小波能量贡献值,即得到M个正样本小波能量贡献值。于是,分别针对每个待训练顶点对应的正样本小波能量贡献值,计算出相应的正样本能量特征向量,即得到M个正样本能量特征向量。最后,将这个M个正样本能量特征向量共同输入到待训练图卷积神经网络中,由该待训练图卷积神经网络输出正样本模型所对应的M个正样本局部描述子。类似地,也可以获取到正样本模型所对应的M个正样本局部描述子。
具体地,为了便于理解,请参阅图6,图6为本申请实施例中基于正样本模型训练图卷积神经网络的一个示意图,如图所示,在训练过程中,需匹配待训练局部描述子与正样本局部描述子之间的相似度,以一个待训练顶点为例进行介绍,其中,S1所指示的为待训练模型中鼻子对应的待训练顶点,S2所指示的为正样本模型中鼻子对应的正样本顶点。经过待训练图卷积神经网络预测之后,可以分别得到待训练顶点所对应的待训练局部描述子,以及正样本顶点所对应的正样本局部描述子,基于此,采用度量损失函数计算待训练局部描述子与正样本局部描述子之间的损失值,最后得到M个对应顶点之间的M个损失值,基于M个损失值对待训练图卷积神经网络的模型参数进行更新,若满足模型训练条件,则将最后一次更新的模型参数作为图卷积神经网络的模型参数。采用度量损失函数计算M个损失值的方式为:
Figure BDA0002659421410000161
其中,L表示总损失值(即M个损失值之和),M表示顶点总数,y′表示待训练局部描述子,y表示正样本局部描述子。
需要说明的是,本申请采用的二元度量损失函数包含但不仅限于孪生损失(siamese loss)函数、对比损失(contrastive loss)函数以及N对多尺度损失(N-pair-msloss)函数,此处不做限定。
进一步地,本申请实施例中,提供了一种采用二元度量损失函数训练图卷积神经网络的方式,通过上述方式,使用二元度量损失函数能够更好地表达出训练样本与正样本之间的关系,从而有利于训练得到更准确的图卷积神经网络,提升预测局部描述子的准确度。
可选地,在上述图3对应的实施例的基础上,本申请实施例提供的另一个可选实施例中,基于M个能量特征向量,通过图卷积神经网络获取待处理模型所对应的M个局部描述子之前,还可以包括如下步骤:
获取待训练模型中每个待训练顶点所对应的待训练小波能量,得到M个待训练小波能量,其中,待训练模型包括M个待训练顶点,且待训练顶点与待训练小波能量具有一一对应的关系;
根据M个待训练小波能量确定M个待训练小波能量贡献值,其中,待训练小波能量贡献值与待训练顶点具有一一对应的关系;
根据M个待训练小波能量贡献值确定M个待训练能量特征向量,其中,待训练能量特征向量与待训练顶点具有一一对应的关系;
基于M个待训练能量特征向量,通过待训练图卷积神经网络获取待训练模型所对应的M个待训练局部描述子,其中,待训练局部描述子与待训练顶点具有一一对应的关系;
获取正样本模型所对应的M个正样本局部描述子;
获取负样本模型所对应的M个负样本局部描述子;
根据M个正样本局部描述子、M个负样本局部描述子以及M个待训练局部描述子,对待训练图卷积神经网络进行训练,直至满足模型训练条件,输出图卷积神经网络。
本实施例中,介绍了一种使用正样本和负样本共同训练图卷积神经网络的方式,由于在实际训练的过程中,需要导入非刚性形状数据集进行训练,非刚性形状数据集中包括较多的样本模型,为了便于说明,下面将以其中一对样本模型为例介绍,且该对样本模型定义为正样本模型以及负样本模型。需要说明的是,对于非刚性形状数据集中其他对的样本模型也采用类似方式进行训练,此处不一一列举。
具体地,在训练图卷积神经网络之前,先从非刚性形状数据集中获取待训练模型,其中,非刚性形状数据集可以是人形模型或者动画人模型等,此处不做限定。再采用与前述实施例类似的方式,分别提取待训练模型中每个待训练顶点所对应的待训练局部描述子,即得到M个待训练局部描述子。类似地,也可以获取到正样本模型所对应的M个正样本局部描述子,以及负样本模型所对应的M个负样本局部描述子。
在训练过程中,可通过匹配待训练局部描述子与正样本局部描述子之间的相似度,匹配待训练局部描述子与负样本局部描述子之间的相似度,来判定是否满足模型训练条件。例如,待训练局部描述子A来源于待训练模型中鼻子所对应的顶点,正样本局部描述子A来源于正样本模型中鼻子所对应的顶点,负样本局部描述子A来源于负样本模型中肚脐所对应的顶点,即度量待训练局部描述子A与正样本局部描述子A之间的相似度,以及度量待训练局部描述子A与负样本局部描述子A之间的相似度。需要说明的是,在度量过程中,需要将每个待训练局部描述子分别与对位的正样本局部描述子进行匹配,例如,左眼对应的待训练局部描述子与正样本局部描述子进行匹配,肚脐对应的待训练局部描述子与正样本局部描述子进行匹配,以此类推。还需要将每个待训练局部描述子分别与非对位的负样本局部描述子进行匹配,例如,左眼对应的待训练局部描述子与肚脐对应的负样本局部描述子进行匹配,肚脐对应的待训练局部描述子与胸部对应的负样本局部描述子进行匹配,以此类推。假设待训练模型共有M个待训练顶点,则可以分别得到M个待训练局部描述子与M个正样本局部描述子之间的第一损失值,以及M个待训练局部描述子与M个负样本局部描述子之间的第二损失值,对M个第一损失值求和,并且对M个第二损失值求和,基于求和的结果生成总损失值,如果总损失值收敛,则表示满足模型训练条件,由此可输出图卷积神经网络。又或者,如果达到训练迭代的次数,则表示满足模型训练条件,由此可输出图卷积神经网络。
再次,本申请实施例中,提供了一种使用正样本和负样本共同训练图卷积神经网络的方式,通过上述方式,在训练图卷积神经网络的过程中,可以使用正样本和负样本共同作为度量的对象,在M个正样本局部描述子与M个待训练局部描述子非常接近,且M个负样本局部描述子与M个待训练局部描述子非常远离的情况下,表示待训练图卷积神经网络已训练完成,由此,使得训练完成的图卷积神经网络可以预测出接近真实结果的局部描述子,从而提升方案的可行性和可操作性。
可选地,在上述图3对应的实施例的基础上,本申请实施例提供的另一个可选实施例中,获取正样本模型所对应的M个正样本局部描述子,具体包括如下步骤:
获取正样本模型中每个正样本顶点所对应的正样本小波能量,得到M个正样本小波能量,其中,正样本模型包括M个正样本顶点,且正样本顶点与正样本小波能量具有一一对应的关系;
根据M个正样本小波能量确定M个正样本小波能量贡献值,其中,正样本小波能量贡献值与正样本小波能量具有一一对应的关系;
根据M个正样本小波能量贡献值确定M个正样本能量特征向量,其中,正样本能量特征向量与正样本顶点具有一一对应的关系;
基于M个正样本能量特征向量,通过待训练图卷积神经网络获取正样本模型所对应的M个正样本局部描述子,其中,正样本局部描述子与正样本顶点具有一一对应的关系;
获取负样本模型所对应的M个负样本局部描述子,具体包括如下步骤:
获取负样本模型中每个负样本顶点所对应的负样本小波能量,得到M个负样本小波能量,其中,负样本模型包括M个负样本顶点,且负样本顶点与负样本小波能量具有一一对应的关系;
根据M个负样本小波能量确定M个负样本小波能量贡献值,其中,负样本小波能量贡献值与负样本小波能量具有一一对应的关系;
根据M个负样本小波能量贡献值确定M个负样本能量特征向量,其中,负样本能量特征向量与负样本顶点具有一一对应的关系;
基于M个负样本能量特征向量,通过待训练图卷积神经网络获取负样本模型所对应的M个负样本局部描述子,其中,负样本局部描述子与负样本顶点具有一一对应的关系;
根据M个正样本局部描述子、M个负样本局部描述子以及M个待训练局部描述子,对待训练图卷积神经网络进行训练,直至满足模型训练条件,输出图卷积神经网络,具体包括如下步骤:
针对于待训练模型中的每个待训练顶点以及每个待训练顶点所对应的正样本顶点,采用第一度量损失函数计算待训练局部描述子与正样本局部描述子之间的第一损失值,得到M个第一损失值;
针对于待训练模型中的每个待训练顶点以及负样本顶点,采用第二度量损失函数计算待训练局部描述子与负样本局部描述子之间的第二损失值,得到M个第二损失值;
根据M个第一损失值以及M个第二损失值,对待训练图卷积神经网络的模型参数进行更新;
若满足模型训练条件,则根据更新后的模型参数获取图卷积神经网络。
本实施例中,介绍了一种采用三元度量损失函数训练图卷积神经网络的方式,基于前述实施例可知,在训练图卷积神经网络之前,先从非刚性形状数据集中获取正样本模型以及负样本模型,其中,正样本模型与待训练模型可以为同一种类型的模型,负样本模型与待训练模型也可以为同一种类型的模型,例如,均为人形模型或者动画人模型等,此处不做限定。再采用与前述实施例类似的方式,分别提取正样本模型中每个正样本顶点所对应的正样本小波能量,即得到M个正样本小波能量。然后基于每个正样本小波能量确定对应的正样本小波能量贡献值,即得到M个正样本小波能量贡献值。于是,分别针对每个待训练顶点对应的正样本小波能量贡献值,计算出相应的正样本能量特征向量,即得到M个正样本能量特征向量。最后,将这个M个正样本能量特征向量共同输入到待训练图卷积神经网络中,由该待训练图卷积神经网络输出正样本模型所对应的M个正样本局部描述子。类似地,也可以获取到正样本模型所对应的M个正样本局部描述子。
类似地,分别提取负样本模型中每个负样本顶点所对应的负样本小波能量,即得到M个负样本小波能量。然后基于每个负样本小波能量确定对应的负样本小波能量贡献值,即得到M个负样本小波能量贡献值。于是,分别针对每个待训练顶点对应的负样本小波能量贡献值,计算出相应的负样本能量特征向量,即得到M个负样本能量特征向量。最后,将这个M个负样本能量特征向量共同输入到待训练图卷积神经网络中,由该待训练图卷积神经网络输出负样本模型所对应的M个负样本局部描述子。类似地,也可以获取到负样本模型所对应的M个负样本局部描述子。
具体地,为了便于理解,请参阅图7,图7为本申请实施例中基于正负样本模型共同训练图卷积神经网络的一个示意图,如图所示,在训练过程中,需匹配待训练局部描述子与正样本局部描述子之间的相似度,以及待训练局部描述子与负样本局部描述子之间的相似度。以一个待训练顶点为例进行介绍,其中,S1所指示的为待训练模型中鼻子对应的待训练顶点,S2所指示的为正样本模型中鼻子对应的正样本顶点,S3所指示的为负样本模型中肚脐对应的负样本顶点,经过待训练图卷积神经网络预测之后,可以分别得到待训练顶点所对应的待训练局部描述子,正样本顶点所对应的正样本局部描述子以及负样本顶点所对应的负样本局部描述子,基于此,采用第一度量损失函数计算待训练局部描述子与正样本局部描述子之间的损失值,得到M个对应顶点之间的M个第一损失值。采用第二度量损失函数计算待训练局部描述子与负样本局部描述子之间的损失值,得到M个对应顶点之间的M个第二损失值,最后,基于M个第一损失值和M个第二损失值对待训练图卷积神经网络的模型参数进行更新,若满足模型训练条件,则将最后一次更新的模型参数作为图卷积神经网络的模型参数。采用第一度量损失函数计算第i个第一损失值的方式为:
Figure BDA0002659421410000191
其中,
Figure BDA0002659421410000192
表示M个第一损失值中的第i个第一损失值,即表示第i个正样本顶点与第i个待训练顶点之间的距离。pi表示M个待训练顶点中的第i个待训练顶点,
Figure BDA0002659421410000193
表示M个正样本顶点中的第i个正样本顶点。
采用第二度量损失函数计算第i个第二损失值的方式为:
Figure BDA0002659421410000194
其中,
Figure BDA0002659421410000195
表示M个第二损失值中的第i个第二损失值,即表示第i个负样本顶点与第i个待训练顶点之间的距离。pi表示M个待训练顶点中的第i个待训练顶点,
Figure BDA0002659421410000196
表示M个负样本顶点中的第i个正样本顶点。
基于此,可采用如下三元度量损失函数计算总损失值:
Figure BDA0002659421410000201
其中,其中,L表示总损失值,M表示顶点总数,
Figure BDA0002659421410000202
表示M个第一损失值中的第i个第一损失值,
Figure BDA0002659421410000203
表示M个第二损失值中的第i个第二损失值,α表示可调阈值参数。
基于上述方式,在得到训练得到图卷积神经网络之后,可以对局部描述子进行颜色编码,为了便于理解,请参阅图8,图8为本申请实施例中学习之后的特征在不同维度上的一个展示效果图,如图所示,图8中(A)图所示的局部描述子的维度最低,图8中(D)图所示的局部描述子的维度最高,图8中(B)图所示的局部描述子的维度大于图8中(A)图所示的局部描述子的维度,图8中(C)图所示的局部描述子的维度大于图8中(B)图所示的局部描述子的维度。
进一步地,本申请实施例中,提供了一种采用三元度量损失函数训练图卷积神经网络的方式,通过上述方式,使用三元度量损失函数能够更好地表达出训练样本与正样本之间的关系,以及训练样本与负样本之间的关系,从而有利于训练得到更准确的图卷积神经网络,提升预测局部描述子的准确度。
结合上述介绍,下面将对本申请中模型生成的方法进行介绍,请参阅图9,本申请实施例中模型生成方法的一个实施例包括:
201、获取第一对象所对应的待处理模型中每个局部顶点的小波能量,得到M个小波能量,其中,待处理模型包括M个局部顶点,局部顶点与小波能量具有一一对应的关系,M为大于或等于1的整数;
本实施例中,模型生成装置先获取第一对象的待处理模型,该第一对象可以为基于真实人物,或者真实动物,或者部件,又或者其他物体,本申请不对第一对象的类型进行限定。需要说明的是,模型生成装置可以部署于终端设备,也可以部署于服务器,此处不做限定。
以待处理模型包括M个局部顶点为例,每个局部顶点都可以计算得到一个对应的小波能量。具体地,对每个局部顶点进行小波包分析,将顶点局部的信号分解为若干个高低频分量,可以计算每个小波分量的频带能量值作为小波能量。
202、根据M个小波能量确定M个小波能量贡献值,其中,小波能量贡献值表示局部顶点针对待处理模型在第一尺度上的贡献,小波能量贡献值与局部顶点具有一一对应的关系;
本实施例中,模型生成装置分别对每个局部顶点的小波能量进行计算,得到小波能量贡献值,基于此,M个局部顶点对应于M个小波能量贡献值。具体地,利用数学推导的方式计算每个局部顶点对于该待处理模型在第一尺度上的贡献。
203、根据M个小波能量贡献值确定M个能量特征向量,其中,能量特征向量与局部顶点具有一一对应的关系;
本实施例中,模型生成装置分别对每个局部顶点的小波能量贡献值进行计算,得到能量特征向量,即通过小波函数收集每个局部顶点上的能量,以每个局部顶点上的能量代表该顶点的特征。基于此,M个局部顶点对应于M个能量特征向量。
204、基于M个能量特征向量,通过图卷积神经网络获取待处理模型所对应的M个局部描述子,其中,局部描述子与局部顶点具有一一对应的关系;
本实施例中,模型生成装置将采集到的M个能量特征向量共同输入至已训练好的图卷积神经网络,由该图卷积神经网络输出待处理模型所对应的M个局部描述子,其中,每个局部描述子对应于一个局部顶点,且每个局部描述子可表示为特征向量的形式,例如,一个局部描述子可表示为256维的特征向量。
205、根据待处理模型所对应的M个局部顶点以及M个局部描述子,生成第二对象所对应的目标模型。
本实施例中,模型生成装置根据待处理模型中每个局部顶点对应的局部描述子,分别将每个局部顶点映射到目标模型上,最终得到第二对象的目标模型,其中,第二对象可以与第一对象为同一个类型的对象,例如,均为真实人物。第二对象也可以与第一对象为不同类型的对象,例如,第一对象为真实人物,第二对象为动画人物,此处不做限定。
为了便于说明,请参阅图10,图10为本申请实施例中模型生成方法的一个流程示意图,如图所示,具体地:
在步骤A1中,计算待处理模型中每个局部顶点在顶点坐标函数上的小波能量。
在步骤A2中,根据每个局部顶点在顶点坐标函数上的小波能量,进而计算出局部顶点对于小波能量的贡献,即得到小波能量贡献值。
在步骤A3中,基于每个局部顶点的小波能量贡献值,收集每个局部顶点的能量,即得到每个局部顶点对应的能量特征向量。
在步骤A4中,将M个能量特征向量作为待训练的图卷积神经网络的输入,由该待训练的图卷积神经网络输出M个局部描述子。
在步骤A5中,使用度量损失函数对待训练的图卷积神经网络进行训练,得到训练完成的图卷积神经网络。
在步骤A6中,最后将该图卷积神经网络输出的特征直接匹配作为局部匹配的结果,为计算不同顶点在特征空间中的距离,取最小的距离作为两个局部顶点的匹配结果。
本申请利用图卷积神经网络设计了一种局部描述子的生成方法,该方法生成的描述子可以不使用后处理的手段,直接在生成的特征空间中寻找最近的特征点对作为匹配点。可以极大地减少传统匹配方法的时间并消除因后处理方法导致的稳定性问题,在非刚性局部匹配数据集上,本申请生成的局部描述子的准确性大幅提升于传统方法。请参阅表1,表1为传统方法与本申请提供的方法之间的一个比对情况。
表1
计算复杂度 是否需要处理误匹配 局部描述子的准确性
传统方法 需要 不高
本申请 不需要
为了便于介绍,请参阅图11,图11为本申请实施例中待处理模型与目标模型之间的一个对比示意图,如图所示,图11中的(A)图表示真人的人体三维模型,图11中的(B)图、图11中的(C)图和图11中的(D)图分别为动画中的人体三维模型,动画中的人体三维模型与真人的人体三维模型具有一样的初始状态模型,当真人做动作时,通过计算已知初始状态模型之间顶点稠密的对应关系,可将真人模型的动作矢量根据M个局部描述子迁移到新的模型之上,即根据真人模型的动作,得到的新的动画模型的姿态。
本申请实施例中,提供了一种模型生成的方法,首先获取待处理模型中每个局部顶点所对应的小波能量,得到M个小波能量,然后根据M个小波能量确定M个小波能量贡献值,再根据M个小波能量贡献值确定M个能量特征向量,最后基于M个能量特征向量,通过图卷积神经网络获取待处理模型所对应的M个局部描述子,根据待处理模型所对应的M个局部顶点以及M个局部描述子,生成第二对象所对应的目标模型。通过上述方式,可利用图卷积神经网络直接获取局部描述子,无需使用后处理的手段,很大程度上减少后处理的时间,提升生成局部描述子的效率。
可选地,在上述图9对应的实施例的基础上,本申请实施例提供的一个可选实施例中,根据待处理模型所对应的M个局部顶点以及M个局部描述子,生成第二对象所对应的目标模型之后,还可以包括如下步骤:
根据第二对象所对应的目标模型,渲染得到三维图像;
展示三维图像,或者,向终端设备发送三维图像,以使终端设备展示三维图像。
本实施例中,介绍了一种基于目标模型展示三维图像的方式,模型生成装置在获取到第二对象所对应的目标模型之后,可以基于蒙皮效果生成第二对象所对应的三维图像。由前述实施例可知,模型生成装置可以部署于在服务器,也可以直接部署在终端设备上,如果模型生成装置部署于服务器,则该模型生成装置在渲染得到三维图像之后,需要将该三维图像发送至终端设备,由终端设备进行展示。如果模型生成装置部署在终端设备,则直接由该终端设备展示三维图像即可。
为了便于说明,请参阅图12,图12为本申请实施例中终端设备展示三维图像的一个示意图,如图所示,以终端设备上安装的“虚拟化妆生成器”为例,假设用户A使用终端设备拍摄了一张自己的头像,如果对拍摄的图像满意,则点击“确认”按钮即可进入生成界面,如果对拍摄的图像不满意,则点击“重拍”按钮之后可以再次启动终端设备的摄像头进行拍摄。当用户A触发了“确认”按钮时,可基于用户A的图像生成一个待处理模型,再采用本申请所提供的方法得到该待处理模型所对应的目标模型,最后对该目标模型进行渲染,得到三维图像,即如图所示,生成的三维图像为用户A携带妆容的照片,由此达到虚拟化妆的效果。
其次,本申请实施例中,提供了一种基于目标模型展示三维图像的方式,通过上述方式,在得到第二对象所对应的目标模型之后,还可以根据实际情况对该目标模型进行渲染,增加更加生动的效果,由此生成可视化的三维图像,从而提升局部描述子应用的多样性和灵活性。
下面对本申请中的局部描述子生成装置进行详细描述,请参阅图13,图13为本申请实施例中局部描述子生成装置的一个实施例示意图,局部描述子生成装置30包括:
获取模块301,用于获取待处理模型中每个局部顶点所对应的小波能量,得到M个小波能量,其中,待处理模型包括M个局部顶点,且局部顶点与小波能量具有一一对应的关系,M为大于或等于1的整数;
确定模块302,用于根据M个小波能量确定M个小波能量贡献值,其中,小波能量贡献值表示局部顶点针对待处理模型在第一尺度上的贡献,小波能量贡献值与局部顶点具有一一对应的关系;
确定模块302,还用于根据M个小波能量贡献值确定M个能量特征向量,其中,能量特征向量与局部顶点具有一一对应的关系;
获取模块301,还用于基于M个能量特征向量,通过图卷积神经网络获取待处理模型所对应的M个局部描述子,其中,局部描述子与局部顶点具有一一对应的关系。
可选地,在上述图13所对应的实施例的基础上,本申请实施例提供的局部描述子生成装置30的另一实施例中,
获取模块301,具体用于针对于待处理模型中的第v个局部顶点,获取第v个局部顶点所对应的特征值,其中,第v个局部顶点为M个局部顶点中的任意一个局部顶点,v为大于或等于0,且小于M的整数;
针对于待处理模型中的第v个局部顶点,获取第v个局部顶点所对应的小波能量系数;
针对于待处理模型中的第v个局部顶点,根据第v个局部顶点所对应的小波能量系数以及第v个局部顶点所对应的特征值,确定第v个局部顶点所对应的小波能量。
可选地,在上述图13所对应的实施例的基础上,本申请实施例提供的局部描述子生成装置30的另一实施例中,
确定模块302,具体用于针对于待处理模型中的第v个局部顶点,根据第v个局部顶点的小波能量确定第v个局部顶点所对应的分解值,其中,第v个局部顶点为M个局部顶点中的任意一个局部顶点,v为大于或等于0,且小于M的整数;
针对于待处理模型中的第v个局部顶点,获取第v个局部顶点所对应的小波能量系数;
针对于待处理模型中的第v个局部顶点,根据第v个局部顶点所对应的小波能量系数以及第v个局部顶点所对应的分解值,确定第v个局部顶点所对应的小波能量贡献值。
可选地,在上述图13所对应的实施例的基础上,本申请实施例提供的局部描述子生成装置30的另一实施例中,
确定模块302,具体用于针对于待处理模型中的第v个局部顶点,获取第v个局部顶点所对应的归一化小波函数,其中,第v个局部顶点为M个局部顶点中的任意一个局部顶点,v为大于或等于0,且小于M的整数;
针对于待处理模型中的第v个局部顶点,根据第v个局部顶点所对应的归一化小波函数以及第v个局部顶点所对应的小波能量贡献值,确定第v个局部顶点所对应的能量特征向量。
可选地,在上述图13所对应的实施例的基础上,本申请实施例提供的局部描述子生成装置30的另一实施例中,
获取模块301,具体用于基于M个能量特征向量,通过图卷积神经网络所包括的至少一层卷积神经网络获取M个目标特征向量;
基于M个目标特征向量,通过图卷积神经网络所包括的至少一层全连接神经网络获取M个局部描述子。
可选地,在上述图13所对应的实施例的基础上,本申请实施例提供的局部描述子生成装置30的另一实施例中,局部描述子生成装置30还包括训练模块303;
获取模块301,还用于基于M个能量特征向量,通过图卷积神经网络获取待处理模型所对应的M个局部描述子之前,获取待训练模型中每个待训练顶点所对应的待训练小波能量,得到M个待训练小波能量,其中,待训练模型包括M个待训练顶点,且待训练顶点与待训练小波能量具有一一对应的关系;
确定模块302,还用于根据M个待训练小波能量确定M个待训练小波能量贡献值,其中,待训练小波能量贡献值与待训练顶点具有一一对应的关系;
确定模块302,还用于根据M个待训练小波能量贡献值确定M个待训练能量特征向量,其中,待训练能量特征向量与待训练顶点具有一一对应的关系;
获取模块301,还用于基于M个待训练能量特征向量,通过待训练图卷积神经网络获取待训练模型所对应的M个待训练局部描述子,其中,待训练局部描述子与待训练顶点具有一一对应的关系;
获取模块301,还用于获取正样本模型所对应的M个正样本局部描述子;
训练模块303,用于根据M个正样本局部描述子以及M个待训练局部描述子,对待训练图卷积神经网络进行训练,直至满足模型训练条件,输出图卷积神经网络。
可选地,在上述图13所对应的实施例的基础上,本申请实施例提供的局部描述子生成装置30的另一实施例中,
获取模块301,具体用于获取正样本模型中每个正样本顶点所对应的正样本小波能量,得到M个正样本小波能量,其中,正样本模型包括M个正样本顶点,且正样本顶点与正样本小波能量具有一一对应的关系;
根据M个正样本小波能量确定M个正样本小波能量贡献值,其中,正样本小波能量贡献值与正样本小波能量具有一一对应的关系;
根据M个正样本小波能量贡献值确定M个正样本能量特征向量,其中,正样本能量特征向量与正样本顶点具有一一对应的关系;
基于M个正样本能量特征向量,通过待训练图卷积神经网络获取正样本模型所对应的M个正样本局部描述子,其中,正样本局部描述子与正样本顶点具有一一对应的关系;
训练模块303,具体用于针对于待训练模型中的每个待训练顶点以及每个待训练顶点所对应的正样本顶点,采用度量损失函数计算待训练局部描述子与正样本局部描述子之间的损失值,得到M个损失值;
根据M个损失值对待训练图卷积神经网络的模型参数进行更新;
若满足模型训练条件,则根据更新后的模型参数获取图卷积神经网络。
可选地,在上述图13所对应的实施例的基础上,本申请实施例提供的局部描述子生成装置30的另一实施例中,局部描述子生成装置30还包括训练模块303;
获取模块301,还用于基于M个能量特征向量,通过图卷积神经网络获取待处理模型所对应的M个局部描述子之前,获取待训练模型中每个待训练顶点所对应的待训练小波能量,得到M个待训练小波能量,其中,待训练模型包括M个待训练顶点,且待训练顶点与待训练小波能量具有一一对应的关系;
确定模块302,还用于根据M个待训练小波能量确定M个待训练小波能量贡献值,其中,待训练小波能量贡献值与待训练顶点具有一一对应的关系;
确定模块302,还用于根据M个待训练小波能量贡献值确定M个待训练能量特征向量,其中,待训练能量特征向量与待训练顶点具有一一对应的关系;
获取模块301,还用于基于M个待训练能量特征向量,通过待训练图卷积神经网络获取待训练模型所对应的M个待训练局部描述子,其中,待训练局部描述子与待训练顶点具有一一对应的关系;
获取模块301,还用于获取正样本模型所对应的M个正样本局部描述子;
获取模块301,还用于获取负样本模型所对应的M个负样本局部描述子;
训练模块303,用于根据M个正样本局部描述子、M个负样本局部描述子以及M个待训练局部描述子,对待训练图卷积神经网络进行训练,直至满足模型训练条件,输出图卷积神经网络。
可选地,在上述图13所对应的实施例的基础上,本申请实施例提供的局部描述子生成装置30的另一实施例中,
获取模块301,具体用于获取正样本模型中每个正样本顶点所对应的正样本小波能量,得到M个正样本小波能量,其中,正样本模型包括M个正样本顶点,且正样本顶点与正样本小波能量具有一一对应的关系;
根据M个正样本小波能量确定M个正样本小波能量贡献值,其中,正样本小波能量贡献值与正样本小波能量具有一一对应的关系;
根据M个正样本小波能量贡献值确定M个正样本能量特征向量,其中,正样本能量特征向量与正样本顶点具有一一对应的关系;
基于M个正样本能量特征向量,通过待训练图卷积神经网络获取正样本模型所对应的M个正样本局部描述子,其中,正样本局部描述子与正样本顶点具有一一对应的关系;
获取模块301,具体用于获取负样本模型中每个负样本顶点所对应的负样本小波能量,得到M个负样本小波能量,其中,负样本模型包括M个负样本顶点,且负样本顶点与负样本小波能量具有一一对应的关系;
根据M个负样本小波能量确定M个负样本小波能量贡献值,其中,负样本小波能量贡献值与负样本小波能量具有一一对应的关系;
根据M个负样本小波能量贡献值确定M个负样本能量特征向量,其中,负样本能量特征向量与负样本顶点具有一一对应的关系;
基于M个负样本能量特征向量,通过待训练图卷积神经网络获取负样本模型所对应的M个负样本局部描述子,其中,负样本局部描述子与负样本顶点具有一一对应的关系;
训练模块303,具体用于针对于待训练模型中的每个待训练顶点以及每个待训练顶点所对应的正样本顶点,采用第一度量损失函数计算待训练局部描述子与正样本局部描述子之间的第一损失值,得到M个第一损失值;
针对于待训练模型中的每个待训练顶点以及负样本顶点,采用第二度量损失函数计算待训练局部描述子与负样本局部描述子之间的第二损失值,得到M个第二损失值;
根据M个第一损失值以及M个第二损失值,对待训练图卷积神经网络的模型参数进行更新;
若满足模型训练条件,则根据更新后的模型参数获取图卷积神经网络。
下面对本申请中的模型生成装置进行详细描述,请参阅图14,图14为本申请实施例中模型生成装置的一个实施例示意图,模型生成装置40包括:
获取模块401,用于获取第一对象所对应的待处理模型中每个局部顶点的小波能量,得到M个小波能量,其中,待处理模型包括M个局部顶点,局部顶点与小波能量具有一一对应的关系,M为大于或等于1的整数;
确定模块402,用于根据M个小波能量确定M个小波能量贡献值,其中,小波能量贡献值表示局部顶点针对待处理模型在第一尺度上的贡献,小波能量贡献值与局部顶点具有一一对应的关系;
确定模块402,还用于根据M个小波能量贡献值确定M个能量特征向量,其中,能量特征向量与局部顶点具有一一对应的关系;
获取模块401,还用于基于M个能量特征向量,通过图卷积神经网络获取待处理模型所对应的M个局部描述子,其中,局部描述子与局部顶点具有一一对应的关系;
生成模块403,用于根据待处理模型所对应的M个局部顶点以及M个局部描述子,生成第二对象所对应的目标模型。
可选地,在上述图14所对应的实施例的基础上,本申请实施例提供的模型生成装置40的另一实施例中,模型生成装置40还包括渲染模块404以及展示模块405;
渲染模块404,用于在生成模块403根据待处理模型所对应的M个局部顶点以及M个局部描述子,生成第二对象所对应的目标模型之后,根据第二对象所对应的目标模型,渲染得到三维图像;
展示模块405,用于展示三维图像,或者,向终端设备发送三维图像,以使终端设备展示三维图像。
图15是本申请实施例提供的一种服务器结构示意图,该服务器500可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上中央处理器(central processingunits,CPU)522(例如,一个或一个以上处理器)和存储器532,一个或一个以上存储应用程序542或数据544的存储介质530(例如一个或一个以上海量存储设备)。其中,存储器532和存储介质530可以是短暂存储或持久存储。存储在存储介质530的程序可以包括一个或一个以上模块(图示没标出),每个模块可以包括对服务器中的一系列指令操作。更进一步地,中央处理器522可以设置为与存储介质530通信,在服务器500上执行存储介质530中的一系列指令操作。
服务器500还可以包括一个或一个以上电源526,一个或一个以上有线或无线网络接口550,一个或一个以上输入输出接口558,和/或,一个或一个以上操作系统541,例如Windows ServerTM,Mac OS XTM,UnixTM,LinuxTM,FreeBSDTM等等。
上述实施例中由服务器所执行的步骤可以基于该图15所示的服务器结构。
本申请实施例还提供了另一种图像显示控制装置,如图16所示,为了便于说明,仅示出了与本申请实施例相关的部分,具体技术细节未揭示的,请参照本申请实施例方法部分。该终端设备可以为包括手机、平板电脑、个人数字助理(personal digital assistant,PDA)、销售终端设备(point of sales,POS)、车载电脑等任意终端设备,以终端设备为手机为例:
图16示出的是与本申请实施例提供的终端设备相关的手机的部分结构的框图。参考图16,手机包括:射频(radio frequency,RF)电路610、存储器620、输入单元630、显示单元640、传感器650、音频电路660、无线保真(wireless fidelity,WiFi)模块670、处理器680、以及电源690等部件。本领域技术人员可以理解,图16中示出的手机结构并不构成对手机的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
下面结合图16对手机的各个构成部件进行具体的介绍:
RF电路610可用于收发信息或通话过程中,信号的接收和发送,特别地,将基站的下行信息接收后,给处理器680处理;另外,将设计上行的数据发送给基站。通常,RF电路610包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器(low noiseamplifier,LNA)、双工器等。此外,RF电路610还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议,包括但不限于全球移动通讯系统(globalsystem of mobile communication,GSM)、通用分组无线服务(general packet radioservice,GPRS)、码分多址(code division multiple access,CDMA)、宽带码分多址(wideband code division multiple access,WCDMA)、长期演进(long term evolution,LTE)、电子邮件、短消息服务(short messaging service,SMS)等。
存储器620可用于存储软件程序以及模块,处理器680通过运行存储在存储器620的软件程序以及模块,从而执行手机的各种功能应用以及数据处理。存储器620可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器620可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
输入单元630可用于接收输入的数字或字符信息,以及产生与手机的用户设置以及功能控制有关的键信号输入。具体地,输入单元630可包括触控面板631以及其他输入设备632。触控面板631,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板631上或在触控面板631附近的操作),并根据预先设定的程式驱动相应的连接装置。可选的,触控面板631可包括触摸检测装置和触摸控制器两个部分。其中,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给处理器680,并能接收处理器680发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板631。除了触控面板631,输入单元630还可以包括其他输入设备632。具体地,其他输入设备632可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种。
显示单元640可用于显示由用户输入的信息或提供给用户的信息以及手机的各种菜单。显示单元640可包括显示面板641,可选的,可以采用液晶显示器(liquid crystaldisplay,LCD)、有机发光二极管(organic light-emitting diode,OLED)等形式来配置显示面板641。进一步的,触控面板631可覆盖显示面板641,当触控面板631检测到在其上或附近的触摸操作后,传送给处理器680以确定触摸事件的类型,随后处理器680根据触摸事件的类型在显示面板641上提供相应的视觉输出。虽然在图16中,触控面板631与显示面板641是作为两个独立的部件来实现手机的输入和输入功能,但是在某些实施例中,可以将触控面板631与显示面板641集成而实现手机的输入和输出功能。
手机还可包括至少一种传感器650,比如光传感器、运动传感器以及其他传感器。具体地,光传感器可包括环境光传感器及接近传感器,其中,环境光传感器可根据环境光线的明暗来调节显示面板641的亮度,接近传感器可在手机移动到耳边时,关闭显示面板641和/或背光。作为运动传感器的一种,加速计传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;至于手机还可配置的陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器,在此不再赘述。
音频电路660、扬声器661,传声器662可提供用户与手机之间的音频接口。音频电路660可将接收到的音频数据转换后的电信号,传输到扬声器661,由扬声器661转换为声音信号输出;另一方面,传声器662将收集的声音信号转换为电信号,由音频电路660接收后转换为音频数据,再将音频数据输出处理器680处理后,经RF电路610以发送给比如另一手机,或者将音频数据输出至存储器620以便进一步处理。
WiFi属于短距离无线传输技术,手机通过WiFi模块670可以帮助用户收发电子邮件、浏览网页和访问流式媒体等,它为用户提供了无线的宽带互联网访问。虽然图16示出了WiFi模块670,但是可以理解的是,其并不属于手机的必须构成,完全可以根据需要在不改变发明的本质的范围内而省略。
处理器680是手机的控制中心,利用各种接口和线路连接整个手机的各个部分,通过运行或执行存储在存储器620内的软件程序和/或模块,以及调用存储在存储器620内的数据,执行手机的各种功能和处理数据,从而对手机进行整体监控。可选的,处理器680可包括一个或多个处理单元;可选的,处理器680可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器680中。
手机还包括给各个部件供电的电源690(比如电池),可选的,电源可以通过电源管理系统与处理器680逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。
尽管未示出,手机还可以包括摄像头、蓝牙模块等,在此不再赘述。
在本申请实施例中,该终端设备所包括的处理器680还具有以下功能:
获取待处理模型中每个局部顶点所对应的小波能量,得到M个小波能量,其中,待处理模型包括M个局部顶点,且局部顶点与小波能量具有一一对应的关系,M为大于或等于1的整数;
根据M个小波能量确定M个小波能量贡献值,其中,小波能量贡献值表示局部顶点针对待处理模型在第一尺度上的贡献,小波能量贡献值与局部顶点具有一一对应的关系;
根据M个小波能量贡献值确定M个能量特征向量,其中,能量特征向量与局部顶点具有一一对应的关系;
基于M个能量特征向量,通过图卷积神经网络获取待处理模型所对应的M个局部描述子,其中,局部描述子与局部顶点具有一一对应的关系。
在本申请实施例中,该终端设备所包括的处理器680还具有以下功能:
获取第一对象所对应的待处理模型中每个局部顶点的小波能量,得到M个小波能量,其中,待处理模型包括M个局部顶点,局部顶点与小波能量具有一一对应的关系,M为大于或等于1的整数;
根据M个小波能量确定M个小波能量贡献值,其中,小波能量贡献值表示局部顶点针对待处理模型在第一尺度上的贡献,小波能量贡献值与局部顶点具有一一对应的关系;
根据M个小波能量贡献值确定M个能量特征向量,其中,能量特征向量与局部顶点具有一一对应的关系;
基于M个能量特征向量,通过图卷积神经网络获取待处理模型所对应的M个局部描述子,其中,局部描述子与局部顶点具有一一对应的关系;
根据待处理模型所对应的M个局部顶点以及M个局部描述子,生成第二对象所对应的目标模型。
本申请实施例中还提供一种计算机可读存储介质,该计算机可读存储介质中存储有计算机程序,当其在计算机上运行时,使得计算机执行如前述各个实施例描述的方法。
本申请实施例中还提供一种包括程序的计算机程序产品,当其在计算机上运行时,使得计算机执行前述各个实施例描述的方法。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(read-only memory,ROM)、随机存取存储器(random access memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。

Claims (15)

1.一种局部描述子的生成方法,其特征在于,包括:
获取待处理模型中每个局部顶点所对应的小波能量,得到M个小波能量,其中,所述待处理模型包括M个局部顶点,且所述局部顶点与所述小波能量具有一一对应的关系,所述M为大于或等于1的整数;
根据所述M个小波能量确定M个小波能量贡献值,其中,所述小波能量贡献值表示所述局部顶点针对所述待处理模型在第一尺度上的贡献,所述小波能量贡献值与所述局部顶点具有一一对应的关系;
根据所述M个小波能量贡献值确定M个能量特征向量,其中,所述能量特征向量与所述局部顶点具有一一对应的关系;
基于所述M个能量特征向量,通过图卷积神经网络获取所述待处理模型所对应的M个局部描述子,其中,所述局部描述子与所述局部顶点具有一一对应的关系。
2.根据权利要1所述的生成方法,其特征在于,所述获取待处理模型中每个局部顶点所对应的小波能量,得到M个小波能量,包括:
针对于所述待处理模型中的第v个局部顶点,获取所述第v个局部顶点所对应的特征值,其中,所述第v个局部顶点为所述M个局部顶点中的任意一个局部顶点,所述v为大于或等于0,且小于所述M的整数;
针对于所述待处理模型中的所述第v个局部顶点,获取所述第v个局部顶点所对应的小波能量系数;
针对于所述待处理模型中的所述第v个局部顶点,根据所述第v个局部顶点所对应的小波能量系数以及所述第v个局部顶点所对应的特征值,确定所述第v个局部顶点所对应的小波能量。
3.根据权利要1所述的生成方法,其特征在于,所述根据所述M个小波能量确定M个小波能量贡献值,包括:
针对于所述待处理模型中的第v个局部顶点,根据所述第v个局部顶点的小波能量确定所述第v个局部顶点所对应的分解值,其中,所述第v个局部顶点为所述M个局部顶点中的任意一个局部顶点,所述v为大于或等于0,且小于所述M的整数;
针对于所述待处理模型中的所述第v个局部顶点,获取所述第v个局部顶点所对应的小波能量系数;
针对于所述待处理模型中的所述第v个局部顶点,根据所述第v个局部顶点所对应的小波能量系数以及所述第v个局部顶点所对应的分解值,确定所述第v个局部顶点所对应的小波能量贡献值。
4.根据权利要1所述的生成方法,其特征在于,所述根据所述M个小波能量贡献值确定M个能量特征向量,包括:
针对于所述待处理模型中的第v个局部顶点,获取所述第v个局部顶点所对应的归一化小波函数,其中,所述第v个局部顶点为所述M个局部顶点中的任意一个局部顶点,所述v为大于或等于0,且小于所述M的整数;
针对于所述待处理模型中的所述第v个局部顶点,根据所述第v个局部顶点所对应的归一化小波函数以及所述第v个局部顶点所对应的小波能量贡献值,确定所述第v个局部顶点所对应的能量特征向量。
5.根据权利要1所述的生成方法,其特征在于,所述基于所述M个能量特征向量,通过图卷积神经网络获取所述待处理模型所对应的M个局部描述子,包括:
基于所述M个能量特征向量,通过所述图卷积神经网络所包括的至少一层卷积神经网络获取M个目标特征向量;
基于所述M个目标特征向量,通过所述图卷积神经网络所包括的至少一层全连接神经网络获取M个局部描述子。
6.根据权利要1至5中任一项所述的生成方法,其特征在于,所述基于所述M个能量特征向量,通过图卷积神经网络获取所述待处理模型所对应的M个局部描述子之前,所述方法还包括:
获取待训练模型中每个待训练顶点所对应的待训练小波能量,得到M个待训练小波能量,其中,所述待训练模型包括M个待训练顶点,且所述待训练顶点与所述待训练小波能量具有一一对应的关系;
根据所述M个待训练小波能量确定M个待训练小波能量贡献值,其中,所述待训练小波能量贡献值与所述待训练顶点具有一一对应的关系;
根据所述M个待训练小波能量贡献值确定M个待训练能量特征向量,其中,所述待训练能量特征向量与所述待训练顶点具有一一对应的关系;
基于所述M个待训练能量特征向量,通过待训练图卷积神经网络获取所述待训练模型所对应的M个待训练局部描述子,其中,所述待训练局部描述子与所述待训练顶点具有一一对应的关系;
获取正样本模型所对应的M个正样本局部描述子;
根据所述M个正样本局部描述子以及所述M个待训练局部描述子,对所述待训练图卷积神经网络进行训练,直至满足模型训练条件,输出所述图卷积神经网络。
7.根据权利要6所述的生成方法,其特征在于,所述获取正样本模型所对应的M个正样本局部描述子,包括:
获取正样本模型中每个正样本顶点所对应的正样本小波能量,得到M个正样本小波能量,其中,所述正样本模型包括M个正样本顶点,且所述正样本顶点与所述正样本小波能量具有一一对应的关系;
根据所述M个正样本小波能量确定M个正样本小波能量贡献值,其中,所述正样本小波能量贡献值与所述正样本小波能量具有一一对应的关系;
根据所述M个正样本小波能量贡献值确定M个正样本能量特征向量,其中,所述正样本能量特征向量与所述正样本顶点具有一一对应的关系;
基于所述M个正样本能量特征向量,通过待训练图卷积神经网络获取所述正样本模型所对应的M个正样本局部描述子,其中,所述正样本局部描述子与所述正样本顶点具有一一对应的关系;
所述根据所述M个正样本局部描述子以及所述M个待训练局部描述子,对所述待训练图卷积神经网络进行训练,直至满足模型训练条件,输出所述图卷积神经网络,包括:
针对于所述待训练模型中的每个待训练顶点以及所述每个待训练顶点所对应的正样本顶点,采用度量损失函数计算所述待训练局部描述子与所述正样本局部描述子之间的损失值,得到M个损失值;
根据所述M个损失值对所述待训练图卷积神经网络的模型参数进行更新;
若满足所述模型训练条件,则根据更新后的模型参数获取所述图卷积神经网络。
8.根据权利要1至5中任一项所述的生成方法,其特征在于,所述基于所述M个能量特征向量,通过图卷积神经网络获取所述待处理模型所对应的M个局部描述子之前,所述方法还包括:
获取待训练模型中每个待训练顶点所对应的待训练小波能量,得到M个待训练小波能量,其中,所述待训练模型包括M个待训练顶点,且所述待训练顶点与所述待训练小波能量具有一一对应的关系;
根据所述M个待训练小波能量确定M个待训练小波能量贡献值,其中,所述待训练小波能量贡献值与所述待训练顶点具有一一对应的关系;
根据所述M个待训练小波能量贡献值确定M个待训练能量特征向量,其中,所述待训练能量特征向量与所述待训练顶点具有一一对应的关系;
基于所述M个待训练能量特征向量,通过待训练图卷积神经网络获取所述待训练模型所对应的M个待训练局部描述子,其中,所述待训练局部描述子与所述待训练顶点具有一一对应的关系;
获取正样本模型所对应的M个正样本局部描述子;
获取负样本模型所对应的M个负样本局部描述子;
根据所述M个正样本局部描述子、所述M个负样本局部描述子以及所述M个待训练局部描述子,对所述待训练图卷积神经网络进行训练,直至满足模型训练条件,输出所述图卷积神经网络。
9.根据权利要8所述的生成方法,其特征在于,所述获取正样本模型所对应的M个正样本局部描述子,包括:
获取正样本模型中每个正样本顶点所对应的正样本小波能量,得到M个正样本小波能量,其中,所述正样本模型包括M个正样本顶点,且所述正样本顶点与所述正样本小波能量具有一一对应的关系;
根据所述M个正样本小波能量确定M个正样本小波能量贡献值,其中,所述正样本小波能量贡献值与所述正样本小波能量具有一一对应的关系;
根据所述M个正样本小波能量贡献值确定M个正样本能量特征向量,其中,所述正样本能量特征向量与所述正样本顶点具有一一对应的关系;
基于所述M个正样本能量特征向量,通过待训练图卷积神经网络获取所述正样本模型所对应的M个正样本局部描述子,其中,所述正样本局部描述子与所述正样本顶点具有一一对应的关系;
所述获取负样本模型所对应的M个负样本局部描述子,包括:
获取负样本模型中每个负样本顶点所对应的负样本小波能量,得到M个负样本小波能量,其中,所述负样本模型包括M个负样本顶点,且所述负样本顶点与所述负样本小波能量具有一一对应的关系;
根据所述M个负样本小波能量确定M个负样本小波能量贡献值,其中,所述负样本小波能量贡献值与所述负样本小波能量具有一一对应的关系;
根据所述M个负样本小波能量贡献值确定M个负样本能量特征向量,其中,所述负样本能量特征向量与所述负样本顶点具有一一对应的关系;
基于所述M个负样本能量特征向量,通过待训练图卷积神经网络获取所述负样本模型所对应的M个负样本局部描述子,其中,所述负样本局部描述子与所述负样本顶点具有一一对应的关系;
所述根据所述M个正样本局部描述子、所述M个负样本局部描述子以及所述M个待训练局部描述子,对所述待训练图卷积神经网络进行训练,直至满足模型训练条件,输出所述图卷积神经网络,包括:
针对于所述待训练模型中的每个待训练顶点以及所述每个待训练顶点所对应的正样本顶点,采用第一度量损失函数计算所述待训练局部描述子与所述正样本局部描述子之间的第一损失值,得到M个第一损失值;
针对于所述待训练模型中的每个待训练顶点以及负样本顶点,采用第二度量损失函数计算所述待训练局部描述子与是负样本局部描述子之间的第二损失值,得到M个第二损失值;
根据所述M个第一损失值以及所述M个第二损失值,对所述待训练图卷积神经网络的模型参数进行更新;
若满足所述模型训练条件,则根据更新后的模型参数获取所述图卷积神经网络。
10.一种模型生成的方法,其特征在于,包括:
获取第一对象所对应的待处理模型中每个局部顶点的小波能量,得到M个小波能量,其中,所述待处理模型包括M个局部顶点,所述局部顶点与所述小波能量具有一一对应的关系,所述M为大于或等于1的整数;
根据所述M个小波能量确定M个小波能量贡献值,其中,所述小波能量贡献值表示所述局部顶点针对所述待处理模型在第一尺度上的贡献,所述小波能量贡献值与所述局部顶点具有一一对应的关系;
根据所述M个小波能量贡献值确定M个能量特征向量,其中,所述能量特征向量与所述局部顶点具有一一对应的关系;
基于所述M个能量特征向量,通过图卷积神经网络获取所述待处理模型所对应的M个局部描述子,其中,所述局部描述子与所述局部顶点具有一一对应的关系;
根据所述待处理模型所对应的所述M个局部顶点以及所述M个局部描述子,生成第二对象所对应的目标模型。
11.根据权利要求10所述的方法,其特征在于,所述根据所述待处理模型所对应的所述M个局部顶点以及所述M个局部描述子,生成第二对象所对应的目标模型之后,所述方法还包括:
根据所述第二对象所对应的目标模型,渲染得到三维图像;
展示所述三维图像,或者,向终端设备发送所述三维图像,以使所述终端设备展示所述三维图像。
12.一种局部描述子生成装置,其特征在于,包括:
获取模块,用于获取待处理模型中每个局部顶点所对应的小波能量,得到M个小波能量,其中,所述待处理模型包括M个局部顶点,且所述局部顶点与所述小波能量具有一一对应的关系,所述M为大于或等于1的整数;
确定模块,用于根据所述M个小波能量确定M个小波能量贡献值,其中,所述小波能量贡献值表示所述局部顶点针对所述待处理模型在第一尺度上的贡献,所述小波能量贡献值与所述局部顶点具有一一对应的关系;
所述确定模块,还用于根据所述M个小波能量贡献值确定M个能量特征向量,其中,所述能量特征向量与所述局部顶点具有一一对应的关系;
所述获取模块,还用于基于所述M个能量特征向量,通过图卷积神经网络获取所述待处理模型所对应的M个局部描述子,其中,所述局部描述子与所述局部顶点具有一一对应的关系。
13.一种模型生成装置,其特征在于,包括:
获取模块,用于获取第一对象所对应的待处理模型中每个局部顶点的小波能量,得到M个小波能量,其中,所述待处理模型包括M个局部顶点,所述局部顶点与所述小波能量具有一一对应的关系,所述M为大于或等于1的整数;
确定模块,用于根据所述M个小波能量确定M个小波能量贡献值,其中,所述小波能量贡献值与所述局部顶点具有一一对应的关系;
所述确定模块,还用于根据所述M个小波能量贡献值确定M个能量特征向量,其中,所述能量特征向量与所述局部顶点具有一一对应的关系;
所述获取模块,还用于基于所述M个能量特征向量,通过图卷积神经网络获取所述待处理模型所对应的M个局部描述子,其中,所述局部描述子与所述局部顶点具有一一对应的关系;
生成模块,用于根据所述待处理模型所对应的所述M个局部顶点以及所述M个局部描述子,生成第二对象所对应的目标模型。
14.一种计算机设备,其特征在于,包括:存储器、收发器、处理器以及总线系统;
其中,所述存储器用于存储程序;
所述处理器用于执行所述存储器中的程序,所述处理器用于根据所述程序代码中的指令执行权利要求1至9中任一项所述的生成方法,或,执行权利要求10至11中任一项所述的方法;
所述总线系统用于连接所述存储器以及所述处理器,以使所述存储器以及所述处理器进行通信。
15.一种计算机可读存储介质,包括指令,当其在计算机上运行时,使得计算机执行权利要求1至9中任一项所述的生成方法,或,执行权利要求10至11中任一项所述的方法。
CN202010899254.7A 2020-08-31 2020-08-31 一种局部描述子的生成方法、模型生成的方法及装置 Pending CN112037315A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010899254.7A CN112037315A (zh) 2020-08-31 2020-08-31 一种局部描述子的生成方法、模型生成的方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010899254.7A CN112037315A (zh) 2020-08-31 2020-08-31 一种局部描述子的生成方法、模型生成的方法及装置

Publications (1)

Publication Number Publication Date
CN112037315A true CN112037315A (zh) 2020-12-04

Family

ID=73587734

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010899254.7A Pending CN112037315A (zh) 2020-08-31 2020-08-31 一种局部描述子的生成方法、模型生成的方法及装置

Country Status (1)

Country Link
CN (1) CN112037315A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112507995A (zh) * 2021-02-05 2021-03-16 成都东方天呈智能科技有限公司 一种跨模型人脸特征向量的转换系统及方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112507995A (zh) * 2021-02-05 2021-03-16 成都东方天呈智能科技有限公司 一种跨模型人脸特征向量的转换系统及方法

Similar Documents

Publication Publication Date Title
CN111652121B (zh) 一种表情迁移模型的训练方法、表情迁移的方法及装置
CN112614213B (zh) 人脸表情确定方法、表情参数确定模型、介质及设备
CN110009052B (zh) 一种图像识别的方法、图像识别模型训练的方法及装置
CN110517339B (zh) 一种基于人工智能的动画形象驱动方法和装置
CN111369602A (zh) 点云数据的处理方法、装置、电子设备及可读存储介质
CN112070207A (zh) 一种模型训练方法及装置
CN111209423B (zh) 一种基于电子相册的图像管理方法、装置以及存储介质
CN110738211A (zh) 一种对象检测的方法、相关装置以及设备
CN110517340B (zh) 一种基于人工智能的脸部模型确定方法和装置
CN114297730A (zh) 对抗图像生成方法、装置及存储介质
CN115244495A (zh) 针对虚拟环境运动的实时式样
CN111401445A (zh) 一种图像识别模型的训练方法、图像识别的方法及装置
CN111009031B (zh) 一种人脸模型生成的方法、模型生成的方法及装置
CN111709398A (zh) 一种图像识别的方法、图像识别模型的训练方法及装置
CN114418069A (zh) 一种编码器的训练方法、装置及存储介质
CN113066125A (zh) 一种增强现实方法及其相关设备
CN111556337B (zh) 一种媒体内容植入方法、模型训练方法以及相关装置
CN113822427A (zh) 一种模型训练的方法、图像匹配的方法、装置及存储介质
CN111914106B (zh) 纹理与法线库构建方法、纹理与法线图生成方法及装置
CN112037315A (zh) 一种局部描述子的生成方法、模型生成的方法及装置
CN113762046A (zh) 图像识别方法、装置、设备以及存储介质
CN110443852B (zh) 一种图像定位的方法及相关装置
CN115081643B (zh) 对抗样本生成方法、相关装置及存储介质
CN117009878A (zh) 基于超图的分类方法、装置、计算机设备及存储介质
CN110084845A (zh) 变形预测方法、装置及计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination