CN116486108A - 一种图像处理方法、装置、设备及存储介质 - Google Patents
一种图像处理方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN116486108A CN116486108A CN202310730294.2A CN202310730294A CN116486108A CN 116486108 A CN116486108 A CN 116486108A CN 202310730294 A CN202310730294 A CN 202310730294A CN 116486108 A CN116486108 A CN 116486108A
- Authority
- CN
- China
- Prior art keywords
- vertex
- key
- grid model
- vertexes
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 30
- 238000012545 processing Methods 0.000 claims abstract description 127
- 238000000034 method Methods 0.000 claims abstract description 108
- 239000011159 matrix material Substances 0.000 claims abstract description 78
- 230000008569 process Effects 0.000 claims abstract description 65
- 230000004927 fusion Effects 0.000 claims description 59
- 239000010410 layer Substances 0.000 claims description 54
- 230000002776 aggregation Effects 0.000 claims description 40
- 238000004220 aggregation Methods 0.000 claims description 40
- 238000002372 labelling Methods 0.000 claims description 37
- 238000013528 artificial neural network Methods 0.000 claims description 27
- 238000007499 fusion processing Methods 0.000 claims description 23
- 238000013519 translation Methods 0.000 claims description 23
- 239000013598 vector Substances 0.000 claims description 20
- 238000013507 mapping Methods 0.000 claims description 18
- 238000004590 computer program Methods 0.000 claims description 17
- 229910052757 nitrogen Inorganic materials 0.000 claims description 17
- 230000003213 activating effect Effects 0.000 claims description 16
- 230000009466 transformation Effects 0.000 claims description 15
- 238000000605 extraction Methods 0.000 claims description 14
- 238000006243 chemical reaction Methods 0.000 claims description 11
- 230000004913 activation Effects 0.000 claims description 10
- 238000012216 screening Methods 0.000 claims description 9
- 239000002356 single layer Substances 0.000 claims description 6
- 238000001914 filtration Methods 0.000 claims description 5
- 238000010606 normalization Methods 0.000 claims description 5
- 238000010586 diagram Methods 0.000 description 19
- 239000004973 liquid crystal related substance Substances 0.000 description 14
- 238000013473 artificial intelligence Methods 0.000 description 10
- 238000005516 engineering process Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 10
- 230000000694 effects Effects 0.000 description 7
- 238000004891 communication Methods 0.000 description 5
- 238000010801 machine learning Methods 0.000 description 5
- 230000009286 beneficial effect Effects 0.000 description 4
- 230000003993 interaction Effects 0.000 description 3
- 238000011160 research Methods 0.000 description 3
- 230000000452 restraining effect Effects 0.000 description 3
- 230000004931 aggregating effect Effects 0.000 description 2
- 229910052799 carbon Inorganic materials 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 229910052739 hydrogen Inorganic materials 0.000 description 2
- 229910052700 potassium Inorganic materials 0.000 description 2
- 235000008694 Humulus lupulus Nutrition 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000006698 induction Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000035515 penetration Effects 0.000 description 1
- 229910052698 phosphorus Inorganic materials 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 229910052717 sulfur Inorganic materials 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000013526 transfer learning Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
Abstract
本申请实施例公开了一种图像处理方法、装置、设备及存储介质。其中方法包括:获取对象的网格模型中各个顶点的顶点特征和网格模型的拓扑信息,获取顶点关系指示信息,顶点关系指示信息用于指示网格模型中存在约束关系的顶点,调用蒙皮权重预测模型基于顶点关系指示信息、顶点特征和网格模型的拓扑信息,预测网格模型的蒙皮权重。可见,在网格模型的蒙皮权重的预测过程中,通过顶点关系指示信息对网格模型中的各个顶点的蒙皮权重进行约束,可以提高网格模型的蒙皮矩阵的预测准确度。
Description
技术领域
本申请涉及计算机技术领域,具体涉及一种图像处理方法、一种图像处理装置、一种计算机设备及一种计算机可读存储介质。
背景技术
随着科技研究的进步,动画和游戏行业飞速发展。动画和游戏行业的技术核心之一是对象的网格模型;例如,服饰模型、角色模型、场景模型等。由于对象的网格模型中的顶点较多,对象的网格模型的旋转平移变换通常是通过该网格模型对应的蒙皮矩阵来指示。研究发现,网格模型对应的蒙皮矩阵通常是由蒙皮权重预测模型预测得到的,网格模型的蒙皮矩阵的预测准确度较低。
发明内容
本申请实施例提供了一种图像处理方法、装置、设备及计算机可读存储介质,能够提高网格模型的蒙皮矩阵的预测准确度。
一方面,本申请实施例提供了一种图像处理方法,包括:
获取对象的网格模型中各个顶点的顶点特征和网格模型的拓扑信息,网格模型的拓扑信息包括对象的关节点与网格模型中各个顶点的位置关系,以及网格模型中各个顶点的连接关系;
获取顶点关系指示信息,顶点关系指示信息用于指示网格模型中存在约束关系的顶点;
调用蒙皮权重预测模型基于顶点关系指示信息、顶点特征和网格模型的拓扑信息,预测网格模型的蒙皮权重;
其中,网格模型的蒙皮权重用于指示网格模型在形变过程中对象的关节点对网格模型中各个顶点的影响程度。
一方面,本申请实施例提供了一种图像处理装置,该图像处理装置包括:
获取单元,用于获取对象的网格模型中各个顶点的顶点特征和网格模型的拓扑信息,网格模型的拓扑信息包括对象的关节点与网格模型中各个顶点的位置关系,以及网格模型中各个顶点的连接关系;
以及用于获取顶点关系指示信息,顶点关系指示信息用于指示网格模型中存在约束关系的顶点;
处理单元,用于调用蒙皮权重预测模型基于顶点关系指示信息、顶点特征和网格模型的拓扑信息,预测网格模型的蒙皮权重;
其中,网格模型的蒙皮权重用于指示网格模型在形变过程中对象的关节点对网格模型中各个顶点的影响程度。
在一种实施方式中,蒙皮权重预测模型包括神经网络层和M个特征融合模块,M为正整数;处理单元用于,调用蒙皮权重预测模型基于顶点关系指示信息、顶点特征和网格模型的拓扑信息,预测网格模型的蒙皮权重,具体用于:
调用M个特征融合模块对顶点关系指示信息和网格模型中的每个顶点的顶点特征进行特征融合处理,得到各个顶点的融合特征;
通过神经网络层对各个顶点的融合特征和网格模型的拓扑信息进行蒙皮权重预测处理,得到网格模型的蒙皮权重。
在一种实施方式中,顶点关系指示信息包括P个关键顶点集合,P为正整数;每个特征融合模块包括注意力子模块,残差子模块和邻接子模块;处理单元调用M个特征融合模块对顶点关系指示信息和网格模型中的每个顶点的顶点特征进行特征融合处理,得到各个顶点的融合特征的过程包括:
获取P个关键顶点集合对应的P个第一邻接矩阵,并通过邻接子模块对P个第一邻接矩阵和各个顶点的顶点特征进行特征转换处理,得到各个顶点的邻域特征;P个第一邻接矩阵是在建立每个关键顶点集合中的各个关键顶点间的连边后得到的;
调用注意力子模块将网格模型中各个顶点的顶点特征聚合至各个关键顶点集合中,得到P个聚合特征;P个聚合特征与P个关键顶点集合一一对应,第q个聚合特征用于指示网格模型中的顶点的蒙皮权重,与第q个关键顶点集合中各个关键顶点的蒙皮权重的相似度;
通过残差子模块对各个顶点的顶点特征进行深度特征提取处理,得到各个顶点的深度特征;
对每个顶点的邻域特征,P个聚合特征和每个顶点的深度特征进行融合处理,得到网格模型中各个顶点的融合特征。
在一种实施方式中,处理单元通过邻接子模块对P个第一邻接矩阵和各个顶点的顶点特征进行特征转换处理,得到各个顶点的邻域特征的过程包括:
通过第q个第一邻接矩阵,确定关键顶点j的k个邻居顶点,第q个第一邻接矩阵是第q个关键顶点集合的第一邻接矩阵,关键顶点j属于第q个关键顶点集合,k为正整数;
分别计算关键顶点j的顶点特征与k个邻居顶点的顶点特征间的差异,得到k个差异特征;
将k个差异特征中的最大值,确定为关键顶点j的邻域特征。
在一种实施方式中,网格模型的拓扑信息包括第二邻接矩阵,第二邻接矩阵是基于网格模型中各个顶点之间的连接关系得到的;处理单元用于,通过第q个第一邻接矩阵,确定关键顶点j的k个邻居顶点,具体用于:
通过第q个第一邻接矩阵,确定与关键顶点j存在连边的T个关键顶点,T为正整数;
若T大于等于k,则从T个关键顶点中随机选取k个顶点作为关键顶点j的邻居顶点;
若T小于k,则通过第二邻接矩阵,确定与关键顶点j存在连边的V个顶点,并从V个顶点中随机选取k-T个顶点,将T个关键顶点和选取的k-T个顶点作为关键顶点j的邻居顶点,V为正整数。
在一种实施方式中,处理单元用于,调用注意力子模块将网格模型中各个顶点的顶点特征聚合至各个关键顶点集合中,得到P个聚合特征的过程包括:
获取网格模型中各个顶点对应的第q个权值,q为小于等于P的正整数;
通过每个顶点对应的第q个权值对该顶点的顶点特征进行加权处理,得到各个顶点的加权特征;
对各个顶点的加权特征进行聚合处理,得到第q个聚合特征。
在一种实施方式中,处理单元获取网格模型中各个顶点对应的第q个权值的过程包括:
对第q个关键顶点集合中的关键顶点与顶点h的第一距离进行均值处理,得到顶点h对应的第q个距离均值;顶点h为网格模型中的任一个顶点;
基于顶点h对应的第q个距离均值的求导结果,确定顶点h的第q个权值。
在一种实施方式中,残差子模块包括神经网络层和激活层;处理单元通过残差子模块对各个顶点的顶点特征进行深度特征提取处理,得到各个顶点的深度特征的过程包括:
通过神经网络层对顶点h的顶点特征进行映射处理,得到顶点h的特征映射结果;
采用激活层对顶点h的特征映射结果进行激活处理,得到顶点h的激活特征;
对顶点h的激活特征和顶点h的顶点特征进行融合处理,得到顶点h的深度特征。
在一种实施方式中,对象的关节点包括至少一个基础关节点和网格模型对应的P个附加关节点,P为正整数;处理单元用于,获取顶点关系指示信息,具体用于:
获取P个附加关节点对应网格模型中的P个关键区域,每个关键区域中包括至少两个顶点;
对每个关键区域中的顶点进行筛选处理,得到P个关键顶点集合,每个关键顶点集合中各个关键顶点之间存在约束关系;
基于P个关键顶点集合,生成顶点关系指示信息。
在一种实施方式中,处理单元对每个关键区域中的顶点进行筛选处理,得到P个关键顶点集合的过程包括:
将第q个关键区域中的目标顶点,以及目标顶点的邻域顶点添加至候选顶点集合中,目标顶点与第q个附加关节点的第二距离,小于第q个关键区域中除目标顶点外的其他顶点与第q个附加关节点的第二距离,q为小于等于P的正整数;
获取候选顶点集合中各个候选顶点的标注权重,以及每个候选顶点的邻域顶点的标注权重;
对候选顶点集合中每个候选顶点的标注权重与该候选顶点的邻域顶点的标注权重的差异进行均值处理,得到每个候选顶点对应的差异均值;
将差异均值最大的候选顶点确定为候选顶点集合的代表顶点;
将第q个关键区域中与代表顶点的差异均值的差异小于均值阈值的顶点,添加至第q个关键顶点集合中。
在一种实施方式中,处理单元用于,获取对象的网格模型中各个顶点的顶点特征,具体用于:
获取网格模型中各个顶点的位置信息和法向量;
根据每个顶点的位置信息,计算该顶点与对象的各个关节点之间的第二距离;
对每个顶点的位置信息,法向量和该顶点与对象的各个关节点之间的第二距离进行合并,得到该顶点的顶点特征。
在一种实施方式中,对象的关节点数量为N,N为正整数;处理单元用于,调用蒙皮权重预测模型基于顶点关系指示信息、顶点特征和网格模型的拓扑信息,预测网格模型的蒙皮权重,具体用于:
调用蒙皮权重预测模型基于顶点关系指示信息、顶点特征和网格模型的拓扑信息,预测网格模型的每个顶点的N个预测权重;顶点h的第u个预测权重用于指示关节点u在网格模型形变过程中对顶点h的影响程度;顶点h为网格模型中的任一个顶点,u为小于等于N的正整数;
从每个顶点的N个预测权重中筛选出最大的R个预测权重,作为每个顶点的R个关键权重,R为大于1且小于等于N的整数;
对每个顶点的R个关键权重进行归一化处理,得到网格模型的蒙皮权重。
在一种实施方式中,处理单元还用于:
获取对象的关节点的旋转平移矩阵;
基于网格模型的蒙皮权重和旋转平移矩阵,对网格模型中的各个顶点进行旋转平移处理,得到网格模型的旋转平移结果;
其中,网格模型包括以下任一种:多层网格模型、单层网格模型、组合网格模型。
相应地,本申请提供了一种计算机设备,该计算机设备包括:
存储器,存储器中存储有计算机程序;
处理器,用于加载计算机程序实现上述图像处理方法。
相应地,本申请提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机程序,该计算机程序适于由处理器加载并执行上述图像处理方法。
相应地,本申请提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述图像处理方法。
本申请实施例中,获取对象的网格模型中各个顶点的顶点特征和网格模型的拓扑信息,获取顶点关系指示信息,顶点关系指示信息用于指示网格模型中存在约束关系的顶点,调用蒙皮权重预测模型基于顶点关系指示信息、顶点特征和网格模型的拓扑信息,预测网格模型的蒙皮权重。可见,在网格模型的蒙皮权重的预测过程中,通过顶点关系指示信息对网格模型中的各个顶点的蒙皮权重进行约束,可以提高网格模型的蒙皮矩阵的预测准确度。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1a为本申请实施例提供的一种图像处理场景图;
图1b为本申请实施例提供的一种图像处理示意图;
图2为本申请实施例提供的一种图像处理方法的流程图;
图3为本申请实施例提供的一种邻域顶点的示意图;
图4为本申请实施例提供的一种蒙皮权重预测模型的架构示意图;
图5为本申请实施例提供的另一种图像处理方法的流程图;
图6为本申请实施例提供的一种关键顶点的示意图;
图7为本申请实施例提供的一种建立关键顶点的连边的示意图;
图8为本申请实施例提供的一种邻接子模块的特征转换示意图;
图9为本申请实施例提供的一种残差子模块的结构示意图;
图10为本申请实施例提供的一种效果对比图;
图11为本申请实施例提供的一种图像处理装置的结构示意图;
图12为本申请实施例提供的一种计算机设备的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
本申请涉及与人工智能和建模相关的技术,下面对涉及的相关技术进行简单介绍:
人工智能(Artificial Intelligence,AI):所谓AI是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说,人工智能是计算机科学的一个综合技术,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法,使机器具有感知、推理与决策的功能。本申请实施例主要涉及通过蒙皮权重预测模型,基于顶点关系指示信息,对顶点特征和网格模型的拓扑信息进行蒙皮权重进行预测处理,得到网格模型的蒙皮权重。
AI技术是一门综合学科,涉及领域广泛,既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大应用程序的处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
机器学习(Machine Learning,ML)是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。机器学习是人工智能的核心,是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。机器学习和深度学习通常包括人工神经网络、置信网络、强化学习、迁移学习、归纳学习、式教学习等技术。本申请实施例主要基于样本数据集对蒙皮权重预测模型进行训练,以进一步提高蒙皮权重预测模型的预测准确率。
网格模型:在游戏和建模行业中,一个对象可以用网格(例如三角形网格(triangle mesh)或多边形网格)来近似表示。使用网格来呈现一个对象的过程,称为建模。在三维世界中最基本的图元是三角形,通常来说,构建的三维世界中的三维模型都是中空的,由闭合的表面(网格体)进行表示。从存储的角度看,由于一个平面可以由3个点来确定,三维模型可以由一个个闭合的面表示;因此,网格模型可以由一个个顶点组成,既没有“面”也没有“体”,无需额外的存储信息,以此达到压缩最大化的目的。由此可知,三维网格模型看上去是由若干个三角形(多边形)组成,存储时存储的是构成三维网格模型的顶点。一个完整的网格模型(mesh)可以由一系列基本的几何信息描述。需要说明的是,本申请涉及的对象的网格模型可以是三维网格模型,也可以是二维网格模型,本申请对此不作限制。
蒙皮:三维动画术语(也可用于3D游戏中)。三维动画的一种制作技术。在三维软件中创建的模型基础上,为模型(网格)添加关节点(关节点可以基于实际需求进行设置,如对于虚拟人物来说,关节点可以是虚拟人物的骨骼)。由于关节点与模型是相互独立的,为了让关节点驱动模型进行变换(如通过关节点驱动模型进行运动),把模型绑定到关节点上的技术叫做蒙皮。蒙皮过程最终输出一个蒙皮矩阵,该蒙皮矩阵中包含AB个蒙皮权重(即蒙皮矩阵的维度为A/>B);其中,A为模型的顶点数,B为模型的关节数。蒙皮矩阵中第i行第j列的蒙皮权重用于指示对象运动过程中第j个关节点对第i个顶点的影响程度,i为小于等于A的正整数,j为小于等于B的正整数。此外,对每个顶点而言,在所有关节点上的权重和为1(即每一行的蒙皮权重的和为1)。
基于上述人工智能和建模相关的技术,本申请实施例提供了一种图像处理方案,来提高网格模型的蒙皮矩阵的预测准确度。图1a为本申请实施例提供的一种图像处理场景图,如图1a所示,本申请提供的图像处理场景中包括计算机设备101,本申请提供的图像处理方案可由计算机设备101执行,计算机设备101可以是终端设备,也可以是服务器。其中,终端设备可以包括但不限于:智能手机(如Android手机、IOS手机等)、平板电脑、便携式个人计算机、移动互联网设备(Mobile Internet Devices,简称MID)、车载终端、智能家电、可穿戴设备等,本申请实施例对此不做限定。服务器可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN(ContentDelivery Network,内容分发网络)、以及大数据和人工智能平台等基础云计算服务的云服务器,本申请实施例对此不做限定。
需要说明的是,图1a中计算机设备的数量仅用于举例,并不构成本申请的实际限定;例如,图1a中还可以包括计算机设备102(如用于向计算机设备101传输顶点关系指示信息),计算机设备101和计算机设备102之间可以通过有线或无线的方式进行连接,本申请对此不作限制。
图1b为本申请实施例提供的一种图像处理示意图。如图1b所示,本申请提供的图像处理方案的大致原理如下:
(1)计算机设备101获取对象的网格模型中各个顶点的顶点特征和网格模型的拓扑信息;其中,网格模型的拓扑信息包括对象的关节点与网格模型中各个顶点的位置关系,以及网格模型中各个顶点的连接关系。在一种实施方式中,对象的网格模型中每个顶点的顶点特征包括以下至少一项:顶点的位置信息(如顶点在笛卡尔坐标系中的位置)、顶点的法向量、顶点与对象的各个关节节点的第二距离(如欧氏距离)。网格模型的拓扑信息包括对象的网格模型的顶点图拓扑结构和对象的关节点图拓扑结构;以对象的网格模型的顶点图拓扑结构为例,对象的网格模型的顶点图拓扑结构包括以下至少一项:对象的网格模型中的顶点,对象的网格模型中的顶点间的连边,以及对象的网格模型中各个顶点的邻接矩阵。在一个实施例中,对象的网格模型中各个顶点的顶点特征和网格模型的拓扑信息可以通过对象的网格模型提取得到。
(2)计算机设备101获取顶点关系指示信息,顶点关系指示信息用于指示网格模型中存在约束关系的顶点。在一种实施方式中,对象的关节点包括至少一个基础(通用)关节点和网格模型对应的P个附加关节点,P为正整数。对于同一对象的不同的网格模型(如同一虚拟角色的不同服饰)来说,各个网格模型的基础关节点是相同的,各个网格模型的附加关节点可以不同。计算机设备101获取网格模型中与P个附加关节点一一对应的P个关键区域(关键区域可以由建模人员指示),每个关键区域中包括至少两个顶点,并对每个关键区域中的顶点进行筛选处理,得到P个关键顶点集合,基于P个关键顶点集合,生成顶点关系指示信息。顶点A和顶点B存在约束关系可以理解为:顶点A和顶点B为同一个关键顶点集合中的不同关键顶点(顶点A和顶点B属于同一个关键区域),且顶点A的蒙皮权重和顶点B的蒙皮权重的差异小于差异阈值。
(3)计算机设备101调用蒙皮权重预测模型基于顶点关系指示信息、顶点特征和网格模型的拓扑信息,预测网格模型的蒙皮权重;其中,网格模型的蒙皮权重用于指示网格模型在形变过程中对象的关节点对网格模型中各个顶点的影响程度。在一种实现方式中,计算机设备可以对顶点关系指示信息、顶点特征和网格模型的拓扑信息进行转换,得到蒙皮权重预测模型的模型输入特征,具体可以包括:基础特征(Basic features);例如,顶点的位置,法向量,与关节点的距离等;邻接特征(hint neighbor matrix);例如,网格模型的邻接矩阵;聚合特征(hint attention weights);例如,对顶点的特征进行聚合得到的特征。其中,邻接特征和聚合特征是两个具有内外层蒙皮权重相似性约束的特征。
在一种实施方式中,蒙皮权重预测模型包括神经网络层和M个特征融合模块,M为正整数;计算机设备101调用M个特征融合模块对顶点关系指示信息和网格模型中的每个顶点的顶点特征进行特征融合处理,得到各个顶点的融合特征。具体来说,计算机设备101将顶点关系指示信息作为约束信息,通过该约束信息对每个顶点的顶点特征的变换过程进行约束(如使得具有约束关系的顶点的变换特征之间的差异小于特征差异阈值),得到每个顶点的变换特征,再将每个顶点的变换特征与该顶点的顶点特征进行特征融合处理,得到各个顶点的融合特征。在得到各个顶点的融合特征后,计算机设备101通过神经网络层对各个顶点的融合特征和网格模型的拓扑信息进行蒙皮权重预测处理,得到网格模型的蒙皮权重。
本申请实施例中,获取对象的网格模型中各个顶点的顶点特征和网格模型的拓扑信息,获取顶点关系指示信息,顶点关系指示信息用于指示网格模型中存在约束关系的顶点,调用蒙皮权重预测模型基于顶点关系指示信息、顶点特征和网格模型的拓扑信息,预测网格模型的蒙皮权重。可见,在网格模型的蒙皮权重的预测过程中,通过顶点关系指示信息对网格模型中的各个顶点的蒙皮权重进行约束,可以提高网格模型的蒙皮矩阵的预测准确度。
基于上述图像处理方案,本申请实施例提出更为详细的图像处理方法,下面将结合附图对本申请实施例提出的图像处理方法进行详细介绍。
请参阅图2,图2为本申请实施例提供的一种图像处理方法的流程图,该图像处理方法可以由计算机设备执行,该计算机设备具体可以是终端设备或者服务器。如图2所示,该图像处理方法可包括如下步骤S201-S203:
S201、获取对象的网格模型中各个顶点的顶点特征和网格模型的拓扑信息。
对象的网格模型中每个顶点的顶点特征包括以下至少一项:顶点的位置信息(如顶点在笛卡尔坐标系中的位置)、顶点的法向量、顶点与对象的各个关节节点的第二距离(如欧氏距离)。
在一种实施方式中,计算机设备获取对象的网格模型中各个顶点的位置信息和法向量,并基于每个顶点的位置信息,计算该顶点与对象的各个关节点之间的第二距离(如欧式距离)。接着计算机设备对每个顶点的位置信息,法向量和该顶点与对象的各个关节点之间的第二距离进行合并,得到该顶点的顶点特征。
网格模型的拓扑信息可以用于指示对象的关节点与网格模型中各个顶点的位置关系,以及网格模型中各个顶点的连接关系。网格模型的拓扑信息包括对象的网格模型的顶点图拓扑结构和对象的关节点图拓扑结构。对象的网格模型的顶点图拓扑结构包括以下至少一项:对象的网格模型中的顶点,对象的网格模型中的顶点间的连边,以及对象的网格模型中各个顶点的邻接矩阵。在一种实施方式中,计算机设备对对象的网格模型进行拓扑图信息提取处理,得到网格模型的拓扑信息。
S202、获取顶点关系指示信息。
顶点关系指示信息用于指示网格模型中存在约束关系的顶点。
在一种实施方式中,对象的关节点包括至少一个基础(通用)关节点和网格模型对应的P个附加关节点,P为正整数。对于同一对象的不同的网格模型(如同一虚拟角色的不同服饰)来说,各个网格模型的基础关节点是相同的,各个网格模型的附加关节点可以不同。计算机设备获取网格模型中与P个附加关节点一一对应的P个关键区域(关键区域可以由建模人员指示),每个关键区域中包括至少两个顶点,并对每个关键区域中的顶点进行筛选处理,得到P个关键顶点集合,基于P个关键顶点集合,生成顶点关系指示信息。顶点A和顶点B存在约束关系可以理解为:顶点A和顶点B为同一个关键顶点集合中的不同关键顶点(顶点A和顶点B属于同一个关键区域),且顶点A的蒙皮权重和顶点B的蒙皮权重的差异小于差异阈值。
在一个实施例中,计算机设备对每个关键区域中的顶点进行筛选处理,得到P个关键顶点集合的过程包括:将第q个关键区域中与第q个附加关节点的第二距离(欧氏距离)最近的目标顶点,以及目标顶点的邻域顶点添加至候选顶点集合中;目标顶点的邻域顶点是指与目标顶点在S跳以内的顶点(即最少通过S条不重复且无法构成回路的连边即可到达顶点A的顶点),q为小于等于P的正整数,S为正整数(具体可以基于实际情况动态调整)。
图3为本申请实施例提供的一种邻域顶点的示意图。如图3所示,顶点A分别与顶点B,顶点C和顶点D相连(存在连边),则顶点A的一跳邻域顶点包括:顶点B,顶点C和顶点D(即最少通过一条连边即可到达顶点A的顶点);类似地,顶点E,顶点F通过顶点B与顶点A间接相连,顶点G通过顶点C与顶点A间接相连,顶点H,顶点I,顶点J和顶点K通过顶点D与顶点A间接相连,则顶点A的二跳邻域顶点包括:顶点E,顶点F,顶点G,顶点H,顶点I,顶点J和顶点K(即最少通过两条不重复且无法构成回路的连边即可到达顶点A的顶点)。
进一步地,计算机设备获取候选顶点集合中各个候选顶点的标注权重,以及每个候选顶点的邻域顶点的标注权重,并对候选顶点集合中每个候选顶点的标注权重与该候选顶点的邻域顶点的标注权重的差异进行均值处理,得到每个候选顶点对应的差异均值;其中,每个候选顶点的标注权重用于指示对象的网格模型在形变过程中,第q个附加关节点对该候选顶点的影响程度;每个候选顶点的邻域顶点的标注权重用于指示对象的网格模型在形变过程中,第q个附加关节点对该邻域顶点的影响权重。
举例来说,假设候选顶点A的标注权重为0.22,候选顶点A的邻域顶点包括顶点B和顶点C,顶点B的标注权重为0.19,顶点C的标注权重为0.24;则候选顶点A与顶点B的标注权重的差异为|0.22-0.19|=0.03,候选顶点A与顶点C的标注权重的差异为|0.22-0.24|=0.02,候选顶点A对应的差异均值为(0.03+0.02)/2=0.025。
在得到每个候选顶点对应的差异均值后,计算机设备将差异均值最大的候选顶点确定为候选顶点集合的代表顶点,并将第q个关键区域中与代表顶点的差异均值的差异小于均值阈值的顶点,添加至第q个关键顶点集合中(各个关键顶点集合中的关键顶点均为网格模型中的顶点);例如,假设候选顶点集合中包括候选顶点A,候选顶点B和候选顶点C;候选顶点A对应的差异均值为0.31,候选顶点B对应的差异均值为0.35,候选顶点C对应的差异均值为0.28;则候选顶点B为候选顶点集合的代表顶点,若第q个关键区域中除候选顶点A,候选顶点B, 候选顶点C以外,还包括顶点E, 顶点F, 顶点G和顶点H,且顶点E对应的差异均值为0.32,顶点F对应的差异均值为0.21,顶点G对应的差异均值为0.29,顶点H对应的差异均值为0.3,且均值阈值为0.08;则第q个关键顶点集合包括候选顶点A,候选顶点B,候选顶点C,顶点E, 顶点G和顶点H。
S203、调用蒙皮权重预测模型基于顶点关系指示信息、顶点特征和网格模型的拓扑信息,预测网格模型的蒙皮权重。
网格模型的蒙皮权重用于指示网格模型在形变过程中对象的关节点对网格模型中各个顶点的影响程度。在一种实施方式中,蒙皮权重预测模型包括神经网络层和M个特征融合模块,M为正整数;计算机设备调用M个特征融合模块对顶点关系指示信息和网格模型中的每个顶点的顶点特征进行特征融合处理,得到各个顶点的融合特征。具体来说,计算机设备将顶点关系指示信息作为约束信息,通过该约束信息对每个顶点的顶点特征的变换过程进行约束(如使得具有约束关系的顶点的变换特征之间的差异小于特征差异阈值),得到每个顶点的变换特征,再将每个顶点的变换特征与该顶点的顶点特征进行特征融合处理,得到各个顶点的融合特征。接着通过神经网络层对各个顶点的融合特征和网格模型的拓扑信息进行蒙皮权重预测处理,得到网格模型的蒙皮权重。
图4为本申请实施例提供的一种蒙皮权重预测模型的架构示意图。如图4所示,蒙皮权重预测模型包括神经网络层和M个特征融合模块,第i个特征融合模块的输出是第i+1个融合模块的输入,i为小于M的正整数;第1个特征融合模块的输入包括对象的网格模型中各个顶点的顶点特征和网格模型的拓扑信息。在通过M个特征融合模块得到对象的网格模型中各个顶点的融合特征(该过程可以基于顶点关系指示信息进行约束)后,通过神经网络层(如多层感知机(Multi Layer Perceptron,MLP))对各个顶点的融合特征进行蒙皮权重预测处理,得到网格模型的蒙皮权重。
在一个实施例中,顶点关系指示信息包括P个关键顶点集合(weight hints点集),各个关键顶点集合中的关键顶点(Hint 顶点)均为网格模型中的顶点,P为正整数。每个特征融合模块包括注意力子模块(Hints Attention),残差子模块(Residual Vertex)和邻接子模块(Hints Neighbor)。其中,邻接子模块用于基于各个顶点的顶点特征,确定每个顶点的邻域特征;注意力子模块用于基于各个顶点的顶点特征聚合至P个关键顶点集合中,得到P个聚合特征;残差子模块用于基于各个顶点的顶点特征,提取各个顶点的深度特征。计算机设备调用M个特征融合模块对顶点关系指示信息和网格模型中的每个顶点的顶点特征进行特征融合处理,得到各个顶点的融合特征的过程如下:
一方面,计算机设备获取P个关键顶点集合对应的P个第一邻接矩阵。在一个实施例中,计算机设备建立每个关键顶点集合中的各个关键顶点间的连边,在建立每个关键顶点集合中的各个关键顶点间的连边后,计算机设备基于P个关键顶点集合中的各个关键顶点间的连接关系,得到P个关键顶点集合对应的P个第一邻接矩阵。可以理解的是,在建立每个关键顶点集合中的各个关键顶点间的连边后,每个关键顶点集合中的任一个关键顶点与其余的关键顶点之间均存在连边。举例来说,假设第q个关键顶点集合包括关键顶点1-关键顶点5,则关键顶点1与关键顶点2-关键顶点5之间均存在连边。
进一步地,计算机设备通过邻接子模块(Hints Neighbor)对P个第一邻接矩阵和各个顶点的顶点特征进行特征转换处理,得到各个顶点的邻域特征。具体来说,计算机设备通过第q个第一邻接矩阵,确定关键顶点j的k个邻居顶点,第q个第一邻接矩阵是第q个关键顶点集合的第一邻接矩阵,关键顶点j属于第q个关键顶点集合,k为正整数。在确定关键顶点j的k个邻居顶点后,分别计算关键顶点j的顶点特征与k个邻居顶点的顶点特征间的差异,得到k个差异特征,并将k个差异特征中的最大值,确定为关键顶点j的邻域特征。
另一方面,计算机设备调用注意力子模块(Hints Attention)将网格模型中各个顶点的顶点特征聚合至各个关键顶点集合中,得到P个聚合特征。P个聚合特征与P个关键顶点集合一一对应,第q个聚合特征用于指示网格模型中的顶点的蒙皮权重,与第q个关键顶点集合中各个关键顶点的蒙皮权重的相似。计算机设备调用注意力子模块将网格模型中各个顶点的顶点特征聚合至第q个关键顶点集合中,得到第q个聚合特征的具体实施方式为:获取网格模型中各个顶点对应的第q个权值,q为小于等于P的正整数,通过每个顶点对应的第q个权值对该顶点的顶点特征进行加权处理,得到各个顶点的加权特征,对各个顶点的加权特征进行聚合处理,得到第q个聚合特征。
再一方面,计算机设备通过残差子模块(Residual Vertex)对各个顶点的顶点特征进行深度特征提取处理,得到各个顶点的深度特征。
在得到对每个顶点的邻域特征,P个聚合特征,以及每个顶点的深度特征后,计算机设备对每个顶点的邻域特征,P个聚合特征,以及每个顶点的深度特征进行融合处理,得到对象的网格模型中各个顶点的融合特征。
在另一种实施方式中,对象的关节点数量为N,N为正整数;计算机设备调用蒙皮权重预测模型基于顶点关系指示信息、顶点特征和网格模型的拓扑信息,预测网格模型中每个顶点的N个预测权重。对于顶点h,蒙皮权重预测模型输出的预测权重可以记为:,B为关节点的数量。/>为顶点h的第u个预测权重,顶点h的第u个预测权重用于指示关节点u在网格模型形变过程中对顶点h的影响程度;顶点h为网格模型中的任一个顶点,u为小于等于N的正整数;/>,/>。
在得到每个顶点的N个预测权重后,计算机设备从每个顶点的N个预测权重中筛选出最大的R(如R=3)个预测权重,作为每个顶点的R个关键权重,并对每个顶点的R个关键权重进行归一化处理,得到网格模型的蒙皮权重,R为大于1且小于等于N的整数。通过本实施方式,可以进一步增强网格模型的蒙皮权重的稀疏性,并提高权重预测结果的准确度。
举例来说,假设对象的关节点数量为4,计算机设备调用蒙皮权重预测模型基于顶点关系指示信息,对顶点特征和网格模型的拓扑信息进行蒙皮权重进行预测处理,得到对象的网格模型中顶点h的4个预测权重,关节点1的预测权重为0.5,关节点2的预测权重为0.3,关节点3的预测权重为0.15,关节点4的预测权重为0.05;若R=2,则计算机设备保留关节点1的预测权重和关节点2的预测权重(对关节点3的预测权重和关节点4的预测权重进行置零处理),并对关节点1的预测权重和关节点2的预测权重进行归一化处理,得到顶点h的第1个蒙皮权重(用于指示关节点2在网格模型形变过程中对顶点h的影响程度)为0.625;顶点h的第2个蒙皮权重(用于指示关节点2在网格模型形变过程中对顶点h的影响程度)为0.375,顶点h的第3个蒙皮权重(用于指示关节点3在网格模型形变过程中对顶点h的影响程度)和第4个蒙皮权重(用于指示关节点4在网格模型形变过程中对顶点h的影响程度)均为0。
本申请实施例中,获取对象的网格模型中各个顶点的顶点特征和网格模型的拓扑信息,获取顶点关系指示信息,顶点关系指示信息用于指示网格模型中存在约束关系的顶点,调用蒙皮权重预测模型基于顶点关系指示信息、顶点特征和网格模型的拓扑信息,预测网格模型的蒙皮权重。可见,在网格模型的蒙皮权重的预测过程中,通过顶点关系指示信息对网格模型中的各个顶点的蒙皮权重进行约束,可以提高网格模型的蒙皮矩阵的预测准确度。此外,通过邻接子模块对P个第一邻接矩阵和各个顶点的顶点特征进行特征转换处理,可以将关键顶点集合加入到第二邻接矩阵中,来聚合网格模型中(如不同层mesh)的邻域顶点特征,以达到约束顶点间的蒙皮权重的目的;通过残差子模块对各个顶点的顶点特征进行深度特征提取处理,可以有效提取网格模型中各个顶点的深度特征(更深层次的特征),进一步提高蒙皮权重预测模型的预测准确度;调用注意力子模块将网格模型中各个顶点的顶点特征聚合至各个关键顶点集合中,可以将网格模型中的顶点的顶点特征按照自适应权重聚合到P个关键顶点集合中,还可以将P个关键顶点集合中的关键顶点的顶点特征有效传递给网格模型中的其余各顶点(非关键顶点)。
请参阅图5,图5为本申请实施例提供的另一种图像处理方法的流程图,该图像处理方法可以由计算机设备执行,该计算机设备具体可以是终端设备或者服务器。如图5所示,该图像处理方法可包括如下步骤S501-S508:
S501、获取对象的网格模型中各个顶点的顶点特征和网格模型的拓扑信息。
对象的网格模型中每个顶点的顶点特征包括以下至少一项:顶点的位置信息、顶点的法向量、顶点与对象的各个关节节点的第二距离(如欧氏距离)。在一种实施方式中,顶点h的顶点特征可以通过特征向量表示,具体可以表示为:
其中,用于表示顶点h在笛卡尔坐标系中的位置,/>;/>可以由一个三维向量/>来表示,/>表示顶点h在笛卡尔坐标系中的x轴坐标,/>表示顶点h在笛卡尔坐标系中的y轴坐标,/>表示顶点h在笛卡尔坐标系中的z轴坐标。/>用于表示顶点h的法向量,/>;/>可以由一个三维向量/>来表示。/>用于表示顶点h到对象的各个关节点的欧式距离,若对象的关节点数量为B(即/>一共有/>维),则/>。
进一步地,按照上述顶点特征的向量表示方式,N个顶点的顶点特征的维度可以表示为:
其中,N为对象的网格模型中顶点的总数量,为每一个顶点的特征向量的维度。
网格模型的拓扑信息包括对象的网格模型的顶点图拓扑结构和对象的关节点图拓扑结构,具体可以表示为:
其中,为对象的网格模型(mesh)的顶点图拓扑结构;/>进一步可以表示为,其中/>表示对象的网格模型中的顶点,/>表示对象的网格模型中的连边,/>是一个值为(0,1)组成的顶点邻接矩阵,大小为N×N,N为对象的网格模型中顶点的总数量,/>可以用于指示对象的网格模型中顶点对(即两个顶点)之间的连通性,如果/>,则表示顶点i与顶点j之间存在连接边,如果/>,则表示顶点i与顶点j之间不存在连接边。对于对象的网格模型中的任一个顶点i来说,它的邻接节点集合可以用/>来表示;例如,顶点i的一跳邻接节点包括对象的网格模型中与顶点i之间存在连边(与顶点i直接相连)的顶点。
S502、获取顶点关系指示信息。
在一种实施方式中,对象的关节点包括至少一个基础(通用)关节点和网格模型对应的P个附加关节点,P为正整数。对于同一对象的不同的网格模型(如同一虚拟角色的不同服饰)来说,各个网格模型的基础关节点是相同的,各个网格模型的附加关节点可以不同。下面以确定第q个附加关节点对应的关键顶点集合(weight hints点集)为例进行详细说明:
(1)计算机设备获取第q个附加关节点对应的关键区域(关键区域可以由建模人员指示),并计算第q个附加关节点对应的关键区域内各个顶点与第q个附加关节点的欧式距离。将第q个关键区域中的目标顶点(如),以及目标顶点的邻域顶点添加至候选顶点集合中,得到候选顶点集合(如/>)。目标顶点与第q个附加关节点的第二距离(欧式距离),小于第q个关键区域中除目标顶点外的其他顶点与第q个附加关节点的第二距离(欧式距离);也就是说,在第q个关键区域,目标顶点与第q个附加关节点的(欧式)距离最近。
(2)计算机设备分别计算候选顶点集合中每个候选顶点与该候选顶点的邻接顶点(即邻域内的顶点)的标注权重差异,并基于每个候选顶点与该候选顶点的邻接顶点的标注权重差异,计算每个候选顶点对应的差异均值。具体来说,计算机设备获取候选顶点集合中各个候选顶点的标注权重,以及每个候选顶点的邻域顶点的标注权重,并对候选顶点集合中每个候选顶点的标注权重与该候选顶点的邻域顶点的标注权重的差异进行均值处理,得到每个候选顶点对应的差异均值;其中,每个候选顶点的标注权重用于指示对象的网格模型在形变过程中,第q个附加关节点对该候选顶点的影响程度;每个候选顶点的邻域顶点的标注权重用于指示对象的网格模型在形变过程中,第q个附加关节点对该邻域顶点的影响权重。候选顶点j对应的差异均值可以表示为:
其中,表示候选顶点j对应的差异均值,m为候选顶点j的邻接节点(即邻域内的顶点)的数量;/>表示候选顶点j的标注权重,/>表示候选顶点j的邻接节点的标注权重。
(3)在得到每个候选顶点对应的差异均值后,计算机设备将差异均值最大的候选顶点确定为候选顶点集合的代表顶点。举例来说,假设候选顶点集合中包括候选顶点A,候选顶点B和候选顶点C;候选顶点A对应的差异均值为0.31,候选顶点B对应的差异均值为0.35,候选顶点C对应的差异均值为0.28;则候选顶点B为候选顶点集合的代表顶点。
(4)计算机设备将第q个附加关节点对应的关键区域中,与代表顶点的差异均值的差异小于均值阈值的顶点,添加至第q个关键顶点集合中。举例来说,假设候选顶点集合中的候选顶点B为候选顶点集合的代表顶点(候选顶点B对应的差异均值为0.35),若第q个关键区域中包括顶点E, 顶点F, 顶点G和顶点H,且顶点E对应的差异均值为0.32,顶点F对应的差异均值为0.21,顶点G对应的差异均值为0.29,顶点H对应的差异均值为0.3,且均值阈值为0.08;则第q个关键顶点集合包括顶点E, 顶点G和顶点H。
按照上述关键顶点集合确定流程,计算机设备可以得到各个附加关节点对应的关键顶点集合,并根据P个附加关节点对应的关键顶点集合,生成顶点关系指示信息。
图6为本申请实施例提供的一种关键顶点的示意图。如图6所示,该示意图中对象的网格模型包括4个关键区域;也就是说,对象的网格模型对应有4个附加关节点。每个关键区域中加粗的顶点,即为按照上述实施方式确定的属于同一个关键顶点集合的关键顶点。需要说明的是,关键区域的形状仅用于举例,并不构成本申请的实际限定;例如,关键区域的形状还可以是圆形、其它多边形等。
可以理解的是,建模人员也可以直接指示每个附加关节点对应的关键顶点集合。
S503、获取P个关键顶点集合对应的P个第一邻接矩阵。
在一种实施方式中,计算机设备建立每个关键顶点集合中的各个关键顶点间的连边,并基于建立连边后的网格模型,得到P个关键顶点集合对应的P个第一邻接矩阵。在一个实施例中,若第q个关键顶点集合中的关键顶点i和关键顶点j之间不存在连边,则计算机设备建立关键顶点i和关键顶点j之间的连边;其中,q为小于等于P的正整数,关键顶点i和关键顶点j为第q个关键顶点集合中的任意两个关键顶点。
可以理解的是,在建立每个关键顶点集合中的各个关键顶点间的连边后,属于每个关键顶点集合中的任一个关键顶点与该关键顶点集合中的其余关键顶点互为邻接顶点。
图7为本申请实施例提供的一种建立关键顶点的连边的示意图。如图7所示,设关键顶点集合中包括关键顶点A,关键顶点B,关键顶点C和关键顶点D;如701所示,在建立连边前,关键顶点A和关键顶点C之间存在连边,关键顶点B和关键顶点D之间存在连边;如702所示,在建立连边(虚线边为新增的连边)后,关键顶点A,关键顶点B,关键顶点C和关键顶点D中的任一个关键顶点,与其余的3个关键顶点之间均存在连边。
在实际应用中,通过建立各个关节顶点间的连边,可以为网格模型中存在约束关系的顶点(如内外层衣物对应顶点)建立邻接关系,在后续蒙皮权重预测过程中提升蒙皮权重预测模型对网格模型中存在约束关系的顶点的蒙皮权重相似性特征的学习能力。
S504、通过邻接子模块对P个第一邻接矩阵和各个顶点的顶点特征进行特征转换处理,得到各个顶点的邻域特征。
在一种实施方式中,计算机设备通过邻接子模块对P个第一邻接矩阵和各个顶点的顶点特征进行特征转换处理,得到各个顶点的邻域特征的过程包括:通过第q个第一邻接矩阵,确定关键顶点j的k个邻居顶点,第q个第一邻接矩阵是第q个关键顶点集合的第一邻接矩阵,关键顶点j属于第q个关键顶点集合,k为正整数。具体来说,网格模型的拓扑信息包括第二邻接矩阵(即步骤S501中的),第二邻接矩阵是基于(建立每个关键顶点集合中的各个关键顶点间的连边之前)网格模型中各个顶点之间的连接关系得到的;也就是说,第二邻接矩阵可以用于指示网格模型中各个顶点的连接关系。计算机设备通过第q个第一邻接矩阵,确定与关键顶点j存在连边的T个关键顶点,T为正整数。若T大于等于k,则计算机设备从T个关键顶点中随机选取k个顶点作为关键顶点j的邻居顶点;相应地,若T小于k,则计算机设备通过第二邻接矩阵,确定与关键顶点j存在连边的V个顶点,并从V个顶点中随机选取k-T个顶点,将T个关键顶点和选取的k-T个顶点作为关键顶点j的邻居顶点,V为正整数。
在确定关键顶点j的k个邻居顶点后,计算机设备分别计算关键顶点j的顶点特征与k个邻居顶点的顶点特征间的差异,得到k个差异特征。k个差异特征具体可以表示:
其中,表示关键顶点j的顶点特征与关键顶点j的第k个邻居顶点的顶点特征之间的差异,可以记为/>,即/>。/>为与关键顶点j的k个邻居顶点的顶点特征。
进一步地,计算机设备将k个差异特征中的最大值,确定为关键顶点j的邻域特征。
图8为本申请实施例提供的一种邻接子模块的特征转换示意图。如图8所示,计算机设备首先通过网格模型中各个顶点的顶点特征和各个顶点的邻接矩阵(包括第一邻接矩阵和第二邻接矩阵中的至少一个),(如通过最邻近节点算法(K-Nearest Neighbor,KNN))确定每个顶点的k个邻居顶点;其中,网格模型中各个顶点的顶点特征表示为(N,C),N为顶点的数量,C为顶点特征;网格模型的邻接矩阵表示为(N,N),N为顶点的数量;(N,K,C)包括每个顶点的顶点特征和每个顶点的k个邻居顶点。再通过全连接的多层感知机(MultilayerPerceptron,MLP)基于每个顶点的顶点特征与该顶点的k个邻居顶点的顶点特征进行特征变换,得到每个顶点的k个差异特征,(N,K,H)包括每个顶点的顶点特征与该顶点的k个邻居顶点的顶点特征的差异特征。保留每个顶点的k个差异特征中的最大差异特征,得到每个顶点的邻域特征表示为(N,H)。
通过邻接子模块对P个第一邻接矩阵和各个顶点的顶点特征进行特征转换处理,得到各个顶点的邻域特征,可以将关键顶点集合加入到第二邻接矩阵中,来聚合网格模型中(如不同层mesh)的邻域顶点特征,以达到约束顶点间的蒙皮权重的目的(即使得具有约束关系的顶点的顶点特征尽可能相似)。
S505、调用注意力子模块将网格模型中各个顶点的顶点特征聚合至各个关键顶点集合中,得到P个聚合特征。
P个聚合特征与P个关键顶点集合一一对应,第q个聚合特征用于指示网格模型中的顶点的蒙皮权重,与第q个关键顶点集合中各个关键顶点的蒙皮权重的相似度,q为小于等于P的正整数。
在一种实施方式中,计算机设备调用注意力子模块将网格模型中各个顶点的顶点特征聚合至各个关键顶点集合中,得到P个聚合特征的过程包括:获取网格模型中各个顶点对应的第q个权值,q为小于等于P的正整数。具体来说,计算机设备获取网格模型中各个顶点对应的第q个权值的过程包括:对第q个关键顶点集合中的关键顶点与顶点h的第一距离进行均值处理,得到顶点h与第q个关键顶点集合(将每个关键顶点集合作为一个整体,第q个关键顶点集合表示为)的平均最短距离(即顶点h对应的第q个距离均值);顶点h为网格模型中的任一个顶点。在一个实施例中,第q个关键顶点集合中的关键顶点j与顶点h的第一距离是指:从关键顶点j通过网格模型中的连边到达顶点h的最短距离(可以通过迪杰斯特拉(Dijkstra)算法计算得到)。顶点h对应的第q个距离均值可以表示为:
其中,表示顶点h的第q个距离均值(可以理解为第q个关键顶点集合中的关键顶点到顶点h的距离均为/>);m为第q个关键顶点集合中的关键顶点的数量,/>表示顶点h与第q个关键顶点集合中的关键顶点q在网格模型上的最短距离。
进一步地,计算机设备基于顶点h对应的第q个距离均值的求导结果,确定顶点h的第q个权值。在一个实施例中,基于顶点h对应的第q个距离均值的求导结果,计算顶点h的第q个权值可以表示为:
其中,表示顶点h对应的第q个权值,/>表示顶点h的第q个距离均值;/>为动态参数,可以基于实际情况进行调整,例如,/>。
进一步地,计算机设备通过每个顶点对应的第q个权值对该顶点的顶点特征进行加权处理,得到各个顶点的加权特征,并对各个顶点的加权特征进行聚合处理,得到第q个聚合特征。具体可以表示为:
/>
其中,为第q个聚合特征,/>表示顶点h对应的第q个权值,N为网格模型中顶点的数量,/>为顶点h的顶点特征。
调用注意力子模块将网格模型中各个顶点的顶点特征聚合至各个关键顶点集合中,得到P个聚合特征,可以将网格模型中的顶点的顶点特征按照自适应权重()聚合到P个关键顶点集合中,同时还可以将P个关键顶点集合中的关键顶点的顶点特征有效传递给网格模型中的其余各顶点(非关键顶点)。
S506、通过残差子模块对各个顶点的顶点特征进行深度特征提取处理,得到各个顶点的深度特征。
在一种实施方式中,残差子模块包括神经网络层和激活层。计算机设备通过残差子模块对各个顶点的顶点特征进行深度特征提取处理,得到各个顶点的深度特征的过程包括:通过神经网络层对顶点j的顶点特征进行映射处理,得到顶点j的特征映射结果,采用激活层对顶点j的特征映射结果进行激活处理,得到顶点j的激活特征,对顶点j的激活特征和顶点j的顶点特征进行融合处理,得到顶点j个深度特征。
图9为本申请实施例提供的一种残差子模块的结构示意图。如图9所示,残差子模块包括2个多层感知机(神经网络层)和两个激活层;其中,多层感知机用于对顶点的顶点特征进行映射处理,得到特征映射结果;激活层用于对特征映射结果进行激活处理,激活层使用的激活函数可以是ReLU激活函数。
通过残差子模块对各个顶点的顶点特征进行深度特征提取处理,可以有效提取网格模型中各个顶点的深度特征(更深层次的特征),进一步提高蒙皮权重预测模型的预测准确度。
需要说明的是,步骤S504-步骤S506可以按任意顺序执行;例如,先执行步骤S506,再执行步骤S504,再执行步骤S505;也可以同步执行,本申请对此不作限制。
S507、对每个顶点的邻域特征,P个聚合特征和每个顶点的深度特征进行融合处理,得到网格模型中各个顶点的融合特征。
在一种实施方式中,计算机设备可以通过融合模型(如融合网络)对每个顶点的邻域特征,P个聚合特征和每个顶点的深度特征进行融合处理,得到网格模型中各个顶点的融合特征。
S508、通过神经网络层对各个顶点的融合特征和网格模型的拓扑信息进行蒙皮权重预测处理,得到网格模型的蒙皮权重。
蒙皮权重用于指示网格模型在形变过程中对象的关节点对网格模型中各个顶点的影响程度。
进一步地,计算机设备还可以获取对象的关节点的旋转平移矩阵,并基于网格模型的蒙皮权重和旋转平移矩阵,对网格模型中的各个顶点进行旋转平移处理,得到网格模型的旋转平移结果。其中,网格模型包括以下任一种:多层网格模型、单层网格模型、组合网格模型(可以由多个单层网格模型组合得到)。
在一个实施例中,对象可以是指游戏中虚拟角色,网格模型可以是虚拟角色的服饰。计算机设备获取虚拟角色的服饰中各个顶点的顶点特征和服饰的拓扑信息,并获取顶点关系指示信息,接着调用蒙皮权重预测模型基于顶点关系指示信息、顶点特征和服饰的拓扑信息,预测服饰的蒙皮权重,通过不同服饰的蒙皮权重,计算机设备可以渲染虚拟角色穿着不同服饰的效果图;通过目标服饰的蒙皮权重,计算机设备可以渲染虚拟角色在不同姿势下穿着目标服饰的效果图。
在另一个实施例中,对象可以是指三维动画中的动画角色,网格模型可以是三维服饰。计算机设备获取动画角色的三维服饰中各个顶点的顶点特征和三维服饰的拓扑信息,并获取顶点关系指示信息,接着调用蒙皮权重预测模型基于顶点关系指示信息、顶点特征和三维服饰的拓扑信息,预测三维服饰的蒙皮权重,通过不同三维服饰的蒙皮权重,计算机设备可以渲染动画角色穿着不同三维服饰的三维动画;通过目标三维服饰的蒙皮权重,计算机设备可以渲染动画角色在不同姿势下穿着目标三维服饰的三维动画。
在再一个实施例中,对象可以是指视频或图片中的人物(如真人),网格模型可以是虚拟服饰(如待试穿的衣服的三维模型)。计算机设备获取人物试穿的虚拟服饰中各个顶点的顶点特征和虚拟服饰的拓扑信息,并获取顶点关系指示信息,接着调用蒙皮权重预测模型基于顶点关系指示信息、顶点特征,虚拟服饰的拓扑信息,预测虚拟服饰的蒙皮权重,通过不同虚拟服饰的蒙皮权重,计算机设备可以合成人物试穿虚拟服饰的试穿效果视图;通过目标虚拟服饰的蒙皮权重,计算机设备可以渲染人物在不同姿势下穿着目标虚拟服饰的试穿效果图。
实践证明,通过本申请提供的图像处理方法可以对蒙皮权重的预测过程进行约束(如约束不同层衣物顶点间蒙皮权重的相似性关系),提高蒙皮权重的预测准确度,从而满足复杂网格模型(如多层结构衣物、组合衣物等)对蒙皮权重的相似性和形变协同性的要求。
图10为本申请实施例提供的一种效果对比图。如图10所示,基于本申请提供的图像处理方法得到的网格模型的蒙皮权重,以及对象的关节点的旋转平移矩阵,对网格模型进行旋转平移处理得到的结果相比于对比方案得到的结果来说,能有效解决网格模型进行旋转平移后出现的“穿模”问题,提高网格模型的质量。
本申请实施例中,获取对象的网格模型中各个顶点的顶点特征和网格模型的拓扑信息,获取顶点关系指示信息,顶点关系指示信息用于指示网格模型中存在约束关系的顶点,调用蒙皮权重预测模型基于顶点关系指示信息、顶点特征和网格模型的拓扑信息,预测网格模型的蒙皮权重。可见,在网格模型的蒙皮权重的预测过程中,通过顶点关系指示信息对网格模型中的各个顶点的蒙皮权重进行约束,可以提高网格模型的蒙皮矩阵的预测准确度,从而提高基于网格模型的蒙皮矩阵得到的网格模型的质量。此外,通过邻接子模块对P个第一邻接矩阵和各个顶点的顶点特征进行特征转换处理,得到各个顶点的邻域特征,可以将关键顶点集合加入到第二邻接矩阵中,来聚合网格模型中(如不同层mesh)的邻域顶点特征,以达到约束顶点间的蒙皮权重的目的;通过残差子模块对各个顶点的顶点特征进行深度特征提取处理,可以有效提取网格模型中各个顶点的深度特征(更深层次的特征),进一步提高蒙皮权重预测模型的预测准确度;调用注意力子模块将网格模型中各个顶点的顶点特征聚合至各个关键顶点集合中,可以将网格模型中的顶点的顶点特征按照自适应权重聚合到P个关键顶点集合中,同时还可以将P个关键顶点集合中的关键顶点的顶点特征有效传递给网格模型中的其余各顶点(非关键顶点)。
上述详细阐述了本申请实施例的方法,为了便于更好地实施本申请实施例的上述方案,相应地,下面提供了本申请实施例的装置。
请参见图11,图11为本申请实施例提供的一种图像处理装置的结构示意图,图11所示的图像处理装置可以搭载在计算机设备中,该计算机设备具体可以是终端设备或者服务器。图11所示的图像处理装置可以用于执行上述图2和图5所描述的方法实施例中的部分或全部功能。请参见图11,该图像处理装置包括:
获取单元1101,用于获取对象的网格模型中各个顶点的顶点特征和网格模型的拓扑信息,网格模型的拓扑信息包括对象的关节点与网格模型中各个顶点的位置关系,以及网格模型中各个顶点的连接关系;
以及用于获取顶点关系指示信息,顶点关系指示信息用于指示网格模型中存在约束关系的顶点;
处理单元1102,用于调用蒙皮权重预测模型基于顶点关系指示信息、顶点特征和网格模型的拓扑信息,预测网格模型的蒙皮权重;
其中,网格模型的蒙皮权重用于指示网格模型在形变过程中对象的关节点对网格模型中各个顶点的影响程度。
在一种实施方式中,蒙皮权重预测模型包括神经网络层和M个特征融合模块,M为正整数;处理单元1102用于,调用蒙皮权重预测模型基于顶点关系指示信息、顶点特征和网格模型的拓扑信息,预测网格模型的蒙皮权重,具体用于:
调用M个特征融合模块对顶点关系指示信息和网格模型中的每个顶点各自的顶点特征进行特征融合处理,得到各个顶点的融合特征;
通过神经网络层对各个顶点的融合特征和网格模型的拓扑信息进行蒙皮权重预测处理,得到网格模型的蒙皮权重。
在一种实施方式中,顶点关系指示信息包括P个关键顶点集合,P为正整数;每个特征融合模块包括注意力子模块,残差子模块和邻接子模块;处理单元1102调用M个特征融合模块对顶点关系指示信息和网格模型中的每个顶点各自的顶点特征进行特征融合处理,得到各个顶点的融合特征的过程包括:
获取P个关键顶点集合对应的P个第一邻接矩阵,并通过邻接子模块对P个第一邻接矩阵和各个顶点的顶点特征进行特征转换处理,得到各个顶点的邻域特征;P个第一邻接矩阵是在建立每个关键顶点集合中的各个关键顶点间的连边后得到的;
调用注意力子模块将网格模型中各个顶点的顶点特征聚合至各个关键顶点集合中,得到P个聚合特征;P个聚合特征与P个关键顶点集合一一对应,第q个聚合特征用于指示网格模型中的顶点的蒙皮权重,与第q个关键顶点集合中各个关键顶点的蒙皮权重的相似度;
通过残差子模块对各个顶点的顶点特征进行深度特征提取处理,得到各个顶点的深度特征;
对每个顶点的邻域特征,P个聚合特征和每个顶点的深度特征进行融合处理,得到网格模型中各个顶点的融合特征。
在一种实施方式中,处理单元1102通过邻接子模块对P个第一邻接矩阵和各个顶点的顶点特征进行特征转换处理,得到各个顶点的邻域特征的过程包括:
通过第q个第一邻接矩阵,确定关键顶点j的k个邻居顶点,第q个第一邻接矩阵是第q个关键顶点集合的第一邻接矩阵,关键顶点j属于第q个关键顶点集合,k为正整数;
分别计算关键顶点j的顶点特征与k个邻居顶点的顶点特征间的差异,得到k个差异特征;
将k个差异特征中的最大值,确定为关键顶点j的邻域特征。
在一种实施方式中,网格模型的拓扑信息包括第二邻接矩阵,第二邻接矩阵是基于网格模型中各个顶点之间的连接关系得到的;处理单元1102用于,通过第q个第一邻接矩阵,确定关键顶点j的k个邻居顶点,具体用于:
通过第q个第一邻接矩阵,确定与关键顶点j存在连边的T个关键顶点,T为正整数;
若T大于等于k,则从T个关键顶点中随机选取k个顶点作为关键顶点j的邻居顶点;
若T小于k,则通过第二邻接矩阵,确定与关键顶点j存在连边的V个顶点,并从V个顶点中随机选取k-T个顶点,将T个关键顶点和选取的k-T个顶点作为关键顶点j的邻居顶点,V为正整数。
在一种实施方式中,处理单元1102用于,调用注意力子模块将网格模型中各个顶点的顶点特征聚合至各个关键顶点集合中,得到P个聚合特征的过程包括:
获取网格模型中各个顶点对应的第q个权值,q为小于等于P的正整数;
通过每个顶点对应的第q个权值对该顶点的顶点特征进行加权处理,得到各个顶点的加权特征;
对各个顶点的加权特征进行聚合处理,得到第q个聚合特征。
在一种实施方式中,处理单元1102获取网格模型中各个顶点对应的第q个权值的过程包括:
对第q个关键顶点集合中的关键顶点与顶点h的第一距离进行均值处理,得到顶点h对应的第q个距离均值;顶点h为网格模型中的任一个顶点;
基于顶点h对应的第q个距离均值的求导结果,确定顶点h的第q个权值。
在一种实施方式中,残差子模块包括神经网络层和激活层;处理单元1102通过残差子模块对各个顶点的顶点特征进行深度特征提取处理,得到各个顶点的深度特征的过程包括:
通过神经网络层对顶点h的顶点特征进行映射处理,得到顶点h的特征映射结果;
采用激活层对顶点h的特征映射结果进行激活处理,得到顶点h的激活特征;
对顶点h的激活特征和顶点h的顶点特征进行融合处理,得到顶点h的深度特征。
在一种实施方式中,对象的关节点包括至少一个基础关节点和网格模型对应的P个附加关节点,P为正整数;处理单元1102用于,获取顶点关系指示信息,具体用于:
获取P个附加关节点对应网格模型中的P个关键区域,每个关键区域中包括至少两个顶点;
对每个关键区域中的顶点进行筛选处理,得到P个关键顶点集合,每个关键顶点集合中各个关键顶点之间存在约束关系;
基于P个关键顶点集合,生成顶点关系指示信息。
在一种实施方式中,处理单元1102对每个关键区域中的顶点进行筛选处理,得到P个关键顶点集合的过程包括:
将第q个关键区域中的目标顶点,以及目标顶点的邻域顶点添加至候选顶点集合中,目标顶点与第q个附加关节点的第二距离,小于第q个关键区域中除目标顶点外的其他顶点与第q个附加关节点的第二距离,q为小于等于P的正整数;
获取候选顶点集合中各个候选顶点的标注权重,以及每个候选顶点的邻域顶点的标注权重;
对候选顶点集合中每个候选顶点的标注权重与该候选顶点的邻域顶点的标注权重的差异进行均值处理,得到每个候选顶点对应的差异均值;
将差异均值最大的候选顶点确定为候选顶点集合的代表顶点;
将第q个关键区域中与代表顶点的差异均值的差异小于均值阈值的顶点,添加至第q个关键顶点集合中。
在一种实施方式中,处理单元1102用于,获取对象的网格模型中各个顶点的顶点特征,具体用于:
获取网格模型中各个顶点的位置信息和法向量;
根据每个顶点的位置信息,计算该顶点与对象的各个关节点之间的第二距离;
对每个顶点的位置信息,法向量和该顶点与对象的各个关节点之间的第二距离进行合并,得到该顶点的顶点特征。
在一种实施方式中,对象的关节点数量为N,N为正整数;处理单元1102用于,调用蒙皮权重预测模型基于顶点关系指示信息、顶点特征和网格模型的拓扑信息,预测网格模型的蒙皮权重,具体用于:
调用蒙皮权重预测模型基于顶点关系指示信息、顶点特征和网格模型的拓扑信息,预测网格模型中每个顶点的N个预测权重;顶点h的第u个预测权重用于指示关节点u在网格模型形变过程中对顶点h的影响程度;顶点h为网格模型中的任一个顶点,u为小于等于N的正整数;
从每个顶点的N个预测权重中筛选出最大的R个预测权重,作为每个顶点的R个关键权重,R为大于1且小于等于N的整数;
对每个顶点的R个关键权重进行归一化处理,得到网格模型的蒙皮权重。
在一种实施方式中,处理单元1102还用于:
获取对象的关节点的旋转平移矩阵;
基于网格模型的蒙皮权重和旋转平移矩阵,对网格模型中的各个顶点进行旋转平移处理,得到网格模型的旋转平移结果;
其中,网格模型包括以下任一种:多层网格模型、单层网格模型、组合网格模型。
根据本申请的一个实施例,图2和图5所示的图像处理方法所涉及的部分步骤可由图11所示的图像处理装置中的各个单元来执行。例如,图2中所示的步骤S201和步骤S202可由图11所示的获取单元1101执行,步骤S203可由图11所示的处理单元1102执行;图5中所示的步骤S501-步骤S503可由图11所示的获取单元1101执行,步骤S504-步骤S508可由图11所示的处理单元1102执行。图11所示的图像处理装置中的各个单元可以分别或全部合并为一个或若干个另外的单元来构成,或者其中的某个(些)单元还可以再拆分为功能上更小的多个单元来构成,这可以实现同样的操作,而不影响本申请的实施例的技术效果的实现。上述单元是基于逻辑功能划分的,在实际应用中,一个单元的功能也可以由多个单元来实现,或者多个单元的功能由一个单元实现。在本申请的其它实施例中,图像处理装置也可以包括其它单元,在实际应用中,这些功能也可以由其它单元协助实现,并且可以由多个单元协作实现。
根据本申请的另一个实施例,可以通过在包括中央处理单元(CPU)、随机存取存储介质(RAM)、只读存储介质(ROM)等处理元件和存储元件的例如计算机设备的通用计算装置上运行能够执行如图2和图5中所示的相应方法所涉及的各步骤的计算机程序(包括程序代码),来构造如图11中所示的图像处理装置,以及来实现本申请实施例的图像处理方法。计算机程序可以记载于例如计算机可读记录介质上,并通过计算机可读记录介质装载于上述计算装置中,并在其中运行。
基于同一发明构思,本申请实施例中提供的图像处理装置解决问题的原理与有益效果与本申请方法实施例中图像处理方法解决问题的原理和有益效果相似,可以参见方法的实施的原理和有益效果,为简洁描述,在这里不再赘述。
请参阅图12,图12为本申请实施例提供的一种计算机设备的结构示意图,该计算机设备可以是终端设备或者服务器。如图12所示,计算机设备至少包括处理器1201、通信接口1202和存储器1203。其中,处理器1201、通信接口1202和存储器1203可通过总线或其他方式连接。其中,处理器1201(或称中央处理器(Central Processing Unit,CPU))是计算机设备的计算核心以及控制核心,其可以解析计算机设备内的各类指令以及处理计算机设备的各类数据,例如:CPU可以用于解析对象向计算机设备所发出的开关机指令,并控制计算机设备进行开关机操作;再如:CPU可以在计算机设备内部结构之间传输各类交互数据,等等。通信接口1202可选的可以包括标准的有线接口、无线接口(如WI-FI、移动通信接口等),受处理器1201的控制可以用于收发数据;通信接口1202还可以用于计算机设备内部数据的传输以及交互。存储器1203(Memory)是计算机设备中的记忆设备,用于存放程序和数据。可以理解的是,此处的存储器1203既可以包括计算机设备的内置存储器,当然也可以包括计算机设备所支持的扩展存储器。存储器1203提供存储空间,该存储空间存储了计算机设备的操作系统,可包括但不限于:Android系统、iOS系统、Windows Phone系统等等,本申请对此并不作限定。
本申请实施例还提供了一种计算机可读存储介质(Memory),计算机可读存储介质是计算机设备中的记忆设备,用于存放程序和数据。可以理解的是,此处的计算机可读存储介质既可以包括计算机设备中的内置存储介质,当然也可以包括计算机设备所支持的扩展存储介质。计算机可读存储介质提供存储空间,该存储空间存储了计算机设备的处理系统。并且,在该存储空间中还存放了适于被处理器1201加载并执行的计算机程序。需要说明的是,此处的计算机可读存储介质可以是高速RAM存储器,也可以是非不稳定的存储器(non-volatile memory),例如至少一个磁盘存储器;可选的,还可以是至少一个位于远离前述处理器的计算机可读存储介质。
在一个实施例中,处理器1201通过运行存储器1203中的计算机程序,执行如下操作:
获取对象的网格模型中各个顶点的顶点特征和网格模型的拓扑信息,网格模型的拓扑信息包括对象的关节点与网格模型中各个顶点的位置关系,以及网格模型中各个顶点的连接关系;
获取顶点关系指示信息,顶点关系指示信息用于指示网格模型中存在约束关系的顶点;
调用蒙皮权重预测模型基于顶点关系指示信息、顶点特征和网格模型的拓扑信息,预测网格模型的蒙皮权重;
其中,网格模型的蒙皮权重用于指示网格模型在形变过程中对象的关节点对网格模型中各个顶点的影响程度。
作为一种可选的实施例,蒙皮权重预测模型包括神经网络层和M个特征融合模块,M为正整数;处理器1201调用蒙皮权重预测模型基于顶点关系指示信息、顶点特征和网格模型的拓扑信息,预测网格模型的蒙皮权重的具体实施例为:
调用M个特征融合模块对顶点关系指示信息和网格模型中的每个顶点各自的顶点特征进行特征融合处理,得到各个顶点的融合特征;
通过神经网络层对各个顶点的融合特征和网格模型的拓扑信息进行蒙皮权重预测处理,得到网格模型的蒙皮权重。
作为一种可选的实施例,顶点关系指示信息包括P个关键顶点集合,P为正整数;每个特征融合模块包括注意力子模块,残差子模块和邻接子模块;处理器1201调用M个特征融合模块对顶点关系指示信息和网格模型中的每个顶点各自的顶点特征进行特征融合处理,得到各个顶点的融合特征的过程包括:
获取P个关键顶点集合对应的P个第一邻接矩阵,并通过邻接子模块对P个第一邻接矩阵和各个顶点的顶点特征进行特征转换处理,得到各个顶点的邻域特征;P个第一邻接矩阵是在建立每个关键顶点集合中的各个关键顶点间的连边后得到的;
调用注意力子模块将网格模型中各个顶点的顶点特征聚合至各个关键顶点集合中,得到P个聚合特征;P个聚合特征与P个关键顶点集合一一对应,第q个聚合特征用于指示网格模型中的顶点的蒙皮权重,与第q个关键顶点集合中各个关键顶点的蒙皮权重的相似度;
通过残差子模块对各个顶点的顶点特征进行深度特征提取处理,得到各个顶点的深度特征;
对每个顶点的邻域特征,P个聚合特征和每个顶点的深度特征进行融合处理,得到网格模型中各个顶点的融合特征。
作为一种可选的实施例,处理器1201通过邻接子模块对P个第一邻接矩阵和各个顶点的顶点特征进行特征转换处理,得到各个顶点的邻域特征的过程包括:
通过第q个第一邻接矩阵,确定关键顶点j的k个邻居顶点,第q个第一邻接矩阵是第q个关键顶点集合的第一邻接矩阵,关键顶点j属于第q个关键顶点集合,k为正整数;
分别计算关键顶点j的顶点特征与k个邻居顶点的顶点特征间的差异,得到k个差异特征;
将k个差异特征中的最大值,确定为关键顶点j的邻域特征。
作为一种可选的实施例,网格模型的拓扑信息包括第二邻接矩阵,第二邻接矩阵是基于网格模型中各个顶点之间的连接关系得到的;处理器1201通过第q个第一邻接矩阵,确定关键顶点j的k个邻居顶点的具体实施例为:
通过第q个第一邻接矩阵,确定与关键顶点j存在连边的T个关键顶点,T为正整数;
若T大于等于k,则从T个关键顶点中随机选取k个顶点作为关键顶点j的邻居顶点;
若T小于k,则通过第二邻接矩阵,确定与关键顶点j存在连边的V个顶点,并从V个顶点中随机选取k-T个顶点,将T个关键顶点和选取的k-T个顶点作为关键顶点j的邻居顶点,V为正整数。
作为一种可选的实施例,处理器1201调用注意力子模块将网格模型中各个顶点的顶点特征聚合至各个关键顶点集合中,得到P个聚合特征的过程包括:
获取网格模型中各个顶点对应的第q个权值,q为小于等于P的正整数;
通过每个顶点对应的第q个权值对该顶点的顶点特征进行加权处理,得到各个顶点的加权特征;
对各个顶点的加权特征进行聚合处理,得到第q个聚合特征。
作为一种可选的实施例,处理器1201获取网格模型中各个顶点对应的第q个权值的过程包括:
对第q个关键顶点集合中的关键顶点与顶点h的第一距离进行均值处理,得到顶点h对应的第q个距离均值;顶点h为网格模型中的任一个顶点;
基于顶点h对应的第q个距离均值的求导结果,确定顶点h的第q个权值。
作为一种可选的实施例,残差子模块包括神经网络层和激活层;处理器1201通过残差子模块对各个顶点的顶点特征进行深度特征提取处理,得到各个顶点的深度特征的过程包括:
通过神经网络层对顶点h的顶点特征进行映射处理,得到顶点h的特征映射结果;
采用激活层对顶点h的特征映射结果进行激活处理,得到顶点h的激活特征;
对顶点h的激活特征和顶点h的顶点特征进行融合处理,得到顶点h的深度特征。
作为一种可选的实施例,对象的关节点包括至少一个基础关节点和网格模型对应的P个附加关节点,P为正整数;处理器1201获取顶点关系指示信息的具体实施例为:
获取P个附加关节点对应网格模型中的P个关键区域,每个关键区域中包括至少两个顶点;
对每个关键区域中的顶点进行筛选处理,得到P个关键顶点集合,每个关键顶点集合中各个关键顶点之间存在约束关系;
基于P个关键顶点集合,生成顶点关系指示信息。
作为一种可选的实施例,处理器1201对每个关键区域中的顶点进行筛选处理,得到P个关键顶点集合的过程包括:
将第q个关键区域中的目标顶点,以及目标顶点的邻域顶点添加至候选顶点集合中,目标顶点与第q个附加关节点的第二距离,小于第q个关键区域中除目标顶点外的其他顶点与第q个附加关节点的第二距离,q为小于等于P的正整数;
获取候选顶点集合中各个候选顶点的标注权重,以及每个候选顶点的邻域顶点的标注权重;
对候选顶点集合中每个候选顶点的标注权重与该候选顶点的邻域顶点的标注权重的差异进行均值处理,得到每个候选顶点对应的差异均值;
将差异均值最大的候选顶点确定为候选顶点集合的代表顶点;
将第q个关键区域中与代表顶点的差异均值的差异小于均值阈值的顶点,添加至第q个关键顶点集合中。
作为一种可选的实施例,处理器1201获取对象的网格模型中各个顶点的顶点特征的具体实施例为:
获取网格模型中各个顶点的位置信息和法向量;
根据每个顶点的位置信息,计算该顶点与对象的各个关节点之间的第二距离;
对每个顶点的位置信息,法向量和该顶点与对象的各个关节点之间的第二距离进行合并,得到该顶点的顶点特征。
作为一种可选的实施例,对象的关节点数量为N,N为正整数;处理器1201调用蒙皮权重预测模型基于顶点关系指示信息、顶点特征和网格模型的拓扑信息,预测网格模型的蒙皮权重的具体实施例为:
调用蒙皮权重预测模型基于顶点关系指示信息、顶点特征和网格模型的拓扑信息,预测网格模型中每个顶点的N个预测权重;顶点h的第u个预测权重用于指示关节点u在网格模型形变过程中对顶点h的影响程度;顶点h为网格模型中的任一个顶点,u为小于等于N的正整数;
从每个顶点的N个预测权重中筛选出最大的R个预测权重,作为每个顶点的R个关键权重,R为大于1且小于等于N的整数;
对每个顶点的R个关键权重进行归一化处理,得到网格模型的蒙皮权重。
作为一种可选的实施例,处理器1201通过运行存储器1203中的计算机程序,还执行如下操作:
获取对象的关节点的旋转平移矩阵;
基于网格模型的蒙皮权重和旋转平移矩阵,对网格模型中的各个顶点进行旋转平移处理,得到网格模型的旋转平移结果;
其中,网格模型包括以下任一种:多层网格模型、单层网格模型、组合网格模型。
基于同一发明构思,本申请实施例中提供的计算机设备解决问题的原理与有益效果与本申请方法实施例中图像处理方法解决问题的原理和有益效果相似,可以参见方法的实施的原理和有益效果,为简洁描述,在这里不再赘述。
本申请实施例还提供一种计算机可读存储介质,计算机可读存储介质中存储有计算机程序,计算机程序适于被处理器加载并执行上述方法实施例的图像处理方法。
本申请实施例还提供一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述的图像处理方法。
本申请实施例方法中的步骤可以根据实际需要进行顺序调整、合并和删减。
本申请实施例装置中的模块可以根据实际需要进行合并、划分和删减。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序可以存储于一计算机可读存储介质中,可读存储介质可以包括:闪存盘、只读存储器(Read-Only Memory ,ROM)、随机存取器(RandomAccess Memory,RAM)、磁盘或光盘等。
以上所揭露的仅为本申请一种较佳实施例而已,当然不能以此来限定本申请之权利范围,本领域普通技术人员可以理解实现上述实施例的全部或部分流程,并依本申请权利要求所作的等同变化,仍属于申请所涵盖的范围。
Claims (16)
1.一种图像处理方法,其特征在于,所述方法包括:
获取对象的网格模型中各个顶点的顶点特征和所述网格模型的拓扑信息,所述网格模型的拓扑信息包括所述对象的关节点与所述网格模型中各个顶点的位置关系,以及所述网格模型中各个顶点的连接关系;
获取顶点关系指示信息,所述顶点关系指示信息用于指示所述网格模型中存在约束关系的顶点;
调用蒙皮权重预测模型基于所述顶点关系指示信息、所述顶点特征和所述网格模型的拓扑信息,预测所述网格模型的蒙皮权重;
其中,所述网格模型的蒙皮权重用于指示所述网格模型在形变过程中所述对象的关节点对所述网格模型中各个顶点的影响程度。
2.如权利要求1所述的方法,其特征在于,所述蒙皮权重预测模型包括神经网络层和M个特征融合模块,M为正整数;所述调用蒙皮权重预测模型基于所述顶点关系指示信息、所述顶点特征和所述网格模型的拓扑信息,预测所述网格模型的蒙皮权重,包括:
调用所述M个特征融合模块对所述顶点关系指示信息和所述网格模型中的每个顶点的顶点特征进行特征融合处理,得到各个顶点的融合特征;
通过所述神经网络层对各个顶点的融合特征和所述网格模型的拓扑信息进行蒙皮权重预测处理,得到所述网格模型的蒙皮权重。
3.如权利要求2所述的方法,其特征在于,所述顶点关系指示信息包括P个关键顶点集合,P为正整数;每个特征融合模块包括注意力子模块,残差子模块和邻接子模块;所述调用所述M个特征融合模块对所述顶点关系指示信息和所述网格模型中的每个顶点的顶点特征进行特征融合处理,得到各个顶点的融合特征的过程包括:
获取所述P个关键顶点集合对应的P个第一邻接矩阵,并通过所述邻接子模块对所述P个第一邻接矩阵和各个顶点的顶点特征进行特征转换处理,得到各个顶点的邻域特征;所述 P个第一邻接矩阵是在建立每个关键顶点集合中的各个关键顶点间的连边后得到的;
调用所述注意力子模块将所述网格模型中各个顶点的顶点特征聚合至各个关键顶点集合中,得到P个聚合特征;所述P个聚合特征与所述P个关键顶点集合一一对应,第q个聚合特征用于指示所述网格模型中的顶点的蒙皮权重,与第q个关键顶点集合中各个关键顶点的蒙皮权重的相似度;
通过所述残差子模块对各个顶点的顶点特征进行深度特征提取处理,得到各个顶点的深度特征;
对每个顶点的邻域特征,所述P个聚合特征和每个顶点的深度特征进行融合处理,得到所述网格模型中各个顶点的融合特征。
4.如权利要求3所述的方法,其特征在于,所述通过所述邻接子模块对所述P个第一邻接矩阵和各个顶点的顶点特征进行特征转换处理,得到各个顶点的邻域特征的过程包括:
通过第q个第一邻接矩阵,确定关键顶点j的k个邻居顶点,所述第q个第一邻接矩阵是第q个关键顶点集合的第一邻接矩阵,所述关键顶点j属于所述第q个关键顶点集合,k为正整数;
分别计算所述关键顶点j的顶点特征与所述k个邻居顶点的顶点特征间的差异,得到k个差异特征;
将所述k个差异特征中的最大值,确定为所述关键顶点j的邻域特征。
5.如权利要求4所述的方法,其特征在于,所述网格模型的拓扑信息包括第二邻接矩阵,所述第二邻接矩阵是基于所述网格模型中各个顶点之间的连接关系得到的;所述通过第q个第一邻接矩阵,确定关键顶点j的k个邻居顶点,包括:
通过第q个第一邻接矩阵,确定与关键顶点j存在连边的T个关键顶点,T为正整数;
若T大于等于k,则从所述T个关键顶点中随机选取k个顶点作为所述关键顶点j的邻居顶点;
若T小于k,则通过所述第二邻接矩阵,确定与所述关键顶点j存在连边的V个顶点,并从所述V个顶点中随机选取k-T个顶点,将所述T个关键顶点和选取的k-T个顶点作为所述关键顶点j的邻居顶点,V为正整数。
6.如权利要求3所述的方法,其特征在于,所述调用所述注意力子模块将所述网格模型中各个顶点的顶点特征聚合至各个关键顶点集合中,得到P个聚合特征的过程包括:
获取网格模型中各个顶点对应的第q个权值,q为小于等于P的正整数;
通过每个顶点对应的第q个权值对该顶点的顶点特征进行加权处理,得到各个顶点的加权特征;
对各个顶点的加权特征进行聚合处理,得到第q个聚合特征。
7.如权利要求6所述的方法,其特征在于,所述获取网格模型中各个顶点对应的第q个权值的过程包括:
对第q个关键顶点集合中的关键顶点与顶点h的第一距离进行均值处理,得到所述顶点h对应的第q个距离均值;所述顶点h为所述网格模型中的任一个顶点;
基于所述顶点h对应的第q个距离均值的求导结果,确定所述顶点h的第q个权值。
8.如权利要求3所述的方法,其特征在于,所述残差子模块包括神经网络层和激活层;所述通过所述残差子模块对各个顶点的顶点特征进行深度特征提取处理,得到各个顶点的深度特征的过程包括:
通过所述神经网络层对顶点h的顶点特征进行映射处理,得到所述顶点h的特征映射结果;
采用所述激活层对所述顶点h的特征映射结果进行激活处理,得到所述顶点h的激活特征;
对所述顶点h的激活特征和所述顶点h的顶点特征进行融合处理,得到顶点h的深度特征。
9.如权利要求1所述的方法,其特征在于,所述对象的关节点包括至少一个基础关节点和所述网格模型对应的P个附加关节点,P为正整数;所述获取顶点关系指示信息,包括:
获取所述P个附加关节点对应所述网格模型中的P个关键区域,每个关键区域中包括至少两个顶点;
对每个关键区域中的顶点进行筛选处理,得到P个关键顶点集合,每个关键顶点集合中各个关键顶点之间存在约束关系;
基于所述P个关键顶点集合,生成顶点关系指示信息。
10.如权利要求9所述的方法,其特征在于,所述对每个关键区域中的顶点进行筛选处理,得到P个关键顶点集合的过程包括:
将第q个关键区域中的目标顶点,以及所述目标顶点的邻域顶点添加至候选顶点集合中,所述目标顶点与第q个附加关节点的第二距离,小于所述第q个关键区域中除所述目标顶点外的其他顶点与所述第q个附加关节点的第二距离,q为小于等于P的正整数;
获取所述候选顶点集合中各个候选顶点的标注权重,以及每个候选顶点的邻域顶点的标注权重;
对所述候选顶点集合中每个候选顶点的标注权重与该候选顶点的邻域顶点的标注权重的差异进行均值处理,得到每个候选顶点对应的差异均值;
将差异均值最大的候选顶点确定为所述候选顶点集合的代表顶点;
将所述第q个关键区域中与所述代表顶点的差异均值的差异小于均值阈值的顶点,添加至第q个关键顶点集合中。
11.如权利要求1所述的方法,其特征在于,所述获取对象的网格模型中各个顶点的顶点特征,包括:
获取网格模型中各个顶点的位置信息和法向量;
根据每个顶点的位置信息,计算该顶点与所述对象的各个关节点之间的第二距离;
对每个顶点的位置信息,法向量和该顶点与所述对象的各个关节点之间的第二距离进行合并,得到该顶点的顶点特征。
12.如权利要求1所述的方法,其特征在于,所述对象的关节点数量为N,N为正整数;所述调用蒙皮权重预测模型基于所述顶点关系指示信息、所述顶点特征和所述网格模型的拓扑信息,预测所述网格模型的蒙皮权重,包括:
调用蒙皮权重预测模型基于所述顶点关系指示信息、所述顶点特征和所述网格模型的拓扑信息,预测所述网格模型中每个顶点的N个预测权重;顶点h的第u个预测权重用于指示关节点u在所述网格模型形变过程中对所述顶点h的影响程度;所述顶点h为所述网格模型中的任一个顶点,u为小于等于N的正整数;
从每个顶点的N个预测权重中筛选出最大的R个预测权重,作为每个顶点的R个关键权重,R为大于1且小于等于N的整数;
对每个顶点的R个关键权重进行归一化处理,得到所述网格模型的蒙皮权重。
13.如权利要求1所述的方法,其特征在于,所述方法还包括:
获取所述对象的关节点的旋转平移矩阵;
基于所述网格模型的蒙皮权重和所述旋转平移矩阵,对所述网格模型中的各个顶点进行旋转平移处理,得到所述网格模型的旋转平移结果;
其中,所述网格模型包括以下任一种:多层网格模型、单层网格模型、组合网格模型。
14.一种图像处理装置,其特征在于,所述图像处理装置包括:
获取单元,用于获取对象的网格模型中各个顶点的顶点特征和所述网格模型的拓扑信息,所述网格模型的拓扑信息包括所述对象的关节点与所述网格模型中各个顶点的位置关系,以及所述网格模型中各个顶点的连接关系;
以及用于获取顶点关系指示信息,所述顶点关系指示信息用于指示所述网格模型中存在约束关系的顶点;
处理单元,用于调用蒙皮权重预测模型基于所述顶点关系指示信息、所述顶点特征和所述网格模型的拓扑信息,预测所述网格模型的蒙皮权重;
其中,所述网格模型的蒙皮权重用于指示所述网格模型在形变过程中所述对象的关节点对所述网格模型中各个顶点的影响程度。
15.一种计算机设备,其特征在于,包括:
存储器,所述存储器中存储有计算机程序;
处理器,用于加载所述计算机程序实现如权利要求1-13任一项所述的图像处理方法。
16.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序适于被处理器加载并执行如权利要求1-13任一项所述的图像处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310730294.2A CN116486108B (zh) | 2023-06-20 | 2023-06-20 | 一种图像处理方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310730294.2A CN116486108B (zh) | 2023-06-20 | 2023-06-20 | 一种图像处理方法、装置、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116486108A true CN116486108A (zh) | 2023-07-25 |
CN116486108B CN116486108B (zh) | 2023-09-01 |
Family
ID=87225407
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310730294.2A Active CN116486108B (zh) | 2023-06-20 | 2023-06-20 | 一种图像处理方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116486108B (zh) |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170032579A1 (en) * | 2015-07-27 | 2017-02-02 | Technische Universiteit Delft | Skeletal Joint Optimization For Linear Blend Skinning Deformations Utilizing Skeletal Pose Sampling |
EP3314577A1 (en) * | 2015-06-24 | 2018-05-02 | Max-Planck-Gesellschaft zur Förderung der Wissenschaften | Skinned multi-person linear model |
CN109993819A (zh) * | 2019-04-09 | 2019-07-09 | 网易(杭州)网络有限公司 | 虚拟角色的蒙皮方法及装置、电子设备 |
US20190295303A1 (en) * | 2018-03-21 | 2019-09-26 | Electronic Arts, Inc. | Skinning weights and underlying object suppression of three-dimensional images |
US20190362529A1 (en) * | 2018-05-22 | 2019-11-28 | Magic Leap, Inc. | Skeletal systems for animating virtual avatars |
CN111754431A (zh) * | 2020-06-17 | 2020-10-09 | 北京百度网讯科技有限公司 | 一种图像区域替换方法、装置、设备及存储介质 |
CN112991503A (zh) * | 2021-04-22 | 2021-06-18 | 腾讯科技(深圳)有限公司 | 一种基于蒙皮权重的模型训练方法、装置、设备及介质 |
CN113554736A (zh) * | 2021-09-22 | 2021-10-26 | 成都市谛视科技有限公司 | 骨骼动画顶点矫正方法及模型的学习方法、装置和设备 |
CN113743283A (zh) * | 2021-08-30 | 2021-12-03 | 成都数字天空科技有限公司 | 网状拓扑结构获取方法、装置、电子设备及存储介质 |
-
2023
- 2023-06-20 CN CN202310730294.2A patent/CN116486108B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3314577A1 (en) * | 2015-06-24 | 2018-05-02 | Max-Planck-Gesellschaft zur Förderung der Wissenschaften | Skinned multi-person linear model |
US20170032579A1 (en) * | 2015-07-27 | 2017-02-02 | Technische Universiteit Delft | Skeletal Joint Optimization For Linear Blend Skinning Deformations Utilizing Skeletal Pose Sampling |
US20190295303A1 (en) * | 2018-03-21 | 2019-09-26 | Electronic Arts, Inc. | Skinning weights and underlying object suppression of three-dimensional images |
US20190362529A1 (en) * | 2018-05-22 | 2019-11-28 | Magic Leap, Inc. | Skeletal systems for animating virtual avatars |
CN109993819A (zh) * | 2019-04-09 | 2019-07-09 | 网易(杭州)网络有限公司 | 虚拟角色的蒙皮方法及装置、电子设备 |
CN111754431A (zh) * | 2020-06-17 | 2020-10-09 | 北京百度网讯科技有限公司 | 一种图像区域替换方法、装置、设备及存储介质 |
CN112991503A (zh) * | 2021-04-22 | 2021-06-18 | 腾讯科技(深圳)有限公司 | 一种基于蒙皮权重的模型训练方法、装置、设备及介质 |
CN113743283A (zh) * | 2021-08-30 | 2021-12-03 | 成都数字天空科技有限公司 | 网状拓扑结构获取方法、装置、电子设备及存储介质 |
CN113554736A (zh) * | 2021-09-22 | 2021-10-26 | 成都市谛视科技有限公司 | 骨骼动画顶点矫正方法及模型的学习方法、装置和设备 |
Non-Patent Citations (2)
Title |
---|
夏开建 等: "改进的骨骼蒙皮算法模拟皮肤变形", 计算机应用与软件, no. 12, pages 180 - 182 * |
蒋莉 等: "骨架驱动的MLS卡通角色变形", 计算机辅助设计与图形学学报, no. 05, pages 135 - 141 * |
Also Published As
Publication number | Publication date |
---|---|
CN116486108B (zh) | 2023-09-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10997787B2 (en) | 3D hand shape and pose estimation | |
CN111626218B (zh) | 基于人工智能的图像生成方法、装置、设备及存储介质 | |
US11232286B2 (en) | Method and apparatus for generating face rotation image | |
WO2021184933A1 (zh) | 一种人体三维模型重建方法 | |
CN111260764B (zh) | 一种制作动画的方法、装置及存储介质 | |
CN112991503B (zh) | 一种基于蒙皮权重的模型训练方法、装置、设备及介质 | |
CN112991502B (zh) | 一种模型训练方法、装置、设备及存储介质 | |
CN112102480B (zh) | 图像数据处理方法、装置、设备以及介质 | |
US11776210B2 (en) | 3D face modeling based on neural networks | |
WO2022179603A1 (zh) | 一种增强现实方法及其相关设备 | |
CN113095206A (zh) | 虚拟主播生成方法、装置和终端设备 | |
CN116977674A (zh) | 图像匹配方法、相关设备、存储介质及程序产品 | |
KR20230144585A (ko) | 추적된 메시들의 시퀀스에서의 지오메트리 세부사항들의 보존 | |
CN114549291A (zh) | 图像处理方法、装置、设备以及存储介质 | |
US20220269906A1 (en) | Neural network-based image-to-image translation | |
CN114202615A (zh) | 人脸表情的重建方法、装置、设备和存储介质 | |
CN109598771A (zh) | 一种多地貌特征约束的地形合成方法 | |
CN109658508A (zh) | 一种多尺度细节融合的地形合成方法 | |
CN116486108B (zh) | 一种图像处理方法、装置、设备及存储介质 | |
CN115965736A (zh) | 图像处理方法、装置、设备及存储介质 | |
WO2022127603A1 (zh) | 一种模型处理方法及相关装置 | |
CN115330979A (zh) | 表情迁移的方法、装置、电子设备及存储介质 | |
CN114359961A (zh) | 行人属性识别方法及相关设备 | |
CN114913305A (zh) | 模型处理方法、装置、设备、存储介质及计算机程序产品 | |
CN115880766A (zh) | 姿态迁移、姿态迁移模型训练方法、装置和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 40090126 Country of ref document: HK |