CN115731375A - 虚拟形象的更新方法及装置 - Google Patents

Abstract

本说明书实施例提供了虚拟形象的更新方法及装置，其中，一种虚拟形象的更新方法包括：将物理世界采集的用户图像输入稀疏特征提取模型进行稀疏特征提取，获得稀疏特征；将所述用户图像以及所述稀疏特征输入稠密特征提取模型进行稠密特征提取，获得稠密特征；计算所述稠密特征与特征库中的候选稠密特征的特征相似度；若所述特征相似度满足虚拟形象更新条件，基于所述用户图像更新虚拟世界中的用户虚拟形象。

Description

虚拟形象的更新方法及装置

技术领域

本文件涉及虚拟化技术领域，尤其涉及一种虚拟形象的更新方法及装置。

背景技术

虚拟世界因提供了对真实世界的模拟而受到广泛关注，目前虚拟世界的技术难点在于如何精准重建虚拟形象以及如何精准驱动虚拟形象。在虚拟世界场景中，用户通过人工智能更新虚拟形象时，往往与真实用户的动作有很大差别；而用户通过高精度传感器更新虚拟形象时，驱动精度依赖于传感器的采集精度，更加耗费资源。

发明内容

本说明书一个或多个实施例提供了一种虚拟形象的更新方法，包括：将物理世界采集的用户图像输入稀疏特征提取模型进行稀疏特征提取，获得稀疏特征。将所述用户图像以及所述稀疏特征输入稠密特征提取模型进行稠密特征提取，获得稠密特征。计算所述稠密特征与特征库中的候选稠密特征的特征相似度。若所述特征相似度满足虚拟形象更新条件，基于所述用户图像更新虚拟世界中的用户虚拟形象。

本说明书一个或多个实施例提供了一种虚拟形象的更新装置，包括：稀疏特征提取模块，被配置为将物理世界采集的用户图像输入稀疏特征提取模型进行稀疏特征提取，获得稀疏特征。稠密特征提取模块，被配置为将所述用户图像以及所述稀疏特征输入稠密特征提取模型进行稠密特征提取，获得稠密特征。相似度计算模块，被配置为计算所述稠密特征与特征库中的候选稠密特征的特征相似度。若所述特征相似度满足虚拟形象更新条件，运行形象更新模块，所述形象更新模块，被配置为基于所述用户图像更新虚拟世界中的用户虚拟形象。

本说明书一个或多个实施例提供了一种虚拟形象的更新设备，包括：处理器；以及，被配置为存储计算机可执行指令的存储器，所述计算机可执行指令在被执行时使所述处理器：将物理世界采集的用户图像输入稀疏特征提取模型进行稀疏特征提取，获得稀疏特征。将所述用户图像以及所述稀疏特征输入稠密特征提取模型进行稠密特征提取，获得稠密特征。计算所述稠密特征与特征库中的候选稠密特征的特征相似度。若所述特征相似度满足虚拟形象更新条件，基于所述用户图像更新虚拟世界中的用户虚拟形象。

本说明书一个或多个实施例提供了一种存储介质，用于存储计算机可执行指令，所述计算机可执行指令在被处理器执行时实现以下流程：将物理世界采集的用户图像输入稀疏特征提取模型进行稀疏特征提取，获得稀疏特征。将所述用户图像以及所述稀疏特征输入稠密特征提取模型进行稠密特征提取，获得稠密特征。计算所述稠密特征与特征库中的候选稠密特征的特征相似度。若所述特征相似度满足虚拟形象更新条件，基于所述用户图像更新虚拟世界中的用户虚拟形象。

附图说明

为了更清楚地说明本说明书一个或多个实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本说明书中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图；

图1为本说明书一个或多个实施例提供的一种虚拟形象的更新方法处理流程图；

图2为本说明书一个或多个实施例提供的一种应用于虚拟世界场景的虚拟形象的更新方法处理流程图；

图3为本说明书一个或多个实施例提供的一种虚拟形象的更新装置示意图；

图4为本说明书一个或多个实施例提供的一种虚拟形象的更新设备的结构示意图。

具体实施方式

为了使本技术领域的人员更好地理解本说明书一个或多个实施例中的技术方案，下面将结合本说明书一个或多个实施例中的附图，对本说明书一个或多个实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本说明书的一部分实施例，而不是全部的实施例。基于本说明书一个或多个实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本文件的保护范围。

本说明书提供的一种虚拟形象的更新方法实施例：

本实施例提供的虚拟形象的更新方法，首先提取物理世界采集的用户图像的稀疏特征，并结合用户图像以及稀疏特征，输入稠密特征提取模型进行稠密特征提取获得稠密特征，以此从稀疏特征的角度出发提升稠密特征的提取效率和准确率，进一步计算稠密特征与特征库中候选稠密特征的特征相似度，以此判断特征相似度是否满足虚拟形象更新条件，若满足则基于用户图像更新虚拟世界中的用户虚拟形象，从而提升了驱动虚拟形象过程中更新虚拟形象的效率以及降低了虚拟形象的更新难度，同时结合稀疏特征与稠密特征，实现了对虚拟形象的精确驱动和更新，使虚拟形象的动作与用户在物理世界中动作的同步性更强。

参照图1，本实施例提供的虚拟形象的更新方法，所述方法具体包括步骤S102至步骤S108。

步骤S102，将物理世界采集的用户图像输入稀疏特征提取模型进行稀疏特征提取，获得稀疏特征。

实际中，很多场景下需要让物理世界中动作与虚拟世界中动作保持一致，比如，用户在玩游戏的过程中，基于物理世界中发生的动作对虚拟世界中的形象进行操控；或者在用户社交的过程中，需要基于物理世界中的语音或者动作对虚拟世界中的形象进行操控。在这种情况下，需要将物理世界中动作实时同步至虚拟世界，让虚拟世界中动作与物理世界中动作保持一致；具体在同步过程中，根据物理世界中的每一帧图像，将动作同步更新至虚拟世界中以控制虚拟形象做出相同的动作，将这个过程作为对虚拟形象的驱动。

本实施例中，虚拟世界是指基于去中心化协作实现并且具有开放经济系统的虚拟的拟真世界；具体的，真实世界中的用户可通过接入设备接入虚拟世界，比如用户通过接入设备进行游戏交互的游戏虚拟世界，再比如用户通过接入设备进行在线会议的会议虚拟世界；所述虚拟世界的接入设备，可以是连接虚拟世界的VR(Virtual Reality，虚拟现实)设备、AR(Augmented Reality，增强现实)设备等，比如连接虚拟世界的头戴式VR设备。

本实施例所述用户图像，是指用户的RGB(red green blue)图像，比如从用户的运动视频中按帧截取的视频图像，或者对运动中的用户进行拍摄获得的照片图像。

所述稀疏特征，是指能够表征用户身体各个部位或器官的显著特征，也即是粗粒度关键点，比如将用户的手部定位为一个粗粒度关键点，将该粗粒度关键点作为能够代表手部的显著特征。

本实施例中，首先将物理世界采集的用户图像输入稀疏特征提取模型进行稀疏特征提取，获取稀疏特征；所述稀疏特征提取模型的训练可以预先完成，比如可以在云服务器上进行稀疏特征提取模型的模型训练，也可以在线下进行稀疏特征提取模型的训练；模型训练过程中，为了提升稀疏特征提取模型的训练效率，同时也为了降低训练样本的收集难度、减少模型训练的工作量，本实施例提供的一种可选实施方式中，所述稀疏特征提取模型，采用如下方式训练获得：

将所述物理世界采集的第一图像样本输入第一待训练模型进行稀疏特征提取，获得第一样本稀疏特征；

根据所述第一样本稀疏特征和第一参考特征计算第一补偿损失，以及，根据所述第一样本稀疏特征和第二参考特征计算第一回归损失；

根据所述第一补偿损失与所述第一回归损失对所述第一待训练模型进行参数调整。

可选的，所述第一参考特征，通过对所述第一图像样本进行特征标注处理获得。

参照上述模型训练方式，重复上述训练过程对第一待训练模型进行训练，训练完成之后获得所述第一待训练模型。进一步，为了提升模型训练效果，从第一偏移量以及第二偏移量的维度引入损失计算，来对所述第一训练模型的训练过程进行约束，以此提升模型训练的准确率和效率。具体的，本实施例提供的一种可选实施方式中，所述根据所述第一样本稀疏特征和第一参考特征计算第一补偿损失，包括：

根据所述第一样本稀疏特征携带的位置信息和第一参考特征携带的位置信息计算第一偏移量；

根据所述第一偏移量计算所述第一补偿损失。

本实施例提供的一种可选实施方式中，所述根据所述第一样本稀疏特征和第二参考特征计算第一回归损失，包括：

根据所述第一样本稀疏特征携带的位置信息和第二参考特征携带的位置信息计算第二偏移量；

根据所述第二偏移量计算所述第一回归损失。

具体执行过程中，还可以采用PSPNet(Pyramid Scene Parseing Network，金字塔池化模型)结构作为所述第一待训练模型，在模型训练过程中，首先将物理世界采集的第一图像样本输入PSPNet进行稀疏特征提取，获得稀疏特征，将所述稀疏特征与对第一图像样本进行特征标注获得的第一参考特征进行对比，以根据所述稀疏特征携带的位置信息与所述参考特征携带的位置信息计算第一偏移量，并根据所述第一偏移量计算第一补偿损失；再根据所述稀疏特征携带的位置信息与所述参考特征携带的位置信息计算第二偏移量，并根据所述第二偏移量及其权重计算第一回归损失。

其中，位置信息是指能够确定稀疏特征位置的信息，比如稀疏特征在坐标系中的坐标、稀疏特征向量。偏移量是指稀疏特征与参考特征的位置变化，比如用稀疏特征向量减去参考特征向量获得的位移。可选的，所述第一偏移量，包括用稀疏特征向量减去下一帧图像样本的参考特征向量获得的位移；所述第二偏移量，包括用稀疏特征向量减去对应图像样本的参考特征向量获得的位移。所述权重，是指用稀疏特征向量的第二偏移量除以各稀疏特征向量中的最大第二偏移量。

例如，第一待训练模型采用PSPNet结构；在PSPNet的训练过程中，将图像样本输入PSPNet进行稀疏特征提取，获得图像样本稀疏特征，首先根据图像样本稀疏特征在直角坐标系中的坐标以及参考稀疏特征的坐标，计算图像样本稀疏特征向量与参考稀疏特征向量的差值，根据所述差值计算补偿损失；再根据各稀疏特征向量的差值与各差值中的最大差值的商计算权重，根据权重计算回归损失。

具体的，在第一待训练模型的训练过程中，训练损失可采用下述损失函数进行计算：

Losscoarse＝Lossoffset+Lossweighted-regreesion

其中，Loss_coarse表示训练损失，Loss_offset表示根据稀疏特征向量与参考稀疏特征向量的差计算出的补偿损失，Loss_{weighted-regreesion}表示根据稀疏特征向量与参考稀疏特征向量的差乘以权重计算出的回归损失，权重为各稀疏特征位移除以稀疏特征最大位移的商。

在训练过程中，基于上述模型结构以及训练损失，利用SGD(Stochastic GradientDescent，随机梯度下降)法对第一待训练模型进行参数调整，直至损失函数收敛后获得稀疏特征提取模型。

步骤S104，将所述用户图像以及所述稀疏特征输入稠密特征提取模型进行稠密特征提取，获得稠密特征。

本实施例所述稠密特征，是指能够表征用户身体各个部位或器官的显著特征，也即是细粒度关键点，比如将用户的手部定位为5个细粒度关键点，将这5个细粒度关键点作为能够代表手部的显著特征。

上述获得用户图像的稀疏特征之后，本步骤中借助稀疏特征对用户图像进行稠密特征提取，以提高稠密特征的提取效率和提取精度。

具体实施时，为了提升针对稠密特征进行稠密特征提取的效率和准确率，通过训练稠密特征提取模型对用户图像进行稠密特征提取，具体的，本实施例提供的一种可选实施方式中，所述稠密特征提取模型，采用如下方式训练获得：

将所述物理世界采集的第二图像样本以及第二样本稀疏特征输入第二待训练模型进行稠密特征提取，获得样本稠密特征；

根据所述样本稠密特征和第三参考特征计算第二补偿损失，以及，根据所述样本稠密特征和第四参考特征计算第二回归损失；

根据所述第二补偿损失与所述第二回归损失对所述第二待训练模型进行参数调整。

参照上述模型训练方式，重复上述训练过程对第二待训练模型进行训练，训练完成之后获得所述第二待训练模型。进一步，为了提升模型训练效果，从第三偏移量以及第四偏移量的维度引入损失计算，来对所述第二训练模型的训练过程进行约束，以此提升模型训练的准确率和效率。具体的，本实施例提供的一种可选实施方式中，所述根据所述样本稠密特征和第三参考特征计算第二补偿损失，包括：

根据所述样本稠密特征携带的位置信息和第三参考特征携带的位置信息计算第三偏移量；

根据所述第三偏移量计算所述第二补偿损失。

本实施例提供的一种可选实施方式中，所述根据所述样本稠密特征和第四参考特征计算第二回归损失，包括：

根据所述样本稠密特征携带的位置信息和第四参考特征携带的位置信息计算第四偏移量；

根据所述第四偏移量计算所述第二回归损失。

具体执行过程中，将物理世界采集的第二图像样本以及第二样本稀疏特征输入PSPNet进行稠密特征提取，获得样本稠密特征，根据所述样本稠密特征携带的位置信息和对第二图像样本进行稠密特征标注获得的第三参考特征携带的位置信息计算第三偏移量，根据所述第三偏移量计算第二补偿损失；根据所述样本稠密特征携带的位置信息和对第二图像样本进行稠密特征标注获得的第四参考特征携带的位置信息计算第四偏移量，根据所述第四偏移量及其权重计算第二回归损失。

其中，位置信息是指能够确定稠密特征位置的信息，比如稠密特征在坐标系中的坐标、稠密特征向量。偏移量是指稠密特征与参考特征的位置变化，比如用稠密特征向量减去参考特征向量获得的位移。可选的，所述第三偏移量，包括用稠密特征向量减去下一帧图像样本上标注的参考特征向量获得的位移；所述第四偏移量，包括用稠密特征向量减去对应图像样本上标注的参考特征向量获得的位移。所述权重，是指用稠密特征向量的第二偏移量除以个稠密特征向量中的最大第二偏移量。

例如，第二待训练模型采用PSPNet结构；在PSPNet的训练过程中，将图像样本以及对应的稀疏特征输入PSPNet进行稠密特征提取，获得图像样本稠密特征，首先根据图像样本稠密特征在直角坐标系中的坐标以及参考稠密特征的坐标，计算图像样本稠密特征向量与参考稠密特征向量的差值，根据所述差值计算补偿损失；再根据各稠密特征向量的差值与各差值中的最大差值的商计算权重，根据权重计算回归损失。

具体的，在第二待训练模型的训练过程中，训练损失可采用下述损失函数进行计算：

Loss_coarse＝Loss_offset+Loss_{weighted-regreesion}

其中，Loss_coarse表示训练损失，Loss_offset表示根据稠密特征向量与参考稠密特征向量的差计算出的补偿损失，Loss_{weighted-regreesion}表示根据稠密特征向量与参考稠密特征向量的差乘以权重计算出的回归损失，权重为各稠密特征位移除以稠密特征最大位移的商。

具体实施过程中，稠密特征提取模型的训练过程可以发生在稀疏特征提取模型训练完成之后，也可以与稀疏特征提取模型同时进行。

可选的，所述第二样本稀疏特征，通过将所述第二图像样本输入所述稀疏特征提取模型进行稀疏特征提取获得，或者，将所述稀疏特征提取模型训练过程中输出的第一样本稀疏特征作为所述第二样本稀疏特征。

参见上述模型训练方式，重复上述训练过程对第二待训练模型进行训练，在训练过程中，基于上述模型结构以及训练损失，可利用SGD对第二待训练进行参数调整，直至损失函数收敛后获得特征提取模型。

进一步，为了将用户图像的稠密特征映射到虚拟世界中的用户虚拟形象上，使得用户图像的稠密特征的定义或者位置与虚拟世界中的虚拟形象保持一致，在稠密特征提取模型的基础上增加了一个MLP(Multilayer Perceptron，神经网络)，本实施例提供的一种可选实施方式中，所述稠密特征提取模型，采用如下方式训练获得：

根据样本稠密特征以及映射样本稠密特征计算映射损失；

根据所述映射损失对第二待训练模型进行参数调整。

可选的，所述映射样本稠密特征在将所述样本稠密特征输入神经网络进行特征提取后获得；所述映射损失可以是KL(Kullback-Leibler，相对熵)散度。

在训练过程中，基于上述模型结构以及训练损失，利用SGD对第二待训练模型进行参数调整，直至损失函数收敛后获得特征提取模型。

步骤S106，计算所述稠密特征与特征库中的候选稠密特征的特征相似度。

在上述步骤获得用户图像的稠密特征的基础上，本步骤中，计算所述稠密特征与特征库中稠密特征的特征相似度，以此作为后续基于所述用户图像更新虚拟世界中的用户虚拟形象的依据。

本实施例所述特征库中存放了通过动作传感器采集用户的稠密特征，本实施例提供的一种可选实施方式中，所述特征库中的候选稠密特征，通过如下方式获得：

通过动作传感器采集用户的动作数据；

对所述动作数据进行特征提取获得所述候选稠密特征。

例如，将物理世界采集的用户图像输入稀疏特征提取模型进行稀疏特征提取，获得稀疏特征，将用户图像以及稀疏特征输入稠密特征提取模型进行稠密特征提取，获得稠密特征，计算稠密特征与特征库中存放的各稠密特征的余弦相似度；其中稠密特征携带有位置信息，比如稠密特征的向量；通过稠密特征的向量与特征库中存放的各稠密特征的向量计算余弦相似度。

步骤S108，若所述特征相似度满足虚拟形象更新条件，基于所述用户图像更新虚拟世界中的用户虚拟形象。

本实施例所述虚拟形象更新条件，包括所述特征相似度处于预设阈值范围内其中，预设阈值可以根据实际需要进行设定。

上述计算所述稠密特征与特征库中的候选稠密特征的特征相似度之后，若特征相似度满足虚拟形象更新条件，具体若相似度处于预设范围内，则基于提取出的稠密特征更新虚拟世界中的用户虚拟形象。

具体的，更新虚拟世界中的用户虚拟形象可以通过解析用户图像，将解析获得的图像数据输入虚拟形象的更新接口，基于图像数据更新虚拟形象；此外，还可以将图像输入虚拟形象的更新接口，通过更新接口对用户图像进行解析，并根据解析获得的结果进行虚拟形象更新；除此之外，还可以将稠密特征输入虚拟形象更新接口，基于稠密特征进行虚拟形象更新。

此外，若所述特征相似度不满足虚拟形象更新条件，本实施例提供的一种可选实施方式中，确定所述稠密特征为无效特征，并对所述用户图像进行二次特征提取。

进一步，本实施例提供的一种可选实施方式中，所述对所述用户图像进行二次特征提取，包括：

将所述用户图像输入所述稀疏特征提取模型进行二次稀疏特征提取，获得二次稀疏特征；

将所述用户图像以及所述稀疏特征输入所述稠密特征提取模型进行二次稠密特征提取，获得二次稠密特征。

二次特征提取之后，与上述特征提取过程类似，计算二次稠密特征与特征库中的候选稠密特征的特征相似度，若相似度不满足虚拟形象更新条件，则进行三次特征提取，以此类推，通过迭代的方式进行稠密特征提取，直至提取到满足虚拟形象更新条件的稠密特征。

综上所述，本实施例提供的虚拟形象的更新方法通过对物理世界采集的用户图像进行稀疏特征提取，将获得的稀疏特征以及用户图像输入稠密特征提取模型进行稠密特征提取，计算获得的稠密特征与特征库中的候选稠密特征的特征相似度，以此基于用户图像更新虚拟世界中的用户虚拟形象，通过结合稀疏特征与稠密特征的方式，实现了对虚拟形象的精确控制与更新。

进一步，在训练稠密特征提取模型时，基于训练获得的稀疏特征模型进行稀疏特征提取，获得稀疏特征，结合用户图像以及稀疏特征对稠密特征提取模型进行训练，从稀疏特征的角度出发提升稠密特征的提取效率和准确率。

下述以本实施例提供的一种虚拟形象的更新方法在虚拟世界场景的应用为例，结合图2，对本实施例提供的虚拟形象的更新方法进行进一步说明，参见图2，应用于虚拟世界场景的虚拟形象的更新方法，具体包括下述步骤。

步骤S202，将用户动作视频中的图像帧输入稀疏特征提取模型进行稀疏特征提取，获得稀疏特征。

步骤S204，将用户图像帧以及稀疏特征输入稠密特征提取模型进行稠密特征提取，获得稠密特征。

步骤S206，计算稠密特征与特征库中的候选稠密特征的特征相似度。

步骤S208，若特征相似度满足预设阈值，基于用户图像帧更新虚拟世界中的用户虚拟形象。

步骤S210，若特征相似度不满足预设阈值，则确定稠密特征为无效特征，并对用户图像帧进行二次特征提取。

步骤S212，将用户动作视频中的图像帧输入稀疏特征提取模型进行二次稀疏特征提取，获得二次稀疏特征。

步骤S214，将图像帧以及二次稀疏特征输入稠密特征提取模型进行二次稠密特征提取，获得二次稠密特征。

本说明书提供的一种虚拟形象的更新装置实施例如下：

在上述的实施例中，提供了一种虚拟形象的更新方法，与之相对应的，还提供了一种虚拟形象的更新装置，下面结合附图进行说明。

参照图3，其示出了本实施例提供的一种虚拟形象的更新装置示意图。

由于装置实施例对应于方法实施例，所以描述得比较简单，相关的部分请参见上述提供的方法实施例的对应说明即可。下述描述的装置实施例仅仅是示意性的。

本实施例提供一种虚拟形象的更新装置，包括：

稀疏特征提取模块302，被配置为将物理世界采集的用户图像输入稀疏特征提取模型进行稀疏特征提取，获得稀疏特征；

稠密特征提取模块304，被配置为将所述用户图像以及所述稀疏特征输入稠密特征提取模型进行稠密特征提取，获得稠密特征；

相似度计算模块306，被配置为计算所述稠密特征与特征库中的候选稠密特征的特征相似度；

若所述特征相似度满足虚拟形象更新条件，运行形象更新模块308，所述形象更新模块308，被配置为基于所述用户图像更新虚拟世界中的用户虚拟形象。

本说明书提供的一种虚拟形象的更新设备实施例如下：

对应上述描述的一种虚拟形象的更新方法，基于相同的技术构思，本说明书一个或多个实施例还提供一种虚拟形象的更新设备，该虚拟形象的更新设备用于执行上述提供的虚拟形象的更新方法，图4为本说明书一个或多个实施例提供的一种虚拟形象的更新设备的结构示意图。

本实施例提供的一种虚拟形象的更新设备，包括：

如图4所示，虚拟形象的更新设备可因配置或性能不同而产生比较大的差异，可以包括一个或一个以上的处理器401和存储器402，存储器402中可以存储有一个或一个以上存储应用程序或数据。其中，存储器402可以是短暂存储或持久存储。存储在存储器402的应用程序可以包括一个或一个以上模块(图示未示出)，每个模块可以包括虚拟形象的更新设备中的一系列计算机可执行指令。更进一步地，处理器401可以设置为与存储器402通信，在虚拟形象的更新设备上执行存储器402中的一系列计算机可执行指令。虚拟形象的更新设备还可以包括一个或一个以上电源403，一个或一个以上有线或无线网络接口404，一个或一个以上输入/输出接口405，一个或一个以上键盘406等。

在一个具体的实施例中，虚拟形象的更新设备包括有存储器，以及一个或一个以上的程序，其中一个或者一个以上程序存储于存储器中，且一个或者一个以上程序可以包括一个或一个以上模块，且每个模块可以包括对虚拟形象的更新设备中的一系列计算机可执行指令，且经配置以由一个或者一个以上处理器执行该一个或者一个以上程序包含用于进行以下计算机可执行指令：

将物理世界采集的用户图像输入稀疏特征提取模型进行稀疏特征提取，获得稀疏特征；

将所述用户图像以及所述稀疏特征输入稠密特征提取模型进行稠密特征提取，获得稠密特征；

计算所述稠密特征与特征库中的候选稠密特征的特征相似度；

若所述特征相似度满足虚拟形象更新条件，基于所述用户图像更新虚拟世界中的用户虚拟形象。

本说明书提供的一种存储介质实施例如下：

对应上述描述的一种虚拟形象的更新方法，基于相同的技术构思，本说明书一个或多个实施例还提供一种存储介质。

本实施例提供的存储介质，用于存储计算机可执行指令，所述计算机可执行指令在被处理器执行时实现以下流程：

将物理世界采集的用户图像输入稀疏特征提取模型进行稀疏特征提取，获得稀疏特征；

将所述用户图像以及所述稀疏特征输入稠密特征提取模型进行稠密特征提取，获得稠密特征；

计算所述稠密特征与特征库中的候选稠密特征的特征相似度；

若所述特征相似度满足虚拟形象更新条件，基于所述用户图像更新虚拟世界中的用户虚拟形象。

需要说明的是，本说明书中关于存储介质的实施例与本说明书中关于虚拟形象的更新方法的实施例基于同一发明构思，因此该实施例的具体实施可以参见前述对应方法的实施，重复之处不再赘述。

上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下，在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外，在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中，多任务处理和并行处理也是可以的或者可能是有利的。

在20世纪30年代，对于一个技术的改进可以很明显地区分是硬件上的改进(例如，对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而，随着技术的发展，当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此，不能说一个方法流程的改进就不能用硬件实体模块来实现。例如，可编程逻辑器件(Programmable Logic Device，PLD)(例如现场可编程门阵列(Field Programmable GateArray，FPGA))就是这样一种集成电路，其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上，而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且，如今，取代手工地制作集成电路芯片，这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现，它与程序开发撰写时所用的软件编译器相类似，而要编译之前的原始代码也得用特定的编程语言来撰写，此称之为硬件描述语言(Hardware Description Language，HDL)，而HDL也并非仅有一种，而是有许多种，如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等，目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚，只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中，就可以很容易得到实现该逻辑方法流程的硬件电路。

控制器可以按任何适当的方式实现，例如，控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit，ASIC)、可编程逻辑控制器和嵌入微控制器的形式，控制器的例子包括但不限于以下微控制器：ARC625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320，存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道，除了以纯计算机可读程序代码方式实现控制器以外，完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件，而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至，可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。

上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的，计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。

为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本说明书实施例时可以把各单元的功能在同一个或多个软件和/或硬件中实现。

本领域内的技术人员应明白，本说明书一个或多个实施例可提供为方法、系统或计算机程序产品。因此，本说明书一个或多个实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本说明书是参照根据本说明书实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。

内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。

本说明书一个或多个实施例可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、作品、组件、数据结构等等。也可以在分布式计算环境中实践本说明书的一个或多个实施例，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。

本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

以上所述仅为本文件的实施例而已，并不用于限制本文件。对于本领域技术人员来说，本文件可以有各种更改和变化。凡在本文件的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本文件的权利要求范围之内。

Claims (17)

1.一种虚拟形象的更新方法，包括：

将物理世界采集的用户图像输入稀疏特征提取模型进行稀疏特征提取，获得稀疏特征；

将所述用户图像以及所述稀疏特征输入稠密特征提取模型进行稠密特征提取，获得稠密特征；

计算所述稠密特征与特征库中的候选稠密特征的特征相似度；

若所述特征相似度满足虚拟形象更新条件，基于所述用户图像更新虚拟世界中的用户虚拟形象。

2.根据权利要求1所述的虚拟形象的更新方法，所述计算所述稠密特征与特征库中的候选稠密特征的特征相似度步骤执行之后，还包括：

若所述特征相似度不满足所述虚拟形象更新条件，则确定所述稠密特征为无效特征，并对所述用户图像进行二次特征提取。

3.根据权利要求2所述的虚拟形象的更新方法，所述对所述用户图像进行二次特征提取，包括：

将所述用户图像输入所述稀疏特征提取模型进行二次稀疏特征提取，获得二次稀疏特征；

将所述用户图像以及所述二次稀疏特征输入所述稠密特征提取模型进行二次稠密特征提取，获得二次稠密特征。

4.根据权利要求1所述的虚拟形象的更新方法，所述特征库中的候选稠密特征，通过如下方式获得：

通过动作传感器采集用户的动作数据；

对所述动作数据进行特征提取获得所述候选稠密特征。

5.根据权利要求1所述的虚拟形象的更新方法，所述稀疏特征提取模型，采用如下方式训练获得：

将所述物理世界采集的第一图像样本输入第一待训练模型进行稀疏特征提取，获得第一样本稀疏特征；

根据所述第一样本稀疏特征和第一参考特征计算第一补偿损失，以及，根据所述第一样本稀疏特征和第二参考特征计算第一回归损失；

根据所述第一补偿损失与所述第一回归损失对所述第一待训练模型进行参数调整。

6.根据权利要求1所述的虚拟形象的更新方法，所述稠密特征提取模型，采用如下方式训练获得：

将所述物理世界采集的第二图像样本以及第二样本稀疏特征输入第二待训练模型进行稠密特征提取，获得样本稠密特征；

根据所述样本稠密特征和第三参考特征计算第二补偿损失，以及，根据所述样本稠密特征和第四参考特征计算第二回归损失；

根据所述第二补偿损失与所述第二回归损失对所述第二待训练模型进行参数调整。

7.根据权利要求1所述的虚拟形象的更新方法，所述稠密特征提取模型，采用如下方式训练获得：

根据样本稠密特征以及映射样本稠密特征计算映射损失；

根据所述映射损失对第二待训练模型进行参数调整；其中，所述映射样本稠密特征在将所述样本稠密特征输入神经网络进行特征提取后获得。

8.根据权利要求6所述的虚拟形象的更新方法，所述第二样本稀疏特征，通过如下方式获得：

将所述第二图像样本输入所述稀疏特征提取模型进行稀疏特征提取，获得所述第二样本稀疏特征。

9.根据权利要求6所述的虚拟形象的更新方法，所述第二样本稀疏特征，通过如下方式获得：

将所述稀疏特征提取模型训练过程中输出的第一样本稀疏特征作为所述第二样本稀疏特征。

10.根据权利要求5所述的虚拟形象的更新方法，所述第一参考特征，通过对所述第一图像样本进行特征标注处理获得。

11.根据权利要求5所述的虚拟形象的更新方法，所述根据所述第一样本稀疏特征和第一参考特征计算第一补偿损失，包括：

根据所述第一样本稀疏特征携带的位置信息和所述第一参考特征携带的位置信息计算第一偏移量；

根据所述第一偏移量计算所述第一补偿损失。

12.根据权利要求5所述的虚拟形象的更新方法，所述根据所述第一样本稀疏特征和第二参考特征计算第一回归损失，包括：

根据所述第一样本稀疏特征携带的位置信息和所述第二参考特征携带的位置信息计算第二偏移量；

根据所述第二偏移量计算所述第一回归损失。

13.根据权利要求6所述的虚拟形象的更新方法，所述根据所述样本稠密特征和第三参考特征计算第二补偿损失，包括：

根据所述样本稠密特征携带的位置信息和所述第三参考特征携带的位置信息计算第三偏移量；

根据所述第三偏移量计算所述第二补偿损失。

14.根据权利要求6所述的虚拟形象的更新方法，所述根据所述样本稠密特征和第四参考特征计算第二回归损失，包括：

根据所述样本稠密特征携带的位置信息和所述第四参考特征携带的位置信息计算第四偏移量；

根据所述第四偏移量计算所述第二回归损失。

15.一种虚拟形象的更新装置，包括：

稀疏特征提取模块，被配置为将物理世界采集的用户图像输入稀疏特征提取模型进行稀疏特征提取，获得稀疏特征；

稠密特征提取模块，被配置为将所述用户图像以及所述稀疏特征输入稠密特征提取模型进行稠密特征提取，获得稠密特征；

相似度计算模块，被配置为计算所述稠密特征与特征库中的候选稠密特征的特征相似度；

若所述特征相似度满足虚拟形象更新条件，运行形象更新模块，所述形象更新模块，被配置为基于所述用户图像更新虚拟世界中的用户虚拟形象。

16.一种虚拟形象的更新设备，包括：

处理器；以及，被配置为存储计算机可执行指令的存储器，所述计算机可执行指令在被执行时使所述处理器：

将物理世界采集的用户图像输入稀疏特征提取模型进行稀疏特征提取，获得稀疏特征；

将所述用户图像以及所述稀疏特征输入稠密特征提取模型进行稠密特征提取，获得稠密特征；

计算所述稠密特征与特征库中的候选稠密特征的特征相似度；

若所述特征相似度满足虚拟形象更新条件，基于所述用户图像更新虚拟世界中的用户虚拟形象。

17.一种存储介质，用于存储计算机可执行指令，所述计算机可执行指令在被处理器执行时实现以下流程：

将物理世界采集的用户图像输入稀疏特征提取模型进行稀疏特征提取，获得稀疏特征；

将所述用户图像以及所述稀疏特征输入稠密特征提取模型进行稠密特征提取，获得稠密特征；

计算所述稠密特征与特征库中的候选稠密特征的特征相似度；

若所述特征相似度满足虚拟形象更新条件，基于所述用户图像更新虚拟世界中的用户虚拟形象。

Images