CN113095129A - 姿态估计模型训练方法、姿态估计方法、装置和电子设备 - Google Patents

Abstract

本申请实施例公开了姿态估计模型训练方法、姿态估计方法、装置和电子设备。该方法的实施例包括：获取样本图像和样本图像中的关节点的初始热力图；将样本图像输入至待训练的姿态估计模型，得到样本图像中的关节点的尺度特征图、预测热力图和嵌入标签；基于尺度特征图对初始热力图进行调整，得到目标热力图；基于目标热力图、预测热力图以及嵌入标签，更新待训练的姿态估计模型的参数。该实施方式在保证处理效率的同时，提高了姿态估计结果的精度。

Description

姿态估计模型训练方法、姿态估计方法、装置和电子设备

技术领域

本申请实施例涉及计算机技术领域，具体涉及姿态估计模型训练方法、姿态估计方法、装置和电子设备。

背景技术

姿态估计是计算机视觉的一个重要分支，用于定位对象的各个关节点，如手肘、手腕、膝盖等。

现有技术中，可通过检测图像中的各对象，将各对象缩放至固定大小后进行关节点检测，从而得到各对象的姿态。这种方式需要对对象的检测，计算量较大，因而处理效率较低。现有技术的另一种方式可通过同一函数或算法检测全部关节点，并确定各关节点所属的对象，从而得到各对象的姿态。这种方式无法对不同尺度的对象区别处理，因而姿态预估结果的精度较低。

发明内容

本申请实施例提出了姿态估计模型训练方法、姿态估计方法、装置和电子设备，以解决现有技术中为保证处理效率导致姿态预估结果的精度较低的技术问题。

第一方面，本申请实施例提供了一种姿态估计模型训练方法，该方法包括：获取样本图像和所述样本图像中的关节点的初始热力图；将所述样本图像输入至待训练的姿态估计模型，得到所述样本图像中的关节点的尺度特征图、预测热力图和嵌入标签；基于所述尺度特征图对所述初始热力图进行调整，得到目标热力图；基于所述目标热力图、所述预测热力图以及所述嵌入标签，更新所述待训练的姿态估计模型的参数。

第二方面，本申请实施例提供了一种姿态估计方法，该方法包括：获取目标图像；将所述目标图像输入至上述姿态估计模型训练方法训练的姿态估计模型，得到所述姿态估计模型输出的预测热力图和嵌入标签；基于所述预测热力图和所述嵌入标签，生成所述目标图像中的对象的姿态估计结果。

第三方面，本申请实施例提供了一种姿态估计模型训练装置，该装置包括：获取单元，被配置成获取样本图像和所述样本图像中的关节点的初始热力图；输入单元，被配置成将所述样本图像输入至待训练的姿态估计模型，得到所述样本图像中的关节点的尺度特征图、预测热力图和嵌入标签；调整单元，被配置成基于所述尺度特征图对所述初始热力图进行调整，得到目标热力图；训练单元，被配置成基于所述目标热力图、所述预测热力图以及所述嵌入标签，更新所述待训练的姿态估计模型的参数。

第四方面，本申请实施例提供了一种姿态估计装置，该装置包括：获取单元，被配置成获取目标图像；输入单元，被配置成将所述目标图像输入至上述姿态估计模型训练方法训练的姿态估计模型，得到所述姿态估计模型输出的预测热力图和嵌入标签；生成单元，被配置成基于所述预测热力图和所述嵌入标签，生成所述目标图像中的对象的姿态估计结果。

第五方面，本申请实施例提供了一种电子设备，包括：一个或多个处理器；存储装置，其上存储有一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如第一方面或第二方面中所描述的方法。

第六方面，本申请实施例提供了一种计算机可读介质，其上存储有计算机程序，该程序被处理器执行时实现如第一方面或第二方面中所描述的方法。

本申请实施例提供的姿态估计模型训练方法、姿态估计方法、装置和电子设备，通过获取样本图像和样本图像中的关节点的初始热力图，而后将样本图像输入至待训练的姿态估计模型，以得到样本图像中的关节点的尺度特征图、预测热力图和嵌入标签，之后基于尺度特征图对初始热力图进行调整，以得到目标热力图，从而基于目标热力图、预测热力图以及嵌入标签，更新待训练的姿态估计模型的参数。一方面，利用此姿态估计模型进行姿态检测，无需执行对象检测的操作，可保证姿态估计过程的处理效率。另一方面，通过关节点的尺度特征图对初始热力图进行调整并基于调整后所得到的目标热力图进行模型参数的训练，能够使模型在学习过程中考虑到不同关节点的尺度特征，从而对不同尺度的对象区别处理，避免小尺度对象的因覆盖区域过大造成语义混乱，提高了姿态估计结果的精度。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：

图1是根据本申请的姿态估计模型训练方法的一个实施例的流程图；

图2是根据本申请的姿态估计模型的结构示意图；

图3是根据本申请的姿态估计模型的训练过程的示意图；

图4是根据本申请的姿态估计方法的一个实施例的流程图；

图5是根据本申请的姿态估计过程的示意图；

图6是根据本申请的姿态估计模型训练装置的一个实施例的结构示意图；

图7是根据本申请的姿态估计装置的一个实施例的结构示意图；

图8是用于实现本申请实施例的电子设备的计算机系统的结构示意图。

具体实施方式

下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。

需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。

请参考图1，其示出了根据本申请的姿态估计模型训练方法的一个实施例的流程100。姿态估计模型训练方法的执行主体可以是各种电子设备或运行于电子设备中的处理器。例如，上述电子设备可以包括但不限于服务器、智能手机、平板电脑、膝上型便携计算机、台式计算机和可穿戴设备等等。该姿态估计模型训练方法，包括以下步骤：

步骤101，获取样本图像和样本图像中的关节点的初始热力图。

在本实施例中，姿态估计模型训练方法的执行主体可以存储或获取样本集。样本集中可以包括大量的样本图像。各样本图像可具有对应的初始热力图。上述执行主体可以从样本集中获取样本图像以及该样本图像中的关节点的初始热力图。

在本实施例中，针对每一个样本图像，其初始热力图可以是采用常规方式生成的关节点热力图。初始热力图可作为该样本图像的初始的真实标签(Ground-Truth，GT)。初始热力图中的每个像素点可具有一个温度值。温度值可视为热力图的像素值。温度值可表征一个像素点为关节点的概率。温度值越大，表示该像素点为关节点的概率越高。初始热力图的尺寸可以与待训练的姿态估计模型输出的预测热力图的尺寸相同。

需要说明的是，关节点可以指目标对象的关节点。目标对象即为待记性姿态估计的对象，如可以是人、动物等。关节点可以是表征目标对象身体各部位的关键点，如手肘、手腕、膝盖、腰、脚部、肩膀、眼睛等。目标对象以及目标对象的关节点可以根据实际需要进行设定，此处不作具体限定。

在本实施例的一些可选的实现方式中，样本图像中的关节点的初始热力图还可以由上述执行主体在获取样本图像后生成。具体地，上述执行主体在获取样本图像后，可以确定样本图像中的关节点。实践中，样本图像可标记有关节点，上述执行主体可以基于样本图像中的标记，确定出其关节点。而后，上述执行主体可以基于样本图像中的关节点以及标准差为固定值(例如2)的高斯核函数，生成表征样本图像中的关节点的初始热力图。其中，高斯核函数是一种径向基函数(Radial Basis Function简称RBF)。其为空间中任一点到某一中心之间欧氏距离的单调函数,其作用往往是局部的,即当该点远离中心时函数取很小。通过高斯核函数，能够使关节点及其周围一定区域内的温度值

在本实施例的一些可选的实现方式中，在基于样本图像中的关节点以及标准差为固定值的高斯核函数生成表征样本图像中的关节点的初始热力图时，上述执行主体可以首先确定样本图像中的至少一个目标对象。而后，对于所确定出的每个目标对象，基于该目标对象的关节点以及标准差为固定值的高斯核函数，生成该目标对象的关节点的热力图。最后，将各目标对象的关节点的热力图进行融合，得到样本图像中的关节点的初始热力图。

其中，对于所确定出的每个目标对象，可通过如下步骤将生成该关节点的热力图：首先，将该目标对象的关节点映射至目标尺寸图像，目标尺寸即为待训练的姿态估计模型输出的预测热力图的尺寸。而后，可基于标准差为固定值的高斯核函数的标准差，确定上述目标尺寸图像中的关节点对应的覆盖区域。最后，可基于该高斯核函数确定覆盖区域内的各像素点的温度值，并将覆盖区域外的各像素点的温度值设置为预设值，得到初始热力图。

作为示例，可用标准差为σ的高斯核构造初始热力图。假设共有N个目标对象，每个目标对象的关节点总数为K(即关节点种类为K)，N和K均为正整数。第p个目标对象的第k种关节点坐标为

第p个目标对象对应的热力图为h^p，尺寸为K×H×W。p为小于或等于N的正整数。k为小于或等于K的正整数。H、W分别为热力图的高和宽。则有：

其中，i、j分别表示热力图中的横坐标和纵坐标。i、j分别需满足以下条件：

表示第p个目标对象的第k种关节点的热力图中的坐标(i，j)对应的像素点的温度值。h^p上其他位置的温度值可以为预设值(如0)。

初始热力图可以是由所有目标对象的热力图合并而来，即：

H^σ＝max(h¹,h²,...,h^N)

其中，max()表示取最大。

步骤102，将样本图像输入至待训练的姿态估计模型，得到样本图像中的关节点的尺度特征图、预测热力图和嵌入标签。

在本实施例中，上述执行主体可以将样本图像输入至待训练的姿态估计模型，得到样本图像中的关节点的尺度特征图、预测热力图(即模型预测出的热力图)和嵌入标签(embedding)。其中，待训练的姿态估计模型可以是尚未训练或者尚未训练完成的姿态估计模型。

作为示例，图2示出了姿态估计模型的结构示意图。如图2所示，姿态估计模型可以采用HigherHRNet(Higher高分辨率网络)建立。该网络包含两个阶段，第一阶段为高分辨率网络(HRNet)，它能够在整个过程中维护高分辨率的表示。该网络能够反复进行多尺度特征的融合，使得每一个高分辨率到低分辨率的表征都从其他并行表示中反复接收信息，从而得到丰富的高分辨率表征。第一阶段可输出三部分内容，分别为尺度特征图、预测出的热力图和嵌入标签。第二阶段通过对第一阶段输出特征进行反卷积来生成高分辨率特征，第二阶段也可输出三部分内容，分别为尺度特征图、预测出的热力图和嵌入标签。

在本实施例中，尺度特征图的尺寸与预测热力图的尺寸可以相同，如均为上述K×H×W。K即为关节点种类，对应K个通道。尺度特征图可以是用以表征尺度特征的特征图(feature map)。尺度特征图中的每一个目标点的值(特征值)的大小，可以衡量该目标点对应的目标对象的尺寸。特征图中的目标点的值可以与其对应的目标对象的尺寸成正相关。例如，若某一目标点对应的目标对象占样本图像的比例为0.6，则该目标点的值可以为1。若某一目标点对应的目标对象占样本图像的比例小于0.6，则该目标点的可以小于1。若某一目标点对应的目标对象占样本图像的比例大于0.6，则该目标点的可以大于1。此处对特征图中的特征值取值范围不作具体限定。

在本实施例中，嵌入标签可以是一个单通道的特征图，其尺寸可以是H×W。嵌入标签中的目标点可以与预测热力图中的像素点一一对应。嵌入标签中的目标点的值，可表征所属的目标对象。通过预测热力图，可确定出关节点的预测位置。可从嵌入标签中读取该预测位置的值，从而确定出该关节点所属的目标对象。

步骤103，基于尺度特征图对初始热力图进行调整，得到目标热力图。

在本实施例中，初始热力图可以是采用常规方式生成的关节点热力图，如基于采用相同标准差(σ)的高斯核对各目标对象的关节点作用后生成。可以理解的是，在不同空间大小的区域中，不同尺度的关节点在语义上是有区别的。将采用相同标准差的高斯核应用于所有关节点，可能引起语音混淆。例如，以鼻子作为一个关节点，目标对象A和目标对象B的鼻子被具有相同偏差的高斯核覆盖。若目标对象A所占区域较大，则其覆盖区域可能仅被限制在鼻子顶部。若目标对象B所占区域较小，则其覆盖区域可能覆盖整个面部甚至整个头部。因此相同关节点的各个覆盖区域可能会导致语义混乱。鉴于此，上述执行主体可以基于尺度特征图对初始热力图进行调整，使不同对象的关节点被采用不同标准差的高斯核作用，得到调整后的目标热力图。目标热力图可作为该样本图像的最终的真实标签(Ground-Truth，GT)。此处，可采用多种方式进行初始热力图的调整。

在本实施例的一些可选的实现方式中，上述执行主体基于尺度特征图(可记为s)，可以按照如下步骤对初始热力图进行调整，得到目标热力图：首先，选取初始热力图中温度值满足预设条件(如温度值大于0)的目标点。而后确定目标点在尺度特征图中的对应点，并获取对应点的特征值。最后基于特征值对目标点的温度值进行调整，得到目标热力图。

作为示例，定义目标热力图为H^σ·s，可按照如下公式计算其中的温度值：

其中，

表示第k个通道(第k种关节点)的初始热力图中坐标(i，j)对应的像素点的温度值。

表示对

调整后的温度值。s_k,i,j表示第k个通道(第k种关节点)的尺度特征度中坐标(i，j)对应的目标点的特征值。

通过关节点的尺度特征图对初始热力图进行调整并基于调整后所得到的目标热力图进行模型参数的训练，能够使模型在学习过程中考虑到不同关节点的尺度特征，从而对不同尺度的对象区别处理，避免小尺度对象的因覆盖区域过大造成语义混乱，提高了姿态估计结果的精度。

在本实施例的一些可选的实现方式中，对于初始热力图中的每个关节点，上述执行主体可以基于尺度特征图中与该关节点对应的目标点的特征值，调整高斯核函数的标准差(如调整为原始的标准差与该特征值的比值)，而后基于调整标准差后的高斯核函数，重新确定该关节点对应的覆盖区域内的各像素点的温度值，得到目标热力图。

在本实施例的一些可选的实现方式中，对于初始热力图中的每个关节点，上述执行主体可以依次将该关节点对应的覆盖区域内的每个像素点作为待调整点，基于尺度特征图中与待调整点对应的目标点的特征值(如调整为原始的标准差与该特征值的乘积)，调整高斯核函数的标准差，基于调整标准差后的高斯核函数，对待调整点的温度值进行调整，得到目标热力图。

由于尺度特征图中的特征值可以表征所属目标对象的尺度，因此每个关节点在尺度特征图中的对应目标点的特征值能够表征该关节点的规模。通过逐点操作将每个关节点的原始的标准偏差进行基于尺度特征的修改，可以使模型适应性地学习针对不同关节点的合适标准偏差，使模型适用于对各尺度的目标对象进行姿态估计，提高了模型的输出精度。

步骤104，基于目标热力图、预测热力图以及嵌入标签，更新待训练的姿态估计模型的参数。

在本实施例中，上述执行主体可以首先基于目标热力图、预测热力图以及嵌入标签，确定姿态估计模型的损失值。上述损失值为损失函数(loss function)的值，损失函数是一个非负实值函数，可以用于表征检测结果与真实结果的差异。一般情况下，损失值越小，模型的鲁棒性就越好。损失函数可以根据实际需求来设置。之后，可以利用该损失值，更新模型参数。由此，每输入一次样本图像，可以基于该样本图像对应的损失值，对模型参数进行一次更新，直至训练完成。

此处，在利用损失值更新模型参数时，可以利用反向传播算法求得损失值相对于模型参数的梯度，而后利用梯度下降算法基于梯度更新模型参数。具体地，可以利用链式求导法则(chain rule)和反向传播算法(Back Propgation Algorithm，BP算法)，求得损失值相对于初始模型各层参数的梯度。实践中，上述反向传播算法也可称为误差反向传播(Error Back Propagation，BP)算法，或误差逆传播算法,是适合于多层神经元网络的一种学习算法。在反向传播过程中，可以逐层求出损失函数对各神经元权值的偏导数，构成损失函数对权值向量的梯度，作为修改权值的依据。梯度下降(Gradient Descent)算法是机器学习领域中常用的求解模型参数的方法。在求解损失函数的最小值时，可以通过梯度下降算法基于所计算出的梯度对神经元权值(例如卷积层中卷积核的参数等)进行调整。

在本实施例的一些可选的实现方式中，可预先设置有两个损失函数，分别为热力图损失函数和标签损失函数。上述执行主体可以首先基于预测热力图(可记为P)，确定预设的热力图损失函数中的权重系数(可记为W)，该权重系数可以根据模型输出的预测热力图的不同，自适应更新。作为示例，权重系数可采用如下公式计算：

W＝(H^σ·s)^γ|1-P|+|P|(1-(H^σ·s)^γ)

其中，γ可以为预设的超参数，例如γ可以设置为0.01。

而后，上述执行主体可以基于目标热力图、预测热力图和热力图损失函数，确定第一损失值。作为示例，热力图损失函数可以如下：

其中，λ为预设的超参数，例如γ可以设置为1。

表示一个蒙版，表示保留H^σ·s＞0对应位置上的元素。

之后，上述执行主体可以基于嵌入标签和标签损失函数，确定第二损失值。其中，标签损失函数可采用现有的关联嵌入算法(联合检测和分组的端到端学习算法)中所使用的损失函数等，此处不再赘述。

最后，上述执行主体可以基于第一损失值和第二损失值，训练姿态估计模型的参数。例如，可将第一损失值和第二损失值相加，得到最终的损失值。并基于最终的损失值更新模型参数。

作为示例，图3示出了姿态估计模型的训练过程的示意图。如图3所示，将样本图像输入至姿态估计模型后，可得到姿态估计模型输出的尺度特征图、预测热力图和嵌入标签。基于尺度特征图，可对样本图像中的关节点的初始热力图进行调整，得到目标热力图。可将该目标热力图作为最终的真实热力图，指导模型训练。具体地，将真实热力图和预测热力图输入至预设的热力图损失函数，可得到一部分损失值。将嵌入标签输入到预设的标签损失函数，可得到另一部分损失值。基于这两部分损失值，可更新模型参数。在迭代执行多次上述训练流程且模型性能达到期望水平后，即可停止训练，得到最终的姿态估计模型。

本申请的上述实施例提供的方法，通过获取样本图像和样本图像中的关节点的初始热力图，而后将样本图像输入至待训练的姿态估计模型，以得到样本图像中的关节点的尺度特征图、预测热力图和嵌入标签，之后基于尺度特征图对初始热力图进行调整，以得到目标热力图，从而基于目标热力图、预测热力图以及嵌入标签，训练姿态估计模型的参数。一方面，利用此姿态估计模型进行姿态检测，无需执行对象检测的操作，因而保证姿态估计过程的处理效率。另一方面，通过关节点的尺度特征图对初始热力图进行调整并基于调整后所得到的目标热力图进行模型参数的训练，能够使模型在学习过程中考虑到不同关节点的尺度特征，从而对不同尺度的对象区别处理，避免小尺度对象的因覆盖区域过大造成语义混乱，提高了姿态估计结果的精度。

进一步参考图4，其示出了姿态估计模型训练方法的又一个实施例的流程400。姿态估计方法的执行主体可以是各种电子设备或运行于电子设备中的处理器。例如，上述电子设备可以包括但不限于服务器、智能手机、平板电脑、膝上型便携计算机、台式计算机和可穿戴设备等等。该姿态估计方法的流程400，包括以下步骤：

步骤401，获取目标图像。

在本实施例中，姿态估计方法的执行主体可以获取目标图像，其中，目标图像可以是待对其中的对象进行姿态估计的图像。

步骤402，将目标图像输入至预先训练的姿态估计模型，得到姿态估计模型输出的预测热力图和嵌入标签。

在本实施例中，上述执行主体可以将目标图像输入至预先训练得到的姿态估计模型，得到姿态估计模型输出的预测热力图和嵌入标签。本实施例中的姿态估计模型可以是采用如上述图1实施例所描述的方法而训练得到的。具体训练过程可以参见图1实施例的相关描述，此处不再赘述。

步骤403，基于预测热力图和嵌入标签，生成目标图像中的对象的姿态估计结果。

在本实施例中，上述执行主体可以基于预测热力图，确定关节点的位置。而后从嵌入标签中查询关节点的位置处的值。将具有相同值的关节点归为同一对象的关节点，从而得到目标图像中的各个对象的姿态估计结果。

作为示例，图5示出了姿态估计过程的示意图。如图5所示，将待进行姿态估计的目标图像输入至姿态估计模型后，可得到姿态估计模型输出的尺度特征图、预测热力图和嵌入标签(此处仅用到预测热力图和嵌入标签)。基于预测热力图，确定关节点的位置。而后从嵌入标签中查询关节点的位置处的值。将具有相同值的关节点分为一组，作为同一对象的关节点，从而得到目标图像中的各个对象的姿态估计结果。

需要说明的是，本实施例的姿态估计方法可以用于测试上述实施例所生成的姿态估计模型。进而根据测试结果可以不断地优化姿态估计模型。该方法也可以是上述实施例所生成的姿态估计模型的实际应用方法。采用上述实施例所生成的姿态估计模型，来进行姿态估计，有助于提高姿态估计结果的精度。

进一步参考图6，作为对上述各图所示方法的实现，本申请提供了一种姿态估计模型训练装置的一个实施例，该装置实施例与图1所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图6所示，本实施例的姿态估计模型训练装置600包括：获取单元601，被配置成获取样本图像以及上述样本图像中的关节点的初始热力图；输入单元602，被配置成将上述样本图像输入至待训练的姿态估计模型，得到上述样本图像中的关节点的尺度特征图、预测热力图和嵌入标签；调整单元603，被配置成基于上述尺度特征图对上述初始热力图进行调整，得到目标热力图；训练单元604，被配置成基于上述目标热力图、上述预测热力图以及上述嵌入标签，更新上述待训练的姿态估计模型的参数。

在本实施例的一些可选的实现方式中，上述调整单元603，进一步被配置成：选取上述初始热力图中温度值满足预设条件的目标点；确定上述目标点在上述尺度特征图中的对应点，并获取上述对应点的特征值；基于上述特征值对上述目标点的温度值进行调整，得到目标热力图。

在本实施例的一些可选的实现方式中，上述训练单元604，进一步被配置成：基于上述预测热力图，更新热力图损失函数中的权重系数；基于上述目标热力图、上述预测热力图和更新后的热力图损失函数，确定第一损失值；基于上述嵌入标签和标签损失函数，确定第二损失值；基于上述第一损失值和上述第二损失值，训练上述姿态估计模型的参数。

在本实施例的一些可选的实现方式中，上述获取单元601，进一步被配置成：获取样本图像，并确定上述样本图像中的关节点；基于上述样本图像中的关节点以及标准差为固定值的高斯核函数，生成表征上述样本图像中的关节点的初始热力图。

在本实施例的一些可选的实现方式中，上述获取单元601，进一步被配置成：确定上述样本图像中的至少一个目标对象；对于所确定出的每个目标对象，基于该目标对象的关节点以及标准差为固定值的高斯核函数，生成该目标对象的关节点的热力图；将各目标对象的关节点的热力图进行融合，得到上述样本图像中的关节点的初始热力图。

在本实施例的一些可选的实现方式中，上述获取单元601，进一步被配置成：对于所确定出的每个目标对象，将该目标对象中的关节点映射至目标尺寸图像，并基于标准差为固定值的高斯核函数的标准差，确定上述目标尺寸图像中的关节点对应的覆盖区域；基于上述高斯核函数确定上述覆盖区域内的各像素点的温度值，并将上述覆盖区域外的各像素点的温度值设置为预设值，得到初始热力图。

在本实施例的一些可选的实现方式中，上述调整单元603，进一步被配置成：对于上述初始热力图中的每个关节点，基于上述尺度特征图中与该关节点对应的目标点的特征值，调整上述高斯核函数的标准差，基于调整上述标准差后的上述高斯核函数，重新确定该关节点对应的覆盖区域内的各像素点的温度值，得到目标热力图。

在本实施例的一些可选的实现方式中，上述调整单元603，进一步被配置成：对于上述初始热力图中的每个关节点，依次将该关节点对应的覆盖区域内的每个像素点作为待调整点，基于上述尺度特征图中与上述待调整点对应的目标点的特征值，调整上述高斯核函数的标准差，基于调整上述标准差后的上述高斯核函数，对上述待调整点的温度值进行调整，得到目标热力图。

本申请的上述实施例提供的装置，通过获取样本图像和样本图像中的关节点的初始热力图，而后将样本图像输入至待训练的姿态估计模型，以得到样本图像中的关节点的尺度特征图、预测热力图和嵌入标签，之后基于尺度特征图对初始热力图进行调整，以得到目标热力图，从而基于目标热力图、预测热力图以及嵌入标签，训练姿态估计模型的参数。一方面，利用此姿态估计模型进行姿态检测，无需执行对象检测的操作，因而保证姿态估计过程的处理效率。另一方面，通过关节点的尺度特征图对初始热力图进行调整并基于调整后所得到的目标热力图进行模型参数的训练，能够使模型在学习过程中考虑到不同关节点的尺度特征，从而对不同尺度的对象区别处理，避免小尺度对象的因覆盖区域过大造成语义混乱，提高了姿态估计结果的精度。

进一步参考图7，作为对上述各图所示方法的实现，本申请提供了一种姿态估计模型训练装置的一个实施例，该装置实施例与图1所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图7所示，本实施例的姿态估计模型训练装置700包括：获取单元701，被配置成获取目标图像；输入单元702，被配置成将上述目标图像输入至姿态估计模型，得到上述姿态估计模型输出的预测热力图和嵌入标签；生成单元703，被配置成基于上述预测热力图和上述嵌入标签，生成上述目标图像中的对象的姿态估计结果。

可以理解的是，该装置700中记载的诸单元与参考图4描述的方法中的各个步骤相对应。由此，上文针对方法描述的操作、特征以及产生的有益效果同样适用于装置700及其中包含的单元，在此不再赘述。

下面参考图8，其示出了用于实现本申请的一些实施例的电子设备的结构示意图。图8示出的电子设备仅仅是一个示例，不应对本申请的实施例的功能和使用范围带来任何限制。

如图8所示，电子设备800可以包括处理装置(例如中央处理器、图形处理器等)801，其可以根据存储在只读存储器(ROM)802中的程序或者从存储装置808加载到随机访问存储器(RAM)803中的程序而执行各种适当的动作和处理。在RAM 803中，还存储有电子设备800操作所需的各种程序和数据。处理装置801、ROM 802以及RAM803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。

通常，以下装置可以连接至I/O接口805：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置806；包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置807；包括例如磁盘、硬盘等的存储装置808；以及通信装置809。通信装置809可以允许电子设备800与其他设备进行无线或有线通信以交换数据。虽然图8示出了具有各种装置的电子设备800，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图8中示出的每个方框可以代表一个装置，也可以根据需要代表多个装置。

特别地，根据本申请的一些实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本申请的一些实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的一些实施例中，该计算机程序可以通过通信装置809从网络上被下载和安装，或者从存储装置808被安装，或者从ROM 802被安装。在该计算机程序被处理装置801执行时，执行本申请的一些实施例的方法中限定的上述功能。

需要说明的是，本申请的一些实施例所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请的一些实施例中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请的一些实施例中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。

在一些实施方式中，客户端、服务器可以利用诸如HTTP(HyperTextTransferProtocol，超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信，并且可以与任意形式或介质的数字数据通信(例如，通信网络)互连。通信网络的示例包括局域网(“LAN”)，广域网(“WAN”)，网际网(例如，互联网)以及端对端网络(例如，ad hoc端对端网络)，以及任何当前已知或未来研发的网络。

上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：获取样本图像和样本图像中的关节点的初始热力图；将样本图像输入至待训练的姿态估计模型，得到样本图像中的关节点的尺度特征图、预测热力图和嵌入标签；基于尺度特征图对初始热力图进行调整，得到目标热力图；基于目标热力图、预测热力图以及嵌入标签，更新待训练的姿态估计模型的参数。

可以以一种或多种程序设计语言或其组合来编写用于执行本申请的一些实施例的操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、Smalltalk、C++；还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)，上述网络包括局域网(LAN)或广域网(WAN)。

附图中的流程图和框图，图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本申请的一些实施例中的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器包括第一确定单元、第二确定单元、选取单元和第三确定单元。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定。

本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。

以上描述仅为本申请的一些较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本申请的实施例中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请的实施例中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (13)

1.一种姿态估计模型训练方法，其特征在于，所述方法包括：

获取样本图像和所述样本图像中的关节点的初始热力图；

将所述样本图像输入至待训练的姿态估计模型，得到所述样本图像中的关节点的尺度特征图、预测热力图和嵌入标签；

基于所述尺度特征图对所述初始热力图进行调整，得到目标热力图；

基于所述目标热力图、所述预测热力图以及所述嵌入标签，更新所述待训练的姿态估计模型的参数。

2.根据权利要求1所述的方法，其特征在于，所述基于所述尺度特征图对所述初始热力图进行调整，得到目标热力图，包括：

选取所述初始热力图中温度值满足预设条件的目标点；

确定所述目标点在所述尺度特征图中的对应点，并获取所述对应点的特征值；

基于所述特征值对所述目标点的温度值进行调整，得到目标热力图。

3.根据权利要求1或2所述的方法，其特征在于，所述基于所述目标热力图、所述预测热力图以及所述嵌入标签，更新所述待训练的姿态估计模型的参数，包括：

基于所述预测热力图，更新热力图损失函数中的权重系数；

基于所述目标热力图、所述预测热力图和更新后的热力图损失函数，确定第一损失值；

基于所述嵌入标签和标签损失函数，确定第二损失值；

基于所述第一损失值和所述第二损失值，更新所述待训练的姿态估计模型的参数。

4.根据权利要求1-3任一项所述的方法，其特征在于，所述获取样本图像和所述样本图像中的关节点的初始热力图，包括：

获取样本图像，并确定所述样本图像中的关节点；

基于所述样本图像中的关节点以及标准差为固定值的高斯核函数，生成表征所述样本图像中的关节点的初始热力图。

5.根据权利要求4所述的方法，其特征在于，所述基于所述样本图像中的关节点以及标准差为固定值的高斯核函数，生成表征所述样本图像中的关节点的初始热力图，包括：

确定所述样本图像中的至少一个目标对象；

对于所确定出的每个目标对象，基于该目标对象的关节点以及标准差为固定值的高斯核函数，生成该目标对象的关节点的热力图；

将各目标对象的关节点的热力图进行融合，得到所述样本图像中的关节点的初始热力图。

6.根据权利要求5所述的方法，其特征在于，所述对于所确定出的每个目标对象，基于该目标对象的关节点以及标准差为固定值的高斯核函数，生成该目标对象的关节点的热力图，包括：

对于所确定出的每个目标对象，将该目标对象中的关节点映射至目标尺寸图像，并基于标准差为固定值的高斯核函数的标准差，确定所述目标尺寸图像中的关节点对应的覆盖区域；

基于所述高斯核函数确定所述覆盖区域内的各像素点的温度值，并将所述覆盖区域外的各像素点的温度值设置为预设值，得到初始热力图。

7.根据权利要求6所述的方法，其特征在于，所述基于所述尺度特征图对所述初始热力图进行调整，得到目标热力图，包括：

对于所述初始热力图中的每个关节点，基于所述尺度特征图中与该关节点对应的目标点的特征值，调整所述高斯核函数的标准差，基于调整标准差后的高斯核函数，重新确定该关节点对应的覆盖区域内的各像素点的温度值，得到目标热力图。

8.根据权利要求6所述的方法，其特征在于，所述基于所述尺度特征图对所述初始热力图进行调整，得到目标热力图，包括：

对于所述初始热力图中的每个关节点，依次将该关节点对应的覆盖区域内的每个像素点作为待调整点，基于所述尺度特征图中与所述待调整点对应的目标点的特征值，调整所述高斯核函数的标准差；

基于调整所述标准差后的所述高斯核函数，对所述待调整点的温度值进行调整，得到目标热力图。

9.一种姿态估计方法，其特征在于，所述方法包括：

获取目标图像；

将所述目标图像输入至采用权利要求1-8之一所述的方法训练的姿态估计模型，得到所述姿态估计模型输出的预测热力图和嵌入标签；

基于所述预测热力图和所述嵌入标签，生成所述目标图像中的对象的姿态估计结果。

10.一种姿态估计模型训练装置，其特征在于，所述装置包括：

获取单元，被配置成获取样本图像和所述样本图像中的关节点的初始热力图；

输入单元，被配置成将所述样本图像输入至待训练的姿态估计模型，得到所述样本图像中的关节点的尺度特征图、预测热力图和嵌入标签；

调整单元，被配置成基于所述尺度特征图对所述初始热力图进行调整，得到目标热力图；

训练单元，被配置成基于所述目标热力图、所述预测热力图以及所述嵌入标签，更新所述待训练的所述姿态估计模型的参数。

11.一种姿态估计装置，其特征在于，所述装置包括：

获取单元，被配置成获取目标图像；

输入单元，被配置成将所述目标图像输入至采用权利要求1-8之一所述的方法训练的姿态估计模型，得到所述姿态估计模型输出的预测热力图和嵌入标签；

生成单元，被配置成基于所述预测热力图和所述嵌入标签，生成所述目标图像中的对象的姿态估计结果。

12.一种电子设备，其特征在于，包括：

一个或多个处理器；

存储装置，其上存储有一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-9中任一所述的方法。

13.一种计算机可读介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-9中任一所述的方法。

Images