CN117392761B - 人体位姿识别方法、装置、电子设备及存储介质 - Google Patents

Abstract

本申请涉及人工智能领域，提供了一种人体位姿识别方法、装置、电子设备及存储介质，该人体位姿识别方法包括：从待识别图像中分多个阶段提取有效特征，得到待识别图像的多个有效特征图；对多个有效特征图进行增强处理，得到多个增强特征图，其中，多个增强特征图中每一增强特征图基于对应阶段的有效特征图和前一阶段所得到的增强特征图中的至少一个进行结合得到；对多个增强特征图进行位姿识别处理，得到第一位姿图；将多个增强特征图输入到细粒度预测模块，得到细粒度预测模块输出的第二位姿图；基于第一位姿图和第二位姿图，确定待识别图像的人体位姿。本申请实施例解决了相关技术中存在复杂场景下对人体位姿识别不准确的问题。

Description

人体位姿识别方法、装置、电子设备及存储介质

技术领域

本申请涉及人工智能领域，尤其涉及一种人体位姿识别方法、装置、电子设备及存储介质。

背景技术

人体位姿估计任务是计算机视觉领域内一项重要的研究任务，其主要目标是在图像或视频中准确地定位和估算人体的各个关键点的位置，以实现对人体姿势和动作的准确识别和理解，近年来，随着卷积神经网络技术的不断发展，人体位姿估计的效果逐渐得到提升。

然而，在复杂场景下，人体的姿势多种多样，这可能会导致一些不可见的关键点，从而影响了识别精度，针对复杂场景下的人体位姿估计任务，现有算法往往直接输出预测的位姿，但并未考虑到这些关键点中可能存在的难题，例如模糊点和不可见的一些点，这些难题可能会对最终的识别精度造成严重影响，尤其是在处理复杂场景下的位姿估计任务时，现有算法因无法适应不同场景或任务的变化，导致识别结果往往会出现一些误差，从而影响人体位姿识别任务的准确性。

可见，相关技术中存在复杂场景下对人体位姿识别不准确的问题。

发明内容

有鉴于此，本申请实施例提供了一种人体位姿识别方法、装置、电子设备及存储介质，以解决相关技术中存在复杂场景下对人体位姿识别不准确的问题。

本申请实施例的第一方面，提供了一种人体位姿识别方法，包括：

从待识别图像中分多个阶段提取有效特征，得到待识别图像的多个有效特征图，其中，多个有效特征图中的每一有效特征图基于前一阶段的提取结果进行进一步提取得到；对多个有效特征图进行增强处理，得到多个增强特征图，其中，多个增强特征图中每一增强特征图基于对应阶段的有效特征图和前一阶段所得到的增强特征图中的至少一个进行结合得到；对多个增强特征图进行位姿识别处理，得到第一位姿图，其中，第一位姿中包括待识别图像的简单关键点；将多个增强特征图输入到细粒度预测模块，得到细粒度预测模块输出的第二位姿图，其中第二位姿图包括待识别图像的难例关键点；基于第一位姿图和第二位姿图，确定待识别图像的人体位姿。

本申请实施例的第二方面，提供了一种人体位姿识别装置，包括：

特征提取模块，被配置为从待识别图像中分多个阶段提取有效特征，得到待识别图像的多个有效特征图，其中，多个有效特征图中的每一有效特征图基于前一阶段的提取结果进行进一步提取得到；特征增强模块，被配置为对多个有效特征图进行增强处理，得到多个增强特征图，其中，多个增强特征图中每一增强特征图基于对应阶段的有效特征图和前一阶段所得到的增强特征图中的至少一个进行结合得到；第一位姿模块，被配置为对多个增强特征图进行位姿识别处理，得到第一位姿图，其中，第一位姿中包括待识别图像的简单关键点；第二位姿模块，被配置为将多个增强特征图输入到细粒度预测模块，得到细粒度预测模块输出的第二位姿图，其中第二位姿图包括待识别图像的难例关键点；确定模块，被配置为基于第一位姿图和第二位姿图，确定待识别图像的人体位姿。

本申请实施例的第三方面，提供了一种电子设备，包括存储器、处理器以及存储在存储器中并且可在处理器上运行的计算机程序，该处理器执行计算机程序时实现上述方法的步骤。

本申请实施例的第四方面，提供了一种计算机存储介质，该计算机存储介质存储有计算机程序，该计算机程序被处理器执行时实现上述方法的步骤。

本申请实施例与现有技术相比存在的有益效果是：

从待识别图像中分多个阶段提取有效特征，可以逐渐提取待识别图像的层次化、抽象化和语义化的特征；对提取得到的多个有效特征图进行增强处理，即通过将高层信息传递到低层，可以获得具备丰富语义信息且空间准确的特征表示；然后对多个增强特征图进行位姿识别处理，得到第一位姿图，其中，第一位姿中包括待识别图像的简单关键点；继续将多个增强特征图输入到细粒度预测模块，得到细粒度预测模块输出的第二位姿图，其中第二位姿图包括待识别图像的难例关键点；在细粒度预测模块中，其包含的不同分支网络可以通过不同感受野的卷积层来提取更加有效的高层语义信息，并且通过不同分支和不同的空洞卷积层设置，使得分支网络可以同时处理多尺度的特征，提高特征提取的能力和对不同尺度目标的感知能力，从而更好的进行难例关键点的预测，最后通过第一位姿图和第二位姿图，确定待识别图像的人体位姿，从而提高在复杂场景下对人体位姿识别结果的准确性。

附图说明

为了更清楚地说明本申请实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本申请实施例提供的一种人体位姿识别方法的流程示意图；

图2是本申请实施例提供的另一种人体位姿识别方法的流程示意图；

图3是本申请实施例提供的一种细粒度预测模块的工作流程示意图；

图4是本申请实施例提供的一种人体位姿识别装置的结构示意图；

图5是本申请实施例提供的一种电子设备的结构示意图。

具体实施方式

以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本申请实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其他实施例中也可以实现本申请。在其他情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本申请的描述。

本申请的说明书和权利要求书中的术语“第一”“第二”等是用于区别类似的对象，而不用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施，且“第一”“第二”等所区分的对象通常为一类，并不限定对象的个数，例如第一对象可以是一个，也可以是多个。此外，说明书以及权利要求中“和/或”表示所连接对象的至少其中之一，字符“/”，一般表示前后关联对象是一种“或”的关系。

此外，需要说明的是，术语“包括”“包含”或者其任何其他变体意在涵盖非排他性地包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括……”限定的要素，并不排除在包括要素的过程、方法、物品或者设备中还存在另外的相同要素。

下面将结合附图详细说明根据本申请实施例的一种人体位姿识别方法、装置、电子设备以及可读存储介质。

图1是本申请实施例提供的一种人体位姿识别方法的流程示意图。如图1所示，该人体位姿识别方法包括：

S101，从待识别图像中分多个阶段提取有效特征，得到待识别图像的多个有效特征图，其中，多个有效特征图中的每一有效特征图基于前一阶段的提取结果进行进一步提取得到。

待识别图像为需要进行人体位姿识别的图像。

该待识别图像的背景场景可以为复杂背景场景，例如，多人混杂站立、运动、步行、交流的室内外场景，或者是物品摆放混乱、人员走动的室内场景等等。在这些场景中，人体的姿态和位置变化多样，包含许多模糊点或其他难以识别的难例关键点，难以准确地对待识别图像进行识别和分类。

此外，由于待识别图像中的特征往往比较复杂，直接提取可能会非常困难，因此基于前一阶段的提取结果的分阶段提取能够有效降低特征提取的难度，从而提高特征提取的精度和效率。分阶段的提取有效特征还能够有效避免一些干扰因素对特征提取的影响。例如，在某些情况下，图像中的噪声、光照不均等问题可能会对特征提取造成干扰，而分阶段提取特征则可以在每个阶段中对这些问题进行一定的处理和优化，从而提高特征提取的准确性和稳定性。

需要说明的是，每个提取阶段的提取网络可以由ResNet残差结构的堆叠而形成，以防止网络中出现梯度消失和梯度爆炸的问题，通过堆叠大量的残差模块，可以逐渐提取待识别图像的层次化、抽象化和语义化的特征，以便更好地应用于后续的任务。

本步骤从待识别图像中分多个阶段提取有效特征，可以得到更多待识别图像的有效特征信息。

S102，对多个有效特征图进行增强处理，得到多个增强特征图，其中，多个增强特征图中每一增强特征图基于对应阶段的有效特征图和前一阶段所得到的增强特征图中的至少一个进行结合得到。

对多个有效特征图进行增强处理，即通过将不同尺度得到的有效特征进行增强结合处理，将高层语义信息向低层语义信息传递，结合上一步骤，通过从待识别图像中分阶段提取有效特征后，可以捕捉到不同尺度和层次的人体姿势特征，低层次特征通常包含更细节的信息，而高层次特征则包含更抽象的语义信息。通过将高层信息传递到低层，即对多个有效特征图进行增强处理，可以获得具备丰富语义信息且空间准确的特征表示。

本步骤对多个有效特征图进行增强处理，得到多个增强特征图，有助于提升人体姿态估计的准确性和鲁棒性。

S103，对多个增强特征图进行位姿识别处理，得到第一位姿图，其中，第一位姿中包括待识别图像的简单关键点。

第一位姿图包含简单关键点，简单关键点是指人体姿势中比较容易定位的关键点，它们的位置在图像中比较明显或易于检测，第一位姿图可以后续的位姿分析和姿态识别提供重要的输入和基础。

S104，将多个增强特征图输入到细粒度预测模块，得到细粒度预测模块输出的第二位姿图，其中第二位姿图包括待识别图像的难例关键点。

细粒度预测模块可以对多个增强特征图进行处理，利用输入的增强特征图对难例关键点进行细粒度的预测和定位，得到第二位姿图，其中第二位姿图中包括待识别图像中的难例关键点。这些难例关键点指的是那些相对比较难以准确识别和定位的关键点。这些关键点可能是由于遮挡、光照变化、姿态变化等因素导致的，利用细粒度预测模块的处理可以提高对这些难例关键的识别准确性。

本步骤将多个增强特征图输入到细粒度预测模块，得到细粒度预测模块输出的第二位姿图。其中第二位姿图包括待识别图像的难例关键点，细粒度预测模块通过对这些难例关键点的处理，能够提高识别系统对于复杂场景或困难情况下位姿的鲁棒性和准确性。

S105，基于第一位姿图和第二位姿图，确定待识别图像的人体位姿。

通过结合包含简单关键点第一位姿图和包含难例关键点第二位姿图，使得可以通过分层预测的方式来完成对待识别图像的识别任务，这样可以更加准确地识别待识别图像中的人体位姿，以及更好地应对各种复杂度和不同类型的图像，从而提高人体位姿识别的准确性和鲁棒性。

本实施例从待识别图像中分多个阶段提取有效特征，可以逐渐提取待识别图像的层次化、抽象化和语义化的特征；对提取得到的多个有效特征图进行增强处理，即通过将高层信息传递到低层，可以获得具备丰富语义信息且空间准确的特征表示；然后对多个增强特征图进行位姿识别处理，得到第一位姿图，继续将多个增强特征图输入到细粒度预测模块，得到细粒度预测模块输出的第二位姿图；在细粒度预测模块中，其包含的不同分支网络可以通过不同感受野的卷积层来提取更加有效的高层语义信息，从而更好的进行难例关键点的预测，最后通过包括简单关键点的第一位姿图和包括难例关键点第二位姿图，确定待识别图像的人体位姿，从而提高在复杂场景下对人体位姿识别结果的准确性。

在一些实施例中，从待识别图像中分多个阶段提取有效特征，得到待识别图像的多个有效特征图，包括：从待识别图像中分四个阶段提取有效特征，得到待识别图像的第一有效特征图、第二有效特征图、第三有效特征图和第四有效特征图。

具体地，本实施例将待识别图像的有效特征提取分为四个阶段，可以利用四个提取阶段从待识别图像中提取有效特征，得到第一有效特征图、第二有效特征图、第三有效特征图和第四有效特征图。

作为一示例，例如，首先从待识别图像中提取有效特征，得到第一有效特征图，然后在第一有效特征图的基础之上进行进一步提取得到第二有效特征图，之后在第二有效特征图的基础之上进行进一步提取得到第三有效特征图，之后在第三有效特征图的基础之上进行进一步提取得到第四有效特征图，通过在前一阶段的提取结果进行进一步提取，可以提取出越来越高级别、抽象的特征，使得网络可以自动地理解和抽象输入数据的特征，提高了特征表达的层次化和抽象化水平。

需要说明的是，每个阶段的提取网络可以由ResNet残差结构的堆叠而形成，以防止网络中出现梯度消失和梯度爆炸的问题，通过堆叠大量的残差模块，可以逐渐提取待识别图像的层次化、抽象化和语义化的特征，以便更好地应用于后续的任务。

本实施例通过从待识别图像中分四个阶段提取有效特征，并在每个提取阶段可以采用ResNet残差结构的堆叠，来获取更多层次化和抽象化水平的待识别图像的有效特征信息。

此外，在一些实施例中，对多个有效特征图进行增强处理，得到多个增强特征图，包括：对第四有效特征图进行2倍上采样处理，得到第一增强特征图；将第一增强特征图与第三有效特征图进行相加，得到第二增强特征图；将第二增强特征图与第二有效特征图进行相加，得到第三增强特征图；将第三增强特征图与第一有效特征图进行相加，得到第四增强特征图。

具体地，结合上一示例，由于ResNet结构中的不同阶段，特征图的尺寸和通道数会有不同的变化。在 ResNet 结构中，随着网络深度的增加，特征图的尺寸在下采样的作用下逐渐减小，而通道数逐渐增加，导致第四有效特征图相对于第三有效特征图具有更多的通道数、相对较小的空间尺寸。所以在进行增强操作处理时，需要对第四有效特征图进行 2倍上采样操作，才能使第四有效特征图与第三有效特征图具有相同的通道数，所以对第四有效特征图进行 2 倍上采样操作，得到与第三有效特征图具有相同的通道数的第一增强特征图，在具有相同通道数的基础之上，将第一增强特征图与第三有效特征图进行相加，得到第二增强特征图，该第二增强特征图结合了不同尺度和层次的信息，能够蕴含了更多的全局－局部、粗糙－细致的图像特征以提升特征的丰富性、鲁棒性和稳定性，帮助网络更好地学习并表达图像的特征。

而对于第二有效特征图和第一有效特征图的特征图，由于其在网络结构中处于较低的层级，其特征图的尺寸和通道数与第三有效特征图相对接近，因此不需要进行上采样操作就能保持与第三有效特征图相同的通道数，将第二增强特征图与第二有效特征图进行相加，可以得到第三增强特征图，该第三增强特征图可以进一步强化多尺度特征的表达，综合更加丰富的图像信息，有助于对不同尺度下的目标进行识别，

进一步地，将第三增强特征图与第一有效特征图进行相加，可以得到第四增强特征图，该第四增强特征图结合了原始图像和多次增强特征融合的信息，通常含有了更加全局和综合性的图像特征表示。

本实施例通过多次特征相加得到的各个增强特征图，每张增强特征图都蕴含着不同层次、不同尺度和不同粒度的图像信息，可以在一定程度上指示图像中的不同内容和特征，有助于对待识别图像进行更为全面和深入的理解，并提高网络在图像处理任务中的性能表现。

另外，在一些实施例中，还包括：利用卷积层对第一增强特征图、第二增强特征图、第三增强特征图、第四增强特征图进行变换操作，得到第一变换数据；将第一变换数据进行局部最大操作，得到第一操作数据；提取第一操作数据的第一关节点，基于第一关节点，确定第一位姿图。

具体地， 利用卷积层对第一增强特征图、第二增强特征图、第三增强特征图、第四增强特征图进行变换操作，能够有效地从输入图像中提取有用的特征，通过与不同的增强特征图进行卷积运算，可以从不同的角度和层次获取图像的特征信息，更好地捕捉图像中的空间结构和纹理信息，并且减少了模型的参数数量，从而得到更加丰富和全面的第一变换数据。

进一步地，得到第一变换数据之后，将第一变换数据进行局部最大操作，得到第一操作数据，以提升算法的性能，减少冗余信息，增强特征的表达，从而为后续的分析和识别提供更可靠的基础。

进一步地，提取第一操作数据的第一关节点，第一关节点通常是一些较为明显和易于识别的关键点，例如人体的头部、双手、双脚等主要部位，通过在每个尺度提取特征并执行局部最大操作，可以提取出关节点的位置信息，获取到第一关节点的位置信息，就可以根据其相对位置和关系进行人体位姿的初步判断。例如，通过头部关节点的位置可以推断出人的朝向和头部的倾斜角度；通过双手关节点的位置可以推断出手臂的姿态；通过双脚关节点的位置可以判断人体的站立姿势等。

本实施例利用卷积层对第一增强特征图、第二增强特征图、第三增强特征图、第四增强特征图进行变换操作，得到第一变换数据，将第一变换数据进行局部最大操作，得到第一操作数据；提取第一操作数据的第一关节点，基于第一关节点的位置信息，得到包括简单关键点的第一位姿图，可以为后续的位姿分析和姿态识别提供重要的基础。

在一些实施例中，将多个增强特征图输入到细粒度预测模块，得到细粒度预测模块输出的第二位姿图，包括：将第一增强特征图、第二增强特征图以及第三增强特征图输入到细粒度预测模块不同分支网络中，利用每个分支网络对第一增强特征图、第二增强特征图以及第三增强特征图进行特征变换，得到不同分支网络下的特征变换图；将不同分支网络下的特征变换图与第四增强特征图进行拼接处理，得到细粒度特征图；基于细粒度特征图，确定第二位姿图。

具体地，细粒度预测模块中包括不同的分支网络的组合，每个分支网络都可以对不同尺度的增强特征图进行变换处理，在对多个有效特征图进行增强处理后，可以将多个有效特征图输入到细粒度预测模块不同分支网络中，利用每个分支网络对多个增强特征图进行特征变换。

结合上一示例，可以将分阶段提取的并经过增强处理后的第一增强特征图、第二增强特征图、第三增强特征图输入到细粒度预测模块的不同分支网络中，每个分支网络都可以对输入的增强特征图进行特征变换处理，得到变换后的不同尺度的特征图，以此来更好、更准确的预测待识别图像中的一些模糊点和不可见的点。

进一步地，为了保持对待识别图像原始信息的不丢失，可以将经过不同分支网络处理后得到的特征变换图与第四增强特征图进行拼接处理得到细粒度特征图，以确保整个变换过程信息的完整性，提高特征表达的丰富性。细粒度特征图包括了经过各个分支网络处理后的特征信息和第四增强特征图的原始特征图的特征信息，其所包含的特征信息以足够丰富，所以可以根据该细粒度特征图来确定包含难例关键点的第二位姿图。

本实施例通过将多个增强特征图输入到细粒度预测模块不同分支网络中，利用每个分支网络对多个增强特征图进行特征变换，得到不同分支网络下的特征变换图，并将不同分支网络下的特征变换图与第四增强特征图进行拼接处理，得到细粒度特征图，最后基于细粒度特征图，确定第二位姿图，实现了利用分支网络对增强特征图的进一步处理，得到不同尺度下的特征信息，并通过将不同尺度的变换特征图和包含原始信息的第四特征增强图进行拼接处理，保证待识别图像特征信息的完整性和丰富性，在此基础上，得到包含难例关键点的第二位置图，实现对模糊点和不可见点的识别，提高整个人体位姿识别的准确性。

此外，在一些实施例中，利用每个分支网络对增强特征图进行特征变换，得到不同分支网络下的特征变换图，包括：将第一增强特征图输入第一分支网络，利用第一分支网络对第一增强特征图进行特征变换处理，得到第一特征变换图，其中第一分支网络采用3个空洞率为1的3乘3空洞卷积层进行堆叠；将第二增强特征图输入第二分支网络，利用第二分支网络对第二增强特征图进行特征变换处理，得到第二特征变换图，其中第二分支网络采用2个空洞率为2的3乘3空洞卷积层进行堆叠；将第三增强特征图输入第三分支网络，利用第三分支网络对第三增强特征图进行特征变换处理，得到第三特征变换图，其中第三分支网络采用1个空洞率为3的3乘3空洞卷积层进行堆叠。

具体地，空洞率是指在卷积运算中卷积核中各个元素之间的间隔。通过增加空洞率，可以扩大卷积核在输入特征图上的观察范围，从而获得更广阔的上下文感知能力。

利用每个分支网络对增强特征图进行特征变换，得到不同分支网络下的特征变换图，以便能够提取多尺度的特征信息。

作为一示例，第一分支网络采用3个空洞率为1的3乘3空洞卷积层进行堆叠对第一增强特征图进行变换，使用3乘3空洞卷积层进行特征变换的目的是增加卷积层的感受野以捕捉更大范围内的上下文信息和特征关系。

进一步地，使用普通的3乘3卷积层，每个卷积核的感受野为3乘3，只能看到输入特征图的局部区域。而通过堆叠的、空洞率为1的卷积层，每一层的输出都包含之前层的输入信息，因此堆叠后的3层空洞卷积层的感受野为3乘3乘3=27，通过增加感受野，可以使卷积层更好地理解第一增强特征图的全局上下文和语义信息，捕捉更大范围的上下文信息，从而提高识别的准确性和性能。

第二分支网络采用2个空洞率为2的3乘3空洞卷积层进行堆叠对第二增强特征图进行变换，进一步增加感受野，以更好地捕捉更大范围内的上下文信息。通过使用空洞率为2的3乘3卷积层，卷积核的每个元素与原始特征图中的像素之间空隙了一个像素的距离。这样每个卷积核在进行卷积操作时，不仅仅只关注其中心像素，还能够观察到更远距离的像素。

第三分支网络采用1个空洞率为3的3乘3空洞卷积层进行堆叠对第三增强特征图进行变换，进一步增加感受野，以提取更高层次的上下文信息，通过增大空洞率，卷积核能够远离输入特征图中心像素的更大距离，从而涵盖更广阔的区域。在这种情况下，使用一个空洞率为3的3乘3卷积层，每个卷积核的元素之间的间隔为3个像素，由于空洞率为3，即卷积核在进行卷积操作时每隔3个像素采样一次，因此感受野能够进一步扩大，观察到更大范围内的特征关系和上下文信息。

本实施例通过空洞卷积层对多个增强特征图进行变换处理，保证在参数量相对较少的情况下，能够扩大卷积层的感受野，提高特征提取的能力。并且通过不同分支和不同的空洞卷积层设置，网络可以同时处理多尺度的特征，并提取具有不同感受野的信息，提高特征提取的能力和对不同尺度目标的感知能力，从而更好的进行难例关键点的预测。

另外，在一些实施例中，基于细粒度特征图，确定第二位姿图，包括：利用卷积层对细粒度特征图进行变换操作，得到第二变换数据，将第二变换数据进行局部最大操作，得到第二操作数据；提取第二操作数据的第二关节点，基于第二关节点，确定第二位姿图。

具体地，利用卷积层对细粒度特征图进行变换操作，通过对细粒度特征图应用卷积操作，可以提取更高级别的特征表示，进一步捕捉到图像中的语义和结构信息，通过卷积层的变换操作，得到第二变换数据。第二变换数据在后续步骤中用于提取关键信息。

进一步地，得到第二变换数据之后，将第二变换数据进行局部最大操作，以提升算法的性能，减少冗余信息，增强特征的表达，从而为后续的分析和识别提供更可靠的基础。

进一步地，提取第二操作数据的第二关节点，第二关节点通常是一些模糊和不可见的关键点，通过在每个尺度提取特征并执行局部最大操作，可以提取出关节点的位置信息，获取到第二关节点的位置信息，根据其相对位置和关系进行人体位姿的进一步判断。

本实施例利用卷积层对细粒度进行变换操作，得到第二变换数据，将第二变换数据进行局部最大操作，得到第二操作数据；提取第二操作数据的第二关节点，基于第二关节点的位置信息，实现对于待识别图像难例关键点的识别，以此来提高整个识别任务的准确性。

图2是本申请实施例提供的另一种人体位姿识别方法的流程示意图，如图2所示，该方法包括：

首先，分四个阶段从待识别图像中提取有效特征，得到第一有效特征图、第二有效特征图，第三有效特征图和第四有效特征图，其中第一有效特征图基于待识别图像进行提取得到，第二有效特征图基于第一有效特征图进行提取得到，以此类推，得到第三有效特征图和第四有效特征图。

其次，对第四有效特征图进行2倍上采样处理，得到第一增强特征图，将第一增强特征图与第三有效特征图进行相加，得到第二增强特征图，将第二增强特征图与第二有效特征图进行相加，得到第三增强特征图，将第三增强特征图与第一有效特征图进行相加，得到第四增强特征图，通过多次特征相加得到的各个增强特征图，每张增强特征图都蕴含着不同层次、不同尺度和不同粒度的图像信息，可以在一定程度上指示图像中的不同内容和特征，有助于对待识别图像进行更为全面和深入的理解，并提高网络在图像处理任务中的性能表现。

然后，利用卷积层对第一增强特征图、第二增强特征图、第三增强特征图、第四增强特征图进行变换操作，有效地从输入图像中提取有用的特征，通过与不同的增强特征图进行卷积运算，也可以从不同的角度和层次获取图像的特征信息，更好地捕捉图像中的空间结构和纹理信息，并且减少模型的参数数量，从而得到更加丰富和全面的第一变换数据，进一步地，将第一变换数据进行局部最大操作，以提升算法的性能，减少冗余信息后提取第一操作数据的第一关节点，基于第一关节点的位置信息，得到包含简单关键点的第一位姿图，为后续的位姿分析和姿态识别提供重要的输入和基础。

再然后，将多个增强特征图输入到细粒度预测模块，细粒度预测模块可以对多个增强特征图进行处理，利用输入的增强特征图对难例关键点进行细粒度的预测和定位，得到包含难例关键点第二位姿图。

最后，利用包含简单关键点的第一位姿图和包含难例关键点第二位姿图，结合确定待识别图像的人体位姿，以提升在复杂场景下对人体位姿识别的准确性。

图3是本申请实施例提供的一种细粒度预测模块的工作流程示意图，如图3所示，该工作流程包括：

首先，将第一增强特征图输入第一分支网络进行特征变换，得到第一特征变换图，将第二特征增强图输入第二分支网络进行特征变换，得到第二特征变换图，将第三增强特征图输入第三分支网络进行特征变换，得到第三特征变换图，其中第一分支网络采用3个空洞率为1的3乘3空洞卷积层进行堆叠，第二分支网络采用2个空洞率为2的3乘3空洞卷积层进行堆叠，第三分支网络采用1个空洞率为3的3乘3空洞卷积层进行堆叠，通过不同分支和不同的空洞卷积层设置，相应分支网络可以同时处理多尺度的特征，并提取具有不同感受野的信息，保证特征提取的能力和对不同尺度目标的感知能力，同时通过空洞卷积层对多个增强特征图进行变换处理，保证在参数量相对较少的情况下，能够扩大卷积层的感受野，提高特征提取的能力。

然后，为了保证原始信息的不丢失，将第一特征变换图、第二特征变换图、第三特征变换图和第四特征增强图进行拼接，得到细粒度特征图，利用卷积层对细粒度特征图进行变换操作后，进一步地对变换操作后的细粒度特征图进行局部最大化操作，以提升算法的性能，减少冗余信息，增强特征的表达。

最后，利用变换操作和局部最大化操作后的细粒度特征图得到包含难例关键点识别的第二位置图，来完成对待识别图像的难例关键点的识别。

上述所有可选技术方案，可以采用任意结合形成本申请的可选实施例，在此不一一赘述。

应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应该对本申请实施例的过程构成任何限定。

下述为本申请装置实施例，可以用于执行本申请方法实施例。对于本申请装置实施例中未披露的细节，请参照本申请方法实施例。

图4是本申请实施例提供的一种人体位姿识别装置的示意图。如图4所示，该人体位姿识别装置包括：

特征提取模块401，被配置为从待识别图像中分多个阶段提取有效特征，得到待识别图像的多个有效特征图，其中，多个有效特征图中的每一有效特征图基于前一阶段的提取结果进行进一步提取得到；

特征增强模块402，被配置为对多个有效特征图进行增强处理，得到多个增强特征图，其中，多个增强特征图中每一增强特征图基于对应阶段的有效特征图和前一阶段所得到的增强特征图中的至少一个进行结合得到；

第一位姿模块403，被配置为对多个增强特征图进行位姿识别处理，得到第一位姿图，其中，第一位姿中包括待识别图像的简单关键点；

第二位姿模块404，被配置为将多个增强特征图输入到细粒度预测模块，得到细粒度预测模块输出的第二位姿图，其中第二位姿图包括待识别图像的难例关键点；

确定模块405，被配置为基于第一位姿图和第二位姿图，确定待识别图像的人体位姿。

在一些实施例中，特征提取模块401还用于从待识别图像中分四个阶段提取有效特征，得到待识别图像的第一有效特征图、第二有效特征图、第三有效特征图和第四有效特征图。

在一些实施例中，特征增强模块402还用于对第四有效特征图进行2倍上采样处理，得到第一增强特征图；将第一增强特征图与第三有效特征图进行相加，得到第二增强特征图；将第二增强特征图与第二有效特征图进行相加，得到第三增强特征图；将第三增强特征图与第一有效特征图进行相加，得到第四增强特征图。

在一些实施例中，第一位姿模块403还用于利用卷积层对第一增强特征图、第二增强特征图、第三增强特征图、第四增强特征图进行变换操作，得到第一变换数据；将第一变换数据进行局部最大操作，得到第一操作数据；提取第一操作数据的第一关节点，基于第一关节点，确定第一位姿图。

在一些实施例中，第二位姿模块404还用于将第一增强特征图、第二增强特征图以及第三增强特征图输入到细粒度预测模块不同分支网络中，利用每个分支网络对第一增强特征图、第二增强特征图以及第三增强特征图进行特征变换，得到不同分支网络下的特征变换图；将不同分支网络下的特征变换图与第四增强特征图进行拼接处理，得到细粒度特征图；基于细粒度特征图，确定第二位姿图。

在一些实施例中，第二位姿模块404还用于将第一增强特征图输入第一分支网络，利用第一分支网络对第一增强特征图进行特征变换处理，得到第一特征变换图，其中，第一分支网络采用3个空洞率为1的3乘3空洞卷积层进行堆叠；将第二增强特征图输入第二分支网络，利用第二分支网络对第二增强特征图进行特征变换处理，得到第二特征变换图，其中，第二分支网络采用2个空洞率为2的3乘3空洞卷积层进行堆叠；将第三增强特征图输入第三分支网络，利用第三分支网络对第三增强特征图进行特征变换处理，得到第三特征变换图，其中，第三分支网络采用1个空洞率为3的3乘3空洞卷积层进行堆叠。

在一些实施例中，确定模块405还用于利用卷积层对细粒度特征图进行变换操作，得到第二变换数据；将第二变换数据进行局部最大操作，得到第二操作数据；提取第二操作数据的第二关节点，基于第二关节点，确定第二位姿图。

本申请实施例提供的装置能够实现上述方法实施例的所有方法步骤，并能达到相同的技术效果，在此不再赘述。

图5是本申请实施例提供的电子设备5的示意图。如图5所示，该实施例的电子设备5包括：处理器501、存储器502以及存储在该存储器502中并且可在处理器501上运行的计算机程序503。处理器501执行计算机程序503时实现上述各个方法实施例中的步骤。或者，处理器501执行计算机程序503时实现上述各装置实施例中各模块/单元的功能。

电子设备5可以是桌上型计算机、笔记本、掌上电脑及云端服务器等电子设备。电子设备5可以包括但不仅限于处理器501和存储器502。本领域技术人员可以理解，图5仅仅是电子设备5的示例，并不构成对电子设备5的限定，可以包括比图示更多或更少的部件，或者不同的部件。

处理器501可以是中央处理单元（Central Processing Unit，CPU），也可以是其他通用处理器、数字信号处理器（Digital Signal Processor，DSP）、专用集成电路（Application Specific Integrated Circuit，ASIC）、现场可编程门阵列（Field-Programmable Gate Array，FPGA）或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。

存储器502可以是电子设备5的内部存储单元，例如，电子设备5的硬盘或内存。存储器502也可以是电子设备5的外部存储设备，例如，电子设备5上配备的插接式硬盘，智能存储卡（Smart Media Card，SMC），安全数字（Secure Digital，SD）卡，闪存卡（Flash Card）等。存储器502还可以既包括电子设备5的内部存储单元也包括外部存储设备。存储器502用于存储计算机程序以及电子设备所需的其他程序和数据。

所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个可读存储介质中。基于这样的理解，本申请实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，计算机程序可以存储在可读存储介质中，该计算机程序在被处理器执行时，可以实现上述各个方法实施例的步骤。计算机程序可以包括计算机程序代码，计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。可读存储介质可以包括：能够携带计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器（Read-OnlyMemory，ROM）、随机存取存储器（Random Access Memory，RAM）、电载波信号、电信信号以及软件分发介质等。

以上实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围，均应包含在本申请的保护范围之内。

Claims (5)

1.一种人体位姿识别方法，其特征在于，包括：

从待识别图像中分多个阶段提取有效特征，得到所述待识别图像的多个有效特征图，其中，所述多个有效特征图中的每一有效特征图基于前一阶段的提取结果进行进一步提取得到；

对所述多个有效特征图进行增强处理，得到多个增强特征图，其中，所述多个增强特征图中每一增强特征图基于对应阶段的有效特征图和前一阶段所得到的增强特征图中的至少一个进行结合得到；

对所述多个增强特征图进行位姿识别处理，得到第一位姿图，其中，所述第一位姿图中包括所述待识别图像的简单关键点；

将所述多个增强特征图输入到细粒度预测模块，得到所述细粒度预测模块输出的第二位姿图，其中，所述第二位姿图包括所述待识别图像的难例关键点；

基于所述第一位姿图和所述第二位姿图，确定所述待识别图像的人体位姿；

所述从待识别图像中分多个阶段提取有效特征，得到所述待识别图像的多个有效特征图，包括：

从待识别图像中分四个阶段提取有效特征，得到所述待识别图像的第一有效特征图、第二有效特征图、第三有效特征图和第四有效特征图；

所述对所述多个有效特征图进行增强处理，得到多个增强特征图，包括：

对所述第四有效特征图进行2倍上采样处理，得到第一增强特征图；

将所述第一增强特征图与所述第三有效特征图进行相加，得到第二增强特征图；

将所述第二增强特征图与所述第二有效特征图进行相加，得到第三增强特征图；

将所述第三增强特征图与所述第一有效特征图进行相加，得到第四增强特征图；

所述方法还包括：

利用卷积层对所述第一增强特征图、第二增强特征图、第三增强特征图、第四增强特征图进行变换操作，得到第一变换数据；

将所述第一变换数据进行局部最大操作，得到第一操作数据；

提取所述第一操作数据的第一关节点，基于所述第一关节点，确定第一位姿图；

所述将所述多个增强特征图输入到细粒度预测模块，得到所述细粒度预测模块输出的第二位姿图，包括：

将所述第一增强特征图、第二增强特征图以及第三增强特征图输入到所述细粒度预测模块不同分支网络中，利用每个分支网络对所述第一增强特征图、第二增强特征图以及第三增强特征图进行特征变换，得到不同分支网络下的特征变换图；

将所述不同分支网络下的特征变换图与第四增强特征图进行拼接处理，得到细粒度特征图；

基于所述细粒度特征图，确定所述第二位姿图；

所述将所述第一增强特征图、第二增强特征图以及第三增强特征图输入到所述细粒度预测模块不同分支网络中，利用每个分支网络对所述第一增强特征图、第二增强特征图以及第三增强特征图进行特征变换，得到不同分支网络下的特征变换图，包括：

将所述第一增强特征图输入第一分支网络，利用所述第一分支网络对所述第一增强特征图进行特征变换处理，得到第一特征变换图，其中，所述第一分支网络采用3个空洞率为1的3乘3空洞卷积层进行堆叠；

将所述第二增强特征图输入第二分支网络，利用所述第二分支网络对所述第二增强特征图进行特征变换处理，得到第二特征变换图，其中，所述第二分支网络采用2个空洞率为2的3乘3空洞卷积层进行堆叠；

将所述第三增强特征图输入第三分支网络，利用所述第三分支网络对所述第三增强特征图进行特征变换处理，得到第三特征变换图，其中，所述第三分支网络采用1个空洞率为3的3乘3空洞卷积层进行堆叠。

2.根据权利要求1所述的方法，其特征在于，所述基于所述细粒度特征图，确定所述第二位姿图，包括：

利用卷积层对所述细粒度特征图进行变换操作，得到第二变换数据；

将所述第二变换数据进行局部最大操作，得到第二操作数据；

提取所述第二操作数据的第二关节点，基于所述第二关节点，确定第二位姿图。

3.一种人体位姿识别装置，其特征在于，包括：

特征提取模块，被配置为从待识别图像中分多个阶段提取有效特征，得到所述待识别图像的多个有效特征图，其中，所述多个有效特征图中的每一有效特征图基于前一阶段的提取结果进行进一步提取得到，具体包括：从待识别图像中分四个阶段提取有效特征，得到所述待识别图像的第一有效特征图、第二有效特征图、第三有效特征图和第四有效特征图；

特征增强模块，被配置为对所述多个有效特征图进行增强处理，得到多个增强特征图，其中，所述多个增强特征图中每一增强特征图基于对应阶段的有效特征图和前一阶段所得到的增强特征图中的至少一个进行结合得到，具体包括：对所述第四有效特征图进行2倍上采样处理，得到第一增强特征图；将所述第一增强特征图与所述第三有效特征图进行相加，得到第二增强特征图；将所述第二增强特征图与所述第二有效特征图进行相加，得到第三增强特征图；

将所述第三增强特征图与所述第一有效特征图进行相加，得到第四增强特征图；

第一位姿模块，被配置为对所述多个增强特征图进行位姿识别处理，得到第一位姿图，其中，第一位姿中包括所述待识别图像的简单关键点，具体包括：利用卷积层对所述第一增强特征图、第二增强特征图、第三增强特征图、第四增强特征图进行变换操作，得到第一变换数据；将所述第一变换数据进行局部最大操作，得到第一操作数据；提取所述第一操作数据的第一关节点，基于所述第一关节点，确定第一位姿图；

第二位姿模块，被配置为将所述多个增强特征图输入到细粒度预测模块，得到所述细粒度预测模块输出的第二位姿图，其中第二位姿图包括所述待识别图像的难例关键点，具体包括：将所述第一增强特征图、第二增强特征图以及第三增强特征图输入到所述细粒度预测模块不同分支网络中，利用每个分支网络对所述第一增强特征图、第二增强特征图以及第三增强特征图进行特征变换，得到不同分支网络下的特征变换图；将所述不同分支网络下的特征变换图与第四增强特征图进行拼接处理，得到细粒度特征图；基于所述细粒度特征图，确定所述第二位姿图；

具体包括：将所述第一增强特征图输入第一分支网络，利用所述第一分支网络对所述第一增强特征图进行特征变换处理，得到第一特征变换图，其中，所述第一分支网络采用3个空洞率为1的3乘3空洞卷积层进行堆叠；

将所述第二增强特征图输入第二分支网络，利用所述第二分支网络对所述第二增强特征图进行特征变换处理，得到第二特征变换图，其中，所述第二分支网络采用2个空洞率为2的3乘3空洞卷积层进行堆叠；

将所述第三增强特征图输入第三分支网络，利用所述第三分支网络对所述第三增强特征图进行特征变换处理，得到第三特征变换图，其中，所述第三分支网络采用1个空洞率为3的3乘3空洞卷积层进行堆叠；

确定模块，被配置为基于所述第一位姿图和所述第二位姿图，确定所述待识别图像的人体位姿。

4.一种电子设备，包括存储器、处理器以及存储在所述存储器中并且可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至2中任一项所述方法的步骤。

5.一种可读存储介质，所述可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至2中任一项所述方法的步骤。