CN108875523A - 人体关节点检测方法、装置、系统和存储介质 - Google Patents

Abstract

本发明提供了一种人体关节点检测方法、装置、系统和存储介质，所述人体关节点检测方法包括：获取待处理图像并从所述待处理图像中提取人体框图像；利用训练好的神经网络对所述人体框图像进行关节点检测，以生成人体关节点检测结果，所述神经网络包括全局网络和精炼网络。根据本发明实施例的人体关节点检测方法、装置、系统和存储介质基于包括全局网络和精炼网络的神经网络进行关节点检测，能够有效提高难关节点的检测精度，从而提高关节点检测的整体精度。

Description

人体关节点检测方法、装置、系统和存储介质

技术领域

本发明涉及图像识别技术领域，更具体地涉及一种人体关节点检测方法、装置、系统和存储介质。

背景技术

人体姿态估计技术在业界已有一定应用，例如Kinect游戏机中人体关节点的检测与识别。总体来说，该技术是较新的技术，有很大的潜在应用市场，如机器人、增强现实应用、虚拟现实应用、体育教育行业等。

传统的基于RGBD的人体关节点检测具有硬件要求较高、准确度不高、适用场景受限的缺点。最近几年，基于深度神经网络的发展，人体关节点检测的技术也得到了很大的发展，但是现有的基于深度神经网络的方法对于奇怪姿势、遮挡、或者背景复杂的关节点的检测普遍效果较差，有很大提高空间。

发明内容

本发明提出了一种关于人体关节点检测的方案，其基于包括全局网络和精炼网络的神经网络进行关节点检测，能够提高难关节点的检测精度，从而提高关节点检测的整体精度。下面简要描述本发明提出的关于人体关节点检测的方案，更多细节将在后续结合附图在具体实施方式中加以描述。

根据本发明一方面，提供了一种人体关节点检测方法，所述方法包括：获取待处理图像并从所述待处理图像中提取人体框图像；利用训练好的神经网络对所述人体框图像进行关节点检测，以生成人体关节点检测结果，所述神经网络包括全局网络和精炼网络。

在一个实施例中，所述全局网络为U型金字塔结构的神经网络，所述全局网络接收所述人体框图像并输出第一特征图，所述第一特征图为金字塔结构的多层卷积特征图。

在一个实施例中，所述精炼网络为包括残差卷积块的神经网络，所述精炼网络接收所述全局网络输出的所述第一特征图并输出第二特征图。

在一个实施例中，所述精炼网络包括多层残差卷积块单元、上采样单元和拼接单元，其中：每层残差卷积块单元包括不同数量的所述残差卷积块，不同层的残差卷积块单元接收不同尺寸的所述第一特征图，并输出不同尺寸的所述第二特征图；所述上采样单元将所述不同尺寸的第二特征图变换为相同尺寸的特征图；以及所述拼接单元将所述相同尺寸的特征图拼接为第三特征图。

在一个实施例中，所述生成人体关节点检测结果包括：基于所述第三特征图生成与各个关节点各自对应的热力图；以及针对每个热力图，取该热力图中具有最大值的点的坐标作为与该热力图对应的关节点的预测坐标。

在一个实施例中，所述生成人体关节点检测结果包括：基于所述第三特征图生成每个关节点的预测坐标。

在一个实施例中，所述神经网络的训练包括：计算所述全局网络的全局损失，并将所述全局损失回传至所述全局网络以优化所述全局网络的参数；计算所述精炼网络的难关节点的损失，并将所述难关节点的损失回传至所述精炼网络和所述全局网络以优化所述神经网络的参数；其中，所述难关节点包括：损失值由高到低排序的全部关节点中的前M个关节点，其中M为自然数。

在一个实施例中，所述M的取值为所述全部关节点数目的一半并取整。

在一个实施例中，所述方法还包括：在对所述人体框图像进行关节点检测之前，将所述人体框图像调整为预定尺寸。

在一个实施例中，所述从所述待处理图像中提取人体框图像包括：从所述待处理图像中检测人的位置，输出人体检测框；以及基于所述人体检测框对所述待处理图像进行抠图以得到所述人体框图像。

根据本发明另一方面，提供了一种人体关节点检测装置，所述装置包括：提取模块，用于获取待处理图像并从所述待处理图像中提取人体框图像；以及关节点检测模块，用于利用训练好的神经网络对所述提取模块提取的所述人体框图像进行关节点检测，以生成人体关节点检测结果，所述神经网络包括全局网络和精炼网络。

在一个实施例中，所述全局网络为U型金字塔结构的神经网络，所述全局网络接收所述人体框图像并输出第一特征图，所述第一特征图为金字塔结构的多层卷积特征图。

在一个实施例中，所述精炼网络为包括残差卷积块的神经网络，所述精炼网络接收所述全局网络输出的所述第一特征图并输出第二特征图。

在一个实施例中，所述精炼网络包括多层残差卷积块单元、上采样单元和拼接单元，其中：每层残差卷积块单元包括不同数量的所述残差卷积块，不同层的残差卷积块单元接收不同尺寸的所述第一特征图，并输出不同尺寸的所述第二特征图；所述上采样单元将所述不同尺寸的第二特征图变换为相同尺寸的特征图；以及所述拼接单元将所述相同尺寸的特征图拼接为第三特征图。

在一个实施例中，所述生成人体关节点检测结果包括：基于所述第三特征图生成与各个关节点各自对应的热力图；以及针对每个热力图，取该热力图中具有最大值的点的坐标作为与该热力图对应的关节点的预测坐标。

在一个实施例中，所述生成人体关节点检测结果包括：基于所述第三特征图生成每个关节点的预测坐标。

在一个实施例中，所述神经网络的训练包括：计算所述全局网络的全局损失，并将所述全局损失回传至所述全局网络以优化所述全局网络的参数；计算所述精炼网络的难关节点的损失，并将所述难关节点的损失回传至所述精炼网络和所述全局网络以优化所述神经网络的参数；其中，所述难关节点包括：损失值由高到低排序的全部关节点中的前M个关节点，其中M为自然数。

在一个实施例中，所述M的取值为所述全部关节点数目的一半并取整。

在一个实施例中，所述提取模块还用于：在对所述人体框图像进行关节点检测之前，将所述人体框图像调整为预定尺寸。

在一个实施例中，所述提取模块从所述待处理图像中提取人体框图像包括：从所述待处理图像中检测人的位置，输出人体检测框；以及基于所述人体检测框对所述待处理图像进行抠图以得到所述人体框图像。

根据本发明又一方面，提供了一种人体关节点检测系统，所述系统包括存储装置和处理器，所述存储装置上存储有由所述处理器运行的计算机程序，所述计算机程序在被所述处理器运行时执行上述任一项所述的人体关节点检测方法。

根据本发明再一方面，提供了一种存储介质，所述存储介质上存储有计算机程序，所述计算机程序在运行时执行上述任一项所述的人体关节点检测方法。

根据本发明实施例的人体关节点检测方法、装置、系统和存储介质基于包括全局网络和精炼网络的神经网络进行关节点检测，能够有效提高难关节点的检测精度，从而提高关节点检测的整体精度。

附图说明

通过结合附图对本发明实施例进行更详细的描述，本发明的上述以及其它目的、特征和优势将变得更加明显。附图用来提供对本发明实施例的进一步理解，并且构成说明书的一部分，与本发明实施例一起用于解释本发明，并不构成对本发明的限制。在附图中，相同的参考标号通常代表相同部件或步骤。

图1示出用于实现根据本发明实施例的人体关节点检测方法、装置、系统和存储介质的示例电子设备的示意性框图；

图2示出根据本发明实施例的人体关节点检测方法的示意性流程图；

图3A示出根据本发明实施例的人体关节点检测方法采用的神经网络所包括的全局网络的示例性结构的示意图；

图3B示出根据本发明实施例的人体关节点检测方法采用的神经网络所包括的精炼网络的残差卷积块的示例性结构的示意图；

图3C示出根据本发明实施例的人体关节点检测方法采用的神经网络的示例性结构的示意图；

图4示出根据本发明实施例的人体关节点检测方法得到的与关节点相对应的热力图的示意图；

图5示出根据本发明实施例的人体关节点检测装置的示意性框图；以及

图6示出根据本发明实施例的人体关节点检测系统的示意性框图。

具体实施方式

为了使得本发明的目的、技术方案和优点更为明显，下面将参照附图详细描述根据本发明的示例实施例。显然，所描述的实施例仅仅是本发明的一部分实施例，而不是本发明的全部实施例，应理解，本发明不受这里描述的示例实施例的限制。基于本发明中描述的本发明实施例，本领域技术人员在没有付出创造性劳动的情况下所得到的所有其它实施例都应落入本发明的保护范围之内。

首先，参照图1来描述用于实现本发明实施例的人体关节点检测方法、装置、系统和存储介质的示例电子设备100。

如图1所示，电子设备100包括一个或多个处理器102、一个或多个存储装置104、输入装置106、输出装置108以及图像采集装置110，这些组件通过总线系统112和/或其它形式的连接机构(未示出)互连。应当注意，图1所示的电子设备100的组件和结构只是示例性的，而非限制性的，根据需要，所述电子设备也可以具有其他组件和结构。

所述处理器102可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其它形式的处理单元，并且可以控制所述电子设备100中的其它组件以执行期望的功能。

所述存储装置104可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器102可以运行所述程序指令，以实现下文所述的本发明实施例中(由处理器实现)的客户端功能以及/或者其它期望的功能。在所述计算机可读存储介质中还可以存储各种应用程序和各种数据，例如所述应用程序使用和/或产生的各种数据等。

所述输入装置106可以是用户用来输入指令的装置，并且可以包括键盘、鼠标、麦克风和触摸屏等中的一个或多个。

所述输出装置108可以向外部(例如用户)输出各种信息(例如图像或声音)，并且可以包括显示器、扬声器等中的一个或多个。

所述图像采集装置110可以采集用户期望的图像(例如照片、视频等)，并且将所采集的图像存储在所述存储装置104中以供其它组件使用。图像采集装置110可以是摄像头。应当理解，图像采集装置110仅是示例，电子设备100可以不包括图像采集装置110。在这种情况下，可以利用具有图像采集能力的部件采集待处理图像，并将采集的待处理图像发送给电子设备100。

示例性地，用于实现根据本发明实施例的人体关节点检测方法和装置的示例电子设备可以被实现诸如智能手机、平板电脑等等移动终端。

下面，将参考图2描述根据本发明实施例的人体关节点检测方法200。如图2所示，人体关节点检测方法200可以包括如下步骤：

在步骤S210，获取待处理图像并从所述待处理图像中提取人体框图像。

在一个示例中，待处理图像可以为需要对其进行人体关节点检测的图像。在一个示例中，待处理图像可以为实时采集的图像。在另一个示例中，待处理图像可以为来自任何源的图像。

在一个示例中，从所述待处理图像中提取人体框图像可以包括：从所述待处理图像中检测人的位置，输出人体检测框；以及基于所述人体检测框对所述待处理图像进行抠图以得到所述人体框图像。示例性地，可以利用特征金字塔网络(FPN)来检测人的位置，输出人体检测框。示例性地，人体框图像可以为包含人体的图像块。在一个示例中，可以将人体框图像调整为预定尺寸(例如调整为384×288)，使得后续的步骤S220都是针对该预定尺寸的图像进行处理，从而简化处理以及为实施处理而做的准备(例如简化实施处理的神经网络的训练)。

在步骤S220，利用训练好的神经网络对所述人体框图像进行关节点检测，以生成人体关节点检测结果，所述神经网络包括全局网络和精炼网络。

在一个示例中，所述全局网络接收所述人体框图像并输出第一特征图。其中，所述全局网络可以为U型金字塔结构的神经网络，如图3A所示的。

图3A示出了根据本发明实施例的人体关节点检测方法采用的神经网络所包括的全局网络的示例性结构的示意图。如图3A所示，全局网络可以是U型金字塔结构的神经网络，输入图像经过若干层卷积之后会生成一个系列的卷积块(即前述的第一特征图)，从上到下进行下采样，卷积块的尺寸依次减小，得到如图3A的左侧一列所示的卷积块；在达到某个尺寸的卷积块后，开始实施上采样，使得卷积块的尺寸依次增大，并使得相同尺寸的卷积块按位相加，得到如图3A的右侧一列所示的卷积块；左右两侧的金字塔结构形成U型结构。U型金字塔结构的全局网络可以接收人体框图像并输出第一特征图，其将作为下面将描述的精炼网络的输入。

在一个实施例中，精炼网络接收所述全局网络输出的所述第一特征图并输出第二特征图。其中，所述精炼网络可以包括残差卷积块，如图3B所示的。

图3B示出了根据本发明实施例的人体关节点检测方法采用的神经网络所包括的精炼网络的残差卷积块的示例性结构的示意图。如图3B所示，一个残差卷积块可以包括三层卷积层，基于它们的卷积处理，使得得到的第二特征图相对第一特征图具有更强的表征关节点的能力，从而能够有效提高难关节点的检测精度。

在前述的示例中，全局网络可以输出多层卷积特征图，其可以理解为不同尺寸的第一特征图。基于此，精炼网络可以包括多层残差卷积块单元、上采样单元和拼接单元。其中，每层残差卷积块单元包括不同数量的所述残差卷积块，不同层的残差卷积块单元接收不同尺寸的第一特征图，并输出不同尺寸的所述第二特征图。然后，上采样单元将所述不同尺寸的第二特征图变换为相同尺寸的特征图。接着，拼接单元将所述相同尺寸的特征图拼接为第三特征图，正如图3C所示的。

图3C示出根据本发明实施例的人体关节点检测方法采用的神经网络的示例性结构的示意图。如图3C所示，该神经网络网络包括前述的全局网络和精炼网络，全局网络和精炼网络作为子网络构成该神经网络，可将该神经网络称为瀑布金字塔网络。输入图像输入全局网络，基于全局网络不同尺寸的卷积块(如图3C所示的卷积块2、卷积块3、卷积块4和卷积块5)，全局网络输出不同尺寸的第一特征图。这些第一特征图作为精炼网络的输入，不同尺寸的第一特征图由包括不同数目残差卷积块(如图3C中的小矩形)的残差卷积块单元处理。例如，卷积块2输出的第一特征图由包括0个残差卷积块的残差卷积块单元处理(即未经残差卷积块处理)，卷积块3输出的第一特征图由包括1个残差卷积块的残差卷积块单元处理，卷积块4输出的第一特征图由包括2个残差卷积块的残差卷积块单元处理，卷积块5输出的第一特征图由包括3个残差卷积块的残差卷积块单元处理。也就是说，针对较小尺寸的第一特征图，经由包括较多数目残差卷积块的残差卷积块单元处理；针对较大尺寸的第一特征图，经由包括较少数目残差卷积块的残差卷积块单元处理。这样的设计兼顾了计算结果的精确性和计算量的大小。

在多层残差卷积块单元分别对不同尺寸的第一特征图处理得到不同尺寸的第二特征图后，可由上采样单元(如图3C所示的2X、4X和8X)将不同尺寸的第二特征图变换为相同尺寸的特征图，并由拼接单元(如图3C所示的“拼接”)将所述相同尺寸的特征图拼接为第三特征图。正如图3C所示，从上到下可将第二特征图分别放大1倍(即不变)、2倍(如图3C所示的2X)、4倍(如图3C所示的4X)和8倍(如图3C所示的8X)，然后将其拼接为第三特征图。其中，拼接可以指在通道(channel)维度上进行拼接。示例性地，在拼接得到第三特征图后，可以进一步使第三特征图再经过一个残差卷积块处理(如图3C拼接右侧所示的小矩形)，使得结果更为精确。上述第三特征图或再次经过处理的第三特征图可用于生成人体关节点检测结果。

在一个示例中，基于上述第三特征图(或经再次处理的第三特征图)，可直接生成每个关节点的预测坐标。在另一个示例中，基于上述第三特征图(或经再次处理的第三特征图)，可生成与各个关节点各自对应的热力图。也就是说，每个关节点对应一个热力图。对于每个热力图，可以取该热力图中具有最大值的点的坐标作为与该热力图对应的关节点的预测坐标。与直接基于特征图生成关节点的预测坐标相比，基于热力图得到关节点的预测坐标使得前述全局网络和精炼网络构成的瀑布金字塔网络的训练更为容易。

示例性地，在训练该瀑布金字塔网络时，可以对样本图像标注出所有关节点的坐标，并采用基于标注坐标所生成的热力图作为学习目标。在一个示例中，可以针对每一个关节点生成一个热力图，使得每个热力图所代表的关节点清晰明了。示例性地，热力图可以为固定大小，例如长宽分别为输入图像的1/4(比如输入图像大小为[384,288]，则目标热力图大小为[96,72])。原图关节点坐标可以映射到与其相对应的热力图中的一个点。示例性地，可以在该热力图上进行高斯模糊，使得目标热力图为以目标坐标点为中心的一个圆，训练的过程用该热力图进行监督学习。

此外，在一个示例中，在训练该瀑布金字塔网络时，可以计算全局网络的全局损失，并将所述全局损失(如图3C所示的全局损失)回传至所述全局网络以优化所述全局网络的参数；此外，计算精炼网络的难关节点的损失，并将所述精炼网络的难关节点的损失(如图3C所示的难关节点损失)回传至所述精炼网络和所述全局网络以优化所述瀑布金字塔网络的参数，其中所述难关节点可以包括：损失值由高到低排序的全部关节点中的前M个关节点，其中M为自然数。在该示例中，使得网络只学习每次损失值较高的关节点，忽略那些损失值较低的关节点(也就是相对容易的关节点)。具体地，可以将损失值按关节点为粒度进行排序，将全部N个关节点中损失值较大的M个关节点的损失值回传，其他的N-M个关节点的损失值设置为0。其中，M的取值是一个实验调节参数。经过充分实验论证，在一个示例中，M的取值为全部关节点数目N的一半并取整时将得到最好的精度，如表1所示的。

表1

M	6	8	10	12	14	17
							AP(OKS)	68.8	69.4	69.0	69.0	69.0	68.6

表1是在COCO数据集上做的消融实验，其中显示了N＝17、M取不同值时的精度(Accurate Precision，AP)，从表1可以看出，M取8时可以得到最好结果。

基于训练好的上述瀑布金字塔网络，可采用其实施根据本发明实施例的人体关节点检测方法的上述步骤S220。该网络结构由于对上下文信息(Context Information)的充分利用，在帮助提升关节点检测精度上有很大作用，可从图4看到该效果。

图4示出根据本发明实施例的人体关节点检测方法得到的与关节点相对应的热力图的示意图。如图4所示的，对于图像中的关节点左眼和左臀部，全局网络对于左眼(相对容易的关节点)的检测结果是较好的，但对于左臀部(相对难的关节点)的检测结果不太好(回归目标点与热力分布偏差较大)。然而，当左臀部的检测结果经过精炼网络后，最终输出的检测结果明显变好(热力图中的回归目标点变亮，且位置更命中热力图分布的中心)。

基于上面的描述，根据本发明实施例的人体关节点检测方法基于包括全局网络和精炼网络的神经网络进行关节点检测，能够有效提高难关节点的检测精度，从而提高关节点检测的整体精度。

以上示例性地描述了根据本发明实施例的人体关节点检测方法。示例性地，根据本发明实施例的人体关节点检测方法可以在具有存储器和处理器的设备、装置或者系统中实现。

此外，根据本发明实施例的人体关节点检测方法可以方便地部署到智能手机、平板电脑、个人计算机等移动设备上。替代地，根据本发明实施例的人体关节点检测方法还可以部署在服务器端(或云端)。替代地，根据本发明实施例的人体关节点检测方法还可以分布地部署在服务器端(或云端)和个人终端处。

下面结合图5描述本发明另一方面提供的人体关节点检测装置。图5示出了根据本发明实施例的人体关节点检测装置500的示意性框图。

如图5所示，根据本发明实施例的人体关节点检测装置500包括提取模块510和关节点检测模块520。所述各个模块可分别执行上文中结合图2描述的人体关节点检测方法的各个步骤/功能。以下仅对人体关节点检测装置500的各模块的主要功能进行描述，而省略以上已经描述过的细节内容。

提取模块510用于获取待处理图像并从所述待处理图像中提取人体框图像。关节点检测模块520用于利用训练好的神经网络对提取模块510提取的所述人体框图像进行关节点检测，以生成人体关节点检测结果，所述神经网络包括全局网络和精炼网络。提取模块510和关节点检测模块520均可以由图1所示的电子设备中的处理器102运行存储装置104中存储的程序指令来实现。

在一个示例中，提取模块510获取的待处理图像可以为需要对其进行人体关节点检测的图像。在一个示例中，提取模块510获取的待处理图像可以为实时采集的图像。在另一个示例中，提取模块510获取的待处理图像可以为来自任何源的图像。

在一个示例中，提取模块510从获取的所述待处理图像中提取人体框图像可以包括：从所述待处理图像中检测人的位置，输出人体检测框；以及基于所述人体检测框对所述待处理图像进行抠图以得到所述人体框图像。示例性地，提取模块510可以利用特征金字塔网络(FPN)来检测人的位置，输出人体检测框。示例性地，人体框图像可以为包含人体的图像块。在一个示例中，提取模块510可以将提取的人体框图像调整为预定尺寸(例如调整为384×288)，使得关节点检测模块520都是针对该预定尺寸的图像进行处理，从而简化处理以及为实施处理而做的准备(例如简化实施处理的神经网络的训练)。

在本发明的实施例中，关节点检测模块520所利用的神经网络包括全局网络和精炼网络。其中，所述全局网络为U型金字塔结构的神经网络，其接收提取模块510提取的人体框图像并输出第一特征图，所述第一特征图为多层卷积特征图。可以结合图3A参照前述关于图3A的描述理解全局网络的结构，为了简洁，此处不再赘述。

在本发明的实施例中，关节点检测模块520所利用的神经网络所包括的精炼网络以全局网络的输出为输入，即精炼网路接收全局网络输出的第一特征图，并输出第二特征图。其中，所述精炼网络可以包括残差卷积块，可以结合图3B参照前述关于图3B的描述理解精炼网络的结构，为了简洁，此处不再赘述。基于精炼网路的处理，使得得到的第二特征图相对全局网络输出的第一特征图具有更强的表征关节点的能力，从而能够有效提高难关节点的检测精度。

在前述的示例中，全局网络可以输出多层卷积特征图，其可以理解为不同尺寸的第一特征图。基于此，精炼网络可以包括多层残差卷积块单元、上采样单元和拼接单元。其中，每层残差卷积块单元包括不同数量的所述残差卷积块，不同层的残差卷积块单元接收不同尺寸的第一特征图，并输出不同尺寸的所述第二特征图。然后，上采样单元将所述不同尺寸的第二特征图变换为相同尺寸的特征图。接着，拼接单元将所述相同尺寸的特征图拼接为第三特征图。可以结合图3C参照前述关于图3C的描述理解关节点检测模块520利用包括全局网络和精炼网络的神经网络所实施的操作，为了简洁，此处不再赘述。

在一个示例中，基于上述第三特征图，可直接生成每个关节点的预测坐标。在另一个示例中，基于上述第三特征图，可生成与各个关节点各自对应的热力图。对于每个热力图，可以取该热力图中具有最大值的点的坐标作为与该热力图对应的关节点的预测坐标。与直接基于特征图生成关节点的预测坐标相比，基于热力图得到关节点的预测坐标使得前述全局网络和精炼网络构成的瀑布金字塔网络的训练更为容易。

示例性地，在训练该瀑布金字塔网络时，可以对样本图像标注出所有关节点的坐标，并采用基于标注坐标所生成的热力图作为学习目标。在一个示例中，可以针对每一个关节点生成一个热力图，使得每个热力图所代表的关节点清晰明了。示例性地，热力图可以为固定大小，例如长宽分别为输入图像的1/4(比如输入图像大小为[384,288]，则目标热力图大小为[96,72])。原图关节点坐标可以映射到与其相对应的热力图中的一个点。示例性地，可以在该热力图上进行高斯模糊，使得目标热力图为以目标坐标点为中心的一个圆，训练的过程用该热力图进行监督学习。

此外，在一个示例中，在训练该神经网络时，计算全局网络的全局损失，并将所述全局损失(如图3C所示的全局损失)回传至所述全局网络以优化所述全局网络的参数；此外，计算精炼网络的难关节点的损失，并将所述精炼网络的难关节点的损失(如图3C所示的难关节点损失)回传至所述精炼网络和所述全局网络以优化所述瀑布金字塔网络的参数，其中所述难关节点可以包括：损失值由高到低排序的全部关节点中的前M个关节点，其中M为自然数。在一个示例中，M的取值为全部关节点数目N的一半并取整时将得到最好的精度。

基于训练好的上述瀑布金字塔网络，可采用其实现根据本发明实施例的人体关节点检测装置的关节点检测模块520。该网络结构由于对上下文信息的充分利用，在帮助提升关节点检测精度上有很大作用。

基于上面的描述，根据本发明实施例的人体关节点检测装置基于包括全局网络和精炼网络的神经网络进行关节点检测，能够有效提高难关节点的检测精度，从而提高关节点检测的整体精度。

图6示出了根据本发明实施例的人体关节点检测系统600的示意性框图。人体关节点检测系统600包括存储装置610以及处理器620。

其中，存储装置610存储用于实现根据本发明实施例的人体关节点检测方法中的相应步骤的程序代码。处理器620用于运行存储装置610中存储的程序代码，以执行根据本发明实施例的人体关节点检测方法的相应步骤，并且用于实现根据本发明实施例的人体关节点检测装置中的相应模块。此外，人体关节点检测系统600还可以包括图像采集装置(未在图6中示出)，其可以用于采集待处理图像。当然，图像采集装置不是必需的，可直接接收来自其他源的待处理图像的输入。

在一个实施例中，在所述程序代码被处理器620运行时使得人体关节点检测系统600执行以下步骤：获取待处理图像并从所述待处理图像中提取人体框图像；利用训练好的神经网络对所述人体框图像进行关节点检测，以生成人体关节点检测结果，所述神经网络包括全局网络和精炼网络。

在一个实施例中，所述全局网络为U型金字塔结构的神经网络，所述全局网络接收所述人体框图像并输出第一特征图，所述第一特征图为金字塔结构的多层卷积特征图。

在一个实施例中，所述精炼网络为包括残差卷积块的神经网络，所述精炼网络接收所述全局网络输出的所述第一特征图并输出第二特征图。

在一个实施例中，所述精炼网络包括多层残差卷积块单元、上采样单元和拼接单元，其中：每层残差卷积块单元包括不同数量的所述残差卷积块，不同层的残差卷积块单元接收不同尺寸的所述第一特征图，并输出不同尺寸的所述第二特征图；所述上采样单元将所述不同尺寸的第二特征图变换为相同尺寸的特征图；以及所述拼接单元将所述相同尺寸的特征图拼接为第三特征图。

在一个实施例中，所述生成人体关节点检测结果包括：基于所述第三特征图生成与各个关节点各自对应的热力图；以及针对每个热力图，取该热力图中具有最大值的点的坐标作为与该热力图对应的关节点的预测坐标。

在一个实施例中，所述生成人体关节点检测结果包括：基于所述第三特征图生成每个关节点的预测坐标。

在一个实施例中，所述神经网络的训练包括：计算所述全局网络的全局损失，并将所述全局损失回传至所述全局网络以优化所述全局网络的参数；计算所述精炼网络的难关节点的损失，并将所述难关节点的损失回传至所述精炼网络和所述全局网络以优化所述神经网络的参数；其中，所述难关节点包括：损失值由高到低排序的全部关节点中的前M个关节点，其中M为自然数。

在一个实施例中，所述M的取值为所述全部关节点数目的一半并取整。

在一个实施例中，在所述程序代码被处理器620运行时还使得人体关节点检测系统600执行以下步骤：在对所述人体框图像进行关节点检测之前，将所述人体框图像调整为预定尺寸。

在一个实施例中，在所述程序代码被处理器620运行时使得人体关节点检测系统600执行的所述从所述待处理图像中提取人体框图像包括：从所述待处理图像中检测人的位置，输出人体检测框；以及基于所述人体检测框对所述待处理图像进行抠图以得到所述人体框图像。

此外，根据本发明实施例，还提供了一种存储介质，在所述存储介质上存储了程序指令，在所述程序指令被计算机或处理器运行时用于执行本发明实施例的人体关节点检测方法的相应步骤，并且用于实现根据本发明实施例的人体关节点检测装置中的相应模块。所述存储介质例如可以包括智能电话的存储卡、平板电脑的存储部件、个人计算机的硬盘、只读存储器(ROM)、可擦除可编程只读存储器(EPROM)、便携式紧致盘只读存储器(CD-ROM)、USB存储器、或者上述存储介质的任意组合。所述计算机可读存储介质可以是一个或多个计算机可读存储介质的任意组合。

在一个实施例中，所述计算机程序指令在被计算机运行时可以实现根据本发明实施例的人体关节点检测装置的各个功能模块，并且/或者可以执行根据本发明实施例的人体关节点检测方法。

在一个实施例中，所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行以下步骤：获取待处理图像并从所述待处理图像中提取人体框图像；利用训练好的神经网络对所述人体框图像进行关节点检测，以生成人体关节点检测结果，所述神经网络包括全局网络和精炼网络。

在一个实施例中，所述全局网络为U型金字塔结构的神经网络，所述全局网络接收所述人体框图像并输出第一特征图，所述第一特征图为金字塔结构的多层卷积特征图。

在一个实施例中，所述精炼网络为包括残差卷积块的神经网络，所述精炼网络接收所述全局网络输出的所述第一特征图并输出第二特征图。

在一个实施例中，所述精炼网络包括多层残差卷积块单元、上采样单元和拼接单元，其中：每层残差卷积块单元包括不同数量的所述残差卷积块，不同层的残差卷积块单元接收不同尺寸的所述第一特征图，并输出不同尺寸的所述第二特征图；所述上采样单元将所述不同尺寸的第二特征图变换为相同尺寸的特征图；以及所述拼接单元将所述相同尺寸的特征图拼接为第三特征图。

在一个实施例中，所述生成人体关节点检测结果包括：基于所述第三特征图生成与各个关节点各自对应的热力图；以及针对每个热力图，取该热力图中具有最大值的点的坐标作为与该热力图对应的关节点的预测坐标。

在一个实施例中，所述生成人体关节点检测结果包括：基于所述第三特征图生成每个关节点的预测坐标。

在一个实施例中，所述神经网络的训练包括：计算所述全局网络的全局损失，并将所述全局损失回传至所述全局网络以优化所述全局网络的参数；计算所述精炼网络的难关节点的损失，并将所述难关节点的损失回传至所述精炼网络和所述全局网络以优化所述神经网络的参数；其中，所述难关节点包括：损失值由高到低排序的全部关节点中的前M个关节点，其中M为自然数。

在一个实施例中，所述M的取值为所述全部关节点数目的一半并取整。

在一个实施例中，所述计算机程序指令在被计算机或处理器运行时还使计算机或处理器执行以下步骤：在对所述人体框图像进行关节点检测之前，将所述人体框图像调整为预定尺寸。

在一个实施例中，所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行的所述从所述待处理图像中提取人体框图像包括：从所述待处理图像中检测人的位置，输出人体检测框；以及基于所述人体检测框对所述待处理图像进行抠图以得到所述人体框图像。

根据本发明实施例的人体关节点检测装置中的各模块可以通过根据本发明实施例的人体关节点检测的电子设备的处理器运行在存储器中存储的计算机程序指令来实现，或者可以在根据本发明实施例的计算机程序产品的计算机可读存储介质中存储的计算机指令被计算机运行时实现。

根据本发明实施例的人体关节点检测方法、装置、系统和存储介质基于包括全局网络和精炼网络的神经网络进行关节点检测，能够有效提高难关节点的检测精度，从而提高关节点检测的整体精度。

尽管这里已经参考附图描述了示例实施例，应理解上述示例实施例仅仅是示例性的，并且不意图将本发明的范围限制于此。本领域普通技术人员可以在其中进行各种改变和修改，而不偏离本发明的范围和精神。所有这些改变和修改意在被包括在所附权利要求所要求的本发明的范围之内。

本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。

在本申请所提供的几个实施例中，应该理解到，所揭露的设备和方法，可以通过其它的方式实现。例如，以上所描述的设备实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个设备，或一些特征可以忽略，或不执行。

在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本发明并帮助理解各个发明方面中的一个或多个，在对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该本发明的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如相应的权利要求书所反映的那样，其发明点在于可以用少于某个公开的单个实施例的所有特征的特征来解决相应的技术问题。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域的技术人员可以理解，除了特征之间相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的一些模块的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。

应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

以上所述，仅为本发明的具体实施方式或对具体实施方式的说明，本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。本发明的保护范围应以权利要求的保护范围为准。

Claims (13)

1.一种人体关节点检测方法，其特征在于，所述方法包括：

获取待处理图像并从所述待处理图像中提取人体框图像；

利用训练好的神经网络对所述人体框图像进行关节点检测，以生成人体关节点检测结果，所述神经网络包括全局网络和精炼网络。

2.根据权利要求1所述的方法，其特征在于，所述全局网络为U型金字塔结构的神经网络，所述全局网络接收所述人体框图像并输出第一特征图，所述第一特征图为金字塔结构的多层卷积特征图。

3.根据权利要求2所述的方法，其特征在于，所述精炼网络为包括残差卷积块的神经网络，所述精炼网络接收所述全局网络输出的所述第一特征图并输出第二特征图。

4.根据权利要求3所述的方法，其特征在于，所述精炼网络包括多层残差卷积块单元、上采样单元和拼接单元，其中：

每层残差卷积块单元包括不同数量的所述残差卷积块，不同层的残差卷积块单元接收不同尺寸的所述第一特征图，并输出不同尺寸的所述第二特征图；

所述上采样单元将所述不同尺寸的第二特征图变换为相同尺寸的特征图；以及

所述拼接单元将所述相同尺寸的特征图拼接为第三特征图。

5.根据权利要求4所述的方法，其特征在于，所述生成人体关节点检测结果包括：

基于所述第三特征图生成与各个关节点各自对应的热力图；以及

针对每个热力图，取该热力图中具有最大值的点的坐标作为与该热力图对应的关节点的预测坐标。

6.根据权利要求4所述的方法，其特征在于，所述生成人体关节点检测结果包括：

基于所述第三特征图生成每个关节点的预测坐标。

7.根据权利要求5或6所述的方法，其特征在于，所述神经网络的训练包括：

计算所述全局网络的全局损失，并将所述全局损失回传至所述全局网络以优化所述全局网络的参数；

计算所述精炼网络的难关节点的损失，并将所述难关节点的损失回传至所述精炼网络和所述全局网络以优化所述神经网络的参数；

其中，所述难关节点包括：损失值由高到低排序的全部关节点中的前M个关节点，其中M为自然数。

8.根据权利要求7所述的方法，其特征在于，所述M的取值为所述全部关节点数目的一半并取整。

9.根据权利要求1-6中的任一项所述的方法，其特征在于，所述方法还包括：

在对所述人体框图像进行关节点检测之前，将所述人体框图像调整为预定尺寸。

10.根据权利要求1-6中的任一项所述的方法，其特征在于，所述从所述待处理图像中提取人体框图像包括：

从所述待处理图像中检测人的位置，输出人体检测框；以及

基于所述人体检测框对所述待处理图像进行抠图以得到所述人体框图像。

11.一种人体关节点检测装置，其特征在于，所述装置包括：

提取模块，用于获取待处理图像并从所述待处理图像中提取人体框图像；以及

关节点检测模块，用于利用训练好的神经网络对所述提取模块提取的所述人体框图像进行关节点检测，以生成人体关节点检测结果，所述神经网络包括全局网络和精炼网络。

12.一种人体关节点检测系统，其特征在于，所述系统包括存储装置和处理器，所述存储装置上存储有由所述处理器运行的计算机程序，所述计算机程序在被所述处理器运行时执行如权利要求1-10中的任一项所述的人体关节点检测方法。

13.一种存储介质，其特征在于，所述存储介质上存储有计算机程序，所述计算机程序在运行时执行如权利要求1-10中的任一项所述的人体关节点检测方法。