CN114186632A

CN114186632A - 关键点检测模型的训练方法、装置、设备、存储介质

Info

Publication number: CN114186632A
Application number: CN202111503964.4A
Authority: CN
Inventors: 陈建业; 王冠中; 牛志博; 党青青; 邓凯鹏; 赖宝华; 刘其文; 于佃海; 马艳军
Original assignee: Beijing Baidu Netcom Science and Technology Co Ltd
Current assignee: Beijing Baidu Netcom Science and Technology Co Ltd
Priority date: 2021-12-10
Filing date: 2021-12-10
Publication date: 2022-03-15
Anticipated expiration: 2041-12-10
Also published as: CN114186632B

Abstract

本公开提供了一种关键点检测模型的训练方法、装置、设备、存储介质，涉及人工智能领域，具体涉及计算机视觉和深度学习技术，可应用于移动端或边缘端的关键点检测场景下。该方法的一具体实施方式包括：获取训练样本集，训练样本包括样本图像和样本图像中的关键点对应的热图，关键点对应的热图通过如下步骤生成：确定热图的尺寸与样本图像的尺寸的商，确定得到的商与关键点在样本图像中的坐标的乘积作为关键点在热图中的坐标，根据确定的坐标生成关键点的热图；将训练样本集中的样本图像作为初始关键点检测模型的输入，将对应的热图作为期望输出，对初始关键点检测模型进行训练。该实施方式有助于提升移动端或边缘端的关键点检测精度。

Description

关键点检测模型的训练方法、装置、设备、存储介质

技术领域

本公开的实施例涉及人工智能领域，具体涉及计算机视觉和深度学习技术，可应用于移动端或边缘端的关键点检测场景下。

背景技术

关键点检测通常是指通过计算机视觉技术识别出图像中预定义的关键点坐标的位置。在不同的应用场景中，可以定义不同的关键点。例如人体骨骼关键点、人脸关键点、动物关键点等等。关键点检测常作为行为识别、动作分析、姿态估计和人机交互等各种任务的前置任务，也广泛应用于互动娱乐、特效制作、安防、科研任务等各领域。，应用于互动娱乐、特效制作、安防、科研任务等等。

随着在边缘端和移动端等场景下的关键点检测需求逐步增多，如何实现在边缘端和移动端等场景中低算力设备上的关键点检测是值得考虑的问题之一。针对该问题，一方面需要考虑在中低算力设备上的实时运行需求，另一方面还需要考虑关键点检测结果的精度。

发明内容

本公开的实施例提出了一种关键点检测模型的训练方法、装置、设备、存储介质。

第一方面，本公开的实施例提供了一种关键点检测模型的训练方法，该方法包括：获取训练样本集，其中，训练样本集中的训练样本包括样本图像和样本图像中的关键点对应的热图，关键点对应的热图通过如下步骤生成：确定热图的尺寸与样本图像的尺寸的商，确定得到的商与关键点在样本图像中的坐标的乘积作为关键点在热图中的坐标，以及根据确定的坐标生成关键点的热图；获取初始关键点检测模型；将训练样本集中的样本图像作为初始关键点检测模型的输入，将与输入的样本图像对应的热图作为初始关键点检测模型的期望输出，根据预设的损失函数，对初始关键点检测模型进行训练。

第二方面，本公开的实施例提供了一种关键点检测方法，该方法包括：获取待检测图像；将待检测图像输入至预先训练的关键点检测模型，得到关键点对应的热图，其中，关键点检测模型利用如第一方面中任一实现方式描述的方法得到；对得到的热图指示的关键点坐标进行关键点矫正。

第三方面，本公开的实施例提供了一种关键点检测模型的训练装置，该装置包括：第一获取模块，被配置成获取训练样本集，其中，训练样本集中的训练样本包括样本图像和样本图像中的关键点对应的热图，关键点对应的热图通过如下步骤生成：确定热图的尺寸与样本图像的尺寸的商，确定得到的商与关键点在样本图像中的坐标的乘积作为关键点在热图中的坐标，以及根据确定的坐标生成关键点的热图；第二获取模块，被配置成获取初始关键点检测模型；训练模块，被配置成将训练样本集中的样本图像作为初始关键点检测模型的输入，将与输入的样本图像对应的热图作为初始关键点检测模型的期望输出，根据预设的损失函数，对初始关键点检测模型进行训练。

第四方面，本公开的实施例提供了一种关键点检测装置，该装置包括：第三获取模块，被配置成获取待检测图像；检测模块，被配置成将待检测图像输入至预先训练的关键点检测模型，得到待检测图像中的关键点对应的热图，其中，所述关键点检测模型利用如第一方面中任一实现方式描述的方法得到；矫正模块，被配置成对得到的热图指示的关键点坐标进行关键点矫正。

第五方面，本公开实施例提出了一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行如第一方面中任一实现方式描述的方法。

第六方面，本公开实施例提出了一种存储有计算机指令的非瞬时计算机可读存储介质，计算机指令用于使计算机执行如第一方面中任一实现方式描述的方法。

第七方面，本公开实施例提出了一种计算机程序产品，包括计算机程序，计算机程序在被处理器执行时实现如第一方面中任一实现方式描述的方法。

本公开的实施例提供的关键点检测模型的训练方法、装置、设备、存储介质，通过在关键点检测模型的样本图像和期望输出的热图中的像素点坐标映射时进行无偏编码，避免对非整数的坐标进行取整造成的误差对关键点检测模型的训练效果的影响，从而提升关键点检测结果的精度。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本公开的其它特征、目的和优点将会变得更明显：

图1是本公开可以应用于其中的示例性系统架构图；

图2是本公开的关键点检测模型的训练方法的一个实施例的流程图；

图3是本公开的关键点检测方法的一个实施例的流程图；

图4是本公开的实施例的关键点检测方法的一个应用场景的示意图；

图5是本公开的关键点检测模型的训练装置的一个实施例的结构示意图；

图6是本公开的关键点检测装置的一个实施例的结构示意图；

图7是适于用来实现本公开的实施例的电子设备的结构示意图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

需要说明的是，在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。

图1示出了可以应用本公开的关键点检测模型的训练方法或关键点检测模型的训练装置的实施例的示例性系统架构100。

如图1所示，系统架构100可以包括终端设备101和终端设备102、网络103和服务器104。网络103用以在终端设备10、102和服务器104之间提供通信链路的介质。网络103可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

终端设备设备101、102可以通过网络103与服务器104交互，以接收或发送各种数据(如训练样本、待检测图像等)等。终端设备设备101、102可以是硬件，也可以是软件。当终端设备101、102为硬件时，可以是各种电子设备。当终端设备101、102为软件时，可以安装在上述电子设备中。其可以实现成多个软件或软件模块，也可以实现成单个软件或软件模块。在此不做具体限定。

服务器104可以提供各种服务。例如，服务器104可以从终端设备获取训练样本集和初始关键点检测模型，然后可以利用训练样本集对初始关键点检测模型进行训练。

需要说明的是，服务器104可以是硬件，也可以是软件。当服务器104为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器104为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务的多个软件或软件模块)，也可以实现成单个软件或软件模块。在此不做具体限定。

需要说明的是，本公开实施例所提供的关键点检测模型的训练方法一般由服务器104执行，相应地，关键点检测模型的训练装置一般设置于服务器104中。

还需要指出的是，终端设备101、102中可以安装有模型训练类工具或应用。终端设备101、102可以基于模型训练类工具或应用利用训练样本集对初始关键点检测模型进行训练。此时，关键点检测模型的训练方法也可以由终端设备101、102执行，相应地，关键点检测模型的训练装置也可以设置于终端设备101、102中。此时，示例性系统架构100可以不存在服务器104和网络103。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的视频采集设备、网络和服务器。

继续参考图2，其示出了根据本公开的关键点检测模型的训练方法的一个实施例的流程200。该关键点检测模型的训练方法包括以下步骤：

步骤201，获取训练样本集。

在本实施例中，关键点检测模型的训练方法的执行主体(如图1所示的服务器104等)可以从本地、所连接的存储设备和/或第三方数据平台等获取训练样本集。

其中，训练样本集可以由一定数量的训练样本组成。每个训练样本可以包括样本图像和该样本图像对应的热图(Heat Map，或称热力图等)。样本图像可以是各种类型、各种类型的图像。每个样本图像对应的热图可以指该样本图像中的关键点对应的热图。关键点可以根据实际的应用场景确定。例如，在人体检测场景下，关键点可以指人体图像中的人体关键点。

每个样本图像中的关键点的数量可以为多个。每个关键点可以对应一个热图。每个关键点对应的热图中的每个像素点的取值可以用于表征该像素点对应于该关键点的概率。一般地，可以认为对应的概率最大的像素点所在的位置即为该关键点在热图中的位置。

每个关键点对应的热图可以通过如下步骤生成：确定热图的尺寸与样本图像的尺寸的商，确定得到的商与关键点在样本图像中的坐标的乘积作为关键点在热图中的坐标，以及根据确定的坐标生成关键点的热图。

一般地，热图的尺寸小于样本图像的尺寸。样本图像中的像素点可以按照热图和样本图像两者的尺寸关系进行对应映射，以确定该像素点对应在热图中的位置。

作为示例，尺寸使用分辨率表示。样本图像的分辨率为256*256。热图的分辨率为64*64。对于样本图像中的任意像素点以该像素点在样本图像中的坐标(X，Y)来表示。其中，“X”表示横坐标，“Y”表示纵坐标。由于热图的分辨率与样本图像的分辨率的商为1/4，因此，像素点(X，Y)对应在热图中的像素点为(X/4，Y/4)。需要说明的是，对于部分像素点而言，对应在热图中的像素点的横坐标和/或纵坐标可能不为整数。

对于样本图像中的每个关键点，在得到该关键点在热图中的坐标之后，即可以根据该坐标对应生成该关键点对应的热图。具体地，可以根据该关键点在热图中的坐标，为热图中的各像素点分别赋值来生成该关键点对应的热图。

作为示例，假设样本图像中的关键点(X，Y)对应在热图中的像素点的坐标为(X1，Y1)，可以基于如下式子表示的二维高斯分布生成热图：

其中，(x，y)表示热图中的像素点，服从参数为“X1”、“Y1”、“σ”的二维高斯分布。其中，“σ”为超参数，可以由技术人员预先设置。G(x，y)即表示对热图中的像素点(x，y)的赋值。

一般地，在生成的热图中存在有以(X1，Y1)为圆心，“σ”为半径的圆。圆心处赋值可以为1，其它像素点距离圆心越远，对应赋值越小，超出圆之外的像素点赋值为0。可以理解，在“X1”和“Y1”为整数时，(X1，Y1)对应的像素点赋值可以为1，而在“X1”和“Y1”中存在非整数时，由于圆心对应于热图中并不是一个具体的像素点，因此这种情况下的热图中可能不存在赋值为1的像素点。

步骤202，获取初始关键点检测模型。

在本实施例中，执行主体可以从本地、所连接的存储设备和/或第三方数据平台等获取初始关键点检测模型。其中，初始关键点检测模型即为待训练的关键点检测模型。初始关键点检测模型的输入可以为图像，输出可以为从输入的图像中检测到的各关键点分别对应的热图。

初始关键点检测模型可以是各种用于关键点检测的神经网络模型。初始关键点检测模型的网络结构可以根据实际的应用需求预先构建。例如，对于移动端或边缘端等中低算力的设备上的关键点检测场景，可以构建轻量级的网络结构作为初始关键点检测模型。

步骤203，将训练样本集中的样本图像作为初始关键点检测模型的输入，将与输入的样本图像对应的热图作为初始关键点检测模型的期望输出，根据预设的损失函数，对初始关键点检测模型进行训练。

在本实施例中，可以根据预设的损失函数和训练样本集，利用各种模型训练方法(如反向传播算法和梯度下降算法等)对初始关键点检测模型进行训练，以得到训练完成的关键点检测模型。

一般地，损失函数可以表示训练过程中初始关键点检测模型输出的热图与期望输出的热图之间的差异，从而可以根据损失函数的值不断调整初始关键点检测模型的网络参数，直至训练完成。损失函数的具体设计可以由技术人员根据实际的应用需求灵活设计。例如，损失函数的值可以通过计算初始关键点检测模型输出的热图中的各像素点分别与期望输出的热图中的对应像素点之间的差异的总和得到。

现有技术中，在构建训练样本将样本图像中的关键点坐标编码到该关键点对应的热图中的坐标时，通常会对非整数的坐标进行取整操作，然后再形成对应的热图，这一取整操作会使得训练样本中的热图本身就具有一定误差，从而影响后续关键点检测模型的训练。

针对该问题，本公开的实施例通过在构建训练样本将样本图像中的关键点坐标编码到该关键点对应的热图中的坐标时，直接根据转换后的坐标形成热图，避免对非整数的坐标进行取整操作，保证训练样本中的热图的精度，从而有助于提升训练得到的关键点检测模型的检测结果的精度。

在本实施例的一些可选的实现方式中，对于训练样本中的每个热图，可以通过如下步骤确定该热图中的各像素点的权重：

步骤一，对该热图进行二值化处理。

在本步骤中，可以先对该热图进行二值化处理，得到二值化处理后的热图。二值化处理的阈值可以根据实际的应用场景灵活设置。例如，阈值为0，此时，可以保持该热图中取值为0的像素点的取值不变，并将取值为非0的像素点的取值更新为1。

步骤二，对二值化处理后得到的热图进行膨胀处理。

在本步骤中，可以采用现有的各种膨胀(Dilate)方法对二值化处理后得到的热图进一步处理，以得到膨胀处理后的热图。经过膨胀处理可以扩大二值化处理后得到的热图中的像素点取值非0的区域。

步骤三，根据处理后的热图，为该热图中的第一像素点设置第一权重，以及为该热图中的第二像素点设置第二权重。

在本步骤中，第一像素点可以指在膨胀处理后的热图中对应的像素点的取值为0。第二像素点可以指在膨胀处理后的热图中对应的像素点的取值为1。第一权重和第二权重可以由技术人员根据实际的应用场景预先设置。一般地，第一权重可以小于第二权重。

此时，在计算损失函数时，可以利用确定的热图中的各像素点的权重，通过加权来求得损失函数的值。例如，损失函数的值需要计算初始关键点检测模型输出的热图中的各像素点分别与期望输出的热图中的对应像素点之间的差异的总和时，可以计算初始关键点检测模型输出的热图中的各像素点分别与期望输出的热图中的对应像素点之间的差异的加权总和作为损失函数的值。

由于图像中关键点的数量通常小于图像所包括的其它像素点的数量，两者数量非常不平衡，因此，通过为关键点和其他像素点分配不同的权重进行计算，且保证关键点对应的权重较大，可以一定程度地降低两者数量不平衡对关键点检测模型的训练效果的影响，进一步提升关键点检测模型的检测精度。

在本实施例的一些可选的实现方式中，初始关键点检测模型的训练样本集中的训练样本所包括的样本图像可以是对原始图像进行数据增强得到的。其中，原始图像可以是原始获取的初始关键点检测模型的输入图像。

数据增强可以指现有的各种数据增强方法。例如，数据增强方法包括但不限于：模糊(Blur)、随机裁剪(RandomCrop)、随机擦除(CutOut)、随机图像遮挡、马赛克(Mosaic)等等。在获取到原始图像之后，可以先对原始图像进行数据增强，然后将经过数据增强处理后的原始图像作为训练样本。

以随机图像遮挡为示例，可以通过如下步骤对训练样本集中的每个训练样本中的样本图像进行处理：

步骤一、以预设概率确定是否对该样本图像进行随机图像遮挡。

若确定对该样本图像进行随机图像遮挡，可以继续执行如下步骤二。若确定不对该样本图像进行随机图像遮挡，可以保持该样本图像不变。预设概率可以根据实际需求灵活设置。例如，预设概率为0.5。

步骤二、从该样本图像的各关键点中随机选取预设数目个关键点。

预设数目可以根据实际需求灵活设置。例如，预设数目可以为关键点总数量的百分之二十。

步骤三、对选取的关键点进行遮挡。

对于选取的每个关键点，具体可以通过如下步骤完成对该关键点的遮挡：

步骤(1)随机确定一个偏移向量，按照该偏移向量对该关键点在样本图像中的坐标进行变换，以及将变换后的坐标作为遮挡圆心。

其中，偏移向量的大小是随机的，但可以根据实际需求对偏移向量的大小进行一定控制，避免偏移过大或过小等情况出现。

步骤(2)随机确定遮挡半径，以及将以遮挡圆心为圆心，以遮挡半径为半径所确定的圆形区域作为遮挡区域。

其中，遮挡半径的大小是随机的，但可以根据实际需求对遮挡半径的大小进行一定控制，避免遮挡区域过大或过小等影响关检点检测模型的训练效果的情况出现。

步骤(3)对遮挡区域中的像素点的取值进行随机修改。

需要说明的是，上述仅仅是以随机图像遮挡且遮挡区域为圆形作为数据增强为示例进行的说明。实际中可以根据应用需求选取各种数据增强方法。

在一些多目标的关键点检测场景中，待检测图像中可能存在多个待进行关键点检测的目标对象，此时，不同的目标对象所在的图像区域可能存在交集，从而会影响这些目标对象的关键点检测结果。因此，通过数据增强的策略，可以使得关键点检测模型在训练过程中，还可以学到同一目标对象的各个关键点之间的机构化关系，从而提升关键点检测模型在多目标的关键点检测场景下的表现。

在本实施例的一些可选的实现方式中，初始关键点检测模型可以包括采用深度可分离卷积的网络层。

深度可分离卷积(Depthwise Separable Convolution)是将传统的卷积分解为一个深度卷积(Depthwise Convolution)和一个1*1的卷积(Pointwise Convolution)。

需要说明的是，根据实际的应用需求，初始关键点检测模型的运算过程中可以只包括深度可分离卷积，也可以包括深度可分离卷积和普通卷积，具体可以灵活设置。

和普通卷积相比，深度可分离卷积能够较大的降低计算量，因此，通过采用深度可分离卷积可以优化关键点检测模型的计算量，并提升关键点检测模型的检测速度，从而使得训练好的关键点检测模型可以应用于移动端和边缘端等中低算力的设备。

在本实施例的一些可选的实现方式中，初始关键点检测模型的网络层还可以采用通道洗牌运算。

通道洗牌(Channel Shuffle)可以通过打乱原特征图通道顺序来实现不同分组的特征之间的信息流动。

由于深度可分离卷积割裂了不同通道之间的信息交互，因此通过使用通道洗牌运算能够以较低的计算成本融合不同通道之间的信息，进而有助于提升关键点检测模型的精度。

可选地，初始关键点检测模型可以采用现有的各种轻量级的神经网络模型结构，以保证在移动端或边缘端的实时运行。例如，初始关键点检测模型的骨干网络可以采用Lite-HRNet等。

现有的关键点检测方法包括直接回归关键点坐标的方法和基于热图的关键点检测方法。直接回归的方法通常只适用于形变较小的领域(如人脸关键点等)，而在如人体骨骼关键点等形变较大的领域的检测效果较差。而现有的基于热图的方法，在构建训练样本时的坐标映射过程中的取整操作会导致训练样本存在一定误差，而且热图中的关键点的数量和非关键点的数量差异较大，不利于关键点检测模型的训练。

本公开的上述实施例提供的关键点检测模型的训练方法通过对输入的样本图像和输出的热图之间的像素点变换过程采用无偏编码，避免对非整数的坐标进行取整而存在的偏差对关键点检测模型的训练精度的影响。此外，通过在关键点检测模型的训练过程中，通过权值损失计算等可以进一步提升关键点检测模型的精度，降低热图中的关键点的数量和非关键点的数量差异较大对关键点检测模型的影响。另外，还通过采用深度可分离卷积和通道洗牌等运算从网络结构方面降低关键点检测模型的运算量，保证关键点检测模型在移动端或边缘端的运行效率。

进一步参考图3，其示出了根据本公开的关键点检测方法的一个实施例的流程300。该关键点检测方法的流程300，包括以下步骤：

步骤301，获取待检测图像。

在本实施例中，关键点检测方法的执行主体可以从本地、所连接的存储设备或第三方数据平台等获取待检测图像。其中，待检测图像可以是任意内容的待进行关键点检测的图像。

步骤302，将待检测图像输入至预先训练的关键点检测模型，得到关键点对应的热图。

在本实施例中，可以将待检测图像输入至预先训练的关键点检测模型，得到待检测图像中的各关键点分别对应的热图。其中，关键点检测模型可以利用上述图2实施例所示的方法训练得到。

一般地，关键点检测模型的输入图像的尺寸固定。若待检测图像的尺寸与关键点检测模型的输入图像的尺寸不同，则可以先对待检测图像的尺寸进行调整，并将尺寸调整后的待检测图像更新为待检测图像输入至关键点检测模型进行关键点检测。

步骤303，对得到的热图指示的关键点坐标进行关键点矫正。

在本实施例中，对于每个热图，可以先确定该热图指示的关键点坐标，然后对该热图指示的关键点坐标进行关键点矫正。具体地，可以采用现有的各种关键点矫正方法进行关键点矫正。例如，关键点矫正方法包括但不限于：Soft-ArgMax、向次大值偏移、增加预测偏移量、分布感知的关键点坐标表示(Distribution-Aware Coordinate Representationof Keypoints，DARK)等等。

可选地，可以利用下述公式进行关键点矫正：

其中，“m”表示得到的热图指示的关键点坐标。“D`()”和“D``()”分别表示一阶导数和二阶导数。“μ”表示经过关键点矫正后的关键点坐标。

在许多情况下，为了提升关键点检测模型的检测速度，输入的图待检测图像和输出的热图的尺寸通常较小，即和原始图像相比，会不断的进行尺寸缩小，而在得到热图之后，根据热图指示的关键点的位置向原始图像映射时，会随着图像尺寸的缩小比例而不断放大误差，尤其在移动端或边缘端等场景下，这种误差可能会严重影响关键点的检测结果。针对该问题，在得到热图指示的关键点坐标之后，通过关键点矫正来降低输入图像和输出的热图的尺寸较小而对关键点检测结果带来的误差影响，保证移动端或边缘端的关键点检测精度。

进一步地，还可以根据待检测图像和热图的尺寸关系，确定矫正后的关键点坐标对应在待检测图像中的坐标，从而得到待检测图像中的关键点所在的位置。

在本实施例的一些可选的实现方式中，待检测图像可以通过如下步骤获取：

步骤一、获取目标图像。

在本步骤中，目标图像可以是任意类型和任意内容的图像。目标图像可以从各种数据源获取。

步骤二、对目标图像进行目标检测，得到目标图像中的目标对象所在的位置信息。

在本步骤中，可以利用现有的各种目标检测方法对目标图像进行目标检测，以确定目标图像中的目标对象在目标图像中的位置。得到的位置信息即可以表示目标对象在目标图像中的位置。例如，可以利用预先训练的目标检测模型对目标图像进行目标检测。目标对象可以为待进行关键点检测的对象。

若目标图像中包括两个以上的目标对象，则得到的位置信息也可以是两个以上，并且与目标图像中的目标对象一一对应。

可选地，目标检测模型可以采用现有的各种轻量级的神经网络模型结构，以保证在移动端或边缘端的实时运行。例如，目标检测模型可以采用PP-Picodet等。

步骤三、根据得到的位置信息，从目标图像中提取目标对象所在的图像区域。

在本步骤中，目标图像中若包括两个以上的目标对象，则可以分别提取各目标对象所在的图像区域。

步骤四、对图像区域进行尺寸调整，以及将尺寸调整后的图像区域作为待检测图像。

在本步骤中，可以按照关键点检测模型的输入图像的尺寸，对每个图像区域的尺寸进行调整，并将尺寸调整后的图像区域作为待检测图像以利用关键点检测模型进行关键点检测。

此时，在得到经过关键点矫正后的关键点坐标后，可以进一步根据目标图像、待检测图像和热图的尺寸关系，确定矫正后的关键点坐标对应在目标图像中的坐标，从而得到目标图像中的关键点的位置。

现有的关键点检测可以划分为自上而下和自底向上两种方法。自底向上的方法，是直接将原图缩放到关键点检测模型的输入图像的尺寸进行关键点检测，然后再区分各个关键点所属的目标对象。这种方法在目标对象在原图中比例较小时，对原图的缩放会丢失该目标对象的特征，从而导致检测结果较差。

自上而下的方法是先进行目标检测以区分不同的目标对象，然后提取各个目标对象分别所在的图像区域分别进行关键点检测。本公开的实施例正是龙自上而下的方法进行关键点检测可以保证对小目标对象的检测效果。

需要说明的是，上述关键点检测模型的训练方法和关键点检测方法的执行主体可以相同，也可以不同。一般地，关键点检测方法的执行主体可以为移动端或边缘端等中低算力的电子设备。

继续参见图4，图4是根据本实施例的关键点检测方法的一个示意性的应用场景400。在图4的应用场景中，关键点检测方法的执行主体(如手机等)可以先获取用户上传的目标图像401，然后可以对目标图像401进行目标检测，以得到目标图像401包括的目标对象“A”和目标对象“B”分别所在的图像区域4011和4012。

以目标对象“A”为示例，可以先从目标图像401中裁剪出目标对象“A”所在的图像区域4011，然后可以按照预先训练的关键点检测模型402的输入图像的尺寸，对图像区域4011进行尺寸调整，得到尺寸调整后的图像区域作为待检测图像4013。之后，可以利用关键点检测模型402对待检测图像4013进行关键点检测，得到待检测图像4013中的各关键点分别对应的热图403。

对于每个热图，可以先对该热图指示的关键点坐标进行矫正，然后再确定矫正后的关键点坐标对应在目标图像401中的图像区域4011中的位置。

本公开的上述实施例提供的方法通过采用自上而下的关键点检测方法，可以避免对小目标的检测结果差的问题，同时通过在得到热图之后，增加关键点矫正的步骤，可以优化小尺寸的热图进行坐标映射过程中的误差问题，从而保证关键点检测结果的精度。

进一步参考图5，作为对上述图2所示方法的实现，本公开提供了关键点检测模型的训练装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图5所示，本实施例提供的关键点检测模型的训练装置500包括第一获取模块501、第二获取模块502和训练模块503。其中，第一获取模块501被配置成获取训练样本集，其中，训练样本集中的训练样本包括样本图像和样本图像中的关键点对应的热图，关键点对应的热图通过如下步骤生成：确定热图的尺寸与样本图像的尺寸的商，确定得到的商与关键点在样本图像中的坐标的乘积作为关键点在热图中的坐标，以及根据确定的坐标生成关键点的热图；第二获取模块502被配置成获取初始关键点检测模型；训练模块503被配置成将训练样本集中的样本图像作为初始关键点检测模型的输入，将与输入的样本图像对应的热图作为初始关键点检测模型的期望输出，根据预设的损失函数，对初始关键点检测模型进行训练。

在本实施例中，关键点检测模型的训练装置500中：第一获取模块501、第二获取模块502和训练模块503的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201-203的相关说明，在此不再赘述。

在本实施例的一些可选的实现方式中，对于训练样本包括的热图，通过如下步骤确定该热图中的像素点的权重：对该热图进行二值化处理；对二值化处理后得到的热图进行膨胀处理；对于膨胀处理后得到的热图，为该热图中的第一像素点设置第一权重，以及为该热图中的第二像素点设置第二权重，第一权重小于第二权重，其中，第一像素点在膨胀处理后的热图中对应的像素点的取值为0，第二像素点在膨胀处理后的热图中对应的像素点的取值为1；以及损失函数基于期望输出的热图中的像素点的权重确定。

在本实施例的一些可选的实现方式中，训练样本集中的训练样本包括的样本图像包括对原始图像进行数据增强得到的样本图像。

在本实施例的一些可选的实现方式中，初始关键点检测模型包括采用深度可分离卷积的网络层。

在本实施例的一些可选的实现方式中，网络层还采用通道洗牌运算。

进一步参考图6，作为对上述图3所示方法的实现，本公开提供了关键点检测装置的一个实施例，该装置实施例与图3所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图6所示，本实施例提供的关键点检测装置600包括第三获取模块601、检测模块602和矫正模块603。其中，第三获取模块601被配置成获取待检测图像；检测模块602被配置成将待检测图像输入至预先训练的关键点检测模型，得到待检测图像中的关键点对应的热图，其中，关键点检测模型利用如图5实施例描述的装置得到。

在本实施例中，关键点检测装置600中：第三获取模块601、检测模块602和矫正模块603的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤301-303的相关说明，在此不再赘述。

在本实施例的一些可选的实现方式中，第三获取单元601进一步被配置成：获取目标图像；对目标图像进行目标检测，得到目标图像中的目标对象所在的位置信息；根据得到的位置信息，从目标图像中提取目标对象所在的图像区域；对图像区域进行尺寸调整，以及将尺寸调整后的图像区域作为待检测图像；以及关键点检测装置600还包括：确定单元(图中未示出)被配置成根据关键点矫正后的关键点坐标，确定关键点在目标图像中的位置。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

图7示出了可以用来实施本公开的实施例的示例电子设备700的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图7所示，设备700包括计算单元701，其可以根据存储在只读存储器(ROM)702中的计算机程序或者从存储单元708加载到随机访问存储器(RAM)703中的计算机程序，来执行各种适当的动作和处理。在RAM 703中，还可存储设备700操作所需的各种程序和数据。计算单元701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。

设备700中的多个部件连接至I/O接口705，包括：输入单元706，例如键盘、鼠标等；输出单元707，例如各种类型的显示器、扬声器等；存储单元708，例如磁盘、光盘等；以及通信单元709，例如网卡、调制解调器、无线通信收发机等。通信单元709允许设备700通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元701可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元701的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元701执行上文所描述的各个方法和处理，例如关键点检测模型的训练方法。例如，在一些实施例中，关键点检测模型的训练可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元708。在一些实施例中，计算机程序的部分或者全部可以经由ROM 702和/或通信单元709而被载入和/或安装到设备700上。当计算机程序加载到RAM 703并由计算单元701执行时，可以执行上文描述的关键点检测模型的训练方法的一个或多个步骤。备选地，在其他实施例中，计算单元701可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行关键点检测模型的训练方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以是分布式系统的服务器，或者是结合了区块链的服务器。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开提供的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims

1.一种关键点检测模型的训练方法，包括：

获取训练样本集，其中，所述训练样本集中的训练样本包括样本图像和样本图像中的关键点对应的热图，关键点对应的热图通过如下步骤生成：确定热图的尺寸与样本图像的尺寸的商，确定得到的商与关键点在样本图像中的坐标的乘积作为关键点在热图中的坐标，以及根据确定的坐标生成关键点的热图；

获取初始关键点检测模型；

将所述训练样本集中的样本图像作为初始关键点检测模型的输入，将与输入的样本图像对应的热图作为初始关键点检测模型的期望输出，根据预设的损失函数，对初始关键点检测模型进行训练。

2.根据权利要求1所述的方法，其中，对于训练样本包括的热图，通过如下步骤确定该热图中的像素点的权重：

对该热图进行二值化处理；

对二值化处理后得到的热图进行膨胀处理；

对于膨胀处理后得到的热图，为该热图中的第一像素点设置第一权重，以及为该热图中的第二像素点设置第二权重，第一权重小于第二权重，其中，第一像素点在膨胀处理后的热图中对应的像素点的取值为0，第二像素点在膨胀处理后的热图中对应的像素点的取值为1；以及

所述损失函数基于期望输出的热图中的像素点的权重确定。

3.根据权利要求1所述的方法，其中，所述训练样本集中的训练样本包括的样本图像包括对原始图像进行数据增强得到的样本图像。

4.根据权利要求1所述的方法，其中，所述初始关键点检测模型包括采用深度可分离卷积的网络层。

5.根据权利要求4所述的方法，其中，所述网络层还采用通道洗牌运算。

6.一种关键点检测方法，包括：

获取待检测图像；

将所述待检测图像输入至预先训练的关键点检测模型，得到所述待检测图像中的关键点对应的热图，其中，所述关键点检测模型利用权利要求1-5之一所述的方法得到；

对得到的热图指示的关键点坐标进行关键点矫正。

7.根据权利要求6所述的方法，其中，所述获取待检测图像包括：

获取目标图像；

对所述目标图像进行目标检测，得到目标图像中的目标对象所在的位置信息；

根据所述位置信息，从所述目标图像中提取目标对象所在的图像区域；

对所述图像区域进行尺寸调整，以及将尺寸调整后的图像区域作为待检测图像；以及

所述方法还包括：

根据关键点矫正后的关键点坐标，确定关键点在所述目标图像中的位置。

8.一种关键点检测模型的训练装置，包括：

第一获取模块，被配置成获取训练样本集，其中，所述训练样本集中的训练样本包括样本图像和样本图像中的关键点对应的热图，关键点对应的热图通过如下步骤生成：确定热图的尺寸与样本图像的尺寸的商，确定得到的商与关键点在样本图像中的坐标的乘积作为关键点在热图中的坐标，以及根据确定的坐标生成关键点的热图；

第二获取模块，被配置成获取初始关键点检测模型；

训练模块，被配置成将所述训练样本集中的样本图像作为初始关键点检测模型的输入，将与输入的样本图像对应的热图作为初始关键点检测模型的期望输出，根据预设的损失函数，对初始关键点检测模型进行训练。

9.根据权利要求8所述的装置，其中，对于训练样本包括的热图，通过如下步骤确定该热图中的像素点的权重：

对该热图进行二值化处理；

对二值化处理后得到的热图进行膨胀处理；

所述损失函数基于期望输出的热图中的像素点的权重确定。

10.根据权利要求8所述的装置，其中，所述训练样本集中的训练样本包括的样本图像包括对原始图像进行数据增强得到的样本图像。

11.根据权利要求8所述的装置，其中，所述初始关键点检测模型包括采用深度可分离卷积的网络层。

12.根据权利要求11所述的装置，其中，所述网络层还采用通道洗牌运算。

13.一种关键点检测装置，包括：

第三获取模块，被配置成获取待检测图像；

检测模块，被配置成将所述待检测图像输入至预先训练的关键点检测模型，得到所述待检测图像中的关键点对应的热图，其中，所述关键点检测模型利用权利要求8-12之一所述的装置得到；

矫正模块，被配置成对得到的热图指示的关键点坐标进行关键点矫正。

14.根据权利要求13所述的装置，其中，所述第三获取模块进一步被配置成：

获取目标图像；

所述装置还包括：

确定单元，被配置成根据关键点矫正后的关键点坐标，确定关键点在所述目标图像中的位置。

15.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-7中任一项所述的方法。

16.一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行权利要求1-7中任一项所述的方法。

17.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-7中任一项所述的方法。