CN114519804A - 一种人体骨架标注方法、装置及电子设备 - Google Patents

Abstract

本申请涉及深度学习技术领域，提供了一种人体骨架标注方法、装置及电子设备，该方法包括：获取待标注的当前帧人体图像及其对应的当前帧骨架关键点信息，并将当前帧人体图像的图像信息及当前帧骨架关键点信息保存为当前帧标注文件，其中，骨架关键点信息包括所述骨架关键点的类型信息和位置信息；利用当前帧标注文件对当前帧人体图像进行标注得到初始标注图像，并判断初始标注图像是否存在漏检或误检以获取判断结果；根据判断结果对当前帧人体图像对应的初始标注图像中存在漏检或误检的骨架关键点进行修正，得到当前帧标注图像。本申请实施例可以快速且准确地获得人体骨架标注图像。

Description

一种人体骨架标注方法、装置及电子设备

技术领域

本申请涉及深度学习技术领域，尤其涉及一种人体骨架标注方法、装置及电子设备。

背景技术

人体骨架关键点包括关节和五官等。通过这些关键点来描述人体骨骼信息，对于描述人体姿态，预测人体行为至关重要。近几年，人体骨架关键点的检测方案有了很大的发展，特别是深度学习的崛起，例如openpose、alphapose等检测模型的提出，人体骨架关键点的检测方案在实际场景中的应用也越来越广泛，如娱乐健身、康复训练、动作识别等。

然而训练一个人体骨架关键点的检测模型，需要使用大量的标注有人体骨架关键点的图像，而人体骨架关键点的标注是一件非常繁琐、精细与耗时的工作。

目前，人体骨架关键点的标注方法主要分为两种：一种为采用全手动标注的方法，标注人员对大量的待标注图像中的人体骨骼关键点进行一一标注；另一种是采用全自动标注的方法，通常利用一个现成的精度较高的人体骨架关键点检测模型对图像进行检测，获得骨架关键点。

但是，前一种方法，不可避免地需要投入大量的人力和时间成本，出错率较高，降低了数据集优化和模型建立的效率；后一种方法，对于复杂动作标注效果较差，标注数据的准确度完全依赖于使用的骨架关键点检测模型。

发明内容

有鉴于此，本申请实施例提供了一种人体骨架标注方法、装置及电子设备，能够解决相关技术中的一个或多个技术问题。

第一方面，本申请一实施例提供了一种人体骨架标注方法，包括：获取待标注的当前帧人体图像及其对应的当前帧骨架关键点信息，并将所述当前帧人体图像的图像信息及所述当前帧骨架关键点信息保存为当前帧标注文件，其中，所述骨架关键点信息包括所述骨架关键点的类型信息和位置信息；利用所述当前帧标注文件对当前帧人体图像进行标注得到初始标注图像，并判断所述初始标注图像是否存在漏检或误检以获取判断结果；根据所述判断结果对所述当前帧人体图像对应的所述初始标注图像中存在漏检或误检的骨架关键点进行修正，得到当前帧标注图像。

第二方面，本申请一实施例提供一种人体骨架标注装置，包括：获取模块，用于获取待标注的当前帧人体图像及其对应的当前帧骨架关键点信息，并将所述当前帧人体图像的图像信息及所述当前帧骨架关键点信息保存为当前帧标注文件，其中，所述骨架关键点信息包括所述骨架关键点的类型信息和位置信息；判断模块，用于利用所述当前帧标注文件对当前帧人体图像进行标注得到初始标注图像，并判断所述初始标注图像是否存在漏检或误检以获取判断结果；修正模块，用于根据所述判断结果对所述当前帧人体图像对应的所述初始标注图像中存在漏检或误检的骨架关键点进行修正，得到当前帧标注图像。

第三方面，本申请一实施例提供了一种电子设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如第一方面任一实施例所述人体骨架标注方法的步骤。

第四方面，本申请一实施例提供了一种计算机存储介质，所述计算机存储介质存储有计算机程序，所述计算机程序被处理器执行时实现如第一方面任一实施例所述人体骨架标注方法的步骤。

第五方面，本申请一实施例提供了一种计算机程序产品，当计算机程序产品在电子设备上运行时，使得电子设备可实现如第一方面任一实施例所述人体骨架标注方法的步骤。

本申请实施例可以快速且准确地获得人体骨架标注图像。

在一些实施例中，使用预设骨架检测模型对人体图像进行检测，获得自动标注结果，减少人工标注，大大提高了标注效率。

在一些实施例中，可视化自动标注结果，方便对自动标注结果进行复检，提高了复检效率，也提高了标注的准确度，获得了置信度更高的数据集。

附图说明

为了更清楚地说明本申请实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1是本申请一实施例提供的一种电子设备的结构示意图；

图2A是本申请一实施例提供的一种人体骨架标注方法的实现流程示意图；

图2B是本申请一实施例提供的另一种人体骨架标注方法的实现流程示意图；

图3是本申请一实施例提供的一种人体骨架标注方法中步骤S100的实现过程示意图；

图4是本申请一实施例提供的一种人体骨架关键点的示意图；

图5是本申请一实施例提供的一种包括初始标注图像的显示界面示意图；

图6是本申请一实施例提供的一种人体骨架标注装置的结构示意图；

图7是本申请一实施例提供的另一种人体骨架标注装置的结构示意图。

具体实施方式

以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本申请实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本申请的描述。

在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。

在本申请说明书中描述的“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此，在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例，而是意味着“一个或多个但不是所有的实施例”，除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”，除非是以其他方式另外特别强调。

此外，在本申请的描述中，“多个”的含义是两个或两个以上。

还应当理解，除非另有明确的规定或限定，术语“连接”应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或成一体；可以是直接相连，也可以是通过中间媒介间接相连，可以是两个元件内部的连通或两个元件的相互作用关系。对于本领域普通技术人员而言，可以根据具体情况理解上述术语在本申请中的具体含义。

目前采用全人工进行人体骨架标注的方法耗时耗力，成本高，效率低且出错率高。而采用全自动化进行人体骨架标注的方法针对复杂动作标注效果较差，标注数据的准确度又完全依赖于所使用的骨架关键点检测模型。

因此，本申请实施例提供一种人体骨架标注方法，可实现人体图像中人体骨架快速且准确标注，从而可以促进骨架检测相关技术的开发和应用。

为了说明本申请所述的技术方案，下面通过具体实施例来进行说明。

图1为本申请一实施例提供的一种电子设备的结构示意图。电子设备包括但不限于计算机、平板、笔记本电脑、上网本、服务器等，本申请实施例对电子设备的具体类型不作任何限制。

在本申请一些实施例中，如图1所示，电子设备可以包括一个或多个处理器10(图1中仅示出一个)，存储器11以及存储在存储器11中并可在一个或多个处理器10上运行的计算机程序12，例如，对人体图像进行人体骨架标注的程序。一个或多个处理器10执行计算机程序12时可以实现后述各人体骨架标注方法实施例中的各步骤。或者，一个或多个处理器10执行计算机程序12时可以实现后述各人体骨架标注装置实施例中的各模块/单元的功能。

示例性的，计算机程序12可以被分割成一个或多个模块/单元，一个或者多个模块/单元被存储在存储器11中，并由处理器10执行，以完成本申请。一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段，该指令段用于描述计算机程序12在处理单元中的执行过程。例如，计算机程序12可以被分割成如下几个模块。各模块具体功能如下：

获取模块，用于获取待标注的当前帧人体图像及其对应的当前帧骨架关键点信息，并将当前帧人体图像的图像信息及当前帧骨架关键点信息保存为当前帧标注文件，其中，骨架关键点信息包括骨架关键点的类型信息和位置信息；

判断模块，用于利用当前帧标注文件对当前帧人体图像进行标注得到初始标注图像，并判断初始标注图像是否存在漏检或误检获取判断结果；

修正模块，用于根据判断结果对当前帧人体图像对应的初始标注图像中存在漏检或误检的骨架关键点进行修正，得到当前帧标注图像。

本领域技术人员可以理解，图1仅仅是电子设备的示例，并不构成对电子设备的限定。电子设备可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如电子设备还可以包括输入输出设备、网络接入设备、总线等。

所称处理器10可以是中央处理单元(Central Processing Unit，CPU)，还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现成可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。

存储器11可以是处理单元的内部存储单元，例如处理单元的硬盘或内存。存储器11也可以是处理单元的外部存储设备，例如处理单元上配备的插接式硬盘，智能存储卡(smart media card，SMC)，安全数字(secure digital，SD)卡，闪存卡(flash card)等。进一步地，存储器11还可以既包括处理单元的内部存储单元也包括外部存储设备。存储器11用于存储计算机程序以及处理单元所需的其他程序和数据。存储器11还可以用于暂时地存储已经输出或者将要输出的数据。

本申请一实施例还提供了电子设备的另一种优选的实施例，在本实施例中，电子设备包括一个或多个处理器，该一个或多个处理器用于执行存在存储器的以下程序模块：

获取模块，用于获取待标注的当前帧人体图像及其对应的当前帧骨架关键点信息，并将当前帧人体图像的图像信息及当前帧骨架关键点信息保存为当前帧标注文件，其中，骨架关键点信息包括骨架关键点的类型信息和位置信息；

判断模块，用于利用当前帧标注文件对当前帧人体图像进行标注得到初始标注图像，并判断初始标注图像是否存在漏检或误检获取判断结果；

修正模块，用于根据判断结果对当前帧人体图像对应的初始标注图像中存在漏检或误检的骨架关键点进行修正，得到当前帧标注图像。

本申请实施例还提供一种人体骨架标注方法。本申请实施例中的人体骨架标注方法适用于需要对人体图像进行骨架关键点标注的情形。本申请实施例中的人体骨架标注方法可由电子设备执行。作为示例而非限定，人体骨架标注方法可由图1所示实施例中的电子设备执行。

图2A是本申请一实施例提供的一种人体骨架标注方法的实现流程示意图。如图2A所示，人体骨架标注方法可以包括：步骤S110至步骤S130。

S110，获取待标注的当前帧人体图像及其对应的当前帧骨架关键点信息，并将当前帧人体图像的图像信息及当前帧骨架关键点信息保存为当前帧标注文件，其中，骨架关键点信息包括骨架关键点的类型信息和位置信息。

具体地，当前帧人体图像可以是单帧人体图像也可以是视频中的一个图像帧。视频可以是相机等摄像设备拍摄的人体不同动作的多帧连续图像。需要说明的是待标注的人体图像可以为彩色图像、灰色图像、红外图像等，此处不作限制。

当根据本申请的技术方案完成当前帧人体图像的人体骨架标注后，则获取下一帧人体图像进行人体骨架标注，这时下一帧人体图像就称为当前帧人体图像。应理解，在本申请实施例中，针对当前帧人体图像的完整标注过程进行示例性描述。

在本申请一些实施例中，每帧待标注的人体图像具备对应的骨架关键点信息，在步骤S110之前，如图2B所示，还包括步骤S100，利用预设的骨架检测模型对人体图像进行检测，获得人体图像的骨架关键点信息。

更具体地，每帧待标注的人体图像对应的骨架关键点信息，是利用预设的骨架检测模型对该帧人体图像进行检测获得的。骨架检测即为从输入的图像中检测到人体及对应的骨架关键点信息，骨架关键点信息包括骨架关键点的类型信息和位置信息。应当理解的是，待标注的人体图像还可包括大量具备不同的动作的不同人体，预设的骨架检测模型亦可分别检测不同人体的骨架关键点信息，并赋予不同人体不同索引以进行区别。

在一些可能的实现方式中，每个人体的骨架关键点可以包括14个类型，分别为：右肩、右肘、右腕、左肩、左肘、左腕、右髋(或称右臀)、右膝、右踝、左髋(或称左臀)、左膝、左踝、头顶、和脖子。

在另一些可能的实现方式中，每个人体的骨架关键点可以包括17个类型，分别为：鼻子、右眼、左眼、右耳、左耳、右肩、左肩、右肘、左肘、右腕、左腕、右髋、左髋、右膝、左膝、右踝、和左踝。

在另一些可能的实现方式中，每个人体的骨架关键点可以包括19个类型，分别为：鼻子、左眼、右眼、左耳、右耳、左肩、右肩、左肘、右肘、左腕、右腕、左臀、右臀、左膝、右膝、左踝、右踝、左脚尖、和右脚尖。

在另一些可能的实现方式中，每个人体的骨架关键点可以包括18个，如图3所示，通过骨架检测模型进行人体骨架检测，获得人体骨架关键点的类型信息及人体骨架关键点位置信息(即坐标，坐标信息未示出)，其中，人体骨架关键点的类型信息表示为18个关节，可用相应的标号依次为0，以及1至17的整数进行表示。

在一些可能的实现方式中，当人体图像中存在多个人体时，在获取每个人体的骨架关键点信息时，每个人体对应的骨架关键点标号还包括每个人体对应的索引，如1-0、1-1、···、1-17表示一个用户的人体骨架关键点，2-0、2-1、···、2-17表示另一用户的人体骨架关键点，以此类推，通过在赋予每个人体对应的索引以区分不同人体的关键点。

在本申请实施例中，预设的骨架检测模型可以事先部署在电子设备的存储器中，使用时调用即可。利用预设的骨架检测模型对人体图像进行检测，即进行人体图像自动标注的过程。预设的骨架检测模型可以是经训练的骨架检测模型，这些模型可以是基于公开的图像数据集进行深度学习训练得到的模型，优选为open pose或alpha pose等精度较高的骨架检测模型。

需要说明的是，本申请除上述提及的模型外，还可以选择其他任一骨架检测模型对需标注的人体图像进行骨架关键点检测，以获得每帧人体图像对应的骨架关键点信息，本申请实施例对骨架检测模型不予具体限制。

在一个可能的实现方式中，利用预设骨架检测模型进行人体骨架检测时，会出现未检测出骨架关键点的情况，针对上述情况，在使用标号表示骨架关键点的基础上，对未检测出骨架关键点的位置信息进行初始化。在一个实施例中，未检测出的骨架关键点的位置信息可用位置坐标(0，0)进行初始化；在另一个实施例中，未检测出的骨架关键点的位置信息还可用位置坐标(B*n，0)进行初始化，即初始化未检测出的当前帧骨架关键点以使得未检测出的当前帧骨架关键点间隔分布。通过这种设置，相对于将未检测出的骨架关键点全部初始化为(0，0)而产生的点堆叠，将未检测出的骨架关键点间隔分布避免了点堆叠，在后续对于漏检骨架关键点的修正的过程中减少了在标注时选择对应部位的骨架关键点的次数，从而减少用户手动移动骨架关键点的次数，降低了操作繁琐度，提升了标注效率。

更具体地，初始化未检测出的当前帧骨架关键点以使得未检测出的所述当前帧骨架关键点间隔分布，包括：初始化未检测出的当前帧骨架关键点的坐标为(B*n，0)，其中，n为未检测出的骨架关键点的排序数，B为预设距离间隔。其中，排序数n可以采用未检测出的骨架关键点在全部人体骨架关键点中的编号顺序，例如1至14中的整数；或者，排序数n可以采用对未检测出的骨架关键点进行的数量编号，例如，未检测出的骨架关键点为4个，第n个未检测出的骨架关键点的初始化坐标为(B*n，0)，n的取值为1至4的整数。预设距离间隔B可以取经验值，本申请实施例对此不予限制。

在一些实施例中，将人体图像的图像信息及该人体图像对应的骨架关键点信息保存为对应的标注文件，从而在后续步骤需要针对某帧人体图像进行标注时，便可通过该帧人体图像的图像信息查找到该帧人体图像对应的标注文件，获取对应的骨架关键点信息。

在一个实施例中，人体图像的图像信息为人体图像的图像名称，将人体图像的图像名称，以及该人体图像对应的骨架关键点信息写入标注文件。可选的，标注文件可以采用txt格式。应理解，本申请实施例对标注文件的类型不予具体限制。

在一个可能的实现方式中，针对每帧人体图像，按照预设顺序把每帧人体图像的图像名称及该帧人体图像对应的骨架关键点信息保存在txt文档中。例如，先记录人体图像的图像名称“imagename”，接着按照编号顺序依次记录该帧人体图像的骨架关键点的类型信息。例如，以14个骨架关键点为例，骨架关键点信息按照编号顺序依次为：1右肩、2右肘、3右腕、4左肩、5左肘、6左腕、7右髋、8右膝、9右踝、10左髋、11左膝、12左踝、13头顶和14脖子。上述通过将不同骨架关键点按照编号顺序进行排列，可方便区分骨架关键点类型；且在后续对于骨架关键点进行修正时，还可以根据骨架关键点顺序来确定其在人体骨架上对应的位置。

S120，利用当前帧标注文件对当前帧人体图像进行标注得到初始标注图像，并判断初始标注图像是否存在漏检或误检以获取判断结果。

在一些实施例中，利用标注工具显示当前帧人体图像，并根据当前帧人体图像的图像信息读取当前帧标注文件，根据当前帧标注文件中包含的骨架关键点信息在当前帧人体图像中标注当前帧骨架关键点，得到初始标注图像。

在一个可能的实现方式中，可以用不同颜色标注不同类型的骨架关键点。如图4所示，为标注有骨架关键点的人体图像，即初始标注图像的示意图，在图4所示示例中，以人体骨架关键点为19个作为示例，19个骨架关键点用不同颜色进行标注。在另一个可能的实现方式中，可以用不同颜色标注不同部位的骨架关键点，部位，例如右手，左手，右腿，左腿，右脚，左脚，人头等。

在另一个可能的实现方式中，针对多人检测的情形，根据标注文件中的不同人体对应的索引，使用不同颜色标注不同人体的骨架关键点。本申请一些实施例通过使用不同颜色对不同类型和/或不同部位和/或不同人体的骨架关键点进行标注，可以更加便于用户区分各个骨架关键点，提高复检的准确度。更一般地，在本申请一些实施例对不同类型和/或不同部位和/或不同人体的骨架关键点进行区分标注，区分标注的样式包括但不限于不同颜色、不同标注图案、线条粗细不等等。

需要说明的是，通过预设的骨架检测模型对人体图像完成自动标注后，自动标注结果可能会存在骨架关键点信息，例如骨架关键点的位置信息等，不够准确(即误检，与原人体骨架存在明显偏差)或漏检(即未检测出的点，存在骨架点重叠或骨架关键点按预设间隔分布)的情况。因此，需要对初始标注图像中是否存在误检或漏检的骨架关键点进行判断并获取相应的判断结果。

在一个实施例中，若确定初始标注图像中当前帧骨架关键点不存在漏检或误检的情况，则不需对当前帧骨架关键点进行修正，此时默认当前帧的初始标注图像为当前帧标注图像，并对下一帧图像执行上述步骤；若确定初始标注图像中当前帧骨架关键点存在漏检或误检的情况，则需对当前帧骨架关键点进行修正，即步骤S130。

S130，根据判断结果对当前帧人体图像对应的初始标注图像中存在漏检或误检的骨架关键点进行修正，得到当前帧标注图像。

在本申请一些实施例中，可以利用标注工具对自动标注结果中存在的漏检或误检进行修正，从而提高标注数据的效率和准确度。具体地，利用标注工具将初始标注图像可视化，方便用户(即标注人员)进行人工复检，用户可以对自动标注结果中存在的漏检或误检进行判断，以提高复检的效率与准确性，从而快速得到准确的标注数据。

在一些实施例中，根据判断结果对当前帧人体图像对应的初始标注图像中存在漏检或误检的骨架关键点进行修正，包括：针对初始标注图像中存在漏检的当前帧骨架关键点，重标漏检的当前帧骨架关键点；针对初始标注图像中存在误检的当前帧骨架关键点，调整误检的当前帧骨架关键点。

在一个可能的实现方式中，当用户发现初始标注图像中的当前帧骨架关键点存在漏检或误检时，用户可以通过用户操作标识出漏检或误检的当前帧骨架关键点。然后，用户可以通过电子设备的诸如鼠标和/或键盘等输入设备输入人工复检数据，标注工具根据用户输入的人工复检数据对漏检或误检的骨架关键点进行修正，从而得到经修正的标注图像。例如，用户可以通过点击鼠标，将漏检的关键点添加上，或者，使用拖拉拽的方式，将误检的关键点进行重标。

在另一个可能的实现方式中，当用户发现初始标注图像中的当前帧骨架关键点存在漏检或误检时，用户可以通过用户操作标识出漏检或误检的当前帧骨架关键点。然后，电子设备判断当前帧人体图像和历史帧人体图像，例如上一帧人体图像，是否为连续帧图像，电子设备根据判断结果执行相应的操作。具体地，若判定是连续帧图像，则漏检或误检的当前帧骨架关键点继承历史帧人体图像中相应的骨架关键点信息，例如，若根据用户输入的标识确定当前帧骨架关键点中右腕关键点存在误检或漏检，则当前帧人体图像中该右腕关键点直接采用历史帧人体图像中右腕关键点信息。若判定不是连续帧图像，则用户可以通过电子设备的诸如鼠标和/或键盘等输入设备输入人工复检数据，标注工具根据用户输入的人工复检数据对漏检或误检的骨架关键点进行重标或调整。在这个实现方式的基础上，当判定是连续帧图像，则漏检或误检的当前帧骨架关键点继承历史帧人体图像中相应的骨架关键点信息的情形下，还可以进一步的由用户检查继承结果是否存在错误，若存在错误，则用户可以通过用户操作修正错误的继承结果，获得更准确的标注图像。

在另一个可能的实现方式中，对于误检的骨架关键点，用户可以采用一键删除的方法先进行删除，然后再重标至正确位置。

在一些实施例中，电子设备判断当前帧人体图像和历史帧人体图像是否为连续帧图像，可以通过判断当前帧人体图像与历史帧人体图像的相似度是否大于阈值来实现。若大于阈值，则确定当前帧人体图像与历史帧人体图像为连续帧，若小于阈值，则确定当前帧人体图像与历史帧人体图像不为连续帧。阈值可以为经验值。相似度等于阈值时，可以设置成当前帧人体图像与历史帧人体图像为连续帧或不为连续帧，可以根据需求选择性设置。

作为一个可能的实现方式，计算当前帧人体图像中预设数量的当前帧骨架关键点与历史帧人体图像中相应的历史帧骨架关键点之间的第一相似度，若预设数量的第一相似度满足预设条件，则确定当前帧人体图像与历史帧人体图像的相似度大于阈值，即两者为连续帧；若预设数量的第一相似度不满足预设阈值，则确定当前帧人体图像与历史帧人体图像的相似度小于阈值，即两者不为连续帧。其中，预设数量为骨架检测模型输出的自动标注结果中每个人体包括的骨架关键点数量，例如可以为14、17、18、或19等。预设条件可以设置为：预设数量中预设占比的第一相似度大于预设阈值；或者，预设数量中预设数目的第一相似度大于预设阈值。预设占比可以取经验值，例如取50％或85％之间的任一数值。预设数目可以取经验值，可以取小于预设数量的任一数值，例如当预设数量取19时，预设数目可以取15。

作为一非限制性示例，计算当前帧人体图像中任一当前帧骨架关键点与历史帧人体图像中相应的历史帧骨架关键点之间的第一相似度采用欧式距离。具体地，欧式距离d＝sqrt((x1-x2)*(x1-x2)+(y1-y2)*(y1-y2))，其中，当前帧骨架关键点的坐标为(x1，y1)，相应的历史帧骨架关键点的坐标为(x2，y2)。

在其他一些实施例中，电子设备判断当前帧人体图像和历史帧人体图像是否为连续帧图像，可以通过判断当前帧人体图像的图像名称与历史帧人体图像的图像名称是否连续编号来实现。通常情况下，连续帧图像通常采用顺序编号，因此，在本实现方式中，通过简单的方式快速完成判断，进一步提升图像标注效率。具体地，当确定当前帧人体图像的图像名称与历史帧人体图像的图像名称为连续编号，则确定当前帧人体图像和历史帧人体图像为连续帧图像；反之，则不为连续帧图像。

需要说明的是，若经标注工具和/或用户人工复检，发现骨架关键点信息不存在漏标或误标，则保留原骨架关键点信息。具体地，针对未修正的骨架关键点，保留原骨架关键点信息；而针对修正的骨架关键点，保留修正后的骨架关键点信息。

在一些实施例中，可以同屏显示初始标注图像及其骨架关键点类型，此外，还可以显示骨架关键点的区分标注样式，以及骨架关键点是否修正，修正前后采用不同的标注样式。如图5所示，同时显示初始标注图像，19个骨架关键点各自的标注颜色，以及修正前后的标注样式：方形或圆形。

在本申请一些实施例，使用预设骨架检测模型对人体图像进行检测，获得自动标注结果，减少人工标注，大大提高了标注效率。在本申请一些实施例，，可视化自动标注结果，方便对自动标注结果进行复检，提高了复检效率，也提高了标注的准确度，获得了置信度更高的数据集。

需要说明的是，实施例的步骤编号不能解释为各步骤的时间顺序的限制。应理解，在其他一些实施例中，步骤之间的前后顺序可以根据步骤间的逻辑关系进行调换，而不影响本方案的实施。

对应于上文的人体骨架标注方法，本申请实施例还提供一种人体骨架标注装置。该人体骨架标注装置中未详细描述之处请详见前述方法的相关描述，此处不再赘述。

图6是本申请一实施例提供的一种人体骨架标注装置的结构示意图。作为一个示例，所述人体骨架标注装置可以配置于图1所示的电子设备。所述人体骨架标注装置包括：获取模块61、判断模块62、和修正模块63。

其中，获取模块61，获取待标注的当前帧人体图像及其对应的当前帧骨架关键点信息，并将当前帧人体图像的图像信息及当前帧骨架关键点信息保存为当前帧标注文件，其中，骨架关键点信息包括骨架关键点的类型信息和位置信息；

判断模块62，用于利用当前帧标注文件对当前帧人体图像进行标注得到初始标注图像，并判断初始标注图像是否存在漏检或误检获取判断结果；

修正模块63，用于根据判断结果对当前帧人体图像对应的初始标注图像中存在漏检或误检的骨架关键点进行修正，得到当前帧标注图像。

图7是本申请另一实施例提供的一种人体骨架标注装置的结构示意图。人体骨架标注装置包括：标注模块60、获取模块61、判断模块62、和修正模块63。需要说明的是，图7所示实施例与图6所示实施例中相同的模块，此处不再赘述。

其中，标注模块60，用于利用预设的骨架检测模型对人体图像进行检测，获得人体图像的骨架关键点信息。

所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

本申请实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时可实现上述各个人体骨架标注方法实施例中的步骤。

本申请实施例提供了一种计算机程序产品，当计算机程序产品在电子设备上运行时，使得电子设备可实现上述各个人体骨架标注方法实施例中的步骤。

在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。

本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。

在本申请所提供的实施例中，应该理解到，所揭露的装置/电子设备和方法，可以通过其它的方式实现。例如，以上所描述的装置/电子设备实施例仅仅是示意性的，例如，模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。

作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，计算机程序包括计算机程序代码，计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质可以包括：能够携带计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(read-only memory，ROM)、随机存取存储器(random access memory，RAM)、电载波信号、电信信号以及软件分发介质等。需要说明的是，计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括电载波信号和电信信号。

以上实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围，均应包含在本申请的保护范围之内。

Claims (10)

1.一种人体骨架标注方法，其特征在于，包括：

获取待标注的当前帧人体图像及其对应的当前帧骨架关键点信息，并将所述当前帧人体图像的图像信息及所述当前帧骨架关键点信息保存为当前帧标注文件，其中，所述骨架关键点信息包括所述骨架关键点的类型信息和位置信息；

利用所述当前帧标注文件对所述当前帧人体图像进行标注得到初始标注图像，并判断所述初始标注图像是否存在漏检或误检以获取判断结果；

根据所述判断结果对所述当前帧人体图像对应的所述初始标注图像中存在漏检或误检的骨架关键点进行修正，得到当前帧标注图像。

2.如权利要求1所述的人体骨架标注方法，其特征在于，在所述获取待标注的当前帧人体图像及其对应的当前帧骨架关键点信息之前，还包括：

利用预设骨架检测模型对所述当前帧人体图像进行检测，获得所述当前帧人体图像的骨架关键点信息。

3.如权利要求2所述的人体骨架标注方法，其特征在于，若利用所述预设骨架检测模型未检测出所述当前帧人体图像中任一骨架关键点，则对未检测出的所述任一骨架关键点的所述位置信息进行初始化，其中，所述初始化包括所述未检测出的任一骨架关键点的所述位置信息可用位置坐标(0，0)进行初始化；或，初始化所述未检测出的任一骨架关键点以使得未检测出的骨架关键点间隔分布。

4.如权利要求3所述的人体骨架标注方法，其特征在于，所述初始化所述未检测出的任一骨架关键点以使得未检测出的骨架关键点间隔分布，包括：初始化未检测出的骨架关键点的坐标为(B*n，0)，其中，n为未检测出的骨架关键点的排序数，B为预设距离间隔。

5.如权利要求1所述的人体骨架标注方法，其特征在于，所述根据所述判断结果对所述当前帧人体图像对应的所述初始标注图像中存在漏检或误检的骨架关键点进行修正，包括：

针对所述初始标注图像中存在漏检的所述当前帧骨架关键点，重标漏检的所述当前帧骨架关键点；

针对所述初始标注图像中存在误检的所述当前帧骨架关键点，调整误检的所述当前帧骨架关键点。

6.如权利要求5所述的人体骨架标注方法，其特征在于，所述重标漏检的所述当前帧骨架关键点，包括：

响应于用户的第一操作，重标漏检的所述当前帧骨架关键点；或，

若确定所述当前帧人体图像与历史帧人体图像的相似度大于阈值，则漏检的所述当前帧骨架关键点继承所述历史帧人体图像中相应的历史帧骨架关键点信息；若确定所述当前帧人体图像与历史帧人体图像的相似度小于阈值，则响应于用户的第一操作，重标漏检的所述骨架关键点；

所述调整误检的所述当前帧骨架关键点，包括：

响应于用户的第二操作，调整误检的所述骨架关键点；或，

若确定所述当前帧人体图像与历史帧人体图像为连续帧，则误检的所述骨架关键点继承所述历史帧人体图像中相应的历史帧骨架关键点信息；若确定所述当前帧人体图像与历史帧人体图像不为连续帧，则响应于用户的第二操作，调整漏检的所述骨架关键点。

7.如权利要求6所述的人体骨架标注方法，其特征在于，所述确定所述当前帧人体图像与历史帧人体图像为连续帧，包括：

确定所述当前帧人体图像与历史帧人体图像的相似度大于阈值；或，确定所述当前帧人体图像与历史帧人体图像的图像名称连续编号。

8.一种人体骨架标注装置，其特征在于，包括：

获取模块，用于获取待标注的当前帧人体图像及其对应的当前帧骨架关键点信息，并将所述当前帧人体图像的图像信息及所述当前帧骨架关键点信息保存为当前帧标注文件，其中，所述骨架关键点信息包括所述骨架关键点的类型信息和位置信息；

判断模块，用于利用所述当前帧标注文件对所述当前帧人体图像进行标注得到初始标注图像，并判断所述初始标注图像是否存在漏检或误检以获取判断结果；

修正模块，用于根据所述判断结果对所述当前帧人体图像对应的所述初始标注图像中存在漏检或误检的骨架关键点进行修正，得到当前帧标注图像。

9.一种电子设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述的人体骨架标注方法。

10.一种计算机存储介质，所述计算机存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的人体骨架标注方法。

Images