CN113378808B - 人物图像识别方法、装置、电子设备和计算机可读介质 - Google Patents

人物图像识别方法、装置、电子设备和计算机可读介质 Download PDF

Info

Publication number
CN113378808B
CN113378808B CN202110934974.7A CN202110934974A CN113378808B CN 113378808 B CN113378808 B CN 113378808B CN 202110934974 A CN202110934974 A CN 202110934974A CN 113378808 B CN113378808 B CN 113378808B
Authority
CN
China
Prior art keywords
joint
deconvolution
network
image
group
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110934974.7A
Other languages
English (en)
Other versions
CN113378808A (zh
Inventor
刘宇
冯毅强
杨李梅
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Saibo Sports Technology Co ltd
Original Assignee
Beijing Saibo Sports Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Saibo Sports Technology Co ltd filed Critical Beijing Saibo Sports Technology Co ltd
Priority to CN202110934974.7A priority Critical patent/CN113378808B/zh
Publication of CN113378808A publication Critical patent/CN113378808A/zh
Application granted granted Critical
Publication of CN113378808B publication Critical patent/CN113378808B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/047—Probabilistic or stochastic networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biophysics (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Probability & Statistics with Applications (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Image Analysis (AREA)

Abstract

本公开的实施例公开了人物图像识别方法、装置、电子设备和计算机可读介质。该方法的一具体实施方式包括：获取人物图像；通过预设的图像识别模型包括的特征提取网络对上述人物图像进行特征提取，得到全局特征图，其中，上述预设的图像识别模型还包括关节识别网络，其中，上述关节识别网络包括反卷积分支网络组，上述反卷积分支网络组用于生成人物关节热力图组；将上述全局特征图输入至上述关节识别网络，得到人物关节热力图组；基于上述人物关节热力图组，生成人物图像识别结果，以及将上述人物图像识别结果发送至显示终端以供显示。该实施方式可以提高生成人物图像识别结果的准确性。

Description

人物图像识别方法、装置、电子设备和计算机可读介质
技术领域
本公开的实施例涉及计算机技术领域，具体涉及人物图像识别方法、装置、电子设备和计算机可读介质。
背景技术
人物图像识别方法，是识别人物图像中人物关节点的一项技术。目前，在识别人物图像时，通常采用的方式为：对通用的漏斗网络结构的模型进行训练，得到用于人物图像识别的模型，以此，对人物图像进行识别，得到识别结果。其中，通用的漏斗网络结构的模型在对输入的图像完成提取低分辨率高语义的特征图后，在恢复出高分辨率高语义特征图的过程中采用了联合训练的方式，使得各个关节对应的特征图由同一个网络分支进行提取，共享权重。由此可以简化网络设计，减少一部分计算量，同时由于各关节之间的联系，共享权重可以加速模型的收敛。
然而，当采用上述方式进行人物图像识别时，经常会存在如下技术问题：
第一，由于各个关节存在尺寸和外观上的差异，而且不同关节之间的视域不一定具有相关性，因此共享权重的设置，容易对各个关节最终的精度产生负面的影响，出现负迁移现象，从而，导致降低生成人物图像识别结果的准确性；
第二，通过漏斗网络结构的模型生成的、同目标热力图保持一致的预测热力图存在因量化误差而产生的绝对信息损失，难以在后续的推断过程中确定其在原始图片上的确切位置，从而，导致降低生成人物图像识别结果的准确性。
发明内容
本公开的内容部分用于以简要的形式介绍构思，这些构思将在后面的具体实施方式部分被详细描述。本公开的内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征，也不旨在用于限制所要求的保护的技术方案的范围。
本公开的一些实施例提出了人物图像识别方法、装置、电子设备和计算机可读介质，来解决以上背景技术部分提到的技术问题中的一项或多项。
第一方面，本公开的一些实施例提供了一种人物图像识别方法，该方法包括：获取人物图像；通过预设的图像识别模型包括的特征提取网络对上述人物图像进行特征提取，得到全局特征图，其中，上述预设的图像识别模型还包括关节识别网络，其中，上述关节识别网络包括反卷积分支网络组，上述反卷积分支网络组用于生成人物关节热力图组；将上述全局特征图输入至上述关节识别网络，得到人物关节热力图组；基于上述人物关节热力图组，生成人物图像识别结果，以及将上述人物图像识别结果发送至显示终端以供显示。
第二方面，本公开的一些实施例提供了一种人物图像识别装置，装置包括：获取单元，被配置成获取人物图像；特征提取单元，被配置成通过预设的图像识别模型包括的特征提取网络对上述人物图像进行特征提取，得到全局特征图，其中，上述预设的图像识别模型还包括关节识别网络；输入单元，被配置成将上述全局特征图输入至上述关节识别网络，得到人物关节热力图组，其中，上述关节识别网络包括反卷积分支网络组，上述反卷积分支网络组用于生成人物关节热力图组；生成单元，被配置成基于上述人物关节热力图组，生成人物图像识别结果，以及将上述人物图像识别结果发送至显示终端以供显示。
第三方面，本公开的一些实施例提供了一种电子设备，包括：一个或多个处理器；存储装置，其上存储有一个或多个程序，当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现上述第一方面任一实现方式所描述的方法。
第四方面，本公开的一些实施例提供了一种计算机可读介质，其上存储有计算机程序，其中，程序被处理器执行时实现上述第一方面任一实现方式所描述的方法。
本公开的上述各个实施例具有如下有益效果：通过本公开的一些实施例的人物图像识别方法，可以提高生成人物图像识别结果的准确性。具体来说，造成降低生成人物图像识别结果的准确性的原因在于：由于各个关节存在尺寸和外观上的差异，而且不同名的关节之间不一定具有相关性，因此共享权重的设置，容易对各个关节最终的精度产生负面的影响，出现负迁移现象。基于此，本公开的一些实施例的人物图像识别方法，通过预设的图像识别模型包括的特征提取网络对上述人物图像进行特征提取，得到全局特征图，其中，上述预设的图像识别模型还包括关节识别网络；将上述全局特征图输入至上述关节识别网络，得到人物关节热力图组，其中，上述关节识别网络包括反卷积分支网络组，上述反卷积分支网络组用于生成人物关节热力图组。通过引入关节识别网络以及包括的反卷积分支网络组，使得各个关节对应的特征图可以由不同的网络分支进行提取。由此，可以针对不同的关节设置不同的权重。同时，也可以避免各个关节存在尺寸和外观上的差异，以及不同名的关节之间不同的视域，对各个关节最终的精度产生的负面影响。从而，避免了负迁移现象的出现。进而，可以提高生成人物图像识别结果的准确性。
附图说明
结合附图并参考以下具体实施方式，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中，相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的，元件和元素不一定按照比例绘制。
图1是本公开的一些实施例的人物图像识别方法的一个应用场景的示意图；
图2是根据本公开的人物图像识别方法的一些实施例的流程图；
图3是根据本公开的人物图像识别方法的另一些实施例的流程图；
图4是根据本公开的人物图像识别方法的关节点分组示意图。
图5是根据本公开的人物图像识别装置的一些实施例的结构示意图；
图6是适于用来实现本公开的一些实施例的电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例。相反，提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。
另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。
需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。
下面将参考附图并结合实施例来详细说明本公开。
图1是本公开的一些实施例的人物图像识别方法的一个应用场景的示意图。
在图1的应用场景中，首先，计算设备101可以获取人物图像102。接着，计算设备101可以通过预设的图像识别模型103包括的特征提取网络1031对上述人物图像进行特征提取，得到全局特征图104，其中，上述预设的图像识别模型还包括关节识别网络1032。然后，计算设备101可以将上述全局特征图104输入至上述关节识别网络1032，得到人物关节热力图组105，其中，上述关节识别网络1032包括反卷积分支网络组1033，上述反卷积分支网络组1033用于生成人物关节热力图组105。最后，计算设备101可以基于上述人物关节热力图组105，生成人物图像识别结果106，以及将上述人物图像识别结果106发送至显示终端107以供显示。
需要说明的是，上述计算设备101可以是硬件，也可以是软件。当计算设备为硬件时，可以实现成多个服务器或终端设备组成的分布式集群，也可以实现成单个服务器或单个终端设备。当计算设备体现为软件时，可以安装在上述所列举的硬件设备中。其可以实现成例如用来提供分布式服务的多个软件或软件模块，也可以实现成单个软件或软件模块。在此不做具体限定。
应该理解，图1中的计算设备的数目仅仅是示意性的。根据实现需要，可以具有任意数目的计算设备。
继续参考图2，示出了根据本公开的人物图像识别方法的一些实施例的流程200。该人物图像识别方法的流程200，包括以下步骤：
步骤201，获取人物图像。
在一些实施例中，人物图像识别方法的执行主体（如图1所示的计算设备101）可以通过有线的方式或者无线的方式获取人物图像。其中，上述人物图像可以是全身的人物图像，也可以是半身或部分人物图像。
作为示例，全身的人物图像可以包括以下部位：鼻子、左眼、右眼、左耳、右耳、左肩、右肩、左肘、左腕、右肘、右腕、左臀、右臀、左膝、右膝、左踝和右踝等。上述半身或部分人物图像可以包括但不限于全身的人物图像中至少一个部位。
步骤202，通过预设的图像识别模型包括的特征提取网络对人物图像进行特征提取，得到全局特征图。
在一些实施例中，上述执行主体可以通过预设的图像识别模型包括的特征提取网络对上述人物图像进行特征提取，得到全局特征图。其中，上述预设的图像识别模型还可以包括关节识别网络。上述预设图像识别模型可以由特征提取网络和关节识别网络构成。上述特征提取网络可以包括但不限于以下任意一项：Resnet（Residual Network，残差神经网络）模型、VGG（Visual Geometry Group Network，超分辨率测试序列）模型和GoogLeNet（深度神经网络）模型等。上述关节识别网络可以包括但不限于以下任意一项：MRF（MRF-MarkovRandom Field，马尔科夫条件随机场）模型、SPP（Spatial Pyramid Pooling，空间金字塔池化模块）模型和FCN（Fully Convolutional Networks，全卷机神经网络）模型。上述全局特征图可以是包括完整上述人物图像全部特征的特征图。
步骤203，将全局特征图输入至关节识别网络，得到人物关节热力图组。
在一些实施例中，上述执行主体可以将上述全局特征图输入至上述关节识别网络，得到人物关节热力图组。其中，上述关节识别网络可以包括反卷积分支网络组。上述反卷积分支网络组可以用于生成人物关节热力图组。上述反卷积分支网络组中包括的反卷积分支网络的数量可以与上述人物关节热力图组中人物关节热力图的数量相同。另外，反卷积分支网络可以包括卷积层、反卷积层、激活层和可变卷积层等，在此不做具体限定。上述人物关节热力图组中的各个人物关节热力图可以用于表征上述人物图像中不同关节部位的特征。
步骤204，基于人物关节热力图组，生成人物图像识别结果，以及将人物图像识别结果发送至显示终端以供显示。
在一些实施例中，上述执行主体可以基于上述人物关节热力图组，生成人物图像识别结果，以及将上述人物图像识别结果发送至显示终端以供显示。其中，首先，可以确定人物关节热力图组中各个人物关节热力图中热力值最大的像素的像素坐标值，得到像素坐标值组。然后可以将像素坐标值组确定为人物图像识别结果。像素坐标值可以用于表征人物关节热力图中的关节点位置。从而，将人物图像识别结果发送至显示终端以供显示，可以用于在与上述人物图像具有相同尺寸的背景图上展示出像素坐标值组。即展示出各个人物图像中各个关节点对应的坐标值。
本公开的上述各个实施例具有如下有益效果：通过本公开的一些实施例的人物图像识别方法，可以提高生成人物图像识别结果的准确性。具体来说，造成降低生成人物图像识别结果的准确性的原因在于：由于各个关节存在尺寸和外观上的差异，而且不同名的关节之间不一定具有相关性，因此共享权重的设置，容易对各个关节最终的精度产生负面的影响，出现负迁移现象。基于此，本公开的一些实施例的人物图像识别方法，通过预设的图像识别模型包括的特征提取网络对上述人物图像进行特征提取，得到全局特征图，其中，上述预设的图像识别模型还包括关节识别网络；将上述全局特征图输入至上述关节识别网络，得到人物关节热力图组，其中，上述关节识别网络包括反卷积分支网络组，上述反卷积分支网络组用于生成人物关节热力图组。通过引入关节识别网络以及包括的反卷积分支网络组，使得各个关节对应的特征图可以由不同的网络分支进行提取。由此，可以针对不同的关节设置不同的权重。同时，也可以避免各个关节存在尺寸和外观上的差异，以及不同名的关节之间不同的视域，对各个关节最终的精度产生的负面影响。从而，避免了负迁移现象的出现。进而，可以提高生成人物图像识别结果的准确性。
进一步参考图3，其示出了人物图像识别方法的另一些实施例的流程300。该人物图像识别方法的流程300，包括以下步骤：
步骤301，获取人物图像。
步骤302，通过预设的图像识别模型包括的特征提取网络对人物图像进行特征提取，得到全局特征图。
在一些实施例中，步骤301-302的具体实现方式及所带来的技术效果可以参考图2对应的那些实施例中的步骤201-202，在此不再赘述。
在一些实施例的一些可选的实现方式中，上述预设的图像识别模型可以是通过以下步骤训练生成的：
第一步，确定训练样本和待训练图像识别模型。其中，上述训练样本可以包括样本图像和样本关节热力图组，上述待训练图像识别模型可以包括待训练特征提取网络和待训练关节识别网络。上述待训练特征提取网络可以用于提取上述人物图像的整体特征。上述待训练关节识别网络可以用于生成上述任务图像包括的各个关节部位的关节点热力图。
第二步，将上述样本图像输入至上述待训练特征提取网络，得到训练特征图。其中，上述训练特征图可以用于表示上述人物图像的整体特征。
第三步，将上述训练特征图输入至上述待训练关节识别网络，得到训练关节热力图组。其中，上述训练关节热力图组中的各个训练关节热力图可以用于表征上述人物图像包括的各个关节部位的关节点热力图。
第四步，确定上述训练关节热力图组中各个训练关节热力图与上述样本关节热力图组中对应的样本关节热力图之间的差异，以生成损失值组。其中，上述样本关节热力图组中的各个样本关节热力图可以是按照预设的顺序排列的。例如，按照从人物的人体部位从上到下的顺序等。训练关节热力图组可以是由关节识别网络中包括的反卷积分支网络组生成的。因此，可以通过确定反卷积分支网络组中各个反卷积分支网络与样本关节热力图的对应关系，确定训练关节热力图与样本关节热力图之间的对应关系。具体的，可以将训练关节热力图和样本关节热力图之间的各个像素点对应的热力值的均方误差确定为损失值。
第五步，响应于确定上述损失值组中各个损失值的和大于预设损失阈值，确定上述待训练图像识别模型未训练完成，以及调整上述待训练图像识别模型中的相关参数。其中，损失值组中各个损失值的和大于预设损失阈值可以表征存在至少一个训练关节热力图与样本关节热力图之间的差异较大。由此可以确定待训练图像识别模型未训练完成。
在一些实施例的一些可选的实现方式中，上述预设的图像识别模型的训练步骤还可以包括响应于确定上述损失值组中各个损失值的和小于等于上述预设损失阈值，确定上述待训练图像识别模型训练完成，以及将上述待训练图像识别模型确定为上述图像识别模型。
在一些实施例的一些可选的实现方式中，上述样本关节热力图组可以是通过以下方式生成的：
第一步，获取上述训练样本包括的样本图像中的样本关节点坐标值组。其中，可以获取人工对上述训练样本图像标注的样本关节点坐标值组。样本关节点坐标值可以用于精确的表征样本图像中关节点所在的位置。
第二步，根据预设的热力图缩放倍率，对上述样本关节点坐标值组中的各个样本关节点坐标值进行坐标转换，得到转换关节点坐标值组。其中，上述坐标转换可以是将上述样本关节点坐标值的横坐标值和纵坐标值分别除以上述热力图缩放倍率，得到转换关节点坐标值的横坐标值和纵坐标值。以此，可以得到转换关节点坐标值组。另外，若上述样本关节点坐标值的横坐标值和纵坐标值分别除以上述热力图缩放倍率出现小数时，可以通过量化方法进行调整。例如，向上取整、向下取整或取近似值等量化方法。在此不做具体限定。
第三步，基于上述转换关节点坐标值组，对上述样本图像进行图像转换以生成样本关节热力图，得到样本关节热力图组。其中，首先可以利用上述预设的热力图缩放倍率。对上述样本图像进行缩放，得到缩放样本图像。然后，可以将缩放样本图像中各个像素点的像素点设为0，以及依次对每个转换关节点坐标值为中心构建高斯热力图，作为样本关节点热力图。从而，可以得到样本关节点热力图组。
具体的，由于姿态估计任务是一种密集预测任务，计算复杂度较高。若在计算的全程中，特征图保持同原始图片尺寸一致，将造成显存溢出的问题。同时作为有监督的学习方法，网络训练的目标是使得输出预测得到的热力图尽可能与按照真实数据生成的热力图其中的数据分布保持一致。因此，在训练过程中所使用的目标热力图也与网络输出的热力图大小保持一致。因此，设置预设的热力图缩放倍率，使得样本图像可以缩放至原始尺寸四分之一或者八分之一等。从而，可以提高人物图像识别的效率。
步骤303，通过特征拆分模块对全局特征图进行拆分，以生成拆分特征图组。
在一些实施例中，人物图像识别方法的执行主体（如图1所示的计算设备101）可以通过上述特征拆分模块对上述全局特征图进行拆分，以生成拆分特征图组。其中，上述关节识别网络还可以包括特征拆分模块。上述拆分可以是将上述全局特征图的通道数平均拆分为关节总数的数量。由此，可以得到拆分特征图组。
作为示例，上述关节总数可以是16个。可以分别为：鼻子、左眼、右眼、左耳、右耳、左肩、右肩、左肘、左腕、右肘、右腕、左臀、右臀、左膝、右膝、左踝和右踝等。例如，上述全局特征图的通道数为256。则可以将通道数平均拆分为16等份。
步骤304，将上述拆分特征图组中的各个拆分特征图输入至上述反卷积分支网络组中对应的反卷积分支网络，以生成人物关节热力图组。
在一些实施例中，上述执行主体可以将上述拆分特征图组中的各个拆分特征图输入至上述反卷积分支网络组中对应的反卷积分支网络，以生成人物关节热力图组。其中，由于一些关节点之间的视域存在相关性（例如，鼻子、左眼、右眼、左耳、右耳、左肩、右肩，都属于头部的关节点）。因此，可以设置反卷积分支网络组中反卷积分支网络的数量。使得一个反卷积分支网络可以同时用于生成具有视域相关性的关节热力图。从而，可以保留常用方法中共享权重的特性。使得针对有视域相关性的特征图可以具有更好的识别效果以及模型训练效率。
作为示例，可以将存在相关性的关节点分为一组。从而，可以将上述关节点分为五组。如图4所示，第一组：[鼻子0、左眼1、右眼2、左耳3、右耳4、左肩5、右肩6]。第二组：[左肘7、左腕8]。第三组：[右肘9、右腕10]。第四组：[左臀11、右臀12]。第五组：[左膝13、右膝14、左踝15、右踝16]。由于每组中的关节点存在相关性，因此可以通过同一个反卷积分支网络进行识别。以提高人物图像识别的效率。从而，上述反卷积分支网络组中的反卷积分支网络也可以是五个。相比于每个关节点对应一个反卷积分支网络，将存在相关性的关节点分为一组使用同一个反卷积分支网络和共享权重，可以减少超参数的数量，减少计算量。同时由于各关节之间的联系，共享权重可以加速模型的收敛。
在一些实施例的一些可选的实现方式中，上述反卷积分支网络组中的反卷积分支网络还可以包括：第一卷积层、第一反卷积模块、第二卷积层、第二反卷积模块、第三卷积层、第三反卷积模块、第四卷积层和可变卷积层，上述第一反卷积模块可以包括：第一反卷积层、第一归一化层和第一激活层，上述第二反卷积模块可以包括：第二反卷积层、第二归一化层和第二激活层，上述第三反卷积模块可以包括：第三反卷积层、第三归一化层和第三激活层。其中，上述第一反卷积层、第二反卷积层和第三反卷积层的卷积核尺寸可以是4×4，步长为2。上述第一归一化层的卷积核通道数可以是256。上述第二归一化层和第三归一化层的卷积核通道数可以是128。上述可变卷积层的卷积核尺寸可以是4×4，步长为1。另外，关节特征每通过一层反卷积层，其长和宽均可以变为输入时的两倍，最终可以得到高分辨率的关节特征图。
步骤305基于人物关节热力图组，生成人物图像识别结果，以及将人物图像识别结果发送至显示终端以供显示。
在一些实施例中，上述执行主体基于上述人物关节热力图组，生成人物图像识别结果，可以包括以下步骤：
第一步，对上述人物关节热力图组中各个人物关节热力图进行归一化处理，得到归一化关节热力图组。其中，可以通过归一化指数函数，对上述人物关节热力图组中的各个人物关节热力图进行归一化处理，得到归一化关节热力图组。具体的，归一化处理可以使得人物关节热力图中所有像素点的热力值非负，以及使得上述像素点的热力值的和为1。
第二步，确定上述归一化关节热力图组中各个归一化关节热力图中的关节点坐标值，得到归一化关节点坐标值组。其中，可以通过以下数学期望公式确定上述归一化关节热力图组中每个归一化关节热力图中的关节点坐标值：
Figure 197552DEST_PATH_IMAGE001
。
其中，
Figure 442588DEST_PATH_IMAGE002
表示上述关节点坐标值。
Figure 753484DEST_PATH_IMAGE003
表示上述归一化关节热力图中像素点的坐标值。
Figure 679852DEST_PATH_IMAGE004
表示数学期望公式中的分布密度函数，可以用于表征上述归一化关节热力图中像素点的热力值。
Figure 228645DEST_PATH_IMAGE005
表示对上述归一化关节热力图中各个像素点的热力值进行积分运算。由于，归一化关节热力图中所有像素点的热力值非负。因此，可以将
Figure 582266DEST_PATH_IMAGE003
作为连续性随机变量。可以将
Figure 646037DEST_PATH_IMAGE004
称为
Figure 579358DEST_PATH_IMAGE003
的分布密度函数。
Figure 779395DEST_PATH_IMAGE002
可以用于表征数学期望的坐标值，由随机变量的概率分布所确定。
第三步，根据上述归一化关节点坐标值组中的各个归一化关节点坐标值，对上述人物图像进行关节点标记，得到关节点标记人物图像，并将上述关节点标记人物图像作为人物图像识别结果。其中，对上述人物图像进行关节点标记可以是在上述人物图像中标记出上述各个归一化关键点坐标值。以及将标记出的各个归一化关键点坐标值进行连线。得到带有人物关节点连线的人物图像。
上述公式及其相关内容实现了对生成人物图像识别结果的后处理，使得可以从人物识别热力图中提取出归一化关节点坐标值。从而，实现人物图像识别。由此，相比于直接通过模型生成关节点坐标值，此种方法可以减少从热力图到生成关节点坐标值之间的量化误差。从而，可以提高人物图像识别结果生成的准确性。
从图3中可以看出，与图2对应的一些实施例的描述相比，图3对应的一些实施例中的人物图像识别方法的流程300体现了预设的图像识别模型的训练步骤和模型结构。首先，由于姿态估计任务是一种密集预测任务，计算复杂度较高。若在计算的全程中，特征图保持同原始图片尺寸一致，将造成显存溢出的问题。同时作为有监督的学习方法，网络训练的目标是使得输出预测得到的热力图尽可能与按照真实数据生成的热力图其中的数据分布保持一致。因此，在训练过程中所使用的目标热力图也与网络输出的热力图大小保持一致。因此，设置预设的热力图缩放倍率，使得样本图像可以缩放至原始尺寸四分之一或者八分之一等。从而，可以提高人物图像识别的效率。然后，由于一些关节点之间的视域存在相关性（例如，鼻子、左眼、右眼、左耳、右耳、左肩、右肩，都属于头部的关节点）。因此，可以设置反卷积分支网络组中反卷积分支网络的数量。使得一个反卷积分支网络可以同时用于生成具有视域相关性的关节热力图。从而，可以保留常用方法中共享权重的特性。使得针对有视域相关性的特征图可以具有更好的识别效果以及模型训练效率。最后，通过上述公式及其相关内容实现了对生成人物图像识别结果的后处理，使得可以从人物识别热力图中提取出归一化关节点坐标值。由此，相比于直接通过模型生成关节点坐标值，此种方法可以减少从热力图到生成关节点坐标值之间的量化误差。从而，可以在后续推断过程中确定其在原始图片上的确切位置。进而，可以提高人物图像识别结果生成的准确性。
进一步参考图5，作为对上述各图所示方法的实现，本公开提供了一种人物图像识别装置的一些实施例，这些装置实施例与图2所示的那些方法实施例相对应，该装置具体可以应用于各种电子设备中。
如图5所示，一些实施例的人物图像识别装置500包括：获取单元501、特征提取单元502、输入单元503和生成单元504。其中，获取单元501，被配置成获取人物图像；特征提取单元502，被配置成通过预设的图像识别模型包括的特征提取网络对上述人物图像进行特征提取，得到全局特征图，其中，上述预设的图像识别模型还包括关节识别网络；输入单元503，被配置成将上述全局特征图输入至上述关节识别网络，得到人物关节热力图组，其中，上述关节识别网络包括反卷积分支网络组，上述反卷积分支网络组用于生成人物关节热力图组；生成单元504，被配置成基于上述人物关节热力图组，生成人物图像识别结果，以及将上述人物图像识别结果发送至显示终端以供显示。
可以理解的是，该装置500中记载的诸单元与参考图2描述的方法中的各个步骤相对应。由此，上文针对方法描述的操作、特征以及产生的有益效果同样适用于装置500及其中包含的单元，在此不再赘述。
下面参考图6，其示出了适于用来实现本公开的一些实施例的电子设备（例如图1中的计算设备101）600的结构示意图。图6示出的电子设备仅仅是一个示例，不应对本公开的实施例的功能和使用范围带来任何限制。
如图6所示，电子设备600可以包括处理装置（例如中央处理器、图形处理器等）601，其可以根据存储在只读存储器（ROM）602中的程序或者从存储装置608加载到随机访问存储器（RAM）603中的程序而执行各种适当的动作和处理。在RAM 603中，还存储有电子设备600操作所需的各种程序和数据。处理装置601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出（I/O）接口605也连接至总线604。
通常，以下装置可以连接至I/O接口605：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置606；包括例如液晶显示器（LCD）、扬声器、振动器等的输出装置607；包括例如磁带、硬盘等的存储装置608；以及通信装置609。通信装置609可以允许电子设备600与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的电子设备600，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图6中示出的每个方框可以代表一个装置，也可以根据需要代表多个装置。
特别地，根据本公开的一些实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的一些实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的一些实施例中，该计算机程序可以通过通信装置609从网络上被下载和安装，或者从存储装置608被安装，或者从ROM 602被安装。在该计算机程序被处理装置601执行时，执行本公开的一些实施例的方法中限定的上述功能。
需要说明的是，本公开的一些实施例上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器（RAM）、只读存储器（ROM）、可擦式可编程只读存储器（EPROM或闪存）、光纤、便携式紧凑磁盘只读存储器（CD-ROM）、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的一些实施例中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开的一些实施例中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF（射频）等等，或者上述的任意合适的组合。
在一些实施方式中，客户端、服务器可以利用诸如HTTP（HyperText TransferProtocol，超文本传输协议）之类的任何当前已知或未来研发的网络协议进行通信，并且可以与任意形式或介质的数字数据通信（例如，通信网络）互连。通信网络的示例包括局域网（“LAN”），广域网（“WAN”），网际网（例如，互联网）以及端对端网络（例如，ad hoc端对端网络），以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述装置中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：获取人物图像；通过预设的图像识别模型包括的特征提取网络对上述人物图像进行特征提取，得到全局特征图，其中，上述预设的图像识别模型还包括关节识别网络，其中，上述关节识别网络包括反卷积分支网络组，上述反卷积分支网络组用于生成人物关节热力图组；将上述全局特征图输入至上述关节识别网络，得到人物关节热力图组；基于上述人物关节热力图组，生成人物图像识别结果，以及将上述人物图像识别结果发送至显示终端以供显示。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的一些实施例的操作的计算机程序代码，上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网（LAN）或广域网（WAN）——连接到用户计算机，或者，可以连接到外部计算机（例如利用因特网服务提供商来通过因特网连接）。
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开的一些实施例中的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器包括获取单元、特征提取单元、输入单元、生成单元。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定，例如，获取单元还可以被描述为“获取人物图像的单元”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列（FPGA）、专用集成电路（ASIC）、专用标准产品（ASSP）、片上系统（SOC）、复杂可编程逻辑设备（CPLD）等等。
以上描述仅为本公开的一些较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开的实施例中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开的实施例中公开的（但不限于）具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (8)

1.一种人物图像识别方法，包括：
获取人物图像；
通过预设的图像识别模型包括的特征提取网络对所述人物图像进行特征提取，得到全局特征图，其中，所述预设的图像识别模型还包括关节识别网络，所述全局特征图是包括完整人物图像全部特征的特征图；
将所述全局特征图输入至所述关节识别网络，得到人物关节热力图组，其中，所述关节识别网络包括反卷积分支网络组，所述反卷积分支网络组用于生成人物关节热力图组，所述人物关节热力图组中的各个人物关节热力图用于表征上述人物图像中不同关节部位的特征；
基于所述人物关节热力图组，生成人物图像识别结果，以及将所述人物图像识别结果发送至显示终端以供显示；
其中，所述关节识别网络还包括特征拆分模块；以及
所述将所述全局特征图输入至所述关节识别网络，得到人物关节热力图组，包括：
通过所述特征拆分模块对所述全局特征图进行拆分，以生成拆分特征图组；
将所述拆分特征图组中的各个拆分特征图输入至所述反卷积分支网络组中对应的反卷积分支网络，以生成人物关节热力图组，其中，所述反卷积分支网络组中的反卷积分支网络包括：第一卷积层、第一反卷积模块、第二卷积层、第二反卷积模块、第三卷积层、第三反卷积模块、第四卷积层和可变卷积层，所述第一反卷积模块包括：第一反卷积层、第一归一化层和第一激活层，所述第二反卷积模块包括：第二反卷积层、第二归一化层和第二激活层，所述第三反卷积模块包括：第三反卷积层、第三归一化层和第三激活层。
2.根据权利要求1所述的方法，其中，所述预设的图像识别模型是通过以下步骤训练生成的：
确定训练样本和待训练图像识别模型，其中，所述训练样本包括样本图像和样本关节热力图组，所述待训练图像识别模型包括待训练特征提取网络和待训练关节识别网络；
将所述样本图像输入至所述待训练特征提取网络，得到训练特征图；
将所述训练特征图输入至所述待训练关节识别网络，得到训练关节热力图组；
确定所述训练关节热力图组中各个训练关节热力图与所述样本关节热力图组中对应的样本关节热力图之间的差异，以生成损失值组；
响应于确定所述损失值组中各个损失值的和大于预设损失阈值，确定所述待训练图像识别模型未训练完成，以及调整所述待训练图像识别模型中的相关参数。
3.根据权利要求2所述的方法，其中，所述方法还包括：
响应于确定所述损失值组中各个损失值的和小于等于所述预设损失阈值，确定所述待训练图像识别模型训练完成，以及将所述待训练图像识别模型确定为所述图像识别模型。
4.根据权利要求2所述的方法，其中，所述样本关节热力图组是通过以下步骤生成的：
获取所述训练样本包括的样本图像中的样本关节点坐标值组；
根据预设的热力图缩放倍率，对所述样本关节点坐标值组中的各个样本关节点坐标值进行坐标转换，得到转换关节点坐标值组；
基于所述转换关节点坐标值组，对所述样本图像进行图像转换以生成样本关节热力图，得到样本关节热力图组。
5.根据权利要求1所述的方法，其中，所述基于所述人物关节热力图组，生成人物图像识别结果，包括：
对所述人物关节热力图组中额各个人物关节热力图进行归一化处理，得到归一化关节热力图组；
确定所述归一化关节热力图组中各个归一化关节热力图中的关节点坐标值，得到归一化关节点坐标值组；
根据所述归一化关节点坐标值组中的各个归一化关节点坐标值，对所述人物图像进行关节点标记，得到关节点标记人物图像，并将所述关节点标记人物图像作为人物图像识别结果。
6.一种人物图像识别装置，包括：
获取单元，被配置成获取人物图像；
特征提取单元，被配置成通过预设的图像识别模型包括的特征提取网络对所述人物图像进行特征提取，得到全局特征图，其中，所述预设的图像识别模型还包括关节识别网络，所述全局特征图是包括完整人物图像全部特征的特征图；
输入单元，被配置成将所述全局特征图输入至所述关节识别网络，得到人物关节热力图组，其中，所述关节识别网络包括反卷积分支网络组，所述反卷积分支网络组用于生成人物关节热力图组，所述人物关节热力图组中的各个人物关节热力图用于表征上述人物图像中不同关节部位的特征；
生成单元，被配置成基于所述人物关节热力图组，生成人物图像识别结果，以及将所述人物图像识别结果发送至显示终端以供显示；
其中，所述关节识别网络还包括特征拆分模块；以及
所述将所述全局特征图输入至所述关节识别网络，得到人物关节热力图组，包括：
通过所述特征拆分模块对所述全局特征图进行拆分，以生成拆分特征图组；
将所述拆分特征图组中的各个拆分特征图输入至所述反卷积分支网络组中对应的反卷积分支网络，以生成人物关节热力图组，其中，所述反卷积分支网络组中的反卷积分支网络包括：第一卷积层、第一反卷积模块、第二卷积层、第二反卷积模块、第三卷积层、第三反卷积模块、第四卷积层和可变卷积层，所述第一反卷积模块包括：第一反卷积层、第一归一化层和第一激活层，所述第二反卷积模块包括：第二反卷积层、第二归一化层和第二激活层，所述第三反卷积模块包括：第三反卷积层、第三归一化层和第三激活层。
7.一种电子设备，包括：
一个或多个处理器；
存储装置，其上存储有一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-5中任一所述的方法。
8.一种计算机可读介质，其上存储有计算机程序，其中，所述程序被处理器执行时实现如权利要求1-5中任一所述的方法。
CN202110934974.7A 2021-08-16 2021-08-16 人物图像识别方法、装置、电子设备和计算机可读介质 Active CN113378808B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110934974.7A CN113378808B (zh) 2021-08-16 2021-08-16 人物图像识别方法、装置、电子设备和计算机可读介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110934974.7A CN113378808B (zh) 2021-08-16 2021-08-16 人物图像识别方法、装置、电子设备和计算机可读介质

Publications (2)

Publication Number Publication Date
CN113378808A CN113378808A (zh) 2021-09-10
CN113378808B true CN113378808B (zh) 2021-11-23

Family

ID=77577184

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110934974.7A Active CN113378808B (zh) 2021-08-16 2021-08-16 人物图像识别方法、装置、电子设备和计算机可读介质

Country Status (1)

Country Link
CN (1) CN113378808B (zh)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107145889B (zh) * 2017-04-14 2020-02-18 中国人民解放军国防科学技术大学 基于具有RoI池化的双CNN网络的目标识别方法
CN112887511A (zh) * 2018-03-27 2021-06-01 华为技术有限公司 智能视频处理装置
CN110728209B (zh) * 2019-09-24 2023-08-08 腾讯科技（深圳）有限公司 一种姿态识别方法、装置、电子设备及存储介质
CN112949469A (zh) * 2021-02-26 2021-06-11 中国科学院自动化研究所 针对人脸篡改图像特点分布的图像识别方法、系统及设备
CN113095129B (zh) * 2021-03-01 2024-04-26 北京迈格威科技有限公司 姿态估计模型训练方法、姿态估计方法、装置和电子设备

Also Published As

Publication number Publication date
CN113378808A (zh) 2021-09-10

Similar Documents

Publication Publication Date Title
KR102342604B1 (ko) 뉴럴 네트워크 생성 방법 및 장치
CN109800732B (zh) 用于生成漫画头像生成模型的方法和装置
CN108205655B (zh) 一种关键点预测方法、装置、电子设备及存储介质
CN113095129B (zh) 姿态估计模型训练方法、姿态估计方法、装置和电子设备
CN111915480B (zh) 生成特征提取网络的方法、装置、设备和计算机可读介质
WO2020093724A1 (zh) 生成信息的方法和装置
CN113033580B (zh) 图像处理方法、装置、存储介质及电子设备
CN112800276A (zh) 视频封面确定方法、装置、介质及设备
CN116128055A (zh) 图谱构建方法、装置、电子设备和计算机可读介质
CN116977885A (zh) 视频文本任务处理方法、装置、电子设备及可读存储介质
CN114420135A (zh) 基于注意力机制的声纹识别方法及装置
CN116894802B (zh) 图像增强方法、装置、计算机设备和存储介质
CN117894038A (zh) 一种图像中对象姿态生成方法和装置
CN113688928A (zh) 图像匹配方法、装置、电子设备和计算机可读介质
CN115272667B (zh) 农田图像分割模型训练方法、装置、电子设备和介质
CN116843991A (zh) 模型训练方法、信息生成方法、装置、设备和介质
CN113378808B (zh) 人物图像识别方法、装置、电子设备和计算机可读介质
CN115049730B (zh) 零件装配方法、装置、电子设备及存储介质
CN114418835B (zh) 图像处理方法、装置、设备及介质
CN116362301A (zh) 一种模型的量化方法以及相关设备
CN112070888B (zh) 图像生成方法、装置、设备和计算机可读介质
CN114972876A (zh) 基于知识蒸馏技术的图像处理方法、装置、设备及介质
CN114399590A (zh) 一种基于人脸解析图的人脸遮挡移除和三维模型生成方法
CN111292365B (zh) 生成深度图的方法、装置、电子设备和计算机可读介质
CN111582208A (zh) 用于生成生物体姿态关键点信息的方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant