CN110378213A - 行为识别方法、装置、计算机设备和存储介质 - Google Patents
行为识别方法、装置、计算机设备和存储介质 Download PDFInfo
- Publication number
- CN110378213A CN110378213A CN201910502476.8A CN201910502476A CN110378213A CN 110378213 A CN110378213 A CN 110378213A CN 201910502476 A CN201910502476 A CN 201910502476A CN 110378213 A CN110378213 A CN 110378213A
- Authority
- CN
- China
- Prior art keywords
- data
- subelement
- matrix
- characteristic pattern
- probability
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 52
- 230000000694 effects Effects 0.000 title claims abstract description 25
- 238000010586 diagram Methods 0.000 claims abstract description 73
- 210000000988 bone and bone Anatomy 0.000 claims abstract description 37
- 239000011159 matrix material Substances 0.000 claims description 157
- 230000006399 behavior Effects 0.000 claims description 99
- 238000010606 normalization Methods 0.000 claims description 70
- 230000004913 activation Effects 0.000 claims description 32
- 238000012216 screening Methods 0.000 claims description 32
- 238000004590 computer program Methods 0.000 claims description 23
- 230000015654 memory Effects 0.000 claims description 20
- 238000011156 evaluation Methods 0.000 claims description 8
- 238000000605 extraction Methods 0.000 claims description 6
- 230000003213 activating effect Effects 0.000 claims description 4
- 230000008859 change Effects 0.000 claims description 4
- 238000004364 calculation method Methods 0.000 claims description 3
- 238000012512 characterization method Methods 0.000 abstract description 4
- 238000004422 calculation algorithm Methods 0.000 description 11
- 230000003542 behavioural effect Effects 0.000 description 9
- 230000008569 process Effects 0.000 description 9
- 230000006870 function Effects 0.000 description 7
- 230000009466 transformation Effects 0.000 description 6
- 239000003795 chemical substances by application Substances 0.000 description 5
- 239000000284 extract Substances 0.000 description 5
- 239000000203 mixture Substances 0.000 description 5
- 238000013507 mapping Methods 0.000 description 4
- 238000003062 neural network model Methods 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000007634 remodeling Methods 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000006641 stabilisation Effects 0.000 description 1
- 238000011105 stabilization Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Biophysics (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Psychiatry (AREA)
- Social Psychology (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
Abstract
本申请涉及一种行为识别方法、装置、计算机设备和存储介质。所述方法包括：获取包含人体行为的图数据，根据图数据生成骨骼数据和关节节点数据，将骨骼数据输入已训练的骨骼识别网络模型，得到骨骼数据识别为各个人体行为的第一概率，将关节节点数据输入已训练的节点识别网络模型，得到关节节点数据识别为各个人体行为的第二概率，计算各个人体行为第一概率和第二概率的加权值，根据加权值确定目标行为。通过将图数据分解成骨骼数据和关节节点数据，单独对骨骼数据和关节节点数据进行识别，在将两个识别结果进行整合，得到图数据的识别结果。将数据分成表征不同特征的数据，根据不同特征的数据进行识别，整合不同特征的识别结果，提高识别准确度。
Description
技术领域
本申请涉及计算机技术领域，尤其涉及一种行为识别方法、装置、计算机设备和存储介质。
背景技术
在骨骼点数据中，人体是由若干预先定义好的关键关节点在相机坐标系中的坐标来表示的。它可以很方便地通过深度摄像头(例如Kinect)以及各种姿态估计算法(例如OpenPose)获得。图1为Kinect深度摄像机所定义的人体的关键关节点。它将人体定义为25个关键关节点的三维坐标。由于行为往往是以视频的形式存在的，所以一个长度为T帧的行为可以用Tx25x3的张量来表示。
参照图2，图2为一个实施例中的时空图。每个关节点定义为图的节点，关节点之间的物理连接定义为图的边，并且在相邻帧的同一个节点间加上时间维度的边，得到一张可以描述人体行为的时空图。
目前常见的基于骨骼点的行为识别方法为图卷积。图卷积和普通卷积操作不同，在图上做卷积时，每一个节点的邻节点数是不固定的，而卷积操作的参数是固定的，为了将固定数量的参数和不定数量的临节点数对应起来，需要定义映射函数，通过映射函数实现参数和节点的对应。如定义卷积核大小为三，如图3所示，三个参数分别对应于远离人体中心的点001，靠近人体中心点000的点002和卷积点本身003。则卷积操作可以用公式(1)表示：
其中是输入输出特征张量，是卷积参数，是图中节点，代表节点与参数间的映射函数，是归一化函数。在具体实现时，映射函数可以通过图的邻接矩阵来实现，通过邻接矩阵表示的卷积操作如公式(2)所示：
其中代表图的邻接矩阵，是卷积核大小，用于对进行归一化处理。通过与邻接矩阵相乘，从特征张量中“筛选”出所需要的节点并与对应的参数相乘。
上述通过邻接矩阵表示的卷积操作时，邻接矩阵定义了用于图卷积网络中的人体图的拓扑结构。
在传统的方法通过识别人体中各个关节点的位置确定人体的行为，单独依靠关节点信息进行识别，导致识别信息较为单一，无法准确识别出人体行为，导致识别率低下。
发明内容
为了解决上述技术问题，本申请提供了一种行为识别方法、装置、计算机设备和存储介质。
第一方面，本申请提供了一种行为识别方法，包括：
获取包含人体行为的图数据；
根据图数据生成骨骼数据和关节节点数据；
将骨骼数据输入已训练的骨骼识别网络模型，得到骨骼数据识别为各个人体行为的第一概率；
将关节节点数据输入已训练的节点识别网络模型，得到关节节点数据识别为各个人体行为的第二概率；
计算各个人体行为的第一概率和第二概率的加权值，根据加权值确定目标行为。
第二方面，本申请提供了一种行为识别装置，包括：
图数据获取模块，用于获取包含人体行为的图数据；
数据生成模块，用于根据图数据生成骨骼数据和关节节点数据；
概率计算模块，用于将骨骼数据输入已训练的骨骼识别网络模型，得到骨骼数据识别为各个人体行为的第一概率，将关节节点数据输入已训练的节点识别网络模型，得到关节节点数据识别为各个人体行为的第二概率；
识别模块，用于计算各个人体行为的第一概率和第二概率的加权值，根据加权值确定目标行为。
一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现以下步骤：
获取包含人体行为的图数据；
根据图数据生成骨骼数据和关节节点数据；
将骨骼数据输入已训练的骨骼识别网络模型，得到骨骼数据识别为各个人体行为的第一概率；
将关节节点数据输入已训练的节点识别网络模型，得到关节节点数据识别为各个人体行为的第二概率；
计算各个人体行为的第一概率和第二概率的加权值，根据加权值确定目标行为。
一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现以下步骤：
获取包含人体行为的图数据；
根据图数据生成骨骼数据和关节节点数据；
将骨骼数据输入已训练的骨骼识别网络模型，得到骨骼数据识别为各个人体行为的第一概率；
将关节节点数据输入已训练的节点识别网络模型，得到关节节点数据识别为各个人体行为的第二概率；
计算各个人体行为的第一概率和第二概率的加权值，根据加权值确定目标行为。
上述行为识别方法、装置、计算机设备和存储介质，所述方法包括：获取包含人体行为的图数据，根据图数据生成骨骼数据和关节节点数据，将骨骼数据输入已训练的骨骼识别网络模型，得到骨骼数据识别为各个人体行为的第一概率，将关节节点数据输入已训练的节点识别网络模型，得到关节节点数据识别为各个人体行为的第二概率，计算各个人体行为的第一概率和第二概率的加权值，根据加权值确定目标行为。通过将图数据分解成骨骼数据和关节节点数据，单独对骨骼数据和关节节点数据进行识别，在将两个识别结果进行整合，得到图数据的识别结果。将数据分成表征不同特征的数据，根据不同特征的数据进行识别，整合不同特征的识别结果，提高识别准确度。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本发明的实施例，并与说明书一起用于解释本发明的原理。
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，对于本领域普通技术人员而言，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1为一个实施例中Kinect深度摄像机所定义的人体的关键关节点的示意图；
图2为一个实施例中描述人体行为的时空图；
图3为一个实施例中图卷积中定义的节点示意图；
图4为一个实施例中行为识别方法的应用环境图；
图5为一个实施例中行为识别方法的流程示意图；
图6为一个实施例中基于双流图卷积网络行为识别方法的结构示意图；
图7为一个实施例中网络结构的结构示意图；
图8为一个实施例中卷积单元的结构示意图；
图9为一个实施例中行为识别装置的结构框图；
图10为一个实施例中计算机设备的内部结构图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请的一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本申请保护的范围。
图4为一个实施例中行为识别方法的应用环境图。参照图4，该行为识别方法应用于行为识别系统。该行为识别系统包括终端110和服务器120。终端110和服务器120通过网络连接。终端110具体可以是台式终端或移动终端，移动终端具体可以手机、平板电脑、笔记本电脑等中的至少一种。服务器120可以用独立的服务器或者是多个服务器组成的服务器集群来实现。
如图5所示，在一个实施例中，提供了一种行为识别方法。本实施例主要以该方法应用于上述图4中的终端110(或服务器120)来举例说明。参照图5，该行为识别方法具体包括如下步骤：
步骤S201，获取包含人体行为的图数据。
具体地，人体行为是用于描述人体动作和姿态的标签数据。图数据为用于描述人体行为的时空图。不同的相机得到的时空图可以不相同，如在一个具体的实施例中，时空图可以参照图2。时空图中的每个关节点定义为图的节点，关节点之间的物理连接定义为图的边，并且在相邻帧的同一个节点间加上时间维度的边。根据多个时间点采集的图像，得到包含多帧图像数据的图数据。
步骤S202，根据图数据生成骨骼数据和关节节点数据。
具体地，提取图数据各个帧图像数据中的关节点，得到各个帧图像数据中的关节节点数据，由各帧图像数据中的关节节点数据组成图数据的关节节点数据。同理提取图数据各个帧图像数据中的骨骼数据得到图数据的骨骼数据。
步骤S203，将骨骼数据输入已训练的骨骼识别网络模型，得到骨骼数据识别为各个人体行为的第一概率。
步骤S204，将关节节点数据输入已训练的节点识别网络模型，得到关节节点数据识别为各个人体行为的第二概率。
具体地，已训练的骨骼识别网络模型是根据大量的携带标签的图数据中提的骨骼数据进行训练得到的。已训练的骨骼识别模型可以对骨骼数据进行识别，得到识别为各个人体行为的第一概率。同理已训练的节点识别网络模型是根据大量的携带标签的图数据中提的关节节点数据进行训练得到的。已训练的节点识别模型可以对关节节点数据进行识别，得到识别为各个人体行为的第二概率。已训练的节点识别网络模型和已训练的骨骼识别网络模型的网络结构可以常见的神经网络模型，可以为自定义的神经网络模型，其中已训练的节点识别网络模型和已训练的骨骼识别网络模型的网络结构可以相同也可以不同。
在一个实施例中，已训练的骨骼识别网络模型和已训练的节点识别网络模型具有相同的网络结构。
在一个实施例中，已训练的骨骼识别网络模型和已训练的节点识别网络模型的数据处理过程属于并行处理过程。
在一个实施例中，网络结构包括批归一化层、卷积层、池化层和分类层。将目标数据输入批归一化处理层，输出归一化矩阵，其中目标数据为骨骼数据或关节节点数据，将归一化矩阵输入卷积层，输出卷积特征图，将卷积特征图输入池化层，输出池化矩阵，将池化矩阵输入所述分类层，得到目标数据识别为各个行为类别的识别概率，当所述目标数据为所述骨骼数据时，识别概率为第一概率，当目标数据为关节节点数据时，识别概率为第一概率。
具体地，批归一化层是用于对目标数据进行归一化的网络层，批归一化层可以对同时多个数据进行归一化处理。其中归一化层中的归一化算法可以为常见的矩阵归一化算法，常见的归一化算法包括但不限于行归一化算法和列归一化算法等等。卷积层是用于对归一化层输出的归一化矩阵进行卷积运算的网络层，一个卷积层可以包含一个或多个卷积单元，相邻的卷积单元中，当前卷积单元的输出为下一个卷积单元的输入。各个卷积单元中的卷积核可以自定义设置。池化层是用关于卷积层输出的卷积特征图进行池化运算的网络层，池化层中的池化算法可以包括但不限于极大值池化算法、均值池化算法和随机池化算法等等。通过池化层中的池化算法对卷积特征图进行池化运算，得到池化矩阵。分类层根据池化矩阵进行分类识别，得到识别为各个人体行为的概率。当目标数据为骨骼数据时，输入的网络结构为已训练的骨骼识别网络，输出的结果为骨骼数据对应的各个人体行为的第一个概率。当目标数据为关节节点数据时，输入的网络结构为已训练的节点识别网络，输出的结果为节点数据对应的各个人体行为的第二个概率。
在一个实施例中，卷积层至少包括一个卷积单元，各个卷积单元的网络结包括空间卷积子单元、第一批归一化子单元Bu、第一激活子单元、随机筛选子单元、时间卷积子单元、第二批归一化子单元、第二激活子单元和卷积特征图生成单元。
在本具体地实施例中，将归一化矩阵输入卷积层，输出卷积特征图，包括：获取根据归一化矩阵生成的当前卷积单元的输入特征图，将当前卷积单元的输入特征图作为空间卷积子单元的输入特征图，通过空间卷积子单元提取输入特征图的空间特征，得到空间卷积特征图，通过第一批归一化子单元对空间卷积特征图进行归一化，得到第一归一化特征图，通过激活子单元的激活函数对第一归一化特征图进行变换，得到第一变换特征图，通过随机筛选子单元对第一变换特征图进行数据筛选，得到筛选特征图，通过时间卷积子单元对筛选特征图提取时间特征，得到时间卷积特征图，通过第二批归一化子单元对时间卷积特征图进行归一化，得到第二归一化特征图，通过第二激活子单元的激活函数对第二归一化特征图进行变换，得到第二变换特征图，将第二变换特征图作为当前卷积单元的输出特征图，卷积特征图生成单元根据当前卷积单元的输出特征图生成卷积特征图。
具体地，当前卷积单元为卷积层中的多个卷积单元中的任意一个卷积单元。当当前卷积为多个卷积单元第一个卷积单元时，当前卷积单元的输入归一化矩阵，当当前卷积单元不是第一个卷积单元时，当前卷积单元的输入特征图为上一个卷积单元的输出特征图。空间卷积子单元用于提取输入特征图的空间特征，得到空间卷积特征图。其中空间特征是指用于描述输入图数据中的空间关系的特征。空间关系包括节点之间的位置关系，节点与骨骼的位置关系等等。第一批归一化子单元对空间卷积特征图进行归一化处理，得到第一归一化矩阵。根通过第一激活子单元中的激活函数对第一归一化矩阵进行非线性变换，得到第一变换特征图。采用非线性函数作为激活函数，可以增加网络的表达能力，从而得到更多的数据特征。通过随机筛选子单元对第一变换特征图进行数据筛选，随机筛选子单元可以随机的对第一变换特征图进行特征选择和组合，得到筛选特征图。将筛选特征图输入时间卷积子单元，提取筛选特征图中的时间特征，得到时间卷积特征图。第二批归一化子单元对时间卷积特征图进行归一化运算，得到第二归一化特征图。第二激活子单元的激活函数对第二归一化特征图进行非线性变换，得到第二变换特征图，将第二变换特征图作为当前卷积单元的输出特征图。
当当前卷积单元为卷积层中的最后一个卷积单元时，将当前卷积单元的输出特征图，作为卷积层的卷积特征图。当当前卷积单元的输出特征图不是最后一个卷积单元时，将当前卷积单元的输出特征图输入下一个卷积单元，直至得到卷积层的卷积特征图。
在一个实施例中，卷积单元还包括残差子单元，上述人体行为识别方法，还包括：通过残差子单元对当前卷积单元的输入特征图进行残差运算，得到残差特征图，将残差特征图与第二变换特征图的和，作为当前卷积单元的输出特征图。
具体地，残差子单元用于判断当前卷积单元的输入特征图和第二变换特征图是否具有相同的维度信息，当维度相同时，计算输入特征图和第二变换特征图的和，将得到的和作为当前卷积单元的输出特征图。当不一致时，通过残差子单元将输入特征图调整为与第二变换特征图相同维度信息的矩阵，得到残差特征图，计算残差特征图和第二变换特征图的和，将得到的和作为当前卷积单元的输出特征图。设计残差子单元可以提高网络的稳定性。
在一个实施例中，通过空间卷积子单元提取输入特征图的空间特征，得到空间卷积特征图，包括：获取空间卷积子单元中的目标邻接矩阵，获取空间卷积子单元的卷积核，根据卷积核、输入特征图和所述目标邻接生成空间卷积特征图。
具体地，目标邻接矩阵可以用于描述输入特征图中的人体的人体行为。目标邻接矩阵包括参考邻接矩阵和/或偏置矩阵。其中参考邻接矩阵用于图卷积网络中的人体图的拓扑结构，为一个包含固定矩阵元素的矩阵。偏置矩阵包括生成已训练的骨骼识别网络或已训练的节点识别网络时生成的第一偏置矩阵，和/或根据输入特征图生成的第二偏置矩阵。其中，第一偏置矩阵在各个卷积层中各不相同，第一偏置矩阵为根据任务需求训练得到的能够描述任务需求的邻接矩阵。第一偏置矩阵和参考邻接矩阵组成的目标邻接矩阵能够较好的表征输入特征图的行为特征。第二偏置矩阵包括固定参数和变化参数，固定参数为生成已训练的骨骼识别网络或已训练的节点识别网络时确定，变换参数根据输入特征图确定。故第二偏置矩阵和参考邻接矩阵组成的目标邻接矩阵能够较好的表征输入特征图的单个样本的行为特征。而由第一偏置矩阵、第二偏置矩阵和参考邻接矩阵组成的目标邻接矩阵能够较好的表征输入特征图的单个样本的行为特征和整体的任务需求的行为特征。
在一个具体的实施例中，图中的fin为当前卷积单元的输入特征图，fout为当前卷积单元的输出特征图。输出特征图采用输入特征图的具体表示方式可以采用三个公式(3)、公式(4)和公式(5)所示中的任意一种：
上述三个公式中，Ak为参考邻接矩阵中的第k个邻接矩阵，Bk为偏置矩阵中的第k个邻接矩阵，Ck为偏置矩阵中的第k个邻接矩阵，softmax(S)表示对矩阵S进行归一化一算，Wk为卷积核的第k个参数，Kv为卷积核的大小，卷积核的大小可以自定义，如可以设置Kv＝3或5。为第一降维函数，为第二降维函数。以公式(5)为例进行说明，假设输入特征图的尺寸信息为Cin×T×N，其中Cin代表输入通道数，T代表图数据的帧数，N代表kinect定义的关节节点数，其中N＝25。对输入特征图进行重塑得到CinT×N的重塑特征图，偏置矩阵Bk为训练卷积神经网络后得到的矩阵，Bk与Ak具有相同的尺寸信息，即为N×N，计算计算第一偏置矩阵Bk、第二篇值矩阵CK与参考邻接矩阵Ak的和，得到目标邻接矩阵的各个通道的矩阵，计算目标邻接矩阵各个通道的矩阵与重塑特征图的乘积，得到各个通道的第二乘积矩阵，并对各个通道的第二乘积矩阵进行反重塑，得到反重塑矩阵，获取个卷积核wk，其，通过各个通道的卷积核对反重塑矩阵进行卷积运算，得到各个通道对应的输出特征图。判断输出特征图是否与输入特征图的通道数是否一致，当不一致时，通过残差网络res，其中残差网络中的卷积核大小为1×1。将输入特征图调整致与输出特征图的通道数一致的矩阵，计算调整后的输入特征图与输出特征图的和，得到目标输出特征图。当一致时，计算输入特征图与输出特征图的和，得到目标输出特征图。根据目标输出特征图对各个图数据的行为进行识别，得到对应的识别结果。
步骤S205，计算各个人体行为的第一概率和第二概率的加权值，根据加权值确定目标行为。
具体地，根据预设的第一概率的加权系数和第二概率的加权系数，计算各个人体行为对应的第一概括和第二概率的加权值。根据加权值确定目标行为。目标行为表示图数据对应的识别结果，其中目标行为可以为一个或多个。
在一个实施例中，将加权值中的最大值对应的人体行为作为目标行为。
在一个实施例中，当图数据中包含多个行为主体时，将各个行为主体对应的识别结果作为图数据对应的识别结果。各个行为主体可以是单独的一个人，也可以是由多个人组成的行为主体，如伸手的主体可以为一个人，拥抱则需要至少两个人才可以完成，不同的行为主体对应不同的人数。
上述行为识别方法，包括：获取包含人体行为的图数据，根据图数据生成骨骼数据和关节节点数据，将骨骼数据输入已训练的骨骼识别网络模型，得到骨骼数据识别为各个人体行为的第一概率，将关节节点数据输入已训练的节点识别网络模型，得到关节节点数据识别为各个人体行为的第二概率，计算各个人体行为第一概率和第二概率的加权值，根据加权值确定目标行为。通过将图数据分解成骨骼数据和关节节点数据，单独对骨骼数据和关节节点数据进行识别，在将两个识别结果进行整合，得到图数据的识别结果。将数据拆分成表征不同特征的数据，根据不同特征的数据进行识别，整合不同特征的识别结果，提高识别准确度。
在一个具体的实施例中，上述行为识别方法，包括：
提取图像中的人体骨骼的信息，得到图数据，图数据采用关节点之间的向量表示。参照图6，图6为基于双流图卷积网络行为识别方法的结构示意图。将图数据输入包括已训练的骨骼识别模型B-Stream和已训练的节点识别模型J-Stream。根据B-Stream得到的各个人体行为的第一概率和J-Stream得到的各个人体行为的第二概率进行加权，将加权结果输入分类层Prediction，Prediction预测得到图数据的目标行为。
在本实施例中，已训练的骨骼识别模型B-Stream和已训练的节点识别模型J-Stream的网络结构具有相同的网络结构，具体的网络结构如图7所示。网路结构包括批归一化层(batch normalization，BN)，9个卷积单元B、代表全局平均池化层(global averagepooling，GAP)和分类层softmax。其中9个卷积单元分别为B1(3,64,1)，B2(64,64,1)，B3(64,64,1)，B4(64,128,2)，B5(128,128,1)，B6(128,128,1)，B7(128,256,2)，B8(256,256,1)和B9(256,256,1)，B中的三个参数，第一个参数为输入通道数，第二个参数为输出通道数和第三个参数为卷积间隔数，以B1(3,64,1)为例，输入通道数为3，输出通道数为64，卷积间隔数为1。
参照图8，图8为卷积单元的网络结构。卷积单元包括空间卷积子单元Convs、第一批归一化子单元BN、第一激活子单元Relu、随机筛选子单元Dropout、时间卷积子单元Convt、第二批归一化子单元BN、第二激活子单元Relu和残差单元residual connection。
图5为一个实施例中行为识别方法的流程示意图。应该理解的是，虽然图5的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，这些步骤可以以其它的顺序执行。而且，图5中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，这些子步骤或者阶段的执行顺序也不必然是依次进行，而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
在一个实施例中，如图9所示，提供了一种行为识别装置200，包括：
图数据获取模块201，用于获取包含人体行为的图数据。
数据生成模块202，用于根据图数据生成骨骼数据和关节节点数据。
概率计算模块203，用于将骨骼数据输入已训练的骨骼识别网络模型，得到骨骼数据识别为各个人体行为的第一概率，将关节节点数据输入已训练的节点识别网络模型，得到关节节点数据识别为各个人体行为的第二概率。
识别模块204，用于计算各个人体行为的第一概率和第二概率的加权值，根据加权值确定目标行为。
在一个实施例中，概率计算模块中已训练的骨骼识别网络模型和第二概率计算模块中已训练的节点识别网络模型具有相同的网络结构。
在一个实施例中，概率计算模块具体用于将目标数据输入批归一化处理层，输出归一化矩阵，将归一化矩阵输入卷积层，输出卷积特征图，将卷积特征图输入池化层，输出池化矩阵，将池化矩阵输入分类层，得到目标识别为各个行为类别的第一概率和对应的第二概率，其中，网络结构包括批归一化层、卷积层、池化层和分类层，目标数据为骨骼数据和关节节点数据。
在一个实施例中，概率计算模块中的卷积层至少包括一个卷积单元，各个卷积单元的网络结构包括空间卷积子单元、第一批归一化子单元、第一激活子单元、随机筛选子单元、时间卷积子单元、第二批归一化子单元。第二激活子单元和卷积特征图生成单元，其中，
空间卷积子单元，用于获取根据归一化矩阵生成的当前卷积单元的输入特征图，将当前卷积单元的输入特征图作为空间卷积子单元的输入特征图，提取输入特征图的空间特征，得到空间卷积特征图。
第一批归一化子单元，用于空间卷积特征图进行归一化，得到第一归一化特征图。
激活子单元，用于根据激活函数对第一归一化特征图进行变换，得到第一变换特征图。
随机筛选子单元，用于对第一变换特征图进行数据筛选，得到筛选特征图。
时间卷积子单元，用于对筛选特征图提取时间特征，得到时间卷积特征图。
第二批归一化子单元，用于对时间卷积特征图进行归一化，得到第二归一化特征图。
第二激活子单元，用于根据激活函数对第二归一化特征图进行变换，得到第二变换特征图，将第二变换特征图作为当前卷积单元的输出特征图。
卷积特征图生成单元，用于根据当前卷积单元的输出特征图生成卷积特征图。
在一个实施例中，概率计算模块中的卷积单元，还包括：
残差子单元，用于对当前卷积单元的输入特征图进行残差运算，得到残差特征图，将残差特征图与第二变换特征图的和，作为当前卷积单元的输出特征图。
在一个实施例中，空间卷积子单元，包括：
目标邻接矩阵获取单元，用于获取目标邻接矩阵。
空间卷积特征图生成单元，用于获取卷积核，根据卷积核、输入特征图和目标邻接生成空间卷积特征图。
在一个实施例中，空间卷积子单元还包括：
第一目标偏置矩阵生成单元，用于根据输入特征图和参考邻接矩阵生成第一偏置矩阵，将第一偏置矩阵作为目标偏置矩阵。或
第二目标偏置矩阵生成单元，用于获取第二偏置矩阵，第二偏置矩阵为根据网络结构生成的矩阵。或
第三目标偏置矩阵生成单元，用于根据输入特征图和参考邻接矩阵生成第一偏置矩阵，获取生成所述网络结构时生成的第二偏置矩阵，将第一偏置偏置矩阵和第二偏置矩阵的和，作为目标偏置矩阵。
图10示出了一个实施例中计算机设备的内部结构图。该计算机设备具体可以是图4中的终端110(或服务器120)。如图10所示，该计算机设备包括该计算机设备包括通过系统总线连接的处理器、存储器、网络接口、输入装置和显示屏。其中，存储器包括非易失性存储介质和内存储器。该计算机设备的非易失性存储介质存储有操作系统，还可存储有计算机程序，该计算机程序被处理器执行时，可使得处理器实现行为识别方法。该内存储器中也可储存有计算机程序，该计算机程序被处理器执行时，可使得处理器执行行为识别方法。计算机设备的显示屏可以是液晶显示屏或者电子墨水显示屏，计算机设备的输入装置可以是显示屏上覆盖的触摸层，也可以是计算机设备外壳上设置的按键、轨迹球或触控板，还可以是外接的键盘、触控板或鼠标等。
本领域技术人员可以理解，图10中示出的结构，仅仅是与本申请方案相关的部分结构的框图，并不构成对本申请方案所应用于其上的计算机设备的限定，具体的计算机设备可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。
在一个实施例中，本申请提供的行为识别装置可以实现为一种计算机程序的形式，计算机程序可在如图10所示的计算机设备上运行。计算机设备的存储器中可存储组成该行为识别装置的各个程序模块，比如，图9所示的图数据获取模块201、数据生成模块202、概率计算模块203和识别模块204。各个程序模块构成的计算机程序使得处理器执行本说明书中描述的本申请各个实施例的行为识别方法中的步骤。
例如，图10所示的计算机设备可以通过如图9所示的行为识别装置中的图数据获取模块201执行获取包含人体行为的图数据。计算机设备可以通过数据生成模块202执行根据图数据生成骨骼数据和关节节点数据。计算机设备可以通过第一识别概率计算模块203执行将骨骼数据输入已训练的骨骼识别网络模型，得到骨骼数据识别为各个人体行为的第一概率，将关节节点数据输入已训练的节点识别网络模型，得到关节节点数据识别为各个人体行为的第二概率。计算机设备可以通过计算机设备可通过识别模块204执行计算各个人体行为的第一概率和第二概率的加权值，根据加权值确定目标行为。
在一个实施例中，提供了一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行计算机程序时实现以下步骤：获取包含人体行为的图数据，根据图数据生成骨骼数据和关节节点数据，将骨骼数据输入已训练的骨骼识别网络模型，得到骨骼数据识别为各个人体行为的第一概率，将关节节点数据输入已训练的节点识别网络模型，得到关节节点数据识别为各个人体行为的第二概率，计算各个人体行为的第一概率和第二概率的加权值，根据加权值确定目标行为。
在一个实施例中，已训练的骨骼识别网络模型和已训练的节点识别网络模型具有相同的网络结构。
在一个实施例中，网络结构包括：批归一化层、卷积层、池化层和分类层，其中批归一化层的输出为卷积层的输入，卷积层的输出为池化层的输入，池化层的输出和分类层的输入，包括：将目标数据输入批归一化处理层，输出归一化矩阵，其中目标数据为骨骼数据或关节节点数据，将归一化矩阵输入卷积层，输出卷积特征图，将卷积特征图输入池化层，输出池化矩阵，将池化矩阵输入分类层，得到目标数据识别为各个行为类别的概率。
在一个实施例中，卷积层至少包括一个卷积单元，各个卷积单元的网络结构包括空间卷积子单元、第一批归一化子单元、第一激活子单元、随机筛选子单元、时间卷积子单元、第二批归一化子单元和第二激活子单元，获取根据归一化矩阵生成的当前卷积单元的输入特征图，将当前卷积单元的输入特征图作为空间卷积子单元的输入特征图，通过空间卷积子单元提取输入特征图的空间特征，得到空间卷积特征图，通过第一批归一化子单元对空间卷积特征图进行归一化，得到第一归一化特征图，通过激活子单元的激活函数对第一归一化特征图进行变换，得到第一变换特征图，通过随机筛选子单元对第一变换特征图进行数据筛选，得到筛选特征图，通过时间卷积子单元对筛选特征图提取时间特征，得到时间卷积特征图，通过第二批归一化子单元对时间卷积特征图进行归一化，得到第二归一化特征图，通过第二激活子单元的激活函数对第二归一化特征图进行变换，得到第二变换特征图，将第二变换特征图作为当前卷积单元的输出特征图，根据当前卷积单元的输出特征图生成卷积特征图。
在一个实施例根据输入特征图和参考邻接矩阵生成第一偏置矩阵，获取生成网络结构时生成的第二偏置矩阵，将第一偏置偏置矩阵和第二偏置矩阵的和，作为目标偏置矩阵。
在一个实施例中，通过空间卷积子单元提取输入特征图的空间特征，得到空间卷积特征图，包括：获取空间卷积子单元中的目标邻接矩阵，获取空间卷积子单元的卷积核，根据卷积核、输入特征图和目标邻接生成空间卷积特征图
在一个实施例中，目标邻接矩阵为参考邻接矩阵和目标偏置矩阵的和，获取空间卷积子单元中的目标邻接矩阵之前，处理器执行计算机程序时还实现以下步骤：根据输入特征图和参考邻接矩阵生成第一偏置矩阵，将第一偏置矩阵作为目标偏置矩阵；或处理器执行计算机程序时还实现以下步骤：获取第二偏置矩阵，第二偏置矩阵为根据网络结构生成的矩阵，或处理器执行计算机程序时还实现以下步骤：根据输入特征图和参考邻接矩阵生成第一偏置矩阵，获取生成网络结构时生成的第二偏置矩阵，将第一偏置偏置矩阵和第二偏置矩阵的和，作为目标偏置矩阵。
在一个实施例中，提供了一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现以下步骤：获取包含人体行为的图数据，根据图数据生成骨骼数据和关节节点数据，将骨骼数据输入已训练的骨骼识别网络模型，得到骨骼数据识别为各个人体行为的第一概率，将关节节点数据输入已训练的节点识别网络模型，得到关节节点数据识别为各个人体行为的第二概率，计算各个人体行为的第一概率和第二概率的加权值，根据加权值确定目标行为。
在一个实施例中，已训练的骨骼识别网络模型和已训练的节点识别网络模型具有相同的网络结构。
在一个实施例中，网络结构包括：批归一化层、卷积层、池化层和分类层，其中批归一化层的输出为卷积层的输入，卷积层的输出为池化层的输入，池化层的输出和分类层的输入，包括：将目标数据输入批归一化处理层，输出归一化矩阵，其中目标数据为骨骼数据或关节节点数据，将归一化矩阵输入卷积层，输出卷积特征图，将卷积特征图输入池化层，输出池化矩阵，将池化矩阵输入分类层，得到目标数据识别为各个行为类别的概率。
在一个实施例中，卷积层至少包括一个卷积单元，各个卷积单元的网络结构包括空间卷积子单元、第一批归一化子单元、第一激活子单元、随机筛选子单元、时间卷积子单元、第二批归一化子单元和第二激活子单元，获取根据归一化矩阵生成的当前卷积单元的输入特征图，将当前卷积单元的输入特征图作为空间卷积子单元的输入特征图，通过空间卷积子单元提取输入特征图的空间特征，得到空间卷积特征图，通过第一批归一化子单元对空间卷积特征图进行归一化，得到第一归一化特征图，通过激活子单元的激活函数对第一归一化特征图进行变换，得到第一变换特征图，通过随机筛选子单元对第一变换特征图进行数据筛选，得到筛选特征图，通过时间卷积子单元对筛选特征图提取时间特征，得到时间卷积特征图，通过第二批归一化子单元对时间卷积特征图进行归一化，得到第二归一化特征图，通过第二激活子单元的激活函数对第二归一化特征图进行变换，得到第二变换特征图，将第二变换特征图作为当前卷积单元的输出特征图，根据当前卷积单元的输出特征图生成卷积特征图。
在一个实施例中，卷积单元还包括残差子单元，计算机程序被处理器执行时还实现以下步骤：通过残差子单元对当前卷积单元的输入特征图进行残差运算，得到残差特征图，将残差特征图与第二变换特征图的和，作为当前卷积单元的输出特征图。
在一个实施例中，通过空间卷积子单元提取输入特征图的空间特征，得到空间卷积特征图，包括：获取空间卷积子单元中的目标邻接矩阵，获取空间卷积子单元的卷积核，根据卷积核、输入特征图和目标邻接生成空间卷积特征图
在一个实施例中，目标邻接矩阵为参考邻接矩阵和目标偏置矩阵的和，获取空间卷积子单元中的目标邻接矩阵之前，计算机程序被处理器执行时还实现以下步骤：根据输入特征图和参考邻接矩阵生成第一偏置矩阵，将第一偏置矩阵作为目标偏置矩阵；或计算机程序被处理器执行时还实现以下步骤：获取第二偏置矩阵，第二偏置矩阵为根据网络结构生成的矩阵；或计算机程序被处理器执行时还实现以下步骤将第一偏置偏置矩阵和第二偏置矩阵的和，作为目标偏置矩阵。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的程序可存储于一非易失性计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用，均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限，RAM以多种形式可得，诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
需要说明的是，在本文中，诸如“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上所述仅是本发明的具体实施方式，使本领域技术人员能够理解或实现本发明。对这些实施例的多种修改对本领域的技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下，在其它实施例中实现。因此，本发明将不会被限制于本文所示的这些实施例，而是要符合与本文所申请的原理和新颖特点相一致的最宽的范围。
Claims (10)
1.一种行为识别方法，其特征在于，所述方法包括：
获取包含人体行为的图数据；
根据所述图数据生成骨骼数据和关节节点数据；
将所述骨骼数据输入已训练的骨骼识别网络模型，得到所述骨骼数据识别为各个人体行为的第一概率；
将所述关节节点数据输入已训练的节点识别网络模型，得到所述关节节点数据识别为各个所述人体行为的第二概率；
计算各个所述人体行为所述第一概率和第二概率的加权值，根据所述加权值确定目标行为。
2.根据权利要求1所述的方法，其特征在于，所述已训练的骨骼识别网络模型和所述已训练的节点识别网络模型具有相同的网络结构。
3.根据权利要求2所述的方法，其特征在于，所述网络结构包括：批归一化层、卷积层、池化层和分类层，其中所述批归一化层的输出为所述卷积层的输入，所述卷积层的输出为所述池化层的输入，所述池化层的输出和所述分类层的输入，所述目标数据为骨骼数据或所述关节节点数据，所述方法包括：
将目标数据输入所述批归一化处理层，输出归一化矩阵，其中所述目标数据为所述骨骼数据或所述关节节点数据；
将所述归一化矩阵输入所述卷积层，输出卷积特征图；
将所述卷积特征图输入所述池化层，输出池化矩阵；
将所述池化矩阵输入所述分类层，得到所述目标数据识别为各个所述行为类别的识别概率，当所述目标数据为所述骨骼数据时，所述识别概率为第一概率，当所述目标数据为所述关节节点数据时，所述识别概率为第一概率。
4.根据权利要求3所述的方法，其特征在于，所述卷积层至少包括一个卷积单元，各个卷积单元的网络结构包括空间卷积子单元、第一批归一化子单元、第一激活子单元、随机筛选子单元、时间卷积子单元、第二批归一化子单元、第二激活子单元和卷积特征图生成单元，所述将所述归一化矩阵输入所述卷积层，输出卷积特征图，包括：
获取根据所述归一化矩阵生成的当前卷积单元的输入特征图，将所述当前卷积单元的输入特征图作为所述空间卷积子单元的输入特征图；
通过所述空间卷积子单元提取所述输入特征图的空间特征，得到空间卷积特征图；
通过所述第一批归一化子单元对所述空间卷积特征图进行归一化，得到第一归一化特征图；
通过激活子单元的激活函数对所述第一归一化特征图进行变换，得到第一变换特征图；
通过所述随机筛选子单元对所述第一变换特征图进行数据筛选，得到筛选特征图；
通过所述时间卷积子单元对所述筛选特征图提取时间特征，得到时间卷积特征图；
通过所述第二批归一化子单元对所述时间卷积特征图进行归一化，得到第二归一化特征图；
通过所述第二激活子单元的激活函数对所述第二归一化特征图进行变换，得到第二变换特征图，将所述第二变换特征图作为所述当前卷积单元的输出特征图；
所述卷积特征图生成单元根据所述当前卷积单元的输出特征图生成所述卷积特征图。
5.根据权利要求4所述的方法，其特征在于，所述卷积单元还包括残差子单元，所述方法还包括：
通过所述残差子单元对所述当前卷积单元的输入特征图进行残差运算，得到残差特征图；
将所述残差特征图与所述第二变换特征图的和，作为所述当前卷积单元的输出特征图。
6.根据权利要求4所述的方法，其特征在于，所述通过所述空间卷积子单元提取所述输入特征图的空间特征，得到空间卷积特征图，包括：
获取所述空间卷积子单元中的目标邻接矩阵；
获取所述空间卷积子单元的卷积核，根据所述卷积核、所述输入特征图和所述目标邻接生成所述空间卷积特征图。
7.根据权利要求6所述的方法，其特征在于，所述目标邻接矩阵为参考邻接矩阵和目标偏置矩阵的和，所述获取所述空间卷积子单元中的目标邻接矩阵之前，还包括：
根据所述输入特征图和所述参考邻接矩阵生成第一偏置矩阵，将所述第一偏置矩阵作为所述目标偏置矩阵；或
获取生成所述网络结构时生成的第二偏置矩阵，将所述第二偏置矩阵作为所述目标偏置矩阵；或
根据所述输入特征图和所述参考邻接矩阵生成第一偏置矩阵，获取生成所述网络结构时生成的第二偏置矩阵，将所述第一偏置偏置矩阵和所述第二偏置矩阵的和，作为所述目标偏置矩阵。
8.一种行为识别装置，其特征在于，所述装置包括：
图数据获取模块，用于获取包含人体行为的图数据；
数据生成模块，用于根据所述图数据生成骨骼数据和关节节点数据；
概率计算模块，用于将所述骨骼数据输入已训练的骨骼识别网络模型，得到所述骨骼数据识别为各个人体行为的第一概率，将所述关节节点数据输入已训练的节点识别网络模型，得到所述关节节点数据识别为各个所述人体行为的第二概率；
识别模块，用于计算各个所述人体行为所述第一概率和第二概率的加权值，根据所述加权值确定目标行为。
9.一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现权利要求1至7中任一项所述方法的步骤。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910502476.8A CN110378213A (zh) | 2019-06-11 | 2019-06-11 | 行为识别方法、装置、计算机设备和存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910502476.8A CN110378213A (zh) | 2019-06-11 | 2019-06-11 | 行为识别方法、装置、计算机设备和存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN110378213A true CN110378213A (zh) | 2019-10-25 |
Family
ID=68250130
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201910502476.8A Pending CN110378213A (zh) | 2019-06-11 | 2019-06-11 | 行为识别方法、装置、计算机设备和存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN110378213A (zh) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111539941A (zh) * | 2020-04-27 | 2020-08-14 | 上海交通大学 | 帕金森病腿部灵活性任务评估方法及系统、存储介质及终端 |
| CN112633224A (zh) * | 2020-12-30 | 2021-04-09 | 深圳云天励飞技术股份有限公司 | 一种社交关系识别方法、装置、电子设备及存储介质 |
| CN113963202A (zh) * | 2021-10-19 | 2022-01-21 | 郑州大学 | 一种骨骼点动作识别方法、装置、电子设备及存储介质 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20140145936A1 (en) * | 2012-11-29 | 2014-05-29 | Konica Minolta Laboratory U.S.A., Inc. | Method and system for 3d gesture behavior recognition |
| CN104899561A (zh) * | 2015-05-27 | 2015-09-09 | 华南理工大学 | 一种并行化的人体行为识别方法 |
| CN106156714A (zh) * | 2015-04-24 | 2016-11-23 | 北京雷动云合智能技术有限公司 | 基于骨骼关节特征和表面特征融合的人体行为识别方法 |
-
2019
- 2019-06-11 CN CN201910502476.8A patent/CN110378213A/zh active Pending
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20140145936A1 (en) * | 2012-11-29 | 2014-05-29 | Konica Minolta Laboratory U.S.A., Inc. | Method and system for 3d gesture behavior recognition |
| CN106156714A (zh) * | 2015-04-24 | 2016-11-23 | 北京雷动云合智能技术有限公司 | 基于骨骼关节特征和表面特征融合的人体行为识别方法 |
| CN104899561A (zh) * | 2015-05-27 | 2015-09-09 | 华南理工大学 | 一种并行化的人体行为识别方法 |
Non-Patent Citations (1)
| Title |
|---|
| LEI SHI等: ""Non-Local Graph Convolutional Networks for Skeleton-Based Action Recognition"", 《ARXIV.ORG》 * |
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111539941A (zh) * | 2020-04-27 | 2020-08-14 | 上海交通大学 | 帕金森病腿部灵活性任务评估方法及系统、存储介质及终端 |
| CN111539941B (zh) * | 2020-04-27 | 2022-08-16 | 上海交通大学 | 帕金森病腿部灵活性任务评估方法及系统、存储介质及终端 |
| CN112633224A (zh) * | 2020-12-30 | 2021-04-09 | 深圳云天励飞技术股份有限公司 | 一种社交关系识别方法、装置、电子设备及存储介质 |
| CN112633224B (zh) * | 2020-12-30 | 2024-03-26 | 深圳云天励飞技术股份有限公司 | 一种社交关系识别方法、装置、电子设备及存储介质 |
| CN113963202A (zh) * | 2021-10-19 | 2022-01-21 | 郑州大学 | 一种骨骼点动作识别方法、装置、电子设备及存储介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110378372A (zh) | 图数据识别方法、装置、计算机设备和存储介质 | |
| CN110363086A (zh) | 图数据识别方法、装置、计算机设备和存储介质 | |
| Wang et al. | Generative partial multi-view clustering with adaptive fusion and cycle consistency | |
| CN110889325B (zh) | 多任务面部动作识别模型训练和多任务面部动作识别方法 | |
| CN106778928B (zh) | 图像处理方法及装置 | |
| CN109508638A (zh) | 人脸情绪识别方法、装置、计算机设备及存储介质 | |
| CN110390259A (zh) | 图数据的识别方法、装置、计算机设备和存储介质 | |
| CN110378213A (zh) | 行为识别方法、装置、计算机设备和存储介质 | |
| CN108805828A (zh) | 图像处理方法、装置、计算机设备和存储介质 | |
| CN110929637B (zh) | 一种图像识别方法、装置、电子设备及存储介质 | |
| CN113196289A (zh) | 人体动作识别方法、人体动作识别系统及设备 | |
| KR20160053612A (ko) | 영상 학습 모델을 이용한 영상 생성 방법 및 장치 | |
| CN112464865A (zh) | 一种基于像素和几何混合特征的人脸表情识别方法 | |
| US10460158B2 (en) | Methods and systems for generating a three dimensional representation of a human body shape | |
| CN109446952A (zh) | 一种钢琴监督方法、装置、计算机设备及存储介质 | |
| CN109299658A (zh) | 脸部检测方法、脸部图像渲染方法、装置及存储介质 | |
| CN108764143A (zh) | 图像处理方法、装置、计算机设备和存储介质 | |
| CN111062324A (zh) | 人脸检测方法、装置、计算机设备和存储介质 | |
| CN111027610B (zh) | 图像特征融合方法、设备和介质 | |
| Liang et al. | Coupled dictionary learning for the detail-enhanced synthesis of 3-D facial expressions | |
| CN112116589A (zh) | 虚拟形象的评测方法、装置、设备及计算机可读存储介质 | |
| CN111507288A (zh) | 图像检测方法、装置、计算机设备和存储介质 | |
| CN114463815A (zh) | 一种基于人脸关键点的面部表情捕捉方法 | |
| Xu et al. | Adaptive feature selection with reinforcement learning for skeleton-based action recognition | |
| CN112749723A (zh) | 样本标注方法、装置、计算机设备和存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20191025 |
|
| RJ01 | Rejection of invention patent application after publication |