CN106022213A - 一种基于三维骨骼信息的人体动作识别方法 - Google Patents

一种基于三维骨骼信息的人体动作识别方法 Download PDF

Info

Publication number
CN106022213A
CN106022213A CN201610289796.6A CN201610289796A CN106022213A CN 106022213 A CN106022213 A CN 106022213A CN 201610289796 A CN201610289796 A CN 201610289796A CN 106022213 A CN106022213 A CN 106022213A
Authority
CN
China
Prior art keywords
shoulder
buttocks
center
knee joint
human body
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201610289796.6A
Other languages
English (en)
Other versions
CN106022213B (zh
Inventor
叶青
张丽
张永梅
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
North China University of Technology
Original Assignee
North China University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by North China University of Technology filed Critical North China University of Technology
Priority to CN201610289796.6A priority Critical patent/CN106022213B/zh
Publication of CN106022213A publication Critical patent/CN106022213A/zh
Application granted granted Critical
Publication of CN106022213B publication Critical patent/CN106022213B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/23Recognition of whole body movements, e.g. for sport training
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2411Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Psychiatry (AREA)
  • Social Psychology (AREA)
  • Human Computer Interaction (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Image Processing (AREA)

Abstract

本发明公开了一种基于三维骨骼信息的人体动作识别方法,该方法首先对多个不同性别和身高的个体样本分别作出多种动作时得到的彩色数据流、深度数据流和骨骼数据流进行处理,以构建得到分别对应每种动作的SVM模型,之后再采集被识别目标在Kinect深度传感器的采集范围内作出任一动作时的骨骼数据流,并由该骨骼数据流得到的归一化后的人体骨骼关节点与参考点之间的距离以及14个向量夹角,将上述数据分别输入多个SVM模型,输出概率最大的SVM模型对应的动作即为该识别目标作出的动作。本发明采用Kinect深度传感器进行图像获取,受光照条件、阴影等因素影响较小,能够实时获取人体动作的深度图和骨骼信息,从而准确地定位场景中的人体目标。

Description

一种基于三维骨骼信息的人体动作识别方法
技术领域
本发明涉及人体动作识别领域,具体而言,涉及一种基于三维骨骼信息的人体动作识别方法。
背景技术
动作识别的主要任务是从深度图上提取出表征不同动作的特征数据,而不同人体在表达相同动作时,存在着形状、穿着以及运动习惯等差异性。因此,如何选取有效的动作特征描述是动作识别的关键问题之一。由于人体的动作可以简单地划分为上肢动作、下肢动作、躯干动作,而且人体自身运动过程中存在自遮挡问题,这使得提取出的特征数据存在信息冗余,也会影响后续的动作识别结果。因此,选择合适的动作特征数据区分不同动作类型就显得尤为重要。
人体动作识别技术融合了图像处理和分析、信号处理、模式识别、机器学习、人工智能等诸多学科的内容,由于存在着人体外形和运动习惯的差异,一直是计算机视觉领域研究的热点与难点。另外,人体动作识别技术在许多领域中具有重要的实用价值,例如智能视频监控、高级人机交互、智能机器人、医疗监护、体育运动分析、虚拟现实等。其中,在当前的医疗系统中,随着社会老龄化问题的加剧,传统的专人照料不能完全解决问题。而以动作识别技术为基础构建的智能化医疗监护系统也就应运而生,通过自动检测老人独立完成某项日常活动,并对一些突然摔倒等异常行为及时准确地发出警报。用户在室内进行的动作行为是没有被人为控制的自然行为,如果这些特殊行为能够被系统所理解,这将给医疗监控节省了大量的人力、物力,也更加符合人类的生活需求。
人体动作识别的最终目标是,在完成人体动作捕获、动作特征提取的前提下,无人为干预地识别出人体动作的类型。传统的动作识别算法大多数是通过单目视觉摄像头获取到有关人体动作的彩色图像序列,而且提取出的动作特征大多是基于二维轮廓信息,识别的实时性与准确性依赖于检测与动作分类算法。同时,目前多数识别算法只是对简单或周期性重复的动作进行研究,还不能满足现实的需求。
人体动作运动过程其实可以看成是三维关节点之间的刚性运动,如头与躯干是由肩关节连接,下肢由膝关节连接的上下关节臂等等,而且每个关节的空间位置是相互独立的。因此,基于人体三维信息的识别方法给动作识别带来新的思路。获取人体的三维信息的方法主要有标记式和无标记式。其中标记式需要在人身上附加一些特殊的标志,这种方法限制了运动目标的自然运动,在实际生活中佩戴标记不方便,难以广泛应用。无标记式主要是通过深度设备,如双目立体视觉、TOF相机、Kinect结构光传感器等。其中双目立体视觉是以左右相机获取不同视觉下的两幅图像位置偏差来估计出物体的空间三维几何信息,但该设备对光照十分敏感,增加了立体匹配的难度。TOF相机是以计算发射与接收脉冲的时间差来评估物体与相机的深度值,但相机价格较高、分辨率较低,不适合实际的应用。
传统的动作识别方法大多是基于二维图像序列的人体动作识别,很容易受到光照条件、遮挡与阴影的影响,只有在人体衣服颜色和背景颜色差别很大或者不存在遮挡的情况下,才能得到较好的识别结果。虽然有些深度相机能够获取到三维信息,但是立体相机的有效距离只取决于基线的设置以及场景中环境光质量,TOF相机依赖于光线的反射,其有效距离取决于光线发出以及接受的范围,并且设备成本较高。
发明内容
本发明提供一种基于三维骨骼信息的人体动作识别方法,用以对人体动作进行识别。
为了达到上述目的,本发明提供了一种基于三维骨骼信息的人体动作识别方法,其包括以下步骤:
S1:将Kinect深度传感器固定于与地面平行的相机支架上,保证Kinect深度传感器与地面水平线平行且具有一定的垂直高度,并能拍摄到场景中完整的人体目标;
S2:使用Kinect深度传感器分别采集多个不同性别和身高的个体样本分别做出弯腰、单手举手、水平举手、双手举手、拍手、叉腰、踢腿、喝水、站立、抱头、坐、打拳12种动作时的彩色数据流、深度数据流和骨骼数据流;
S3:采用计算机中的OpenCV分别将每个个体样本作出12种动作时采集到的彩色数据流、深度数据流以及骨骼数据流转换为彩色图像、深度图像和骨骼图像,并将彩色图像、深度图像和骨骼图像在计算机屏幕上进行显示;
S4:分别从每个个体样本作出12种动作时采集到的骨骼数据流中获取到相对应的人体骨骼关节点的三维坐标值,其中,人体骨骼关节点为人体中的以下20个骨骼关节点:头、肩膀中心、左肩、左手肘、左手腕、左手、右肩、右手肘、右手腕、右手、脊柱、臀部中心、左臀、左膝、左脚踝、左脚、右臀、右膝、右脚踝和右脚;
S5:分别根据每一个个体样本于站立时,头的空间位置坐标(x0,H,y0,H,z0,H),左脚踝的空间坐标(x0,AL,y0,AL,z0,AL),右脚踝的空间坐标(x0,AR,y0,AR,z0,AR)计算出每个个体样本的身高H,其中,身高H的计算公式如下:
x 0 = ( x 0 , A L + x 0 , A R ) / 2 y 0 = ( y 0 , A L + y 0 , A R ) / 2 z 0 = ( z 0 , A L + z 0 , A R ) / 2 - - - ( 1 )
H = ( x 0 , H - x 0 ) 2 + ( y 0 , H - y 0 ) 2 + ( z 0 , H - z 0 ) 2 - - - ( 2 )
其中,(x0,y0,z0)为左脚踝与右脚踝中心点的坐标;
S6:以臀部中心为参考点,分别计算出每个个体样本作出12种动作时的其余19个人体骨骼关节点与参考点之间的距离;
S7:将计算出的每个个体样本作出12种动作时的其余19个人体骨骼关节点与参考点之间的距离分别除以相应的个体样本的身高H,得到归一化后的人体骨骼关节点与参考点之间的距离;
S8:根据S4中得到的人体骨骼关节点的三维坐标值,计算以下14对向量之间的向量夹角:【(肩膀中心,头),(肩膀中心,左肩)】、【(肩膀中心,头),(肩膀中心,右肩)】、【(肩膀中心,脊柱),(肩膀中心,左肩)】、【(肩膀中心,脊柱),(肩膀中心,右肩)】、【(肩膀中心,左肩),(左肩,左手肘)】、【(左肩,左手肘),(左手肘,左手腕)】、【(肩膀中心,右肩),(右肩,右手肘)】、【(右肩,右手肘),(右手肘,右手腕)】、【(脊柱,臀部中心),(臀部中心,左臀)】、【(脊柱,臀部中心),(臀部中心,右臀)】、【(臀部中心,左臀),(左臀,左膝)】、【(左臀,左膝),(左膝,左脚踝)】、【(臀部中心,右臀),(右臀,右膝)】、【(右臀,右膝),(右膝,右脚踝)】,分别得到每一个体样本在每一种动作时的14个向量夹角;
S9:将S7中得到的归一化后的人体骨骼关节点与参考点之间的距离以及S8中得到的向量夹角经过多分类SVM模型训练,得到12种动作的SVM模型,其中,通过S3步骤中显示在计算机屏幕上的彩色图像、深度图像和骨骼图像与SVM模型进行对应;
S10:当识别目标出现在Kinect深度传感器的采集范围内时,该识别目标作出站立动作,并使用Kinect深度传感器采集该识别目标的骨骼数据流;
S11:从采集到的骨骼数据流中获取到该识别目标的头、左脚踝和右脚踝的三维坐标值;
S12:根据步骤S5中的方法计算得到该识别目标的身高H1;
S13:在时刻t,当该识别目标在Kinect深度传感器的采集范围内作出任一动作时,Kinect深度传感器采集该识别目标的骨骼数据流;
S14:从该识别目标的骨骼数据流中获取到该识别目标的20个人体骨骼关节点的三维坐标值,20个人体骨骼关节点分别为:头、肩膀中心、左肩、左手肘、左手腕、左手、右肩、右手肘、右手腕、右手、脊柱、臀部中心、左臀、左膝、左脚踝、左脚、右臀、右膝、右脚踝和右脚;
S15:根据该识别目标的20个人体骨骼关节点的三维坐标值和S12中得到的该识别目标的身高H1,按照步骤S6和S7中的方法计算出该识别目标的归一化后的人体骨骼关节点与参考点之间的距离;
S16:根据S14中得到的人体骨骼关节点的三维坐标值,计算以下14对向量之间的向量夹角:【(肩膀中心,头),(肩膀中心,左肩)】、【(肩膀中心,头),(肩膀中心,右肩)】、【(肩膀中心,脊柱),(肩膀中心,左肩)】、【(肩膀中心,脊柱),(肩膀中心,右肩)】、【(肩膀中心,左肩),(左肩,左手肘)】、【(左肩,左手肘),(左手肘,左手腕)】、【(肩膀中心,右肩),(右肩,右手肘)】、【(右肩,右手肘),(右手肘,右手腕)】、【(脊柱,臀部中心),(臀部中心,左臀)】、【(脊柱,臀部中心),(臀部中心,右臀)】、【(臀部中心,左臀),(左臀,左膝)】、【(左臀,左膝),(左膝,左脚踝)】、【(臀部中心,右臀),(右臀,右膝)】、【(右臀,右膝),(右膝,右脚踝)】,得到该识别目标在时刻t时的14个向量夹角;
S17:将S15中得到的归一化后的人体骨骼关节点与参考点之间的距离以及S16中的得到的14个向量夹角分别输入至12种动作的SVM模型;
S18:比较每种SVM模型的输出概率,输出概率最大的SVM模型对应的动作即为该识别目标在时刻t作出的动作。
本发明提供的基于三维骨骼信息的人体动作识别方法具有以下有益技术效果:
(1)采用Kinect深度传感器进行图像获取,受光照条件、阴影等因素影响较小,能够实时获取人体动作的深度图和骨骼信息,从而准确地定位场景中的人体目标;
(2)采用归一化后的人体骨骼关节点与参考点之间的距离与关节角度表征不同动作的特征,使得动作数据具有平移和缩放不变性;
(3)通过多分类SVM模型来完成特征数据的训练与分类识别,运行成本较低。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为20个骨骼关节点的示意图;
图2为深度图像坐标系、骨骼坐标系、屏幕坐标系和彩色图像坐标系之间的转换关系;
图3a为一彩色图像的示意图;
图3b为一深度图像的示意图;
图3c为一骨骼图像的示意图;
图4a为人体摆手运动过程中臀部中心与左肩关节的相对位置变化曲线;
图4b为人体摆手运动过程中臀部中心与左肘关节的相对位置变化曲线;
图4c为人体摆手运动过程中臀部中心与左腕关节的相对位置变化曲线;
图4d为人体摆手运动过程中(左肩,左手肘)与(左手肘,左手腕)这两个向量之间的角度的变化曲线。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有付出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明提供的基于三维骨骼信息的人体动作识别方法包括以下步骤:
S1:将Kinect深度传感器固定于与地面平行的相机支架上,保证Kinect深度传感器与地面水平线平行且具有一定的垂直高度,并能拍摄到场景中完整的人体目标;
S2:使用Kinect深度传感器分别采集多个不同性别和身高的个体样本分别做出弯腰、单手举手、水平举手、双手举手、拍手、叉腰、踢腿、喝水、站立、抱头、坐、打拳12种动作时的彩色数据流、深度数据流和骨骼数据流;
其中,个体样本应尽量覆盖较宽的人体身高范围以及覆盖男性和女性两种性别,例如,应选择身高在155-170之间的女性以及身高在165-180之间的男性作为个体样本,且个体样本的身高在上述范围内尽量均匀分布。另外,个体样本所作的动作不限于上述12种动作,可根据被识别目标可能做出的动作进行调整,以提高成功识别几率。
S3:采用计算机中的OpenCV分别将每个个体样本作出12种动作时采集到的彩色数据流、深度数据流以及骨骼数据流转换为彩色图像、深度图像和骨骼图像,并将彩色图像、深度图像和骨骼图像在计算机屏幕上进行显示;
其中,在深度图像中,每个像素用2个字节表示,其中低3位表示用户索引编号,高13位表示Kinect深度传感器与个体样本的深度距离,本发明以伪灰度图像(灰度值为0-255)来表示获取到的深度图像。
图2为深度图像坐标系、骨骼坐标需、屏幕坐标系和彩色图像坐标系之间的转换关系,如图所示,骨骼空间坐标系与深度图像坐标系都是三维坐标系,以红外摄像头为原点,与红外摄像头和彩色摄像头平行的方向为X轴,与它们垂直的方向为Y轴,红外摄像头的光轴方向为Z轴;彩色图像坐标系为二维坐标系。计算机屏幕坐标系是以窗口的左上角为原点,水平向右为X轴,垂直向下为Y轴。当采集到某时刻的动作图像帧时,将它们显示到屏幕中需要进行空间坐标的转换。
图3a、图3b和图3c分别为一彩色图像、一深度图像和一骨骼图像的示意图,如图所示,由彩色图像、深度图像和骨骼图像均能分辨出个体样本所作出的动作为哪一种。
S4:分别从每个个体样本作出12种动作时采集到的骨骼数据流中获取到相对应的人体骨骼关节点的三维坐标值,其中,图1为20个骨骼关节点的示意图,如图所示,人体骨骼关节点为人体中的以下20个骨骼关节点:头、肩膀中心、左肩、左手肘、左手腕、左手、右肩、右手肘、右手腕、右手、脊柱、臀部中心、左臀、左膝、左脚踝、左脚、右臀、右膝、右脚踝和右脚;
其中,为了减少图像帧中关节点的抖动情况以及人体自身的关节点遮挡,设置了平滑处理参数以获取较准确的骨骼关节点坐标值。
S5:分别根据每一个个体样本于站立时,头的空间位置坐标(x0,H,y0,H,z0,H),左脚踝的空间坐标(x0,AL,y0,AL,z0,AL),右脚踝的空间坐标(x0,AR,y0,AR,z0,AR)计算出每个个体样本的身高H,其中,身高H的计算公式如下:
x 0 = ( x 0 , A L + x 0 , A R ) / 2 y 0 = ( y 0 , A L + y 0 , A R ) / 2 z 0 = ( z 0 , A L + z 0 , A R ) / 2 - - - ( 1 )
H = ( x 0 , H - x 0 ) 2 + ( y 0 , H - y 0 ) 2 + ( z 0 , H - z 0 ) 2 - - - ( 2 )
其中,(x0,y0,z0)为左脚踝与右脚踝中心点的坐标;
S6:以臀部中心为参考点,分别计算出每个个体样本作出12种动作时的其余19个人体骨骼关节点与参考点之间的距离;
S7:将计算出的每个个体样本作出12种动作时的其余19个人体骨骼关节点与参考点之间的距离分别除以相应的个体样本的身高H,得到归一化后的人体骨骼关节点与参考点之间的距离;
S8:根据S4中得到的人体骨骼关节点的三维坐标值,计算以下14对向量之间的向量夹角:【(肩膀中心,头),(肩膀中心,左肩)】、【(肩膀中心,头),(肩膀中心,右肩)】、【(肩膀中心,脊柱),(肩膀中心,左肩)】、【(肩膀中心,脊柱),(肩膀中心,右肩)】、【(肩膀中心,左肩),(左肩,左手肘)】、【(左肩,左手肘),(左手肘,左手腕)】、【(肩膀中心,右肩),(右肩,右手肘)】、【(右肩,右手肘),(右手肘,右手腕)】、【(脊柱,臀部中心),(臀部中心,左臀)】、【(脊柱,臀部中心),(臀部中心,右臀)】、【(臀部中心,左臀),(左臀,左膝)】、【(左臀,左膝),(左膝,左脚踝)】、【(臀部中心,右臀),(右臀,右膝)】、【(右臀,右膝),(右膝,右脚踝)】,分别得到每一个体样本在每一种动作时的14个向量夹角;
S9:将S7中得到的归一化后的人体骨骼关节点与参考点之间的距离以及S8中得到的向量夹角经过多分类SVM模型训练,得到12种动作的SVM模型,其中,通过S3步骤中显示在计算机屏幕上的彩色图像、深度图像和骨骼图像与SVM模型进行对应;
其中,由显示在计算机屏幕上的彩色图像、深度图像和骨骼图像能够看出每一个体样本的动作,将其与相应的SVM模型对应后,可以观察构建出的SVM模型的是否与实际动作相符。
S10:当识别目标出现在Kinect深度传感器的采集范围内时,该识别目标作出站立动作,并使用Kinect深度传感器采集该识别目标的骨骼数据流;
让识别目标作出站立动作的目的是为了计算其身高,以便于后续的归一化计算。
S11:从采集到的骨骼数据流中获取到该识别目标的头、左脚踝和右脚踝的三维坐标值;
S12:根据步骤S5中的方法计算得到该识别目标的身高H1;
S13:在时刻t,当该识别目标在Kinect深度传感器的采集范围内作出任一动作时,Kinect深度传感器采集该识别目标的骨骼数据流;
S14:从该识别目标的骨骼数据流中获取到该识别目标的20个人体骨骼关节点的三维坐标值,20个人体骨骼关节点分别为:头、肩膀中心、左肩、左手肘、左手腕、左手、右肩、右手肘、右手腕、右手、脊柱、臀部中心、左臀、左膝、左脚踝、左脚、右臀、右膝、右脚踝和右脚;
S15:根据该识别目标的20个人体骨骼关节点的三维坐标值和S12中得到的该识别目标的身高H1,按照步骤S6和S7中的方法计算出该识别目标的归一化后的人体骨骼关节点与参考点之间的距离;
S16:根据S14中得到的人体骨骼关节点的三维坐标值,计算以下14对向量之间的向量夹角:【(肩膀中心,头),(肩膀中心,左肩)】、【(肩膀中心,头),(肩膀中心,右肩)】、【(肩膀中心,脊柱),(肩膀中心,左肩)】、【(肩膀中心,脊柱),(肩膀中心,右肩)】、【(肩膀中心,左肩),(左肩,左手肘)】、【(左肩,左手肘),(左手肘,左手腕)】、【(肩膀中心,右肩),(右肩,右手肘)】、【(右肩,右手肘),(右手肘,右手腕)】、【(脊柱,臀部中心),(臀部中心,左臀)】、【(脊柱,臀部中心),(臀部中心,右臀)】、【(臀部中心,左臀),(左臀,左膝)】、【(左臀,左膝),(左膝,左脚踝)】、【(臀部中心,右臀),(右臀,右膝)】、【(右臀,右膝),(右膝,右脚踝)】,得到该识别目标在时刻t时的14个向量夹角;
S17:将S15中得到的归一化后的人体骨骼关节点与参考点之间的距离以及S16中的得到的14个向量夹角分别输入至12种动作的SVM模型;
特征提取与描述是从运动序列中提取合理的数据来描述人体动作的不同类型,直接决定着机器学习分类结果,是动作识别的主要内容。人体之间存在体型的差异,在做相同动作时存在较大的差异性,若直接以采集到关节点坐标作为特征数据,很难做到特征数据的有效性。对于三维数据信息的人体动作识别,本发明采用归一化后的人体骨骼关节点与参考点之间的距离与向量夹角两类信息来进行特征提取与描述,减少人体肢体长度、体型以及身高的影响。
S18:比较每种SVM模型的输出概率,输出概率最大的SVM模型对应的动作即为该识别目标在时刻t作出的动作。
本发明中的计算机应采用较高性能的计算机,配置Win7系统或以上,以满足大量数据的实时处理要求。
图4a、图4b和图4c分别为人体摆手运动过程中-臀部中心与左肩关节、臀部中心与左肘关节、臀部中心与左腕关节之间的相对位置变化曲线。其中,横轴标注的数字表示数据流中图像帧的顺序,对相对位置的描述采用的是骨骼坐标系,参考点为臀部中心,以图4a为例,图4a中的三条曲线分别表示人体摆手运动过程,左肩关节在x轴、y轴和z轴方向相对于参考点的位置变化,如图所示,在人体摆手运动过程中,上述变化曲线呈现一定的规律性,从而能够用于人体动作识别。
图4d为人体摆手运动过程中(左肩,左手肘)与(左手肘,左手腕)这两个向量之间的角度的变化曲线,如图所示,在人体摆手运动过程中,(左肩,左手肘)与(左手肘,左手腕)这两个向量之间的角度呈现先增加后降低的规律,从而能够作为动作特征用于动作识别。
本发明提供的基于三维骨骼信息的人体动作识别方法具有以下有益技术效果:
(1)采用Kinect深度传感器进行图像获取,受光照条件、阴影等因素影响较小,能够实时获取人体动作的深度图和骨骼信息,从而准确地定位场景中的人体目标;
(2)采用归一化后的人体骨骼关节点与参考点之间的距离与关节角度表征不同动作的特征,使得动作数据具有平移和缩放不变性;
(3)通过多分类SVM模型来完成特征数据的训练与分类识别,运行成本较低。
本领域普通技术人员可以理解:附图只是一个实施例的示意图,附图中的模块或流程并不一定是实施本发明所必须的。
本领域普通技术人员可以理解:实施例中的装置中的模块可以按照实施例描述分布于实施例的装置中,也可以进行相应变化位于不同于本实施例的一个或多个装置中。上述实施例的模块可以合并为一个模块,也可以进一步拆分成多个子模块。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围。

Claims (1)

1.一种基于三维骨骼信息的人体动作识别方法,其特征在于,包括以下步骤:
S1:将Kinect深度传感器固定于与地面平行的相机支架上,保证Kinect深度传感器与地面水平线平行且具有一定的垂直高度,并能拍摄到场景中完整的人体目标;
S2:使用Kinect深度传感器分别采集多个不同性别和身高的个体样本分别做出弯腰、单手举手、水平举手、双手举手、拍手、叉腰、踢腿、喝水、站立、抱头、坐、打拳12种动作时的彩色数据流、深度数据流和骨骼数据流;
S3:采用计算机中的OpenCV分别将每个个体样本作出12种动作时采集到的彩色数据流、深度数据流以及骨骼数据流转换为彩色图像、深度图像和骨骼图像,并将彩色图像、深度图像和骨骼图像在计算机屏幕上进行显示;
S4:分别从每个个体样本作出12种动作时采集到的骨骼数据流中获取到相对应的人体骨骼关节点的三维坐标值,其中,人体骨骼关节点为人体中的以下20个骨骼关节点:头、肩膀中心、左肩、左手肘、左手腕、左手、右肩、右手肘、右手腕、右手、脊柱、臀部中心、左臀、左膝、左脚踝、左脚、右臀、右膝、右脚踝和右脚;
S5:分别根据每一个个体样本于站立时,头的空间位置坐标(x0,H,y0,H,z0,H),左脚踝的空间坐标(x0,AL,y0,AL,z0,AL),右脚踝的空间坐标(x0,AR,y0,AR,z0,AR)计算出每个个体样本的身高H,其中,身高H的计算公式如下:
x 0 = ( x 0 , A L + x 0 , A R ) / 2 y 0 = ( y 0 , A L + y 0 , A R ) / 2 z 0 = ( z 0 , A L + z 0 , A R ) / 2 - - - ( 1 )
H = ( x 0 , H - x 0 ) 2 + ( y 0 , H - y 0 ) 2 + ( z 0 , H - z 0 ) 2 - - - ( 2 )
其中,(x0,y0,z0)为左脚踝与右脚踝中心点的坐标;
S6:以臀部中心为参考点,分别计算出每个个体样本作出12种动作时的其余19个人体骨骼关节点与参考点之间的距离;
S7:将计算出的每个个体样本作出12种动作时的其余19个人体骨骼关节点与参考点之间的距离分别除以相应的个体样本的身高H,得到归一化后的人体骨骼关节点与参考点之间的距离;
S8:根据S4中得到的人体骨骼关节点的三维坐标值,计算以下14对向量之间的向量夹角:【(肩膀中心,头),(肩膀中心,左肩)】、【(肩膀中心,头),(肩膀中心,右肩)】、【(肩膀中心,脊柱),(肩膀中心,左肩)】、【(肩膀中心,脊柱),(肩膀中心,右肩)】、【(肩膀中心,左肩),(左肩,左手肘)】、【(左肩,左手肘),(左手肘,左手腕)】、【(肩膀中心,右肩),(右肩,右手肘)】、【(右肩,右手肘),(右手肘,右手腕)】、【(脊柱,臀部中心),(臀部中心,左臀)】、【(脊柱,臀部中心),(臀部中心,右臀)】、【(臀部中心,左臀),(左臀,左膝)】、【(左臀,左膝),(左膝,左脚踝)】、【(臀部中心,右臀),(右臀,右膝)】、【(右臀,右膝),(右膝,右脚踝)】,分别得到每一个体样本在每一种动作时的14个向量夹角;
S9:将S7中得到的归一化后的人体骨骼关节点与参考点之间的距离以及S8中得到的向量夹角经过多分类SVM模型训练,得到12种动作的SVM模型,其中,通过S3步骤中显示在计算机屏幕上的彩色图像、深度图像和骨骼图像与SVM模型进行对应;
S10:当识别目标出现在Kinect深度传感器的采集范围内时,该识别目标作出站立动作,并使用Kinect深度传感器采集该识别目标的骨骼数据流;
S11:从采集到的骨骼数据流中获取到该识别目标的头、左脚踝和右脚踝的三维坐标值;
S12:根据步骤S5中的方法计算得到该识别目标的身高H1;
S13:在时刻t,当该识别目标在Kinect深度传感器的采集范围内作出任一动作时,Kinect深度传感器采集该识别目标的骨骼数据流;
S14:从该识别目标的骨骼数据流中获取到该识别目标的20个人体骨骼关节点的三维坐标值,20个人体骨骼关节点分别为:头、肩膀中心、左肩、左手肘、左手腕、左手、右肩、右手肘、右手腕、右手、脊柱、臀部中心、左臀、左膝、左脚踝、左脚、右臀、右膝、右脚踝和右脚;
S15:根据该识别目标的20个人体骨骼关节点的三维坐标值和S12中得到的该识别目标的身高H1,按照步骤S6和S7中的方法计算出该识别目标的归一化后的人体骨骼关节点与参考点之间的距离;
S16:根据S14中得到的人体骨骼关节点的三维坐标值,计算以下14对向量之间的向量夹角:【(肩膀中心,头),(肩膀中心,左肩)】、【(肩膀中心,头),(肩膀中心,右肩)】、【(肩膀中心,脊柱),(肩膀中心,左肩)】、【(肩膀中心,脊柱),(肩膀中心,右肩)】、【(肩膀中心,左肩),(左肩,左手肘)】、【(左肩,左手肘),(左手肘,左手腕)】、【(肩膀中心,右肩),(右肩,右手肘)】、【(右肩,右手肘),(右手肘,右手腕)】、【(脊柱,臀部中心),(臀部中心,左臀)】、【(脊柱,臀部中心),(臀部中心,右臀)】、【(臀部中心,左臀),(左臀,左膝)】、【(左臀,左膝),(左膝,左脚踝)】、【(臀部中心,右臀),(右臀,右膝)】、【(右臀,右膝),(右膝,右脚踝)】,得到该识别目标在时刻t时的14个向量夹角;
S17:将S15中得到的归一化后的人体骨骼关节点与参考点之间的距离以及S16中的得到的14个向量夹角分别输入至12种动作的SVM模型;
S18:比较每种SVM模型的输出概率,输出概率最大的SVM模型对应的动作即为该识别目标在时刻t作出的动作。
CN201610289796.6A 2016-05-04 2016-05-04 一种基于三维骨骼信息的人体动作识别方法 Active CN106022213B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610289796.6A CN106022213B (zh) 2016-05-04 2016-05-04 一种基于三维骨骼信息的人体动作识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610289796.6A CN106022213B (zh) 2016-05-04 2016-05-04 一种基于三维骨骼信息的人体动作识别方法

Publications (2)

Publication Number Publication Date
CN106022213A true CN106022213A (zh) 2016-10-12
CN106022213B CN106022213B (zh) 2019-06-07

Family

ID=57081122

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610289796.6A Active CN106022213B (zh) 2016-05-04 2016-05-04 一种基于三维骨骼信息的人体动作识别方法

Country Status (1)

Country Link
CN (1) CN106022213B (zh)

Cited By (70)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106558071A (zh) * 2016-11-10 2017-04-05 张昊华 一种获取人体关节信息的方法及终端
CN106650687A (zh) * 2016-12-30 2017-05-10 山东大学 一种基于深度信息和骨骼信息的姿势矫正方法
CN107080940A (zh) * 2017-03-07 2017-08-22 中国农业大学 基于深度相机Kinect的体感交互转换方法及装置
CN107180235A (zh) * 2017-06-01 2017-09-19 陕西科技大学 基于Kinect的人体动作识别算法
CN107194344A (zh) * 2017-05-16 2017-09-22 西安电子科技大学 自适应骨骼中心的人体行为识别方法
CN107192342A (zh) * 2017-05-11 2017-09-22 广州帕克西软件开发有限公司 一种非接触式体型数据的测量方法及系统
CN107220608A (zh) * 2017-05-22 2017-09-29 华南理工大学 一种篮球动作模型重建和防守的指导系统及方法
CN107247874A (zh) * 2017-06-06 2017-10-13 陕西科技大学 一种基于Kinect的体检机器人系统
CN107274467A (zh) * 2017-06-29 2017-10-20 厦门游亨世纪科技有限公司 一种基于Unity3D的模型动画联动方法
CN107301370A (zh) * 2017-05-08 2017-10-27 上海大学 一种基于Kinect三维骨架模型的肢体动作识别方法
CN107371009A (zh) * 2017-06-07 2017-11-21 东南大学 一种人体动作增强可视化方法及人体动作增强现实系统
CN108229332A (zh) * 2017-12-08 2018-06-29 华为技术有限公司 骨骼姿态确定方法、装置及计算机可读存储介质
CN108392207A (zh) * 2018-02-09 2018-08-14 西北大学 一种基于姿态标签的动作识别方法
CN108416251A (zh) * 2018-01-08 2018-08-17 中国矿业大学 基于量子遗传算法优化的高效人体动作识别方法
CN108721870A (zh) * 2018-01-23 2018-11-02 吉林大学 一种基于虚拟环境的运动训练评价方法
CN108846996A (zh) * 2018-08-06 2018-11-20 浙江理工大学 一种摔倒侦测系统及方法
CN108875708A (zh) * 2018-07-18 2018-11-23 广东工业大学 基于视频的行为分析方法、装置、设备、系统及存储介质
CN108898119A (zh) * 2018-07-04 2018-11-27 吉林大学 一种弯曲动作识别方法
CN109117763A (zh) * 2018-07-28 2019-01-01 南京理工大学 一种基于rgb-d数据建立超平面的异常行为识别方法
CN109308438A (zh) * 2017-07-28 2019-02-05 上海形趣信息科技有限公司 动作识别库的建立方法、电子设备、存储介质
CN109308437A (zh) * 2017-07-28 2019-02-05 上海形趣信息科技有限公司 动作识别纠错方法、电子设备、存储介质
CN109344790A (zh) * 2018-10-16 2019-02-15 浩云科技股份有限公司 一种基于姿态分析的人体行为分析方法及系统
CN109344694A (zh) * 2018-08-13 2019-02-15 西安理工大学 一种基于三维人体骨架的人体基本动作实时识别方法
CN109364387A (zh) * 2018-12-05 2019-02-22 上海市肺科医院 一种放射治疗ar定位摆位系统
CN109407825A (zh) * 2018-08-30 2019-03-01 百度在线网络技术(北京)有限公司 基于虚拟物品的互动方法与装置
WO2019041900A1 (zh) * 2017-09-04 2019-03-07 全球能源互联网研究院有限公司 增强现实环境中识别装配操作、模拟装配的方法和装置
CN109635783A (zh) * 2019-01-02 2019-04-16 上海数迹智能科技有限公司 视频监控方法、装置、终端和介质
CN109621331A (zh) * 2018-12-13 2019-04-16 深圳壹账通智能科技有限公司 辅助健身方法、装置及存储介质、服务器
CN109635853A (zh) * 2018-11-26 2019-04-16 深圳市玛尔仕文化科技有限公司 基于计算机图形技术自动生成人工智能训练样本的方法
CN109948472A (zh) * 2019-03-04 2019-06-28 南京邮电大学 一种基于姿态估计的非侵入式人体热舒适检测方法及系统
CN109947247A (zh) * 2019-03-14 2019-06-28 海南师范大学 一种体感交互展示系统及方法
CN110045823A (zh) * 2019-03-12 2019-07-23 北京邮电大学 一种基于动作捕捉的动作指导方法和装置
CN110298220A (zh) * 2018-03-23 2019-10-01 上海形趣信息科技有限公司 动作视频直播方法、系统、电子设备、存储介质
CN110298221A (zh) * 2018-03-23 2019-10-01 上海形趣信息科技有限公司 自助健身方法、系统、电子设备、存储介质
CN110327053A (zh) * 2019-07-12 2019-10-15 广东工业大学 一种基于电梯空间的人体行为安全监测方法、设备及系统
CN110348321A (zh) * 2019-06-18 2019-10-18 杭州电子科技大学 基于骨骼时空特征及长短时记忆网络的人体动作识别方法
CN110428486A (zh) * 2018-04-28 2019-11-08 上海形趣信息科技有限公司 虚拟互动的健身方法、电子设备及存储介质
CN110490143A (zh) * 2019-08-21 2019-11-22 西安工程大学 一种自适应模式的动作识别方法
CN110480634A (zh) * 2019-08-08 2019-11-22 北京科技大学 一种针对机械臂运动控制的手臂引导运动控制方法
CN110503077A (zh) * 2019-08-29 2019-11-26 郑州大学 一种基于视觉的实时人体动作分析方法
CN110517338A (zh) * 2019-07-11 2019-11-29 北京电影学院 一种基于两足角色实体特征构建可复用动作库的方法
CN110674747A (zh) * 2019-09-24 2020-01-10 上海眼控科技股份有限公司 行为判别方法、装置、计算机设备和可读存储介质
CN110782482A (zh) * 2019-10-21 2020-02-11 深圳市网心科技有限公司 运动评估方法、装置、计算机设备及存储介质
CN110910426A (zh) * 2019-11-26 2020-03-24 爱菲力斯(深圳)科技有限公司 动作过程和动作趋势识别方法、存储介质和电子装置
CN110969114A (zh) * 2019-11-28 2020-04-07 四川省骨科医院 一种人体动作功能检测系统、检测方法及检测仪
CN110991292A (zh) * 2019-11-26 2020-04-10 爱菲力斯(深圳)科技有限公司 动作识别比对方法、系统、计算机存储介质和电子装置
CN111142663A (zh) * 2019-12-27 2020-05-12 恒信东方文化股份有限公司 一种手势识别方法及手势识别系统
CN111316283A (zh) * 2017-10-31 2020-06-19 Sk电信有限公司 姿势识别方法及装置
CN111353347A (zh) * 2018-12-21 2020-06-30 上海形趣信息科技有限公司 动作识别纠错方法、电子设备、存储介质
CN111639612A (zh) * 2020-06-04 2020-09-08 浙江商汤科技开发有限公司 姿态矫正的方法、装置、电子设备及存储介质
CN111913830A (zh) * 2020-08-18 2020-11-10 深圳大普微电子科技有限公司 一种重读操作处理方法、装置、设备及可读存储介质
CN112131979A (zh) * 2020-09-09 2020-12-25 东南大学 一种基于人体骨骼信息的连续动作识别方法
CN112149466A (zh) * 2019-06-28 2020-12-29 富士通株式会社 手臂动作识别方法、装置及图像处理设备
CN112233769A (zh) * 2020-10-12 2021-01-15 安徽动感智能科技有限公司 一种基于数据采集的患后康复系统
CN112364806A (zh) * 2020-11-23 2021-02-12 南京熊猫电子制造有限公司 一种人机交互环境中特征选择的人类活动识别系统及其识别方法
CN112668359A (zh) * 2019-10-15 2021-04-16 富士通株式会社 动作识别方法、动作识别装置和电子设备
CN112674759A (zh) * 2020-12-21 2021-04-20 西南交通大学 一种婴儿站立状态识别方法及系统
CN112800990A (zh) * 2021-02-02 2021-05-14 南威软件股份有限公司 一种实时人体动作识别和计数方法
CN113065505A (zh) * 2021-04-15 2021-07-02 中国标准化研究院 身体动作快速识别方法及系统
CN113063411A (zh) * 2020-06-29 2021-07-02 河北工业大学 外骨骼评价系统及其使用方法
CN113080859A (zh) * 2021-03-31 2021-07-09 安徽正华生物仪器设备有限公司 一种基于日常行为分析的阿尔茨海默症预警系统
CN113744376A (zh) * 2021-09-16 2021-12-03 北京爱奇艺科技有限公司 数据的修正方法及装置、电子设备、可读存储介质
CN114020147A (zh) * 2021-09-30 2022-02-08 联想(北京)有限公司 一种与教学大屏互动的方法及设备
CN114224322A (zh) * 2021-10-25 2022-03-25 上海工程技术大学 一种基于人体骨骼关键点的脊柱侧弯评估方法
CN114663972A (zh) * 2021-11-05 2022-06-24 范书琪 基于动作差分的目标标记方法及装置
CN114949795A (zh) * 2022-05-09 2022-08-30 乐跑体育互联网(武汉)有限公司 一种基于Kinect骨骼数据的运动量监测方法、装置及系统
US11514605B2 (en) 2020-09-29 2022-11-29 International Business Machines Corporation Computer automated interactive activity recognition based on keypoint detection
CN116392798A (zh) * 2023-03-09 2023-07-07 恒鸿达(福建)体育科技有限公司 一种双杠臂屈伸的自动测试方法、装置、设备和介质
CN116580231A (zh) * 2023-07-13 2023-08-11 常熟理工学院 一种社交肢体动作识别控制方法、装置、设备及存储介质
DE102022133342A1 (de) 2022-12-14 2024-06-20 Continental Automotive Technologies GmbH Computer- implementiertes Verfahren zur Aktionserkennung und Anwendung für die Überwachung von Fahrzeuginsassen oder Personen außerhalb des Fahrzeugs

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006099589A2 (en) * 2005-03-16 2006-09-21 Lucasfilm Entertainment Company Ltd. Three- dimensional motion capture
CN102749993A (zh) * 2012-05-30 2012-10-24 无锡掌游天下科技有限公司 基于骨骼节点数据的动作识别方法
CN102831380A (zh) * 2011-06-15 2012-12-19 康佳集团股份有限公司 一种基于深度图像感应的肢体动作识别方法及系统
CN103020648A (zh) * 2013-01-09 2013-04-03 北京东方艾迪普科技发展有限公司 一种动作类型识别方法、节目播出方法及装置
CN103155003A (zh) * 2010-10-08 2013-06-12 松下电器产业株式会社 姿势估计装置及姿势估计方法
CN103399637A (zh) * 2013-07-31 2013-11-20 西北师范大学 基于kinect人体骨骼跟踪控制的智能机器人人机交互方法
US20140169623A1 (en) * 2012-12-19 2014-06-19 Microsoft Corporation Action recognition based on depth maps
CN104038738A (zh) * 2014-06-04 2014-09-10 东北大学 一种提取人体关节点坐标的智能监控系统及方法
CN104298974A (zh) * 2014-10-10 2015-01-21 北京工业大学 一种基于深度视频序列的人体行为识别方法
CN105046281A (zh) * 2015-08-14 2015-11-11 安徽创世科技有限公司 一种基于Kinect的人体行为检测方法

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006099589A2 (en) * 2005-03-16 2006-09-21 Lucasfilm Entertainment Company Ltd. Three- dimensional motion capture
CN103155003A (zh) * 2010-10-08 2013-06-12 松下电器产业株式会社 姿势估计装置及姿势估计方法
CN102831380A (zh) * 2011-06-15 2012-12-19 康佳集团股份有限公司 一种基于深度图像感应的肢体动作识别方法及系统
CN102749993A (zh) * 2012-05-30 2012-10-24 无锡掌游天下科技有限公司 基于骨骼节点数据的动作识别方法
US20140169623A1 (en) * 2012-12-19 2014-06-19 Microsoft Corporation Action recognition based on depth maps
CN103020648A (zh) * 2013-01-09 2013-04-03 北京东方艾迪普科技发展有限公司 一种动作类型识别方法、节目播出方法及装置
CN103399637A (zh) * 2013-07-31 2013-11-20 西北师范大学 基于kinect人体骨骼跟踪控制的智能机器人人机交互方法
CN104038738A (zh) * 2014-06-04 2014-09-10 东北大学 一种提取人体关节点坐标的智能监控系统及方法
CN104298974A (zh) * 2014-10-10 2015-01-21 北京工业大学 一种基于深度视频序列的人体行为识别方法
CN105046281A (zh) * 2015-08-14 2015-11-11 安徽创世科技有限公司 一种基于Kinect的人体行为检测方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
XI CHEN ETC.: "Skeleton-based action recognition with extreme learning machines", 《SCIENCEDIRECT》 *

Cited By (96)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106558071A (zh) * 2016-11-10 2017-04-05 张昊华 一种获取人体关节信息的方法及终端
CN106558071B (zh) * 2016-11-10 2019-04-23 张昊华 一种获取人体关节信息的方法及终端
CN106650687A (zh) * 2016-12-30 2017-05-10 山东大学 一种基于深度信息和骨骼信息的姿势矫正方法
CN107080940A (zh) * 2017-03-07 2017-08-22 中国农业大学 基于深度相机Kinect的体感交互转换方法及装置
CN107301370A (zh) * 2017-05-08 2017-10-27 上海大学 一种基于Kinect三维骨架模型的肢体动作识别方法
CN107192342A (zh) * 2017-05-11 2017-09-22 广州帕克西软件开发有限公司 一种非接触式体型数据的测量方法及系统
CN107194344B (zh) * 2017-05-16 2020-06-05 西安电子科技大学 自适应骨骼中心的人体行为识别方法
CN107194344A (zh) * 2017-05-16 2017-09-22 西安电子科技大学 自适应骨骼中心的人体行为识别方法
CN107220608A (zh) * 2017-05-22 2017-09-29 华南理工大学 一种篮球动作模型重建和防守的指导系统及方法
CN107180235A (zh) * 2017-06-01 2017-09-19 陕西科技大学 基于Kinect的人体动作识别算法
CN107247874A (zh) * 2017-06-06 2017-10-13 陕西科技大学 一种基于Kinect的体检机器人系统
CN107371009A (zh) * 2017-06-07 2017-11-21 东南大学 一种人体动作增强可视化方法及人体动作增强现实系统
CN107274467A (zh) * 2017-06-29 2017-10-20 厦门游亨世纪科技有限公司 一种基于Unity3D的模型动画联动方法
CN109308437A (zh) * 2017-07-28 2019-02-05 上海形趣信息科技有限公司 动作识别纠错方法、电子设备、存储介质
CN109308438A (zh) * 2017-07-28 2019-02-05 上海形趣信息科技有限公司 动作识别库的建立方法、电子设备、存储介质
CN109308438B (zh) * 2017-07-28 2020-11-27 上海形趣信息科技有限公司 动作识别库的建立方法、电子设备、存储介质
WO2019041900A1 (zh) * 2017-09-04 2019-03-07 全球能源互联网研究院有限公司 增强现实环境中识别装配操作、模拟装配的方法和装置
CN111316283B (zh) * 2017-10-31 2023-10-17 Sk电信有限公司 姿势识别方法及装置
CN111316283A (zh) * 2017-10-31 2020-06-19 Sk电信有限公司 姿势识别方法及装置
US10963682B2 (en) 2017-12-08 2021-03-30 Huawei Technologies Co., Ltd. Skeleton posture determining method and apparatus, and computer readable storage medium
WO2019109729A1 (zh) * 2017-12-08 2019-06-13 华为技术有限公司 骨骼姿态确定方法、装置及计算机可读存储介质
CN108229332A (zh) * 2017-12-08 2018-06-29 华为技术有限公司 骨骼姿态确定方法、装置及计算机可读存储介质
CN108229332B (zh) * 2017-12-08 2020-02-14 华为技术有限公司 骨骼姿态确定方法、装置及计算机可读存储介质
CN108416251A (zh) * 2018-01-08 2018-08-17 中国矿业大学 基于量子遗传算法优化的高效人体动作识别方法
CN108721870A (zh) * 2018-01-23 2018-11-02 吉林大学 一种基于虚拟环境的运动训练评价方法
CN108721870B (zh) * 2018-01-23 2023-05-26 吉林大学 一种基于虚拟环境的运动训练评价方法
CN108392207A (zh) * 2018-02-09 2018-08-14 西北大学 一种基于姿态标签的动作识别方法
CN108392207B (zh) * 2018-02-09 2020-12-11 西北大学 一种基于姿态标签的动作识别方法
CN110298221B (zh) * 2018-03-23 2022-02-11 上海史贝斯健身管理有限公司 自助健身方法、系统、电子设备、存储介质
CN110298220B (zh) * 2018-03-23 2021-11-09 上海史贝斯健身管理有限公司 动作视频直播方法、系统、电子设备、存储介质
CN110298221A (zh) * 2018-03-23 2019-10-01 上海形趣信息科技有限公司 自助健身方法、系统、电子设备、存储介质
CN110298220A (zh) * 2018-03-23 2019-10-01 上海形趣信息科技有限公司 动作视频直播方法、系统、电子设备、存储介质
CN110428486B (zh) * 2018-04-28 2022-09-27 上海史贝斯健身管理有限公司 虚拟互动的健身方法、电子设备及存储介质
CN110428486A (zh) * 2018-04-28 2019-11-08 上海形趣信息科技有限公司 虚拟互动的健身方法、电子设备及存储介质
CN108898119A (zh) * 2018-07-04 2018-11-27 吉林大学 一种弯曲动作识别方法
CN108898119B (zh) * 2018-07-04 2019-06-25 吉林大学 一种弯曲动作识别方法
CN108875708A (zh) * 2018-07-18 2018-11-23 广东工业大学 基于视频的行为分析方法、装置、设备、系统及存储介质
CN109117763A (zh) * 2018-07-28 2019-01-01 南京理工大学 一种基于rgb-d数据建立超平面的异常行为识别方法
CN108846996A (zh) * 2018-08-06 2018-11-20 浙江理工大学 一种摔倒侦测系统及方法
CN109344694B (zh) * 2018-08-13 2022-03-22 西安理工大学 一种基于三维人体骨架的人体基本动作实时识别方法
CN109344694A (zh) * 2018-08-13 2019-02-15 西安理工大学 一种基于三维人体骨架的人体基本动作实时识别方法
CN109407825A (zh) * 2018-08-30 2019-03-01 百度在线网络技术(北京)有限公司 基于虚拟物品的互动方法与装置
CN109344790A (zh) * 2018-10-16 2019-02-15 浩云科技股份有限公司 一种基于姿态分析的人体行为分析方法及系统
CN109635853A (zh) * 2018-11-26 2019-04-16 深圳市玛尔仕文化科技有限公司 基于计算机图形技术自动生成人工智能训练样本的方法
CN109364387A (zh) * 2018-12-05 2019-02-22 上海市肺科医院 一种放射治疗ar定位摆位系统
CN109621331A (zh) * 2018-12-13 2019-04-16 深圳壹账通智能科技有限公司 辅助健身方法、装置及存储介质、服务器
CN111353347A (zh) * 2018-12-21 2020-06-30 上海形趣信息科技有限公司 动作识别纠错方法、电子设备、存储介质
CN109635783A (zh) * 2019-01-02 2019-04-16 上海数迹智能科技有限公司 视频监控方法、装置、终端和介质
CN109948472A (zh) * 2019-03-04 2019-06-28 南京邮电大学 一种基于姿态估计的非侵入式人体热舒适检测方法及系统
CN110045823A (zh) * 2019-03-12 2019-07-23 北京邮电大学 一种基于动作捕捉的动作指导方法和装置
CN110045823B (zh) * 2019-03-12 2020-10-02 北京邮电大学 一种基于动作捕捉的动作指导方法和装置
CN109947247A (zh) * 2019-03-14 2019-06-28 海南师范大学 一种体感交互展示系统及方法
CN109947247B (zh) * 2019-03-14 2022-07-05 海南师范大学 一种体感交互展示系统及方法
CN110348321A (zh) * 2019-06-18 2019-10-18 杭州电子科技大学 基于骨骼时空特征及长短时记忆网络的人体动作识别方法
CN112149466A (zh) * 2019-06-28 2020-12-29 富士通株式会社 手臂动作识别方法、装置及图像处理设备
CN110517338A (zh) * 2019-07-11 2019-11-29 北京电影学院 一种基于两足角色实体特征构建可复用动作库的方法
CN110327053A (zh) * 2019-07-12 2019-10-15 广东工业大学 一种基于电梯空间的人体行为安全监测方法、设备及系统
CN110480634A (zh) * 2019-08-08 2019-11-22 北京科技大学 一种针对机械臂运动控制的手臂引导运动控制方法
CN110490143A (zh) * 2019-08-21 2019-11-22 西安工程大学 一种自适应模式的动作识别方法
CN110503077B (zh) * 2019-08-29 2022-03-11 郑州大学 一种基于视觉的实时人体动作分析方法
CN110503077A (zh) * 2019-08-29 2019-11-26 郑州大学 一种基于视觉的实时人体动作分析方法
CN110674747A (zh) * 2019-09-24 2020-01-10 上海眼控科技股份有限公司 行为判别方法、装置、计算机设备和可读存储介质
US11423699B2 (en) 2019-10-15 2022-08-23 Fujitsu Limited Action recognition method and apparatus and electronic equipment
EP3809321A1 (en) * 2019-10-15 2021-04-21 Fujitsu Limited Action recognition method and apparatus and electronic equipment
CN112668359A (zh) * 2019-10-15 2021-04-16 富士通株式会社 动作识别方法、动作识别装置和电子设备
CN110782482A (zh) * 2019-10-21 2020-02-11 深圳市网心科技有限公司 运动评估方法、装置、计算机设备及存储介质
CN110991292A (zh) * 2019-11-26 2020-04-10 爱菲力斯(深圳)科技有限公司 动作识别比对方法、系统、计算机存储介质和电子装置
CN110910426A (zh) * 2019-11-26 2020-03-24 爱菲力斯(深圳)科技有限公司 动作过程和动作趋势识别方法、存储介质和电子装置
CN110969114B (zh) * 2019-11-28 2023-06-09 四川省骨科医院 一种人体动作功能检测系统、检测方法及检测仪
CN110969114A (zh) * 2019-11-28 2020-04-07 四川省骨科医院 一种人体动作功能检测系统、检测方法及检测仪
CN111142663B (zh) * 2019-12-27 2024-02-02 恒信东方文化股份有限公司 一种手势识别方法及手势识别系统
CN111142663A (zh) * 2019-12-27 2020-05-12 恒信东方文化股份有限公司 一种手势识别方法及手势识别系统
CN111639612A (zh) * 2020-06-04 2020-09-08 浙江商汤科技开发有限公司 姿态矫正的方法、装置、电子设备及存储介质
CN113063411A (zh) * 2020-06-29 2021-07-02 河北工业大学 外骨骼评价系统及其使用方法
CN111913830A (zh) * 2020-08-18 2020-11-10 深圳大普微电子科技有限公司 一种重读操作处理方法、装置、设备及可读存储介质
CN111913830B (zh) * 2020-08-18 2024-03-19 深圳大普微电子科技有限公司 一种重读操作处理方法、装置、设备及可读存储介质
CN112131979A (zh) * 2020-09-09 2020-12-25 东南大学 一种基于人体骨骼信息的连续动作识别方法
US11514605B2 (en) 2020-09-29 2022-11-29 International Business Machines Corporation Computer automated interactive activity recognition based on keypoint detection
CN112233769A (zh) * 2020-10-12 2021-01-15 安徽动感智能科技有限公司 一种基于数据采集的患后康复系统
CN112364806A (zh) * 2020-11-23 2021-02-12 南京熊猫电子制造有限公司 一种人机交互环境中特征选择的人类活动识别系统及其识别方法
CN112674759A (zh) * 2020-12-21 2021-04-20 西南交通大学 一种婴儿站立状态识别方法及系统
CN112800990B (zh) * 2021-02-02 2023-05-26 南威软件股份有限公司 一种实时人体动作识别和计数方法
CN112800990A (zh) * 2021-02-02 2021-05-14 南威软件股份有限公司 一种实时人体动作识别和计数方法
CN113080859A (zh) * 2021-03-31 2021-07-09 安徽正华生物仪器设备有限公司 一种基于日常行为分析的阿尔茨海默症预警系统
CN113065505B (zh) * 2021-04-15 2023-05-09 中国标准化研究院 身体动作快速识别方法及系统
CN113065505A (zh) * 2021-04-15 2021-07-02 中国标准化研究院 身体动作快速识别方法及系统
CN113744376A (zh) * 2021-09-16 2021-12-03 北京爱奇艺科技有限公司 数据的修正方法及装置、电子设备、可读存储介质
CN113744376B (zh) * 2021-09-16 2024-03-08 北京爱奇艺科技有限公司 数据的修正方法及装置、电子设备、可读存储介质
CN114020147A (zh) * 2021-09-30 2022-02-08 联想(北京)有限公司 一种与教学大屏互动的方法及设备
CN114224322B (zh) * 2021-10-25 2023-06-02 上海工程技术大学 一种基于人体骨骼关键点的脊柱侧弯评估方法
CN114224322A (zh) * 2021-10-25 2022-03-25 上海工程技术大学 一种基于人体骨骼关键点的脊柱侧弯评估方法
CN114663972A (zh) * 2021-11-05 2022-06-24 范书琪 基于动作差分的目标标记方法及装置
CN114949795A (zh) * 2022-05-09 2022-08-30 乐跑体育互联网(武汉)有限公司 一种基于Kinect骨骼数据的运动量监测方法、装置及系统
DE102022133342A1 (de) 2022-12-14 2024-06-20 Continental Automotive Technologies GmbH Computer- implementiertes Verfahren zur Aktionserkennung und Anwendung für die Überwachung von Fahrzeuginsassen oder Personen außerhalb des Fahrzeugs
CN116392798A (zh) * 2023-03-09 2023-07-07 恒鸿达(福建)体育科技有限公司 一种双杠臂屈伸的自动测试方法、装置、设备和介质
CN116580231A (zh) * 2023-07-13 2023-08-11 常熟理工学院 一种社交肢体动作识别控制方法、装置、设备及存储介质

Also Published As

Publication number Publication date
CN106022213B (zh) 2019-06-07

Similar Documents

Publication Publication Date Title
CN106022213A (zh) 一种基于三维骨骼信息的人体动作识别方法
CN111144217B (zh) 一种基于人体三维关节点检测的动作评价方法
US10417775B2 (en) Method for implementing human skeleton tracking system based on depth data
CN105913487B (zh) 一种基于人眼图像中虹膜轮廓分析匹配的视线方向计算方法
CN109344694B (zh) 一种基于三维人体骨架的人体基本动作实时识别方法
Li et al. Learning to predict gaze in egocentric video
CN112906604B (zh) 一种基于骨骼和rgb帧融合的行为识别方法、装置及系统
CN107423730A (zh) 一种基于语义折叠的人体步态行为主动检测识别系统和方法
CN107168527A (zh) 基于区域卷积神经网络的第一视角手势识别与交互方法
Pandey et al. Hand gesture recognition for sign language recognition: A review
JP2019096113A (ja) キーポイントデータに関する加工装置、方法及びプログラム
CN117671738B (zh) 基于人工智能的人体姿态识别系统
CN111596767A (zh) 一种基于虚拟现实的姿态捕获方法和装置
CN111966217A (zh) 基于手势和眼动的无人机控制方法和系统
CN111881888A (zh) 基于姿态识别的智能桌控制方法及装置
CN110032932A (zh) 一种基于视频处理和决策树设定阈值的人体姿态识别方法
CN105488491A (zh) 基于金字塔匹配直方图交叉核的人体睡眠姿态检测方法
Krzeszowski et al. Gait recognition based on marker-less 3D motion capture
Ong et al. Investigation of feature extraction for unsupervised learning in human activity detection
CN108154176A (zh) 一种针对单一深度图像的3d人体姿态估计算法
CN117557755B (zh) 虚拟场景中师生化身服饰可视化方法及系统
Arar et al. Towards convenient calibration for cross-ratio based gaze estimation
CN104331705B (zh) 融合时空信息的步态周期自动检测方法
CN113111743A (zh) 人员距离探测方法及装置
CN114067422A (zh) 一种用于辅助驾驶的视线检测方法、装置及存储介质

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant