CN112115827B - 基于人体姿态动态特征的跌倒行为识别方法 - Google Patents
基于人体姿态动态特征的跌倒行为识别方法 Download PDFInfo
- Publication number
- CN112115827B CN112115827B CN202010938639.XA CN202010938639A CN112115827B CN 112115827 B CN112115827 B CN 112115827B CN 202010938639 A CN202010938639 A CN 202010938639A CN 112115827 B CN112115827 B CN 112115827B
- Authority
- CN
- China
- Prior art keywords
- human body
- state
- falling
- posture
- key
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
- A61B5/11—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
- A61B5/1116—Determining posture transitions
- A61B5/1117—Fall detection
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
- A61B5/11—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
- A61B5/1126—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique
- A61B5/1128—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique using image analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/11—Complex mathematical operations for solving equations, e.g. nonlinear equations, general mathematical optimization problems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2411—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
- G06V10/462—Salient features, e.g. scale invariant feature transforms [SIFT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/103—Static body considered as a whole, e.g. static pedestrian or occupant recognition
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Multimedia (AREA)
- General Health & Medical Sciences (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
- Veterinary Medicine (AREA)
- Human Computer Interaction (AREA)
- Animal Behavior & Ethology (AREA)
- General Engineering & Computer Science (AREA)
- Surgery (AREA)
- Molecular Biology (AREA)
- Physiology (AREA)
- Public Health (AREA)
- Mathematical Optimization (AREA)
- Medical Informatics (AREA)
- Heart & Thoracic Surgery (AREA)
- Pure & Applied Mathematics (AREA)
- Biomedical Technology (AREA)
- Pathology (AREA)
- Biophysics (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Dentistry (AREA)
- Social Psychology (AREA)
- Radiology & Medical Imaging (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Software Systems (AREA)
- Databases & Information Systems (AREA)
- Algebra (AREA)
- Operations Research (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Psychiatry (AREA)
Abstract
本发明公布了一种基于人体姿态动态特征的跌倒行为识别方法,其特征在于:对单目摄像头采集的人体RGB图像信息进行处理,得到人体姿态关键点,构建代表人体主躯干及腿部的姿态向量;计算人体主躯干及腿部的偏移角及身长比例,将其作为表征人体倾斜姿态的关键动态量,将多个人体关键动态量整合为人体倾向姿态特征符及人体稳定姿态特征符,描述人体状态变化;以参考模板向量对比、下肢稳定性能量值及状态分值构成特征向量,应用SVM完成跌倒识别二分类,联合人体下降姿态动态特征阈值判断提高人体跌倒行为识别准确率与精确度;本发明实现了基于单目RGB摄像机的人体跌倒识别,且不受人体穿着衣物等外部因素影响,鲁棒性和性价比好。
Description
技术领域
本发明涉及一种基于人体姿态动态特征的跌倒行为识别方法,属于计算机视觉领域。
背景技术
跌倒事故是影响老年人健康安全的主要肇因,《世界卫生组织全球老年人跌倒预防报告》指出,全球范围内每年约30%的60岁及以上的老年人发生过至少一次跌倒事故。中国老年学和老年医学学会老龄传播分会等多家机构联合发布的《老年人防跌倒联合提示》指出,跌倒是中国65岁以上老年人因伤害死亡的首位原因,跌倒受伤占据了因伤就医的老年人比例的五成,人口老龄化趋势进一步扩大了跌倒事故造成的恶劣影响。据联合国经济和社会事务部人口统计报告显示,2018年全球65岁及以上人口数量首次超过5岁以下儿童人口数量,预计至2050年80岁及80岁以上人口数量将增加两倍,从2019年的1.43亿增加到4.26亿,届时全世界超过65岁的人口占比将达到16%,全球老龄化趋势的持续性扩大同时意味着将有更多的老年人蒙受跌倒事故的威胁。
据国外学者研究调查显示,跌倒事件发生后,得到及时救助支援的老年人可以降低80%的死亡风险和26%的长期住院风险。由此可见,合理有效的跌倒事故识别方法可以使得行动不便或跌倒后失去意识的人群得到及时护理救治,从而有效降低跌倒事件对人体造成的伤害。现有已提出的跌倒识别方法可以归结为三类:基于可穿戴传感器,基于环境传感器及基于计算机视觉。基于可穿戴传感器的方法通常依赖于使用者随身佩戴的陀螺仪、加速度计等传感器设备采集的加速度、偏转角度等数据,长期随身佩戴传感器容易导致人体感觉不适、年龄较大的老人厌恶长期佩戴产生抗拒心理,记忆力衰退的老人无法做到随时佩戴等不利因素限制了该方法的实用性及可推广性。环境传感器的方法则需要在监控场合附近安装外部传感器以获取环境数据,典型环境数据如压力、振动,音频和红外列阵等,此类方法需要专用的外部传感器,设备架设费用较高,监控实施难度较大,应用场合受到了较大限制。
发明内容
针对上述问题和不足,本发明提出一种基于人体姿态动态特征的跌倒行为识别方法,该方法以单目RGB摄像机采集图像信息,以人体骨骼关键点坐标表征人体姿态动态特征,以人体倾斜程度及下降程度作为判据判断人体的跌倒行为,具体按照以下步骤实施:
步骤A,对普通单目摄像头采集的人体RGB图像信息进行处理,得到人体姿态关键点,构建代表人体主躯干及腿部的姿态向量;
采用普通单目摄像头采集人体的二维RGB图像信息,基于BODY_25模型的OpenPose神经网络,从二维RGB图像中获得25个人体关键点,通过与标准人体摔倒视频进行对比,得到能准确描述人体摔倒特征的关键点(1,8,9,10,11,12,13,14),利用OpenPose获得人体在图像坐标系中摔倒特征关键点的原始数据,即颈部坐标(1点),尾椎坐标(8点)、髋部坐标(9、12点)、膝盖坐标(10、13点)、踝部坐标(11、14点)等,构建代表人体主躯干及腿部的向量及
式中,Xi为第i处人体关键点的横坐标,Yi为第i处人体关键点的纵坐标;
步骤B,基于人体主躯干及腿部的姿态向量,计算人体主躯干及腿部的偏移角(deflection angle)及身长比例(spine ratio),将其作为表征人体倾斜姿态的关键动态量,以描述人体跌倒过程中的姿态变化情况;
身长比例(spine ratio)表征人体脊柱与腿部在图像中的矢量比例,采用下面公式计算:
步骤C,将多个人体关键动态量整合为人体倾向姿态特征符、及人体稳定姿态特征符,并依据姿态特征描述人体状态变化;
人体倾向姿态特征符用以表征人体姿态相对于地面垂线的倾斜程度,由关键动态量中的偏移角与身长比例整合而来,根据人体处于行走等稳定状态与处于跌倒状态时两关键动态量的密度分布差异,设定具有级差的人体倾斜姿态特征符(Tendency Symbol),T1表示人体倾角极小,倾向性不明显,T2表示人体具有较大的倾斜角,T3表示人体倾向性显著,跌倒可能性极高;当人体动作对应的关键动态量Spine deflection angle或spine ratio与跌倒行为更贴近,则将Tendency Symbol设为T3;当关键动态量Spine deflection angle及spine ratio同时满足更接近于日常活动行为,将Tendency Symbol设为T1;其余则统归为T2;
人体稳定姿态特征符(Steady Symbol),用以佐证人体姿态稳定状态,由关键动态量中各部位的偏移角整合而来,躯干与左右小腿偏移角、同侧大腿与小腿偏移角中任意两个与地面保持相对垂直的关系,则人体存在一个直立性支撑副,若至少存在一个直立性支撑副,将人体稳定姿态特征符标记为S1,代表人体处于较强的稳定态,否则标记为S2,代表人体处于非稳定态;
步骤D,基于人体倾斜姿态动态特征,应用支持向量机二分类进行跌倒行为识别,将跌倒行为与日常活动行为进行区分,实现较好的人体跌倒行为识别;
在获得图像帧对应的人体倾斜姿态动态后,若为稳定态则更新保存的参考模板,若为非稳定态则不予以参考模板更新;若连续α个图像帧对应的人体状态均为非稳定态,则视作进入非稳定态驻留期;进入非稳态驻留期后,若连续α个图像帧对应的人体状态均为稳定态,则跳出非稳定态驻留期,重新予以参考模板向量更新,否则继续保持原有参考模板向量,并计算非稳定态驻留期β帧内质心运动状况比对值γ、下肢稳定性能量值ε及状态分值τ,基此构成特征向量并经过SVM支持向量机进行跌倒动作判定,若识别为非跌倒,则依据当前图像帧更新参考模板,若识别为跌倒则予以报警,α取值与实际采用摄像机帧率相关;
步骤E,以基于人体下降姿态动态特征的阈值判断作为跌倒识别算法的补充条件,进一步提高人体跌倒识别方法的准确性;
将人体骨盆部位视作稳定性质心,将对应于骨盆区域人体关键点8视作人体稳定性质心所在位置,采用下式计算人体下降姿态动态特征r:
r值表征了人体跌倒事件发生后的瞬态变化情况,描述状态变化时刻人体稳定性质心的垂向下落程度,r值较高代表着人体具有较大的垂向下落速度,相应的跌倒概率则较高,当r值达到设定阈值后,则判定人体发生跌倒行为。
本发明有益效果是:提出了基于人体倾斜姿态动态特征的跌倒行为判断方法,引入OpenPose提取人体姿态关键点,不受人体穿着衣物等外部因素影响,鲁棒性较好,以线性SVM完成跌倒行为与日常人体动作的区分,实时性良好;联合人体下降姿态动态特征阈值判断确保了本方法具有较好的召回率,同时具有较高的跌倒事件识别准确率与精确率,具备良好的应用价值;实现了基于单目RGB摄像机的人体跌倒识别,无需借助Kinect等专业深度相机,可应用于家用监控摄像机,具备较高性价比。
附图说明
图1基于人体姿态动态特征的跌倒识别算法流程图;
图2BODY_25人体姿态关键点模型;
图3人体主躯干偏移角示意图;
图4跌倒识别评价指标测试结果。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚明了,下面结合附图与具体实施方式,对本发明进行详细描述。
本发明的基于人体姿态动态特征的跌倒行为识别方法,其基本思路是:首先从摄像头记录的二维图像中提取人体关键点,形成人体拓扑结构数字化表征;然后获得用于准确识别跌倒行为的人体姿态特征,进而提出有效的人体跌倒行为识别方法,其流程如图1所示。具体按照以下步骤实施:
步骤A,以单目RGB摄像头采集人体的RGB图像信息,基于OpenPose提取人体姿态关键点,构建代表人体主躯干及腿部的姿态向量。
采用单目RGB摄像头采集人体的二维RGB图像信息,基于BODY_25模型的OpenPose神经网络,从二维RGB图像中获得25个如图2所示的人体关键点,通过与标准人体摔倒视频进行对比,得到能准确描述人体摔倒特征的关键点(1,8,9,10,11,12,13,14),利用OpenPose获得人体在图像坐标系中摔倒特征关键点的原始数据,即颈部坐标(1点),尾椎坐标(8点)、髋部坐标(9、12点)、膝盖坐标(10、13点)、踝部坐标(11、14点)等,构建代表人体主躯干及腿部的向量及
式中,Xi为第i处人体关键点的横坐标,Yi为第i处人体关键点的纵坐标。
步骤B,基于人体主躯干及腿部的姿态向量,计算人体主躯干及腿部的偏移角(deflection angle)及身长比例(spine ratio),并将其作为表征人体倾斜姿态的关键动态量,以描述人体跌倒过程中人体姿态的变化情况;
spine ratio表征人体脊柱与腿部在图像中的矢量比例,用于判断正对摄像头时人体倾角姿态变化,当人体倾向于直面摄像头方向摔倒时,单目RGB相机难以通过关键动态量Spine deflection angle判别人体倾角姿态,需要利用spine ratio特征进行完善,spine ratio为Spine vector与Waist width vector标量的比值,即:
人体主躯干与腿部偏移角是人体倾斜姿态动态特征在二维图像的映射,反映人体平衡状态,人体处于如站立、行走等典型平衡状态时,人体倾斜姿态动态特征没有表现出跌倒倾向,对应偏移角数值较小且稳定;当人体发生跌倒时,偏移角剧烈波动并数值较大,因此,偏移角的变化状态可用来度量人体倾斜姿态动态特征,表征人体跌倒行为躬身、侧身、坐落地面等常规动作与跌倒动作的前期姿态类似,仅从单一零散的图像帧划分的人体状态较难以区别,因此,设计基于连续人体状态的跌倒动作识别,以减少跌倒漏检以及混淆性较高的日常活动行为动作误判情况。
步骤C,将多个人体关键动态量整合为人体倾向姿态特征符以及人体稳定姿态特征符,并依据姿态特征描述人体状态变化。
人体倾向姿态特征符用以表征人体姿态相对于地面垂线的倾斜程度,由关键动态量中的Spine deflection angle及spine ratio整合而来,根据人体处于行走等稳定状态与处于跌倒状态时两关键动态量的密度分布差异,设定具有阶梯形人体倾斜姿态特征符(Tendency Symbol),T1表示人体倾角极小,倾向性不明显,如行走等;T2表示人体具有较大的倾斜角,如人员坐下的俯身阶段、跌倒行为初始阶段等;T3表示人体倾向性显著,跌倒可能性极高,常见于跌倒行为的激烈动作阶段。当人体动作对应的关键动态量Spinedeflection angle或spine ratio与跌倒行为更贴近,则将Tendency Symbol设为表征人体倾向性极高的T3;当关键动态量Spine deflection angle及spine ratio同时满足更接近于ADL行为,将Tendency Symbol设为表征人体倾向性极小的T1;其余则统归为人体倾向性较显著的T2。
人体稳定姿态特征符(Steady Symbol),用以佐证人体姿态稳定状态,由关键动态量中各部位的deflection angle整合而来,躯干与左右小腿偏移角、同侧大腿与小腿偏移角中任意两个与地面保持相对垂直的关系,则人体存在一个直立性支撑副(APair),若至少存在一个直立性支撑副,将人体稳定姿态特征符标记为S1,代表人体处于较强的稳定态,否则标记为S2,代表人体处于非稳定态。
步骤D,基于人体倾斜姿态动态特征的支持向量机二分类进行跌倒行为识别,将跌倒行为与日常活动行为进行区分,实现较好的跌倒行为识别。
混淆性较大的ADL动作在某些图像帧中,人体姿态与跌倒动作相近,导致了图像帧对应的人体状态划分为非稳定态,仅凭借单一零散的图像帧进行人体状态划分不能很好地与跌倒动作相区分,需要对连续性的动作行为在整体上进行分析才能较好地实现跌倒行为识别。
人体跌倒动作对应的非稳定态会持续一定时间,称之为非稳定态驻留期,且在持续的非稳定态驻留期内,跌倒动作与ADL动作在质心运动状况、下肢稳定状况、持续性人体状态等方面存在着明显差异,据此设计连续人体状态的跌倒动作识别流程:获得图像帧对应的人体状态后,若为稳定态则更新保存的参考模板,若为非稳定态则不予以参考模板更新;若连续α个图像帧对应的人体状态均为非稳定态,则视作进入非稳定态驻留期;进入非稳态驻留期后,若连续α个图像帧对应的人体状态均为稳定态,则跳出非稳定态驻留期,重新予以参考模板向量更新,否则继续保持原有参考模板向量,并计算非稳定态驻留期β帧内质心运动状况比对值γ、下肢稳定性能量值ε及状态分值τ,基此构成特征向量并经过SVM支持向量机进行跌倒动作判定,若识别为非跌倒则依据当前图像帧更新参考模板,若识别为跌倒则予以报警;
在步骤D中,所述的质心运动状况比对值γ、下肢稳定性能量值ε及状态分值τ分别表征人体质心相对运动状况、下肢稳定状况、人体状态的累积值,其求解过程为:
以向量作为参考模板,当图像帧对应的人体状态为稳定态则更新参考模板向量,非稳定态则不予以参考模板向量更新,其中Px、Py为从图像帧获得的人体关键点8横纵坐标值,临近人体骨盆区域(Pelvis Region),而人体骨盆部位代表了人体质量的主要部分,使用Px、Py可以较好地记录人体对应稳定态时刻的质心位置;l为图像帧中的人体躯干长度,计算如下式:
式中,Point1、Point8表示人体关键点1、8在图像坐标系的坐标。
对比β帧内的非稳定态驻留期对应的人体质心位置与最近稳定状态时所保存的参考模板向量相比对,以γ值描述非稳定态驻留期间的质心运动状况,如下式:
式中,指第i帧非稳定态对应的人体关键点8在图像坐标系的坐标,P为参考模板向量中保存稳态质心位置H作为不同个体对象的比值约束,softsign函数表征了质心在非稳态驻留期的垂向运动方向,使得γ值具备方向性,γ描绘了非稳态驻留期内人体质心相对于稳定态的累积变化状况。跌倒动作会引发质心垂向位置持续下降,始终高于Py,求和子项均为负值,致使γ趋向于较大的负值;站立等动作期间质心垂向位置则有上升或停留的可能,Pi与Ly无确定的高低关系,求和子项正负性不确定,致使对应的γ值与跌倒动作存在较大区别。
人体跌倒动作常伴随较大的膝盖、腰胯部运动,在非稳定态驻留期内对应下肢会有较大位置变化,与ADL动作存在区别。考虑到进一步排除ADL行为干扰,基于非稳定态驻留期设计下肢稳定性能量函数计算下肢稳定性能量ε:
其中,为人体关键点t在第i帧非稳态驻留期内的纵坐标,为人体关键点t在非稳态驻留期内的纵坐标均值,t包含了人体腿部关键点10、11、13、14,H作为不同个体对象的比值约束。ε以类似方差的形式描述了非稳态驻留期内人体下肢关键点偏离平均值的离散性,ε值越大代表着偏离平均水平的下肢能量值越高,即人体下肢活跃性高而稳定性差,相应的跌倒概率越大。
状态分值τ指非稳定态驻留期内的图片帧对应人体状态的累积值,保存非稳态驻留期内的人体状态分布情况,分值越大则对应的人体状态越不稳定,跌倒可能性则越大,处于稳定态则赋予0分,波动态则赋予1分,紊乱态则赋予2分,τ如下式所示。
τ=∑Human State Scorei
对应于站立等动作的非稳态驻留期下肢稳定性能量值ε与状态分值τ数值较小,而对应于跌倒动作的非稳态驻留期前β帧内下肢稳定性能量值ε与状态分值τ则具有较大的数值,跌倒动作与非跌倒动作具有较大区别。
步骤E,以基于人体下降姿态动态特征的阈值判断作为跌倒识别算法的补充条件,进一步提高人体跌倒识别的准确性。
人体下降姿态动态特征指人体跌倒过程中主躯干垂向倾倒的持续性行为,跌倒期间人体质心迅速降低,人体骨盆部位可视作稳定性质心,将OpenPose提取的对应于骨盆区域人体关键点8视作人体稳定性质心所在位置,以r值作为人体下降姿态动态特征,其计算式为:
r值表征了人体跌倒事件发生后的瞬态变化情况,描述状态变化时刻人体稳定性质心的垂向下落程度,具有方向性,r值较高代表着人体具有较大的垂向下落速度,相应的跌倒概率则较高,当r值达到设定阈值后,可认为人体发生跌倒行为。因此,在支持向量机将人体行为分类为跌倒后,若人体质心下降程度超过阈值才将其判定为跌倒行为,否则仍视为非跌倒行为。通过阈值判断,可以将与跌倒行为类似、混淆性较大的日常活动行为从支持向量机二分类结果中排除,以保证算法准确率与召回率。
步骤F,从人体动作相关视频数据集抽取75个跌倒动作与站立、行走、下蹲等150个日常活动动作,通过精确率、准确率及召回率评价测试,验证人体跌倒识别方法的准确性。
将数据集中对应跌倒行为作为正例,站立、走路等日常生活行为作为反例,以TP(True Positive)标记真正,即检测为跌倒的正样本个数;TN(True Negative)标记真负,即检测为非跌倒的负样本个数;FP(False Positive)标记假正,即检测为跌倒的负样本个数;FN(False Negative)标记假负,即检测为非跌倒的正样本个数,则准确率(Accuracy)、精确率(Precision)、召回率(Recall)及F1分数(F1 score)可以表示为:
从图4可以看出,基于人体姿态动态特征的跌倒识别方法获得了97.33%的准确率与94.80%的精确率,说明本方法对于跌倒行为具有较高敏感性,可以有效区分跌倒与非跌倒行为,能够有效地识别人体跌倒事件;召回率与F1分数分别为97.33%与96.05%,说明基于人体下降姿态动态特征的阈值判断有效降低了非跌倒行为误检情况。
如上所述,结合附图和说明所给出的方案内容,可以衍生出类似的技术方案。但凡是依据本发明的技术实质所作的任何简单修改、等同变化与修饰,均仍属于本发明技术方案的范围内。
Claims (1)
1.一种基于人体姿态动态特征的跌倒行为识别方法,其特征在于,该方法包括:
步骤A,对普通单目摄像头采集的人体RGB图像信息进行处理,得到人体姿态关键点,构建代表人体主躯干及腿部的姿态向量;
具体流程为:采用普通单目摄像头采集人体的二维RGB图像信息,基于BODY_25模型的OpenPose神经网络,从二维RGB图像中获得25个人体关键点,通过与标准人体摔倒视频进行对比,得到能准确描述人体摔倒特征的关键点(1,8,9,10,11,12,13,14),利用OpenPose获得人体在图像坐标系中摔倒特征关键点的原始数据,即颈部坐标(1),尾椎坐标(8)、髋部坐标(9、12)、膝盖坐标(10、13)、踝部坐标(11、14),构建代表人体主躯干及腿部的向量 及
式中,Xi为第i处人体关键点的横坐标,Yi为第i处人体关键点的纵坐标;
步骤B,基于人体主躯干及腿部的姿态向量,计算人体主躯干及腿部的偏移角deflection angle及身长比例spine ratio,将其作为表征人体倾斜姿态的关键动态量,以描述人体跌倒过程中的姿态变化情况;
身长比例spine ratio表征人体脊柱与腿部在图像中的矢量比例,采用下面公式计算:
步骤C,将多个人体关键动态量整合为人体倾向姿态特征符、及人体稳定姿态特征符,用以描述人体状态变化;
该步骤包括:人体倾向姿态特征符用以表征人体姿态相对于地面垂线的倾斜程度,由关键动态量中的Spine deflection angle及spine ratio整合而来,根据人体处于行走稳定状态与处于跌倒状态时两关键动态量的密度分布差异,设定具有阶梯形人体倾斜姿态特征符Tendency Symbol,T1表示人体倾角极小,倾向性不明显,T2表示人体具有较大的倾斜角,T3表示人体倾向性显著,跌倒可能性极高;当人体动作对应的关键动态量Spinedeflection angle或spine ratio与跌倒行为更贴近,则将Tendency Symbol设为T3;当关键动态量Spine deflection angle及spine ratio同时满足更接近于ADL行为,将TendencySymbol设为T1;其余则统归为T2;
人体稳定姿态特征符Steady Symbol,用以佐证人体姿态稳定状态,由关键动态量中各部位的deflection angle整合而来,躯干与左右小腿偏移角、同侧大腿与小腿偏移角中任意两个与地面保持相对垂直的关系,则人体存在一个直立性支撑副,若至少存在一个直立性支撑副,将人体稳定姿态特征符标记为S1,代表人体处于较强的稳定态,否则标记为S2,代表人体处于非稳定态;
步骤D,基于人体状态变化,应用支持向量机二分类进行跌倒行为识别,将跌倒行为与日常活动行为进行区分,实现较好的人体跌倒行为识别;
具体流程为:在获得图像帧对应的人体状态后,若为稳定态则更新保存的参考模板,若为非稳定态则不予以参考模板更新;若连续α个图像帧对应的人体状态均为非稳定态,则视作进入非稳定态驻留期;进入非稳态驻留期后,若连续α个图像帧对应的人体状态均为稳定态,则跳出非稳定态驻留期,重新予以参考模板向量更新,否则继续保持原有参考模板向量,并计算非稳定态驻留期β帧内质心运动状况比对值γ、下肢稳定性能量值ε及状态分值τ,基此构成特征向量并经过SVM支持向量机进行跌倒动作判定,若识别为非跌倒,则依据当前图像帧更新参考模板,若识别为跌倒则予以报警;
式中,Point1、Point8表示第1、8处人体关键点坐标;
质心运动状况比对值γ采用下式计算:
式中,指第i帧非稳定态对应的第8处人体关键点坐标,P为参考模板向量中保存的稳态质心位置H作为不同个体对象的比值约束,其值等于参考模板中保存的l值,softsign函数表征了质心在非稳态驻留期的垂向运动方向,使得γ值具备方向性,γ描绘了非稳态驻留期内人体质心相对于稳定态的累积变化状况;
下肢稳定性能量值ε采用下式计算:
状态分值τ指非稳定态驻留期内的图片帧对应人体状态的累积值,保存非稳态驻留期内的人体状态分布情况,分值越大则对应的人体状态越不稳定,跌倒可能性就越大,处于稳定态则赋予0分,波动态则赋予1分,紊乱态则赋予2分,τ如下式所示:
τ=∑Human State Scorei。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010938639.XA CN112115827B (zh) | 2020-09-09 | 2020-09-09 | 基于人体姿态动态特征的跌倒行为识别方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010938639.XA CN112115827B (zh) | 2020-09-09 | 2020-09-09 | 基于人体姿态动态特征的跌倒行为识别方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112115827A CN112115827A (zh) | 2020-12-22 |
CN112115827B true CN112115827B (zh) | 2022-06-07 |
Family
ID=73802357
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010938639.XA Active CN112115827B (zh) | 2020-09-09 | 2020-09-09 | 基于人体姿态动态特征的跌倒行为识别方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112115827B (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112528850B (zh) * | 2020-12-11 | 2024-06-04 | 北京百度网讯科技有限公司 | 人体识别方法、装置、设备和存储介质 |
CN112907892A (zh) * | 2021-01-28 | 2021-06-04 | 上海电机学院 | 基于多视图的人体跌倒报警方法 |
CN112966571B (zh) * | 2021-02-09 | 2022-07-12 | 安徽一视科技有限公司 | 一种基于机器视觉的立定跳远腾空高度量测方法 |
CN115188063A (zh) * | 2021-04-06 | 2022-10-14 | 广州视源电子科技股份有限公司 | 基于跑步机的跑姿分析方法、装置、跑步机及存储介质 |
CN113425289A (zh) * | 2021-05-24 | 2021-09-24 | 上海可深信息科技有限公司 | 一种人员跌倒的识别方法 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111582158A (zh) * | 2020-05-07 | 2020-08-25 | 济南浪潮高新科技投资发展有限公司 | 一种基于人体姿态估计的摔倒检测方法 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8411935B2 (en) * | 2007-07-11 | 2013-04-02 | Behavioral Recognition Systems, Inc. | Semantic representation module of a machine-learning engine in a video analysis system |
CN108960056B (zh) * | 2018-05-30 | 2022-06-03 | 西南交通大学 | 一种基于姿态分析和支持向量数据描述的跌倒检测方法 |
CN109685025A (zh) * | 2018-12-27 | 2019-04-26 | 中科院合肥技术创新工程院 | 肩部特征和坐姿行为识别方法 |
CN111382624B (zh) * | 2018-12-28 | 2023-08-11 | 杭州海康威视数字技术股份有限公司 | 动作识别方法、装置、设备及可读存储介质 |
US11179064B2 (en) * | 2018-12-30 | 2021-11-23 | Altum View Systems Inc. | Method and system for privacy-preserving fall detection |
-
2020
- 2020-09-09 CN CN202010938639.XA patent/CN112115827B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111582158A (zh) * | 2020-05-07 | 2020-08-25 | 济南浪潮高新科技投资发展有限公司 | 一种基于人体姿态估计的摔倒检测方法 |
Also Published As
Publication number | Publication date |
---|---|
CN112115827A (zh) | 2020-12-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112115827B (zh) | 基于人体姿态动态特征的跌倒行为识别方法 | |
Lee et al. | Inertial sensing-based pre-impact detection of falls involving near-fall scenarios | |
CN109558865A (zh) | 一种基于人体关键点的对需特别看护人员的异常状态检测方法 | |
CN109726672B (zh) | 一种基于人体骨架序列和卷积神经网络的摔倒检测方法 | |
Li et al. | Pre-impact fall detection based on a modified zero moment point criterion using data from Kinect sensors | |
CN110287825B (zh) | 一种基于关键骨骼点轨迹分析的摔倒动作检测方法 | |
CN111753747B (zh) | 基于单目摄像头和三维姿态估计的剧烈运动检测方法 | |
CN103955699A (zh) | 一种基于监控视频的实时摔倒事件检测方法 | |
Zhao et al. | Recognition of human fall events based on single tri-axial gyroscope | |
CN111931733B (zh) | 基于深度相机的人体姿态检测方法 | |
Jalloul et al. | Activity recognition using complex network analysis | |
CN109389041A (zh) | 一种基于关节点特征的跌倒检测方法 | |
Xu et al. | Elders’ fall detection based on biomechanical features using depth camera | |
CN112036267A (zh) | 一种目标检测方法、装置、设备和计算机可读存储介质 | |
US20220095959A1 (en) | Feigned Injury Detection Systems And Methods | |
Liu et al. | A review of wearable sensors based fall-related recognition systems | |
CN114881079A (zh) | 面向穿戴式传感器的人体运动意图异常检测方法及系统 | |
Liao et al. | A vision-based walking posture analysis system without markers | |
Suzuki et al. | Automatic fault detection in race walking from a smartphone camera via fine-tuning pose estimation | |
Pan et al. | Evaluation of hemiplegic gait based on plantar pressure and inertial sensors | |
Arai et al. | Hierarchical human motion recognition by using motion capture system | |
CN115588229A (zh) | 一种基于互联网的养老照顾服务管理系统及方法 | |
Chen et al. | Self-adaptive fall-detection apparatus embedded in glasses | |
Sánchez et al. | A new adaptive algorithm for detecting falls through mobile devices | |
An et al. | Support vector machine algorithm for human fall recognition kinect-based skeletal data |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |