CN113392765B - 一种基于机器视觉的摔倒检测方法和系统 - Google Patents

一种基于机器视觉的摔倒检测方法和系统 Download PDF

Info

Publication number
CN113392765B
CN113392765B CN202110662116.1A CN202110662116A CN113392765B CN 113392765 B CN113392765 B CN 113392765B CN 202110662116 A CN202110662116 A CN 202110662116A CN 113392765 B CN113392765 B CN 113392765B
Authority
CN
China
Prior art keywords
image
bone point
bone
skeleton
skeleton point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110662116.1A
Other languages
English (en)
Other versions
CN113392765A (zh
Inventor
梁梓熙
尹明
杨文俊
何少聪
周明悦
谭家权
何铭乐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong University of Technology
Original Assignee
Guangdong University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong University of Technology filed Critical Guangdong University of Technology
Priority to CN202110662116.1A priority Critical patent/CN113392765B/zh
Publication of CN113392765A publication Critical patent/CN113392765A/zh
Application granted granted Critical
Publication of CN113392765B publication Critical patent/CN113392765B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/004Artificial life, i.e. computing arrangements simulating life
    • G06N3/006Artificial life, i.e. computing arrangements simulating life based on simulated virtual individual or collective life forms, e.g. social simulations or particle swarm optimisation [PSO]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Alarm Systems (AREA)

Abstract

本发明公开了一种基于机器视觉的摔倒检测方法和系统,涉及摔倒检测技术领域,所述方法包括步骤:获取实时的监控视频数据,对所述监控视频数据进行数据增强处理,提取人体关键骨骼点,通过多帧图像之间骨骼点位置关系,确定用户姿态,若识别出异常情况,则将报警信息发送到预设报警对象;本发明对摄像头采集的图像中人的姿态自动化进行识别,无繁琐操作使用方便,并且识别过程不涉及将监控录像上传到服务器或监控人员处,整个摔倒检测过程可以直接部署在本地,没有隐私泄露风险,在判断为摔倒情况后还需确认出现异常行为,防止对未发生紧急情况进行误报,避免人力物力资源的浪费。

Description

一种基于机器视觉的摔倒检测方法和系统
技术领域
本发明涉及摔倒检测技术领域,更具体地,涉及一种基于机器视觉的摔倒检测方法和系统。
背景技术
摔倒是生活中难以避免的意外情况,且摔倒产生的后果难以预料,若摔倒后身旁有人救助,则通常不至于造成严重后果,但对于独居人士,尤其是独居老人或身体状态不佳、有潜伏疾病的人,一方面由于体格较弱,更容易摔倒,另一方面在摔倒后会面临比健康人摔倒更大的伤害,在身旁无人的情况下,容易出现不可挽回的严重后果。现代社会也使独居情况更加普遍,因此,避免独居人士摔倒后无人救助是亟待解决的问题。
公开号为CN112819855A,公开日:2021-05-18,提出的基于养老院的人员摔倒检测方法、设备及介质,通过使用矩形框对当前时刻图像中的待检测老人进行标定,实现摔倒检测,但该检测方法只能检测摔倒情况,对摔倒后是否受伤无法检测,误报会对人力物力造成浪费。
发明内容
本发明为克服上述现有技术存在的缺陷,提供一种自动摔倒检测,并能够判断摔倒后异常情况的摔倒检测方法。
为解决上述技术问题,本发明的技术方案如下:
一种基于机器视觉的摔倒检测方法,包括步骤;
S1:获取实时的监控视频数据;
S2:对实时监控视频数据进行数据增强处理,得到视频中每一帧图像对应的图像张量信息;
S3:对图像张量信息中的人体关键骨骼点进行提取,并将提取到的骨骼点转化为一组骨骼点坐标;
S4:获取n张连续图像帧的骨骼点坐标,根据连续图像帧的相邻帧之间骨骼点坐标的位置关系,识别图像中人体的姿态,进而判断图像中的人是否出现异常情况,所述异常情况是指摔倒且有异常行为;
S5:若判断为异常情况,则将报警信息发送到预设报警对象。
本技术方案中,对摄像头采集的图像中人的姿态自动化进行识别,无繁琐操作使用方便,并且识别过程不涉及将监控录像上传到服务器或监控人员处,整个摔倒检测过程可以直接部署在本地,没有隐私泄露风险,在判断为摔倒情况后还需确认出现异常行为,防止对未发生紧急情况进行误报,使每一次救援都是针对真正需要帮助的情况,节约了人力物力,提高救援人员的成就感和积极性。
进一步地,步骤S2所述数据增强处理具体包括步骤:
S21:直方图均衡化处理,以增强图像对比度;
S22:灰度值归一化处理,使得图像灰度值区间从[0,255]映射为[-1,1];
S23:对图像进行图像尺寸填充调整,使用零填充策略将图像填充为正方形的长宽比例,并从原尺寸放缩为统一的预设尺寸;
上述技术方案中,所述直方图均衡化处理用于将图像直方图进行均衡化,使得图像的灰度级能够覆盖更宽的灰度范围以增强图像的对比度,进而提高后续模型检测的精度,减少随机因素带来的干扰;所述灰度值归一化用于构建映射使得灰度值区间从[0,255]映射为[-1,1],以减少后续人体姿态估计单元的处理难度,降低模型的学习难度,为避免在灰度值归一化中启发式超参数对不同环境的影响,所述映射使用了一种不具启发性的超参数,其中均值μ=128,σ=255;所述预设尺寸为192x192。
进一步地,步骤S3提取所述骨骼点包括步骤:
S31:将数据增强后的图像输入基于热图的生成式模型;
S32:通过模型的特征提取模块循环执行四次的3x3卷积、批量归一化、最大池化处理,从3通道RGB图像张量信息中提取出关于人体高级特征信息张量;
S33:通过模型的解码器循环执行两次的反卷积、3x3卷积、批量归一化处理,将所述高级特征信息张量转换为m通道关键骨骼点热图,其中每一个热图对应了一个人体关键骨骼点。
进一步地,步骤S3还包括骨骼点数据库数据处理步骤,具体为:骨骼点数据库保存有最新的n帧图像的骨骼点坐标队列,对骨骼点坐标队列进行整合,得到一个形如nxmx2的骨骼点序列张量,然后对骨骼点序列张量进行Flatten处理后得到骨骼点一维向量,在又有新的一帧视频图像的骨骼点坐标提取完毕后,删除位于所述骨骼点坐标队列头的m个人体关键骨骼点坐标,并将新一帧的m个人体关键骨骼点坐标数据塞入骨骼点坐标队列尾中。
上述技术方案中,骨骼点数据库采用了先进先出队列作为存储结构,可以简化数据库程序。
进一步地,步骤S4所述识别人体的肢体动作包括步骤:
S41:将所述骨骼点数据库数据处理步骤中Flatten处理后得到的所述骨骼点一维向量输入随机森林模型;
S42:随机森林模型中的100个学习器各自判断画面中的人是否摔倒,并且每个学习器对识别结果进行投票,若判断为摔倒且出现异常行为时投赞成票,否则投反对票;
S43:记录投票结果,然后返回执行步骤S1,若连续三次投票结果的赞成票超过50票,则认为发生异常情况,并将发生异常情况的判断结果传输给步骤S5。
一种基于机器视觉的摔倒检测系统,包括:摄像头、图像预处理单元、骨骼点提取单元、骨骼点数据库、姿态识别单元;并且所述摄像头、图像预处理单元、骨骼点提取单元、骨骼点数据库、姿态识别单元依次连接;
摄像头采集实时监控画面,并将监控画面传输给图像预处理单元,图像预处理单元对监控画面图像进行数据增强,将数据增强后的图像传输给骨骼点提取单元,骨骼点提取单元提取图像中的骨骼点坐标,将骨骼点坐标数据传输给骨骼点数据库,骨骼点数据库保存有最新的n帧图像的骨骼点坐标队列,对骨骼点坐标队列进行整合,得到一个形如nxmx2的骨骼点序列张量,然后对骨骼点序列张量进行Flatten处理后得到骨骼点一维向量,骨骼点数据库将所述骨骼点一维向量发送给姿态识别单元,姿态识别单元识别姿态是否出现异常情况,若识别结果是摔倒且出现异常行为则为异常情况。
进一步地,所述图像预处理单元包括:直方图均衡化模块、灰度值归一化模块、尺寸调整模块,所述直方图均衡化模块、灰度值归一化模块、尺寸调整模块依次连接,直方图均衡化模块首先对输入图像进行直方图均衡化处理,然后直方图均衡化模块将处理后的图像传输到灰度值归一化模块,灰度值归一化模块对图像进行灰度值归一化处理,然后灰度值归一化模块将处理后的图像传输到尺寸调整模块,尺寸调整模块对图像进行图像尺寸填充调整,使用零填充策略将图像填充为正方形的长宽比例,并从原尺寸放缩为统一的预设尺寸。
上述技术方案中,所述直方图均衡化处理用于将图像直方图进行均衡化,使得图像的灰度级能够覆盖更宽的灰度范围以增强图像的对比度,进而提高后续模型检测的精度,减少随机因素带来的干扰;所述灰度值归一化用于构建映射使得灰度值区间从[0,255]映射为[-1,1],以减少后续人体姿态估计单元的处理难度,降低模型的学习难度,为避免在灰度值归一化中启发式超参数对不同环境的影响,所述映射使用了一种不具启发性的超参数,其中均值μ=128,σ=255。
进一步地,所述骨骼点提取单元为基于热图的生成式模型,所述基于热图的生成式模型是一款基于全卷积的热图回归型姿态估计深度神经网络,所述模型包括:特征提取模块和解码器,所述特征提取模块具有编码器结构,模型接收图像预处理单元输出的图像,由特征提取模块循环执行四次的3x3卷积、批量归一化、最大池化处理,从3通道RGB图像张量信息中提取出关于人体高级特征信息张量,然后模型的解码器循环执行两次的反卷积、3x3卷积、批量归一化处理,将所述高级特征信息张量转换为m通道关键骨骼点热图,其中每一个热图对应了一个人体关键骨骼点。
进一步地,所述骨骼点数据库传入新的骨骼点坐标时,删除骨骼点数据库中位于所述骨骼点坐标队列头的m个人体关键骨骼点坐标,并将新一帧的m个人体关键骨骼点坐标数据塞入骨骼点坐标队列尾中。
进一步地,还包括报警单元,所述姿态识别单元为随机森林模型,所述随机森林模型中包括100个学习器,每个学习器各自判断画面中的人是否摔倒,并且对识别结果进行投票,若判断为摔倒且出现异常行为时投赞成票,否则投反对票,记录投票结果,然后返回执行步骤S1,若连续三次投票结果的赞成票超过50票,则认为发生异常情况,并将发生异常情况的判断结果传输给报警单元。
与现有技术相比,本发明技术方案的有益效果是:对摄像头采集的图像中人的姿态自动化进行识别,无繁琐操作使用方便,并且识别过程不涉及将监控录像上传到服务器或监控人员处,整个摔倒检测过程可以直接部署在本地,没有隐私泄露风险,在判断为摔倒情况后还需确认出现异常行为,防止对未发生紧急情况进行误报,使每一次救援都是针对真正需要帮助的情况,节约了人力物力,提高救援人员的成就感和积极性。
附图说明
图1为摔倒检测方法流程图;
图2为摔倒检测系统架构图;
具体实施方式
附图仅用于示例性说明,不能理解为对本专利的限制;
为了更好说明本实施例,附图某些部件会有省略、放大或缩小,并不代表实际产品的尺寸;
对于本领域技术人员来说,附图中某些公知结构及其说明可能省略是可以理解的。
下面结合附图和实施例对本发明的技术方案做进一步的说明。
实施例1
本实施例的基于机器视觉的摔倒检测方法流程图如图1所示,包括步骤:
S1:获取实时的监控视频数据;
S2:对实时监控视频数据进行数据增强处理,得到视频中每一帧图像对应的图像张量信息;所述数据增强处理具体包括:
S21:直方图均衡化处理,以增强图像对比度;
上述技术方案中,所述直方图均衡化处理用于将图像直方图进行均衡化,使得图像的灰度级能够覆盖更宽的灰度范围以增强图像的对比度,进而提高后续模型检测的精度,减少随机因素带来的干扰;
S22:灰度值归一化处理,使得图像灰度值区间从[0,255]映射为[-1,1];
本实施例中,所述灰度值归一化用于构建映射为避免在灰度值归一化中启发式超参数对不同环境的影响,所述映射使用了一种不具启发性的超参数,其中均值μ=128,σ=255;灰度值归一化处理可以减少后续人体姿态估计单元的处理难度,降低模型的学习难度。
S23:对图像进行图像尺寸填充调整,使用零填充策略将图像填充为正方形的长宽比例,并从原尺寸放缩为统一的预设尺寸;
本实施例中,所述预设尺寸为192x192;
S3:对图像张量信息中的人体关键骨骼点进行提取,并将提取到的骨骼点转化为一组骨骼点坐标;具体包括:
S31:将数据增强后的图像输入基于热图的生成式模型;
S32:通过模型的特征提取模块循环执行四次的3x3卷积、批量归一化、最大池化处理,从3通道RGB图像张量信息中提取出关于人体高级特征信息张量;
S33:通过模型的解码器循环执行两次的反卷积、3x3卷积、批量归一化处理,将所述高级特征信息张量转换为m通道关键骨骼点热图,其中每一个热图对应了一个人体关键骨骼点。
本实施例中,所述基于热图的生成式模型是一款基于全卷积的热图回归型姿态估计深度神经网络,所述人体高级特征信息张量的尺寸为12x12、通道数为512、进行了十六倍下采样,所述通道数量m为17,所述关键骨骼点热图的尺寸为48x48、进行了四倍上采样,所述的17通道关键骨骼点热图为人体姿态估计单元的输出,其中每一个热图对应了一个关键骨骼点,该热图的坐标近似对应了原始图像的坐标,任一位置的热力值对应了该关键骨骼点位于此位置所具有的置信度,具有最大的热值坐标即为原始图像中对应的关键骨骼点。
还包括骨骼点数据库数据处理步骤,具体为:骨骼点数据库保存有最新的n帧图像的骨骼点坐标队列,对骨骼点坐标队列进行整合,得到一个形如nxmx2的骨骼点序列张量,然后对骨骼点序列张量进行Flatten处理后得到骨骼点一维向量,在又有新的一帧视频图像的骨骼点坐标提取完毕后,删除位于所述骨骼点坐标队列头的m个人体关键骨骼点坐标,并将新一帧的m个人体关键骨骼点坐标数据塞入骨骼点坐标队列尾中。当系统关闭时,该骨骼点数据库中队列将被清空,以防止造成误判。
S4:获取n张连续图像帧的骨骼点坐标,根据连续图像帧的相邻帧之间骨骼点坐标的位置关系,识别图像中人体的姿态,进而判断图像中的人是否出现异常情况,所述异常情况是指摔倒且有异常行为;具体包括:
S41:将所述骨骼点数据库数据处理步骤中Flatten处理后得到的所述骨骼点一维向量输入随机森林模型;
S42:随机森林模型中的100个学习器各自判断画面中的人是否摔倒,并且每个学习器对识别结果进行投票,若判断为摔倒且出现异常行为时投赞成票,否则投反对票;
S43:记录投票结果,然后返回执行步骤S1,若连续三次投票结果的赞成票超过50票,则认为发生异常情况,并将发生异常情况的判断结果传输给步骤S5。
S5:若判断为发生异常情况,则将报警信息发送到预设报警对象。
本实施例中,所述预设报警对象包括:社区医疗机构、社区管理机构、社区居委会;监控对象的直系亲属、近邻亲戚中的一种或几种。
实施例2
本实施例的基于机器视觉的摔倒检测系统如图2所示,包括:摄像头、图像预处理单元、骨骼点提取单元、骨骼点数据库、姿态识别单元;并且所述摄像头、图像预处理单元、骨骼点提取单元、骨骼点数据库、姿态识别单元依次连接;
摄像头采集实时监控画面,并将监控画面传输给图像预处理单元,图像预处理单元对监控画面图像进行数据增强,将数据增强后的图像传输给骨骼点提取单元,骨骼点提取单元提取图像中的骨骼点坐标,将骨骼点坐标数据传输给骨骼点数据库,骨骼点数据库保存有最新的n帧图像的骨骼点坐标队列,对骨骼点坐标队列进行整合,得到一个形如nxmx2的骨骼点序列张量,然后对骨骼点序列张量进行Flatten处理后得到骨骼点一维向量,骨骼点数据库将所述骨骼点一维向量发送给姿态识别单元,姿态识别单元识别姿态是否出现异常情况,若识别结果是摔倒且出现异常行为则为异常情况。
所述图像预处理单元包括:直方图均衡化模块、灰度值归一化模块、尺寸调整模块,所述直方图均衡化模块、灰度值归一化模块、尺寸调整模块依次连接,直方图均衡化模块首先对输入图像进行直方图均衡化处理,然后直方图均衡化模块将处理后的图像传输到灰度值归一化模块,灰度值归一化模块对图像进行灰度值归一化处理,然后灰度值归一化模块将处理后的图像传输到尺寸调整模块,尺寸调整模块对图像进行图像尺寸填充调整,使用零填充策略将图像填充为正方形的长宽比例,并从原尺寸放缩为统一的预设尺寸。
本实施例中,所述灰度值归一化模块用于构建映射为避免在灰度值归一化中启发式超参数对不同环境的影响,所述映射使用了一种不具启发性的超参数,其中均值μ=128,σ=255;所述预设尺寸为192x192。
所述骨骼点提取单元为基于热图的生成式模型,所述基于热图的生成式模型是一款基于全卷积的热图回归型姿态估计深度神经网络,所述模型包括:特征提取模块和解码器,所述特征提取模块具有编码器结构,模型接收图像预处理单元输出的图像,由特征提取模块循环执行四次的3x3卷积、批量归一化、最大池化处理,从3通道RGB图像张量信息中提取出关于人体高级特征信息张量,然后模型的解码器循环执行两次的反卷积、3x3卷积、批量归一化处理,将所述高级特征信息张量转换为m通道关键骨骼点热图,其中每一个热图对应了一个人体关键骨骼点。
本实施例中,所述基于热图的生成式模型是一款基于全卷积的热图回归型姿态估计深度神经网络,所述人体高级特征信息张量的尺寸为12x12、通道数为512、进行了十六倍下采样,所述通道数量m为17,所述关键骨骼点热图的尺寸为48x48、进行了四倍上采样,所述的17通道关键骨骼点热图为人体姿态估计单元的输出,其中每一个热图对应了一个关键骨骼点,该热图的坐标近似对应了原始图像的坐标,任一位置的热力值对应了该关键骨骼点位于此位置所具有的置信度,具有最大的热值坐标即为原始图像中对应的关键骨骼点。
所述骨骼点数据库传入新的骨骼点坐标时,删除骨骼点数据库中位于所述骨骼点坐标队列头的m个人体关键骨骼点坐标,并将新一帧的m个人体关键骨骼点坐标数据塞入骨骼点坐标队列尾中。
所述姿态识别单元为随机森林模型,所述随机森林模型中包括100个学习器,每个学习器各自判断画面中的人是否摔倒,并且对识别结果进行投票,若判断为摔倒且出现异常行为时投赞成票,否则投反对票,记录投票结果,然后返回执行步骤S1,若连续三次投票结果的赞成票超过50票,则认为发生异常情况。
本实施例中,所述预设报警对象包括:社区医疗机构、社区管理机构、社区居委会;监控对象的直系亲属、近邻亲戚中的一种或几种。
实施例3
本实施例的基于机器视觉的摔倒检测系统如图2所示,包括:摄像头、图像预处理单元、骨骼点提取单元、骨骼点数据库、姿态识别单元、报警单元;并且所述摄像头、图像预处理单元、骨骼点提取单元、骨骼点数据库、姿态识别单元、报警单元依次连接;
摄像头采集实时监控画面,并将监控画面传输给图像预处理单元,图像预处理单元对监控画面图像进行数据增强,将数据增强后的图像传输给骨骼点提取单元,骨骼点提取单元提取图像中的骨骼点坐标,将骨骼点坐标数据传输给骨骼点数据库,骨骼点数据库保存有最新的n帧图像的骨骼点坐标队列,对骨骼点坐标队列进行整合,得到一个形如nxmx2的骨骼点序列张量,然后对骨骼点序列张量进行Flatten处理后得到骨骼点一维向量,骨骼点数据库将所述骨骼点一维向量发送给姿态识别单元,姿态识别单元识别姿态是否出现异常情况,若识别结果是摔倒且出现异常行为则为异常情况,将异常情况发送到报警单元,报警单元向预设报警对象发送报警信号。
所述图像预处理单元包括:直方图均衡化模块、灰度值归一化模块、尺寸调整模块,所述直方图均衡化模块、灰度值归一化模块、尺寸调整模块依次连接,直方图均衡化模块首先对输入图像进行直方图均衡化处理,然后直方图均衡化模块将处理后的图像传输到灰度值归一化模块,灰度值归一化模块对图像进行灰度值归一化处理,然后灰度值归一化模块将处理后的图像传输到尺寸调整模块,尺寸调整模块对图像进行图像尺寸填充调整,使用零填充策略将图像填充为正方形的长宽比例,并从原尺寸放缩为统一的预设尺寸。
本实施例中,所述灰度值归一化模块用于构建映射为避免在灰度值归一化中启发式超参数对不同环境的影响,所述映射使用了一种不具启发性的超参数,其中均值μ=128,σ=255;所述预设尺寸为192x192。
所述骨骼点提取单元为基于热图的生成式模型,所述基于热图的生成式模型是一款基于全卷积的热图回归型姿态估计深度神经网络,所述模型包括:特征提取模块和解码器,所述特征提取模块具有编码器结构,模型接收图像预处理单元输出的图像,由特征提取模块循环执行四次的3x3卷积、批量归一化、最大池化处理,从3通道RGB图像张量信息中提取出关于人体高级特征信息张量,然后模型的解码器循环执行两次的反卷积、3x3卷积、批量归一化处理,将所述高级特征信息张量转换为m通道关键骨骼点热图,其中每一个热图对应了一个人体关键骨骼点。
本实施例中,所述基于热图的生成式模型是一款基于全卷积的热图回归型姿态估计深度神经网络,所述人体高级特征信息张量的尺寸为12x12、通道数为512、进行了十六倍下采样,所述通道数量m为17,所述关键骨骼点热图的尺寸为48x48、进行了四倍上采样,所述的17通道关键骨骼点热图为人体姿态估计单元的输出,其中每一个热图对应了一个关键骨骼点,该热图的坐标近似对应了原始图像的坐标,任一位置的热力值对应了该关键骨骼点位于此位置所具有的置信度,具有最大的热值坐标即为原始图像中对应的关键骨骼点。
所述骨骼点数据库传入新的骨骼点坐标时,删除骨骼点数据库中位于所述骨骼点坐标队列头的m个人体关键骨骼点坐标,并将新一帧的m个人体关键骨骼点坐标数据塞入骨骼点坐标队列尾中。
所述姿态识别单元为随机森林模型,所述随机森林模型中包括100个学习器,每个学习器各自判断画面中的人是否摔倒,并且对识别结果进行投票,若判断为摔倒且出现异常行为时投赞成票,否则投反对票,记录投票结果,然后返回执行步骤S1,若连续三次投票结果的赞成票超过50票,则认为发生异常情况,并将发生异常情况的判断结果传输给报警单元。所述报警单元在接收到异常情况时,将报警信息发送到预设报警对象。
本实施例中,所述预设报警对象包括:社区医疗机构、社区管理机构、社区居委会;监控对象的直系亲属、近邻亲戚中的一种或几种。
本实施例还包括系统基础模块,所述的系统基础模块用于保证系统正常工作,包括:逻辑处理单元、电源模块和散热模块。所述逻辑处理单元用于为系统提供逻辑控制,与系统内其余所有模块或单元相连;所述电源模块用于为系统各模块或单元提供正常工作所需电流,与系统内其余所有模块或单元相连;所述散热模块用于稳定系统温度,与系统内其余所有模块或单元相连;
本实施例还包括综合数据库,所述的综合数据库除上述骨骼点数据库外,还包括结果数据库与视频流数据库。所述结果数据库用于保存最近时期内或异常情况下的姿态识别单元检测结果;所述视频流数据库用于保存最近时期内或异常情况下摄像头拍摄的视频流数据。所述综合数据库的结果数据库与视频流数据库的输入接口与所述姿态识别单元连接,综合数据库的输出接口与报警单元连接,通过姿态识别单元将视频流数据和姿态识别单元检测结果数据输入到综合数据库的结果数据库与视频流数据库,综合数据库将报警信息发送到报警对象,本实施例中所述报警信息包括:异常情况判断结果、异常情况发生时的视频数据。
本发明对摄像头采集的图像中人的姿态自动化进行识别,无繁琐操作使用方便,并且识别过程不涉及将监控录像上传到服务器或监控人员处,整个摔倒检测过程可以直接部署在本地,没有隐私泄露风险,在判断为摔倒情况后还需确认出现异常行为,防止对未发生紧急情况进行误报,使每一次救援都是针对真正需要帮助的情况,节约了人力物力,提高救援人员的成就感和积极性。
相同或相似的标号对应相同或相似的部件。
附图中描述位置关系的用语仅用于示例性说明,不能理解为对本专利的限制;
显然,本发明的上述实施例仅仅是为清楚地说明本发明所作的举例,而并非是对本发明的实施方式的限定。对于所属领域的普通技术人员来说,在上述说明的基础上还可以做出其它不同形式的变化或变动。这里无需也无法对所有的实施方式予以穷举。凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明权利要求的保护范围之内。

Claims (4)

1.一种基于机器视觉的摔倒检测方法,其特征在于,包括步骤:
S1:获取实时的监控视频数据;
S2:对实时监控视频数据进行数据增强处理,得到视频中每一帧图像对应的图像张量信息;
S3:对图像张量信息中的人体关键骨骼点进行提取,并将提取到的骨骼点转化为一组骨骼点坐标;
步骤S3提取所述骨骼点包括步骤:
S31:将数据增强后的图像输入基于热图的生成式模型;
S32:通过模型的特征提取模块循环执行四次的3x3卷积、批量归一化、最大池化处理,从3通道RGB图像张量信息中提取出关于人体高级特征信息张量;
S33:通过模型的解码器循环执行两次的反卷积、3x3卷积、批量归一化处理,将所述高级特征信息张量转换为m通道关键骨骼点热图,其中每一个热图对应了一个人体关键骨骼点;
步骤S3还包括骨骼点数据库数据处理步骤,具体为:骨骼点数据库保存有最新的n帧图像的骨骼点坐标队列,对骨骼点坐标队列进行整合,得到一个形如nxmx2的骨骼点序列张量,然后对骨骼点序列张量进行Flatten处理后得到骨骼点一维向量,在又有新的一帧视频图像的骨骼点坐标提取完毕后,删除位于所述骨骼点坐标队列头的m个人体关键骨骼点坐标,并将新一帧的m个人体关键骨骼点坐标数据塞入骨骼点坐标队列尾中;
S4:获取n张连续图像帧的骨骼点坐标,根据连续图像帧的相邻帧之间骨骼点坐标的位置关系,识别图像中人体的姿态,进而判断图像中的人是否出现异常情况,所述异常情况是指摔倒且有异常行为;
步骤S4识别人体的肢体动作包括步骤:
S41:将所述骨骼点数据库数据处理步骤中Flatten处理后得到的所述骨骼点一维向量输入随机森林模型;
S42:随机森林模型中的100个学习器各自判断画面中的人是否摔倒,并且每个学习器对识别结果进行投票,若判断为摔倒且出现异常行为时投赞成票,否则投反对票;
S43:记录投票结果,然后返回执行步骤S1,若连续三次投票结果的赞成票超过50票,则认为发生异常情况,并将发生异常情况的判断结果传输给步骤S5;
S5:若判断为异常情况,则将报警信息发送到预设报警对象。
2.根据权利要求1所述的一种基于机器视觉的摔倒检测方法,其特征在于,步骤S2所述数据增强处理具体包括步骤:
S21:直方图均衡化处理,以增强图像对比度;
S22:灰度值归一化处理,使得图像灰度值区间从[0,255]映射为[-1,1];
S23:对图像进行图像尺寸填充调整,使用零填充策略将图像填充为正方形的长宽比例,并从原尺寸放缩为统一的预设尺寸。
3.一种基于机器视觉的摔倒检测系统,其特征在于,包括:摄像头、图像预处理单元、骨骼点提取单元、骨骼点数据库、姿态识别单元;并且所述摄像头、图像预处理单元、骨骼点提取单元、骨骼点数据库、姿态识别单元依次连接;
摄像头采集实时监控画面,并将监控画面传输给图像预处理单元,图像预处理单元对监控画面图像进行数据增强,将数据增强后的图像传输给骨骼点提取单元,骨骼点提取单元提取图像中的骨骼点坐标,将骨骼点坐标数据传输给骨骼点数据库,骨骼点数据库保存有最新的n帧图像的骨骼点坐标队列,对骨骼点坐标队列进行整合,得到一个形如nxmx2的骨骼点序列张量,然后对骨骼点序列张量进行Flatten处理后得到骨骼点一维向量,骨骼点数据库将所述骨骼点一维向量发送给姿态识别单元,姿态识别单元识别姿态是否出现异常情况,若识别结果是摔倒且出现异常行为则为异常情况;
所述骨骼点提取单元为基于热图的生成式模型,所述基于热图的生成式模型是一款基于全卷积的热图回归型姿态估计深度神经网络,所述模型包括:特征提取模块和解码器,所述特征提取模块具有编码器结构,模型接收图像预处理单元输出的图像,由特征提取模块循环执行四次的3x3卷积、批量归一化、最大池化处理,从3通道RGB图像张量信息中提取出关于人体高级特征信息张量,然后模型的解码器循环执行两次的反卷积、3x3卷积、批量归一化处理,将所述高级特征信息张量转换为m通道关键骨骼点热图,其中每一个热图对应了一个人体关键骨骼点;
所述骨骼点数据库传入新的骨骼点坐标时,删除骨骼点数据库中位于所述骨骼点坐标队列头的m个人体关键骨骼点坐标,并将新一帧的m个人体关键骨骼点坐标数据塞入骨骼点坐标队列尾中;
还包括报警单元,所述姿态识别单元为随机森林模型,所述随机森林模型中包括100个学习器,每个学习器各自判断画面中的人是否摔倒,并且对识别结果进行投票,若判断为摔倒且出现异常行为时投赞成票,否则投反对票,记录投票结果,然后返回执行步骤S1,若连续三次投票结果的赞成票超过50票,则认为发生异常情况,并将发生异常情况的判断结果传输给报警单元。
4.根据权利要求3所述的一种基于机器视觉的摔倒检测系统,其特征在于,所述图像预处理单元包括:直方图均衡化模块、灰度值归一化模块、尺寸调整模块,所述直方图均衡化模块、灰度值归一化模块、尺寸调整模块依次连接,直方图均衡化模块首先对输入图像进行直方图均衡化处理,然后直方图均衡化模块将处理后的图像传输到灰度值归一化模块,灰度值归一化模块对图像进行灰度值归一化处理,然后灰度值归一化模块将处理后的图像传输到尺寸调整模块,尺寸调整模块对图像进行图像尺寸填充调整,使用零填充策略将图像填充为正方形的长宽比例,并从原尺寸放缩为统一的预设尺寸。
CN202110662116.1A 2021-06-15 2021-06-15 一种基于机器视觉的摔倒检测方法和系统 Active CN113392765B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110662116.1A CN113392765B (zh) 2021-06-15 2021-06-15 一种基于机器视觉的摔倒检测方法和系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110662116.1A CN113392765B (zh) 2021-06-15 2021-06-15 一种基于机器视觉的摔倒检测方法和系统

Publications (2)

Publication Number Publication Date
CN113392765A CN113392765A (zh) 2021-09-14
CN113392765B true CN113392765B (zh) 2023-08-01

Family

ID=77621433

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110662116.1A Active CN113392765B (zh) 2021-06-15 2021-06-15 一种基于机器视觉的摔倒检测方法和系统

Country Status (1)

Country Link
CN (1) CN113392765B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114091511B (zh) * 2021-09-22 2024-08-02 广东工业大学 一种基于时空信息的健身动作评分方法、系统及装置
CN113903147A (zh) * 2021-09-30 2022-01-07 湖南时变通讯科技有限公司 一种基于雷达的人体姿态判别方法、装置、设备及介质
CN113992896A (zh) * 2021-10-28 2022-01-28 南京奥拓电子科技有限公司 一种安全监测预警管理方法、系统及存储介质
CN115546491B (zh) * 2022-11-28 2023-03-10 中南财经政法大学 一种跌倒报警方法、系统、电子设备及存储介质
CN115937991A (zh) * 2023-03-03 2023-04-07 深圳华付技术股份有限公司 人体摔倒识别方法、装置、计算机设备及存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103520897A (zh) * 2012-07-06 2014-01-22 阿迪达斯股份公司 组表现监测系统及监测方法
CN107533357A (zh) * 2014-10-21 2018-01-02 伊特显示器私人有限公司 一种显示装置及内容显示系统
CN110287825A (zh) * 2019-06-11 2019-09-27 沈阳航空航天大学 一种基于关键骨骼点轨迹分析的摔倒动作检测方法
CN111507182A (zh) * 2020-03-11 2020-08-07 杭州电子科技大学 基于骨骼点融合循环空洞卷积的乱丢垃圾行为检测方法
CN111507185A (zh) * 2020-03-11 2020-08-07 杭州电子科技大学 一种基于堆叠空洞卷积网络的摔倒检测方法
CN112861624A (zh) * 2021-01-05 2021-05-28 哈尔滨工业大学(威海) 一种人体姿态检测方法、系统、存储介质、设备及终端
CN112949417A (zh) * 2021-02-05 2021-06-11 杭州萤石软件有限公司 一种摔倒行为识别方法、设备及系统

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103520897A (zh) * 2012-07-06 2014-01-22 阿迪达斯股份公司 组表现监测系统及监测方法
CN107533357A (zh) * 2014-10-21 2018-01-02 伊特显示器私人有限公司 一种显示装置及内容显示系统
CN110287825A (zh) * 2019-06-11 2019-09-27 沈阳航空航天大学 一种基于关键骨骼点轨迹分析的摔倒动作检测方法
CN111507182A (zh) * 2020-03-11 2020-08-07 杭州电子科技大学 基于骨骼点融合循环空洞卷积的乱丢垃圾行为检测方法
CN111507185A (zh) * 2020-03-11 2020-08-07 杭州电子科技大学 一种基于堆叠空洞卷积网络的摔倒检测方法
CN112861624A (zh) * 2021-01-05 2021-05-28 哈尔滨工业大学(威海) 一种人体姿态检测方法、系统、存储介质、设备及终端
CN112949417A (zh) * 2021-02-05 2021-06-11 杭州萤石软件有限公司 一种摔倒行为识别方法、设备及系统

Also Published As

Publication number Publication date
CN113392765A (zh) 2021-09-14

Similar Documents

Publication Publication Date Title
CN113392765B (zh) 一种基于机器视觉的摔倒检测方法和系统
CN111383421B (zh) 隐私保护跌倒检测方法和系统
TWI430186B (zh) 影像處理裝置及影像處理方法
US11298050B2 (en) Posture estimation device, behavior estimation device, storage medium storing posture estimation program, and posture estimation method
Chen et al. Remote recognition of in-bed postures using a thermopile array sensor with machine learning
CN112949417A (zh) 一种摔倒行为识别方法、设备及系统
US20220156959A1 (en) Image processing device, image processing method, and recording medium in which program is stored
CN114898261A (zh) 一种基于视频和生理数据融合的睡眠质量评估方法及系统
CN115984967A (zh) 基于深度学习的人体跌倒检测方法、装置及系统
CN113723241A (zh) 一种基于姿态估计的手卫生监测系统
CN112818796A (zh) 一种适用于在线监考场景下的智能姿态判别方法和存储设备
CN117132949B (zh) 一种基于深度学习的全天候跌倒检测方法
CN117352151B (zh) 智能陪护管理系统及其方法
CN113393628A (zh) 一种智能监控报警方法、系统、智能终端以及存储介质
CN114743224B (zh) 一种基于计算机视觉的畜牧业家畜体温监控方法与系统
CN116386145A (zh) 一种基于双摄像头的银行内人员异常行为识别方法
CN115331312A (zh) 一种人体状态检测方法、装置、设备及可读存储介质
KR20230078063A (ko) 자세유형 판별을 위한 서버 및 그 동작방법
CN115995093A (zh) 一种基于改进YOLOv5的安全帽佩戴识别方法
Hu et al. A motion classification approach to fall detection
CN113660455A (zh) 一种基于dvs数据的跌倒检测方法、系统、终端
Anderson et al. Extension of a soft-computing framework for activity analysis from linguistic summarizations of video
EP4394725A1 (en) Method and system for monitoring bedridden and bed-resting persons
CN116092129B (zh) 一种智能书架及其控制方法
JP2011070471A (ja) 目的変数算出装置、目的変数算出方法、プログラムおよび記録媒体

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant