CN109145696B - 一种基于深度学习的老人跌倒检测方法及系统 - Google Patents

一种基于深度学习的老人跌倒检测方法及系统 Download PDF

Info

Publication number
CN109145696B
CN109145696B CN201710513525.9A CN201710513525A CN109145696B CN 109145696 B CN109145696 B CN 109145696B CN 201710513525 A CN201710513525 A CN 201710513525A CN 109145696 B CN109145696 B CN 109145696B
Authority
CN
China
Prior art keywords
target
motion
module
moving
candidate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710513525.9A
Other languages
English (en)
Other versions
CN109145696A (zh
Inventor
张卡
何佳
尼秀明
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Anhui Qingxin Internet Information Technology Co ltd
Original Assignee
Anhui Qingxin Internet Information Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Anhui Qingxin Internet Information Technology Co ltd filed Critical Anhui Qingxin Internet Information Technology Co ltd
Priority to CN201710513525.9A priority Critical patent/CN109145696B/zh
Publication of CN109145696A publication Critical patent/CN109145696A/zh
Application granted granted Critical
Publication of CN109145696B publication Critical patent/CN109145696B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/07Target detection

Abstract

一种基于深度学习的老人跌倒检测方法及系统,包括:通过摄像机采集场景图像数据,确定目标检测区域;根据场景图像数据,以预设逻辑计算当前帧图像中所有像素点的瞬时运动速度场,获取像素运动速度场图像;根据像素运动速度场图像和预设相似条件聚集相似像素,形成候选运动目标区域,在候选运动目标区域中获取候选运动目标;筛选出候选运动目标中的新运动目标;根据深度学习方法从新运动目标中识别出行人目标;更新行人目标的目标跟踪列表信息;基于目标跟踪列表信息的变化状态与预设判断条件,判断行人目标的是否发生跌倒并报警。

Description

一种基于深度学习的老人跌倒检测方法及系统
技术领域
本发明涉及一种行人行为检测方法,特别是涉及一种基于深度学习的老人跌倒检测方法及系统。
背景技术
随着时间的推进,中国逐渐步入到老龄化社会,加上年轻人的生活观念和生活方式的变化,造就了“空巢老人”的数量越来越多,因此,伴随而来的“空巢老人”的安全问题也成为了子女们更加关注的问题。由于老年人生理机能的退化,跌倒成为老年人健康安全的首要问题,而大部分跌倒之所以会对老人造成严重身体伤害,是因为老年人跌倒后未被及时的发现,从而错过了最佳的救治时机。因此,开发一套准确实时的老年人跌倒检测技术,在未来的老龄化社会中,必能产生出巨大的社会价值和经济效益。
目前,老人跌倒检测方法主要有以下几种:基于传感器的检测,如“一种基于大数据的人体跌倒检测方法及系统”(中国专利申请号:201610105761.2)和“基于卡尔曼滤波与KNN算法的跌倒检测报警系统及方法”(中国专利申请号:201610152570.1),该类方法主要基于可穿戴式传感器,实时测量老人的运动加速度信息或角速度信息,然后依据测量的信息判断老人是否跌倒。该类方法的优点是很准确,其缺点是需要随身携带穿戴式传感器,设备成本较高,使用极不方便。基于视频图像分析的检测方法,如“一种活动人员安全异常的跌倒检测方法”(中国专利申请号:201610038406.8),该类方法通过视频背景建模技术,获取运动目标前景块,通过提取的前景块特征进行跌倒检测。该类方法的优点是非接触式检测,成本低廉,其缺点是背景建模不精确,提取的前景块特征误差较大,造成误检和漏检较多。近年来,深度学习技术凭借着可以模拟人类大脑神经网络,能够进行精确的非线性预测,各个领域都得到了广泛的关注和应用,但该技术的缺点是模型消耗内存很大,运算量很大,无法在视频环境中做到实时检测,其原因是深度学习算法针对的是单张静态图像,没有充分利用帧间相关性信息,因此需要消耗大量的内存和运算能力。
现有技术中需要随身携带穿戴式传感器,设备成本较高,使用极不方便,深度学习的模型消耗内存很大,运算量很大,无法在视频环境中做到实时检测,其原因是深度学习算法针对的是单张静态图像,没有充分利用帧间相关性信息,缺点是背景建模不精确,提取的前景块特征误差较大,造成误检和漏检较多,存在硬件成本高、运算占用空间大,信息利用率低以及监测结果精确度低的技术问题。
发明内容
鉴于以上现有技术存在硬件成本高、运算占用空间大,信息利用率低以及监测结果精确度低的技术问题,本发明的目的在于提供一种基于深度学习的老人跌倒检测方法及系统,一种基于深度学习的老人跌倒检测方法,包括:
通过摄像机采集场景图像数据,确定目标检测区域;
根据场景图像数据,以预设逻辑计算当前帧图像中所有像素点的瞬时运动速度场,获取像素运动速度场图像;
根据像素运动速度场图像和预设相似条件聚集相似像素,形成候选运动目标区域,在运动目标区域中获取候选运动目标;
筛选出候选运动目标中的新运动目标,根据深度学习方法从新运动目标中识别出行人目标,更新行人目标的目标跟踪列表中包含的实时图像信息;
基于目标跟踪列表信息的变化状态与预设判断条件,判断行人目标的是否发生跌倒并报警。
于本发明的一实施方式中,根据场景图像数据,以预设逻辑计算当前帧图像中所有像素点的瞬时运动速度场,获取像素运动速度场图像,包括:
遍历场景图像中的像素,每隔n个像素选取一个像素;
根据矢量速度数据、角速度数据及速度分量数据,通过公式:
Figure GDA0002625285310000021
得到像素运动速度场图像,Ix(i,j)和Iy(i,j)为偏导数,f(x,y)为灰度值;
根据公式:
Figure GDA0002625285310000022
计算像素在平面坐标系中沿各坐标轴的速度分量数据,其中,vx(x,y)和vy(x,y)为沿坐标
轴方向的速度分量;
根据公式:
Figure GDA0002625285310000031
计算像素的矢量速度和角速度,其中v(x,y)为矢量速度,α(x,y)为角速度。
于本发明的一实施方式中,根据像素运动速度场图像和预设相似条件聚集相似像素,形成候选运动目标区域,根据运动目标区域获取候选运动目标,包括:根据像素运动速度场图像的像素运动速度场及八邻域连通区域标记算法,将邻域连通区域中具有相近运动速度和运动方向的像素聚集在一起形成候选运动目标区域;去除面积较小的运动目标区域,获取运动目标区域的最小外接矩形作为候选运动目标区域。
于本发明的一实施方式中,筛选出候选运动目标中的新运动目标,根据深度学习方法从所述新运动目标中识别出行人目标,更新所述行人目标的目标跟踪列表信息,包括:获取候选运动目标;根据如下公式:
Soverlap=r1_w×r1_h+r2_w×r2_h-I_w×I_h
Figure GDA0002625285310000032
计算候选运动目标和跟踪列表里的每一个目标之间的重合度Soverlap,其中r1_r、r1_l、r1_b、r1_u、r1_w、r1_h分别表示候选运动目标区域矩形的右边界、左边界、下边界、上边界、宽度、高度,r2_r、r2_l、r2_b、r2_u、r2_w、r2_h分别表示跟踪目标区域矩形的右边界、左边界、下边界、上边界、宽度、高度;遍历跟踪列表中的已有目标,将各已有目标与候选运动目标的重合度Soverlap与预设重合度阈值逐一比较,判断重合度Soverlap的值是否大于预设重合度阈值;若是,则候选运动目标为该重合度值对应的已有目标;若否,则候选运动目标为新运动目标;
获取新运动目标的归一化输入特征图像;判断新出现目标类型;判断新出现目标类型前,先通过以下步骤获取深度神经网络模型:构建深度神经网络模型;根据运动目标的图像信息获取训练样本;根据深度神经网络模型及训练样本数据,进行模型的训练学习。
在像素运动速度场图像内,选择候选运动目标所在的矩形作为已有目标区域运动速度场;根据如下公式:
Figure GDA0002625285310000033
获取已有目标区域运动速度场的特征向量直方图,其中,H[i]表示特征向量直方图的第i维分量,β表示直方图角度范围;根据目标特征向量直方图的最大特征分量所在维数计算已有目标的运动量;根据如下公式:
Figure GDA0002625285310000041
计算已有目标的新位置,其中,rectnew表示已有目标新位置新目标位置所属区域矩形的边界坐标,rectpre表示上一帧目标位置所属区域矩形的位置及边界坐标坐标,mv为瞬时速度运动值,γ为顺势运动方向角均值。
于本发明的一实施方式中,基于目标跟踪列表信息的变化状态与预设判断条件,判断行人目标的是否发生跌倒并报警,包括:
判断行人目标运动状态是否出现异常,主要是判断行人目标在一段时间内是否出现目标高度剧变和目标运动位置相对静止等异常根据目标跟踪列表信息,如果某一个运动目标的目标跟踪列表满足下述公式,则说明当前的运动目标是异常的运动目标:
Figure GDA0002625285310000042
其中,Hmaxtotal表示某个运动目标的目标跟踪列表中目标高度的最大值,HminT表示某个运动目标的目标跟踪列表中一段时间T内目标高度的最小值,Xmax、Xmin、Ymax、Ymin分别表示某个运动目标的目标跟踪列表中一段时间T内目标中心位置的左边界、右边界、上边界、下边界,Th表示某个运动目标的高度变化比例阈值,Tx表示某个运动目标的目标跟踪列表中一段时间T内目标在X轴方向上的位移阈值,Ty表示某个运动目标的目标跟踪列表中一段时间T内目标在Y轴方向上的位移阈值;
检测判定预设时间间隔后行人的中心位置是否已经远离了出现异常时的中心位置,根据公式:
max{|xC-xM|,|yC-yM|}≤TM
判断所述行人目标的位置是否改变,其中,max{}表示选择两个元素中较大值,xC表示出现异常时的行人目标中心位置x轴坐标,yC表示出现异常时的行人目标中心位置y轴坐标,xM表示距离出现异常行人目标M秒后的行人目标中心位置x轴坐标,yM表示距离出现异常行人目标M秒后的行人目标中心位置y轴坐标,TM表示目标中心位置距离阈值;
若是,则判定所述行人目标未跌倒;
若否,则判断所述行人目标跌倒,发出警报信息。
于本发明的一实施方式中,一种基于深度学习的老人跌倒检测系统,包括:图像获取模块、运动速度场模块、候选目标获取模块、运动目标跟踪处理模块、行进状态判断模块;图像获取模块,用于通过摄像机采集场景图像数据,确定目标检测区域;运动速度场模块,用于根据场景图像数据,以预设逻辑计算当前帧图像中所有像素点的瞬时运动速度场,获取像素运动速度场图像,运动速度场模块与图像获取模块连接;候选目标获取模块,用于根据像素运动速度场图像和预设相似条件聚集相似像素,形成候选运动目标区域,在运动目标区域中获取候选运动目标,候选目标获取模块与运动速度场模块连接;运动目标跟踪处理模块,用于筛选出候选运动目标中的新运动目标,运动目标跟踪处理模块与候选目标获取模块连接;行进状态判断模块,用于根据深度学习方法从新运动目标中识别出行人目标,更新行人目标的目标跟踪列表中包含的实时图像位置信息,位置信息更新模块与行人识别模块连接,基于目标跟踪列表信息的变化状态与预设判断条件,判断行人目标的是否发生跌倒并报警。
于本发明的一实施方式中,运动速度场模块,包括:像素选取模块、速度计算模块、速度分量计算模块、场图像获取模块;像素选取模块,用于遍历场景图像中的像素;速度场图像获取模块,用于根据矢量速度数据、角速度数据及速度分量数据,通过公式:
Figure GDA0002625285310000051
得到像素运动速度场图像,Ix(i,j)和Iy(i,j)为偏导数,f(x,y)为灰度值,速度场图像获取模块与像素选取模块连接;速度分量计算模块,用于根据公式:
Figure GDA0002625285310000052
计算像素在平面坐标系中沿各坐标轴的速度分量数据,其中,vx(x,y)和vy(x,y)为沿坐标轴方向的速度分量,速度分量计算模块与速度场图像获取模块连接;速度计算模块,用于根据公式:
Figure GDA0002625285310000053
计算像素的矢量速度和角速度,其中v(x,y)为矢量速度,α(x,y)为角速度,速度计算模块与速度分量计算模块连接。
于本发明的一实施方式中,候选目标获取模块,包括:候选区域获取模块、目标区域选取模块;候选区域获取模块,用于根据像素运动速度场图像的像素运动速度场及八邻域连通区域标记算法,将邻域连通区域中具有相近运动速度和运动方向的像素聚集在一起形成候选运动目标区域;目标区域选取模块,用于去除面积较小的运动目标区域,获取运动目标区域的最小外接矩形作为候选运动目标区域,目标区域选取模块与候选区域获取模块连接。
于本发明的一实施方式中,运动目标跟踪处理模块,包括:运动候选目标获取模块、重合度计算模块、重合程度判断模块、已有目标判定模块、新目标判定模块、特征图像归一化模块、目标类型判断模块、目标运动场模块、特征直方图获取模块、已有目标运动量计算模块、新位置计算模块;运动候选目标获取模块,用于获取候选运动目标;重合度计算模块,用于根据如下公式:
Soverlap=r1_w×r1_h+r2_w×r2_h-I_w×I_h
计算候选运动目标和跟踪列表里的每一个目标之间的重合度Soverlap,其中r1_r、r1_l、r1_b、r1_u、r1_w、r1_h分别表示候选运动目标区域矩形的右边界、左边界、下边界、上边界、宽度、高度,r2_r、r2_l、r2_b、r2_u、r2_w、r2_h分别表示跟踪目标区域矩形的右边界、左边界、下边界、上边界、宽度、高度,重合度计算模块与运动候选目标获取模块连接;重合程度判断模块,用于遍历跟踪列表中的已有目标,将各已有目标与候选运动目标的重合度Soverlap与预设阈值逐一比较,判断重合度Soverlap的值是否大于预设重合度阈值,重合程度判断模块与重合度计算模块连接;已有目标判定模块,用于在重合度Soverlap的值大于预设重合阈度值时,候选运动目标为该重合度值对应的已有目标,已有目标判断模块与重合程度判断模块连接;新目标判定模块,用于在重合度Soverlap的值不大于预设重合度阈值时,候选运动目标为新运动目标,新目标判定模块与重合程度判断模块连接,特征图像归一化模块,用于获取新运动目标的归一化输入特征图像;目标类型判断模块,用于判断新出现目标类型,目标类型判断模块与特征图像归一化模块及目标类型判断模块连接,在判断新出现目标之前,先通过如下步骤获取深度神经网络模型:构建深度神经网络模型,学习模型构建模块与特征图像归一化模块连接;根据运动目标的图像信息获取训练样本;根据深度神经网络模型及训练样本数据,进行模型的训练学习。目标运动场模块,用于在像素运动速度场图像内,选择候选运动目标所在的矩形作为已有目标区域运动速度场;特征直方图获取模块,用于根据如下公式:
Figure GDA0002625285310000061
获取已有目标区域运动速度场的特征向量直方图,其中,H[i]表示特征向量直方图的第i维分量,β表示直方图角度范围,特征直方图获取模块与目标运动场模块连接;已有目标运动量计算模块,用于根据目标特征向量直方图的最大特征分量所在维数计算已有目标的运动量,已有目标运动量计算模块与特征直方图获取模块连接;新位置计算模块,用于根据如下公式:
Figure GDA0002625285310000071
计算已有目标的新位置,其中,rectnew表示已有目标新位置新目标位置所属区域矩形的边界坐标,rectpre表示上一帧目标位置所属区域矩形位置及边界坐标,mv为瞬时速度运动值,γ为顺势运动方向角均值,新位置计算模块与已有目标运动量计算模块连接。
于本发明的一实施方式中,行进状态判断模块,包括:异常判定模块、跌倒判断模块、未跌倒判定模块、跌倒判定预警模块;
异常判定模块,用于判断行人目标运动状态是否出现异常,主要是判断行人目标在一段时间内是否出现目标高度剧变和目标运动位置相对静止等异常根据目标跟踪列表信息,如果某一个运动目标的目标跟踪列表满足下述公式,则说明当前的运动目标是异常的运动目标:
Figure GDA0002625285310000072
其中,Hmaxtotal表示某个运动目标的目标跟踪列表中目标高度的最大值,HminT表示某个运动目标的目标跟踪列表中一段时间T内目标高度的最小值,Xmax、Xmin、Ymax、Ymin分别表示某个运动目标的目标跟踪列表中一段时间T内目标中心位置的左边界、右边界、上边界、下边界,Th表示某个运动目标的高度变化比例阈值,Tx表示某个运动目标的目标跟踪列表中一段时间T内目标在X轴方向上的位移阈值,Ty表示某个运动目标的目标跟踪列表中一段时间T内目标在Y轴方向上的位移阈值;跌倒判断模块,用于检测判断预设时间间隔后行人的中心位置是否已经远离了出现异常时的中心位置,根据公式:
max{|xC-xM|,|yC-yM|}≤TM
判断所述行人目标的位置是否改变,其中,max{}表示选择两个元素中较大值,xC表示出现异常时的行人目标中心位置x轴坐标,yC表示出现异常时的行人目标中心位置y轴坐标,xM表示距离出现异常行人目标M秒后的行人目标中心位置x轴坐标,yM表示距离出现异常行人目标M秒后的行人目标中心位置y轴坐标,TM表示目标中心位置距离阈值;未跌倒判定模块,用于在满足公式条件时,判定所述行人目标未跌倒;跌倒判定模块,用于在不满足公式条件时,,判定所述行人目标跌倒,发出警报信息。
综上所述,本发明提供一种基于深度学习的人体行进检测方法及系统,本发明提供发的一种基于深度学习技术的老人跌倒检测方法及系统,综合利用视频帧间相关性和深度学习准确性,能够以较小的运算代价快速检测老人是否发生跌倒,并保证较少的漏检和误检,本发明利用视频帧间运动速度场信息进行运动目标的粗检测和目标跟踪,定位运动目标速度更快,可以进行实时检测,基于深度学习技术和目标区域速度场信息,能够准确识别真实的行人运动目标,有效的去除各种干扰,误检和漏检更少,不需要随身携带穿戴式传感器,设备成本降低,使用方便,模型消耗内存降低,运算量减少,可以在视频环境中做到实时检测,背景建模精确,提取的前景块特征误差较小,减少了误检和漏检的异常情况,解决了传统技术中存在的存在硬件成本高、运算占用空间大,信息利用率低以及监测结果精确度低的技术问题。
附图说明
图1显示为本发明的一种基于深度学习的老人跌倒检测方法步骤示意图。
图2显示为本发明的像素运动速度场图像获取步骤示意图。
图3显示为本发明的后选运动目标获取步骤示意图。
图4显示为本发明的新运动目标筛选步骤示意图。
图5显示为本发明的实时行进状态判断步骤示意图。
图6显示为本发明的卷积神经网络模型示意图。
图7显示为本发明的一种基于深度学习的老人跌倒检测系统模块示意图。
图8显示为本发明的运动速度场模块示意图。
图9显示为本发明的候选目标获取模块示意图。
图10显示为本发明的运动目标跟踪处理模块示意图。
图11显示为本发明的行进状态判断模块示意图。
图12显示为本发明的等间隔像素采样场景示意图。
图13显示为本发明的出现运动目标时像素瞬时运动速度场示意图。
图14显示为本发明的获取候选目标效果示意图。
元件标号说明
1 基于深度学习的人体行进检测系统
11 图像获取模块
12 运动速度场模块
13 目标获取模块
14 运动目标跟踪处理模块
15 行进状态判断模块
121 像素选取模块
122 速度场图像获取模块
123 速度分量计算模块
124 速度计算模块
131 候选区域获取模块
132 目标区域选取模块
141 运动候选目标获取模块
142 重合度计算模块
143 重合程度判断模块
144 已有目标判定模块
145 新目标判定模块
146 特征图像归一化模块
147 目标类型判断模块
148 目标运动场模块
149 特征直方图获取模块
1410 已有目标运动量计算模块
1411 新位置计算模块
151 异常判断模块
152 行人跌倒判断模块
153 未跌倒判定模块
154 跌倒判定预警模块
步骤标号说明
图1 S1~S5
图2 S21~S24
图3 S31~S32
图4 S41~S414
图5 S51~S54
具体实施方式
以下由特定的具体实施例说明本发明的实施方式,熟悉此技术的人士可由本说明书所揭露的内容轻易地了解本发明的其他优点及功效。
请参阅图1至图14,须知,本说明书所附图式所绘示的结构,均仅用以配合说明书所揭示的内容,以供熟悉此技术的人士了解与阅读,并非用以限定本发明可实施的限定条件,故不具技术上的实质意义,任何结构的修饰、比例关系的改变或大小的调整,在不影响本发明所能产生的功效及所能达成的目的下,均应仍落在本发明所揭示的技术内容所能涵盖的范围内。同时,本说明书中所引用的如”上”、”下”、”左”、”右”、”中间”及”一”等的用语,亦仅为便于叙述的明了,而非用以限定本发明可实施的范围,其相对关系的改变或调整,在无实质变更技术内容下,当亦视为本发明可实施的范畴。
请参阅图1,显示为本发明的一种基于深度学习的老人跌倒检测方法步骤示意图,如图1所示,一种基于深度学习的老人跌倒检测方法,包括:
S1、通过摄像机采集场景图像数据,确定目标检测区域,采集场景图像,主要是采集当前摄像机场景下的实时帧图像,并选择需要监控老人跌倒的图像区域作为当前帧图像;
S2、根据场景图像数据,以预设逻辑计算当前帧图像中所有像素点的瞬时运动速度场,获取像素运动速度场图像,为了提高算法的运行效率,本发明采用了等间隔像素采样技术;
S3、根据像素运动速度场图像和预设相似条件聚集相似像素,形成候选运动目标区域,去除面积较小的运动目标区域,在剩余的运动目标区域中获取候选运动目标,根据当前帧图像的像素运动速度场,参考八邻域连通区域标记算法,把M×N领域内具有相近运动速度和运动方向的像素聚集在一起;
S4、筛选出候选运动目标中的新运动目标,判断步骤S3获取的候选运动目标是新出现目标还是已有目标,根据深度学习方法从新运动目标中识别出行人目标,更新行人目标的目标跟踪列表信息,获取跟踪列表中的已有目标在当前帧中的新位置,主要是判断新出现的目标是属于正常走动的行人还是属于干扰运动物体,该步骤主要是基于深度学习技术,采用运动目标的速度场作为深度神经网络模型的输入特征图像,使得整个深度神经网络模型的初始输入特征更加强健,采用较小深度的神经网络模型即可以达到精准的分类,有效去除干扰运动目标,有效提升系统的运算速度;
S5、基于目标跟踪列表信息的变化状态与预设判断条件,判断行人目标的是否发生跌倒并报警,基于目标跟踪列表综合判断行人运动状态是否出现异常情况,进而判断行人是否发生跌倒。
请参阅图2,显示为本发明的像素运动速度场图像获取步骤示意图,如图2所示,S2、根据场景图像数据,以预设逻辑计算当前帧图像中所有像素点的瞬时运动速度场,获取像素运动速度场图像,效果图请参阅图12及图13,显示为本发明的等间隔像素采样场景示意图和出现运动目标时像素瞬时运动速度场示意图,如图12及图13所示,包括:(注意公式的顺序)
S21、遍历场景图像中的像素,采用了等间隔像素采样技术,即每隔n个像素选取一个像素进行瞬时速度场计算,提高采样效率和系统整体运行效率以及检测精度;
S22、根据公式:
Figure GDA0002625285310000111
计算像素的偏导数,Ix(i,j)和Iy(i,j)分别表示当前帧图像中以像素(x,y)为中心的3×3邻域内的每一个像素在x轴方向和y轴方向上的偏导数,It(i,j)表示当前帧图像中以像素(x,y)为中心的3×3邻域内的每一个像素和前一帧图像中对应位置像素的灰度差值,f(x,y)表示当前帧图像中像素(x,y)处的灰度值,p(x,y)表示前一帧图像中像素(x,y)处的灰度值。
S23、根据公式:
Figure GDA0002625285310000112
计算像素在平面坐标系中沿各坐标轴的速度分量数据,其中,vx(x,y)和vy(x,y)分别表示当前帧图像中像素(x,y)处x轴方向和y轴方向上的瞬时运动速度分量,Ix(i,j)和Iy(i,j)分别表示当前帧图像中以像素(x,y)为中心的3×3邻域内的每一个像素在x轴方向和y轴方向上的偏导数,It(i,j)表示当前帧图像中以像素(x,y)为中心的3×3邻域内的每一个像素和前一帧图像中对应位置像素的灰度差值。
S24、根据公式:
Figure GDA0002625285310000121
计算像素的瞬时运动速度场,其中v(x,y)表示当前帧图像中像素(x,y)处的瞬时运动速度,α(x,y)表示当前帧图像中像素(x,y)处的瞬时运动方向角,arctan表示反正切三角函数。
请参阅图3及图14,显示为本发明的候选运动目标获取步骤示意图和获取候选目标效果示意图,如图3及图14所示,S3、根据像素运动速度场图像和预设相似条件聚集相似像素,形成候选运动目标区域,根据运动目标区域获取候选运动目标,包括:
S31、根据像素运动速度场图像及八邻域连通区域标记算法,将邻域连通区域中具有相近运动速度和运动方向的像素聚集在一起形成候选运动目标区域:
Figure GDA0002625285310000122
其中,v1(x,y)和v2(x,y)分别表示第一个像素和第二个像素的瞬时运动速度,α1(x,y)和α2(x,y)分别表示第一像素和第二个像素的瞬时运动方向角,Tv表示相邻像素点运动速度差值阈值,Tα表示相邻像素点运动方向角差值阈值。
S32、去除面积较小的运动目标区域,获取运动目标区域的最小外接矩形作为候选运动目标区。
请参阅图4及图6,显示为本发明的新运动目标筛选步骤示意图和本发明的卷积神经网络模型示意图,如图4及图6所示,S4、筛选出候选运动目标中的新运动目标,包括:
S41、获取候选运动目标,获取步骤S3获取的所有候选运动目标;
S42、根据如下公式:
Soverlap=r1_w×r1_h+r2_w×r2_h-I_w×I_h
Figure GDA0002625285310000123
计算候选运动目标和目标跟踪列表里的每一个目标之间的重合度Soverlap,其中,Soverlap表示候选运动目标和一个跟踪目标之间的重合度,r1_r、r1_l、r1_b、r1_u、r1_w、r1_h分别表示候选运动目标区域矩形的右边界、左边界、下边界、上边界、宽度、高度,r2_r、r2_l、r2_b、r2_u、r2_w、r2_h分别表示跟踪目标的区域矩形的右边界、左边界、下边界、上边界、宽度、高度,min()表示选择两个元素中较小值,max()表示选择两个元素中较大值,I_w、I_h分别表示候选运动目标和一个跟踪目标之间重叠区域矩形的宽度和高度。
S43、遍历目标跟踪列表中的已有目标,将各已有目标与候选运动目标的重合度Soverlap与预设重合度阈值逐一比较,判断重合度Soverlap的值是否大于预设重合度阈值,优选的,用每一候选运动目标与所有已有目标对比计算二者重合度;
S44、若是,则候选运动目标为该重合度值对应的已有目标,如果所述候选运动目标与所述已有目标的重合度大于预设的重合度阈值,则可知该候选运动目标为已有目标;
S45、若否,则候选运动目标为新运动目标,如果所述候选运动目标与所述已有目标的重合度不大于预设的重合度阈值,则可知该候选运动目标是区别于已有目标的新运动目标。
S46、获取新运动目标的归一化输入特征图像,基于深度学习技术和目标区域速度场信息,优选的,获取深度神经网络模型输入特征图像,主要是在步骤S2中获取的像素运动速度场图像内,基于新出现目标区域矩形位置截取相应的子区域图像作为该新出现目标的输入特征图像,并对输入特征图像进行尺寸归一化;
S47、判断新出现目标类型,主要是把步骤S46中获取的归一化输入特征图像送入深度神经网络模型,依据模型的输出判断新出现目标类型;在执行步骤S47之前,先通过如下步骤获取深度神经网络模型:
P0、构建深度神经网络模型,由于本发明中深度神经网络模型的作用是,根据输入特征图像判断目标的类型,属于目标识别的二分类范畴,因此,综合考虑运动目标的多样性和卷深度神经网络模型的计算复杂性,本发明基于LeNet-5卷积神经网络模型进行改进,改进后的卷积神经网络模型如图6所示;
P1、根据运动目标的图像信息获取训练样本,训练样本与运动目标对应,获取不同的摄像机应用场景下,各种运动目标的运动速度场图像,并把其中行人的运动速度场图像作为训练正样本,而其余的非行人运动速度场图像则作为训练负样本;
P2、根据深度神经网络模型及训练样本数据,归一化训练样本数据,主要是把所有的训练样本图像的尺寸进行归一化,使之和深度神经网络模型的输入特征图像尺寸一致;
P3、训练深度神经网络模型,主要是借助caffe深度学习框架,基于所有的训练样本数据,学习深度神经网络模型。上述步骤P0、P1、P2、P3为深度神经网络模型的获取方法。
S411、在像素运动速度场图像内,选择行人运动目标所在的矩形区域作为已有目标区域运动速度场,在步骤S2中获取的像素运动速度场图像内,选择行人运动目标在步骤S3中对应的候选运动目标所在的矩形区域作为已有目标区域运动速度场;
S412、根据如下公式:
Figure GDA0002625285310000141
获取已有目标区域运动速度场的特征向量直方图,其中,H[i]表示特征向量直方图的第i维分量,β表示直方图每一维覆盖的角度范围。
S413、根据目标特征向量直方图的最大特征分量所在维数计算已有目标的运动量,优选的,首先获取已有目标特征向量直方图的最大特征分量所在维数w,然后计算所有落入第w维分量范围内的像素点的瞬时运动速度均值和瞬时运动方向角均值,即是已有目标的运动量;
S414、根据如下公式:
Figure GDA0002625285310000142
计算已有目标的新位置,其中,rectnewx、rectnewy、rectneww、rectnewh分别表示已有目标新位置矩形的左上角x轴坐标、左上角y轴坐标、矩形宽度、矩形高度,rectprex、rectprey分别表示在上一帧中已有目标矩形的左上角x轴坐标、左上角y轴坐标,rectcandw、rectcandh分别表示在步骤S3中的属于已有目标的候选运动目标的区域矩形宽度、高度,mv表示瞬时运动速度均值,γ表示瞬时运动方向角均值,sin、cos分别表示正弦、余弦等三角函数。
请参阅图5,显示为本发明的实时行进状态判断步骤示意图,如图5所示,步骤S5包括:
S51、基于目标跟踪列表信息的变化状态与预设判断条件,判断行人目标的是否发生跌倒并报警;主要是判断行人目标在一段时间内是否出现目标高度剧变和目标运动位置相对静止等异常,根据目标跟踪列表信息,如果某一个运动目标的目标跟踪列表满足下述公式,则说明当前的运动目标是异常的运动目标;
Figure GDA0002625285310000143
其中,Hmaxtotal表示某个运动目标的目标跟踪列表中目标高度的最大值,HminT表示某个运动目标的目标跟踪列表中一段时间T内目标高度的最小值,Xmax、Xmin、Ymax、Ymin分别表示某个运动目标的目标跟踪列表中一段时间T内目标中心位置的左边界、右边界、上边界、下边界,Th表示某个运动目标的高度变化比例阈值,Tx表示某个运动目标的目标跟踪列表中一段时间T内目标在X轴方向上的位移阈值,Ty表示某个运动目标的目标跟踪列表中一段时间T内目标在Y轴方向上的位移阈值。
S52、当在步骤S51中确定行人的运动状态出现了异常后,判断时间间隔M秒后,行人的中心位置是否已经远离了出现异常时的中心位置,根据公式:
max{|xC-xM|,|yC-yM|}≤TM
判断行人目标的中心位置是否改变,如果满足公式,说明行人发生了不能自己恢复过来的跌倒,如果不满足公式,说明行人只是蹲下或者非严重跌倒;其中,max{}表示选择两个元素中较大值,xC表示出现异常时的行人目标中心位置x轴坐标,yC表示出现异常时的行人目标中心位置y轴坐标,xM表示距离出现异常行人目标M秒后的行人目标中心位置x轴坐标,yM表示距离出现异常行人目标M秒后的行人目标中心位置y轴坐标,TM表示目标中心位置距离阈值。
S53、若是,则判定行人目标未跌倒,即可知该行人目标对应的老人继续正常行进;
S54、若否,则判断行人目标跌倒,发出警报信息,如果行人发生了不能自己恢复过来的跌倒,需要及时报警,通知相关人员过来进行及时救治。
请参阅图7,显示为本发明的一种基于深度学习的老人跌倒检测系统模块示意图,如图7所示,一种基于深度学习的人体行进检测系统1包括:图像获取模块11、运动速度场模块12、候选目标获取模块13、运动目标跟踪处理模块14、行进状态判断模块15;图像获取模块11,用于通过摄像机采集场景图像数据,确定目标检测区域,发明利用视频帧间运动速度场信息进行运动目标的粗检测和目标跟踪,采集场景图像,主要是采集当前摄像机场景下的实时帧图像,并选择需要监控老人跌倒的图像区域作为当前帧图像;运动速度场模块12,用于根据场景图像数据,以预设逻辑计算当前帧图像中所有像素点的瞬时运动速度场,获取像素运动速度场图像,运动速度场模块12与图像获取模块11连接,主要是计算当前帧图像中所有像素点的瞬时运动速度场为了提高算法的运行效率,本发明采用了等间隔像素采样技术;候选目标获取模块13,用于根据像素运动速度场图像和预设相似条件聚集相似像素,形成候选运动目标区域,在运动目标区域中获取候选运动目标,根据当前帧图像的像素运动速度场,参考八邻域连通区域标记算法,把M×N领域内具有相近运动速度和运动方向的像素聚集在一起,候选目标获取模块13与运动速度场模块12连接;运动目标跟踪处理模块14,用于筛选出候选运动目标中的新运动目标,去除面积较小的运动目标区域,判断步骤S3获取的候选运动目标是新出现目标还是已有目标,运动目标跟踪处理模块14与候选目标获取模块13连接;行进状态判断15,用于根据深度学习方法从新运动目标中识别出行人目标,主要是判断新出现的目标是属于正常走动的行人还是属于干扰运动物体,该步骤主要是基于深度学习技术,采用运动目标的速度场作为深度神经网络模型的输入特征图像,使得整个深度神经网络模型的初始输入特征更加强健,采用较小深度的神经网络模型即可以达到精准的分类,有效去除干扰运动目标,有效提升系统的运算速度,更新行人目标的目标跟踪列表中包含的实时图像位置信息,获取跟踪列表中的已有目标在当前帧中的新位置,基于目标跟踪列表信息的变化状态与预设判断条件,判断行人目标的是否发生跌倒并报警,基于目标跟踪列表综合判断行人运动状态是否出现异常情况,进而判断行人是否发生跌倒,如果行人发生了不能自己恢复过来的跌倒。
请参阅图8,显示为本发明的运动速度场模块示意图,如图8所示,运动速度场模块12,包括:像素选取模块121、速度计算模块122、速度分量计算模块123、场图像获取模块124;像素选取模块121,用于遍历场景图像中的像素,每隔n个像素选取一个像素,即每隔n个像素选取一个像素进行瞬时速度场计算,提高采样效率和系统整体运行效率以及检测精度;速度场图像获取模块122,用于根据矢量速度数据、角速度数据及速度分量数据,通过公式:
Figure GDA0002625285310000161
得到像素运动速度场图像,其中,It(i,j)表示当前帧图像中以像素(x,y)为中心的3×3邻域内的每一个像素和前一帧图像中对应位置像素的灰度差值,f(x,y)表示当前帧图像中像素(x,y)处的灰度值,p(x,y)表示前一帧图像中像素(x,y)处的灰度值,速度场图像获取模块122与像素选取模块121连接;
速度分量计算模块123,用于根据公式:
Figure GDA0002625285310000162
计算像素在平面坐标系中沿各坐标轴的速度分量数据,其中,vx(x,y)和vy(x,y)为沿坐标轴方向的速度分量,vx(x,y)和vy(x,y)分别表示当前帧图像中像素(x,y)处x轴方向和y轴方向上的瞬时运动速度分量,Ix(i,j)和Iy(i,j)分别表示当前帧图像中以像素(x,y)为中心的3×3邻域内的每一个像素在x轴方向和y轴方向上的偏导数,速度分量计算模块123与速度场图像获取模块122连接;速度计算模块124,用于根据公式:
Figure GDA0002625285310000171
计算像素的矢量速度和角速度,其中v(x,y)表示当前帧图像中像素(x,y)处的瞬时运动速度,α(x,y)表示当前帧图像中像素(x,y)处的瞬时运动方向角,arctan表示反正切三角函数,速度计算模块124与速度分量计算模块123连接。
请参阅图9,显示为本发明的候选目标获取模块示意图,如图9所示,候选目标获取模块13,包括:候选区域获取模块131、目标区域选取模块132;候选区域获取模块131,用于根据像素运动速度场图像的像素运动速度场及八邻域连通区域标记算法,将邻域连通区域中具有相近运动速度和运动方向的像素聚集在一起形成候选运动目标区域,以八邻域连通区域标记算法,把M×N领域内具有相近运动速度和运动方向的像素聚集在一起,形成候选运动目标区域;目标区域选取模块132,用于去除面积较小的运动目标区域,获取运动目标区域的最小外接矩形作为候选运动目标区域,获取运动目标区域的最小外接矩形作为候选运动目标区域矩形,满足下述公式的相邻像素点属于同一个连通区域,效果如图5所示。
Figure GDA0002625285310000172
其中,v1(x,y)和v2(x,y)分别表示第一个像素和第二个像素的瞬时运动速度,α1(x,y)和α2(x,y)分别表示第一像素和第二个像素的瞬时运动方向角,Tv表示相邻像素点运动速度差值阈值,Tα表示相邻像素点运动方向角差值阈值目标区域选取模块132与候选区域获取模块131连接。
请参阅图10,显示为本发明的运动目标跟踪处理模块示意图,如图10所示,运动目标跟踪处理模块14,包括:运动候选目标获取模块141、重合度计算模块142、重合程度判断模块143、已有目标判定模块144、新目标判定模块145、特征图像归一化模块146、目标类型判断模块147、目标运动场模块148、特征直方图获取模块149、已有目标运动量计算模块1410、新位置计算模块1411;运动候选目标获取模块141,用于获取候选运动目标,判断步骤S3获取的候选运动目标是新出现目标还是已有目标;重合度计算模块142,用于根据如下公式:
Soverlap=r1_w×r1_h+r2_w×r2_h-I_w×I_h
计算候选运动目标和跟踪列表里的每一个目标之间的重合度Soverlap,其中,Soverlap表示候选运动目标和一个跟踪目标之间的重合度,r1_r、r1_l、r1_b、r1_u、r1_w、r1_h分别表示候选运动目标区域矩形的右边界、左边界、下边界、上边界、宽度、高度,r2_r、r2_l、r2_b、r2_u、r2_w、r2_h分别表示跟踪目标区域矩形的右边界、左边界、下边界、上边界、宽度、高度,min()表示选择两个元素中较小值,max()表示选择两个元素中较大值,I_W、I_H分别表示候选运动目标和一个跟踪目标之间重叠区域矩形的宽度和高度;重合程度判断模块143,用于遍历跟踪列表中的已有目标,将各已有目标与候选运动目标的重合度Soverlap与预设阈值逐一比较,判断重合度Soverlap的值是否大于预设重合度阈值,优选的,用每一候选运动目标与所有已有目标对比计算二者重合度,重合程度判断模块143与重合度计算模块142连接;已有目标判定模块144,用于在重合度Soverlap的值大于预设重合阈度值时,候选运动目标为该重合度值对应的已有目标,如果所述候选运动目标与所述已有目标的重合度大于预设的重合度阈值,则可知该候选运动目标为已有目标,已有目标判断模块144与重合程度判断模块143连接;新目标判定模块145,用于在重合度Soverlap的值不大于预设重合度阈值时,候选运动目标为新运动目标,判断新出现的目标是属于正常走动的行人还是属于干扰运动物体,如果是行人目标,则把该目标放入跟踪列表中,新目标判定模块145与重合程度判断模块143连接,特征图像归一化模块146,用于取新运动目标的归一化输入特征图像,基于深度学习技术和目标区域速度场信息,优选的,获取深度神经网络模型输入特征图像,主要是在步骤S2中获取的像素运动速度场图像内,基于新出现目标区域矩形位置截取相应的子区域图像作为该新出现目标的输入特征图像,并对输入特征图像进行尺寸归一化;目标类型判断模块147,用于判断新出现目标类型,主要是把步骤S46中获取的归一化输入特征图像送入深度神经网络模型,依据模型的输出判断新出现目标类型;在进行步骤S147中新出现目标判断之前,通过如下步骤获取深度神经网络模型:P0、构建深度神经网络模型,由于本发明中深度神经网络模型的作用是,根据输入特征图像判断目标的类型,属于目标识别的二分类范畴,因此,综合考虑运动目标的多样性和卷深度神经网络模型的计算复杂性,本发明基于LeNet-5卷积神经网络模型进行改进,改进后的卷积神经网络模型如图6所示;P1、根据运动目标的图像信息获取训练样本,训练样本与运动目标对应,获取不同的摄像机应用场景下,各种运动目标的运动速度场图像,并把其中行人的运动速度场图像作为训练正样本,而其余的非行人运动速度场图像则作为训练负样本;P2、根据深度神经网络模型及训练样本数据,进行模型的训练学习,归一化训练样本数据,主要是把所有的训练样本图像的尺寸进行归一化,使之和深度神经网络模型的输入特征图像尺寸一致;P3、主要是借助caffe深度学习框架,基于所有的训练样本数据,学习深度神经网络模型。目标运动场模块148,用于在像素运动速度场图像内,选择候选运动目标所在的矩形作为已有目标区域运动速度场,在步骤S2中获取的像素运动速度场图像内,选择步骤S3中获取的候选运动目标所在的矩形区域作为已有目标区域运动速度场;特征直方图获取模块149,用于根据如下公式:
Figure GDA0002625285310000191
获取已有目标区域运动速度场的特征向量直方图,其中,H[i]表示特征向量直方图的第i维分量,β表示直方图每一维覆盖的角度范围;已有目标运动量计算模块1410,用于根据目标特征向量直方图的最大特征分量所在维数计算已有目标的运动量,已有目标运动量计算模块1410与特征直方图获取模块149连接,优选的,首先获取步骤S62中已有目标特征向量直方图的最大特征分量所在维数w,然后计算所有落入第w维分量范围内的像素点的瞬时运动速度均值和瞬时运动方向角均值,即是已有目标的运动量;新位置计算模块1411,用于根据如下公式:
Figure GDA0002625285310000192
计算已有目标的新位置,其中,rectnew_x、rectnew_y、rectnew_w、rectnew_h分别表示已有目标新位置矩形的左上角x轴坐标、左上角y轴坐标、矩形宽度、矩形高度,rectpre_x、rectpre_y分别表示在上一帧中已有目标矩形的左上角x轴坐标、左上角y轴坐标,rectcand_w、rectcand_h分别表示在步骤S3中的属于已有目标的候选运动目标的区域矩形宽度、高度,mv表示瞬时运动速度均值,γ表示瞬时运动方向角均值,sin、cos分别表示正弦、余弦等三角函数。
请参阅图11,显示为本发明的行人识别模块示意图,如图11所示,行进状态判断模块15包括:异常判定模块151、跌倒判断模块152、未跌倒判定模块153、跌倒判定预警模块154;异常判定模块151,用于判断行人目标运动状态是否出现异常,主要是判断行人目标在一段时间内是否出现目标高度剧变和目标运动位置相对静止等异常根据目标跟踪列表信息,如果某一个运动目标的目标跟踪列表满足下述公式,则说明当前的运动目标是异常的运动目标:
Figure GDA0002625285310000193
其中,Hmaxtotal表示某个运动目标的目标跟踪列表中目标高度的最大值,HminT表示某个运动目标的目标跟踪列表中一段时间T内目标高度的最小值,Xmax、Xmin、Ymax、Ymin分别表示某个运动目标的目标跟踪列表中一段时间T内目标中心位置的左边界、右边界、上边界、下边界,Th表示某个运动目标的高度变化比例阈值,Tx表示某个运动目标的目标跟踪列表中一段时间T内目标在X轴方向上的位移阈值,Ty表示某个运动目标的目标跟踪列表中一段时间T内目标在Y轴方向上的位移阈值;跌倒判断模块152,用于检测判断预设时间间隔后行人的中心位置是否已经远离了出现异常时的中心位置,根据公式:
max{|xC-xM|,|yC-yM|}≤TM
判断所述行人目标的位置是否改变,其中,max{}表示选择两个元素中较大值,xC表示出现异常时的行人目标中心位置x轴坐标,yC表示出现异常时的行人目标中心位置y轴坐标,xM表示距离出现异常行人目标M秒后的行人目标中心位置x轴坐标,yM表示距离出现异常行人目标M秒后的行人目标中心位置y轴坐标,TM表示目标中心位置距离阈值;未跌倒判定模块153,用于在满足公式条件时,判定所述行人目标未跌倒;跌倒判定模块154,用于在不满足公式条件时,,判定所述行人目标跌倒,发出警报信息。如果行人发生了不能自己恢复过来的跌倒,需要及时报警,通知相关人员过来进行及时救治。
综上所述,本发明提供发的一种基于深度学习技术的老人跌倒检测方法及系统,综合利用视频帧间相关性和深度学习准确性,能够以较小的运算代价快速检测老人是否发生跌倒,并保证较少的漏检和误检,本发明利用视频帧间运动速度场信息进行运动目标的粗检测和目标跟踪,定位运动目标速度更快,可以进行实时检测,基于深度学习技术和目标区域速度场信息,能够准确识别真实的行人运动目标,有效的去除各种干扰,误检和漏检更少,不需要随身携带穿戴式传感器,设备成本降低,使用方便,模型消耗内存降低,运算量减少,可以在视频环境中做到实时检测,背景建模精确,提取的前景块特征误差较小,减少了误检和漏检的异常情况,解决了传统技术中存在的存在硬件成本高、运算占用空间大,信息利用率低以及监测结果精确度低的技术问题,具有很高的商业价值和实用性。

Claims (8)

1.一种基于深度学习的老人跌倒检测方法,其特征在于,包括:
通过摄像机采集场景图像数据,确定目标检测区域;
根据所述场景图像数据,以预设逻辑计算当前帧图像中所有像素点的瞬时运动速度场,获取像素运动速度场图像;
根据所述像素运动速度场图像和预设相似条件聚集相似像素,形成候选运动目标区域,根据所述候选运动目标区域获取候选运动目标;
筛选出所述候选运动目标中的新运动目标,根据深度学习方法从所述新运动目标中识别出行人目标;更新所述行人目标的目标跟踪列表信息;
基于目标跟踪列表信息的变化状态与预设判断条件,判断行人目标的是否发生跌倒并报警;
所述筛选出所述候选运动目标中的新运动目标;根据深度学习方法从所述新运动目标中识别出行人目标;更新所述行人目标的目标跟踪列表信息,包括:
获取所述候选运动目标;
根据如下公式:
Soverlap=r1_w×r1_h+r2_w×r2_h-I_w×I_h
Figure FDA0002900354180000011
计算所述候选运动目标和目标跟踪列表里的每一个目标之间的重合度Soverlap,其中r1_r、r1_l、r1_b、r1_u、r1_w、r1_h分别表示候选运动目标区域矩形的右边界、左边界、下边界、上边界、宽度、高度,r2_r、r2_l、r2_b、r2_u、r2_w、r2_h分别表示跟踪目标的区域矩形的右边界、左边界、下边界、上边界、宽度、高度;
遍历所述目标跟踪列表中的已有目标,将各所述已有目标与所述候选运动目标的所述重合度Soverlap与预设重合度阈值逐一比较,判断所述重合度Soverlap的值是否大于所述预设重合度阈值;
若是,则所述候选运动目标为该所述重合度Soverlap对应的所述已有目标;
若否,则所述候选运动目标为新运动目标;
获取新运动目标的归一化输入特征图像;
构建深度神经网络模型,判断新出现目标类型,把归一化输入特征图像送入深度神经网络模型,依据模型的输出判断新出现目标类型,根据运动目标的图像信息获取训练样本,根据深度神经网络模型及训练样本数据,进行模型的训练学习,其中,深度神经网络模型的构建和训练是在系统正式判断新出现目标类型之前预先完成的;
在所述像素运动速度场图像内,选择所述行人运动目标所在的矩形区域作为已有目标区域运动速度场;
根据如下公式:
Figure FDA0002900354180000021
获取所述已有目标区域运动速度场的特征向量直方图,其中,H[i]表示特征向量直方图的第i维分量,β表示直方图角度范围;
根据所述目标特征向量直方图的最大特征分量所在维数计算所述已有目标的运动量;
根据如下公式:
Figure FDA0002900354180000022
计算所述已有目标的新位置,其中,rectnewx、rectnewy、rectneww、rectnewh分别表示已有目标新位置矩形的左上角x轴坐标、左上角y轴坐标、矩形宽度、矩形高度,rectpre_x、rectpre_y分别表示在上一帧中已有目标矩形的左上角x轴坐标、左上角y轴坐标,rectcand_w、rectcand_h分别表示在步骤S3中的属于已有目标的候选运动目标的区域矩形宽度、高度,mv表示瞬时运动速度均值,γ表示瞬时运动方向角均值,sin、cos分别表示正弦、余弦等三角函数。
2.根据权利要求1所述的方法,其特征在于,所述根据所述场景图像数据,以预设逻辑计算当前帧图像中所有像素点的瞬时运动速度场,获取像素运动速度场图像,包括:
遍历所述场景图像中的像素,每隔n个像素选取一个像素;
根据矢量速度数据、角速度数据及速度分量数据,通过公式:
It(i,j)=f(x+i,y+j)-p(x+i,y+j)
得到像素运动速度场图像,f(x,y)为灰度值,p(x,y)表示前一帧图像中像素(x,y)处的灰度值,It(i,j)表示当前帧图像中以像素(x,y)为中心的3×3邻域内的每一个像素和前一帧图像中对应位置像素的灰度差值;
根据公式:
Figure FDA0002900354180000031
计算所述像素在平面坐标系中沿各坐标轴的速度分量数据,其中,Ix(i,j)和Iy(i,j)为偏导数,vx(x,y)和vy(x,y)为沿坐标轴方向的速度分量;
根据公式:
Figure FDA0002900354180000032
计算所述像素的矢量速度和角速度,其中,v(x,y)表示当前帧图像中像素(x,y)处的瞬时运动速度,即所述矢量速度,α(x,y)表示当前帧图像中像素(x,y)处的瞬时运动方向角,即所述角速度。
3.根据权利要求1或2所述的方法,其特征在于,所述根据所述像素运动速度场图像和预设相似条件聚集相似像素,形成候选运动目标区域,根据所述候选运动目标区域获取候选运动目标,包括:
根据所述像素运动速度场图像的像素运动速度场及八邻域连通区域标记算法,将邻域连通区域中具有相近运动速度和运动方向的像素聚集在一起形成候选运动目标区域;
去除面积较小的所述运动目标区域,获取所述运动目标区域的最小外接矩形作为候选运动目标区域。
4.根据权利要求1所述的方法,其特征在于,所述基于目标跟踪列表信息的变化状态与预设判断条件,判断行人目标的是否发生跌倒并报警,包括:
判断行人目标运动状态是否出现异常,主要是判断行人目标在一段时间内是否出现目标高度剧变和目标运动位置相对静止等异常根据目标跟踪列表信息,如果某一个运动目标的目标跟踪列表满足下述公式,则说明当前的运动目标是异常的运动目标:
Figure FDA0002900354180000041
其中,Hmaxtotal表示某个运动目标的目标跟踪列表中目标高度的最大值,HminT表示某个运动目标的目标跟踪列表中一段时间T内目标高度的最小值,Xmax、Xmin、Ymax、Ymin分别表示某个运动目标的目标跟踪列表中一段时间T内目标中心位置的左边界、右边界、上边界、下边界,Th表示某个运动目标的高度变化比例阈值,Tx表示某个运动目标的目标跟踪列表中一段时间T内目标在X轴方向上的位移阈值,Ty表示某个运动目标的目标跟踪列表中一段时间T内目标在Y轴方向上的位移阈值;
检测判定预设时间间隔后行人的中心位置是否已经远离了出现异常时的中心位置,根据公式:
max{|xC-xM|,|yC-yM|}≤TM
判断所述行人目标的位置是否改变,其中,max{}表示选择两个元素中较大值,xC表示出现异常时的行人目标中心位置x轴坐标,yC表示出现异常时的行人目标中心位置y轴坐标,xM表示距离出现异常行人目标M秒后的行人目标中心位置x轴坐标,yM表示距离出现异常行人目标M秒后的行人目标中心位置y轴坐标,TM表示目标中心位置距离阈值;
若是,则判定所述行人目标未跌倒;
若否,则判断所述行人目标跌倒,发出警报信息。
5.一种基于深度学习的老人跌倒检测系统,其特征在于,包括:图像获取模块、运动速度场模块、候选目标获取模块、运动目标跟踪处理模块、行进状态判断模块;
所述图像获取模块,用于通过摄像机采集场景图像数据,确定目标检测区域;
所述运动速度场模块,用于根据所述场景图像数据,以预设逻辑计算当前帧图像中所有像素点的瞬时运动速度场,获取像素运动速度场图像;
所述候选目标获取模块,用于根据所述像素运动速度场图像和预设相似条件聚集相似像素,形成候选运动目标区域,在所述运动目标区域中获取候选运动目标;
所述运动目标跟踪处理模块,用于筛选出所述候选运动目标中的新运动目标,根据深度学习方法从所述新运动目标中识别行人目标,更新所述行人目标的目标跟踪列表中包含的实时图像位置信息;
所述行进状态判断模块,用于基于目标跟踪列表信息的变化状态与预设判断条件,判断行人目标的是否发生跌倒并报警;
其中,所述运动目标跟踪处理模块,包括:运动候选目标获取模块、重合度计算模块、重合程度判断模块、已有目标判定模块、新目标判定模块、特征图像归一化模块、目标类型判断模块、目标运动场模块、特征直方图获取模块、已有目标运动量计算模块、新位置计算模块;
所述运动候选目标获取模块,用于获取所述候选运动目标;
所述重合度计算模块,用于根据如下公式:
Soverlap=r1_w×r1_h+r2_w×r2_h-I_w×I_h
Figure FDA0002900354180000051
计算所述候选运动目标和跟踪列表里的每一个目标之间的重合度Soverlap,其中r1_r、r1_l、r1_b、r1_u、r1_w、r1_h分别表示候选运动目标区域矩形的右边界、左边界、下边界、上边界、宽度、高度,r2_r、r2_l、r2_b、r2_u、r2_w、r2_h分别表示跟踪目标区域矩形的右边界、左边界、下边界、上边界、宽度、高度;
所述重合程度判断模块,用于遍历所述跟踪列表中的已有目标,将各所述已有目标与所述候选运动目标的所述重合度Soverlap与预设重合度阈值逐一比较,判断所述重合度Soverlap的值是否大于所述预设重合度阈值;
所述已有目标判定模块,用于在所述重合度Soverlap的值大于所述预设重合度阈值时,所述候选运动目标为该所述重合度Soverlap对应的所述已有目标;
所述新目标判定模块,用于在所述重合度Soverlap的值不大于所述预设重合度阈值时,所述候选运动目标为新运动目标;
所述特征图像归一化模块,用于获取所述新运动目标的输入特征图像进行归一化;
所述目标类型判断模块,用于构建深度神经网络模型,判断新出现目标类型,把归一化输入特征图像送入深度神经网络模型,依据模型的输出判断新出现目标类型,根据运动目标的图像信息获取训练样本,根据深度神经网络模型及训练样本数据,进行模型的训练学习,其中,深度神经网络模型的构建和训练是在系统正式判断新出现目标类型之前预先完成的;
所述目标运动场模块,用于在所述像素运动速度场图像内,选择所述候选运动目标所在的矩形作为已有目标区域运动速度场;
所述特征直方图获取模块,用于所述根据如下公式:
Figure FDA0002900354180000061
获取已有目标区域运动速度场的特征向量直方图,其中,H[i]表示特征向量直方图的第i维分量,β表示直方图角度范围;
所述已有目标运动量计算模块,用于根据所述目标特征向量直方图的最大特征分量所在维数计算所述已有目标的运动量;
所述新位置计算模块,用于根据如下公式:
Figure FDA0002900354180000062
计算所述已有目标的新位置,其中,rectnewx、rectnewy、rectneww、rectnewh分别表示已有目标新位置矩形的左上角x轴坐标、左上角y轴坐标、矩形宽度、矩形高度,rectpre表示上一帧目标位置所属区域矩形位置及边界坐标,mv为瞬时速度运动值,γ为顺势运动方向角均值。
6.根据权利要求5所述的系统,其特征在于,所述运动速度场模块,包括:像素选取模块、速度计算模块、速度分量计算模块、场图像获取模块;
所述像素选取模块,用于遍历所述场景图像中的像素,每隔n个像素选取一个像素;
所述速度场图像获取模块,用于根据矢量速度数据、角速度数据及速度分量数据,通过公式:
It(i,j)=f(x+i,y+j)-p(x+i,y+j)
得到像素运动速度场图像,f(x,y)为灰度值;
所述速度分量计算模块,用于根据公式:
Figure FDA0002900354180000063
计算所述像素在平面坐标系中沿各坐标轴的速度分量数据,其中,Ix(i,j)和Iy(i,j)为偏导数,vx(x,y)和vy(x,y)为沿坐标轴方向的速度分量;
所述速度计算模块,用于根据公式:
Figure FDA0002900354180000071
计算所述像素的矢量速度和角速度,其中,v(x,y)表示当前帧图像中像素(x,y)处的瞬时运动速度,即所述矢量速度,α(x,y)表示当前帧图像中像素(x,y)处的瞬时运动方向角,即所述角速度。
7.根据权利要求5或6所述的系统,其特征在于,所述候选目标获取模块,包括:候选区域获取模块、目标区域选取模块;
所述候选区域获取模块,用于根据所述像素运动速度场图像的像素运动速度场及八邻域连通区域标记算法,将邻域连通区域中具有相近运动速度和运动方向的像素聚集在一起形成候选运动目标区域;
所述目标区域选取模块,用于去除面积较小的所述运动目标区域,获取所述运动目标区域的最小外接矩形作为候选运动目标区域。
8.根据权利要求5所述的系统,其特征在于,所述行进状态判断模块,包括:异常判定模块、跌倒判断模块、未跌倒判定模块、跌倒判定预警模块;
异常判定模块,用于判断行人目标运动状态是否出现异常,主要是判断行人目标在一段时间内是否出现目标高度剧变和目标运动位置相对静止等异常根据目标跟踪列表信息,如果某一个运动目标的目标跟踪列表满足下述公式,则说明当前的运动目标是异常的运动目标:
Figure FDA0002900354180000072
其中,Hmaxtotal表示某个运动目标的目标跟踪列表中目标高度的最大值,HminT表示某个运动目标的目标跟踪列表中一段时间T内目标高度的最小值,Xmax、Xmin、Ymax、Ymin分别表示某个运动目标的目标跟踪列表中一段时间T内目标中心位置的左边界、右边界、上边界、下边界,Th表示某个运动目标的高度变化比例阈值,Tx表示某个运动目标的目标跟踪列表中一段时间T内目标在X轴方向上的位移阈值,Ty表示某个运动目标的目标跟踪列表中一段时间T内目标在Y轴方向上的位移阈值;
跌倒判断模块,用于检测判断预设时间间隔后行人的中心位置是否已经远离了出现异常时的中心位置,根据公式:
max{|xC-xM|,|yC-yM|}≤TM
判断所述行人目标的位置是否改变,其中,max{}表示选择两个元素中较大值,xC表示出现异常时的行人目标中心位置x轴坐标,yC表示出现异常时的行人目标中心位置y轴坐标,xM表示距离出现异常行人目标M秒后的行人目标中心位置x轴坐标,yM表示距离出现异常行人目标M秒后的行人目标中心位置y轴坐标,TM表示目标中心位置距离阈值;
未跌倒判定模块,用于在满足公式条件时,判定所述行人目标未跌倒;
跌倒判定模块,用于在不满足公式条件时,判定所述行人目标跌倒,发出警报信息。
CN201710513525.9A 2017-06-28 2017-06-28 一种基于深度学习的老人跌倒检测方法及系统 Active CN109145696B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710513525.9A CN109145696B (zh) 2017-06-28 2017-06-28 一种基于深度学习的老人跌倒检测方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710513525.9A CN109145696B (zh) 2017-06-28 2017-06-28 一种基于深度学习的老人跌倒检测方法及系统

Publications (2)

Publication Number Publication Date
CN109145696A CN109145696A (zh) 2019-01-04
CN109145696B true CN109145696B (zh) 2021-04-09

Family

ID=64803775

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710513525.9A Active CN109145696B (zh) 2017-06-28 2017-06-28 一种基于深度学习的老人跌倒检测方法及系统

Country Status (1)

Country Link
CN (1) CN109145696B (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111046803A (zh) * 2019-12-13 2020-04-21 电子科技大学 一种基于卷积神经网络的车辆检测及着地点定位方法
CN112541424A (zh) * 2020-12-07 2021-03-23 南京工程学院 复杂环境下行人跌倒的实时检测方法
CN113312981A (zh) * 2021-05-07 2021-08-27 联通(广东)产业互联网有限公司 机房鼠类图像识别方法、系统和存储介质
CN115273401A (zh) * 2022-08-03 2022-11-01 浙江慧享信息科技有限公司 一种自动感知人员跌倒的方法及系统
CN115035552B (zh) * 2022-08-11 2023-01-17 深圳市爱深盈通信息技术有限公司 跌倒检测方法、装置、设备终端和可读存储介质
CN117037272B (zh) * 2023-08-08 2024-03-19 深圳市震有智联科技有限公司 一种老人摔倒监测方法及系统

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104463191A (zh) * 2014-10-30 2015-03-25 华南理工大学 一种基于注意机制的机器人视觉处理方法
CN104484865A (zh) * 2014-12-31 2015-04-01 中国科学院深圳先进技术研究院 对视频图像进行去雨的方法
CN104954761A (zh) * 2015-07-07 2015-09-30 满欣然 一种智能安全看护方法
CN105373774A (zh) * 2015-10-10 2016-03-02 安徽清新互联信息科技有限公司 一种幼师体罚小孩行为的检测方法
CN106203274A (zh) * 2016-06-29 2016-12-07 长沙慧联智能科技有限公司 一种视频监控中行人实时检测系统及方法
CN106503632A (zh) * 2016-10-10 2017-03-15 南京理工大学 一种基于视频分析的自动扶梯智能安全监测方法
CN106571014A (zh) * 2016-10-24 2017-04-19 上海伟赛智能科技有限公司 一种在视频中识别异常动作的方法和系统

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10163000B2 (en) * 2015-01-14 2018-12-25 Samsung Electronics Co., Ltd. Method and apparatus for determining type of movement of object in video

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104463191A (zh) * 2014-10-30 2015-03-25 华南理工大学 一种基于注意机制的机器人视觉处理方法
CN104484865A (zh) * 2014-12-31 2015-04-01 中国科学院深圳先进技术研究院 对视频图像进行去雨的方法
CN104954761A (zh) * 2015-07-07 2015-09-30 满欣然 一种智能安全看护方法
CN105373774A (zh) * 2015-10-10 2016-03-02 安徽清新互联信息科技有限公司 一种幼师体罚小孩行为的检测方法
CN106203274A (zh) * 2016-06-29 2016-12-07 长沙慧联智能科技有限公司 一种视频监控中行人实时检测系统及方法
CN106503632A (zh) * 2016-10-10 2017-03-15 南京理工大学 一种基于视频分析的自动扶梯智能安全监测方法
CN106571014A (zh) * 2016-10-24 2017-04-19 上海伟赛智能科技有限公司 一种在视频中识别异常动作的方法和系统

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
一种基于时空兴趣点和光流法的行人检测方法;王明辉;《西华大学学报》;20140131;65-68页 *

Also Published As

Publication number Publication date
CN109145696A (zh) 2019-01-04

Similar Documents

Publication Publication Date Title
CN109145696B (zh) 一种基于深度学习的老人跌倒检测方法及系统
CN109670441B (zh) 一种实现安全帽穿戴识别的方法、系统、终端以及计算机可读存储介质
CN109919132B (zh) 一种基于骨架检测的行人跌倒识别方法
CN104217419B (zh) 人体检测装置及方法与人体计数装置及方法
CN106127148B (zh) 一种基于机器视觉的手扶电梯乘客异常行为检测方法
CN103279737B (zh) 一种基于时空兴趣点的打架行为检测方法
CN107657244B (zh) 一种基于多摄像机的人体跌倒行为检测系统及其检测方法
WO2017185688A1 (zh) 一种在线目标跟踪方法及装置
CN109344690B (zh) 一种基于深度相机的人数统计方法
CN103093198B (zh) 一种人群密度监测方法及装置
CN104954747B (zh) 视频监视方法和装置
CN103955699A (zh) 一种基于监控视频的实时摔倒事件检测方法
CN105512618B (zh) 视频跟踪方法
CN106210634A (zh) 一种智慧金睛识别人员倒地报警方法和装置
CN107463873B (zh) 一种基于rgbd深度传感器的实时手势分析与评价方法与系统
CN111753747A (zh) 基于单目摄像头和三维姿态估计的剧烈运动检测方法
CN104616006A (zh) 一种面向监控视频的胡须人脸检测方法
CN111144174A (zh) 利用神经网络与传统算法识别视频中老人跌倒行为的系统
CN112597898B (zh) 基于实时计步的电力人员安全状态智能识别方法及介质
CN112597903B (zh) 基于步幅测量的电力人员安全状态智能识别方法及介质
CN104392201A (zh) 一种基于全向视觉的人体跌倒识别方法
CN114639168B (zh) 一种用于跑步姿态识别的方法和系统
CN111144260A (zh) 一种翻越闸机的检测方法、装置及系统
CN103093481A (zh) 一种基于分水岭分割的静态背景下运动目标检测方法
CN104000598B (zh) 一种基于最大内切圆的猪呼吸急促运动建模方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant