CN115272973A - 识别睡觉行为的方法、装置、存储介质及处理器 - Google Patents

识别睡觉行为的方法、装置、存储介质及处理器 Download PDF

Info

Publication number
CN115272973A
CN115272973A CN202210923187.7A CN202210923187A CN115272973A CN 115272973 A CN115272973 A CN 115272973A CN 202210923187 A CN202210923187 A CN 202210923187A CN 115272973 A CN115272973 A CN 115272973A
Authority
CN
China
Prior art keywords
target
target user
determining
data
sleeping
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202210923187.7A
Other languages
English (en)
Other versions
CN115272973B (zh
Inventor
马进
刘志俣
余智君
罗洲杰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Yuchuang Intelligent Technology Co ltd
Original Assignee
Shanghai Yuchuang Intelligent Technology Co ltd Chengdu Branch
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Yuchuang Intelligent Technology Co ltd Chengdu Branch filed Critical Shanghai Yuchuang Intelligent Technology Co ltd Chengdu Branch
Priority to CN202210923187.7A priority Critical patent/CN115272973B/zh
Publication of CN115272973A publication Critical patent/CN115272973A/zh
Application granted granted Critical
Publication of CN115272973B publication Critical patent/CN115272973B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/251Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30232Surveillance

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

本申请实施例提供识别睡觉行为的方法、装置、处理器及存储介质。方法包括:获取预设时间段内的监控数据,监控数据中包括至少一个目标用户,对监控数据进行处理,以得到监控数据中的多个监控图像,依次将多个监控图像输入至目标检测模型,以通过目标检测模型确定监控图像中包括的每个目标用户所对应的目标区域;依次将每个目标区域输入至目标跟踪模型,以通过所述目标跟踪模型绑定每个目标用户的唯一用户标识;依次将每个监控图像的目标区域输入至关键点检测模型,以通过关键点检测模型确定目标区域中每个目标用户的关键部位的坐标,针对每个目标用户,确定目标用户的关键部位在全部目标区域中的坐标变化数据,针对任意一个目标用户,在目标用户的坐标变化数据满足预设条件的情况下,确定目标用户存在睡觉行为。

Description

识别睡觉行为的方法、装置、存储介质及处理器
技术领域
本申请涉及计算机技术领域,具体地涉及一种识别睡觉行为的方法、装置、存储介质及处理器。
背景技术
识别睡觉行为的方法在生活中应非常广泛。如,在船舶航行中确保值班工作人员不睡觉、识别驾驶车辆中的司机是否睡觉等,在船舶航行过程中,若工作人员在值班时间睡觉一旦前方出现障碍物,往往造成群死群伤、重大财产损失等严重后果。因此如果能有效识别睡觉行为,可以极大减少安全事故的发生。
现有技术中,识别睡觉行为的方法是基于传统机器学习的方法,于传统机器学习的方法需要人工提取特征来训练分类器,该方法特征难于提取,无法训练大量数据,并且识别效果较差。
发明内容
本申请实施例的目的是提供一种识别睡觉行为的方法、装置、存储介质及处理器。
为了实现上述目的,本申请第一方面提供一种识别睡觉行为的方法,包括:
获取预设时间段内的监控数据,监控数据中包括至少一个目标用户;
对监控数据进行处理,以得到监控数据中的多个监控图像;
依次将多个监控图像输入至目标检测模型,以通过目标检测模型确定监控图像中包括的每个目标用户所对应的目标区域;
依次将每个目标区域输入至目标跟踪模型,以通过目标跟踪模型绑定每个目标用户的唯一用户标识;
依次将每个监控图像的目标区域输入至关键点检测模型,以通过关键点检测模型确定目标区域中每个目标用户的关键部位的坐标;
针对每个目标用户,确定目标用户的关键部位在全部目标区域中的坐标变化数据;
针对任意一个目标用户,在目标用户的坐标变化数据满足预设条件的情况下,确定目标用户存在睡觉行为。
在本申请的实施例中,关键部位包括用户的多个身体部位,关键部位的坐标包括每个身体部位的横坐标和纵坐标,针对任意一个目标用户,在目标用户的坐标变化数据满足预设条件的情况下,确定目标用户存在睡觉行为包括:针对任意两个相邻的监控图像中的目标区域,确定每个身体部位在两个区域中横坐标的第一移动数据和纵坐标的第二移动数据,在全部的第一移动数据均小于第一数值,且全部的第二移动数据均小于第二数值的情况下,确定目标用户存在睡觉行为,其中,第一数值是根据目标区域的宽度确定的,第二数值是根据目标区域的高度确定的。
在本申请的实施例中,关键部位包括用户的多个身体部位,关键部位的坐标包括每个身体部位的横坐标和纵坐标,针对任意一个目标用户,在目标用户的坐标变化数据满足预设条件的情况下,确定目标用户存在睡觉行为包括:将多个监控图像按照时间顺序划分为多个图像组,其中,每个图像组包括两个时间差为预设时间差值的监控图像,针对每个图像组包括的监控图像中人任意一个目标用户的目标区域,确定目标用户的每个身体部位在两个目标区域中横坐标的第一移动数据和纵坐标的第二移动数据,在每个身体部位的第一移动数据小于与身体部位对应的第一阈值,且每个身体部位的第二移动数据小于与身体部位对应的第二阈值的情况下,确定目标用户存在睡觉行为,其中,每个身体部位对应的第一阈值是根据目标区域的宽度以及每个身体部位的权重系数确定的,每个身体部位对应的第二阈值是根据目标区域的高度以及每个身体部位的权重系数确定的。
在本申请的实施例中,检测连续的N个图像组,针对任意一个图像组中的任意一个目标用户,在目标用户的每个身体部位的第一移动数据小于与身体部位对应的第一阈值,且每个身体部位的第二移动数据小于与身体部位对应的第二阈值的情况下,预测图像组中的目标用户存在睡觉倾向,针对任意一个目标用户,在目标用户存在睡觉倾向的图像组的数量与N的比例大于预设比例值的情况下,确定目标用户存在睡觉行为。
在本申请的实施例中,身体部位包括鼻子k1,左眼k2,右眼k3,左耳k4、右耳k5,脖颈k6,左肩k7,右肩k8,左肘k9,右肘k10,左腕k11,右腕k12,左臀k13,右臀k14,左膝k15,右膝k16,左脚踝k17以及右脚踝k18,方法还包括:确定目标用户存在睡觉行为的情况下,确定左膝k15和左臀k13的连线与左膝k15和左肩k7的连线之间的夹角a_kl,确定右膝k16和右臀k14的连线与右膝k16和右肩k8的连线之间的夹角a_kr确定脖颈k6和鼻子k1的连线与脖颈k6和臀中心点的连线之间的夹角a_n,其中,臀中心点是指左臀k13和右臀k14连线的中心点,确定左肩k7和左肘k9的连线与左肩k7和左臀k13的连线之间的夹角a_sl,确定右肩k8和右肘k10的连线与右肩k8和右臀k14的连线之间的夹角a_sr,在夹角a_kl或夹角a_kr大于第一角度阈值的情况下,确定目标用户处于站姿睡觉的状态,在夹角a_kl或夹角a_kr小于第一角度阈值的情况下,确定目标用户处于坐姿睡觉的状态,在夹角a_n小于第二角度阈值,且夹角a_sl或夹角a_sr大于第三角度阈值的情况下,确定目标用户处于趴姿睡觉的状态。
在本申请的实施例中,在确定目标用户存在睡觉行为之后,截取目标用户的坐标变化数据满足预设条件的目标区域所在的视频片段,根据目标用户的标识对应保存视频片段。
在本申请的实施例中,获取多个历史视频数据,将多个历史视频数据按照固定帧率间隔获取图像,以得到多个特定格式的历史图像,使用labelImg图像标注工具完成每个历史图像中的人体标注,得到人体标注数据,使用labelMe图像标注工具完成每个历史图像中的人体关键部位标注,以得到人体关键部位标注数据,基于人体标注数据和Faster-RCNN预训练模型,对目标检测模型进行训练,以得到训练好的目标检测模型,基于人体关键部位标注数据和AlphaPose预训练模型,对关键点检测模型进行训练,以得到训练好的关键点检测模型。
本申请第二方面提供一种处理器,被配置成执行上述的识别睡觉行为的方法。
本申请第三方面提供一种识别睡觉行为的装置,装置包括识别睡觉行为的方法处理器。
本申请第四方面提供一种机器可读存储介质,该机器可读存储介质上存储有指令,该指令在被处理器执行时使得所述处理器被配置成执行上述的识别睡觉行为的方法。
上述识别睡觉行为的方法,获取预设时间段内的监控数据,监控数据中包括至少一个目标用户,对监控数据进行处理,以得到监控数据中的多个监控图像,依次将多个监控图像输入至目标检测模型,以通过目标检测模型确定监控图像中包括的每个目标用户所对应的目标区域,依次将每个目标区域输入至目标跟踪模型,以通过目标跟踪模型绑定每个目标用户的唯一用户标识,依次将每个监控图像的目标区域输入至关键点检测模型,以通过关键点检测模型确定目标区域中每个目标用户的关键部位的坐标,针对每个目标用户,确定目标用户的关键部位在全部目标区域中的坐标变化数据,针对任意一个目标用户,在目标用户的坐标变化数据满足预设条件的情况下,确定目标用户存在睡觉行为。
通过该方法,提高了识别睡觉行为的准确率,减少了意外事故的发生,保护了人民生命财产安全。
本申请实施例的其它特征和优点将在随后的具体实施方式部分予以详细说明。
附图说明
附图是用来提供对本申请实施例的进一步理解,并且构成说明书的一部分,与下面的具体实施方式一起用于解释本申请实施例,但并不构成对本申请实施例的限制。在附图中:
图1示意性示出了根据本申请实施例的识别睡觉行为的方法的流程示意图;
图2示意性示出了根据本申请实施例的人体关键部位的示例图;
图3示意性示出了根据本申请另一实施例的识别睡觉行为的方法的流程示意图;
图4示意性示出了根据本申请实施例的计算机设备的内部结构图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,应当理解的是,此处所描述的具体实施方式仅用于说明和解释本申请实施例,并不用于限制本申请实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本申请保护的范围。
图1示意性示出了根据本申请实施例的识别睡觉行为的方法的流程示意图。如图1所示,在本申请一实施例中,提供了一种识别睡觉行为的方法,包括以下步骤:
步骤101,获取预设时间段内的监控数据,监控数据中包括至少一个目标用户。
步骤102,对监控数据进行处理,以得到监控数据中的多个监控图像。
步骤103,依次将多个监控图像输入至目标检测模型,以通过目标检测模型确定监控图像中包括的每个目标用户所对应的目标区域。
步骤104,依次将每个目标区域输入至目标跟踪模型,以通过目标跟踪模型绑定每个目标用户的唯一用户标识。
步骤105,依次将每个监控图像的目标区域输入至关键点检测模型,以通过关键点检测模型确定目标区域中每个目标用户的关键部位的坐标。
步骤106,针对每个目标用户,确定目标用户的关键部位在全部目标区域中的坐标变化数据。
步骤107,针对任意一个目标用户,在目标用户的坐标变化数据满足预设条件的情况下,确定目标用户存在睡觉行为。
通过摄像头获取预设时间段内的监控数据,监控数据包括一个或多个目标用户,监控数据还包括目标用户和目标用户的视频数据,将获取到的视频数据按照固定帧率间隔获取监控数据中的多个监控图像,帧率可以自己设定,图像的格式为JPG格式。依次将多个监控图像输入至目标检测模型,以通过目标检测模型确定监控图像中包括的每个目标用户所对应的目标区域。其中目标检测模型是通过将获取到的监控图像使用labelImg图像标注工具完成人体标注,获取到人体标注数据,基于获取的人体标注数据和Faster-RCNN预训练模型,对目标检测模型进行训练,用测试集对目标检测模型进行有效验证,当满足目标检测模型的准确率、召回率、精确率都大于设置阈值时,得到训练好的目标检测模型。基于目标检测模型检测出监控图像中目标用户人体的目标区域坐标(x1,y1,x2,y2)为目标区域,并根据该坐标计算出人体目标区域的高度hp=y2-y1和宽度wp=x2-x1,依次将每个目标区域输入至目标跟踪模型,以通过目标跟踪模型绑定每个目标用户的唯一用户标识id,将人体目标区域和目标用户进行绑定确定每个目标用户所对应的目标区域(id,hp,wp)。再依次将每个监控图像的目标区域输入至关键点检测模型,以通过关键点检测模型确定目标区域中每个目标用户的关键部位的坐标。其中关键点检测模型是通过将获取到的监控图像使用labelMe图像标注工具完成人体关键点标注,获取到人体关键点标注数据,基于获取的人体关键点标注数据和AlphaPose预训练模型,对关键点检测模型进行训练,用测试集对关键点检测模型进行有效验证,当满足关键点检测模型的准确率、召回率、精确率都大于设置阈值时,得到训练好的关键点检测模型。基于关键点检测模型检测出监控图像目标区域中每个目标用户的关键部位的坐标,如图2所示,图2为人体关键点示例图,人体关键点标注包括对人体鼻子k1,左眼k2,右眼k3,左耳k4、右耳k5,脖颈k6,左肩k7,右肩k8,左肘k9,右肘k10,左腕k11,右腕k12,左臀k13,右臀k14,左膝k15,右膝k16,左脚踝k17以及右脚踝k18,通过关键点检测模型得到18个关键点的具体坐标依次为(k1,k2……k18),并得到每个目标用户的关键部位的坐标(id,hp,wp,k1…k18)。
针对每个目标用户,确定两个相邻的监控图像中目标用户的关键部位在全部目标区域中的坐标变化数据。确定每个身体部位在两个区域中横坐标的第一移动数据为
Figure BDA0003778497150000071
其中
Figure BDA0003778497150000072
为前帧关键点坐标中的x坐标,
Figure BDA0003778497150000073
为后帧关键点坐标中的x坐标,确定每个身体部位在两个区域中纵坐标的第二移动数据为
Figure BDA0003778497150000074
其中
Figure BDA0003778497150000075
为前帧关键点坐标中的y坐标,
Figure BDA0003778497150000076
为后帧关键点坐标中的y坐标,两个区域中横坐标的第一移动距离为|dx|,两个区域中纵坐标的第二移动距离为|dy|,设置横坐标x最大移动阈值为t_wx=wp×0.01,纵坐标y最大移动阈值为t_wy=hp×0.01,在全部的第一移动数据均小于第一数值,即所有关键点横坐标的第一移动距离|dx|<t_wx,且全部的第二移动数据均小于第二数值,即所有的关键点纵坐标的第二移动距离|dy|<t_wy时,确定目标用户存在睡觉行为。通过该方法,提高了识别睡觉行为的准确率,减少了意外事故的发生,保护了人民生命财产安全。
在一个实施例中,关键部位包括用户的多个身体部位,关键部位的坐标包括每个身体部位的横坐标和纵坐标,针对任意一个目标用户,在目标用户的坐标变化数据满足预设条件的情况下,确定目标用户存在睡觉行为包括:针对任意两个相邻的监控图像中的目标区域,确定每个身体部位在两个区域中横坐标的第一移动数据和纵坐标的第二移动数据,在全部的第一移动数据均小于第一数值,且全部的第二移动数据均小于第二数值的情况下,确定目标用户存在睡觉行为,其中,第一数值是根据目标区域的宽度确定的,第二数值是根据目标区域的高度确定的。
基于目标检测模型检测出监控图像中目标用户人体的目标区域坐标(x1,y1,x2,y2),并根据该坐标计算出人体目标区域的高度hp=y2-y1和宽度wp=x2-x1,依次将每个目标区域输入至目标跟踪模型,以通过目标跟踪模型绑定每个目标用户的唯一用户标识id,将人体目标区域和目标用户进行绑定确定每个目标用户所对应的目标区域(id,hp,wp)。基于关键点检测模型检测出监控图像目标区域中每个目标用户的关键部位的坐标,如图2所示,图2为人体关键点示例图,人体关键点标注包括对人体鼻子k1,左眼k2,右眼k3,左耳k4、右耳k5,脖颈k6,左肩k7,右肩k8,左肘k9,右肘k10,左腕k11,右腕k12,左臀k13,右臀k14,左膝k15,右膝k16,左脚踝k17以及右脚踝k18,通过关键点检测模型得到所有关键点的具体坐标依次为(k1,k2……k18)。针对每个目标用户,确定两个相邻的监控图像中目标用户的关键部位在全部目标区域中的坐标变化数据。确定每个身体部位在两个区域中横坐标的第一移动数据为
Figure BDA0003778497150000091
其中
Figure BDA0003778497150000092
为前帧关键点坐标中的x坐标,
Figure BDA0003778497150000093
为后帧关键点坐标中的x坐标,确定每个身体部位在两个区域中纵坐标的第二移动数据为
Figure BDA0003778497150000094
其中
Figure BDA0003778497150000095
为前帧关键点坐标中的y坐标,
Figure BDA0003778497150000096
为后帧关键点坐标中的y坐标,两个区域中横坐标的第一移动距离为|dx|,两个区域中纵坐标的第二移动距离为|dy|,设置横坐标x最大移动阈值为t_wx=wp×0.01,纵坐标y最大移动阈值为t_wy=hp×0.01,在全部的第一移动数据均小于第一数值,即所有关键点横坐标的第一移动距离|dx|<t_wx,且全部的第二移动数据均小于第二数值,即所有的关键点纵坐标的第二移动距离|dy|<t_wy时,确定目标用户存在睡觉行为。
在本申请的实施例中,关键部位包括用户的多个身体部位,关键部位的坐标包括每个身体部位的横坐标和纵坐标,针对任意一个目标用户,在目标用户的坐标变化数据满足预设条件的情况下,确定目标用户存在睡觉行为包括:将多个监控图像按照时间顺序划分为多个图像组,其中,每个图像组包括两个时间差为预设时间差值的监控图像,针对每个图像组包括的监控图像中人任意一个目标用户的目标区域,确定目标用户的每个身体部位在两个目标区域中横坐标的第一移动数据和纵坐标的第二移动数据,在每个身体部位的第一移动数据小于与身体部位对应的第一阈值,且每个身体部位的第二移动数据小于与身体部位对应的第二阈值的情况下,确定目标用户存在睡觉行为,其中,每个身体部位对应的第一阈值是根据目标区域的宽度以及每个身体部位的权重系数确定的,每个身体部位对应的第二阈值是根据目标区域的高度以及每个身体部位的权重系数确定的。
将多个监控图像按照时间顺序划分为多个图像组,其中,每个图像组包括两个时间差为预设时间差值的监控图像,如,预设时间差值为10到20秒,每秒的帧率为5,则每组图像的个数n的取值范围为50≤n≤100,基于目标检测模型检测出监控图像中目标用户人体的目标区域坐标(x1,y1,x2,y2),并根据该坐标计算出人体目标区域的高度hp=y2-y1和宽度wp=x2-x1,依次将每个目标区域输入至目标跟踪模型,以通过目标跟踪模型绑定每个目标用户的唯一用户标识id,将人体目标区域和目标用户进行绑定确定每个目标用户所对应的目标区域(id,hp,wp)。基于关键点检测模型检测出监控图像目标区域中每个目标用户的关键部位的坐标,如图2所示,图2为人体关键点示例图,人体关键点标注包括对人体鼻子k1,左眼k2,右眼k3,左耳k4、右耳k5,脖颈k6,左肩k7,右肩k8,左肘k9,右肘k10,左腕k11,右腕k12,左臀k13,右臀k14,左膝k15,右膝k16,左脚踝k17以及右脚踝k18,通过关键点检测模型得到所有关键点的具体坐标依次为(k1,k2……k18),并设置人体关键点的权值w分别为wk1=wk2=wk3=wk4=wk5=wk6=wk7=wk13=wk14=1,wk9=wk10=wk11=wk12=3,wk15=wk16=wk17=wk18=2。针对每个目标用户,确定两个相邻的监控图像中目标用户的关键部位在全部目标区域中的坐标变化数据。确定每个身体部位在两个区域中横坐标的第一移动数据为
Figure BDA0003778497150000101
其中
Figure BDA0003778497150000102
为前帧关键点坐标中的x坐标,
Figure BDA0003778497150000103
为后帧关键点坐标中的x坐标,确定每个身体部位在两个区域中纵坐标的第二移动数据为
Figure BDA0003778497150000104
其中
Figure BDA0003778497150000105
为前帧关键点坐标中的y坐标,
Figure BDA0003778497150000106
为后帧关键点坐标中的y坐标,两个区域中横坐标的第一移动距离为|dx|,两个区域中纵坐标的第二移动距离为|dy|,设置横坐标x最大移动阈值为t-wx=wp×0.01,纵坐标y最大移动阈值为t_wy=hp×0.01,当人体关键点都满足
Figure BDA0003778497150000107
并且
Figure BDA0003778497150000108
时确定目标用户存在睡觉行为。
在一个实施例中,检测连续的N个图像组,针对任意一个图像组中的任意一个目标用户,在目标用户的每个身体部位的第一移动数据小于与身体部位对应的第一阈值,且每个身体部位的第二移动数据小于与身体部位对应的第二阈值的情况下,预测图像组中的目标用户存在睡觉倾向,针对任意一个目标用户,在目标用户存在睡觉倾向的图像组的数量与N的比例大于预设比例值的情况下,确定目标用户存在睡觉行为。
将多个监控图像按照时间顺序划分为多个图像组,其中,每个图像组包括两个时间差为预设时间差值的监控图像,如,预设时间差值为10到20秒,每秒的帧率为5,则每组图像的个数n的取值范围为50≤n≤100,基于目标检测模型检测出监控图像中目标用户人体的目标区域坐标(x1,y1,x2,y2),并根据该坐标计算出人体目标区域的高度hp=y2-y1和宽度wp=x2-x1,依次将每个目标区域输入至目标跟踪模型,以通过目标跟踪模型绑定每个目标用户的唯一用户标识id,将人体目标区域和目标用户进行绑定确定每个目标用户所对应的目标区域(id,hp,wp)。基于关键点检测模型检测出监控图像目标区域中每个目标用户的关键部位的坐标,如图2所示,图2为人体关键点示例图,人体关键点标注包括对人体鼻子k1,左眼k2,右眼k3,左耳k4、右耳k5,脖颈k6,左肩k7,右肩k8,左肘k9,右肘k10,左腕k11,右腕k12,左臀k13,右臀k14,左膝k15,右膝k16,左脚踝k17以及右脚踝k18,通过关键点检测模型得到所有关键点的具体坐标依次为(k1,k2……k18),并设置人体关键点的权值w分别为wk1=wk2=wk3=wk4=wk5=wk6=wk7=wk13=wk14=1,wk9=wk10=wk11=wk12=3,wk15=wk16=wk17=wk18=2。针对每个目标用户,确定两个相邻的监控图像中目标用户的关键部位在全部目标区域中的坐标变化数据。确定每个身体部位在两个区域中横坐标的第一移动数据为
Figure BDA0003778497150000111
其中
Figure BDA0003778497150000112
为前帧关键点坐标中的x坐标,
Figure BDA0003778497150000113
为后帧关键点坐标中的x坐标,确定每个身体部位在两个区域中纵坐标的第二移动数据为
Figure BDA0003778497150000121
其中
Figure BDA0003778497150000122
为前帧关键点坐标中的y坐标,
Figure BDA0003778497150000123
为后帧关键点坐标中的y坐标,两个区域中横坐标的第一移动距离为|dx|,两个区域中纵坐标的第二移动距离为|dy|,设置横坐标x最大移动阈值为t_wx=wp×0.01,纵坐标y最大移动阈值为t_wy=hp×0.01,当人体关键点都满足
Figure BDA0003778497150000124
并且
Figure BDA0003778497150000125
时确定目标用户存在这个预测图像组中的存在睡觉倾向,连续检测多个图像组,在目标用户存在睡觉倾向的图像组的数量与N的比例大于预设比例值的情况下,确定目标用户存在睡觉行为。
在一个实施例中,身体部位包括鼻子k1,左眼k2,右眼k3,左耳k4、右耳k5,脖颈k6,左肩k7,右肩k8,左肘k9,右肘k10,左腕k11,右腕k12,左臀k13,右臀k14,左膝k15,右膝k16,左脚踝k17以及右脚踝k18,方法还包括:确定目标用户存在睡觉行为的情况下,确定左膝k15和左臀k13的连线与左膝k15和左肩k7的连线之间的夹角a_kl,确定右膝k16和右臀k14的连线与右膝k16和右肩k8的连线之间的夹角a_kr确定脖颈k6和鼻子k1的连线与脖颈k6和臀中心点的连线之间的夹角a_n,其中,臀中心点是指左臀k13和右臀k14连线的中心点,确定左肩k7和左肘k9的连线与左肩k7和左臀k13的连线之间的夹角a_sl,确定右肩k8和右肘k10的连线与右肩k8和右臀k14的连线之间的夹角a_sr,在夹角a_kl或夹角a_kr大于第一角度阈值的情况下,确定目标用户处于站姿睡觉的状态,在夹角a_kl或夹角a_kr小于第一角度阈值的情况下,确定目标用户处于坐姿睡觉的状态,在夹角a_n小于第二角度阈值,且夹角a_sl或夹角a_sr大于第三角度阈值的情况下,确定目标用户处于趴姿睡觉的状态。
设置第一角度阈值为120度,第二角度阈值为150度,第一角度阈值为60度,身体部位包括鼻子k1,左眼k2,右眼k3,左耳k4、右耳k5,脖颈k6,左肩k7,右肩k8,左肘k9,右肘k10,左腕k11,右腕k12,左臀k13,右臀k14,左膝k15,右膝k16,左脚踝k17以及右脚踝k18,方法还包括:确定目标用户存在睡觉行为的情况下,确定左膝k15和左臀k13的连线与左膝k15和左肩k7的连线之间的夹角a_kl,确定右膝k16和右臀k14的连线与右膝k16和右肩k8的连线之间的夹角a_kr确定脖颈k6和鼻子k1的连线与脖颈k6和臀中心点的连线之间的夹角a_n,其中,臀中心点是指左臀k13和右臀k14连线的中心点,确定左肩k7和左肘k9的连线与左肩k7和左臀k13的连线之间的夹角a_sl,确定右肩k8和右肘k10的连线与右肩k8和右臀k14的连线之间的夹角a_sr,在夹角a_kl或夹角a_kr大于120度的情况下,确定目标用户处于站姿睡觉的状态,在夹角a_kl或夹角a_kr小于第一角度阈值的情况下,确定目标用户处于坐姿睡觉的状态,在夹角a_n小于150度,且夹角a_sl或夹角a_sr大于60度的情况下,确定目标用户处于趴姿睡觉的状态。
在一个实施例中,在确定目标用户存在睡觉行为之后,截取目标用户的坐标变化数据满足预设条件的目标区域所在的视频片段,根据目标用户的标识对应保存视频片段。
基于目标检测模型检测出监控图像中目标用户人体的目标区域。依次将每个目标区域输入至目标跟踪模型,以通过目标跟踪模型绑定每个目标用户的唯一用户标识id,基于关键点检测模型检测出监控图像目标区域中每个目标用户的关键部位的坐标,当检测到目标用户的坐标变化数据满足预设条件的情况下确定用户存在睡觉行为,截取目标用户的坐标变化数据满足预设条件的目标区域所在的视频片段,根据目标用户的标识对应保存视频片段。如图3所示,图3为识别睡觉行为的方法的流程示意图,首先通过通过摄像头获取预设时间段内的监控数据,对获取的数据进行处理和标注,得到多个监控图像和人体标注数据,基于Faster-RCNN的目标检测模型进行检测,检测出监控图像中目标用户人体的目标区域坐标,基于ByteTrack目标跟踪模型进行目标用户人体目标区域跟踪,并绑定唯一身份标识id,基于AlphaPose关键点检测模型进行检测,检测出人体各个关键点的坐标。确定两个相邻的监控图像中目标用户的关键部位在全部目标区域中的坐标变化数据,根据关键部位在全部目标区域中的坐标变化数据判断用户是否存在睡觉行为以及睡觉姿势,并截取目标用户的坐标变化数据满足预设条件的目标区域所在的视频片段,根据目标用户的标识对应保存视频片段。
在一个实施例中,获取多个历史视频数据,将多个历史视频数据按照固定帧率间隔获取图像,以得到多个特定格式的历史图像,使用labelImg图像标注工具完成每个历史图像中的人体标注,得到人体标注数据,使用labelMe图像标注工具完成每个历史图像中的人体关键部位标注,以得到人体关键部位标注数据,基于人体标注数据和Faster-RCNN预训练模型,对目标检测模型进行训练,以得到训练好的目标检测模型,基于人体关键部位标注数据和AlphaPose预训练模型,对关键点检测模型进行训练,以得到训练好的关键点检测模型。
获取多个历史视频数据,将多个历史视频数据按照固定帧率间隔获取图像,以得到多个特定格式的历史图像,依次将多个图像输入至目标检测模型,以通过目标检测模型确定监控图像中包括的每个目标用户所对应的目标区域。其中目标检测模型是通过将获取到的监控图像使用labelImg图像标注工具完成人体标注,获取到人体标注数据,基于获取的人体标注数据和Faster-RCNN预训练模型,对目标检测模型进行训练,用测试集对目标检测模型进行有效验证,当满足目标检测模型的准确率、召回率、精确率都大于设置阈值时,得到训练好的目标检测模型。基于获取的人体关键点标注数据和AlphaPose预训练模型,对关键点检测模型进行训练,用测试集对关键点检测模型进行有效验证,当满足关键点检测模型的准确率、召回率、精确率都大于设置阈值时,得到训练好的关键点检测模型。
上述识别睡觉行为的方法,获取预设时间段内的监控数据,监控数据中包括至少一个目标用户,对监控数据进行处理,以得到监控数据中的多个监控图像,依次将多个监控图像输入至目标检测模型,以通过目标检测模型确定监控图像中包括的每个目标用户所对应的目标区域,依次将每个目标区域输入至目标跟踪模型,以通过目标跟踪模型绑定每个目标用户的唯一用户标识,依次将每个监控图像的目标区域输入至关键点检测模型,以通过关键点检测模型确定目标区域中每个目标用户的关键部位的坐标,针对每个目标用户,确定目标用户的关键部位在全部目标区域中的坐标变化数据,针对任意一个目标用户,在目标用户的坐标变化数据满足预设条件的情况下,确定目标用户存在睡觉行为。
通过该方法,提高了识别睡觉行为的准确率,减少了意外事故的发生,保护了人民生命财产安全。
本申请实施例提供了一种处理器,被配置成执行上述的识别睡觉行为的方法。
本本申请实施例提供了一种识别睡觉行为的装置,装置包括上述的处理器,该处理器被配置成执行上述任意一种识别睡觉行为的方法。
本申请实施例提供了一种存储介质,该机器可读存储介质上存储有指令,该指令在被处理器执行时使得所述处理器被配置成执行上述的识别睡觉行为的方法。
在一个实施例中,提供了一种计算机设备,该计算机设备可以是终端,其内部结构图可以如图4所示。该计算机设备包括通过系统总线连接的处理器A01、网络接口A02、显示屏A04、输入装置A05和存储器(图中未示出)。其中,该计算机设备的处理器A01用于提供计算和控制能力。该计算机设备的存储器包括内存储器A03和非易失性存储介质A06。该非易失性存储介质A06存储有操作系统B01和计算机程序B02。该内存储器A03为非易失性存储介质A06中的操作系统B01和计算机程序B02的运行提供环境。该计算机设备的网络接口A02用于与外部的终端通过网络连接通信。该计算机程序被处理器A01执行时以实现一种识别睡觉行为的方法。该计算机设备的显示屏A04可以是液晶显示屏或者电子墨水显示屏,该计算机设备的输入装置A05可以是显示屏上覆盖的触摸层,也可以是计算机设备外壳上设置的按键、轨迹球或触控板,还可以是外接的键盘、触控板或鼠标等。
本领域技术人员可以理解,图4中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
本申请实施例提供了一种设备,设备包括处理器、存储器及存储在存储器上并可在处理器上运行的程序,处理器执行程序时实现以下步骤:
获取预设时间段内的监控数据,监控数据中包括至少一个目标用户,对监控数据进行处理,以得到监控数据中的多个监控图像,依次将多个监控图像输入至目标检测模型,以通过目标检测模型确定监控图像中包括的每个目标用户所对应的目标区域,依次将每个目标区域输入至目标跟踪模型,以通过目标跟踪模型绑定每个目标用户的唯一用户标识,依次将每个监控图像的目标区域输入至关键点检测模型,以通过关键点检测模型确定目标区域中每个目标用户的关键部位的坐标,针对每个目标用户,确定目标用户的关键部位在全部目标区域中的坐标变化数据,针对任意一个目标用户,在目标用户的坐标变化数据满足预设条件的情况下,确定目标用户存在睡觉行为。
通过该方法,提高了识别睡觉行为的准确率,减少了意外事故的发生,保护了人民生命财产安全。
在一个实施例中,关键部位包括用户的多个身体部位,关键部位的坐标包括每个身体部位的横坐标和纵坐标,针对任意一个目标用户,在目标用户的坐标变化数据满足预设条件的情况下,确定目标用户存在睡觉行为包括:针对任意两个相邻的监控图像中的目标区域,确定每个身体部位在两个区域中横坐标的第一移动数据和纵坐标的第二移动数据,在全部的第一移动数据均小于第一数值,且全部的第二移动数据均小于第二数值的情况下,确定目标用户存在睡觉行为,其中,第一数值是根据目标区域的宽度确定的,第二数值是根据目标区域的高度确定的。
在本申请的实施例中,关键部位包括用户的多个身体部位,关键部位的坐标包括每个身体部位的横坐标和纵坐标,针对任意一个目标用户,在目标用户的坐标变化数据满足预设条件的情况下,确定目标用户存在睡觉行为包括:将多个监控图像按照时间顺序划分为多个图像组,其中,每个图像组包括两个时间差为预设时间差值的监控图像,针对每个图像组包括的监控图像中人任意一个目标用户的目标区域,确定目标用户的每个身体部位在两个目标区域中横坐标的第一移动数据和纵坐标的第二移动数据,在每个身体部位的第一移动数据小于与身体部位对应的第一阈值,且每个身体部位的第二移动数据小于与身体部位对应的第二阈值的情况下,确定目标用户存在睡觉行为,其中,每个身体部位对应的第一阈值是根据目标区域的宽度以及每个身体部位的权重系数确定的,每个身体部位对应的第二阈值是根据目标区域的高度以及每个身体部位的权重系数确定的。
在一个实施例中,检测连续的N个图像组,针对任意一个图像组中的任意一个目标用户,在目标用户的每个身体部位的第一移动数据小于与身体部位对应的第一阈值,且每个身体部位的第二移动数据小于与身体部位对应的第二阈值的情况下,预测图像组中的目标用户存在睡觉倾向,针对任意一个目标用户,在目标用户存在睡觉倾向的图像组的数量与N的比例大于预设比例值的情况下,确定目标用户存在睡觉行为。
在一个实施例中,身体部位包括鼻子k1,左眼k2,右眼k3,左耳k4、右耳k5,脖颈k6,左肩k7,右肩k8,左肘k9,右肘k10,左腕k11,右腕k12,左臀k13,右臀k14,左膝k15,右膝k16,左脚踝k17以及右脚踝k18,方法还包括:确定目标用户存在睡觉行为的情况下,确定左膝k15和左臀k13的连线与左膝k15和左肩k7的连线之间的夹角a_kl,确定右膝k16和右臀k14的连线与右膝k16和右肩k8的连线之间的夹角a_kr确定脖颈k6和鼻子k1的连线与脖颈k6和臀中心点的连线之间的夹角a_n,其中,臀中心点是指左臀k13和右臀k14连线的中心点,确定左肩k7和左肘k9的连线与左肩k7和左臀k13的连线之间的夹角a_sl,确定右肩k8和右肘k10的连线与右肩k8和右臀k14的连线之间的夹角a_sr,在夹角a_kl或夹角a_kr大于第一角度阈值的情况下,确定目标用户处于站姿睡觉的状态,在夹角a_kl或夹角a_kr小于第一角度阈值的情况下,确定目标用户处于坐姿睡觉的状态,在夹角a_n小于第二角度阈值,且夹角a_sl或夹角a_sr大于第三角度阈值的情况下,确定目标用户处于趴姿睡觉的状态。
在一个实施例中,在确定目标用户存在睡觉行为之后,截取目标用户的坐标变化数据满足预设条件的目标区域所在的视频片段,根据目标用户的标识对应保存视频片段。
在一个实施例中,获取多个历史视频数据,将多个历史视频数据按照固定帧率间隔获取图像,以得到多个特定格式的历史图像,使用labelImg图像标注工具完成每个历史图像中的人体标注,得到人体标注数据,使用labelMe图像标注工具完成每个历史图像中的人体关键部位标注,以得到人体关键部位标注数据,基于人体标注数据和Faster-RCNN预训练模型,对目标检测模型进行训练,以得到训练好的目标检测模型,基于人体关键部位标注数据和AlphaPose预训练模型,对关键点检测模型进行训练,以得到训练好的关键点检测模型。
本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
存储器可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。存储器是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括要素的过程、方法、商品或者设备中还存在另外的相同要素。
以上仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。

Claims (10)

1.一种识别睡觉行为的方法,其特征在于,所述方法包括:
获取预设时间段内的监控数据,所述监控数据中包括至少一个目标用户;
对所述监控数据进行处理,以得到所述监控数据中的多个监控图像;
依次将多个监控图像输入至目标检测模型,以通过所述目标检测模型确定所述监控图像中包括的每个目标用户所对应的目标区域;
依次将每个目标区域输入至目标跟踪模型,以通过所述目标跟踪模型绑定每个目标用户的唯一用户标识;
依次将每个监控图像的目标区域输入至关键点检测模型,以通过所述关键点检测模型确定所述目标区域中每个目标用户的关键部位的坐标;
针对每个目标用户,确定所述目标用户的关键部位在全部目标区域中的坐标变化数据;
针对任意一个目标用户,在所述目标用户的坐标变化数据满足预设条件的情况下,确定所述目标用户存在睡觉行为。
2.根据权利要求1所述的方法,其特征在于,所述关键部位包括用户的多个身体部位,所述关键部位的坐标包括每个身体部位的横坐标和纵坐标;所述针对任意一个目标用户,在所述目标用户的坐标变化数据满足预设条件的情况下,确定所述目标用户存在睡觉行为包括:
针对任意两个相邻的监控图像中的目标区域,确定每个身体部位在两个区域中横坐标的第一移动数据和纵坐标的第二移动数据;
在全部的第一移动数据均小于第一数值,且全部的第二移动数据均小于第二数值的情况下,确定所述目标用户存在睡觉行为;
其中,所述第一数值是根据所述目标区域的宽度确定的,所述第二数值是根据所述目标区域的高度确定的。
3.根据权利要求1所述的方法,其特征在于,所述关键部位包括用户的多个身体部位,所述关键部位的坐标包括每个身体部位的横坐标和纵坐标;所述针对任意一个目标用户,在所述目标用户的坐标变化数据满足预设条件的情况下,确定所述目标用户存在睡觉行为包括:
将多个监控图像按照时间顺序划分为多个图像组,其中,每个图像组包括两个时间差为预设时间差值的监控图像;
针对每个图像组包括的监控图像中人任意一个目标用户的目标区域,确定所述目标用户的每个身体部位在两个目标区域中横坐标的第一移动数据和纵坐标的第二移动数据;
在每个身体部位的第一移动数据小于与所述身体部位对应的第一阈值,且每个身体部位的第二移动数据小于与所述身体部位对应的第二阈值的情况下,确定所述目标用户存在睡觉行为;
其中,每个身体部位对应的第一阈值是根据所述目标区域的宽度以及每个身体部位的权重系数确定的,每个身体部位对应的第二阈值是根据所述目标区域的高度以及每个身体部位的权重系数确定的。
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
检测连续的N个图像组;
针对任意一个图像组中的任意一个目标用户,在所述目标用户的每个身体部位的第一移动数据小于与所述身体部位对应的第一阈值,且每个身体部位的第二移动数据小于与所述身体部位对应的第二阈值的情况下,预测所述图像组中的目标用户存在睡觉倾向;
针对任意一个目标用户,在所述目标用户存在睡觉倾向的图像组的数量与N的比例大于预设比例值的情况下,确定所述目标用户存在睡觉行为。
5.根据权利要求4所述的方法,其特征在于,所述身体部位包括鼻子k1,左眼k2,右眼k3,左耳k4、右耳k5,脖颈k6,左肩k7,右肩k8,左肘k9,右肘k10,左腕k11,右腕k12,左臀k13,右臀k14,左膝k15,右膝k16,左脚踝k17以及右脚踝k18;
所述方法还包括:
确定所述目标用户存在睡觉行为的情况下,确定左膝k15和左臀k13的连线与左膝k15和左肩k7的连线之间的夹角a_kl;
确定右膝k16和右臀k14的连线与右膝k16和右肩k8的连线之间的夹角a_kr;
确定脖颈k6和鼻子k1的连线与脖颈k6和臀中心点的连线之间的夹角a_n,其中,臀中心点是指左臀k13和右臀k14连线的中心点;
确定左肩k7和左肘k9的连线与左肩k7和左臀k13的连线之间的夹角a_sl;
确定右肩k8和右肘k10的连线与右肩k8和右臀k14的连线之间的夹角a_sr;
在所述夹角a_kl或所述夹角a_kr大于第一角度阈值的情况下,确定所述目标用户处于站姿睡觉的状态;
在所述夹角a_kl或所述夹角a_kr小于所述第一角度阈值的情况下,确定所述目标用户处于坐姿睡觉的状态;
在所述夹角a_n小于第二角度阈值,且所述夹角a_sl或所述夹角a_sr大于第三角度阈值的情况下,确定所述目标用户处于趴姿睡觉的状态。
6.根据权利要求1所述的方法,其特征在于,所述方法还包括:
在确定所述目标用户存在睡觉行为之后,截取所述目标用户的坐标变化数据满足预设条件的目标区域所在的视频片段;
根据所述目标用户的标识对应保存所述视频片段。
7.根据权利要求1所述的方法,其特征在于,所述方法还包括:
获取多个历史视频数据;
将所述多个历史视频数据按照固定帧率间隔获取图像,以得到多个特定格式的历史图像;
使用labelImg图像标注工具完成每个历史图像中的人体标注,得到人体标注数据;
使用labelMe图像标注工具完成每个历史图像中的人体关键部位标注,以得到人体关键部位标注数据;
基于所述人体标注数据和Faster-RCNN预训练模型,对目标检测模型进行训练,以得到训练好的目标检测模型;
基于所述人体关键部位标注数据和AlphaPose预训练模型,对关键点检测模型进行训练,以得到训练好的关键点检测模型。
8.一种处理器,其特征在于,被配置成执行根据权利要求1至7中任意一项所述的识别睡觉行为的方法。
9.一种识别睡觉行为的装置,其特征在于,包括根据权利要求8所述的处理器。
10.一种机器可读存储介质,该机器可读存储介质上存储有指令,其特征在于,该指令在被处理器执行时使得所述处理器被配置成执行根据权利要求1至7中任一项所述的识别睡觉行为的方法。
CN202210923187.7A 2022-08-02 2022-08-02 识别睡觉行为的方法、装置、存储介质及处理器 Active CN115272973B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210923187.7A CN115272973B (zh) 2022-08-02 2022-08-02 识别睡觉行为的方法、装置、存储介质及处理器

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210923187.7A CN115272973B (zh) 2022-08-02 2022-08-02 识别睡觉行为的方法、装置、存储介质及处理器

Publications (2)

Publication Number Publication Date
CN115272973A true CN115272973A (zh) 2022-11-01
CN115272973B CN115272973B (zh) 2023-06-30

Family

ID=83747058

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210923187.7A Active CN115272973B (zh) 2022-08-02 2022-08-02 识别睡觉行为的方法、装置、存储介质及处理器

Country Status (1)

Country Link
CN (1) CN115272973B (zh)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109472226A (zh) * 2018-10-29 2019-03-15 上海交通大学 一种基于深度学习的睡觉行为检测方法
CN113269142A (zh) * 2021-06-18 2021-08-17 中电科大数据研究院有限公司 一种检察领域值班人员睡觉行为识别方法
CN113887424A (zh) * 2021-09-30 2022-01-04 深圳奇迹智慧网络有限公司 人体行为的识别方法、装置、计算机设备和存储介质
CN114299606A (zh) * 2021-12-09 2022-04-08 佛山弘视智能信息科技有限公司 一种基于前端相机的睡觉检测方法及装置
CN114821647A (zh) * 2022-04-25 2022-07-29 济南博观智能科技有限公司 一种睡岗识别方法、装置、设备及介质

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109472226A (zh) * 2018-10-29 2019-03-15 上海交通大学 一种基于深度学习的睡觉行为检测方法
CN113269142A (zh) * 2021-06-18 2021-08-17 中电科大数据研究院有限公司 一种检察领域值班人员睡觉行为识别方法
CN113887424A (zh) * 2021-09-30 2022-01-04 深圳奇迹智慧网络有限公司 人体行为的识别方法、装置、计算机设备和存储介质
CN114299606A (zh) * 2021-12-09 2022-04-08 佛山弘视智能信息科技有限公司 一种基于前端相机的睡觉检测方法及装置
CN114821647A (zh) * 2022-04-25 2022-07-29 济南博观智能科技有限公司 一种睡岗识别方法、装置、设备及介质

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
秀玲等: "基于人体骨架和深度学习的学生课堂行为识别" *
苏寒松等: "基于神经网络的学生行为检测算法研究" *
陈博等: "人体姿态检测系统的设计与实现" *

Also Published As

Publication number Publication date
CN115272973B (zh) 2023-06-30

Similar Documents

Publication Publication Date Title
US11030464B2 (en) Privacy processing based on person region depth
CN110321852B (zh) 一种动作类型识别方法、装置、存储介质及计算机设备
US20200394392A1 (en) Method and apparatus for detecting face image
KR20190139938A (ko) 픽쳐 기반의 차량 손해 평가 방법 및 장치, 및 전자 디바이스
CN112364715B (zh) 核电作业异常监控方法、装置、计算机设备和存储介质
KR101668555B1 (ko) 작업 현장 영상 데이터 내의 작업자 인식 방법
CN114719767A (zh) 距离检测方法、装置、存储介质及电子设备
CN109614867A (zh) 人体关键点检测方法和装置、电子设备、计算机存储介质
US9256945B2 (en) System for tracking a moving object, and a method and a non-transitory computer readable medium thereof
US11281898B2 (en) Arm action identification method and apparatus and image processing device
US10847006B1 (en) Physiological-based detection and feedback systems and methods
CN109800656B (zh) 定位方法及相关产品
CN113947795A (zh) 口罩佩戴检测方法、装置、设备及存储介质
CN115272973A (zh) 识别睡觉行为的方法、装置、存储介质及处理器
CN107451719B (zh) 灾区车辆调配方法和灾区车辆调配装置
JP2004054442A (ja) 顔検出装置、顔検出方法および顔検出プログラム
CN111107139A (zh) 信息推送方法及相关产品
CN115294649B (zh) 识别使用移动设备行为的方法、装置、存储介质及处理器
CN111626193A (zh) 一种面部识别方法、面部识别装置及可读存储介质
CN111444803A (zh) 图像处理方法、装置、电子设备及存储介质
CN110310455A (zh) 基于电子标签的预警方法及云服务平台
US20240281954A1 (en) Video analytics for industrial floor setting
CN112598745A (zh) 一种人货关联事件确定方法及装置
CN105723418A (zh) 火灾的温度检测方法及系统
AU2021203446A1 (en) Method and system for compliance monitoring

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20230608

Address after: Room C, No. 888, Huanhu West 2nd Road, Nanhui new town, Pudong New Area, Shanghai

Applicant after: Shanghai Yuchuang Intelligent Technology Co.,Ltd.

Address before: Floor 4, Unit 2, Building 5, West Zhigu District, No. 360, Wuke West Fifth Road, Wuhou District, Chengdu, Sichuan 610000

Applicant before: Shanghai Yuchuang Intelligent Technology Co.,Ltd. Chengdu Branch

TA01 Transfer of patent application right
GR01 Patent grant
GR01 Patent grant