CN117237706A - 基于姿态特征的施工人员重度疲劳检测方法 - Google Patents
基于姿态特征的施工人员重度疲劳检测方法 Download PDFInfo
- Publication number
- CN117237706A CN117237706A CN202311106242.4A CN202311106242A CN117237706A CN 117237706 A CN117237706 A CN 117237706A CN 202311106242 A CN202311106242 A CN 202311106242A CN 117237706 A CN117237706 A CN 117237706A
- Authority
- CN
- China
- Prior art keywords
- fatigue
- constructors
- module
- human body
- center
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title abstract description 16
- 238000010276 construction Methods 0.000 title description 3
- 230000008859 change Effects 0.000 claims abstract description 31
- 238000000034 method Methods 0.000 claims abstract description 17
- 239000006185 dispersion Substances 0.000 claims abstract description 10
- 238000013528 artificial neural network Methods 0.000 claims abstract description 6
- 230000015654 memory Effects 0.000 claims abstract description 6
- 230000000306 recurrent effect Effects 0.000 claims abstract description 6
- 230000005484 gravity Effects 0.000 claims description 15
- 238000004364 calculation method Methods 0.000 claims description 12
- 210000003423 ankle Anatomy 0.000 claims description 9
- 230000006996 mental state Effects 0.000 claims description 9
- 238000011156 evaluation Methods 0.000 claims description 6
- 208000032140 Sleepiness Diseases 0.000 claims description 3
- 206010041349 Somnolence Diseases 0.000 claims description 3
- 210000003414 extremity Anatomy 0.000 claims description 3
- 230000037321 sleepiness Effects 0.000 claims description 3
- 230000008569 process Effects 0.000 abstract description 6
- 238000000605 extraction Methods 0.000 abstract description 5
- 230000009471 action Effects 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 230000001815 facial effect Effects 0.000 description 2
- 230000006403 short-term memory Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000006461 physiological response Effects 0.000 description 1
- 230000001105 regulatory effect Effects 0.000 description 1
- 230000036962 time dependent Effects 0.000 description 1
Landscapes
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
Abstract
本发明提供了基于姿态特征的施工人员重度疲劳检测方法,包括以下步骤:S1、自建施工人员过度疲劳数据集;S2、设计多个与施工人员疲劳作业相关的特征表示;S3、根据疲劳特征的变化,计算疲劳特征的离散程度;S4、将具有时间特性的疲劳特征的变化序列,输入至长短期记忆递归神经网络,挖掘施工人员的疲劳状态信息,最终分类预测输出施工人员的疲劳状态。引入人体姿态变化作为施工人员疲劳特征提取的依据,通过分析施工人员在作业过程中的姿态变化对施工人员的疲劳状态进行预测,克服了面部遮挡以及头部姿态变化对疲劳特征提取的影响。
Description
技术领域
本发明涉及疲劳检测技术领域,尤其涉及基于姿态特征的施工人员重度疲劳检测方法。
背景技术
疲劳是人体正常的生理反应,只要休息调节适当,本身并没有严重危害性。但是在各个施工生产事故原因中,疲劳因素成为了主要的因素。在检测施工人员疲劳的方法中,通常采用两种检测方法,一种是基于生理信号的疲劳检测方法,一种是基于计算机视觉的疲劳检测方法。
基于生理信号的疲劳检测方法,生理信号是通过穿戴在施工人员身体上的电极或传感器进行采集,长时间使用会导致采集信号存在些许误差,数据不精准。对于工地上强制限定工人佩戴传感器时,他们是没有选择余地的。
基于计算机视觉的疲劳检测方法,在检测过程中,如果施工人员面部被遮挡或者头部姿态变化较大时,会因丢失面部关键点造成无法提取疲劳特征,使疲劳检测的准确率和鲁棒性受到限制。
发明内容
针对现有技术中所存在的不足,本发明提供了基于姿态特征的施工人员重度疲劳检测方法,其解决了现有技术中存在的基于生理信号的疲劳检测方法会导致采集信号存在些许误差,数据不精准,基于计算机视觉的疲劳检测方法会因丢失面部关键点造成无法提取疲劳特征,使疲劳检测的准确率和鲁棒性受到限制的问题。
根据本发明的一个技术方案,基于姿态特征的施工人员重度疲劳检测方法,包括以下步骤:
S1、自建施工人员过度疲劳数据集,根据卡罗琳斯卡嗜睡量表的评价标准,定义“过度疲劳”和“非过度疲劳”两种状态类别,采集施工人员在不同状态类别下的作业数据及自我评估数据,构建由若干个“非过度疲劳状态”和“过度疲劳状态”类型视频片段组成的数据集;
S2、设计多个与施工人员疲劳作业相关的特征表示,通过单级多人关键点检测器YOLOv7-Pose网络获取空间特征,即施工人员骨架关键点及其坐标,将与疲劳程度相关性高的人体关键点模块化,以计算施工人员的疲劳特征;
S3、根据疲劳特征的变化,计算疲劳特征的离散程度,即DS,DL,Dθ,反映施工人员疲劳状态的变化,离散程度的计算通过固定滑动窗口区间长度Δ对疲劳特征进行等分,每滑动一定的滑动步长,依据每一个窗口内的数据,计算该窗口内的数据离散度,其计算公式为:
其中,Dp为不同特征下的离散程度,Δ为滑动窗口长度,在数据长度为Δ的滑动窗口内, 分别为不同疲劳特征的单个值和在Δ的滑动窗口内的平均值;
S4、将具有时间特性的疲劳特征Dp=[DS,DL,Dθ]的变化序列,输入至长短期记忆递归神经网络,挖掘施工人员的疲劳状态信息,最终分类预测输出施工人员的疲劳状态。
更进一步的,在步骤S2中,人体关键点模块化需要对人体姿态关键点进行分组,具体包括头部模块、手肘模块、胯部模块及脚踝模块。
更进一步的,结合四个模块的中心点建立疲劳特征即P=[S,L,θ],其疲劳特征包括模块中心面积S、人体重心离地的距离L及人体中心线与地面之间的夹角,可使选取的特征更好地反应施工人员的精神状态,其计算公式为:
其中,(Cx,Cy)为每一个模块的中心点,(Xi,Yi)为模块内的关键点坐标,N为模块中包含关键点的个数。
更进一步的,利用模块中心面积的变化可以反应施工人员不同精神状态下的肢体运动情况,模块中心面积S,计算公式为:
其中,(x,y)为每一个模块的中心点。
更进一步的,施工人员在作业时人体重心会发生变化,将人体的胯部模块作为人体重心的代表特征,以胯部模块中心点(x,y)的纵向坐标y,构建人体重心离地的距离L,L的变化大小,即可反映人体重心移动情况:
L=y。
更进一步的,结合人体的头部模块中心点和人体的脚踝模块中心点,计算人体中心线与地面之间的夹角θ,之后对夹角θ与施工人员的精神状态结合并分析,其计算公式为:
其中,(xi,yi)为头部模块中心点,(xj,yj)为脚踝模块中心点。
相比于现有技术,本发明具有如下有益效果:
本发明以施工人员人体姿态为研究对象,分析作业动作变化与施工人员疲劳状态之间的联系,提出基于姿态特征的施工人员过度疲劳检测模型,为施工人员过度疲劳状态的预测提供更加准确的数据支撑,引入人体姿态变化作为施工人员疲劳特征提取的依据,通过分析施工人员在作业过程中的姿态变化对施工人员的疲劳状态进行预测,克服了面部遮挡以及头部姿态变化对疲劳特征提取的影响。
附图说明
下面结合附图和实施例对本发明作进一步说明:
图1为本发明实施例流程示意图;
图2为本发明实施例疲劳特征中心点示意图。
具体实施方式
下面结合附图及实施例对本发明中的技术方案进一步说明。
本发明实施例提出了基于姿态特征的施工人员重度疲劳检测方法,如图1~2所示,包括以下步骤:
S1、自建施工人员过度疲劳数据集,根据卡罗琳斯卡嗜睡量表(KSS)的评价标准,定义“过度疲劳”和“非过度疲劳”两种状态类别,采集施工人员在不同状态类别下的作业数据及自我评估数据,构建由若干个“非过度疲劳状态”和“过度疲劳状态”类型视频片段组成的数据集;
S2、设计多个与施工人员疲劳作业相关的特征表示,通过单级多人关键点检测器YOLOv7-Pose网络获取空间特征,即施工人员骨架关键点及其坐标,将与疲劳程度相关性高的人体关键点模块化,以计算施工人员的疲劳特征;
S3、根据疲劳特征的变化,计算疲劳特征的离散程度,即DS,DL,Dθ,反映施工人员疲劳状态的变化,离散程度的计算通过固定滑动窗口区间长度Δ对疲劳特征进行等分,每滑动一定的滑动步长,依据每一个窗口内的数据,计算该窗口内的数据离散度,其计算公式为:
其中,Dp为不同特征下的离散程度,Δ为滑动窗口长度,在数据长度为Δ的滑动窗口内, 分别为不同疲劳特征的单个值和在Δ的滑动窗口内的平均值;
S4、将具有时间特性的疲劳特征Dp=[DS,DL,Dθ]的变化序列,输入至长短期记忆递归神经网络,挖掘施工人员的疲劳状态信息,最终分类预测输出施工人员的疲劳状态。
本发明以施工人员人体姿态为研究对象,分析作业动作变化与施工人员疲劳状态之间的联系,提出基于姿态特征的施工人员过度疲劳检测模型。首先,以单级多人关键点检测器YOLOv7-Pose网络定位施工人员骨架关键点(空间特征);其次,分析作业过程中人体姿态的变化特点,依据“高内聚、低耦合”的原则将人体关键点模块化,以此为基础设计多个与施工人员疲劳作业相关的特征表示;最后,引入滑动窗口计算各疲劳特征的离散程度(时间特征),将其作为长短期记忆递归神经网络(Long Short Term Memory,LSTM)的输入,从而实现对施工人员过度疲劳状态的预测。
所发明引入人体姿态变化作为施工人员疲劳特征提取的依据,通过分析施工人员在作业过程中的姿态变化对施工人员的疲劳状态进行预测,克服了面部遮挡以及头部姿态变化对疲劳特征提取的影响。
优选的,如图2所示,不同模块之间的运动规律有较低的耦合性,但模块内部各关键点的语义信息具有高度的内聚性,其中心点的运动与所在模块的整体保持高度一致。故结合模块的中心点建立疲劳特征,可使选取的特征更好地反应施工人员的精神状态,其计算公式为:
其中,(Cx,Cy)为每一个模块的中心点,(Xi,Yi)为模块内的关键点坐标,N为模块中包含关键点的个数。
由四个模块中心点,即头部模块、手肘模块、胯部模块与脚踝模块,围成的模块中心面积在施工人员作业时不停变化,计算出模块中心面积并将其作为疲劳特征之一,利用模块中心面积的变化可以反应施工人员不同精神状态下的肢体运动情况。模块中心面积S,计算公式为:
其中,(x,y)为每一个模块的中心点,
考虑到施工人员作业时人体重心的变化,将人体的胯部模块作为人体重心的代表特征。以胯部模块中心点(x,y)的纵向坐标y,构建人体重心离地的距离L,L的变化大小,即可反映人体重心移动情况:
L=y
施工人员作业过程中,由于疲劳的状态会导致身体倾斜,为了反映人体身体倾斜的特征,结合人体的头部模块中心点和人体的脚踝模块中心点,计算人体中心线与地面之间的夹角θ,之后对夹角θ与施工人员的精神状态结合并分析,其计算公式为:
其中,(xi,yi)为头部模块中心点,(xj,yj)为脚踝模块中心点。
最终,获得疲劳特征结果P=[S,L,θ],其结果数值的大小会受到施工人员作业的姿态移动影响。
根据疲劳特征的变化,计算疲劳特征的离散程度,即DS,DL,Dθ,反映施工人员疲劳状态的变化。离散程度的计算通过固定滑动窗口区间长度Δ对疲劳特征进行等分,每滑动一定的滑动步长,依据每一个窗口内的数据,计算该窗口内的数据离散度,其计算公式为:
其中,P=[S,L,θ]为不同疲劳特征,包括模块中心面积S,人体重心离地的距离L,人体中心线与地面之间的夹角θ;Dp为不同特征下的离散程度;Δ为滑动窗口长度;在数据长度为Δ的滑动窗口内, 分别为不同疲劳特征(S,L,θ)的单个值和在Δ的滑动窗口内的平均值。
将具有时间特性的疲劳特征Dp=[DS,DL,Dθ]的变化序列,输入至长短期记忆递归神经网络(Long Short Term Memory,LSTM),挖掘施工人员的疲劳状态信息,最终分类预测输出施工人员的疲劳状态(过度疲劳/非过度疲劳)。
最后说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或者等同替换,而不脱离本发明技术方案的宗旨和范围,其均应涵盖在本发明的权利要求范围当中。
Claims (6)
1.基于姿态特征的施工人员重度疲劳检测方法,其特征在于,包括以下步骤:
S1、自建施工人员过度疲劳数据集,根据卡罗琳斯卡嗜睡量表的评价标准,定义“过度疲劳”和“非过度疲劳”两种状态类别,采集施工人员在不同状态类别下的作业数据及自我评估数据,构建由若干个“非过度疲劳状态”和“过度疲劳状态”类型视频片段组成的数据集;
S2、设计多个与施工人员疲劳作业相关的特征表示,通过单级多人关键点检测器YOLOv7-Pose网络获取空间特征,即施工人员骨架关键点及其坐标,将与疲劳程度相关性高的人体关键点模块化,以计算施工人员的疲劳特征;
S3、根据疲劳特征的变化,计算疲劳特征的离散程度,即DS,DL,Dθ,反映施工人员疲劳状态的变化,离散程度的计算通过固定滑动窗口区间长度Δ对疲劳特征进行等分,每滑动一定的滑动步长,依据每一个窗口内的数据,计算该窗口内的数据离散度,其计算公式为:
其中,Dp为不同特征下的离散程度,Δ为滑动窗口长度,在数据长度为Δ的滑动窗口内, 分别为不同疲劳特征的单个值和在Δ的滑动窗口内的平均值;
S4、将具有时间特性的疲劳特征Dp=[DS,DL,Dθ]的变化序列,输入至长短期记忆递归神经网络,挖掘施工人员的疲劳状态信息,最终分类预测输出施工人员的疲劳状态。
2.如权利要求1所述的基于姿态特征的施工人员重度疲劳检测方法,其特征在于,在步骤S2中,人体关键点模块化需要对人体姿态关键点进行分组,具体包括头部模块、手肘模块、胯部模块及脚踝模块。
3.如权利要求2所述的基于姿态特征的施工人员重度疲劳检测方法,其特征在于,结合四个模块的中心点建立疲劳特征即P=[S,L,θ],其疲劳特征包括模块中心面积S、人体重心离地的距离L及人体中心线与地面之间的夹角,可使选取的特征更好地反应施工人员的精神状态,其计算公式为:
其中,(Cx,Cy)为每一个模块的中心点,(Xi,Yi)为模块内的关键点坐标,N为模块中包含关键点的个数。
4.如权利要求3所述的基于姿态特征的施工人员重度疲劳检测方法,其特征在于,利用模块中心面积的变化可以反应施工人员不同精神状态下的肢体运动情况,模块中心面积S,计算公式为:
其中,(x,y)为每一个模块的中心点。
5.如权利要求3所述的基于姿态特征的施工人员重度疲劳检测方法,其特征在于,施工人员在作业时人体重心会发生变化,将人体的胯部模块作为人体重心的代表特征,以胯部模块中心点(x,y)的纵向坐标y,构建人体重心离地的距离L,L的变化大小,即可反映人体重心移动情况:
L=y。
6.如权利要求3所述的基于姿态特征的施工人员重度疲劳检测方法,其特征在于,结合人体的头部模块中心点和人体的脚踝模块中心点,计算人体中心线与地面之间的夹角θ,之后对夹角θ与施工人员的精神状态结合并分析,其计算公式为:
其中,(xi,yi)为头部模块中心点,(xj,yj)为脚踝模块中心点。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311106242.4A CN117237706A (zh) | 2023-08-30 | 2023-08-30 | 基于姿态特征的施工人员重度疲劳检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311106242.4A CN117237706A (zh) | 2023-08-30 | 2023-08-30 | 基于姿态特征的施工人员重度疲劳检测方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117237706A true CN117237706A (zh) | 2023-12-15 |
Family
ID=89090287
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311106242.4A Pending CN117237706A (zh) | 2023-08-30 | 2023-08-30 | 基于姿态特征的施工人员重度疲劳检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117237706A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117853075A (zh) * | 2024-03-07 | 2024-04-09 | 临沂市金明寓建筑科技有限公司 | 一种建筑工程数据信息智能化管理平台 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111616718A (zh) * | 2020-07-30 | 2020-09-04 | 苏州清研微视电子科技有限公司 | 基于姿态特征的驾驶员疲劳状态检测方法和系统 |
KR20220064699A (ko) * | 2020-11-12 | 2022-05-19 | 경북대학교 산학협력단 | 멀티모달을 이용한 운전자 피로 감지 방법, 이를 수행하기 위한 기록 매체 및 시스템 |
CN116580359A (zh) * | 2023-05-15 | 2023-08-11 | 三峡科技有限责任公司 | 基于时空特征的施工人员重度疲劳检测系统及方法 |
-
2023
- 2023-08-30 CN CN202311106242.4A patent/CN117237706A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111616718A (zh) * | 2020-07-30 | 2020-09-04 | 苏州清研微视电子科技有限公司 | 基于姿态特征的驾驶员疲劳状态检测方法和系统 |
KR20220064699A (ko) * | 2020-11-12 | 2022-05-19 | 경북대학교 산학협력단 | 멀티모달을 이용한 운전자 피로 감지 방법, 이를 수행하기 위한 기록 매체 및 시스템 |
CN116580359A (zh) * | 2023-05-15 | 2023-08-11 | 三峡科技有限责任公司 | 基于时空特征的施工人员重度疲劳检测系统及方法 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117853075A (zh) * | 2024-03-07 | 2024-04-09 | 临沂市金明寓建筑科技有限公司 | 一种建筑工程数据信息智能化管理平台 |
CN117853075B (zh) * | 2024-03-07 | 2024-05-24 | 临沂市金明寓建筑科技有限公司 | 一种建筑工程数据信息智能化管理平台 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109579853B (zh) | 基于bp神经网络的惯性导航室内定位方法 | |
CN117237706A (zh) | 基于姿态特征的施工人员重度疲劳检测方法 | |
Benalcázar et al. | Real-time hand gesture recognition based on artificial feed-forward neural networks and EMG | |
CN112464738B (zh) | 改进朴素贝叶斯算法基于手机传感器的用户行为识别方法 | |
CN114676956A (zh) | 基于多维数据融合的老人跌倒风险预警系统 | |
CN101199370A (zh) | 机器人服装触觉传感信息融合数据处理方法 | |
CN104269025A (zh) | 面向户外摔倒监测的穿戴式单节点特征及位置选取方法 | |
Khokhlov et al. | Design of activity recognition systems with wearable sensors | |
Lee et al. | Convolutional neural network modeling strategy for fall-related motion recognition using acceleration features of a scaffolding structure | |
Patil et al. | Data integration based human activity recognition using deep learning models | |
CN108062570A (zh) | 一种用于肺癌筛查的模式识别系统 | |
Chunsheng et al. | Human gait feature data analysis and person identification based on IMU | |
Wang et al. | Handwriting recognition under natural writing habits based on a low-cost inertial sensor | |
CN116548960A (zh) | 一种面向人体微惯性测量单元的运动模式识别算法和系统 | |
Shrivastava et al. | Adaptive window based fall detection using anomaly identification in fog computing scenario | |
Lauss et al. | A deep learning based hand gesture recognition on a low-power microcontroller using imu sensors | |
Kabir et al. | Secure Your Steps: A Class-Based Ensemble Framework for Real-Time Fall Detection Using Deep Neural Networks | |
Wulvik et al. | Capturing body language in engineering design–tools and technologies | |
Jiao et al. | Image target detection method using the yolov5 algorithm | |
Bulugu | Real-time Complex Hand Gestures Recognition Based on Multi-Dimensional Features. | |
Castro et al. | Fall Detection with LSTM and Attention Mechanism | |
Alarfaj et al. | Detection of human body movement patterns using imu and barometer | |
Abbas et al. | A Hybrid Solution for Human Activity Recognition: Application to Wrist-Worn Accelerometry | |
Zaidi et al. | Machine learning aided minimal sensor based hand gesture character recognition | |
Khan et al. | Classification of Human Physical Activities and Postures During Everyday Life |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |