CN104637246A - 一种驾驶员多种行为预警系统及危险评估方法 - Google Patents
一种驾驶员多种行为预警系统及危险评估方法 Download PDFInfo
- Publication number
- CN104637246A CN104637246A CN201510054227.9A CN201510054227A CN104637246A CN 104637246 A CN104637246 A CN 104637246A CN 201510054227 A CN201510054227 A CN 201510054227A CN 104637246 A CN104637246 A CN 104637246A
- Authority
- CN
- China
- Prior art keywords
- face
- region picture
- mouth
- represent
- recognition result
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000011156 evaluation Methods 0.000 title abstract 4
- 230000000391 smoking effect Effects 0.000 claims abstract description 69
- 230000006399 behavior Effects 0.000 claims abstract description 41
- 238000012549 training Methods 0.000 claims abstract description 34
- 239000013598 vector Substances 0.000 claims description 29
- 230000000007 visual effect Effects 0.000 claims description 27
- 239000000284 extract Substances 0.000 claims description 18
- 206010048232 Yawning Diseases 0.000 claims description 17
- 208000003464 asthenopia Diseases 0.000 claims description 15
- 238000000034 method Methods 0.000 claims description 12
- 230000000694 effects Effects 0.000 claims description 8
- 239000000779 smoke Substances 0.000 claims description 8
- 210000001525 retina Anatomy 0.000 claims description 7
- 238000002054 transplantation Methods 0.000 claims description 7
- 230000004927 fusion Effects 0.000 claims description 6
- 238000013519 translation Methods 0.000 claims description 6
- 241001282135 Poromitra oscitans Species 0.000 claims description 3
- 238000013145 classification model Methods 0.000 abstract 1
- 238000012544 monitoring process Methods 0.000 description 3
- 238000000605 extraction Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 230000003542 behavioural effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 210000000744 eyelid Anatomy 0.000 description 1
- 231100001261 hazardous Toxicity 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000035479 physiological effects, processes and functions Effects 0.000 description 1
- 210000001747 pupil Anatomy 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000033764 rhythmic process Effects 0.000 description 1
- 230000004083 survival effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B21/00—Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
- G08B21/02—Alarms for ensuring the safety of persons
- G08B21/06—Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
- G06V20/597—Recognising the driver's state or behaviour, e.g. attention or drowsiness
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Emergency Management (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种驾驶员多种行为预警系统及其危险评估方法,其特征是包括:视频采集模块、关键部位定位模块、行为识别模块、视线分析模块、驾驶员状态预警模块和离线训练模块;离线训练模块用于获得混合定位模型和三种分类模型;视频采集模块用于采集驾驶员的视频图片集合;关键部位定位模块用于获得人脸部关键部位的位置信息和区域图片;行为识别模块用于获得三种行为识别结果;视线分析模块用于获得正脸和侧脸识别结果;驾驶员状态预警模块对三种行为识别结果以及正脸和侧脸识别结果分别进行预警和危险评估。本发明能对驾驶员的疲劳、打哈欠、抽烟、视线偏离等违规驾驶行为进行有效监控,并及时进行预警提示和危险评估。
Description
技术领域
本发明涉及智能监控预警领域,具体地说涉及一种驾驶员行为预警系统及危险评估方法。
背景技术
随着我国经济、社会的不断发展,国民生活水平得到极大改善,物流运输业飞速发展,汽车城市化进程也越来越快,驾驶员队伍也不断壮大。与此同时,快速的生活节奏带给人们巨大的压力,由于疲劳驾驶等驾驶违规行为而导致交通事故的现象越来越严重,危及乘客生命和公共安全。
当前对驾驶员的疲劳状态进行检测,主要通过医疗仪器和设备,对驾驶员的人体生理信号进行实时监测,从而判断人体是否疲劳。但是此类检测设备需要采用比较复杂的接触式装备,费用较高。驾驶员疲劳分析的研究目前主要通过眼睑遮住瞳孔的面积是否超过测量参数来判断驾驶员眼睛是否闭合,该方法要求对疲劳判定的先提条件非常严格;并且当前所存在的系统都是单一的疲劳检测系统。因此,急需一种功能全面、安全高效的驾驶员驾驶行为分析预警的相关技术和方法。
发明内容
本发明为了克服现有技术存在的不足之处,提供一种驾驶员多种行为预警系统及其危险评估方法,以期对驾驶员的疲劳、打哈欠、抽烟、视线偏离等违规驾驶行为进行有效监控,并及时进行预警提示和危险评估。
本发明为解决技术问题采用如下技术方案:
本发明一种驾驶员多种行为预警系统的特点是包括:视频采集模块、关键部位定位模块、行为识别模块、视线分析模块、驾驶员状态预警模块和离线训练模块;
所述离线训练模块用于对驾驶员的人脸部关键部位正样本和人脸部非关键部位负样本进行离线训练,获得混合定位模型;所述人脸部关键部位正样本包括:人脸正样本、眼部正样本、嘴部正样本;所述离线训练模块还用于对驾驶员的三种行为样本进行离线训练,依次获得三种分类模型;所述三种行为样本包括:眼部闭眼正样本和眼部睁眼负样本、嘴部张嘴正样本和嘴部闭嘴负样本、以及抽烟正样本和没有抽烟负样本;所述三种分类模型包括眼睛疲劳分类模型、哈欠分类模型、以及抽烟分类模型;
所述视频采集模块用于采集驾驶员的视频图片集合;
所述关键部位定位模块提取所述视频图片集合的每帧视频图片的视觉特征参数,并通过所述混合定位模型得到所述每帧视频图片中驾驶员的人脸部关键部位的位置信息和区域图片;所述人脸部关键部位包括:人脸、眼部和嘴部;
所述行为识别模块根据所述嘴部区域图片进行平移获得抽烟区域图片;再提取所述眼部区域图片、嘴部区域图片和抽烟区域图片的视觉特征参数,并分别输入所述三种分类模型中,获得三种行为识别结果的返回值;所述三种行为识别结果的返回值包括:睁眼区域图片、闭嘴区域图片和没有抽烟区域图片的返回值为0;闭眼区域图片、张嘴区域图片和抽烟区域图片的返回值为1;
所述视线分析模块对所述驾驶员的人脸区域图片进行归一化处理后再对称分割获得左脸区域图片和右脸区域图片,提取所述左脸区域图片和右脸区域图片的视觉特征向量并进行脸部是否偏离正前方分析,获得正脸和侧脸识别结果的返回值;所述正脸和侧脸识别结果的返回值包括:正脸区域图片的返回值为0;侧脸区域图片的返回值为1;
所述驾驶员状态预警模块对所述三种行为识别结果以及所述正脸和侧脸识别结果分别进行预警,并对对所述三种行为识别结果以及所述正脸和侧脸识别结果进行决策融合,获得驾驶员的危险评估结果。
本发明一种驾驶员多种行为预警系统的危险评估方法的特点是如下步骤进行:
步骤1、离线训练获得混合定位模型和三种分类模型:
步骤1.1、对驾驶员的人脸部关键部位正样本和人脸部非关键部位负样本进行离线训练,获得混合定位模型;
步骤1.2、对驾驶员的眼部闭眼正样本和眼部睁眼负样本进行离线训练,获得眼睛疲劳分类模型;
步骤1.3、对驾驶员的嘴部张嘴正样本和嘴部闭嘴负样本进行离线训练,获得哈欠分类模型;
步骤1.4、对驾驶员的抽烟正样本和没有抽烟负样本进行离线训练,获得抽烟分类模型;
步骤2、获取驾驶员连续的视频图片集合,记为M={m1,m2,…,mi,…,mn};mi表示所述视频图片集合M中第i帧视频图片;1≤i≤m;
步骤3、提取所述第i帧视频图片mi的视觉特征参数,并输入所述混合定位模型获得第i帧视频图片mi的人脸部关键部位的位置信息Pi和区域图片Qi;并有: 表示人脸位置信息;表示眼部位置信息;表示嘴部位置信息;表示人脸区域图片;表示眼部区域图片;表示嘴部区域图片;
步骤4、根据所述嘴部区域图片进行向左或向右的位置平移,获得抽烟区域图片
步骤5、提取所述眼部区域图片嘴部区域图片和抽烟区域图片的视觉特征参数并分别输入所述眼睛疲劳分类模型、哈欠分类模型和抽烟分类模型获得三种行为识别结果ri;并有 表示所述眼睛疲劳分类模型的识别结果;并有:表示所述眼部区域图片为睁眼区域图片;表示所述眼部区域图片为闭眼区域图片;表示所述哈欠分类模型的识别结果;并有:表示所述嘴部区域图片为闭嘴区域图片;表示所述嘴部区域图片为张嘴区域图片;表示所述说抽烟分类模型的识别结果;并有:表示所述抽烟区域图片为没有抽烟区域图片;表示所述抽烟区域图片为抽烟区域图片;
步骤6、对所述人脸区域图片进行归一化处理后再对称分割获得左脸区域图片和右脸区域图片分别提取所述左脸区域图片和右脸区域图片的视觉特征,获得左脸视觉特征向量A(i)和右脸视觉特征向量B(i);对所述左脸视觉特征向量A(i)和右脸视觉特征向量B(i)进行降维处理获得左脸特征向量a(i)和右脸特征向量b(i);
步骤7、利用式(1)进行脸部是否偏离正前方分析,获得人脸偏转系数Ki:
式(1)中,表示所述左脸特征向量a(i)中第j个元素;表示所述右脸特征向量b(i)中第j个元素;
步骤8、若所述人脸偏转系数Ki小于所设定的阈值时,则表示所述人脸区域图片的识别结果为正脸区域图片;记为否则表示所述人脸区域图片的识别结果为侧脸区域图片;记为从而获得第i帧视频图片mi的识别结果
步骤9、重复步骤3-步骤8,从而获得n帧视频图片的识别结果R={r(1),r(2),...,r(i),...,r(n)};
步骤10、利用式(2)获得识别结果频率Fσ:
式(2)中,σ∈(e,m,c,f);并有Fσ={Fe,Fm,Fc,Ff};Fe表示眼部区域识别结果频率;Fm表示嘴部区域识别结果频率;Fc表示抽烟区域识别结果频率;Ff表示人脸区域识别结果频率;
步骤11、将眼部区域识别结果频率Fe与所设定的眼部阈值进行比较,若超出所述眼部阈值,则令Fe'=1,表示眼部疲劳并进行预警;否则,令Fe'=0,表示眼部正常;
将嘴部区域识别结果频率Fm与所设定的嘴部阈值进行比较,若超出所述嘴部阈值,则令Fm'=1,表示嘴部张嘴为打哈欠并进行预警;否则,令Fm'=0,表示嘴部闭合;
将抽烟区域识别结果频率Fc与所设定的抽烟阈值进行比较,若超出所述抽烟阈值,则令Fc'=1,表示在抽烟并进行预警;否则,令Fc'=0,表示未抽烟;
将人脸区域识别结果频率Ff与所设定的人脸阈值进行比较,若超出所述人脸阈值,则令Ff'=1,表示侧脸并进行预警;否则,令Ff'=0,表示正脸;从而获得预警结果列表Fσ'={Fe',Fm',Fc',Ff'};
步骤12、利用式(3)对所述预警结果Fσ'进行决策融合,获得危险评估结果danger:
danger=keFe'+kmFm'+kcFc'+kfFf' (3)
式(3)中,ke、km、kc、kf分别表示所设定的危险系数;并有:ke+km+kc+kf=1。
与已有技术相比,本发明有益效果体现在:
1、本发明系统将驾驶员行为预警系统划分为多个模块主要包括关键部位定位模块、行为识别模块、视线分析模块和驾驶员状态预警模块用于对驾驶员的违规行为预警和危险评估,充分利用简单的监控视频,在非接触的情况下获得驾驶员实时驾驶状况,从而实现对驾驶员疲劳状态地有效检测。
2、本发明通过将定位得到的驾驶员人脸区域图片归一化后对称分割,提取特征并降维处理,再构造出人脸偏转系数,从而用来检测驾驶员的面部是否长时间偏离正前方,方法简单且可靠性高。
3、本发明通过定位人脸后,再在人脸区域图片中定位眼部区域图片、嘴部区域图片,提高了定位的准确性,保证了驾驶员行为识别结果的准确率。
4、本发明系统功能全面,提供了一种全面的驾驶员行为预警系统,包含多种违规危险行为分析方法,复杂背景环境仍能够有较好的表现,对于背景和光照的鲁棒性较强。
附图说明
图1为本发明系统结构示意图;
图2为本发明方法流程图。
具体实施方式
本实施例中,如图1所示,一种驾驶员多种行为预警系统组成包括:视频采集模块、关键部位定位模块、行为识别模块、视线分析模块、驾驶员状态预警模块和离线训练模块;
离线训练模块用于对驾驶员的人脸部关键部位正样本和人脸部非关键部位负样本进行离线训练,获得混合定位模型;人脸部关键部位正样本包括:人脸正样本、眼部正样本、嘴部正样本;离线训练模块还用于对驾驶员的三种行为样本进行离线训练,依次获得三种分类模型;三种行为样本包括:眼部闭眼正样本和眼部睁眼负样本、嘴部张嘴正样本和嘴部闭嘴负样本、以及抽烟正样本和没有抽烟负样本;三种分类模型包括眼睛疲劳分类模型、哈欠分类模型、以及抽烟分类模型;
视频采集模块用于采集驾驶员的视频图片集合;
关键部位定位模块提取视频图片集合的每帧视频图片的视觉特征参数,并通过混合定位模型得到每帧视频图片中驾驶员的人脸部关键部位的位置信息和区域图片;人脸部关键部位包括:人脸、眼部和嘴部;
行为识别模块根据嘴部区域图片进行平移获得抽烟区域图片;再提取眼部区域图片、嘴部区域图片和抽烟区域图片的视觉特征参数,并分别输入三种分类模型中,获得三种行为识别结果的返回值;三种行为识别结果的返回值包括:睁眼区域图片、闭嘴区域图片和没有抽烟区域图片的返回值为0;闭眼区域图片、张嘴区域图片和抽烟区域图片的返回值为1;
视线分析模块对驾驶员的人脸区域图片进行归一化处理后再对称分割获得左脸区域图片和右脸区域图片,提取左脸区域图片和右脸区域图片的视觉特征向量并进行脸部是否偏离正前方分析,获得正脸和侧脸识别结果的返回值;正脸和侧脸识别结果的返回值包括:正脸区域图片的返回值为0;侧脸区域图片的返回值为1;
驾驶员状态预警模块对三种行为识别结果以及正脸和侧脸识别结果分别进行预警,并对对三种行为识别结果以及正脸和侧脸识别结果进行决策融合,获得驾驶员的危险评估结果。
如图2所示,一种驾驶员多种行为预警系统的危险评估按如下步骤进行:
步骤1、离线训练获得混合定位模型和三种分类模型:
步骤1.1、对驾驶员的人脸部关键部位正样本和人脸部非关键部位负样本进行离线训练,获得混合定位模型;本实施例中,所用的混合定位模型可以通过提取haar特征训练adaboost级联分类器;
步骤1.2、对驾驶员的眼部闭眼正样本和眼部睁眼负样本进行离线训练,获得眼睛疲劳分类模型;
步骤1.3、对驾驶员的嘴部张嘴正样本和嘴部闭嘴负样本进行离线训练,获得哈欠分类模型;
步骤1.4、对驾驶员的抽烟正样本和没有抽烟负样本进行离线训练,获得抽烟分类模型;本实施例中,所用的分类模型都可以通过提取样本的hog特征训练svm分类模型;
步骤2、获取驾驶员连续的视频图片集合,记为M={m1,m2,…,mi,…,mn};mi表示视频图片集合M中第i帧视频图片;1≤i≤m;
步骤3、提取第i帧视频图片mi的视觉特征参数,并输入混合定位模型获得第i帧视频图片mi的人脸部关键部位的位置信息Pi和区域图片Qi;并有: 表示人脸位置信息;表示眼部位置信息;表示嘴部位置信息;表示人脸区域图片;表示眼部区域图片;表示嘴部区域图片;
在实施例中,可以通过先定位驾驶员人脸位置信息并得到驾驶员人脸区域图片,再在所得的人脸区域图片中通过adaboost分类器定位眼部位置信息和嘴部位置信息,并获得眼部区域图片和嘴部区域图片;
步骤4、根据嘴部区域图片进行向左或向右的位置平移,获得抽烟区域图片
步骤5、提取眼部区域图片嘴部区域图片和抽烟区域图片的视觉特征参数并分别输入眼睛疲劳分类模型、哈欠分类模型和抽烟分类模型获得三种行为识别结果ri;并有 表示眼睛疲劳分类模型的识别结果;并有:表示眼部区域图片为睁眼区域图片;表示眼部区域图片为闭眼区域图片;表示哈欠分类模型的识别结果;并有:表示嘴部区域图片为闭嘴区域图片;表示嘴部区域图片为张嘴区域图片;表示说抽烟分类模型的识别结果;并有:表示抽烟区域图片为没有抽烟区域图片;表示抽烟区域图片为抽烟区域图片;
步骤6、对人脸区域图片进行归一化处理后再对称分割获得左脸区域图片和右脸区域图片分别提取左脸区域图片和右脸区域图片的视觉特征,获得左脸视觉特征向量A(i)和右脸视觉特征向量B(i);对左脸视觉特征向量A(i)和右脸视觉特征向量B(i)进行降维处理获得左脸特征向量a(i)和右脸特征向量b(i);
本实施例中,对归一化的左右人脸提取LBP特征,分别降维成两个59维向量,然后计算对应的向量值相减的绝对值累加和;
步骤7、利用式(1)进行脸部是否偏离正前方分析,获得人脸偏转系数Ki:
式(1)中,表示左脸特征向量a(i)中第j个元素;表示右脸特征向量b(i)中第j个元素;
步骤8、若人脸偏转系数Ki小于所设定的阈值时,则表示人脸区域图片的识别结果为正脸区域图片;记为否则表示人脸区域图片的识别结果为侧脸区域图片;记为从而获得第i帧视频图片mi的识别结果
步骤9、重复步骤3-步骤8,从而获得n帧视频图片的识别结果R={r(1),r(2),...,r(i),...,r(n)};
步骤10、利用式(2)获得识别结果频率Fσ:
式(2)中,σ∈(e,m,c,f);并有Fσ={Fe,Fm,Fc,Ff};Fe表示眼部区域识别结果频率;Fm表示嘴部区域识别结果频率;Fc表示抽烟区域识别结果频率;Ff表示人脸区域识别结果频率;
具体实施中,将监控视频的每帧通过对应分类型模型后的返回值进行累加计数。第一次闭眼之后的连续50帧内检测到超过25帧处于闭眼状态大于阈值0.5,则判定为闭眼并报警。第一次张嘴之后的连续75帧内检测到超过50帧张嘴(大嘴)状态大于阈值0.67,则判定为打哈欠并报警;有抽烟行为之后的连续300帧内检测到超过150帧处于抽烟状态大于阈值0.5,则判定为抽烟并报警;第一次检测到正脸(或检测不到人脸)之后的连续60帧之内检测到超过35帧正脸(检测不到人脸)状态大于阈值0.58,则判定为驾驶员视线偏离并报警;
步骤11、将眼部区域识别结果频率Fe与所设定的眼部阈值进行比较,若超出眼部阈值,则令Fe'=1,表示眼部疲劳并进行预警;否则,令Fe'=0,表示眼部正常;
将嘴部区域识别结果频率Fm与所设定的嘴部阈值进行比较,若超出嘴部阈值,则令Fm'=1,表示嘴部张嘴为打哈欠并进行预警;否则,令Fm'=0,表示嘴部闭合;
将抽烟区域识别结果频率Fc与所设定的抽烟阈值进行比较,若超出抽烟阈值,则令Fc'=1,表示在抽烟并进行预警;否则,令Fc'=0,表示未抽烟;
将人脸区域识别结果频率Ff与所设定的人脸阈值进行比较,若超出人脸阈值,则令Ff'=1,表示侧脸并进行预警;否则,令Ff'=0,表示正脸;从而获得预警结果列表Fσ'={Fe',Fm',Fc',Ff'};
步骤12、利用式(3)对预警结果Fσ'进行决策融合,获得危险评估结果danger:
danger=keFe'+kmFm'+kcFc'+kfFf' (3)
式(3)中,ke、km、kc、kf分别表示所设定的危险系数;并有:ke+km+kc+kf=1。在这里,根据行为的危险程度设定危险系数,危险程度越大的,所设危险系数越大。
Claims (2)
1.一种驾驶员多种行为预警系统,其特征是包括:视频采集模块、关键部位定位模块、行为识别模块、视线分析模块、驾驶员状态预警模块和离线训练模块;
所述离线训练模块用于对驾驶员的人脸部关键部位正样本和人脸部非关键部位负样本进行离线训练,获得混合定位模型;所述人脸部关键部位正样本包括:人脸正样本、眼部正样本、嘴部正样本;所述离线训练模块还用于对驾驶员的三种行为样本进行离线训练,依次获得三种分类模型;所述三种行为样本包括:眼部闭眼正样本和眼部睁眼负样本、嘴部张嘴正样本和嘴部闭嘴负样本、以及抽烟正样本和没有抽烟负样本;所述三种分类模型包括眼睛疲劳分类模型、哈欠分类模型、以及抽烟分类模型;
所述视频采集模块用于采集驾驶员的视频图片集合;
所述关键部位定位模块提取所述视频图片集合的每帧视频图片的视觉特征参数,并通过所述混合定位模型得到所述每帧视频图片中驾驶员的人脸部关键部位的位置信息和区域图片;所述人脸部关键部位包括:人脸、眼部和嘴部;
所述行为识别模块根据所述嘴部区域图片进行平移获得抽烟区域图片;再提取所述眼部区域图片、嘴部区域图片和抽烟区域图片的视觉特征参数,并分别输入所述三种分类模型中,获得三种行为识别结果的返回值;所述三种行为识别结果的返回值包括:睁眼区域图片、闭嘴区域图片和没有抽烟区域图片的返回值为0;闭眼区域图片、张嘴区域图片和抽烟区域图片的返回值为1;
所述视线分析模块对所述驾驶员的人脸区域图片进行归一化处理后再对称分割获得左脸区域图片和右脸区域图片,提取所述左脸区域图片和右脸区域图片的视觉特征向量并进行脸部是否偏离正前方分析,获得正脸和侧脸识别结果的返回值;所述正脸和侧脸识别结果的返回值包括:正脸区域图片的返回值为0;侧脸区域图片的返回值为1;
所述驾驶员状态预警模块对所述三种行为识别结果以及所述正脸和侧脸识别结果分别进行预警,并对对所述三种行为识别结果以及所述正脸和侧脸识别结果进行决策融合,获得驾驶员的危险评估结果。
2.一种利用权利要求1所述的驾驶员多种行为预警系统的危险评估方法,其特征是如下步骤进行:
步骤1、离线训练获得混合定位模型和三种分类模型:
步骤1.1、对驾驶员的人脸部关键部位正样本和人脸部非关键部位负样本进行离线训练,获得混合定位模型;
步骤1.2、对驾驶员的眼部闭眼正样本和眼部睁眼负样本进行离线训练,获得眼睛疲劳分类模型;
步骤1.3、对驾驶员的嘴部张嘴正样本和嘴部闭嘴负样本进行离线训练,获得哈欠分类模型;
步骤1.4、对驾驶员的抽烟正样本和没有抽烟负样本进行离线训练,获得抽烟分类模型;
步骤2、获取驾驶员连续的视频图片集合,记为M={m1,m2,…,mi,…,mn};mi表示所述视频图片集合M中第i帧视频图片;1≤i≤m;
步骤3、提取所述第i帧视频图片mi的视觉特征参数,并输入所述混合定位模型获得第i帧视频图片mi的人脸部关键部位的位置信息Pi和区域图片Qi;并有: 表示人脸位置信息;表示眼部位置信息;表示嘴部位置信息;表示人脸区域图片;表示眼部区域图片;表示嘴部区域图片;
步骤4、根据所述嘴部区域图片进行向左或向右的位置平移,获得抽烟区域图片
步骤5、提取所述眼部区域图片嘴部区域图片和抽烟区域图片的视觉特征参数并分别输入所述眼睛疲劳分类模型、哈欠分类模型和抽烟分类模型获得三种行为识别结果ri;并有 表示所述眼睛疲劳分类模型的识别结果;并有:表示所述眼部区域图片为睁眼区域图片;表示所述眼部区域图片为闭眼区域图片;表示所述哈欠分类模型的识别结果;并有:表示所述嘴部区域图片为闭嘴区域图片;表示所述嘴部区域图片为张嘴区域图片;表示所述说抽烟分类模型的识别结果;并有:表示所述抽烟区域图片为没有抽烟区域图片;表示所述抽烟区域图片为抽烟区域图片;
步骤6、对所述人脸区域图片进行归一化处理后再对称分割获得左脸区域图片和右脸区域图片分别提取所述左脸区域图片和右脸区域图片的视觉特征,获得左脸视觉特征向量A(i)和右脸视觉特征向量B(i);对所述左脸视觉特征向量A(i)和右脸视觉特征向量B(i)进行降维处理获得左脸特征向量a(i)和右脸特征向量b(i);
步骤7、利用式(1)进行脸部是否偏离正前方分析,获得人脸偏转系数Ki:
式(1)中,表示所述左脸特征向量a(i)中第j个元素;表示所述右脸特征向量b(i)中第j个元素;
步骤8、若所述人脸偏转系数Ki小于所设定的阈值时,则表示所述人脸区域图片的识别结果为正脸区域图片;记为否则表示所述人脸区域图片的识别结果为侧脸区域图片;记为从而获得第i帧视频图片mi的识别结果
步骤9、重复步骤3-步骤8,从而获得n帧视频图片的识别结果R={r(1),r(2),...,r(i),...,r(n)};
步骤10、利用式(2)获得识别结果频率Fσ:
式(2)中,σ∈(e,m,c,f);并有Fσ={Fe,Fm,Fc,Ff};Fe表示眼部区域识别结果频率;Fm表示嘴部区域识别结果频率;Fc表示抽烟区域识别结果频率;Ff表示人脸区域识别结果频率;
步骤11、将眼部区域识别结果频率Fe与所设定的眼部阈值进行比较,若超出所述眼部阈值,则令Fe'=1,表示眼部疲劳并进行预警;否则,令Fe'=0,表示眼部正常;
将嘴部区域识别结果频率Fm与所设定的嘴部阈值进行比较,若超出所述嘴部阈值,则令Fm'=1,表示嘴部张嘴为打哈欠并进行预警;否则,令Fm'=0,表示嘴部闭合;
将抽烟区域识别结果频率Fc与所设定的抽烟阈值进行比较,若超出所述抽烟阈值,则令Fc'=1,表示在抽烟并进行预警;否则,令Fc'=0,表示未抽烟;
将人脸区域识别结果频率Ff与所设定的人脸阈值进行比较,若超出所述人脸阈值,则令Ff'=1,表示侧脸并进行预警;否则,令Ff'=0,表示正脸;从而获得预警结果列表Fσ'={Fe',Fm',Fc',Ff'};
步骤12、利用式(3)对所述预警结果Fσ'进行决策融合,获得危险评估结果danger:
danger=keFe'+kmFm'+kcFc'+kfFf' (3)
式(3)中,ke、km、kc、kf分别表示所设定的危险系数;并有:ke+km+kc+kf=1。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510054227.9A CN104637246B (zh) | 2015-02-02 | 2015-02-02 | 一种驾驶员多种行为预警系统及危险评估方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510054227.9A CN104637246B (zh) | 2015-02-02 | 2015-02-02 | 一种驾驶员多种行为预警系统及危险评估方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104637246A true CN104637246A (zh) | 2015-05-20 |
CN104637246B CN104637246B (zh) | 2017-02-22 |
Family
ID=53215941
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510054227.9A Expired - Fee Related CN104637246B (zh) | 2015-02-02 | 2015-02-02 | 一种驾驶员多种行为预警系统及危险评估方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104637246B (zh) |
Cited By (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105469035A (zh) * | 2015-11-17 | 2016-04-06 | 中国科学院重庆绿色智能技术研究院 | 基于双目视频分析的驾驶员不良驾驶行为检测系统 |
CN105868690A (zh) * | 2016-03-11 | 2016-08-17 | 博康智能信息技术有限公司 | 识别驾驶员打手机行为的方法和装置 |
CN105913022A (zh) * | 2016-04-11 | 2016-08-31 | 深圳市飞瑞斯科技有限公司 | 一种基于视频分析的手持式打电话状态判别方法及系统 |
CN106778450A (zh) * | 2015-11-25 | 2017-05-31 | 腾讯科技(深圳)有限公司 | 一种面部识别方法和装置 |
CN106965813A (zh) * | 2016-01-14 | 2017-07-21 | 马自达汽车株式会社 | 驾驶辅助装置 |
CN107464115A (zh) * | 2017-07-20 | 2017-12-12 | 北京小米移动软件有限公司 | 个人特征信息验证方法及装置 |
CN108764034A (zh) * | 2018-04-18 | 2018-11-06 | 浙江零跑科技有限公司 | 一种基于驾驶室近红外相机的分神驾驶行为预警方法 |
CN109063686A (zh) * | 2018-08-29 | 2018-12-21 | 安徽华元智控科技有限公司 | 一种汽车驾驶员疲劳检测方法及系统 |
CN109087480A (zh) * | 2018-09-30 | 2018-12-25 | 惠州市名商实业有限公司 | 车载安全事件追溯的方法及系统 |
CN109191828A (zh) * | 2018-07-16 | 2019-01-11 | 江苏智通交通科技有限公司 | 基于集成学习的交通参与者事故风险预测方法 |
CN109190600A (zh) * | 2018-10-18 | 2019-01-11 | 知行汽车科技(苏州)有限公司 | 一种基于视觉传感器的驾驶员监控系统 |
CN109398366A (zh) * | 2018-10-12 | 2019-03-01 | 长安大学 | 一种驾驶员时间压力状态的预警系统和方法 |
CN109409173A (zh) * | 2017-08-18 | 2019-03-01 | 安徽三联交通应用技术股份有限公司 | 基于深度学习的驾驶人状态监测方法、系统、介质及设备 |
CN109409259A (zh) * | 2018-10-11 | 2019-03-01 | 百度在线网络技术(北京)有限公司 | 驾驶监控方法、装置、设备及计算机可读介质 |
CN109447025A (zh) * | 2018-11-08 | 2019-03-08 | 北京旷视科技有限公司 | 疲劳检测方法、装置、系统及计算机可读存储介质 |
CN109559481A (zh) * | 2018-12-13 | 2019-04-02 | 平安科技(深圳)有限公司 | 驾驶风险智能识别方法、装置、计算机设备及存储介质 |
US10360441B2 (en) | 2015-11-25 | 2019-07-23 | Tencent Technology (Shenzhen) Company Limited | Image processing method and apparatus |
CN110088816A (zh) * | 2016-12-21 | 2019-08-02 | 三星电子株式会社 | 电子设备及操作电子设备的方法 |
CN110751008A (zh) * | 2018-07-24 | 2020-02-04 | 阿里巴巴集团控股有限公司 | 基于驾驶行为的处理方法、装置、设备和存储介质 |
CN111532281A (zh) * | 2020-05-08 | 2020-08-14 | 奇瑞汽车股份有限公司 | 驾驶行为的监测方法、装置、终端及存储介质 |
WO2020200095A1 (zh) * | 2019-03-29 | 2020-10-08 | 北京市商汤科技开发有限公司 | 动作识别方法和装置、电子设备、存储介质 |
CN112613421A (zh) * | 2020-12-26 | 2021-04-06 | 数源科技股份有限公司 | 人脸图片降维特征分析比对方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0883344A (ja) * | 1994-09-14 | 1996-03-26 | Mitsubishi Electric Corp | 画像処理装置及び人物状態判定装置 |
US6927694B1 (en) * | 2001-08-20 | 2005-08-09 | Research Foundation Of The University Of Central Florida | Algorithm for monitoring head/eye motion for driver alertness with one camera |
EP1703480A2 (en) * | 2005-03-17 | 2006-09-20 | Delphi Technologies, Inc. | System and method to determine awareness |
CN102436715A (zh) * | 2011-11-25 | 2012-05-02 | 大连海创高科信息技术有限公司 | 疲劳驾驶检测方法 |
CN103336873A (zh) * | 2013-07-10 | 2013-10-02 | 江苏省电力设计院 | 一种变电站三维设计kks智能批量编码方法 |
-
2015
- 2015-02-02 CN CN201510054227.9A patent/CN104637246B/zh not_active Expired - Fee Related
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0883344A (ja) * | 1994-09-14 | 1996-03-26 | Mitsubishi Electric Corp | 画像処理装置及び人物状態判定装置 |
US6927694B1 (en) * | 2001-08-20 | 2005-08-09 | Research Foundation Of The University Of Central Florida | Algorithm for monitoring head/eye motion for driver alertness with one camera |
EP1703480A2 (en) * | 2005-03-17 | 2006-09-20 | Delphi Technologies, Inc. | System and method to determine awareness |
CN102436715A (zh) * | 2011-11-25 | 2012-05-02 | 大连海创高科信息技术有限公司 | 疲劳驾驶检测方法 |
CN103336873A (zh) * | 2013-07-10 | 2013-10-02 | 江苏省电力设计院 | 一种变电站三维设计kks智能批量编码方法 |
Non-Patent Citations (2)
Title |
---|
周云鹏等: "面部多特征融合的驾驶员疲劳检测方法", 《电子测量与仪器学报》 * |
车云华等: "精神疲劳实时监测中多面部特征时序分类模型", 《中国图像图像学报》 * |
Cited By (28)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105469035A (zh) * | 2015-11-17 | 2016-04-06 | 中国科学院重庆绿色智能技术研究院 | 基于双目视频分析的驾驶员不良驾驶行为检测系统 |
US10360441B2 (en) | 2015-11-25 | 2019-07-23 | Tencent Technology (Shenzhen) Company Limited | Image processing method and apparatus |
CN106778450A (zh) * | 2015-11-25 | 2017-05-31 | 腾讯科技(深圳)有限公司 | 一种面部识别方法和装置 |
WO2017088727A1 (zh) * | 2015-11-25 | 2017-06-01 | 腾讯科技(深圳)有限公司 | 一种图像处理方法和装置 |
CN106965813A (zh) * | 2016-01-14 | 2017-07-21 | 马自达汽车株式会社 | 驾驶辅助装置 |
CN105868690A (zh) * | 2016-03-11 | 2016-08-17 | 博康智能信息技术有限公司 | 识别驾驶员打手机行为的方法和装置 |
CN105913022A (zh) * | 2016-04-11 | 2016-08-31 | 深圳市飞瑞斯科技有限公司 | 一种基于视频分析的手持式打电话状态判别方法及系统 |
CN110088816A (zh) * | 2016-12-21 | 2019-08-02 | 三星电子株式会社 | 电子设备及操作电子设备的方法 |
CN107464115A (zh) * | 2017-07-20 | 2017-12-12 | 北京小米移动软件有限公司 | 个人特征信息验证方法及装置 |
CN109409173A (zh) * | 2017-08-18 | 2019-03-01 | 安徽三联交通应用技术股份有限公司 | 基于深度学习的驾驶人状态监测方法、系统、介质及设备 |
CN108764034A (zh) * | 2018-04-18 | 2018-11-06 | 浙江零跑科技有限公司 | 一种基于驾驶室近红外相机的分神驾驶行为预警方法 |
CN109191828B (zh) * | 2018-07-16 | 2021-05-28 | 江苏智通交通科技有限公司 | 基于集成学习的交通参与者事故风险预测方法 |
CN109191828A (zh) * | 2018-07-16 | 2019-01-11 | 江苏智通交通科技有限公司 | 基于集成学习的交通参与者事故风险预测方法 |
CN110751008B (zh) * | 2018-07-24 | 2023-04-28 | 斑马智行网络(香港)有限公司 | 基于驾驶行为的处理方法、装置、设备和存储介质 |
CN110751008A (zh) * | 2018-07-24 | 2020-02-04 | 阿里巴巴集团控股有限公司 | 基于驾驶行为的处理方法、装置、设备和存储介质 |
CN109063686A (zh) * | 2018-08-29 | 2018-12-21 | 安徽华元智控科技有限公司 | 一种汽车驾驶员疲劳检测方法及系统 |
CN109087480A (zh) * | 2018-09-30 | 2018-12-25 | 惠州市名商实业有限公司 | 车载安全事件追溯的方法及系统 |
CN109409259A (zh) * | 2018-10-11 | 2019-03-01 | 百度在线网络技术(北京)有限公司 | 驾驶监控方法、装置、设备及计算机可读介质 |
CN109398366A (zh) * | 2018-10-12 | 2019-03-01 | 长安大学 | 一种驾驶员时间压力状态的预警系统和方法 |
CN109190600A (zh) * | 2018-10-18 | 2019-01-11 | 知行汽车科技(苏州)有限公司 | 一种基于视觉传感器的驾驶员监控系统 |
CN109447025A (zh) * | 2018-11-08 | 2019-03-08 | 北京旷视科技有限公司 | 疲劳检测方法、装置、系统及计算机可读存储介质 |
CN109559481A (zh) * | 2018-12-13 | 2019-04-02 | 平安科技(深圳)有限公司 | 驾驶风险智能识别方法、装置、计算机设备及存储介质 |
WO2020200095A1 (zh) * | 2019-03-29 | 2020-10-08 | 北京市商汤科技开发有限公司 | 动作识别方法和装置、电子设备、存储介质 |
JP2022501713A (ja) * | 2019-03-29 | 2022-01-06 | 北京市商▲湯▼科技▲開▼▲發▼有限公司Beijing Sensetime Technology Development Co., Ltd. | 動作認識方法及び装置、電子機器、並びに記憶媒体 |
JP7130856B2 (ja) | 2019-03-29 | 2022-09-05 | 北京市商▲湯▼科技▲開▼▲發▼有限公司 | 動作認識方法及び装置、電子機器、並びに記憶媒体 |
CN111532281A (zh) * | 2020-05-08 | 2020-08-14 | 奇瑞汽车股份有限公司 | 驾驶行为的监测方法、装置、终端及存储介质 |
CN112613421A (zh) * | 2020-12-26 | 2021-04-06 | 数源科技股份有限公司 | 人脸图片降维特征分析比对方法 |
CN112613421B (zh) * | 2020-12-26 | 2023-04-14 | 数源科技股份有限公司 | 人脸图片降维特征分析比对方法 |
Also Published As
Publication number | Publication date |
---|---|
CN104637246B (zh) | 2017-02-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104637246A (zh) | 一种驾驶员多种行为预警系统及危险评估方法 | |
CN103049740B (zh) | 基于视频图像的疲劳状态检测方法及装置 | |
CN104013414B (zh) | 一种基于移动智能手机的驾驶员疲劳检测系统 | |
Hossain et al. | IOT based real-time drowsy driving detection system for the prevention of road accidents | |
Junaedi et al. | Driver drowsiness detection based on face feature and PERCLOS | |
CN103150870B (zh) | 一种基于视频的火车驾驶员疲劳检测方法 | |
CN202257856U (zh) | 驾驶员疲劳驾驶监控装置 | |
Flores et al. | Driver drowsiness detection system under infrared illumination for an intelligent vehicle | |
CN104408878A (zh) | 一种车队疲劳驾驶预警监控系统及方法 | |
CN104068868A (zh) | 一种基于机器视觉的驾驶人疲劳监测方法及装置 | |
CN109740477A (zh) | 驾驶员疲劳检测系统及其疲劳检测方法 | |
CN109543577A (zh) | 一种基于面部表情特征的疲劳驾驶检测预警方法 | |
CN107563346A (zh) | 一种基于人眼图像处理实现驾驶员疲劳判别的方法 | |
Jia et al. | Fatigue driving detection based on deep learning and multi-index fusion | |
Chen | Research on driver fatigue detection strategy based on human eye state | |
CN103729646A (zh) | 一种眼睛图像有效性检测方法 | |
CN115937830A (zh) | 一种面向特种车辆的驾驶员疲劳检测方法 | |
CN110176128A (zh) | 一种驾驶员疲劳驾驶预警处理系统 | |
Sistla et al. | Stacked ensemble classification based real-time driver drowsiness detection | |
Liu et al. | Design and implementation of multimodal fatigue detection system combining eye and yawn information | |
CN114998874A (zh) | 一种基于深度学习的驾驶员异常行为检测方法 | |
CN203677103U (zh) | 一种基于红外检测技术的ccd摄像头 | |
Hu et al. | Comprehensive driver state recognition based on deep learning and PERCLOS criterion | |
Hongzhe et al. | Recognition and applications of emotion detection in driving fatigue | |
Manu et al. | A novel approach to detect driver drowsiness and alcohol intoxication using haar algorithm with raspberry pi |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20170222 |