CN105286802B - 基于视频信息的驾驶员疲劳检测方法 - Google Patents

基于视频信息的驾驶员疲劳检测方法 Download PDF

Info

Publication number
CN105286802B
CN105286802B CN201510866796.3A CN201510866796A CN105286802B CN 105286802 B CN105286802 B CN 105286802B CN 201510866796 A CN201510866796 A CN 201510866796A CN 105286802 B CN105286802 B CN 105286802B
Authority
CN
China
Prior art keywords
human eye
area
driver
state
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201510866796.3A
Other languages
English (en)
Other versions
CN105286802A (zh
Inventor
胡斌杰
汪森
李晓欢
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
South China University of Technology SCUT
Original Assignee
South China University of Technology SCUT
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by South China University of Technology SCUT filed Critical South China University of Technology SCUT
Priority to CN201510866796.3A priority Critical patent/CN105286802B/zh
Publication of CN105286802A publication Critical patent/CN105286802A/zh
Application granted granted Critical
Publication of CN105286802B publication Critical patent/CN105286802B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

本发明公开一种基于视频信息的疲劳驾驶检测方法。该方法利用图像处理技术对视频帧图像进行灰度化、增强、滤波等操作;S采用Harr分类器对视频图像进行检测,将检测到的人脸区域作为感兴趣区域,在此区域内继续利用Harr分类器检测人眼,并采用自适应阈值法排除非人眼区域;采用卡尔曼滤波跟踪算法对驾驶员人眼进行目标跟踪;S4、将人眼区域图像二值化,计算人眼高宽比、眼部区域面积与外接矩形面积比,并判定人眼状态;在获得人眼状态的基础上,计算单位时间内闭合眼睛所占百分比PERCLOS值和眨眼频率,将PERCLOS值及眨眼频率与所设阈值相比,综合多项指标判定驾驶员疲劳状态,从而使得判断结果更为科学和准确。

Description

基于视频信息的驾驶员疲劳检测方法
技术领域
本发明涉及图像处理和模式识别领域,具体设计为一种驾驶员疲劳检测方法。
背景技术
随着汽车产业的飞速发展,汽车保有量不断上升的同时交通安全问题也日益突出,其中因疲劳驾驶导致的交通事故也越来越多。目前针对疲劳检测的方法有四种。
(1)基于驾驶员生理信号的检测方法,当驾驶员处于疲劳状态时,其穴位生物电、脑电波、血压等生理指标都会发生变化,根据这些指标变化可以检测驾驶员状态,不过这种方法对检测仪器的精度有很高的要求,并且接触到驾驶员会产生驾驶不适的使用体验。
(2)基于车辆行驶状态的检测方法,车辆的侧向位移、速度、加速度等状态信息都能反映出驾驶员所处驾驶状态,对车辆的状态信息进行检测,可以推测出驾驶员状态,不过这种方法准确度不高。
(3)基于驾驶员驾驶行为的检测方法,当驾驶员处于疲劳状态时,驾驶行为会发生变化,如对方向盘的操作时间,脚踏板控制力度等,通过传感器对驾驶行为进行检查,可以判断驾驶员状态。不过这种方法所采用的标准难以统一,难以真正大规模推广。
(4)基于驾驶员眼部特征的检测方法,当驾驶员处于疲劳状态时,其眼睛睁闭时间的比例与正常情况不同,通过采用图像处理技术获得人眼睁闭状态进而判断驾驶员疲劳状况,这种方法相对简单实用,目前被广泛采用。不过这种检测方法对人眼定位的要求较高,对疲劳判断标准的选择还有待进一步精确,在准确度和实时性层面有一定的提升空间。
发明内容
为解决上述技术问题,本发明公开了一种基于驾驶员图像信息的疲劳检测方法,具体技术方案如下。
一种基于视频信息的驾驶员疲劳检测方法,该方法在对每帧图像中的人眼状态识别过程采用人眼高宽比λ、人眼面积和外接矩形面积比P两种参数进行判断,当P>0.75时,可认为人眼处于闭合状态,当P<0.75时则根据λ的范围判断:如果λ<0.21则认为是闭合百分之八十,如果0.21<λ<0.32则认为是半开半闭状态,如果λ>0.32则认为是完全睁开状态;在对驾驶员的疲劳状态判断的过程中,采用PERCLOS原理与眨眼频率相结合的方式,设置不同阈值,进行判断。
进一步地,所述的一种基于视频信息的驾驶员疲劳检测方法包括如下步骤:
S1、通过CCD摄像头实时采集驾驶员图像信息,利用图像处理技术对视频帧图像进行灰度化、增强和滤波;
S2、采用Harr分类器对视频图像进行检测,将检测到的人脸区域作为感兴趣区域,在此区域内继续利用Harr分类器检测人眼,并采用自适应阈值法排除非人眼区域;
S3、采用卡尔曼滤波跟踪算法对驾驶员人眼进行目标跟踪;
S4、将人眼区域图像二值化,计算人眼高宽比、眼部区域面积与外接矩形面积比,并判定人眼状态;
S5、在获得人眼状态的基础上,计算单位时间内闭合眼睛所占百分比PERCLOS值和眨眼频率,将PERCLOS值及眨眼频率与所设阈值相比,从而判定驾驶员疲劳状态。
进一步地,所述S3中,人眼跟踪步骤采用卡尔曼滤波跟踪算法并采用Adaboost算法作为观测条件,具体是:
A1、在每帧图像中,人眼的状态用位置和速度表示,设时间t=k时,通过Adaboost算法检测人眼位置坐标为(xk,yk),在x、y轴方向的移动速度为(uk,vk),此时状态向量方程为:
Xk=[xk,yk,uk,vk]T
A2、由于没有输入,进一步有:
Xk+1=AkXk+Wk
A3、在实际检测中,相邻两帧图像时间间隔较短,目标运动能看做是匀速线性的,Ak可表示为:
A4、观测模型为:
Zk=Hxk+Vk
Zk表示t时刻图像中人眼位置,且仅跟位置相关,因而H可以表示为
跟踪状态初始值由连续两帧中的人眼运动信息确定;在每次迭代校正过程中,通过Adaboost算法进行人眼检测获得观测值;在实际跟踪中,若出现目标丢失情况,此时需要采用Adaboost算法对整幅图像重新检测定位。
进一步地,S4中人眼状态识别步骤具体包括:
A1、在人眼区域二值化图像中进行积分投影,获得人眼高宽比;
A2、计算人眼区域二值化图像中人眼黑色区域面积与其外接矩形面积的比例;
A3、将人眼高宽比λ、人眼面积和外接矩形面积比P与所设阈值进行比较判断,λ有两个阈值:0.21、0.32,P阈值为0.75。
进一步地,S5步骤具体包括:
A1、计算PERCLOS=眼睛闭合帧数/检测单元总帧数;
A2、计算检测单元内眨眼频率F;
A3、将PERCLOS值和F进行阈值比较并最终判断驾驶员状态,如果PERCLOS值f小于0.39,则判断F是否小于5,当F<5时,认为驾驶员走神;如果f大于0.39,则判断F是否大于20,当F>20时,可认为驾驶员状态正常。
与现有技术相比,本发明具有如下优点和技术效果:该方法利用摄像头采集的实时信息,首先在实现人脸检测的基础上,通过Harr分类器定位人眼区域,并且通过自适应阈值法排除非人眼区域,然后利用人眼高宽比和外接矩形面积占比两种参数进行人眼状态识别,最后通过PERCLOS原理与眨眼频率相结合的方法对驾驶员状态予以识别,具好较好的检测效果。本发明综合多项指标判定驾驶员疲劳状态,从而使得判断结果更为科学和准确。
附图说明
图1为实例中的整体模块架构示意图;
图2为实例中人眼状态识别流程示意图;
图3为实例中疲劳状态检测流程示意图。
具体实施方式
下面结合附图对本发明的具体实施过程作详细说明,但本发明要求保护的范围并不局限于下例表述的范围。
如图1,本实例的疲劳检测架构中,包括图像预处理模块、目标检测模块、目标跟踪模块、状态识别模块、疲劳检测模块。
在具体实施过程中,按照如下步骤进行。
S1、对图像进行预处理,将CCD摄像头采集的驾驶员图像进行灰度化、直方图增强、滤波去噪等处理;
S2、采用Harr分类器对视频图像进行检测,将检测到的人脸区域作为感兴趣区域,在此区域内继续利用Harr分类器检测人眼,并采用自适应阈值法排除非人眼区域。具体包括:
A1、通过Adaboost算法获得人脸特征分类器和人眼特征分类器;
A2、使用人脸分类器在视频图像帧中检测出人脸区域,并进一步通过人眼特征分类器检测人眼区域;
A3、采用自适应阈值法排除非人眼区域,这里所指的自适应阈值是根据Harr分类器检测的集合元素个数动态的选取,将待筛选的人眼区域集合按照包含元素的个数进行排序,以集合元素个数的次大值作为阈值,将阈值外集合予以排除,这种阈值会根据每次检测的不同集合而变化。
S3、采用卡尔曼滤波跟踪算法对驾驶员人眼进行目标跟踪。具体包括以下步骤:
A1、在每帧图像中,人眼的状态可以用位置和速度表示,设t=k时,通过Adaboost算法检测人眼位置坐标为(xk,yk),在x、y轴方向的移动速度为(uk,vk),此时状态向量方程为:
Xk=[xk,yk,uk,vk]T
A2、由于没有输入,因此系统模型可表述为:
Xk+1=AkXk+Wk
A3、在实际检测中,驾驶员头部运动不会特别激烈,且相邻两帧图像时间间隔较短,目标运动可看做是匀速线性的,Ak可表示为:
A4、观测模型为:
Zk=Hxk+Vk
Zk表示t时刻图像中人眼位置,且仅跟位置相关,因而H可以表示为
跟踪状态初始值可由连续两帧中的人眼运动信息确定。在每次迭代校正过程中,可通过Adaboost算法进行人眼检测获得观测值。在实际跟踪中,有可能出现目标丢失情况,此时需要采用Adaboost算法对整幅图像重新检测定位。在发明中,如果连续超过四帧出现跟踪丢失的情况,则采取重新定位的策略
S4、将人眼区域图像二值化,计算人眼高宽比、眼部区域面积与外接矩形面积比,并如图2所示判定人眼状态,具体步骤如下:
A1、在人眼区域二值化图像中进行积分投影,获得人眼高宽比;
A2、计算人眼区域二值化图像中人眼黑色区域面积与其外接矩形面积的比例;
A3、将人眼高宽比λ、人眼面积和外接矩形面积比P与所设阈值按照图2中所示进行判断当P>0.75时,可认为人眼处于闭合状态,当P<0.75时则根据λ的范围判断:如果λ<0.21则认为是闭合百分之八十,如果0.21<λ<0.32则认为是半开半闭状态,如果λ>0.32则认为是完全睁开状态。
S5、在获得人眼状态的基础上,计算单位时间内闭合眼睛所占百分比PERCLOS值和眨眼频率,具体步骤如下;
A1、计算PERCLOS=眼睛闭合帧数/检测单元总帧数;
A2、计算检测单元内眨眼频率;
A3、按照如图3所示进行阈值比较并最终判断驾驶员状态:首先计算PERCLOS值,如果f小于0.39,则判断F是否小于5,当F<5时,可认为驾驶员走神。如果f大于0.39,则判断F是否大于20,当F>20时,可认为驾驶员状态正常。

Claims (5)

1.一种基于视频信息的驾驶员疲劳检测方法,其特征在于:在对每帧图像中的人眼状态识别过程采用人眼高宽比λ、人眼面积和外接矩形面积比P两种参数进行判断,当P>0.75时,可认为人眼处于闭合状态,当P<0.75时则根据λ的范围判断:如果λ<0.21则认为是闭合百分之八十,如果0.21<λ<0.32则认为是半开半闭状态,如果λ>0.32则认为是完全睁开状态;在对驾驶员的疲劳状态判断的过程中,采用PERCLOS原理与眨眼频率相结合的方式,设置不同阈值,进行判断。
2.根据权利要求1所述的一种基于视频信息的驾驶员疲劳检测方法,其特征包括如下步骤:
S1、通过CCD摄像头实时采集驾驶员图像信息,利用图像处理技术对视频帧图像进行灰度化、增强和滤波;
S2、采用Harr分类器对视频图像进行检测,将检测到的人脸区域作为感兴趣区域,在此区域内继续利用Harr分类器检测人眼,并采用自适应阈值法排除非人眼区域;
S3、采用卡尔曼滤波跟踪算法对驾驶员人眼进行目标跟踪;
S4、将人眼区域图像二值化,计算人眼高宽比、眼部区域面积与外接矩形面积比,并判定人眼状态;
S5、在获得人眼状态的基础上,计算单位时间内闭合眼睛所占百分比PERCLOS值和眨眼频率,将PERCLOS值及眨眼频率与所设阈值相比,从而判定驾驶员疲劳状态。
3.根据权利要求2所述一种基于视频信息的驾驶员疲劳检测方法,其特征在于S3中人眼跟踪步骤采用卡尔曼滤波跟踪算法并采用Adaboost算法作为观测条件,具体是:
A1、在每帧图像中,人眼的状态用位置和速度表示,设时间t=k时,通过Adaboost算法检测人眼位置坐标为(xk,yk),在x、y轴方向的移动速度为(uk,vk),此时状态向量方程为:
Xk=[xk,yk,uk,vk]T
A2、由于没有输入,进一步有:
Xk+1=AkXk+Wk
A3、在实际检测中,相邻两帧图像时间间隔较短,目标运动能看做是匀速线性的,Ak可表示为:
A4、观测模型为:
Zk=Hxk+Vk
Zk表示t时刻图像中人眼位置,且仅跟位置相关,因而H可以表示为
跟踪状态初始值由连续两帧中的人眼运动信息确定;在每次迭代校正过程中,通过Adaboost算法进行人眼检测获得观测值;在实际跟踪中,若出现目标丢失情况,此时需要采用Adaboost算法对整幅图像重新检测定位。
4.根据权利要求2所述一种基于视频信息的驾驶员疲劳检测方法,其特征在于,S4中人眼状态识别步骤具体包括:
A1、在人眼区域二值化图像中进行积分投影,获得人眼高宽比;
A2、计算人眼区域二值化图像中人眼黑色区域面积与其外接矩形面积的比例;
A3、将人眼高宽比λ、人眼面积和外接矩形面积比P与所设阈值进行对比判断,λ有两个阈值:0.21、0.32,P阈值为0.75。
5.根据权利要求2所述一种基于视频信息的驾驶员疲劳检测方法,其特征在于,S5步骤具体包括:
A1、计算PERCLOS=眼睛闭合帧数/检测单元总帧数;
A2、计算检测单元内眨眼频率F;
A3、将PERCLOS值和F进行阈值比较并最终判断驾驶员状态,如果PERCLOS值f小于0.39,则判断F是否小于5,当F<5时,认为驾驶员走神;如果f大于0.39,则判断F是否大于20,当F>20时,可认为驾驶员状态正常。
CN201510866796.3A 2015-11-30 2015-11-30 基于视频信息的驾驶员疲劳检测方法 Active CN105286802B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510866796.3A CN105286802B (zh) 2015-11-30 2015-11-30 基于视频信息的驾驶员疲劳检测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510866796.3A CN105286802B (zh) 2015-11-30 2015-11-30 基于视频信息的驾驶员疲劳检测方法

Publications (2)

Publication Number Publication Date
CN105286802A CN105286802A (zh) 2016-02-03
CN105286802B true CN105286802B (zh) 2019-05-14

Family

ID=55185137

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510866796.3A Active CN105286802B (zh) 2015-11-30 2015-11-30 基于视频信息的驾驶员疲劳检测方法

Country Status (1)

Country Link
CN (1) CN105286802B (zh)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106539581B (zh) * 2016-12-07 2019-08-20 中国民用航空总局第二研究所 基于概率统计方法的管制员疲劳检测方法及系统
CN107204123A (zh) * 2017-06-21 2017-09-26 深圳市盛路物联通讯技术有限公司 一种结合天气信息的车辆停车引导系统及方法
CN107798295A (zh) * 2017-09-27 2018-03-13 杭州分数科技有限公司 行车提醒方法、装置及设备
CN107844777B (zh) * 2017-11-16 2021-06-11 百度在线网络技术(北京)有限公司 用于生成信息的方法和装置
CN108133573A (zh) * 2017-12-26 2018-06-08 中国神华能源股份有限公司 疲劳驾驶报警系统
JP2021511606A (ja) 2018-04-25 2021-05-06 ベイジン ディディ インフィニティ テクノロジー アンド ディベロップメント カンパニー リミティッド 顔の特徴点に基づく瞬き動作認識のためのシステムおよび方法
CN109784248A (zh) * 2019-01-02 2019-05-21 京东方科技集团股份有限公司 瞳孔定位方法、瞳孔定位装置、电子设备、存储介质
CN110188655A (zh) * 2019-05-27 2019-08-30 上海蔚来汽车有限公司 驾驶状态评价方法、系统及计算机存储介质
CN110532976B (zh) * 2019-09-03 2021-12-31 湘潭大学 基于机器学习和多特征融合的疲劳驾驶检测方法及系统
CN113060145B (zh) * 2021-04-13 2022-05-13 龙岩学院 驾驶员走神行为分析方法
CN113140093A (zh) * 2021-04-26 2021-07-20 贵阳职业技术学院 一种基于AdaBoost算法的疲劳驾驶检测方法
CN115989155A (zh) * 2021-08-16 2023-04-18 华为技术有限公司 一种透光率调整方法及装置

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1830389A (zh) * 2006-04-21 2006-09-13 太原理工大学 疲劳驾驶状态监控装置及方法
US7202793B2 (en) * 2002-10-11 2007-04-10 Attention Technologies, Inc. Apparatus and method of monitoring a subject and providing feedback thereto
CN101059836A (zh) * 2007-06-01 2007-10-24 华南理工大学 一种人眼定位及人眼状态识别方法
CN101814137A (zh) * 2010-03-25 2010-08-25 浙江工业大学 基于红外眼态识别的疲劳驾驶预警系统
CN102622600A (zh) * 2012-02-02 2012-08-01 西南交通大学 基于面像与眼动分析的高速列车驾驶员警觉度检测方法
CN104013414A (zh) * 2014-04-30 2014-09-03 南京车锐信息科技有限公司 一种基于移动智能手机的驾驶员疲劳检测系统
CN104050456A (zh) * 2014-06-27 2014-09-17 南京通用电器有限公司 一种基于不变矩的监测驾驶员眼睛状态的方法
CN104318237A (zh) * 2014-10-28 2015-01-28 厦门大学 基于人脸识别的疲劳驾驶预警方法
US9198575B1 (en) * 2011-02-15 2015-12-01 Guardvant, Inc. System and method for determining a level of operator fatigue

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7202793B2 (en) * 2002-10-11 2007-04-10 Attention Technologies, Inc. Apparatus and method of monitoring a subject and providing feedback thereto
CN1830389A (zh) * 2006-04-21 2006-09-13 太原理工大学 疲劳驾驶状态监控装置及方法
CN101059836A (zh) * 2007-06-01 2007-10-24 华南理工大学 一种人眼定位及人眼状态识别方法
CN101814137A (zh) * 2010-03-25 2010-08-25 浙江工业大学 基于红外眼态识别的疲劳驾驶预警系统
US9198575B1 (en) * 2011-02-15 2015-12-01 Guardvant, Inc. System and method for determining a level of operator fatigue
CN102622600A (zh) * 2012-02-02 2012-08-01 西南交通大学 基于面像与眼动分析的高速列车驾驶员警觉度检测方法
CN104013414A (zh) * 2014-04-30 2014-09-03 南京车锐信息科技有限公司 一种基于移动智能手机的驾驶员疲劳检测系统
CN104050456A (zh) * 2014-06-27 2014-09-17 南京通用电器有限公司 一种基于不变矩的监测驾驶员眼睛状态的方法
CN104318237A (zh) * 2014-10-28 2015-01-28 厦门大学 基于人脸识别的疲劳驾驶预警方法

Also Published As

Publication number Publication date
CN105286802A (zh) 2016-02-03

Similar Documents

Publication Publication Date Title
CN105286802B (zh) 基于视频信息的驾驶员疲劳检测方法
Devi et al. Driver fatigue detection based on eye tracking
Ji et al. Fatigue state detection based on multi-index fusion and state recognition network
CN102324166B (zh) 一种疲劳驾驶检测方法及装置
Tipprasert et al. A method of driver’s eyes closure and yawning detection for drowsiness analysis by infrared camera
CN104361332B (zh) 一种用于疲劳驾驶检测的人脸眼睛区域定位方法
CN104269028A (zh) 一种疲劳驾驶检测方法及系统
CN106846734A (zh) 一种疲劳驾驶检测装置及方法
CN112434611B (zh) 基于眼部运动细微特征的早期疲劳检测方法及系统
US7650034B2 (en) Method of locating a human eye in a video image
CN104616438A (zh) 一种用于疲劳驾驶检测的打哈欠动作检测方法
CN110728241A (zh) 一种基于深度学习多特征融合的驾驶员疲劳检测方法
EP1868138A2 (en) Method of tracking a human eye in a video image
CN107595307A (zh) 基于机器视觉人眼识别的疲劳驾驶检测装置及检测方法
Ahmed et al. Robust driver fatigue recognition using image processing
CN110859609B (zh) 基于语音分析的多特征融合疲劳驾驶检测方法
CN111753674A (zh) 一种基于深度学习的疲劳驾驶的检测识别方法
CN107405121A (zh) 用于对车辆的驾驶员的疲劳状态和/或睡觉状态进行识别的方法和装置
Huang et al. P-FDCN based eye state analysis for fatigue detection
CN101872419A (zh) 一种汽车驾驶员疲劳检测的方法
Luo et al. The driver fatigue monitoring system based on face recognition technology
CN113989788A (zh) 一种基于深度学习和多指标融合的疲劳检测方法
CN103729646A (zh) 一种眼睛图像有效性检测方法
CN108108651B (zh) 基于视频人脸分析的驾驶员非专心驾驶检测方法及系统
CN110097012B (zh) 基于N-range图像处理算法的眼动参数监测的疲劳检测方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant