CN105354988A - 一种基于机器视觉的驾驶员疲劳驾驶检测系统及检测方法 - Google Patents
一种基于机器视觉的驾驶员疲劳驾驶检测系统及检测方法 Download PDFInfo
- Publication number
- CN105354988A CN105354988A CN201510920979.9A CN201510920979A CN105354988A CN 105354988 A CN105354988 A CN 105354988A CN 201510920979 A CN201510920979 A CN 201510920979A CN 105354988 A CN105354988 A CN 105354988A
- Authority
- CN
- China
- Prior art keywords
- fatigue
- face
- driver
- image
- state
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B21/00—Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
- G08B21/02—Alarms for ensuring the safety of persons
- G08B21/06—Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
- G06V20/597—Recognising the driver's state or behaviour, e.g. attention or drowsiness
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
- G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
Abstract
本发明提出一种基于机器视觉的驾驶员疲劳驾驶检测系统及检测方法,属于机器视觉、机器学习技术领域,该系统属于非侵入式检测系统,在检测时通过摄像头采集所需信息,不影响驾驶员的正常驾驶,且设备价格低、体积小,仅需在车内安装蓝牙摄像头,在手机内安装app软件,便可实现对驾驶员的疲劳检测;本系统采集信息方便易行,使用时仅需外加摄像头即可适应任何车型及路况,拥有一致的疲劳判断标准和较高的疲劳判断准确率;本系统综合眼部、嘴部和脸部疲劳特征,提高了在复杂的驾驶环境下疲劳判断的准确率,并结合机器学习根据驾驶员的反馈来快速更新系统自身参数以适应不同驾驶员自身的不同特点,系统训练时间短,计算速度快,实时性强。
Description
技术领域
本发明属于机器视觉、机器学习技术领域,具体涉及一种基于机器视觉的驾驶员疲劳驾驶检测系统及检测方法。
背景技术
疲劳驾驶是导致交通事故发生的主要原因之一。在世界各地,每年都有许多车祸是由疲劳驾驶所导致。据美国国家公路安全管理局(NHTSA)的调查数据统计,每年由疲劳驾驶引起的交通事故达100,000起,占交通事故总量的16%以上。疲劳驾驶检测系统能够实时地检测驾驶员的疲劳状态并在疲劳驾驶发生时及时地向车内人员发出警报,这对预防因疲劳驾驶而产生的交通事故的发生和避免因事故发生而造成的巨大费用损失有着重要的作用。
现有的疲劳驾驶检测系统依据的信息主要有三种,分别为驾驶员生理信息,车辆行为信息以及驾驶员面部图像信息。基于驾驶员生理信息的疲劳检测系统,在检测时需要相应的信息采集设备,如心电图仪,脑电图仪等,与驾驶员进行直接接触,严重干扰了驾驶员的正常驾驶。同时,由于这些设备昂贵的价格和庞大的体积,进一步阻碍了这类系统的推广普及。基于车辆行为信息的疲劳检测系统,由于不同车型以及不同路况之间的差异,要采集方向盘转角、油门踏板力、车辆与道路中线距离等车辆行为信息较为困难。又因为不同的驾驶员有不同的驾驶习惯,难以统一疲劳判断标准,导致这类系统的疲劳判断准确率不高。基于驾驶员面部图像的疲劳检测系统,通过提取图像中的疲劳特征,例如眼部特征(眨眼频率),头部特征(抬头低头)以及嘴部特征(打哈气),来判断驾驶员的疲劳状态,但是现有的此类系统有三大缺陷:第一,现有系统主要通过单一的面部特征来判断疲劳状态,导致了它们在复杂的驾驶环境下适应性较差的问题;第二,现有系统不能够进行自我改进来适应不同驾驶员各自的特点;第三,现有系统由于计算速度不足的原因导致了系统的实时性不强。
发明内容
针对现有技术的不足,本发明提出一种基于机器视觉的驾驶员疲劳驾驶检测系统及检测方法,以达到降低侵入性和成本,提高适应和实时性的目的。
一种基于机器视觉的驾驶员疲劳驾驶检测系统,该系统包括五官及面部的定位与追踪模块、疲劳特征状态判断及综合疲劳判断模块和基于驾驶员反馈的在线学习模块,其中,
五官及面部的定位与追踪模块:用于接收摄像头所拍摄的追踪图像,并对追踪图像中人物的五官及面部进行定位,将五官及面部图像截取出,发送至疲劳特征状态判断及综合疲劳判断模块中;
疲劳特征状态判断及综合疲劳判断模块:
初始化时,用于获得截取后图像像素和人工标定疲劳特征所属分类的训练集,基于极限学习机对疲劳特征状态分类器进行训练;再获得多组追踪图像的五官及面部疲劳特征状态向量和对应人物的疲劳状态形成训练集,并基于极限学习机对疲劳状态分类器进行训练;
实际检测时,用于获得截取后图像的像素矩阵,并将上述像素矩阵转换为特征向量,根据转换后的特征向量,采用疲劳特征状态分类器和疲劳状态分类器判断驾驶员是否属于疲劳状态,若是则发出警告提醒驾驶员并判断驾驶员是否有发送反馈信号,否则继续检测;若有驾驶员反馈信号,则将反馈信号发送至基于驾驶员反馈的在线学习模块中;
基于驾驶员反馈的在线学习模块:用于根据驾驶员反馈信号进行在线学习,重新对疲劳状态分类器进行训练。
采用基于机器视觉的驾驶员疲劳驾驶检测系统进行的检测方法,包括以下步骤:
步骤1、使用摄像头采集疲劳状态下的人物视频和未疲劳状态下的人物视频;
步骤2、设置视频所需提取的连续图像帧的个数,获得追踪图像;
步骤3、定位追踪图像中人物的五官及面部的所在位置并截取,获得截取后图像像素和人工标定疲劳特征所属分类的训练集,基于极限学习机对疲劳特征状态分类器进行训练;
步骤4、获得多组追踪图像的五官及面部疲劳特征状态向量和对应人物的疲劳状态形成训练集,并基于极限学习机对疲劳状态分类器进行训练;
步骤5、通过车载装置中的摄像头采集驾驶员行车过程中的人物图像;
步骤6、对驾驶员的五官及面部进行定位并截取;
步骤7、获得截取后图像的像素矩阵,并将上述像素矩阵转换为特征向量;
步骤8、根据转换后的特征向量,采用疲劳特征状态分类器和疲劳状态分类器判断车主是否属于疲劳状态,若是,则执行步骤9;否则,返回执行步骤5;
步骤9、发出警告提醒驾驶员并判断驾驶员是否有发送反馈信号,若是,则执行步骤10,否则执行步骤5;
步骤10、根据驾驶员反馈信号进行在线学习,重新对疲劳状态分类器进行训练,返回执行步骤5,直至检测结束。
步骤3所述的定位追踪图像中人物的五官及面部的所在位置并截取,获得截取后图像像素和人工标定疲劳特征所属分类的训练集,具体为:
截图的图像包括眼睛、嘴和面部,将截取后的图像的像素矩阵转换为特征向量;
通过人工标定的方式确定所截取图像中的疲劳特征所述的分类:
当疲劳特征为眼睛时,所属分类包括睁眼和闭眼;
当疲劳特征为嘴时,所属分类包括张嘴和闭嘴;
当疲劳特征为面部时,所属分类包括抬头和低头。
步骤4所述的获得多组追踪图像的五官及面部疲劳特征状态向量和对应人物的疲劳状态形成训练集,具体为:
所述的追踪图像为连续多张图像,获得追踪图像中每个图像的五官及面部疲劳特征状态,即确定疲劳特征的所属分类,形成五官及面部疲劳特征向量;将多组五官及面部疲劳特征向量和对应人物的实际疲劳状态形成训练集。
步骤4所述的五官及面部疲劳特征状态向量和步骤7所述的特征向量,采用主成分析法对其进行降维处理。
步骤10所述的根据驾驶员反馈信号进行在线学习,具体为:
获得产生疲劳状态判断错误时驾驶员人物图像的五官及面部截图,将截取后图像的像素矩阵转换为特征向量,将该特征向量替换步骤4所述训练集中的特征向量,重新基于极限学习机对疲劳状态分类器进行训练。
本发明优点:
本发明提出一种基于机器视觉的驾驶员疲劳驾驶检测系统及检测方法,该系统属于非侵入式检测系统,在检测时通过摄像头采集所需信息,不影响驾驶员的正常驾驶,且本系统所需的设备价格低、体积小,仅需在车内安装蓝牙摄像头,在手机内安装相应的app软件,便可实现对驾驶员的疲劳检测;相对于基于车辆行为信息的疲劳检测系统,本系统采集信息方便易行,使用时仅需外加摄像头即可适应任何车型及路况,拥有一致的疲劳判断标准和较高的疲劳判断准确率;相对于基于驾驶员面部图像的疲劳检测系统,本系统综合了眼部、嘴部和脸部疲劳特征,提高了在复杂的驾驶环境下疲劳判断的准确率,并结合机器学习相关技术根据驾驶员的反馈来快速更新系统自身参数以适应不同驾驶员自身的不同特点;而且本系统采用极限学习机来进行疲劳特征状态以及疲劳综合判断,系统训练时间短,计算速度快,实时性强。
附图说明
图1为本发明一种实施例的基于机器视觉的驾驶员疲劳驾驶检测系统结构框图;
图2为本发明一种实施例的基于机器视觉的驾驶员疲劳驾驶检测方法流程图;
图3为本发明一种实施例的采集图像示意图;
图4为本发明一种实施例的采集图像截取部分示意图,其中,图(a)为眼部效果图,图(b)为嘴部效果图,图(c)为面部效果图。
具体实施方式
下面结合附图对本发明一种实施例做进一步说明。
本发明实施例中,如图1所示,一种基于机器视觉的驾驶员疲劳驾驶检测系统包括五官及面部的定位与追踪模块、疲劳特征状态判断及综合疲劳判断模块和基于驾驶员反馈的在线学习模块,其中,
五官及面部的定位与追踪模块:用于接收摄像头所拍摄的追踪图像,并对追踪图像中人物的五官及面部进行定位,将五官及面部图像截取出来发送至疲劳特征状态判断及综合疲劳判断模块中;
疲劳特征状态判断及综合疲劳判断模块:
初始化时,用于获得截取后图像像素和人工标定疲劳特征所属分类的训练集,基于极限学习机对疲劳特征状态分类器进行训练;再获得多组追踪图像的五官及面部疲劳特征状态向量和对应人物的疲劳状态形成训练集,并基于极限学习机对疲劳状态分类器进行训练;
实际检测时,用于获得截取后图像的像素矩阵,并将上述像素矩阵转换为特征向量,根据转换后的特征向量,采用疲劳特征状态分类器和疲劳状态分类器判断驾驶员是否属于疲劳状态,若是则发出警告提醒驾驶员并判断驾驶员是否有发送反馈信号,否则继续检测;若有驾驶员反馈信号,则将反馈信号发送至基于驾驶员反馈的在线学习模块中;
基于驾驶员反馈的在线学习模块:用于根据驾驶员反馈信号进行在线学习,重新对疲劳状态分类器进行训练。
本发明实施例中,采用基于机器视觉的驾驶员疲劳驾驶检测系统进行的检测方法,方法流程图如图2所示,包括以下步骤:
步骤1、使用摄像头采集疲劳状态下的人物视频和未疲劳状态下的人物视频;
步骤2、设置视频所需提取的连续图像帧的个数,获得追踪图像;
本发明实施例中,设定提取的连续图像帧个数为5;
步骤3、定位追踪图像中人物的五官及面部的所在位置并截取,获得截取后图像像素和人工标定疲劳特征所属分类的训练集,基于极限学习机对疲劳特征状态分类器进行训练;
本发明实施例中,采用基于Haar特征、Adaboost分类器和Cascade级联分类器的Viola-Jones检测器实现对驾驶员的面部及五官的定位;在通过Viola-Jones检测器定位出第一组驾驶员的面部及五官的特征后,使用Kanade-Lucas-Tomasi(KLT)算法采取特征追踪的方式取代Viola-Jones检测器来采集驾驶员的面部及五官特征,称驾驶员的面部及五官特征为驾驶员的疲劳特征;
截图的图像包括眼睛、嘴和面部,将截取后的图像的像素矩阵转换为特征向量;通过人工标定的方式确定所截取图像中的疲劳特征所述的分类:当疲劳特征为眼睛时,所属分类包括睁眼和闭眼;当疲劳特征为嘴时,所属分类包括张嘴和闭嘴;当疲劳特征为面部时,所属分类包括抬头和低头。
本发明实施例中,极限学习机(ELM)训练过程的具体步骤:
步骤3-1、对数据进行标准化预处理:
训练样本集Z=[z1,z2,z3,z4,...,zN],其中,N为训练样本的个数,即训练集中的图像数量,i=1......N,zi为第i组训练样本,即训练集中的第i张图片的像素矩阵转化得到的特征向量经主成分分析法降维得到的特征向量,zi=[zi1,zi2,zi3,zi4,...,zin]T,n表示每个训练样本的特征向量维数,本专利中眼部判断特征向量维度为2116,嘴部判断特征向量维度为1188,脸部判断特征向量维度为20417;训练样本的结果集
Y=[y1,y2,y3,y4,...,yN],yi为第i组训练样本的结果;
yi=[yi1,yi2,yi3,yi4,...,yim]T;本实施例中yi=[1,0]T代表第i组图像为睁眼,张嘴或抬头,yi=[0,1]T代表第i组图像为闭眼,闭嘴或低头。
步骤3-2、确定隐藏层的节点数L的值和正则项系数C的值,然后随机生成输入层和隐藏层的连接权值w和隐藏层的偏移量b;
w的矩阵表示形式:w=[w1,w2,...,wL]T,wi=[wi1,wi2,wi3,...,win];
b的矩阵表示形式:b=[b1,b2...,bn];
本发明实施例中,设置L=500,C=0.5;
步骤3-3、选择一个无限可微的函数作为激励函数g(x);
本发明实施例中,
步骤3-4、计算隐藏层的输出矩阵H:
步骤4-5:计算输出权值矩阵:
其中,I为单位矩阵,维度为HTH,Y为输出矩阵;β表示输出权值矩阵;
步骤4、获得多组追踪图像的五官及面部疲劳特征状态向量和对应人物的疲劳状态形成训练集,并基于极限学习机对疲劳状态分类器进行训练;
本发明实施例中,所述的追踪图像为连续多张图像,获得追踪图像中每个图像的五官及面部疲劳特征状态,即确定疲劳特征的所属分类,形成五官及面部疲劳特征向量;将多组五官及面部疲劳特征向量和对应人物的实际疲劳状态形成训练集。
步骤5、通过车载装置中的摄像头采集驾驶员行车过程中的人物图像;
本发明实施例中,设从摄像头获取到的视频流中提取出的一个图像帧为如图3所示,而后将图像的大小标准化为512*512;
步骤6、对驾驶员的五官及面部进行定位并截取;
本发明实施例中,对驾驶员的面部及五官进行定位及追踪的效果如图4所示;图4中图(a)为对驾驶员的眼部进行定位及追踪的效果图,将图像的大小标准化为46*69;图4中图(b)为对驾驶员的嘴部进行定位及追踪的效果图,将图像的大小标准化为33*54;图4中图(c)为对驾驶员的脸部进行定位及追踪的效果图,将图像的大小标准化为175*175。
步骤7、获得截取后图像的像素矩阵,并将上述像素矩阵转换为特征向量;
本发明实施例中,实时地定位追踪到驾驶员的眼部、嘴部以及脸部,称驾驶员的眼部、嘴部以及脸部的状态为驾驶员的疲劳特征状态,通过主成分析法对定位追踪到的图像的特征向量进行降维处理;
本发明实施例中,将定位追踪到的图像的每一个像素点作为一维特征,将图像的像素矩阵转化为特征向量;但由于图像的特征向量维度较高,为了快速判断驾驶员的疲劳特征状态,本发明通过主成分析法对图像的特征向量进行降维处理,具体步骤如下:
步骤a、数据的标准化处理;
x=[x1,x2,...,xN];
xi=[xi1,xi2,...,xiM];
其中,x表示原始采集到的特征数据,xi为第i个图像的像素矩阵向量化得到的特征向量,xij为第i个图像中的第j个像素值;N为训练集中图像的数量,M为图像像素点总数,M在本实施例中眼部为46*69,嘴部为33*54,脸部为175*175。
其中,i=1,2,....Ij=1,2,...,J;xij为第i组数据的第j个特征的值,即第i个图像的像素矩阵向量化后得到向量的第j个特征值(像素值),表示第j个变量的样本均值,Sj表示第j个变量的样本标准差,pij为第i组数据的第j个变量标准化后的值;
步骤b、计算标准化后的数据集(pij)I*J的相关矩阵R;
步骤c、求相关矩阵R的J个特征值:λ1≥λ2≥...≥λJ和对应的特征向量u1,u2,...,uJ;
步骤d、求主成分:
zi=[zi1,zi1,,zik]k<=J
其中,zi为第i组数据xi转化得到的,ukj表示特征向量uk的第j个元素;
步骤e、精度分析;
向量由J维降低到k维时的置信度E为:
本发明实施例中,取E=99.99%,表示经降维处理后生成的向量会损失0.01%的原始数据;
在本发明实施例中,眼部图像的特征向量由原来的46*69维降到2116维,嘴部图像的特征向量由原来的33*54维降到1188维,脸部图像的特征向量由原来的175*175维降到20417维;
步骤8、根据转换后的特征向量,采用疲劳特征状态分类器和疲劳状态分类器判断车主是否属于疲劳状态,若是,则执行步骤9;否则,返回执行步骤5;
本发明实施例中,使用极限学习机(ELM)判断驾驶员的疲劳特征状态:
根据降维后的疲劳特征向量,使用极限学习机判断驾驶员的疲劳特征状态,每个疲劳特征对应的极限学习机将输出该疲劳特征的两个状态判断输出节点的值;
在本发明实施例中,各个疲劳特征判断结果如下:
眼部疲劳特征的两个状态判断输出节点的值为0.932和0.068,前者是状态判断结果为睁眼输出节点的值,后者是状态判断结果为闭眼输出节点的值;
嘴部疲劳特征的两个状态判断输出节点的值为0.015和0.985,前者是状态判断结果为张嘴输出节点的值,后者是状态判断结果为闭嘴输出节点的值;
脸部疲劳特征的两个状态判断输出节点的值为0.983和0.017,前者是状态判断结果为抬头输出节点的值,后者是状态判断结果为低头输出节点的值。
本发明实施例中,使用极限学习机进行疲劳状态判断:
本发明实施例中,经过上述步骤能得到任意时刻驾驶员的眼部、嘴部以及脸部的特征状态,但对驾驶员疲劳状态的精确判断只能通过驾驶员疲劳特征状态的一系列变化来进行,所以需要从视频流中提取多个连续的图像帧来判断某一时刻驾驶员的疲劳状态;本发明实施例中,设定提取的连续图像帧个数为5;对于每一帧图像,采集极限学习机判断眼部,嘴部以及脸部状态的输出节点输出值作为特征,共有6个特征。每一次疲劳状态判断都需要用到5帧图像,每一帧图像都需要采集6个特征,所以用于判断驾驶员某一时刻的疲劳状态的特征向量为30维;根据这30维疲劳状态的特征向量,使用极限学习机判断驾驶员的疲劳状态,输出驾驶员疲劳状态判断输出节点的值;
步骤9、发出警告提醒驾驶员并判断驾驶员是否有发送反馈信号,若是,则执行步骤10,否则执行步骤5;
步骤10、根据驾驶员反馈信号进行在线学习,重新对疲劳状态分类器进行训练,返回执行步骤5,直至检测结束。
本发明实施例中,借助极限学习机学习速度快的优点,来实现对驾驶员的反馈进行高速的在线学习;
整个疲劳检测系统使用两层极限学习机来判断驾驶员的疲劳状态,其中第一层用于判断驾驶员眼部、嘴部和脸部的状态,第二层使用第一层判断得到的各个疲劳特征状态来判断驾驶员的疲劳状态;出现驾驶员疲劳状态判断错误的原因是因为第一层判断错误或者是因为第二层判断错误。
对于第一层判断错误的情况,是由于第一层的训练数据集较小,训练集中没有相关数据,导致第一层对疲劳特征状态判断的疲劳与不疲劳的结果输出完全相同。该情况要求在使用本系统前,应先使用一批训练样本训练第一层的极限学习机来完成对系统的初始化。
对于第二层判断错误的情况,是由于此时的数据处于疲劳状态与不疲劳状态的临界区间内,从而导致了判断驾驶员疲劳状态错误。对于这种情况,本系统通过使用驾驶员的反馈来训练第二层极限学习机以提高疲劳判断的精确率。当驾驶员将检测系统对驾驶员的疲劳状态判断错误的情况反馈给检测系统时,检测系统记录下判断错误的数据,将判断错误的数据加入到指定状态的队列中。当错误判断积累到一定量后,或者距离上次训练一定时间后,检测系统把反馈数据加入到训练数据集中对第二层极限学习机进行重新训练,在本发明实施例中,设置为当错误判断达到两个或者两个以上的时候立刻进行重新训练。
Claims (6)
1.一种基于机器视觉的驾驶员疲劳驾驶检测系统,其特征在于,该系统包括五官及面部的定位与追踪模块、疲劳特征状态判断及综合疲劳判断模块和基于驾驶员反馈的在线学习模块,其中,
五官及面部的定位与追踪模块:用于接收摄像头所拍摄的追踪图像,并对追踪图像中人物的五官及面部进行定位,将五官及面部图像截取出来发送至疲劳特征状态判断及综合疲劳判断模块中;
疲劳特征状态判断及综合疲劳判断模块:
初始化时,用于获得截取后图像像素和人工标定疲劳特征所属分类的训练集,基于极限学习机对疲劳特征状态分类器进行训练;再获得多组追踪图像的五官及面部疲劳特征状态向量和对应人物的疲劳状态形成训练集,并基于极限学习机对疲劳状态分类器进行训练;
实际检测时,用于获得截取后图像的像素矩阵,并将上述像素矩阵转换为特征向量,根据转换后的特征向量,采用疲劳特征状态分类器和疲劳状态分类器判断驾驶员是否属于疲劳状态,若是则发出警告提醒驾驶员并判断驾驶员是否有发送反馈信号,否则继续检测;若有驾驶员反馈信号,则将反馈信号发送至基于驾驶员反馈的在线学习模块中;
基于驾驶员反馈的在线学习模块:用于根据驾驶员反馈信号进行在线学习,重新对疲劳状态分类器进行训练。
2.采用权利要求1所述的基于机器视觉的驾驶员疲劳驾驶检测系统进行的检测方法,其特征在于,包括以下步骤:
步骤1、使用摄像头采集疲劳状态下的人物视频和未疲劳状态下的人物视频;
步骤2、设置视频所需提取的连续图像帧的个数,获得追踪图像;
步骤3、定位追踪图像中人物的五官及面部的所在位置并截取,获得截取后图像像素和人工标定疲劳特征所属分类的训练集,基于极限学习机对疲劳特征状态分类器进行训练;
步骤4、获得多组追踪图像的五官及面部疲劳特征状态向量和对应人物的疲劳状态形成训练集,并基于极限学习机对疲劳状态分类器进行训练;
步骤5、通过车载装置中的摄像头采集驾驶员行车过程中的人物图像;
步骤6、对驾驶员的五官及面部进行定位并截取;
步骤7、获得截取后图像的像素矩阵,并将上述像素矩阵转换为特征向量;
步骤8、根据转换后的特征向量,采用疲劳特征状态分类器和疲劳状态分类器判断车主是否属于疲劳状态,若是,则执行步骤9;否则,返回执行步骤5;
步骤9、发出警告提醒驾驶员并判断驾驶员是否有发送反馈信号,若是,则执行步骤10,否则执行步骤5;
步骤10、根据驾驶员反馈信号进行在线学习,重新对疲劳状态分类器进行训练,返回执行步骤5,直至检测结束。
3.根据权利要求2所述的检测方法,其特征在于,步骤3所述的定位追踪图像中人物的五官及面部的所在位置并截取,获得截取后图像像素和人工标定疲劳特征所属分类的训练集,具体为:
截图的图像包括眼部、嘴部和面部,将截取后的图像的像素矩阵转换为特征向量;
通过人工标定的方式确定所截取图像中的疲劳特征所述的分类:
当疲劳特征为眼部时,所属分类包括睁眼和闭眼;
当疲劳特征为嘴部时,所属分类包括张嘴和闭嘴;
当疲劳特征为面部时,所属分类包括抬头和低头。
4.根据权利要求2所述的检测方法,其特征在于,步骤4所述的获得多组追踪图像的五官及面部疲劳特征状态向量和对应人物的疲劳状态形成训练集,具体为:
所述的追踪图像为连续多张图像,获得追踪图像中每个图像的五官及面部疲劳特征状态,即确定疲劳特征的所属分类,形成五官及面部疲劳特征向量;将多组五官及面部疲劳特征向量和对应人物的实际疲劳状态形成训练集。
5.根据权利要求2所述的检测方法,其特征在于,步骤4所述的五官及面部疲劳特征状态向量和步骤7所述的特征向量,采用主成分析法对其进行降维处理。
6.根据权利要求2所述的检测方法,其特征在于,步骤10所述的根据驾驶员反馈信号进行在线学习,具体为:
获得产生疲劳状态判断错误时驾驶员人物图像的五官及面部截图,将截取后图像的像素矩阵转换为特征向量,将该特征向量替换步骤4所述训练集中的特征向量,重新基于极限学习机对疲劳状态分类器进行训练。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510920979.9A CN105354988B (zh) | 2015-12-11 | 2015-12-11 | 一种基于机器视觉的驾驶员疲劳驾驶检测系统及检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510920979.9A CN105354988B (zh) | 2015-12-11 | 2015-12-11 | 一种基于机器视觉的驾驶员疲劳驾驶检测系统及检测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105354988A true CN105354988A (zh) | 2016-02-24 |
CN105354988B CN105354988B (zh) | 2018-02-27 |
Family
ID=55330954
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510920979.9A Active CN105354988B (zh) | 2015-12-11 | 2015-12-11 | 一种基于机器视觉的驾驶员疲劳驾驶检测系统及检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105354988B (zh) |
Cited By (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106073804A (zh) * | 2016-05-27 | 2016-11-09 | 维沃移动通信有限公司 | 一种疲劳检测方法及移动终端 |
CN106097658A (zh) * | 2016-08-11 | 2016-11-09 | 上海工程技术大学 | 一种轨道列车驾驶员疲劳驾驶预警装置及方法 |
CN106218535A (zh) * | 2016-09-29 | 2016-12-14 | 俞惠茜 | 一种司机瞌睡叫醒机 |
CN106407922A (zh) * | 2016-09-08 | 2017-02-15 | 哈尔滨工程大学 | 一种基于在线字典学习形变模型的疲劳状态识别方法 |
CN106550127A (zh) * | 2016-10-31 | 2017-03-29 | 努比亚技术有限公司 | 一种提醒方法、移动终端及车载终端 |
CN106874900A (zh) * | 2017-04-26 | 2017-06-20 | 桂林电子科技大学 | 一种基于方向盘图像的司机疲劳检测方法和检测装置 |
CN108791299A (zh) * | 2018-05-16 | 2018-11-13 | 浙江零跑科技有限公司 | 一种基于视觉的驾驶疲劳检测及预警系统及方法 |
CN109087480A (zh) * | 2018-09-30 | 2018-12-25 | 惠州市名商实业有限公司 | 车载安全事件追溯的方法及系统 |
CN109191788A (zh) * | 2018-09-11 | 2019-01-11 | 吉林大学 | 驾驶员疲劳驾驶判断方法、存储介质及电子设备 |
CN109376583A (zh) * | 2018-09-04 | 2019-02-22 | 北京理工大学 | 一种智能车辆辅助驾驶的驾驶员疲劳检测方法 |
CN109389092A (zh) * | 2018-10-22 | 2019-02-26 | 北京工业大学 | 一种局部增强多任务深度迁移超限学习机及个体鲁棒的面部视频疲劳检测方法 |
CN109409174A (zh) * | 2017-08-18 | 2019-03-01 | 安徽三联交通应用技术股份有限公司 | 基于深度学习的驾驶人面部监测方法、系统、介质及设备 |
CN110021147A (zh) * | 2019-05-07 | 2019-07-16 | 四川九洲视讯科技有限责任公司 | 一种基于机器学习和数值标定的疲劳驾驶检测方法 |
CN110674664A (zh) * | 2018-06-15 | 2020-01-10 | 阿里巴巴集团控股有限公司 | 视觉注意力的识别方法及系统、存储介质、处理器 |
CN110816542A (zh) * | 2018-07-23 | 2020-02-21 | 罗伯特·博世有限公司 | 提供驾驶员帮助的方法 |
CN111209816A (zh) * | 2019-12-28 | 2020-05-29 | 杭州电子科技大学 | 一种基于正则极限学习机的非接触式疲劳驾驶检测方法 |
CN112690794A (zh) * | 2020-12-30 | 2021-04-23 | 北京理工大学深圳汽车研究院(电动车辆国家工程实验室深圳研究院) | 驾驶员状态检测方法、系统和装置 |
CN113168758A (zh) * | 2018-12-13 | 2021-07-23 | 法国大陆汽车公司 | 确定车辆驾驶者的困倦水平的方法 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080319602A1 (en) * | 2007-06-25 | 2008-12-25 | Mcclellan Scott | System and Method for Monitoring and Improving Driver Behavior |
CN101859386A (zh) * | 2010-05-17 | 2010-10-13 | 福建工程学院 | 基于Gabor变换的人脸疲劳序列模式识别系统 |
CN102254151A (zh) * | 2011-06-16 | 2011-11-23 | 清华大学 | 一种基于面部视频分析的驾驶人疲劳检测方法 |
CN103020594A (zh) * | 2012-12-03 | 2013-04-03 | 清华大学苏州汽车研究院(吴江) | 利用在线学习消除驾驶人个体差异性的疲劳状态检测方法 |
US20140055569A1 (en) * | 2012-08-22 | 2014-02-27 | Samsung Electro-Mechanics Co., Ltd. | Apparatus and method for sensing drowsy driving |
CN103714660A (zh) * | 2013-12-26 | 2014-04-09 | 苏州清研微视电子科技有限公司 | 基于图像处理融合心率特征与表情特征实现疲劳驾驶判别的系统 |
US20140276090A1 (en) * | 2011-03-14 | 2014-09-18 | American Vehcular Sciences Llc | Driver health and fatigue monitoring system and method using optics |
CN104318221A (zh) * | 2014-11-05 | 2015-01-28 | 中南大学 | 一种基于elm的人脸表情识别方法 |
-
2015
- 2015-12-11 CN CN201510920979.9A patent/CN105354988B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080319602A1 (en) * | 2007-06-25 | 2008-12-25 | Mcclellan Scott | System and Method for Monitoring and Improving Driver Behavior |
CN101859386A (zh) * | 2010-05-17 | 2010-10-13 | 福建工程学院 | 基于Gabor变换的人脸疲劳序列模式识别系统 |
US20140276090A1 (en) * | 2011-03-14 | 2014-09-18 | American Vehcular Sciences Llc | Driver health and fatigue monitoring system and method using optics |
CN102254151A (zh) * | 2011-06-16 | 2011-11-23 | 清华大学 | 一种基于面部视频分析的驾驶人疲劳检测方法 |
US20140055569A1 (en) * | 2012-08-22 | 2014-02-27 | Samsung Electro-Mechanics Co., Ltd. | Apparatus and method for sensing drowsy driving |
CN103020594A (zh) * | 2012-12-03 | 2013-04-03 | 清华大学苏州汽车研究院(吴江) | 利用在线学习消除驾驶人个体差异性的疲劳状态检测方法 |
CN103714660A (zh) * | 2013-12-26 | 2014-04-09 | 苏州清研微视电子科技有限公司 | 基于图像处理融合心率特征与表情特征实现疲劳驾驶判别的系统 |
CN104318221A (zh) * | 2014-11-05 | 2015-01-28 | 中南大学 | 一种基于elm的人脸表情识别方法 |
Non-Patent Citations (1)
Title |
---|
傅亚煌: ""基于眼动特征的机动车驾驶疲劳系统"", 《电脑与信息技术》 * |
Cited By (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106073804A (zh) * | 2016-05-27 | 2016-11-09 | 维沃移动通信有限公司 | 一种疲劳检测方法及移动终端 |
CN106073804B (zh) * | 2016-05-27 | 2018-11-30 | 维沃移动通信有限公司 | 一种疲劳检测方法及移动终端 |
CN106097658A (zh) * | 2016-08-11 | 2016-11-09 | 上海工程技术大学 | 一种轨道列车驾驶员疲劳驾驶预警装置及方法 |
CN106407922A (zh) * | 2016-09-08 | 2017-02-15 | 哈尔滨工程大学 | 一种基于在线字典学习形变模型的疲劳状态识别方法 |
CN106218535A (zh) * | 2016-09-29 | 2016-12-14 | 俞惠茜 | 一种司机瞌睡叫醒机 |
CN106550127A (zh) * | 2016-10-31 | 2017-03-29 | 努比亚技术有限公司 | 一种提醒方法、移动终端及车载终端 |
CN106874900A (zh) * | 2017-04-26 | 2017-06-20 | 桂林电子科技大学 | 一种基于方向盘图像的司机疲劳检测方法和检测装置 |
CN109409174A (zh) * | 2017-08-18 | 2019-03-01 | 安徽三联交通应用技术股份有限公司 | 基于深度学习的驾驶人面部监测方法、系统、介质及设备 |
CN108791299A (zh) * | 2018-05-16 | 2018-11-13 | 浙江零跑科技有限公司 | 一种基于视觉的驾驶疲劳检测及预警系统及方法 |
CN108791299B (zh) * | 2018-05-16 | 2020-06-19 | 浙江零跑科技有限公司 | 一种基于视觉的驾驶疲劳检测及预警系统及方法 |
CN110674664A (zh) * | 2018-06-15 | 2020-01-10 | 阿里巴巴集团控股有限公司 | 视觉注意力的识别方法及系统、存储介质、处理器 |
CN110816542A (zh) * | 2018-07-23 | 2020-02-21 | 罗伯特·博世有限公司 | 提供驾驶员帮助的方法 |
CN109376583A (zh) * | 2018-09-04 | 2019-02-22 | 北京理工大学 | 一种智能车辆辅助驾驶的驾驶员疲劳检测方法 |
CN109191788A (zh) * | 2018-09-11 | 2019-01-11 | 吉林大学 | 驾驶员疲劳驾驶判断方法、存储介质及电子设备 |
CN109087480A (zh) * | 2018-09-30 | 2018-12-25 | 惠州市名商实业有限公司 | 车载安全事件追溯的方法及系统 |
CN109389092A (zh) * | 2018-10-22 | 2019-02-26 | 北京工业大学 | 一种局部增强多任务深度迁移超限学习机及个体鲁棒的面部视频疲劳检测方法 |
CN109389092B (zh) * | 2018-10-22 | 2023-05-02 | 北京工业大学 | 一种局部增强多任务深度迁移超限学习机及个体鲁棒的面部视频疲劳检测方法 |
CN113168758A (zh) * | 2018-12-13 | 2021-07-23 | 法国大陆汽车公司 | 确定车辆驾驶者的困倦水平的方法 |
CN113168758B (zh) * | 2018-12-13 | 2023-01-31 | 法国大陆汽车公司 | 确定车辆驾驶者的困倦水平的方法 |
CN110021147A (zh) * | 2019-05-07 | 2019-07-16 | 四川九洲视讯科技有限责任公司 | 一种基于机器学习和数值标定的疲劳驾驶检测方法 |
CN111209816A (zh) * | 2019-12-28 | 2020-05-29 | 杭州电子科技大学 | 一种基于正则极限学习机的非接触式疲劳驾驶检测方法 |
CN111209816B (zh) * | 2019-12-28 | 2023-10-24 | 杭州电子科技大学 | 一种基于正则极限学习机的非接触式疲劳驾驶检测方法 |
CN112690794A (zh) * | 2020-12-30 | 2021-04-23 | 北京理工大学深圳汽车研究院(电动车辆国家工程实验室深圳研究院) | 驾驶员状态检测方法、系统和装置 |
CN112690794B (zh) * | 2020-12-30 | 2022-08-30 | 北京理工大学深圳汽车研究院(电动车辆国家工程实验室深圳研究院) | 驾驶员状态检测方法、系统和装置 |
Also Published As
Publication number | Publication date |
---|---|
CN105354988B (zh) | 2018-02-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105354988A (zh) | 一种基于机器视觉的驾驶员疲劳驾驶检测系统及检测方法 | |
CN103824420B (zh) | 基于心率变异性非接触式测量的疲劳驾驶识别系统 | |
CN108791299B (zh) | 一种基于视觉的驾驶疲劳检测及预警系统及方法 | |
CN103714660B (zh) | 基于图像处理融合心率特征与表情特征实现疲劳驾驶判别的系统 | |
CN102436715B (zh) | 疲劳驾驶检测方法 | |
CN104751600B (zh) | 基于虹膜识别的防疲劳驾驶安全设备及其使用方法 | |
CN107292386A (zh) | 使用深度学习的基于视觉的雨水检测 | |
CN109460780A (zh) | 人工神经网络的车辆安全驾驶检测方法、装置及存储介质 | |
CN106327801B (zh) | 疲劳驾驶检测方法和装置 | |
CN105844257A (zh) | 基于机器视觉雾天行车错失道路标志牌的预警系统及方法 | |
CN106448265A (zh) | 司机驾驶行为数据的采集方法及装置 | |
CN103714659B (zh) | 基于双光谱融合的疲劳驾驶识别系统 | |
CN109902560A (zh) | 一种基于深度学习的疲劳驾驶预警方法 | |
CN109948418A (zh) | 一种基于深度学习的违反导向违法自动审核方法 | |
CN103310202A (zh) | 一种保障驾驶安全的系统及其方法 | |
CN108926352B (zh) | 一种驾驶疲劳检测方法及系统 | |
CN109740477A (zh) | 驾驶员疲劳检测系统及其疲劳检测方法 | |
Elihos et al. | Comparison of image classification and object detection for passenger seat belt violation detection using NIR & RGB surveillance camera images | |
CN111415533A (zh) | 弯道安全预警监控方法、装置以及系统 | |
CN104881956A (zh) | 一种疲劳驾驶预警系统 | |
CN112016429A (zh) | 基于火车驾驶室场景下疲劳驾驶检测方法 | |
CN106295474A (zh) | 船舶驾驶员的疲劳检测方法、系统和服务器 | |
CN112991685A (zh) | 考虑驾驶人疲劳状态影响的交通系统风险评估及预警方法 | |
CN110210382A (zh) | 一种基于时空特征识别的人脸疲劳驾驶检测方法及装置 | |
CN112052829B (zh) | 一种基于深度学习的飞行员行为监控方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |