CN110532976A - 基于机器学习和多特征融合的疲劳驾驶检测方法及系统 - Google Patents

基于机器学习和多特征融合的疲劳驾驶检测方法及系统 Download PDF

Info

Publication number
CN110532976A
CN110532976A CN201910826338.5A CN201910826338A CN110532976A CN 110532976 A CN110532976 A CN 110532976A CN 201910826338 A CN201910826338 A CN 201910826338A CN 110532976 A CN110532976 A CN 110532976A
Authority
CN
China
Prior art keywords
image
mouth
eye
driver
fatigue
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910826338.5A
Other languages
English (en)
Other versions
CN110532976B (zh
Inventor
王求真
孙宇翔
黄家文
肖谢荃威
杨源
王小齐
陈圣琪
邹娟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xiangtan University
Original Assignee
Xiangtan University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xiangtan University filed Critical Xiangtan University
Priority to CN201910826338.5A priority Critical patent/CN110532976B/zh
Publication of CN110532976A publication Critical patent/CN110532976A/zh
Application granted granted Critical
Publication of CN110532976B publication Critical patent/CN110532976B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/25Fusion techniques
    • G06F18/253Fusion techniques of extracted features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/41Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • General Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Traffic Control Systems (AREA)

Abstract

本发明公开了一种基于机器学习和多特征融合的疲劳驾驶检测方法及系统,涉及计算机视觉图像处理技术领域,包括对实时获取的驾驶员面部图像进行处理,提取驾驶员的眼部图像、嘴部图像及头部位置信息;将眼部图像、嘴部图像及头部位置信息分别输入到对应训练好的分类器中以确定驾驶员的眼部分类结果、嘴部分类结果及头部分类结果;对连续多帧面部图像的眼部分类结果、嘴部分类结果及头部分类结果进行疲劳特征提取,并根据提取的疲劳特征确定驾驶员的疲劳程度;疲劳特征包括闭眼频率、打哈欠频率及点头频率。本发明能够在驾驶员眼部受遮挡的情况下保证疲劳驾驶检测准确度并有完善的警示方法保障车主及周围行人车辆安全的功能。

Description

基于机器学习和多特征融合的疲劳驾驶检测方法及系统
技术领域
本发明涉及计算机视觉图像处理技术领域,特别是涉及一种基于机器学习和多特征融合的疲劳驾驶检测方法及系统。
背景技术
近年来,机动车保有量、通车道路里程的不断增长以及商品物流流通速率的日益壮大,疲劳驾驶问题越来越突出。英国汽车协会慈善信托基金对20561名驾车者进行调查,发现17%的男性在开车时出现过疲劳驾驶的情况。驾车时需要注意力和精神的高度集中,而疲劳驾驶时司机的反应迟钝、视线模糊、精神涣散和操作失误增加。根据研究表明,60%的交通事故都仅仅缺少事故前0.5秒的反应时间,疲劳驾驶无疑大大增加了交通事故的风险。例如,中国每年发生676万起交通事故,而疲劳驾驶引发的交通事故占到交通事故总数的20%左右,在特大交通事故数中占比超过40%,因此,为减少交通事故的发生,加强疲劳驾驶监测研究也就显得必不可少。
多疲劳特征结合检测一直是疲劳驾驶检测方向的重要课题,在疲劳驾驶检测过程中,时常遇到眼部受遮挡的情况,导致检测的准确率难以保证。
发明内容
本发明的目的是提供一种基于机器学习和多特征融合的疲劳驾驶检测方法及系统,能够在驾驶员眼部受遮挡的情况下保证疲劳驾驶检测准确度。
为实现上述目的,本发明提供了如下方案:
一种基于机器学习和多特征融合的疲劳驾驶检测方法,包括:
实时获取驾驶员的面部图像;
对所述面部图像进行处理,实时提取驾驶员的人脸区域,并根据所述人脸区域分割出驾驶员的眼部图像和嘴部图像;
对所述面部图像进行处理,实时获取所述面部图像内驾驶员的头部位置信息;
将所述眼部图像、所述嘴部图像以及所述头部位置信息分别输入到对应训练好的分类器中,确定驾驶员的眼部分类结果、嘴部分类结果以及头部分类结果;所述眼部分类结果包括眼部睁开图像和眼部闭合图像,所述嘴部分类结果包括嘴部张开图像和嘴部闭合图像,所述头部分类结果包括头部下降图像和头部上升图像;
对连续多帧面部图像的眼部分类结果、嘴部分类结果以及头部分类结果进行疲劳特征提取,并根据提取的疲劳特征确定驾驶员的疲劳程度;所述疲劳特征包括闭眼频率、打哈欠频率以及点头频率。
可选的,所述疲劳驾驶检测方法还包括:
当驾驶员的疲劳程度为疲劳驾驶时,通过外界设备对驾驶员进行提醒并警示周围行人与车辆;所述外界设备包括语音提示设备、地图导航设备以及车顶灯。
可选的,所述对所述面部图像进行处理,实时提取驾驶员的人脸区域,并根据所述人脸区域分割出驾驶员的眼部图像和嘴部图像,具体包括:
调用dlib库内的人脸检测器对所述面部图像进行检测,实时提取驾驶员的人脸区域并标注眼部特征点和嘴部特征点;
根据所述眼部特征点的位置信息和所述嘴部特征点的位置信息,在所述人脸区域内分割出驾驶员的眼部图像和嘴部图像。
可选的,所述将所述眼部图像、所述嘴部图像以及所述头部位置信息分别输入到对应训练好的分类器中,确定驾驶员的眼部分类结果、嘴部分类结果以及头部分类结果,具体包括:
将所述眼部图像输入到训练好的眼部分类器中,确定驾驶员的眼部分类结果;
将所述嘴部图像输入到训练好的嘴部分类器中,确定驾驶员的嘴部分类结果;
将所述头部位置信息输入到训练好的头部位置分类器中,确定驾驶员的头部分类结果。
可选的,所述对连续多帧面部图像的眼部分类结果、嘴部分类结果以及头部分类结果进行疲劳特征提取,并根据提取的疲劳特征确定驾驶员的疲劳程度,具体包括:
根据连续多帧面部图像的眼部分类结果,当驾驶员连续闭眼的帧数与一秒内面部图像采集的帧数的比值超过第一阈值时,记录一次闭眼动作,进而确定闭眼频率;所述闭眼频率为眼部的疲劳特征;
根据连续多帧面部图像的嘴部分类结果,记录嘴部边缘的坐标值,并根据所述嘴部边缘的坐标值计算出嘴部纵横比,当驾驶员嘴部纵横比连续超过第二阈值的帧数与一秒内面部图像采集的帧数的比值超过第三阈值时,记录一次打哈欠动作,进而确定打哈欠频率;所述打哈欠频率为嘴部的疲劳特征;
根据连续多帧面部图像的头部分类结果,确定点头频率;所述点头频率为头部的疲劳特征;
采用PERCLOS算法量化眼部、嘴部以及头部的疲劳特征,并采用多特征融合方法将量化后的疲劳特征进行融合,确定驾驶员的疲劳程度。
一种基于机器学习和多特征融合的疲劳驾驶检测系统,包括:
图像获取模块,用于实时获取驾驶员的面部图像;
眼部嘴部图像分割模块,用于对所述面部图像进行处理,实时提取驾驶员的人脸区域,并根据所述人脸区域分割出驾驶员的眼部图像和嘴部图像;
头部位置信息确定模块,用于对所述面部图像进行处理,实时获取所述面部图像内驾驶员的头部位置信息;
分类模块,用于将所述眼部图像、所述嘴部图像以及所述头部位置信息分别输入到对应训练好的分类器中,确定驾驶员的眼部分类结果、嘴部分类结果以及头部分类结果;所述眼部分类结果包括眼部睁开图像和眼部闭合图像,所述嘴部分类结果包括嘴部张开图像和嘴部闭合图像,所述头部分类结果包括头部下降图像和头部上升图像;
疲劳程度确定模块,用于对连续多帧面部图像的眼部分类结果、嘴部分类结果以及头部分类结果进行疲劳特征提取,并根据提取的疲劳特征确定驾驶员的疲劳程度;所述疲劳特征包括闭眼频率、打哈欠频率以及点头频率。
可选的,所述疲劳驾驶检测系统还包括:
提醒警示模块,用于当驾驶员的疲劳程度为疲劳驾驶时,通过外界设备对驾驶员进行提醒并警示周围行人与车辆;所述外界设备包括语音提示设备、地图导航设备以及车顶灯。
可选的,所述眼部嘴部图像分割模块,具体包括:
特征点提取单元,用于调用dlib库内的人脸检测器对所述面部图像进行检测,实时提取驾驶员的人脸区域并标注眼部特征点和嘴部特征点;
分割单元,用于根据所述眼部特征点的位置信息和所述嘴部特征点的位置信息,在所述人脸区域内分割出驾驶员的眼部图像和嘴部图像。
可选的,所述分类模块,具体包括:
眼部分类单元,用于将所述眼部图像输入到训练好的眼部分类器中,确定驾驶员的眼部分类结果;
嘴部分类单元,用于将所述嘴部图像输入到训练好的嘴部分类器中,确定驾驶员的嘴部分类结果;
头部分类单元,用于将所述头部位置信息输入到训练好的头部位置分类器中,确定驾驶员的头部分类结果。
可选的,所述疲劳程度确定模块,具体包括:
眼部疲劳特征确定单元,用于根据连续多帧面部图像的眼部分类结果,当驾驶员连续闭眼的帧数与一秒内面部图像采集的帧数的比值超过第一阈值时,记录一次闭眼动作,进而确定闭眼频率;所述闭眼频率为眼部的疲劳特征;
嘴部疲劳特征确定单元,用于根据连续多帧面部图像的嘴部分类结果,记录嘴部边缘的坐标值,并根据所述嘴部边缘的坐标值计算出嘴部纵横比,当驾驶员嘴部纵横比连续超过第二阈值的帧数与一秒内面部图像采集的帧数的比值超过第三阈值时,记录一次打哈欠动作,进而确定打哈欠频率;所述打哈欠频率为嘴部的疲劳特征;
头部疲劳特征确定单元,用于根据连续多帧面部图像的头部分类结果,确定点头频率;所述点头频率为头部的疲劳特征;
疲劳程度确定单元,用于采用PERCLOS算法量化眼部、嘴部以及头部的疲劳特征,并采用多特征融合方法将量化后的疲劳特征进行融合,确定驾驶员的疲劳程度。
根据本发明提供的具体实施例,本发明公开了以下技术效果:
本发明提供了一种基于机器学习和多特征融合的疲劳驾驶检测方法及系统,首先要对驾驶员的面部图像进行疲劳特征的提取,得到闭眼频率、点头频率和打哈欠频率,然后结合PERCLOS算法量化疲劳程度。本发明通过增加头部和嘴部的检测,提高了疲劳驾驶检测的准确度和可信度。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例基于机器学习和多特征融合的疲劳驾驶检测方法的流程示意图;
图2为本发明实施例基于机器学习和多特征融合的疲劳驾驶检测方法的具体实施流程图;
图3为本发明实施例基于机器学习和多特征融合的疲劳驾驶检测系统的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明的目的是提供一种基于机器学习和多特征融合的疲劳驾驶检测方法及系统,能够在驾驶员眼部受遮挡的情况下保证疲劳驾驶检测准确度并有完善的警示方法保障车主及周围行人车辆安全的功能,用于弥补疲劳驾驶检测中因眼部受遮挡而导致准确度降低以及检测到疲劳驾驶后,缺少完善的提醒方式和安全方式的缺点。
为使本发明的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本发明作进一步详细的说明。
如图1所示,本发明提供了一种基于机器学习和多特征融合的疲劳驾驶检测方法,包括:
步骤101:实时获取驾驶员的面部图像。具体包括:
将手机放置在车载手机支架上,将车载手机支架固定在驾驶座的右前方,调整手机朝向,使其前置摄像头能正确拍摄到驾驶员的面部,通过手机前置摄像头实时获取驾驶员的面部图像,并将面部图像实时传输至后台。
步骤102:对所述面部图像进行处理,实时提取驾驶员的人脸区域,并根据所述人脸区域分割出驾驶员的眼部图像和嘴部图像。具体包括:
后台调用dlib库内的人脸检测器对所述面部图像进行检测,实时提取驾驶员的人脸区域并标注各个器官的特征点,例如眼部特征点和嘴部特征点。
根据所述眼部特征点的位置信息和所述嘴部特征点的位置信息,在所述人脸区域内分割出驾驶员的眼部图像和嘴部图像。
步骤103:对所述面部图像进行处理,实时获取所述面部图像内驾驶员的头部位置信息。
步骤104:将所述眼部图像、所述嘴部图像以及所述头部位置信息分别输入到对应训练好的分类器中,确定驾驶员的眼部分类结果、嘴部分类结果以及头部分类结果;所述眼部分类结果包括眼部睁开图像和眼部闭合图像,所述嘴部分类结果包括嘴部张开图像和嘴部闭合图像,所述头部分类结果包括头部下降图像和头部上升图像。此步骤主要是通过眼部分类器判断此帧图像睁眼/闭眼,嘴部分类器判断嘴部张开/闭合,检测头部特征点的移动情况。
具体包括:
将所述眼部图像输入到训练好的眼部分类器中,确定驾驶员的眼部分类结果。
将所述嘴部图像输入到训练好的嘴部分类器中,确定驾驶员的嘴部分类结果。
将所述头部位置信息输入到训练好的头部位置分类器中,确定驾驶员的头部分类结果。
步骤105:对连续多帧面部图像的眼部分类结果、嘴部分类结果以及头部分类结果进行疲劳特征提取,并根据提取的疲劳特征确定驾驶员的疲劳程度;所述疲劳特征包括闭眼时长、闭眼频率、打哈欠频率以及点头频率。具体包括:
首先,对一段时间内的分类器的判别结果进行疲劳特征的提取,判断是否出现闭眼动作、打哈欠动作和点头的动作。动作的判断方法如下:
闭眼动作判断
根据连续多帧面部图像的眼部分类结果,当驾驶员连续闭眼的帧数与一秒内面部图像采集的帧数的比值超过第一阈值时,记录一次闭眼动作,进而确定闭眼频率和闭眼时长;所述闭眼频率为眼部的疲劳特征,第一阈值可以设为0.2。
打哈欠动作判断
根据连续多帧面部图像的嘴部分类结果,记录嘴部边缘的坐标值(嘴部周围点的坐标值),并根据所述嘴部边缘的坐标值计算出嘴部纵横比,当驾驶员嘴部纵横比连续超过第二阈值的帧数与一秒内面部图像采集的帧数的比值超过第三阈值时,记录一次打哈欠动作,进而确定打哈欠频率;所述打哈欠频率为嘴部的疲劳特征。第三阈值可以设为0.5。
点头动作判断
根据连续多帧面部图像的头部分类结果,确定点头频率;所述点头频率为头部的疲劳特征,包含如下步骤:
步骤1:记录驾驶员正常状态下的头部位置。
步骤2:根据连续多帧面部图像的头部分类结果,判断头部位置是否持续降低,直到不再降低为止。
步骤3:判断当前位置和正常状态下的差值是否超过第四阈值,若超过进入步骤4,否则返回步骤1。
步骤4:继续根据连续多帧面部图像的头部分类结果,判断头部位置是否持续上升,直到不再上升为止。
步骤5:判断当前头部位置是否和正常状态下的位置相近,若相近则记一次点头,返回步骤1;重复循环确定点头频率。
其次,根据上述参数的数值,用PERCLOS算法量化眼部、嘴部、头部的疲劳特征。
最后采用多特征融合方法将量化后的疲劳特征进行融合,根据融合结果进行疲劳状态的判断。
融合过程:本发明是通过检测出驾驶员的眼部受遮挡程度和眼部大小来调整各个部分的权重值。融合公式如下:
T=w1*t1+w2*t2+w3*t3
t=n'/n
r1=2(a-0.34)
r2=2(b-0.35)
w1=1.5*t+0.25+r1
w2=(1-w1)/2-r2*r1
w3=(1-w1)/2-r1*(1-r2)
其中,T为疲劳程度的综合判断结果,t1、t2、t3分别为量化后的眼部、嘴部、头部的疲劳特征,w1、w2、w3分别为眼部、嘴部、头部的权重,n’为每秒钟分割出的驾驶员的眼部图像数,n为每秒钟检测到的驾驶员面部图像数,a为驾驶员眼部的纵横比的平均值,b为驾驶员嘴部的纵横比的平均值。
优选的,本发明提供的疲劳驾驶检测方法还包括:
步骤106:当驾驶员的疲劳程度为疲劳驾驶时,通过外界设备对驾驶员进行提醒并警示周围行人与车辆;所述外界设备包括语音提示设备、地图导航设备以及车顶灯。
具体为:当驾驶员的疲劳程度为疲劳驾驶时,可以通过手机对驾驶员进语音提示,打开地图并导航至附近的停车点位,手机通过蓝牙连接车顶的小灯,小灯通过颜色变化警示周围的行人与车辆。
本发明公开了一种基于机器学习和多特征融合的疲劳驾驶检测,通过手机或者设备实时获取驾驶员的面部图像,通过训练好的分类器判断驾驶员的特殊动作并提取眼部、嘴部、头部的疲劳特征,结合PERCLOS算法量化各部分的疲劳程度,用多特征融合的方法进行疲劳状态的判断,若疲劳,则对驾驶员、周围行人和车辆进行警示,并通过手机打开地图导航至附近停车点位。本发明只需要少量硬件,对车内空间的占用较少,使用手机也更加方便,在眼部受遮挡时,能通过检测嘴部和头部的疲劳特征来保证疲劳检测的有效性,在检测到疲劳状态后也有完善的安全保障措施,更大程度上保障了车主的安全。
如图3所示,本发明还提供了一种基于机器学习和多特征融合的疲劳驾驶检测系统,该系统包括:
图像获取模块100,用于实时获取驾驶员的面部图像。
眼部嘴部图像分割模块200,用于对所述面部图像进行处理,实时提取驾驶员的人脸区域,并根据所述人脸区域分割出驾驶员的眼部图像和嘴部图像。
头部位置信息确定模块300,用于对所述面部图像进行处理,实时获取所述面部图像内驾驶员的头部位置信息。
分类模块400,用于将所述眼部图像、所述嘴部图像以及所述头部位置信息分别输入到对应训练好的分类器中,确定驾驶员的眼部分类结果、嘴部分类结果以及头部分类结果;所述眼部分类结果包括眼部睁开图像和眼部闭合图像,所述嘴部分类结果包括嘴部张开图像和嘴部闭合图像,所述头部分类结果包括头部下降图像和头部上升图像。
疲劳程度确定模块500,用于对连续多帧面部图像的眼部分类结果、嘴部分类结果以及头部分类结果进行疲劳特征提取,并根据提取的疲劳特征确定驾驶员的疲劳程度;所述疲劳特征包括闭眼频率、打哈欠频率以及点头频率。
优选的,所述疲劳驾驶检测系统还包括:
提醒警示模块600,用于当驾驶员的疲劳程度为疲劳驾驶时,通过外界设备对驾驶员进行提醒并警示周围行人与车辆;所述外界设备包括语音提示设备、地图导航设备以及车顶灯。
所述眼部嘴部图像分割模块200,具体包括:
特征点提取单元,用于调用dlib库内的人脸检测器对所述面部图像进行检测,实时提取驾驶员的人脸区域并标注眼部特征点和嘴部特征点。
分割单元,用于根据所述眼部特征点的位置信息和所述嘴部特征点的位置信息,在所述人脸区域内分割出驾驶员的眼部图像和嘴部图像。
所述分类模块400,具体包括:
眼部分类单元,用于将所述眼部图像输入到训练好的眼部分类器中,确定驾驶员的眼部分类结果。
嘴部分类单元,用于将所述嘴部图像输入到训练好的嘴部分类器中,确定驾驶员的嘴部分类结果。
头部分类单元,用于将所述头部位置信息输入到训练好的头部位置分类器中,确定驾驶员的头部分类结果。
所述疲劳程度确定模块500,具体包括:
眼部疲劳特征确定单元,用于根据连续多帧面部图像的眼部分类结果,当驾驶员连续闭眼的帧数与一秒内面部图像采集的帧数的比值超过第一阈值时,记录一次闭眼动作,进而确定闭眼频率;所述闭眼频率为眼部的疲劳特征。
嘴部疲劳特征确定单元,用于根据连续多帧面部图像的嘴部分类结果,记录嘴部边缘的坐标值,并根据所述嘴部边缘的坐标值计算出嘴部纵横比,当驾驶员嘴部纵横比连续超过第二阈值的帧数与一秒内面部图像采集的帧数的比值超过第三阈值时,记录一次打哈欠动作,进而确定打哈欠频率;所述打哈欠频率为嘴部的疲劳特征。
头部疲劳特征确定单元,用于根据连续多帧面部图像的头部分类结果,确定点头频率;所述点头频率为头部的疲劳特征。
疲劳程度确定单元,用于采用PERCLOS算法量化眼部、嘴部以及头部的疲劳特征,并采用多特征融合方法将量化后的疲劳特征进行融合,确定驾驶员的疲劳程度。
本发明公开了一种基于机器学习和多特征融合的疲劳驾驶检测系统,包括图像获取部分、图像处理部分、图像分类部分、信息反馈部分。将手机放置在车载手机支架上,将车载手机支架固定在驾驶座的右前方,手机前置摄像头实时获取驾驶员的面部图像,接着将图像通过网络传输给主机上的图像处理部分,图像处理部分对图像进行人脸检测和分割,将处理好的图像传输给训练好的神经网络模型或者分类器对图像进行疲劳特征提取,根据闭眼的时长、闭眼的频率、头下坠的频率、打哈欠频率判断疲劳程度。最后,若检测出疲劳驾驶,通过手机对车主进行语音提示并打开地图导航至附近的停车点位,通过蓝牙连接车顶的警示灯进行颜色变化警示周围行人和车辆。本系统弥补了一般的疲劳检测方式缺少完善的提醒方式和安全保障方式的缺点,具有一定创新性和可行性。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的系统而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处。综上所述,本说明书内容不应理解为对本发明的限制。

Claims (10)

1.一种基于机器学习和多特征融合的疲劳驾驶检测方法,其特征在于,所述疲劳驾驶检测方法包括:
实时获取驾驶员的面部图像;
对所述面部图像进行处理,实时提取驾驶员的人脸区域,并根据所述人脸区域分割出驾驶员的眼部图像和嘴部图像;
对所述面部图像进行处理,实时获取所述面部图像内驾驶员的头部位置信息;
将所述眼部图像、所述嘴部图像以及所述头部位置信息分别输入到对应训练好的分类器中,确定驾驶员的眼部分类结果、嘴部分类结果以及头部分类结果;所述眼部分类结果包括眼部睁开图像和眼部闭合图像,所述嘴部分类结果包括嘴部张开图像和嘴部闭合图像,所述头部分类结果包括头部下降图像和头部上升图像;
对连续多帧面部图像的眼部分类结果、嘴部分类结果以及头部分类结果进行疲劳特征提取,并根据提取的疲劳特征确定驾驶员的疲劳程度;所述疲劳特征包括闭眼频率、打哈欠频率以及点头频率。
2.根据权利要求1所述的基于机器学习和多特征融合的疲劳驾驶检测方法,其特征在于,所述疲劳驾驶检测方法还包括:
当驾驶员的疲劳程度为疲劳驾驶时,通过外界设备对驾驶员进行提醒并警示周围行人与车辆;所述外界设备包括语音提示设备、地图导航设备以及车顶灯。
3.根据权利要求1所述的基于机器学习和多特征融合的疲劳驾驶检测方法,其特征在于,所述对所述面部图像进行处理,实时提取驾驶员的人脸区域,并根据所述人脸区域分割出驾驶员的眼部图像和嘴部图像,具体包括:
调用dlib库内的人脸检测器对所述面部图像进行检测,实时提取驾驶员的人脸区域并标注眼部特征点和嘴部特征点;
根据所述眼部特征点的位置信息和所述嘴部特征点的位置信息,在所述人脸区域内分割出驾驶员的眼部图像和嘴部图像。
4.根据权利要求1所述的基于机器学习和多特征融合的疲劳驾驶检测方法,其特征在于,所述将所述眼部图像、所述嘴部图像以及所述头部位置信息分别输入到对应训练好的分类器中,确定驾驶员的眼部分类结果、嘴部分类结果以及头部分类结果,具体包括:
将所述眼部图像输入到训练好的眼部分类器中,确定驾驶员的眼部分类结果;
将所述嘴部图像输入到训练好的嘴部分类器中,确定驾驶员的嘴部分类结果;
将所述头部位置信息输入到训练好的头部位置分类器中,确定驾驶员的头部分类结果。
5.根据权利要求1所述的基于机器学习和多特征融合的疲劳驾驶检测方法,其特征在于,所述对连续多帧面部图像的眼部分类结果、嘴部分类结果以及头部分类结果进行疲劳特征提取,并根据提取的疲劳特征确定驾驶员的疲劳程度,具体包括:
根据连续多帧面部图像的眼部分类结果,当驾驶员连续闭眼的帧数与一秒内面部图像采集的帧数的比值超过第一阈值时,记录一次闭眼动作,进而确定闭眼频率;所述闭眼频率为眼部的疲劳特征;
根据连续多帧面部图像的嘴部分类结果,记录嘴部边缘的坐标值,并根据所述嘴部边缘的坐标值计算出嘴部纵横比,当驾驶员嘴部纵横比连续超过第二阈值的帧数与一秒内面部图像采集的帧数的比值超过第三阈值时,记录一次打哈欠动作,进而确定打哈欠频率;所述打哈欠频率为嘴部的疲劳特征;
根据连续多帧面部图像的头部分类结果,确定点头频率;所述点头频率为头部的疲劳特征;
采用PERCLOS算法量化眼部、嘴部以及头部的疲劳特征,并采用多特征融合方法将量化后的疲劳特征进行融合,确定驾驶员的疲劳程度。
6.一种基于机器学习和多特征融合的疲劳驾驶检测系统,其特征在于,所述疲劳驾驶检测系统包括:
图像获取模块,用于实时获取驾驶员的面部图像;
眼部嘴部图像分割模块,用于对所述面部图像进行处理,实时提取驾驶员的人脸区域,并根据所述人脸区域分割出驾驶员的眼部图像和嘴部图像;
头部位置信息确定模块,用于对所述面部图像进行处理,实时获取所述面部图像内驾驶员的头部位置信息;
分类模块,用于将所述眼部图像、所述嘴部图像以及所述头部位置信息分别输入到对应训练好的分类器中,确定驾驶员的眼部分类结果、嘴部分类结果以及头部分类结果;所述眼部分类结果包括眼部睁开图像和眼部闭合图像,所述嘴部分类结果包括嘴部张开图像和嘴部闭合图像,所述头部分类结果包括头部下降图像和头部上升图像;
疲劳程度确定模块,用于对连续多帧面部图像的眼部分类结果、嘴部分类结果以及头部分类结果进行疲劳特征提取,并根据提取的疲劳特征确定驾驶员的疲劳程度;所述疲劳特征包括闭眼频率、打哈欠频率以及点头频率。
7.根据权利要求6所述的基于机器学习和多特征融合的疲劳驾驶检测系统,其特征在于,所述疲劳驾驶检测系统还包括:
提醒警示模块,用于当驾驶员的疲劳程度为疲劳驾驶时,通过外界设备对驾驶员进行提醒并警示周围行人与车辆;所述外界设备包括语音提示设备、地图导航设备以及车顶灯。
8.根据权利要求6所述的基于机器学习和多特征融合的疲劳驾驶检测系统,其特征在于,所述眼部嘴部图像分割模块,具体包括:
特征点提取单元,用于调用dlib库内的人脸检测器对所述面部图像进行检测,实时提取驾驶员的人脸区域并标注眼部特征点和嘴部特征点;
分割单元,用于根据所述眼部特征点的位置信息和所述嘴部特征点的位置信息,在所述人脸区域内分割出驾驶员的眼部图像和嘴部图像。
9.根据权利要求6所述的基于机器学习和多特征融合的疲劳驾驶检测系统,其特征在于,所述分类模块,具体包括:
眼部分类单元,用于将所述眼部图像输入到训练好的眼部分类器中,确定驾驶员的眼部分类结果;
嘴部分类单元,用于将所述嘴部图像输入到训练好的嘴部分类器中,确定驾驶员的嘴部分类结果;
头部分类单元,用于将所述头部位置信息输入到训练好的头部位置分类器中,确定驾驶员的头部分类结果。
10.根据权利要求6所述的基于机器学习和多特征融合的疲劳驾驶检测系统,其特征在于,所述疲劳程度确定模块,具体包括:
眼部疲劳特征确定单元,用于根据连续多帧面部图像的眼部分类结果,当驾驶员连续闭眼的帧数与一秒内面部图像采集的帧数的比值超过第一阈值时,记录一次闭眼动作,进而确定闭眼频率;所述闭眼频率为眼部的疲劳特征;
嘴部疲劳特征确定单元,用于根据连续多帧面部图像的嘴部分类结果,记录嘴部边缘的坐标值,并根据所述嘴部边缘的坐标值计算出嘴部纵横比,当驾驶员嘴部纵横比连续超过第二阈值的帧数与一秒内面部图像采集的帧数的比值超过第三阈值时,记录一次打哈欠动作,进而确定打哈欠频率;所述打哈欠频率为嘴部的疲劳特征;
头部疲劳特征确定单元,用于根据连续多帧面部图像的头部分类结果,确定点头频率;所述点头频率为头部的疲劳特征;
疲劳程度确定单元,用于采用PERCLOS算法量化眼部、嘴部以及头部的疲劳特征,并采用多特征融合方法将量化后的疲劳特征进行融合,确定驾驶员的疲劳程度。
CN201910826338.5A 2019-09-03 2019-09-03 基于机器学习和多特征融合的疲劳驾驶检测方法及系统 Active CN110532976B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910826338.5A CN110532976B (zh) 2019-09-03 2019-09-03 基于机器学习和多特征融合的疲劳驾驶检测方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910826338.5A CN110532976B (zh) 2019-09-03 2019-09-03 基于机器学习和多特征融合的疲劳驾驶检测方法及系统

Publications (2)

Publication Number Publication Date
CN110532976A true CN110532976A (zh) 2019-12-03
CN110532976B CN110532976B (zh) 2021-12-31

Family

ID=68666308

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910826338.5A Active CN110532976B (zh) 2019-09-03 2019-09-03 基于机器学习和多特征融合的疲劳驾驶检测方法及系统

Country Status (1)

Country Link
CN (1) CN110532976B (zh)

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111243235A (zh) * 2020-01-13 2020-06-05 惠龙易通国际物流股份有限公司 驾驶辅助方法及装置
CN111242065A (zh) * 2020-01-17 2020-06-05 江苏润杨汽车零部件制造有限公司 一种便携式车载智能驾驶系统
CN111645695A (zh) * 2020-06-28 2020-09-11 北京百度网讯科技有限公司 一种疲劳驾驶的检测方法、装置、计算机设备和存储介质
CN111986443A (zh) * 2020-08-31 2020-11-24 上海博泰悦臻网络技术服务有限公司 一种疲劳驾驶的监测装置及方法
CN112016429A (zh) * 2020-08-21 2020-12-01 高新兴科技集团股份有限公司 基于火车驾驶室场景下疲劳驾驶检测方法
CN112183220A (zh) * 2020-09-04 2021-01-05 广州汽车集团股份有限公司 一种驾驶员疲劳检测方法及其系统、计算机存储介质
CN112201008A (zh) * 2020-08-21 2021-01-08 深圳市豪恩汽车电子装备股份有限公司 疲劳驾驶监测系统及方法
CN112528767A (zh) * 2020-11-26 2021-03-19 天津大学 基于机器视觉的施工机械操作员疲劳作业检测系统及方法
CN112528919A (zh) * 2020-12-21 2021-03-19 苏州中科华影健康科技有限公司 一种疲劳驾驶检测方法及装置、计算机可读介质
CN113051959A (zh) * 2019-12-26 2021-06-29 深圳市光鉴科技有限公司 基于深度学习的驾驶员状态检测方法、系统、设备及介质
CN113297966A (zh) * 2021-05-25 2021-08-24 郑州铁路职业技术学院 一种基于多重刺激的夜间学习方法
CN113469023A (zh) * 2021-06-28 2021-10-01 北京百度网讯科技有限公司 确定警觉度的方法、装置、设备和存储介质
CN113505718A (zh) * 2021-07-19 2021-10-15 同济大学 一种基于深度学习的驾驶员疲劳检测控制方法
CN113537176A (zh) * 2021-09-16 2021-10-22 武汉未来幻影科技有限公司 一种驾驶员疲劳状态的确定方法、装置以及设备
CN114132326A (zh) * 2021-11-26 2022-03-04 北京经纬恒润科技股份有限公司 疲劳驾驶的处理方法及装置
CN114601478A (zh) * 2022-05-11 2022-06-10 西南交通大学 一种提高司机警觉度的方法、装置、设备及可读存储介质
CN115393830A (zh) * 2022-08-26 2022-11-25 南通大学 一种基于深度学习与面部特征的疲劳驾驶检测方法
WO2023241358A1 (zh) * 2022-06-17 2023-12-21 京东方科技集团股份有限公司 一种疲劳驾驶的确定方法、装置及电子设备

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105286802A (zh) * 2015-11-30 2016-02-03 华南理工大学 基于视频信息的驾驶员疲劳检测方法
CN107194346A (zh) * 2017-05-19 2017-09-22 福建师范大学 一种汽车疲劳驾驶预测方法
CN107679468A (zh) * 2017-09-19 2018-02-09 浙江师范大学 一种嵌入式计算机视觉检测疲劳驾驶方法及装置
CN109063545A (zh) * 2018-06-13 2018-12-21 五邑大学 一种疲劳驾驶检测方法及装置
CN109215292A (zh) * 2018-08-10 2019-01-15 珠海研果科技有限公司 一种疲劳驾驶辅助方法及系统
CN109344802A (zh) * 2018-10-29 2019-02-15 重庆邮电大学 一种基于改进的级联卷积神经网的人体疲劳检测方法
CN109543577A (zh) * 2018-11-09 2019-03-29 上海物联网有限公司 一种基于面部表情特征的疲劳驾驶检测预警方法
CN109919049A (zh) * 2019-02-21 2019-06-21 北京以萨技术股份有限公司 基于深度学习人脸姿态估计的疲劳检测方法
CN110119672A (zh) * 2019-03-26 2019-08-13 湖北大学 一种嵌入式疲劳状态检测系统及方法

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105286802A (zh) * 2015-11-30 2016-02-03 华南理工大学 基于视频信息的驾驶员疲劳检测方法
CN107194346A (zh) * 2017-05-19 2017-09-22 福建师范大学 一种汽车疲劳驾驶预测方法
CN107679468A (zh) * 2017-09-19 2018-02-09 浙江师范大学 一种嵌入式计算机视觉检测疲劳驾驶方法及装置
CN109063545A (zh) * 2018-06-13 2018-12-21 五邑大学 一种疲劳驾驶检测方法及装置
CN109215292A (zh) * 2018-08-10 2019-01-15 珠海研果科技有限公司 一种疲劳驾驶辅助方法及系统
CN109344802A (zh) * 2018-10-29 2019-02-15 重庆邮电大学 一种基于改进的级联卷积神经网的人体疲劳检测方法
CN109543577A (zh) * 2018-11-09 2019-03-29 上海物联网有限公司 一种基于面部表情特征的疲劳驾驶检测预警方法
CN109919049A (zh) * 2019-02-21 2019-06-21 北京以萨技术股份有限公司 基于深度学习人脸姿态估计的疲劳检测方法
CN110119672A (zh) * 2019-03-26 2019-08-13 湖北大学 一种嵌入式疲劳状态检测系统及方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
刘浏: "基于主动形状模型的多特征融合驾驶员疲劳检测算法研究", 《中国优秀博硕士学位论文全文数据库(硕士) 工程科技Ⅱ辑》 *
邹昕彤等: "基于眼睛与嘴部状态识别的疲劳驾驶检测", 《吉林大学学报》 *

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113051959A (zh) * 2019-12-26 2021-06-29 深圳市光鉴科技有限公司 基于深度学习的驾驶员状态检测方法、系统、设备及介质
CN111243235A (zh) * 2020-01-13 2020-06-05 惠龙易通国际物流股份有限公司 驾驶辅助方法及装置
CN111242065A (zh) * 2020-01-17 2020-06-05 江苏润杨汽车零部件制造有限公司 一种便携式车载智能驾驶系统
CN111242065B (zh) * 2020-01-17 2020-10-13 江苏润杨汽车零部件制造有限公司 一种便携式车载智能驾驶系统
CN111645695A (zh) * 2020-06-28 2020-09-11 北京百度网讯科技有限公司 一种疲劳驾驶的检测方法、装置、计算机设备和存储介质
CN112016429A (zh) * 2020-08-21 2020-12-01 高新兴科技集团股份有限公司 基于火车驾驶室场景下疲劳驾驶检测方法
CN112201008A (zh) * 2020-08-21 2021-01-08 深圳市豪恩汽车电子装备股份有限公司 疲劳驾驶监测系统及方法
CN111986443A (zh) * 2020-08-31 2020-11-24 上海博泰悦臻网络技术服务有限公司 一种疲劳驾驶的监测装置及方法
CN112183220B (zh) * 2020-09-04 2024-05-24 广州汽车集团股份有限公司 一种驾驶员疲劳检测方法及其系统、计算机存储介质
CN112183220A (zh) * 2020-09-04 2021-01-05 广州汽车集团股份有限公司 一种驾驶员疲劳检测方法及其系统、计算机存储介质
CN112528767A (zh) * 2020-11-26 2021-03-19 天津大学 基于机器视觉的施工机械操作员疲劳作业检测系统及方法
CN112528919A (zh) * 2020-12-21 2021-03-19 苏州中科华影健康科技有限公司 一种疲劳驾驶检测方法及装置、计算机可读介质
CN113297966A (zh) * 2021-05-25 2021-08-24 郑州铁路职业技术学院 一种基于多重刺激的夜间学习方法
CN113469023A (zh) * 2021-06-28 2021-10-01 北京百度网讯科技有限公司 确定警觉度的方法、装置、设备和存储介质
CN113505718A (zh) * 2021-07-19 2021-10-15 同济大学 一种基于深度学习的驾驶员疲劳检测控制方法
CN113537176A (zh) * 2021-09-16 2021-10-22 武汉未来幻影科技有限公司 一种驾驶员疲劳状态的确定方法、装置以及设备
CN114132326A (zh) * 2021-11-26 2022-03-04 北京经纬恒润科技股份有限公司 疲劳驾驶的处理方法及装置
CN114601478A (zh) * 2022-05-11 2022-06-10 西南交通大学 一种提高司机警觉度的方法、装置、设备及可读存储介质
CN114601478B (zh) * 2022-05-11 2022-09-02 西南交通大学 一种提高司机警觉度的方法、装置、设备及可读存储介质
WO2023241358A1 (zh) * 2022-06-17 2023-12-21 京东方科技集团股份有限公司 一种疲劳驾驶的确定方法、装置及电子设备
CN115393830A (zh) * 2022-08-26 2022-11-25 南通大学 一种基于深度学习与面部特征的疲劳驾驶检测方法

Also Published As

Publication number Publication date
CN110532976B (zh) 2021-12-31

Similar Documents

Publication Publication Date Title
CN110532976A (zh) 基于机器学习和多特征融合的疲劳驾驶检测方法及系统
CN101593425B (zh) 一种基于机器视觉的疲劳驾驶监控方法及系统
JP5171629B2 (ja) 走行情報提供装置
CN101639894B (zh) 在线检测列车驾驶员行为和疲劳状态的方法及其检测系统
CN103824420B (zh) 基于心率变异性非接触式测量的疲劳驾驶识别系统
CN104751600B (zh) 基于虹膜识别的防疲劳驾驶安全设备及其使用方法
CN101984478B (zh) 基于双目视觉车道线检测的非正常s型驾驶预警方法
CN108309311A (zh) 一种列车驾驶员实时盹睡检测装置及检测算法
CN106709420A (zh) 一种监测营运车辆驾驶人员驾驶行为的方法
CN105769120A (zh) 疲劳驾驶检测方法和装置
CN104013414A (zh) 一种基于移动智能手机的驾驶员疲劳检测系统
CN106355838A (zh) 一种疲劳驾驶检测方法和系统
CN103366506A (zh) 一种驾驶员行车途中接打手机行为的自动监控装置及方法
CN105956548A (zh) 驾驶员疲劳状况检测方法和装置
CN108647708A (zh) 驾驶员评估方法、装置、设备和存储介质
CN110435672A (zh) 一种基于场景预判安全驾驶辅助方法及其系统
CN104574819B (zh) 一种基于嘴巴特征的疲劳驾驶检测方法
CN103700220A (zh) 一种疲劳驾驶监控装置
CN107563346A (zh) 一种基于人眼图像处理实现驾驶员疲劳判别的方法
CN106627575A (zh) 一种车辆偏航预警方法及系统
CN106295474A (zh) 船舶驾驶员的疲劳检测方法、系统和服务器
CN111860210A (zh) 双手脱离方向盘检测方法、装置、电子设备和存储介质
CN114220158A (zh) 基于深度学习的疲劳驾驶检测方法
Rani et al. Development of an Automated Tool for Driver Drowsiness Detection
CN109685083A (zh) 驾驶员开车违规使用手机的多尺度检测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant