CN105956548A - 驾驶员疲劳状况检测方法和装置 - Google Patents

驾驶员疲劳状况检测方法和装置 Download PDF

Info

Publication number
CN105956548A
CN105956548A CN201610278281.6A CN201610278281A CN105956548A CN 105956548 A CN105956548 A CN 105956548A CN 201610278281 A CN201610278281 A CN 201610278281A CN 105956548 A CN105956548 A CN 105956548A
Authority
CN
China
Prior art keywords
driver
steering wheel
fatigue
operation information
face
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201610278281.6A
Other languages
English (en)
Inventor
方啸
范贤根
张茂胜
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chery Automobile Co Ltd
Original Assignee
Chery Automobile Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chery Automobile Co Ltd filed Critical Chery Automobile Co Ltd
Priority to CN201610278281.6A priority Critical patent/CN105956548A/zh
Publication of CN105956548A publication Critical patent/CN105956548A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Traffic Control Systems (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

本发明公开了一种驾驶员疲劳状况检测方法及装置,属于智能交通技术领域。该方法包括:获取驾驶员的面部图像;根据所述面部图像获取所述驾驶员的形态学特征;获取所述驾驶员的转向操作信息;根据所述形态学特征和所述转向操作信息,确定驾驶员的疲劳状况。该装置包括:图像获取模块、形态获取模块、转向操作信息获取模块、及处理模块。本发明综合利用驾驶员驾驶车辆时的形态学特征和转向操作信息以判断驾驶员的疲劳状况,能够更加准确的对驾驶员疲劳状况进行判断。

Description

驾驶员疲劳状况检测方法和装置
技术领域
本发明涉及智能交通技术领域,特别涉及一种驾驶员疲劳状况检测方法和装置。
背景技术
在长距离行驶过程中,或者在驾驶员长时间工作或饮酒后,驾驶员可能会处于疲劳驾驶的状态,在这种状态下,容易出现车辆偏离正常行驶的道路或速度过快等情况,甚至可能引发严重的交通事故,造成重大的人员伤亡和财产损失。如果能够对驾驶员的疲劳状况进行自动检测,并及时报警,将有效减少交通事故的发生。
目前,对驾驶员疲劳判断通常采用摄像头将驾驶员在驾驶中的面部形态特征记录下来,通过图形处理模块对采集到的数字图像进行运算处理,以获取驾驶员脸部特征,根据驾驶员眼睛开闭状态和次数等形态学特征来判断驾驶员是否已经处于疲劳状况,并给出相应的警报予以警示。
在实现本发明的过程中,发明人发现现有技术存在以下问题:采用上述方式对驾驶员处于疲劳状况进行判断容易出现误判,可能会频繁提醒驾驶员注意安全,可能会影响驾驶员注意力,甚至会造成不必要的损失。
发明内容
为了能够准确确定驾驶员是否处于疲劳状况,本发明实施例提供了一种驾驶员疲劳状况检测方法和装置。所述技术方案如下:
一方面,本发明实施例提供了一种驾驶员疲劳状况检测方法,所述方法包括:
获取驾驶员的面部图像;
根据所述面部图像获取所述驾驶员的形态学特征;
获取所述驾驶员的转向操作信息;
根据所述形态学特征和所述转向操作信息,确定驾驶员的疲劳状况。
在本发明一种可能的实现方式中,所述根据所述面部图像获取驾驶员的形态学特征,包括:
对所述面部图像进行人脸检测,得到人脸区域;
提取所述人脸区域中的特征区域,所述特征区域包括眼睛区域、嘴巴区域中的至少一种;
根据所述特征区域获取所述驾驶员的形态学特征。
其中,所述形态学特征包括眼睛开闭状态、嘴巴开闭状态、眨眼频率和打哈欠的频率中的至少一种,所述转向操作信息包括统计类指标及经验类指标,所述统计类指标包括根据驾驶操作参数值计算的均值、方差、均方差、极大值中的至少一种,所述驾驶操作参数包括方向盘转角θi、方向盘转角速率横摆角横摆角速率横向位置Hi、和横向速度中的至少一种,所述经验类指标包括方向盘小幅修正次数、方向盘大幅修正次数、方向盘持续不动次数、方向盘持续不动时间、方向盘最大角度标准差、方向盘转角速率最大零速百分比及过线时间中的至少一种。
在本发明一种可能的实现方式中,所述根据所述形态学特征和所述转向操作信息,确定驾驶员的疲劳状况,包括:
将所述形态学特征和所述转向操作信息作为支持向量机的输入,采用支持向量机确定驾驶员的疲劳状况,
其中,所述支持向量机为:
f 1 = sgn { Σ i = 1 l α i y i K ( x i , x ) + b 1 } f 2 = sgn { Σ i = 1 m β i y i K ( x i , x ) + b 2 } f 3 = sgn { Σ i = 1 n γ i y i K ( x i , x ) + b 3 }
其中,x为包括所述形态学特征和所述转向操作信息的未知样本;(xi,yi)是f1,f2,f3的支持向量;l,m,n分别是f1、f2、f3的支持向量个数;αi、βi、γi分别是对应支持向量的系数;b1、b2、b3分别是对应支持向量函数的常数项;K(xi,x)是径向基函数;f1是清醒-重度疲劳分类器;f2是清醒-轻度疲劳分类器;f3是轻度疲劳-重度疲劳分类器。
进一步地,所述方法还包括:
根据所述驾驶员的疲劳状况和车辆的行驶状态,确定是否发出警告信息。
另一方面,本发明实施例提供了一种驾驶员疲劳状况检测装置,所述装置包括:
图像获取模块,用于获取驾驶员的面部图像;
形态获取模块,用于根据所述图像获取模块获取到的所述面部图像,获取所述驾驶员的形态学特征;
转向操作信息获取模块,用于获取驾驶员的转向操作信息;
处理模块,用于根据所述形态获取模块获取到的所述形态学特征和所述转向操作信息获取模块获取到的转向操作信息,确定驾驶员的疲劳状况。
进一步地,所述形态获取模块包括:
人脸检测子模块,用于对所述面部图像进行人脸检测,得到人脸区域;
提取子模块,用于提取所述人脸区域中的特征区域,所述特征区域包括眼睛区域、嘴巴区域中的至少一种;
形态获取子模块,用于根据所述提取子模块提取的特征候选区域,获取所述驾驶员的形态学特征。
进一步地,所述形态学特征包括眼睛开闭状态、嘴巴开闭状态、眨眼频率和打哈欠的频率中的至少一种,所述转向操作信息包括统计类指标及经验类指标,所述统计类指标包括根据驾驶操作参数值计算的均值、方差、均方差、极大值中的至少一种,所述驾驶操作参数包括方向盘转角θi、方向盘转角速率横摆角横摆角速率横向位置Hi、和横向速度中的至少一种,所述经验类指标包括方向盘小幅修正次数、方向盘大幅修正次数、方向盘持续不动次数、方向盘持续不动时间、方向盘最大角度标准差、方向盘转角速率最大零速百分比及过线时间中的至少一种。
进一步地,所述处理模块,用于将所述形态学特征和所述转向操作信息作为支持向量机的输入,采用支持向量机确定驾驶员的疲劳状况,
其中,所述支持向量机为:
f 1 = sgn { Σ i = 1 l α i y i K ( x i , x ) + b 1 } f 2 = sgn { Σ i = 1 m β i y i K ( x i , x ) + b 2 } f 3 = sgn { Σ i = 1 n γ i y i K ( x i , x ) + b 3 }
其中,x为包括所述形态学特征和所述转向操作信息的未知样本;(xi,yi)是f1,f2,f3的支持向量;l,m,n分别是f1、f2、f3的支持向量个数;αi、βi、γi分别是对应支持向量的系数;b1、b2、b3分别是对应支持向量函数的常数项;K(xi,x)是径向基函数;f1是清醒-重度疲劳分类器;f2是清醒-轻度疲劳分类器;f3是轻度疲劳-重度疲劳分类器。
进一步地,所述装置还包括:
警告模块,用于根据所述处理模块得到的所述驾驶员的疲劳状况和车辆的行驶状态,确定是否发出警告信息。
本发明实施例提供的技术方案带来的有益效果是:本发明实施例综合利用驾驶员驾驶车辆时的形态学特征和转向操作信息以判断驾驶员的疲劳状况,能够更加准确的对驾驶员疲劳状况进行判断。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的一种驾驶员疲劳状况检测方法的流程示意图;
图2是本发明实施例提供的另一种驾驶员疲劳状况检测方法的流程示意图;
图3是本发明实施例提供的一种驾驶员疲劳状况检测装置的框图;
图4是本发明实施例提供的另一种驾驶员疲劳状况检测装置的框图;
图5是本发明实施例中的摄像装置及驾驶辅助系统在汽车上的布置示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明实施方式作进一步地详细描述。
图1为本发明实施例提供的一种驾驶员疲劳状况检测方法的流程示意图,参考图1,该方法包括:
S11:获取驾驶员的面部图像。
S12:根据获取的面部图像获取驾驶员的形态学特征。
其中,形态学特征可以包括眼睛开闭状态和次数、打哈欠频率、头部晃动规律及眼睛凝视时间中的至少一种。
S13:获取驾驶员的转向操作信息。
其中,转向操作信息包括统计类指标及经验类指标,其中,统计类指标包括根据驾驶操作参数值计算的均值、方差、均方差、极大值中的至少一种,驾驶操作参数包括方向盘转角θi、方向盘转角速率横摆角横摆角速率横向位置Hi、和横向速度中的至少一种,经验类指标包括方向盘小幅修正次数、方向盘大幅修正次数、方向盘持续不动次数、方向盘持续不动时间、方向盘最大角度标准差、方向盘转角速率最大零速百分比及过线时间中的至少一种。
S14:根据形态学特征和转向操作信息,确定驾驶员的疲劳状况。
本发明实施例综合利用驾驶员驾驶车辆时的形态学特征和转向操作信息以判断驾驶员的疲劳状况,能够更加准确的对驾驶员疲劳状况进行判断。
图2是本发明实施例提供的另一种驾驶员疲劳状况检测方法,参考图2,该方法包括:
S21:获取驾驶员的面部图像。
该步骤21可以利用固定在方向盘前方仪表板之中并正对驾驶员人脸区域的摄像装置1获取(结合图5)。通常,在车辆启动后,摄像装置开始对驾驶员进行拍摄,以获取驾驶员的面部图像。
S22:根据获取的面部图像获取驾驶员的形态学特征。
其中,该形态学特征包括眼睛开闭状态、嘴巴开闭状态、眨眼频率和打哈欠的频率中的至少一种。
该步骤S22可以包括:
对面部图像进行人脸检测,得到人脸区域;
提取人脸区域中的特征区域,特征区域包括眼睛区域、嘴巴区域中的至少一种;
根据特征区域获取驾驶员的形态学特征。
进一步地,对面部图像进行人脸检测,得到人脸区域,可以采用如下方式:首先用肤色信息分割图像,利用聚类分析方法,将近肤色区域分割出来,然后根据人脸的形状和人脸在图像中的位置,对人脸进行定位。
可选地,提取人脸区域中的特征区域,可以包括:
提取人脸区域中的特征候选区域;
从提取出的特征候选区域中选出特征区域。
其中,提取人脸区域中的特征候选区域可以利用颜色差异实现,比如,眼睛颜色一般深于周围肤色区域,根据颜色差异提取出眼睛候选区域。
其中,从提取出的特征候选区域中选出特征区域,可以采用特征与分类器结合的方式实现。例如,Harr特征与SVM(Support Vector Machine,支持向量机)分类器结合实现。
下面以形态学特征为眼睛开闭状态为例,对根据特征候选区域获取驾驶员的形态学特征进行详细说明。
预先选取人眼的正负样本(正样本为眼睛图像,负样本为非眼睛图像),采用正负样本对SVM分类器进行训练。这些样本保存在样本库中,以待后续眼睛识别调用。然后采集驾驶员驾驶车辆时的面部图像,并对面部图像进行处理以将眼睛候选区域提取出来,随后将提取出来的眼睛候选区域输入分类器中与样本库中的人眼样本进行匹配,如果匹配为则眼睛区域,再根据该眼睛区域分析眼睛的开闭状态,即得到所需的形态学特征。例如,眼睛的开闭状态可以为眼睛的外接矩形的高宽比。
S23:获取驾驶员的转向操作信息。
其中,转向操作信息包括统计类指标及经验类指标,统计类指标包括根据驾驶操作参数值计算的均值、方差、均方差、极大值中的至少一种,驾驶操作参数包括方向盘转角θi、方向盘转角速率横摆角横摆角速率横向位置Hi、和横向速度中的至少一种,经验类指标包括方向盘小幅修正次数、方向盘大幅修正次数、方向盘持续不动次数、方向盘持续不动时间、方向盘最大角度标准差、方向盘转角速率最大零速百分比及过线时间中的至少一种。
其中,驾驶操作参数值可以从车载传感器和CAN(Controller Area Network,控制器局域网络)总线获取。
需要说明的是,本发明对该步骤S23与步骤S21~步骤S22之间的先后顺序不做限制。
可选地,本发明实施例还可以包括:
采集不同状态的驾驶员驾驶车辆时的驾驶操作参数值,该驾驶操作参数包括方向盘转角θi、方向盘转角速率横摆角横摆角速率横向位置Hi、和横向速度
根据驾驶操作参数确定用于输入SVM中的转向操作信息的类型。
其中,不同状态包括清醒状态,轻度疲劳,重度疲劳,醉酒驾驶,注意力不集中等状态。
进一步地,用于输入SVM中的转向操作信息的类型可以采用以下方式实现:
采用顺序向前浮动搜索策略,从驾驶员转向操作信息全集Y={yi|i=1,2,…,D}(D为转向操作信息中的指标的数量)中选择任一驾驶员转向操作信息子集Xk,以Xk为输入,利用交叉验证法训练和测试基于SVM建立的驾驶员状态检测模型,测试结果作为评价准则函数值J(Xk),然后以J(Xk)为目标函数,从驾驶员转向操作信息全集中筛选出使驾驶员状态检测模型别准确率最高的驾驶员转向操作信息子集,该驾驶员转向操作信息子集即为作为支持向量机输入的转向操作信息的类型。
S24:将形态学特征和转向操作信息作为支持向量机的输入,采用支持向量机确定驾驶员的疲劳状况。
其中,该步骤S24采用的支持向量机可以为:
f 1 = sgn { Σ i = 1 l α i y i K ( x i , x ) + b 1 } f 2 = sgn { Σ i = 1 m β i y i K ( x i , x ) + b 2 } f 3 = sgn { Σ i = 1 n γ i y i K ( x i , x ) + b 3 }
其中,x为包括所述形态学特征和所述转向操作信息的未知样本;(xi,yi)是f1,f2,f3的支持向量;l,m,n分别是f1、f2、f3的支持向量个数;αi、βi、γi分别是对应支持向量的系数;b1、b2、b3分别是对应支持向量函数的常数项;K(xi,x)是径向基函数;f1是清醒-重度疲劳分类器;f2是清醒-轻度疲劳分类器;f3是轻度疲劳-重度疲劳分类器。
该基于SVM的驾驶员疲劳状态检测模型,是以驾驶员转向操作信息子集和形态学特征作为SVM的输入,采用有序无向图法设定驾驶状态决策得到的。
本发明实施例中,驾驶员的疲劳状况包括清醒、轻度疲劳和重度疲劳。在其它实施例中,驾驶员的疲劳状况可以只分为清醒和疲劳两种,也可以分为比三种更多的情况,本发明实施例对此不做限制。
通过该步骤S24,即可实现根据形态学特征和所述转向操作信息,确定驾驶员的疲劳状况。
S25:根据驾驶员的疲劳状况和车辆行驶状态,确定是否发出警告信息。
其中,车辆行驶状态用于指示车辆是否处于危险状态,该危险状态包括但不限于车辆是否偏离车道、车辆是否有偏离车道的趋势、车辆周围设定范围内是否有目标物接近等。目标物包括但不限于人、车辆、建筑物等。车辆行驶状态可以采用车辆中的驾驶辅助系统获得。
在一种实现方式中,该步骤S25可以包括:
当驾驶员轻度疲劳,并且车辆处于危险状态时,则发出一级警告;
当驾驶员重度疲劳,并且车辆处于危险状态时,则发出二级警告,其中,二级警告比一级警告程度大。
实现时,警告的方式可以为以设定频率震动方向盘、语音提醒、灯光提醒或者其中的多种结合的方式。具体到一级警告和二级警告可以采用以下方式,比如一级警告可以采用低频震动方向盘和语音提醒结合的方式,二级警告可以采用高频震动方向盘和语音提醒结合的方式。
需要说明的是,在这种实现方式中,当驾驶员处于不同的疲劳状况时,判断车辆是否处于危险状态的标准可以不同,比如,当驾驶员轻度疲劳时,若车辆已偏离车道或者车辆周围设定范围内有目标物接近,表示车辆处于危险状态;而当驾驶员重度疲劳时,车辆有偏离车道的趋势或者车辆周围设定范围内有目标物接近,表示车辆处于危险状态。
可选地,在另一种实现方式中,该步骤S25还可以包括:
当驾驶员处于疲劳状况(包括轻度疲劳和重度疲劳),并且车辆处于危险状态时,均采用相同的方式发出警告,警告的方式可以为以设定频率震动方向盘、语音提醒、灯光提醒或者其中的多种结合的方式。
驾驶员接收警告后,可以及时做出反应,提高行驶安全性。
需要说明的是,在本发明的其他实施例中,该步骤S25还可以采用以下方式替代:
根据驾驶员的疲劳状况,发出提示信息。
该提示信息可以是警告信息,也可以是音乐提醒等。比如,当驾驶员轻度疲劳时,通过播放音乐使驾驶员集中注意力。
本发明实施例综合利用驾驶员驾驶车辆时的形态学特征和转向操作信息以判断驾驶员的疲劳状况,能够更加准确的对驾驶员疲劳状况进行判断。此外,通过结合驾驶员的疲劳状况和车辆行驶状态,向驾驶员发出警告信息,能够对驾驶员进行及时提醒,提高了驾驶员驾驶时的安全性。
图3是本发明实施例提供的一种驾驶员疲劳状况检测装置,它适图1所示实施例所提供的驾驶员疲劳状况检测方法,参考图3,该装置包括:图像获取模块310、形态获取模块320、转向操作信息获取模块330和处理模块340。
其中,图像获取模块310用于获取驾驶员的面部图像。形态获取模块320用于根据图像获取模块310获取到的面部图像,获取驾驶员的形态学特征。转向操作信息获取模块330用于获取驾驶员转向操作信息。处理模块340用于根据形态获取模块320获取到的形态学特征和转向操作信息获取模块330获取到的转向操作信息,确定驾驶员的疲劳状况。
其中,形态学特征包括眼睛开闭状态、嘴巴开闭状态、眨眼频率和打哈欠的频率中的至少一种,所述转向操作信息包括统计类指标及经验类指标,统计类指标包括根据驾驶操作参数值计算的均值、方差、均方差、极大值中的至少一种,驾驶操作参数包括方向盘转角θi、方向盘转角速率横摆角横摆角速率横向位置Hi、和横向速度中的至少一种,所述经验类指标包括方向盘小幅修正次数、方向盘大幅修正次数、方向盘持续不动次数、方向盘持续不动时间、方向盘最大角度标准差、方向盘转角速率最大零速百分比及过线时间中的至少一种。
本发明实施例综合利用驾驶员驾驶车辆时的形态学特征和转向操作信息以判断驾驶员的疲劳状况,能够更加准确的对驾驶员疲劳状况进行判断。
图4是本发明实施例提供的另一种驾驶员疲劳状况检测装置,它适用于图2所示实施例所提供的驾驶员疲劳状况检测方法,参考图4,该装置包括:图像获取模块410、形态获取模块420、转向操作信息获取模块430和处理模块440。其中,图像获取模块410用于获取驾驶员的面部图像。形态获取模块420用于根据图像获取模块410获取到的面部图像,获取驾驶员的形态学特征。转向操作信息获取模块430用于获取驾驶员转向操作信息。处理模块440用于根据形态获取模块420获取到的形态学特征和转向操作信息获取模块430获取到的转向操作信息,确定驾驶员的疲劳状况。
其中,形态学特征包括眼睛开闭状态、嘴巴开闭状态、眨眼频率和打哈欠的频率中的至少一种,所述转向操作信息包括统计类指标及经验类指标,统计类指标包括根据驾驶操作参数值计算的均值、方差、均方差、极大值中的至少一种,驾驶操作参数包括方向盘转角θi、方向盘转角速率横摆角横摆角速率横向位置Hi、和横向速度中的至少一种,所述经验类指标包括方向盘小幅修正次数、方向盘大幅修正次数、方向盘持续不动次数、方向盘持续不动时间、方向盘最大角度标准差、方向盘转角速率最大零速百分比及过线时间中的至少一种。
作为本实施例的一种实现方式,该处理模块440用于将形态学特征和转向操作信息作为支持向量机的输入,采用支持向量机以确定驾驶员的疲劳状况,
其中,该支持向量机为:
f 1 = sgn { Σ i = 1 l α i y i K ( x i , x ) + b 1 } f 2 = sgn { Σ i = 1 m β i y i K ( x i , x ) + b 2 } f 3 = sgn { Σ i = 1 n γ i y i K ( x i , x ) + b 3 }
其中,x为包括所述形态学特征和所述转向操作信息的未知样本;(xi,yi)是f1,f2,f3的支持向量;l,m,n分别是f1、f2、f3的支持向量个数;αi、βi、γi分别是对应支持向量的系数;b1、b2、b3分别是对应支持向量函数的常数项;K(xi,x)是径向基函数;f1是清醒-重度疲劳分类器;f2是清醒-轻度疲劳分类器;f3是轻度疲劳-重度疲劳分类器。
本发明实施例中,驾驶员的疲劳状况包括清醒、轻度疲劳和重度疲劳。在其它实施例中,驾驶员的疲劳状况可以只分为清醒和疲劳两种,也可以分为比三种更多的情况,本发明实施例对此不做限制。
优选地,本发明实施例还可以包括警告模块450,该警告模块450用于根据所述处理模块得到的所述驾驶员的疲劳状况和车辆的行驶状态,确定是否发出警告信息。
可选地,本发明实施例中的形态获取模块420包括人脸检测子模块420a、提取子模块420b及形态获取子模块420c。
其中,人脸检测子模块420a用于对面部图像进行人脸检测,得到人脸区域。提取子模块420b用于提取人脸区域中的特征候选区域,该特征候选区域包括眼睛、嘴巴中的至少一种。形态获取子模块420c用于根据所述提取子模块提取的特征候选区域,获取驾驶员的形态学特征。
本发明实施例综合利用驾驶员驾驶车辆时的形态学特征和转向操作信息以判断驾驶员的疲劳状况,能够更加准确的对驾驶员疲劳状况进行判断。此外,通过结合驾驶员的疲劳状况和车辆行驶状态,向驾驶员发出警告信息,能够对驾驶员进行及时提醒,提高了驾驶员驾驶时的安全性。
需要说明的是:上述实施例提供的驾驶员疲劳状况判断装置在判断驾驶员的疲劳状况时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将系统的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的驾驶员疲劳状况判断装置与驾驶员疲劳状况判断方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (10)

1.一种驾驶员疲劳状况检测方法,其特征在于,所述方法包括:
获取驾驶员的面部图像;
根据所述面部图像获取所述驾驶员的形态学特征;
获取所述驾驶员的转向操作信息;
根据所述形态学特征和所述转向操作信息,确定驾驶员的疲劳状况。
2.根据权利要求1所述的方法,其特征在于,所述根据所述面部图像获取驾驶员的形态学特征,包括:
对所述面部图像进行人脸检测,得到人脸区域;
提取所述人脸区域中的特征区域,所述特征区域包括眼睛区域、嘴巴区域中的至少一种;
根据所述特征区域获取所述驾驶员的形态学特征。
3.根据权利要求1所述的方法,其特征在于,所述形态学特征包括眼睛开闭状态、嘴巴开闭状态、眨眼频率和打哈欠的频率中的至少一种,所述转向操作信息包括统计类指标及经验类指标,所述统计类指标包括根据驾驶操作参数值计算的均值、方差、均方差、极大值中的至少一种,所述驾驶操作参数包括方向盘转角θi、方向盘转角速率横摆角横摆角速率横向位置Hi、和横向速度中的至少一种,所述经验类指标包括方向盘小幅修正次数、方向盘大幅修正次数、方向盘持续不动次数、方向盘持续不动时间、方向盘最大角度标准差、方向盘转角速率最大零速百分比及过线时间中的至少一种。
4.根据权利要求1-3任一项所述的方法,其特征在于,所述根据所述形态学特征和所述转向操作信息,确定驾驶员的疲劳状况,包括:
将所述形态学特征和所述转向操作信息作为支持向量机的输入,采用支持向量机确定驾驶员的疲劳状况,
其中,所述支持向量机为:
f 1 = s g n { Σ i = 1 l α i y i K ( x i , x ) + b 1 } f 2 = s g n { Σ i = 1 m β i y i K ( x i , x ) + b 2 } f 3 = s g n { Σ i = 1 n γ i y i K ( x i , x ) + b 3 }
其中,x为包括所述形态学特征和所述转向操作信息的未知样本;(xi,yi)是f1,f2,f3的支持向量;l,m,n分别是f1、f2、f3的支持向量个数;αi、βi、γi分别是对应支持向量的系数;b1、b2、b3分别是对应支持向量函数的常数项;K(xi,x)是径向基函数;f1是清醒-重度疲劳分类器;f2是清醒-轻度疲劳分类器;f3是轻度疲劳-重度疲劳分类器。
5.根据权利要求1-3任一项所述的方法,其特征在于,所述方法还包括:
根据所述驾驶员的疲劳状况和车辆的行驶状态,确定是否发出警告信息。
6.一种驾驶员疲劳状况检测装置,其特征在于,所述装置包括:
图像获取模块,用于获取驾驶员的面部图像;
形态获取模块,用于根据所述图像获取模块获取到的所述面部图像,获取所述驾驶员的形态学特征;
转向操作信息获取模块,用于获取驾驶员的转向操作信息;
处理模块,用于根据所述形态获取模块获取到的所述形态学特征和所述转向操作信息获取模块获取到的转向操作信息,确定驾驶员的疲劳状况。
7.根据权利要求6所述的装置,其特征在于,所述形态获取模块包括:
人脸检测子模块,用于对所述面部图像进行人脸检测,得到人脸区域;
提取子模块,用于提取所述人脸区域中的特征区域,所述特征区域包括眼睛区域、嘴巴区域中的至少一种;
形态获取子模块,用于根据所述提取子模块提取的特征候选区域,获取所述驾驶员的形态学特征。
8.根据权利要求6所述的装置,其特征在于,所述形态学特征包括眼睛开闭状态、嘴巴开闭状态、眨眼频率和打哈欠的频率中的至少一种,所述转向操作信息包括统计类指标及经验类指标,所述统计类指标包括根据驾驶操作参数值计算的均值、方差、均方差、极大值中的至少一种,所述驾驶操作参数包括方向盘转角θi、方向盘转角速率横摆角横摆角速率横向位置Hi、和横向速度中的至少一种,所述经验类指标包括方向盘小幅修正次数、方向盘大幅修正次数、方向盘持续不动次数、方向盘持续不动时间、方向盘最大角度标准差、方向盘转角速率最大零速百分比及过线时间中的至少一种。
9.根据权利要求6所述的装置,其特征在于,所述处理模块,用于将所述形态学特征和所述转向操作信息作为支持向量机的输入,采用支持向量机确定驾驶员的疲劳状况,
其中,所述支持向量机为:
f 1 = s g n { Σ i = 1 l α i y i K ( x i , x ) + b 1 } f 2 = s g n { Σ i = 1 m β i y i K ( x i , x ) + b 2 } f 3 = s g n { Σ i = 1 n γ i y i K ( x i , x ) + b 3 }
其中,x为包括所述形态学特征和所述转向操作信息的未知样本;(xi,yi)是f1,f2,f3的支持向量;l,m,n分别是f1、f2、f3的支持向量个数;αi、βi、γi分别是对应支持向量的系数;b1、b2、b3分别是对应支持向量函数的常数项;K(xi,x)是径向基函数;f1是清醒-重度疲劳分类器;f2是清醒-轻度疲劳分类器;f3是轻度疲劳-重度疲劳分类器。
10.根据权利要求6所述的装置,其特征在于,所述装置还包括:
警告模块,用于根据所述处理模块得到的所述驾驶员的疲劳状况和车辆的行驶状态,确定是否发出警告信息。
CN201610278281.6A 2016-04-29 2016-04-29 驾驶员疲劳状况检测方法和装置 Pending CN105956548A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610278281.6A CN105956548A (zh) 2016-04-29 2016-04-29 驾驶员疲劳状况检测方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610278281.6A CN105956548A (zh) 2016-04-29 2016-04-29 驾驶员疲劳状况检测方法和装置

Publications (1)

Publication Number Publication Date
CN105956548A true CN105956548A (zh) 2016-09-21

Family

ID=56916815

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610278281.6A Pending CN105956548A (zh) 2016-04-29 2016-04-29 驾驶员疲劳状况检测方法和装置

Country Status (1)

Country Link
CN (1) CN105956548A (zh)

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106408878A (zh) * 2016-12-16 2017-02-15 苏州清研微视电子科技有限公司 一种考虑驾驶人疲劳状态及反应能力的车辆防撞预警系统
CN106585490A (zh) * 2016-12-16 2017-04-26 盐城工学院 疲劳驾驶检测方法、系统及方向盘
CN108053615A (zh) * 2018-01-10 2018-05-18 山东大学 基于微表情的驾驶员疲劳驾驶状态检测方法
CN108573210A (zh) * 2018-03-02 2018-09-25 成都高原汽车工业有限公司 一种疲劳驾驶报警方法及装置
CN109145719A (zh) * 2018-07-06 2019-01-04 北京理工大学 一种驾驶员疲劳状态识别方法及系统
CN109147342A (zh) * 2018-09-21 2019-01-04 深圳市九洲电器有限公司 一种酒驾智能识别方法、装置及系统
CN109191789A (zh) * 2018-10-18 2019-01-11 斑马网络技术有限公司 疲劳驾驶检测方法、装置、终端和存储介质
CN110263641A (zh) * 2019-05-17 2019-09-20 成都旷视金智科技有限公司 疲劳检测方法、装置及可读存储介质
CN110689474A (zh) * 2019-06-15 2020-01-14 张月云 基于双模式判断的参数修正机构
CN110765807A (zh) * 2018-07-25 2020-02-07 阿里巴巴集团控股有限公司 驾驶行为分析、处理方法、装置、设备和存储介质
CN110781872A (zh) * 2019-12-31 2020-02-11 南斗六星系统集成有限公司 一种双模态特征融合的驾驶员疲劳等级识别系统
CN110781873A (zh) * 2019-12-31 2020-02-11 南斗六星系统集成有限公司 一种双模态特征融合的驾驶员疲劳等级识别方法
CN110914884A (zh) * 2017-07-21 2020-03-24 索尼半导体解决方案公司 车辆控制器和车辆控制方法
CN110956780A (zh) * 2018-09-26 2020-04-03 上海博泰悦臻网络技术服务有限公司 疲劳驾驶提醒方法、装置及车辆
CN111806230A (zh) * 2020-06-17 2020-10-23 宁波智翔信息技术有限公司 一种基于货车司机的防疲劳保护方法及其保护系统
CN112109725A (zh) * 2020-08-07 2020-12-22 吉林大学 考虑疲劳特性的驾驶员转向控制模型的建模系统及方法
CN113449678A (zh) * 2021-07-14 2021-09-28 宝能(广州)汽车研究院有限公司 驾驶状态的检测方法、装置、计算机设备及存储介质
US11853074B2 (en) 2017-08-18 2023-12-26 Sony Semiconductor Solutions Corporation Control device and control system

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103400471A (zh) * 2013-08-12 2013-11-20 电子科技大学 一种驾驶员疲劳驾驶检测系统及检测方法
CN103714660A (zh) * 2013-12-26 2014-04-09 苏州清研微视电子科技有限公司 基于图像处理融合心率特征与表情特征实现疲劳驾驶判别的系统
CN104794856A (zh) * 2014-01-22 2015-07-22 径卫视觉科技(上海)有限公司 驾驶员注意力综合测评系统

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103400471A (zh) * 2013-08-12 2013-11-20 电子科技大学 一种驾驶员疲劳驾驶检测系统及检测方法
CN103714660A (zh) * 2013-12-26 2014-04-09 苏州清研微视电子科技有限公司 基于图像处理融合心率特征与表情特征实现疲劳驾驶判别的系统
CN104794856A (zh) * 2014-01-22 2015-07-22 径卫视觉科技(上海)有限公司 驾驶员注意力综合测评系统

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
屈肖蕾: "基于转向操作和车辆状态的疲劳驾驶检测方法研究", 《中国优秀硕士学位论文全文数据库工程科技Ⅱ辑》 *
牛清宁: "基于信息融合的疲劳驾驶检测方法研究", 《中国博士学位论文全文数据库工程科技Ⅱ辑》 *
贾海江等: "基于人-车特征的疲劳驾驶辨识方法研究", 《中国科技论文》 *

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106585490A (zh) * 2016-12-16 2017-04-26 盐城工学院 疲劳驾驶检测方法、系统及方向盘
CN106408878A (zh) * 2016-12-16 2017-02-15 苏州清研微视电子科技有限公司 一种考虑驾驶人疲劳状态及反应能力的车辆防撞预警系统
CN110914884A (zh) * 2017-07-21 2020-03-24 索尼半导体解决方案公司 车辆控制器和车辆控制方法
US11853074B2 (en) 2017-08-18 2023-12-26 Sony Semiconductor Solutions Corporation Control device and control system
CN108053615A (zh) * 2018-01-10 2018-05-18 山东大学 基于微表情的驾驶员疲劳驾驶状态检测方法
CN108573210A (zh) * 2018-03-02 2018-09-25 成都高原汽车工业有限公司 一种疲劳驾驶报警方法及装置
CN109145719B (zh) * 2018-07-06 2021-06-04 北京理工大学 一种驾驶员疲劳状态识别方法及系统
CN109145719A (zh) * 2018-07-06 2019-01-04 北京理工大学 一种驾驶员疲劳状态识别方法及系统
CN110765807A (zh) * 2018-07-25 2020-02-07 阿里巴巴集团控股有限公司 驾驶行为分析、处理方法、装置、设备和存储介质
CN110765807B (zh) * 2018-07-25 2024-04-05 斑马智行网络(香港)有限公司 驾驶行为分析、处理方法、装置、设备和存储介质
CN109147342A (zh) * 2018-09-21 2019-01-04 深圳市九洲电器有限公司 一种酒驾智能识别方法、装置及系统
CN110956780A (zh) * 2018-09-26 2020-04-03 上海博泰悦臻网络技术服务有限公司 疲劳驾驶提醒方法、装置及车辆
CN109191789A (zh) * 2018-10-18 2019-01-11 斑马网络技术有限公司 疲劳驾驶检测方法、装置、终端和存储介质
CN110263641A (zh) * 2019-05-17 2019-09-20 成都旷视金智科技有限公司 疲劳检测方法、装置及可读存储介质
CN110689474A (zh) * 2019-06-15 2020-01-14 张月云 基于双模式判断的参数修正机构
CN110781872A (zh) * 2019-12-31 2020-02-11 南斗六星系统集成有限公司 一种双模态特征融合的驾驶员疲劳等级识别系统
CN110781873A (zh) * 2019-12-31 2020-02-11 南斗六星系统集成有限公司 一种双模态特征融合的驾驶员疲劳等级识别方法
CN111806230B (zh) * 2020-06-17 2023-10-24 宁波智翔信息技术有限公司 一种基于货车司机的防疲劳保护方法及其保护系统
CN111806230A (zh) * 2020-06-17 2020-10-23 宁波智翔信息技术有限公司 一种基于货车司机的防疲劳保护方法及其保护系统
CN112109725A (zh) * 2020-08-07 2020-12-22 吉林大学 考虑疲劳特性的驾驶员转向控制模型的建模系统及方法
CN113449678A (zh) * 2021-07-14 2021-09-28 宝能(广州)汽车研究院有限公司 驾驶状态的检测方法、装置、计算机设备及存储介质

Similar Documents

Publication Publication Date Title
CN105956548A (zh) 驾驶员疲劳状况检测方法和装置
US11783601B2 (en) Driver fatigue detection method and system based on combining a pseudo-3D convolutional neural network and an attention mechanism
Craye et al. Driver distraction detection and recognition using RGB-D sensor
EP2201496B1 (en) Inattentive state determination device and method of determining inattentive state
CN103714660B (zh) 基于图像处理融合心率特征与表情特征实现疲劳驾驶判别的系统
CN104794855B (zh) 驾驶员注意力综合评估装置
CN108960065A (zh) 一种基于视觉的驾驶行为检测方法
CN108791299A (zh) 一种基于视觉的驾驶疲劳检测及预警系统及方法
CN108647708A (zh) 驾驶员评估方法、装置、设备和存储介质
Pech et al. Head tracking based glance area estimation for driver behaviour modelling during lane change execution
KR20210120853A (ko) 운전자의 기술 수준 및 신뢰 수준의 자동 추정
CN103700220A (zh) 一种疲劳驾驶监控装置
CN108108651B (zh) 基于视频人脸分析的驾驶员非专心驾驶检测方法及系统
CN116279561A (zh) 车辆疲劳驾驶的预警方法、装置、设备及可读存储介质
Ying et al. The monitoring method of driver's fatigue based on neural network
CN115937830A (zh) 一种面向特种车辆的驾驶员疲劳检测方法
CN111563468A (zh) 一种基于神经网络注意力的驾驶员异常行为检测方法
Rani et al. Development of an Automated Tool for Driver Drowsiness Detection
CN112052829B (zh) 一种基于深度学习的飞行员行为监控方法
CN116012822B (zh) 一种疲劳驾驶的识别方法、装置及电子设备
Neeraja et al. DL-Based Somnolence Detection for Improved Driver Safety and Alertness Monitoring
CN112926364A (zh) 头部姿态的识别方法及系统、行车记录仪和智能座舱
CN112168190B (zh) 驾驶压力实时监测系统及方法
Umut et al. Detection of driver sleepiness and warning the driver in real-time using image processing and machine learning techniques
CN204706141U (zh) 可穿戴设备

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20160921

RJ01 Rejection of invention patent application after publication