CN110046560A - 一种危险驾驶行为检测方法和相机 - Google Patents
一种危险驾驶行为检测方法和相机 Download PDFInfo
- Publication number
- CN110046560A CN110046560A CN201910245674.0A CN201910245674A CN110046560A CN 110046560 A CN110046560 A CN 110046560A CN 201910245674 A CN201910245674 A CN 201910245674A CN 110046560 A CN110046560 A CN 110046560A
- Authority
- CN
- China
- Prior art keywords
- detection zone
- driver
- pixel
- value
- depth
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2411—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
- G06V20/597—Recognising the driver's state or behaviour, e.g. attention or drowsiness
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
- Traffic Control Systems (AREA)
Abstract
本发明公开一种危险驾驶行为检测方法和相机。本发明的方法包括:获取驾驶员的红外图像和深度图像,红外图像与深度图像之间的像素点具有一一对应关系;利用人脸识别算法识别所述红外图像,获得驾驶员的面部特征点;根据面部特征点获得红外图像中驾驶员的行为检测区域;根据行为检测区域内像素点的灰度值、深度图像和对应关系,识别行为检测区域内是否存在预设标识物获得驾驶员的状态行为;其中,在识别到预设标识物时,获得状态行为对应为危险驾驶行为,在未识别到预设标识物时,获得状态行为对应为标准驾驶行为。本发明能够很好地抑制由于前后背景干扰或者脸上反光带进来的误报,有效地提高检测准确率。
Description
技术领域
本发明涉及机器学习技术领域,尤其涉及一种危险驾驶行为检测方法和相机。
背景技术
近年来,安全驾驶越来越多的作为公众话题被讨论,尤其是驾驶过程中的打电话和抽烟行为。打电话会分散注意力,使驾驶员应变能力减弱;驾驶员吸烟会造成车厢内空气质量下降,对乘客的健康造成危害。这些危险的驾驶行为造成的行车危害也给很多的家庭带来伤痛。准确高效的检测驾驶员在行车过程中的驾驶行为以及时进行提醒是一种减少由于驾驶不规范导致行车危险的行之有效的手段之一。
现有技术中,通常是基于摄像头对驾驶行为进行监控,随着机器视觉技术的发展,利用图像分析技术对驾驶行为进行监控逐渐成为一种新手段。但目前大多是利用RGB摄像头采集驾驶员行车图像,对RGB图像进行图像分析识别驾驶员的驾驶行为。
虽然RGB摄像头白天成像更好,但是容易受到光照环境影响,红外相机则表现更优,夜晚也能拍到人脸,且白天晚上成像效果差异较小,所以比较受欢迎。但是,由于背景的复杂度不同,红外图像很容易带进来干扰,比如耳朵后方的车座,后窗之类的背景很容易造成打电话的误识别;驾驶员脸上由于出汗、起油或涂护肤品等情况时,脸上的反光会比较强烈,有时反光形状是类似于烟的长方形,会造成错误判断,给驾驶员造成困扰,甚至会干扰驾驶员的正常驾驶。
发明内容
本发明提供了一种危险驾驶行为检测方法和相机,以解决现有技术对驾驶员的驾驶行为存在误识别的问题。
第一方面,本发明提供了一种危险驾驶行为检测方法,包括:获取驾驶员的红外图像和深度图像,红外图像与深度图像之间的像素点具有一一对应关系;利用人脸识别算法识别所述红外图像,获得驾驶员的面部特征点;根据面部特征点获得红外图像中驾驶员的行为检测区域;根据行为检测区域内像素点的灰度值、深度图像和对应关系,识别行为检测区域内是否存在预设标识物获得驾驶员的状态行为;其中,在识别到预设标识物时,获得状态行为对应为危险驾驶行为,在未识别到预设标识物时,获得状态行为对应为标准驾驶行为。
在一些实施例中,行为检测区域包括第一检测区域,识别行为检测区域内是否存在预设标识物获得所述驾驶员的状态信息,包括:根据所述第一检测区域内每个像素点的灰度值,获得所述第一检测区域内每个像素点的梯度特征信息;将所述梯度特征信息输入到预先训练好的支持向量机模型,通过所述支持向量机模型的输出结果识别所述第一检测区域内是否存在预设标识物;其中所述预设标识物为电话标识物;在所述输出结果为第一数值时,识别所述第一检测区域内可能存在所述电话标识物;在所述输出结果为第二数值时,识别所述第一检测区域内不存在所述电话标识物。
在一些实施例中,根据对应关系和所述面部特征点,获得所述驾驶员的行为检测区域,还包括:在识别到所述第一检测区域内可能存在所述电话标识物时,获得所述第一检测区域内像素点的深度值处于深度值参考范围区间内的像素点个数;在所述像素点个数大于第一数量阈值时,识别所述第一检测区域内存在所述电话标识物;在所述像素点个数不大于所述第一数量阈值时,识别所述第一检测区域内不存在所述电话标识物。
在一些实施例中,通过下述方法获得所述深度值参考范围区间:根据所述面部特征点获得所述驾驶员的嘴部区域,并根据所述对应关系获得所述嘴部区域内每个像素点的深度值,将所述嘴部区域内像素点深度值的平均值所在的平面作为基准面;将在深度方向上与所述基准面成预设深度的范围作为所述深度值参考范围区间。
在一些实施例中,根据面部特征点获得红外图像中所述驾驶员的行为检测区域,包括:根据所述面部特征点获得所述红外图像中所述驾驶员的人脸矩形框区域,以所述人脸矩形框区域左侧边长为高边,向左侧延展所述人脸矩形框区域左侧边长的一半长度为宽边宽度,获得以所述高边和所述宽边围成的左耳区域;以所述人脸矩形框区域右侧边长为高边,向右侧延展所述人脸矩形框区域右侧边长的一半长度为宽边宽度,获得以所述高边和所述宽边围成的右耳区域;将所述左耳区域和所述右耳区域作为所述第一检测区域。
在一些实施例中,行为检测区域包括第二检测区域,识别所述行为检测区域内是否存在预设标识物获得所述驾驶员的状态信息,包括:根据所述第二检测区域内像素点的亮度值对所述第二检测区域进行边缘提取,根据边缘提出结果识别所述第二检测区域内是否存在预设标识物;其中所述预设标识物为烟类标识物;在提取到矩形区域,识别所述第二检测区域内可能存在所述烟类标识物;在未提取到所述矩形区域,识别所述第二检测区域内不存在所述烟类标识物。
在一些实施例中,识别所述行为检测区域内是否存在预设标识物获得所述驾驶员的状态信息,还包括:在识别到所述第二检测区域内可能存在所述烟类标识物时,获得所述矩形区域内像素点的深度值大于深度参考值的像素点个数;在所述像素点个数大于预设第二数量阈值时,识别所述第二检测区域内存在所述烟类标识物;在所述像素点个数不大于所述第二数量阈值时,识别所述第二检测区域内不存在所述烟类标识物。
在一些实施例中,通过下述方法获取所述深度参考值:根据所述对应关系获得所述第二检测区域内每个像素点的深度值;利用所述第二检测区域内全部目标像素点的深度值的平均值减去所述矩形区域内每个像素点的深度值,获得所述矩形区域内每个像素点的深度参考值;其中所述目标像素点为处于所述第二检测区域内但未处于所述矩形区域内的像素点。
在一些实施例中,所述根据所述面部特征点获得所述红外图像中所述驾驶员的行为检测区域,包括:从所述面部特征点中获得嘴部中心点和嘴角特征点;以所述嘴部中心点为中心,两倍嘴角距离为边长围成的矩形区域为所述第二检测区域。
第二方面,本发明提供了一种相机,包括:TOF摄像头和处理器;TOF摄像头,采集驾驶员的深度图像和红外图像,所述红外图像与所述深度图像之间的像素点具有一一对应关系;处理器,接收所述深度图像和所述红外图像,利用人脸识别算法识别所述红外图像,获得所述驾驶员的面部特征点;根据所述面部特征点获得所述红外图像中所述驾驶员的行为检测区域;根据所述行为检测区域内像素点的灰度值、所述深度图像和所述对应关系,识别所述行为检测区域内是否存在预设标识物获得所述驾驶员的状态信息;其中,在识别到所述预设标识物时,获得所述状态信息为危险驾驶状态,在未识别到所述预设标识物时,获得所述状态信息为危险驾驶状态标注驾驶状态;利用所述状态信息检测所述驾驶员的驾驶行为。
本发明通过采集驾驶员的深度图像和红外图像,利用红外图像进行图像识别,克服了用于拍摄RGB图像的RGB相机容易受光照影响的缺点,并利用深度图像提供的深度信息准确识别电话、烟类等标识物的存在与否,很好的抑制了由于前后背景干扰或者脸上反光带进来的误报,有效地提高了检测准确率。
附图说明
图1为本发明实施例示出的危险驾驶行为检测方法的流程图;
图2为本发明实施例示出的第一检测区域中的左耳区域示意图;
图3为本发明实施例示出的第一检测区域中的右耳区域示意图;
图4为本发明实施例示出的对应于驾驶员吸烟的红外图像示意图;
图5为本发明实施例示出的对驾驶员吸烟的红外图像进行边缘提取的结果示意图;
图6为本发明实施例示出的疲劳状态检测状态机逻辑流程图;
图7为本发明实施例示出的相机结构示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明实施方式作进一步地详细描述。
以下,将参照附图来描述本发明的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本发明的范围。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本发明的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本发明。这里使用的词语“一”、“一个(种)”和“该”等也应包括“多个”、“多种”的意思,除非上下文另外明确指出。此外,在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
附图中示出了一些方框图和/或流程图。应理解,方框图和/或流程图中的一些方框或其组合可以由计算机程序指令来实现。这些计算机程序指令可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器,从而这些指令在由该处理器执行时可以创建用于实现这些方框图和/或流程图中所说明的功能/操作的装置。
因此,本发明的技术可以硬件和/或软件(包括固件、微代码等)的形式来实现。另外,本发明的技术可以采取存储有指令的机器可读介质上的计算机程序产品的形式,该计算机程序产品可供指令执行系统使用或者结合指令执行系统使用。在本发明的上下文中,机器可读介质可以是能够包含、存储、传送、传播或传输指令的任意介质。例如,机器可读介质可以包括但不限于电、磁、光、电磁、红外或半导体系统、装置、器件或传播介质。机器可读介质的具体示例包括:磁存储装置,如磁带或硬盘(HDD);光存储装置,如光盘(CD-ROM);存储器,如随机存取存储器(RAM)或闪存;和/或有线/无线通信链路。
本发明一方面提供一种危险驾驶行为检测方法。
图1为本发明实施例示出的危险驾驶行为检测方法的流程图,如图1所示,本实施例的方法包括:
S110,获取驾驶员的红外图像和深度图像,所述红外图像与所述深度图像之间的像素点具有一一对应关系。
S120,利用人脸识别算法识别所述红外图像,获得所述驾驶员的面部特征点。
S130,根据所述面部特征点获得所述红外图像中所述驾驶员的行为检测区域。
S140,根据行为检测区域内像素点的灰度值、所述深度图像和所述对应关系,识别所述行为检测区域内是否存在预设标识物获得所述驾驶员的状态行为;其中,在识别到所述预设标识物时,获得所述状态行为对应为危险驾驶行为,在未识别到所述预设标识物时,获得所述状态行为对应为标准驾驶行为。
本实施例通过采集驾驶员的深度图像和红外图像,利用红外图像进行图像识别,克服了用于拍摄RGB图像的RGB相机容易受光照影响的缺点,并利用深度图像提供的深度信息准确识别电话、烟类等标识物的存在与否,很好的抑制了由于前后背景干扰或者脸上反光带进来的误报,有效地提高了检测准确率。
本发明实施例结合图2-6,对上述步骤S110-S140进行详细说明
首先执行步骤S110,即获取驾驶员的红外图像和深度图像,红外图像与所述深度图像之间的像素点具有一一对应关系。
在一些实施例中,利用TOF摄像头采集驾驶员上半身的深度图像,TOF摄像头采用激光器作为光源,光照稳定,相比于普通RGB照片图像信息容易受到光照影响的问题,TOF摄像头利用自带的激光器照射,光照稳定可控,使得图像相对稳定,不受光照影响,对人脸检测提供了极大的便利。
TOF摄像头可以同时捕获一张深度图像和同分辨率的红外图像,由于这两张图像是同一个图像传感器产生,所以每个像素点是一一对应的。
在获取驾驶员的红外图像和深度图像之后,继续执行S120,即利用人脸识别算法识别红外图像,获得驾驶员的面部特征点。
在一些实施例中,利用Opencv中的Haar级联分类器对红外图像进行全图查找,获得人脸框;如果多个人脸出现在框内,选取最大人脸对应的人脸框;将人脸框作为dlib机器学习库的输入,通过dlib机器学习库的输出获得面部特征点。通常通过dlib机器学习库的输出可以获得68个面部特征点,其中这68个面部特征点可以标识整个脸部的特征,例如Point48-Point67对应嘴部区域。
在获得驾驶员的面部特征点之后,继续执行步骤S130,即根据面部特征点获得红外图像中所述驾驶员的行为检测区域。
在一些实施例中,可以利用68个面部特征点定位人脸矩形框区域、左右耳区域和嘴部区域,其中所述的行为检测区域包括第一检测区域和第二检测区域,第一检测区域用于检测驾驶员是否存在打电话行为,第二检测区域用于检测驾驶员是否存在吸烟行为。
在一些实施例中,分别通过下述两种方式获取第一检测区域和第二检测区域,其中第一检测区域的获取方法为:根据面部特征点获得红外图像中所述驾驶员的人脸矩形框区域,以人脸矩形框区域左侧边长为高边,向左侧延展人脸矩形框区域左侧边长的一半长度为宽边宽度,获得以高边和宽边围成的左耳区域;以人脸矩形框区域右侧边长为高边,向右侧延展人脸矩形框区域右侧边长的一半长度为宽边宽度,获得以高边和所述宽边围成的右耳区域;将左耳区域和右耳区域作为第一检测区域。
第二检测区域的获取方法为:从面部特征点中获得嘴部中心点和嘴角特征点;以嘴部中心点为中心,两倍嘴角距离为边长围成的矩形区域为第二检测区域。
在本实施例的一些应用中,可以将68个面部特点对应的最小外接矩形作为驾驶员的人脸矩形框区域,如图2-3所示分别以人脸外接矩形左右侧为边,向左/向右扩充0.5*height,height为人脸外接矩形的高,两边扩充出来的矩形分别作为左耳区域和右耳区域,作为第一检测区域。以嘴部中心为中心,两倍嘴角距离(即左嘴角与右嘴角之间的距离为嘴角距离)为边长的正方形区域,作为第二检测区域。
在获取驾驶员的行为检测区域之后,继续执行步骤S140,即根据行为检测区域内像素点的灰度值、深度图像和对应关系,识别行为检测区域内是否存在预设标识物获得所述驾驶员的状态行为;其中,在识别到预设标识物时,获得状态行为对应为危险驾驶行为,在未识别到预设标识物时,获得状态行为对应为标准驾驶行为。
在一些实施例中,根据行为检测区域内像素点的灰度值、深度图像和对应关系,分别识别第一检测区域与第二检测区域内是否存在预设标识物,以获得驾驶员是否存在打电话或吸烟的危险驾驶行为。
结合一些实施例,对第一检测区域是否存在预设标识物(此时所述预设标识物为电话标识物)的识别方法如下:
根据第一检测区域内每个像素点的灰度值,获得第一检测区域内每个像素点的梯度特征信息;将梯度特征信息输入到预先训练好的支持向量机模型,通过支持向量机模型的输出结果识别第一检测区域内是否存在电话标识物;在输出结果为第一数值时,识别第一检测区域内可能存在电话标识物;在输出结果为第二数值时,识别第一检测区域内不存在电话标识物。
即本实施例对定位得到左、右耳区域内的像素点分别计算梯度特征信息,输入到预先训练好支持向量机的(Support Vector Machine,SVM)模型,对红外图像的单帧状态进行预测,得到0或1;其中SVM输出值为0时,识别左、右耳区域内不存在电话,SVM模型输出值为1时,识别左、右耳区域内可能存在电话。此时所识别出的结果可能是脸前面手、脸后面靠枕、后车窗之类的误识别,因此本实施例以嘴部区域为基准面,利用基准面一定深度范围内的区域对SVM模型输出结果进行误识别过滤。
在一些实施例中,通过下述方法对SVM模型的输出结果进行误识别过滤:在识别到第一检测区域内可能存在电话标识物时,获得第一检测区域内像素点的深度值处于深度值参考范围区间内的像素点个数;在像素点个数大于第一数量阈值时,识别第一检测区域内存在电话标识物;在像素点个数不大于所述第一数量阈值时,识别第一检测区域内不存在电话标识物。其中,可以根据所述面部特征点获得所述驾驶员的嘴部区域,并根据所述对应关系获得所述嘴部区域内每个像素点的深度值,将所述嘴部区域内像素点深度值的平均值所在的平面作为基准面;将在深度方向上与所述基准面成预设深度的范围作为所述深度值参考范围区间。
一个示例,将获得的嘴部区域内像素点的平均深度值mouth_mean_value(毫米)作为基准面,分别统计左右耳区域内落在[mouth_mean_value-200mm,mouth_mean_value+200mm]范围内的像素个数占比,比例值超过0.8时识别到电话标识物,由此可以去掉前后背景中的误报。
在识别到预设标识物即识别到电话标识物时,获得驾驶员的状态行为对应为危险驾驶行为,在未识别到电话标识物时,获得驾驶员的状态行为对应为标准驾驶行为。
结合一些实施例,对第二检测区域是否存在预设标识物(此时所述预设标识物为烟类标识物)的识别方法如下:
根据所述第二检测区域内像素点的亮度值对第二检测区域进行边缘提取,根据边缘提出结果识别所述第二检测区域内是否存在烟类标识物;在提取到矩形区域,识别所述第二检测区域内可能存在烟类标识物;在未提取到所述矩形区域,识别所述第二检测区域内不存在烟类标识物。
即本实施例对定位得到的嘴部区域做边缘提取,例如利用canny边缘提取算法对如图4所示的红外图像中的嘴部区域进行边缘提取,因为烟类与脸部的亮度不一致,所以烟类的轮廓可以被提取,烟类的轮廓为如图5示出的类似长方形的区域,若没有提取到类似长方形的区域,识别为第二检测区域不存在烟类标识物,设置状态值为0;反之,若提取到类似长方形的区域则将其坐标范围记录为Rect,对应的识别结果为第二检测区域可能存在烟类标识物,设置状态值为1。由于传统相机固有的特性,使得脸部长方形反光区域和烟在二维图像上的成像相似,由此非常容易造成误检测,因此本实施例以嘴部区域为基准面,因为脸上的反光区域就是存在脸上,与脸的距离为0,但烟类与脸部一般有一定的距离(该距离约等于烟的长度),这种区别TOF摄像头是可以捕获的,利用深度信息对边缘提取结果进行误识别过滤。
在一些实施例中,通过下述方法边缘提取结果进行误识别过滤:在识别到所述第二检测区域内可能存在所述烟类标识物时,获得所述矩形区域内像素点的深度值大于深度参考值的像素点个数;在像素点个数大于预设第二数量阈值时,识别第二检测区域内存在所述烟类标识物;在像素点个数不大于第二数量阈值时,识别所述第二检测区域内不存在烟类标识物。其中,可以根据对应关系获得第二检测区域内每个像素点的深度值;利用第二检测区域内全部目标像素点的深度值的平均值减去所述矩形区域内每个像素点的深度值,获得矩形区域内每个像素点的深度参考值;其中目标像素点为处于第二检测区域内但未处于所述矩形区域内的像素点。
一个示例,统计嘴部正方形区域(不包括矩形区域Rect)对应的深度值平均值B,用B减长矩形区域Rect每个深度值得差值x,设矩形区域Rect内共有n个像素点的深度值,若差值大于2cm的像素点数量大于n/3(由于TOF摄像头在驾驶员前方,所以嘴部的深度值大,烟深度值小,两者的深度差值约为烟的长度),则认为矩形区域Rect对应的成像物体明显高于面部,此时认为驾驶员在吸烟,该矩形区域Rect即为烟类标识物,反之,差值大于2cm的像素点数量不大于n/3认为边缘提取结果为误识别,此时认为驾驶员没有在吸烟。
由此在对SVM模式的输出结果和边缘提取结果进行误识别过滤后,可以获得驾驶员对应于图像采集时刻的状态行为,即误识别过滤后的SVM模型输出结果为0或1(其中输出为0对应为第一检测区域内不存在电话标识物,输出为1对应为第一检测区域内存在电话标识物),误识别过滤后的边缘提取结果对应的状态值为0或1(其中状态值为0对应为第二检测区域内不存在烟类标识物,状态值为1对应为第二检测区域内存在烟类标识物)。由于基于一组图像不能准确检测出驾驶员是否处于打电话或吸烟的危险驾驶行为,因为动作是一个持续的过程,只有经过状态机的判断才能准确检测出标准驾驶行为还是打电话或吸烟行为。
如图6所示,获取驾驶员的单帧状态,所述单帧状态为根据上述步骤S110-S140检测出的驾驶员的驾驶行为,若驾驶员的单帧状态即不对应打电话行为又不对应吸烟行为,则获取下一时刻驾驶员的单帧状态;若驾驶员的单帧状态对应为打电话或吸烟行为时,基于上述步骤S110-S140检测驾驶员相对每个采样时刻的驾驶行为,若连续获取的各单帧状态中,表示驾驶员处于同一危险驾驶行为的单帧状态总数与表示驾驶员处于正常驾驶行为的单帧状态总数的比值大于第一比值,且预设时长范围内获取的全部单帧状态中,表示驾驶员处于同一危险驾驶行为的单帧状态总数与表示驾驶员处于正常驾驶行为的单帧状态总数的比值大于第二比值,确定驾驶员处于危险驾驶状态。
例如,当前单帧状态对应为驾驶员的打电话行为,在接下来的2.7内,在1.2秒内连续获得多个单帧状态中,表示驾驶员处于打电话行为的单帧状态总数与表示驾驶员处于正常驾驶行为的单帧状态总数的比值BufferPercent1大于0.5,且2.7内接收到的全部单帧状态中,表示驾驶员处于打电话行为的单帧状态总数与表示驾驶员处于正常驾驶行为的单帧状态总数的比值BufferPercent2大于0.9,此时检测出驾驶员存在打电话行为。
本实施例采用TOF摄像头,用红外图像检测打电话和吸烟行为,做到白天黑夜不同光照环境下无差别获取驾驶员头像,提高驾驶行为的检测准确率;以及利用深度信息过滤前后背景的打电话误识别,并感知烟和人脸的深度差别进行吸烟误识别过滤,弥补了传统二维相机易受反光成像干扰的缺点,极大降低了误检测概率。
本发明另一方面提供一种相机。
图7为本发明实施例示出的相机结构框图,如图7所示,本实施例的相机包括:TOF摄像头和处理器;
TOF摄像头,采集驾驶员的深度图像和红外图像,所述红外图像与所述深度图像之间的像素点具有一一对应关系;
处理器,接收深度图像和所述红外图像,利用人脸识别算法识别所述红外图像,获得所述驾驶员的面部特征点;根据所述面部特征点获得所述红外图像中所述驾驶员的行为检测区域;根据所述行为检测区域内像素点的灰度值、所述深度图像和所述对应关系,识别所述行为检测区域内是否存在预设标识物获得所述驾驶员的状态信息;其中,在识别到所述预设标识物时,获得所述状态信息为危险驾驶状态,在未识别到所述预设标识物时,获得所述状态信息为危险驾驶状态标注驾驶状态;利用所述状态信息检测所述驾驶员的驾驶行为。
在一些实施例中,处理器根据所述面部特征点获得所述红外图像中所述驾驶员的人脸矩形框区域,以所述人脸矩形框区域左侧边长为高边,向左侧延展所述人脸矩形框区域左侧边长的一半长度为宽边宽度,获得以所述高边和所述宽边围成的左耳区域;以所述人脸矩形框区域右侧边长为高边,向右侧延展所述人脸矩形框区域右侧边长的一半长度为宽边宽度,获得以所述高边和所述宽边围成的右耳区域;将所述左耳区域和所述右耳区域作为所述第一检测区域。以及从所述面部特征点中获得嘴部中心点和嘴角特征点;以所述嘴部中心点为中心,两倍嘴角距离为边长围成的矩形区域为所述第二检测区域。
在一些实施例中,处理器还根据所述第一检测区域内每个像素点的灰度值,获得所述第一检测区域内每个像素点的梯度特征信息;将所述梯度特征信息输入到预先训练好的支持向量机模型,通过所述支持向量机模型的输出结果识别所述第一检测区域内是否存在预设标识物;其中所述预设标识物为电话标识物;在所述输出结果为第一数值时,识别所述第一检测区域内可能存在所述电话标识物;在所述输出结果为第二数值时,识别所述第一检测区域内不存在所述电话标识物。以及在识别到所述第一检测区域内可能存在所述电话标识物时,获得所述第一检测区域内像素点的深度值处于深度值参考范围区间内的像素点个数;在所述像素点个数大于第一数量阈值时,识别所述第一检测区域内存在所述电话标识物;在所述像素点个数不大于所述第一数量阈值时,识别所述第一检测区域内不存在所述电话标识物。
在一些实施例中,处理器还根据所述第二检测区域内像素点的亮度值对所述第二检测区域进行边缘提取,根据边缘提出结果识别所述第二检测区域内是否存在预设标识物;其中所述预设标识物为烟类标识物;在提取到矩形区域,识别所述第二检测区域内可能存在所述烟类标识物;在未提取到所述矩形区域,识别所述第二检测区域内不存在所述烟类标识物。以及在识别到所述第二检测区域内可能存在所述烟类标识物时,获得所述矩形区域内像素点的深度值大于深度参考值的像素点个数;在所述像素点个数大于预设第二数量阈值时,识别所述第二检测区域内存在所述烟类标识物;在所述像素点个数不大于所述第二数量阈值时,识别所述第二检测区域内不存在所述烟类标识物。
对于相机实施例而言,由于其基本对应于方法实施例,所以相关之处参见方法实施例的部分说明即可。以上所描述的相机实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性劳动的情况下,即可以理解并实施。
以上所述,仅为本发明的具体实施方式,在本发明的上述教导下,本领域技术人员可以在上述实施例的基础上进行其他的改进或变形。本领域技术人员应该明白,上述的具体描述只是更好的解释本发明的目的,本发明的保护范围应以权利要求的保护范围为准。
Claims (10)
1.一种危险驾驶行为检测方法,其特征在于,所述方法包括:
获取驾驶员的红外图像和深度图像,所述红外图像与所述深度图像之间的像素点具有一一对应关系;
利用人脸识别算法识别所述红外图像,获得所述驾驶员的面部特征点;
根据所述面部特征点获得所述红外图像中所述驾驶员的行为检测区域;
根据所述行为检测区域内像素点的灰度值、所述深度图像和所述对应关系,识别所述行为检测区域内是否存在预设标识物获得所述驾驶员的状态行为;其中,在识别到所述预设标识物时,获得所述状态行为对应为危险驾驶行为,在未识别到所述预设标识物时,获得所述状态行为对应为标准驾驶行为。
2.根据权利要求1所述的方法,其特征在于,所述行为检测区域包括第一检测区域,所述识别所述行为检测区域内是否存在预设标识物获得所述驾驶员的状态信息,包括:
根据所述第一检测区域内每个像素点的灰度值,获得所述第一检测区域内每个像素点的梯度特征信息;
将所述梯度特征信息输入到预先训练好的支持向量机模型,通过所述支持向量机模型的输出结果识别所述第一检测区域内是否存在预设标识物;其中所述预设标识物为电话标识物;
在所述输出结果为第一数值时,识别所述第一检测区域内可能存在所述电话标识物;在所述输出结果为第二数值时,识别所述第一检测区域内不存在所述电话标识物。
3.根据权利要求2所述的方法,其特征在于,所述根据所述对应关系和所述面部特征点,获得所述驾驶员的行为检测区域,还包括:
在识别到所述第一检测区域内可能存在所述电话标识物时,获得所述第一检测区域内像素点的深度值处于深度值参考范围区间内的像素点个数;
在所述像素点个数大于第一数量阈值时,识别所述第一检测区域内存在所述电话标识物;在所述像素点个数不大于所述第一数量阈值时,识别所述第一检测区域内不存在所述电话标识物。
4.根据权利要求3所述的方法,其特征在于,通过下述方法获得所述深度值参考范围区间:
根据所述面部特征点获得所述驾驶员的嘴部区域,并根据所述对应关系获得所述嘴部区域内每个像素点的深度值,将所述嘴部区域内像素点深度值的平均值所在的平面作为基准面;
将在深度方向上与所述基准面成预设深度的范围作为所述深度值参考范围区间。
5.根据权利要求2所述的方法,其特征在于,所述根据所述面部特征点获得所述红外图像中所述驾驶员的行为检测区域,包括:
根据所述面部特征点获得所述红外图像中所述驾驶员的人脸矩形框区域,以所述人脸矩形框区域左侧边长为高边,向左侧延展所述人脸矩形框区域左侧边长的一半长度为宽边宽度,获得以所述高边和所述宽边围成的左耳区域;
以所述人脸矩形框区域右侧边长为高边,向右侧延展所述人脸矩形框区域右侧边长的一半长度为宽边宽度,获得以所述高边和所述宽边围成的右耳区域;
将所述左耳区域和所述右耳区域作为所述第一检测区域。
6.根据权利要求1所述的方法,其特征在于,所述行为检测区域包括第二检测区域,所述识别所述行为检测区域内是否存在预设标识物获得所述驾驶员的状态信息,包括:
根据所述第二检测区域内像素点的亮度值对所述第二检测区域进行边缘提取,根据边缘提出结果识别所述第二检测区域内是否存在预设标识物;其中所述预设标识物为烟类标识物;
在提取到矩形区域,识别所述第二检测区域内可能存在所述烟类标识物;在未提取到所述矩形区域,识别所述第二检测区域内不存在所述烟类标识物。
7.根据权利要求6所述的方法,其特征在于,所述识别所述行为检测区域内是否存在预设标识物获得所述驾驶员的状态信息,还包括:
在识别到所述第二检测区域内可能存在所述烟类标识物时,获得所述矩形区域内像素点的深度值大于深度参考值的像素点个数;
在所述像素点个数大于预设第二数量阈值时,识别所述第二检测区域内存在所述烟类标识物;在所述像素点个数不大于所述第二数量阈值时,识别所述第二检测区域内不存在所述烟类标识物。
8.根据权利要求7所述的方法,其特征在于,通过下述方法获取所述深度参考值:
根据所述对应关系获得所述第二检测区域内每个像素点的深度值;
利用所述第二检测区域内全部目标像素点的深度值的平均值减去所述矩形区域内每个像素点的深度值,获得所述矩形区域内每个像素点的深度参考值;其中所述目标像素点为处于所述第二检测区域内但未处于所述矩形区域内的像素点。
9.根据权利要求6所述的方法,其特征在于,所述根据所述面部特征点获得所述红外图像中所述驾驶员的行为检测区域,包括:
从所述面部特征点中获得嘴部中心点和嘴角特征点;
以所述嘴部中心点为中心,两倍嘴角距离为边长围成的矩形区域为所述第二检测区域。
10.一种相机,其特征在于,包括:TOF摄像头和处理器;
所述TOF摄像头,采集驾驶员的深度图像和红外图像,所述红外图像与所述深度图像之间的像素点具有一一对应关系;
所述处理器,接收所述深度图像和所述红外图像,利用人脸识别算法识别所述红外图像,获得所述驾驶员的面部特征点;根据所述面部特征点获得所述红外图像中所述驾驶员的行为检测区域;根据所述行为检测区域内像素点的灰度值、所述深度图像和所述对应关系,识别所述行为检测区域内是否存在预设标识物获得所述驾驶员的状态信息;其中,在识别到所述预设标识物时,获得所述状态信息为危险驾驶状态,在未识别到所述预设标识物时,获得所述状态信息为危险驾驶状态标注驾驶状态;利用所述状态信息检测所述驾驶员的驾驶行为。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910245674.0A CN110046560B (zh) | 2019-03-28 | 2019-03-28 | 一种危险驾驶行为检测方法和相机 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910245674.0A CN110046560B (zh) | 2019-03-28 | 2019-03-28 | 一种危险驾驶行为检测方法和相机 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110046560A true CN110046560A (zh) | 2019-07-23 |
CN110046560B CN110046560B (zh) | 2021-11-23 |
Family
ID=67275500
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910245674.0A Active CN110046560B (zh) | 2019-03-28 | 2019-03-28 | 一种危险驾驶行为检测方法和相机 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110046560B (zh) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110837815A (zh) * | 2019-11-15 | 2020-02-25 | 济宁学院 | 一种基于卷积神经网络的驾驶员状态监测方法 |
CN111325058A (zh) * | 2018-12-14 | 2020-06-23 | 长沙智能驾驶研究院有限公司 | 驾驶行为检测方法、装置、系统及存储介质 |
CN111422203A (zh) * | 2020-02-28 | 2020-07-17 | 南京交通职业技术学院 | 一种驾驶行为评估方法及装置 |
CN111709355A (zh) * | 2020-06-12 | 2020-09-25 | 北京百度网讯科技有限公司 | 识别目标区域的方法、装置、电子设备和路侧设备 |
CN111967432A (zh) * | 2020-08-31 | 2020-11-20 | 上海博泰悦臻网络技术服务有限公司 | 一种驾驶员行为的监测装置及方法 |
CN112016457A (zh) * | 2020-08-27 | 2020-12-01 | 青岛慕容信息科技有限公司 | 驾驶员分神以及危险驾驶行为识别方法、设备和存储介质 |
CN112052815A (zh) * | 2020-09-14 | 2020-12-08 | 北京易华录信息技术股份有限公司 | 一种行为检测方法、装置及电子设备 |
CN113450534A (zh) * | 2020-03-27 | 2021-09-28 | 海信集团有限公司 | 检测儿童靠近危险品的装置及方法 |
CN113971838A (zh) * | 2021-10-28 | 2022-01-25 | 江西电信信息产业有限公司 | 一种基于识别人员安全行为画像的检测方法及装置 |
CN116189117A (zh) * | 2023-04-24 | 2023-05-30 | 天翼交通科技有限公司 | 一种危险驾驶行为识别方法、系统、电子设备及存储介质 |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7111307B1 (en) * | 1999-11-23 | 2006-09-19 | Microsoft Corporation | Method and system for monitoring and verifying software drivers using system resources including memory allocation and access |
CN104200199A (zh) * | 2014-08-27 | 2014-12-10 | 合肥工业大学 | 基于tof相机的不良驾驶行为检测方法 |
CN105469035A (zh) * | 2015-11-17 | 2016-04-06 | 中国科学院重庆绿色智能技术研究院 | 基于双目视频分析的驾驶员不良驾驶行为检测系统 |
CN105764735A (zh) * | 2013-10-29 | 2016-07-13 | 金在哲 | 通过对于动作、面部、眼睛、嘴型的认知的2步骤预防瞌睡驾驶装置 |
CN107545225A (zh) * | 2016-06-23 | 2018-01-05 | 杭州海康威视数字技术股份有限公司 | 一种检测车载驾驶员违规行为的方法、装置及电子设备 |
CN107697069A (zh) * | 2017-10-31 | 2018-02-16 | 上海汽车集团股份有限公司 | 汽车驾驶员疲劳驾驶智能控制方法 |
CN108609018A (zh) * | 2018-05-10 | 2018-10-02 | 郑州天迈科技股份有限公司 | 用于分析危险驾驶行为的预警终端、预警系统及分析算法 |
CN108764034A (zh) * | 2018-04-18 | 2018-11-06 | 浙江零跑科技有限公司 | 一种基于驾驶室近红外相机的分神驾驶行为预警方法 |
CN108960094A (zh) * | 2018-06-21 | 2018-12-07 | 吉旗物联科技(上海)有限公司 | 一种基于方向梯度直方图的驾驶员抽烟动作检测算法 |
CN108960065A (zh) * | 2018-06-01 | 2018-12-07 | 浙江零跑科技有限公司 | 一种基于视觉的驾驶行为检测方法 |
-
2019
- 2019-03-28 CN CN201910245674.0A patent/CN110046560B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7111307B1 (en) * | 1999-11-23 | 2006-09-19 | Microsoft Corporation | Method and system for monitoring and verifying software drivers using system resources including memory allocation and access |
CN105764735A (zh) * | 2013-10-29 | 2016-07-13 | 金在哲 | 通过对于动作、面部、眼睛、嘴型的认知的2步骤预防瞌睡驾驶装置 |
CN104200199A (zh) * | 2014-08-27 | 2014-12-10 | 合肥工业大学 | 基于tof相机的不良驾驶行为检测方法 |
CN105469035A (zh) * | 2015-11-17 | 2016-04-06 | 中国科学院重庆绿色智能技术研究院 | 基于双目视频分析的驾驶员不良驾驶行为检测系统 |
CN107545225A (zh) * | 2016-06-23 | 2018-01-05 | 杭州海康威视数字技术股份有限公司 | 一种检测车载驾驶员违规行为的方法、装置及电子设备 |
CN107697069A (zh) * | 2017-10-31 | 2018-02-16 | 上海汽车集团股份有限公司 | 汽车驾驶员疲劳驾驶智能控制方法 |
CN108764034A (zh) * | 2018-04-18 | 2018-11-06 | 浙江零跑科技有限公司 | 一种基于驾驶室近红外相机的分神驾驶行为预警方法 |
CN108609018A (zh) * | 2018-05-10 | 2018-10-02 | 郑州天迈科技股份有限公司 | 用于分析危险驾驶行为的预警终端、预警系统及分析算法 |
CN108960065A (zh) * | 2018-06-01 | 2018-12-07 | 浙江零跑科技有限公司 | 一种基于视觉的驾驶行为检测方法 |
CN108960094A (zh) * | 2018-06-21 | 2018-12-07 | 吉旗物联科技(上海)有限公司 | 一种基于方向梯度直方图的驾驶员抽烟动作检测算法 |
Non-Patent Citations (2)
Title |
---|
GERMAN CASTIGNANI 等: "Driver Behavior Profiling Using Smartphones:A Low-Cost Platform for Driver Monitoring", 《IEEE INTELLIGENT TRANSPORTATION SYSTEMS MAGAZINE》 * |
庄杰: "基于人车耦合的安全驾驶行为预警关键技术研究", 《电子技术与软件工程》 * |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111325058A (zh) * | 2018-12-14 | 2020-06-23 | 长沙智能驾驶研究院有限公司 | 驾驶行为检测方法、装置、系统及存储介质 |
CN111325058B (zh) * | 2018-12-14 | 2023-12-01 | 长沙智能驾驶研究院有限公司 | 驾驶行为检测方法、装置、系统及存储介质 |
CN110837815A (zh) * | 2019-11-15 | 2020-02-25 | 济宁学院 | 一种基于卷积神经网络的驾驶员状态监测方法 |
CN111422203A (zh) * | 2020-02-28 | 2020-07-17 | 南京交通职业技术学院 | 一种驾驶行为评估方法及装置 |
CN111422203B (zh) * | 2020-02-28 | 2022-03-15 | 南京交通职业技术学院 | 一种驾驶行为评估方法及装置 |
CN113450534A (zh) * | 2020-03-27 | 2021-09-28 | 海信集团有限公司 | 检测儿童靠近危险品的装置及方法 |
CN111709355A (zh) * | 2020-06-12 | 2020-09-25 | 北京百度网讯科技有限公司 | 识别目标区域的方法、装置、电子设备和路侧设备 |
CN111709355B (zh) * | 2020-06-12 | 2023-08-29 | 阿波罗智联(北京)科技有限公司 | 识别目标区域的方法、装置、电子设备和路侧设备 |
CN112016457A (zh) * | 2020-08-27 | 2020-12-01 | 青岛慕容信息科技有限公司 | 驾驶员分神以及危险驾驶行为识别方法、设备和存储介质 |
CN111967432A (zh) * | 2020-08-31 | 2020-11-20 | 上海博泰悦臻网络技术服务有限公司 | 一种驾驶员行为的监测装置及方法 |
CN112052815A (zh) * | 2020-09-14 | 2020-12-08 | 北京易华录信息技术股份有限公司 | 一种行为检测方法、装置及电子设备 |
CN112052815B (zh) * | 2020-09-14 | 2024-02-20 | 北京易华录信息技术股份有限公司 | 一种行为检测方法、装置及电子设备 |
CN113971838A (zh) * | 2021-10-28 | 2022-01-25 | 江西电信信息产业有限公司 | 一种基于识别人员安全行为画像的检测方法及装置 |
CN116189117A (zh) * | 2023-04-24 | 2023-05-30 | 天翼交通科技有限公司 | 一种危险驾驶行为识别方法、系统、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN110046560B (zh) | 2021-11-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110046560A (zh) | 一种危险驾驶行为检测方法和相机 | |
CN108764071B (zh) | 一种基于红外和可见光图像的真实人脸检测方法及装置 | |
JP5127531B2 (ja) | 画像監視装置 | |
US6611613B1 (en) | Apparatus and method for detecting speaking person's eyes and face | |
US7916904B2 (en) | Face region detecting device, method, and computer readable recording medium | |
CN106372629B (zh) | 一种活体检测方法和装置 | |
CN106909911A (zh) | 图像处理方法、图像处理装置和电子装置 | |
CN109670421B (zh) | 一种疲劳状态检测方法和装置 | |
US7620216B2 (en) | Method of tracking a human eye in a video image | |
JP4774818B2 (ja) | 画像処理装置及び画像処理方法 | |
JP2016162232A (ja) | 画像認識方法及び装置、プログラム | |
US10552675B2 (en) | Method and apparatus for eye detection from glints | |
CN107016348A (zh) | 结合深度信息的人脸检测方法、检测装置和电子装置 | |
CN106991688A (zh) | 人体跟踪方法、人体跟踪装置和电子装置 | |
CN106997457B (zh) | 人物肢体识别方法、人物肢体识别装置及电子装置 | |
JP5955031B2 (ja) | 顔画像認証装置 | |
CN112257641A (zh) | 一种人脸识别活体检测方法 | |
CN109086724A (zh) | 一种加速的人脸检测方法及存储介质 | |
CN110532999B (zh) | 抽烟行为识别方法、装置及设备 | |
CN109697444A (zh) | 基于深度图像的对象识别方法及装置、设备、存储介质 | |
EP3042341A1 (en) | Method and apparatus for eye detection from glints | |
CN109934143A (zh) | 一种虹膜图像中美瞳的检测的方法和设备 | |
JPWO2010032298A1 (ja) | 画像処理装置および画像処理方法 | |
KR102250712B1 (ko) | 전자 장치 및 제어 방법 | |
CN110688967A (zh) | 用于静态人脸活体检测的系统以及方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |