CN110222596A - 一种基于视觉的驾驶员行为分析防作弊方法 - Google Patents
一种基于视觉的驾驶员行为分析防作弊方法 Download PDFInfo
- Publication number
- CN110222596A CN110222596A CN201910421326.4A CN201910421326A CN110222596A CN 110222596 A CN110222596 A CN 110222596A CN 201910421326 A CN201910421326 A CN 201910421326A CN 110222596 A CN110222596 A CN 110222596A
- Authority
- CN
- China
- Prior art keywords
- driver
- cheating
- infrared blocking
- scene
- detection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
- G06V20/597—Recognising the driver's state or behaviour, e.g. attention or drowsiness
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明涉及一种基于视觉的驾驶员行为分析防作弊方法,包括下列步骤:①驾驶室摄像头遮挡检测,若驾驶室摄像头遮挡检测结果为场景正常,则执行步骤②,反之则执行步骤③;②虚假驾驶员检测,并进行佩戴红外阻断眼镜检测和佩戴红外阻断口罩检测;③计算各作弊行为时序置信度,定义作弊行为的类别;④将检测结果进行记录,并上传给远端管控平台。本发明能准确识别摄像头遮挡行为、用图像或视频替代真实驾驶员的虚假行为以及用典型红外阻断道具等“作弊”手段,为基于视觉的驾驶员行为分析系统提供输入数据可靠性保障,提高汽车安全驾驶的监管。
Description
技术领域
本发明涉及基于视觉的驾驶员分析系统,尤其涉及一种基于视觉的驾驶员行为分析防作弊方法。
背景技术
中国每年发生交通事故数十万起,因交通事故死亡人数均逾十万人。据道路交通事故数据统计,有超过半数的交通事故是由驾驶员的危险行为或错误操作所导致的。然而,此类人为事故中大部分是由于驾驶疲劳或分神造成的。因而驾驶行为智能分析预警系统具有重要的应用价值。现有乘用车以及商用车的主动安全系统很少有涉及驾驶员行为分析与提醒的功能。尤其是对于商业运输车辆而言,长时间以及长途驾驶使上述危险驾驶情况的发生概率更高。现有大部分商用营运车辆不具备功能完善的驾驶员行为监测系统,部分具备车载录像以及操作记录功能,但不具备疲劳或危险驾驶行为预警系统,因而无法有效保障长途驾驶的行车安全。
近年来也出现了部分驾驶疲劳预警系统,有的通过监测驾驶操纵信号(方向盘转角以及油门、制动踏板信号),有的通过视觉信号分析驾驶员面部行为特征(眼部、口部等)。其中,基于视觉的驾驶员分析系统在实际项目应用过程中,存在某些“逃避”系统监控的可能性,所以需要有能及时发现这些“逃避”行为的监测系统,以提高汽车安全驾驶的监管。
现有基于视觉系统输入的驾驶员分析系统应用上不支持上述功能。现有部分车载录像系统具有录像异常检测功能,但此类功能多针对图像采集异常,多为纯色检测,或基于图像全局亮度以及对比度进行综合判断。车外相机遮挡检测多为检测雨雪、污泥等斑点对图像清晰度的影响。部分人脸识别方法需要使用者互动配合(如眨眼、点头等)才能完成指定验证行为,对于驾驶员行为分析的应用场景并不适用。因此现有的车辆视觉系统均无法实时监测驾驶员的“逃避”行为。
发明内容
本发明为了解决上述技术问题,提供一种基于视觉的驾驶员行为分析防作弊方法,其能准确识别摄像头遮挡、用图像或视频替代真实驾驶员的虚假行为以及用典型红外阻断道具等“作弊”手段,为基于视觉的驾驶员行为分析系统提供输入数据可靠性保障,提高汽车安全驾驶的监管。
本发明的上述技术问题主要是通过下述技术方案得以解决的:本发明的一种基于视觉的驾驶员行为分析防作弊方法,包括下列步骤:
①驾驶室摄像头遮挡检测;若驾驶室摄像头遮挡检测结果为场景正常,则执行步骤②;反之,则执行步骤③;
②虚假驾驶员检测和/或佩戴红外阻断设备检测;
③计算各作弊行为时序置信度,定义作弊行为的类别;
④将检测结果进行记录,并上传给远端管控平台。
本发明能准确识别摄像头遮挡、用图像或视频替代真实驾驶员的虚假行为以及佩戴典型红外阻断道具等“作弊”手段,为基于视觉的驾驶员行为分析系统提供输入数据可靠性保障,提高汽车安全驾驶的监管。
作为优选,所述的步骤②中的虚假驾驶员检测指基于驾驶员分析系统的驾驶员面部的图像域或特征域输入,利用卷积神经网络分类识别当前是真实驾驶员还是虚假驾驶员;所述的佩戴红外阻断设备检测包括佩戴红外阻断眼镜检测和/或佩戴红外阻断口罩检测。本发明根据需要,可以有几种技术方案:包含驾驶室摄像头遮挡检测和虚假驾驶员检测;包含驾驶室摄像头遮挡检测和佩戴红外阻断眼镜检测;包含驾驶室摄像头遮挡检测和佩戴红外阻断口罩检测;包含驾驶室摄像头遮挡检测、虚假驾驶员检测和佩戴红外阻断设备检测。最全的方案就是包含四种检则模块:摄像头(镜头)遮挡行为检测,用图像或视频替代真实驾驶员行为检测,佩戴红外阻断眼镜行为检测,佩戴红外阻断口罩行为检测。
摄像头遮挡行为检测:当摄像头被不同物品遮挡住时,将无法获取有效驾驶室视频流。针对不同材质遮挡物对红外补光的反射特性,利用全局图像统计数据,对镜头完全被遮挡的场景进行识别。
虚假驾驶员检测:当静态图片、动态视频取代真实驾驶员作为驾驶员分析系统输入时,无法真实反应驾驶员疲劳以及专注程度。利用深度卷积神经网络,对所检测到的驾驶员感兴趣区域进行识别。
佩戴红外阻断设备检测:当驾驶员穿戴红外补光无法穿透的装备(如红外阻断眼镜、红外阻断口罩等)时,系统无法正常提取驾驶员眼部或口部特征并进行疲劳行为分析(如闭眼、哈欠等行为),利用人脸识别检测眼部以及口部感兴趣区域的特征分析,对此类场景进行识别。
作为优选,所述的步骤①包括下列步骤:
(11)驾驶室摄像头遮挡识别神经网络模型:输入为单通道驾驶室场景图片,经过特征编码与降采样,输出为场景遮挡分类结果,场景遮挡分类结果分为场景正常、吸光物质场景遮挡和反光物质场景遮挡;
(12)驾驶室摄像头遮挡识别神经网络模型训练:采集驾驶室场景训练数据,包括吸光物质遮挡场景、反光物质遮挡场景以及正常驾驶场景的时序离散样本各数万张,按网络输出结构化数据定义,人工标注训练样本,生成训练标签,利用在线样本扩充技术,采用迷你批量梯度下降方法优化如下损失函数L1:
其中,yi为场景遮挡类别真值,ai为softmax层的输入向量元素;
(13)驾驶室摄像头遮挡识别神经网络模型应用:将步骤(12)中训练好模型参数经剪枝与量化压缩操作后,部署于前端平台;红外图像Y分量数据缩放至网络输入大小,输入前端平台部署网络。
作为优选,所述的步骤②中的虚假驾驶员检测包括下列步骤:
(21)虚假驾驶员识别神经网络模型:输入为场景遮挡识别深度卷积神经网络浅层特征图谱,经过感兴趣区域提取,再经过特征编码与降采样,输出为驾驶员真伪分类结果,驾驶员真伪分类结果分为真实驾驶员、照片驾驶员和视频驾驶员;
(22)虚假驾驶员识别神经网络模型训练:采集虚假驾驶员训练数据,包括真实驾驶员、图片驾驶员以及视频驾驶员时序离散样本各数万张,按网络输出结构化数据定义,附加人脸区域标注,人工标注训练样本,生成训练标签,根据样本标签中的人脸区域图像特征,利用在线样本扩充技术,采用迷你批量梯度下降方法,扩充训练样本并更新网络权重系数;
(23)虚假驾驶员识别神经网络模型应用:将步骤(22)中训练好的模型参数经剪枝与量化压缩操作后,级联于步骤①中的特定特征图谱输出层后,部署于前端平台。
作为优选,所述的步骤②中的佩戴红外阻断设备检测为佩戴红外阻断眼镜检测,基于驾驶员分析系统的驾驶员眼部图像域或特征域输入,利用卷积神经网络分类识别眼部特征遮挡情况,输出眼部可见或眼部不可见的佩戴红外阻断眼镜检测结果;佩戴红外阻断眼镜检测包括下列步骤:
(24)红外阻断眼镜识别神经网络模型:输入为虚假驾驶员识别深度卷积神经网络浅层特征图谱,经过感兴趣区域提取,再经过特征编码与降采样,输出为红外阻断眼镜分类结果,红外阻断眼镜分类结果分为眼部可见和眼部不可见;
(25)红外阻断眼镜识别神经网络模型训练:采集红外阻断眼镜训练数据,包括未戴眼镜驾驶员、戴红外可穿透眼镜驾驶员以及戴红外阻断眼镜驾驶员时序离散样本各数万张,按网络输出结构化数据定义,附加眼部区域标注,人工标注训练样本,生成训练标签,根据样本标签中的眼部区域图像特征,利用在线样本扩充技术,采用迷你批量梯度下降方法,扩充训练样本并更新网络权重系数;
(26)红外阻断眼镜识别神经网络模型应用:将步骤(25)中训练好模型参数经剪枝与量化压缩操作后,级联于步骤①中网络的特定特征图谱输出层后,部署于前端平台。
作为优选,所述的步骤②中的佩戴红外阻断设备检测为佩戴红外阻断口罩检测,基于驾驶员分析系统的驾驶员口部图像域或特征域输入,利用卷积神经网络分类识别口部特征遮挡情况,输出口部可见或口部不可见的红外阻断口罩检测结果;佩戴红外阻断口罩检测包括下列步骤:
(27)红外阻断口罩识别神经网络模型:输入为虚假驾驶员识别深度卷积神经网络浅层特征图谱,经过感兴趣区域提取,再经过特征编码与降采样,输出为红外阻断口罩分类结果,红外阻断口罩分类结果分为口部可见和口部不可见;
(28)红外阻断口罩识别神经网络模型训练:采集口部阻断穿戴训练数据,包括未带口罩驾驶员以及戴红外阻断口罩驾驶员时序离散样本各数万张,按网络输出结构化数据定义,附加口部区域标注,人工标注训练样本,生成训练标签,根据样本标签中的口部区域图像特征,利用在线样本扩充技术,采用迷你批量梯度下降方法,扩充训练样本并更新网络权重系数;
(29)红外阻断口罩识别神经网络模型应用:将步骤(28)中训练好模型参数经剪枝与量化压缩操作后,级联于步骤①中网络的特定特征图谱输出层后,部署于前端平台。
作为优选,所述的步骤③为:
定义驾驶员的作弊状态,S1为摄像头遮挡状态,S2为虚假驾驶员状态,S3为佩戴红外阻断眼镜状态,S4为佩戴红外阻断口罩状态;各作弊状态每时刻初始化为0,若检测出相应作弊状态,则将该作弊状态值更新为1;将上述深度卷积神经网络模型时序预测结果按如下公式计算各作弊行为时序置信度Ci,t:
Ci,t+1=max(0,Ci,t+(Si-1)*Ki+Si*Ki′)
其中,Ki与Ki’为各作弊行为置信度可配置参数,设置各作弊行为置信度判定阈值Ti,若Ci大于Ti,则将检测到的作弊行为定义为i类作弊行为。
作为优选,所述的步骤④为:
利用实时录像与事件记录的方式,记录检测到作弊行为发生时刻的前后各5秒的驾驶室红外摄像头视频数据,并以时间、驾驶员身份编号和作弊状态命名,通过通讯模块将记录的驾驶室红外摄像头视频数据上传给远端管控平台。
本发明的有益效果是:能准确识别遮挡摄像头行为、虚假驾驶员行为以及面部特征遮挡行为等“作弊”手段,并将记录作弊行为的视频上报给远端管控平台,为基于视觉的驾驶员行为分析系统提供输入数据可靠性保障,提高汽车安全驾驶的监管。本发明中网络模型架构综合考虑了应用所需输入的特征尺度,最大程度复用各子网络的特征图谱,优化运算效率。
附图说明
图1是本发明的一种流程图。
图2是本发明中深度卷积神经网络的一种结构示意图。
具体实施方式
下面通过实施例,并结合附图,对本发明的技术方案作进一步具体的说明。
实施例:本实施例的一种基于视觉的驾驶员行为分析防作弊方法,基于驾驶室红外摄像头的红外视觉输入,进行驾驶员行为分析过程中潜在的作弊行为检测,如图2所示,共包括四个子网络,算法逻辑及流程如图1所示。
首先是红外补光图像预处理:主要包括曝光、增益等图像采集参数配置,图像ROI截取以及通道截取。原始输入为YUV格式,截取Y分量数据(即亮度通道数据)送入后续深度卷积神经网络。
接着,具体包括下列步骤:
①驾驶室摄像头遮挡检测:对于驾驶员分析场景输入,利用深度卷积神经网络分类识别场景遮挡类型,输出为场景遮挡检测结果(0-场景正常,1-吸光物质场景遮挡,2-反光物质场景遮挡)。具体实现方法如下:
(11)驾驶室摄像头遮挡识别神经网络模型:如图2场景遮挡识别深度卷积神经网络分支所示,输入为单通道(Y通道,320*180)驾驶室场景图片,经过特征编码(conv+relu+BN层)与降采样(max-pooling层),输出为场景遮挡分类结果(softmax层,1x3向量,0-场景正常,1-吸光物质场景遮挡,2-反光物质场景遮挡);
(12)驾驶室摄像头遮挡识别神经网络模型训练:采集驾驶室场景训练数据,包括白天、夜晚及室内室外环境下吸光物质遮挡场景、反光物质遮挡场景以及正常驾驶场景的时序离散样本各数万张,按网络输出结构化数据定义,人工标注训练样本,生成训练标签,利用在线样本扩充技术(随机几何以及色彩变换等),采用迷你批量梯度下降方法优化如下损失函数L1:
其中,yi为场景遮挡类别真值,ai为softmax层的输入向量元素;
(13)驾驶室摄像头遮挡识别神经网络模型应用:将步骤(12)中训练好模型参数经剪枝与量化压缩操作后,部署于前端平台;红外图像Y分量数据(1280*720)缩放至网络输入大小(320*180),输入前端平台部署网络。算法默认进入该分支。若驾驶室摄像头遮挡检测结果为场景正常,则执行步骤②;反之,则执行步骤③。
②本步骤中包含三个检测模块。
■首先进行虚假驾驶员检测:基于驾驶员分析系统的驾驶员面部ROI输入(图像域或特征域),利用卷积神经网络分类识别真实驾驶员与虚假驾驶员(图片驾驶员输入或视频驾驶员输入),输出驾驶员类别(0-真实驾驶员,1-照片驾驶员,2-视频驾驶员)。具体实现方法如下:
(21)虚假驾驶员识别神经网络模型:如图2虚假驾驶员识别深度卷积神经网络分支所示,输入为场景遮挡识别深度卷积神经网络浅层特征图谱(160*90*8),经过感兴趣区域提取(roi pooling),再经过特征编码(conv+relu+BN层)与降采样(max-pooling层),输出为驾驶员真伪分类结果(softmax层,1x3向量,0-真实驾驶员,1-照片驾驶员,2-视频驾驶员);
(22)虚假驾驶员识别神经网络模型训练:采集虚假驾驶员训练数据,包括真实驾驶员、图片驾驶员(即将打印驾驶员图片,如红外、彩色等,置于红外相机场景内)以及视频驾驶员(即将打印驾驶员视频播放设备屏幕,如手机、平板以及笔记本电脑等,置于红外相机场景内)时序离散样本各数万张,按网络输出结构化数据定义,附加人脸区域标注,人工标注训练样本,生成训练标签,根据样本标签中的人脸区域图像特征,参照步骤(12)的训练方法扩充训练样本并更新网络权重系数;
(23)虚假驾驶员识别神经网络模型应用:将步骤(22)中训练好的模型参数经剪枝与量化压缩操作后,级联于(12)中网络的特定特征图谱输出层后,部署于前端平台。若摄像头遮挡识别分支网络输出为0,则进入该分支。
接着同时进行佩戴红外阻断眼镜检测和佩戴红外阻断口罩检测。
■佩戴红外阻断眼镜检测:作为可选项,基于驾驶员分析系统的驾驶员眼部ROI输入(图像域或特征域),利用卷积神经网络分类识别眼部特征遮挡情况,输出为佩戴红外阻断眼镜检测结果(0-眼部可见,1-眼部不可见)。具体实现方法如下:
(24)红外阻断眼镜识别神经网络模型:如图2红外阻断眼镜识别深度卷积神经网络分支所示,输入为虚假驾驶员识别深度卷积神经网络浅层特征图谱(80*45*16),经过感兴趣区域提取(roi pooling),再经过特征编码(conv+relu+BN层)与降采样(max-pooling层),输出为红外阻断眼镜分类结果(softmax层,1x2向量,0-眼部可见,1-眼部不可见);
(25)红外阻断眼镜识别神经网络模型训练:采集红外阻断眼镜训练数据,包括未戴眼镜驾驶员、戴红外可穿透眼镜驾驶员(近视眼镜、墨镜等)以及戴红外阻断眼镜驾驶员时序离散样本各数万张,按网络输出结构化数据定义(未戴眼镜驾驶员以及戴可穿透眼镜驾驶员图片为0,戴红外阻断眼镜为1),附加眼部区域标注,人工标注训练样本,生成训练标签,根据样本标签中的眼部区域图像特征,参照步骤(12)的训练方法扩充训练样本并更新网络权重系数;
(26)红外阻断眼镜识别神经网络模型应用:将步骤(25)中训练好模型参数经剪枝与量化压缩操作后,级联于(22)中网络的特定特征图谱输出层后,部署于前端平台。若镜头遮挡识别分支网络输出为0且虚假驾驶员识别分支网络输出为0,则进入该分支。
■佩戴红外阻断口罩检测:作为可选项,基于驾驶员分析系统的驾驶员口部ROI输入(图像域或特征域),利用卷积神经网络分类识别口部特征遮挡情况,输出为红外口罩检测结果(0-口部可见,1-口部不可见)。具体实现方法如下:
(27)红外阻断口罩识别神经网络模型:如图2口罩识别深度卷积神经网络分支所示,输入为虚假驾驶员识别深度卷积神经网络浅层特征图谱(80*45*16),经过感兴趣区域提取(roi pooling),再经过特征编码(conv+relu+BN层)与降采样(max-pooling层),输出为红外阻断口罩分类结果(softmax层,1x2向量,0-口部可见,1-口部不可见);
(28)红外阻断口罩识别神经网络模型训练:采集口部阻断穿戴训练数据,包括未带口罩驾驶员以及戴红外阻断口罩驾驶员时序离散样本各数万张,按网络输出结构化数据定义,附加口部区域标注,人工标注训练样本,生成训练标签,根据样本标签中的口部区域图像特征,参照步骤(12)的训练方法扩充训练样本并更新网络权重系数;
(29)红外阻断口罩识别神经网络模型应用:将步骤(28)中训练好模型参数经剪枝与量化压缩操作后,级联于(22)中网络的特定特征图谱输出层后,与(25)中的红外阻断眼镜识别网络并行,部署于前端平台。若摄像头遮挡识别分支网络输出为0且虚假驾驶员识别分支网络输出为0,则进入该分支。
③应用时序后处理,计算各作弊行为时序置信度,定义作弊行为的级别:
定义驾驶员的作弊状态,S1为摄像头遮挡状态,S2为虚假驾驶员状态,S3为佩戴红外阻断眼镜状态,S4为佩戴红外阻断口罩状态;各作弊状态每时刻初始化为0,若检测出相应作弊状态,则将该作弊状态值更新为1;将上述深度卷积神经网络模型时序预测结果按如下公式计算各作弊行为时序置信度Ci,t:
Ci,t+1=max(0,Ci,t+(Si-1)*Ki+Si*Ki′)
其中,Ki与Ki’为各作弊行为置信度可配置参数,设置各作弊行为置信度判定阈值Ti,若Ci大于Ti,则定义为i类作弊行为(即驾驶室摄像头遮挡、虚假驾驶员、佩戴红外阻断眼镜、佩戴红外阻断口罩)。
④将检测结果进行记录,并上传给远端管控平台:
对于商用车平台,作为可选项,利用实时录像与事件记录的方式,缓存当前时刻前5秒的驾驶室视频数据,根据步骤③中作弊状态信号延迟5秒触发此部分缓存数据并以时间、驾驶者身份编号和作弊状态命名,以H264或H265的编码方式写入硬盘,即记录作弊信号触发时刻前后各5秒(共10秒)的驾驶室红外摄像头视频数据,并通过通讯模块将上述行为记录上报远端管控平台。根据车辆总线数据接入情况,作为优选,可将视频对应时刻的车速与转向信号以智能帧或字符叠加的方式编入视频流文件,以便后续其他应用。
现有智能驾驶员分析系统方案尚未实现本发明所提出的内容,相近的实现方案所存在的缺点已在背景技术中总结出。本发明的优势在于:i).可实现包括镜头遮挡、虚假驾驶员以及面部特征遮挡等场景识别并应用于驾驶员行为分析系统,实现系统作弊行为上报;ii).网络模型架构综合考虑了应用所需输入的特征尺度,最大程度复用各子网络的特征图谱,优化运算效率。
Claims (8)
1.一种基于视觉的驾驶员行为分析防作弊方法,其特征在于包括下列步骤:
①驾驶室摄像头遮挡检测;若驾驶室摄像头遮挡检测结果为场景正常,则执行步骤②;反之,则执行步骤③;
②虚假驾驶员检测和/或佩戴红外阻断设备检测;
③计算各作弊行为时序置信度,定义作弊行为的类别;
④将检测结果进行记录,并上传给远端管控平台。
2.根据权利要求1所述的一种基于视觉的驾驶员行为分析防作弊方法,其特征在于所述的步骤②中的虚假驾驶员检测指基于驾驶员分析系统的驾驶员面部的图像域或特征域输入,利用卷积神经网络分类识别当前是真实驾驶员还是虚假驾驶员;所述的佩戴红外阻断设备检测包括佩戴红外阻断眼镜检测和/或佩戴红外阻断口罩检测。
3.根据权利要求1所述的一种基于视觉的驾驶员行为分析防作弊方法,其特征在于所述的步骤①包括下列步骤:
(11)驾驶室摄像头遮挡识别神经网络模型:输入为单通道驾驶室场景图片,经过特征编码与降采样,输出为场景遮挡分类结果,场景遮挡分类结果分为场景正常、吸光物质场景遮挡和反光物质场景遮挡;
(12)驾驶室摄像头遮挡识别神经网络模型训练:采集驾驶室场景训练数据,包括吸光物质遮挡场景、反光物质遮挡场景以及正常驾驶场景的时序离散样本各数万张,按网络输出结构化数据定义,人工标注训练样本,生成训练标签,利用在线样本扩充技术,采用迷你批量梯度下降方法优化如下损失函数L1:
其中,yi为场景遮挡类别真值,ai为softmax层的输入向量元素;
(13)驾驶室摄像头遮挡识别神经网络模型应用:将步骤(12)中训练好模型参数经剪枝与量化压缩操作后,部署于前端平台;红外图像Y分量数据缩放至网络输入大小,输入前端平台部署网络。
4.根据权利要求1或2所述的一种基于视觉的驾驶员行为分析防作弊方法,其特征在于所述的步骤②中的虚假驾驶员检测包括下列步骤:
(21)虚假驾驶员识别神经网络模型:输入为场景遮挡识别深度卷积神经网络浅层特征图谱,经过感兴趣区域提取,再经过特征编码与降采样,输出为驾驶员真伪分类结果,驾驶员真伪分类结果分为真实驾驶员、照片驾驶员和视频驾驶员;
(22)虚假驾驶员识别神经网络模型训练:采集虚假驾驶员训练数据,包括真实驾驶员、图片驾驶员以及视频驾驶员时序离散样本各数万张,按网络输出结构化数据定义,附加人脸区域标注,人工标注训练样本,生成训练标签,根据样本标签中的人脸区域图像特征,利用在线样本扩充技术,采用迷你批量梯度下降方法,扩充训练样本并更新网络权重系数;
(23)虚假驾驶员识别神经网络模型应用:将步骤(22)中训练好的模型参数经剪枝与量化压缩操作后,级联于步骤①中的特定特征图谱输出层后,部署于前端平台。
5.根据权利要求1或2所述的一种基于视觉的驾驶员行为分析防作弊方法,其特征在于所述的步骤②中的佩戴红外阻断设备检测为佩戴红外阻断眼镜检测,基于驾驶员分析系统的驾驶员眼部图像域或特征域输入,利用卷积神经网络分类识别眼部特征遮挡情况,输出眼部可见或眼部不可见的佩戴红外阻断眼镜检测结果;佩戴红外阻断眼镜检测包括下列步骤:
(24)红外阻断眼镜识别神经网络模型:输入为虚假驾驶员识别深度卷积神经网络浅层特征图谱,经过感兴趣区域提取,再经过特征编码与降采样,输出为红外阻断眼镜分类结果,红外阻断眼镜分类结果分为眼部可见和眼部不可见;
(25)红外阻断眼镜识别神经网络模型训练:采集红外阻断眼镜训练数据,包括未戴眼镜驾驶员、戴红外可穿透眼镜驾驶员以及戴红外阻断眼镜驾驶员时序离散样本各数万张,按网络输出结构化数据定义,附加眼部区域标注,人工标注训练样本,生成训练标签,根据样本标签中的眼部区域图像特征,利用在线样本扩充技术,采用迷你批量梯度下降方法,扩充训练样本并更新网络权重系数;
(26)红外阻断眼镜识别神经网络模型应用:将步骤(25)中训练好模型参数经剪枝与量化压缩操作后,级联于步骤①中网络的特定特征图谱输出层后,部署于前端平台。
6.根据权利要求1或2所述的一种基于视觉的驾驶员行为分析防作弊方法,其特征在于所述的步骤②中的佩戴红外阻断设备检测为佩戴红外阻断口罩检测,基于驾驶员分析系统的驾驶员口部图像域或特征域输入,利用卷积神经网络分类识别口部特征遮挡情况,输出口部可见或口部不可见的佩戴红外阻断口罩检测结果;佩戴红外阻断口罩检测包括下列步骤:
(27)红外阻断口罩识别神经网络模型:输入为虚假驾驶员识别深度卷积神经网络浅层特征图谱,经过感兴趣区域提取,再经过特征编码与降采样,输出为红外阻断口罩分类结果,红外阻断口罩分类结果分为口部可见和口部不可见;
(28)红外阻断口罩识别神经网络模型训练:采集口部阻断穿戴训练数据,包括未带口罩驾驶员以及戴红外阻断口罩驾驶员时序离散样本各数万张,按网络输出结构化数据定义,附加口部区域标注,人工标注训练样本,生成训练标签,根据样本标签中的口部区域图像特征,利用在线样本扩充技术,采用迷你批量梯度下降方法,扩充训练样本并更新网络权重系数;
(29)红外阻断口罩识别神经网络模型应用:将步骤(28)中训练好模型参数经剪枝与量化压缩操作后,级联于步骤①中网络的特定特征图谱输出层后,部署于前端平台。
7.根据权利要求1或2或3所述的一种基于视觉的驾驶员行为分析防作弊方法,其特征在于所述的步骤③为:
定义驾驶员的作弊状态,S1为摄像头遮挡状态,S2为虚假驾驶员状态,S3为佩戴红外阻断眼镜状态,S4为佩戴红外阻断口罩状态;各作弊状态每时刻初始化为0,若检测出相应作弊状态,则将该作弊状态值更新为1;将上述深度卷积神经网络模型时序预测结果按如下公式计算各作弊行为时序置信度Ci,t:
Ci,t+1=max(0,Ci,t+(Si-1)*Ki+Si*Ki′)
其中,Ki与Ki’为各作弊行为置信度可配置参数,设置各作弊行为置信度判定阈值Ti,若Ci大于Ti,则将检测到的作弊行为定义为i类作弊行为。
8.根据权利要求1或2或3所述的一种基于视觉的驾驶员行为分析防作弊方法,其特征在于所述的步骤④为:
利用实时录像与事件记录的方式,记录检测到作弊行为发生时刻的前后各5秒的驾驶室红外摄像头视频数据,并以时间、驾驶员身份编号和作弊状态命名,通过通讯模块将记录的驾驶室红外摄像头视频数据上传给远端管控平台。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910421326.4A CN110222596B (zh) | 2019-05-20 | 2019-05-20 | 一种基于视觉的驾驶员行为分析防作弊方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910421326.4A CN110222596B (zh) | 2019-05-20 | 2019-05-20 | 一种基于视觉的驾驶员行为分析防作弊方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110222596A true CN110222596A (zh) | 2019-09-10 |
CN110222596B CN110222596B (zh) | 2021-07-09 |
Family
ID=67821524
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910421326.4A Active CN110222596B (zh) | 2019-05-20 | 2019-05-20 | 一种基于视觉的驾驶员行为分析防作弊方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110222596B (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110562261A (zh) * | 2019-09-26 | 2019-12-13 | 长安大学 | 一种基于马尔可夫模型检测驾驶员风险等级的方法 |
CN110588658A (zh) * | 2019-09-26 | 2019-12-20 | 长安大学 | 一种基于综合模型检测驾驶员风险等级的方法 |
CN111222477A (zh) * | 2020-01-10 | 2020-06-02 | 厦门瑞为信息技术有限公司 | 一种基于视觉的双手离开方向盘检测方法及装置 |
CN111222449A (zh) * | 2020-01-02 | 2020-06-02 | 上海中安电子信息科技有限公司 | 一种基于固定摄像头图像的驾驶员行为检测方法 |
CN111860187A (zh) * | 2020-06-24 | 2020-10-30 | 广东邦鑫数据科技股份有限公司 | 一种高精度的佩戴口罩识别方法及系统 |
CN113011713A (zh) * | 2021-02-25 | 2021-06-22 | 长安大学 | 一种基于信息熵的驾驶员驾驶稳定性评估方法 |
Citations (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120224747A1 (en) * | 2007-02-13 | 2012-09-06 | Hitachi, Ltd. | In-Vehicle Apparatus for Recognizing Running Environment of Vehicle |
CN103336500A (zh) * | 2013-06-20 | 2013-10-02 | 深圳市华威世纪科技股份有限公司 | 车辆监控系统 |
CN103839377A (zh) * | 2012-11-22 | 2014-06-04 | 陕西亚泰电器科技有限公司 | 一种防止疲劳驾驶的瞌睡感应报警系统 |
CN104002807A (zh) * | 2014-05-28 | 2014-08-27 | 长城汽车股份有限公司 | 一种汽车安全驾驶控制方法及系统 |
CN104960496A (zh) * | 2015-07-08 | 2015-10-07 | 剧锦杰 | 车载驾驶员识别认证定位系统 |
CN105094326A (zh) * | 2015-07-20 | 2015-11-25 | 联想(北京)有限公司 | 信息处理方法及电子设备 |
US20160078305A1 (en) * | 2004-12-23 | 2016-03-17 | Magna Electronics Inc. | Driver assistance system for vehicle |
CN106125881A (zh) * | 2016-06-13 | 2016-11-16 | 北京小米移动软件有限公司 | 控制工作状态的方法和装置 |
CN107403554A (zh) * | 2017-09-01 | 2017-11-28 | 北京壹卡行科技有限公司 | 双目集成驾驶员行为分析设备与方法 |
CN107491769A (zh) * | 2017-09-11 | 2017-12-19 | 中国地质大学(武汉) | 基于AdaBoost算法的疲劳驾驶检测方法及系统 |
CN107499127A (zh) * | 2017-08-25 | 2017-12-22 | 王敦豹 | 车载酒驾控制系统 |
CN108597184A (zh) * | 2018-05-03 | 2018-09-28 | 江苏新通达电子科技股份有限公司 | 驾驶员疲劳驾驶监控系统以及工作方法、汽车 |
CN108764034A (zh) * | 2018-04-18 | 2018-11-06 | 浙江零跑科技有限公司 | 一种基于驾驶室近红外相机的分神驾驶行为预警方法 |
CN109299904A (zh) * | 2018-11-23 | 2019-02-01 | 重庆科创职业学院 | 一种物流控制系统 |
CN109740621A (zh) * | 2018-11-20 | 2019-05-10 | 北京奇艺世纪科技有限公司 | 一种视频分类方法、装置及设备 |
-
2019
- 2019-05-20 CN CN201910421326.4A patent/CN110222596B/zh active Active
Patent Citations (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160078305A1 (en) * | 2004-12-23 | 2016-03-17 | Magna Electronics Inc. | Driver assistance system for vehicle |
US20120224747A1 (en) * | 2007-02-13 | 2012-09-06 | Hitachi, Ltd. | In-Vehicle Apparatus for Recognizing Running Environment of Vehicle |
CN103839377A (zh) * | 2012-11-22 | 2014-06-04 | 陕西亚泰电器科技有限公司 | 一种防止疲劳驾驶的瞌睡感应报警系统 |
CN103336500A (zh) * | 2013-06-20 | 2013-10-02 | 深圳市华威世纪科技股份有限公司 | 车辆监控系统 |
CN104002807A (zh) * | 2014-05-28 | 2014-08-27 | 长城汽车股份有限公司 | 一种汽车安全驾驶控制方法及系统 |
CN104960496A (zh) * | 2015-07-08 | 2015-10-07 | 剧锦杰 | 车载驾驶员识别认证定位系统 |
CN105094326A (zh) * | 2015-07-20 | 2015-11-25 | 联想(北京)有限公司 | 信息处理方法及电子设备 |
CN106125881A (zh) * | 2016-06-13 | 2016-11-16 | 北京小米移动软件有限公司 | 控制工作状态的方法和装置 |
CN107499127A (zh) * | 2017-08-25 | 2017-12-22 | 王敦豹 | 车载酒驾控制系统 |
CN107403554A (zh) * | 2017-09-01 | 2017-11-28 | 北京壹卡行科技有限公司 | 双目集成驾驶员行为分析设备与方法 |
CN107491769A (zh) * | 2017-09-11 | 2017-12-19 | 中国地质大学(武汉) | 基于AdaBoost算法的疲劳驾驶检测方法及系统 |
CN108764034A (zh) * | 2018-04-18 | 2018-11-06 | 浙江零跑科技有限公司 | 一种基于驾驶室近红外相机的分神驾驶行为预警方法 |
CN108597184A (zh) * | 2018-05-03 | 2018-09-28 | 江苏新通达电子科技股份有限公司 | 驾驶员疲劳驾驶监控系统以及工作方法、汽车 |
CN109740621A (zh) * | 2018-11-20 | 2019-05-10 | 北京奇艺世纪科技有限公司 | 一种视频分类方法、装置及设备 |
CN109299904A (zh) * | 2018-11-23 | 2019-02-01 | 重庆科创职业学院 | 一种物流控制系统 |
Non-Patent Citations (1)
Title |
---|
李小运: "数据挖掘技术在高速公路联网收费稽查上的研究与应用", 《中国优秀硕士学位论文全文数据库 工程科技Ⅱ辑》 * |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110562261A (zh) * | 2019-09-26 | 2019-12-13 | 长安大学 | 一种基于马尔可夫模型检测驾驶员风险等级的方法 |
CN110588658A (zh) * | 2019-09-26 | 2019-12-20 | 长安大学 | 一种基于综合模型检测驾驶员风险等级的方法 |
CN110562261B (zh) * | 2019-09-26 | 2021-07-23 | 长安大学 | 一种基于马尔可夫模型检测驾驶员风险等级的方法 |
CN111222449A (zh) * | 2020-01-02 | 2020-06-02 | 上海中安电子信息科技有限公司 | 一种基于固定摄像头图像的驾驶员行为检测方法 |
CN111222477A (zh) * | 2020-01-10 | 2020-06-02 | 厦门瑞为信息技术有限公司 | 一种基于视觉的双手离开方向盘检测方法及装置 |
CN111222477B (zh) * | 2020-01-10 | 2023-05-30 | 厦门瑞为信息技术有限公司 | 一种基于视觉的双手离开方向盘检测方法及装置 |
CN111860187A (zh) * | 2020-06-24 | 2020-10-30 | 广东邦鑫数据科技股份有限公司 | 一种高精度的佩戴口罩识别方法及系统 |
CN113011713A (zh) * | 2021-02-25 | 2021-06-22 | 长安大学 | 一种基于信息熵的驾驶员驾驶稳定性评估方法 |
CN113011713B (zh) * | 2021-02-25 | 2023-11-14 | 长安大学 | 一种基于信息熵的驾驶员驾驶稳定性评估方法 |
Also Published As
Publication number | Publication date |
---|---|
CN110222596B (zh) | 2021-07-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110222596A (zh) | 一种基于视觉的驾驶员行为分析防作弊方法 | |
CN108791299B (zh) | 一种基于视觉的驾驶疲劳检测及预警系统及方法 | |
US20210357670A1 (en) | Driver Attention Detection Method | |
CN110119676A (zh) | 一种基于神经网络的驾驶员疲劳检测方法 | |
CN105844257B (zh) | 基于机器视觉雾天行车错失道路标志牌的预警系统及方法 | |
CN101639894B (zh) | 在线检测列车驾驶员行为和疲劳状态的方法及其检测系统 | |
CN108764034A (zh) | 一种基于驾驶室近红外相机的分神驾驶行为预警方法 | |
CN108960065A (zh) | 一种基于视觉的驾驶行为检测方法 | |
CN108053427A (zh) | 一种基于KCF与Kalman的改进型多目标跟踪方法、系统及装置 | |
CN107657236A (zh) | 汽车安全驾驶预警方法及车载预警系统 | |
Troscianko et al. | What happens next? The predictability of natural behaviour viewed through CCTV cameras | |
CN111967393A (zh) | 一种基于改进YOLOv4的安全帽佩戴检测方法 | |
CN106469309A (zh) | 车辆监控的方法和装置、处理器、图像采集设备 | |
CN108986400A (zh) | 一种基于图像处理的第三方乘驾安全自动报警方法 | |
CN109886241A (zh) | 基于长短期记忆网络的驾驶员疲劳检测 | |
CN110032977A (zh) | 一种基于深度学习图像火灾识别的安全预警管理系统 | |
CN106529496B (zh) | 一种机车乘务员实时视频疲劳检测的方法 | |
CN103839379A (zh) | 汽车及用于其的驾驶员疲劳预警检测方法和系统 | |
CN101587544A (zh) | 基于计算机视觉的机动车车载反跟踪装置 | |
CN102752458A (zh) | 一种驾驶员疲劳检测手机与检测单元 | |
CN112364778A (zh) | 一种基于深度学习的电厂安全性行为信息自动检测方法 | |
CN110490139A (zh) | 基于人脸识别的夜间疲劳驾驶判断方法 | |
CN106355162A (zh) | 一种基于视频监控的入侵检测方法 | |
CN111626272A (zh) | 一种基于深度学习的驾驶员疲劳监测系统 | |
CN108609018B (zh) | 用于分析危险驾驶行为的预警终端、预警系统及分析算法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CP01 | Change in the name or title of a patent holder | ||
CP01 | Change in the name or title of a patent holder |
Address after: 310051 1st and 6th floors, no.451 Internet of things street, Binjiang District, Hangzhou City, Zhejiang Province Patentee after: Zhejiang Zero run Technology Co.,Ltd. Address before: 310051 1st and 6th floors, no.451 Internet of things street, Binjiang District, Hangzhou City, Zhejiang Province Patentee before: ZHEJIANG LEAPMOTOR TECHNOLOGY Co.,Ltd. |